BİRİ BİZİ DURDURSUN: Yapay Zekâyı Kim Kontrol Edecek?

Yapay zekâ gerçekten kontrolden mi çıkıyor, yoksa “güvenlik” tartışmasının sonunda çok daha farklı bir tehlikeyle mi karşılaşacağız: Yapay zekâyı geliştirme gücünün birkaç devlet ve birkaç büyük şirketin elinde toplanması?

Benim için asıl soru artık yalnızca “Yapay zekâ ne kadar tehlikeli olabilir?” değil.

Asıl soru şu:
“Yapay zekâyı kim kontrol edecek ve bu kontrol mekanizması bir süre sonra kimin yapay zekâ geliştirebileceğine karar veren bir tekele dönüşecek mi?”

2023: İlk ciddi alarm zilleri

Bugünkü tartışma aslında yeni değil. 2023 yılı, yapay zekânın geleceği konusunda önemli bir kırılma noktasıydı.

Yapay zekânın öncülerinden Geoffrey Hinton, 2023'te Google'dan ayrıldıktan sonra yapay zekânın beklediğinden çok daha hızlı ilerlediğini ve bu sistemlerin gelecekte ciddi riskler yaratabileceğini açık biçimde dile getirmeye başladı.

Aynı yıl Future of Life Institute tarafından yayımlanan ve Elon Musk, Yoshua Bengio, Steve Wozniak gibi isimlerin de imzaladığı açık mektup çok daha sıra dışı bir çağrı yaptı:

GPT-4'ten daha güçlü yapay zekâ sistemlerinin eğitiminin en az altı ay süreyle durdurulması.

O gün bu çağrı bazılarına fazlasıyla dramatik gelmişti. Çünkü teknoloji dünyasının genel refleksi tam tersiydi: Daha büyük modeller, daha fazla hesaplama gücü, daha fazla veri ve daha yüksek performans.

Fakat aradan üç yıl geçtiğinde ilginç bir tablo ortaya çıktı.

2026: Bu kez alarmı yapay zekâ şirketlerinin kendileri çalıyor

Bugün artık yalnızca akademisyenler veya teknoloji eleştirmenleri değil, yapay zekâ yarışının tam merkezindeki şirketler de çok daha güçlü güvenlik ve yönetişim mekanizmalarından söz ediyor.

OpenAI, 2026 yılında ulusal düzeyde zorunlu ve yetenek-temelli yapay zekâ güvenliği düzenlemelerini desteklediğini açıkladı. Anthropic, yapay zekâ gibi hızla ilerleyen ve çok geniş etki alanına sahip bir teknolojinin yalnızca sektör tarafından yönetilemeyeceğini, devletlerin de bağlayıcı kurallar koyması gerektiğini savunuyor. Google DeepMind ise Frontier Safety Framework kapsamında biyogüvenlik, siber güvenlik, otonomi, manipülasyon ve kontrol kaybı gibi alanlarda kritik yetenek eşikleri tanımlıyor.

Yani artık tartışma teorik olmaktan çıkıyor.

Şirketler kendi geliştirdikleri sistemlerin gelecekte çok ciddi siber saldırı, biyolojik tehdit, kitlesel manipülasyon veya kontrol problemi yaratabilecek yeteneklere ulaşabileceğini bizzat kendi güvenlik dokümanlarında değerlendiriyor.

Üstelik mesele yalnızca kötü niyetli insanların yapay zekâyı kullanması da değil. Giderek daha fazla araştırma, yüksek derecede otonom sistemlerin hedeflerinden sapması, insan denetimini atlatması veya beklenmeyen davranışlar geliştirmesi gibi senaryoları da inceliyor.

Dolayısıyla “yapay zekâ güvenliği” meselesini tamamen uydurulmuş bir korku olarak görmek doğru olmaz. Ortada gerçekten üzerinde çalışılması gereken teknik ve toplumsal riskler var.

Fakat aynı anda başka bir yarış sürüyor

Sorunun ikinci tarafı burada başlıyor.

Yapay zekâ artık yalnızca bilimsel veya ticari bir teknoloji değil. Aynı zamanda ekonomik güç, siber güvenlik, savunma, istihbarat, bilimsel araştırma ve jeopolitik üstünlük açısından stratejik bir teknoloji.

Bu nedenle ABD'nin yaklaşımında başka bir güçlü argüman daha bulunuyor:

“Biz yavaşlarsak, rakiplerimiz yavaşlamak zorunda değil.”

ABD'nin resmi AI Action Plan'ının adının bile “Winning the AI Race” olması bu yaklaşımın ne kadar merkezi olduğunu gösteriyor. Plan; inovasyonun hızlandırılmasını, yapay zekâ altyapısının büyütülmesini ve ABD'nin küresel yapay zekâ liderliğinin korunmasını temel stratejik hedefler arasında görüyor.

Özellikle Çin ile rekabet söz konusu olduğunda teknoloji politikası giderek klasik bir inovasyon politikasından çok ulusal güvenlik politikasına benzemeye başlıyor.

Böylece ortaya son derece zor bir denklem çıkıyor:

Bir tarafta: Daha güçlü modeller ciddi riskler yaratabilir. Denetim, test, güvenlik standartları ve bazı durumlarda kısıtlamalar gerekebilir.

Diğer tarafta: Bir ülke veya şirket yavaşladığında rakiplerinin de yavaşlayacağının hiçbir garantisi yok.

İşte benim kaygım bu iki argümanın kesiştiği noktada başlıyor.

Güvenlik mekanizması zamanla bir giriş bariyerine dönüşebilir mi?

Yapay zekâ için bir kontrol mekanizmasına ihtiyaç olduğunu ben de düşünüyorum.

Ancak “kontrol gerekli” önermesinden otomatik olarak “kontrol birkaç büyük devletin ve birkaç büyük şirketin elinde olmalı” sonucunun çıkmasını son derece tehlikeli buluyorum.

Çünkü düzenleme tasarımında çok kritik bir sorun vardır:

Büyük şirketlerin kolayca yerine getirebildiği bir güvenlik zorunluluğu, küçük şirketler, üniversiteler ve bağımsız araştırmacılar için aşılması imkânsız bir maliyet oluşturabilir.

Örneğin bir frontier model geliştirmek için çok yüksek lisans ücretleri, zorunlu sertifikasyon süreçleri, milyonlarca dolarlık güvenlik altyapısı, yalnızca belirli kuruluşların gerçekleştirebildiği denetimler veya devlet tarafından verilen özel izinler gerekli hale gelirse, kâğıt üzerinde herkes için geçerli olan bir güvenlik rejimi pratikte yalnızca birkaç kuruluşun faaliyet gösterebildiği bir pazara dönüşebilir.

Bu durumda düzenleme rekabeti azaltmaz mı?
Yeni şirketlerin ortaya çıkmasını zorlaştırmaz mı?
Üniversitelerin ve bağımsız araştırmacıların frontier AI çalışmalarını sınırlandırmaz mı?
Sonuçta mevcut büyük oyuncuların konumunu daha da güçlendirmez mi?

İşte üzerinde durmamız gereken asıl meselelerden biri bence bu.

Nükleer teknoloji benzetmesi neden akla geliyor?

Yapay zekâ tartışmalarında nükleer teknoloji benzetmesi sık sık karşımıza çıkıyor.

Bu benzetmenin sınırları var. Yapay zekâ bir nükleer reaktör değil. Bir yazılım modeli kopyalanabilir, dünyanın farklı yerlerinde çalıştırılabilir ve çok daha geniş bir geliştirici topluluğu tarafından değiştirilebilir.

Fakat frontier AI açısından önemli bir benzerlik giderek belirginleşiyor:

En ileri sistemleri geliştirebilmek için gereken hesaplama gücü, enerji, veri merkezleri, gelişmiş yarı iletkenler, uzman insan kaynağı ve sermaye miktarı hızla büyüyor.

Buna bir de ağır düzenleyici yük eklenirse, frontier AI geliştirme kapasitesi doğal olarak giderek daha az sayıda aktörün elinde toplanabilir.

Ve tam burada güvenlik için oluşturulan sistem ile teknolojik gücün merkezileşmesi arasında rahatsız edici bir ilişki ortaya çıkabilir.

Açık ağırlıklı yapay zekâ neden bu tartışmanın merkezinde?

Bu tartışmanın en kritik cephelerinden biri açık kaynak ve özellikle open-weight, yani model ağırlıkları erişilebilir yapay zekâ modelleri olacak.

Açık modellerin çok önemli avantajları var.

Üniversiteler araştırma yapabiliyor. Küçük şirketler dev API sağlayıcılarına tamamen bağımlı olmadan ürün geliştirebiliyor. Kurumlar hassas verilerini üçüncü taraf sistemlerine göndermeden kendi altyapılarında model çalıştırabiliyor. Ülkeler kendi dilleri, kültürleri ve ihtiyaçları için modeller geliştirebiliyor.

Diğer taraftan aynı açıklık, çok yetenekli bir model söz konusu olduğunda bazı güvenlik mekanizmalarının kaldırılmasını veya modelin kötü niyetli amaçlarla değiştirilmesini de kolaylaştırabilir.

Dolayısıyla “açık mı kapalı mı?” sorusunun basit bir cevabı yok.

Fakat burada önemli bir ayrım yapmalıyız:

Açık modellerin risklerinin tartışılması başka bir şeydir.

Bu riskler gerekçe gösterilerek açık model geliştirme ekosisteminin tamamının birkaç kapalı platforma bağımlı hale getirilmesi başka bir şeydir.

Ama mevcut tabloya bakınca önemli bir karşı kanıt da var

Burada kendi kaygımızı doğrulayacak kanıtları aramak kadar, onu yanlışlayabilecek kanıtlara da bakmak gerekiyor.

Bugünkü veriler büyük yapay zekâ şirketlerinin ortaklaşa “açık yapay zekâyı ortadan kaldıralım” şeklinde bir politika yürüttüğünü göstermiyor.

Örneğin Anthropic CEO'su Dario Amodei 2026'da şirketinin açık ağırlıklı modellerin yasaklanmasını savunmadığını açıkça belirtti ve tehlikeli yeteneklere sahip olmayan açık modelleri bir kamu yararı olarak tanımladı.

Daha da önemlisi, ABD'nin mevcut AI Action Plan'ı da açık kaynak ve açık ağırlıklı modelleri destekleyen ayrı bir politika bölümü içeriyor. Belgede açık modellerin startup'lar, akademik araştırma, hassas verilerle çalışan kurumlar ve ABD'nin teknolojik etkisi açısından değerli olduğu açık biçimde ifade ediliyor.

Bu nedenle bugün itibarıyla “plan çoktan yapılmış, açık kaynak kapatılacak” demek için elimizde yeterli kanıt yok.

Benim endişem biraz farklı.

Böyle bir sonuca ulaşmak için gizli bir planın var olması bile gerekmeyebilir.

Yanlış tasarlanmış teşvikler, aşırı pahalı güvenlik yükümlülükleri, hesaplama gücünün birkaç şirkette yoğunlaşması ve ulusal güvenlik kaygıları; kimse baştan böyle bir tekel tasarlamasa bile bizi fiilen aynı noktaya götürebilir.

Bir sonraki aşama: Yapay zekâ egemenliği

Benim için mesele yalnızca şirket rekabeti de değil.

Daha büyük soru ülkeler açısından ortaya çıkıyor.

Gelecekte en güçlü yapay zekâ sistemlerini geliştirebilmek için yalnızca model geliştirme bilgisine sahip olmak yetmeyebilir.

Gelişmiş GPU'lara, dev veri merkezlerine, enerji altyapısına, ileri yarı iletken teknolojilerine, büyük miktarda sermayeye ve uluslararası tedarik zincirlerine erişim gerekecek.

Bunların üzerine uluslararası lisanslama, ihracat kontrolü veya frontier AI geliştirme izinleri gibi mekanizmalar eklendiğinde teknoloji egemenliği sorusu daha da önemli hale gelebilir.

O zaman şu soruyu sormak zorunda kalabiliriz:

Bir ülke geleceğin en önemli genel amaçlı teknolojilerinden birini geliştirebilmek için başka bir ülkenin iznine ihtiyaç duyarsa, gerçekten teknolojik olarak bağımsız sayılabilir mi?

Bu soru Türkiye dahil olmak üzere yapay zekâda yalnızca kullanıcı değil üretici olmak isteyen bütün ülkeler için giderek daha stratejik hale gelecektir.

O halde çözüm “hiç düzenleme olmasın” mı?

Hayır.

Bence yapay zekâ tartışmasında iki uç yaklaşım da problemli.

Birinci uç, teknolojinin kendi kendine ilerlemesine izin verip ciddi riskleri tamamen piyasanın çözmesini beklemek.

İkinci uç ise güvenlik gerekçesiyle yapay zekâ geliştirme yetkisini fiilen birkaç şirkete ve birkaç devlete bırakmak.

İhtiyacımız olan şey bu ikisinin dışında bir yönetişim modeli.

Düzenlemeler şirket isimlerine veya yalnızca model büyüklüğüne değil, ölçülebilir yetenek ve risklere dayanmalı. Denetim kriterleri şeffaf olmalı. Üniversitelerin ve bağımsız araştırmacıların güvenlik araştırması yapabilmesi korunmalı. Küçük şirketleri otomatik olarak piyasanın dışına itecek maliyetler yaratılmamalı.

Her açık model aynı risk sınıfında değerlendirilmemeli. Küçük bir dil modeli ile biyolojik tasarım veya ileri siber saldırı kapasitesi gösterebilen frontier modelin aynı kurallara tabi olması mantıklı değil.

Ve belki de en önemlisi:

Yapay zekânın geleceğini belirleyen kurallar yalnızca yapay zekâ şirketleri tarafından yazılmamalı.

Çünkü düzenlemenin öznesi olan şirketlerin aynı zamanda düzenlemenin nasıl olması gerektiğini belirleyen başlıca aktörler haline gelmesi doğal bir çıkar çatışması yaratabilir.

Asıl mesele güvenlikten daha büyük olabilir

Son üç yılda yaşanan gelişmeler bana bir şeyi açık biçimde gösteriyor:

Yapay zekânın güvenliği gerçekten konuşmamız gereken bir konu.

Ancak bundan sonra yalnızca modellerin güvenli olup olmadığını tartışmak yeterli olmayacak.

Aynı zamanda yapay zekâ üzerindeki ekonomik, teknik ve politik gücün nasıl dağıtıldığını da konuşmak zorundayız.

Çünkü güvenli fakat birkaç aktörün tamamen kontrol ettiği bir yapay zekâ ekosistemi de insanlık için ideal bir sonuç olmayabilir.

Bence önümüzdeki yılların en önemli teknoloji politikası tartışmalarından biri tam olarak bu olacak:

Yapay zekâyı nasıl kontrol edeceğiz?

Ve daha önemlisi:
Kontrol edenleri kim kontrol edecek?

Bu nedenle benim kaygım “yapay zekâyı kontrol etmeyelim” değil.

Tam tersine.

Yapay zekâ üzerinde ciddi, bilimsel, şeffaf ve demokratik denetim mekanizmaları oluşturalım.

Fakat bunu yaparken güvenliği sağlamak adına dünyanın en güçlü teknolojilerinden birini birkaç devletin ve birkaç dev şirketin kalıcı ayrıcalığı haline getirmeyelim.

Çünkü bir gün asıl problem yapay zekânın kontrolden çıkması değil, yapay zekânın kontrolünün fazlasıyla küçük bir grubun elinde toplanması olabilir.

---

Siz ne düşünüyorsunuz?
Frontier yapay zekâ sistemleri için daha güçlü bir küresel kontrol mekanizması mı gerekiyor? Yoksa bu mekanizmaların zamanla teknolojik gücü birkaç ülke ve birkaç şirketin elinde toplaması daha büyük bir risk mi?

#YapayZeka #ArtificialIntelligence #AISafety #AIGovernance #OpenSourceAI #OpenWeights #FrontierAI #AGI #TeknolojiPolitikası #YapayZekaGuvenligi #MuratKarakayaAkademi