Yapay zeka konusunda sektör içinde görüş ayrılığı büyüyor
Yapay zeka şirketlerinin yöneticileri, sistemlerin geliştirilme hızının güvenlik çalışmalarıyla birlikte ilerlemesi gerektiğine yönelik çağrılarını artırırken, ABD yönetimi yapay zeka alanındaki teknolojik yarışta Çin karşısında üstünlüğün korunmasına odaklanıyor.
Anthropic Başkanı Dario Amodei, geçen hafta yayımladığı makalesinde yapay zeka ajanlarının altı ila 12 ay içinde kalıcı bir botnet kullanarak internetin tamamını kontrol altına alabileceği ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısında bulundu. Amodei, koruyucu mekanizmalar olmadan yapay zekanın güçlenmesiyle potansiyel zararın boyutunun sürekli artabileceğini belirtti.
Amodei, yapay zeka gelişiminin durdurulmasını savunmazken, en güçlü modellerin güvenlik araştırmaları ve kontrol mekanizmalarının aynı hızda ilerleyebileceği bir tempoda geliştirilmesini önerdi.
Anthropic üç aşamalı güvenlik planı açıkladı
Amodei’nin önerisi üç aşamadan oluşuyor. İlk aşamada Anthropic, şirkete kalıcı olarak bağımsız denetçiler getirmeyi planlıyor. Bu denetçilerin çalışanlara benzer erişime sahip olması ve tamamlanan modellerin yanı sıra eğitim süreçleri ile güvenlik önlemlerini incelemesi öngörülüyor.
Denetçilerin bulgularını Anthropic’in müdahalesi olmadan yayımlamasına izin verilmesi planlanıyor. Şirketin yalnızca güvenlik ve ticari sırları içeren bölümleri kaldırabileceği, olumsuz bulguların ise yayımlanmasına engel olmayacağı belirtiliyor.
İkinci aşamada demokratik ülkelerdeki yapay zeka geliştiricilerinin ortak güvenlik standartları ve performans iyileştirmelerine yönelik sınırlar üzerinde anlaşması öneriliyor. Bu kapsamda modellerin yeteneklerine yönelik bir hız sınırı oluşturulması öngörülüyor. Söz konusu anlaşmaların rekabet hukuku açısından sorun yaratabileceği ve ABD hükümetinden muafiyet gerekebileceği belirtiliyor.
Üçüncü aşamada ise devletlerle, özellikle Çin gibi otoriter ülkelerle anlaşmalar yapılması öneriliyor.
OpenAI ve Musk'tan destek
Amodei’nin önerileri kısa sürede diğer yapay zeka şirketlerinin yöneticilerinden de destek gördü.
OpenAI CEO’su Sam Altman, bağımsız denetçilerin çalışanlara benzer erişime sahip olmasının iyi bir fikir olduğunu ve OpenAI’nin de bunu uygulayacağını açıkladı. Elon Musk ise Amodei’nin yaklaşımını destekledi.
Google DeepMind Başkanı Demis Hassabis de yapay zeka güvenliği konusunda uyarıda bulunan yöneticiler arasında yer aldı.
Ancak yapay zekanın gelişme hızının yavaşlatılması konusunda sektör genelinde görüş birliği bulunmuyor. Bazı geliştiriciler, yatırımcılar ve girişimciler, yapay zekanın insanlığın yok olmasına yol açacağı yönündeki öngörülerin abartılı olduğunu savunuyor.
Yapay zekanın varoluşsal riskleri tartışılıyor
Anthropic’in eski çalışanlarından Jacob Coxon, yapay zeka şirketlerinin kendi kendini geliştiren süper zekaya ulaşmak için yarıştığını ve sorumlu davranmadıklarını savundu.
Coxon, yapay zekanın altı ay ila bir yıl içinde ciddi ölçüde tehlikeli hale gelebileceği uyarısında bulundu. X'teki paylaşımı birkaç saat içinde 90 milyondan fazla görüntülendi.
Anthropic'te modellerin insan hedefleriyle uyumlu hale getirilmesine yönelik stres testlerine liderlik eden Evan Hubinger de yapay zekanın tüm insanları öldürme ihtimalinin önümüzdeki 10 yıl içinde yüzde 10'dan yüksek olduğunu düşündüğünü belirtti.
Yapay zekanın insanlık için oluşturabileceği varoluşsal risk tartışması yeni değil. Felsefeci Nick Bostrom’un 20 yıldan uzun süre önce ortaya koyduğu “Ataş Maksimizeri” düşünce deneyinde, bir makinenin kendisine verilen hedefi insan değerlerini dikkate almadan yerine getirmesi ve sonunda dünyayı ataşlara dönüştürmesi senaryosu ele alınıyor.
Sektörde risk değerlendirmelerine itirazlar var
Yapay zekanın insanlığı yok edeceği yönündeki görüşlere sektör içinden itirazlar da geliyor.
Yapay zeka öncülerinden Geoffrey Hinton, kendi korkusunu içgüdüsel bir his olarak tanımlarken, Meta’nın eski baş bilimcisi Yann LeCun somut risk oranlarının spekülasyondan ibaret olduğunu ve yapay zekanın oluşturduğu riskin nükleer savaş riskinden önemli ölçüde düşük olduğunu tahmin etti.
Nvidia CEO’su Jensen Huang ise Coxon’ın açıklamalarını yanlış ve kibirli olarak nitelendirdi. Huang, sektörde yapay zeka güvenliği konusunda çalışmaların devam ettiğini belirtti ve yapay zekanın insanlığın sonu olacağı yönündeki iddiaları daha önce de reddetti.
Hugging Face CEO’su Clément Delangue de Coxon’ın varoluşsal riskler konusunda uzman olmadığını belirterek açıklamalarına itiraz etti. Delangue daha sonra Coxon’ı itibarsızlaştırmak istemediğini söyledi.
Yapay zeka ajanlarıyla ilgili yeni vakalar gündemde
Yapay zeka ajanlarının kontrolsüz faaliyetlerine ilişkin vakaların da tartışmayı beslediği belirtiliyor.
Nightingale Collective, ajanların yetkisiz şekilde aktif olduğuna ilişkin en az 12 platform tespit etti. Son olarak OpenAI ajanlarının mayıs ayında açık kaynaklı RubyGems hizmetini hedef aldığı ve 500’den fazla paket yükleyerek platformu veri toplamak amacıyla kullandığı yönündeki raporlar gündeme geldi.
Amodei, Anthropic’te de OpenAI’de yaşananlara benzer ancak daha az ciddi olayların meydana geldiğini kabul etti.
Trump yapay zeka yarışında hız kesmek istemiyor
ABD Başkanı Donald Trump ise yapay zekanın insanlığı yok edeceği yönündeki endişeyi paylaşmadığını belirtiyor. Trump, asıl endişesinin ABD’nin yapay zeka yarışını kaybetmesi olduğunu ifade etti.
Trump, yapay zeka yarışını kazanan ülkenin küresel yarışmayı da kazanacağını söyledi. Washington, yapay zeka alanında Amerikan üstünlüğünün korunmasını öncelik olarak belirliyor.
ABD’nin 2025 Temmuz’unda açıkladığı Yapay Zeka Eylem Planı, yapay zeka alanındaki Amerikan üstünlüğünün hızlandırılmasına odaklandı. Haziran 2026’da yayımlanan “Gelişmiş Yapay Zeka” konulu başkanlık kararnamesinde ise siber güvenlik ve güvenlik risklerine yer verilirken, yapay zeka modelleri için lisanslama şartı ve önceden onay zorunluluğu getirilmedi. Geliştirme veya yayımlama süreçlerinde hükümet kontrolü de öngörülmedi.
Washington, diğer ülkelerin de yapay zekayı aşırı düzenlememesini savunuyor. Reuters’ın aktardığına göre ABD bu ay G20’ye yapay zekanın aşırı düzenlenmemesi çağrısında bulundu. Fransa’daki G7 zirvesinde ABD Hazine Bakanı Scott Bessent de benzer bir yaklaşım sergiledi ve düzenleme konusunda tereddüt eden ülkelerin Çin’in gerisinde kalabileceği uyarısında bulundu.
Gözler 24 Eylül'deki Trump-Xi görüşmesinde
Almanya'nın köklü ekonomi dergisi WirtschaftsWoche (kısaca WiWo), Beyaz Saray'da Xi Jinping'in iade-i ziyaretine işaret etti. Trump, 24 Eylül’de Çin Devlet Başkanı Xi Jinping’i Beyaz Saray’da ağırlayacak. Dergiye göre, görüşmede yapay zeka, ticaret ve güvenlik politikalarının önemli başlıklar arasında yer alması bekleniyor.
ABD ve Çin, yapay zeka konusunda şimdiye kadar ortak bir yaklaşım üzerinde anlaşamadı. Çin’in önümüzdeki aylarda ABD’li sağlayıcıları geride bırakmayı hedeflediği belirtilirken, Çinli şirketlerin küresel kullanıcılara daha düşük maliyetli yapay zeka modelleri sunduğu ifade ediliyor.
Yapay zeka şirketlerinin güvenlik konusunda daha sıkı önlemler alınması çağrıları ile Washington’ın teknolojik yarışta hız kesilmemesi yönündeki yaklaşımı, Trump-Xi görüşmesi öncesinde iki farklı politika çizgisini ortaya koyuyor.
Dergide Anthropic’in ekim ayında halka arz edilmesinin planlandığı, OpenAI’nin ise güvenlik endişeleri nedeniyle halka arzını ertelediği belirtiliyor. Ekonomistlere göre yapay zeka yatırımları ve yapay zeka altyapısına aktarılan milyarlarca dolarlık harcamalar, ABD ekonomisinin resesyona girmesini önleyen unsurlar arasında yer alıyor.
