Anthropic CEO'sundan korkutan uyarı: Yapay zeka 6-12 ayda tüm interneti ele geçirebilir

Yapay zeka devinden ürkütücü uyarı

Yapay zeka teknolojileri son yıllarda inanılmaz bir hızla ilerliyor. En az dört Amerikan şirketi sınırda yapay zeka modelleri geliştirirken rekabet kızışmış durumda. Ancak Anthropic'in CEO'su Dario Amodei, bu hıza bir fren çekilmesi gerektiğini savunuyor ve çok daha karanlık bir tablo çiziyor: Yapay zeka destekli bir botnet sürüsünün tüm interneti ele geçirmesi.

Amodei, yayınladığı açık mektupta şu ifadeleri kullandı: "Yapay zeka yeteneklerinin ivmelenen gelişme hızı göz önüne alındığında, 6-12 ay içinde böyle bir sürünün kalıcı bir botnet ile tüm interneti ele geçirebileceğinden endişe ediyorum. Bu, potansiyel olarak yüz milyarlarca dolarlık hasara yol açabilir ve gerekli güvenlik önlemleri alınmadan yapay zeka daha da güçlenirse hasarın boyutu artmaya devam eder."

Bu sözler, bilim kurgu filmlerini aratmayacak cinsten. Ancak Amodei'nin endişeleri yalnız değil.

İnsanlığın sonu mu geliyor?

Anthropic'ten kısa süre önce ayrılan yapay zeka bilim insanı Evan Hubinger, Amodei'nin görüşlerini büyük ölçüde paylaşıyor. Hubinger, X platformunda yaptığı paylaşımda, "Yapay zekanın tüm insanlığı öldürebileceğine gerçekten inanıyoruz" diyerek çarpıcı bir iddia ortaya attı. Hubinger'e göre, önümüzdeki on yıl içinde insanlığın yok olma olasılığı %10'un üzerinde. Ayrıca Anthropic'in elinden geleni yaptığını ancak süper zeka için hizalama sorununa henüz bir çözüm bulunamadığını belirtti.

James Cameron'un Terminatör'ü ve Frank Herbert'in Dune'u gibi bilim kurgu eserlerinde yapay zeka hep tehlikeli bir icat olarak resmedilir. Peki gerçekte durum ne? Yapay zeka artık soruları yanıtlamanın ötesine geçerek, daha önce uzman ekipler gerektiren karmaşık çok adımlı görevleri otonom olarak yerine getirebiliyor. Bu da kötü niyetli aktörlerin, insan kaynağına ihtiyaç duymadan Anthropic'in yapay zeka yeteneklerini nasıl kullanabileceği sorusunu akıllara getiriyor.

Anthropic'in kendi bulguları, bugünün yapay zeka modellerinin silah mühendisliği, askeri istihbarat, gözetleme, siber operasyonlar ve diğer yıkıcı faaliyetlerde yardımcı olabileceğini gösteriyor. Daha yetenekli halefleri ise bu tür operasyonlar için gereken uzmanlığı, insan gücünü ve zamanı önemli ölçüde azaltabilir.

Daha güçlü yapay zeka, daha büyük tehlike mi?

Elbette, daha büyük yetenek her zaman daha büyük tehlike anlamına gelmiyor. Daha gelişmiş yapay zeka teknolojisi, aynı zamanda daha güçlü güvenlik önlemleri, kötü niyetli faaliyetleri tespit etme ve şimdiye kadar otomatikleştirilmemiş işleri otomatikleştirme yeteneği de sunabilir.

Ancak yapay zeka gelişimini durdurmak da ters tepebilir. Eğer daha az sorumlu şirketler veya ülkeler modellerini geliştirmeye devam ederse, en yetenekli yapay zeka sistemlerini askeri saldırganlığıyla bilinen aktörlerin eline bırakmak, bir maymuna el bombası vermekten farksız olmaz.

Amodei'nin çağrısı, yapay zeka dünyasında önemli bir tartışmayı alevlendirmiş durumda. Bir yanda insanlığın geleceği için duyulan derin endişeler, diğer yanda teknolojik rekabette geri kalmama kaygısı... Yapay zekanın kontrolsüz gelişimi, gerçekten de hepimizi bekleyen en büyük sınavlardan biri olabilir.