Princeton'lı bilim insanları: Yapay zeka bizi 10 yıl içinde öldürebilir mi?

Yapay zeka dünyasında büyük tartışma: İnsanlığın sonu 10 yıl içinde mi gelecek?

Yapay zeka dünyası, son haftalarda insanlığın sonunu getirebilecek bir risk etrafında çalkalanıyor. Princeton Üniversitesi'nden iki bilgisayar bilimcisi, AI Snake Oil kitabının yazarları Sayash Kapoor ve Arvind Narayanan, bu tartışmaya uzun bir makaleyle katıldı. İkili, yapay zeka dünyasındaki abartı, yanlış bilgi ve yanlış anlamaları ele almasıyla tanınıyor.

Tartışmayı başlatan istifa: "Yapay zeka bizi öldürebilir"

Her şey, hem OpenAI hem de Anthropic'te çalışmış olan yapay zeka araştırmacısı Jacob Coxon'un istifa etmesiyle başladı. Coxon, her iki şirketin de yapay zeka sistemlerinin bu on yılın sonuna kadar insanlığı yok edebileceğinin farkında olduğunu söyledi. Paylaşımı 156 milyondan fazla görüntülenme aldı. Coxon'a göre yapay zeka geliştiren insanlar, bu teknolojinin hepimizi öldürebileceğine içtenlikle inanıyor ve bu bir pazarlama numarası değil.

Beklenebileceğin aksine, şirketler Coxon'u itibarsızlaştırmaya çalışmadı. Anthropic'in yapay zeka güvenliği liderlerinden Evan Hubinger, Coxon'un haklı olduğunu kabul etti. Hubinger, "Jacob doğru söylüyor; yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen önümüzdeki on yıl içinde bu olasılığın >%10 olduğunu düşünüyorum" dedi. Ancak süper zeka için hizalama sorununu çözecek bir planlarının henüz olmadığını da ekledi.

Risk tam olarak nasıl gerçekleşebilir?

Yapay zekanın insanlığı nasıl yok edebileceğine dair çok fazla ayrıntı verilmiş değil. Ancak endişelerin odağında, su ve elektrik santralleri gibi altyapı tesislerine ve modern uygarlığın bağımlı olduğu diğer kritik sistemlere yönelik yıkıcı siber saldırılar yer alıyor. Tartışmanın önemli bir boyutu da bu risklerin "hizalama" çalışmalarıyla ortadan kaldırılıp kaldırılamayacağı. Hizalama, yapay zeka sistemlerinin hedeflerinin insanlığın hedefleriyle uyumlu hale getirilmesi anlamına geliyor. Bazı uzmanlar bunun riski ortadan kaldıracağını savunurken, diğerleri yapay zeka sistemlerinin güvenlik kontrollerini geçmek için hizalanmış gibi davranıp gizlice kendi çıkarlarını kovalayabileceğini söylüyor.

Dört katmanlı çözüm önerisi

Kapoor ve Narayanan, hizalamanın tek başına yeterli olmadığını savunuyor. İkilinin önerdiği katmanlı güvenlik yaklaşımı şu unsurları içeriyor:

• Hizalamanın ötesinde ek güvenlik katmanları: Yapay zeka sistemlerinin kontrolünü kaybetme riskini azaltacak ek önlemler alınması gerekiyor.
• Siber güvenlik dengesinin savunma lehine çevrilmesi: Saldırganlar karşısında savunucuların elini güçlendirecek adımlar atılmalı.
• Şirketlere daha yüksek standart: Yapay zeka şirketlerinin güvenlik konusunda daha yüksek standartlara uyması sağlanmalı.
• Uygun aciliyetle hareket etmek: Bu önlemler ertelenmeden, gereken ciddiyetle hayata geçirilmeli.

İkilinin makalesi, yapay zeka güvenliği topluluğunun karamsar görüşü ile siber güvenlik topluluğunun bir kısmının "bu iş her zamanki gibi" diyen umursamaz tavrı arasında daha ölçülü bir orta yol gerektiğini savunuyor.

Sonuç: Endişelenmek için yeterli neden var

Yapay zekanın bu on yılın sonunda bizi öldürüp öldürmeyeceğini kimse kesin olarak bilmiyor. Ancak gerek istifa eden araştırmacıların açıklamaları gerekse önde gelen şirketlerin yöneticilerinin özel sohbetlerde dile getirdiği korkular, bu konunun ciddiyetle ele alınması gerektiğini gösteriyor. Hizalamanın çözümün bir parçası ama tek başına yeterli olmadığı fikri, teknoloji dünyasında giderek daha fazla kabul görüyor.