Yapay Zeka Dünyasında Acil Fren Tartışması
Yapay zeka araştırmacıları, son dönemde giderek daha karanlık uyarılar yapıyor. OpenAI CEO'su Sam Altman'ın bile "yapay zeka gelişimini yavaşlatma" çağrısı yapması, sektördeki endişelerin ne boyuta ulaştığını gösteriyor. Peki bu "yavaşlatma" gerçekte ne anlama geliyor? Anthropic CEO'su Dario Amodei, yeni bir blog yazısında sadece bu çağrıyı yinelemekle kalmadı, aynı zamanda bunu nasıl yapabileceklerine dair üç somut strateji ortaya koydu. Üstelik Anthropic'in bu stratejilerden birine "tek taraflı olarak" bağlı kaldığını duyurdu.
Neden Şimdi? İki Olay ve Hızlanan Gelişim
Amodei'yi daha temkinli bir yaklaşıma iten iki önemli gelişme var: OpenAI-HuggingFace hack olayı ve yapay zekanın özellikle son aylarda "çarpıcı biçimde daha hızlı" ilerlemesi. Amodei, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız" diyor ve ekliyor: "İlerleme hâlâ hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız." Bu çağrı, bu hafta Anthropic araştırmacısı Jacob Coxon'un şirketten istifa etmesiyle daha da alevlendi. Coxon, önde gelen yapay zeka şirketlerinin "hayatlarımızla kumar oynadığını" ve teknolojiyi inşa edenlerin "bu on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandıklarını" yazmıştı. Amodei'nin yazısı bu istifaya doğrudan değinmese de, endişelerin ciddiyetini kabul ediyor.
Üç Strateji: Değerlendiriciler, İşbirliği ve Küresel Koordinasyon
Amodei'nin önerdiği ilk adım, METR gibi üçüncü taraf kuruluşlardan "gömülü değerlendiriciler" getirmek. Bu değerlendiriciler, yapay zeka şirketlerinin yavaşlama ve güvenlik taahhütlerine uyup uymadığını doğrulayacak ve güvenlik ihlallerinin bildirilmesini sağlayacak. Amodei, bu kişileri banka çalışanlarıyla birlikte çalışan düzenleyicilere benzetiyor ve "Anthropic olarak buna tek taraflı olarak bağlıyız (ve hükümetleri diğer öncü şirketlerin de aynısını yapmasını zorunlu kılmaya çağırıyoruz)" diyor. Bu, değerlendiricilere şirket rozeti, masa ve dizüstü bilgisayar verilmesi ve iç risk değerlendirme ekiplerininkiyle "büyük ölçüde karşılaştırılabilir" erişim sağlanması anlamına geliyor.
İkinci olarak Amodei, "demokratik ülkelerdeki" önde gelen yapay zeka şirketlerinin "ortak güvenlik standartları ve kontrolsüz yapay zeka ilerlemesinin hızına sınırlamalar" konusunda koordine olması çağrısında bulunuyor. Ancak bu koordinasyon, Altman ile Amodei arasındaki görünür gerilim ve şirketlerin olası antitröst incelemelerinden korkması nedeniyle pek olası görünmüyor. Amodei bu endişeye değinerek, "Antitröst nedenleriyle, ABD hükümetinin bu tartışmalara aracılık etmesi veya en azından olanak sağlaması faydalı olur — katılmaları gerekmez, ancak belirli güvenlik konuşmaları için dar bir muafiyet yayınlamaları gerekir" diye yazıyor.
Son olarak Amodei, ABD ve müttefiklerinin "mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon" arayacağı "küresel koordinasyon" çağrısı yapıyor. Çin'in yapay zeka hakimiyeti hayaletine de değinen Amodei, ABD hükümeti ve teknoloji şirketlerinin Çinli şirketlere güçlü çipler veya yarı iletken üretim ekipmanı satmayı reddetmesi ve model damıtmayı engellemesi durumunda "Çin'in ilerlemesini yavaşlatabileceklerini ve önümüzdeki 3-5 yıl içinde ABD'nin liderliğini önemli ölçüde genişletebileceklerini" söylüyor.
Amodei'nin önerileri, yapay zeka güvenliği tartışmalarında önemli bir dönüm noktası olabilir. Ancak sektördeki rekabet ve jeopolitik gerilimler göz önüne alındığında, bu çağrıların ne kadar karşılık bulacağı belirsizliğini koruyor.
Henüz yorum yok — ilk yorumu sen yaz!