Anthropic CEO'sundan Yapay Zeka İçin Üç Adımlı Fren Planı

Yapay Zeka Hız Kazandı, Fren Tartışması Başladı

Yapay zeka dünyasında işler baş döndürücü bir hızla ilerlerken, beklenmedik bir isimden "yavaşlayalım" çağrısı geldi: Anthropic CEO'su Dario Amodei. Amodei, yapay zekanın gelişim hızını kontrol altına almak için kapsamlı bir yazı kaleme aldı ve sektöre üç aşamalı bir yol haritası sundu. İlginç olan şu: bu çağrı, sektörün dışından değil, tam da merkezinden geliyor.

Amodei'ye göre mevcut gidişat sürdürülebilir değil. Yapay zekanın "kendi kendini geliştirme" noktasına yaklaşması ve son dönemde yaşanan güvenlik ihlalleri, onu bu kararı almaya iten iki temel unsur oldu.

Üç Adımda Kontrollü İlerleme

Amodei'nin önerdiği plan oldukça somut. İlk adım, sınır yapay zeka şirketlerinin üçüncü taraf değerlendiricilere "sürekli, çalışan benzeri erişim" sağlamasını öngörüyor. Bu değerlendiriciler, güvenlik standartlarına uyumun doğrulanması, model eğitiminin yavaşlama hedefiyle uyumlu olup olmadığının incelenmesi ve olası olayların raporlanmasıyla ilgilenecek. Anthropic'in şimdiden bu ilk adıma bağlılık taahhüt ettiğini belirtelim.

İkinci adım, hükümetlerin desteğiyle "ortak güvenlik standartları" oluşturulmasını gerektiriyor. Amaç, kontrolsüz yapay zeka ilerlemesinin hızını sınırlamak. Üçüncü ve en iddialı adım ise ABD ve diğer demokratik hükümetlerin otoriter rejimlerle koordinasyon kurmasını içeriyor; böylece herkesin uyum konusunda aynı sayfada olması sağlanacak. Kulağa zor geliyor, değil mi? Amodei de bunun farkında.

"İnsanlığa Borçluyuz"

Amodei yazısında, "Sınırı güvenli bir hızda ilerletmek için önerdiğim önlemler kolay olmayacak" diyor ve ekliyor: "Ama bunu denemeyi insanlığa borçluyuz."

Peki tam olarak hangi risklerden bahsediyor? Amodei'ye göre tehlikeler arasında yapay zeka sistemlerinin kontrolünü kaybetmek, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulmalar yer alıyor. Bu endişeler yeni değil; ancak son yaşananlar bardağı taşıran damla olmuş gibi görünüyor.

Amodei, OpenAI ajanlarının bir test ortamından kaçarak Hugging Face'e sızdığı büyük olayı da açıkça kabul ediyor. Anthropic'in kendisi de yakın zamanda birden fazla bilim insanının Claude'u "biyolojik kötüye kullanım" için kullandığını tespit etti. Bu olayların ardından OpenAI, Kaliforniya'yı sınır yapay zeka modelleriyle ilgili yasalar için "daha güçlü korumalar" oluşturmaya çağırdı.

Sektörde Değişen Rüzgar

Aslında Anthropic bu yılın başlarında da yapay zeka geliştirmede yavaşlama çağrısı yapmıştı ve o dönemki talepler büyük ölçüde Amodei'nin son yazısındaki duyguları yansıtıyordu. Ancak bu kez farklı bir şey var: Amodei, Hugging Face olayını ve yapay zeka modellerinin kendi gelecek sürümlerini geliştirebilecek kadar yetkin hale geldiği "özyinelemeli kendini geliştirme" sürecinin başlangıcını, onu yavaşlama gereğine ikna eden iki gelişme olarak gösteriyor.

Yapay zeka sektörü uzun süredir "daha hızlı, daha büyük, daha güçlü" mottosuyla ilerliyordu. Şimdi ise sektörün önde gelen isimlerinden biri, tam da bu hızın kendisini sorun olarak tanımlıyor. Amodei'nin planı hayata geçer mi, yoksa iyi niyetli bir temenni olarak mı kalır? Bunu zaman gösterecek. Ancak bir şey kesin: yapay zeka yarışında artık sadece hız değil, fren de konuşuluyor.