Google DeepMind, AGI tartışmasını genişletmek için enstitü kurdu

DeepMind Institute: AGI tartışması artık daha şeffaf

Google ve Google DeepMind araştırmacıları, çarşamba günü yapay genel zeka (AGI) etrafındaki tartışmaları ilerletmek amacıyla DeepMind Institute'u kurdu. Enstitünün yönetici kadrosunda DeepMind kurucu ortaklarından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis yer alıyor; Legg aynı zamanda yönetici editör olarak görev yapacak. Yeni enstitü, Google, Google DeepMind ve küresel araştırma topluluğu arasında AGI konusundaki farklı görüşleri gün yüzüne çıkarmayı hedefliyor.

Duyuruda, "Her zaman aynı fikirde olmayacaklar ve hızla ilerleyen bu sınırda yeni veriler ve bilgiler ortaya çıktıkça muhtemelen fikirlerini değiştirecekler" ifadelerine yer verildi. Bu açıklama, enstitünün dogmatik bir yaklaşım yerine dinamik ve sorgulayıcı bir tartışma ortamı yaratma niyetini gösteriyor.

İlk makale koleksiyonu: Ekonomiden güvenliğe

Enstitünün açılışında yayımlanan dört makale, AGI'nin potansiyel etkilerine dair geniş bir yelpazeyi kapsıyor: AGI kaynaklı olası kesintileri yönetmek için ekonomik politikalar, modellerin insan tarafından okunabilir akıl yürütmesinin korunması, insan refahı için ilkeler ve öncü yapay zeka modellerini değerlendirmeye yönelik bir çerçeve.

DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından kaleme alınan bir makale, yapay zekanın azalan şeffaflık penceresinin (bir modelin adım adım akıl yürütmesini görme ve kontrol etme yeteneği) kaçınılmaz olmadığını savunuyor. Yazarlara göre, yeni mimariler en güçlü modelleri izlemeyi zorlaştırırken, geliştiriciler ve düzenleyiciler güvenlik ödünleşimleriyle doğrudan yüzleşmeli. Bu, "opak seri derinlik" (bir modelin okunabilir bir akıl yürütme izi üretmeden gerçekleştirebileceği sıralı hesaplama miktarı) sınırlamak veya geliştiricilerden daha az şeffaf sistemlerin de en az diğerleri kadar izlenebilir kaldığını kanıtlamalarını istemek anlamına gelebilir.

Hassabis'ten ABD liderliğinde standartlar kurumu önerisi

Bir diğer makalede Demis Hassabis, en gelişmiş yapay zeka modellerini değerlendirmek için ABD liderliğinde bir öncü yapay zeka standartları kurumu öneriyor. Hassabis'in çerçevesine göre, geliştiriciler başlangıçta modellerini yayımlanmadan 30 gün öncesine kadar gönüllü olarak incelemeye sunacak. Değerlendirme sistemi etkinliğini kanıtladığında, testleri geçmek ABD'de öncü modellerin kullanıma sunulması için bir zorunluluk haline gelebilir.

Kurum başlangıçta değerlendirmeleri yapay zeka şirketlerine danışarak tasarlayacak, ancak zamanla laboratuvarların modellerini bilinen değerlendirmelere göre uyarlamasını önlemek için bağımsız ve açıklanmayan testler (makalede "held-out" olarak geçiyor) geliştirecek. Hassabis, çerçevenin "durumun ciddiyeti gerektiriyorsa kademeli olarak sıkılaştırılabileceğini" ve bunun öncü yapay zeka geliştiricileri arasında koordineli bir yavaşlamayı içerebileceğini belirtti.

Sektörde güvenlik tartışması somutlaşıyor

Bu makaleler, sektörün güvenlik tartışmasının geniş endişe ifadelerinden somut açıklama, dış denetim ve koruma önlemleri geride kalırsa koordineli yavaşlama önerilerine kaydığı bir dönemde geliyor. Bu hafta, sektör liderlerinin Anthropic CEO'su Dario Amodei'nin öncü yapay zeka geliştirmeyi "yavaşlatma" çağrısının unsurlarını desteklemesiyle bu geçiş daha da hızlandı. DeepMind Institute'un bu tartışmaya hem Google içinden hem de dışından farklı sesleri dahil ederek önemli bir platform olması bekleniyor.