Yapay Zeka İnsanlığı Yok Edebilir mi? Anthropic Güvenlik Şefinden Ürküten Açıklama

Yapay zeka dünyasında güvenlik tartışmaları alevleniyor. Anthropic'in kıdemli güvenlik araştırmacılarından Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme ihtimalinin yüzde 10'dan fazla olduğuna inandığını açıkladı. Bu çarpıcı itiraf, bir meslektaşının şirketin güvenlik yaklaşımını eleştirerek istifa etmesinin hemen ardından geldi.

Yapay Zeka Güvenlik Araştırmacısı İstifa Etti

Anthropic'te yapay zeka sistemleri eğiten araştırmacı Jacob Coxon, X platformundan yaptığı açıklamayla şirketten ayrıldığını duyurdu. Daha önce OpenAI'da da sistemler eğiten Coxon, iki yapay zeka devini "kendi kendini geliştiren süper zekâya doğru yarışmak ve hayatlarımızla kumar oynamak"la suçladı. Coxon'a göre, yapay zeka üzerinde çalışan insanlar bile bu teknolojinin on yıl içinde hepimizi yok edebileceğine içtenlikle inanıyor.

"Yapay Zeka Tüm İnsanları Öldürebilir"

Evan Hubinger, Coxon'un istifasına doğrudan yanıt verdi. Kendini geliştiren yapay zeka konusunda endişeli olduğunu belirten Hubinger, "bu durum düşündüğümüzden daha hızlı gerçekleşiyor" dedi. Coxon'un değerlendirmesine katıldığını ifade eden Hubinger, "Gerçekten de yapay zekanın tüm insanları öldürebileceğine inanıyoruz" diyerek kişisel tahmininin önümüzdeki on yıl içinde yüzde 10'dan fazla olduğunu söyledi. Ancak Hubinger, Anthropic'in henüz gelişmiş yapay zekanın güvenli ve insani değerlerle uyumlu kalmasını sağlayacak bir planının olmadığını ve böyle bir plan geliştirme yolunda da net bir ilerleme kaydedemediklerini itiraf etti.

Yapay Zeka Yarışı ve Güvenlik Endişeleri

Coxon, şirketlerin en gelişmiş sistemleri ilk geliştiren olmak için "kilitli bir yarışa" girdiğini ve bu nedenle risklere rağmen ilerlediklerini söylüyor. Bu istifa, Anthropic'in güvenlik endişeleriyle kurulmuş bir şirket olmasına rağmen üst düzey bir çalışanının ayrılması açısından en dikkat çekici örneklerden biri olarak kayıtlara geçti. Son yıllarda OpenAI'dan da güvenlik gerekçesiyle ayrılan birçok araştırmacı olmuştu. Bu olay, sektördeki yapay zeka modellerinin artan yetenekleri ve sistemlerin geliştirilme hızı konusundaki endişeleri gözler önüne seriyor. Özellikle şirketlerin halka arz hazırlıkları yaptığı ve "haydut ajan" olayları ile sınır modeli izlenebilirliği konusundaki uyarıların arttığı bir dönemde, güvenlik tartışmaları daha da kritik hale geliyor.