Yapay Zeka ile Biyolojik Silah Araştırması: Anthropic'ten Çarpıcı İtiraf

Güvenlik Duvarında Çatlaklar

Yapay zeka güvenliği tartışmaları her geçen gün daha da alevlenirken, Anthropic'ten gelen bir rapor sektörde soğuk duş etkisi yarattı. Şirket, bu yıl birden fazla bilim insanının Claude modelini biyolojik silah geliştirmeye yardımcı olabilecek araştırmalar için kullanmaya çalıştığını ve bu girişimlerin engellendiğini duyurdu. Üstelik bu, yalnızca tek bir olay değil; şirket, kullanıcıların güvenlik kontrollerini atlatmaya çalıştığı beş ayrı örnek paylaştı.

Raporda dikkat çeken detaylardan biri, bazı kullanıcıların araştırmalarının amacını gizlemeye yönelik girişimlerde bulunması. Bu kişilerin bir kısmı, Anthropic'in modelerine erişimini yasakladığı ülkelerde yaşıyor; bunlar arasında Rusya, Çin ve İran da var. Şirket, "Bu örnekleri paylaşarak yapay zeka sektöründe ve hükümetler nezdinde yeni ortaya çıkan biyolojik riskler ve bunlarla nasıl mücadele edileceği konusunda bir tartışma başlatmayı umuyoruz" ifadelerini kullandı.

Zararlı Niyet mi, Meşru Araştırma mı?

Anthropic'in aktardığı vakalardan biri oldukça çarpıcı: "Desteklenmeyen bir bölgeden" bir araştırmacı, kuş gribiyle ilgili deneyler planlamak için haftalarca Claude'u kullanmış. Şirket, güvenlik filtrelerinin bu çalışmayı yalnızca en zayıf modellerle sınırladığını belirtiyor. Ancak altı çizilmesi gereken kritik bir nokta var: Anthropic, bu örneklerdeki bilim insanlarının zarar verme niyetinde olduğundan kesinlikle emin olamayacağını vurguluyor.

Çünkü işin doğası gereği, biyolojik silah üretmek için gereken bilgiyle aşı geliştirmek için gereken bilgi büyük ölçüde örtüşüyor. Bu da yapay zeka güvenlik sistemlerinin işini son derece karmaşık hale getiriyor. Şirket, raporda adı geçen hesapları yasakladığını duyurdu ancak olayların yaşandığı araştırma kurumlarının isimlerini ya da ülkeleri açıklamadı.

Sektörde Alarm Zilleri

Bu rapor, yapay zeka güvenliği etrafında dönen fırtınanın tam ortasında geldi. Hafta başında Jacob Coxon'un şirketten istifa etmesi ve çalışanların "yapay zekanın bu on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inandığını" söylemesi tartışmayı alevlendirmişti. Bu yıl Anthropic'in Mythos gibi gelişmiş modellerinin piyasaya sürülmesiyle endişeler daha da arttı. Temmuz ayında ise OpenAI, modellerinin Hugging Face adlı yapay zeka grubuna otonom olarak sızdığını açıklayarak alarm zillerini çaldırdı.

Yapay zeka yöneticileri ve biyogüvenlik araştırmacıları arasında, modeller geliştikçe biyoloji alanında bu teknolojinin kullanımının güvence altına alınması ve düzenlenmesi gerektiği yönünde genişleyen bir fikir birliği oluşuyor. Uzmanlar, yapay zekanın terör grupları, devlet aktörleri veya yalnız kurt saldırganlar tarafından biyolojik silah üretmek, virüs oluşturmak veya mevcut zararlı patojenleri serbest bırakmak için kullanılabileceğinden giderek daha fazla endişe duyuyor.

Ancak teorik bir biyolojik silah tasarlansa bile pratikte bunu üretme kabiliyeti ve gereken kaynaklar gibi engeller hâlâ mevcut. Yine de Anthropic'in raporu, siber güvenliğin yanı sıra biyogüvenliğin de yapay zeka çağında ne kadar kritik bir başlık haline geldiğini gözler önüne seriyor. Raporda ayrıca sahte flört uygulamaları ağından muhalifleri izlemek için kurulan gözetleme sistemlerine kadar uzanan kötüye kullanım vakalarına ve Çin merkezli yedi laboratuvarın (Moonshot ve DeepSeek dahil) damıtma yöntemiyle Anthropic'in teknolojisini kopyalamaya çalıştığı iddialarına dair yeni detaylar da yer alıyor.