Anthropic, bilim insanlarının Claude'u biyolojik silah araştırmaları için kullandığını yakaladı

Yapay zeka kötüye kullanımına dair çarpıcı rapor

Anthropic, yapay zeka modellerinin kötüye kullanımına ilişkin geniş kapsamlı bir vaka çalışması koleksiyonu yayınladı. Şirketin perşembe günü paylaştığı rapora göre, mevcut AI modellerini potansiyel biyolojik silah üretmek için kullanan birden fazla bilim insanı tespit edilerek durduruldu. "Biyolojik kötüye kullanım" raporda belgelenen rahatsız edici AI kullanımlarından yalnızca biri; ancak Fable 5 gibi yeni modellerin bilimsel araştırmalara giderek daha iyi yardımcı olması nedeniyle bu konu giderek daha fazla önem kazanıyor.

Biyolojik silah geliştirme girişimleri ve güvenlik önlemleri

Şirketin raporu, Anthropic modellerinin biyolojik silah geliştirmek için kullanıldığı beş vaka çalışmasını, bu kötüye kullanımı Anthropic'in dikkatine sunan güvenlik önlemlerini ve şirketin nasıl karşılık verdiğini içeriyor. Olası kötüye kullanımı tespit etmek karmaşık bir süreç; çünkü şirketin The New York Times'a vurguladığı gibi, yeni bir aşı üzerine yapılan araştırma biyolojik silah yaratmaya çok benzeyebiliyor. Anthropic, tüm vakalarda olası sonuçlar nedeniyle aşırı temkinli davranmayı tercih ettiğini belirtiyor.

Anthropic'in tehdit istihbaratı başkanı Jacob Klein, The New York Times'a şunları söyledi: "Çizgi romanlardaki gibi 'Hey, herkesi öldürecek bir biyolojik silah yapmak istiyorum' diyen birini görmüyorsunuz. Bu inanılmaz derecede incelikli bir durum."

Chikungunya virüsü ve diğer vaka örnekleri

Mayıs ayına ait bir vaka çalışmasında Anthropic, "biyolojik güvenlik sınıflandırıcısının" Claude'dan chikungunya virüsü üzerinde fonksiyon kazandırma araştırması için bir hibe yazmasını istendiğini tespit ettiğini belirtiyor. Şirkete göre virüsün lisanslı bir tedavisi yok ve haftalar veya aylar süren zayıflatıcı semptomlara neden olabiliyor. Fonksiyon kazandırma araştırması, bir organizmayı genetik olarak değiştirme yöntemlerini inceliyor; bu spesifik virüs özelinde hibe, virüsün bulaşıcılığını ve bağışıklık yanıtından kaçma yeteneğini artırmayı öneriyordu. Bu kombinasyon kulağa tehlikeli geliyor ve Anthropic, önerilen araştırmanın bir askeri araştırma enstitüsüyle bağlantılı olmasının durumu daha da şüpheli hale getirdiğini söylüyor.

Şirket, kuş gribi üzerine fonksiyon kazandırma araştırmasında ve bir araştırmacının Claude'u zehir toksini peptitleri atlası ile "toksik özellikleri optimize eden üretken bir iş akışı" geliştirmek için kullanmasıyla ilgili ayrı bir vakada da benzer endişeler taşıyor.

Diğer kötüye kullanım alanları ve alınan önlemler

Tam rapor ayrıca Anthropic modellerinin gözetleme aracı olarak kullanılması ve yazılım açıkları, propaganda ve silah sistemleri oluşturmak için kullanılmasına dair vaka çalışmalarını da içeriyor. Şirkete göre Claude'u veya Anthropic modellerini kötüye kullanan herkesin hesabı yasaklandı ve soruşturmadan elde edilen bulgular, model güvenlik önlemlerini daha da iyileştirmek ve gelecekteki kötüye kullanımı önlemek için kullanılıyor. Biyolojik kötüye kullanımın zorlu doğası göz önüne alındığında Anthropic, soruşturmasının olası biyolojik silah geliştirmeyle bağlantılı kişi veya kurumların isimlerini de açıklamıyor. Şirket, "Bu vaka çalışmalarında adı geçen kişiler çalışan bilim insanlarıdır. Zarar verme niyetinde olduklarını iddia etmiyoruz ve onları veya laboratuvarlarını ifşa etmek onları zarara maruz bırakabilir" diyor.