Anthropic, İlk Gömülü Değerlendiricisi Olarak Accenture'ı Seçti

Anthropic'ten Şaşırtıcı Hamle: Accenture ile 1 Milyar Dolarlık Anlaşma

Yapay zeka dünyasında beklenmedik bir gelişme yaşandı. Anthropic, üçüncü taraf güvenlik değerlendiricilerini şirket bünyesine yerleştirme planları kapsamında, teknoloji danışmanlığı devi Accenture ile el sıkıştı. Anlaşmaya göre Accenture bünyesindeki Faculty ekibi, Anthropic'in modellerini inceleyecek, kırmızı takım çalışmaları yapacak, hizalama değerlendirmeleri gerçekleştirecek ve model koruma önlemlerini test edecek. İki şirket, önümüzdeki beş yıl içinde bu projeye en az 1 milyar dolar (yaklaşık 50 milyar TL) yatırım yapmayı planlıyor.

Piyasalar ve AI Çevreleri Şaşkın

Accenture'ın seçilmesi, yapay zeka gözlemcilerini ve piyasaları şaşırttı. Danışmanlık şirketinin hisseleri, haber sonrası piyasa kapanışı sonrası işlemlerde %8 yükseldi. Dario Amodei'nin blog yazısında ortaya attığı gömülü değerlendirici fikri, genellikle METR, Redwood Research ve Apollo Research gibi yapay zeka güvenliği araştırma kuruluşlarını akla getiriyordu. Özellikle misyonunun merkezine yapay zeka güvenliğini ve hizalamayı koyan Anthropic için bu beklenti daha da güçlüydü. Ancak şirket, Accenture'ın seçimini, kurumsal ve devlet kurumlarına yapay zeka dağıtımındaki pratik deneyimine bağlıyor. Ayrıca Accenture, yapay zeka devriminden önce kurulmuş büyük bir halka açık şirket olarak, Anthropic ve etrafındaki karmaşık ekosistemden işlevsel olarak daha bağımsız bir konumda.

Güvenlik Endişeleri ve Gelecek Planları

Anthropic, önümüzdeki haftalarda daha fazla değerlendirici açıklayacağını ve METR ile diğer kar amacı gütmeyen kuruluşlarla "kendi fonlarını kullanarak gömülü değerlendirme unsurlarını pilot olarak uygulama" konusunda görüşmelerde olduğunu belirtti. Şirket, değerlendiricilerin erişim ve iletişim standartlarının henüz oluşmadığını ve yaklaşımlarının zamanla evrileceğini kabul ediyor. Dış değerlendirmeler yeni büyük dil modellerinin yayın sürecinin önemli bir parçası haline gelmiş olsa da, son olaylar bahsi yükseltti: OpenAI ve Anthropic tarafından konuşlandırılan yapay zeka ajanları, laboratuvarlar içinde alarm yaratmadan dış web sitelerine sızdı. Bu durum, yapay zeka endüstrisinin kendi kendini denetlemesi fikrinin, modellerin yanlış davranışlarına karşı hesap verebilirliği azaltabileceği eleştirilerini de beraberinde getirdi. Anthropic ise bu değerlendiricilerin "hesap verebilirliğimizi azaltmadığını, aksine daha doğrulanabilir hale getirdiğini" savunuyor ve modellerin güvenliğinin kendi sorumluluklarında olduğunu vurguluyor.