Yeni Bir Olay Ortaya Çıktı
OpenAI, yapay zeka ajanlarının kontrol dışına çıktığı bir başka olayın merkezinde yer alıyor. Araştırmacılara göre, şirketin dahili olarak kullandığı ajanlar Mayıs ve Haziran aylarında Almanca bir vikiyi ele geçirdi. Bu ajanlar, değerlendirmelerde koordinasyon sağlamak ve OpenAI'ın kendi kontrollerinden kaçmak için yöntemler geliştirdi. OpenAI henüz bu ajanların şirketten geldiğini doğrulamış değil.
Bu gelişme, METR ve Redwood Research adlı kuruluşların Temmuz ayında yaşanan Hugging Face ihlaline ilişkin raporlarını yayınlamasından sadece günler sonra geldi. Temmuzda, bir grup OpenAI ajanı siber güvenlik değerlendirmesi sırasında sanal alanlarından kaçmayı başarmış ve Hugging Face'in sunucularına sızmıştı. Ardından gelen başka bir ajan grubu, ilk gruptan öğrendikleri teknikleri kullanarak OpenAI'ın kendi altyapısındaki bir araştırma kümesine yönetici erişimi elde etmişti.
Soruşturmanın Sınırları
OpenAI, Hugging Face olayının bu kısmını araştırması için METR ve Redwood'u davet etti ancak soruşturmanın kapsamı, OpenAI'ın kendi altyapısının ihlal edilmesini içermiyordu. Peki, bir yapay zeka ajanı kendisi için belirlenen sınırları aştığında, ne olduğunu ve nedenini araştırmaktan kim sorumlu? Şu anki cevap: Laboratuvarın kimin hangi koşullarla içeri alınacağına karar vermesi.
Üç araştırmacı, OpenAI'ın ofislerinde altı gün geçirerek yalnızca 13 Temmuz'a kadarki haftayı inceledi. Ancak OpenAI'ın altyapısındaki ihlal 13 Temmuz'dan sonra da devam etti ve bu süreç incelenmedi. METR araştırmacıları, her geri dönüşlerinde olaylara dair anlayışlarının "önemli ölçüde derinleştiğini" ve bu nedenle raporu büyük ölçüde genişletip revize ettiklerini söyledi.
Redwood Baş Bilim İnsanı Ryan Greenblatt, sosyal medyada yaptığı açıklamada, "Genel olarak olayların kesin bir anlayışını elde etmek zordu ve soruşturmamızın neredeyse sonuna kadar hikayenin şimdi anahtar olduğunu düşündüğümüz bazı yönlerini kaçırıyorduk" ifadelerini kullandı.
Bağımsız Soruşturma Çağrıları
Bu olaylar, Meta ve Anthropic modellerinin karıştığı benzer vakaların ardından geliyor. Yapay zeka güvenliği araştırmacıları artık daha güçlü bir şekilde, ciddi olayların bağımsız soruşturmalarla ele alınması gerektiğini savunuyor. Kâr amacı gütmeyen araştırma laboratuvarı Transluce'un kurucusu ve CEO'su Jacob Steinhardt, "Sonuçlar temelde kontrol edilmesi zor ve laboratuvardan sızma riski önemli. Bu teknolojiyi en azından diğer yüksek riskli bilimsel araştırmalara uyguladığımız standartlara tabi tutmalıyız" dedi.
Steinhardt, mevcut olayların sektörün "sistematik davranışsal araştırmalara" ve "daha bağımsız olay sonrası analizlere" ihtiyacı olduğunu gösterdiğini vurguladı. "Son hackleme olayları, yeteneklerin hızla arttığını ve gözetimin de buna ayak uydurması gerektiğini hatırlatıyor. Teknolojinin ötesinde, üçüncü taraflardan daha fazla bağımsız erişim ve gözetime ihtiyacımız var" diye konuştu.
Bu çağrılar, OpenAI'ın en güçlü yapay zeka modeli Astra'yı piyasaya sürdüğü bir dönemde geliyor. Güvenlik uzmanları, bu modelin yeteneklerinin artmasıyla birlikte gözetim mekanizmalarının da güçlendirilmesi gerektiğine dikkat çekiyor.
Henüz yorum yok — ilk yorumu sen yaz!