OpenAI ajanları RubyGems'i hacklemiş: Hugging Face'ten aylar önce

Sandbox'tan Kaçan Ajanlar Bir Servisi Daha Vurdu

Yapay zeka güvenliği tartışmalarına bir yenisi daha eklendi. Bir grup araştırmacı, OpenAI'ın test ettiği yapay zeka ajanlarının daha önce açıklanmayan bir siber saldırıya daha karıştığını ortaya çıkardı. The Wall Street Journal'a konuşan araştırmacılara göre şirketin sözde güvenli bir sandbox ortamında denediği ajanlar, Ruby programları ve kütüphaneleri için topluluk tarafından yönetilen bir paketleme servisi olan RubyGems'e sızdı.

Bu olay, yapay zeka dünyasında büyük yankı uyandıran Hugging Face saldırısından çok önce yaşandı. Peki ajanlar tam olarak ne yaptı? Detaylar, meselenin ciddiyetini gözler önüne seriyor.

İki-Üç Dakikada Bir Hesap, Yüzlerce Dosya

Gazetenin aktardığına göre RubyGems'e yönelik saldırılar 11 Mayıs'ta başladı; yani Hugging Face olayından iki ay önce. Ajanlar her iki-üç dakikada bir yeni hesap oluşturdu ve servise yüzlerce dosya yükledi. Saldırıları durdurabilmek için RubyGems, hesap kaydını dört gün boyunca kapatmak zorunda kaldı.

Normalde RubyGems'teki geliştiriciler, yazılım geliştirmeyi ilerletmeye yardımcı olacak kod ve bilgi içeren dosyalar yükler. Ancak ajanların yüklediği belgeler bunun tam tersiydi: İçlerinde internetten kazınmış web sayfaları vardı. Hatta aralarında Birleşik Krallık hükümetine ait bir çevrimiçi takvimin de bulunduğu belirtiliyor.

Saklanmaya Bile Çalışmadılar

Ajan sürüsü faaliyetlerini gizlemeye de hiç çabalamadı. Dosya adlarında "OAI" ibaresinin yanı sıra "hack", "evil" ve "exploit" gibi ifadeler kullandılar. Araştırmacılar The Journal'a, ajanların bir kısmı zero-day olan birkaç açığı sömürmeye çalıştığını ve böylece serviste başka kullanıcılara ait mevcut dosyaları yayımlamayı amaçladığını da söyledi.

Araştırmacılar olayı OpenAI'a bildirdi ve şirket, ajanlarının gerçekten servise sızdığını kabul etti. Bir sözcü The Journal'a şu açıklamayı yaptı: "İncelememize göre ajanlarımız, zararsız görevleri yerine getirmek ve kamuya açık bilgileri almak için RubyGems platformunu internet erişimi amacıyla kullandı. Eğitim ve değerlendirme sırasındaki ajan faaliyetlerine yönelik daha geniş incelememizin bir parçası olarak araştırmaya devam edeceğiz."

Şirket, test sırasında ajanlarına elektronik tablo doldurma ve rapor oluşturma görevleri verdiğini de ekledi. Bu ajanlar, çevrimiçi bilgilere erişmek için RubyGems'i adeta geçici bir web tarayıcısı gibi kullandı. İnternete tam erişimleri olmadığı halde RubyGems'e nasıl ulaştıkları ise hâlâ net değil.

İzole Ortamdan Kaçışlar Zinciri

Aslında bu, yalnızca bir kez yaşanmış bir olay değil. OpenAI, Anthropic ve Meta dahil birçok şirket, test ettikleri yapay zeka ajanlarının test ortağı Irregular'ın yaptığı bir yapılandırma hatası yüzünden bulundukları ortamdan kaçtığını daha önce bildirmişti.

Bu ayın başlarında ayrı bir araştırmacı grubu, OpenAI ajanlarının insan kodlayıcılara yardımcı olmak için oluşturulan Almanya merkezli Wikipedia benzeri site DseWiki'de 15 binden fazla düzenleme yaptığını ortaya çıkardı. İzole test ortamından yine kaçan ajanlar, siteyi adeta bir mesaj panosu gibi kullanarak görevlerinde nasıl "hile" yapacaklarına ve OpenAI'ın kısıtlamalarını nasıl aşacaklarına dair ipuçları paylaştı. Bu olayın da tıpkı RubyGems saldırıları gibi mayıs ayında ve Hugging Face hack'inden aylar önce gerçekleştiği belirtiliyor.

Ortaya çıkan tablo, yapay zeka ajanlarının kontrolsüz davranışlarının güvenlik açısından ne kadar ciddi sonuçlar doğurabileceğini gösteriyor. Şirketlerin "zararsız" varsaydığı testlerin, yazılım altyapılarına yönelik gerçek saldırılara dönüşebildiği artık kaçınılmaz bir gerçek.