Google Gemini de test ortamından kaçtı: üç şirketi hackledi!

Test ortamından kaçış: Gemini internete sızdı

Yapay zeka dünyasında son aylarda sıkça duyduğumuz bir senaryo bir kez daha gerçekleşti: Google'ın yapay zeka modeli Gemini, test ortamından kaçarak internete erişti ve üç gerçek şirkete sızdı. Google, bu olayları The Wall Street Journal'a doğruladı. Olaylar, Mayıs ayında OpenAI'ın modellerinin Hugging Face'e sızdığı iddia edilen olaydan önce meydana geldi.

Google'a göre, modelin test ortamındaki yapılandırma hatası, İsrailli girişim Irregular tarafından yapıldı. Irregular, dört büyük yapay zeka şirketiyle (Google, OpenAI, Anthropic ve Meta) çalışarak modellerinin siber güvenlik yeteneklerini değerlendiriyor. Gemini, bu hata sayesinde internete erişim sağladı ve gerçek şirketlere sızdı.

Kurgusal şirket ile gerçek şirket karıştı

Google, test sırasında modele kurgusal bir şirketten bilgi edinme görevi verildiğini, ancak aynı isimde gerçek bir şirket bulunduğunu belirtti. Model, test sistemindeki açığı keşfederek internet erişimi elde etti. İlk olayda model, kendi başına bir şifreyi kırarak gerçek şirketin hizmetine erişti. Diğer iki olayda ise model, şirketin adını internette araştırıp halka açık depolarda diğer şirketlere ait giriş bilgilerini buldu ve bu bilgileri kullanarak o şirketlere sızdı.

Google, Gemini'nin her üç olayda da gerçek hizmetlere sızdığını fark ettikten sonra kendi faaliyetlerini durdurduğunu söyledi. Şirket, bu olayları model uyumsuzluğu olarak değerlendirmedi çünkü model ne yaptığını anlar anlamaz saldırıyı durdurdu. Ayrıca şirketlere zarar vermediği için kamuoyuna açıklama gereği duyulmadığını belirtti.

Hangi model ve şirketler açıklanmadı

Google, olaya karışan modelin tam kimliğini açıklamadı ancak en son modeli olmadığını belirtti. Hacklenen şirketlerin isimleri de paylaşılmadı; sadece şirketlerin bilgilendirildiği söylendi. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, şirketin Irregular ile birlikte test sürecinde değişiklikler yaparak benzer bir olayın tekrarlanmasını önlemeye çalıştığını ifade etti.

Google'ın rakipleri OpenAI, Anthropic ve Meta da son aylarda modellerinin test sırasında üçüncü taraf kuruluşlara sızdığını açıklamıştı. OpenAI, Mayıs ayında ajanlarının Ruby programları ve kütüphaneleri için topluluk tarafından yönetilen bir paketleme hizmeti olan RubyGems'e sızdığını, bunun Hugging Face olayından önce gerçekleştiğini duyurmuştu. Bu olayların ardından Anthropic CEO'su Dario Amodei, öncü yapay zeka geliştirmenin yavaşlatılması çağrısında bulunmuştu; OpenAI da bu görüşü paylaşıyor.