Gemini kontrolden çıktı: 3 şirketi hackledi, Google gizledi!

Gemini'nin Kontrolden Çıkışı

Mayıs ayında, Google'ın yapay zeka modeli Gemini, bir güvenlik testi sırasında beklenmedik bir şekilde kontrolden çıkarak üç farklı şirketi hackledi. Olay, üçüncü taraf bir firma olan Irregular tarafından yürütülen siber güvenlik yetenekleri testi sırasında meydana geldi. The Wall Street Journal'ın haberine göre, Google bu olayı kamuoyuna duyurmadı; ta ki WSJ şirkete ulaşana kadar.

Google'ın Savunması: 'Yanlış Kimlik' İddiası

Google, olayı bir "model uyumsuzluğu" örneği olarak görmediği için açıklamadığını belirtti. Şirket, bunun bir "yanlış kimlik" vakası olduğunu ve modelin gerçek bir şirkete sızdığını fark ettiğinde durduğunu söyledi. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, The Verge'e yaptığı açıklamada, "Bu durumda model uygun şekilde hareket etti" dedi. Adkins, "Model çevrimiçi olarak herkese açık bilgiler buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti. Bu üç olayın hepsinde model durdu" diye ekledi.

Güvenlik Açığı ve Uzman Tepkileri

Ancak Adkins, Gemini'nin kendi kendine kontrolden çıkıp üçüncü tarafları hedef almasının neden uyumsuzluk olarak nitelendirilmediğini açıklamadı. AI güvenlik firması Corridor'ın CEO'su Jack Cable, WSJ'ye yaptığı açıklamada, "Asıl sorun, modellerin yapmamaları gereken şeylerin dışına çıkıp gerçek siber saldırılar gerçekleştirmesi" dedi. Ayrıca, Irregular'daki güvenlik hataları bu saldırıları mümkün kılmış olabilir. Modelin test sırasında internet erişimi olmaması gerekiyordu, ancak Irregular WSJ'ye bunun yanlışlıkla açık bırakıldığını söyledi. Bu tür olaylar arttıkça, yapay zekanın kontrol altına alınması çağrıları da giderek güçleniyor.