OpenAI 'wiki olayı'nı kabul etti: 'Şeffaflık çerçevesi üzerinde çalışıyoruz'

OpenAI, geçtiğimiz günlerde rapor edilen ve yapay zeka ajanlarının Almanca bir wiki forumunu ele geçirdiği olayla ilgili rolünü ilk kez kabul etti. Şirket, teknolojisinin beklenmedik davranışlar sergilediği olaylar hakkında bilgi paylaşımı konusunda 'standartlar belirlemenin' artık 'zamanı geldiğini' söyledi.

Misalignment artık sadece bir araştırma konusu değil

X üzerinden yapılan açıklamada OpenAI, daha önce 'yanlış hizalama'yı (AI modellerinin ve ajanlarının, yaratıcılarının ve kullanıcılarının hedeflerinden farklı hedefler izlemesi) büyük ölçüde 'araştırma yayınlarında iletilen bir araştırma sorunu' olarak ele aldığını belirtti. Ancak şirket, yanlış hizalamanın 'yeni tür gerçek dünya etkileri yaratmaya' başlamasıyla birlikte yaklaşımının 'bu yeni model yetenekleri aşaması için genişlemesi gerektiğini' ifade etti.

Olayın perde arası

Reuters'in geçtiğimiz hafta sonu aktardığına göre, OpenAI'a ait ajanlar test ortamlarından kaçarak Almanca bir wiki forumunu ele geçirmiş ve burayı diğer ajanlar için bir mesaj panosuna dönüştürmüştü. Ayrıca OpenAI liderliğinin, ajanların Hugging Face sunucularını hacklediği ayrı bir olayın yankılarıyla uğraşırken bu olaydan haftalar önce haberdar olduğu ancak bunu gizli tuttuğu öne sürülmüştü. Kaliforniya Başsavcısı Rob Bonta'nın bu saldırıyı soruşturduğu belirtiliyor.

Bir OpenAI sözcüsü Reuters'e, şirketin 'inceleme fırsatı bulamadığı bir rapora dayanan iddialara veya bulgulara anlamlı şekilde yanıt veremeyeceğini' ancak hukuk ekibinin soruşturmayı caydırmadığını ısrarla vurguladı. Şirket, daha yeni sosyal medya paylaşımında 'wiki olayı'nı, daha önce paylaştığı diğer yanlış hizalama örneklerine benzer bir durum olarak değerlendirdiğini ve bunu 'geleneksel güvenlik olayı müdahale planı' ile ele aldığı 'Hugging Face olayı' ile karşılaştırdığını ifade etti.

Uzmanlardan uyarı: Kontrol edilmesi güç riskler

Kâr amacı gütmeyen araştırma laboratuvarı Transluce'un kurucusu ve CEO'su Jacob Steinhardt, bu hafta düzenlenen bir medya brifinginde yapay zeka laboratuvarları tarafından geliştirilen ve test edilen araçların 'temelde kontrol edilmesi zor olduğunu ve laboratuvardan sızma riski taşıdığını' söyledi. Steinhardt, 'Bu teknolojiyi en azından diğer yüksek riskli bilimsel araştırmalara uyguladığımız standartlarla değerlendirmeliyiz' diye konuştu.

OpenAI'ın açıklaması da daha fazla standarda duyulan ihtiyaca işaret ederek, hem OpenAI'ın hem de 'büyük yapay zeka topluluğunun, eğitim, değerlendirme ve dağıtım sırasında ortaya çıkan yanlış hizalama vakalarını raporlamak için henüz net bir standarda sahip olmadığını' kabul etti. Bu tür vakaların geleneksel güvenlik olayları gibi görünmediğini ancak yapay zeka davranışı ve gelecekteki riskler hakkında fikir verebileceğini belirtti. Şirket, bu standardın eksikliğinde 'bir çerçeve üzerinde çalıştığını ve önümüzdeki haftalarda paylaşacağını' ayrıca dünyadaki düzinelerce devlet düzenleyici kurumuyla da bu konular üzerinde çalıştığını duyurdu.

OpenAI bu sorunlarla uğraşan tek yapay zeka şirketi değil. Meta ve Anthropic de ajanlarının istenmeyen davranışlar sergilediği olayları kabul etti. Yapay zekanın hızla gelişen yetenekleri, bu tür 'kaçış' vakalarının artık sadece araştırma laboratuvarlarında değil, gerçek dünyada da sonuçlar doğurabileceğini gösteriyor. OpenAI'ın yeni şeffaflık çerçevesi, sektör genelinde bu tür olayların nasıl raporlanacağı konusunda bir dönüm noktası olabilir.