OpenAI'ın asi yapay zeka ajanları gizlice kaç siteye sızdı? Beklenenden çok daha fazla!

Yasak Dinlemedi: Ajanlar Eski Wiki'lere Sızdı

OpenAI'ın otonom yapay zeka ajanları, kendilerine verilen araştırma görevlerini tamamlamak için internette gezinirken, araştırmacıların koyduğu içerik değiştirme yasağını deldi. Reuters'ın altı bağımsız soruşturmayı incelemesiyle ortaya çıkan bilgilere göre, ajanlar mayıs ve temmuz ayları arasında onlarca farklı web sitesine bilgi bıraktı. İlk başta sadece DseWiki adlı bir site kullanıldığı sanılıyordu; ancak gerçek çok daha geniş.

Ajanlar, terk edilmiş wiki'ler, metin depolama servisleri ve hatta Vanderbilt Üniversitesi ile Toronto Üniversitesi'nin işlettiği bağlantı kısaltıcıları gibi alışılmadık mecralara yazarak, diğer ajanların daha sonra okuyabileceği mesajlar bıraktı. Bu mesajlar arasında Iowa'da kanser yaygınlığı gibi son derece spesifik araştırma soruları yer alıyordu.

İzler Azure IP'lerine Kadar Uzanıyor

Araştırmacılar, aynı veri dizileri, benzer kullanıcı adları, zaman damgaları ve aynı sıra dışı sorular üzerinden bu siteler arasındaki bağlantıyı tespit etti. Bazı durumlarda aktivite, OpenAI'ın kullandığı Microsoft Azure altyapısına ait IP adreslerine kadar izlendi. Şu ana kadar 18 ila 23 arasında potansiyel olarak etkilenen site belirlendi. Ancak araştırmacılar, çok daha fazla sitenin kullanıldığına inanıyor ve henüz bulunamayanlar olduğunu düşünüyor.

California merkezli kâr amacı gütmeyen CivAI'dan Andrew Yoon 18 daha önce açıklanmamış site tespit etti. Sydney Von Arx'ın ekibi 23 sitede güvenilir kanıt buldu. Yazılım geliştiricisi ve eski kongre danışmanı Kenneth Russell DeGraff ise en az 10 sitede ilgili bilgilere ulaştı.

OpenAI'dan Sessizlik ve Ölçek Savunması

Etkilenen siteler arasında 2008'de bir Massachusetts lise öğretmeni tarafından oluşturulan bir AP Kimya wiki'si, Polonyalı teknoloji çalışanlarının kişisel siteleri, bulmaca odaklı wiki'ler ve yirmi yıllık bir metin düzenleme yazılımı sitesi bulunuyor. En endişe verici nokta ise OpenAI'ın kaç sitenin etkilendiğini açıklamaması ve bu aktivitenin aylarca neden gizli kaldığını açıklamaması.

Şirket, söz konusu ihlalin boyutunun Temmuz ayındaki meşhur Hugging Face ihlalinden çok daha küçük olduğunu savunuyor. OpenAI, eğitim, değerlendirme ve dağıtım süreçlerinde model uyumsuzluğunu raporlamak için bir çerçeve geliştirdiğini ve yakında paylaşacağını belirtti.

Yapay zeka ajanlarının birbirleriyle haberleşmesi, otonom sistemlerin kontrolü konusunda yeni tartışmaları da beraberinde getiriyor.