BM'den kritik yapay zeka uyarısı: Güvenlik için kesin kanıt beklenemez

BM'den ilk kapsamlı yapay zeka değerlendirmesi

Birleşmiş Milletler bünyesindeki bağımsız bilim paneli, yapay zeka alanında bugüne kadarki en kapsamlı uyarılarından birini yayımladı. Panel, giderek daha yetenekli hale gelen yapay zeka ajanlarının yol açabileceği riskler tam olarak anlaşılmadan önce hükümetlerin bu sistemleri denetim altına alması gerektiğini belirtti. Rapor, yapay zekanın küresel diplomasinin gündemine kalıcı olarak yerleştiğini gösteriyor.

Uyarı, dünya liderlerinin BM Genel Kurulu için New York'ta toplandığı ve ABD ile Çin'in yapay zeka konusunu masaya yatırmaya hazırlandığı bir döneme denk geliyor. BM Genel Sekreteri António Guterres, geçtiğimiz hafta yaptığı açıklamada hükümetleri yapay zekanın oluşturduğu tehditlere karşı işbirliğine çağırmış ve "dünya, yapay zeka güvenliğinde dibe doğru bir yarışı göze alamaz" ifadelerini kullanmıştı.

"Kesinlik beklemek lüksümüz değil"

Rapor, geçen yıl kurulan ve BM'nin "yapay zeka alanındaki ilk küresel bilimsel organı" olarak tanımlanan Bağımsız Uluslararası Yapay Zeka Bilim Paneli'nin ilk tematik brifingi olma özelliğini taşıyor. Panel, ülkeler farklı hukuki yaklaşımlar benimseseler bile, gelişmiş yapay zekadan kaynaklanan yeni risklerin yönetilmesi için çok daha fazla dikkat ve kaynak ayrılması, güvenlik ve hesap verebilirlik konusunda ise daha güçlü uluslararası koordinasyon sağlanması çağrısında bulunuyor.

En dikkat çekici mesaj ise şu: Panel, bu tür olayların tam olarak nasıl veya neden meydana geldiğini bilim insanlarının netleştirmesini beklemeden daha güçlü önlemlerin hayata geçirilebileceğini söylüyor. Kontrol kaybı riskinin, ihtiyatlılık ilkesinin tam da hedeflediği türden bir sorun olduğu vurgulanıyor: Olası zarar felaket boyutunda ya da geri döndürülemez olabilir, ancak gerçekleşme olasılığı bilimsel olarak belirsizliğini koruyabilir.

İhtiyatlılık ilkesi ve Hugging Face hack'i

İlk kez 1992 BM Rio Çevre ve Kalkınma Deklarasyonu'nda yer bulan ihtiyatlılık ilkesi, bilimsel belirsizliğin ciddi veya geri döndürülemez zararlara karşı önlemleri geciktirmek için gerekçe olamayacağını söylüyor. İlke o zamandan bu yana çevre ve halk sağlığı politikalarında, özellikle Avrupa Birliği'nde önemli bir referans haline geldi.

Raporun arka planında ise bu yıl OpenAI'nin Hugging Face'i hacklemesiyle başlayan olaylar zinciri var. Hugging Face saldırısının ilk kez bildirilmesinden bu yana OpenAI, Anthropic, Google ve Meta dahil olmak üzere çeşitli şirketlerde olaylar belgelendi. Bu olaylar arasında gerçek dünyadaki hedeflere yönelik saldırılar ve çevrimiçi mesaj panolarını ele geçiren yapay zeka ajanı sürüleri yer alıyor.

Panelin mesajı net: Yapay zeka güvenliği artık yalnızca teknik bir tartışma değil, küresel bir yönetişim sorunu. Ve bu sorun, kanıtların tamamlanmasını bekleyemeyecek kadar acil.