AI Halüsinasyonu ABD Askeri Operasyonunu Neredeyse Başlatıyordu

Son Anda Dönen Felaket

Bu bahar, ABD yetkilileri endişe verici bir keşif yaptığında askeri uçaklar çoktan havalanmıştı: Bir Çin gemisine yönelik silahlı operasyonu yönlendiren istihbarat, bir yapay zeka sohbet robotu tarafından halüsinasyonla üretilmişti. CNN'in cuma günü bildirdiğine göre operasyon son anda iptal edildi ve Çin ile potansiyel bir çatışma kıl payı önlendi. Bu olay, askeri yetkililer ve dış uzmanlar arasında büyüyen bir endişeyi gözler önüne seriyor: Karar vericiler yapay zekaya daha fazla bel bağladıkça, bu sistemlerin ürettiği hatalar sorgulanmadan önce komuta zincirinde yukarılara kadar ilerleyebiliyor.

Hatalı İstihbarat Nasıl Yayıldı?

İran ile savaş sırasında dolaşıma giren istihbarat raporu, geminin nükleer silah programı için bileşenler taşıdığını iddia ediyordu. Yanlış istihbarat, açık kaynak verilerini gizli sinyal istihbaratıyla sentezlemek için bir yapay zeka sohbet robotuna başvuran bir Özel Harekat Komutanlığı analistiyle başladı. Sohbet robotu, geminin kargo manifestosunu yanlış tanımladı. Analist daha sonra aracı ikinci kez kullanarak hatalı bulguları resmi görünümlü bir özete dönüştürdü ve bu özet komuta kanallarında dolaşıma girdi.

Yapay Zeka Yarışı ve Riskler

Bu olay, ABD ordusunun karar alma süreçlerini hızlandırmak ve Çin karşısında üstünlüğünü korumak için yapay zekayı entegre etme yarışına girdiği bir dönemde yaşandı. Pentagon, yapay zekanın komutanların doğru zamanda yanıt verebilmesi için öldürme zincirini hızlandırmada önemli bir avantaj sağladığını belirtiyor. Ancak yapay zekayı çekici kılan bu hız, yeterli insan gözetimi olmadan halüsinasyonların da hızla yayılmasına olanak tanıyabiliyor. GovAI araştırmacısı ve ABD Ordusu gazisi Jake Steckler, TechCrunch'a yaptığı yazılı açıklamada, "Askeri personelin LLM'lerin doğasında var olan belirsizliği anlaması önemlidir" dedi. "Ancak bu, hedef belirleme, istihbarat analizi veya operasyonel planlama gibi güç kullanımına yol açabilecek kararlar için özellikle kritiktir. Bu kararların hayat ve ölüm sonuçları vardır."

Çözüm: Daha Fazla Güvenlik Önlemi

Steckler yine de bu olayın yapay zekadan kaçınmak için değil, daha fazla güvenlik önlemi eklemek için bir çağrı olması gerektiğini söylüyor. "Bu araçlar doğru bağlamlarda ve doğru güvenlik önlemleriyle faydalı olabilir" diyor. "Ancak her şeyden önce benimseme hızına öncelik vermek, askeri personelin bu sistemlere olan güvenini kaybetmesine yol açacak olaylara neden olabilir ve bu da sonuçta benimsemeyi yavaşlatır."