Yapay Zeka Halüsinasyonu ABD ile Çin'i Savaşın Eşiğine Getirdi!

İstihbarat Raporunda Yapay Zeka Hatası: Savaşın Eşiğinden Dönüldü

ABD ordusu, yapay zeka araçlarıyla hazırlanan 'tamamen yanlış' bir istihbarat raporu nedeniyle bir Çin gemisine müdahale etmekten son anda vazgeçti. CNN'in haberine göre, ABD Özel Harekât Komutanlığı'nda görevli bir analist tarafından sunulan hatalı rapor, Çin gemisinin Orta Doğu üzerinden nükleer silah programı bileşenleri taşıdığını öne sürüyordu. Dört kaynağa dayandırılan habere göre, ABD ordusu havadan destekle gemiyi durdurup arama yapmaya hazırlanıyordu ki, raporu oluşturmak için kullanılan bir sohbet robotunun gemideki malzemeyi 'yanlış tanımladığı' ortaya çıktı. Bir kaynak, bu yapay zeka kaynaklı krizin 'neredeyse bir savaş başlattığını' söyledi.

Sohbet Robotu İstihbaratı Nasıl Karıştırdı?

CNN'e göre, söz konusu analist, Çin gemisinin manifestosuyla ilgili istihbarat raporlarını analiz etmek için bir sohbet robotu kullandı. Bu robot, açık kaynak istihbaratını hükümetteki gizli sinyal istihbaratıyla birleştirdi ve ortaya çıkan bilgi, neredeyse felaketle sonuçlanacak bir olaylar zincirini tetikleyecek bir istihbarat raporuna dönüştü. Bu olay, bir yapay zeka halüsinasyonunun profesyonel bir raporun güvenilirliğini nasıl yok edebileceğinin en çarpıcı örneklerinden biri olarak kayda geçti.

Halüsinasyon Nedir ve Neden Önlenemiyor?

Yapay zeka 'halüsinasyonu', bir modelin eğitim verilerinde yeterli bağlam olmadığında tamamen uydurma bilgiler üretmesi anlamına geliyor. 2023'te Cambridge Sözlüğü tarafından yılın kelimesi seçilen bu kavram, o tarihten bu yana kurgu yazarlarından gazetecilere, akademisyenlerden yargıçlara, doktorlardan polis departmanlarına ve çağrı merkezlerine kadar pek çok alanda ciddi sorunlara yol açtı. Bazı araştırmacılar, büyük dil modellerinin (LLM) halüsinasyon görmesini tamamen engellemenin imkânsız olabileceğini öne sürüyor. 'Halüsinasyon yapma' talimatları bile bu sorunu çözmeye yetmiyor.

Ordu Yapay Zeka Kullanımını Hızlandırıyor

Tüm bu risklere rağmen ABD ordusunun yapay zeka kullanımı hız kesmeden artıyor. Ocak ayında Savunma Bakanlığı, 'tüm uygun verileri federal BT sistemlerinde yapay zeka kullanımına sunmayı' amaçlayan bir 'yapay zeka hızlandırma stratejisi' başlattı. Savunma Bakanı Pete Hegseth, 'Yapay zeka ancak aldığı veri kadar iyidir ve biz o verinin orada olduğundan emin olacağız' dedi. Geçtiğimiz Aralık ayında bakanlık, özel 'GenAI.mil' platformunun temeli olarak Google'ın Gemini for Government sürümünü kullanacağını duyurdu. Geçen ay ise platforma Grok for Government seçeneği eklendi. Anthropic de ABD casusluk faaliyetleri için özelleştirilmiş bir Claude sürümü sunuyor. Haziran ayında bir Pentagon temsilcisi Kongre'ye, yapay zekayı Kongre tarafından zorunlu kılınan raporları hazırlamak için kullandıklarını ve 1,5 milyon aktif Savunma Bakanlığı personelinin ordunun üretken yapay zeka araçlarını kullandığını söylemişti.

2023'te Dışişleri Bakanlığı'nın 'Askeri Yapay Zeka ve Otonomi'nin Sorumlu Kullanımına İlişkin Deklarasyonu', silahlı kuvvetlerin yapay zekayı 'ilkeli' kullanmasının 'riskleri ve faydaları dikkatle değerlendirmesi ve istenmeyen önyargı ile kazaları en aza indirmesi' gerektiğini vurgulamıştı. Aynı rapor, 'hesap verebilir' yapay zeka kullanımının her zaman 'döngüde bir insan, sorumlu bir insan komuta ve kontrol zinciri' içermesi gerektiğini belirtiyordu. Ancak o günden bu yana, Ukrayna'daki Rus çatışmasında tam otonom saldırı droneleri kullanıldı ve NATO destekli askeri müteahhitler tarafından test edildi. Bu son olay, yapay zekanın askeri alanda hızla yaygınlaşmasının ne kadar büyük riskler taşıdığını bir kez daha gözler önüne seriyor.