Yapay Zeka Kaynaklı Sahte Rapor Neredeyse Savaş Çıkarıyordu
Teknoloji dünyası bir yandan yapay zekanın sağladığı kolaylıkları konuşurken, diğer yandan kontrolsüz kullanımının nelere yol açabileceğine dair çarpıcı bir iddia gündeme geldi. CNN'in haberine göre, ABD ordusu Orta Doğu'da bir Çin gemisine saldırmaya çok yaklaştı. Nedeni ise kısmen yapay zeka tarafından üretilmiş, gerçek dışı bir istihbarat raporuydu. Habere konuşan bir kaynak, olayın "neredeyse bir savaş başlattığını" söylüyor. Bu ifade, yapay zekanın hassas savunma işlerine entegre edilmesinin risklerini çarpıcı biçimde gözler önüne seriyor.
Engadget'ın aktardığına göre, söz konusu değerlendirme bir özel harekat komutanlığı analisti tarafından hazırlandı. Analist, Çin gemisinin yük manifestosunu öğrenmek için bir yapay zeka sohbet robotuna başvurdu. CNN'in iddiasına göre chatbot, "açık kaynak istihbaratı ile gizli sinyal istihbaratını" birleştirerek geminin "nükleer silah programına ait bileşenler" taşıdığı sonucuna vardı. Bu sonuç, yetkililer raporun yapay zeka tarafından üretildiğini fark edene kadar ordunun gemiyi ele geçirmesine neredeyse yol açıyordu.
Gerçek Yük Neydi, Hangi Yapay Zeka Kullanıldı?
CNN, geminin gerçekte ne taşıdığını ve analistin hangi yapay zeka aracını kullandığını tespit edemedi. Kullanılan aracın ticari bir ürün mü yoksa ABD hükümeti için özel olarak geliştirilen bir sistem mi olduğu da bilinmiyor. Ancak Savunma Bakanlığı'nın genel olarak yapay zeka benimseme yönündeki baskısı göz önüne alındığında, potansiyel olarak birden fazla seçenek bulunuyor. Ocak ayında Savunma Bakanı Pete Hegseth, bakanlığa "önce yapay zeka" ilkesini benimsemesini ve önde gelen ABD'li yapay zeka şirketlerinin modelleriyle deneyler yapmasını emreden bir muhtıra yayımlamıştı. Bu hamle, savunma alanında yapay zeka kullanımını hızlandırmayı amaçlıyordu.
Ancak bu süreç her şirketle planlandığı gibi yürümedi. Anthropic, modellerinin otonom silah geliştirmede kullanılmasına izin vermeyi reddetti ve kısa süreliğine hükümet tarafından yasaklandı. Buna rağmen başka yapay zeka ortaklıkları kuruldu. Örneğin SpaceXAI'ın Şubat ayında ordunun Grok'u kullanmasına izin veren bir anlaşma yaptığı bildirildi. Mayıs ayında ise NVIDIA, Microsoft ve Amazon, yapay zeka teknolojilerini Savunma Bakanlığı'na sunmak üzere bir ortaklık kurdu. Bu tür hükümet anlaşmaları şirketler için oldukça kârlı; bu yüzden peşinden gidiliyor. Ancak yapay zekanın yaygınlaşmasına yardımcı olmak, sıradan kurumsal yazılımlarda olmayan riskleri de beraberinde getiriyor.
Yapay Zeka ve Savunma: İnce Bir Çizgi
Yaşanan bu olay, yapay zekanın askeri karar alma süreçlerinde ne kadar dikkatli kullanılması gerektiğini bir kez daha gösteriyor. Yanlış veya yanıltıcı bir çıktı, sıradan bir uygulamada sadece bir hata mesajına yol açarken, savunma gibi kritik bir alanda uluslararası krize kapı aralayabiliyor. Uzmanlar, yapay zeka destekli istihbaratın mutlaka insan doğrulamasından geçirilmesi gerektiğini vurguluyor. CNN'in haberine göre olayın tam olarak nasıl önlendiği ve hangi aşamada fark edildiği henüz netleşmiş değil. Engadget, Savunma Bakanlığı'ndan konuya ilişkin yorum talebinde bulundu; yanıt gelirse haber güncellenecek. Bu tür olaylar, yapay zekanın hızla hayatımıza girmesiyle birlikte denetim ve güvenlik mekanizmalarının ne kadar hayati olduğunu bir kez daha hatırlatıyor.
Henüz yorum yok — ilk yorumu sen yaz!