Altı Çinli şirket suçlandı
ABD Ulusal Güvenlik Ajansı (NSA), Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) ile Federal Soruşturma Bürosu (FBI), salı günü ortak bir açıklama yayınlayarak altı Çinli yapay zeka şirketini ABD'nin sınır (frontier) yapay zeka modellerini endüstriyel ölçekte damıtmakla suçladı. Listede DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun ve Z.AI yer alıyor. Kurumlara göre bu şirketler en az 2024 sonundan bu yana ABD modellerine yönelik saldırılar düzenliyor ve sözde faaliyetleri Çin hükümetinin bilgisi dahilinde yürütüyor.
Damıtma (distillation), genellikle büyük ve pahalı bir modelin çıktılarının daha küçük bir modele öğretilmesi anlamına geliyor. Bu yöntem meşru araştırmalarda da kullanılsa da, ajanslar burada Claude, GPT, Gemini ve Grok gibi modellerin yeteneklerinin izinsiz şekilde çekildiğini öne sürüyor.
Zaman ve maliyet avantajı
Ajanslar, "ABD yapay zeka modellerine karşı endüstriyel ölçekte damıtma yapan Çinli şirketlerin, sınır modeli eğitiminde belirgin şekilde daha kısa geliştirme süreleri ve daha düşük maliyetler elde ettiğini" belirtiyor. Açıklamada, bu tür faaliyetlerin ABD'nin yapay zeka yarışındaki liderliğini tehdit ettiği vurgulanıyor ve tüm Amerikan yapay zeka firmalarının hükümetle ve müttefiklerle iş birliği yapması gerektiği ifade ediliyor.
Suçlamaya göre saldırı yöntemleri arasında yapay zeka modeli çıkarım API'lerini kötüye kullanmak yer alıyor. Şirketler, sahte hesapları toplu halde satın alarak binlerce ila milyonlarca benzer istem (prompt) gönderiyor. Bu hesaplar gerçek kullanıcılara ait olmadığı için coğrafi kısıtlamaları aşmak amacıyla proxy ağlarından yararlanılıyor.
Bir diğer yöntem ise istem enjeksiyonu (prompt injection) ile modelleri jailbreak etmek. Örneğin DeepSeek'in, modellere tamamlanmış yanıtların ardındaki içsel akıl yürütmeyi hayal edip adım adım yazmalarını söyleyen istemler kullandığı iddia ediliyor.
Önerilen savunma adımları
Ajanslar, ABD'li firmalara yönelik bir dizi önlem öneriyor:
- Anormal ve kötü niyetli istem, hesap, ağ ve davranışların izlenmesinin artırılması
- Abonelik-kullanım oranı şüpheli hesapların işaretlenmesi
- Yeni açılan hesapların anında maksimum kullanıma ulaşmasının takibi
- Kullanıcı kimlik doğrulamasının güçlendirilmesi ve kurumsal aboneliklerin daha yakından izlenmesi
Ajanslar ayrıca, Çinli firmaların ABD'li şirketlerin premium aboneliklerini toplu satın alıp geliştirici ekipleri arasında paylaştığını belirterek, bu tür kullanımların tespit edilmesi gerektiğini söylüyor. Son olarak, model yanıtlarının yeteneklerinin kısıtlanması gibi ek önlemler de gündeme getiriliyor.
Bu suçlamalar, yapay zeka dünyasında rekabetin ne kadar sertleştiğini gözler önüne seriyor. ABD'nin sınır modelleri, geliştirilmesi milyarlarca doları bulan yatırımlar gerektiriyor; bu nedenle yeteneklerin izinsiz kopyalanması hem ticari hem de jeopolitik bir mesele haline gelmiş durumda.
Henüz yorum yok — ilk yorumu sen yaz!