Yapay Zeka Filigranı Tehlikeli İstekleri Engelleyemiyor: Yeni Araştırma

Filigranlama Nedir ve Neden Önemli?

Avrupa Birliği'nin yeni yasaları, yapay zeka platformlarının ürettiği içeriği filigranlamasını zorunlu kılıyor. Bu yöntem, bir modelin çıktısının yapay zeka tarafından üretildiğini belirlemek için gizli bir sinyal yerleştiriyor. Google'ın açık kaynak olarak sunduğu SynthID-Text, bu amaçla kullanılan yöntemlerden biri. Anthropic de gelecekteki Claude modellerinde SynthID-Text'i kullanacağını açıkladı. SynthID, modelin bir sonraki kelimeyi seçme sürecini gizli bir anahtarla hafifçe değiştiriyor. Örneğin, normalde 'bulutlu' seçilecekse, anahtar 'kapalı' gibi bir kelime seçilmesine neden olabiliyor. Bu sayede anahtarı bilen kişiler, metnin o platform tarafından üretilip üretilmediğini tespit edebiliyor.

Filigranlama Güvenlik Açığı mı Yaratıyor?

Ancak yeni bir araştırma, SynthID-Text'in sadece kelime seçimini değil, aynı zamanda modelin hangi araçları kullandığını ve güvenlik kurallarına uyup uymayacağını da etkileyebildiğini ortaya koydu. Özellikle zararlı istekler içeren istemlerde (prompt injection) bu etki daha belirgin hale geliyor. Normalde reddedilecek talimatlar, filigranlama devreye girdiğinde bazen yerine getirilebiliyor. Lasso Security'de yapay zeka güvenlik araştırmacısı Andrea Siposova, Ars Technica'ya yaptığı açıklamada, "Filigranlama, okuyucu tarafından fark edilmemek üzere tasarlanmıştır, ancak modelin ürettiği herhangi bir şeyi değiştirdiğimizde bunun bir bedeli olacak ve bir yerde kendini gösterecektir" dedi.

Deneyin Detayları ve Sonuçları

Siposova, Hugging Face'teki değiştirilmemiş SynthIDTextWatermarkLogitsProcessor aracını kullanarak SynthID-Text'in 'bozulmaya yol açmayan' yapılandırmasını test etti. Altı açık ağırlıklı modele zararlı istemler gönderdi ve filigranlama açıkken ve kapalıyken yanıtları karşılaştırdı. Deney, filigranlamanın zararlı isteklere verilen yanıtları değiştirdiğini, özellikle istem enjeksiyonu teknikleriyle birleştirildiğinde etkinin daha da arttığını gösterdi. Siposova, "Filigranlama, basit zararlı isteklerde reddetme davranışını değiştiriyor, ancak aynı istekler istem enjeksiyonu ile eşleştirildiğinde etki daha belirgin oluyor. Birkaç modelde filigranlama, modelin normalde reddedeceği zararlı isteklere yanıt verme olasılığını artırıyor" diye yazdı. Bu bulgu, geliştiricilerin modellerini ve ajanlarını filigranlama etkinken iyice test etmeleri gerektiğini vurguluyor.

Gelecek İçin Çıkarımlar

Filigranlama, yapay zeka içeriğinin kaynağını belirlemede önemli bir adım olsa da, güvenlik açısından beklenmedik sonuçlar doğurabiliyor. Özellikle ajan tabanlı sistemlerde, filigranlama nedeniyle modellerin araç çağırma davranışları değişebiliyor ve bu da kötü niyetli aktörler için yeni kapılar aralayabiliyor. Uzmanlar, bu tür yan etkileri en aza indirmek için daha fazla araştırma yapılması gerektiğini belirtiyor. Yapay zeka güvenliği ve filigranlama arasındaki denge, önümüzdeki dönemde daha fazla tartışılacak gibi görünüyor.