Teknoloji devi Meta, çocuk güvenliği konusunda ciddi bir eleştiriyle karşı karşıya. Facebook ve Instagram'da yayınlanan, yapay zeka ile oluşturulmuş çocuk istismarı materyali (CSAM) içeren reklamların kaldırılması günler aldı. Yapılan bir araştırma, bu reklamların bazılarında gerçek çocukların fotoğraflarının kullanıldığını ortaya çıkardı.
Yapay Zeka ile Nudify Uygulamaları
Tech Transparency Project (TTP) tarafından yürütülen soruşturma, Meta'nın bu yıl içinde 332 CSAM içeren reklamı tespit edemediğini gösteriyor. Reklamların büyük çoğunluğu Çin'de üretilen yapay zeka uygulamalarını tanıtırken, birçoğu da 'nudify' olarak bilinen, kötü niyetli kişilerin çocukların görüntülerini dijital olarak değiştirmesine olanak tanıyan uygulamaları öne çıkarıyordu. TTP, birden fazla CSAM reklamını internette yayınlanan gerçek çocukların fotoğraflarıyla eşleştirdi.
Gerçek Çocukların Görüntüleri İstismar Ediliyor
Rapora göre, Avrupa'da genç bir kraliyet ailesi üyesinin basın fotoğrafı, cinsel içerikli bir video oluşturmak için kullanıldı. 14 yaşındaki bir Instagram fenomeninin fotoğrafı da benzer şekilde istismar edildi. Üçüncü bir kurban ise stok fotoğraflardan alınan bir okul öncesi kız çocuğu. TTP, bu reklamlardaki çocukların büyük çoğunluğunun ergenlik öncesi kızlar olduğunu belirtiyor.
Reklam başlıklarında kullanıcıları tıklamaya teşvik eden ifadeler yer alıyor: 'Sana daha fazlasını gösterebilirim' veya 'Yapay zekamız gizli arzularını hipnotik videolara dönüştürüyor. Karanlık, baştan çıkarıcı, unutulmaz.' Bazı reklamlarda ise 'Hiçbir kısıtlama yok. Tüm karakterler gerçek insanlar ve birçok seçenek var. Bu, erkeklerin gerçekten kullandığı yapay zeka.' gibi ifadeler yer alıyor.
Meta'nın Yetersiz Tepkisi
TTP, Ağustos ayında 53 reklamı bildirdikten sonra Meta'nın 'çocuk istismarını daha iyi tespit etmek için yeni sistemler devreye aldığını' duyurduğunu ancak buna rağmen yüzlerce yeni CSAM reklamının yayınlanmaya devam ettiğini vurguladı. Wired'ın analizi de benzer dil kullanan yüzlerce reklam buldu. Ayrıca, yetişkinlerin rızası olmadan 'nudify' edildiği reklamlar da tespit edildi.
TTP'nin bağlı olduğu Campaign for Accountability'in yöneticisi Michelle Kuppersmith, Meta'nın 18 milyar dolarlık (yaklaşık 870 TL'lik bir anlaşma değil, tarihi bir uzlaşma olduğunu belirtelim) bir uzlaşma sonrası çocuk güvenliği için değişiklik yapmayı kabul ettiğini ancak reklam onay sürecinde iyileştirmeler gerektiğini söyledi. Meta, TTP'nin bildirdiği reklamları kaldırdığını ancak TTP, reklamların silinmesinde zaman zaman yavaş davranıldığını ve politikaların tutarsız uygulandığını belirtti.
Bu durum, teknoloji şirketlerinin yapay zeka destekli zararlı içerikleri engellemekte ne kadar zorlandığını ve çocuk güvenliği için daha etkili önlemler alınması gerektiğini bir kez daha gözler önüne seriyor.
Henüz yorum yok — ilk yorumu sen yaz!