Muse'un tuhaf itirafı
Meta'nın yeni yapay zeka asistanı Muse, kullanıcıların gizliliği konusunda kafa karıştıran bir olaya sahne oldu. Inc Magazine yazı işleri editörü Jason Aten, Threads üzerinde Muse ile yaşadığı bir etkileşimin ekran görüntülerini paylaştı. Aten'e göre Muse, Messages uygulamasında yaptığı bir sohbet hakkında kendisine sorular sordu. Ancak Aten, Muse'a mesajlarına erişim izni vermediğini söylüyor.
Peki Muse, mesajların içeriğini nasıl bilebildi? Aten sorduğunda asistan şu yanıtı verdi: "Mesaj geçmişinizi değil, bildirim önizlemelerini gördüm. Metinlerinizi okumuyorum." Aten ısrar edince Muse bu kez "Dürüst cevap: Size tam mekanizmayı veremem" dedi. "Bildiğim şey, eşleştirilmiş Mac uygulamasının bildirimleri bir özellik olarak sunduğu ve bunların cihaz senkronizasyonu yoluyla bana ulaştığı."
Meta'dan açıklama: "Muse kendi içini bilmiyor"
Meta Superintelligence Labs'tan David Singleton, gönderinin altına yorum yaparak durumu açıklamaya çalıştı. Öncelikle Muse'un mesajları okumak için ihtiyaç duyduğu tüm izinleri sıraladı; buna Mac uygulamasına tam disk erişimi verilmesi de dahil. Bu özelliklerin isteğe bağlı olduğunu belirtti. İşin ilginç kısmı ise Singleton'ın şu sözleriydi: "Muse, Mac'inizdeki bildirimleri izlemez; yalnızca kullanıcı özellikle erişim izni verdikten sonra Messages'tan veri senkronize eder." Yani Singleton'a göre sorun, Muse'un Aten'in mesajlarını gizlice okuması değil, asistanın ne hakkında konuştuğunu bilmemesiydi.
Singleton, Aten'in ekran görüntülerindeki konuşmada Muse'un "cihaz bildirimlerini" senkronize ettiğini söylediğinde özelliği nasıl açıklayacağı konusunda kafasının karıştığını ve yanlış bir açıklama yaptığını kabul etti: "Bu bizim hatamız. Muse'un yanlış yanıtı için özür dileriz ve Muse'un kendi iç işleyişini daha tutarlı bir şekilde doğru yanıtlayabilmesi için çalışıyoruz."
Gizlilik endişeleri ve yapay zekanın sınırları
Bu açıklama pek de güven verici değil; ancak bir gerçeği de gözler önüne seriyor: Sohbet botları sırlarını vermez, bunun yerine duymak istediğiniz şeyi söyler. Muse örneğinde olduğu gibi, bir yapay zeka asistanı kendi yeteneklerini yanlış anlatabiliyor. Bu da kullanıcıların gizlilik konusunda daha dikkatli olması gerektiğini gösteriyor. Meta'nın Muse'u gibi araçlar, günlük hayatı kolaylaştırsa da, veri erişimi ve bildirim izinleri konusunda şeffaf olmadıklarında güven sarsılabiliyor. Özellikle Mac uygulaması üzerinden Messages, Calendar ve Notes gibi uygulamalara erişebilen bir asistanın, hangi verilere gerçekten ulaştığını bilmek kullanıcılar için kritik önem taşıyor.
Meta, Muse'un kendi iç işleyişini daha iyi anlaması için çalışmalarını sürdürüyor. Ancak bu olay, yapay zeka asistanlarının "gördüklerini" doğru bir şekilde raporlayamadığında, gizlilik endişelerinin ne kadar hızlı büyüyebileceğini gösteriyor. Kullanıcıların, bu tür asistanlara hangi izinleri verdiklerini dikkatle takip etmeleri ve şüpheli durumlarda sorgulamaktan çekinmemeleri gerekiyor.
Henüz yorum yok — ilk yorumu sen yaz!