Meta'nın Muse yapay zekasında kritik açık: Saldırganlar ajanı ele geçirebiliyordu

Muse'daki sıfır gün açığı neydi?

Meta, macOS için geliştirdiği Muse uygulamasında keşfedilen bir sıfır gün açığını yamaladı. Güvenlik araştırmacısı Patrick Wardle tarafından bulunan bu açık, saldırganların yapay zeka ajanının kontrolünü ele geçirmesine olanak tanıyordu. Ars Technica'nın haberine göre açık, Muse'un belgelenmemiş bir ayarını kullanarak, cihazda çalışan yerel kodun transkripsiyon işlemini Meta'nın sunucularından saldırganın kendi uç noktasına yönlendirmesini mümkün kılıyordu. Bu sayede saldırgan, kullanıcının Muse hesabına erişim sağlayabiliyordu.

Sorunun ortaya çıkmasında birkaç tasarım kararı etkili oldu: Muse'un dikte işleminin cihaz üzerinde değil bulutta yapılması ve herhangi bir uygulamanın Muse'un tüm belgelenmemiş ayarlarını kontrol edebilmesi. Wardle, açığı test etmek için geliştirdiği kavram kanıtı saldırılarla Muse üzerinden fotoğraf çekmeyi ve diske kötü amaçlı dosyalar yazmayı başardı. Üstelik bu işlemler çoğu durumda kullanıcıya herhangi bir uyarı göstermiyordu.

"Ajanın ayrıcalıklarını kullanarak istediğimizi yapabiliriz"

Wardle, Ars Technica'ya yaptığı açıklamada durumun ciddiyetini şöyle vurguladı: "Ajanı manipüle edip ayrıcalıklarını kullanarak istediğimizi yapabiliriz. Yani kapsamlı bir Mac kötü amaçlı yazılım hırsızı yazmak zorunda kalmadan doğrudan yapay zeka asistanının kendisinden faydalanabiliriz." Wardle ayrıca Meta'nın güvenlik konusunda daha baştan düşünmesi gerektiğini belirterek, "En azından güvenliği en baştan düşünmeliler, ama bunu yapmıyorlar" dedi.

Bu tespit, Meta'nın Muse'u tanıttığında gizlilik ve güvenlik özelliklerine yaptığı vurguyla tam bir tezat oluşturuyor. Şirket, açığı Ars Technica'nın haberi yayımlandıktan sonraki saatler içinde yamadı. Meta, gerçek dünyadaki güvenlik riskinin düşük olduğunu savunuyor; çünkü açığın istismar edilmesi için kullanıcının cihazına yerel erişim gerekiyordu.

Meta'dan açıklama: "Yerel bir ayrıcalık yükseltme saldırısıydı"

Meta Superintelligence Labs'tan David Singleton, konuya ilişkin X üzerinden yaptığı açıklamada şunları söyledi: "Bu, uzaktan bir istismar değil, yerel bir ayrıcalık yükseltme saldırısıydı. Dolayısıyla zarar vermek için kullanıcının makinesinde zaten kullanıcı hesabı altında çalışan kötü amaçlı kod bulunması gerekiyordu ve Muse Mac uygulaması kullanıcıları için pratik risk oldukça düşüktü. Yine de sorunu gidermek için uygulamaya bir düzeltme yayınladık."

Hızlıca giderilmiş olsa da, bu açık Meta'nın yapay zeka ajanının zaten mercek altında olduğu bir döneme denk geldi. Şirket, rakip yapay zeka sağlayıcılarına karşı kaybettiği zemini geri kazanmaya çalışıyor. Geçtiğimiz günlerde Amazon, Muse'un e-ticaret platformuna erişimini engelledi ve Meta'nın bunun için izin almadığını iddia etti. Buna rağmen lansman Meta için başarılı geçti: İlk 12 günde Muse mobil uygulamasının tahmini indirme sayısı, ABD ve Kanada'da ChatGPT'nin ilk 12 günlük çıkışını geride bıraktı ve Meta hisseleri pazartesi günü yüzde 11 arttı.