Meta'nın Muse yapay zekası, macOS'ta güvenlik açığıyla sarsıldı

Meta'nın Muse'u: Güvenlik vaatleri ve gerçekler

Meta, son iki haftadır yeni kişisel yapay zeka ajanı Muse'un ne kadar güvenli olduğunu anlatmakla meşguldü. Şirket, özel bir Secure VM, Sentinel adında bir izleme sistemi ve 300.000 dolara kadar ödül veren hata avcılığı programıyla övünüyordu. Mark Zuckerberg bile ajanın "baştan itibaren gizlilik ve güvenlik için tasarlandığını" açıkça belirtmişti. Ancak macOS güvenlik araştırmacısı Patrick Wardle, Mac'teki Muse uygulamasında bir 0-day güvenlik açığı buldu ve son 24 saat gerçekten de "hiç de eğlenceli değildi" (Wardle'ın esprili bir şekilde "not-a-musing" adını verdiği bulgu).

Muse nedir ve neden riskli?

Eğer yapay zeka haber döngüsünü takip etmekte zorlanıyorsanız, Muse Meta'nın bu ay başında Mac'te kullanıma sunduğu yeni kişisel yapay zeka ajanı. Bir sohbet robotundan çok, sizin adınıza e-postalar göndermek, formları doldurmak, ödemeleri yönetmek ve alışveriş yapmak gibi işleri uygulamalarınız ve hesaplarınız arasında gerçekleştirmek için tasarlanmış. Ancak tüm bunları yapabilmesi için ona çok geniş erişim yetkisi vermeniz gerekiyor (1. hata).

Wardle'ın bulduğu açık: Yerel saldırı vektörü

Wardle, Mac'te yerel olarak çalışan herhangi bir uygulamanın veya Terminal komutunun, özel macOS izinleri gerektirmeden bir dizi belgelenmemiş Muse ayarını değiştirebildiğini keşfetti. Bu ayarlardan biri olan endo_voyager_dictation_endpoint, dikte edilen komutlarınızın nereye gönderileceğini kontrol ediyor. Bir saldırgan bu ayarı Meta'nın sunucularından kendi kontrolündeki bir sunucuya yönlendirebilir. Böylece kullanıcı bir sonraki dikte komutunu verdiğinde, bu komut saldırgana gider. Saldırgan buradan Muse hesabınızı doğrulayan token'ı ele geçirip ajanı kontrol edebilir. Wardle bunu birkaç kavram kanıtı saldırısıyla gösterdi: Mac'e kötü amaçlı dosyalar yazmak ve hatta kamerayla fotoğraf çekmek. Ayrıca ele geçirilmiş bir Muse hesabıyla bağlı bir iPhone'un konumunu bile çekti.

Yerel ama tehlikeli: ClickFix uyarısı

Net olmak gerekirse, bu uzaktan bir saldırgana Muse çalışan her Mac'e anında erişim sağlamıyor. Bu yerel bir saldırı; önce makinenizde kod çalıştırmanın bir yolunu bulmaları gerekiyor. Ancak bir ClickFix tarzı saldırıyla bir Mac kullanıcısını Terminal'e bir komut yapıştırmaya kandırmak yeterli. Ve işte oldu. Wardle ayrıca Apple'ın geliştiricilere zaten cihaz üzerinde dikte özelliği sunduğunu belirtti. Meta bunu kullansaydı, bu hata hiç var olmayacaktı. Bunun yerine Muse, sesinizi işlenmek üzere sunucularına gönderiyor (2. hata). İyi haber şu ki Meta'nın bir düzeltme yayınladığı bildirildi. Mac'te Muse kullanıyorsanız, en kısa sürede güncelleyin. Ancak unutmayın, basit bir ClickFix saldırısıyla uzaktan bir saldırgan, Muse çalışan her kurban cihaza tam erişim sağlayabilir.