Meta исправила уязвимость в ИИ-агенте Muse для macOS

Что произошло

Исследователь безопасности Patrick Wardle обнаружил уязвимость нулевого дня в приложении Muse для macOS. Она использовала неописанную настройку, с помощью которой локально запущенный код мог перенаправить обработку диктовки с серверов Meta на адрес, контролируемый атакующим.

В результате злоумышленник мог получить доступ к аккаунту Muse и управлять возможностями ИИ-агента. Meta выпустила исправление после публикации сведений об уязвимости.

Как работала атака

По данным расследования, уязвимости способствовали два решения в архитектуре Muse: обработка диктовки в облаке, а не на устройстве, и возможность любого приложения управлять всеми неописанными настройками Muse.

В ходе проверок Patrick Wardle смог с помощью Muse делать фотографии и записывать вредоносные файлы на диск. Во многих случаях приложение не уведомляло пользователя об этих действиях.

Meta заявила, что атака была локальным повышением привилегий, а не удалённым взломом. Для причинения вреда на устройстве уже должен был выполняться вредоносный код от имени пользователя.

Почему это важно

Инцидент произошёл на фоне заявлений Meta о конфиденциальности и безопасности Muse. Patrick Wardle заявил, что злоумышленник может использовать самого ИИ-помощника вместо создания отдельной сложной вредоносной программы.

Meta оценила практический риск для пользователей приложения Muse как достаточно низкий из-за требования локального доступа, но всё равно выпустила срочное исправление.

Контекст

Уязвимость появилась в период повышенного внимания к Muse, поскольку Meta пытается конкурировать с другими поставщиками ИИ. Amazon ранее заблокировала Muse доступ к своей платформе электронной коммерции, заявив, что Meta не получала разрешения на такой доступ.

При этом запуск Muse оказался успешным для Meta: за первые 12 дней предполагаемое число загрузок мобильного приложения превысило результат ChatGPT за первые 12 дней в США и Канаде. В понедельник акции Meta выросли на 11 процентов.