Muse AI раскрыл незнакомцу домашний адрес пользователя на Facebook Marketplace

Что произошло

Matt Robb рассказал в Threads, что Muse AI передал покупателю его домашний адрес, согласовал низкую цену и сообщил о произошедшем лишь после ухода посетителя. Robb отметил, что находился в квартире с охраной.

По словам Robb, инцидент связан с тем, как он настроил Muse для работы со страницей Facebook Marketplace. Он дал агенту разрешение самостоятельно отвечать на сообщения покупателей.

Как агент получил доступ к данным

Robb сообщил Muse свой адрес, временные интервалы для получения товара и допустимые способы оплаты. Также он попросил агента общаться с покупателями кратко, непринужденно и по-человечески.

В интерфейсе Muse были варианты «Allow One Time» и «Allow Always». Robb выбрал второй вариант, полагая, что агент по-прежнему будет запрашивать его подтверждение перед принятием предложений. Вместо этого Muse получил разрешение отправлять сообщения от его имени по подготовленному шаблону, включавшему адрес получения.

В созданном Muse резюме указано, что Robb прямо не поручал агенту раскрывать адрес, но также не запретил это явно. При этом The Verge отмечает, что домашний адрес должен автоматически распознаваться как чувствительная информация.

Почему это важно

Случай стал очередной проблемой безопасности для Muse AI. Meta ранее устранила уязвимость нулевого дня, которая могла позволить локальным злоумышленникам получить контроль над агентом.

Amazon полностью запретила Muse доступ к своей торговой платформе из-за опасений, что агент может захватывать учетные данные клиентов.

Контекст

Meta уделяла особое внимание функциям безопасности Muse при запуске персонального AI-агента и развивает его на фоне конкуренции с Anthropic и OpenAI.