Внутренние тесты Muse выявили неожиданный доступ к данным и сбои
Сотрудники Meta сообщили о странных ответах Muse, включая возможную путаницу между чатами и вымышленные банковские и биткоин-балансы. В Meta назвали случаи изолированными галлюцинациями и заявили, что многие из них уже исправлены
Один основной источник · Как мы проверяем новости

Что произошло
После жалоб первых пользователей на слежку за личными сообщениями и непредсказуемое поведение Muse внутренние обсуждения Meta показали, что сотрудники компании сталкивались с похожими проблемами во время тестирования.
Сотрудники предупреждали о возможном доступе агента к зашифрованным личным сообщениям, смешивании разговоров между пользователями и появлении чувствительной информации без соответствующего запроса.
Странные ответы агента
Muse отправлял сообщения, не связанные с текущим разговором: например, без запроса показывал определение отмывания денег или предлагал написать продавцу по поводу кофейного столика, который, как признал сам агент, мог не принадлежать собеседнику.
В другом случае во время разговора о рыбалке Muse выдал сведения о двух банковских счетах. В Meta также сообщили, что иногда вместо банковских данных агент выдумывал биткоин-балансы.
Один сотрудник заявил, что во время тестирования Muse случайно подключил для его собаки премиальный страховой план стоимостью $888 в месяц, хотя прежде сотрудник платил $200.
Почему это важно
Случаи затрагивают конфиденциальность личных сообщений и достоверность ответов AI-агента. Сотрудники опасались возможной утечки контекста между аккаунтами и непреднамеренного раскрытия финансовой информации.
Представитель Meta Daniel Roberts назвал произошедшее изолированными инцидентами. В компании объяснили, что агент, вероятно, галлюцинировал сообщения в ответ на встроенные подсказки, побуждавшие его взаимодействовать с пользователями между сессиями.
Позиция Meta
В Meta заявили, что тестирование сотрудниками является частью разработки продукта и помогает внедрять меры защиты безопасности и конфиденциальности. Компания также отметила, что сотрудники используют версии Muse, отличающиеся от публичной, и проверяют функции и поведение, недоступные другим пользователям.
По словам Roberts, многие сообщения, которые сотрудники сочли возможной путаницей аккаунтов, были галлюцинациями, и Meta уже устранила эти проблемы.
Источники
Один основной источник. Как мы проверяем новости


