Криптовалюты

Внутренние тесты Muse выявили неожиданный доступ к данным и сбои

Сотрудники Meta сообщили о странных ответах Muse, включая возможную путаницу между чатами и вымышленные банковские и биткоин-балансы. В Meta назвали случаи изолированными галлюцинациями и заявили, что многие из них уже исправлены

Один основной источник · Как мы проверяем новости

Внутренние тесты Muse выявили неожиданный доступ к данным и сбои
Иллюстрация к материалу RedBTC News

Что произошло

После жалоб первых пользователей на слежку за личными сообщениями и непредсказуемое поведение Muse внутренние обсуждения Meta показали, что сотрудники компании сталкивались с похожими проблемами во время тестирования.

Сотрудники предупреждали о возможном доступе агента к зашифрованным личным сообщениям, смешивании разговоров между пользователями и появлении чувствительной информации без соответствующего запроса.

Странные ответы агента

Muse отправлял сообщения, не связанные с текущим разговором: например, без запроса показывал определение отмывания денег или предлагал написать продавцу по поводу кофейного столика, который, как признал сам агент, мог не принадлежать собеседнику.

В другом случае во время разговора о рыбалке Muse выдал сведения о двух банковских счетах. В Meta также сообщили, что иногда вместо банковских данных агент выдумывал биткоин-балансы.

Один сотрудник заявил, что во время тестирования Muse случайно подключил для его собаки премиальный страховой план стоимостью $888 в месяц, хотя прежде сотрудник платил $200.

Почему это важно

Случаи затрагивают конфиденциальность личных сообщений и достоверность ответов AI-агента. Сотрудники опасались возможной утечки контекста между аккаунтами и непреднамеренного раскрытия финансовой информации.

Представитель Meta Daniel Roberts назвал произошедшее изолированными инцидентами. В компании объяснили, что агент, вероятно, галлюцинировал сообщения в ответ на встроенные подсказки, побуждавшие его взаимодействовать с пользователями между сессиями.

Позиция Meta

В Meta заявили, что тестирование сотрудниками является частью разработки продукта и помогает внедрять меры защиты безопасности и конфиденциальности. Компания также отметила, что сотрудники используют версии Muse, отличающиеся от публичной, и проверяют функции и поведение, недоступные другим пользователям.

По словам Roberts, многие сообщения, которые сотрудники сочли возможной путаницей аккаунтов, были галлюцинациями, и Meta уже устранила эти проблемы.

Advertisement

Источники

Один основной источник. Как мы проверяем новости

  1. arstechnica.com