OpenAI и Meta обещают конфиденциальность для AI-агентов, но сталкиваются с проблемами безопасности

Что произошло

На OpenAI DevDay CEO компании Сэм Альтман представил новый AI-агент Dots. OpenAI заявила, что хочет установить новый стандарт конфиденциальности в передовых системах искусственного интеллекта, одновременно критикуя подход Meta к защите данных в Muse.

Meta ранее позиционировала Muse как более безопасную альтернативу OpenClaw. Глава компании Марк Цукерберг говорил, что продукт создавался с нуля с учетом конфиденциальности и безопасности.

Проблемы с безопасностью Muse

Данные пользователей Muse изолированы от данных других пользователей и хранятся в защищенной виртуальной машине. При этом Meta пока может получать к ним доступ и планирует позднее добавить механизм, который должен криптографически и проверяемо запретить такой доступ.

Исследователь безопасности обнаружил уязвимость нулевого дня, позволявшую захватить контроль над Muse. Уязвимость впоследствии исправили. Кроме того, перед запуском сообщалось о нескольких серьезных проблемах безопасности, одна из которых могла открыть пользователям доступ к внутренним базам данных Meta.

Muse по умолчанию разрешает Meta обучать модели на пользовательских данных, хотя от этого можно отказаться. Также сообщалось о случаях загрузки и чтения личных сообщений без явного запроса пользователя, передачи адреса незнакомцу через Marketplace и создании подробных профилей друзей и родственников.

Обещания OpenAI

Руководитель продукта Codex Александр Эмбирикос заявил, что OpenAI стремится создать наиболее надежного, безопасного и защищенного помощника. На презентации Сэм Альтман показал настройки, с помощью которых пользователь может управлять отдельным экземпляром Dots, например запретить ему совершать покупки выше определенной суммы.

Для корпоративных клиентов OpenAI представила более строгие средства контроля над данными и варианты политики нулевого хранения, при которой данные не сохраняются на серверах компании.

Пока вокруг Dots не возникало большого числа скандалов с конфиденциальностью. При этом агент доступен только на уровнях подписки ChatGPT стоимостью от $100, поэтому аудитория продукта, вероятно, меньше.

Почему это важно

AI-агенты требуют доступа к значительному объему личной информации, поэтому заявления о конфиденциальности становятся частью конкуренции между разработчиками. Однако проблемы Muse показывают, что обещания изоляции данных и безопасности не всегда совпадают с реальным пользовательским опытом.

Вопрос о том, смогут ли компании выполнять такие обещания, остается открытым. Пользователи могут не решаться передавать AI-агентам чувствительные сведения, включая банковскую информацию.