Meta запустила Content Seal для маркировки AI-изображений, но к системе уже есть вопросы
Новая технология невидимых водяных знаков Meta похожа на Google SynthID, однако пока доступна через отдельный тестовый веб-инструмент и имеет ряд ограничений
Один основной источник · Как мы проверяем новости
Что произошло
Meta представила Content Seal — технологию невидимых водяных знаков, которая помечает изображения, созданные новым AI-моделем компании.
Запуск стал ответом на призыв Oversight Board к Meta выполнять публичные обязательства и использовать собственные инструменты для борьбы с распространением вводящего в заблуждение генеративного AI-контента на платформах.
Как работает Content Seal
По описанию Meta, Content Seal работает похоже на SynthID: невидимый для пользователя водяной знак встраивает в AI-изображение скрытый сигнал происхождения. Затем такой файл можно просканировать и пометить через инструмент обнаружения.
Meta также заявляет, что водяные знаки Content Seal остаются распознаваемыми после кадрирования, сжатия, изменения размера или создания скриншота.
Почему систему сравнивают с SynthID
The Verge указывает, что уже существуют более зрелые решения для маркировки и проверки AI-контента, включая C2PA Content Credentials и Google SynthID.
Meta входит в руководящий комитет Coalition for Content Provenance and Authenticity, который продвигает стандарт Content Credentials вместе с Google. SynthID, в свою очередь, уже был принят OpenAI.
Какие ограничения есть на старте
На текущем этапе пользователи могут проверять водяные знаки Content Seal только через отдельный веб-инструмент, который тестирует Meta. В Meta AI такая проверка пока не встроена, в отличие от подхода Google с Gemini.
Представитель Meta Faith Eischen сообщила The Verge, что компания изучает способы приблизить обнаружение к тем местам, где люди сталкиваются с AI-контентом.
Источники
Один основной источник. Как мы проверяем новости
