Anthropic добавит невидимые метки к контенту, созданному Claude

Что произошло

Anthropic заявила, что начнет помечать созданные Claude текст и изображения машиночитаемыми данными, чтобы соответствовать европейским правилам прозрачности AI.

На странице поддержки Claude компания указала, что сгенерированный текст будет содержать встроенные водяные знаки, а сгенерированные файлы — цифрово подписанные метаданные происхождения там, где это поддерживается.

Эти изменения не будут видны человеческому глазу, но должны упростить пользователям и онлайн-платформам определение контента, созданного моделями Claude.

Как будет работать маркировка

Машиночитаемые метки будут применяться глобально к поддерживаемым моделям Claude, включая Claude Platform (API), Claude, Claude Code, Claude Cowork и Claude Tag.

Для изображений, обработанных Claude, Anthropic будет использовать C2PA — стандарт метаданных происхождения, который уже поддерживают Adobe, OpenAI и Google. Для текста компания описывает отдельный невидимый водяной знак, встроенный прямо в ответ модели без изменения смысла, качества или читаемости.

Anthropic не называет систему текстовой маркировки, но утверждает, что такие водяные знаки также будут применяться при доступе к моделям Claude через AWS, Google Cloud или Microsoft Foundry.

Связь с правилами ЕС

Обновления связаны с новыми требованиями к маркировке и прозрачности AI в рамках AI Act ЕС. Эти требования вступили в силу 2 августа и предусматривают четырехмесячный льготный период для уже существующих AI-продуктов, запущенных до этой даты.

Anthropic заявляет, что новые модели Claude будут маркировать AI-контент с первого дня после выпуска, а поддержка существующих моделей еще находится в разработке.

Почему это важно

Маркировка может стать еще одним шагом к более явному обозначению AI-текста и AI-изображений на онлайн-платформах.

При этом надежность таких систем остается вопросом: данные C2PA, как известно, можно легко удалить, иногда даже случайно при загрузке медиа на онлайн-платформы. Также неясно, насколько устойчивым окажется текстовый водяной знак Anthropic.

Сама компания признает, что системы маркировки не являются безошибочными: отсутствие обнаруживаемых меток не исключает, что контент был создан генеративными AI-моделями.