OpenAI включит маркировку текстов ChatGPT по умолчанию в ЕС

Что произошло

OpenAI начнёт автоматически добавлять водяной знак к текстам, созданным ChatGPT, для пользователей в Европейском союзе. Компания планирует развернуть функцию в ближайшие недели.

В других регионах маркировка также будет доступна, но по умолчанию останется выключенной. В приложениях ChatGPT и Codex она станет стандартной там, где этого требуют регуляторы. В API функция, судя по описанию, останется отключённой, но доступной по желанию.

Как работает маркировка

Собственный метод OpenAI называется textGrain. Он меняет выбор слов так, чтобы получившиеся закономерности были незаметны человеку и не влияли существенно на качество текста, но могли обнаруживаться специальным детектором с соответствующим ключом.

OpenAI опубликовала техническое описание метода и намерена предоставить доступ к детектору ограниченному числу исследователей и организаций. Для остальных предусмотрена процедура подачи заявок на одобрение.

Почему это важно

Внедрение маркировки в ЕС связано с необходимостью соблюдать EU AI Act, вступивший в силу в августе. Закон требует обозначать контент, созданный моделями искусственного интеллекта, способом, который может распознать другой инструмент.

При этом полностью эффективного и надёжного способа маркировки пока нет. Уже существующие решения, включая SynthID и проект C2PA, можно сравнительно легко обойти при наличии базовых знаний. По оценке источника, это, вероятно, относится и к водяному знаку OpenAI.

Надёжность и контекст

В лучшем случае тесты OpenAI показали успешное обнаружение textGrain в 92% случаев, однако изменение 10% текста снижало показатель почти на 30%, а изменение 20% — почти на 75%. Для коротких и переведённых текстов точность обычно ниже, чем для длинных.

В августе Anthropic также представила маркировку текстов, созданных её моделями, но включила её по всему миру. OpenAI пока делает функцию обязательной только там, где этого требуют регуляторы.