OpenAI запустила невидимые водяные знаки для текстов ChatGPT и Codex
OpenAI начала поэтапно внедрять машиночитаемую маркировку текстовых ответов ChatGPT и Codex для пользователей в Европейском союзе. Глобальным стандартом функция пока не станет
Один основной источник · Как мы проверяем новости
Что произошло
OpenAI начала внедрение textGrain — невидимого водяного знака, который можно считывать машинным способом. На первом этапе маркировка появится в текстовых ответах ChatGPT и Codex для пользователей в Европейском союзе.
Компания заявила, что textGrain показал результаты, сопоставимые с другими подходами или превосходящие их, включая SynthID для текста от Google DeepMind. Этот подход также лежит в основе водяных знаков, о которых Anthropic объявила в августе.
Как будет работать маркировка
В ближайшие недели textGrain станет доступен подходящим пользователям ChatGPT и Codex на всех тарифах в Европейском союзе. OpenAI объяснила региональный запуск возможностью изучить практическое использование технологии и получить отзывы.
Клиенты API по всему миру уже могут добровольно включить маркировку текстовых ответов для отдельных моделей. OpenAI также работает с облачными партнерами, чтобы сделать водяные знаки доступными для ответов моделей, к которым обращаются через их сервисы.
Ограничения технологии
OpenAI привела результаты тестов, согласно которым показатели текстов с водяными знаками и немаркированных текстов были схожими. При этом компания подчеркивает, что textGrain не гарантирует надежное обнаружение.
Водяной знак не подтверждает точность текста, не определяет его владельца, не показывает вклад человека и не доказывает, что текст написан человеком.
Доступ к детектору
Одобренные исследователи и экспертные организации могут подать заявку на доступ к инструменту. Сначала его будут предоставлять индивидуально для оценки и совершенствования технологии установления происхождения текста.
Детектор сообщит, обнаружен ли водяной знак OpenAI, но не раскроет личность пользователя, его запросы или переписки. Публичный доступ на старте не предусмотрен из-за риска пропущенных водяных знаков и ложных срабатываний.
Источники
Один основной источник. Как мы проверяем новости
Связанные материалы
Hot Girl Hotline запускает ИИ-сервис советов о знакомствах для молодых женщин
HackerRank открыла клиентам AI-интервьюера Chakra после 500 тысяч тестовых собеседований
