AI-детекторы усиливают недоверие к текстам студентов и авторов

Коротко

Опрос Center for Democracy and Technology показал, что 43% учителей с шестого по 12-й класс в США регулярно использовали AI-детекторы в период с 2024 по 2025 год.
GPTZero, Pangram и инструмент Turnitin полагаются на собственные AI-модели, чтобы предположить, мог ли текст быть написан не человеком.
Turnitin заявляет, что его AI-детектор ошибочно помечает как AI менее 1% человеческого текста, а Pangram утверждает, что доля ложных срабатываний составляет 1 к 10 000.
Minotaur отказался от книжной сделки на $2 млн из-за опасений, что автор Jerry Falade использовал AI; сам он это отрицает.

Что произошло

Инструменты, которые обещают выявлять тексты, написанные AI, все чаще применяют преподаватели и издатели, несмотря на сомнения в их надежности.

Раньше преподаватели и редакторы чаще использовали антиплагиатные сервисы: они сравнивали работу с базами материалов из интернета, научных статей и других источников. Теперь поиск заимствований смещается к попыткам определить, был ли текст создан с помощью AI.

Как работают такие сервисы

AI-детекторы вроде GPTZero, Pangram и инструмента Turnitin не ищут совпадающие фразы в сети. Они используют собственные модели, чтобы оценить, похож ли текст на написанный не человеком.

GPTZero описывает такой подход как анализ формулировок, ритма и структуры текста, а также паттернов длины и тона, которые могут чаще встречаться в AI-текстах. Такая оценка менее прозрачна, чем прямое сопоставление с опубликованными источниками.

Почему это важно

Ошибочные обвинения в использовании AI могут влиять на репутацию, учебу и работу людей. В одном из заметных случаев Minotaur отказался от сделки на $2 млн из-за опасений, что Jerry Falade использовал AI; автор это категорически отрицает.

Thierry Rignol подал в суд на Yale после того, как профессор обвинил его в использовании AI при написании частей итогового экзамена. В результате он получил неудовлетворительную оценку и годичное отстранение. В иске утверждается, что инструменты AI-наблюдения и детекции несправедливо бьют по тем, для кого английский не является родным.

Контекст

По мере того как студенты стали использовать ChatGPT, Google Gemini и Microsoft Copilot, преподаватели столь же быстро начали внедрять AI-детекторы. В некоторых университетах, где уже был Turnitin, функция AI-детекции включилась автоматически после запуска инструмента в 2023 году.

Сами разработчики заявляют о низкой доле ложных срабатываний: Turnitin говорит о менее чем 1% человеческого текста, ошибочно помеченного как AI, Pangram — о 1 случае на 10 000, а GPTZero утверждает, что у него сопоставимо низкий показатель таких ошибок.