OpenAI представила классификатор для выявления ИИ-изображений сексуального насилия над детьми
Инструмент OpenAI должен помогать расследователям быстрее находить вредоносные материалы и отличать изображения, созданные ИИ, от изображений реальных детей
Один основной источник · Как мы проверяем новости

Что произошло
OpenAI представила классификатор для обнаружения материалов сексуального насилия над детьми. Он рассчитан на работу с изображениями, созданными разными инструментами, включая модели с открытым исходным кодом и приложения для цифрового раздевания.
Компания также объявила о бесплатном доступе к классификатору для проверенных организаций, подготовке рекомендаций для разработчиков и обучении правоохранителей применению ИИ в расследованиях.
Как работает инструмент
OpenAI утверждает, что классификатор снизил количество ложных срабатываний на 48%, а изображения, которые он распознал как подозрительные, вдвое чаще содержали материалы насилия. Компания называет его первым широко доступным классификатором такого типа с отдельной отметкой для материалов, созданных ИИ.
Отдельная отметка должна помогать различать изображения вымышленного и реального ребёнка при первичной сортировке сообщений правоохранительными органами.
Почему это важно
Рост числа созданных ИИ изображений угрожает перегрузить системы, которые собирают и сортируют сообщения о сексуальном насилии над детьми. CyberTipline получила 400 000 связанных с генеративным ИИ сообщений в 2025 году против 67 000 в 2024 году.
Исследователи предупреждают, что поток поддельных изображений может усложнить выявление случаев, когда ребёнок действительно подвергается насилию. Власти США считают незаконными как созданные ИИ, так и обычные материалы сексуального насилия над детьми, а законы для борьбы с сексуализированными дипфейками действуют в 48 штатах.
Дополнительные меры OpenAI
Генератор изображений ChatGPT уже должен отклонять запросы на создание таких материалов. Теперь пользователи, пытающиеся создать их, увидят предупреждение, подготовленное с участием экспертов, с предложением обратиться за помощью.
За первую попытку доступ к ChatGPT приостановят на 24 часа и предупредят о возможном постоянном закрытии аккаунта. OpenAI также заявляет, что сообщает обо всех случаях обнаружения таких материалов в NCMEC.
Источники
Один основной источник. Как мы проверяем новости


