Искусственный интеллект

OpenAI представила классификатор для выявления ИИ-изображений сексуального насилия над детьми

Инструмент OpenAI должен помогать расследователям быстрее находить вредоносные материалы и отличать изображения, созданные ИИ, от изображений реальных детей

Один основной источник · Как мы проверяем новости

OpenAI представила классификатор для выявления ИИ-изображений сексуального насилия над детьми
Иллюстрация к материалу RedBTC News

Что произошло

OpenAI представила классификатор для обнаружения материалов сексуального насилия над детьми. Он рассчитан на работу с изображениями, созданными разными инструментами, включая модели с открытым исходным кодом и приложения для цифрового раздевания.

Компания также объявила о бесплатном доступе к классификатору для проверенных организаций, подготовке рекомендаций для разработчиков и обучении правоохранителей применению ИИ в расследованиях.

Как работает инструмент

OpenAI утверждает, что классификатор снизил количество ложных срабатываний на 48%, а изображения, которые он распознал как подозрительные, вдвое чаще содержали материалы насилия. Компания называет его первым широко доступным классификатором такого типа с отдельной отметкой для материалов, созданных ИИ.

Отдельная отметка должна помогать различать изображения вымышленного и реального ребёнка при первичной сортировке сообщений правоохранительными органами.

Почему это важно

Рост числа созданных ИИ изображений угрожает перегрузить системы, которые собирают и сортируют сообщения о сексуальном насилии над детьми. CyberTipline получила 400 000 связанных с генеративным ИИ сообщений в 2025 году против 67 000 в 2024 году.

Исследователи предупреждают, что поток поддельных изображений может усложнить выявление случаев, когда ребёнок действительно подвергается насилию. Власти США считают незаконными как созданные ИИ, так и обычные материалы сексуального насилия над детьми, а законы для борьбы с сексуализированными дипфейками действуют в 48 штатах.

Дополнительные меры OpenAI

Генератор изображений ChatGPT уже должен отклонять запросы на создание таких материалов. Теперь пользователи, пытающиеся создать их, увидят предупреждение, подготовленное с участием экспертов, с предложением обратиться за помощью.

За первую попытку доступ к ChatGPT приостановят на 24 часа и предупредят о возможном постоянном закрытии аккаунта. OpenAI также заявляет, что сообщает обо всех случаях обнаружения таких материалов в NCMEC.

Advertisement

Источники

Один основной источник. Как мы проверяем новости

  1. theverge.com