OpenAI запускает отдельный режим ChatGPT для подростков

Что произошло

OpenAI представила ChatGPT for Teens — подростковый режим ChatGPT, который должен собрать в одном интерфейсе уже действующие меры защиты для молодых пользователей и новые функции безопасности.

Компания описывает ChatGPT for Teens как опыт, который помогает подросткам учиться, критически мыслить, глубже понимать темы и увереннее использовать AI.

Как будет работать режим

Подростковый режим будет включаться автоматически для пользователей, которые указали возраст от 13 до 17 лет, а также для тех, кого система оценивает как младше 18 лет. Пользователям младше 13 лет, по возрастной политике OpenAI, доступ к платформе не разрешен.

Защиты будут применяться по умолчанию. Среди них — более жесткие ограничения на запрещенный или чувствительный контент, включая графическое насилие, изображения самоповреждения и сексуальные или романтические ролевые сценарии.

ChatGPT также будет показывать предупреждения и информацию о безопасности по темам вроде расстройств пищевого поведения. Родители смогут задавать «тихие часы» и получать уведомления о предупреждениях безопасности, если система отметит возможный риск.

Учебные функции и контроль использования

OpenAI добавляет функции, которые, по ее словам, должны поддерживать «здоровое, сбалансированное использование»: напоминания при загрузке чувствительных изображений, отдельное введение в продукт для подростков, а также настройки вроде акцентных цветов и вариантов голоса.

Новые напоминания об ответственном выполнении домашних заданий смогут распознавать ситуации, когда подросток, по оценке системы, пытается быстрее обойти задание, и перенаправлять его в учебный режим ChatGPT.

Подростки или родители смогут задать учебные часы, в течение которых учебный режим будет включаться автоматически.

Контекст

Запуск происходит на фоне растущего общественного внимания к тому, как AI-инструменты влияют на молодых пользователей, и на фоне внедрения другими платформами собственных проверок возраста и защит для подростков.

При этом многие описанные OpenAI меры не являются полностью новыми: запуск в значительной степени объединяет уже существующие ограничения с несколькими небольшими дополнениями и изменениями. Функции определения возраста компания запустила в начале года, а родительский контроль и учебный режим появились примерно год назад.

OpenAI заявляет, что подростковые защиты опираются на продолжающиеся исследования безопасности, и планирует в будущем публиковать больше информации о полученных выводах, а также создавать дополнительные функции безопасности для подростков.