OpenAI представила ChatGPT for Teens с режимом учебы и родительским контролем

Что произошло

OpenAI объявила о запуске ChatGPT for Teens — версии ChatGPT для подростков. Компания обещает встроить в продукт дополнительные меры безопасности и функции, ориентированные на обучение.

Запуск происходит на фоне многочисленных исков из-за недостатка защитных механизмов у AI-чат-ботов, которые связывали с самоубийствами подростков и другими проблемами психического здоровья.

Как будут работать учебные функции

Главная новая функция — Study Mode. Она должна не просто выдавать быстрые ответы, а помогать подросткам разбираться в материале через наводящие вопросы и пошаговую поддержку.

Если ChatGPT заметит, что подросток пытается списать, вместо изучения темы появятся напоминания о домашнем задании. После этого чат-бот будет направлять пользователя в Study Mode.

Приложение также будет поддерживать тесты и учебные визуализации. Родители или опекуны смогут решать, когда Study Mode включается по умолчанию.

Безопасность и контроль родителей

OpenAI заявляет, что в ChatGPT for Teens по умолчанию будут включены возрастные защитные механизмы. Они предназначены для снижения контакта с вредным или неподходящим для развития контентом.

Эти меры основаны на Under-18 Principles в Model Spec. По утверждению компании, они учитывают данные науки о развитии и рекомендации экспертов.

Родители смогут использовать семейные инструменты и уже представленные ранее функции родительского контроля: управлять настройками, получать уведомления о безопасности и задавать Quiet Hours.

Что остается неясным

Пока неясно, насколько трудно подросткам будет обходить новые ограничения, если они не захотят им следовать. В источнике отмечается, что подростки часто умеют обходить родительский контроль и другие цифровые ограничения.

Эффективность защитных мер ChatGPT for Teens в реальных условиях станет понятнее только после более серьезных проверок.

Связанные инициативы OpenAI

OpenAI объявила о партнерстве с CodeAI, чтобы помогать подросткам лучше понимать AI: как он работает, как им управлять, как задавать ему вопросы и как им пользоваться.

Для школ у OpenAI уже есть ChatGPT for Teachers, который должен давать учебным заведениям управляемый на уровне организации доступ к AI и поддержку.