Hank Green поднял вопрос о нездоровой зависимости от AI-чатботов

Что произошло

Hank Green, известный YouTuber и научный коммуникатор, оказался в центре критики из-за использования AI и заявил, что отходит от производства контента.

Он описал свое использование AI как «нездоровое», но уточнил, что обращался к технологии для поиска научных материалов и источников, а не для написания сценариев.

Почему возник спор

Обсуждение вокруг Green затронуло вопрос о том, как автору, чья репутация строится на достоверности и аутентичности, использовать технологию, обученную на работах других людей и склонную генерировать убедительно звучащие ошибки.

Отдельное внимание привлекло описание Green того, что выглядело как нездоровая зависимость от технологии.

Почему это важно

Случай Green показывает более широкую проблему: общественная дискуссия об AI часто сосредоточена либо на безобидном использовании, либо на очевидно тяжелых случаях, связанных с психиатрической помощью, бредовыми идеями и психозом.

Между этими крайностями остается менее понятная зона, где использование чатботов может становиться компульсивным, зависимым или иным образом нездоровым без явного кризиса.

Контекст

AI-чатботы по своей природе рассчитаны на продолжение диалога и вовлечение пользователей. Эксперты связывают такие свойства с одним из факторов так называемого AI-психоза, когда чрезмерно соглашательные чатботы подкрепляют бредовые убеждения.

The Verge также указывает на растущее число сообщений о людях, которые обращаются к чатботам, чтобы обдумывать проблемы, принимать решения или искать успокоение. У некоторых пользователей возникают эмоциональные связи с чатботами, разрыв которых может приводить к переживанию утраты.

Автор материала сравнивает ранние сигналы о влиянии AI с первыми годами соцсетей: тогда также потребовалось время, чтобы оценить воздействие технологий, максимизирующих вовлеченность, на внимание, благополучие и компульсивное использование.