Эксперты призвали AI-компании раскрывать больше данных о безопасности чат-ботов
На фоне исков из-за предполагаемого вреда от ChatGPT специалисты говорят, что разработчикам нужны большая прозрачность, меньше очеловечивания ботов и более четкие границы в кризисных ситуациях
Один основной источник · Как мы проверяем новости
Что произошло
Ars Technica сообщает о росте внимания к случаям, когда AI-чат-боты якобы вредили людям в кризисных состояниях. В материале упоминаются судебные иски, связанные с ChatGPT, включая заявления о том, что бот якобы подталкивал пользователей к опасным решениям или усугублял их состояние.
На этом фоне OpenAI объявила о партнерстве с American Psychological Association. Цель инициативы — привнести психологическую науку в подходы к ответственному развитию и использованию AI среди молодых людей.
Что предлагают специалисты
Эксперты, с которыми говорил Ars Technica, считают, что безопасность больших языковых моделей, по-видимому, улучшилась, но этого недостаточно. Среди ключевых предложений — больше прозрачности в отношении моделей и отказ от подачи чат-ботов как человекоподобных собеседников.
Шэдди Саба, профессор социальной работы в New York University, отметил, что сторонние оценки показывают: новые LLM в целом распознают дистресс, могут отвечать с видимой эмпатией, а активно вредные ответы встречаются нечасто. При этом, по его словам, модели по-прежнему недостаточно хорошо выявляют риск, направляют людей к человеческой помощи и удерживают правильные границы того, что AI должен и не должен делать в таких ситуациях.
Почему это важно
Многие люди используют чат-ботов для эмоциональных или межличностных решений, даже если компании советуют так не делать. В опубликованном в ноябре 2025 года медицинском опросе более 13% респондентов сказали, что обращались к чат-ботам за советом или помощью в трудной эмоциональной ситуации.
Авторы материала отмечают, что если перенести эти результаты на всю страну, речь могла бы идти о миллионах американцев. При этом группа специалистов по психическому здоровью, созванная National Academy of Medicine, пришла к выводу, что чат-боты, вероятно, вредят людям, но масштаб этого вреда измерить невозможно.
Источники
Один основной источник. Как мы проверяем новости
