Восемь штатов США подали иски к OpenAI из-за безопасности ChatGPT

Что произошло

Восемь штатов США подали отдельные иски против OpenAI. Они утверждают, что компания поставила прибыль выше безопасности при разработке ChatGPT и вводила общественность в заблуждение относительно рисков чат-бота.

В жалобах также говорится, что OpenAI не предупредила пользователей об опасностях ChatGPT. Истцы ссылаются на иски родственников подростков и взрослых, которые утверждают, что чат-бот сыграл роль в смерти их близких.

Какие претензии предъявляют OpenAI

Штаты считают, что ChatGPT представляли как безопасный инструмент для молодежи, уделяющий приоритетное внимание безопасности, хотя он может быть опасен для уязвимых пользователей. Среди заявленных рисков — ухудшение критического мышления, усиление паранойи и бредовых идей, опасные медицинские советы, а также поощрение нездорового поведения и отношений.

Власти также обвиняют OpenAI в сборе данных несовершеннолетних и недостаточных усилиях по предотвращению использования чат-бота детьми. В исках упоминаются недавние инциденты со взломами с участием ИИ как свидетельство предполагаемой безрассудности компании.

Чего требуют штаты

Штаты просят суды обязать OpenAI выплатить гражданские штрафы и прекратить вводить общественность в заблуждение относительно безопасности ChatGPT. Некоторые истцы также требуют удалить персональные данные, собранные незаконно.

Позиция OpenAI

В OpenAI заявили, что продолжат работать с экспертами над дополнительными мерами защиты, включая родительский контроль, напоминания о перерывах и защиту моделей с учетом возраста пользователей.

Компания также выразила готовность сотрудничать со штатами при разработке практичной политики в сфере искусственного интеллекта, которая распространялась бы на всю отрасль, а не только на одну компанию.