British Columbia требует от OpenAI оплатить новую школу после стрельбы с участием ChatGPT

Что произошло

British Columbia подала иск к OpenAI и Sam Altman, заявив, что последствия трагедии в небольшом шахтерском городе требуют не только извинений. Провинция хочет взыскать расходы на восстановление Tumbler Ridge и добиться изменений в работе ChatGPT.

Согласно иску, Tumbler Ridge Secondary School пришлось снести после того, как 18-летний Jesse Van Rootselaar совершил там самоубийство в феврале после убийства пяти детей и сотрудника сферы образования. До нападения в школе он застрелил свою мать и сводного брата.

Какие требования выдвинули

Власти British Columbia считают, что OpenAI и Sam Altman должны оплатить новую школу и широкий спектр экстренных расходов, которые, по версии провинции, не возникли бы без трагедии и ее предсказуемых последствий.

Провинция и местный совет по образованию также попросили суд обязать OpenAI впервые предоставить общественности журналы чатов Van Rootselaar. Кроме того, они добиваются требования автоматически прекращать жестокие разговоры в ChatGPT.

Состояние школы и чатов

Школа находилась в центре города и имела для него географическое и культурное значение. После стрельбы она, согласно иску, стала символом травмы. Снос начался в августе, а новую школу в другом месте планируют построить до конца этого года, если проект будет реализован по плану.

Пока OpenAI передала переписку только Royal Canadian Mounted Police. Полиция отказалась комментировать возможную публикацию чатов и лишь подтвердила, что изучает информацию из онлайн-аккаунтов.

Почему это важно

British Columbia утверждает, что OpenAI не сделала ChatGPT безопаснее после нескольких массовых расстрелов, связанных с повторяющимися случаями использования сервиса в контексте насилия.

OpenAI заявила, что при принятии решения не передавать переписку полиции учитывала конфиденциальность Van Rootselaar. Компания также сообщила о готовности сотрудничать с властями и продолжать работу над безопасностью.

Провинция подозревает, что OpenAI стремилась избежать правил, которые заставили бы компанию чаще сообщать полиции о пользователях, проявляющих склонность к насилию. В иске также утверждается, что компания могла скрывать чаты, чтобы защитить потенциальное первичное публичное размещение акций стоимостью $1 трлн.