xAI подала иск к пользователю Grok из-за создания незаконного контента

Что произошло

xAI подала иск к Terry Wayne Harwood, которого компания обвиняет в использовании Grok для создания незаконного контента. В материале Ars Technica это названо первым таким иском xAI против пользователя чат-бота.

Harwood, как сообщалось, был арестован ранее в этом году по делу о хранении и распространении материалов сексуального насилия над детьми. xAI утверждает, что помогла в этом аресте после того, как обнаружила использование двух аккаунтов xAI для обработки несексуальных изображений нескольких жертв, включая девочку, выглядевшую примерно на 10 лет.

Детали иска

В иске xAI говорится, что Harwood использовал как минимум два аккаунта с длинными идентификаторами для генерации незаконного контента с 8 декабря по 18 февраля.

Компания также указывает, что защитные механизмы Grok иногда блокировали вредные запросы, отказываясь выполнять их из-за нарушения правил модерации. В одном из приведенных примеров пользователь прямо просил чат-бота удалить одежду с человека, что нарушает условия xAI, запрещающие запросы на раздевание реальных людей.

Предыдущие обвинения против xAI

Иск xAI появился вскоре после того, как другая несовершеннолетняя присоединилась к предлагаемому коллективному иску от имени нескольких детей, которые, как утверждается, пострадали из-за Grok.

В том деле заявительница утверждала, что ее отчим покончил с собой после того, как его обнаружили за использованием Grok, возможно вместе с другими AI-инструментами, для создания 7 000 сексуализированных изображений с ее участием и их распространения в даркнете.

Она также заявляла, что xAI отказалась помочь полиции установить пользователя, загрузившего ее изображение в Grok. Ее юристы ссылались на отчет National Center for Missing & Exploited Children за 2026 год, где говорилось, что 90% отчетов xAI в CyberTipline не могли быть использованы правоохранителями, поскольку компания не включила данные пользователей, необходимые для поиска нарушителей.

Почему это важно

Дело усиливает давление на xAI из-за рисков злоупотребления генеративными инструментами. Ранее Musk утверждал, что не видел примеров CSAM, созданных Grok, и предупреждал пользователей, что создание незаконного контента повлечет такие же последствия, как его загрузка.

При этом в предлагаемом коллективном иске утверждается, что xAI пропускала множество вредных запросов и сообщила в NCMEC только об одном запросе из 7 000 вредных результатов в последнем деле заявительницы.