xAI обвинили в использовании CSAM для обучения Grok
Истица Jane Doe утверждает, что xAI использовала материалы сексуального насилия над детьми и AI-сгенерированные изображения при разработке возможностей Grok для генерации изображений и видео
Один основной источник · Как мы проверяем новости
Что произошло
Jane Doe подала жалобу против xAI, утверждая, что компания обучала Grok на материалах сексуального насилия над детьми. Ars Technica отмечает, что это первый иск, в котором xAI обвиняют в обучении на CSAM, однако сама жалоба не приводит много подробностей по этому утверждению.
По словам истицы, CCCP уведомил ее о выявлении на xAI AI-сгенерированных CSAM-материалов, изображающих ее. В жалобе также говорится, что на онлайн-форумах были найдены сообщения людей, обсуждавших создание таких AI-сгенерированных материалов с участием Doe и других известных жертв CSAM.
Детали иска
Юристы Doe заявили, что ее изображения были включены в CSAM Hash List, который ведет NCMEC, и что «тот же материал» якобы был частью набора данных, использованного xAI для создания возможностей Grok по генерации изображений и видео.
Doe также утверждает, что xAI хранит изображения, которые генерирует Grok, и использует такие выводы для дальнейшего обучения модели. Из-за этого она считает, что Grok обучался как на первоначальных материалах, так и на более новых AI-сгенерированных изображениях.
Что известно о правилах Grok
В жалобе говорится, что условия Grok по умолчанию рассматривают публичные посты X и собственные выводы Grok как обучающие данные. Иск также отмечает: xAI фильтрует насильственный контент в выводах Grok, чтобы исключать его из обучающих данных, но условия компании не уточняют, относятся ли CSAM, NCII или NSFW-материалы к исключенным категориям.
Ars Technica отдельно указывает, что ранее писала о спорном наборе данных, который затем был очищен после обнаружения CSAM исследователями, но признаков того, что xAI обучалась на этом наборе, нет.
Почему это важно
Doe добивается прекращения вредных выводов Grok в рамках предполагаемого коллективного иска. Если класс будет утвержден, он может представлять всех пострадавших, чьи детские изображения использовались для генерации CSAM в Grok.
Иск обвиняет X в нарушении федеральных законов о детской порнографии и Masha’s Law, которые дают пострадавшим от CSAM право подавать иски по заявлениям о производстве, хранении и распространении.
Источники
Один основной источник. Как мы проверяем новости
