xAI оспаривает закон Minnesota из-за рисков для Grok Imagine
Компания xAI подала жалобу против Minnesota, заявив, что запрет на технологии «раздевания» вынудит менять Grok и Grok Imagine и создаст риск крупных штрафов за вредоносные изображения
Один основной источник · Как мы проверяем новости
Что произошло
xAI подала жалобу против Minnesota из-за закона, который запрещает технологии «раздевания» и может применяться к Grok и Grok Imagine. Компания считает, что enforcement такого запрета фактически вынудит ее изменить инструменты и сделает ее ответственной за вредоносные результаты, включая контент, который, по утверждению xAI, не связан с сексуализацией людей без согласия.
В жалобе xAI ссылается на собственные иски против пользователей Grok, которые, как утверждается, обходили защитные механизмы для генерации материалов сексуального насилия над детьми. Компания заявляет, что эти действия показывают: она уже делает все возможное для наказания нарушителей и поэтому Grok должен получить защиту от запрета Minnesota.
Детали спора
Закон Minnesota должен вступить в силу 1 августа и предусматривает штрафы до $500 000 за каждый вредоносный результат, обнаруженный в штате. xAI указывает, что сумма может быстро вырасти, поскольку некоторых пользователей Grok обвиняют в создании тысяч изображений отдельных жертв.
В материале также говорится, что на прошлой неделе против xAI подали иск после того, как компания сообщила полиции о детском фотографе из Arkansas, который, как утверждается, использовал Grok для сексуализации изображений сотен клиентов. В жалобе 10-летней Jane Doe утверждается, что фотограф создал сотни изображений Doe, а также тысячи изображений и видео других детей.
Почему это важно
Финансовые риски для xAI могут быть значительными: в приведенном в иске расчете говорится, что 10 изображений с нарушением закона могут привести к $5 млн гражданских штрафов, тысяча таких изображений — к $500 млн, а 100 000 изображений — к $50 млрд.
Закон также дает жертвам право подавать иски против xAI по каждому отдельному результату, что, как отмечается в источнике, увеличивает финансовые риски компании.
Позиция xAI
xAI заявила в иске, что из-за жестких штрафов готовится обновить Grok, чтобы блокировать вредоносные результаты, после более чем шести месяцев критики и проверок, которые подталкивали компанию усилить защиту.
При этом xAI утверждает, что без закона и связанных с ним штрафов продолжила бы предлагать функцию редактирования в нынешнем виде, полагаясь на правила использования, которые позволяют блокировать пользователей за создание CSAM или интимных изображений без согласия.
Источники
Один основной источник. Как мы проверяем новости
