В Нью-Йорке вводят новые требования к разработчикам передовых ИИ-систем

Что произошло

Штат Нью-Йорк открыл портал регистрации для крупных разработчиков передовых ИИ-систем. Anthropic и OpenAI должны пройти регистрацию до 1 января 2027 года.

Закон RAISE вступает в силу с начала года и вводит для крупных разработчиков требования по раскрытию мер безопасности и прозрачности моделей.

Какие требования вводятся

Компании с годовой выручкой более $500 млн должны публиковать на своих сайтах рамки безопасности, сообщать о критических инцидентах в течение 72 часов и выпускать публичные отчеты о прозрачности моделей.

За одно нарушение штраф может составить до $1 млн, а за последующие нарушения — до $3 млн. Власти также могут принять меры против компаний, которые не зарегистрируются, однако подробности таких мер пока не раскрыты.

Новый центр и другие законы

Губернатор Кэти Хокул запустила Центр ответственности и исследований в области ИИ Нью-Йорка при Бингемтонском университете. Центр будет независимо оценивать безопасность и работу передовых ИИ-систем, а также сотрудничать с DIGIT при проверке разработанных компаниями рамок безопасности.

Ранее Нью-Йорк уже ввел требования для операторов ИИ-компаньонов: они должны регулярно уведомлять пользователей о том, что те общаются с ботом, и принимать разумные меры для выявления суицидальных намерений и самоповреждения. Отдельный закон о безопасности чат-ботов для несовершеннолетних ограничивает обманную имитацию человеческого поведения, эмоциональные манипуляции и поощрение суицида или расстройств пищевого поведения. Он вступит в силу 1 июня 2027 года.