Protect Democracy требует раскрыть правила проверки передовых AI-моделей в США

Что произошло

Protect Democracy подала иск против четырех федеральных агентств США, требуя раскрыть информацию о закрытом механизме, который администрация Trump использует для оценки безопасности передовых AI-моделей перед их выпуском.

Организация заявляет, что почти никаких деталей не было раскрыто ни общественности, ни Congress. По ее версии, за пределами узкого круга неопределенно описанных «доверенных партнеров» неизвестно, как устроена процедура проверки, какие компании участвуют в создании механизма и на каком правовом основании чиновники Trump проводят такие проверки.

Чего требует иск

Protect Democracy просит суд обязать чиновников предоставить запрошенную информацию к 30 сентября. В перечень входят незасекреченные процедурные и договорные элементы: текст механизма, условия участия, личности участников, а также процесс и критерии, по которым доступ к передовым моделям предоставляется или отклоняется.

Организация также добивается судебного запрета, который не позволил бы чиновникам неправомерно удерживать документы, не имеющие статуса засекреченных.

Почему это важно

Protect Democracy считает, что решения о том, какие AI-модели допускаются к выпуску и кто получает к ним доступ, могут быть одним из ключевых политических вопросов White House. Организация также утверждает, что как минимум OpenAI заключила частное соглашение с Federal Government, ограничивающее распространение ее передовых AI-моделей партнерами, проверенными государством.

В релизе Protect Democracy говорится, что исполнительная власть фактически выбирает, какие компании могут выпускать продукты и какие клиенты получают доступ к технологии, способной повлиять на промышленность, национальную безопасность, экономики и правительства за пределами США. Организация подчеркивает, что этот процесс, по ее оценке, идет без надзора со стороны Congress, общественности или внешних технологических экспертов.

Контекст спора

Protect Democracy допускает, что механизм может быть коррупционным: по ее утверждению, чиновники из Office of the National Cyber Director, Office of Science and Technology Policy, Treasury Department и Commerce Department могут благоприятствовать быстрому развертыванию AI-продуктов компаний, которые нравятся Trump.

Организация также сослалась на недавнее решение судьи, который признал незаконным внесение Anthropic в черный список со стороны Trump. На фоне роста киберрисков Protect Democracy утверждает, что общество не может просто доверять администрации в вопросе выбора моделей для строгого тестирования.

По словам организации, без прозрачности невозможно понять, связаны ли новые уязвимости с неполной проверкой агентств, устаревшими или неэффективными тестами, пропущенными этапами или отсутствием мер, соответствующих подходам ведущих экспертов по безопасности AI.