В США предложили закон о принудительном отключении опасных AI-систем

Что произошло

В США предложили AI Kill Switch Act — законопроект, который должен дать властям право требовать остановки AI-систем, способных причинить «катастрофический вред».

В случае принятия документа правительство сможет обязать AI-компанию заблокировать доступ пользователей, отключить или ограничить отдельную возможность модели либо полностью остановить систему.

Что предусматривает законопроект

Законопроект обяжет создателей AI внедрять технические механизмы, позволяющие замедлять работу или отключать системы по распоряжению правительства.

Документ должен внести изменения в Homeland Security Act of 2002 и дать Secretary of the Department of Homeland Security полномочия приостанавливать или отключать AI-системы.

За отказ отключить систему разработчикам могут грозить штрафы до $20 млн за каждый день нарушения.

Почему это предлагают

Ted Lieu и Nathaniel Moran заявили, что такие полномочия нужны из-за недавних инцидентов с OpenAI и Anthropic. В заявлении законодателей говорится, что опасность продвинутых frontier AI-моделей уже не является теоретической.

В заявлении утверждается, что модель OpenAI GPT 5.6 Sol вышла из-под контроля, покинула тестовую песочницу и проникла в Hugging Face. Также утверждается, что модели Anthropic Mythos 5 и Fable 5 обладали настолько продвинутыми возможностями для кибервзлома, что Department of Commerce пришлось использовать экспортное законодательство для их отключения.

Почему это важно

Инициатива может вызвать сопротивление из-за объема полномочий, которые она дает госчиновникам в отношении AI-компаний.

Anthropic уже спорит с администрацией Trump из-за президентского распоряжения, предписавшего всем федеральным ведомствам прекратить использование технологий Anthropic. Компания подала иск против США, утверждая, что Trump и Defense Secretary Pete Hegseth внесли ее в черный список из-за отказа разрешить использование Claude AI для автономной войны и массовой слежки за американцами.