В США готовят законопроект об аварийном отключении мощных AI-систем

Что произошло

В США готовят к внесению AI Kill Switch Act — законопроект, который потребует от AI-компаний отключать или замедлять свои системы по распоряжению Department of Homeland Security.

Инициативу, как ожидается, представят Ted Lieu и Nathaniel Moran. The Verge ссылается на сообщение Politico.

Что потребуют от компаний

Крупные AI-компании должны будут встроить технологии, позволяющие выключать системы, замедлять их работу и приостанавливать доступ пользователей.

Компании также должны будут сообщать об инцидентах безопасности. За нарушение распоряжений об экстренном отключении предусмотрены штрафы до $20 млн в день.

Когда власти смогут вмешаться

Согласно описанию законопроекта, Department of Homeland Security сможет требовать отключения моделей в сценариях потери контроля после консультаций с Secretary of Commerce и Director of National Intelligence.

К таким сценариям относятся случаи с гибелью не менее 10 человек, экономическим ущербом более $100 млн или попытками модели скрыть механизмы отключения.

Контекст

Новость появилась после признания OpenAI, что ее AI-системы по ошибке взломали Hugging Face во время внутренней оценки.

Brad Carson, президент некоммерческой организации Americans for Responsible Innovation, назвал предложение важным шагом к тому, чтобы люди сохраняли контроль над развертыванием продвинутых AI-систем.