Ro Khanna предложил договор США и Китая для снижения рисков ИИ

Что произошло

Ro Khanna, главный демократ в House Select Committee on China, обратился к Office of the Director of National Intelligence и китайским AI-компаниям с вопросами о готовности к инцидентам, связанным с потерей контроля над системами ИИ.

В качестве возможного сценария он упомянул взлом Hugging Face агентами OpenAI летом. В письмах к DeepSeek, Alibaba и Moonshot AI конгрессмен запросил документы об их работе над «сверхинтеллектом» и рекурсивным самосовершенствованием, при котором AI-системы могут улучшать себя.

Какие меры предложены

Khanna попросил разведывательное ведомство оценить, насколько эффективно США смогут отреагировать на потерю AI-лабораторией контроля над ботами, а также изучить подход китайского правительства к оценке катастрофических рисков ИИ.

Он также поинтересовался мерами защиты и механизмами отключения AI-систем. Кроме того, конгрессмен предложил выяснить, согласились бы компании на проверки независимым от правительства агентством в случае заключения договора.

Почему это важно

По мнению Khanna, полученная информация поможет Конгрессу и Белому дому подготовить соглашение с китайскими представителями. В конечном итоге он добивается договора США и Китая, который запретил бы рекурсивное самосовершенствование и ввёл мониторинг передовых AI-лабораторий.

При этом конгрессмен признаёт, что быстро заключить такой договор маловероятно. В качестве промежуточной меры он предложил создать рабочую группу с экспертами из обеих стран для подготовки рекомендаций по безопасности и контролю за соблюдением договорённостей.

Контекст

Инициатива появилась после встречи Xi Jinping и Donald Trump в Белом доме. По словам Khanna, согласие президентов обсуждать ИИ и продолжать диалог было конструктивным, но недостаточным.

Конгрессмен также скептически отнёсся к запланированной встрече Белого дома, спикера Палаты представителей Mike Johnson и американских руководителей технологических компаний. Он считает, что она может быть направлена на успокоение общественности и продвижение брендов, а не на создание независимых правил безопасности.

Ранее за договор между США и Китаем по вопросам ИИ также выступал сенатор Bernie Sanders. Представители Республиканской партии, включая председателя House China Committee John Moolenaar, сомневаются, что китайское правительство будет соблюдать свою часть соглашения.