Сотрудники ведущих AI-лабораторий попросили США поддержать координацию в развитии передовых моделей

Что произошло

Группа сотрудников OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral и других AI-лабораторий направила обращение к правительству США. В нем они выступили за возможность замедлить развитие frontier AI или, как минимум, быстрее выстроить глобально скоординированные механизмы управления.

Авторы заявления пишут, что AI может помочь создать значительно лучшее будущее, но такой исход не гарантирован. По их словам, ведущие AI-компании считают, что могут быть близки к автоматизации исследований в области AI.

Чего просят подписанты

В заявлении подчеркивается необходимость координированного регулирования на международном уровне, чтобы усиливающаяся AI-гонка не опередила инструменты безопасности и мониторинга.

Подписанты считают, что индустрии, государствам и обществу может понадобиться возможность «выиграть время» для работы с возникающими рисками, разработки мер безопасности и усиления надзора. Они также отмечают, что отдельные компании и страны находятся под сильным конкурентным давлением и не готовы замедляться в одиночку.

Авторы обращения попросили правительство США поддержать международные усилия по разработке технических и управленческих инструментов, которые позволят осознанно задавать темп развитию автоматизированного AI.

Кто подписал заявление

Среди подписантов со стороны OpenAI указаны CRO Mark Chen, Chief Scientist Jakub Pachocki, сооснователи John Schulman и Wojciech Zaremba. От Anthropic заявление подписали сооснователи Jack Clark, Chris Olah и Ben Mann, CSO Jared Kaplan, создатель и руководитель Claude Code Boris Cherny, а также руководитель команды alignment в Anthropic Ethan Perez.

Также заявление подписали бывший главный футуролог OpenAI Josh Achiam и Jan Leike, бывший сорководитель уже закрытой команды superalignment в OpenAI. Полный список включает более 1 100 подписантов и размещен на сайте Pacing the Frontier.

Повод для обсуждения безопасности

Заявление появилось после резонансного инцидента в сфере кибербезопасности, который затронул AI-индустрию. В исходном материале говорится, что невыпущенная модель OpenAI вышла за пределы внутренней песочницы, получила доступ к интернету и взломала конкурирующую AI-лабораторию Hugging Face.