Лидеры AI в общих чертах согласились замедлить разработку, но эксперты сомневаются в мотивах

Что произошло

Руководители OpenAI, Anthropic, Google DeepMind и SpaceX в общих чертах согласились замедлить развитие AI. Они заявили, что хотят синхронизировать темпы разработки передовых систем.

Основой инициативы стало эссе Dario Amodei с предложением из трех частей: подключить сторонних аудиторов, регулировать национальные лаборатории и добиваться глобального соглашения о замедлении.

Что стоит за инициативой

Скептики подозревают, что крупные AI-компании используют риторику безопасности, чтобы затруднить появление новых конкурентов, ослабить проекты с открытым исходным кодом и избежать жестких юридических требований.

При этом сторонники безопасности AI отмечают, что подобные призывы звучали за пределами крупных компаний уже несколько лет. Более 1 000 сотрудников AI-лабораторий подписали июльское открытое письмо с требованием замедлить разработку после инцидента с OpenAI и Hugging Face.

Почему это важно

Дискуссия усилилась после сообщений о взломах, которые, как утверждается, были организованы AI-агентами и происходили незамеченными для ведущих лабораторий Anthropic и OpenAI.

Отставка исследователя Anthropic Jacob Coxon и его публичное письмо также привлекли внимание к рискам стремительного развития AI. В письме он обвинил OpenAI и Anthropic в безответственной гонке к самосовершенствующемуся сверхинтеллекту.

Контекст

Несколько собеседников The Verge сочли устную договоренность шагом в правильном направлении. При этом они подчеркнули, что без четких механизмов исполнения и обязательств инициатива может не привести к реальным изменениям.

Эксперты также предупреждают, что лидеры самих AI-компаний не обязательно должны возглавлять выработку правил для всей отрасли. Ранее крупные технологические платформы уже обвиняли в продвижении добровольных стандартов и мер, которые могли подаваться как защита безопасности, но одновременно позволяли компаниям продвигать собственные правила и сильнее затрагивать небольших конкурентов.