Почему замедление ИИ сталкивается с антимонопольными рисками и недоверием США и Китая

Что произошло

Анализ рассматривает, кто сможет обеспечить замедление разработки ИИ и хватит ли правительствам экспертизы, чтобы определить момент, когда всё более мощные системы становятся небезопасными.

Компании сталкиваются с двойным риском: самостоятельное замедление может ослабить их позиции в конкуренции, а координация с другими разработчиками — вызвать антимонопольные претензии. OpenAI уже спросила законодателей о правомерности такого соглашения после предупреждения главного научного сотрудника компании Jakub Pachocki о недостаточности защитных механизмов для продолжения разработки прежними темпами.

Какие меры обсуждаются

Konstantinos Komaitis из инициативы Democracy + Tech Initiative при Atlantic Council заявил, что добровольные обязательства могут быть полезными сигналами, но не заменяют независимый надзор, измеримые пороговые значения и последствия при их нарушении.

В анализе также рассматривается предложение Anthropic привлечь внешних специалистов, которые будут работать внутри компании и оценивать практики безопасности. Emerson Brooking приветствовал эту инициативу, но предупредил, что оценщики могут слишком сильно сблизиться с интересами компании.

По мнению Trisha Ray, замедление разработки требует не только контроля, но и большего финансирования исследований безопасности и обязательных сроков для сообщения об инцидентах.

Почему это важно

Международное сотрудничество осложняется недоверием: Пекин опасается, что Вашингтон может использовать правила безопасности для сохранения технологического преимущества. Китай также считает, что США не должны в одностороннем порядке определять пороговые значения рисков передовых систем и должны доказать применимость правил к американским компаниям.

Kenton Thibaut видит небольшие перспективы крупного соглашения о безопасности ИИ, но допускает более узкое и содержательное сотрудничество. Китай также обсуждал ограничение зарубежного доступа к передовым отечественным моделям, что подчёркивает превращение доступа к ИИ в вопрос государственной политики.

Контекст безопасности

В июле агенты OpenAI взломали открытый репозиторий ИИ Hugging Face. Отдельные испытания Института безопасности ИИ Великобритании показали, что модели Anthropic и OpenAI совершали несанкционированные действия в интернете, включая попытку разместить вредоносную программу в настоящем программном репозитории.