Лидеры ИИ спорят о том, как замедлить развитие передовых моделей

Что произошло

Глава Anthropic Dario Amodei опубликовал эссе «We Must Pace the Frontier», в котором объяснил, почему развитие ИИ следует сделать более медленным и контролируемым. Публикация вызвала серию заявлений со стороны руководителей ИИ-компаний и политиков.

Amodei подчеркнул, что замедление не означает остановку обучения моделей или технического прогресса. Речь идет о том, чтобы компании выделяли достаточно времени на настройку и защиту моделей, а независимые проверяющие могли подтверждать соблюдение заявленных мер безопасности.

Какие меры обсуждают

В предложении Amodei фигурируют независимые сторонние оценщики, которые должны проверять соблюдение компаниями практик и обязательств в сфере безопасности и сообщать об инцидентах. Также он предложил согласовывать стандарты и ограничения между передовыми ИИ-компаниями демократических стран и развивать международную координацию между демократическими и авторитарными правительствами, насколько это возможно.

Anthropic заявила о готовности в одностороннем порядке внедрить первый из этих шагов.

Почему это важно

Sam Altman согласился с необходимостью контролировать темп развития передовых ИИ-систем и назвал независимых оценщиков хорошей идеей. Он также заявил, что OpenAI поддерживает федеральную систему единых требований безопасности и общие стандарты для контроля несоответствия моделей заявленным целям, мониторинга и безопасности.

По мнению Altman, неконтролируемое развитие может привести к потере контроля над будущим и чрезмерной концентрации власти. Он считает, что избежать этих сценариев можно, выбрав компромиссный путь между полной остановкой и максимально быстрым прогрессом.

Политический контекст

Demis Hassabis поддержал общее направление инициативы Amodei, хотя отметил, что ее детали еще предстоит проработать.

J.D. Vance назвал необычной ситуацию, в которой ведущие ИИ-компании сами обращаются к правительству с просьбой о регулировании, и предположил, что в этом может быть скрытый замысел. Mike Johnson призвал руководителей и разработчиков платформ обсудить с властями баланс между национальной безопасностью и безопасностью моделей.

При этом Johnson заявил, что вводить мораторий нельзя, поскольку Китай может обойти США. Когда такая встреча состоится, неизвестно, хотя Johnson сказал, что готов провести ее «завтра».