OpenAI, Anthropic и Google обсуждают безопасность ИИ уже несколько недель

Что произошло

Chris Lehane сообщил журналистам, что OpenAI работает с Anthropic и Google DeepMind над вопросами безопасности ИИ уже несколько недель. По имеющейся информации, Lehane находится в Washington для работы с американскими законодателями над проблемой катастрофических рисков, связанных с ИИ.

Переговоры подтвердили более ранние сообщения о сотрудничестве компаний. Ранее Sam Altman намекал на частные обсуждения с другими руководителями ИИ-компаний.

Детали обсуждений

Поводом для новых призывов к сотрудничеству стало эссе CEO Anthropic Dario Amodei, опубликованное в субботу. В нем он предложил отрасли совместно замедлить развитие передового ИИ, чтобы избежать катастрофических рисков.

The Information сообщило, что три компании также работают над созданием отраслевого органа по стандартизации ИИ. По данным издания, Altman говорил сотрудникам, что такой орган должен появиться без поддержки правительства США.

В июле Demis Hassabis призвал США создать новый орган, который мог бы проверять наиболее передовые модели и координировать замедление разработки в отрасли при усилении опасностей.

Почему это важно

Обсуждения проходят на фоне разногласий вокруг государственного регулирования ИИ. President Trump назвал опасения по поводу безопасности мистификацией и заявил, что замедление разработки даст Китаю преимущество. Его советник по ИИ David Sacks также назвал преувеличенными опасения экзистенциального риска от ИИ.

Lehane отметил, что координация компаний по вопросам безопасности может создать антимонопольные риски, если ее сочтут подавлением конкуренции. Эссе Amodei предлагало ограниченное государственное исключение для такой координации, однако, по имеющейся информации, Lehane заявил, что компаниям оно не требуется.

Контекст

OpenAI также поддерживает положение FRONTIER Act, которое обязывало бы ведущие лаборатории передового ИИ допускать независимые организации для проверки безопасного развития моделей.