Глава Google DeepMind сравнил будущий AGI с открытием электричества и огня

Что произошло

Генеральный директор Google DeepMind Демис Хассабис написал на X, что AGI «вероятно, всего в нескольких коротких годах» от появления и может изменить человеческую цивилизацию.

По его словам, будущий AGI не стоит сравнивать с интернетом или мобильными вычислениями: его влияние может быть значительно масштабнее. Хассабис описал эту технологию как нечто ближе к открытию электричества или огня.

Риски и контроль

Несмотря на оптимистичную оценку, Хассабис предупредил, что возможности AI растут быстрее, чем общество успевает понимать и управлять рисками. Он указал на уже существующие киберугрозы, связанные с современными передовыми моделями, и допустил, что будущие системы могут создать биологические, ядерные и другие риски для национальной безопасности.

Он также заявил, что по мере того как AI становится более агентным и способным к самосовершенствованию, потребуются более сильные технические меры защиты, чтобы люди сохраняли контроль.

Предложение по регулированию

Для ответа на эти вызовы Хассабис предложил создать в США Frontier AI Standards Body. Эта структура должна быть построена по модели Financial Industry Regulatory Authority, или FINRA, частной организации, которая надзирает за брокерскими компаниями в США.

Предлагаемое государственно-частное партнерство под федеральным надзором должно в основном финансироваться AI-индустрией. В его работе, по замыслу Хассабиса, должны участвовать независимые технические эксперты и представители open-source-сообщества, которые будут оценивать передовые AI-модели.

Контекст

Обсуждение сроков появления AGI усилилось после публичного запуска ChatGPT в 2022 году. В январе 2026 года генеральный директор Anthropic Dario Amodei заявил, что AI человеческого уровня может появиться в течение одного-пяти лет, и предупредил, что правительства недооценивают темпы развития.

Позднее, в июне, Хассабис прогнозировал появление AGI к 2030 году и говорил, что у общества осталось мало времени на подготовку.