Demis Hassabis предложил создать глобальный надзорный орган для ИИ под руководством США
Глава и сооснователь Google DeepMind считает, что новая структура должна оценивать передовые модели до релиза и при необходимости координировать замедление их внедрения
Один основной источник · Как мы проверяем новости
Что произошло
Глава и сооснователь Google DeepMind Demis Hassabis предложил создать глобальный орган надзора за ИИ. По его замыслу, такая структура должна иметь возможность останавливать или замедлять внедрение передовых моделей, если они будут признаны слишком опасными.
Hassabis написал в блоге, что инициативу должны возглавить США. Он объяснил это экономическим и техническим положением страны, которое, по его мнению, позволяет ей задавать глобальные стандарты.
Как может работать новая структура
Предлагаемый орган может напоминать существующих регуляторов вроде Financial Industry Regulatory Authority. В его состав, согласно описанию, могли бы войти ведущие независимые эксперты и представители сообществ с открытым исходным кодом.
Организация получила бы полномочия оценивать передовые модели до их выпуска и координировать замедление по всей индустрии, если модели сочтут слишком рискованными для внедрения.
Контекст
В блоге под названием “A Framework for Frontier AI and the Dawning of a New Age” Hassabis написал, что необходимость глобального регулирования становится более срочной по мере усложнения ИИ-систем.
Он также заявил, что искусственный общий интеллект, AGI, «вероятно, появится всего через несколько лет». При этом в источнике отмечается, что пока нет ни глобального набора правил, специально регулирующих ИИ, ни всеобъемлющего национального набора правил в США.
Почему это важно
Инициатива Hassabis вписывается в более широкий запрос на правила для все более мощных ИИ-систем. В источнике говорится, что это очередная попытка лидеров отрасли создать согласованную рамку управления такими системами и снизить возможные риски.
Axios сообщает, что Hassabis уже несколько месяцев ищет поддержку предложения, в том числе среди администрации Trump, других AI-лабораторий и европейских чиновников. Он также рассчитывает, что организация под руководством США начнет работать до конца года.
Источники
Один основной источник. Как мы проверяем новости
