Глава Google DeepMind предложил отдельный орган для контроля frontier-моделей

Что произошло

Генеральный директор Google DeepMind Demis Hassabis в публикации в X предложил создать новый регулирующий орган для надзора за выпуском frontier-моделей.

В тексте “A Framework for Frontier AI and the Dawning of a New Age” он описывает орган стандартов, созданный по образцу FINRA. Такая структура могла бы тестировать frontier-модели и разрабатывать лучшие практики их выпуска.

Как может работать механизм

Сначала Frontier Labs добровольно передавали бы модели в Standards Body на проверку за срок до 30 дней до релиза.

Если протокол оценки покажет эффективность и надежность, процедура может быть формализована: Frontier Models должны будут проходить ее перед развертыванием на рынке США.

Лаборатории также должны будут работать со Standards Body над устранением критических уязвимостей, обнаруженных после выпуска.

Контекст

Предложенная система должна опираться на разовые проверки, которые правительство США проводило для Anthropic Mythos и OpenAI Sol.

Эти проверки критиковали за недостаток технической экспертизы и непрозрачность решений о том, когда модель можно выпускать.

В модели Hassabis такие решения могли бы перейти к новой организации, поддерживаемой правительством США, финансируемой AI-индустрией и работающей независимо.

Почему это важно

Регулирование AI остается спорной темой для технологической индустрии и Trump Administration.

Советник White House по AI и генеральный партнер a16z Sriram Krishnan ранее усомнился в появлении AI-регулятора внутри исполнительной власти, заявив, что «FDA для AI не будет».

Hassabis считает, что саморегулируемая структура по типу FINRA может снять часть этих опасений: она была бы технически ориентированной, поддерживала инновации и стимулировала ответственное поведение.