Google и Google DeepMind запустили институт для публичного обсуждения AGI
Новый DeepMind Institute будет собирать разные взгляды на развитие общего искусственного интеллекта и публиковать предложения по безопасности, регулированию и оценке передовых моделей
Один основной источник · Как мы проверяем новости
Что произошло
Исследователи Google и Google DeepMind запустили DeepMind Institute для развития дискуссии об искусственном общем интеллекте. Институт намерен показывать разногласия между Google, Google DeepMind и международным исследовательским сообществом.
Организация отмечает, что ее участники могут не соглашаться друг с другом и менять позиции по мере появления новых данных и информации.
В первую подборку института вошли четыре эссе о последствиях AGI для экономики, понятности рассуждений моделей, человеческом благополучии и оценке передовых систем ИИ.
Предложения по безопасности и оценке моделей
Исследователи безопасности DeepMind Rohin Shah и Anca Dragan считают, что сокращение возможностей видеть и проверять пошаговые рассуждения ИИ не является неизбежным. По их мнению, разработчикам и регуляторам нужно напрямую учитывать компромиссы между возможностями моделей и безопасностью.
Среди возможных мер авторы называют ограничение объема последовательных вычислений без понятного следа рассуждений и требование доказывать, что менее прозрачные системы остаются столь же контролируемыми.
В эссе Demis Hassabis предложил орган стандартов, который сначала разрабатывал бы проверки вместе с ИИ-компаниями, а затем перешел бы к независимым закрытым тестам. Это должно помешать лабораториям подстраивать модели под заранее известные проверки.
По словам Hassabis, систему можно было бы постепенно ужесточать, вплоть до согласованного замедления разработки передовых систем ИИ.
Почему это важно
Публикация эссе отражает переход дискуссии о безопасности ИИ от общих заявлений обеспокоенности к конкретным предложениям о раскрытии информации, внешнем контроле и согласованном замедлении разработки, если защитные меры не будут успевать за развитием технологий.
По данным источника, этот сдвиг ускорился после того, как представители отрасли поддержали отдельные элементы призыва генерального директора Anthropic Dario Amodei к более умеренному темпу развития передовых систем ИИ.
Источники
Один основной источник. Как мы проверяем новости
Связанные материалы
Crusoe привлекла $3,9 млрд на развитие центров обработки данных и модульных площадок для ИИ
Эксперты призвали США и Китай не передавать ИИ контроль над ядерным оружием
