В ЕС считают действующие правила достаточными для противодействия неконтролируемым ИИ-агентам
Еврокомиссар по технологиям Henna Virkkunen заявила, что AI Act охватывает весь жизненный цикл моделей и позволяет противостоять рискам выхода ИИ из-под контроля
Один основной источник · Как мы проверяем новости
Что произошло
Еврокомиссар по технологиям Henna Virkkunen заявила в интервью Reuters, что Европейский союз хорошо подготовлен к рискам, связанным с безопасностью и надежностью мощных ИИ-моделей.
По ее словам, AI Act уже действует и охватывает весь жизненный цикл таких моделей. Регуляторы также предоставляют компаниям рекомендации по оценке ИИ-систем.
Меры регулирования
AI Act устанавливает требования в зависимости от уровня риска и входит в число самых строгих мировых законов об искусственном интеллекте. Закон был принят два года назад.
В конце августа Европейская комиссия запросила информацию более чем у 30 не названных в материале ИИ-компаний. Запрос касался мер безопасности и защиты.
Почему это важно
Заявление Virkkunen прозвучало на фоне глобальных опасений, что неконтролируемые ИИ-агенты могут выйти за пределы человеческого контроля. Поводом для обеспокоенности стали, в частности, инциденты в OpenAI и Anthropic.
Глава Anthropic Dario Amodei ранее предупреждал, что темпы развития ИИ могут опередить способность людей понимать и контролировать такие системы. Он связывал ускорение прогресса с растущей способностью ИИ создавать следующие поколения моделей — процессом, который называют рекурсивным самоулучшением.
Источники
Один основной источник. Как мы проверяем новости
