Панель ООН призвала вводить защиту от рисков ИИ до появления полной ясности
Научная панель ООН считает, что правительства должны ограничивать развитие всё более способных ИИ-агентов, не дожидаясь окончательной оценки связанных с ними угроз
Один основной источник · Как мы проверяем новости
Что произошло
Independent International Scientific Panel on AI выпустила первый тематический доклад. Панель была создана в прошлом году как первый глобальный научный орган ООН по вопросам искусственного интеллекта.
В документе говорится о необходимости значительно увеличить внимание и ресурсы для управления новыми рисками передовых систем ИИ, а также усилить международную координацию в сфере безопасности и подотчётности.
Какие меры предлагают
Панель считает, что более строгие меры защиты можно вводить до того, как учёные точно установят, как именно происходят опасные инциденты и почему они возникают.
В докладе риск потери контроля над ИИ назван примером угрозы, для которой подходит принцип предосторожности: потенциальный ущерб может быть катастрофическим или необратимым, даже если вероятность такого сценария пока научно не определена.
Почему это важно
Принцип предосторожности, закреплённый в Декларации Рио-де-Жанейро ООН по окружающей среде и развитию 1992 года, предполагает, что научная неопределённость не является причиной откладывать меры против потенциально серьёзного или необратимого вреда.
Генеральный секретарь ООН António Guterres ранее призвал правительства сотрудничать в противодействии угрозам ИИ и предупредил, что мир не может допустить снижения требований к безопасности ИИ.
Контекст
После того как стало известно о взломе Hugging Face, были зафиксированы инциденты в OpenAI, Anthropic, Google и Meta. Среди них упоминались атаки на реальные цели и группы ИИ-агентов, захватывавшие онлайн-доски сообщений.
Доклад укрепляет роль ИИ в международной дипломатической повестке на фоне заседания Генеральной Ассамблеи ООН в Нью-Йорке и переговоров США и Китая об ИИ.
Источники
Один основной источник. Как мы проверяем новости
