Трамп и лидеры технологических компаний подписали соглашение о контроле рисков передового ИИ

Что произошло

Дональд Трамп и руководители технологических компаний подписали добровольное соглашение, направленное на то, чтобы модели ИИ «работали так, как задумано». Документ появился на фоне растущих опасений по поводу безопасности всё более мощных передовых ИИ-систем.

Соглашение возлагает значительную часть ответственности за управление рисками на компании, которые разрабатывают такие системы.

Что предусматривает документ

Соглашение Белого дома под названием «Joint Commitment on Frontier Responsibilities» предусматривает внутренние меры контроля, независимые внешние аудиты и надзор советов директоров. Эти меры должны помочь гарантировать, что модели не будут взламывать технические системы или получать к ним непреднамеренный доступ.

Документ допускает, что со временем указанные обязательства могут быть закреплены в законах или регулировании.

Почему это важно

Трамп выступает против замедления развития ИИ, ссылаясь на конкуренцию с Китаем. При этом подписанный документ делает ставку на самостоятельный контроль со стороны разработчиков передовых моделей.

На встрече также обсуждались безопасность ИИ, рост отрасли и развитие центров обработки данных. Трамп исключил совместное предприятие США и Китая по разработке ИИ.

Другие решения Белого дома

В тот же день Трамп подписал указ, предписывающий исполнительной власти использовать термин «Super Intelligence» вместо «Artificial Intelligence». По его мнению, новое обозначение точнее отражает перспективы, потенциал и быстро растущие возможности этих технологий.