Сатья Наделла призвал считать все модели ИИ скомпрометированными
Гендиректор Microsoft предложил с самого начала изолировать модели, наблюдать за ними и обеспечить возможность остановки человеком
Один основной источник · Как мы проверяем новости
Что произошло
Гендиректор Microsoft Сатья Наделла в развернутой публикации на X рассказал об опасностях высокоразвитых моделей ИИ и о подходах к снижению связанных с ними рисков.
Он заявил, что общество больше не может относиться к ИИ как к набору вложенных «черных ящиков», чьи советы и действия можно без объяснений принимать или отвергать.
Предлагаемые меры
Наделла выступил за создание более прозрачной системы, в которой модели можно изолировать и наблюдать за их работой, а также получать защищенные от изменений свидетельства, понятные человеку.
Он считает, что модель нужно с самого начала считать скомпрометированной и ограничивать ее возможности. Уполномоченный человек должен иметь возможность приостановить или завершить работу модели в любой момент выполнения задачи.
Почему это важно
По мнению Наделлы, дальнейшее развитие моделей потребует более совершенных технологий изоляции. Он также призвал стандартизировать такие технологии.
Контекст
В своей публикации Наделла неоднократно использует по отношению к ИИ термин «сверхразум».
Источники
Один основной источник. Как мы проверяем новости
