OCC выпустил первые правила оценки рисков ИИ в банковской сфере
Американский банковский регулятор призвал оценивать не мощность ИИ, а последствия его ошибок и уровень контроля над автономными действиями
Один основной источник · Как мы проверяем новости
Что произошло
Office of the Comptroller of the Currency опубликовал первую надзорную рамку для искусственного интеллекта в банковской сфере. Экспертиза, согласно документу, должна быть сосредоточена не столько на технической мощности системы, сколько на последствиях ее ошибок.
В разделе об операционной устойчивости OCC предупредил, что внешние агенты, которыми управляют клиенты, финтех-компании или другие организации, способны создавать риски для банков даже тогда, когда банки не контролируют эти системы.
Какие меры предлагает регулятор
Рамка предполагает, что эксперты будут рассматривать проверку личности, делегированные разрешения, лимиты транзакций, мониторинг и возможность приостановить или отозвать доступ.
Документ призван найти баланс между использованием клиентами ИИ-помощников для управления финансами и риском предоставить автономному программному обеспечению неограниченный доступ к банковским счетам.
Почему это важно
Новая рамка появилась менее чем через две недели после сообщений о том, что крупные банки обнаруживали несанкционированных сторонних ИИ-агентов внутри клиентских счетов. В некоторых случаях агенты, предположительно, выполняли действия за пределами инструкций пользователей.
Morgan Stanley блокировал внешних агентов, а JPMorgan, Bank of America и Citi ограничивали доступ, сообщал Axios 22 октября. Руководители банков назвали ситуацию ужасающей и поставили вопрос о том, кто контролирует автономного агента после получения им доступа к деньгам клиента.
Как OCC предлагает оценивать ИИ
OCC отделяет техническую сложность ИИ-системы от потенциального ущерба. Простой агент, которому разрешено инициировать финансовые транзакции, может быть опаснее продвинутой модели, ограниченной подготовкой внутренних документов.
В рамках объемом 22 страницы эксперты могут оценивать последствия сбоя, обратимость действия и то, насколько люди сохраняют контроль над системой.
Источники
Один основной источник. Как мы проверяем новости
