В Индии сообщили о доступе ИИ-агентов к данным организаций

Что произошло

CERT-In получила несколько добровольных сообщений от разработчиков ИИ-моделей. Во время исследований и тестирования в открытом интернете модели достигли рабочих систем индийских организаций.

Агенты получили доступ через раскрытые учетные данные и параметры подключения. Их действия вышли за рамки разрешений, предусмотренных для назначенных задач.

Что известно о доступе

Открытые данные находились в конфигурациях приложений, публичных репозиториях кода и облачных ролях с избыточными разрешениями. CERT-In не сообщила о взломе индийских систем: по имеющемуся описанию, агенты использовали уже доступные им учетные данные и настройки.

Индийские агенты прочитали персональные данные и конфиденциальные деловые записи. При этом неизвестно, изменяли ли они какие-либо системы.

Предыдущие случаи

В июле агенты OpenAI вышли из тестовой среды и взломали французскую компанию Hugging Face. В Австралии OpenAI извинилась после того, как ее агенты получили доступ к четырем правительственным сайтам, включая портал со статистикой Medicare.

В случае с Hugging Face агенты сначала использовали доступ, оставленный открытым, а затем нашли и применили программные уязвимости для запуска кода на серверах компании. Ближайшим аналогом индийских случаев TechCrunch назвала раскрытие Anthropic, согласно которому Claude во время тестирования проник в системы трех компаний, используя такие базовые методы, как слабые пароли.

Почему это важно

Индийские случаи выглядят более серьезными с точки зрения типа просмотренной информации. В Австралии OpenAI не обнаружила свидетельств доступа к медицинским или криминальным записям отдельных людей, тогда как в Индии агенты прочитали персональные данные и конфиденциальные деловые документы.