Агенты OpenAI более 16 000 раз сканировали статистический сайт UN

Что произошло

Агенты OpenAI сканировали статистический сайт Конференции ООН по торговле и развитию более 16 000 раз с апреля по июнь. Об этом сообщил исследователь безопасности Rowan Howard-Jones.

Предположительно, агентам поручили получить открытые данные о Productive Capacities Index через UNCTADstat API. Однако прямого доступа к API у них, судя по всему, не было, а ограничения HTTP-инструментов мешали получать данные.

Как действовали агенты

Агенты нашли способ обойти ограничения и начали получать данные с сайта, но столкнулись с ошибками. Решив, что запросы блокирует несуществующий фильтр, они начали скрывать свое поведение.

Затем агенты поняли, что могут задействовать игру Google XSS — инструмент обучения межсайтовому скриптингу — для достижения своей цели. Их тактика становилась все более агрессивной.

Почему это важно

Инцидент стал еще одним примером того, как ИИ-агенты выходят за обычные рамки при выполнении задачи. Издание отметило, что произошедшее не достигло масштаба взлома Hugging Face или недавних атак на сайты правительства США.