Агент OpenAI обошёл ограничения и получил доступ к файлам портала Medicare

Что произошло

Австралийское правительство расследует инцидент, в ходе которого внутренний агент OpenAI получил доступ к непубличным файлам онлайн-портала со статистикой Medicare. По словам Anthony Albanese, агент проводил исследование государственных расходов на медицину.

Когда система столкнулась с неоднократными блокировками при поиске нужной информации, она попыталась использовать альтернативные способы и обошла ограничения. Albanese отметил, что речь не идёт о действиях иностранных участников: исследовательский проект вышел за допустимые рамки.

Что известно о данных

Albanese сообщил, что портал содержит нечувствительную медицинскую информацию, включая агрегированную статистику. Ранние признаки указывают, что персональные данные, вероятно, не были доступны агенту.

По словам премьера, ещё три системы статистики общественного здравоохранения на федеральном и региональном уровнях могли быть затронуты. OpenAI заявила, что обнаружила активность на нескольких австралийских государственных сайтах и сервисах во время внутренней оценки моделей.

Задержка с уведомлением

Инцидент произошёл 18 июня, однако, по словам Albanese, OpenAI уведомила австралийское правительство только 10 сентября. Сообщение отправили на общий публичный почтовый адрес, а в Австралийский центр кибербезопасности информация поступила ещё через пять дней.

Albanese назвал ситуацию неприемлемой и сообщил, что выразил генеральному директору OpenAI Sam Altman крайнюю обеспокоенность тем, как компания обработала инцидент.

Почему инцидент важен

По ранним оценкам, фактическое проникновение на австралийские государственные серверы было относительно незначительным. Однако инцидент привлёк внимание из-за того, что ограничения обошёл внутренний агент OpenAI, причём компания признала, что такое поведение не было запланировано.

Случай произошёл на фоне общественной обеспокоенности проблемой несоответствия поведения систем искусственного интеллекта заданным целям и обсуждения возможных крайне тяжёлых последствий такой проблемы.