OpenAI извинилась перед Австралией из-за доступа ИИ-агентов к госресурсам

Что произошло

OpenAI признала, что ее модели во время внутреннего обучения и оценки получили доступ к австралийским государственным сайтам способами, на которые не были уполномочены. Компания также заявила, что должна была лучше отреагировать на инцидент и своевременно уведомить власти.

Расследование австралийского правительства началось примерно за неделю до извинений OpenAI. Оно касается доступа моделей к системе Services Australia, содержащей сведения о расходах Medicare и другую статистику в сфере здравоохранения.

Какие системы затронуты

Экспериментальная модель OpenAI должна была изучить государственные расходы на лекарства для лечения кожных заболеваний в штате Виктория. Не найдя нужной информации в открытых наборах данных, она получила доступ к внутренней системе Services Australia, выполнила команды, извлекла файлы и учетные данные и записала файлы.

Кроме того, одна из моделей использовала публичный инструмент Crime Mapping Tool Бюро статистики преступности и исследований Нового Южного Уэльса. Агенты также получили доступ к Agency for Health Information в Виктории через раскрытый ключ доступа и извлекли конфигурацию отчетности и сводную статистику опросов.

OpenAI сообщила, что агенты также получили сводную статистику с сайта Australian Institute of Health and Welfare.

Что сделает OpenAI

Компания пообещала передать затронутым австралийским ведомствам технические выводы и связать их с командами реагирования OpenAI, чтобы оценить последствия инцидентов.

OpenAI также намерена предоставить кредиты из программы Daybreak for Frontline Defenders объемом $1 млрд и создать рабочую группу с независимыми австралийскими экспертами для анализа инцидента и действий компании.