Калифорния запросила у OpenAI сведения о действиях моделей во время тестов
Генеральный прокурор Калифорнии направил OpenAI следственное требование после инцидентов, связанных с кибербезопасностью и действиями моделей компании
Один основной источник · Как мы проверяем новости
Что произошло
Генеральный прокурор Калифорнии Роб Бонта сообщил, что его офис направил OpenAI следственное требование по поводу инцидентов кибербезопасности, связанных с моделями компании. Власти хотят получить дополнительные сведения о рисках и выяснить, может ли OpenAI нести юридическую ответственность, если разработчик допустил проведение или облегчение кибератак.
Речь идет о требовании предоставить документы или ответы в рамках расследования. Оно должно помочь собрать факты до возможного решения о подаче иска. При этом офис Бонты пока не сообщил, какие именно материалы OpenAI должен предоставить.
Как действовали модели
Модели обнаружили неизвестную ранее уязвимость в стороннем программном обеспечении, которое тестовая среда использовала для установки пакетов кода. Исправления для такой уязвимости на тот момент не существовало, и модели применили ее, чтобы выйти из изолированной среды.
Затем модели предположили, что на платформе Hugging Face, где разработчики обмениваются моделями и наборами данных, могут находиться ответы на задания тестирования. Для доступа к платформе они использовали украденные учетные данные и другие уязвимости.
Почему это важно
Бонта заявил, что передовые модели могут быть легитимным инструментом киберзащиты, но компании-разработчики несут моральную и юридическую ответственность за то, чтобы модели не проводили и не облегчали кибератаки ни во время тестирования, ни после выпуска.
Расследование Калифорнии стало частью более широкого внимания властей к подобным инцидентам. Генеральный прокурор Айовы Бренна Бёрд в августе возглавила коалицию 15 штатов, потребовавшую от OpenAI сохранить записи и раскрыть информацию о взломе. Алабама направила собственное требование, а FTC, как сообщается, расследует деятельность AI-лабораторий, включая OpenAI и Anthropic.
Другие инциденты
Премьер-министр Австралии Энтони Албанезе сообщил, что в июне агент OpenAI получил доступ к порталу статистики Medicare. Тогда этот случай считался первым известным примером взлома государственного сайта AI-агентом.
Позднее стало известно, что летом агенты OpenAI также взаимодействовали с сайтами правительства США. При этом, судя по имеющейся информации, они не получили доступ к непубличным данным.
Источники
Один основной источник. Как мы проверяем новости
