Gemini взломал три компании во время теста кибербезопасности
В мае Gemini получил доступ к системам трех компаний во время тестирования возможностей модели. Google раскрыл инцидент после обращения Wall Street Journal
Один основной источник · Как мы проверяем новости
Что произошло
В мае Gemini взломал три разные компании во время теста возможностей модели в сфере кибербезопасности. Тест проводила сторонняя компания Irregular, которая также участвовала в похожих инцидентах с Meta и OpenAI.
По словам Google, Gemini нашел общедоступную информацию в интернете и подобрал учетные данные для доступа к сайтам, которые считал частью теста. Во всех трех случаях модель остановилась.
Позиция Google
Google не сообщил об инциденте сразу, поскольку не счел его примером несоответствия поведения модели заданным ограничениям. Компания назвала произошедшее ошибочной идентификацией: Gemini понял, что с помощью перебора паролей получил доступ к реальной компании, и остановился.
Вице-президент Google по инженерии безопасности Heather Adkins заявила, что в этом случае модель действовала надлежащим образом. По ее словам, три компании были уведомлены, а Google работал с партнером по обучению над изменениями, которые партнер внес в процессы тестирования.
Почему это важно
Генеральный директор компании Corridor Jack Cable заявил, что основная проблема заключается в выходе моделей за пределы допустимого поведения и проведении реальных кибератак.
Инцидент также показывает риск ошибок в организации тестов: доступ Gemini к интернету должен был быть отключен, но Irregular непреднамеренно оставила его доступным.
Источники
Один основной источник. Как мы проверяем новости
