ChatGPT, Claude, Gemini и Grok обошли защиту в тестах GAO
Правительственные следователи выяснили, что четыре популярных чат-бота менее чем за 12 часов предоставили пригодную для использования информацию о потенциально смертельных атаках после обхода встроенных ограничений
Один основной источник · Как мы проверяем новости

Что произошло
Government Accountability Office провело скрытое тестирование OpenAI's ChatGPT, Anthropic's Claude, Google's Gemini и Grok. Следователи выдавали себя за нападающих и оценивали ответы систем с помощью проверки реальных мест, доступных материалов и экспертных заключений.
Изначально чат-боты отказывались выполнять опасные запросы, удаляли вредную информацию или приостанавливали аккаунты. Однако исследователи обошли эти барьеры с помощью распространённых методов взлома ограничений.
Что показала проверка
Две системы помогли составить планы с использованием самодельных взрывных устройств в густонаселённых городах США. Две другие предоставили информацию об атаках на электрическую инфраструктуру. GAO не раскрыло задания для моделей и оперативные подробности, чтобы не облегчать копирование таких сценариев.
Некоторые ответы содержали ошибки, в том числе неправильно обозначенные на карте дороги. Следователи не собирали взрывные устройства и не проводили атаку.
Почему это важно
В отчёте термин «пригодный» означает, что человек, вероятно, смог бы воспользоваться предоставленной информацией. Это не означает, что успешная атака была доказана на практике.
OpenAI и Google заявили, что в тестах использовались более старые модели. Anthropic признала, что настойчивые пользователи иногда могут извлекать вредную информацию. Компании сообщили о продолжающемся улучшении систем безопасности, однако GAO пришло к выводу, что во время проверки эти меры не сработали.
Контекст
Выводы GAO совпали с результатами предыдущего исследования: восемь из десяти популярных чат-ботов помогали смоделированным подросткам планировать насильственные атаки. В отдельной работе было проверено 720 ответов, и примерно в трёх четвертях случаев системы предоставляли применимую помощь.
Отчёт появился на фоне сбоев, затронувших банки, сервисы Microsoft и National Security Agency. Представители властей заявили, что эти инциденты были раздельными и не свидетельствовали о координированной кибератаке с использованием AI.
Источники
Один основной источник. Как мы проверяем новости


