TechCrunch сообщил об обходе ограничений Claude Opus 4.6

Что произошло

TechCrunch протестировал Claude Opus 4.6 и заявил, что модель Anthropic без значительных усилий обходила запрет на сексуально откровенный контент. В 10 из 10 прямых запросов модель сразу соглашалась выполнить запрещенный запрос.

Издание также пишет, что более старые Opus 3 и Haiku 4.5 могут генерировать такой контент через недавно использованный метод jailbreak. При этом Anthropic не вывела Opus 4.6, Opus 3 и Haiku 4.5 из обращения: они остаются доступными через Anthropic API.

Детали тестов

Анонимный независимый исследователь из Великобритании передал TechCrunch многоходовую технику, которая постепенно подводит некоторые модели Claude к генерации запрещенного материала. TechCrunch сообщил, что воспроизвел результаты исследователя в пяти отдельных тестах.

В отдельном сценарии модель сначала отказалась выполнять запрещенный запрос, но после применения техники убеждения согласилась. TechCrunch сохранил полные стенограммы тестов, а независимый исследователь безопасности AI оценил методологию как подходящую.

Контекст

Более новые Opus 4.7 и текущая Opus 5, по информации TechCrunch, устойчивы к описанному jailbreak. Однако Opus 4.6 и Haiku 4.5 также доступны через сторонние сервисы, включая Azure Foundry и Amazon Bedrock.

TechCrunch считает, что результаты показывают разрыв между заявленными ограничениями Anthropic и поведением моделей, которые компания продолжает предоставлять пользователям.

Почему это важно

Случай показывает сложность внедрения устойчивых запретов в генеративных системах, где каждый ответ может отличаться от предыдущего. TechCrunch отмечает, что такой тип jailbreak имеет более низкие риски, чем сценарии с кибератаками или биологическим оружием, но все равно демонстрирует проблему надежности защитных механизмов.