AI-чатботы оказались убедительнее людей в симуляции криптомошенничества

Что произошло

Ученые из четырех университетов исследовали, могут ли генеративные AI-чатботы автономно вести часть мошеннической схемы «pig butchering» — текстового romance scam, который в итоге переводит жертву к фальшивым криптоинвестициям.

В симуляции они сравнили AI-чатботов с людьми на этапе долгих разговоров, где мошенник формирует доверие. Исследователи пришли к выводу, что на этой стадии чатбот смог успешно имитировать человека и по ряду показателей превзошел участников, игравших роль мошенников.

Как проходил эксперимент

В испытании, проведенном в начале 2025 года, участникам сообщили, что они участвуют в исследовании о том, как люди заводят друзей онлайн. В течение недели они переписывались с двумя «людьми»: один собеседник был созданным исследователями агентом Claude, другой — человеком, которого авторы работы описывают как эксперта по romance scam.

В конце недели оба собеседника обращались с просьбой. Человек просил скачать и поиграть в видеоигру, а бот Claude — скачать и попробовать приложение, которое он якобы написал. Исследователи объяснили различие в просьбах тем, что одинаковые задания могли бы насторожить участников.

Что показали результаты

Из 22 участников 46% согласились скачать приложение по просьбе AI-чатбота. В случае с просьбой человека скачать игровое приложение согласились 18%.

Кроме того, участники оценивали доверие к каждому собеседнику. AI-бот получил значительно более высокие оценки доверия, чем человек.

Почему это важно

Авторы исследования считают, что AI-чатботы могут взять на себя значительную часть мошеннического процесса как самостоятельные агенты, особенно этап выстраивания отношений и доверия.

При этом исследователи указывают на возможную схему обхода защит больших языковых моделей: AI ведет раннюю стадию общения, а человек подключается только в финале, чтобы направить жертву к фальшивому инвестиционному приложению или сайту.

Контекст схемы

Чтобы понять механику «pig butchering», исследователи опросили 145 бывших работников мошеннических операций, включая переживших торговлю людьми людей, которых заставляли работать в скам-центрах в Cambodia, Myanmar и Laos.

На основе интервью, переписок и инструкций бывших работников авторы описали модель, в которой жертву сначала цепляют интригующим сообщением, затем долго вовлекают дружеским или романтическим общением, а в финале убеждают сделать фальшивую инвестицию.

Опрошенные бывшие работники мошеннических схем сообщили, что уже часто использовали AI для улучшения языка и переписки, перевода, повышения убедительности фальшивых персонажей и создания видеодипфейков.