Чат-боты иногда ведут покупателей на поддельные сайты магазинов

Что произошло

Компания по защите интеллектуальной собственности Podqi проверила ответы ChatGPT, Gemini и Perplexity на вопросы о покупке товаров и поиске официальных сайтов 151 бренда. Среди них были Lululemon, Birkenstock, Stüssy, Madhappy и Le Creuset.

За два периода тестирования в сентябре сервисы обработали 6 795 ответов. Podqi определяла как опасные поддельные сайты, имитирующие настоящих продавцов или торгующие копиями, перерегистрированные домены бывших брендов и неработающие сайты, которые может приобрести другой владелец.

Что показал тест

Gemini оказался наиболее осторожным: он ссылался на опасный сайт или упоминал его в 4% ответов. Для ChatGPT показатель составил 8%, а для Perplexity — 15%. В эти значения входили рекомендации опасного сайта, его отображение без комментария и предупреждение пользователя о риске.

ChatGPT чаще других сопровождал такие упоминания предупреждениями — в 24% случаев. При этом региональные запросы чаще приводили к опасным сайтам, включая вымышленные региональные страницы брендов, у которых их нет. В одном из диалогов Perplexity назвал неправильную страницу официальным сайтом Stüssy и рекомендовал её как отправную точку для покупки подлинных товаров.

Почему это важно

AI-компании продвигают чат-ботов как инструменты для поиска, сравнения товаров и продавцов. Ошибочные ссылки создают проблемы для брендов и ритейлеров, а для покупателей могут обернуться передачей персональных данных или данных банковской карты ненадёжному сайту.

Trevor West, генеральный директор и сооснователь Podqi, посоветовал проверять источник ответа чат-бота перед вводом персональной информации или данных банковской карты. Риск может стать заметнее в предстоящий сезон праздничных покупок, когда пользователи ищут товары в наличии и более низкие цены.

Комментарии компаний

В Google заявили, что Gemini показал лучший результат среди протестированных продуктов. Компания отметила, что постоянно проверяет и улучшает модели, а ссылки на источники рядом с ответами помогают пользователям перепроверять информацию.

В OpenAI сообщили, что продолжают совершенствовать защиту, чтобы потенциально вводящие в заблуждение сайты реже появлялись в результатах, связанных с покупками. В Perplexity заявили, что сервис стабильно показывает высокую точность в исследованиях надёжности, но не претендует на безошибочность.