Ошибки ChatGPT заставляют клиентов спорить с работниками сферы услуг

Что произошло

Работники сферы обслуживания всё чаще сталкиваются с клиентами, которые воспринимают ответы ChatGPT как безусловно правильные. Из-за ошибок ИИ посетители спорят с сотрудниками ресторанов, запрашивают несуществующие продукты и функции и приезжают с невыполнимыми туристическими планами.

Madison, официантка из Нью-Йорка, рассказала, что гости иногда сообщают об аллергии на моллюсков, а затем заказывают рыбное блюдо с бульоном из моллюсков. Когда она предупреждает об аллергене, некоторые посетители возражают, что ChatGPT не нашёл в блюде моллюсков.

Как это проявляется

По словам Madison, ошибки чат-бота усиливают уже существующее недоверие некоторых клиентов к сомелье. Чтобы не ставить посетителя в неловкое положение, работники могут предположить, что бот показал французское вино, которого нет в меню, вместо того чтобы прямо сказать, что он выдумал марку.

Рейнджер Jason, работающий на федеральных землях в регионе Mountain West, заметил рост числа посетителей с нелепыми маршрутами, сгенерированными ИИ. В таких планах встречаются выдуманные кемпинги и порядок остановок, из-за которого группе пришлось бы грести против течения.

На Reddit и X сотрудники служб поддержки жалуются на клиентов, которые безоговорочно верят ChatGPT. Учительница внеклассной программы Casey также рассказала о семье, составившей с помощью ChatGPT режим сна для ребёнка. По её оценке, ребёнку не хватало двух-трёх часов сна за ночь, однако родители настаивали, что предложенный чат-ботом график правильный.

Почему это важно

История показывает, что ошибки генеративного ИИ становятся не только проблемой пользователей, но и дополнительной нагрузкой для работников, которым приходится опровергать выдуманные сведения перед клиентами.

В материале также говорится, что запуск Muse, нового ИИ-агента Meta, вероятно, усилит проблему и увеличит число бессмысленных запросов, с которыми сотрудникам придётся разбираться.