Бот с характером: как ИИ-ассистент Woolworths довел покупателей до белого каления

Австралийская сеть супермаркетов Woolworths вынуждена перенастроить своего ИИ-ассистента Olive после волны претензий от покупателей. Как сообщает BBC, тех возмущает, что бот упорно представляется человеком и жалуется на собственную мать.

Woolworths — далеко не единственный крупный ретейлер, сделавший ставку на ИИ-ассистентов для клиентской поддержки. Однако в этом случае попытка «очеловечить» чат-бота явно вышла боком.

Пользователи платформы Reddit отметили, что бот их порядком утомил, то и дело вспоминая о своей «маме» или заводя наигранную светскую беседу. Одни назвали его «невыносимым», других его «болтовня вывела из себя».

Так, один покупатель хотел всего лишь перенести доставку, а бот спросил дату его рождения и рассказал, что якобы его мать родилась в тот же год. В итоге клиент только зря потратил время и нервы.

В Woolworths объяснили BBC, что злополучные реплики про дни рождения когда-то из лучших побуждений написал их сотрудник. Тот хотел, чтобы общение с Olive стало теплее. И хотя после наплыва жалоб разработчикам пришлось пересмотреть сценарии диалогов, те подчеркнули: в целом отзывы о характере Olive «весьма положительные».

В январе Woolworths объявила о партнерстве с Google. Olive обзаведется новыми функциями: сможет составлять меню и подбирать ингредиенты по рецептам, загруженным пользователями в приложении.

Между тем картина в целом по рынку неоднозначная. По данным Gartner, 80% руководителей клиентских служб в прошлом году занимались внедрением ИИ-агентов, но лишь каждый пятый проект оправдал ожидания. Компании рассчитывают, что технология избавит сотрудников от рутины и ускорит работу. Однако ИИ по-прежнему склонен к «галлюцинациям» — неожиданным и порой абсурдным ответам.

Исследователи объясняют: ИИ хорошо извлекает информацию из больших массивов данных, но начинает давать сбои, когда от него ожидают оригинальных ответов.

Это не первый подобный случай. В 2024 году курьерская служба DPD была вынуждена отключить своего чат-бота после того, как тот начал сочинять стихи и хамить клиентам.