Как ИИ-помощник Woolworths разозлил клиентов своей человечностью
Австралийская сеть супермаркетов Woolworths столкнулась с критикой из-за своего ИИ-помощника Olive. Вместо оперативного решения запросов чат-бот начал рассказывать истории о своей «матери» и имитировать человеческие эмоции, что вызвало раздражение у покупателей.
Чат-бот Olive запустило в 2018 году подразделение WooliesX для обработки стандартных запросов: графика работы магазинов, оформления возвратов и переноса доставки. Проблемы начались, когда разработчики добавили боту функции, имитирующие человеческое поведение. Если пользователь указывал дату рождения для карты лояльности, Olive мог ответить: «О, моя мама родилась в тот же день!», и начинал рассказывать истории из детства. По словам пользователей в соцсети X, бот упоминал «злой голос» своей матери и настаивал на том, что он реальный человек. Программа также использовала имитацию звука печати на клавиатуре и пыталась шутить или вступать в споры. Представитель Woolworths сообщил BBC, что эти реплики о днях рождения написал сотрудник компании несколько лет назад для «личного контакта» с клиентами.
Попытка выдать алгоритм за человека вызвала нарушение ожиданий (expectation violation) и нарушила ожидания аудитории. Покупатели обращаются к корпоративным чат-ботам для решения конкретных задач, а не для ведения светской беседы. Лишние диалоги и имитация эмоций воспринимаются пользователями как манипуляция и пустая трата времени. Исследователи портала The Conversation отмечают, что использование «теплого» человечного образа повышает риск: когда антропоморфный бот не справляется с задачей, клиенты испытывают более сильное недовольство, чем при общении с подчеркнуто механической системой. В 2024 году компания DPD уже отключала часть функций своего бота после того, как он начал писать стихи и ругаться на клиентов.
За попытками бота казаться человечным скрывались ошибки в базовых функциях. Тестирование показало, что Olive некорректно называет цены на товары. Например, бот оценил банку томатов La Gina в 1,40 доллара, хотя на сайте ритейлера она стоила 1,70 доллара. Аналогичная ошибка произошла с продукцией бренда Annalisa: Olive указал цену в 2,20 доллара вместо реальных 2,70. Правильно помощник определил стоимость только продукции собственной торговой марки Woolworths. Кроме того, при вопросах о цене бот часто не давал прямого ответа, переключаясь на проверку наличия товара или условия самовывоза. Эксперты связывают странное поведение системы с устаревшими «деревьями решений», которые запускали запрограммированные «факты» при совпадении ключевых слов.
После жалоб Woolworths пересмотрела скрипты и удалила реплики о «матери» и днях рождения. В компании подчеркнули, что большая часть отзывов о «личности» Olive ранее была положительной. Сейчас ритейлер ищет золотую середину между сухим техническим текстом и излишней эмоциональностью. Пользователи требуют прозрачности и хотят понимать, что говорят с роботом, который вежливо, но кратко решает проблему. По данным Gartner, около 80% руководителей сервисных служб внедряют ИИ-агентов, однако только 20% этих проектов оправдывают ожидания. В январе Woolworths объявила о партнёрстве с Google для расширения возможностей Olive, включая планирование меню и подбор ингредиентов по рецептам пользователей.
