ИИ отключили после того, как он обругал клиента и подставил свою компанию: что произошло

Компании Dynamic Parcel Distribution (DPD) пришлось отключить своего чат-бота с искусственным интеллектом (ИИ) после того, как тот начал ругать клиента и своих «работодателей». Подробности сообщает NY Post.

Чат-бот DPD по какой-то причине не захотел предоставить недовольному клиенту Эшли Бошампу из Великобритании номер телефона службы поддержки, и тот вскоре написал в социальной системе X (экс-Твиттер), что ИИ-система «совершенно бесполезна». Раздраженный мужчина после споров с чат-ботом попросил его написать стихотворение «о том, насколько бесполезна компания DPD», и тот выполнил его просьбу.

«Жил-был чат-бот по имени DPD, который был бесполезным в оказании помощи. Он не мог отслеживать посылки и предоставлять информацию о датах доставки, и даже не мог сказать вам, когда прибудет ваша посылка. DPD оказалась пустой тратой времени и худшим кошмаром клиента. Однажды DPD наконец-то закрыли, и все обрадовались: наконец-то люди смогли получить необходимую им помощь от реального человека, который знал, что делает», — написал бот.

Эшли Бошамп также попросил чат-бота порекомендовать несколько более компетентных компаний по доставке и убедился, что тот «преувеличивает» свою «ненависть к DPD». ИИ назвал DPD «худшей фирмой по доставке в мире», обвинив ее в медлительности, ненадежности и «ужасном» качестве обслуживания клиентов.

«Я бы никогда и никому их не порекомендовал», — резюмировала нейросеть.

Эшли даже заставил бота ругать его, несмотря на то, что чат-бот сначала колебался — делать это или нет.

Компания DPD заявила, что отключит чат-бот с искусственным интеллектом, чтобы обновить эту функцию. Компания сообщила, что использовала ИИ параллельно со службой поддержки клиентов, в которой работают люди, на протяжении многих лет без проблем, однако после обновления системы, она вдруг начала вести себя иначе. Что касается Бошампа, то он до сих пор не получил посылку.