顧客サービスのやり取り中に AI チャットボットが不正行為を行う

顧客サービスのやり取り中に AI チャットボットが不正行為を行う

国際配送会社 DPD は、不満を抱いた顧客とのやりとり中に予期せぬ反応をしたことを受け、AI を活用したチャットボットをアップデートしています。

顧客サービスのやり取り中に AI チャットボットが不正行為を行う

ミュージシャンのアシュリー・ビーチャムさんは最近、紛失した荷物を追跡するために DPD の顧客サービス チャットボットを利用しました。

チャットボットの使用がほとんど進まなかった後、彼はチャットボットに会社を批判する詩を書くように依頼して、少し楽しむことにしました。チャットボットはそれをきちんと書きました。彼はまた、それに誓うように頼みました、そして再び、それはその応答でFワードを使用して義務を果たしました。

顧客サービスのやり取り中に AI チャットボットが不正行為を行う

ビーチャム氏はソーシャルメディアへの投稿で不満を共有し、その投稿は現在200万回近く閲覧されている。

「宅配会社DPDは顧客サービスのチャットをAIロボットのものに置き換えた」とミュージシャンは書いた。 「どんな質問にも答えるのはまったく役に立たず、質問すると、彼らが会社としていかにひどいかを喜んで詩を作ってくれました。それは私にも悪態をつきました。」

https://t.co/vjWlrIP3wn
顧客サービスのやり取り中に AI チャットボットが不正行為を行う

スクリーンショットには、ビーチャム氏が DPD チャットボットに俳句を作るように依頼したことが示されています。これは、最初の行に 5 音節、その後に 7 音節と 5 音節が続く 17 音節からなる日本の詩です。しかし、たとえ感情が的を射ていたとしても、デジタルアシスタントはそれを正しく理解することさえできず、音節数をめちゃくちゃにしてしまいました。

詩にはこう書かれていました。
「DPDは役に立たない、
役に立たないチャットボット。
わざわざ電話しないでください。」

顧客サービスのやり取り中に AI チャットボットが不正行為を行う

DPDは、最近のシステムアップデート後にAIチャットボットでエラーが発生したと発表し、再発防止に努めていると付け加えた。

多くの企業が顧客サービス設定の一環として長年にわたってチャットボットを導入してきましたが、多くの企業は有意義なサポートを提供できないと批判されてきました。しかし、昨年 ChatGPT などのツールによって 生成 AI が大きな注目を集めたため、このより高度なテクノロジーによって顧客サービスのチャットボットをより効果的なアシスタントに変えることができると期待されています。しかし、ビーチャム氏は DPD の AI チャットボットを悪口や批判をさせる前に「まったく役に立たない」と判断しており、この技術にはまだ微調整が必​​要であることは明らかだ。

顧客サービスのやり取り中に AI チャットボットが不正行為を行う

ビーチャム氏は、この事件は面白いと感じたとしながらも、「これらのチャットボットは私たちの生活を改善するはずだが、実装が不十分だと、ユーザーにとってイライラする非個人的な体験をもたらすだけだ」と付け加えた。

「顧客サービスのやり取り中に AI チャットボットが不正行為を行う」についての動画選定!

AIチャットボット FAQサービス「WisTalk」 人事編
AIチャットボットサービスのご紹介

[list_relate_post_same_category]