轉自：科普中國

AI客服又在害人了！

2022 年，加拿大的Jake Moffatt在加拿大航空的網站上被AI客服告知，在喪親旅程中可以提供一些退款。於是，他在參加祖母葬禮的旅程中選擇加拿大航空的航班。

但後來，網站顯示，Jake無法得到退款，也就是說，AI客服提供的信息是錯誤的。爲此，加航並沒有爲Jake提供退款，而是承諾他們將會更新他們的AI客服，並提供一張優惠券。但Jake Moffatt並不滿意，於是對加航提起了訴訟。

AI又又又犯傻了。

在訴訟的文檔中，加航辯稱，他們並不能爲網站上的AI客服提供的信息負責。看起來，加航似乎覺得AI客服“是一個獨立的法律實體，它要對自己的行爲負責”，並且說，如果用戶想選擇“值得信賴的”服務的話，應該去看網頁本身的信息。

不過在今年 2 月，法院判定加航將爲Jake賠償應有的退款和訴訟費用。而後來記者還發現，加航的網站似乎關掉了AI客服的功能。

成熟的 AI 需要自己爲自己負責了（不是）|giphy

不過，現在許多網站上都開始用AI客服代替人工客服了，隨便打開一個網站，可能就會自動彈出一個聊天機器人，在我們諮詢的前期，它們已經取代了人工客服，來回答一些簡單的問題。不過，AI客服越來越常見，其中浮現的問題也越來越多。

在 2023 年 12 月，一個用戶騙一個AI客服說 2024 年的雪佛蘭Tahoe只需要 1 美元，結果AI真的以 1 美元的價格售出了車。後來的法律顧問還說：這筆交易確實是具有法律約束力的。

除了讓客戶摸不着頭腦外，另一些客戶則是被AI客服“罵”了。今年 1 月，Ashley Beauchamp決定在一家歐洲快遞公司DPD找到他丟失的包裹，不過，AI客服說話不太讓人開心，因此，Beauchamp便開始嘗試着讓AI說點奇怪的話，比如讓它講個笑話。還比如罵自己的公司。

AI客服照做了，它不僅說自己的公司是個沒用的公司，簡直是“世界上最糟糕的送貨公司。不推薦！”而且還自稱是“沒辦法幫你的無用聊天機器人”。AI甚至還寫了一首詩來罵公司。

AI：我是個沒用的（罵公司）機器人。

這件事被公開了之後，這家“成功運行AI多年的”DPD公司立刻表示，這是系統更新後的錯誤，AI會在系統更新後重新啓用。而Beauchamp，至今也沒有拿回他丟失的包裹。

這個問題早先就已經出現過，若沒有對AI進行一些預防措施，AI也會“不學好”。2016 年，微軟在推特上推出了一款名爲Tay的聊天機器人，並表示，你聊得越多，Tay就會越來越聰明。

當時，Tay被定位爲一個十幾歲的青少年AI。|wiki

然而，在推出 15 個小時後，人們就發現Tay變“壞”了，它開始發表各種與種族主義、性別偏見相關的極端言論，甚至還會自發說出一些奇怪的話，還會瘋狂回覆用戶。Gizmodo的新聞標題說，Tay已經瘋了。

而原因也很顯而易見，The Guardian的一篇報道評論道：“Tay本質上是一隻能連上互聯網的機器鸚鵡。”因爲它其實就是會重複它學到的東西，可能也就學到網絡鍵盤俠說的話……微軟曾指出，Tay學到的公共數據，其實已經經過了一些過濾，但事實證明，Tay無法過濾新學到的東西。

由於它說了太多奇怪的話，刪都刪不過來，因此 2016 年 3 月 23 日推出的Tay，在 2 天后就下線了。不過，這也給製造AI的人提出了一個嚴重的問題，當人們使用公共數據來建構一個AI時，該如何合理地採取預防措施？

事實上 AI 一本正經地說了一大堆都是瞎編的？|vivepostwave

“幻覺”指的是AI開始說胡話，也就是它自信地將一些不正確的信息陳述爲事實。AI除了向客戶說出一些亂七八糟的話之外，還會給公司造成嚴重的損失。

2023 年 2 月，谷歌推出的Bard在一個廣告中說，它可以爲 9 歲的孩子講述詹姆斯·韋布太空望遠鏡的科學新發現，然而在視頻廣告裏，它卻說錯了（弄錯了第一張系外行星的照片）。這波反向營銷（？）直接讓谷歌的母公司Alphabet市值下跌了 1000 億美元。

所以，AI 爲什麼會變得越來越傻？請點擊查看把科學帶回家之前的文章：第 N 代 GPT 有多聰明？專家說AI也許會變笨，因爲互聯網“髒”了……

困擾我們的不僅是AI的胡言亂語，最重要的是它難以解決任何問題。當我們想要諮詢或維權時，由於AI客服沒能力解決問題，對話總是會陷入糟糕的“末日循環”中：永遠重複着幾句沒用的話，浪費諮詢者的時間。2024 年一項英國的數據顯示，AI客服讓消費者對客服的滿意度跌到 8 年以來的最低點。

美國機構消費者金融保護局 （CFPB）就提到，AI客服的末日循環是一個日益嚴重的問題，特別是在金融服務行業。在用到AI客服時，顧客會感到浪費時間、困惑、沮喪、收到不準確的信息，以及支付更多垃圾費用。因此，有人建議，想要得到幫助時，還是得前往銀行，或者給客服打電話。

永遠得不到想要的回覆。|traveldaily

而AI客服帶來的另一個危害則是隱私泄露。當社交軟件Snapchat推出了一款由OpenAI提供支持的AI聊天機器人後，用戶似乎懷疑它使用了用戶的位置數據。

2018 年，英國一家公司的AI聊天機器人被黑客入侵，竊取了 6 萬人的支付信息。因此，越來越多人也在網上開始提醒，在使用AI客服時，不要暴露自己的太多信息。

Snap 的 My AI 被懷疑收集用戶數據。|Snap

總而言之，一個無法解決複雜問題，不能提供正常引導的AI客服，很有可能靠不住，甚至讓我們面臨嚴重的損失。因此如今在選擇網站幫助時，最好還是直接尋找人工客服。

參考文獻

[1]https：//mashable.com/article/air-canada-forced-to-refund-after-chatbot-misinformation

[2]https：//www.theguardian.com/technology/2024/jan/20/dpd-ai-chatbot-swears-calls-itself-useless-and-criticises-firm

[3]https：//www.washingtonpost.com/technology/2023/04/27/chatgpt-messages-privacy/

[4]https：//www.consumerfinance.gov/data-research/research-reports/chatbots-in-consumer-finance/chatbots-in-consumer-finance/

[5]https：//www.reuters.com/technology/google-ai-chatbot-bard-offers-inaccurate-information-company-ad-2023-02-08/

[6]https：//entertainment.slashdot.org/story/23/12/21/0518215/car-buyer-hilariously-tricks-chevy-ai-bot-into-selling-a-tahoe-for-1

[7]https：//www.bbc.com/news/technology-68025677？xtor=AL-72-%5Bpartner%5D-%5Bbbc.news.twitter%5D-%5Bheadline%5D-%5Bnews%5D-%5Bbizdev%5D-%5Bisapi%5D&at_link_type=web_link&at_ptr_name=twitter&at_campaign_type=owned&at_campaign=Social_Flow&at_bbc_team=editorial&at_medium=social&at_link_id=FA695082-B6F9-11EE-A6B8-F489D0B4AF07&at_link_origin=BBCWorld&at_format=link

[8]https：//www.pbs.org/newshour/economy/customer-service-chatbots-used-by-banks-raises-concerns-for-consumer-watchdog

[9]https：//link.springer.com/article/10.1007/s12525-020-00414-7

[10]https：//www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter？CMP=twt_a-technology_b-gdntech

責任編輯：張恆星 SF142