AI變成罪惡幫兇，IBM終止面部識別

6月8日，IBM公司最新上任的CEO阿爾文德·克里什納表示，將停止提供面部識別軟件，並且今後也不會再繼續研發此類技術。對此，他給出的理由是爲了反對“將技術用於大規模監視和種族歧視”。

曾幾何時，人工智能（AI）技術被視作“公正與客觀”的化身，避免人們走向偏見的歧路。埃森哲曾在《技術展望2019》中表示，不少企業在發佈工作崗位時存在性別偏見，而AI工具能夠幫助人們識別並糾正此類偏見，儘量實現薪酬公平。

但事實是，依賴於數據學習的人工智能，會導致社會偏見長期存在。

2013年，哈佛大學計算機科學家拉坦婭·斯威尼發現，如果用谷歌搜索一個典型的非裔名字，就會跳出許多關於逮捕記錄信息查詢的廣告，而如果搜索一個白人常用名，則不會出現這種情況。

爲降低員工離職率、削減高額成本，施樂公司（Xerox）曾試圖通過大數據程序來預測員工的在職時長。程序發現，通勤距離與員工離職率高度相關，家住得遠的員工會更快提出離職。但該公司的管理層很快意識到，由於公司位於富人區，如果依照程序建議而不僱用住址偏遠的員工，將對中低收入人羣產生歧視。

相似地，亞馬遜在2014年啓用的以AI驅動的招聘系統，由於頻頻被詬病歧視女性，最終於2018年被停用。

近年來，人工智能極受資本追捧，許多媒體爭先發出“機器人超越人類閱讀水平，令數百萬人面臨失業風險”等危言聳聽的文章。這使得人們開始憂慮其自身地位是否會被AI替代，機器人佔領地球是否近在眼前。

新硅谷機器人創業公司Robust.AI的創始人兼CEO蓋瑞·馬庫斯、紐約大學柯朗數學科學研究所計算機科學教授歐內斯特·戴維斯對此表示：大可不必。在他們聯手合著的新書《如何創造可信的AI》中，二人表示，理想與現實之間，存在着“AI鴻溝”（The AI Chasm），人們總是誤以爲AI解決了簡單的問題，就相當於向解決難題邁出了一大步。

IBM對沃森（Watson）系統的大肆吹捧就屬此類。IBM的目標是解決從藥理學、放射學到癌症診斷與治療中存在的問題，該公司希望能利用沃森的認知系統去讀取醫學文獻，給出人類醫生可能會遺漏的醫療建議。然而在2017年，MD安德森癌症中心停止了與IBM在腫瘤學方面的合作，理由是沃森給出的治療建議“不安全、不正確”。

谷歌的Alpha Go很可能也會走上同樣的老路。Alpha Go在圍棋上的成就引發了人們對於AI智慧的熱烈討論，但他們忽略了圍棋和國際象棋都屬於完全信息型的遊戲。Alpha Go可以與自己下100萬盤圍棋，以建立數據庫，在每一次落子前都計算出贏率。但在真實的世界中，我們所掌握的數據常常充滿噪音，存在着大量的不確定性。而依賴於數據、機器學習的人工智能，目前無法應對這樣的模糊性。

這些花費了巨大的人力物力研發出來的系統，都跟我們所暢想的“擁有超級智慧的機器人”相去甚遠。而對實驗條件的苛刻要求、在模糊性方面的應對無能，甚至還會使AI連“基本的小事”都無法順利完成。

例如，蘋果的“自動化組裝電子設備”的嘗試近期宣告失敗，其新研發的機器人連擰螺絲、塗膠水等簡單任務都無法完成。

特斯拉也於近日再次“翻車”。在中國臺灣的高速公路上，一輛特斯拉Model 3在自動巡航的模式下，沒有采取任何避讓措施，直直地撞向一輛靜止的貨車。在系統眼中，卡車和廣告牌的高度均高於特斯拉車，故而錯把靜止的貨車當成了廣告牌，導致了事故的發生。

蓋瑞·馬庫斯和歐內斯特·戴維斯把這類情況稱作“魯棒坑”。

每當人們找到了在某些時候能發揮作用的AI解決方案時，就會假定，只要再多一些數據，系統就能在所有的時刻發揮作用。但正如杜克大學人類與自動化實驗室主任米西·卡明斯所說，問題不在於某輛無人駕駛汽車能在不出事故的情況下跑幾公里，而在於汽車本身的適應能力有多強。將車輛在理想的實驗條件下的行駛表現與極端情況的表現混爲一談，是將整個行業置於生死邊緣的重大問題。

《如何創造可信的AI》一書進一步指出，太多的人工智能都只是短期解決方案的堆砌，而缺乏關鍵的工程保障。

當發現AI系統無法識別非裔女性的性別後，IBM就拿了一個帶有更多非裔女性圖片的全新數據集來對系統進行訓練。谷歌的解決方法則更爲“徹底”。當谷歌圖片錯把非裔美國人識別爲大猩猩後，該公司直接把大猩猩的圖片從數據集裏去除了。

以上兩個解決方法固然能在短期內平息人們的怒氣，但這不過是讓盲目的數據分析得出正確結果的小伎倆，其背後隱藏的真正問題始終沒有得到解決。

究其根本，還是因爲現有的AI技術尚不具備認知和理解能力。

AI能利用統計數據來分類，但這隻能近似地表示意義，而無法理解圖像和語言的真正含義。正如蓋瑞·馬庫斯和歐內斯特·戴維斯所說，“目前我們正處於人工智能的過渡時期：具有自主性和網絡化的狹義AI”。它並不具備真正的智能，也無法對情況進行評估、對未來的可能性進行預測，更不能隨情況變化進行動態判斷。

在這樣的情況下，“機器人將接管人類的生活”還只是美好希冀，未來學家雷·庫茲韋爾的預言——“AI將在2029年之前超越人類本身”，則不過黃粱一夢。

推薦閱讀：