本文爲創新工場董事長兼首席執行官李開復博士在本週於瑞士召開的2022年達沃斯世界經濟論壇的專欄文章，經授權編譯。

圖片來源： Unsplash/Gabriella Clare Marino

負責任地應用機器人和機器學習可以挽救更多的生命，其利大於弊。

• 自主機器人和自主決策的確可能造成致命錯誤。
• 因機器人錯誤而造成的死亡，將造成道德兩難的新時代“電車難題”。
• 如果社會接受機器學習，並竭力以負責任的態度導入機器人技術，更多生命將會因此得到拯救。

在未來 20 年內，隨着機器人技術的進步，自動駕駛汽車、工業機器人和醫用機器人將擁有更強的能力、更高的自主性，並得到更爲廣泛的應用。不可避免，這些自主機器人可能會犯下決策方面的錯誤，造成數百上千人死亡。但如果人類參與其中，這種災難是可以避免的。

這樣的未來固然可怕，不過一旦人類社會能負責任地運用機器人技術，獲救的生命將多於造成的死亡。

機器學習的過程

機器人並非經由人類“編程”而模仿人類的決策過程。它們從大數據中學習，利用從數據中推導出的複雜數學公式，執行諸如“識別紅綠燈”之類的任務。機器學習過程需要的數據量遠遠超過人類所需。然而，一旦經過訓練，機器人在任何特定任務中的表現都將優於人類。藉由機器學習，人工智能和機器人的性能在過去五年裏已經獲得了極大的提升。

我在這篇文章提出的觀點適用醫療健康、製造業及其他正在快速實現自動化的行業。先以自動駕駛爲例，一位經驗豐富的人類司機，一生中可能有幾十萬英里的駕駛經驗，而谷歌旗下的自動駕駛汽車公司Waymo，僅在2021年一年間就完成230萬英里的上路測試里程，其背後的AI技術通過數據學習了每一輛車的駕駛經驗，而且這些自動駕駛車輛永不疲勞，也不像健忘的人類司機，可能忘記他們曾經犯的錯誤。

特斯拉公司的“智能召喚”功能首次推出後，汽車可以在沒有車主操作的情況下，離開停車位並繞開障礙物。一開始許多用戶抱怨這個新功能表現得不盡如人意，但在短短几周內，特斯拉公司便收集了早期用戶的數據，重新訓練了新功能背後的機器學習模型。從此，“智能召喚”顯著獲得改進，成爲了特斯拉新車的一大關鍵競爭優勢。

自主機器人可以挽救生命

可供學習的數據日益增加，人工智能的能力也隨之快速提升，AI 變得更精準，適應性更強，也更安全。隨着越來越多的機器人進入主流日常應用，其應用領域越來越廣，標誌着功能性機器人技術正得到逐步普及。自動駕駛將從“握住方向盤”到“放開方向盤”，進而發展到“無需監視”，乃至“無需關注”，並最終進化到“無方向盤”的全自動狀態。

中國的自動駕駛企業文遠知行便是一個很好的範例。這家公司已在中國數個城市部署了無人小巴和無人環衛車。相較於無人駕駛出租車，它們在運行環境上受到了更大的限制，但與人類司機相比，安全性有了大幅提高。這些車輛在特定環境下運行並收集大量數據後，最終將擺脫這些初期上路的限制條件。

在機器人技術從簡單應用通往復雜場景的發展過程中，我們將獲得更多數據，從而提升其性能和安全性。舉例來說，在未來十年裏，通過減少人爲失誤（這是道路事故最常見的原因），自動駕駛汽車僅在英國就可以防止47000起嚴重交通事故發生，挽救3900人的生命。蘭德公司的研究發現，即使自動駕駛的安全性僅比人類駕駛高 10%，換算過來也能夠拯救許多寶貴的生命。

道德困境

對於機器人的大規模應用，大部分人仍然表現出極大的擔憂，包括對機器錯誤導致人類喪命的道德爭議。古典的“電車難題”是指一種道德困境，經典假設是旁觀者可以通過切換失控電車的軌道，雖然會因此撞死一個人，卻能拯救另外五個人。這一難題說明了攸關“誰生誰死“的選擇，本質上是一種道德判斷，這樣的決策不應該交給無情的機器。

然而，機器人和人類的感知方式不同，出現的錯誤類型自然也就不同，這使得“道德困境”進一步加劇。舉例來說，機器人反應迅捷，注意力始終集中，但可能會誤判障礙物，例如優步的無人駕駛汽車就曾把推着自行車過馬路的行人誤判爲汽車，並因此預判它比自身行進的速度更快。

人類失誤和機器失誤之間的差異，使得公衆更加難以接受由機器人導致的死亡，如果他們曾經聽聞了類似 2018 年美國鳳凰城車禍事件後的媒體渲染報道，一定更難釋懷。一旦各種媒體持續以譴責性的大標題，有失偏頗地放大抨擊每樁自動駕駛致死的案例，那麼人們很可能會對自動駕駛系統徹底失去信心，即便這項技術最終有可能拯救數百萬人的生命。

若是人類司機造成他人死亡，他們將面臨法律的判決並承擔相應後果。但“人工智能的黑匣子”無法以人類可理解的詞句，或者在法律和道德上正當合理的人類語言，向法官和公衆解釋肇事決策的原由。

另一點需要商榷的是問責問題。在鳳凰城的那場事故中，汽車裏的人類司機被指控犯有過失殺人罪。但是，在這一案件中，汽車製造商、人工智能算法供應商或工程師應該爲此負責並承擔一定的法律責任嗎？只有問責歸屬明確，我們纔能有共識和準則的基礎來建立一個完善的自動駕駛生態系統。

人工智能和機器學習時代的“電車難題”

既然機器人技術可以挽救無數生命，那麼只要證明它比人類略勝一籌，我們就有充分的理由大舉推廣自動化技術。我認爲，我們應把握一切機會推出對人類有助益的機器人自動化工具，它們初期應在受限制的特定環境中使用，然後再逐步規模化採用，最終獲得更多自主權及更廣泛的推動。通過這種循序漸進的方式，我們一方面可以收集更多的數據，提升機器人的性能，另一方面能夠最大限度地降低危及人類生命的事故。

考慮到可能出現的異議，我們需要共同努力，讓大衆更瞭解機器人技術帶來的短期陣痛和長期效益。只有這樣，我們才能在擁抱自動化技術的進程中，逐漸培養出負責任和嚴謹的態度，讓機器人更好地爲人類社會服務。

本文經WEF世界經濟論壇授權進行中文編譯，原文鏈接：