本文轉自：長江日報

北京大學哲學系教授尚新建：

我們當然不能把機器人只視爲“鉗子”

《流浪地球2》中的“月面機器人”。

圖源：@電影流浪地球

□ 長江日報記者李煦

【訪談】

正在上演的大片《流浪地球2》中，出現了各種形態、各種功能的機器人，它們在未來世界中無處不在。

其實，機器人廣泛進入人類生活的那一天並不會太遙遠。今年1月18日，工業和信息化部等十七部門印發了《“機器人+”應用行動實施方案》，明確提出：到2025年，服務機器人、特種機器人行業應用深度和廣度顯著提升；除了經濟、安保等領域，還要重點發展養老、教育、醫療等領域的機器人應用。

這些機器人，會聽人類的話嗎？會對人類友好嗎？會尊重人的需求嗎？

這就涉及機器人倫理學了。在十七部門印發的文件裏有這樣一句話：“加強對重點行業機器人應用相關規章制度和倫理的研究。”機器人倫理學，關係到“規則”的制定，正成爲一門新興而重要的學科。

前不久，由北京大學哲學系教授尚新建和北京市社科院哲學所研究員杜麗燕聯袂翻譯的《機器人倫理學導引》出版，長江日報《讀+》週刊就此話題專訪了尚新建老師。

■ 從業人員的道德水準直接影響產品

讀+：能否把機器人僅僅視爲工具，類似一把鉗子，與機器人有關的倫理問題，實質上仍然是一羣人與另一羣人（鉗子製造者、管理者、使用者）之間的倫理問題？

尚新建：您的比喻很有趣，也非常形象，不過，這只是機器人倫理學關注的一個部分，而且，還不是體現機器人倫理學獨特性的部分。

機器人倫理學關注三方面的論題——創造和使用機器人的人的倫理學；嵌入機器人的倫理系統；人如何對待機器人的倫理學。

人們相信，從業人員的道德水準會直接影響產品的設計和質量。只有從業人員重視職業道德修養，對他人的價值觀保持高度的敏感性，公衆的安全、健康和福利才能得到保障。爲了規範從業人員的行爲，美國伍斯特理工學院專門爲機器人工程師制定了《機器人工程師倫理準則》，韓國2005年頒佈了《韓國機器人倫理學憲章》，也可看作是對機器人領域從業人員的倫理規範。在這一層面，圍繞機器人而形成的倫理關係與鉗子並無多大區別，其道德水平可稱之爲“操作的道德”，道德主動權幾乎完全掌握在產品的設計製作者和使用者手裏。

然而，機器人又不同於其他人工產品，因爲前者多少具有一定的智能，其行爲具有一定的自主性。以無人車（自動駕駛汽車）爲例，高速行駛的無人車，遇到突然出現的行人，避讓會導致乘客身亡，不避讓則會導致行人死亡。面對這種情況，無人車如何處置纔是妥善的？這裏，作爲產品，無人車似乎與鉗子的地位不同：後者完全是被動的工具，而前者似乎已經具有自主行動（無人駕駛），即能在可接受的行爲標準內選擇如何行動。

無人車或許只是一種較低程度的智能機器，但引發的倫理問題，其複雜性已經大大超越鉗子之類的產品。在《導引》一書中介紹的醫用機器人、助力機器人、社會化機器人和戰爭機器人，其智能至少相當於無人車，大多或略高於無人車。《導引》認爲，其倫理行爲應達到“功能的道德”層級，機器人具有道德判斷能力，“在決策行爲的過程中，無須人自上而下的指令。在這種情況下，設計者不再可能預測機器人的行爲及其後果”。

“功能的道德”是介於“操作的道德”與“完全的道德”之間的一個層級。

人們的理想目標是全智能機器人。倘若有朝一日，人們研製出一個完全的人工智能機器人，它能擺脫人的控制，自行做出明確的道德判斷，完全自主地決策自己的行爲，那麼，就可以認爲它具有“完全的道德”，成爲名符其實的“倫理機器人”。“倫理機器人”顯然不是單純的產品，而是準人類，甚至有人將其看作一個新的“物種”，與人類平起平坐。它們的倫理地位，顯然不像被動的工具（鉗子），而是類似於人與人之間的關係，直接與人發生倫理關係。當然，這種全智能機器人能否成爲現實，至今仍爲許多哲學家或科學家所懷疑。但是，這似乎符合人工智能研究和發展的軌跡。人類面對這種機器人的未來，或許現在就應該未雨綢繆，時刻把握和及時調整我們機器人和人工智能技術研發的倫理方向。

■ 中國學者奮起直追成就斐然

讀+：國內在這方面的研究現狀如何？

尚新建：機器人倫理學的誕生和發展，很大程度上取決於機器人研究、設計、製作以及應用的水平和規模。歐美和東亞一些國家在這方面起步較早（上世紀60年代），始終居領先地位。我國關於機器人倫理學的研究，無疑是從譯介他們的研究成果開始的。除了我們的這部譯著外，其他重要的相關譯著還有：《道德機器：如何讓機器人明辨是非》《軍事機器人：道德規範的構建》《社交機器人：界限、潛力和挑戰》《機器人倫理學》等。

近些年，隨着我國人工智能和機器人的研發迅猛發展，與此相關的倫理問題逐漸引起各部門的廣泛關注，亦激發學界的濃厚興趣。中科院、社科院以及高等院校的一些學者，或立項研究，或撰文著述，或開會討論，很快便取得斐然成就。更令人振奮的是，一些教研單位高瞻遠矚，面臨包括機器人在內的人工智能等新興科學技術的挑戰，整合不同學科、不同領域的技術力量，建立跨學科研究機構，以探索和解決新興科學技術提出的各類問題，諸如人工智能和機器人倫理學問題。兩年前北京大學成立的哲學與人類未來研究中心以及北京大學博古睿研究中心，就是這樣一種跨學科研究機構。研究團隊中不僅有人工智能、計算機、機器人領域的專家，也有從事哲學、法律研究的人文社會科學學者。他們曾承擔“國家機器人倫理標準化白皮書項目”，其最終成果《中國機器人倫理標準化前瞻（2019）》於2019年末由北京大學出版社出版。

讀+：《導引》一書給日本列出專章，特別關注日本機器人倫理學和歐美的差異。您在“譯者序”中寫道，“日本與西方對於機器人倫理學的態度，源於各自的文化”；那麼，您認爲，源於中國文化，中國對於“機器人倫理學”會有怎樣的貢獻？

尚新建：“日本機器人倫理學、文化間際問題和立法問題”，是裏頭頗具特色的一章，闡述了在日本傳統倫理文化的視角下，機器人倫理學可能呈現的基本面貌。文化都是特殊的，彼此有差異。不同的倫理文化要求機器人的行爲尊重特殊的風尚習俗，融入當地的文化氛圍。然而，機器人倫理學則努力從一般人類的立場出發，運用科學和哲學的基本概念、原理和方法，建立普遍的道德規範，解決機器人科學所引發的倫理問題。文化與機器人倫理學之間隱含巨大的張力。作者注意到，文化間際哲學理論試圖通過不同文化之間的對話，形成價值共識。然而，普遍性與特殊性如何達成統一，始終是哲學探索的核心問題之一，且困難重重。人們一旦在共識的基礎上形成一套有效跨越文化的“共同價值”，就“必須規範地予以界定，儘可能地維護和提升”。於是，如何設計規劃這些共同價值，以適合文化間際機器人倫理學的問題便浮現檯面：我們又回到普遍性與特殊性對立的原點。

隨着機器人的研發和使用在世界不同的文化區域發展，機器人倫理文化的需求也日漸增長。不過，目前迫在眉睫的問題是探索並建立普遍的機器人倫理學，因爲對機器人倫理問題是否具有合乎理性的科學和哲學思考，這一領域有無相關的規範、準則和立法，事關人類自身的安全與和平。在這一問題上，強調文化差異顯然是不明智的。何況，我們中國人要爲一門科學作出貢獻，必須心胸開闊，放眼世界，尊重科學的普遍規律。北京大學編著的《中國機器人倫理標準化前瞻》一書提出“中國優化共生設計方案”，是一個有益的嘗試：既從中國倫理傳統中尋找獨特的啓示，又廣泛吸納其他國家發展出的當代機器人倫理理論，在此基礎上，發展一套國際性機器人倫理標準化體系。這個方案不僅塑造了中國的機器人倫理標準體系的雛形，而且爲世界機器人倫理標準的思考提供了一個新的、獨特的視角。

■ 科幻的預見無法替代嚴肅的科學和哲學研究

讀+：“機器人的倫理問題”與“人工智能的倫理問題”，這兩者是什麼關係？是否可以畫等號？

尚新建：機器人與人工智能分屬不同的領域，二者有交叉和重疊。

廣義的機器人包括自動機遙控設備：凡在自控裝置的控制下，能夠按照程序執行各種操作任務的電子與機械相結合的機器，均可稱作機器人，並不一定是智能型機器人。因此，可以將一般機器人定義爲“一種具有擬人功能的機械電子裝置”。例如，由程序控制的機械手，可以有多種功能，從事移動、傳遞、裝配、拆解等各類操作，替代人的工作。

人工智能是計算機學科的一個分支，主要研究如何用計算機模擬人類智能，以相似人類的方式執行某些智能任務，例如遊戲活動、圖形識別、學習過程、理解會話、探索過程、推理過程、環境適應等方面的工作。

儘管時至今日，“人工”和“智能”兩個概念仍然迷霧重重，衆說紛紜，爭論不休，但是，作爲計算機產業的人工智能已經取得驚人的成就，無論研究還是應用，都呈現蒸蒸日上、突飛猛進、蓬勃發展的局面。智能機器人是人工智能研究的一項重要內容，除此之外，知識表示、自動推理和搜索方法、機器學習和知識獲取、知識處理系統、自然語言理解、計算機視覺、自動程序設計等方面，也屬於人工智能的研究領域。

所謂“智能機器人”，即“嵌入人工智能以及半自動化或自動化智能控制的機器人”，由效應（執行）器、傳感器、計算機和輔助設備等部分組成。這類機器人能在知覺與行爲之間建立智能聯繫，利用指令系統，在事先未知的條件下執行不同的任務，其追求目標是獲得最大程度的自主性，力圖在沒有人類干預的情況下，能夠獨自開展作業，正確應對環境，滿足自身生活的需求。正是在智能機器人這一領域，機器人與人工智能交疊。

因此，機器人倫理學與人工智能倫理學，也是部分交疊。

讀+：《導引》一書中提到，“機器人”這個詞是由一位捷克劇作家發明出來的；“阿西莫夫三定律”爲機器人倫理學奠基，阿西莫夫也是一位科幻作家。這是否意味着，文學在某些時候比科學和哲學走得更遠，諸如機器人倫理學這樣的新興科學，可以從文學中獲得養分？

尚新建：“機器人”一詞確是捷克劇作家卡雷爾·恰佩克發明的，描述名爲《羅素姆萬能機器人》劇作中的機器人角色，是一個忠誠的人形智能工人，具有情感和創造力。

科幻作家阿西莫夫在其小說《我，機器人》中，第一次提出機器人行爲法則，即“阿西莫夫三定律”。三定律不僅是機器人倫理學的基石，也是機器人學的基本原則。

科幻作品作爲一種文學形式，允許作家掙脫現實的束縛，充分發揮主觀想象力和虛構力，遠比科學和哲學的研究更瀟灑、更浪漫、更多自由發揮的空間，因此，可以無拘無束暢想科學技術的遠景，大膽預言人類社會的未來。不過，一部好的科幻作品，是在尊重科學的基礎上合理構想的產物。這不僅要求科幻作傢俱備良好的科學素養，瞭解科學的原理和結論，而且還應具有捍衛科學技術的勇氣和鬥志，懷抱人文主義理想，關注人類社會的命運。阿西莫夫就是這樣一位出色的科幻作家，因而才能成爲科技領域的先行者，其作品才能達到科學性與通俗性、現代性與歷史感、前瞻性與深刻性的統一，對其他學科產生重大影響。

不過，幻想終究是幻想。科幻作品雖然有預見，有啓發，終究無法替代嚴肅的科學和哲學研究的結論。況且，科幻作品某方面的內容獲得重視，其價值得以發掘和實現，還必須取決於科學技術發展的實踐。只有當機器人（人工智能）的研發成爲人類現實生活的一部分，阿西莫夫的機器人三定律纔會被人們所重視，其意義才得以彰顯。

需要強調的是，機器人倫理學的出現，絕非科幻作品的延伸或推論，而是隨着人工智能和機器人技術的發展，現實地湧現出（或潛伏着）許多的倫理風險和挑戰，迫切需要我們解決。因此，我們必須腳踏實地，準確而深入地理解當下人工智能（包括機器人）的發展狀況，從心理學、社會學、法學、倫理學等多元視角出發，對機器人倫理學進行嚴肅的理論思考。