來源：法治日報

隨着科技的發展，人工智能愈發成爲國際競爭的新焦點和經濟發展的新引擎，用法治保障人工智能產業發展，用倫理確保人工智能向善也成爲各國頗爲重視的課題。本期“聲音”版編髮一組稿件，與讀者一道探討如何促進人工智能產業健康規範發展。

□ 鄭 戈

近日，深圳通過了《深圳經濟特區人工智能產業促進條例》，上海也正在制定本市的人工智能產業促進條例。這兩部地方性立法雖以促進技術創新和產業發展爲主要目的，但都將倫理原則內置於其中，創設了倫理委員會，引入了倫理風險評估、倫理審查、倫理安全標準管理、倫理指引和倫理教育等制度，以追求向善的創新，以人爲本的發展。

人們常說“技術是一把雙刃劍”，的確，技術體現的是工具理性，它旨在幫助人類找到實現任何給定目的的最優方案，但它本身並不能告訴我們什麼樣的目的是值得追求的。因此，需要給技術套上法律和倫理的繮繩，使之服務於幫助人類實現美善生活的目的。爲了前瞻研判科技發展帶來的規則衝突、社會風險、倫理挑戰，我國成立了國家科技倫理委員會，發佈了《關於加強科技倫理治理的意見》，在科技倫理治理體制、制度保障以及審查和監管等方面邁出了重要步伐。

人工智能是數字科技時代最重要的技術之一，而且與傳統的被動型技術相比，其具有自我演化、快速迭代、難以預測的特點。如何讓人工智能技術及相關產業在“以人爲本，科技向善，安全可控”的倫理原則指引下健康發展，是擺在我們面前的緊迫問題。目前，我國尚未出臺國家層面的人工智能專門立法或倫理指導意見，但深圳、上海在地方性的制度試驗中均規定了人工智能倫理方面的內容，這將爲全國性的制度建設提煉經驗，試錯避雷。

那麼，人工智能領域爲什麼需要建立健全倫理相關制度？倫理和法律的關係又是什麼？首先，法律是社會的底線倫理，如果突破了法律，人與人之間的和平共處就無法實現，基本的社會秩序就無法得到維持。但只有法律還不夠，因爲我們不僅要活着，還要活得好，活得有尊嚴感和幸福感，這時候就需要倫理出場了，倫理原則指引人們去做不止於守住底線的、對社會有益的事情。在日常社會交往中，倫理是內生的，依靠社會評價、同儕壓力和親情友情來“執行”。但在人工智能等科技領域，由於信息不對稱和專業能力不對稱，普通社會公衆很難對某種技術支撐的產品或服務的善惡利弊作出評價，因此需要專業化和制度化的倫理評價和倫理審查機制。

其次，法律是回應性的，它只能在特定損害結果發生後，對特定法律關係中的主體進行判斷、評價和提供救濟。而在人工智能技術遍佈於我們日常使用的各種手機應用、購物平臺和社交媒體的當下，很多損害結果往往難以察覺，但卻像溫水煮青蛙那樣惡化着我們的總體生存環境，比如大數據殺熟、過度獲取和濫用個人信息、利用算法誘導青少年上癮，等等。在這種資本通過技術肆意利用人性弱點的背景下，個人覺察損害結果本已不易，證明平臺有過錯或違反法定義務更難，而證明因果關係則是難上加難。倫理在此時可以作爲法律的補充，事前的倫理指引和倫理審查，可以確保算法設計者知曉什麼樣的設計是向善的，是能夠被公衆接受的，從而確保有可持續商業追求的企業和工程師在進行相關設計時就遵循倫理原則。而法律則在出現可見的嚴重損害結果時強力介入，懲處那些觸碰規則底線的行爲主體。

最後，法律是一般性的，是剛性的，它更像是柵欄或圍牆，界分出合法與非法的邊界。它天然缺乏敏捷性、靈活性和場景適配性。如果法律規則過嚴過密，必然會遏制技術創新和產業發展；如果過寬過疏，則又會留下巨大的漏洞，使大量模糊而又圓滑的危害民生福祉的行爲成爲漏網之魚。這對於有人工智能助力的法律主體來說尤其如此。而倫理則具有更強的場景適配性和行業特定性，它更像是量身定製的合體衣服，由技術專家、人文社會科學家、行業組織和特定用戶羣體通過行爲互動和協商溝通發展出來，約束從業者的行爲，因此能夠與法律配合營造出既有利於企業和創新者追求正當利益，又有助於維護個人尊嚴和權利的良好制度環境。

（作者繫上海交通大學凱原法學院教授，上海交通大學涉及人的科學研究倫理委員會委員）

責任編輯：李科峯 ST030