伴隨着人類社會數字化程度的不斷提升，算法已經成爲影響世界運行的基礎性規則。以機器學習算法爲代表的第三次人工智能發展浪潮的興起，使得算法實現了自我生產，通過基於大數據集的自我學習過程形成規則集並應用於不同場景下的感知和決策。算法性能的提升及其應用的普及在極大提高人類社會運行效率的同時，也帶來了新的治理風險與挑戰。

例如算法的設計或許可以在數學邏輯上做到完美，但缺乏對人性和社會環境的綜合考慮，從“真空”環境中誕生的算法本身帶有機械性。一味追求效率、不斷壓縮配送時間的外賣配送算法，即體現了算法程序的不盡合理之處。

對此，清華大學公共管理學院教授、清華大學人工智能國際治理研究院副院長梁正認爲，面對算法缺陷及其產生的問題，應將算法嵌入到整個社會體系中評估，分析算法運行所牽涉的各個環節，以體系化的思維爲算法向善提供解決方案；南開大學法學院教授、競爭法律與政策研究中心執行主任陳兵也表示，應加快構建科學合理、高效有序、完整統一的數據安全治理體系，爲我國數字經濟和產業市場化、規範化、國際化的發展提供有力的制度保障。

算法治理的基本解決路徑是什麼？

1

設計算法應該走出“真空”接受社會實驗。算法評價機制中也應該引入其他考量因素，忽視人性的算法無法爲人類帶來福祉；

2

制定算法規則需要多方參與儘量避免不合理之處。應賦予主體知曉及理解算法運行邏輯的權利，多方參與規則制定是正當程序的必然要求；

3

算法的負外部性需要多種公共政策相互補充。不能將算法視爲單純的技術問題進行治理，而要匹配不同政策工具進行綜合治理；

4

爲算法建立法律監管與道德約束機制。特別是在算法設計和研發的標準、規則和透明度等方面出臺法律規範。

數據安全治理應從哪三個方面進行完善？

1

補齊多元主體共治機制短板。應當根據不同主體自身的特性，在明確治理主體定位的基礎上，構建數據安全共治體系；

2

針對數據生命週期各環節制定差異化安全保障策略。應當基於數據生命週期各環節的不同特點，制定相應的安全保障策略；

3

加強跨境數據安全保護。應當從具體規則完善、技術發展和國際合作等方面探索國家數據安全保護的制度進路。

更多精彩觀點

01

算法治理的基本路徑與核心理念

1、算法缺陷及其產生的問題

以外賣配送系統爲例，外賣平臺利用大數據分析計算最優配送路徑，極大縮短了騎手的配送時間，提高了配送效率。但也存在諸多問題，有些是算法本身缺陷所導致的，有些則因其他社會問題與算法相伴而產生。

算法程序中可能存在不盡合理之處

算法中的程序幾乎是算法控制者單方設定的，即使程序中可能有不盡合理之處，算法相對方也只能被動接受。例如，外賣配送系統中設定了騎手等級，騎手需要通過每日登錄APP、分享邀請有禮活動鏈接、上傳健康證、完成各種訂單配送等方式獲取晉升等級所需要的積分。其中也有減分項目，比如配送超時減3分，獲得一星差評或不滿意評價減5分等，甚至一個差評或延時會直接扣除騎手工資。在這種規則之下，配送時間成爲非常重要的考覈指標，騎手面臨很大壓力。儘管這些規則在人性化、合理性上還值得商榷，但騎手只能被動適應，接受算法規則的約束，甚至對算法產生依賴。

算法容易使個體失去自主性

自泰勒提出標準化管理模式之後，工作逐漸被標準化和簡單化，工人操作的自由度降低了，簡單重複的動作讓人越來越像機器。正如媒體曾經報道的富士康工廠的情況一樣，在高度標準化的生產中，工人的工作效率以秒來計算，工人往往處於高度疲態和枯燥之中。算法的運行與此相似，算法具有隱蔽性和高度專業性的特徵，每個參與算法的個體就是一個數據節點，在算法高速運轉中，個體只能被動接受信息並執行算法命令。騎手屬於勞動密集型職業，工作中需要耗費大量精力，若只受算法支配而喪失自主性，他們作爲勞動者的休息權則無法得到保障。同時，騎手與社會其他羣體具有緊密聯繫，一旦發生事故不僅會傷害自己，還會傷及他人。從這一點來看，保障騎手休息的權利也在一定程度上意味着保護社會公共利益。

僅靠算法的自我迭代難以有效解決問題

算法的設計或許可以在數學邏輯上做到完美，但缺乏對人性和社會環境的綜合考慮，從“真空”環境中誕生的算法本身帶有機械性。在外賣配送算法中，爲了追求效率，可以對所有阻礙因素進行優化，把配送時間不斷壓縮。但如果因爲計算最優路徑而忽視了實際道路狀況、實時天氣狀況和小區管理情況等影響因素，計算結果往往就會不準確，算法不斷迭代的過程也就可能演變成了加大騎手困難的過程。實際上，其他社會因素會深刻影響算法的運轉情況。現實中經常可以看到，由於城市交通違章查處、電動車限速標準執行不夠嚴格，大量違章、超速外賣騎手電動車上路等現象。除了交通規則外，一些小區的管理也需要調整，如一些商務樓、醫院、小區等不允許騎手進入，騎手只能在外等待或者步行送餐，最後導致送餐延遲。如果忽視這些問題，單靠算法本身的迭代是無法有效解決問題的。

2、算法治理的路徑

爲應對上述算法的缺陷，可以從內部的算法自我優化與外部的監督規範中找到解決路徑。

設計算法應該走出“真空”接受社會實驗

算法背後是代碼，代碼是“冰冷”的，沒有人文溫度，忽視人性的算法無法爲人類帶來福祉。在現行外賣配送算法中，如果騎手因偶然因素實現了快速送餐，算法就會提供獎勵，讓騎手接到更多訂單。這樣一來，騎手出於利益最大化的動機，肯定會追求速度越快越好，訂單越多越好，由此陷入惡性循環。爲了避免速度成爲唯一的考量因素，算法評價機制中也應該引入其他考量因素，比如爲從來沒有發生交通事故的騎手提供獎勵，引導騎手更加註意安全。

制定算法規則需要多方參與儘量避免不合理之處

基於機器學習的算法具有“黑箱”特徵，算法相對方無法就算法規則提出建議或意見，只能被迫“追趕”算法設定的目標。多方參與規則制定是正當程序的必然要求，比如一些電商平臺推出“規則衆議院”，平臺上的買賣雙方都可以通過衆議院機制就規則制定發表意見。也有學者提出算法解釋權，即賦予主體知曉及理解算法運行邏輯的權利。該觀點認爲，受到自動化決策不利影響的人應有權知曉決定的內容與理由，並擁有申訴和申辯的機會。算法解釋權是賦予個體對抗“算法權力”的重要武器，因爲個體知悉算法規則後才能就其不合理之處提出建議，並參與到規則的制定之中。

應對算法的負外部性需要多種公共政策相互補充

算法實際是嵌入在社會的多樣應用場景中的，各個場景所牽涉的主體、外部因素和行爲規範都不相同。因此，不能將算法視爲單純的技術問題進行治理，而要匹配不同政策工具進行綜合治理。對於“困在系統”中的騎手，國家應該重視對這部分人羣勞動權益的保障，特別是休息、薪酬、安全等合法權益。外賣平臺應該參照其他平臺的舉措，設置強制騎手休息的規則，保障騎手安全，進而維護社會安全。爲了應對騎手闖紅燈、超速等問題，交通管理部門也應該嚴格制定和執行交管規則，對騎手進行外部約束。社區管理部門也應參與其中，對外賣、快遞進社區等管理規範進行完善細化，如允許騎手安全送餐，或者配置取餐櫃等，緩解騎手“最後一公里”送餐難的問題。

爲算法建立法律監管與道德約束機制

2017年1月，美國計算機協會專門發佈了算法治理倫理原則，涵蓋利益相關者責任、救濟機制、算法使用機構責任、鼓勵可解釋算法研發、數據治理、算法審查要求、實時檢查責任等七個方面的內容。2019年4月，美國參議員提出《2019年算法問責法案》，要求美國聯邦貿易委員會對企業進行算法審查。歐盟也在《人工智能時代：確立以人爲本的歐盟人工智能戰略》《通用數據保護條例》和《人工智能道德準則》等多個文件中，強調以價值觀引導人工智能技術的發展。需要從外部規範的角度爲算法制定倫理標準，並建立相應的倫理審查制度。特別是在算法設計和研發的標準、規則和透明度等方面出臺法律規範，並建立算法問責機制，保障個體權利，包括算法解釋的權利、更正或修改數據的權利、退出算法決策的選擇權等。

3、算法治理的理念

治理算法需要以基本原則和理念爲指導，並根據情況的變化適時調整算法治理的具體方法。

算法治理應堅持利益平衡原則

利益平衡既包括算法內部所涉主體之間的利益平衡，也包括算法使用者與社會公衆之間的利益平衡。通常外賣平臺將消費者置於首位，而商家次之。在這種機制下，平臺爲了消費者的滿意只能“壓迫”騎手。算法使用者應該平衡好這三方的利益，對算法的治理也應該平衡好企業與社會公衆之間的利益，在尊重企業逐利天性的基礎上爲算法立規矩，保證算法在正確的軌道上運行，只有這樣纔不會因噎廢食。

算法治理應堅持人本主義

在算法時代，尊重個體主體性、自治性和人格尊嚴始終是發展底線，算法治理也應該注重保護人類尊嚴、公民權利以及社會公平。特別是要加大對弱勢羣體的關注，避免“數字鴻溝”，實現實質公平。可以通過強化企業社會責任的方式在算法治理中體現人文主義，比如從社會福利的角度評估企業在關懷弱勢羣體、保護用戶隱私、尊重個體人格以及勞動者休息權利等方面作出的努力。

總之，算法治理是一項長期工程，算法在不斷演進，對算法的治理也應該不斷迭代，其中算法問責機制、算法評估機制、算法監督機制都是需要繼續討論的重要話題。對算法的治理不應侷限於算法本身，而是需要將算法嵌入到整個社會體系中評估，分析算法運行所牽涉的各個環節，以體系化的思維爲算法向善提供解決方案。

02

完善數據安全治理的三個方面

1、補齊多元主體共治機制短板

多元主體的共同參與有助於構建良好的數據安全治理秩序，而數據安全的有效維護又反過來使各方主體共同受益，應當根據不同主體自身的特性，在明確治理主體定位的基礎上，構建數據安全共治體系。

一是明確政府部門權責。應當釐清政府部門對數據安全的監管權責，構建涵蓋數據運行全過程的全方位監管體制，同時還應合理界定政府監管範圍，在保障安全的基礎上，限制政府公權力對產業發展的過度介入，避免權力濫用。政府還應制定相關政策或者行動計劃，從宏觀上確定數據安全的治理目標、基本原則、行動步驟和具體制度，細化數據安全的內容。同時，大數據安全並非某一部門或者某一地區的責任，還需要加強各部門、各地區之間的協作，建立中央統一領導、各部委分別負責、各地方具體落實的自上而下的完整治理體系；還可以考慮構建部門、地方之間的聯席會議機制，並促使其在大數據安全治理中發揮主導性作用。

二是推動行業自治。企業、行業組織、第三方機構以及其他數據組織或者涉數據主體不僅享有數據安全權益，同時也負有數據安全責任。因此應當在釐清企業、行業組織等數據組織定位的基礎上，通過行業規範、標準制定、內控機制等方式確定主體權責，同時還可以通過第三方機構安全認證等方式激發行業自治的積極性，激勵數據市場主體強化安全保障措施，完善內部管理。

三是深化公衆在大數據安全治理中的作用。社會公衆既是大數據的重要來源，也是大數據應用的受益對象。應當細化公民個人享有的數據安全權利和應承擔的數據安全義務，爲公民在數據安全治理中發揮作用築牢法治根基。同時還應通過政策宣傳，提升公衆對個人隱私及信息安全的重視，增強自律意識和自我保護意識，爲數據安全治理奠定羣衆基礎，並充分發揮公衆的監督職能。另外，暢通數據安全羣衆意見反饋渠道，可以考慮構建政府、行業、公衆三方代表協商機制或者聽證機制，定期或不定期召開會議討論數據安全問題，對數據安全治理建言獻策，爲維護數據安全提供有力保障。

2、針對數據生命週期各環節制定差異化安全保障策略

應當基於數據生命週期各環節的不同特點，制定相應的安全保障策略。

數據採集是數據安全治理的第一道關口。可按照數據的重要程度對不同數據進行分級，從上到下分爲涉密數據、敏感數據、重要數據、一般數據。在分級基礎上，根據不同級別的數據設置不同的採集程序要求，級別越高的數據，採集程序要求越嚴格，所需獲得的授權標準也就越高，由此保障數據的採集安全。

在數據傳輸環節，應當以傳輸加密爲核心。將不同數據的專線傳輸、傳輸證書、文件內容過濾、網關審查、敏感性檢查等內容納入數據安全法律法規，明確其技術標準、責任主體、監管方式等。

在數據存儲方面，應從內外兩方面入手加強安全保障。在內部管理上，應當明確數據庫的訪問主體、訪問權限，建立專門的數據庫或數據平臺管理機制，部署專門的管理人員，防止泄露；在外部防禦上，通過加強技術防範，採取有力措施阻止非法攻擊和侵入，同時還應賦予用戶查看、修改、刪除自身數據的權利以及時發現潛在的數據安全風險。

在數據使用環節，應當從數據的加工處理入手，推動數據加工處理的規範化。應當重點解決數據使用的授權認證、權限範圍、運維權責、用戶監督等問題，在保障安全的基礎上推動數據高效合理使用。

在數據共享環節，應當釐清參與共享主體之間的協議制定和履行、風險分擔、收益分配、責任界定等問題，加強對數據平臺運行和管理的監管，平衡共享主體之間的利益，在此基礎上保障數據的安全高效流動。

在數據銷燬階段，重點在於數據是否得到真實有效的銷燬。因此，應當着力於數據銷燬清單建立和記錄保存制度建設，可以考慮通過數據銷燬全程錄音錄像以及不定期檢查制度的構建，確保數據得到真實有效的銷燬。

3、加強跨境數據安全保護

數字經濟時代，數據作爲新型基礎性戰略資源日益得到各國重視，日漸成爲國際競爭與合作的重要對象。面對當前跨境數據流動的發展現實，我國應當直面安全挑戰，抓住時代機遇，積極推動我國數字經濟和產業的發展水平更上一層樓。同時，還應當從具體規則完善、技術發展和國際合作等方面探索國家數據安全保護的制度進路。

首先，在具體規則上，應當細化各項規則內容，增強其可操作性。應在明確部門、地區權責範圍基礎上，抓緊構建各地區、各部門的數據清單和數據名錄制度，合理制定數據的分級分類標準，並加強協調以避免重複和矛盾。具體列舉數據跨境流動過程中所涉及的重要領域和行業，針對關鍵節點和重要領域開展多層次重點保護。同時，加強數據安全風險評估，明確負責數據安全風險評估機構，完善評估主體、評估標準、評估流程、評估頻次、費用承擔、評估結果等規定，可在規範資質認定、測評程序、責任承擔等事項基礎上，加強與第三方數據評級機構的合作，以提升評估效果，提高治理效率。此外，還應完善國家數據安全治理體系內部的監督和問責機制，明確監督主體、問責範圍、責任處理等方面規定，可通過開展定期巡視、隨機抽查等方式，保證國家各部門、各地區依法履行保障數據安全的職責。

其次，應當積極採取措施推動數據安全技術創新。對此，可加大資金、技術和人才投入，推進數據研究院、數據實驗室等科研機構建設，加強與國內外科研院所、技術組織的合作，爲數據安全治理創新提供技術基礎。同時，應鼓勵和扶持一些大型互聯網或數據企業開展自主研發，通過技術獎勵、稅收優惠等措施，激發企業創新數據安全技術的積極性。此外，還應加快數據治理人才的培養和引進，加強數據治理人才儲備，打造覆蓋全方位、多領域的數據人才治理隊伍。

最後，應當加強數據安全方面的國際交流與合作，積極參與國際數據安全治理規則體系的制定。可通過建立國際數據安全合作小組、信息交流共享、備忘錄簽署以及民間組織往來等多元化、多層次形式，推動國家間數據安全治理的交流。還應當在考慮國際通行標準和做法的基礎上，制定合理的跨境數據安全執法規則，加強與其他國家和地區規則的銜接，促進數據安全跨境執法合作。積極參與國際數據治理規則的制定，構建國際數據治理多邊機制，在國際數據治理中展現大國擔當。

文章來源：《國家治理》週刊2020年9月第4期