從“透明化”到“取中”，打開算法“黑箱”共需要幾步？
歡迎關注“新浪科技”的微信訂閱號：techsina
文/蘆依
來源：遠川研究所（ID:caijingyanjiu）
如果有一天，對象真的是國家發的，會發生什麼？
《黑鏡》裏就有這麼一個故事：爲降低離婚率，未來社會開發了一套系統，運用算法和大數據來做婚戀配對。這套系統規定了人們的試婚對象和相處時間，不停自動匹配，直到找到最完美的對象纔會停止。
這個科技寓言，似乎正在日本上演：日本政府爲了應對少子化，決定斥資20億日元引進AI婚配系統。此前，日本埼玉縣的試點稱得上成果卓然：兩年時間裏撮合成功了69對情侶，其中一半是這個AI婚配系統選出來的[1]。
縱觀全世界，“AI婚配”可以算是算法接管生活的一個縮影：人們起牀靠微博/Twitter喫瓜，出行靠滴滴/Uber打車，喫飯靠外賣軟件選餐，上班摸魚則有國情差別，國外在Reddit上侃大山，國內上淘寶剁手。
你想要什麼，你關心什麼，背後自然是靠算法運轉來決定，但調配生活方方面面的算法，過去一直處於“黑箱”：它吸納數據、分析數據，推薦的邏輯卻不爲人所知，還常有匪夷所思的時候。比如說，都過了七年之癢，還推薦同城單身的空姐MM；我以爲我是你的尊貴會員，沒想到我只是大數據殺熟的韭菜。
這一切都在悄悄改變。近期，國內互聯網公司率先打破了算法的“黑箱”。美團、微博、滴滴等平臺陸續公佈算法規則，也在嘗試對現有算法做出改進，踐行“算法取中”——在效率至上的算法模型裏，加入人性的考量。
那麼問題來了，
1. 爲什麼要揭開算法的黑箱？
2. 如何纔是打開算法黑箱的正確姿勢？
算法困境
算法第一次成爲街頭巷尾的熱談，離不開2016年那場驚心動魄的“人機大戰”：當人工智能AlphaGo以3：0的成績完勝頂級圍棋手李世石，AI也被外界賦予了改變世界的想象。
自那以後，國內掀起了AI創業潮，算法也被逐漸應用於更多領域，人們的生活消費、城市的安防系統、機構的效率提升都離不開算法。但在提升社會運轉效率的同時，算法也帶來了一些隱憂。
在消費者端，熟客高定價，新客低定價的大數據版“殺熟”，屢見不鮮。原因在於，按照效率至上原則，已經養成消費習慣的老客無須讓利，但新客還在不同平臺之間搖擺，補貼可以促進成交。
在企業端，一些公司不僅用算法監督員工，更激進地賦予算法決定員工去留的權利。比如電商巨頭亞馬遜，在招聘、用工等環節十分依賴AI算法的管理。
亞馬遜會用AI攝像頭和可穿戴設備記錄員工的工作表現，AI會追蹤員工從貨架上挑選和包裝物品的速度和時間，並向表現不佳的員工提出解僱通知，整個過程不需要與主管會面，有近900人因“工作效率低”直接被AI解僱。
圖爲亞馬遜用AI系統開除員工的報道
此外，算法還引發了有關社會偏見的討論。例如，用AI篩選簡歷的亞馬遜被批有性別偏見；《科學》雜誌研究表明，美國用一套算法幫醫院確認病人是否需要額外護理，這種算法對黑人羣體存在偏見。
科幻電影習慣於把AI刻畫成無所不能的形象，但事實證明，算法並不是萬能的：算法一味追求準確和效率，卻不考慮帶來的各種影響。
皮尤研究中心曾在研究報告《算法時代的利弊》中指出，算法的編寫主要是爲了提升效率和盈利，並沒有考慮相應的社會影響，缺乏對個體的考量。人類會被算法當做是過程的“輸入量”，而非有思考、有感覺的生物[2]。
解決問題的第一步，是發現問題。由於平臺不公佈具體算法、規則和數據，利益受損者往往還很難爲自己舉證。
因此，全球不斷有專家學者呼籲着算法“透明化”，即公開算法規則，使其接受社會監督；科技公司們也在透明化的路上不斷摸索。然而，從算法的“黑箱”走向公開並不容易。
算法透明
2018年，Facebook的“泄密門”將扎克伯格送上了聽證會。在兩天持續10小時的聽證會上，扎克伯格解釋了平臺是如何追蹤用戶行爲並推薦廣告的[3]，但涉嫌“操縱選舉”的指控仍然存在。
Facebook CEO扎克伯格出席聽證會
同年5月，歐盟《一般數據保護條例》正式施行，該法規對商業平臺收集用戶信息予以約束，讓消費者有權瞭解個人數據是如何被平臺收集、處理和分析的。
次年，Facebook首次公佈了信息流及推薦廣告的算法規則，讓用戶瞭解爲什麼能看到這條推文或廣告，海外巨頭們紛紛開啓了算法透明化的嘗試。
讓算法公開透明，是爲了讓外界瞭解算法的運行原理，在聽取多方訴求後，才能做出改進優化。
但“透明化”的難題也隨之而來。算法之所以被稱爲“黑箱”，是因爲它由複雜的代碼組成，一直在動態變化，很難被公衆理解。更重要的是，商業公司將算法視爲核心資產，全部公開無異於將過去的鉅額投入拱手於人。如何公開，公開到什麼程度，便成了一個問題。
實際上，算法“透明化”有兩種途徑：其一是程序代碼的透明化；其二是算法原理的透明化。在實際操作中，公開算法原理比程序代碼更爲可行，這既能保護公司的知識產權，又容易讓公衆理解。
今年以來，美團、微博、滴滴在內的國內互聯網公司也陸續公開了算法的運行原理。
5月，滴滴公開了司機端的抽成、以及面向司機派單的算法規則。滴滴表示，乘客爲打車所付的費用中，79.1%構成了網約車司機的收入，10.9%給了乘客補貼優惠；剩下的企業經營成本（包括技術研發、線下運營等）佔了6.9%，而平臺的網約車業務淨利潤僅佔3.1%。
滴滴還解釋稱，平臺收取高抽成再補貼給司機和乘客，這種二次分配是爲了激勵司機“多勞多得”，方便乘客在高峯期和熱點區域打車。
8月，微博公佈了熱搜榜單以及廣告位的排序規則。微博指出，熱搜詞看的是綜合熱度，即搜索量、發博量、互動量、閱讀量等數據指標。
至於熱搜中的兩個廣告位置，分別位於第3、第6位熱搜詞之下。其中商業廣告會展示“商”標籤。廣告位不參與熱搜排序競爭，也不會影響其它詞的熱度計算。
9月，美團外賣也首次公開了騎手配送時間的算法。美團指出，用戶點餐時的“預估送達時間”並非是由“最近距離除以最快速度”，而是考慮騎手實際配送中存在的各種不確定因素。這意味着即便是相同路線的訂單，每天給騎手和用戶參考的配送時段也有所不同。
美團在預估送達時間上設置了多重保護，既有模型預估時間、也分別考慮了城市交通、配送距離、配送環節等多個維度下的配送情況。美團會從四種方案中選擇最長的時間，作爲訂單頁面顯示的“預估到達時間”，這也給了騎手更人性化的配送節奏。
不瞭解會產生誤讀，以前消費者往往會抱怨網約車平臺派車難、騎手送餐慢，在瞭解司機、騎手羣體的配送算法後，或許能增進一些理解。
算法透明化只是第一步，如何才能對算法的侷限性做出改進？
算法取中
對此，國內創造性地提出了“算法取中”的概念。這意味着要在效率至上的算法裏，加入人類社會的價值觀和價值取向。
今年7月，包括市場監管總局在內的七部門聯合發文保障外賣送餐員權益，要以“算法取中”替代“最嚴算法”，明確不能以“奧運冠軍的水平作爲普通人的考覈標準”。
“算法取中”，是指要兼顧平臺效率與勞動者保護，更要在企業利潤和社會責任間做平衡。不過，“算法取中”目前仍是一個模糊的概念，難以定量。
上海人工智能研究院技術總監沈灝指出，這種情況通常要設置一個適當的閾值，再針對各個業務場景做大量調研，最終形成相對可量化的方案，有理有據地對企業算法做監管[5]。
“算法取中”既需要企業自我改進，也需要政府宏觀調控，兩方都進行了各自的“取中”嘗試。
“算法取中”的第一個試驗田在外賣配送。作爲勞動密集型產業，騎手的安全保障問題已經引發全社會關注。
爲保障騎手安全，美團率先對算法進行了“取中”改革。
爲此，美團還組織了多場騎手懇談會。通過了解騎手訴求和專家意見，美團率先將外賣的“預估送達時間”由“時間點”調整爲“時間段”。這意味着面對配送過程中的各種不確定性，騎手有更彈性的時間段應對。
除此以外，將近75%的騎手還指出影響配送時間的兩大難題——商家出餐速度慢、最後幾百米交付難。
通過對超時訂單和客訴訂單做大數據分析，美團對“出餐慢”和“交付難”的重點場景進行“補時”。
例如，根據歷史數據識別出長期出餐較慢的商家，相應騎手自動獲得配送延時；一些小區管理嚴格不讓電動車進入，或者個別用戶預留地址錯誤等，相關訂單也會自動延時。平臺還用系統延時和人工補時給騎手上了“雙保險”。
看似只是修改了代碼，但想貫徹“算法取中”對平臺來說絕非易事。
在美團平臺上，每天有大量騎手奔波在大街小巷，有770萬活躍商戶開張迎客，更有6.3億用戶在平臺上消費着喫穿住行。
在這龐大的系統中，任何改動往往是“牽一髮動全身”，平臺既要有魄力去推動改革，又要有能力平衡系統中商家、騎手和消費者三方的利益。
目前，美團的“算法取中”已經初具成效。在新算法機制下，騎手的配送時間更彈性，用戶對送餐時間多了心理預期，試點數據顯示用戶對騎手的差評率降低了50.7%。
今年7月，浙江推出“浙江外賣在線”的數字化外賣監管系統，該系統集合了法務、商務和政務數據，能讓企業的營業執照、食品經營許可證等商家資質信息在平臺流通，也能將商家和騎手的服務視頻直接作爲存證。
自試運行以來，“浙江外賣在線”已糾正後廚問題5044個，處理違規商家184家，處理勞動糾紛2371件。
除了外賣巨頭，內容消費平臺也開始嘗試“算法取中”。當社交平臺成爲新的公共輿論場，其算法推薦機制不僅要考慮平臺利益、用戶興趣，更要考慮相應的社會影響。
海外社交巨頭毫無節制的算法推薦已經引起擔憂。像Facebook曾在自動推薦算法中推薦極端團體，社交巨頭也曾被指通過呈現或隱藏某些內容來操縱言論，這都讓內容平臺的“算法取中”迫在眉睫。
國內的社交媒體微博，同樣承擔了公共輿論場的角色。爲此，在公開熱搜機制之餘，微博還優化了算法推薦機制，將加大正向內容的宣推力度，調控負面事件、娛樂話題等。
微博還指出，上半年熱搜將“減少娛樂佔比”作爲主要調控目標。熱搜榜單的算法中包含了嚴格的排水軍和反垃圾機制，能保證熱搜榜單的客觀。
在用戶反饋、企業改進和政府調控的三方合力下，算法的“黑箱”裏透進了光。
尾聲
從電腦時代到手機時代，平臺以前所未有的速度獲得用戶的海量數據，再通過數據的解構進行需求的匹配，圍繞着用戶的衣食住行。在這個過程中，一座座互聯網商業大廈崛起。
但算法分發並非是把所有決策都交給機器，更需要平臺和政府不斷糾偏、設計、監督。在提升社會效率的同時，科技公司也開始承擔起更多的社會責任，追求“科技向善”。
放眼人類歷史，社會進步本身就伴隨着透明化的進程。決策更透明，商業規則更透明、算法更透明，而一個越透明的社會，越能釋放出更多可能性。
