本文來自微信公衆號: 放大燈(ID:guokr233) ,作者:劉博涵,策劃:放大燈團隊,題圖:視覺中國。

2020年6月29日,印度電子信息技術部宣佈,TikTok、Wechat、QQ、微博等59箇中國廠商應用“從事的活動有損印度主權和完整、國防、國家安全和公共秩序”,將禁止其在印度市場的使用。

“印度封殺應用之舉有違世貿規則”“印度企業和消費者將爲此買單”“禁用中國應用程序只會苦了印度人民”……我們或許有種種理由證明中國企業的無辜;然而,少有人提及的是,全球互聯網分裂的背後,是民族情緒高漲的印度人又一次踐踏了“技術中立”的屍身。

TD-SCDMA事件、“快播案”、賀建奎事件……伴隨着中文互聯網的成長,技術中立論在中國從勃興到夭亡,只用了短短十幾年;而在歐美,“BLM”運動也將反對“技術中立”的時代巨浪引向了社交媒體平臺甚至AI領域。

這一切是如何發生的?“技術中立”觀念的消亡對人類科技的未來又究竟意味着什麼?

“不向用戶收費,你如何保持業務長期進行下去?”

“參議員……”正襟危坐的馬克·扎克伯格停頓了半秒,保持微笑,“我們靠經營廣告賺錢。”

世事難料。時至今日,當人們想起2018年4月10日那場時長6小時的史詩級國會聽證,玩笑似乎都成了讖語——兩年前的扎克伯格在美國國會面前極力捍衛的“技術中立”論調,竟有被Facebook賴以生存的廣告主親手葬送之勢。

技術中立 (Technology Neutrality) ,或譯爲“技術中性”,本文統一用“技術中立”描述。

2020年6月中旬,“BLM”的呼聲席捲全球之際,六家美國民權組織聯合發起#StopHateForProfit (“因恨牟利”) 運動,劍指社交媒體上滋長的仇恨言論。

Facebook首當其衝。截至6月30日,聯合利華、可口可樂、阿迪達斯、福特、微軟等大型企業皆陸續承諾中止7月在Facebook等平臺上的廣告投放計劃。

這一回,扎克伯格沒能保持自信的微笑——6月26日,他緊急承諾改變政策、禁止在Facebook的廣告中出現任何仇恨言論。然而,曾幾何時,他在44名國會議員面前可是這麼迴應的:

“……內容審查並非我們主要工作,政府應當在言論自由中發揮更大作用。就像任何工具一樣,我們對技術持中立態度,它既有好的一面,也有不好的一面。”[1]

正在“技術中立”問題上遭受拷問的遠不止扎克伯格。

在AI界,“洗白”了奧巴馬的PULSE算法點燃的“算法歧視” (algorithm discrimination) 之爭,剛剛以楊立昆 (Yann LeCun) 宣佈退出Twitter告一段落。

黯然退出的楊立昆是Facebook的首席AI科學家、2018年圖靈獎得主、“深度學習三巨頭”之一,人稱“卷積神經網絡之父”。此前,他將機器學習結果的偏見歸於數據集偏見而非算法偏見的“技術中立”發言,毫無懸念地把自己死死綁在了政治正確的靶心上。

楊立昆(Yann LeCun)宣佈告別Twitter平臺丨Twitter

“洗白”奧巴馬的AI修復圖像算法丨Twitter

與此相關,“BLM”運動還引爆了對預測性警務和麪部識別技術的廣泛質疑。批評者指出,所謂“技術中立”的算法涉嫌過度警戒少數族裔社區、強化了種族主義的警務模式。

從Facebook到面部識別,一度甚囂塵上的“技術中立”觀念正在消亡。

曾幾何時,日常生活中的技術中立論者最喜歡的一則論證是:某人持菜刀砍了人,難道是菜刀廠商甚至“菜刀本刀”的錯?在美國,同樣的思路造就了全國步槍協會(NRA)反對控槍法案的著名口號——“槍不殺人,人殺人”。

然而,時移世易,在平臺內容審查和AI算法歧視的問題上,“菜刀”和“槍”們的說服力似乎大大減退了:在2020年的人類看來,Facebook這把“技術菜刀”可能主動誘惑着持刀者;AI算法這枚“技術子彈”也陷入了“沒有一行代碼是無辜的”的指控。

彷彿一覺醒來,世界即倒戈到了“技術中立”的反面。親眼見證着一種技術觀的迅速瓦解,我們或許不免錯愕:不信任的種子究竟是何時埋下的?

現代技術中立論的里程碑事件是一場版權法官司——1984的“環球影業訴索尼案” (Sony Corp. of America v. Universal City Studios, Inc.)

1975年,索尼發明了“一款能夠接入任何電視機,從而能夠讓你看到任何可能錯過的電視節目的革命性新產品”——Betamax電視錄像機。

在前互聯網時代,Betamax的功能可謂強大:它的暫停鍵和快進鍵允許用戶隨時錄製或播放不含任何廣告的電視節目,完美迎合了上班族的追劇需求。

然而,正是這些“灰色”的潛在應用場景給索尼惹了禍。

Betamax上市翌年,深受其害的環球影業就以侵犯版權爲案由,一紙訴狀將索尼及相關責任方告到了加州中區聯邦地區法院。

加州中區法院判決認爲,家用Betamax不構成版權侵權,發明這項“中性”技術的索尼亦不必爲個體消費者的行爲負責;“不服”的環球影業上訴至美國聯邦第九巡迴上訴法院,而巡迴上訴法院給出了與加州中區法院截然相反的判決——支持原告。

“索尼案”前後歷時八年,最終被上訴至美國聯邦最高法院、以5:4的投票結果達成判決。從本案的多數派意見中誕生了著名的“實質性非侵權用途” (Substantial Non-Infringing Use) 標準,確立了版權法領域的“技術中立原則”。

自此,“索尼案”就成了“技術中立”觀念的勝利宣言。

像多數派大法官們指出的那樣,對任何一項技術的價值,我們似乎都可以在“工具性”和“目的性”兩個維度上理解:Betamax的功能多種多樣,索尼的意圖原本不過是發明一種中性的工具;而技術如何被使用,最終在於人的目的。

換句話說,作爲價值的善或惡,像被中性論者從技術身上剝了下來,“赤裸”的技術本身仍然可以是純粹的、無偏見的。

在後“索尼案”時代,此種論調幾乎成了共識——即使到了2001年,Napster案 (A&M Records, Inc. v. Napster, Inc.) 的判決強調了P2P時代“服務”與“產品”的界限,也不過是在新的歷史語境下,又剝掉了一層不屬於技術本身的“外衣”,而作爲基本共識和根本原則的“技術中立”從未被真正撼動——直至近年。

或許是因爲相關法律問題大多在美國憲法第一修正案的框架下即可解決,“技術中立”問題在美國法學界遲遲不曾成爲一門“顯學”;然而,從二戰告終時起,針對“技術中立”的哲學反思即成燎原之勢。應時而生的技術價值論者將德國哲學家雅斯貝爾斯(Karl Theodor Jaspers)視作假想敵——在1958年的《原子彈與人類的未來》中,正是他提出了技術中立論的經典表述:

“技術本身既非善,亦非惡,但它既可以用於善,也可以用於惡。它本身不包含任何觀念:既不包含完美的觀念,也不包含毀滅的邪惡觀念;它們都有別的源頭——在人類自身之中。”[2]

在戰後反思推動的技術批判思潮下,技術價值論者逐漸在西方知識界取得了壓倒性的勝利;然而,在中國,“技術中立”之爭遲遲沒有走上這條線性的終結之路。法理問題與種種社會議題交織在一起,更完整地暴露了人類在不斷革命的技術面前日漸複雜的心態。

與歐美不同,現代技術中立論在中國奠基於廟堂。

19世紀下半葉,當保守主義者幻夢裏鑑臨四夷的中國“道統”終於被現代國際秩序衝撞得支離破碎,明智的知識分子開始將希望轉寄於師法“西藝”以對抗西方,他們敏銳地發現,西方“格致之學”不同於中國的觀念內核,其實是啓蒙運動帶來的科學技術主義。

1889年,李鴻章主持上海格致書院春季特考,題目要求考生簡述自古希臘至近代的西方科技之發展。考生王佐才“結合時事”,分析了他眼裏的中西差異之根本:

“此其故由於中國每尊古而薄今,視古人爲萬不可及,往往墨守成法,而不知變通;西人喜新而厭故,視學問爲後來居上,往往求勝於前人,而務求實際。”[3]

西方重視技術、信仰進步的理念給改革派留下了極深的印象,在他們看來,“格致之學”不但是西方富強的法門,而且是中性的、普遍的、可能爲任何人——自然也包括中國——所用的。

更有甚者,當鄭觀應發出“顧格致爲何?窮天地之化機,闡萬物之元理,以人事補天工,役天工於人事” [4] 的感慨,他其實早就陷入了技術決定論編織的樂觀情緒,彷彿只要讓“器藝”爲我所用,中國就能超英趕美、迅速自強。

近代中國知識分子們認爲,在倫理道德上,“技術中立”的邏輯照樣管用:堅船利炮固然是帝國主義的侵略手段,但是,仰賴同樣的技術,也可能構築起全新的華夏文明理想和和平主義的天下秩序。

以技術樂觀主義爲根基的“技術中立”觀念,並沒有隨着清帝國的崩潰立即瓦解——相反,它以變幻的面目隱現在後來的種種時代口號下,從五四新文化運動擁戴的“賽先生”到後來的“科學技術是第一生產力”莫不如此。

甚至可以說,“技術中立”在中國的底色,恰恰是那種“掌握核心科技”就簡直等於買通了國際競爭的裁判的樂觀心態:如果技術可能垂憐中國這朵“後浪”,它就必須是不偏不倚、對每一滴水一視同仁的。

然而,也恰恰是這種越來越理所當然的樂觀假設,註定了“技術中立”觀念的薄命。

本世紀初,信息全球化時代的降臨在中國投下了籠罩技術中立論的第一道陰影。

2000年5月,國際電信聯盟 (ITU) 接受具有中國自主知識產權的3G通信技術標準TD-SCDMA爲第三代移動通信技術的備選標準。一時間,中國3G市場出現了中國標準 (TD-SCDMA) 、美國標準 (CDMA2000) 與歐洲標準 (WCDMA) 三足鼎立的競爭格局;而TD-SCDMA標準因爲收穫了中國政府的政策傾斜,引發了歐美抗議。

在2004年6月的中美商貿聯委會 (JCTT) 上,美方要求中國政府堅持“技術中立”態度,取消相關政府指令、保證運營商自主選擇3G技術標準。

談判最後以中方承諾“政府將堅持技術中立態度,電信運營商在標準選擇上將具備完全自主權,可以根據自身實際需要做出決策,中國相關監管部門將不參與任何知識產權商業談判過程”告終;然而,後來的事實證明,技術中立論者沒有就此贏得又一場勝利。

以TD-SCDMA事件爲契機,中文互聯網展開了第一場圍繞“技術中立”問題的大討論。

2005年1月19日,《21世紀經濟報道》出版發佈了清華大學教授、時任國情研究中心主任胡鞍鋼牽頭編寫的“中國3G世紀報告” [5] ,激起了北京郵電大學教授闞凱力的強烈質疑,曠日持久的“胡闞之爭”奏響了序曲。

2月2日,胡鞍鋼提出六點反駁,其中第三條觀點即題爲“技術中立論”。胡鞍鋼稱:

“所以我主張,政府在使用什麼樣的3G技術方面持技術中性態度。不在乎是誰發明了這個技術,而在於你能不能獲得(包括購買)這個技術,通過這個技術擴大你的市場份額。”[6]

然而,此語引發了愛國網友的劇烈反對。批評指出,在國際標準競爭弱肉強食的殘酷現實下,主張技術中立論無疑是虛僞的:

“在涉及重大產業利益的技術標準的國際競爭中,在本國標準與其他國家標準的競爭時,沒有一個國家的政府會如此天真地認真地採取‘技術中立’政策。美國政府在這種情況下提出要我國政府採取‘技術中立’政策,只不過是爲了給本國的CDMA2000標準‘鳴鑼開道’罷了。”[7]

還有評論認爲,早在2004年4月的貿易談判中,中美圍繞中國提出無線接入WAPI標準的爭論就已彰明瞭美國政府和部分跨國公司假借技術中立論之名、行干擾中國製定自主標準之實的險惡用心。

無論怎樣,TD-SCDMA事件給“技術中立”的觀念神話添上了第一道不可修復的裂痕。

20世紀末中美關係惡化後,中國人民日用而不知的國際關係現實主義理念再一次提醒了人們,技術從來不是絕對“中性”的:在國際政治經濟角力的“黑暗森林”中,“Tech is Power”——技術即權力。

無論TD-SCDMA還是CDMA2000都絕非純粹“中性”的;像任何一項技術一樣,它們被認爲是“價值負荷” (value-laden) 的,承載了開發者賦予它們的、帶有明確價值取向的個別意義——中國的突圍,或是美國的野心。

此後,技術中立論的領地遭遇了歷史性的萎縮。“菜刀論證”似乎成了技術中立論者最後的堡壘:我們能但只能聲稱,剝去了身上負荷的價值,3G技術標準本身還是“中性”的——然而,即使這樣的說辭也並非堅不可摧。

“我們認爲技術並不可恥。”

2016年1月7日,北京海淀法院開庭公開審理被告單位快播公司,被告人王欣、吳銘、張克東、牛文舉涉嫌傳播淫穢物品牟利罪一案。在看熱鬧不嫌事兒大的直播彈幕圍觀下僵持了兩天的庭審,迅速掀起了段子手創作的熱潮,被告及其辯護人“平臺無罪,研究開發平臺的技術無罪”的論調,也不出意外地成了全網最大的爭議點。

值得注意的是,庭審現場的質證過程中浮現出了“索尼案”與Napster案的影子——

王欣辯護人:“快播公司是否屬於互聯網信息服務企業?”

王欣:“快播是軟件技術提供商。”

王欣辯護人:“你是否提供內容給廣大網民?”

王欣:“不提供。” [8]

辯護人的弦外之音顯而易見:如果快播提供的只是技術而非服務,本案就更像是一宗中國的“索尼案”而非Napster案。正因如此,在庭審現場,被告方紛紛祭起了“技術無罪”的大旗。

唯一的問題是,時代變了。

事隔十年,中國網民人數從2005年底的1.2億飆升至2015年底的6.7億,翻了四倍有餘;中文互聯網的話語權結構應聲而變,TD-SCDMA事件中交鋒對壘的專家學者再不是風暴的中心。

往昔風頭大盛的胡鞍鋼們,在社交媒體時代的“快播案”中淪落到了只有畫外音的份兒。圍繞“技術中立”的拉鋸戰,也從佶屈聱牙的政法論辯轉向了貼近日常生活的道德倫理之爭。

主流的聲音率先起了變化。庭審結束三天後,一篇“人民時評”登上了《人民日報》第5版:《用法治方式讀懂“快播案”》,署名“白龍”。“白龍”批評了快播案引發的網絡“狂歡”,併發問:“如何讓網絡技術既便利生活又無損於社會善良風俗、更不能衝撞法律的底線?” [9]

言下之意,技術不但必然負荷價值,而且還有倫理上“應當”負荷的“良善”價值:維持法律與習俗的穩定,遠離破壞和顛覆。一旦違逆了這條原則,任何技術都將被打上可恥的烙印。

王欣的最終入獄,宣告了技術中立論在互聯網時代的退潮。8個月後,北京海淀法院一錘定音:被告人王欣犯傳播淫穢物品牟利罪,判處有期徒刑三年六個月,罰金人民幣一百萬元。

同年年底,當今日頭條創始人張一鳴在《財經》的採訪中高調宣佈“今日頭條拒絕‘價值觀先行’”,他的致敬沒能收穫又一場狂歡;相反,這一回,輿論做了行政司法的馬前卒。歷數着“中立算法”原罪的兩年,人們先後盼來了今日頭條兩次被約談和張一鳴的低頭:

“產品走錯了路,出現了與社會主義核心價值觀不符的內容,沒有貫徹好輿論導向,接受處罰,所有責任在我。” [10]

張一鳴表態認錯的2018年,清算聲討“技術中立”的火勢也從互聯網延燒到了實驗室。

12月26日,在第二屆國際人類基因組編輯峯會臨召開前,南方科技大學副教授賀建奎宣佈了一對艾滋病毒免疫的基因編輯嬰兒的誕生,霎時質疑四起。

這可能是科技倫理距離普通人的日常生活最近的一次。人們開始談論倫理審查、生命的界定,還有胚胎研究的14天規則。

可以說,“賀建奎事件”也是“技術中立”第一次以“元問題”而非“附加的討論”的面目出現在公衆視野裏——這並非偶然。在衆多現代科學中,醫學在價值問題上恰恰是特殊的:從柏拉圖的對話錄開始,健康就被認作天然正當的“善”。

換句話說,醫學技術“應當”負荷的價值正是“除人類之病痛”。

然而,生命倫理的特殊性又往往暴露出一般的技術效用主義的矛盾:就算殺害一人可能拯救萬千性命,我們似乎也不願承認這樣的做法完全符合普遍的道德直覺。

從快播到今日頭條,再到“賀建奎事件”,技術中立論話語的脫力其實都發生在“實然”與“應然”的反覆碰撞中:當我們說“技術中立”的時候,我們是真的希望技術保持中性,還是期待“中性”背後非中性的可能性?

或許,它爲我們提供的仍是那種古老的樂觀主義想象:只要善加誘導,技術開出的“惡之花”就能被重新馴化、服務於人類的“良善”需要——這是百年前那句“以人事補天工,役天工於人事”的現代迴響。

既然如此,“技術中立”是如何突然消亡的?

擔當這個過程的催化劑的,或許是技術向日常生活深處行軍的步伐:在普通人眼裏,技術越來越不再是某一件單純的“物”,而是某一項複雜的具體“過程”。

技術中立論者長期據守的“菜刀論證”給了現代人一個高度迷惑性的例子——作爲“技術物”的菜刀和作爲“技術過程”的3G、AI、基因編輯,其實代表了人類理解技術的兩個不同階段。

經典的“技術物”更像是一個“黑箱”,它的生產與使用分離得相當徹底——持刀切菜或砍人,似乎不過是在特定應用場景下賦予“技術物”不同使用價值的過程。

然而,在日漸複雜化的進程中,現代技術遭遇了質的變化:發明何種技術與技術將負荷何種價值,二者的界限愈發地模糊了。如果硬要沿用那個經典的例子,我們可以說,菜刀的藍圖上早已標好了它的用途,一切設計隨之而定:做不做鋸齒?開不開血槽?……

現代人越來越感到,必須以“過程”而非“物”的標準看待每一項技術。

我們關心AI的應用場景,更關心它在算法上是如何實現的;我們關心基因編輯帶來的利好,更關心它在生化機制上有沒有潛在的風險。我們鼓足勇氣打開了“黑箱”,也暴露了長期爲“技術中立”的神話所掩蔽的暗面。

2020年——“後新冠時代”元年,同樣的劇本正在世界各地火爆巡演。

“BLM”運動的浪潮推動着扎克伯格和楊立昆重蹈今日頭條的覆轍;病毒的肆虐消磨着人類所剩無多的樂觀主義情緒。“一切堅固的東西都煙消雲散了”——我們比以往任何時候都更清醒地意識到,技術既不是進步的“必然魔法”,也不應當成爲新的神話。

像種種一度被認爲是亙古不變的確定性信念一樣,技術中立論其興也勃,其亡也忽。人類的技術觀向何處去?如果說純粹的“技術中立”不過是技術樂觀主義的一場幻夢,它的消亡會不會陷我們於極度悲觀的相對主義甚至虛無主義?

既然一切技術過程都承載着人的好惡甚至各種結構性的不平等,這是不是在可能性上宣告了任何一種無偏向性的普遍技術的破產?我們註定只能在“白人的AI”或“黑人的AI”、“男性的技術”或“女性的技術”之間擇一而終嗎?

無論出路爲何,至少有一件事可以確定:技術中立論者必須在承認技術過程的基礎之上,作出迴應時代的努力——畢竟,那個以“技術中立”爲第一原則的時代,已是一去不回頭了。

References:

[1] 北京大學知識產權學院:扎克伯格參議院聽證會記錄

http://www.iplaw.pku.edu.cn/xzdt/1208087.htm

[2] Karl Jaspers, The Atom Bomb and the Future of Man. Chicago: University of Chicago Press, 1963.

[3] 王韜 編,弢園 重校:《格致課藝彙編》卷四,上海書局石印本,1897年,第5頁。

[4] 鄭觀應:《盛世危言·教養》,《鄭觀應集》上冊,上海:上海人民出版社,1982年,第481頁。

[5] 胡鞍鋼:“中國3G世紀報告”(部分) https://tech.sina.com.cn/t/2005-01-19/0911508250.shtml

[6] 胡鞍鋼反駁3G討論觀點三:技術中性論 https://tech.sina.com.cn/t/2005-02-02/0728521152.shtml

[7] 朱彤:3G:技術真的是中立的嗎?http://net.blogchina.com/blog/article/183468

[8] 騰訊科技:快播涉黃案庭審實錄 

https://tech.qq.com/a/20160108/062986.htm

[9] 白龍:人民日報人民時評:用法治方式讀懂“快播案” http://opinion.people.com.cn/big5/n1/2016/0111/c1003-28034817.html

[10] 新浪財經:張一鳴凌晨發公開信道歉 宣佈審覈隊伍擴到萬人 

https://finance.sina.com.cn/7x24/2018-04-11/doc-ifyteqtq7784392.shtml

相關文章