原標題：世界經濟論壇最新報告：數字平臺正在製造越來越多的危害

記者 | 王磬

全球數十億人使用的數字平臺正在被濫用。

新冠疫情以來，一方面，數字平臺成爲了傳播科學與防疫知識的主要戰場，發揮了前所未有的功用。但另一方面，關於病毒的虛假信息也以極快的速度傳播開來。

根據國際刑警組織的報告，大流行期間關於兒童性剝削和性虐待的內容有顯著增加。今年1月美國國會山發生的暴力襲擊事件，也被認爲與數字平臺散佈假消息有關。

在近日發佈的報告《推進數字安全：協調全球行動的框架》中，世界經濟論壇對政界、商界、學術界和民間的50多位專家進行了訪談。其中75%的受訪者認爲，網絡平臺上存在太多“有危害的內容”、但平臺對此的行動太少。

報告還指出，具有誤導性的健康信息、暴力極端主義和恐怖主義，以及針對兒童的剝削，這三個領域是急需關注的數字安全議題。

報告作者、世界經濟論壇“媒體、娛樂與體育產業”總監Cathy Li在接受界面新聞採訪時表示，之所以會圈定到以上三個領域，主要是根據其緊迫性、對弱勢羣體潛在的危害風險、該內容類別的近期增長情況來確定的。並且在這些領域內有機會更好地推動更好的國際共識與協作。

錯誤的健康信息

首先，全球大流行之下，對抗具有誤導性的健康信息十分緊迫。考慮到疫苗接種的速度需要超過更具傳染性的變種的傳播，需要糾正諸多關於疫苗接種的錯誤信息。

解決健康誤導問題一直是許多公共衛生官員的首要任務。倫敦國王學院的研究發現，34%的英國人表示，他們曾看到或聽到過勸阻公衆接種冠狀病毒疫苗的信息。最近Axios-Ipsos的一項民意調查顯示，被誤導的人不太可能接種疫苗。許多平臺已經採取了具體行動來打擊虛假信息。包括禁用虛假賬戶，與事實覈查機構合作、對虛假信息進行標註。

平臺還致力於努力刪除有問題的內容。自2020年2月以來，YouTube已經刪除了80多萬個含有關於新冠的錯誤信息的視頻。YouTube還強調，它們的系統在觀看前就能檢測出94%有問題的視頻。

暴力極端主義和恐怖主義

其次，疫情可能加劇了根深蒂固的社會分歧，恐怖主義獲得了某種新的溫牀。今年初的國會山暴動讓人們更深入地瞭解QAnon等團體如何利用網絡進行聯動，但這並非今年纔出現的新問題。

新西蘭皇家委員會的一份報告強調了YouTube在一些恐怖行爲中的激化作用。恐怖分子於2019年在克賴斯特徹奇的兩座清真寺殺害了51人。這次襲擊的視頻也在Facebook上被直播與二次傳播，隨後Facebook不得不刪除了150萬個包含這些鏡頭的視頻。

關於暴力極端主義和恐怖主義的內容，Cathy Li對界面新聞表示，克賴斯特徹奇和美國國會騷亂事件凸顯了仇恨和極端主義意識形態崛起的巨大風險，以及解決這一問題的挑戰。全球互聯網反恐論壇（GIFCT）最近呼籲改進分類法，表明目前的數據收集和分析做法可能沒有充分關注來自本土的行爲主體。

對兒童的剝削與虐待

再次，根據該報告，疫情期間網絡上兒童性剝削和性虐待材料（CSEAM）的消費和傳播也出現了大幅上漲。

未成年人在互聯網用戶中佔了很大一部分，每三個用戶中就有一個是18歲以下的。一項調查發現，70%的兒童至少經歷過一次網絡威脅。更多的兒童被“誘導”，犯罪者通過互聯網來創造條件來進行性交易。

根據國際刑警組織在2020年9月的一份報告，在美國，各州關於兒童性虐待材料和誘導的投訴增加了75%至200%不等。Facebook發現超過90%的被投訴內容與此前就已知的內容相似，一半以上的投訴是由六部視頻及其副本帶來的。歐盟委員會電子隱私指令的最新要求要對數據隱私進行更嚴格的保護，兒童性虐待材料的投訴量因此下降了46%。

以用戶爲中心的框架

《報告》顯示，多達90%的被調查者認爲，由於對“危害”（harm）的定義過於模糊，導致了監管的無效性。《報告》還指出，當前數字媒體生態系統在三個關鍵領域的運作方式存在缺陷。

第一是缺乏有意義的保護閾值。平臺目前報告的指標主要關注已刪除內容的絕對數量，但無法根據用戶體驗提供足夠的安全措施。即使諸如“流行率”之類的衡量標準（指用戶對有害內容的瀏覽佔所有觀看次數的比例）也不能反映某些羣體是否由於其性別、種族、民族而更易於在平臺上接觸這些有害內容。

第二是關於推薦系統中不當影響的標準不足。疫情突出了線上自動推薦中的問題。對於亞馬遜推薦算法的最新審計顯示，有10.47%的自動推薦都在宣傳“誤導性健康產品”，對錯誤信息的點擊也往往會影響後來的搜索結果。目前尚不清楚是否以及如何通過廣告機制使此類內容更具經濟吸引力，它與個人信息的使用有何關聯，以及在用戶安全方面是否存在利益衝突。

第三是缺乏跨公私部門投訴的相關協議。當用戶向平臺內部提出投訴時，如何評價投訴的效率？如何進行充分的補救？是解決投訴所需的時間、根據既定政策做出決定的準確性、還是當用戶不同意結果時再投訴的便利程度？目前不存在通過行業績效或其他機制來衡量有效性和效率的投訴協議基線標準，因此無法評估。

針對這些問題，《報告》建議開發一個以用戶爲中心的框架，並提出了最低傷害閾值、可審計的推薦系統、對用戶個人詳細信息的使用標準以及充分的投訴協議，以創建使用數字產品和服務的安全基線。

世界經濟論壇“媒體、娛樂與信息產業”負責人Farah Lalani告訴界面新聞，與其讓平臺報告他們從網站上刪除了多少有害內容，不如讓他們把重點放在提升用戶體驗上。

“因爲最終每個人的體驗都是不同的。即使普通用戶在平臺上觀看的大部分內容是安全的，但這並不能解決某些羣體由於種族、性別、性取向等原因而更容易成爲有害內容的目標這一問題。”