社交媒體時代的底層物語：那些爲機器打工的Facebook神祕審覈員

本文已獲得全媒派授權。

看完一個陌生人的死亡視頻後，驚懼再次席捲了Chloe。

儘管她已經接受了三週半的訓練，試圖在那些日復一日出現的仇恨言論、恐怖襲擊、色情圖像相關的推文面前，爲自己築起足夠堅固的防禦體系。沒有人安慰她，因爲這是她的工作日常，也是鳳凰城站點爲Facebook審覈內容的1000名審覈員的日常。對於世界各地的15000名內容審覈員來說，這也只是工作中再平常不過的一天。

內容審覈員們隱身於社交平臺之後，把自己活成了抵擋違規信息、卻同被負面信息所侵蝕的一道盾牌。多的是人詬病社交平臺依然存在的負面言論給自己帶來的傷害，卻很少有人考慮這道在負面信息下首當其衝的盾牌的生存狀態。

The Verge近期推出了有關Facebook內容審覈員的專題報道，文章作者採訪了代理Facebook內容審覈服務的科技公司Cognizant的員工，揭露了他們的心理創傷、管理制度以及審覈標準等問題。本期編譯這篇文章，與讀者一同瞭解這羣爲機器打工的“隱形人”的故事。

生存背景速寫

隱形、壓力與不確定性

文章所採訪的Cognizant的前任或現任員工，其實都和公司簽訂了保密協議，承諾不去談論他們負責的內容審覈工作。這既是爲了保護他們免受對內容審覈不滿的用戶的人身侵害，也防止他們泄露Facebook用戶的隱私。

但這同樣意味着，他們的工作狀況不能爲人所知，哪怕是身邊的親人朋友，都無法分擔他們在工作中所遭遇的孤獨、焦慮等心理負擔。以及，公司Cognizant和Facebook也會免於爲審覈員提供的工作待遇是否合理等爭議。因此，文章中所出現的相關員工皆爲化名，除了Cognizant的副總裁Bob Duncan和Facebook全球合作伙伴運營總監Mark Davidson。

不平等的薪資待遇

相比Facebook正式員工平均24萬美元的年薪，這裏的內容審覈員一年只能拿到28800美元的薪水。

2017年，扎克伯格宣佈擴大Facebook的“社區運營”團隊，新增4500名內容審覈員，到2018年底，Facebook已有3萬多名員工從事安全方面的工作，其中約一半是內容審覈員。審覈員中包含全職員工，但Facebook更多依賴外包合同工來完成審覈工作——他們遍及全球各個地域與各個時區，並且關鍵在於，用人成本極低。儘管扎克伯格曾經警告投資者，安全投資會降低Facebook的盈利能力，但最近一個季度其利潤仍然同比增長61%.

微觀管理壓力

不平等的不僅是薪資，還有不爲外界所知的工作環境與工作氛圍。

這一天，內容審覈員Miguel在早上7點來上班，他是即將填滿這一工作地點的300名員工之一，部門佔據了鳳凰城辦公園區的兩層空間。Miguel首先經過了由安全人員嚴格把守的入口，這是爲了警惕心懷不滿的前任僱員和Facebook用戶的報復性行爲。再接着，他朝儲物櫃走去。員工儲物櫃數量不夠，所以開始有一些人把東西放在櫃子裏過夜，以確保第二天還能有儲物櫃可用。儲物櫃所在是一條狹窄的走廊，休息時間，走廊裏會擠滿員工。

儲物櫃

Miguel和其他人一樣，把手機也放在了儲物櫃中，這是爲了保護Facebook用戶的隱私。如下圖所示，除了手機，有記錄用戶信息風險的書寫工具和紙張也被禁止攜帶，甚至包括口香糖包裝紙。洗手液之類的小型物品，需要放在透明塑料袋裏，以便管理者查驗。

公司禁止攜帶的物品

爲了適應每天4班的輪班制，以及內部較高的員工流動率，大多數人不會被安排在Cognizant所說的“生產區（the production floor）”的固定辦公桌上。Miguel找到了一個開放使用的工作站，登陸名爲“單一評審工具（Single Review Tool，簡稱SRT)”的軟件，點擊“內容審閱”按鈕，開始了他一天的工作。

隨機性高但容錯率低的審覈標準

Miguel在審覈內容時，需要恪守一套以“準確度（accuracy）”命名的衡量標準，這一標準由Facebook員工與外包人員審覈結果的一致性所決定。

具體來說，Miguel需要對每條內容完成兩個測試：是否違反社區規則，以及違反規則的原因，如果這條內容確實違反規則應當刪除，但Miguel選擇了錯誤的原因，這也會影響他的準確度評分。在Miguel每週所做出的約1500條內容的審覈決定中，Facebook會隨機選擇50~60條進行二次審覈，首先交由被稱爲QA（質量保證）的內部員工審覈，再由Facebook正式員工審覈QA的決策所形成的數據集，生成準確度得分。

Miguel對這一標準十分不以爲然，“準確度通過一致性來判斷，如果我和二次審覈人員都贊同販賣毒品，那麼‘這一內容不屬於違規內容’的審覈決定也會是正確的。準確度不過是一個謊言。”

不僅如此，審覈員達到準確度指標的困難還在於，他們要綜合考慮各種給定的衡量標準。內容審覈標準由4個方面構成：

首先是Facebook的公共社區規則，這包括兩部分，公開發布的規則與篇幅更長的內部指南；

其次是對這些文件中已知問題的額外評論和指導，長度爲1.5萬字；

第三是審覈員之間互相討論得到的共識，尤其是在槍擊案等突發事件之中，但有時會出現錯誤共識，管理人員就需要四處來回解釋正確的決定。

內容衡量標準的4個主要來源

第四個方面處理起來最複雜，來自Facebook的內部信息發佈工具。雖然官方政策調整每兩週的週三公佈一次，但對於進展中突發事件的補充性規則卻時刻接踵而至，這些標準彙總於Facebook企業版軟件Workplace之中，和Facebook一樣，會呈現出根據熱度由算法進行排序的信息流，管理人員發佈的規定常常相互矛盾，且不按時序出現，而如果審覈員看到了過時的信息，就會出現準確度失誤。“有時候，感覺像是Facebook自己開發了產品跟他們作對”。

即便在這樣複雜且隨機的審覈標準下，他們的審覈誤差也被限制在很小的範圍之內，就像是玩一場高風險高難度的遊戲，起始分數爲100分，如果你失誤到95分，就會面臨離職的風險。不過，Miguel有權利向判定他爲錯誤的QA提起投訴，讓QA同意他的決定。在這種情況下，QA也成了壓力的承擔者。一位叫Randy的QA就經常被審覈員威脅，要他改變審覈決定，Randy不得已開始帶槍上班——他一直到辭職都沒有扣動扳機，但他的焦慮卻揮之不去。

夾縫中的休息與排遣

到了Miguel的休息時間，他點擊瀏覽器插件打卡，以便公司記錄自己準備離開辦公桌。Facebook總監Davidson表示，這是行業慣例，公司需要追蹤自己的員工在哪裏。

Miguel一共有兩個爲時15分鐘的短休息，和30分鐘的午餐時間。在休息室，他常常發現洗手間排起長隊，數百名員工共用一個小便池和兩個男廁隔間，以及三個女廁隔間。公司允許員工使用另一層的洗手間，但Miguel不願意來回花費幾分鐘，當他上完廁所，隨着人羣擠到儲物櫃前時，還有五分鐘的時間看一會兒手機，再回到辦公桌前。

Miguel和其它員工一樣，每天有9分鐘的“健康時間”，管理層設置用意在於，當員工感到精神受到創傷時，可以利用這段時間離開辦公桌休息。一些審覈員會趁這段時間排隊人少去洗手間——而管理層禁止了這一做法，認爲這是對“健康時間”政策的誤解。

“不要用‘健康時間’去廁所”

員工被提倡的做法是，有時間要通過撥打諮詢師的電話來應對工作壓力，或者選擇瑜伽等其他放鬆活動。但對於審覈員來說，這些資源並不足夠，他們用工作期間的性行爲、毒品和侮辱性質的笑話來緩解壓力。前審覈員Sara說，他們不允許和親友談論自己的工作，這使同事之間更加親近，但不是合作帶來的正向情感，而是一同發泄的創傷性牽絆。

審覈員Li說，“我甚至沒辦法告訴你，我和多少人一起抽過大麻（文章補充：醫用大麻在當地合法），我想到這個，是真的覺得難過。我們嗑到嗨，然後回去工作。試想一下，全世界最大的社交平臺，審覈員上班時間一邊做這些事情，一邊還要接着審覈內容……”

無處安放的心理創傷

於是，Randy在上班時隨身佩槍，Li默默容忍同事爲了發泄對他講的種族歧視笑話，Chloe在觀看完一段謀殺視頻之後崩潰，哪怕離職之後都無法擺脫相似情境觸發的創傷症狀……凝視深淵太久，他們覺得自己也將被深淵吞噬。

“我們所做的事，

讓靈魂變得黑暗”

在上文提到的爲了緩解創傷症狀而出現的歧視性笑話、毒品濫用和創傷性情感聯繫之外，他們還開始漸漸接受一些極端觀點，陷入陰謀論與懷疑主義之中，而這些觀點恰恰是他們要審覈的內容。

比如，一位QA經常和同事討論他認爲“地球是平的”，並且竭力說服其他人也相信這一觀點。已經離職的Randy也認爲，這份工作改變了他的世界觀。在看了那麼多聲稱9/11並非恐怖襲擊的視頻之後，他開始相信了。去年的公園槍擊案發生後，審覈員最初對襲擊非常震驚，但隨着更多的陰謀論內容被髮布到Facebook與Instagram上，一些同事的態度開始動搖。審覈員們開始在上班時間瘋狂搜索相關陰謀論內容，而完全忘記了自己的審覈立場。

“做這份工作逃不過PTSD”

幾位審覈員說，他們經歷了繼發性創傷壓力（secondarytraumatic stress）的症狀，感到焦慮、失眠、孤獨和分裂感，這是一種由觀察他人的創傷經歷而導致的心理障礙，症狀與創傷後應激障礙（PTSD）相同，原本常見於醫生、心理諮詢師與社會工作者。

繼發性創傷壓力的症狀：焦慮、失眠、孤獨、精神分裂

Chloe在離職後的幾個月出現了創傷症狀。電影中的刺傷場景引發了她對於審覈時期暴力視頻的回憶；有一次她睡在沙發上，突然聽到開槍的聲音，原來是家人在觀看暴力視頻節目，她當即無法忍受，幾近抓狂。Randy在離職之後，對刀產生了一種天然的恐懼，他原本喜歡烹飪，但現在回到廚房看到刀，對他來說則難以忍受。他在接受採訪時說，“從事這項工作後，不患上某種急性應激障礙或是PTSD是不可能的。”

“當你不再害怕時，

你會做什麼”

一些管理者讓筆者看到了另外他們所採取的解決措施。報道前一週，總監Davidson提到，Facebook開始對一部分審覈員進行測試，以衡量他們所需要的“彈性（resiliency）”指標，即從創傷內容中恢復過來繼續工作的能力。他說，公司希望儘快將測試拓展到全球所有的審覈員。

而在筆者被邀請實地訪問的前一天，Cognizant的辦公園區裏貼上了新的激勵海報。辦公區域比記者的想象要豐富得多，牆上用彩燈裝飾的圖表描繪了月度活動，看起來有種夏令營和老人活動中心的混搭風：瑜伽、寵物療法、冥想，還有“週三請穿粉紅色”的活動。記者去的當天是“隨機善行周”的末尾，這一週，員工被鼓勵在彩色卡片上寫下鼓舞的話語，並用一塊糖果把他們貼在牆上。

在和管理者坐在一起的羣體採訪中，一些現任員工們都承認這項工作的挑戰性，但表示他們感覺到安全、被支持，並且認爲這項工作能夠帶來更好的薪酬與機會——如果無法進入Facebook，在Cognizant內部也好。政策經理Brad告訴筆者，他和同事們審查的大部分內容爲良性，並提醒筆者不要誇大其所帶來的心理健康風險。公司內部的心理諮詢師則表示，他們每天都和每個員工聯繫，他們認爲現場諮詢、熱線電話和員工援助計劃的結合足以保障審覈員的健康狀態。

筆者參觀結束，離開的時候發現公司內部審覈員幾乎都爲20多歲或者30歲左右，當他經過，所有內容審覈工作都要暫停，確保他不會看到任何Facebook用戶的隱私信息，所以這時，審覈員都在和同事親切地聊天。筆者看到牆上貼着那些激勵的海報，其中有一個口號是“廣泛的同理心”，還有一個則是Facebook首席運營官Sheryl Sandberg的名言，“當你不再害怕時，你會做什麼？”

那麼，考慮兩方面的聲音，Facebook這種模式是否合理？記者在參觀時遇到的每一個人都對員工表示了深切的關心，在這個系統中，他們似乎已經盡己所能地爲員工付出。Facebook自豪的是，它給所有代理公司的薪酬，都超出了最低工資的20%，並且提供全面的醫療保障福利，還有明顯優於呼叫中心行業（call center industry）的心理健康資源。

雖然這種外包審覈模式也爲Twitter、Google、YouTube等大型科技公司所應用，除了節省成本，還可以迅速擴展到不同語言環境的新市場。但問題在於，這種模式將內容審覈中較爲特殊的言論和安全等關鍵問題，都交給了審覈員個人來負擔，好像他們僅僅是在商場處理顧客打來的服務電話一樣。

並且，Facebook並不願意讓外界知道是“人”在負責這項工作，Facebook寧願談論它在人工智能方面的進展，也不願意冒險承認其對人工審覈員的依賴能夠逐日減少。——考慮技術限制，和人類語言無限的複雜性，這一天也非常遙遠。