政府部門和平臺企業正在合力進行治理

近幾年，因網暴而造成的悲劇性事件時有發生，一方面是各類反網暴措施不斷升級，另一方面是網暴的形態不斷更新，如何整治網暴受到全社會高度關注。

習近平總書記在黨的二十大報告中指出，要“健全網絡綜合治理體系，推動形成良好網絡生態”。

中央網信辦近日發佈了《關於切實加強網絡暴力治理的通知》（以下簡稱《通知》）。提出要建立健全網暴預警預防機制，強化網暴當事人保護，依法從嚴處置處罰。

《通知》中這樣描述網絡暴力：“針對個人集中發佈侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息，侵害他人合法權益，擾亂正常的網絡秩序。”

國家互聯網信息辦公室諮詢專家、中國傳媒大學人類命運共同體研究院副院長王四新告訴《中國新聞週刊》，《通知》出臺的背景，是網絡暴力的社會影響日益擴大，嚴重敗壞網絡空間言論生態和信息生態。

中央網信辦對網暴一直保持着高壓治理態勢。早在今年4月，中央網信辦就部署開展了“清朗·網絡暴力專項治理行動”，主要聚焦網絡暴力易發多發、社會影響力大的新浪微博、抖音等18家平臺，通過建立完善監測識別、實時保護、干預處置等措施，進行全鏈條治理。

8月23日，在國務院新聞辦舉行的新聞發佈會上，中央網信辦（國家網信辦）副主任盛榮華曾表示，在集中力量整治網絡暴力、網絡水軍、網絡黑公關這些問題時，中央網信辦針對不同類型網絡亂象的特點，抓住要害、對症下藥。

平臺應負怎樣的監管責任？

在最新印發的《通知》中，中央網信辦提出要“進一步壓實網站平臺主體責任”。

“加強平臺自律，強化平臺的相關職責，有助於遏制網絡暴力現象。”王利明是中國法學會副會長、中國人民大學教授，他對《中國新聞週刊》說，平臺掌握關鍵信息的基礎設施，也有一定的技術手段應對網暴，實際上已經是獲得了一定權力的“準監管機構”，因此需多發揮平臺的監管責任。

王四新認爲，加強網暴治理是平臺必要的付出，也是平臺維持安全運營的基礎性要求。

實際上，對平臺而言治理網暴並不是一種沒有回報的付出，因爲良好的平臺氛圍也是競爭力之一。知乎社區治理業務負責人告訴《中國新聞週刊》，平臺內，以問答爲主導的內容形式使得用戶間的互動行爲頻繁，在觀點的碰撞中，用戶間的摩擦、爭論在所難免，在這樣的背景下，知乎希望能夠維持一個友善的社區氛圍，“在平臺上，如果大家都友善進行互動，認認真真回答，社區才能繁榮起來，商業化道路也會比較好走。”

在王四新看來，中央網信辦印發的《通知》爲網站平臺規定了較爲細化的治理網暴的措施，指導性較強，“等於是給平臺出了一份操作方案”，“以前平臺可能不知道怎麼去解決網絡暴力問題，但現在有了這個方案，平臺就可以有針對性地落實平臺的跟進措施。”

《通知》對網絡暴力給出了描述性定義，但沒有給出明確的定義。王四新表示，這並不妨礙平臺和用戶對網絡暴力的認知，因爲網絡暴力在網絡空間太普遍了，每個人都幾乎經歷過，《通知》對實施網絡暴力方式的列舉，有助於平臺和用戶更準確地對這個問題進行把握。

一位抖音安全產品經理對《中國新聞週刊》說，網暴與“非網暴”在很多時候難以區分，這對平臺來說是監測和排查網暴的一大困難。一位業內人士說，由於缺乏認定標準，行業內的多個網站平臺在監測網絡暴力時，還是按照自己的理解在做。

中國政法大學比較法學研究院教授劉文傑對《中國新聞週刊》說，要區分正常言論表達與網絡暴力確實存在困難。

目前，各個平臺幾乎都根據中央網信辦的指導意見和平臺特徵，總結了一套對網暴內容和行爲的判定體系。

例如，知乎會判定爲網暴內容和行爲的，包括泄露他人隱私、煽動網友對他人進行無根據地扣帽子、貼負面標籤，使用包含髒話、蔑稱等言語對他人進行辱罵攻擊，無視對方意願對他人進行惡意騷擾等。豆瓣的判定體系包括使用不雅粗俗的詞彙攻擊他人、諷刺挑釁他人、擡槓拱火、煽動衆人情緒、對個人或羣體持歧視偏見的態度等。

上述抖音安全產品經理表示，抖音會嚴格處理詛咒、咒罵等突破底線的違反公序良俗的內容，沒有真實依據、造謠、傳謠、污衊他人的內容，人肉搜索、違規曝光和傳播當事人隱私信息的內容，以及事件中對當事人周邊無關人員、物品的曝光與無端指責。

不難發現，各個平臺總結的網絡暴力標準體系，仍需要其進行相當程度的主觀判斷。王利明建議，國家網信部門在其職權範圍內可以制定一些細則，規定網絡平臺在處理相關侵權信息時的處理標準、處理流程等事項。

如何將網暴扼殺於萌芽？

將網絡暴力的風險扼殺在萌芽階段，是治理網暴的理想狀態。

王四新認爲，“預防”是治理網絡暴力最重要的一個環節。在中央網信辦的《通知》中，“建立健全網暴預警預防機制”也被放到了第一項。

根據《通知》，中央網信辦要求網站平臺加強內容識別預警。目前，各個網站平臺都擁有一套對存在網暴風險的信息內容進行識別和過濾的手段。

前述抖音安全產品經理對《中國新聞週刊》說，在內容識別方面，抖音會根據相關內容語境、評論、背景等進行綜合研判，包括機器研判和人工研判，平臺已經研發了一些智能識別模型，目前線上已經有100多個模型在運營，會提前攔截侮辱辱罵內容。

抖音方面認爲，評論是網暴的“重災區”，如果評論區的內容被模型判定爲不當評論，平臺將反覆提醒內容有風險，直至用戶最終修改。

知乎則會根據內容的違規程度，限制內容的展示範圍。知乎社區治理業務負責人說，對於不友善的內容，平臺會對其進行摺疊，降低其在社區裏曝光的機會。明顯帶有侮辱性質的語言，會被平臺刪除。

微博社區負責人對《中國新聞週刊》說，微博建立了一套關鍵詞詞庫，分爲A、B、C三個級別，包括各類髒話和“綠茶婊”“怎麼還不去死”等不友善詞彙，並且設置了126個禁發關鍵詞，用戶發佈內容觸及這些關鍵詞時會出現彈窗，提醒用戶要友善評論，並且內容無法發出。

這位微博社區負責人說，關鍵詞詞庫會不斷更新，“比如涉及飯圈的討論會有很多黑話，隨着時事熱點的出現，也會有很多新造的詞語。”根據微博於8月10日發佈的《微博網暴治理報告》，截至7月31日，微博添加的網暴關鍵詞有700餘個。

儘管各個平臺在關鍵詞策略等識別技術上都有相當的投入，但在平臺看來，機器審覈仍然只能承擔一部分工作，人工審覈不能被替代。

根據《通知》，中央網信辦也要求網站平臺建立涉網暴輿情應急響應機制，即組織專門力量，及時收集網暴相關熱點話題和輿情線索，並發現網暴異常行爲。

以微博爲例，其設立了7×24小時專項巡查小組，有專門的工作人員進行巡查，同時優化關鍵詞策略。

微博社區負責人說，針對一些可能會產生網暴相關輿情的事件，微博還會派更多人手在話題落地頁進行監測。

對於參與網暴的賬號，微博、抖音、豆瓣、知乎等各個平臺有類似的處罰機制，即根據行爲程度的不同作出刪除言論、短暫禁言、永久禁言、封禁賬號等處理。

抖音在2022年1月至6月共攔截了9218萬條不當信息，封禁及禁言賬號11348個。微博在2022年4月24日至7月31日處置內容1931萬餘條，其中佔比最大的三類內容是粗俗冒犯類、煽動情緒類、譏諷內容類，處置賬號1.8萬餘個。

不過，在平臺不斷加強對於用戶言論的審查時，另一種擔憂自然而然地出現了。研究互聯網法和版權法的劉文傑認爲，如果平臺對用戶言論的事前過濾多了，會對言論自由造成較大的損害。

“平臺的事前審查不是不可以，但是一定要謹慎。”在劉文傑看來，“通知-移除”這樣的事後監管模式應該起主要作用，事前過濾不僅要謹慎使用，還要儘可能確保算法識別的準確度。

“通知-移除規則”始於1998年美國《千禧年數字版權法》，在該規則下，如果網暴受害者告知平臺出現侮辱、誹謗等違法信息，並提供足夠充分的材料，平臺進行移除即可。

但“通知-移除”規則的有效性也遭到質疑。北京師範大學亞太網絡法律研究中心主任劉德良認爲，該規則不符合網絡時代信息傳播的規律，無法有效阻止網絡暴力中侵權信息的發佈和後續傳播。

“侵權人發佈信息和受害人通知平臺或者平臺巡查到侵權信息中間總有時間差，比如說有人把受害人的裸照發到網上，一旦發佈了，傳播的範圍既無法控制也無法預測，平臺事後再刪除已經沒有什麼意義。” 劉德良認爲，平臺應該承擔事先審查義務。

“一鍵防護”能否保護當事人？

爲加大網暴治理力度，《通知》要求網站平臺通過一系列措施強化對網暴當事人的保護，包括優化私信規則，防範網暴內容通過私信傳輸。

《中國新聞週刊》瞭解到，近段時間以來，許多網站平臺已經對私信功能進行了更新。以豆瓣、微博、小紅書爲例，未互相關注且24小時內未有過私信往來的陌生人，在得到用戶自己回覆前只能發出一條私信。另外，用戶均可以設置私信的範圍，可選範圍包括所有人、自己關注的人、互相關注的人和禁止私信。

一些平臺還有更爲嚴格的私信規則。在豆瓣，新註冊用戶或近期有過違規的用戶，無法直接向陌生人發送私信消息，需要通過“打招呼”並得到回應後，纔可發送私信。

抖音則在今年上半年推出了私信臨時對話功能，陌生人每次只能向單個用戶發送一條申請信息，用戶回覆後，陌生人才能與其臨時對話，有效期爲 24 小時，超時後重新申請。

2022年以來，包括微博、抖音、豆瓣、知乎、小紅書、B站在內的多個平臺推出了“一鍵防護”的功能，即讓用戶一段時間內（通常是7天或14天）不會接受未關注人的私信、評論和轉發信息。“設置一鍵防護功能”也被寫進了《通知》，作爲中央網信辦對更多網站平臺的要求。

微博方面對《中國新聞週刊》表示，一鍵防護功能是讓用戶進行自我保護的應急措施，當用戶遭受大量攻擊時，該功能將未關注人的各類信息屏蔽，“就像戴上降噪耳機，讓用戶感知不到網絡暴力的信息。”

防止用戶的個人信息被窺視、挖掘並被二次造謠，是網站平臺治理網暴的另一個方向。

在豆瓣，用戶可以對個人主頁的信息展示設置可見範圍，例如對未關注的人或關注不滿三十天的人，僅對其展示半年內的10條動態，而在用戶開啓“應急防護模式”後，他人將無法關注自己，只有關注的人才可以查看自己的個人主頁內容。在微博，用戶可以將可見時間範圍設置爲“最近半年”。

減少用戶個人信息的曝光可以有效治理網暴，但從另一方面來說，“透明化上網”乃至於網絡實名制，一直以來都備受推崇，被一部分人認爲有助於減少網暴事件，理由是人在實名時的發言更加理性。

劉文傑認爲，對前臺實名制仍需審慎評估，不宜高估前臺實名的震懾效果，因爲個人處於人羣之中容易受到羣體行爲驅使，“法不責衆”的心理仍會讓其對行爲不受懲罰存有僥倖，並且“完全的實名制，意味着網絡個人信息的披露，一定程度上爲日後的網絡暴力埋下隱患”。

當網暴信息仍然難以避免地傳達給了網暴當事人，舉報成爲了個人最後的選擇。

《通知》要求平臺建立快速舉報通道，並堅持最有利於未成年人的原則，優先處理涉未成年人網暴舉報。

自中央網信辦開展網絡暴力專項治理行動後，多個平臺都在舉報類型中添加了“網絡暴力”的選項。另外，平臺幾乎都增加了“一鍵取證”的功能，方便用戶快速蒐集證據進行投訴。例如豆瓣用戶進行網絡暴力投訴時，平臺會自動將最近的20條對話生成證據照片，B站用戶舉報私信內容時，可選擇將被舉報人的近期5條信息一併提交。

但劉文傑也表示，舉報不能被濫用，如果舉報方三番五次進行惡意投訴，而被舉報方不存在問題，可以採取降低舉報方信用評級等相應措施。

王利明還認爲，平臺應當鼓勵當事人及時回應，併爲當事人回應提供便利。“俗話說，‘造謠一張嘴，闢謠跑斷腿’，在互聯網時代，在哪裏闢謠最合適？應當說在哪裏發出的謠言信息，在哪裏澄清最爲合適。”

要不要爲網暴專門立法？

只靠平臺和監管部門防範網絡暴力是不夠的，要從根本解決網暴行爲還需要法律規制。

從立法上看，民法、行政法和刑法上都有關於網絡暴力治理的法律規定。王利明表示，民法典新設了禁令制度，主要目的就在於及時制止相關的網絡侵權行爲，防止損害後果的持續發酵。在符合禁令制度的適用條件時，司法機關應當允許受害人申請禁令。從實踐來看，禁令制度的適用情況較少，王利明認爲，主要原因在於《民法典》關於禁令適用條件的規定並不清晰，這就需要儘快出臺相關的司法解釋。

在中國刑法體系中，與網絡暴力相關的有侮辱誹謗罪、侵犯公民個人信息罪和尋釁滋事罪等規定。

但在西南政法大學教授石經海看來，中國法律對於網暴仍存在規制不足的問題，“雖然刑法中有侮辱誹謗罪等規定，但這些規定都是或實質上是以傳統暴力行爲方式爲規制對象的，與網絡暴力的行爲特徵並不兼容。”石經海表示，在實務中，難以將“網絡暴力”行爲認定爲相應犯罪和追究其刑事責任。

在現實層面，當受害者決定拿起法律武器，起訴網暴者，確實會遇到很多難題。

首先是證據收集方面，網絡暴力的取證十分困難。石經海認爲，網絡暴力的取證不同於其他的自訴案件，網絡環境複雜，甚至發動攻擊的人是誰都難以確定，在沒有相關部門協助的情況下，證據極其容易滅失，以致案件不了了之。

另外，在犯罪認定方面，網絡暴力難以對應刑法相關犯罪的構成特徵。王利明說，網絡暴力往往由多人蔘加，除了個別主犯以外，大多數網民可能對於事實真相併不知情，存在人云亦云的現象，網絡暴力的嚴重後果也往往是通過相當數量網民實施的跟帖評論等行爲累加形成的，單個網民的行爲可能並不太嚴重，因此對於“情節嚴重”如何認定等方面往往存在疑難之處。

僅對參與網絡暴力的人進行法律約束，還不足夠。不少網暴事件中有網絡水軍推波助瀾的身影。打擊互聯網黑灰產，對於減少網絡暴力也會起到重要作用。

還有越來越多專家呼籲針對網絡暴力進行專門性立法。2022年全國兩會期間，全國政協委員王學坤錶示，中國立法關於網絡暴力的規定發佈在民法典、刑法、治安管理處罰法、網絡安全法等法律中，規定比較零散，建議採取專門化、體系化的集中立法來應對網絡暴力。

石經海認爲，應該增設“網絡暴力罪”，這是出於兩個方面的考慮，一是網絡暴力行爲與傳統暴力行爲有着本質的不同，刑法中現有的相關犯罪在構成特徵上難以對接這些特徵；二是想突出罪名的行爲規範效果，也就是通過這個罪名，讓民衆清楚地知道實施網絡暴力是犯罪行爲。

不過，關於是否需要通過專門立法治理網絡暴力，仍存在爭議。在王利明看來，針對網絡暴力專項立法必要性不大，“雖然網絡暴力亟需法律規制，但治理網絡暴力並非無法可依。”王利明認爲，當前需要做的是如何切實貫徹好、實施好、落實好《民法典》等法律規定。

劉文傑說，治理網絡暴力，除了平臺要採取治理措施，執法部門要對嚴重網絡暴力事件中的主要行爲人給予相應的處罰，還要培養網絡用戶文明發言的習慣，“長遠來看，提高網絡用戶的網絡素養，是根本上的治理方法，也是更可持續的方法。”