政府部门和平台企业正在合力进行治理

近几年，因网暴而造成的悲剧性事件时有发生，一方面是各类反网暴措施不断升级，另一方面是网暴的形态不断更新，如何整治网暴受到全社会高度关注。

习近平总书记在党的二十大报告中指出，要“健全网络综合治理体系，推动形成良好网络生态”。

中央网信办近日发布了《关于切实加强网络暴力治理的通知》（以下简称《通知》）。提出要建立健全网暴预警预防机制，强化网暴当事人保护，依法从严处置处罚。

《通知》中这样描述网络暴力：“针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息，侵害他人合法权益，扰乱正常的网络秩序。”

国家互联网信息办公室咨询专家、中国传媒大学人类命运共同体研究院副院长王四新告诉《中国新闻周刊》，《通知》出台的背景，是网络暴力的社会影响日益扩大，严重败坏网络空间言论生态和信息生态。

中央网信办对网暴一直保持着高压治理态势。早在今年4月，中央网信办就部署开展了“清朗·网络暴力专项治理行动”，主要聚焦网络暴力易发多发、社会影响力大的新浪微博、抖音等18家平台，通过建立完善监测识别、实时保护、干预处置等措施，进行全链条治理。

8月23日，在国务院新闻办举行的新闻发布会上，中央网信办（国家网信办）副主任盛荣华曾表示，在集中力量整治网络暴力、网络水军、网络黑公关这些问题时，中央网信办针对不同类型网络乱象的特点，抓住要害、对症下药。

平台应负怎样的监管责任？

在最新印发的《通知》中，中央网信办提出要“进一步压实网站平台主体责任”。

“加强平台自律，强化平台的相关职责，有助于遏制网络暴力现象。”王利明是中国法学会副会长、中国人民大学教授，他对《中国新闻周刊》说，平台掌握关键信息的基础设施，也有一定的技术手段应对网暴，实际上已经是获得了一定权力的“准监管机构”，因此需多发挥平台的监管责任。

王四新认为，加强网暴治理是平台必要的付出，也是平台维持安全运营的基础性要求。

实际上，对平台而言治理网暴并不是一种没有回报的付出，因为良好的平台氛围也是竞争力之一。知乎社区治理业务负责人告诉《中国新闻周刊》，平台内，以问答为主导的内容形式使得用户间的互动行为频繁，在观点的碰撞中，用户间的摩擦、争论在所难免，在这样的背景下，知乎希望能够维持一个友善的社区氛围，“在平台上，如果大家都友善进行互动，认认真真回答，社区才能繁荣起来，商业化道路也会比较好走。”

在王四新看来，中央网信办印发的《通知》为网站平台规定了较为细化的治理网暴的措施，指导性较强，“等于是给平台出了一份操作方案”，“以前平台可能不知道怎么去解决网络暴力问题，但现在有了这个方案，平台就可以有针对性地落实平台的跟进措施。”

《通知》对网络暴力给出了描述性定义，但没有给出明确的定义。王四新表示，这并不妨碍平台和用户对网络暴力的认知，因为网络暴力在网络空间太普遍了，每个人都几乎经历过，《通知》对实施网络暴力方式的列举，有助于平台和用户更准确地对这个问题进行把握。

一位抖音安全产品经理对《中国新闻周刊》说，网暴与“非网暴”在很多时候难以区分，这对平台来说是监测和排查网暴的一大困难。一位业内人士说，由于缺乏认定标准，行业内的多个网站平台在监测网络暴力时，还是按照自己的理解在做。

中国政法大学比较法学研究院教授刘文杰对《中国新闻周刊》说，要区分正常言论表达与网络暴力确实存在困难。

目前，各个平台几乎都根据中央网信办的指导意见和平台特征，总结了一套对网暴内容和行为的判定体系。

例如，知乎会判定为网暴内容和行为的，包括泄露他人隐私、煽动网友对他人进行无根据地扣帽子、贴负面标签，使用包含脏话、蔑称等言语对他人进行辱骂攻击，无视对方意愿对他人进行恶意骚扰等。豆瓣的判定体系包括使用不雅粗俗的词汇攻击他人、讽刺挑衅他人、抬杠拱火、煽动众人情绪、对个人或群体持歧视偏见的态度等。

上述抖音安全产品经理表示，抖音会严格处理诅咒、咒骂等突破底线的违反公序良俗的内容，没有真实依据、造谣、传谣、污蔑他人的内容，人肉搜索、违规曝光和传播当事人隐私信息的内容，以及事件中对当事人周边无关人员、物品的曝光与无端指责。

不难发现，各个平台总结的网络暴力标准体系，仍需要其进行相当程度的主观判断。王利明建议，国家网信部门在其职权范围内可以制定一些细则，规定网络平台在处理相关侵权信息时的处理标准、处理流程等事项。

如何将网暴扼杀于萌芽？

将网络暴力的风险扼杀在萌芽阶段，是治理网暴的理想状态。

王四新认为，“预防”是治理网络暴力最重要的一个环节。在中央网信办的《通知》中，“建立健全网暴预警预防机制”也被放到了第一项。

根据《通知》，中央网信办要求网站平台加强内容识别预警。目前，各个网站平台都拥有一套对存在网暴风险的信息内容进行识别和过滤的手段。

前述抖音安全产品经理对《中国新闻周刊》说，在内容识别方面，抖音会根据相关内容语境、评论、背景等进行综合研判，包括机器研判和人工研判，平台已经研发了一些智能识别模型，目前线上已经有100多个模型在运营，会提前拦截侮辱辱骂内容。

抖音方面认为，评论是网暴的“重灾区”，如果评论区的内容被模型判定为不当评论，平台将反复提醒内容有风险，直至用户最终修改。

知乎则会根据内容的违规程度，限制内容的展示范围。知乎社区治理业务负责人说，对于不友善的内容，平台会对其进行折叠，降低其在社区里曝光的机会。明显带有侮辱性质的语言，会被平台删除。

微博社区负责人对《中国新闻周刊》说，微博建立了一套关键词词库，分为A、B、C三个级别，包括各类脏话和“绿茶婊”“怎么还不去死”等不友善词汇，并且设置了126个禁发关键词，用户发布内容触及这些关键词时会出现弹窗，提醒用户要友善评论，并且内容无法发出。

这位微博社区负责人说，关键词词库会不断更新，“比如涉及饭圈的讨论会有很多黑话，随着时事热点的出现，也会有很多新造的词语。”根据微博于8月10日发布的《微博网暴治理报告》，截至7月31日，微博添加的网暴关键词有700余个。

尽管各个平台在关键词策略等识别技术上都有相当的投入，但在平台看来，机器审核仍然只能承担一部分工作，人工审核不能被替代。

根据《通知》，中央网信办也要求网站平台建立涉网暴舆情应急响应机制，即组织专门力量，及时收集网暴相关热点话题和舆情线索，并发现网暴异常行为。

以微博为例，其设立了7×24小时专项巡查小组，有专门的工作人员进行巡查，同时优化关键词策略。

微博社区负责人说，针对一些可能会产生网暴相关舆情的事件，微博还会派更多人手在话题落地页进行监测。

对于参与网暴的账号，微博、抖音、豆瓣、知乎等各个平台有类似的处罚机制，即根据行为程度的不同作出删除言论、短暂禁言、永久禁言、封禁账号等处理。

抖音在2022年1月至6月共拦截了9218万条不当信息，封禁及禁言账号11348个。微博在2022年4月24日至7月31日处置内容1931万余条，其中占比最大的三类内容是粗俗冒犯类、煽动情绪类、讥讽内容类，处置账号1.8万余个。

不过，在平台不断加强对于用户言论的审查时，另一种担忧自然而然地出现了。研究互联网法和版权法的刘文杰认为，如果平台对用户言论的事前过滤多了，会对言论自由造成较大的损害。

“平台的事前审查不是不可以，但是一定要谨慎。”在刘文杰看来，“通知-移除”这样的事后监管模式应该起主要作用，事前过滤不仅要谨慎使用，还要尽可能确保算法识别的准确度。

“通知-移除规则”始于1998年美国《千禧年数字版权法》，在该规则下，如果网暴受害者告知平台出现侮辱、诽谤等违法信息，并提供足够充分的材料，平台进行移除即可。

但“通知-移除”规则的有效性也遭到质疑。北京师范大学亚太网络法律研究中心主任刘德良认为，该规则不符合网络时代信息传播的规律，无法有效阻止网络暴力中侵权信息的发布和后续传播。

“侵权人发布信息和受害人通知平台或者平台巡查到侵权信息中间总有时间差，比如说有人把受害人的裸照发到网上，一旦发布了，传播的范围既无法控制也无法预测，平台事后再删除已经没有什么意义。” 刘德良认为，平台应该承担事先审查义务。

“一键防护”能否保护当事人？

为加大网暴治理力度，《通知》要求网站平台通过一系列措施强化对网暴当事人的保护，包括优化私信规则，防范网暴内容通过私信传输。

《中国新闻周刊》了解到，近段时间以来，许多网站平台已经对私信功能进行了更新。以豆瓣、微博、小红书为例，未互相关注且24小时内未有过私信往来的陌生人，在得到用户自己回复前只能发出一条私信。另外，用户均可以设置私信的范围，可选范围包括所有人、自己关注的人、互相关注的人和禁止私信。

一些平台还有更为严格的私信规则。在豆瓣，新注册用户或近期有过违规的用户，无法直接向陌生人发送私信消息，需要通过“打招呼”并得到回应后，才可发送私信。

抖音则在今年上半年推出了私信临时对话功能，陌生人每次只能向单个用户发送一条申请信息，用户回复后，陌生人才能与其临时对话，有效期为 24 小时，超时后重新申请。

2022年以来，包括微博、抖音、豆瓣、知乎、小红书、B站在内的多个平台推出了“一键防护”的功能，即让用户一段时间内（通常是7天或14天）不会接受未关注人的私信、评论和转发信息。“设置一键防护功能”也被写进了《通知》，作为中央网信办对更多网站平台的要求。

微博方面对《中国新闻周刊》表示，一键防护功能是让用户进行自我保护的应急措施，当用户遭受大量攻击时，该功能将未关注人的各类信息屏蔽，“就像戴上降噪耳机，让用户感知不到网络暴力的信息。”

防止用户的个人信息被窥视、挖掘并被二次造谣，是网站平台治理网暴的另一个方向。

在豆瓣，用户可以对个人主页的信息展示设置可见范围，例如对未关注的人或关注不满三十天的人，仅对其展示半年内的10条动态，而在用户开启“应急防护模式”后，他人将无法关注自己，只有关注的人才可以查看自己的个人主页内容。在微博，用户可以将可见时间范围设置为“最近半年”。

减少用户个人信息的曝光可以有效治理网暴，但从另一方面来说，“透明化上网”乃至于网络实名制，一直以来都备受推崇，被一部分人认为有助于减少网暴事件，理由是人在实名时的发言更加理性。

刘文杰认为，对前台实名制仍需审慎评估，不宜高估前台实名的震慑效果，因为个人处于人群之中容易受到群体行为驱使，“法不责众”的心理仍会让其对行为不受惩罚存有侥幸，并且“完全的实名制，意味着网络个人信息的披露，一定程度上为日后的网络暴力埋下隐患”。

当网暴信息仍然难以避免地传达给了网暴当事人，举报成为了个人最后的选择。

《通知》要求平台建立快速举报通道，并坚持最有利于未成年人的原则，优先处理涉未成年人网暴举报。

自中央网信办开展网络暴力专项治理行动后，多个平台都在举报类型中添加了“网络暴力”的选项。另外，平台几乎都增加了“一键取证”的功能，方便用户快速搜集证据进行投诉。例如豆瓣用户进行网络暴力投诉时，平台会自动将最近的20条对话生成证据照片，B站用户举报私信内容时，可选择将被举报人的近期5条信息一并提交。

但刘文杰也表示，举报不能被滥用，如果举报方三番五次进行恶意投诉，而被举报方不存在问题，可以采取降低举报方信用评级等相应措施。

王利明还认为，平台应当鼓励当事人及时回应，并为当事人回应提供便利。“俗话说，‘造谣一张嘴，辟谣跑断腿’，在互联网时代，在哪里辟谣最合适？应当说在哪里发出的谣言信息，在哪里澄清最为合适。”

要不要为网暴专门立法？

只靠平台和监管部门防范网络暴力是不够的，要从根本解决网暴行为还需要法律规制。

从立法上看，民法、行政法和刑法上都有关于网络暴力治理的法律规定。王利明表示，民法典新设了禁令制度，主要目的就在于及时制止相关的网络侵权行为，防止损害后果的持续发酵。在符合禁令制度的适用条件时，司法机关应当允许受害人申请禁令。从实践来看，禁令制度的适用情况较少，王利明认为，主要原因在于《民法典》关于禁令适用条件的规定并不清晰，这就需要尽快出台相关的司法解释。

在中国刑法体系中，与网络暴力相关的有侮辱诽谤罪、侵犯公民个人信息罪和寻衅滋事罪等规定。

但在西南政法大学教授石经海看来，中国法律对于网暴仍存在规制不足的问题，“虽然刑法中有侮辱诽谤罪等规定，但这些规定都是或实质上是以传统暴力行为方式为规制对象的，与网络暴力的行为特征并不兼容。”石经海表示，在实务中，难以将“网络暴力”行为认定为相应犯罪和追究其刑事责任。

在现实层面，当受害者决定拿起法律武器，起诉网暴者，确实会遇到很多难题。

首先是证据收集方面，网络暴力的取证十分困难。石经海认为，网络暴力的取证不同于其他的自诉案件，网络环境复杂，甚至发动攻击的人是谁都难以确定，在没有相关部门协助的情况下，证据极其容易灭失，以致案件不了了之。

另外，在犯罪认定方面，网络暴力难以对应刑法相关犯罪的构成特征。王利明说，网络暴力往往由多人参加，除了个别主犯以外，大多数网民可能对于事实真相并不知情，存在人云亦云的现象，网络暴力的严重后果也往往是通过相当数量网民实施的跟帖评论等行为累加形成的，单个网民的行为可能并不太严重，因此对于“情节严重”如何认定等方面往往存在疑难之处。

仅对参与网络暴力的人进行法律约束，还不足够。不少网暴事件中有网络水军推波助澜的身影。打击互联网黑灰产，对于减少网络暴力也会起到重要作用。

还有越来越多专家呼吁针对网络暴力进行专门性立法。2022年全国两会期间，全国政协委员王学坤表示，中国立法关于网络暴力的规定发布在民法典、刑法、治安管理处罚法、网络安全法等法律中，规定比较零散，建议采取专门化、体系化的集中立法来应对网络暴力。

石经海认为，应该增设“网络暴力罪”，这是出于两个方面的考虑，一是网络暴力行为与传统暴力行为有着本质的不同，刑法中现有的相关犯罪在构成特征上难以对接这些特征；二是想突出罪名的行为规范效果，也就是通过这个罪名，让民众清楚地知道实施网络暴力是犯罪行为。

不过，关于是否需要通过专门立法治理网络暴力，仍存在争议。在王利明看来，针对网络暴力专项立法必要性不大，“虽然网络暴力亟需法律规制，但治理网络暴力并非无法可依。”王利明认为，当前需要做的是如何切实贯彻好、实施好、落实好《民法典》等法律规定。

刘文杰说，治理网络暴力，除了平台要采取治理措施，执法部门要对严重网络暴力事件中的主要行为人给予相应的处罚，还要培养网络用户文明发言的习惯，“长远来看，提高网络用户的网络素养，是根本上的治理方法，也是更可持续的方法。”