图片来源@视觉中国

1994年夏天，南非东北部城市约翰内斯堡，凯文·卡特（Kevin Carter）把自己关在汽车里，用尾气结束了自己的生命。

卡特是一位南非的摄影师。自杀的前一年，他拍摄了一张作品《饥饿的苏丹》，次年，获得了普利策新闻特写摄影奖。这张照片画面中，一个苏丹女童，即将饿毙跪倒在地，而秃鹰正在女孩后方不远处，虎视眈眈，等待猎食女孩。

作品得奖之后，在美国遭受巨大争议，引发了舆论风暴，批评的声音说，他这是站在小女孩尸体上领奖。

这是上个世纪，一场大规模的媒介暴力引发的人伦悲剧。而现在，我们也都或多或少有意识到，当前网络社交媒体舆论场，也处在了一种日渐割裂局面之中。

每当有新的热点事件出现，就会形成两股极端的观点。而这两方鲜明的立场，都会脱离了讨论事件和问题本身，并且，各自阵营都有非常浓烈、焦灼的情绪，不断发酵、蔓延。

随着互联网特别是移动互联网，日益成为社会的信息生产、传播之地，语言暴力也从线下转移到了线上，形成了大家深恶痛绝的网络暴力。

网暴已经不再局限于社会的负面事件。它已经扩展到，热点事件、重大活动、明星网红、焦点人物等。

究竟网暴因何而来？有哪些特征？我们该如何界定“自由言论之批判”与“网络语言之暴力”？又应该遵循怎样的法律准则与道德标准？

面对这样的有深刻社会背景、复杂处置难度的重大议题，作为平台方的互联网科技公司，在处理网暴时，面临哪些困境，该承担什么责任？

1. 治理网暴，就像是面对火山口

“预防和治理网暴，就像靠近一个即将或正在喷发的火山口，一不小心就会被熔浆吞噬变成火山灰。”一位头部社交平台安全产品经理对钛媒体APP表示。

治理网暴时，就像火山爆发，要主动靠近它的火山口，一边救助伤者，一边告诉火山，你要冷静，要理性。稍有不慎，自己也会被网暴成“火山灰”。

当前，网暴几乎与每一期社会热点事件紧密关联。而灾难和悲剧事件中，容易出现备受大家同情的受难者。而这些同情与怜悯，会转化对某一方职责缺失的不满与追问，甚至演变为网暴。

比如，在此前的“唐山事件”中，某平台向钛媒体APP透露了一组数据，事件之中，嫌犯一共有9名，但是，在各个平台流传的疑似施暴者的短视频ID，则超过了200个，平台上爆发的评论，在12个小时内，接近300万条。

这里必然有被误伤的用户。甚至，当时有人调侃说，在当地30到40岁之间，身体壮硕，上身赤裸男子的短视频账号，都会被当作嫌疑人被翻了出来。

有时候，一些网暴来得莫名其妙。

某平台负责内容治理的运营告诉钛媒体APP，一些网暴发起和参与网暴用户的心态是：

“5块钱可以买到200条评论，骂骂人出出气”；

“几KB的骂人流量才多少钱”；

“每天晚上睡觉前，拿出手机，几分钟，对推送的女生照片，挨个骂一遍，然后关机睡觉”……

这背后揭示的是，在开放的网络生态里，发动网暴的成本如此之低，无论是时间还是经济成本上。这导致了网暴很容易被引发，一旦发生，它在施暴者中的扩散，以及，对受害者的聚焦速度，非常惊人。

网暴从引发到发酵，过程迅速且猛烈。这其中，很大一部分原因是，情绪在被“煽动”后，迅速得到其他用户的共情，进而蔓延。

这时，在事件中，呼吁理性、客观思考的人，往往容易引发“二次网暴”。大量的负面宣泄内容的覆盖下，准确、理性的信息容易被忽视，因而，网暴的发酵形成了一个负向循环。

而随着互联网产品的多样性和连接性，网暴越来越多的出现在多个平台，互相流转。在A平台引发的网暴，可能很快就出现在了B、C、D平台。很少再有一个网暴事件，会独立出现在某单一平台。

网暴开始了多平台流转，但在不同属性的平台，重点不同，这也是网暴的另一个新迹象——开始从针对当事人的网络语言暴力，蔓延至其周边的“人”和“物”。

举个例子，在唐山事件中，钛媒体APP观察到，嫌犯所穿某品牌服装，就在电商平台评论区被网暴，甚至，该品牌的一位女主播，在直播间卖货时，看见汹涌而来的负面评论，当场失声痛哭。

2. 被动“从众性”：情绪和言论在放大且趋同

从发酵到消退，国家互联网信息办公室咨询专家、中国传媒大学王四新教授发现，网络暴力有七个关键节点：

网友或粉丝发难潜伏期，“道德审判”和攻击，“道德审判和推脱”攻击扩散和爆发，极端事件发生，第三方介入（主流媒体/网络平台），各方谴责，当事人或相关方回应。

王四新长期关注互联网治理领域的政策和法律问题，参与过包括《网络安全法》、《网络信息内容生态治理规定》等法律、法规、部门规章，以及大量涉及互联网治理的规范性文件的立法论证、解读等方面的工作。

王四新告诉钛媒体APP，网络暴力形成期，多位于舆情发酵、形成、上升和二次转变后。

这是网暴事件中，暴力发生的路线，提示的是一种信息、符号传播，向价值、道德判断演进，并演化为暴力的流程。

之所以现在网络的暴力行为愈演愈烈，王四新认为，其中很大的原因在于，网暴成因具有主观操控性：

首先，网络隐匿性“成就”了网暴单向性。

施暴者可以隐藏现实身份，逃避法律等制裁。网络弱化了网民对自身身份的认知，降低了发言者、传播者的责任心。施暴者们掌握话语权，“群起而攻之”对于当事人通常是“单方面碾压”。

其次，重点帐号为赚取流量不断引导。

媒体类型多样化发展，使得个别媒体常使用骇人惊闻的标题，以及，充满争议性的内容吸引流量，构成事件拐点。以推高流量，而非事实真相为出发点，为网络暴力添一把柴。

再次，网民构成复杂容易失去理性思考。

超大规模的网民人数，使网络环境更加复杂，网民对待相同信息反应也会不同。网民素养参差不齐，被信息洪流席卷并反复横跳，大概率成为网络暴力的帮手。

个体容易在多数人的冲击下，投入所谓的“主流”观点。失去理性思考之后，极易做出语言暴力行为。

一旦蔓延开来，网暴有着被动“从众性”。

一方面，个体容易陷入沉默与趋同。当与网暴群体价值背离的意见发出，并受到攻击后，人们为了避免成为众矢之的，或放弃表达，或加入群体，网暴的声音会，在不断消除异己的过程中，壮大力量，引发舆论。公众舆论更多条件下，是趋同行为。

而另一方面，群体化容易放大偏激情绪。施暴者聚集为群体后，网民遭受双重压力。群体外压力，使世界只剩一种声音，群体内压力，让个人与集体裹挟着向前，群体为个体壮胆，或群体内的个体迫于内部压力，产生顺从于群体的行为。

3. 名人亦难逃：一种流量红利的反噬

通常我们会认为，在网暴事件当中，对于普通人遭遇网暴，公众会产生恻隐之心，认为这是无妄之灾。

而对于公众人物，很多人会也以为，这是可能是幕后的“炒作”，又有或者说，本身就是他就“恰”流量这碗饭的，在事件中，是属于赢麻了的一方，不值得同情。

事实上，无论是素人，还是名人，都无法摆脱“网暴”的鞭笞。

今年易烊千玺因为舆论的压力，主动放弃了国家话剧院编制一事，就是相对典型的案例。

对于知名艺人入职国家话剧院，当时有一种观点是，易烊千玺等头部艺人，能够成功考取编制，背后一定是有张深不可测的“大网”，他一定是被“资本”选中的“太子”。他背后的资源，昭示的是普通人一辈子都难以企及，且无法突破的阶层桎梏。

而这之后，通过一些未经证实，或者难以证实的文章和截图，让很多人愈发断定“这事肯定不简单”。

最终，易烊千玺以“投降”舆论的姿态，试图平息事件风波。

这样的行为，又让另一个群体产生了极大的不安：如果认真考量易烊千玺的业务水平，以及多年在演艺圈的付出和成绩，获得进入国家话剧院的“演员”资格，不说绰绰有余，至少也是有资格的，为什么有会这种结局？

关于退出事件的本身，同样争议不断，而其中原委和是非曲折，各有一套说辞，互不相让。

或许真相是什么，难以辨别，但不可否认的是一个现象出现了：在舆论漩涡面前，心理素质强大如头部艺人，也难以自处，并且极其不安。

正如他在当时在微博中回应的那样：

“事情发展的走向、所波及的范围，确实超出了我个人能解释清楚的范畴……庞杂的流言蜚语让‘易烊千玺’逐渐变得面目模糊，失去了基本的‘人样’，无论作为公众人物还是个体本身，这种“失真”都让我感到巨大不安。……必须承认，有悖科学的、与家人相关的种种谣言让我感受到从未有过的荒诞与恐惧，但我内心明白，那个被拼凑出来的‘易烊千玺’，不是过去与现在的我，更不会是将来的我。”

公众人物享受了名气和流量带来的利益，是否应该对这些负面影响照单全收？

对此，一位负责某平台生态运营人士告诉钛媒体APP，一定要非常明确的区分，批评跟网暴之间的界限。

批评与谩骂是两回事，如果上升到谩骂，则属于是人身攻击方面，无论明星还是普通人，都不太能接受攻击的言论，“合理批评是可以的，但批评要甄别，是否带有极端情绪色彩，是否是大批量出现，以及是否有人做跟风的现象。”

某头部短视频产品平台治理负责人则对钛媒体APP表示，暴力就是暴力，对于网暴，每个人的承受度，确实有些主观性，有的人承受能力强一些，有的人则弱一点。但不能因为他承受能力强一点，他就应该承受更多暴力。

但同时他也承认，面对两类群体，平台进行治理的时候，确实很难去做区分，也许明星可能更容易招来大家的议论。

4. 治理之难：“网暴”和“非网暴”边界模糊

法律、标准、协同和能力，这四个方面的缺失，导致了中国治理网暴存在着诸多困境。

王四新认为，目前，行业内缺乏相关法律法规，立法层面尚存在一定空白。标准上也存在缺失，行业处置标准不统一，各平台尺度不同，处置缺乏一定依据常被投诉，难以判别和准确处置。

当今，网暴从线上扩散到线下，需要网络执法机构，和当地执法机构协同执法，相关系统和协同策略还不完善。而网暴治理过程中，同时涉及公开数据和私有数据，很难主动监测和分析受害者私人信息。

从实际操作的层面上来看，网暴的一大特点，就是短时内、激烈的情绪迅速发酵，暴力的语言瞬间向单个目标聚焦、倾泻。

无论是当事人，还是理性的旁观者，都希望能够这些内容快速被处理。

某平台负责网暴治理项目的负责人告诉钛媒体APP，如何区分用户发出的内容，是合理的批评，还是不合理的网暴，如何精准处理不同类型的网暴行为和其背后的帐号，都需要大量的人力、物力和时间。

于是，治理网暴的第一大难点出现了——“快速”与“精准”难以兼顾。

而治理之难另一个关键是，“网暴”和“非网暴”有时候难以严格区分。

再以“唐山事件”为例，事件发生12个小时内，在某平台上，对于此事的评论，接近300万条。如果这些评论全部依靠机器审核，可以分析其中大约200万条，是否违反法律法规和平台规则。

但是，还有两种内容，是机器难以审核的：

其一，利用谐音、缩写发布带有挑衅、讥讽意味的言论或者P图；

其二，介于批评与网暴之间的内容。这需要机器跟随网络语言的变迁，不断“学习”。

一位产品经理告诉钛媒体APP，在不同情景下，同一句话背后的意思，的确是难以区分。同样一句否定或者不满的话，一个人在日常随口而出，与在群情激愤的时候说出来，呈现的效果，是不一样的。

而又因为评论者与受众之间的关系不同，同一句话，也会造成不同的影响。比如说，父母或者恋人之间，一些亲昵的称呼或者评论，与在亲密社交圈层以外的恶语相向，给人的感受完全不同。

不同的人物，对激烈语言的感受不同。网暴和非网暴的界限模糊，依托于受害者主观感受，难以统一化辨别。而同样是质疑的语言，数量和密度的差别，也会造成是否成为网暴的区分标准。

还有一种情况是，有的用户在评论区收到一条评论，“你这是自找的”，对方也许感觉到，这只是言语偏激了一些，可是，如果这一句类似的话，短短一个小时内，收到了1000多条，就有可能就变成了网络暴力。

这让平台陷入了一个窘境：如果要启动对用户保护，是该在他收到的第1条，还是在第1000条，或者，是在第500条时，采取行动阻止？似乎很难去制定一个明确的数字标准。

而对于当下的热点事件中，除了真假难辨的信息之外，外部信息的不断反转又反转，网友的情绪也一直持续不断变化，网暴的焦点和对象，也会因此不断转移。

一些网络暴力是事实真相“迟到”造成的。很多热点事件中，旁观者容易被片面化的信息误导，过度或错误解读，在不充分了解事实的情况下，产生了语言暴力行为。

5. 可行的方案：做到“法要责众”

即便是存在诸多问题，互联网平台的出现，提供了难得的公共讨论空间。一定程度上，舆论可以倒逼政务、司法与舆论的良性互动。

但也需要看到的是，国内互联网飞速发展的对立面，是网络平台的治理与管控滞后。从最早的BBS时代，到图文社交媒体时代，再到现在的短视频和直播，网暴一直随影而行。

在中国政法大学传播法研究中心副主任朱巍看来，网暴是网络社交生态中对他人合法权益的严重侵权行为。根据网暴的严重程度、性质和影响范围不同，网暴行为涉及到网络侵害人格权、侵害公民个人信息、寻衅滋事、诽谤等诸多方面。

网络表达不应该没有边界。越过了边界，就属于一种侵权行为，就可能承担法律责任。法律的规定和他人合法权利，就是重要边界。

在判断言论自由边界问题时，既要考虑到话题是否涉及公共利益问题，也要考虑表达内容是否具有真实性，是否有主观恶意的贬损，发布信息时是否尽到合理审核义务等。

从网络治理实践看，如何做到既要满足公众的知情权和监督权，又可以保护好个体的个人信息权利？

朱巍告诉钛媒体APP，至少要做好以下几点：

一是，应依法确定个人信息发布者主体权限，比如，自我公开、司法公开、政府部门依职权公开的信息，这些个人信息公开属于合法公开范围。

二是，要遵循比例原则，比如防疫信息的公开，行踪轨迹属于必要信息，但当事人身份证号码、姓名等就不属于必要范围，超范围公开也要承担法律责任。

三是，平台设置投诉渠道，按照当事人要求，配合当事人对相关个人信息行使删除权、更正权和查询权。

平台来在防控网暴治理方面，起到的作用非常关键。

按照《互联网内容生态治理规定》第6条第10款的规定，“侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益”，这些属于违法信息范围。

平台对此类信息的处理，需要将《民法典》规定的“通知删除”规则，配合违法信息定性进行处理，减少回应期限，提高采取措施的效率。

在主体责任方面，应该鼓励平台建立技术性与制度性措施，避免出现此类情况。

技术性措施指的是，在热搜、榜单、推荐等领域，不能仅依靠流量和热度为权重，配合建立人工干预制度，在技术上，完善对可能出现的网暴预警机制，做到提前干预和阻止。

在制度性措施中，鼓励建立面向社会的举报渠道、投诉渠道和维权渠道。对待热点事件当事人、未成年人，以及涉及到公共利益的事件，开启特殊保护制度。

需要意识到，网络暴力是非常严重的侵权行为，也可能构成包括寻衅滋事、诽谤、损害声誉、侵犯公民个人信息、非法经营等行政责任或刑事责任。

在法律面前，线上线下都是一样受到法律规制，行为人按照情节轻重等，都应承担包括民事、行政、刑事的法律责任。

对网络暴力的预防和制止，离不开平台、网民、行业协会、司法系统等多方主体协调，只有形成合力，才能真正杜绝网暴愈演愈烈。

在网络暴力形成的环节中，网民既可能是受害者，也可能是侵害人。而对于网暴中所谓的“法不责众”认知是错误的。

治理网暴，就是要做到“法要责众”。网络世界既不是供人发泄情绪的垃圾场，也不是没有责任的法外之地。对于网暴的治理，以往都是倾向于事后处理，但往往亡羊补牢，为时已晚，网暴对当事人的伤害是非常巨大的。

行业协会等自律组织，应加强法律宣传，提高包括网民、意见领袖、MCN等的网络传播素养。让网民学法、懂法、用法，知道该如何维护自己的合法权益，做到对网暴预防的未雨绸缪。

互联网科技大公司，也需要在法律尚有空白的时期，承担应有的责任。网络暴力乃至网络治理问题，从来不是单一方能够解决的问题，需要的是全社会共同关注和协同。

（本文首发钛媒体APP，作者｜李程程）