摘要：　　技术的狂飙突进已经凸显出更加根本的社会变革的滞后乃至缺失。

　　近期，发生在新西兰的枪击案令全世界震惊，除了枪手的冷酷和残忍外，最令人错愕之处在于整件事被互联网放大的方式：枪手对整个屠杀过程进行了实时直播，第一视角的画面给世界各地的人们带来了前所未有的视觉和情感冲击。事后，人们对于互联网，尤其是Facebook和YouTube这两个主流社交平台是否在仇恨内容的传播和放大方面发挥了重要的作用展开了新一轮的热议。

　　总体而言，无论新西兰警方、政府还是主流媒体，在处理与枪击事件的相关信息上，都是理智而谨慎的。新西兰总理阿德恩在对国会的讲话中强调，自己绝不会在公开场合提及枪手的名字，以防止恐怖情绪的放大，以及越来越多的人去模仿。“他可能很希望自己臭名远扬，但我们绝对不会让他得逞。”处理极端事件信息时对极端分子做隐名处理，是目前主流新闻界的惯例，这样的确可以在一定程度上防止由于过度关注而导致衍生事件。

　　但对于视频文件在社交媒体平台上的迅速蔓延，则显然是一个更加令人头疼的问题。据《纽约时报》和《华盛顿邮报》等媒体报道，尽管枪手自己拍摄上传的视频很快就被YouTube删除，但这已经太晚了。截至3月17日，Facebook总共移除了150万个版本的枪击视频，其中有120万个是在上传时就被屏蔽的，但这也就意味着有大约30万个视频从上传到被移除之间有一个时间差，可以被用户看到。很多上传者只是通过简单地改变画面尺寸、增加水印等方式，就能绕过平台的算法拦截。全世界各地的极右翼分子显然正在利用社交媒体的传播优势，与平台方展开连绵不绝的游击战。而在目前的技术和制度条件下，无论平台方还是监管部门，都不可能对仇恨内容视频做到百分之百的过滤。

　　网站的信息过滤系统原本被用于处理儿童色情等非法内容，如今主要的敌人竟变成了仇恨。更糟糕的是，一些本应更有“操守”的传统媒体，为了博人眼球，也有意识地促进这类内容的传播。比如，英国的两张老牌报纸都曾在社交平台上发布枪杀视频，还有一些媒体则提供枪手74页的“宣言书”供网民下载。在中国，微信公众号和微博上至今仍能看到视频片段和宣言书的全文，这些内容下方的评论则成为仇恨言论的温床。媒体和公共信息平台在处理这类信息时最应当注意的情况就是谨防“模仿袭击”（copycat attacks）的出现，但视频内容过滤的难度和网络直播机制的存在，使得这项任务变得越来越艰巨。目前来看，似乎唯一有效的方式就是更加严格的立法，比如德国的《网络仇恨言论法》规定，司法部门可以对发布仇恨言论的网络平台处以最高5000万欧元的罚金。但与此同时，对于这类法案会不会导致权力滥用和言论自由受阻的讨论，也日益激烈。

　　尽管我们没有办法对仇恨内容在网络上的蔓延和放大给出立竿见影的解决方案，但整个事件至少让一个事实变得更加清晰了，那就是：算法永远不可能代替人做出价值判断。信息技术的发展速度已经大大超越了人类社会价值观和伦理体系的更新速度，互联网正在实质上扮演着仇恨放大器的角色。只要互联网在生存方式上尚未超越注意力经济的范畴，那么社会责任和人文关怀将自始至终都只是一种补偿性话语而已。大型互联网公司的商业模式就建立在收集来自用户的海量数据并进行精准广告投放的基础之上，限制流量或不断对内容进行约束显然在本质上是与这种模式相抵触的。因此，依靠平台对自己的盈利过程进行监管显然是无济于事的，立法似乎是唯一的出路。

　　而对于学术界来说，针对大型互联网公司的批判性研究也应当受到越来越多的重视。基于大公司架构的互联网平台必然受制于大公司的资本积累模式，对互联网使用者的劳动进行剥削。很多道德问题其实在本质上仍是经济问题。技术的狂飙突进实际上已经凸显出更加根本的社会变革的滞后乃至缺失。极端主义和极右翼思潮在互联网的“庇佑”下大行其道，很难说不是过去一个世纪整个人类社会自己种下的苦果。

　　（作者为清华大学新闻与传播学院副教授）