摘要：短视频行业的火热、内容的井喷，显然已经超出各家公司的管理能力。

　　抖音的日活跃用户数已超过6亿，相当于近一半的国人都在刷抖音，但他们的悲欢并不相通。就像你我很难相信，一个年过六旬的大妈因迷恋抖音中的“靳东”离家出走，因为她与“靳东”产生了真爱，“靳东”约她见面，还要给她100万元外加一套房子。我们一起在抖音上看明星、宠物、音乐、电影、旅游，但内容迥异，居然有人坚信明星用真实身份与自己谈情说爱甚至邀约结婚。这类视频频频向大妈推送，渐渐让其相信并沉迷，最终深陷其中，被骗甚至出现精神疾病。而同样的内容，或许根本未向三十岁以下的人推送过，哪怕一次，以致我们完全陌生，仿佛刷的不是同一个App。

　　算法已经精准避开了能辨识这种骗局的人，AI换脸也不会以如此拙劣的手法与年轻人相遇，当大爷大妈们点开一个视频后，平台立刻通过算法拟定了包含无数个类似账号的名单，即将向毫无抵抗力的老人们涌来。他们可能不知道已经进入了一个严重同质化的内容黑洞，最终也许能将他们吞噬的黑洞。技术让骗局更新换代、升级打怪。但说到底，技术是中性的，也展示了它的中性，既体现在推动短视频良性发展的过程，也体现在了为心术不正之人所用的后果。不要说大爷大妈们弱势，任何群体都有弱点，区别就在于你有没有向技术暴露你的弱点，这纯粹是技术的胜利，纯粹是技术利用数字鸿沟取得的胜利。

　　但与技术“恶”的一面抗衡的审核机制呢，为什么失灵了？利用AI换脸技术进行直播，或者顶着明星的脸配音发视频，赚取巨大流量，然后再通过直播带货、卖账号等手段达到变现目的，这样简单的骗局套路，通过审核予以剔除并不是很难。但是号称24小时无间断人工审核的机制并没有筛选出这类视频，除了“假靳东”，还有一大堆假明星、假名人在各大平台上活跃，成了中老年人的时间杀手、精神控制者。

　　不可否认的是，短视频监管力度是逐年加强的，不断有头部短视频公司被相关部门约谈、处罚的消息传出。抖音相关负责人曾在两年前向媒体称，在抖音短视频平台上，一条短视频内容在线上需要经过四次人工审核和多次人工智能审核程序。如今是否加大了审核的严格度不得而知，但至少不会减弱，假如真的做到了宣称的4+N次审核程序，“假靳东”类账号及视频还会这样泛滥吗？

　　短视频行业的火热、内容的井喷，显然已经超出各家公司的管理能力。倘若没有悬在头上的“达摩克利斯之剑”，恐怕它们更没有动力去抵御流量激增的诱惑。

　　现实中视频平台的义务分量有些轻，和法律规定的并不相称。根据民法典“人格权编”，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。侵权责任法也有相关规定，相关平台知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，应承担连带责任。所以，不法分子利用短视频平台实施网络诈骗等侵害行为，平台负有审核信息和保护用户的责任和义务。网络安全法也再次重申了平台治理的法律责任。

　　毫无疑问，平台治理的义务已经法定，但平台责任重在事后责任的分担，通过连带责任或者补充责任机制追责，属于结果追责。而关键的事情却是如何通过事前的平台治理去预防犯罪。这其中，技术的使用没有严格的法定约束范围，平台审核变得随机。也许需要监管部门对AI换脸技术进行评估界定，避免其成为侵权甚至诈骗的工具，而视频平台只要做到他们承诺的一切审核，对用户来说就是巨大的保护了。

　　这个事件的舆论焦点已经流向男女之争，平台的存在感渐渐消失。但困在顶级技术加持骗局中的大妈被骗故事，真的一点也不好笑。一旦被技术了解了弱点，谁都很难从缺乏保护的困局中全身而退。

　　（作者为检察日报记者）

　　【文章刊于《青年记者》2020年11月上】