2024年03月29日 星期五
首页>专栏作家 > 正文

AI换脸打开潘多拉魔盒

2019-10-10 11:53:24

来源:青年记者2019年9月下   作者:易艳刚

摘要:  科技到底是“向善”还是“作恶”,在很大程度上取决于使用技术的人,取决于人们对待技术的态度。

  前不久,一款名为“ZAO”的AI换脸应用一夜爆红。用户只需上传一张照片,就可将周杰伦、玛丽莲·梦露、“绯红女巫”等知名人物的视频换成自己的脸,效果足以以假乱真。该应用迅速登顶App Store免费排行榜榜首,但很快被指用户协议暗藏霸王条款,引发隐私泄露担忧。随后,“ZAO”运营方陌陌公司被工信部约谈,几乎一夜“凉凉”。

  从一夜爆红到全民唾弃,“ZAO”最直接的问题在于过度索权让换脸变“丢脸”。按最初那份不易察觉的用户协议,只要用户生成换脸视频,则意味着肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。很显然,“ZAO”想借此规避用户维权纠纷,并在行业竞争中建立“护城河”。

  但媒体和业内人士担忧的,是生物识别信息泄露的风险。“ZAO”收集的静态和动态脸像属于典型的生物识别信息,它们和指纹、虹膜一样广泛用于身份认证、交易和支付环节,一旦这些敏感信息被售卖或泄露,犯罪分子可能将其用于盗刷、诈骗等场景。尽管有人认为AI换脸视频当前无法骗过刷脸核验,但技术层面的隐忧无法消除。

  事实上,AI换脸并非新鲜事。在2017年,国外一款名为“DeepFakes”的应用就曾引发恐慌。当时,有人将“神奇女侠”扮演者盖尔·加朵的脸换到色情小视频,有人制作了关于奥巴马、特朗普的换脸视频,还有国内网民借助该技术制作“杨幂版黄蓉”,引得舆论哗然。“ZAO”的出现意味着,AI换脸已经能脱离编码,实现虚假视频的一键生成。

  修图软件的流行,让“有图有真相”遭受挑战;AI换脸应用的出现,则让过去被认为可信度更高的视频也不再可信。人工智能技术“解锁”了太多的可能性,甚至在无意中打开了一个潘多拉魔盒,引导人们将技术创新应用于一些并不光明的地方。据媒体报道,依托AI换脸技术,网络上已形成了一个制作、售卖虚假视频的灰黑产业。

  魔盒一旦打开,AI换脸显然就远非终点。从媒体报道可知,有些企业已研发出拟真度相当高的AI变声应用。今年3月,有犯罪分子利用AI技术模仿英国某能源公司在德国的母公司CEO的声音,成功诈骗了22万欧元。当AI不断模糊真实与虚假的界限,谁都无法预见科技会将我们带到何处,而且任何人都有可能成为受害者。

  有人寄希望于用甄别技术对抗造假技术,如Facebook近期就宣布出资1000万美元,鼓励人们研发出发现虚假内容的检测系统,达到“魔高一尺,道高一丈”之效。这看似一个不错的思路,实际上却有些过于乐观——试想,这些年修图、美颜软件大行其道,也有不少人扬言要研发出“一键还原”的系统,最终又有谁成功了呢?

  当前有些互联网公司正在倡导“科技向善”理念,可实际上,到底是“向善”还是“作恶”,在很大程度上取决于使用技术的人,取决于人们对待技术的态度。在AI换脸、AI变声等引发争议的技术背后,真正值得正视的是AI技术的伦理问题。如何让技术成为造福人类的正能量,规避技术滥用、信息安全等问题,是无法回避的考验。

  由“ZAO”引发的舆论喧嚣终将淡去,但关于伦理、隐私、法律、信息安全的讨论不能止息。前沿技术探索值得鼓励,如何明确技术的伦理边界,应该有基本共识。在技术、市场和规则间找到平衡点,以“最小”与“够用”的原则搜集信息,以“最大”与“最紧”的原则保护信息,才更有助于AI技术向安全、可靠、可控的方向发展。

  (作者为《新华每日电讯》评论部主任、清华大学新闻与传播学院博士研究生)

来源:青年记者2019年9月下

编辑:范君