2024年04月29日 星期一
首页>青记微评 > 正文

生成式AI的技术渗透与新闻业的伦理反思

2023-10-10 11:09:20

来源:《青年记者》公众号   作者:叶桐瑞 刘明洋

摘要:了解生成式AI在新闻业运行的原理,其所引发之“革命”的具体表现,用社会主义新闻价值观和伦理观对其进行规制,成为当下保证新闻与生成式AI技术均衡发展的有效路径。

  2019年1月,习近平总书记在主持中共中央政治局第十二次集体学习时强调“要运用信息革命成果,推进媒体融合向纵深发展 ”“要探索将人工智能运用在新闻采集、生产、分发、接收、反馈中,全面提高舆论引导能力”。[1]习近平总书记的讲话站在世界新技术革命的高度,对新闻媒体的融合发展提出了要求。

  当下,生成式AI技术已经进入新闻生产领域。但生成式AI的关键技术之一算法却是中立的。其在创造大量新闻报道模型,提供大量新闻模板,大大提高新闻报道效率的同时,也存在忽视人的情感、国家意识形态、社会习俗和道德等问题。甚至当新闻界高度依赖AI产出的模型之后,它可能通过塑造一种技术路径依赖而制造社会的非正义现象,如算法歧视、隐私泄露等。这就需要新闻业在面对生成式AI变革时,及时进行自身行业的伦理反思。

  AI技术的深度介入及其所引发的新闻业变革

  新闻报道需要建立在数据、信息和事实的基础上,而AI技术的基础就是数据、信息和事件。这让新闻业与AI技术产生了天然的契合性。新闻业与技术发展形成了一种深深的互嵌关系,正如有的学者意识到的,“新闻业的未来及其商业模式似乎总是受到技术部署的渗透与束缚”[2]。

  生成式AI与传统AI相比,同样需要建立数据平台,并以此为基础开展工作。但它并不是简单提供信息整合与分类的定制性服务,更不像多媒体融合那样注重优化要素结构和运营渠道。生成式AI的突破性变革是服务内容而不是服务方式。建立在网络和数据技术上的微信、美团、携程等应用提供的只是服务方式的拓展和服务便捷性的提升,其算法设计的指向是使服务更精准、范围更广泛。但生成式AI不同,其算法的设计指向是生成和创新,即生成式AI关注的重心由数据转向了“算法”,并且其算法指向不再是数据的归纳和分类型处理,而是数据分析结果和模型的生成。AI要完成这种生成必须不断“学习”,随时收集新的数据并把其转化为自己的知识。从社会交往和关系构建的角度看,生成式AI强调人机交互实践——机器学习人的心智,人也适应机器的“心智”。在这一过程中,机器通过算法仿佛有了分析、判断、推理的思维能力,这是生成式AI不同于传统AI的关键所在。生成式AI技术不是搜索引擎式的服务,其核心竞争力在于它可以创造性地为用户在事前、事中、事后提供全流程一揽子方案。由此,新闻采编、剪辑、校对、合成等的分工合作在面对生成式AI技术时遭到颠覆性的挑战,以前需要很多采编人员几天才能完成的工作,AI机器人可以结合网络信息技术在几秒钟内完成,并且其生成内容灵活新颖。这意味着新闻业面临着一次巨大挑战与转型。

  AI技术革命对新闻业的挑战及反思

  麦克卢汉认为,一旦一种新技术进入一种社会环境,就不会停止在这一环境中的渗透,除非它在每一种制度中都达到了饱和。[3]当前,国内学者和媒体从业者普遍意识到了由AI技术所引发的新闻业的全面转型,[4]甚至认为AI引起了新闻业运作模式的根本转变,对新闻行业进行了“再格式化”。[5]这无疑对当下新闻业提出了新的问题。

  首先,AI对我国新闻业的深度介入不是行业规划和发展的结果,而是在信息和互联网技术推动下,伴随着多媒体融合和新闻时效理念的改变而出现的一个意外成果,与社会各行业在现代化道路上对借力现代科技进行模仿、学习和赶超的整体氛围相呼应。陆定一曾给新闻下定义, 认为“新闻是新近发生的事实的报道”[6]。由此,传统新闻的核心是对事实(事件、数据、信息)的及时发现和记录。这与 AI 设计的初衷有着迥异的理念差异。AI设计的目的是仿照人类思维,以机器人为载体在人类之外创造一种人类的“虚拟思维”。虚拟思维具有三个基本特点:一是独立性,虚拟思维尽管是对人类思维的虚拟,但并不再依赖于人类思维,而是有自我训练和自我学习能力;二是创造性,AI不是简单对事实的记录和分类,必须具有新思维或新模型的产出,即它有学习和创新能力;三是价值中立性,即AI作为现代信息技术的代表,不关涉伦理、价值和意识形态等形而上的东西,而是只对具象事件、信息和数据进行实证性处理。AI 技术关注于对人的模仿和超越,而新闻业所关注的则是自身行业经由AI所带来的效率的提高。

  这就出现了一个问题:如果新闻业进入了一个AI时代,关于新闻的相关理念需要根据AI的特点被重新定义,那么新闻业如何保持自身的独立?如何坚持经典新闻理念和原则?同时,AI技术以数据和算法为基础和核心,但数据和算法本身是不需要也无法做到对错、好坏和善恶判别和区分的。在这种情况下必然造成新闻自身价值的失落,由此可能导致行业的伦理危机。正如有的学者认识到的:“技术就其本身而言,并未决定历史演变与社会变迁,技术(或缺少技术)只是体现了社会自我转化的能力。”[7]技术力量的重心在于将媒介技术应用作为一种工具掌握在“人”的手中,由人赋予并界定其价值、意义和伦理边界。我们必须追踪人类和非人类的关联,这样我们才能得出“共同世界的定义分享”。[8]

  其次,近年来,生成式AI迅猛发展,其关键技术是深度合成技术,这一技术基于海量的数据,以合成逼真内容为目标,深刻地改变了信息的生产方式。但是,其在展现强大的创造性和发展潜力的同时,也伴随着严峻的信息安全问题。一方面,生成式AI合成的信息存在真假难辨的情况,如2023年引发全球广泛关注的美国OpenAI公司开发的ChatGPT被发现编造假新闻;[9]另一方面,已经有不法分子利用深度合成技术伪造虚假的视频、音频进行违法犯罪活动,如2021年安徽合肥警方查获的非法利用深度合成技术伪造手机用户人脸动态视频破解身份核验的案件。[10]此外,不法分子利用AI换脸技术伪造受害者的不雅视频并进行发布,侵犯被伪造者的肖像权和名誉权的报道也层出不穷。[11]

  再次,生成式AI建立在算法的基础上,而很多时候算法会造成隐私泄露,并且这些隐私权侵害往往都是因为对数据的使用。数据作为数字时代的重要资源,一方面具有经济价值,其与算法共同成为人工智能发展的两大基石,对数字经济的兴起起到至关重要的作用;另一方面,由于数据又能体现极为丰富的个人信息,如果对其进行不合理的收集、处理、流转、使用,就会关涉到是否侵犯个人隐私权的问题。算法的有效运行建立在对数据信息的广泛收集基础上,随着新闻业市场化的推进,新闻业打破垄断走向散点化、多平台发展时代。此时就不能防止一些媒体机构在自身利益最大化的驱动下过度采集用户数据信息的现象,[12]算法技术的普及因而带来企业数据滥用和用户隐私泄露的风险。

  AI工具理性渗透下的新闻业的应对策略

  首先,应当强化职业新闻生产者对AI自由空间主体的引导

  人类历史上许多重大科技成果在促成了人类发展的同时,也往往带来巨大的负面效应,甚至会危及人类和人类社会。“人工智能这一革命性科技成果也不例外,它给人类带来了许多福音,同时也导致了人的‘新异化’”[13],挑战了人的主体性。AI不仅对传统新闻媒体产生了冲击,而且通过重新建构技术平台,逐渐忽视人在新闻传播中的作用,转而过度关注人机交流,即AI技术“对界面时空界限的消解、对主体表达的能动释放、对新型的交互关系形成带来新的变革”[14]。基于AI的VR虚拟技术以及它们构建起来的各种虚拟空间和平台,人们逐渐打破了空间壁垒,成为媒体中自由的主体。“主体可以根据自身需要自由切换于不同的网络空间,甚至实现不同空间的共时态存在。”[15]AI为人的主体的存在创造了一个多维空间,也就变相消除了人的诸多约束进而释放了自由。但在我国,这种自由不是西方自由主义意义上的自由,它必须接受马克思主义的主体性理论和自由观的审视。

  在马克思看来,“人的主体性就是要通过主观能动性实践来充分张扬人性,凸显人相对于其他一切存在独一无二的特性,并在实践过程中实现人的自由而全面的发展 ”[16]。但同时马克思秉持古典观点,认为人具有社会性,劳动是构建人社会性的根本手段。“劳动是整个人类生活的第一个基本条件,而且达到这样的程度,以致我们在某种意义上不得不说:劳动创造了人本身。”[17]这种“劳动”一定是对外界自然的“物”的劳动,而绝不是虚拟的生产,这是历史唯物主义的应有之意。AI所创造的虚拟空间,恰恰是一个摆脱物质对象的空间。对此,新闻行业应该有清醒的认识。

  其次,以人民性作为新闻发展的价值皈依

  习近平总书记在马克思诞辰200 周年的重要讲话中明确指出,“马克思主义是人民的理论”“它根植人民之中,指明了依靠人民推动历史前进的人间正道。”[18] “人民至上”的思想既是中国共产党一贯奉行的基本思想,也是指引我们工作的基本路线和基本原则。这一原则贯穿在中国新闻发展的历史中。“人民性”最早就来源于马克思的报刊思想。1842年,马克思于《第六届莱茵省议会的辩论——关于新闻出版自由和公布等级会议辩论情况的辩论》中提出了“自由出版物的人民性”概念。[19]在马克思提出报刊人民性之后100年,1942年《解放日报》改版时,毛泽东主席强调了党报要反映群众的要求;胡乔木在《人民的报纸》一文中首次明确了“人民性”概念。人民性也逐渐成为马克思主义新闻理论中的核心概念之一。习近平总书记在2013年全国宣传思想工作会议讲话中指出,“坚持党性和人民性相统一,就是要坚持讲政治,把握正确的导向,把体现党的主张和反映人民心声统一起来”;在2016年2月党的新闻舆论工作座谈会上强调,在互联网时代新闻报道也要始终坚持党性和人民性。可见,以党性和人民性引领AI时代的新闻业发展,是中国特色新闻理论与实践的根本遵循,也是在AI创制的“无价值”时空中对抗虚无的有效方式。

  再次,以社会主义新闻价值观和新闻伦理观平衡AI的技术工具性

  爱因斯坦曾经说过:“科学是一种强有力的工具。怎样用它,究竟是给人类带来幸福还是带来灾难,全取决于人自己,而不取决于工具。”[20]这清晰阐明了科学与人的伦理和价值的关系。自社会上出现不同的行业以来,每一个行业在自身发展过程中都形成了指导自身的行业价值和伦理。在新闻媒体进入AI时代之后,对新闻职业价值观和伦理的强调变得尤为重要,因为人工智能作为一门学科,要解决的是“能不能”的问题,而新闻价值和伦理要解决的是“该不该”的问题。[21]

  AI技术提供的多点式分散独立空间为各种观念和观点的滋生提供了平台。有学者认为新闻业对此没有能力回应,因为新闻职业人也在经受新闻市场化的压迫,只不过是一个“新闻打工人”,这造成了新闻行业缺乏价值和伦理共识。[22]但实际上,新闻媒体作为人民的喉舌,新闻业作为党和人民的舆论阵地,其行业价值和伦理观就是党和人民所倡导的价值和伦理观。面对AI技术发展中所可能产生的负面影响,社会主义新闻价值观和职业伦理观的强化和构建变得尤为重要。

  结  语

  面对AI在新闻行业的不断渗透,以乐观的态度接受,还是以中立的态度随其发展,抑或以悲观的态度完全抵制它?新闻从业者的态度应该建立在了解AI,了解它与新闻事业结合之后可能产生的影响,了解作为职业新闻人应该持有的伦理底线的基础之上。如此,才能更好地面对AI技术给传媒业带来的技术红利以及新的问题与挑战。

  【本文为国家社科基金重大项目“新时代英雄观的理论建构与传播体系研究”(批准号:21&ZD017)阶段性成果】

  参考文献:

  [1]新华社.习近平主持中共中央政治局第十二次集体学习并发表重要讲话 [EB/OL].(2019-01-25). http://www.gov.cn/xinwen/2019-01/25/content_5361197.htm.

  [2]de-Lima-Santos, Mathias-Felipe & Ceron, Wilson.(2021).Artificial Intelligence in News Media: Current Perceptions and Future Outlook. Journalism and Media.3.13-26.

  [3]马歇尔·麦克卢汉.理解媒介:论人的延伸[M].何道宽,译.北京:商务印书馆,2000:78-96.

  [4]王劲胜.AI时代新闻媒体转型发展的措施研究[J].新闻研究导刊,2022(08).苏涛,彭兰.“智媒”时代的消融与重塑——2017 年新媒体研究综述[J].国际新闻界,2018(01).

  [5] 陈龙.“后新闻”生产模式:生成式 AI 对新闻传播业的再格式化[J].传媒观察,2023(03).

  [6]程栋.数字化媒体时代新闻学基石再造与范畴革命——“新闻定义”新论[A].全国新闻学研究会. 新闻教学与学术研究[C].全国新闻学研究会:中国人民大学新闻与社会发展研究中心,2010:24.

  [7]曼纽尔·卡斯特.认同的力量[M].曹荣湘,译.北京:社会科学文献出版社,2006:8.

  [8]B.Latour. Reassembling the social: An introduction to actor-network-theory [M]. Oxford : Oxford University Press. 2005: 247.

  [9]中国青年网.被指作假、诽谤,ChatGPT可能“吃官司”?[EB/OL].(2023-04-11)[2023-04-28].https://baijiahao.baidu.com/s?id= 1762880469673314176&wfr=spider&for=pc.

  [10]中国青年网.安徽警方破获全省首例利用人脸识别犯罪案.[EB/OL].(2021-10-27)[2023-04-28].https://baijiahao.baidu.com/s?id= 1714719064000484261&wfr=spider&for=pc.

  [11]红星新闻.男子用AI换脸伪造女明星淫秽视频牟利,公诉!.[EB/OL].(2023-04-14)[2023-04-28].https://baijia hao.baidu.com/s?id= 1763140863010450783&wfr=spider&for=pc.

  [12]黄新华,温永林.算法规制的善治之道:缘起、挑战与路径[J].东南学术,2023(02):114- 124+247.

  [13]孙伟平.人工智能与人的“新异化 ”[J].中国社会科学,2020(12):119- 137+202-203.

  [14]刘琴,孙志刚. 技术幻影下新闻 APP 图景与现实判断:以美国报业为例[J].中国地质大学学报(社会科学版), 2014(4):134.

  [15]陈长松.论网络空间中主体的自由切换及其影响[J].新闻界,2009(01):53.

  [16]赵龙.主体性危机与对策:人工智能时代人类何以自处[J].理论导刊, 2023(05):89.

  [17]马克思恩格斯选集:第3卷[M].北京:人民出版社,2012: 998.

  [18]习近平.在纪念马克思诞辰200周年大会上的讲话[N].人民日报,2018-05-04.

  [19]陈力丹.党性和人民性的提出、争论和归结——习近平重新并提“党性”和“人民性”的思想溯源与现实意义[J].安徽大学学报(哲学社会科学版),2016(06).

  [20]爱因斯坦文集:第3卷[M].许良英,等编译.北京:商务印书馆,1979: 56.

  [21]蒋晓丽,梁旭艳.场景:移动互联时代的新生力量——场景传播的符号学解读[J].现代传播(中国传媒大学学报),2016(03): 12-16.

  [22]董雅如.新闻职业伦理共识的困境[J].青年记者,2020(08):26-27.

  (叶桐瑞:中国传媒大学戏剧与影视学院科研助理;刘明洋:山东大学新闻传播学院教授、博士生导师)

  【文章刊于《青年记者》2023年第16期】

  本文引用格式参考:

  叶桐瑞,刘明洋.生成式AI的技术渗透与新闻业的伦理反思[J].青年记者,2023(16):89-91.

来源:《青年记者》公众号

编辑:小青