2024年10月05日 星期六

数字营销中算法歧视生成的文化动因探析

2023-12-18 11:29:45

来源:青年记者2023年9月下   作者:钱伟浩

摘要:  摘 要:随着媒介平台的发展,传统的营销方式顺应技术的变迁进入数字营销阶段。由此,基于媒介平台的算法机制在数字营销过程中所衍生的

  摘  要:随着媒介平台的发展,传统的营销方式顺应技术的变迁进入数字营销阶段。由此,基于媒介平台的算法机制在数字营销过程中所衍生的算法歧视问题进入讨论视野。笔者认为,在数字营销过程中出现的算法歧视问题有着双重动因,一是算法歧视有着其技术动因,二是平台社会所引发的媒介文化变迁强化了数字营销过程中的算法歧视现象。技术动因与文化动因的双重结合,使得数字营销中的算法歧视在当代社会中频繁显现并难以规避。引导与规制其文化动因将有助于走出技术生成的“算法困境”。

  关键词:数字营销;算法歧视;平台研究;媒介文化

  2022年,中国网络广告市场规模已达10065.4亿元,网络广告的投入大大超过了杂志、报纸、广播、电视的广告投入,在网络广告中,电商平台和短视频平台网络广告市场份额增长显著[1]。在新的平台场景下,数字营销过程中所出现的算法歧视问题进入研究者的视野。笔者认为,算法歧视的出现与形成不仅有其技术性归因,平台所衍生出来的媒介文化因素也在一定程度上形塑并影响着算法歧视现象的生成与发展。因此,数字营销过程中算法歧视如此难以规避,是媒介平台中的算法技术与媒介文化互构所造就的“双动因”后果。

  数字营销过程中算法歧视的技术性动因及其类型

  国内外学者对算法歧视进行了概念化释义。Anupam Chander在其文章中认为因算法自身因素或突发性错误等瑕疵使得算法在运行过程中出现偏差,即算法歧视[2]。Francisco Socal认为算法歧视是在看似客观中立的算法程序设计中,隐藏着设计者或开发人员的偏见,或者算法模型所采用的数据带有偏见[3]。国内学者刘友华则将算法歧视定义为“由数据分析导致的对特定群体的系统性的、可重复的不公正对待”,同时他认为算法歧视可分为三类:一是损害公民基本权利的算法偏见,其中包括性别歧视、种族歧视;二是损害竞争性利益的算法偏见,其中包括损害商业利益以及损害个体民事权益;三是损害个体民事权益的算法偏见[4]。简要来看,算法歧视是一种由算法缺陷所导致的权利损害行为,其客体包含商业机构与个人。

  在计算广告背景下,算法自身的优缺点逐渐显现在数字营销的过程中,数字营销活动及其所依赖的算法架构不仅有良善的一面,同时也显露出技术性“恶意”。算法歧视便是其中一个“暗面”,曾被公众论及的数字营销过程中出现的算法歧视主要可以分为两种,即对商业机构的歧视和对个体的歧视。

  对商业机构而言,不同的平台会通过各自的评级系统为不同商家提供不同的页面位置,这便使得在头部位置的商家获得了更大的曝光度与流量,但是曝光度大的商家并不一定质量最好或与消费者的搜索需求最相匹配。同时,大的商业机构相较于小的商业机构在算法推荐的排序上亦会更有优势。可以说,这在一定程度上将现实社会中商业结构的不平等或歧视延续到了数字世界。

  对个体而言,则会存在推荐歧视与定价歧视。推荐歧视主要表现为算法会根据用户的性别以及收入情况等因素,对不同的用户推荐价格不同的商品。曾经有消费者表示,用不同品牌的手机查看相同物品会得出不同的价格,这便体现了算法对具有更高收入倾向的用户实行着一种推荐歧视。而定价歧视则主要体现在“大数据杀熟”等方面,老用户比新用户在平台上获得了更高的商品定价。这种算法歧视行为明显侵害到了消费者的权益。

  笔者认为,数字营销活动中算法歧视现象的出现,除了上述技术性动因外,亦与当今社会的平台文化转向有着深刻的勾连,正是在平台社会所生成的社会结构与文化背景中,算法才得以彰显其“威力”并对深陷于其中的个人或群体予以宰制。

  数字营销中算法歧视生成的平台文化动因

  平台社会将个人卷入算法所宰制的结构中,同时平台所催生的弱关系结构致使个人成为封闭性的原子化个体,并将个人置于数字消费文化的中心。正是媒介技术与媒介文化的“联姻”,促使数字营销中算法歧视得以渗透到社会,并深度地影响着个体。

  (一)平台社会的来临及其强制卷入机制

  从社会转型视角来看,我们逐渐被拖拽进一个由算法所构筑的平台社会。媒介平台的基础设施化是一个过程,在我国以阿里系与腾讯系为代表的媒介平台逐渐走向基础设施化已然是不争的事实。段世昌研究了阿里系的淘宝平台走向基础设施化的过程,发现淘宝在连接基础设施的过程中,根据其所面对的支付和物流问题,构建了作为网关的支付宝和菜鸟物流,并通过具体实践得到了国家的认可,由此致使淘宝平台与国家基础设施之间的关系逐渐从“寄生”走向“共栖”[5]。腾讯也积极参与到平台基础设施化的竞争中,腾讯系的微信通过提供货币交易、行政工作以及社交等服务不断扩大其规模,同时微信通过与政府在公共服务方面的合作越来越成为一种数字公共事业平台[6]。平台的一系列“基础设施化”举措使得人们在生活中越来越难以脱离媒介平台。

  伴随着平台的基础设施化,社会中的个体都被卷入平台社会中,大部分人都无法逃离平台社会。除此以外,用户与平台依旧处于一种不平等的关系中:许多平台的免费使用权限需要用户通过让渡自身的隐私数据权益来获取,平台与用户间的不平等关系日益显现。这时,数字营销过程中所使用的算法便会成为我们日常媒介使用过程中难以摆脱的一部分。

  (二)媒介平台强化弱关系结构

  当代媒介文化的演变促使基于网缘、趣缘的人际关系生成,同时媒介平台进一步加剧了这种弱关系结构,这种新型人际关系助长了数字营销过程中算法歧视现象的发生。

  在传统的社会结构中,人际交往或关系的发生主要以血缘、地缘或者交换关系为基础,但是当代媒介文化促使基于网缘、趣缘的关系发生,网缘、趣缘成为一种新的交往基础。人们通过兴趣、话题、偶像等不同的“聊点”而聚集起来,有些网络聚集是短暂的,而有些网络聚集则形成了讨论组或者贴吧等,甚至发展出了以个体化的博主为中心的陌生人群体。陈世华等认为不同的网络平台塑造了“近亲不如远邻”的新范式,这使得传统的强关系日趋式微,弱关系不断崛起,弱关系在网众的日常生活中扮演着越来越重要的作用[7]。这也间接打破了以血缘、地缘为基础的强关系交往系统,重新在网络上编织出一种以弱关系为核心的交往方式。这种以弱关系为核心的交往方式在平台上被进一步加强,平台为受众提供众多的兴趣圈子以及话题选择,可以发现在平台上“趣缘”主体呈现出一种流动且分散的结构,人们可以通过随意的浏览进入各种群体中,但是巨量的兴趣社群及讨论俨然会淹没个体的注意力与精力,使得个人更多地沉溺于浏览与进入话题的过程中,但是群体中人与人的交流机会便会减少。其所导致的结果便是,人们可以在平台上看见自己的圈子,但是巨量的圈子使得个人这一“原子”在更大的趣缘宇宙中游移与流动,被流量冲刷并无所归依。

  在平台所建立的弱关系网络中,个体的自我价值与自我意识被平台所赋予的“选择权”所彰显,从而导致了较为流动且分散的集体观念与集体组织模式,这样的人际关系结构变动凸显了流动化与分散化特征。

  正是当代人际关系的流动化、分散化特征,使得算法歧视更容易“击中”原子化的个体。以算法歧视中的价格歧视为例,价格歧视的出现主要是由于平台中的消费者缺乏一种价格对比机制,虽然有些应用程序提供价格对比服务,但是面对平台中巨量的商品,这样的单独比价行为显然远远不够。在强关系网络中,消费者主要是在附近的实体空间消费,并且熟人社会会提供一种价格情报网络(像老年人之间会互相传递菜市场的价格信息),这种以强关系为基础的熟人社会通过其情报网络以及有限的选择能够让消费者快速地了解到市场的价格与行情。但是在社会关系个人化及弱关系网络兴起的当下,过去的强关系网络及价格情报机制失灵,当没有一种参考性的网络机制存在后,算法歧视中的价格歧视便会成为一种“隐匿”的普遍行为,尤其在数字营销活动中,在促销时,消费者并不会知晓其所购买的商品是真正降价抑或先升后降。

  (三)媒介平台造就数字消费文化潮流

  媒介平台也改变着当代消费文化,其促使数字消费文化的兴盛并重塑了产消关系。如今我们购物的场所已然从线下实体的商店转变到线上平台,淘宝、拼多多、抖音、微店、京东等已经成为大众消费的主要场所。互联网消费行为主要集中在这几个大型电商平台上,平台为消费者的购物提供了便利与优惠,以至于许多消费者脱离现实的卖场,进入数字消费空间中。

  随着数字消费文化的流行,许多用户自愿进入平台。如近年来直播文化的“出圈”也使得卖货行为“私域化”并带动“全民卖货”浪潮,这样的发展使更多用户卷入平台及其经济系统中。“私域流量”指的是因用户个人而聚集的流量池,如微信、快手、小红书、B站等平台上的个人账号[8]。可见,私域流量所聚集的是平台上的个体生产者所吸引到的流量。近期,朋友圈、微信公众号、抖音个人号、平台直播以及Vlog等媒介形态引人关注,其反映出私域流量在各大平台上不断流行与兴盛,这种“带货风潮”俨然成为一种文化狂潮。

  平台在发展过程中打造“私域流量”的概念,在一定程度上使得平台上的权力关系更加复杂化。媒介平台让个人参与到平台的商业竞争版图中,使个人成为平台的内容生产者,在某种程度上,个人的入局使得平台内容生产者与消费者之间的界限被模糊。部分产消者在平台中通过平台赋权来获取商业利益,但是这些从平台中获益的产消者也同样会受到算法歧视的“宰制”,有时候这些产消者甚至会购买平台服务以“制造”有利于自己的算法歧视。购买流量、雇佣水军制造差评等行为便属于人为制造算法歧视。最终,大量产消者的涌入使得原本平台中由算法歧视所造就的不平等关系更加复杂化。

  如今的数字营销既依靠“公域流量”进行广度传播,又凭借“私域流量”来进行个性化的深度耕耘。在这样的数字营销格局中,平台既是数字营销中的“参赛者”,参与着巨量的广告投放活动,同时也是“舞台搭建者”,为数字时代的产消者搭建了一个商业渠道与平台,使用户深度卷入平台经济中,并参与到数字消费文化的创造与推广的过程中。正是如此,平台塑造了全民参与的数字消费文化,并通过将受众转变为产消者,进一步将其拉入数字消费文化的生产场域。

  综上所述,平台为当代社会塑造了新的文化结构,平台的基础设施化使个人被强制卷入平台社会;同时平台技术架构塑造了以弱关系为核心的交往模式,使得人际网络转向流动化、分散化的结构,弱关系网络有利于算法歧视的施行;最后平台所带来的数字消费文化使人们“甘愿”进入平台经济中成为产消者,并被平台赋予了“制造”算法歧视的能力。

  最终,平台底层的算法架构与平台所造就的媒介文化相互交织,共同促使数字营销活动越发依赖媒介平台,同时也使得数字营销过程中的算法歧视现象频繁出现并难以规避。

  反思:数字营销中算法歧视的未来及其破解

  数字营销过程中算法歧视的出现牵涉技术动因与文化动因,技术与文化共同形塑了数字营销过程中算法歧视得以生成的结构与背景。如今,平台助推着社会经济结构的数字化变迁,数字经济已经成为经济结构中不可或缺的一部分,并带动着传统行业的发展与产业升级。

  (一)技术升级致使算法歧视困境普遍化

  近期,数字技术迎来众多升级,元宇宙的兴起、AIGC的多场景运用、大数据与数字城市构筑起新的空间系统,这些技术升级彰显着技术及其算法力量对社会发展的重要性。技术升级催生出现实世界与数字世界交融的新样态,平台社会只是这种新样态的其中一个阶段。这种新样态被德国学者Hepp概括为深度媒介化,其表示我们社会世界的所有元素都与数字媒体及其基础设施有着复杂的联系[9]。这预示着在技术化社会的未来,我们每个人都将更加深度地置身于技术所织就的社会结构中,身体、生活都将与技术媒介交织在一起。这一趋势意味着,数字营销中所出现的算法歧视现象将更加普遍,甚至成为一种常态。

  从现有的技术趋向来看,对人或商业机构所造成的权利损害行为并不是数字营销中算法歧视发展的终点,其可能进一步损害整体社会权益——在数字营销中对群体身份、阶层、性别的算法歧视将会威胁到社会公共价值观念。

  (二)通过文化引导与规制突破算法歧视困境

  算法歧视的生成存在着技术与文化双重动因,当技术及其算法成为一种无法被直接驾驭的技术物时,笔者认为可以通过文化引导与规制的路径来规避数字营销中算法歧视所造成的危害。

  首先,需要为个人保留暂时性退出平台社会的机会。算法歧视的生成依赖于个体被深度卷入平台社会中,因此保留暂时性退出平台社会的机会能够让个体与数字世界保持适度“断连”,从而短暂逃离其技术宰制。如今在青年群体中所流行的数字极简主义以及手机抵抗实验,便是逃离“算法牢笼”的文化实践。

  其次,需要重建一种新的在地化强关系网络。如今所盛行的网缘、趣缘的人际关系是构筑在“云端”之上的关系结构,其特点是流动化与分散化,这种关系结构有利于算法歧视的发生。而一种建基于“附近”的在地化强关系网络能够塑造一种固定化、集中化的关系结构,并能构建出稳定且迅捷的信息流通渠道,有助于规避算法所导致信息误差,从而规避算法歧视。

  最后,需要引导数字消费文化中的产消者树立正确的价值观念与行为准则。“追逐流量”与“全民带货”这两股文化潮流共同形塑了当代数字消费文化及其中的产消者。平台赋予了产消者“制造”算法歧视的权利,因此需要引导产消者在追逐流量的过程中坚守道德底线,不能盲目陷入算法歧视所带来的恶意竞争环境之中。

  参考文献:

  [1]报告| 2023年中国红人新经济行业发展报告[R/OL].(2023-08-18).http://k.sina.com.cn/article_1796217437_6b101a5d019016f30.html.

  [2]Anupam Chander.The Racist Algorithm[J].Michigan Law Review,2017,115(6).

  [3]Francisco Socal.人工智能算法偏见的根源在人类[EB/OL].(2018-03-22).https://www.eet-china.com/news/201803220600.html.

  [4]刘友华.算法偏见及其规制路径研究[J].法学杂志,2019(06).

  [5]段世昌.从“寄生”到“共栖”——淘宝平台如何走向基础设施化[J].新闻记者,2021(07).

  [6]Plantin J C, De Seta G. WeChat as infrastructure:The techno-nationalist shaping of Chinese digital platforms[J]. Chinese Journal of Communication, 2019,12(3): 257-273.

  [7]陈世华,黄盛泉.近亲不如远邻:网络时代人际关系新范式[J].现代传播(中国传媒大学学报),2015(12).

  [8]赵哲超,郝静.私域流量在环境传播预警系统内的“自我呈现”[J].新闻与写作,2019(11).

  [9]Hepp A.Deep mediatization[M].Routledge,2019:5.

  (作者为暨南大学新闻与传播学院博士研究生)

来源:青年记者2023年9月下

编辑:范君