一直以来，我们对文学作品与科幻电影中人工智能的“邪恶”形象司空见惯，却未曾想过，“算法”不仅仅是“AI（人工智能）”的灵魂，在被数字生活包围的今天，点外卖、看视频、手机导航……这些生活日常无不与“算法”相关联。

 

　　在“大数据杀熟”“外卖骑手困在系统中”“网络水军”等成为热门话题之前，“算法”一词一直以“抽象学术用语”自居，我们在“算法”支配下的网络世界里“遨游”，这双无形的“手”，操控着我们的所见所闻，我们却对其“一无所知”。

 

　　“杀熟”的大数据

 

　　线上旅游平台搜索同一家度假村，选择同样的日期和房型，不同网友的手机会出现截然不同的价格；在电商平台超市购买牛奶，新用户比老用户价格低8元；打车去某地，同时掏出手机的小李和朋友发现，同样的路程，打车软件上显示的价格却并不相同……这些屡见不鲜的消费场景被我们统称为大数据“杀熟”。

 

　　有人将大数据“杀熟”定义为：互联网厂商利用自己所拥有的用户数据，对老用户实行的价格歧视行为。即同一件商品或者同一项服务，互联网厂商显示给老用户的价格要高于新用户，并依此获得利润最大化。

 

　　现实中，大数据杀熟的对象范围远不至于“老用户”，而之所以将目光锁定在老用户身上，是因为部分企业认定老客户对价格并不敏感，而除去对新、老用户的分类，算法亦有其他洞悉用户偏好的方式。

 

　　透过消费者过往的消费习惯、行为习惯、兴趣爱好、使用频率、依赖度、浏览记录等，大数据便能分析出消费者的喜好、用户黏合度，甚至价格敏感度，从而清晰地知道消费者的“底牌”，“绘制”出一幅幅“精准画像”，并最终据此对购买同一产品的不同用户“量身定制”不合理的差异定价。

 

　　为此，有人总结出大数据“杀熟”的6大表现，分别为：同一时间不同用户购买相同商品或服务的价格不同；多次浏览后价格自动上涨；不同用户享有不同打折优惠形式；隐藏或不送老用户优惠券；根据用户特点提供特定商品或服务；默认勾选之前购买过的服务、不买时送优惠券买时却没有等形式。

 

　　回头来看，即便人类踏入信息化时代已半个多世纪，但“算法”这个词进入大众视野并被热烈讨论，也不过是近几年才有的事。

 

　　2018年12月，“大数据杀熟”被评为2018年度社会生活类十大流行语。

 

　　2020年12月，一篇题为《我被美团会员割了韭菜》的文章指出，美团外卖存在会员与非会员在同一送餐地址、同一外卖商户订餐，会员配送费高于非会员配送费的情况，引发社会关注。随后，针对用户反馈的“会员和非会员配送费差异”问题，美团外卖回应称，配送费差异与会员身份无关，是定位缓存偏差导致。

 

　　2021年1月，新华社发布《中消协：“大数据杀熟”如何影响消费者权益？》，指出网络消费领域算法应用中存在的一些问题，其结果直接或间接影响着消费者的消费决策和消费行为，消费者应提高警惕。

 

　　2021年3月，复旦大学教授孙金云的《“手机打车软件打车”调研》中称，苹果、安卓不同价，将“大数据杀熟”推上风口浪尖。

 

　　2022年3月，北京市消协发布的《互联网消费大数据“杀熟”问题调查》中显示，有82.44%的受访者在购物过程中遭遇过大数据“杀熟”，即便近九成受访者认为大数据“杀熟”会侵犯消费者权益，但只有极个别（0.43%）受访者选择通过司法诉讼方式维权。

 

　　但即便如此，“大数据杀熟”也很难称得上是新鲜概念。

 

　　早在2000年，亚马逊网站曾进行过一项动态定价实验，把DVD根据客户的购买历史以不同的价格（最多相差40%）出售给客户。当该实验内容被曝光后，消费者隐私团体对其提出了严厉批评。而亚马逊公司也公开道歉，并向6896名客户退回相关款项。

 

　　随后，《华盛顿邮报》据此发表了一篇名为《网络上的价格标签模糊不清：你支付的费用可能取决于你是谁》（On the Web Price Tags Blur: What You Pay Could Depend on Who You Are）的报道，引起轩然大波。

 

　　二十多年后的今天，算法定价已拓展到很多行业，但将其运用最充分的，依然是能够接触到更多用户信息的互联网公司。近乎零成本的追踪用户行为信息给互联网公司带来了“看人下菜碟”的便利，而新老用户“通吃”的背后，是平台利用自己所拥有的用户数据和技术优势，为用户贴标签，作为算法输入变量进行价格分类，搞“一对一”的价格歧视。

 

　　“困住”骑手的系统

 

　　在中文网络世界中，“算法”这个词“崭新而邪恶”，许多人是在一篇描述外卖骑手如何在系统调度中疲于奔命的报道中，第一次了解这个词。

 

　　2020年9月，《人物》杂志刊发出一篇调查性文章：《外卖骑手，困在系统里》，透过这篇文章，“与生命赛跑”的外卖骑手面临的困境第一次曝露在大众面前——为“准时送达”，骑手们不得不在车水马龙中超速、逆行、闯红灯……他们的时间、收入及生命安全，被强大的“算法”锁定。

 

　　文章中提到一个关键词：时间失踪。“2016年，3公里送餐距离的最长时限是1小时，2017年，变成了45分钟，2018年，又缩短了7分钟，定格在38分钟——据相关数据显示，2019年，中国全行业外卖订单单均配送时长比3年前减少了10分钟。”

 

　　过去几年里，配送里程增加，配送时间却在减少。

 

　　外卖平台实时收集海量的配送数据，人工智能算法通过深度学习，优化派单，压缩配送时间，这意味着消费者能更快拿到订单，而骑手也能因此而配送更多的订单，从而提高收入。

 

　　表面来看，这是技术进步，效率提升的表现，但实际上，系统规划的最短时间并没有考虑电梯拥挤、电动车故障、雨天堵车、单行道、红灯等现实问题，为了不超时，骑手们不得不冒着生命危险派单。

 

　　也是这一次，当所有人将目光聚集在“系统”上，才发觉困在系统中的，不止是外卖员。

 

　　在网约车平台大数据的算法之下，失去了接单自主权的网约车司机只能靠平台派单，平台不仅掌握着是否派单给司机的生杀大权，同时还计算着司机每一单的价格；而以“让赚钱变得更容易”为口号的货拉拉平台系统更是对司机的考核设置了行为分、准点率、拒单率等各项指标，在系统算法下，司机某项指标分数下降，便可能直接影响抢单成功率；2018年国家邮政局做过一份调查中显示，在系统“加持”之下，1000多名快递员中，超过70%的快递员表示不堪重负……

 

　　平台经济快速发展，网约配送员、网约车驾驶员等新就业形态劳动者数量大幅增加，目前，我国灵活就业人员数量超过2亿人。新兴业态蓬勃发展的同时，“困在系统里、绑在算法上、游离在社保外”等社会话题屡屡登上新闻头条，不知不觉中，完成了“社会人”向“系统人”转变。

 

　　“茧房”外的信息

 

　　美国学者凯斯·桑斯坦曾在其著作《网络共和国》的开篇中生动地描述了“个人日报（dailyme）”现象。他认为，互联网时代，在发达的网络技术之下，网络信息剧增，我们能够在海量的信息中随意选择我们关注的话题，并根据自己的喜好定制报纸和杂志，因此每个人都拥有为自己量身定制一份“个人日报（dailyme）”的可能，这种“个人日报”式的信息选择行为称为网络茧房形成的直接因素。

 

　　在桑斯坦看来，长期处于过度的自主选择，沉浸在个人日报的满足中，失去了解不同事物的能力和接触机会，人们只看到自己想看到的东西、只听到自己认同的观点，最终变成一个只能听到自己声音的“密室”，于是，公共信息的传播、社会意见的整合、社会共识的形成会变得日益困难。

 

　　桑斯坦的理论，在很难不把时间花到社交媒体上的今天，显得格外掷地有声。而其中最典型的，是以推荐算法为代表的互联网内容推荐机制。

 

　　算法推荐很大程度上决定了网民们在互联网里看到的世界——在互联网购物平台上买一支口红，第二天首页的推送上全是口红；在新闻APP里搜索一款手机，随后首页就都是手机评测视频；同一时间打开同一款APP，但每个人的热门内容都有所不同……

 

　　“我的主页永远都是游戏和萌宠。”希望“拓宽视野”的张林寄希望于“关闭个性化推荐”，和张林有着相同想法的用户，不在少数。

 

　　在中国青年报社社会调查中心联合问卷网对1144名受访者进行的一项调查中显示，53.8%的受访者表示会选择关闭算法推荐功能。

 

　　今年3月，《互联网信息服务算法推荐管理规定》（下称《规定》）开始正式实施，而涉及算法推荐的抖音、快手、拼多多、小红书、微信、微博等内容平台均允许用户“一键关闭个性化推荐”。

 

　　于是在完成了“我-tab栏-设置-通用设置-管理个性化内容推荐-关闭-确认关闭”7个步操作步骤后，张林主页右上方的推荐变成了精选。

 

　　但关闭算法推荐，并不意味着能获得优质多样的信息推荐。张林刷了不到5分钟的非算法推荐视频，又打开了个性化内容推荐。希望打破平台用算法织就的“信息茧房”，获取到新信息是用户关闭个性化推荐的主要原因之一，但关闭后的内容推荐仍然单一且体验不佳。

 

　　多数用户反应关掉个性化推荐后，不论怎么刷新，首页永远都是同样的内容，“好像没有一种通识的无差别推荐的内容，要么根据算法推荐，要么就不推荐，（平台）直接‘躺平’”。

 

　　离开了一间间独立的“信息茧房”，互联网连接着令人不知所措的更大世界，但在“精挑细选”与“和盘托出”之间的广阔地带，推荐算法却毫无“用武之地”，深究起来，这样的情况并非偶然。

 

　　通过个性化推荐提升用户体验，是平台提升商业化效率的重要手段。《哈佛商业评论》曾报告指出，就市场营销而言，用户体验的个性化可以让投资回报率提升五至八倍，并将销售额提高10%以上。

 

　　擅长个性化营销的抖音、快手等视频平台，通过算法进行精准营销，在用户信息流中加入的广告和直播带货，提升用户的购买率。通过“千人千面”的产品服务，不断为用户提供其喜好的内容，从而让用户产生“它很懂我”的心理，帮助新用户留存并转化付费，从而提升内容平台的商业化变现效率，而关闭个性化，推荐无疑会使其商业化潜力大打折扣。

 

　　每每此时，一个终极问题便浮出水面——算法有善恶之分吗？

 

　　“黑箱”中的算法

 

　　曾经只在文学文艺作品里探讨“机器对人类奴役”的我们，已然走到了互联网的“十字路口”——在算法的不断普及之下，人类赋予算法权利，却终被算法左右，人类享受算法之利，也深受算法之扰。

 

　　作为一种工具，在设计之初，算法同其他工具一样，在数字时代辅助人类的社会活动：没有算法，网约车司机就无法正常接单；没有算法，外卖员就不能准确送出外卖；没有算法，内容平台就难以做到千人千面；没有算法，医院的癌症筛查便不能快捷高效……

 

　　基于此，我们有理由相信，算法，像所有人类的发明一样，其设计初衷是帮助人类生产生活。但正如世界著名媒体文化研究者尼尔·波兹曼曾在其著作《技术垄断》一书中写到的那样：每一种新技术，都既是包袱又是恩赐，不是非此即彼的结果，而是利弊同在的产物。

 

　　汽车诞生后，关于汽车、马路、人之间关系的争论四起。于是有人说，汽车诞生后导致了更多车祸发生，所以不该有汽车。但在经历了无数大讨论后，交通法规诞生，车祸率下降，从此汽车就不再是洪水猛兽。

 

　　算法亦是如此。不论是颇具“数据偏见”的搜索引擎，还是“娱乐至死”的内容平台，都把矛头都指向了以数据为资源、以算法为架构的大型互联网企业，其在占据着垄断性经济地位的同时，并“控制着影响我们核心自由之技术（出自英国学者杰米·萨斯坎德《算法的力量：人类如何共同生存？》）”。

 

　　在这本力作中，萨斯坎德提出了“哲人工程师”的概念：“当软件工程师每创建一个协议时，实际上在扮演上帝的角色，‘定义一种新的哲学’，因此，软件工程师必须对如何定义这种新哲学负起责任。我们需要一代‘哲人工程师’，他们既要精通算法，又能够洞悉关乎社会正义的哲学，才能保证‘历史发展的弧线弯向正义’”。

 

　　回到现实中，我国网民的规模之大有目共睹，根据调查，对数字环境接触较少的老年人和低文化人群，对网络环境的态度往往比其他群体更为“无知无畏”。因此，许多学者认为，尽量打开算法的“黑匣子”，让算法在社会领域中变得更加透明显得迫切而重要。

 

　　2022年3月1日，《互联网信息服务算法推荐管理规定》正式生效，为有效应对算法不合法或不合理使用导致的诸多问题，《管理规定》中提出了“算法备案”的新方案，要求平台既要公示算法运行机制，也要提供删除或关闭个性化推荐的选项，保证用户的知情权和选择权。同时，平台不得设置诱导用户沉迷的算法模型，不能根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别对待。

 

　　作为我国第一部针对算法推荐的规章制度，《管理规定》恐怕还存在诸多需要完善之处，但至少从此刻开始，我们可以肯定，对于算法的“规范之网”正在编织成型。（文/记者王薇）