社会性异常算法及其对数字经济的影响

摘要：违背社会伦理道德和经济可持续发展理念、具有较大负外部性的算法，对数字经济文明建设和社会安全稳定构成了日益明显的挑战。面对大数据杀熟、智能监工、恶性推荐等具有社会性异常价值倾向的算法产物，法律需要及时介入调整，确保科技伦理、技术正义和法治原则在数字经济体系中的应有地位。

关键词：算法;数字经济;影响;法律规制

算法是数字经济的重要基础，甚至被认为是智能社会的灵魂掌舵者。也正因此，被社会性异常算法主导的数字化生存体系，将会累积巨大的技术与社会风险，法律需要对其及时关注并有效介入调整，从而维护正常、健康的数字社会秩序。

一、社会性异常算法的概念与表现

算法是企业获取市场竞争力的一种重要技术工具。在信息时代，算法主要是指信息系统解决问题时所需要遵循的一系列规则、指令和程序，形象地讲，就是“机器解决问题”时所依据的一套系统化策略机制或策略集合。社会性异常算法是指看似符合经济理性人逻辑和计算机运算逻辑，但实际上却是具有显著负外部性（即带来巨大社会成本）甚至社会破坏性的价值失衡型算法。近年来，社会性异常算法在数字营销、数字服务、数字交易等领域攻城略地、甚嚣尘上，对市场的可持续发展和社会稳定造成了严重的不良影响。具体表现包括：

（一）大数据杀熟。相关算法根据网络用户的消费历史、收入水平、职业领域、硬件品牌、所在地域等，呈现和推荐不同的产品价格，用低价吸引新客户消费，用高价榨取老客户利润。网店购物、在线旅游订票、app打车等领域多次暴露这类问题，引发了普遍的社会不满与担忧，并引发了消费者、企业和监管部门的博弈“持久战”。

（二）智能监工。相关算法根据数字追踪器实时记录的物流仓储部门员工从货架上挑选与打包货物的速度，判断员工的工作效率，并在此基础上生成解雇与否的指令;或者根据电子地图上的理论距离，严格控制外卖骑手的行驶路线与送达时间，并据此生成关于超时罚款的处分结论。“打工者被困在算法里”问题已经成为数字就业领域的巨大困扰。

（三）恶性推荐。相关算法优先呈现向网络搜索引擎公司缴纳了推广费的医疗诊所，全然不顾消费者安全，导致了“莆田系医院骗钱索命”等一系列恶果;或者根据用户在线历史痕迹，反复向用户推荐相关主题的文章、视频，向青少年推荐过度娱乐化的不良信息，刻意制造传播障碍，影响不同群体价值观的形成，对网络环境造成破坏。

此外，在網络文学、网络影视、网络销售、网络评比等领域，相关算法助长了恶意刷分、虚构播放量、好评与销售额造假、花钱打榜等破坏市场正当竞争的行为。而许多交不起推广费用的网店、小微企业、个人创作者，则无法获得推荐、流量或靠前的排名，其生存和发展受到很大影响。

二、社会性异常算法对数字经济的影响

算法的作为与不作为现象共存，对数字经济发展的负面影响日益显现。从实践来看，算法涉及消费安全、劳动安全乃至产业安全、社会安全。从理论上看，社会性异常算法在很大程度上已经成为一种半公开半隐秘的社会财富搜集、获取（夺取）、转移与积累工具，牵动着社会的敏感神经。因此，它既具有潜在的经济与政治双重属性，又存在明显的道德风险与法律风险，在风险累积到一定程度后，可能会引发相当规模的社会问题，导致社会矛盾爆发。

（一）破坏数字经济的社会基础。社会性异常算法容易导致消费者对数字技术丧失信任、导致劳动者对科技进步产生厌恶，制造消极情绪和不稳定因素，从而使得数字经济丧失和谐稳定的外部发展环境，陷入基于技术性强迫的社会性紧张之中。

（二）冲击经济法律秩序。“算法枷锁”“每时每刻须劳动”等数字经济领域的“996”现象，对劳动法、社会保障法等造成了重大冲击，就业保护、劳动者休息权、公民健康权等制度被“技术性架空”，不利于人力资源可持续养护与开发。

（三）导致数字经济秩序的控制权转移。“不讲道德者获利”“投机取巧者胜出”这类经营哲学如果在数字经济领域大行其道，将催生不计后果的商业逐利冲动和资本扩张风险，不仅使科技偏离善治轨道，更会严重侵蚀数字经济的制度性根基，最终在算法绑架下，数字经济秩序的实际控制权将可能被完全置于资本手中，而游离于政府监管之外，进而政府在宏观调控与行政监管领域作用式微、应对数字经济风险能力降低。

三、法律规制建议

算法的社会性异常在本质上是市场主体对最大化商业利润的超越道德底线的追求所导致的市场失灵和社会规则破坏，是资本无序扩张的一种技术化了的社会性挤压效应的表现。算法涉及法律权利与伦理道德，对社会性异常算法的规制实质上是制度、社会、人性和资本的博弈。

（一）将法治思维与制度框架纳入算法的底层架构，将“算法正义”作为数字经济法律制度设计的基本目标与要求。一方面，法律可以成为算法的组成部分，算法不得违反法律的强制性规定（如劳动权益、隐私保护等），也不得违背社会公德、破坏公序良俗。另一方面，法律在数字经济领域的技术性解释或具体实施需要依赖正当算法。正当算法是受法律认可或保护的算法，彰显了“算法正义”。

（二）将性质恶劣或引发严重后果的社会性异常算法编制与使用行为纳入执法打击范围，确保算法在社会心理与秩序可承受的限度内运行。可以逐步将严重的算法歧视、算法欺诈认定为违法行为，特别是要涵盖那些容易引发网络公共群体事件、严重扭曲正常财富分配机制（如过度克减劳动者权益）的算法;将严重的算法诈骗（如恶意虚构点击量骗取巨额广告费）、算法加害（如强迫外卖骑手从事公路逆行等危险作业活动）认定为犯罪行为。

（三）构建算法互动规制体系，综合发挥政府监督、技术监督、消费者监督、社会舆论监督等的作用。设立专门政府机构对算法的社会性异常运行活动进行监管，引入人工与智能混合技术对虚拟世界的算法运行情况进行监测预警，建立向消费者开放的算法违法线索在线投诉举报平台，动员新闻媒体和公共舆论对算法违规违法问题进行揭露与批判，推动算法在良法善治轨道内运行。

参考文献：

[1]丁晓东.论算法的法律规制[J].中国社会科学，2020（12）：138-159+203.

[2]邹举. 算法歧视法律规制的路径探析[N]. 中国社会科学报，2020-11-11（003）.

[3]王怀勇.金融科技的算法风险及其法律规制[J].政法论丛，2021（01）：105-116.

作者简介：

白续辉（1982- ），男，山西兴县人，博士，副研究员，研究方向：数字经济治理等。

梧州市人民政府发展研究中心  白续辉