基于人权标准的算法治理新思路：企业算法合规义务

张 旭*

当前，全球数字领域发展不平衡、规则不健全、秩序不合理等问题日益凸显，“治理赤字”日益加剧。算法治理是企业、政府、社会、市场等多个参与主体，通过技术、人员、规范等多种方式，实现提升数据质量与应用价值、促进数据资源整合与流通共享、保障数据安全等目标的一整套行为体系。算法治理并非新鲜事物，当前各界对算法治理的广泛关注只是对算法、算力与大数据叠加作用导致的人工智能“逐渐变强”、算法权力难以掌控、数字不正义日益凸显这一时代背景的合理反应。本文从梳理当前算法治理的主流路径与正处于萌芽阶段的数字人权相关理论入手，指出以人权标准开展算法治理的积极意义。在此基础上，以实用主义理念为导向，提出基于人权标准的企业算法合规义务的算法治理新路径，以期为政府部门改进算法治理模式、数字企业积极参与算法治理进程、社会公众在算法治理中获得赋权提供务实的道路指引，也尝试为算法治理的学理研究提供新的思路。

一、传统算法治理路径的现实困境

随着数字全球化向纵深发展，“以深度学习算法为核心的人工智能算法模型被普遍应用，但由于其算法结构中存在多个‘隐层’，导致输入数据和输出结果之间的因果逻辑关系难以清楚解释，用户只能被动接受由算法带来的结果而无法洞悉其运行过程，从而形成一种技术‘黑箱’”1中国信息通信研究院、中国人工智能产业发展联盟：《人工智能治理白皮书》，第5页，http://www.caict.ac.cn/kxyj/qwfb/bps/202009/P020200928368250504705.pdf。。资本控制手段不仅正从专制转向霸权，而且正从实体转向虚拟，通过从实体的机器、计算机设备升级为虚拟的软件和数据，实现对用户的“数字控制”。2参见陈龙：《“数字控制”下的劳动秩序——外卖骑手的劳动控制研究》，载《社会学研究》2020年第6期，第133页。例如，搜索引擎监控并挖掘个人留下的信息，进而获得精准推送的能力，将广告信息提供给更需要的用户；网约车平台通过收集用户乘坐信息，赋予用户不同的叫到车的概率和接单网约车与自己的距离；外卖平台系统潜移默化地收集、分析骑手数据并通过算法将数据结果反作用于骑手，不断蚕食骑手的自主性空间。为应对“数字鸿沟”、数据保护主义、平台资源过于集中、新兴技术被滥用、网络安全威胁等一系列问题，传统的算法治理路径试图从不同维度解决这些困难，但在实践中却遭遇了可行性不足、治理效果不佳的现实困境，无法回应算法治理的现实需求。

（一）以算法透明为核心的事前规制路径的低可行性

算法透明（Algorithmic Transparency）是一种针对算法的事前规制原则，要求算法使用方披露算法要素。它包括算法本身的透明、与算法相关的数据透明以及与算法相关的其他信息透明，是备受国内学者认可的算法治理进路。3参见张恩典：《大数据时代的算法解释权：背景、逻辑与构造》，载《法学论坛》2019年第4期，第152—160页；刘友华：《算法偏见及其规制路径研究》，载《法学杂志》2019年第6期，第55—66页；徐凤：《人工智能算法黑箱的法律规制——以智能投顾为例展开》，载《东方法学》2019年第6期，第78—86页；孙清白：《人工智能算法的“公共性”应用风险及其二元规制》，载《行政法学研究》2020年第4期，第58—66页。它的核心目标是通过算法可知与可解释的方式实现治理目标。在实践中，自主学习算法的“黑箱”成为法律推动人工智能透明度的现实障碍，算法不透明对明确算法责任、维护算法信任价值具有局限性，对产业发展带来了一定的负面效应。在算法透明原则的支持者看来，有效推进算法治理的前提便是算法的可知性、可得性和可解释性。但是在科技发展与社会效应等因素“叠变”1“叠变”是社会学研究中的核心概念之一，常用于描述各种社会不平等的交织重叠状态。参见［英］安东尼·吉登斯、［英］菲利普·萨顿：《社会学基本概念》（第二版），王修晓译，北京大学出版社2019年版，第137—139页。的背景下，即使是资深的计算机工程师也越来越难以全面地解释算法的逻辑与进路。从可行性与必要性的角度来看，第一，算法透明并非公开算法模型或代码，也并非让公众了解算法的各个技术特征，而是告知算法设计的基本逻辑，告知用户使用算法可能带来的风险。算法系统源代码的简单公开并不能提供有效透明度，反而会威胁数据隐私或影响技术安全应用。第二，关于算法功能的广泛理解对实现算法问责几乎没有作用，而简短、标准化且涉及可能影响公众决策或者提升公众对算法系统整体理解的信息内容的披露才更为有效。2参见曹建峰、方龄曼：《欧盟人工智能伦理与治理的路径及启示》，载《人工智能》2019年第4期，第39—47页。第三，算法透明并不意味着算法问题能被发现，加之客观运行环境与算法的交互、第三方干预等因素带来的情境变化也无法得到有效控制，因此算法透明原则不具有必要性。3参见沈伟伟：《算法透明原则的迷思——算法规制理论的批判》，载《环球法律评论》2019年第6期，第24—32页。第四，由于算法本身的专业性，尤其是一些算法涉及知识产权、商业秘密等法益，还需兼顾算法透明与商业秘密间的平衡。4参见袁康：《社会监管理念下金融科技算法黑箱的制度因应》，载《华中科技大学学报（社会科学版）》2020年第1期，第105页。

（二）以算法问责为目标的事后规制路径的滞后性

对于法律人而言，算法技术的内容并非如此重要，重要的是算法技术的应用方式及由此引起的社会关系的变化。5See Jack M. Balkin, The Path of Robotics Law, 6 California Law Review Circuit 45, 48-49 (2015).实践中，“以美国计算机协会为代表的业界，并未对算法透明报以奢望，而是倾向于事后规制（如救济、审计、解释、验证、测试、问责等）为主的规制策略”，我国业界“对于人工智能和深度学习软件进行规制时，主要也采取了事后规制的手段”。6沈伟伟：《算法透明原则的迷思——算法规制理论的批判》，载《环球法律评论》2019年第6期，第34页。作为事后规制路径的算法问责机制强调在损害结果发生后，算法的使用者即使无法对算法如何产生相应后果作出解释，也应当承担因使用算法决策而产生的责任。7See US Public Policy Council of Association for Computing Machinery, Statement on Algorithmic Transparency and Accountability, p. 2, http://www.acm.org/binaries/content/assets/public-policy/2017_joint_statement_algorithms.pdf.算法问责是以公权力为后盾、以重新分配责任与利益为方式的规制手段，不仅体现算法治理理念最大限度促进公益的价值追求，还能够解决算法治理中的根本性问题，是“让合适的主体对其决策和算法的输出结果接受问责的法律责任和手段”1［美］陆凯：《美国算法治理政策与实施进路》，载《环球法律评论》2020年第3期，第10页。。虽然算法问责具有执行成本低、通过责任配置消弭不可知的技术细节、凭借“回溯”视角获得信息成本优势等实践和学理方面的优点2参见沈伟伟：《算法透明原则的迷思——算法规制理论的批判》，载《环球法律评论》2019年第6期，第36页。，但其本质是通过具体制度的建构将算法设计与使用纳入法治的轨道。法律的规范性必然要求制度的稳定性与可预测性，而算法社会的瞬息变化使法律的滞后性成为常态，因此算法问责的实效不佳。况且“现有法律本质上终归还是人类有限理性的产物，有限经验的产物，基于有限样本的产物”3齐延平：《论人工智能时代法律场景的变迁》，载《法律科学》2018年第4期，第41页。，难以满足人们通过法律制度调适算法利用带来的种种负面影响的迫切需求。

（三）以数字正义为追求的特殊保护路径的局限性

“现代中国的人权是以人民为中心展开的人权”，人权主体上的“人民性”要求“宪法法律上的平等赋权与现实中的平等可及，……需要国家在经济、政治、社会、文化诸领域面向人人，特别是社会弱者提供平等保障和支持”。4齐延平：《中国人权发展道路的张力平衡结构》，载《人权》2021年第5期，第13页。以数字正义为追求的特殊保护路径是通过数字科技与算法应用促进人权保障、提升人权享有水平，主要体现为对数字社会中弱势群体的关注。人权话语下的“数字弱势群体”是指“由于数字科技的固有特征、不均衡传导以及社会既有结构等客观因素，导致权利缺失、能力不足，进而展现出地位边缘、资源匮乏、易受挫伤等特征的特定群体”5高一飞：《智慧社会中的“数字弱势群体”权利保障》，载《江海学刊》2019年第5期，第164页。。对“数字弱势群体”的界定是该理论的关键，与传统研究中所指的“信息弱势群体”6参见易红、张冰梅、詹洁：《以信息弱势群体为导向的公共图书馆信息无障碍服务探究》，载《图书馆工作与研究》2015年第1期，第78页。有所不同，该理论认为“相较于肉眼可见的表面弱势，智慧科技所传递的价值取向和制度构想，或许才是数字弱势群体权利保障的最大障碍”7高一飞：《智慧社会中的“数字弱势群体”权利保障》，载《江海学刊》2019年第5期，第167页。。因此，数字弱势群体既包括传统意义上的弱势群体，也包含新兴的“数字难民”。识别此类群体的关键标准是“能力贫困”或“权利贫困”8参见余少祥：《法律语境中弱势群体概念构建分析》，载《中国法学》2009年第3期，第66页。，即因为行使权利的能力不足或者被置于“权利洼地”的群体。对数字弱势群体的保护要遵循平等保护与倾斜保护相结合的原则，并通过针对力量失衡的权利义务再分配、针对系统性阻隔的公共服务优化、针对能力匮乏的权利赋能的三层次基本架构9参见高一飞：《智慧社会中的“数字弱势群体”权利保障》，载《江海学刊》2019年第5期，第168页。，矫正算法的“民主赤字”，实现数字正义。在当前复杂的社会背景下，数字弱势群体范围的界定仍是以“数字”看人权理论中的短板。但是在不同的社会情境下，不同类型的主体因自身认知、能力、信息素养的差异会有迥然不同的行使权利的能力。基于数字弱势群体的视角难以确保在所有社会情境中能够有效地判断、识别并覆盖各类弱势群体，由此难以提供周全的保护与救济。

（四）以数字人权为基础的法律规制路径的薄弱性

“当国家、国际社会情势发生变化、人们产生了一系列新的要求的时候，就会产生一系列新的权利主张”1何志鹏：《以人权看待发展》，载《法制与社会发展》2009年第4期，第111页。。相较于通过界定数字弱势群体并为特定群体提供特别倾斜保护以实现算法正义的人权进路而言，在“权利话语日益成为我们这个社会的一种主导性话语”，“人们日趋通过权利话语的方式来表达自己的各种利益和诉求”的“权利的时代”，2参见侯学宾、郑智航：《新兴权利研究的理论提升与未来关注》，载《求是学刊》2018年第3期，第89页。有学者提出“第四代人权”的概念，将数字人权作为与以政治权利和公民权利为代表的“第一代人权”、以经济社会文化权利为代表的“第二代人权”及以发展权和环境权为代表的“第三代人权”并列的新一代人权。其同时指出“以‘数字人权’为代表的‘第四代人权’……在发展动因上，源于信息革命；在内涵逻辑上，发生了根本转向；在价值内核上，实现了品质升级；在关系构架上，呈现关联义务的社会延展”3马长山：《智慧社会背景下的“第四代人权”及其保障》，载《中国法学》2019年第5期，第5页。。数字人权“以双重空间的生产生活关系为社会基础、以人的数字信息面向和相关权益为表达形式，以智慧社会中人的全面发展为核心诉求”4同上注，第16页。，或许是当前通过人权实现算法治理的可行路径。但从人权演进的历程来看，人权从应有权利经由法定权利到最终作为实有权利获得实现的过程并非一日之功。5参见李步云：《论人权的三种存在形态》，载《法学研究》1991年第4期，第17页。当前数字人权正处于理论建构的初级阶段，权利主体、权利客体与权利义务关系的具体内容仍需进一步论证和完善。即便数字人权可以成为有效约束算法技术的治理方式，其从应有权利到实有权利的最终演化也至少需要数年时间，更何况算法更迭日新月异，难以预料算法应用将如何引领社会关系变化。因此，通过发展人权法的具体制度规制算法技术是值得追求的，但仍难以缓解社会大众现时的迫切需求。

上述解决路径虽然侧重不同，但是都无法及时有效地回应算法治理的现实困境，因而存在权利救济不足、法律制度滞后的问题。随着数字技术与实体经济深度融合、数字化对全球经济发展和国家安全的影响不断加深，全球数字治理议题也日益超越技术层面的需求，既关乎全球经济可持续发展与国家间产业竞争，又涉及国家安全、人权保障等一系列复杂问题，呼唤各方提供新的解决方案。

二、将人权标准全面引入算法治理的必要性

进入算法社会，“法律调控应从‘裁断行为后果’转向‘塑造行为逻辑’，赋权与救济模式应转向……事前对行为的规训与塑造，以及事前对不法与违法行为的阻却”1齐延平：《数智化社会的法律调控》，载《中国法学》2022年第1期，第78—79页。。算法治理的对象是使用算法提供服务的行为，“算法运行中的风险，既可能是算法本身的设计缺陷导致的，也可能是使用者滥用算法导致的”2中国信息通信研究院政策与经济研究所、新华网大数据中心：《算法治理蓝皮书》，2022年，第3页。，需要从法律、伦理等多层面进行化解。虽然以数字正义为追求的特殊保护和以数字人权为基础的法律规制的算法治理路径在目前来看并非切实可行，但上述观点仍为进一步探究有效的算法治理方案提供了经验启发，即通过人权标准看待算法治理。人权，本质上是“普遍最低道德标准要求予以尊重的权利”3［英］A.J.M.米尔恩：《人权哲学》，王先恒等译，东方出版社1991年版，第9页。，现实中是“世界通用的道德语言”4See Michael Ignatieff, Human Rights as Politics and Idolatry, Princeton University Press, 2003, p. 53.，其具有的强大道义力量与社会凝聚力已被历史充分证明。基于人权标准的算法治理思路与传统算法治理路径的区别不仅仅在于是否把人权引入算法治理，还在于把人权引入算法治理的程度，即通过人权标准不断促进人权在算法治理中的深度和广度。在算法治理中引入人权标准，能够帮助算法开发者、提供者和使用者避免受到国内和国际社会的人权责难。当法律的滞后性无法及时应对算法的更新变化带来的潜在风险时，人权标准为算法技术提供了除法律以外的伦理层面的要求。所以对算法治理而言，开展基于人权标准的算法治理是推动算法相关主体履行法律责任和社会责任的现实路径，能够更好地对弱势群体进行权利救济。

（一）人权标准为算法技术提供价值引导

“随着智能算法的不断更迭和广泛应用，由算法带来的算法偏见、‘信息茧房’等问题日渐突出，引发人们对算法价值观的争议。”5中国信息通信研究院：《全球数字治理白皮书（2020年）》，第7页，http://www.caict.ac.cn/kxyj/qwfb/bps/202012/P020201215465405492157.pdf。基于人权标准开展算法治理，对解决当前的困局具有积极意义。“算法中立”是长期以来人们对于算法客观性话语的不同概念表述，算法自身并不会产生歧视，只会依据人类输入的规则执行运算命令。而算法产生的过程是人的主观思想转变为运算逻辑的过程，在数据集构建、运算目标预设与数据特征选取、数据标注等生成算法的技术过程中，工程师的主观偏见、打标者的无意裁决等都不可避免地将个人意志转化为运算逻辑，样本数据的不平衡同样也会对运算逻辑产生影响。在机器学习、算法互嵌等技术被广泛运用的背景下，算法歧视会在循环运算中不断加深，甚至一些资深工程师也难以识别算法中隐藏着的潜在的区分信息。可以说，算法并不中立，“在这种‘客观性’的外衣之下，往往隐蔽着自由平等、人格尊严、个人隐私、自主选择、教育就业等人权遭遇侵犯的事实”1马长山：《智慧社会背景下的“第四代人权”及其保障》，载《中国法学》2019年第5期，第19页。。现有法制不足以应对算法演进带来的风险与挑战，一些掌握了绝对优势的技术巨头对人类社会的影响在诸多方面远胜于主权国家22020年澳大利亚策划出台的《新闻媒体和数字平台强制性议价法案》要求谷歌（Google）和脸书（Facebook）等互联网科技巨头与澳新闻媒体达成协议，根据平台中分享的新闻内容向媒体（出版商）付费，否则政府将介入，进行强制仲裁。而谷歌和脸书则强势回应称，如果立法通过，将停止在澳大利亚的服务。2021年2月18日，脸书公司屏蔽了所有澳大利亚用户在其平台上查看和分享新闻内容，包括政府卫生机构、社会服务部门、工会团体和气象局等在内的不属于传统新闻范畴的澳大利亚部分官方机构的页面都被清空。参见大仝：《科技巨头对决主权国家》，载《世界文化》2021年第4期，第8页。。加上“目前的算法规制研究刚起步不久，忽视了算法规制的共同善（Common Good）维度”3王聪：《“共同善”维度下的算法规制》，载《法学》2019年第12期，第67页。，因此，需要尽快在伦理道德的面向上建立世界普遍认可的对数字科技与算法技术的伦理准则。人权是人的固有尊严与自由意志不可侵犯性的集中表达，反映了人类在智慧时代规制数字科技的最大共识，“必须成为人工智能时代的伦理与法律的最高原则”4齐延平：《论人工智能时代法律场景的变迁》，载《法律科学》2018年第4期，第44页。。基于人权标准开展算法治理，能够将算法技术的研发和使用“限制在自由、正义、安全、秩序的底线之内”5张文显：《新时代的人权法理》，载《人权》2019年第3期，第21页。，从而确保人始终作为算法社会中的最高价值与主体。同时，人权包含的应有权利、法定权利和实有权利三种不同形态，能够为算法时代维护人的尊严与自由提供多样性的规范渊源与制度进路，满足算法治理的伦理约束需求。无论各国采取本质主义路径还是实用主义策略，人权的包容性与普遍性都能成为算法技术的伦理约束与价值引导。

（二）人权标准为数字企业提供合规指引

网络互联、数据共享、信息互通是全球化算法社会的主要特征。当前主要的数字企业，如百度、阿里巴巴、腾讯和华为等都在世界范围内开展数字贸易、参与数字经济。以“知识密集爆发的引领性、高新技术集成应用的融合性、科技创新融合发展的泛在性、传统产业智能化改造的变革性”为首要特性的智能经济已经成为全球经济下一轮增长的主要引擎。6中国发展研究基金会：《新基建，新机遇：中国智能经济发展白皮书》，第61—62页，https://www.cdrf.org.cn/jjh/pdf/zhongguozhinengjingjixinfazhan1011.pdf。算法应用与数字科技为企业发展带来了前所未有的机遇，同时也带来了无处不在的风险。由数据画像、数据收集、数据挖掘等行为带来的算法歧视、算法霸权、数据鸿沟、信息垄断等问题不仅侵犯了个人的权利，也危及特定群体的集体利益，加剧社会不平等和两极分化。在算法治理主流化的背景下，数字企业上一秒“日进斗金”，下一秒便可能面临“天价罚单”。不同国家和地区为了争夺算法治理主导权而相继颁布极具区域特色的法律法规，如欧盟《通用数据保护条例》，美国《开放政府数据法案》和《加州消费者隐私法案》，俄罗斯《个人数据保护法》，我国《网络安全法》《数据安全法》《个人信息保护法》和《互联网信息服务算法推荐管理规定》，等等，纷繁复杂的法律制度使数字企业特别是跨国企业疲于应付。然而，不管法律规则如何设计，对人的尊重与对权益的保障始终是法治的首要目标。人权因具有普遍性、包容性的特性，是世界各国认可的共同标准，是世界范围内算法治理共同的价值取向。因此，纵使各国算法治理规则不一，人权标准依旧能为数字企业的日常经营行为提供指引。企业如果以“国际人权宪章”1“国际人权宪章”由1948年《世界人权宣言》和1966年两个（项）国际人权公约及两个任择决议书构成，是国际人权法体系的基础。等国际认可的人权标准为依据自查经营行为，既能最大限度地防止算法侵权行为发生、增强企业的社会合法性，也能在违法违规后果发生后以此作为抗辩，主张责任减免。2例如，我国《个人信息保护法》第69条对个人信息处理者设置了过错推定责任，如果个人信息处理者能够证明自己没有过错，则可能免于承担不利后果。算法技术是个人信息处理应用的内核，因而算法合规也是避免侵犯个人信息权益的可行路径。

（三）人权标准为算法治理增添中国特色

国际交往的历史已充分证明，话语权的争夺是大国崛起历程中必然面对的挑战，尤其全球化空前发展的当下，拥有议题设置权与话语主导权对我国在国际交往中赢得主动权具有重要意义。长期以来，国际社会的话语权由少数几个西方国家主导，发展中国家在不合理、不公平的国际秩序中艰难前行。人权成为第三世界国家与西方国家间话语权争夺的主战场。发展权从应然价值逐渐成为被世界认可的一项基本人权，是表明发展中国家的国际话语权不断提升的例证。虽然中国也积极参与有关发展权的提案，不断通过自身实践为发展权提供经验支撑，但总体上中国在国际层面的人权话语权还有待进一步提升，话语缺失和“话语逆差”问题亟待解决。由于数字科技与算法应用与人们生活密切相关，并对人权保障的未来走向具有重要影响，许多国际组织都曾积极关注数字科技与人权保障相关议题3参见联合国人权理事会：《人权理事会2019年7月11日通过的决议：41/11.新兴数字技术与人权》，A/HRC/RES/41/11，2019年；联合国人权理事会：《人权理事会2019年9月26日通过的决议：42/15.数字时代的隐私权》，A/HRC/RES/42/15，2019年。，但其相关概念的构建仍不完善。我国的数字科技水平在世界范围内处于领先地位，算法治理实践也处于前沿地带，目前显现的许多算法治理问题是其他国家暂时还未遇到的。中国特色社会主义人权理论体系日益成熟，我们应该抓住这个有利时机和学术空档，“引领国际社会的数字人权研究，并以此牵引知识产权的理论、制度和实践创新”1张文显：《新时代的人权法理》，载《人权》2019年第3期，第23页。。因此，将人权标准引入算法治理，有助于我国总结中国算法技术的发展经验，结合我国的制度特色、文化传统与社会情势，构建符合中国国情、具有世界眼光、体现人类共同价值的中国算法治理理论。

三、将人权标准引入企业算法合规的体系建构

数字技术的快速发展及数字企业与实体经济的深度融合，正在快速构造一个新的在线网络空间。数字技术的专业化发展和数字平台的跨国经营使得数字企业成为全球算法治理的核心。相比为我国学界在算法治理或数字人权领域积极争取国际话语权的宏大愿景而言，本文的立足点在于从人权视域中为解决当前算法治理进程缓慢、实效不佳、理论分野的现实困境提供切实可行的方案，以实用主义理念为导向，为政府部门改进算法治理模式、数字企业积极参与算法治理进程、社会公众在算法治理中获得赋权提供务实的道路指引。下文讨论的企业算法合规是在承认人权理念作为算法技术的伦理约束与行为准则的前提下进行的，换言之，本文仅在人权标准下讨论企业算法合规的概念内涵、工具价值与实践路径。

（一）企业算法合规的概念形成

随着经济全球化浪潮不断奔涌向前，企业的经济实力、社会地位与政治影响力不断提升，要求企业依据自身规模、所处环境、行为危害程度等承担相应的人权责任已经成为国际社会对负责任的企业的最低期待，合规义务逐渐成为在国际层面上获得普遍认可的企业人权责任。2参见佟丽华：《中国企业境外经营的人权合规问题研究》，载《人权研究》2021年第3期，第28—40页。2011年联合国人权理事会通过的《工商企业与人权：实施联合国“保护、尊重和补救”框架指导原则》3联合国人权理事会：《工商企业与人权：实施联合国“保护、尊重和补救”框架指导原则》，A/HRC/17/31，2011年。（以下简称《指导原则》）指出，公司应当“避免通过其本身活动造成或加剧负面人权影响，并消除已经产生的影响”，需要“努力预防或缓解经由其商业关系与其业务、产品或服务直接关联的负面人权影响”；此外，《指导原则》还为企业进行合规承诺与开展人权尽职调查提供了详细指引。2018年“中兴通讯事件”的爆发使我国企业更加意识到开展合规管理的重要意义。合规管理、合规意识、合规思维等一时成为企业管理实务与理论研究的前沿话题。

企业算法合规是指企业编制和利用算法的行为要符合相关规范，主要包括国家法律法规、商业惯例、公司内部制定的规章制度、国际组织条约等在内的四大类规范。1参见陈瑞华：《企业合规的基本问题》，载《中国法律评论》2020年第1期，第178页。从本质上看，企业算法合规是一种公司治理方式，是企业为实现自身利益最大化，在进行业务管理和财务管理的同时实施的一种风险防控机制，至少包括防范、识别、应对等基本环节。2参见陈瑞华：《论企业合规的中国化问题》，载《法律科学》2020年第3期，第40页。从人权视角来看，开展算法合规不仅是数字企业应对算法治理的必行之举，更是其依据国际人权文书所负有的一项“软法”义务。3企业合规管理已经成为企业日常管理体系的核心内容，无论是否有法律的强制性规定，企业都基于降低经营风险、提升经济和社会效益的考量自觉开展合规管理；而从国际人权规范体系来看，虽然《指导原则》不具有法律约束力，但其因被国家、企业、社会公众等广泛认可而获得强大的道义力量，并且越来越多的公司将《指导原则》的内容纳入其治理规范体系之中，企业人权合规至少已经成为了一项国际公认的义务，因此本文并不对“企业算法合规管理”与“企业算法合规义务”做严格区分，会在不同语境下交替使用两种不同表述。企业合规管理的目的是为了应对合规风险，即因企业行为与法律法规、商业伦理、内部规章等相悖所产生的经营风险。作为专项合规管理内容之一的企业算法合规管理则是企业为了防范因算法设计和使用违反国际人权文书的相关标准而造成的经营风险的管理活动。换言之，企业开展算法合规的目的是使企业的算法技术开发与应用符合共同认可的人权规范、价值、信仰和观念，以人权理念作为约束算法技术的伦理价值与引导数字企业经营行为的基本准则。

（二）企业算法合规的治理理念

通过上文对企业算法合规概念的阐释可以发现，企业算法合规要求企业主动采取防范人权与算法风险的措施，是“政府引导、企业自律、社会监督”三者合力的产物。这种在政府的引导下充分发挥企业参与算法治理的主动性与创造性的多元治理模式符合人工智能时代法律场景的变迁对法律制度提出的客观要求，是对“智能利维坦”的因应。4参见齐延平：《论人工智能时代法律场景的变迁》，载《法律科学》2018年第4期，第37—46页。

第一，企业算法合规需要政府引导。政府应当充分尊重扮演治理角色的企业，以有利于主体发展为出发点，“优先适用激励型和宽容型的执法方式，审慎适用强制性程度高的制裁措施”5王瑞雪：《公共治理视野下的软法工具》，载《财经法学》2020年第4期，第68页。。申言之，企业算法合规作为一种前置性规范与行为义务，只要企业依据法律规定或者自我承诺完整地开展合规调查、管理与应对，则履行了算法合规义务。此时，作为算法“门外汉”的政府公权力应当保持适当的谦抑，“从‘无所不在’的状态过渡到‘在其应在’的状态”1江国华、张倩：《权力的分解、位移与下沉——写在1982年〈宪法〉实施三十周年之际》，载《法学杂志》2012年第7期，第15页。，以此确保在“公民－平台－国家”三元结构和“私权力－公权力”双重权力生态已经成为主流的背景下2参见马长山：《智慧社会背景下的“第四代人权”及其保障》，载《中国法学》2019年第5期，第13—14页。，数字企业通过履行算法合规义务，承担尊重人权的责任，填补国家在工商业与人权议题中的“治理间隙”，确保法律与技术在各自领域得以共进，实现治理效益最大化。

第二，企业算法合规凭借企业自律。企业算法合规管理是为了确保体现“共同善”的算法在“向善”的轨迹上运营，而不是帮助恶意算法逃避法律的规制与制裁。企业自律一方面要求算法的可靠性，即要求数字企业在开发、创新算法内容，设计与调试算法应用时应秉持合理审慎义务，确保算法内容以促进人的发展、保障人权为首要目的。另一方面，数字企业要通过主动作出政策承诺的方式制定算法风险应对方案，并确立申诉报告制度，使企业合规措施有据可依，这既能提升企业合规管理绩效，也能为被侵权人主张权利救济提供依据。严格遵守算法风险应对方案能在很大程度上弥合算法风险敞口，为企业有序运行，尤其是算法创新与开发提供稳定的内外部环境。

第三，企业算法合规依靠社会监督。公众是算法相关产品的主要服务对象，拥有对企业算法及服务的监督、讨论、意见反馈等权利。企业算法合规并非算法治理的终点，而是不断往复的过程。数字企业只有通过内外部监督、持续改善与跟进的方式继续履行企业算法合规义务，才能形成防范算法风险的体系性机制。因此公众要积极参与到治理规则制定中，适当介入相关监督、管理过程，形成与政府、企业协同治理的模式。公众的参与是实现算法治理不可或缺的力量。

（三）企业算法合规的实践路径

企业算法合规义务的履行是一个系统性工程，包括四个重要环节：风险识别、风险评估、风险控制、监督与完善。它要求企业内部全面、全员、全程与全体系的积极配合与严格遵守，每一个步骤都密不可分、相互关联。在实践中，除了要充分考虑以人民为中心、创新与伦理的平衡、全面渗透与多层参与、公开透明和灵活持续等算法合规的基本原则外，企业还应在审慎评估自身实际的前提下，合理借鉴如下建议。

第一，全面识别人权标准和要求。企业算法合规义务是将具有普遍性价值的人权理念作为防范不确定性风险的价值指引，因此在风险识别阶段对人权标准的搜集、整理与消化对企业算法合规管理绩效有着直接影响。首先，国家法律法规为企业算法合规提出了权利保障的底线要求。例如，我国通过“顶层设计”与“配套政策”的规范路径，在《网络安全法》《数据安全法》《个人信息保护法》《反垄断法（修正草案）》等顶层立法框架下，通过实施《互联网用户公众账号信息服务管理规定》《互联网信息服务算法推荐管理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等配套规范，编制了约束算法活动的第一层“规范网络”，避免算法编制和运行过程中发生算法歧视、算法合谋、算法垄断等算法不正义现象。又如，欧盟重点关注算法带来的人类自主性和人性尊严遭受威胁等问题，通过《通用数据保护条例》《数字服务法（提案）》《数字市场法（提案）》《人工智能法（提案）》等制度构建，持续遏制美国巨头平台攫取欧洲数据资源，保障欧洲公民基本权利。1参见程莹：《良法善治 深入推进算法综合治理——对〈互联网信息服务算法推荐管理规定〉的解读》，载《民主与法制》周刊2022年第4期，第44—45页。其次，“国际人权宪章”、联合国核心人权公约2联合国核心人权公约是“由联合国主持制定、联合国大会通过并经各国批准、加入的有约束力的国际人权文件”。除了“国际人权宪章”包含的两项国际人权公约外，还包括《消除一切形式种族歧视国际公约》《消除对妇女一切形式歧视公约》《儿童权利公约》《保护所有移徙工人及其家庭成员权利国际公约》《残疾人权利公约》《禁止酷刑和其他残忍、不人道或有辱人格的待遇或处罚公约》《保护所有人免遭强迫失踪国际公约》。参见毛俊响：《论“联合国核心人权公约”的共性》，载《人权》2017年第6期，第115—116页。等基础性国际人权文书提供了具体的“权利清单”，对企业开展算法合规义务具有一般性引导作用。最后，国际人权条约机构根据相关公约的规定所颁布的一般性意见或建议，是对公约规定的实体和程序内容的观点与解释，是进一步执行人权义务的重要指引。3主要国际人权条约机构针对各个人权公约的规定颁布的一般性意见或建议可经由下列链接选取不同的国际人权条约后获取，https://www.ohchr.org/CH/HRBodies/Pages/TBGeneralComments.aspx。除此之外，包括《指导原则》、联合国“全球契约”、《经合组织跨国企业准则》等在内的针对企业人权责任的国际文件虽然不具有法律约束力，但因其在世界范围内获得工商企业、政府部门、国际组织的广泛认可而具有较高的道德约束力，也是企业开展算法尽责管理时应当注意借鉴或遵守的人权标准。

第二，系统评估算法合规风险。系统全面的算法合规风险评估是制定科学有效的算法合规政策的必要前提，算法合规风险的判断标准是算法应用可能损害或消极地影响个人或集体享有的人权。首先，企业应当对自身行为产生的直接影响负责。例如《个人信息保护法》第66条要求对违反该法规定处理个人信息，或者处理个人信息未履行该法规定的个人信息保护义务的企业，情节严重的，除罚款外，可以吊销企业营业执照，并可以决定禁止直接负责的主管人员和其他直接责任人员在一定期限内担任相关企业的董事、监事、高级管理人员和个人信息保护负责人。换言之，通过算法合规管理来避免算法活动对个人信息权益的侵犯是企业应当承担的首要义务。其次，《指导原则》规定企业除自身行为外还应当对因供应链关系或企业商业伙伴关系产生的间接的负面人权影响承担责任，这是企业的一项人权义务。在数据共享、信息互通、算法开源的数字经济时代，企业提供或使用的算法服务可能对世界另一端的某个社区产生消极影响。负责任的企业应当全面梳理公司业务与行业状况，遵循《数据安全法》《个人信息保护法》等法律法规，进行分级分类和场景化治理，通过算法风险评估尽可能发现风险敞口，通过划分风险等级的方式将暴露的风险逐级排序。最后，外部监督有时更容易跳出思维定式而发现算法漏洞与潜在的人权风险。《互联网信息服务算法推荐管理规定》提出要充实算法监管力量，培育算法治理的社会性支撑力量。因此，企业在评估算法风险阶段可以邀请相关领域的第三方评估机构、外部专家团队、政府工作人员、社区居民、供应链或商业伙伴成员参与，为制定算法合规政策提供全面客观的事实依据并加强程序合法性。

第三，科学制定算法合规政策。作为算法风险应对的重要依据，企业应当依据算法合规义务的基本原则、企业实际状况、所处社会的特定背景制定算法合规政策。企业的算法合规政策应包含合规方针与原则、风险评估结果、政策承诺、执行机制、协调机制、风险应对方案、应急管理方案、监督与报告机制等内容。其中，政策承诺为企业内部实施尊重人权的措施提供必要的规范基础，也为外部利益相关者追究企业责任提供可见的承诺，是确保数字企业可问责性的关键环节。同时，企业算法合规政策必须得到企业最高管理层的批准，必要时可以从核心管理层中指定企业算法合规高级专员以推进和监督算法合规政策的执行，由此确保算法合规政策得以在企业内部全面渗透，通过系统性协调将算法合规政策落到实处。

第四，主动建立申诉与报告制度。申诉与报告制度是算法合规体系的应有内容。由于该制度具有特殊意义，因而有必要进行专门讨论和研究。申诉与报告制度的本质体现为一种“沟通机制”，是企业接受内外部反馈、避免因科层制引起“信息失真”、帮助企业及时采取风险应对措施、优化算法合规管理制度的关键。申诉与报告制度应当遵循公正、透明、高效与可获得的基本原则，应当包括人际会晤、在线交流、匿名通信、集体磋商、公开报告等多种形式与多元渠道。畅通、高效、透明的申诉与报告制度可以在算法合规管理过程中促进公权力、私权力与私权利间的互动，通过多元治理的方式切实有效处理公众诉求，实现算法共治。《互联网信息服务算法推荐管理规定》第17条第3款规定“算法推荐服务提供者应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任”，该款规定在一定程度上体现了我国算法治理申诉和报告制度的发展走向。

第五，探索构建算法审计制度。算法审计是由监管部门、第三方机构或企业自身对算法的流程、要素进行合规性审查。例如，《互联网信息服务算法推荐管理规定》提出事前监管（第23条）、区分监管（第3条）、系统监管（第3条、第23条、第28条）等思路，贡献了新技术新应用监管的中国智慧和中国方案。国家网信部门及有关机关通过确立分级分类的思路，制定算法备案、算法评估等制度，优化监管框架，实现事前事中事后全流程、全链条监管，增强监管系统性和权威性。与此同时，监督与完善机制还应当建立在适合的信息基础之上，来自企业内外部的定性与定量指标都应当成为企业算法合规绩效的评价标准与改进参考。定期回访因企业违规运用算法技术受到负面人权影响的群体，能够帮助企业了解风险应对方案的执行效果；主动邀请行业协会或社区管理者参与算法合规管理绩效评测环节，有助于企业发现合规体系中的不足并进一步提出优化方案；将评估结果与来自内外部的改进建议通过明示的方式纳入不断更新的企业算法合规方案，有利于外部监督的开展与建立负责任的企业形象。

四、将人权标准引入企业算法合规的制度价值

（一）企业算法合规义务的履行具有改进算法治理模式的功能与价值

如前文所述，企业算法合规管理能够在“公民－平台－国家”三元结构和“私权力－公权力”双重权力生态中充分发挥企业在社会多层治理中的作用。在政府的引导下充分发挥企业参与数字治理的主动性与创造性，实现企业从“被管”到“自治”的转型，既能通过多元治理提升监管效率，也可以从源头上解决数字鸿沟、算法歧视等数字经济的时代难题。从算法治理的应然目标来看，玛戈·卡明斯基（Margot Kaminski）提出了包括尊严性治理、正当性治理和工具性治理在内的算法治理三重目标。1See Margot E. Kaminski, Binary Governance: Lessons from the GDPR’s Approach to Algorithmic Accountability,92 Southern California Law Review 1529 (2019).在以人民为中心的原则指引下开展企业算法合规就是为了确保人的固有尊严与自由意志不被算法侵犯，确保算法承受者能够参与算法规制、知悉算法内容、保障个人隐私，从而实现算法治理的应然目标。从合规制度的性质来看，企业算法合规制度既是一种公司治理方式、行政监管激励机制、刑法激励机制，还是应对国际组织制裁的重要依据。2参见陈瑞华：《企业合规基本理论》，法律出版社2020年版，第5—30页。通过预先评估合规风险，企业制定规则对算法执行过程进行监督，避免产生违规行为；一旦风险爆发，企业也可以通过算法合规管理及时纠正与调整。并且，企业的风险自查、自报有利于为企业的违法违规行为换取“宽大制度”。1同上注。将人权标准引入企业算法合规管理，可以将传统的制裁型管理模式转变为激励型模式，有利于提升算法治理水平与能力。

（二）基于人权标准的企业算法合规能够整合算法治理的不同路径

理论上，算法合规既关注事前预防、事中监督与应对，也关注事后救济与改进。基于人权标准的企业算法合规依托公私合作治理规律的认识，能够整合以算法透明为核心的、体现本质主义的事前规制路径与以算法问责为目标的、体现实用主义的事后规制路径。当前全球算法治理以多边治理机制、双边和区域治理以及以私营部门为主体的专业化治理机制为基本形态。其中，作为连接产业链和用户等多方主体的纽带，部分影响力较大的数字企业正承担起居中解决争议的角色。基于人权标准的企业算法合规义务，依据时间或算法效果进行事前、事中或事后的算法影响评估，在事中及事后归责的阶段为算法使用者施以合规证明义务，通过“政府引导—企业自律—社会监督”的配置方式，赋予企业内外部利益相关者参与、监督、反馈的机会。例如欧盟强调高风险人工智能系统必须接受事前评估方能投入使用，这其中就包含了人权风险评估。基于人权标准的企业算法合规对数字企业履行社会职责、提供公共产品、防范公共风险等社会治理活动发挥着重要作用。

（三）企业算法合规义务的履行有助于降低企业经营风险，提升企业经济效益

企业面临的算法风险本身就与人权密切相关，因算法不透明所产生的风险、因算法“偏见”所产生的风险、因算法“权力异化”所产生的风险2参见孙清白：《人工智能算法的“公共性”应用风险及其二元规制》，载《行政法学研究》2020年第4期，第59—62页。，都可能会侵犯作为算法主体的人所享有的平等与非歧视的权利和基本自由，由这些风险进一步产生的对公民权利、政治权利、经济权利、社会权利和文化权利等的侵犯事实更是不胜枚举，对“人的尊严和人的完整性的侵蚀恰恰是现代算法社会所面临的根本性挑战”3张恩典：《大数据时代的算法解释权：背景、逻辑与构造》，载《法学论坛》2019年第4期，第160页。。企业算法合规管理将人的主体性置于最高地位，在源头上控制算法的人权风险，将算法运用可能产生的人权负面影响降至最低。尽管不同法域对算法治理采取了不同方案，但是人权价值的普遍性、人权概念的延展性、人权标准的包容性都能为企业开展跨国数字贸易时降低经营管理成本、控制算法违规风险提供现实方案。人权本身“就可以看作是人类为应对风险所建构出来的防范风险的体系性机制”4唐颖侠：《〈世界人权宣言〉的起草过程与后世影响——纪念〈世界人权宣言〉70周年国际研讨会综述》，载《人权》2018年第6期，第151页。，更何况企业开展合规管理实质上就是在履行人权义务与社会责任，经济学的实证研究早已证明积极履行社会责任能够显著地提升企业的经济效益与市场表现1有关企业积极履行社会责任与市场表现相关性的经济学研究参见刘银国、朱龙：《公司治理与企业价值的实证研究》，载《管理评论》2011年第2期，第45—52页；杨皖苏、杨善林：《中国情境下企业社会责任与财务绩效关系的实证研究——基于大、中小型上市公司的对比分析》，载《中国管理科学》2016年第1期，第143—150页；张琳、赵海涛：《企业环境、社会和公司治理（ESG）表现影响企业价值吗？——基于A股上市公司的实证研究》，载《武汉金融》2019年第10期，第36—43页。。因此，将人权标准引入作为公司治理工具的企业算法合规管理应当成为现代数字企业回应风险社会、谋求可持续发展的重要策略。

（四）企业算法合规义务的履行有利于提升人权保护水平

目前，人类社会正在大步迈向一个通过算法、机器人和人工智能来进行社会和经济决策的“算法社会”，算法的运用已经成为推动人权事业发展的强大动力：以算法、算力和大数据为支撑的智慧教育，如“流利说”“作业帮”“中国慕课”等，极大促进了我国教育资源的均等化，使人民的受教育权得到了切实保障；智慧物流的推广为农村地区带来新的经济增长机遇，通过数字科技的运用确保广大农民的发展权得以实现；智慧医疗的普及满足了社会大众的就医需求，降低了就医成本，为公民获得医疗救治的权利、健康权、享有公共服务的权利排除了障碍。无论是“数字弱势群体保护”、数字人权还是算法合规，都是奉人权为价值理性、以人民利益为出发点和落脚点的算法治理具体路径。在当前的社会背景下，基于人权标准的算法合规进一步促进了对人权的保护。这种新型合规模式既能够确保算法“向善”，充分体现对人的关照与对人权的关怀，提升人权保障与享有水平，也能够为形成系统完善的、基于人权标准的算法治理相关理论积累实践素材、提供经验启示。同时，积极开展算法合规能帮助跨国数字企业增进与经营地社区的互动合作，使企业表现出更高的社会责任感，进而获得 “社会经营许可”（social license to operate），为数字科技与算法应用的发展提供稳定、和谐、可持续的外部环境，推动算法社会的进步，最终为人权的实现提供技术支持与物质基础。

五、结论

伴随算法技术的快速发展，算法软法治理的困境逐步凸显，算法风险的广泛性、复杂性以及不可控性为传统的监管理念、规制手段、责任机制等带来新的挑战。在政府、社会、公民、企业多元主体共治的算法社会中，面对算法透明度、算法问责等算法治理的关键性问题，现代中国人权理论和实践的开放与包容为算法治理提供了新的可能。算法服务带来的风险及损害可归咎于算法的设计者和使用者，以网络平台为主的数字企业是承担算法责任的主体。企业算法合规具有一个系统完整的制度体系，事前对企业行为进行规训与塑造，并对企业违规违法行为进行阻却，是在充分整合现有国际人权标准与企业合规机制的基础上应对算法合规风险的有效途径。将人权标准引入企业算法合规制度，能够为数字企业的日常经营行为、算法技术的发展变革提供伦理约束与价值引导，这对于提升国家形象、降低算法社会风险、强化公众监督以及推动企业有效自治都具有积极意义。