算法歧视法律规制的法理分析

陈星辰 陈雅琪

摘 要：算法的迅速发展使得法律对算法的规制制度迅速滞后，算法逐渐暴露出歧视性的特征，已经严重问题，不仅体现在商业领域，现如今已经向公权力域渗透，严重影响了算法正义的实现。算法歧视产生源自于人类社会本身的歧视和算法权利人的利用目的，并通过数据的量化展现出来。算法歧视是为对人的尊严的侵犯，对平等原则的违背，对正义价值的僭越。反观我国现行的法律规制尚未形成完备的体系，呈现出监管困难、责任落实不到位、法律适用尺度不一等问题，因此，应当坚持以人为本位，建立算法规制的法律体系，维护算法正义。

关键词：算法歧视;平等原则;正义价值;算法规制

近几年，随着移动终端的迅速普及，互联网在数据来源拓宽，加之现代计算机的数据传播、收集、运算能力的加强，算法发展势头迅猛，特别是人工智能的出现，计算机程序超越了传统的被动、机械运算的层次，开始具有大范围的自主深度学习的能力，并且具有了辅助决策功能。

但是，随着科技的迅猛发展，监管和规制制度迅速滞后。2020年，复旦大学孙金云教授带领团队提交了一份大数据报告，揭示了一个非经大样本调查无法发现的问题——价格歧视。大数据“杀熟”问题出现，意味着科技树点亮之后，科技“双刃剑”的不公平、不合理应用的发现、监督、管理和规制的问题将成为一个巨大的挑战。

为了适应大数据时代的到来和算法的发展，以及规制算法的不正当应用的问题，2021年8月，全国人大常委会表决通过了《个人信息保护法》，以调整信息交流、信息保护、信息使用等方面的关系。2021年10月29日，最高人民法院发布了《关于加强新时代知识产权审判工作为知识产权强国建设提供有力司法服务和保障的意见》。

一、算法的概述

根据中国科学技术协会关于算法的定义：“算法是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。也就是说，能够对一定的规范输入，在有限的时间内获得所要求的输出”。本文中所说的算法值得是以计算机为载体的智能算法，不仅包括源代码，也包括算法运行的计算网络以及算法赖以决策的大数据，不论是算法还是现代意义的智能算法，都是通过某一特定规则处理信息，并输出为特定结果。由于算法的不透明性和自主性，侵权事实的发现，以及侵权事实发生后侵权责任分配成为难题，算法“黑箱”也可能成为责任机构推诿的工具和屏障。

二、算法歧视的产生与表现

科技本身具有中立性，但是在实行过程中，算法却表现出歧视性。根据现在通说的观点，“算法歧视的根源是人类本身”，人工智能歧视和威胁都并非来自人工智能，而是设计者和支配者的思维的衍射。在设计算法的过程中，设计者往往根据自身的需要、立场以及利益等因素，使得算法的运行能够满足符合预期目的。其次，算法学习和依据决策的大数据本身，也会反应算法设计者和数据产生、收集者的价值偏好，算法实际处理处理数据的过程中，看似客观中立实际区别对待的。第三，算法具有社会历史性，牛津大学数据伦理和算法领域专家桑德拉.沃撤说：“世界存在偏見，历史数据就存在偏见，因此，我们得到带有偏见的结果，不足为奇。”人类社会本身是潜藏偏见性的，算法通过数字量化的方式，使得偏见以更直观的方式显化出来。

算法嵌入商业领域、社会生活领域甚至公权力领域，已经对社会方方面面产生深远的影响。因此，当算法歧视的问题影响的范围也非常广泛，本文将从社会生活领域和公权力领域对算法歧视的表现进行分析。

首先，算法歧视表现在社会生活领域。在算法建立的基础上，算法的支配者和适用对象之间的地位注定不平等。在用户加入企业平台初期，往往会要求用户签订“隐私协议”、“用户协议”等格式条款作为使用软件的前置条件。对客户的年龄、浏览记录、价格区间等信息进行收集，是平台在算法的帮助下，利用双方的的信息差，重新制定具有针对性的定价、制定营销策略。

其次，算法歧视的的问题渗透进公权力领域，近年来从中央到地方大力推进“智慧法院”、“法律辅助系统”，例如北京市高院的“睿法官”，最高院的“类案智能推送系统”，这些智能系统都表现出强大的数据处理和分析能力，在应对“诉讼爆炸”方面提高司法效率，辅助裁判具有重要的意义。但是算法的弊端随之而来，司法系统数据量庞大，系统建设发展迅速，使得算法歧视在司法领域表现得尤为明显。

三、法律规制算法的法理证成

我们在依赖算法的同时，不得不承受伴随着算法的特性而来的巨大风险。因此我们应当充分了解算法带来的影响，对算法歧视的规制的研究具有重要意义。

（一）算法歧视的法理违背

首先，算法歧视对人的尊严造成侵犯，“虽然尊严不是一种美德，却是许多美德之母”，人的尊严是任何时代、任何国家都应当尊重和捍卫的底线，也必须成为算法时代伦理以及法律的至高原则。我国《宪法》明确规定，“中华人民共和国公民人格尊严不受侵犯”，但是算法歧视的对人的尊严提出了挑战。首先，在当代互联网的“监视”下，用户在个人信息和隐私不得不做出一定的退让。算法利用收集来的用户信息对用户进行分析、画像，并作出相应的营销对策和定价时，是在未经用户的知情同意的情况下，已经打破了平台和用户基本的平等和尊重。针对用户个人信息进行分析的时候，性别、年龄、民族、职业等进入分析模型，难免对各种变量进行加权，种种明码标价的行径很难说不是在挑战尊严的底线。人民在社会关系中应当占据主体地位，人民主体性的基础基本要求就是人的意思自由，能够按照自己的意志自由行动。人工智能的算法是最初的定位是服务和辅助人类，而现在人工智能正在脱离工具性地位，正在形成算法权力对人产生支配作用，人在交易中从独立自主地位变成了被支配地位。算法应当维护人的尊严，而不是漠视和凌驾于人的价值之上，这种对人本主义的漠视是不可取的。

其次，算法歧视明显违背了平等原则。平等原则是主体的法律地位一律平等的准则，是现代法律的精髓。我国宪法明确规定：“中华人民共和国公民在法律面前一律平等”，在算法歧视造成的差别中，往往在限度和事项上是不合理的，是违背公序良俗的。消费者在以让渡部分个人隐私换取服务时，并不意味着与商家交易接受差别对待。而且算法具有不透明性，算法歧视往往具有隐蔽性，用户无法获得大量数据来查证是否被差别对待。用户和平台的对抗处于实力悬殊的地位，平台拥有强大的数据支撑，用户缺少能力和专业知识对抗，但是为了使用便利只能妥协。平台和用户之间已经从信息不对等转化为实质的权利义务的不平等。当算法歧视渗透进公权力领域，公民的平等权将会受到进一步剥削，使得公民在保障权利的“最后一道防线”这里仍无法寻求到公正的对待。将引发更为严重的社会后果。

（二）规制算法歧视的合理性

法律与科技的关系一直是法理学界重点讨论的话题，根据韩大元教授的观点，法学的使命不是要对科技发展所带来的辉煌成就的赞成，而是要审视科技可能带来的非理性后果，以及如何通过法治降低科技发展带来的风险。v不能因为科技造成非理性后果就因此制约科技的发展，但是要引导科技在正当的轨道发展并运行是法律应有之义。

技术的发展可能对法律造成冲击和挑战，但是法律仍应当对技术发展进行保护。法律也是力量对比的体现，因此当科技的力量发展的足够壮大，应当对其进行规制，处理好技术的保护和规制的关系，才能达到调整社会力量平衡，实现社会公平正义，维护社会秩序的稳定。

四、现行算法规制模式

近年来，我国明显加强了对个人信息的保护，2021年11月《个人信息保护法》正式开始实行，通过个人信息保护法，对公民个人信息的收集、处理和使用做了严格的限制。同样于2021年施行的《民法典》也明确规定了公民的“隐私权与个人信息保护”。其他关于个人电子信息的规定还散见于《关于加强网络信息保护决定》、《网络安全法》、《消费者权益保护法》等，对于严重侵犯公民个人信息权的行为，《民法典》中明确规定了网络侵权责任，《刑法》与《刑法修正案（九）》中也具体明确规定了“侵犯公民个人信息罪”和“编造、故意传播虚假信息罪”，作为保障公民个人信息权落实的底线。

在我国的立法实践中，真正对算法、深度学习及个性化定制等内容进行规定是近两年才开始的。2019年实施的《电子商务法》首先针对用户画像并个性化推送商品的行为做出规制。随后陆续出台的《数据安全管理办法》、《网络信息内容生态治理规定》分别就“定推”的相关规定，围绕着“定推”标识义务、“定推”的人工干预和用户自主选择机制做出了明确规定。2020年，国家标准《个人信息安全规范》对信息安全保障做出更加详细的规定，针对“多项业务功能自主选择”，“用户画像的使用限制”、“个性化展示的使用”、“获取个人数据”及“算法自动决策”的权利进行严格限制。指定个人信息保护方面的标准有可能成为作用于法律与实践之间的“润滑剂”，对动态发展的个人信息提供动态保护建议。

我国现行的算法的法律规制重视对算法输出结果的规制，对过程的规制较少，责任平台的责任承担不够明确，而且条文散见于法律法规之中，缺乏体系性。虽然我国诸多法律里已经提及算法的规制和公民权利的保护，但是涉及的法律法规众多，且分处与不同的层级，缺乏体系性会导致使用的困难、立法和裁判尺度难以统一，不利于市场监管等。其次，如果无法把责任落实到位，则权利保护就无从谈起。在对于我国现行的算法规制的法律规范来说，我国对于平台责任并未作出明确的规定，特别是电子数据，由于流通的便利，隐患就更为严重，我国在数据的滥用、泄露、流通方面的义务、责任没有明确具体的规定，而且处罚手段单一，只能动辄使用刑罚处罚，这样的手段实际上是无法调动企业合规运营的积极性的vi。面对技术发展的需求，执法部门需要更为及时有效、多样的规制方法。

五、建议

我国对于算法的研究不足，但是算法本身的发展和应用的传播却异常迅猛，法律规范该如何订立需要长期的探索。但是算法的侵权问题迫在眉睫，因此，本文从以下三个环节做出建议，试图对算法运行的各个环节进行全面制约和监督。

首先，明确信息的授权边界，因为算法歧视的基础是数据歧视，因此防止算法对公民权利的侵害，首先应当明确个人信息的授权边界。企业希望尽可能的从个人手中获得信息的支配权，算法强大的数据依赖性决定了对信息丧失主动权的一方会被至于被支配地位。企业因此往往以格式条款的形式让信息授权成为用户使用平台的前置条件。为了保护用户权利，信息的管理应分等级进行授权，必要信息和非必要信息采取分类的授权方式。而且信息的获取的内容和时间等都应当分类做出具体规定，而且应当授予用户更多的选择权，实现授权范围明确化，授权选择多样化。

第二，提高算法程序的准入门槛，算法程序在正式投入前，有必要进行针对性的测试实验，通过审查部门的审查并进行备案，算法的由于其可变性，运行过程中需要及时报备，以达到算法及时监管的目的，保障公民权利不被长期侵害。与此同时，要对算法的报备必将带来商业风险，要完善算法保护机制，对公权力予以规制，以维护经济秩序的稳定性。

第三，要完善算法的监督机制，公权力应当加强对算法的监管，各领域的监管部门应当重视算法的侵权状况，对于算法歧视的问题要及时规制。其次，要加强社会监管，企业和个人都应当参与到算法歧视的监管中，社会各界的监管对算法歧视的规制具有极其重要的意义。在监管方式上，应当以算法检测算法和人工检测算法相结合，因为算法歧视的隐蔽性、运算能力和运算步骤的复杂性，需要借助算法的辅助来规制算法，涉及到核心的算法，仍应当由人工进行监测，以防范重大風险的出现。

我们要充分意识到，歧视也会随着数字化的过程被直观显化甚至数字量化，算法歧视会成为公平、正义价值的阻碍。鉴于人工智能的发展阶段，算法规制的应对策略应当综合法律、技术、道德等多方规制，使得算法在相对健康的方向上长足发展，使得科技真正实现造福人类。

参考文献：

[1]张凌寒.算法权力的兴起、异化及法律规制[J].法商研究，2019，36（04）：63-75.DOI：10.16390/j.cnki.issn1672-0393.2019.04.006.

[2]於兴中.算法社会与人的秉性[J].中国法律评论，2018（02）：57-65.

[3]丁晓东.论算法的法律规制[J].中国社会科学，2020（12）：138-159+203.

[4]姜野. 算法的法律规制研究[D].吉林大学，2020.DOI：10.27162/d.cnki.gjlin.2020.000629.

[5]郑智航.人工智能算法的伦理危机与法律规制[J].法律科学（西北政法大学学报），2021，39（01）：14-26.DOI：10.16290/j.cnki.1674-5205.2021.01.017.

[6]程尧，蔡一军.人工智能背景下算法演进的风险及其法律规制——以域外模式为视角[J].山西大同大学学报（社会科学版），2020，34（02）：33-39.

[7]韩德阳. 算法歧视的法理分析[D].湖南工业大学，2021.

[8]汪建.智能社会 公平为先——试评人工智能算法歧视问题[J].中国电信业，2020（01）：10-11.

[9]雷震文. 算法偏见对“智慧司法”的影响及其防范[N]. 法制日报，2017-12-27（011）.DOI：10.28241/n.cnki.nfzrb.2017.000369.

[10]张文显.“无数字，不人权”[N]. 北京日报，2019-09-02（015）.DOI：10.28033/n.cnki.nbjrb.2019.004929.

[11]周汉华.探索激励相容的个人数据治理之道——中国个人信息保护法的立法方向[J].法学研究，2018，40（02）：3-23.

[12]栾群，王夙，张浩，徐丹.《人工智能创新发展道德伦理宣言》解读和思考[J].人工智能，2019（04）：133-136.DOI：10.16453/j.cnki.issn2096-5036.2019.04.016.

[13]左亦鲁.算法与言论——美国的理论与实践[J].环球法律评论，2018，40（05）：122-139.

[14]张帆. 人工智能时代下算法歧视的法理分析和法律规制[D].广州大学，2019.

[15]马长山.智慧社会背景下的“第四代人权”及其保障[J].中国法学，2019（05）：5-24.DOI：10.14111/j.cnki.zgfx.2019.05.001.

[16]劉友华.算法偏见及其规制路径研究[J].法学杂志，2019，40（06）：55-66.DOI：10.16092/j.cnki.1001-618x.2019.06.006.

[17]韩大元.当代科技发展的宪法界限[J].法治现代化研究，2018，2（05）：1-12.