算法自动化决策在行政处罚中的应用风险与规制路径

余 俊，王守慢

（安徽师范大学 法学院，安徽 芜湖 241000）

随着人工智能、算法自动化决策在行政领域中的逐渐推广，自动化行政开始涉足行政执法实践并逐渐扩大应用场景范围。算法自动化在行政执法应用中，不仅体现出人工智能在信息收集、数据处理方面的迅速与便捷，而且逐渐出现机器自动作出决策的情形。前者如健康码的设计与使用，即通过对个人信息的收集与整理，利用大数据对比得出健康码的赋予类别，再由执法人员根据不同颜色标示的健康码决定是否采取隔离措施。后者如交通执法中的电子监控抓拍违章，即通过大数据、人工智能等技术对过往车辆进行全天候监测，按照既定程序规范收集违法数据并作出处罚决定，并将处罚结果通知行政相对人。该过程除了最终的审核环节有人员参与，其他均由依托算法规则运行的机器作出。由此可看出，算法自动化决策逐步应用于行政处罚领域，并且逐渐将立法赋予行政机关的权力部分或全部交由机器行使，由机器输出处罚决定结果。由于行政处罚属于负担性行政行为，会对行政相对人的切身利益产生影响，而算法自动化决策又具有“黑箱”性质，无法客观呈现在行政相对人面前，所以对算法自动化决策在行政处罚中的应用风险与规制路径进行研究是十分必要的。

一、算法自动化决策在行政处罚中的运作机理

（一）算法自动化决策的适用表现

算法自动化决策是指算法对输入的数据进行分析处理，通过既定的程序自动化输出结果的过程，这个过程无需人类参与。与算法辅助决策不同，具备自动化决策能力的算法不再是纯粹的工具，其在模仿人类思维的道路上不断前进，在一定程度上甚至具备了与人类抗衡的能力。如果对特定的行政执法活动进行法律评价与处理，那么其必然包括三个必要环节：识别与输入、分析与决定、输出与实现〔1〕。算法辅助决策只进行到第一个环节，即信息的识别与输入。而在算法自动化决策中，则包含了整个数据运行的三个环节，取代了人工分析与作出决定的重要一环。

（二）算法自动化决策在行政处罚中的运作机理

将算法自动化决策应用到行政处罚中，即是借助计算机软件、算法模型及大数据等科技手段，模仿执法人员处罚裁量的思维逻辑和实施过程〔2〕。行政处罚要实现算法自动化决策，首先，要解决计算机与人类不同的语言体系问题。算法的运作以计算机代码为自身的语言体系，将以自然语言表达的法律规范转译为代码，然后再将代码转译为二进制指令，这样计算机才具备依据法律规范执行指令的可能，继而作出行政处罚决定。其次，要解决算法规则如何体现行政处罚逻辑问题。算法自动化决策的基础技术之一是通过构建知识图谱来表现客观世界中概念与实体之间的联系〔3〕。以法律知识为基础构建的知识图谱要能够体现出适用过程中的法律逻辑，然后在此基础上搭建系统自行运作的算法模型，对于作出处罚决定所需要的法律规范、类案分析、逻辑顺序等，按照机器所能运作的代码方式进行设定，让机器通过设定好的算法模型进行法律知识推理，赋予其模拟执法者真实法律逻辑的能力。再次，要解决行政处罚裁量自动化的问题。行政处罚裁量权是法律赋予执法人员在职权范围内决定是否给予行政相对人处罚以及如何选择处罚幅度的权力。当行政处罚裁量权部分或全部赋予机器行使时，就会利用算法程序将裁量过程分解为可供机器运行的计算步骤，此时执法人员的行政裁量过程就人为地以计算机语言的形式呈现出来，通过执行计算机指令来完成案件的违法信息输入、法律效果分析和裁量结果输出。

如上所述，算法自动化决策在行政处罚中的运作流程如下：先是将法律规范、违法行为、违法后果等自然语言翻译成计算机可执行的代码，再将代码以一定的逻辑组合形成算法模型。在代码和算法的作用下，计算机有条不紊地完成数据分析任务并得出裁量结果，其中最重要的环节是通过算法规则体现法律裁决案件的规则。

二、算法自动化决策在行政处罚中的功能体现

（一）降低执法成本，提升执法效率

算法自动化决策可以帮助解决传统执法过程中效率不足、成本过高等问题。如在“杜宝良案”中，累计105次的违法驾驶行为均被电子监控设备拍到并给予行政处罚〔4〕。在自动化技术运用到行政执法领域之前，诸如交通违章等行政处罚工作主要依靠人力来完成，倘若每一次违法行为都被执法人员发现并给予处理，需要花费大量的人力、物力、财力，执法成本比较高昂。在人力资源不足的情况下，违章处理实际上可以理解为“抽查”，行为人违章数次，执法人员可能只会发现一次，执法效率远不及自动化系统的监控。自动化技术出现之后，违法行为被发现处理的概率则大大提升，能够以较低的执法成本来发现尽可能多的违法行为。算法具有极速的特征，在信息采集、数据分析等方面具有明显优势。通过算法设定好的模型，在捕捉到既定的违法信息并作出处罚决定时，可以即时通知到行政相对人，以避免行政相对人违法行为持续性造成的影响。总的来说，一方面，执法人员可以极大地减少工作时间，降低执法成本；另一方面，借助人工智能算法决策，行政相对人能够得到更加高效便捷的服务。

（二）减少人为干扰，避免同案异罚

人力执法时代，主要依靠的是执法人员进行事实调查、证据收集固定、处罚裁量决定等程序。依据《中华人民共和国行政处罚法》（以下简称《行政处罚法》）的相关规定，执法人员具有法律赋予的是否给予行政相对人处罚以及选择处罚幅度的权力，然而在作出处罚决定的过程中，执法人员容易受到心情、人际关系等因素的影响，可能会产生偏私、不公，出现权力滥用导致处罚不当的现象。机器不具有人类的情感，自动化处罚决策是按照既定的裁量基准，对违法事实进行判断并给出处罚结果。其可以通过程序设计排除不相关因素，包括影响处罚公正的人为因素。虽然有观点认为算法模型由人类研发设定，研发人员的个人偏见会使算法规则带有偏见〔5〕，但这种风险可以从源头预防。减少算法规则设置过程中设计人员的主观影响，可以降低算法歧视风险。算法自动化决策的应用，可以使行政处罚决定更具有科学性，可以减少执法人员的肆意性，避免因人情执法造成同案异罚的情况发生。算法自动化决策技术压缩了执法人员的裁量空间，对于规则以电子化的形式确定，对于违法事件则按照事先设定好的算法规则进行结果判定，因此有利于提升行政处罚结果的统一性和公正性。

三、算法自动化决策在行政处罚中的应用风险

（一）算法自动化决策抵牾正当程序原则

正当程序原则是规范行政权力边界、保障行政相对人合法权益的重要保障机制。正当程序制度是在实体法规定无法满足实现公平正义的情况下，通过向注重程序性规则转变，达到维护公平正义的目的〔6〕。我国行政处罚程序较为完善，其中关于行政机关的告知义务、说明理由和行政相对人的陈述、申辩、申请听证等程序在《行政处罚法》中都有所规定，这些程序的适用在限制行政权力、保护行政相对人合法权益方面起到了至关重要的作用。算法自动化决策将识别与输入、分析与决定、输出与实现三个环节贯穿于行政执法当中。一方面，可以使行政权力更加有效地行使，提高行政机关发现违法行为并及时处理的能力。另一方面，由于自动化行政利用科技等手段改变了传统的执法方式，对正当程序原则产生了一定的冲击〔7〕。

第一，算法自动化决策的“黑箱”性质与正当程序原则相抵牾。在自动化行政处罚过程中，对违法事实的分析与处罚是通过算法规则适用既定的算法程序进行处理的，基于这些步骤、代码、程序等的过程会形成一个“黑箱”〔8〕。“黑箱”内的分析过程无法被行政相对人了解，决策结果如何得出也无法被行政机关作直观解释。正当程序原则要求行政机关在作出行政处罚时，必须向行政相对人说明处罚理由。然而，算法自动化决策的整个决策过程都处于不透明状态，行政机关难以参与到决策过程中，更无法向行政相对人说明理由。借助算法自动化决策进行行政处罚的行为，使得行政权力在较为隐秘的状态下行使，难以对行政权力进行有效监督，在一定程度上会影响行政相对人对政府的信任度。

第二，算法自动化决策的极速性特点与程序正义原则相冲突。利用自动化处罚决策系统，违法行为的处罚决定在极短的时间内即可完成，原先由执法者作出处罚决定时所需要的诸如告知、听证等程序均被省略。如在“杜宝良案”中，电子监控设备在作出处罚结果后并没有及时通知行政相对人，也没有给予行政相对人陈述和辩解的机会，违背了程序正义原则。毫无疑问，算法自动化决策一方面提高了行政执法效率，但另一方面，行政相对人在行政活动中的部分程序性权利无法得到保障。

（二）算法自动化决策难以体现过罚相当原则

行政裁量权是指行政机关在法律规定的范围内可以自由选择处罚的种类和处罚的强度。裁量本身带有强烈的主观色彩。行政主体在自由裁量的过程中会受到舆论、道德、价值观念等的影响，而这些影响恰好也有助于监督其行政权力的正当行使。但在机器作出处罚决定的过程中，由于算法自动化决策的极速性和“黑箱”特点，执法人员无法参与裁量过程，只负责最后的裁量结果审查。当执法人员选择采纳自动化处罚裁量结果时，可能会以自动化处罚裁量结果在法律规定的处罚幅度范围内为由，主张自动化处罚裁量结果符合法律规定。然而，《行政处罚法》第五条第二款规定，实施行政处罚必须与违法行为的事实、性质、情节以及社会危害程度相当。也就是说，即使自动化处罚裁量结果处于法定处罚幅度范围内，也并不必然合法，若构成“明显不当”，仍会被法院撤销或变更。

机器自动化处罚裁量是借助算法自动化决策程序，将原本由执法人员主观考虑的证据转由机器按照既有的算法模型进行分析，机器按照事先设置好的各种不同情节进行选择、堆砌、组合，从而得出适用于个案的裁量结果。值得思考的是，利用算法规则的机器如何判断“情节轻微”“情节严重”，又如何得出具体处罚数额。如2014年在珠海市发生的一起交通事故，珠海市公安局交通警察支队香洲大队对何友庆“应当撤离现场而未撤离，妨碍正常交通”的违法行为给予了500元的行政罚款。该处罚决定并非由珠海市公安局交通警察支队香洲大队行使行政裁量权作出的，而是依据公安交通管理综合应用平台上已设定好的处罚种类和罚款数额而作出。何友庆不服，以行政处罚证据不足和顶格罚款不适为由提起诉讼，二审法院变更罚款为200元。在该案中，何友庆的违法行为被电脑应用平台顶格设定罚款，认定为“情节严重”，而二审法院结合其对交通造成的妨碍程度以及其他情节和事实，认定为“情节轻微”〔9〕。机器与法官作出不同处理结果，充分说明严格遵循算法逻辑运行的裁量系统具有不可避免的僵硬性缺陷，无法体现处罚裁量所蕴含的价值衡量。执法人员利用算法自动化决策得出的顶格处罚决定，从某种角度看也是怠于行使行政裁量权的表现。行政裁量权是为了保证每一个案件都实现公平正义，而机器对于不同的案件都按照事先设定的程序进行裁判，得出的裁量结果都一样，这与法律赋予行政裁量权的目的相背离。

从算法自动化决策的优势来看，机器不具备人类的情感，在一定程度上可以避免人为干扰，保证行政权力的正当行使。但这种优势不是绝对的，也正是因为算法自动化决策程序的固化性与行政处罚裁量的主观性相冲突，导致难以充分考虑相关因素，进而难以作出与违法行为相适应的处罚决定，从而违背过罚相当原则。执法人员的主观裁量因素虽然可能会影响行政权力的正当行使，但也恰恰因为人类所具有的情感，可以使行政处罚结果更具有温情，更符合行政相对人的合理预期，这是机器裁量所不具备的优势。执法人员无法参与自动化处罚裁量过程，意味着处罚结果将由设置好的算法程序所控制，裁量结果也可能因为在处罚幅度范围内而免于审查，最终导致算法自动化决策结果不尽合理，对行政相对人的合法权益造成一定的损害。

（三）算法自动化决策可能噬夺执法者处罚决定权限

国务院办公厅印发的《关于全面推行行政执法公示制度执法全过程记录制度重大执法决定法制审核制度的指导意见》指出，要积极推进人工智能技术在行政执法实践中的运用，研究开发行政执法裁量智能辅助信息系统。所谓“辅助”，即表示非基本、非主要，也就是说，在行政处罚裁量过程中，机器裁量只是发挥工具价值，执法人员才真正处于主导地位。由于自动化处罚裁量系统不断优化，并且借助自动化处罚裁量，可以有效避免执法人员滥用权力，有助于达到客观公正的执法效果，这就使得执法人员对算法自动化决策产生了极大的依赖性，倾向于采纳机器所作出的裁量结果，并将之视为公正执法的体现〔10〕。然而，在行政执法实践中，自动化处罚裁量结果并不必然合法，算法自动化决策系统对执法人员的执法活动也存在诸多掣肘。在调查取证阶段，执法人员的调查权部分或全部让渡给机器，由机器行使。证据是否被收集固定是根据算法决策程序是否提前设定，而不是依据证据的证明力强弱或证据链条是否完整。机器留存的证据是否能充分证明违法行为的发生，能否让行政相对人信服，以及证据的证明力如何补强，这一系列的问题都无法得到充分的解释。在行政处罚决定作出阶段，人类无法参与机器自主裁量的过程，行政处罚决策权有被算法噬夺的风险。如在何友庆案中，交警大队辩称应用平台的设定处罚额度就是500元，无法对罚款额度予以调整。由此可见，机器的程序设定导致执法人员失去了对裁量结果的变更权限。正如该案所展现的那样，平台的应用由省级公安部门统一部署，基层执法部门尚无更改权限。即使是对自动化处罚裁量结果负有审查义务的部门，想要变更系统作出的处罚结果，也要经过非常严格的申请程序〔2〕。

自动化处罚决策的结果输出以法律知识为基础，依托计算机系统，借助算法模型，进而形成某个规则、命令。算法自动化决策系统不仅可以完成调查取证工作，而且可以在自行收集证据的基础上直接作出处罚决定，由执法人员对处罚结果进行审查。在算法程序和指令的操控下，执法人员要想补强证据的证明力或者更改已经作出的处罚结果，都需要更为复杂的程序申请，从而导致更多执法者偏向于规避更改处罚结果，出现处罚决策权被算法噬夺的危机。

四、算法自动化决策在行政处罚中的规制路径

（一）增强算法自动化决策透明度，保障行政相对人的程序参与权

第一，应增强算法自动化决策透明度。要增强算法自动化决策透明度，需要先了解算法在哪些方面违背了行政公开原则。首先，算法是一种技术手段，涉及商业秘密，导致一定程度上的不便公开。其次，数据的收集对公共利益会有较大影响，基于对公共利益的保护不可轻易公开。再次，数据基于算法模型是如何分析得到输出结果的也不透明〔7〕。因此，需要调和算法自动化决策与行政信息公开之间的矛盾，使算法自动化决策的相关内容最大限度地为行政相对人所知晓。在我国行政执法活动中，算法自动化决策系统常应用于行政许可、行政处罚等领域，而在实践中，绝大多数行政相对人并不清楚在什么样的行政活动中存在算法自动化决策。政府应将算法自动化决策应用清单公布于众，让群众知悉算法自动化决策的行政活动类型，了解算法自动化决策带给自己的利益影响〔7〕。此种做法既符合政府信息公开的题中应有之义，也利于彰显政府依法行政的本质特征。

第二，应提高行政机关对自动化处罚结果的解释能力。囿于数据来源不透明、算法“黑箱”等因素，加之行政处罚中行政相对人与行政机关信息不对称，行政相对人对机器自动作出处罚决定的行为存有疑惑，行政机关也常常以算法运行不能作直观的解释为由拒绝说明处罚理由，从而违背了正当程序原则。提高行政机关的算法解释能力，并非要求行政机关对算法决策的程序运行问题予以说明，而是当行政相对人对由机器作出的处罚决定不信任时，行政机关要向行政相对人进行解释说明，并保证个案公正〔11〕。具体来说，行政机关不仅要使行政相对人知晓处罚决定是如何作出的，告知行政处罚决定在何种程度上参考了算法自动化决策结果，还应就行政相对人如何针对算法自动化决策结果进行申诉提供救济路径。

第三，应保障行政相对人程序参与的权利。尽管算法自动化决策极大压缩了行政处罚程序，但自动化处罚行为并不能因为过程乃至结果的数据化、智能化而改变其本身的性质，自然也不能因为算法规则的不同而忽略正当程序的应用。换言之，自动化行政处罚改变不了负担性行政行为的属性，仍然会影响行政相对人的切身利益。虽然算法自动化决策因极速性特点导致行政相对人无法参与到处罚决定作出的阶段中，但是应加强完善行政相对人对处罚结果作出后的救济程序。当自动化处罚裁量结果作出后，应及时通知行政相对人，并告知其救济途径，必要时应设置专门的听证程序，以保证行政相对人能够充分表达自己的合理诉求。

（二）提升裁量基准精细化，保留行政、司法部门的决策审查权

如何规范行使自动化处罚裁量权，一方面需要提升裁量基准精细化；另一方面需要保留行政、司法部门对机器自动化处罚结果的审查权。

裁量基准是行政机关在对执法经验、裁量技术进行总结的基础上，细化各种行政处罚的具体适用情形和不同处罚幅度的具体适用标准，进而将宽泛的裁量空间选择压缩成分档分层的技术操作〔12〕。算法自动化决策所依托的算法规则是由传统的裁量基准转译成的代码组成的。换言之，决策结果的稳妥性以及计算规则的合规范性是以裁量基准为依据的，计算机只不过是在无差别地执行裁量基准所框定的处罚情节与量罚幅度〔13〕。因此，从保证计算机计算结果的准确性出发，应施力优化传统的行政执法裁量基准，并对其进行精确的编辑转译。对行政执法裁量基准进行细化，既可以有效避免行政执法人员根据个人的情绪、偏好和经验肆意作出判断与决定，防止自由裁量的随意性与任意性〔14〕；又可以为自动化处罚裁量在行政执法中的发展预留出更多弹性和创新空间。对于裁量基准如何精准地转化成机器执行的代码，应设置算法自动化决策审查制度，通过专家对代码转译的审查，不仅可以确保裁量基准转译的准确性，还可以预防算法自动化决策潜在的风险，如算法模型的设定带来的歧视风险。

囿于当前自动化行政技术发展的局限性，算法尚不能妥善地行使自由裁量权。所以，人类的干预仍有必要，应加大行政、司法对自动化处罚结果的审查力度。一方面，应赋予执法人员补充调查事实依据、变更自动化处罚裁量结果的操作权限，使处罚结果更加科学化。为避免执法人员过度依赖机器，应要求执法人员对自动化处罚裁量结果进行实质审查，决定是否采用机器得出的处罚裁量结果。如若采用，应将实质审查结果连同自动化处罚裁量结果一同提交审核，同时向行政相对人进行充分的理由说明。另一方面，对于因自动化处罚裁量引起的行政诉讼案件，法院要基于全面审查原则对自动化处罚裁量辅助系统进行合法性审查，要求行政机关就自动化处罚裁量辅助系统的设计与运用向法院作详细说明，由法院判断自动化处罚裁量行为是否合理、合法。如若该行为明显不当，法院应以行政处罚行为明显不当为由进行变更判决，并就自动化处罚裁量辅助系统向行政机关提出审查建议。

（三）明确算法自动化决策的辅助功能，严格界定自动化处罚裁量的适用边界

根据算法在自动化处罚裁量中参与程度的不同，可以将自动化处罚裁量划分为辅助计算模式、执行既定规则模式以及机器学习模式〔13〕。在不同模式中，算法自动化决策系统的功能作用不同。有些机器仅仅在量罚中协助执法人员作出处罚结果，而有些机器可以按照既定的裁量规则独立完成处罚决定，甚至可以自主完善、充实裁量规则，导致处罚结果脱离执法人员可控范围。基于此，为确保行政处罚决定权始终为执法人员所掌握，就需要明确算法自动化决策的辅助功能，严格界定自动化处罚裁量的适用边界。

第一，应明确算法自动化决策的辅助功能。行政处罚裁量权不应完全交由机器行使，而应只让机器为执法人员作出处罚决定提供参考意见。即使机器自主作出处罚决定，也需要由执法人员进行最终审核，并决定是否采用。如前所述，行政处罚一旦作出，将对行政相对人的利益产生影响，而自动化行政目前尚处于弱人工智能阶段〔15〕，局限于各种数据信息的聚合、归类和推送，在推理、解决实际问题尤其是法律问题上缺少严谨的思维逻辑。所以，需要以人类为主导，同时积极利用机器自动化处罚裁量结果的辅助功能，共同为规范行政处罚裁量权的行使作出贡献。

第二，应从严界定自动化处罚裁量的适用边界。即要明确哪些行政处罚行为可以由算法自动化作出决策，哪些行政处罚行为只能交由人类来决策。虽然算法自动化决策有利于节约执法成本，排除人为主观干扰，但是结合行政处罚的侵益性来看，对行政相对人权益损害轻微的可以交由算法自动化进行决策辅助，执法人员进行行政处罚结果审查；对侵益性较强的行政处罚则由执法人员进行处理较为适宜〔13〕。此外，对于自动化处罚裁量模式的应用需谨慎选择。如前所述，机器学习模式的自动化裁量可以独立完成处罚决定，甚至裁量结果可能超出预期范围。如果行政处罚结果难以为民众所预期，则民众难以信服行政处罚结果。