行政处罚中人工智能的应用及其边界考量

韩轶 张婷

摘      要：随着时代的发展，人工智能技术已被广泛应用于行政处罚立案、调查取证、决定、执行环节，对于提升行政处罚效率、保障行政处罚公正性、增强行政处罚精准度起到了积极作用。实践中，人工智能的应用尚存在数据收集出现瑕疵、程序性要求易受减损、决策可接受度或将下降、责任承担主体和归责原则难以确定等风险。对此，需要审慎推进人工智能的应用，明确其在行政处罚中的边界。

关  键  词：算法;人工智能;行政处罚;技术功用

中图分类号：D922.11        文献标识码：A       文章编号：1007-8207（2022）05-0077-08

收稿日期：2022-02-04

作者简介：韩轶，河海大学法学院副教授，法学博士，研究方向为宪法学;张婷，河海大学法学院硕士研究生，研究方向为行政法学。

主流观点认为，人工智能是指能够在繁杂环境中进行感知、学习、推理、沟通等智能化行为的机器。[1]人工智能的出现和发展，正深刻改变着经济关系、社会关系、政治关系以及法律结构与形态，将人类社会带入一个崭新的智能纪元。作为人类智慧的结晶，人工智能展现出鲜明的赋能特征，可以显著提升行政处罚效能，但是也诱发了一些潜在风险，技术功用的有限性逐步凸显。因此，面对人工智能有限的技术功用，行政处罚领域如何审慎推进新兴技术的应用成为亟待解决的现实问题。

一、行政处罚中人工智能的兴起

（一）应用空间梳理

行政处罚程序包括一般程序和简易程序。以一般程序为例，大致分为立案、调查取证、告知、作出处罚决定、送达与执行等环节，而人工智能的应用也主要包括以下几个方面：

一是立案阶段。人工智能被广泛用于信息的收集与处理，通过人工智能可以发现案件的线索来源，分析解读行政相对人的违法行为、评估研判其违法情节，启动行政处罚的立案程序。如江西省鹰潭市市场监督管理局通过智慧管理平台实时监控后厨作业区域，抓拍不规范行为并在平台预警，其后台指挥中心便能及时发现和派出有关人员前往现场检查，收集立案线索。[2]二是调查取证阶段。以道路交通中的违章行为为例，交通管理部门通过对车辆检测、光电成像、自动控制、网络通信、计算机多种技术，对机动车闯红灯、违章停靠、逆行、超速等违章行为进行全天候监控，[3]将违法事实以抓拍、录像等形式加以固定并作为行政处罚的证据。三是决定阶段。如南京市公安局推出行政案件自动量罚系统，对于需要行政处罚的案件，执法民警可以登录人工智能系统输入案情，再选择界面上的从轻、从重、减轻等备选情节，该系统将会自动生成行政处罚结果。[4]这种举措排除了民警的警龄、经验、性格等因素对处罚决定造成的影响，规范了执法人员自由裁量权的行使，有效遏制了差别悬殊的判罚现象。四是执行阶段。目前，多数城市对于交通违法人员进行处罚时都会运用人脸识别技术并辅以电子眼系统，将行为人的照片长达一周地曝光在道路一旁屏幕上以表惩罚。虽然这种同步曝光行为没有被列为行政处罚，但是其法律效果近似于已被明确为行政处罚的“通报批评”，也会对相对人的声誉产生一定的影响，可以在事实上被认定为行政处罚。[5]同时，行政部门还会利用人工智能技术实时监督受处罚的行政相对人的履行情况，确保行政处罚的有效执行。可见，将人工智能应用于行政处罚已不再局限于某一单一场景或者狭窄范围，而逐渐展露出范围全面性的时代特征。[6]

（二）技术功用解构

首先，人工智能的应用能够提升行政处罚效率。传统的行政处罚场景中，行政机关受制于有限的执法资源和“运动式”的处罚模式，往往难以全面、高效地发现违法行为，但是借助于人工智能，行政处罚可以依托机器内置算法的嵌入优势①，以较小的执法成本实现大规模的持续性监管，[7]及时且全方位地发现违法事实，提升行政处罚的效率与广度。其次，人工智能的应用有助于保障行政处罚的公正性。行政处罚活动具有一定的自由裁量特征，裁量本身烙有强烈的主观色彩，容易受到个人喜恶、价值观念等主观因素的影响，如“关系罚”“人情罚”。[8]而人工智能以“技术中立”为原则，能够将直觉、偏见等非理性因素排除在决策过程之外，[9]避免裁量恣意，增强处罚决定客观公正的合法化外观。再次，人工智能的应用有利于增强行政处罚的精准度。一方面，人工智能技术的实质是建立一种基于海量数据挖掘的认知范式，其挖掘和预测的结果相对准确;另一方面，通过整合散见于各个单行法规、条例中的处罚规定，可以建立起清晰的法律规则图谱，补强行政处罚决定的合法、合理程度。

二、行政处罚中人工智能的技术功用存有限度

（一）外在表征：人工智能介入行政处罚的潜在风险

⒈数据收集出现瑕疵。一是数据收集错误。一方面，人工智能作为一项技术，其潜在的漏洞可能会使数据收集出现错误，干扰后续对数据的分析与判断;另一方面，人工智能设备的老化、磨损等原因，包括所应用的设备未依法检定、逾期未检定或检定不合格，也会导致收集的数据不可靠，干扰处罚决定的准确性，如“方某诉金华市公安局交通警察支队公安行政管理、道路交通管理二审案”中的上诉人认为，交通技术监控设备如果不符合法律规定，就等于一直侵犯公众的合法经济利益和安全利益①。从外部条件来看，人工智能也会受到天气、人为破坏等外界因素的影响，如应用智能抓拍系统捕获交通违法行为时，因光线、视野的影响，出现较为普遍的“误拍”情形。[10]二是数据碎片化或不相关。在信息筛选方面，一些不相关或者碎片化的数据可能被一并收集，无法镜像式地模拟出完整的现实，如应用智能抓拍系统捕获交通违法行为时，如果没有全面而完整地记录全部过程，容易根据碎片化的证据作出错误的处罚决定。

⒉程序性要求易受减损。一是人工智能的应用容易滋生技术依赖，压缩人工审核的空间。《中华人民共和国行政处罚法》（以下简称《行政处罚法》）第四十一条规定：“电子技术监控设备记录违法事实应当真实、清晰、完整、准确。行政机关应当审核记录内容是否符合要求;未经审核或者经审核不符合要求的，不得作为行政处罚的证据。”然而，行政机关往往倾向于信赖技术系统的记录，在未经人工审核的情况下直接依据这一记录作出处罚决定，如由于疏于审核抓拍系统识别错误后生成的违章信息，常州市发生多起“张冠李戴”的交通违章处罚行为。[11]二是人工智能应用过程中的信息不对称和瞬时性特征极易架空行政相对人陈述、申辩等程序性权利。根据《中华人民共和国行政诉讼法》（以下简称《行政诉讼法》）第七十条和第七十四条有关法院撤销判决和确认违法判决的规定②，陈述、申辩等程序性权利是公共行政的合法性来源之一，也是公众自主的权利映射和实现载体，通过行使这些程序性权利，相对人得以达成对公共事务的政治参与和自我管理。一方面，信息不对称挤压沟通空间。人工智能的算法代码被技术的设计者和使用者所垄断，而披露规则的缺位和信息能力的限囿导致行政相对人处于弱势地位。这种不均衡的信息配置格局致使相对人难以获悉相关的技术规则，容易丧失沟通和辩驳的机会;另一方面，人工智能运行的瞬时性架空程序性权利。随着智能化程度的提高，行政处罚全过程将在人工智能内部瞬间完成，这种瞬时性能够缩短甚至跳过人类反应的时间，使相对人无法在决策作出之前及时行使程序性权利，只能被动接受算法决策结果。目前，人工智能在行政处罚中的应用仍是阶段性和辅助性的，程序性的要求、步骤暂未被机器自动吞噬，但是信息通知的不及时以及行政机关对机器执法正确性的预设也容易造成相对人程序性权利的缺失，如宁波市一抓拍系统误将某辆公交车上董某珠的照片识别为其本人，判定其存在闯红灯行为，直接同步曝光违法信息，相对人的程序性权利被弃之一隅。根据《行政处罚法》第四十一条规定，行政行为不能因采用电子证据而限制或者变相限制当事人的陈述权、申辩權，但是对于如何防止这种限制的发生仍有待研究。[12]

⒊决策可接受度或将下降。实质上，行政处罚是通过制裁手段矫正违法行为所致的秩序失范，其兼具制裁和保障双重功能。[13]在实体层面，合法且合理的决策是提高处罚决定可接受度的根本保证;在程序层面，处罚理由的充分说明是提高处罚决定可接受度的必然要求。然而，将人工智能应用于行政处罚决定阶段时，决策的可接受度在实体和程序方面均面临着挑战。

在实体上，决策的合理性存在不足。为消弭法律概念的不确定性、增强规则适用的弹性，法律赋予了行政机关一定的自由裁量权，但是这种自由裁量权也存在滥用的风险。因此，必须对自由裁量权加以约束，这也是将人工智能应用于处罚决定阶段的初衷。诚然，借助机器进行裁量，可以将执法人员天然携带的主观因素抽离出去，通过机器学习生成一类案件普遍适用的决策逻辑，但与此同时，提高规则适用灵活度的人性化因素和社会整体性架构对行政权的关联度要求也被一并剔除，这意味着决策的实质正义和可接受程度不免受到影响。一方面，算法决策的依据是机器学习下的普遍性规则，个案的特殊性不再被纳入考量范围;另一方面，一项行政决定的作出需要进行必要的利益衡量和价值判断，这一过程所需参照的道德观念、公共管理政策动向等关联性因素难以通过数据化形式充分表征，使机器失去“软性”衡量、觉察能力，在对复杂案件进行裁量时就可能导致决策的合理性欠佳。

在程序上，说明理由义务难以履行。根据正当程序原则，在作出行政处罚这种不利于相对人利益的决定时，除非有法定保密事由，行政機关均应当说明理由。[14]但是将人工智能应用于处罚决定时，这一义务可能遭到以下原因的阻隔：首先，算法自身的“黑箱性”，即算法只能在输入和输出这两个过程被可视化，其信息处理过程不能被识别和理解。[15]基于这一难题，行政机关常常主张算法不具有可解释性，不论是行政机关还是算法模型的设计者都无法释明决策的生成过程。其次，法定保密事由成为行政机关拒绝说明理由的“避风港”，行政机关往往声称算法涉及商业秘密、国家秘密，造成客观上不能披露。再次，公众信息素养缺失。因相对人不具备专业性的解码能力，算法决策的正当性证成面临困境，弱化了行政处罚的教育与利导效果。

⒋责任承担主体和归责原则难以确定。传统行政处罚中，法律拟制的主体结构包括行政组织体和行政公务人员。而在人工智能嵌入行政处罚的场景下，其主体结构包含作为抽象架构的行政组织体、作为实际执行者的人工智能系统、作为具体个人的系统研发者以及作为市场主体的系统生产者和销售者，呈现“科技渗透”和“公私融合”的样态，导致传统基于公务人员职务行为设计的问责体系难以适用。同时，传统的归责原则以人类行为和社会实践为基础，其原有的法律逻辑与人工智能不相吻合。一方面，作为人工智能技术的核心，算法具有“黑箱性”，因内部结构不可被拆解，难以对其运行展开准确的过错判断;另一方面，由于人工智能自身的原因导致处罚错误、侵犯行政相对人权益时，传统法律中的因果关系判断方式可能遭遇窘境：若将这一侵权行为归咎于人工智能，似乎难以对机器进行问责;若将人工智能自主学习后造成的错误归咎于设计者或使用者，似乎因欠缺直接的因果关联而不具说服力。[16]

（二） 内在成因：行政处罚的复杂性与人工智能的单一性存在张力

⒈技术之维：行政公开与算法黑箱难求共生。行政公开被视为建设法治政府不可或缺的手段，要求行政处罚必须公开地、在毫无疑问能被相对人看见的情况下实施。[17]与之相异，算法常常被赋予封闭性、“黑箱性”的特征，算法的运行存在着人类无法窥见的隐藏层，这意味着输入的数据和输出的结果已知明确，但是算法内部的推理过程却无法洞悉，算法黑箱带来的直接后果就是不透明和不公开。一方面，算法实现了无人力干预下的信息提取、数据训练和自主学习，决策的运行流程居于黑箱闭环状态;另一方面，算法的”黑箱性”、商业性和专业性造成了客观上的公开不能，算法决策陷入不可知论的泥潭之中。随着人工智能技术的应用，算法黑箱也犹如一把达摩克利斯之剑悬于处罚决定上空，与行政的公开性要求相背离。

⒉实践之维：人本逻辑与技术应用难达平衡。“以人为本”的逻辑理念是公共行政的内在意蕴，要求由具体的人来实践公共行政的目标和效果。实践中，行政处罚的方式应突出人的主体性地位和主导性作用，但是因人工智能的介入极易导致“人本”逻辑被忽视，行政处罚的技术化特征容易演变成一种技术依赖倾向。

⒊价值之维：价值理性与工具理性难寻协调。工具理性是一种单向度的思维范式，强调通过某种工具和手段实现主体需求以达成实践目的，效率最大化为其追逐目标。价值理性则始终以价值观念为行为准则，并不在意行为的成本和可预见的后果，其追求真与善的统一。[18]一项处罚决定的作出需要兼顾工具理性与价值理性的双重诉求，虽然秉承工具理性范式的人工智能一定程度上可匡正主观因素给处罚决定制造的公正性偏颇，但是若过度夸大工具理性的作用，忽视或者放弃对价值理性的追求，则可能催生决策的反人文性，而对决策结果的忠实遵循将导致正义的“流产”和政府公信力的“削弱”。

三、 人工智能介入行政处罚的边界设计

（一） 场域边界：明确人工智能的应用范围

德国《行政程序法》第35a条对全自动行政行为的适用作出限定，规定只有在具体法律、法规命令和规章明确规定时才可被适用，即所谓的“法律保留”，严格排除了存在裁量和判断情形下的适用。[19]通常认为，全自动行政行为是指行政机关依照法定职权，借助电子技术和设备由机器全程完成行政程序，作出个案规范性的且有直接外部效力的单方行为。[20]在我国，行政处罚中人工智能的应用尚未达到这一阶段，但是德国《行政程序法》的规定对于明确我国人工智能在行政处罚中的应用场景仍具借鉴意义。

在法律保留方面，人工智能在行政处罚中的适用范围也应有一定保留，需要以列举或概括方式在立法中加以明确，建立适当的可介入清单与不可介入清单，如对于类似证据收集等辅助性、技术性事项，违法事实清楚且法律依据明确、可以当场作出行政处罚，易于数据化、类别化的事项[21]以及其他不涉及相对人重大利益的简单事项，可以允许人工智能的应用;而对于情况较为复杂或者违法情节严重的行政处罚案件，应严格禁止人工智能的应用。

在裁量方面，若同德国《行政程序法》一样，全面排除人工智能在裁量场景中的适用未免过于谨慎保守，可能会限制人工智能的发展前景，应当允许人工智能的应用。[22]如南京市环保局推出的“环保行政处罚自由裁量辅助决策系统”，[23]通过算法决策和人力裁量之间的相互佐证，在行政效率和个案正义方面实现了双赢，这种应用显然是值得肯定的。

（二）主体边界：强调“人主机辅”的基本理念

随着人工智能在行政处罚中的应用，人们开始对人工智能是否将完全替代行政机关进行处罚产生疑虑。有学者认为，人类思考的过程最终可以用算力愈益强大的计算机来模拟和替代，[24]社会的组织机制包括法律最终也可以由机器来操作和管理，[25]这种看法有失偏颇。因为行政处罚决定往往蕴含着利益衡量和价值判断，需要在综合权衡各种因素的情况下灵活作出，而“机器总是带有僵硬死板的潜在可能”，[26]其难以实现复杂个案的最优化裁量。因此，人工智能与行政机关在行政处罚语境中不是取代与被取代的零和关系，应是“人主机辅”的合作共赢。

所谓“人主机辅”，意指始终坚持行政机关的主体性在场，人工智能的应用只能是辅助性的。具言之，人工智能可介入的范围内，无论将其应用于哪一事项、哪一阶段，行政机关都应履行审查义务，人工智能至多起到预处理作用，尤为关键的是行政处罚的最终决策权必须归于行政机关，处罚决定权的不可让渡应是人工智能应用于行政处罚的首要原则。

（三）行为边界：加强对人工智能的技术管控

⒈保障系统质量。“技术应用本身便可能带来安全与不安全两种后果倾向，这取决于技术本身的风险属性。”[27]为此，行政机关有必要强化系统内部的管理，核查数据、算法等因素的质量，保证人工智能系统的安全性和鲁棒性。具言之，保障系统质量是以内部管控的方式对抗技术诱发的未知性风险，主要包括以下三个方面：一是设置行政机关内部管理的规范准则，为识别和处理人工智能系统中存在的违规设置构建总体框架;[28]二是查看算法中描述变量、相关性和结论的源代码，委托专业人员测试算法设计是否有违法律伦理、是否准确写入相关规则、是否遵循规范标准;三是按照要求设置人工智能系统、定期核查系统的运行状况、根据技术标准及时更新系统。

⒉增强算法透明度。一是公开算法，这是实现算法透明的前提。就公开内容而言，应公开有意义和有特定指向的算法决策体系，而非初始性的技术源代码和算法架构。[29]就公开范围而言，应建构一种“适度透明”的标准，而不宜完全公开算法。这是因为算法涉及多方利益，为了平衡公益与私益，须对算法披露的范围予以限制。二是说明理由，这是实现算法透明的核心。说明的内容主要包括人工智能系统的运行过程、输出结果、算法决策的推理过程和因素权重以及算法决策对相对人权利的影响程度;说明的方式应考虑技术的复杂性，倘若对每一处技术细节都仔细说明，显然过程冗长，因此可将事前解释转为事后监督，即在相对人对处罚决定没有异议时，行政机关可以不主动说明，但是需要保留解释的权力，相对人存在异议时，再对个案加以事后监督。[30]

（四）制度边界：保障相对人的救济权利

随着行政机关对人工智能的依赖程度攀深，算法决策可能实质性地替代人性化决策，直接影响相对人的利益。一旦技术开始对人的利益产生直接影响和控制，其往往会失去纯粹性而具有权力属性。[31]为此，有必要通过程序设计赋予行政相对人一定的权利，避免受到技术权力方面的侵害。一是应充分保障行政相对人的知情权和选择权;二是保证相对人陈述申辩、获得解释和要求听证的权利，赋予相对人对于重大事项随时要求人工介入的权利;[32]三是若相对人对依据算法决策作出的处罚决定不服，行政复议只能由人工进行。

①嵌入优势是指算法结构性嵌入社会权力运行系统，借助经济与政治权力实时干预人的行为，从而对社会进行无孔不入的构建、干预、引导和改造。

①参见浙江省金华市中级人民法院二审行政判决书（2020）浙07行终字195号。

②《行政诉讼法》第七十条规定：“行政行为有下列情形之一的，人民法院判决撤销或者部分撤销，并可以判决被告重新作出行政行为：（一）主要证据不足的;（二）适用法律、法规错误的;（三）违反法定程序的;（四）超越职权的;（五）滥用职权的;（六）明显不当的。”《行政诉讼法》第七十四条规定：“行政行为有下列情形之一的，人民法院判决确认违法，但不撤销行政行为：（一）行政行为依法应当撤销，但撤銷会给国家利益、社会公共利益造成重大损害的;（二）行政行为程序轻微违法，但对原告权利不产生实际影响的。”

【参考文献】

[1]郑曦.人工智能技术在司法裁判中的运用及规制[J].中外法学，2020，（3）：674.

[2]魏琼，徐俊晖.人工智能在行政处罚中的应用及法律规制[J].时代法学，2021，（1）：15.

[3]胡敏洁.自动化行政的法律控制[J].行政法学研究，2019，（2）：58.

[4]黎慈.人工智能嵌入行政执法的法理分析：现状、风险与应对[J].湖北社会科学，2020，（7）：135.

[5][30]谢明睿，余凌云.技术赋能交警非现场执法对行政程序的挑战及完善[J].法学杂志，2021，（42）：52-58.

[6]王禄生.司法大数据与人工智能技术应用的风险及伦理规制[J].法商研究，2019，（2）：103.

[7]张凌寒.算法权力的兴起、异化及法律规制[J].法商研究，2019，（4）：66.

[8]李立.人机共同规范行政处罚裁量权[N].法制日报，2010-08-13（006）.

[9]张恩典.人工智能算法决策对行政法治的挑战及制度因应[J].行政法学研究，2020，（4）：37.

[10]朱奕帆.人工智能参与行政治理的法律风险控制研究[D].大连：东北财经大学硕士学位论文，2019：27.

[11][28]雷剛，喻少如.算法正当程序：算法决策程序对正当程序的冲击与回应[J].电子政务，2021，（12）：19-30.

[12]胡建淼.行政处罚法修订带来行政执法的新考验[N].学习时报，2021-03-03（002）.

[13]张春林.主观过错在行政处罚中的地位研究——兼论行政处罚可接受性[J].河北法学，2018，（5）：98.

[14]姜明安.行政法与行政诉讼法（第2版）[M].北京：北京大学出版社，2005：73.

[15]吕俊延.人工智能时代的政府治理困境[N].中国社会科学报，2019-05-29（007）.

[16]贾开，蒋余浩.人工智能治理的三个基本问题：技术逻辑、风险挑战与公共政策选择[J].中国行政管理，2017，（10）：42.

[17]（英）彼得·斯坦，约翰·香德.西方社会的法律价值[M].王献平译.北京：中国人民公安大学出版社，1990：97.

[18]陈思.算法治理：智能社会技术异化的风险及应对[J].湖北大学学报（哲学社会科学版），2020，（1）：161.

[19]马颜昕.自动化行政的分级与法律控制变革[J].行政法学研究，2019，（1）：89.

[20]章剑生.现代行政法总论[M].北京：法律出版社，2014：136.

[21]陈飏，裴亚楠.论自动化行政中算法决策应用风险及其防范路径[J].西南民族大学学报（人文社会科学版），2021，（1）：79.

[22][32]查云飞.人工智能时代全自动具体行政行为研究[J].比较法研究，2018，（5）：175-177.

[23]查云飞.行政裁量自动化的学理基础与功能定位[J].行政法学研究，2021，（3）：116.

[24]郑戈.算法的法律与法律的算法[J].中国法律评论，2018，（2）：76.

[25]郑戈.人工智能与法律的未来[J].探索与争鸣，2017，（10）：78.

[26]王正鑫.机器何以裁量：行政处罚裁量自动化及其风险控制[J].行政法学研究，2022，（2）：8.

[27]张旺，刘戟锋.技术伦理学视域下的网络安全规范路径——以人工智能技术为例[J].湖湘论坛，2018，（2）：131.

[29]丁晓东.论算法的法律规制[J].中国社会科学，2020，（12）：153.

[31]梅夏英，杨晓娜.自媒体平台网络权力的形成及规范路径——基于对网络言论自由影响的分析[J].河北法学，2017，（1）：40.

The Application and Boundary Consideration of Artificial Intelligence

in Administrative Punishment

Han Yi，Zhang Ting

Abstract：With the development of The Times，artificial intelligence technology has been widely used in administrative punishment filing，investigation and evidence collection，decision and execution，which has played a positive role in improving the efficiency of administrative punishment，ensuring the fairness of administrative punishment and enhancing the accuracy of administrative punishment.In practice，there are still some risks in the application of artificial intelligence，such as flaws in data collection，vulnerable to derogation of procedural requirements，declining acceptability of decisions，and difficulty in determining the subject of responsibility and the principle of attribution.Therefore，it is necessary to promote the application of artificial intelligence prudently and clarify its boundary in administrative punishment.

Key words：algorithm;artificial intelligence;administrative punishment;technology function