人工智能时代司法商业化风险与应对

杨通新,肖 静

(1.广西大学行健文理学院，广西 南宁 530005；2.广西财经学院，广西 南宁 530007)

“人工智能与法律的结合已有30多年的历史，积累了丰富的经验……人工智能对法律尤其是司法实践的影响日益深入。”[1]2017年4月最高人民法院颁布了《关于加快建设智慧法院的意见》，同年7月国务院印发了《新一代人工智能发展规划》，2018年7月最高人民检察院发布了《全国检察机关智慧检务行动指南》……关于人工智能与司法的实践与研究开展的如火如荼。本文基于人工智能时代司法商业化的可能性警示，对相应的风险样态及规制方式进行初步探究。

一、越界：司法商业化风险之集体显现

司法商业化属于商业化的子概念，是指受市场化因素影响，出现以营利为目的的运作司法的行为。在诸多因素的影响之下，并不排除存在越界的风险，即出现司法商业化的非正常现象。

1.片面竞争影响司法统一运行，造成司法资源浪费。为了助力司法改革，提升司法业务效率，全国各地司法机关纷纷引入人工智能，通过内外合作或者是购买的方式，实现部分业务的智能化处置。然而从实践可知，一方面人工智能技术与司法的默契并未达到无缝对接的程度；另一方面司法领域尚不具备完全自主人工智能化的条件，需通过内外合作的方式来实现。这两方面，实际上从侧面导致了司法系统内部的片面竞争，浪费司法资源，不利于统一规划管理、运行。

2.利益驱动影响司法独立自主，造成司法信任危机。大数据、人工智能和区块链都不是专门为公共服务(包括司法工作)而设计出的技术，而主要是受商业利益驱动的技术，[2]这说明人工智能自带商业利益驱动的属性。进入司法领域之后，如果不能有效控制，将会严重影响司法独立自主，从而造成司法信任危机。首先，司法商业化风险源于外部利益驱动，欲搭乘司法改革之便车，提升人工智能的影响力及话语权。在人工智能嵌入司法的过程中，可能造成将司法的公开、透明、阳光等同于商业化与市场化误判。其次，司法商业化完全背离宪法精神，若私主体对公权力“指手画脚”、随意操弄，将造成司法权力异化。

3.刻板路径影响司法途径多元化，造成机械应对纠纷。人工智能司法具有确定性、标准化、模式化等特点，从某种意义而言，与司法场域的相对稳定性是相契合的。但是，过于确定性、标准化、模式化，会形成刻板路径，造成诸多“优势即劣势”的尴尬与缺陷。首先，柔性纠纷解决方式受限甚至被取代。司法领域非常重视通过和解、调解等柔性方式来解决纠纷，比如一个简单的民商事案件，可以通过协商和解或者调解的方式来柔性完结，如果通过人工智能的方式将会强制性带入预先设定的场域之中，通过刚性的决断方式解决。因此，人工智能解决纠纷的刻板路径，会影响司法途径的多元化，造成机械应对纠纷。其次，司法人员自由裁量权受缚甚至被剥夺。人工智能能够突破人为情感对司法的左右，严格限制司法人员的不规范行为。然而，人工智能同时还可能陷入将司法人员自由裁量权一网打尽的尴尬局面，从而使得人工智能司法趋于僵化。最后，理论研究深入与司法制度创新受限。众所周知，法学理论研究成果作为司法实践开展的重要支撑，会随着司法实践的环境不断变化。以正当防卫为例，虽然刑法学界经过多年的理论探索与实践检验，但始终未能形成一个固定统一的认定模式，此时人工智能的机械化判断与刻板性识别，将导致防卫场景诸多因素被忽视。因为行为实施的场景并非预先设定，人工智能无法依据预设程序来认定复杂问题，算法规则的引入导致对理论研究的束缚，从而也影响了司法实践路径的多元化。

4.替代论设影响司法人员能动性，造成主体懈怠应付。人工智能领域基于技术的未来发展方向提出了“无所不能”的设想，这是基于“技术权力主导一切”的思维而作的想象。司法领域的替代论设，即未来人工智能将会取代司法人员，从而导致司法人员的地位被削弱，形成人工智能机器人“非人亦人”的局面。这种“取而代之”的想象将给司法人员带来极大困扰：未来的司法由谁主导？司法人员还有存在的必要么？……进而更多的人将失去能动性，选择消极懈怠，应付了事。

5.技术藩篱阻断司法经验传承，造成司法特质缺失。人工智能与司法并非“天生一对”，在人工智能话语权、影响力不断扩大的背景下，司法人员积累的丰富经验正在接受前所未有的挑战。我们不否认人工智能技术所取得的巨大成就，但是，过度渲染甚至夸大人工智能的作用是不明智的。在极力推崇人工智能的同时，亦在直接或间接否定传统优秀的司法经验。这一风险，根源于技术权力与司法权力的不平衡，司法与人工智能技术之间的隔阂，将阻断司法经验传承，造成司法特质缺失。

6.技术钟摆影响司法场域稳定，造成司法变数多发。技术钟摆，即人工智能技术的不稳定、不确定性，从而影响司法的正常运行。司法讲究动态稳定性，但并不意味着停滞不前，司法领域同样需要不断改革创新。众所周知，人工智能可以为司法带来诸多便利，但是其自身的缺陷不容忽视，过度依赖人工智能将造成司法的本真缺失。

7.算法歧视影响司法公平正义，造成司法话语削弱。算法歧视与偏见，源于人工智能开发主体的固有认知，往往由于缺乏对司法领域的准确判断而偏离司法目的范围，形成对特定范围主体的歧视与偏见。而司法公平正义理念的要求是，不能先入为主，在裁判者未得出结论前，不能预先决断。因此，算法歧视严重影响司法公平正义，造成司法话语权削弱。例如，通过算法判定出生于A县的公民甲和乙成立盗窃罪，那么按照算法的逻辑偏见，会认为是A县的公民都热衷于盗窃，如此便形成了严重的地域歧视，对守法公民实失公允。

8.算法黑箱影响司法程序正义，权利救济受限。算法黑箱，即算法的不可知性，如同黑洞一般无法予以释明。算法黑箱导致司法程序缺失或变质，影响司法程序正义，从而导致包括司法人员、司法受众在内的多方主体的权利救济受到限制甚至剥夺。首先，以当事人为主的司法受众权利救济受到严重影响。由于算法黑箱，算法司法结论理由的不可阐释属性，严重阻碍了异议主体的权利救济。其次，司法人员的权力救济受限。比如，当人工智能过多介入司法各个环节后，司法人员是否还有自由裁量权限？如果有，受到人工智能不合理干涉之时如何进行救济？显然，这些都是不可忽视的风险。

二、应对：司法商业化风险之有效防治

虽然人工智能时代司法商业化风险重重，仍应当寻求恰当的应对策略，有效遏止风险，筑就司法之应有形态。

1.强调党对司法的绝对领导，保障司法与人工智能深度融合。习近平总书记曾指出，中国特色社会主义最本质的特征是中国共产党的领导，中国特色社会主义制度的最大优势是中国共产党领导。坚持和完善党的领导，是党和国家的根本所在、命脉所在，是全国各族人民的利益所在、幸福所在。司法的目的是为了定分止争，实现公平正义，而要使目的得以实现，必须强调党对司法的绝对领导，同时保障司法与人工智能深度融合，推进司法体系和司法能力的现代化。[3]

2.强化人工智能司法意识形态引领，防止域外意识形态破坏。科学无国界，但是人工智能融入司法领域已经远远超出了前一范畴，关涉到国家司法主权的问题。因此，需要加强人工智能司法的意识形态教育与监督，同时建立严格的惩治制度。正如有学者提醒，任何司法个案绝不仅仅是单纯的法律问题，案件的背后会涉及价值判断、利益衡量、情理人心，裁判的逻辑除了法律逻辑，还会有政治的、经济的、历史的、道德的判断。[4]人工智能作为技术本身在研究开发过程中或许并未施以区域或国别的偏见，但是受商业盈利与政治意识形态的驱使，会在运用过程中被当作干涉甚至操纵别国司法权的工具。因此，应当综合考量我国国情，以司法主权为核心，在严格遵循中国特色人文伦理与司法伦理的前提下借鉴国际通行技术安全标准。

3.明确人工智能辅助司法理念，正视人工智能司法工具属性。在人们畅想着人工智能“万能论”时，法律人工智能研究先驱凯文·阿什利认为，人工智能(如机器学习的法律文本分析技术)其实并不能真正阅读或者理解；[5]人工智能对法律语言的学习和使用，并不意味着它能够像人类一样理解法律语言，而只是对其进行逐层分析。[6](P272)无论在未来的发展中能够达到何种程度，都属于人类智慧所创造的成果，而并非与人等同的“非人可人”主体。人工智能运用于司法，不是人工智能与司法的简单物理衔接，涉及到技术的实用性与司法的接受度。人工智能可以辅助完成司法中较为复杂的业务，甚至是参与核心业务的过程决策，为司法人员最终决策提供参考。但要避免司法大数据应用给法官带来的不当影响，必须明确司法大数据应用的非约束性适用原则。[7]比如，可以在员额制改革成果基础上，设置由审判委员会与人工智能机器人共同组成的智囊库，其职责是负责根据案件情况提出解决方案，是否采纳取决于案件的承办法官。这样，既符合了“让审理者裁判，让裁判者负责”的要求，又很好的将人工智能融入了司法当中。

4.应对司法商业化风险，必须建立、细化人工智能与司法的融合机制，主要从人工智能司法供需衔接、监管制度着手。为了避免人工智能嵌入司法影响司法独立自主与造成司法信任危机，必须树立司法权威，回溯司法权威的来源。笔者认为，人工智能进入司法领域的途径主要表现为三种形式：首先，完全外购人工智能产品。此种方式完全依赖于人工智能技术研发、销售主体的供给情况，可以称之为人工智能融入司法的初级形式。技术与司法领域的疏离，需要通过多方面进行克服。把握司法的主动性与人工智能的适应性，即坚持人工智能适应司法的思路，基于司法领域的需求辅以人工智能，而不是司法被人工智能“牵着鼻子走”。其次，通过内外合作研发，促进司法人工智能化。在这一阶段，司法领域对人工智能有了更多了解，已经能够参与到人工智能的研发过程之中，逐渐脱掉了“门外汉”的身份。对司法领域与人工智能领域衔接的桥梁机制、监管机制等方面，仍然是以司法需求为核心，避免供给主体的商业化运作而导致司法的商业化，实现司法与人工智能之间的深度融合。最后，司法领域全域自主研发人工智能产品，实现对外“零依赖”。这一阶段，司法人工智能的供需主体已经合二为一，司法领域积累了丰富的人工智能研发经验，打破了人才壁垒，培养了大量既懂司法又精人工智能的司法从业人才，从而去除了内外衔接的复杂环节。当然，没有了对外的依赖，并不意味着人工智能司法就毫无风险存在，司法内部的衔接、监管风险依然需要通过制度构建与完善来进行规制。

5.应对司法商业化风险，必须加大复合型研究人才与应用人才的培养，多途径培养高素质的“法律+人工智能”复合型人才。第一，在培养途径方面，坚持多元并行、互通有无原则。首先，丰富高校本科教育课程内容。比如，通过在高校法学教育中分流增设人工智能课程，让有意向、有特长的学生尽早接触人工智能，系统学习积累基础知识；其次，通过设置“法学+人工智能”实验室，招收学科交叉研究人才，增加复合型人才培养的深度。再次，实践基地设在具备条件的高校、科研机构以及企业设立人工智能法学实践基地，拓宽复合型人才培养的广度。最后，针对司法人员进行专门的人工智能技术培训，从理论研究与实践应用两方面进行分类培训。第二，在培养时间方面，坚持科学规划、分类推进原则。对于“法学+人工智能”人才的培养，应着眼于长远发展，做好短期、中期与长期规划，不能急功近利。比如，针对高校本科层次的复合型人才培养，可以进行二次分流的规划等。

6.人工智能司法领域，应当明确控制主体的权利与义务，确保人工智能司法实践中责任承担的合理与明晰。控制主体，应当作广义理解，包括人工智能的研发者、制造者、使用者、保管者、监管者等多方主体。在人工智能的司法应用领域，应当制定具有体系性和前瞻性的基本原则，明确人工智能介入司法的限度。[8]在人工智能辅助司法的明确定位之下，建立人工智能研发、合作应用等方面的负面清单，将人工智能置于有效可控的范围之内。向社会公布涉及恶意干扰司法、影响司法活动等行为，实时更新，区分严重程度进行处罚，即建立行政处罚、刑事处罚、经济赔偿等机制以及衔接机制。

综上，人工智能在司法领域必须遵循明确界限，遵循司法的发展规律。人工智能与司法都应当坦诚面对彼此，积极应对挑战，有效防止潜在、未知风险。双方不能基于各自的“傲慢与偏见”而将对方拒之门外，将人工智能发展纳入法治轨道，才能从根本上实现其发展的安全性、可靠性与可控性。