数智治理的法治悖论

2022-11-14 18:10马长山
东方法学 2022年3期
关键词:数智法治数字化

马长山

新兴信息革命正在推动人类社会从“物理时代”迈进数字时代,面对这一空前的革命性转型,世界各国都在积极制定数字化发展战略,从而更好地抢抓机遇和应对挑战。近年来,我国一直大力推进“数字中国”建设,2021年发布《“十四五”规划和2035年远景目标纲要》和《“十四五“数字经济发展规划》,确立了数字经济、数字社会、数字政府、数字生态建设目标。各地方政府也充分认识到,数字化将重新定义生产力和生产关系,因此,需要坚持整体性转变、全方位赋能、革命性重塑,以期形成全覆盖、网格化、安全共享、敏捷高效的数字化治理系统。这样,社会治理的数智化转型与换代升级就成为一种必然趋势。然而,数智治理毕竟是新兴的治理模式和机制,它既具有高能的治理功效,也存在突出的法治悖论。因此,如何兴利除弊,无疑是当下的一个重大理论和实践课题。

一、数字时代的治理转型

随着网络化、数字化、智能化的加速迭代发展,“社会创新引领、国家跟进规制”成为社会秩序建构的主旋律。科技公司、头部企业和政府部门处于社会变革的最前沿,很多新理念、新概念、新机制、新制度和新策略,都是经由它们的突破创新、互动博弈、价值提炼、倡导推广而在社会上传播开来。智慧司法、自动化行政、数字法治、数字公民、数智治理等治理新元素便应运而生。

(一)数智治理的时代动因

数智治理是近年在浙江、上海、江苏等数字经济发达地区兴起的,具有先行先试色彩的创新模式。它以数据和算法为中枢,以平台为载体,形成了数字化和智慧化一体交融、万物互联、人机协同的新型治理形态。旨在运用数字技术、智能技术推动社会治理更加智慧,被视为实现社会治理体系和治理能力现代化的必由之路。从根本上看,数智治理绝不是凭空而来的新潮词汇,而是源于当今数智化发展趋势的强劲推动。

首先,数字生活方式的客观要求。从人类社会的发展进程来看,数字经济已成为农业经济、工业经济之后的主要经济形态,数据成为关键的生产要素,算法成为新的生产力。而作为主体的人,也具有了自然人和数字人的双重身份与角色,逐渐形成万物数字化、行为数字化、生活方式数字化的普遍性数字生态。此时,工业经济时代的治理模式已经难以为继,新兴的数智治理形态便开始涌现。

其次,数字技术发展的支撑驱动。在当今数字时代,每天都在生产大量的数据信息,每天也都需要大量的数据处理和建模计算,这主要是通过网络技术、数字技术、智能技术基础上的平台运行来完成的。无论是商业运营,还是政务服务,都采取前台——中台——后台的体系架构。这样,平台就承载了治理的功能,释放了治理的价值,从而驱动新型数智治理模式的变革发展。

再次,数字法治创新的必然趋势。我们知道,现代法治是工业革命的制度成果,它反映着工商时代的生活规律、行为模式和价值准则,体现了物理时空、自然人行为、物权中心主义的基本逻辑。这个庞大精致的理论范式和规则体系,在近代以来的社会秩序构建中发挥了经世致用的巨大作用。但信息革命的到来,以万物数字化的方式消解了它赖以存在的社会基础,个人隐私、所有权和人格尊严面临严峻的挑战。这意味着,数字化进程正在以空前的能量和范围,根本性地重塑人类的生产力、生产关系、行为方式和生活方式,从而使得“许多以前我们曾经依赖的东西,正在数字化时代支离破碎”。这必然会出现从价值、制度、机制、再到秩序的巨大转型,数字经济、数字社会、数字政府、数字公民、数字人权、数字司法等成为新型的法治主题,迫切要求进行适时的法治变革与创新,而数智治理正是这种法治创新的一个典型形式。

(二)数智治理的迭代升级

从古至今,任何一个时代、任何一个政权,都必须立足于有效的社会治理秩序基础之上才能得以维持和运行。宏观而言,农耕社会是一种以权力为中枢的等级治理;而工商社会,是一种以权利为中枢的多元治理。这固然是社会治理的巨大进步,但在本质上,它们都是立足物理时空条件、限于地域层级结构、运用理性技艺手段的治理模式。随着信息革命的到来,原来的工商社会正在快速地转向数字社会,虚实交融打破了物理时空,一体化平台突破了地域层级,数据可视超越了经验理性,从而形成了以信息为中枢的数智治理,这就实现了巨大的功能飞跃和迭代升级。数智治理呈现出以下特征:

一是敏捷性。人类社会一直面临着各种风险,一方面是来自外部的、由传统或自然的不变性和固定性所带来的“外部风险”(external risk),如洪灾、瘟疫、饥荒等;另一方面是由人类不断发展的知识对这个世界产生影响而“被制造出来的风险”(manufactured risk),这“是我们在没有多少历史经验的情况下所产生的风险”,它“日益取代外部风险而占据了主要地位”。也就是说,社会越进步、科技越发达,“被制造出来的风险”就越多。如今人类迈进数字时代,大数据分析几乎透视一切,算法决策几乎无所不至,社会治理更加高效便捷、动态感知、自动运行。如浙江余杭区“一屏观全区、一网治全城、一键管应急”的区域数智治理体系,南京市江北新区“链通万家”形成“区块链+小区自治”等。但同时,“数字化世界密集性和复杂性的背后,风险将如影随形”,一旦出错,则后果难以预计。为此,国家新一代人工智能治理专业委员会于2019年6月发布《新一代人工智能治理原则——发展负责任的人工智能》,2021年9月又发布《新一代人工智能伦理规范》,中共中央办公厅、国务院办公厅在2022年3月联合印发《关于加强科技伦理治理的意见》,提出敏捷治理、伦理先行、合理控制风险的治理原则和基本要求。因此,在数智治理过程中就必须尊重人工智能发展规律,充分认识人工智能的潜力与局限,防止技术的误用和滥用,加强风险预警和跟踪研判,从而建立起快速灵活、包容平衡、共同参与、以人为本的动态回应机制,做到对突发风险可以随机应对和即时处置,形成数智治理的敏捷性。

二是节点性。进入数字时代后,万物数字化、一切在线化深刻地改变了人们的生活方式、行为方式和社会生态。以至每个自然人,同时又是一个“数字人”和“信息体”,身体也随之成为“身联网”的一个技术平台。在这一空前的数字化、网络化、智能化发展过程中,人们的地理位置、职业阶层、社会身份、家庭关系等传统要素被明显淡化,更多地承担起网络基础单元和独立存在的链接角色,这样就由中心化的实体组织或个体转向分散化的网络节点。而数智治理的平台化态势,更是通过一网通办、一网统管、一网协同等方式,把人、事、物变成网格化治理的诸个网络链接、信息传递和操作运行的节点。这里既有每个人、每件事的独立性和自主性,也有嵌入网格化、平台化系统的联动性和被动性,这乃是数智治理区别传统治理的时代特征。

三是穿越性。信息革命的一个重大社会后果,就是颠覆了人类有史以来的时空观念和生活方式,并进行了数字化、智能化重建。具言之,一方面它以虚实融合、远程临场、数字可视的方式打破了生产生活的“物理围墙”,原来必须“面对面”才能做到的事情,现在“屏对屏”就可以完成,如腾讯会议、微信社交、网络购物、在线庭审、网格化治理等,从而实现了对“物理围墙”的穿越;另一方面,网络化、数字化、智能化技术的交融发展,使人类获得了空前的大数据分析、虚拟现实、算法预测能力,这不仅可以回溯历史、重组时空行为,也可以干预未来,如异步审理中的错时开庭、犯罪预测系统对“可能”风险的处置等,从而实现了对“时空维度”的穿越。这一数字社会的特有运行逻辑,必然会反映到数智治理机制之中,也即它会充分运用这种穿越功能来进行矛盾调处、事件处置、风险研判、应急管理和监管执法等,从而增强效能、提高效率、防范风险、强化效果。

(三)数智治理的目标宣示

发展数字经济,加快数字化转型,已成为世界主要国家的优先竞争战略。如欧美国家竞相推进社会治理转型,它们经历了电子政府、数字政府和电子治理的不同阶段,开始从“修饰性”地提供信息服务,转向“实质性”地推动公民参与互动,进而探索新型的“数智治理”模式。

自2015年提出“数字中国”战略以来,我国一直在加速推进数字化转型,数智治理也日渐成为社会治理的发展方向。在战略属性上,各地方政府主要是三个角度来进行定位:一是坚持推进治理能力现代化的建设目标;二是坚持以人民为中心的执政理念;三是坚持共建共治共享的基本原则。在方向目标上,各地方政府已深刻认识到数字化转型将重新定义生产力和生产关系,全面重塑“物联、数联、智联”的治理模式和生活方式。因此,要打造科学化、精细化、智能化的“数治”新范式。其意义在于推动生产方式、生活方式、治理方式发生基础性、全局性和根本性的改变,这无疑是一个质变而不是量变的过程,从而促进数字政府、数字社会和数字法治建设。在路径策略上,数智治理要五“应”俱全,即应织紧安全框架、应打通协同梗阻、认知应与时俱进、应弥合数字鸿沟、应护航发展引擎,从而深耕社会治理生态体系变革。由上可见,我国的数智治理探索具有比欧美国家还要广阔一些的气魄,这很大程度上是现代化追赶和数字化转型的双重压力所致,也是数字经济发展的深层推动使然,它将成为数字时代的主导治理形态,为数字法治奠定坚实基础。

二、数智治理的四重悖论

尽管数智治理代表数字时代的发展方向,但这种新型治理模式也是有风险、有代价的,因为数字技术“创造了许多,也同样毁灭了许多”。审慎观察和深入分析表明,数智治理存在必须认真对待的深层法治悖论。

(一)数智赋权悖论

众所周知,自从有国家以来,当政者就一直需要向社会公众说明其拥有和行使权力的正当性理由。古代社会靠“君权神授”的宗教神谕来维系统治,是一种神性赋权;近代以来,则是靠“社会契约论”获得合法性的,是一种法律赋权。其共同的逻辑,都是在有限的资源面前,证明当权者占有、使用这些资源的优先性、绝对性。但信息革命以其强大的技术变革力量,消解了传统的权力合法性理由。也就是说,新兴网络技术、数字技术和智能技术,创造出以往物理时空中从未见到过的巨大虚拟空间和数字利益,这相当于人类有史以来刚刚发现的超自然“飞地”,大量新业态、新模式、新机制不断“破窗”和“圈地”。对此,最初的网络自由主义曾自信地宣称,“你们的财产、表达、身份、活动和条件的法律概念不适合我们。这些概念建立在物质基础上,而我们这里没有什么物质”。因此,“我们拒绝:国王、总统和投票。我们坚信:基本的共识和运行的代码”。但随后的国家介入很快打破了这种幻想,信息革命所创造出来的巨大数字利益和广阔空间,也变成了政府、商家和民众进行利益博弈的“西部世界”。这种博弈常常伴随着“创造性破坏”的变革进步,很多都超出了现有法律框架和范围,因此,各方竞相把这些利益和空间转化成为自身的生活权利。于是,它既不是神性赋权,也不是法律赋权,而是全新的技术赋权。数智治理正是在这一过程中获得孕育发展的,并为技术赋权提供了数智场景和机制,然而,它却内含不容忽视的法治张力。

其一,高效治理中的赋能扩张。数智治理是通过对新兴技术的综合开发和深度应用,构建起数字化、智能化、平台化的治理系统。因此,它并不是简单地把社会治理从线下搬到线上,而是以万物数字化和一切可计算的方式,重组社会治理的时空条件和内容要素,打造“一网通办”“一网统管”“一网协同”的服务管理新模式,旨在构建便捷高效、精准高能和自动化的治理机制。一方面,它通过技术赋能、技术赋权有效拓展民众获取新型数字公共服务的权利,进而兑现“数据多跑路、市民少跑腿”“最多跑一次”的公共承诺,让百姓能够分享到数字化发展的社会红利;但另一方面,也出现了权力技术化、技术权力化的趋势,特别是数据分析和算法决策开始具有“望远镜”“显微镜”和“雷达”功能,“提前知、提前控、全程知、全程控”也就随之演变成一种超强的监控形式。这意味着,数字时代的多元化、扁平化和去中心化背后,权力扩张的倾向却在涌动,也许“一种形式的权力或许被摧毁了,但另一种正在取代它”。因此,有学者大呼“我们必须监控‘老大哥’”!

其二,平台加责中的私权治理。数字时代的一个重要特征是平台化,开放的参与式架构使得“越来越多的商业从管道结构转向平台结构”“从传统的线性价值链向复杂的平台价值矩阵”转变。因此,数字经济也是平台经济,无论是商品营销、社交娱乐、还是社会服务,都需要采取平台的运营模式,形成平台居中的双边市场。在平台经济发展之初,新业态、新模式具有“破窗”效应,它们占据既有政策制度的规制空白或者灰色地带,推行网络自由、技术赋权的“天空法则”,用户、商家、平台都获得了数字空间中的身份人格、在线交易、网络社交、公共表达等权利。但随着资本无序扩张和平台垄断的出现,平台治理的挑战也日渐严峻。为此,各国大多采取了政府授权的“平台加责”治理模式,平台也随之被赋予公共事业或者“看门人”角色。平台虽然身为企业,但却承担了一部分公共角色和管理职责。这样,就打破了国家与社会的二元结构,形成了公权力、私权力、私权利的三元格局,出现了数字时代的私权(力)治理。于是,平台治理和平台内治理也就被吸纳进数智治理体系,成为国家治理和社会治理的组成部分。

事实上,2021年1月8日推特对时任美国总统特朗普的“永久封号”、俄乌战争中西方社交媒体对俄罗斯禁言、以及电商下架某类商品等,都不是用户与平台之间简单的“合同”关系和“服务”功能,而是具有公法上的效果。具言之,在这些平台运营和治理的背后,形成了具有显著“用户黏性”的数字生态,如同人们对手机的依赖一样,已经成为人们观察世界、认识世界、进入世界的方式和通道,因此,也才具有“公共基础设施”的属性和功能。此时的封号、禁言、下架就相当于在数字生活中被“删除”“社死”或者“封杀”。这样,“在网络空间中,某只看不见的手正在建造一种与网络空间诞生时完全相反的架构。这只看不见的手,由政府和商业机构共同推动,正在打造一个能够实现最佳控制、高效规制的架构”。这种架构在数智治理机制中日益明显,私人权利和社会自由遭遇新的挑战,从而成为一个悖反性的时代问题。

其三,智能联动中的权力眼睛。数智治理强调一体化平台建设和智能联动,这固然可以突破原来的部门领域阻隔或障碍,更加顺畅地、更加高效地、更加有力地行使职权和提供服务。前者如“一网通管”、自动查封、扣押、冻结等,后者如“一网通办”“最多跑一次”等。其中,“双现”执法模式,即非现场执法和现场线上执法检查,实现从违法行为发现、案件办理、当事人缴纳罚款等全环节零接触办案,既提升了办案效率,又方便当事人快速处理。还有地方通过数据治理、数据挖掘、数据建模,采用红、橙、黄、蓝、绿五种颜色,把智能系统视为基层治理的“眼睛”,以发现治理短板、靠前评估预警事件,助力科学决策和精准治理等。但反过来看,这种可以无限穿越物理围墙、部门区隔、行业壁垒的治理方式,也会让人隐约感受到深藏其中的权力眼睛。当人们的所有人设,一切行踪、身家财产都失去了物理遮拦、无处藏身,甚至一个小微违法也会随时被发现、随时被智能系统处理。那么,这种技术治理就违背了它的初衷,公民自由和权利也难免会受到不合理的限缩与控制。也许正是意识到了这一点,对于非现场执法,相关部门还是采取了“首违免罚”做法,以实现执法效率和温度的统一。

(二)数智参与悖论

纵观40多年来的改革开放进程,中国经历了由“总体性支配”向“技术治理”的重大转变,打造数字政府也成为主要的行政改革目标。然而,数字政府并不是通过数字技术赋能来强化行政职能的过程,而应是一个通过数字化驱动来提升政府服务效能、更好维护公民权益的过程。为此,国家《“十四五”规划和2035年远景目标纲要》明确提出,要加强公共数据开放共享、推动政务信息化共建共用、提高数字化政务服务效能、提升全流程一体化在线服务平台功能,进而全面推进政府运行方式、业务流程和服务模式数字化智能化,实现面向数智治理的转型升级。然而,这其中也蕴含一定的参与悖论。

首先,技术开放与公众参与。数智治理的核心理念在于凭借数字化和智能化技术,实现自动运行的数据分析和算法决策,从而达到敏捷、超能、穿透的治理效果。然而,政府部门并不熟悉、也不会直接运用这些新兴技术。因此,就采取技术外包的方式,与技术公司或者头部企业开展合作来开发建设服务平台、治理平台。一方面,这些社会化合作本身就展现了公共服务的开放性和参与性,而且在“数字政府即平台”的理念下,“通过海量实时动态更新的数据资源和透明开放的政府服务平台,带来了政府与民众的良性互动,促进了政府决策的科学化和民主化进程”;但另一方面,公共服务平台也好,治理平台也好,都只是政府与少数技术公司和企业的合作,这些企业只是按照政府提出的要求进行闭门设计,缺少民众参与和对社会诉求的吸纳。尤其是不少地方政府和部门为了树立数字化的形象,脱离公众的现实需求,推出的各种移动和智能应用的使用率较低,甚至变成一种装饰,其中也不排除存在某种寻租行为。这意味着,公民在此过程中始终处于“不在场”的状态,公民参与所占权重较低、影响较小。

其次,算法决策与公民互动。在数智治理过程中,算法决策无疑发挥着关键作用,如电子交警、数字哨兵、非现场执法等智能系统,会变成直接产生效力的自动化行政行为。这固然大大提升办案效率,方便当事人处理,有利于风险防控,但是,“随着代码编写的日趋商务化——即代码编写逐渐落入到少数几家大公司中”。而这些算法设计,很多都是不透明的,人们“无法看清其中的规则,无法提出不同意见,也不能参与决策过程,只能接受最终的结果”。因而,与传统的行政执法不同,这里基本没有与公民的互动场景,本来是旨在便民的技术应用,反而变成抽空了人性互动的“机器执法”。

第三,数字参与与数字能力。在我国的数智治理的基本理念和框架设计中,以党建为统领,以社区云为依托,赋能居村委自治共治、主动服务、减负增效,从而加快建设社会治理共同体,推动在线社群、线上议事组织、开放式民调等应用,就成为一些地方的重要制度探索和创新尝试。而国家层面的公民数字参与提升工程,则要求数字化赋能城市治理(建言献策、创新参与)、数字化赋能社区治理(民主协商、网格治理)、数字化赋能乡村治理(村务参与、社会监督)。这无疑是数智治理的核心,也是实现数字民主、数字法治的基础,具有重要的时代意义和社会价值。然而,这些制度设计和运行机制,并不一定能够自然而然地产生良好的社会效果。十分关键的是,在当代数字时代已经不仅仅需要自然人的权利能力和行为能力,更需要相应的数字素养和数字能力,实现从自然公民向数字公民的转型。但现实生活中却存在年龄上、阶层上、地域上的数字鸿沟,这些鸿沟无疑会加剧他们在数字能力上的落差甚至断层。这意味着,即便有数字化赋能治理的良好制度设计,一些弱势群体目前却不足以具备必要的数字素养与基本技能,因而,导致这部分群体难以充分运用数智治理机制来实现其数字参与,在某些方面反而衍生了数字不平等。事实也表明,很多地方的网格化管理“存在公民参与和社区多元主体互动缺乏问题”,这无疑严重影响了数字公民的参与实践和数智治理的创新效果。

第四,数据新政与电子官僚。数智治理的目标,是政府部门运用数字技术更好履行政府职能,用信息化驱动政府效能提升的过程。然而,在数智治理模式的探索过程中,出于功利主义、追求政绩等各种复杂因素的考虑,也存在重效率轻参与、重监管轻保护、重形式轻实质等问题,甚至出现“电子衙门”“电子官僚主义”,容易导致一些公众“望网兴叹”“望云兴叹”“望数兴叹”,却无可奈何。如果算法决策越来越多地被用来推动、引导、刺激、控制、操纵和约束人类行为的话,那么,就会形成人们所担心的“算法铁笼”。而这在数字鸿沟的叠加的影响下,则难免造成更为严峻的法治悖论。从世界范围来看,已经出现“公民被赋权和剥夺权利”的两种相互作用的动态趋势:“一方面权利被扩大,另一方面权利被削弱。个体会觉得被技术变革授予了更多权利,因为他们获取资讯、进行沟通、组织活动变得更容易,从而丰富了其参与公民生活的途径和方法。但同时,个人、公民社会团体、社会组织和当地社区越来越深刻地感受到被投票、选举等传统的决策程序排除在外,失去了有效参与能力,其影响力和发言权被支配机构忽视,在国家和本地治理中的权利日渐弱化。”这就是说,对于普通民众而言,数智治理创造的参与途径多,但参与机会却未必多;创造的参与空间大,但参与能力却未必高;创造了参与扁平化,但却很容易被边缘化。

(三)数智规制悖论

如前所述,数智治理具有强大的技术底座,它能够凭借数据和算法而形成高效敏捷、全景敞视、自动运行的技术机制和治理体系,其规制能力远超人类所积累下来的所有治理方式。然而,其中存在的问题却不可小觑。

一是技术治理中的规制逃逸。数智治理具有高能的规制力量,但它的这种规制能力主要是通过技术方式来实现的。在设计环节,大多数智治理系统都是政府按自身需要和特点来研发的。因此,他们自然将自身的理念、价值和原则嵌入数据处理、算法建模和代码编写之中,这就难免带有一定的主观偏好,进而作出有利于政府立场的系统设计。于是,“算法或压缩行政活动的各个环节,或作为内部行政决策,逃避行政正当程序制度的控制”情况便时有发生。在运行环节,自动化行政压缩了广泛存在的自由裁量空间,因此,一些“处罚考量要素及权重受算法所限,降低了原有执法的人性化酌处程度”。更为突出的是,“自动审批”“秒批”等自动化行政方式,实现了行政活动中的无人干预,同时却也产生了裁量判断、监督、责任、适用情境等困境和问题。在救济环节,由于是“无人干预”的自动化行政决策,所以,对于相对人而言,这就不是“当面互动”的执法人员,而更多地呈现为“人机互动”,并且,由于算法决策具有客观、科学的面孔,使其决策结果很难因处罚异议而发生改变,此时的救济渠道便严重受阻。可见,在数智治理过程中,政府部门所具有的高强规制力往往指向行政相对人或者社会对象,而其自身则在实体和程序上均出现了技术改写和规制逃逸。

二是一体平台中的制约弱化。数智治理的重要载体是平台,目前的各类治理平台有横有纵、有条有块,贯穿于从中央到地方的各级政府、各业务领域、各条战线。其中,数据共享、资源集合、矩阵管理成为主导方向,如一些地方打造综治工作、市场监管、综合执法、便民服务“基层治理四平台”,并以综合指挥、属地管理、全科网格、运行机制为支撑,形成全域覆盖、功能集成、工作协同的基层治理体系。这些一体化平台的好处是“一网打尽”、统一高效,但过于强调党政司法一体化,就很容易忽视基本的规则和程序,产生数据信息权力集中,使得宪法法律规定的分工制约关系受到弱化,特别是无限制地数据共享,会穿透地域层级和立法、行政和司法区隔(包括公检法线条内的分权区隔),不仅在数据确权、数据使用和数据交易上带来具体的困境,也会给相应的分工制约和权力监督造成一定的障碍和抵消。因而,难免会助长权力技术化、技术权力化的扩张倾向。

三是数智运行中的安全困境。当今信息革命颠覆了以往的物理世界,而“一旦世界被数据化,就只有你想不到,而没有信息做不到的事情了”。为此,数据安全就成为全世界普遍关注的重大问题。数智治理的基础就是数据信息和算法,一方面,没有数据信息的分享处理和利用就谈不上数智转型;另一方面,没有数据信息的安全保护,数智创新也就寸步难行。这就需要克服三大困境:首先,智能运行与隐私保护。数智治理具有脱实向虚的趋向,如一些地方的“电子门锁”“一脸通”、精细治理、风险预警等,旨在通过整合人、车、房、企业、监控数据,推动社区、网格等社会治理单元“精准落图”“入网进舱”,消除城市治理盲点,从而实现基层智治。但它所带来的深层隐忧和问题,就是个人隐私该如何保护。其次,数据共享与数据安全。即数智治理系统内各部门、各领域的数据共享过程中,如果没有或者不能遵守基本的数据安全“红线”,那么,处于被动和弱势地位的个人信息和企业数据就会失控,甚至流向数据交易“黑市”,随之人们难免受到无限的数据透视和隐性控制,公众的人格尊严也将遭遇严重的危机。最后,数据跨境与数字主权。数智治理也会涉及数据跨境和数据竞争,如滴滴打车在美上市所带来的客户数据风险,以及特斯拉汽车数据、微信数据、平台治理数据的安全问题。这是数字时代的巨大难题,无论是美国、欧盟,还是中国,都处于“数据虽无疆、主权却有界”的规制探索之中。国家《“十四五”规划和2035年远景目标纲要》就明确提出,要构建数字规则体系,营造开放、健康、安全的数字生态,建立健全数据要素市场规则,加强网络安全保护,推动构建网络空间命运共同体,这无疑是一个复杂的制度构建过程。

(四)数智人文悖论

科学技术是人类对自然及社会进行客观认识和规律把握的智慧成果,是自古以来人类实现主体发展、创造文明的根本支撑。近年来,环保主义者倡导非人类中心主义,尽管它在环境保护和动物权利方面具有重要的时代意义,但当人类真正面对网络技术、数字技术、智能技术的时候,还是要重拾人类中心主义。也就是说,一切技术的创新发展都必须服从、服务于人类的共同福祉,而不能以“技术进步”的名义,把技术当成资本和权力的工具而凌驾在人类发展之上。控制论大师维纳就说过,技术发展“既可能带来巨大的善,也可能带来巨大的恶”。因此,“不把该学科的发展交到那些最不负责任的、最腐败的工程师的手上”。可见,关键问题不在技术本身,而是如何发展和利用科学技术。同样,对于数智治理而言,它固然是人类迈进数字时代的重大制度变革和治理转型升级,但也存在一定的异化风险和人文悖论。这主要表现在两大方面:

其一,工具主义倾向。从本质上看,数智治理是适应数字化时代要求的新型治理形态,是满足数字化参与和共建共享发展的基本方式,也是“数字中国”战略的核心宗旨所在。然而,在实践操作过程中,出于服从上级指令、或者政绩形象等考虑,一些地方政府却采取工具主义的策略。如某些地方政府的数智治理和网格化实施方案中,“稳定”“监控”“综治维稳”“治安”等考量占据第一位,“服务”和“参与”的内容却不多见。如果数智治理只是侧重于工具性的维稳管控,如果民情信息员、网格监督员主要是发现案源、反馈问题的“眼睛”、执法的“触角”。那么,网格化管理技术就难免会出现手段与目的关系倒置、选择性治理和冲击人文关怀的情况。此外,还有苏州“文明码”、南京环卫工人的智能“监工”手表等均引起很大争议。同样,这种工具主义在商业场景中也不少见,如2021年8月俄罗斯在线支付服务公司Xsolla使用算法的“不敬业、效率低下”判断,解雇了147名员工。2019年美国亚马逊内部的AI系统,就通过追踪物流仓储部门员工的工作效率、“摸鱼”时间和实时数据而自动生成解雇的指令,却不需要作任何解释。在国内,也有企业在员工座位下方安装行为感知系统,监测员工不在岗时间、访问求职网站次数、聊天关键词、简历投递次数等。如果“AI监视”把人工具化,那就突破了技术伦理和文明的底线。如果这种人工智能技术的误用、滥用过多渗入数智治理的话,产生严重的异化后果,会颠覆数智治理的价值和本质。

其二,技术理性异化。自近代以来,现代性的发展可谓一路凯歌,但后现代主义的反思也接踵而至。特别是对技术理性异化的反思,为人类敲响了警钟——“技术理性和人类的价值在争夺现代人的灵魂”。进入数字时代后,基于数据和算法的技术理性获得迅猛发展,以至于给人们留下了“机器越来越像人,人越来越像机器”的印象。一旦“人类自我形象的计算机化将主体置于程序化设施和程序设计员的位置上”,那就是现代人“互相按对方的按钮”。在一些地方的数智治理过程中,“自动化系统已经由简单的行政管理工具变成了主要的‘决策者’”,而数据画像、算法偏见、信息茧房等,其计算逻辑都在不同程度上侵蚀了人文精神,甚至形成某种技术主宰、工具主义和技术异化。此外,还有一些地方在数智治理中大量采用AI系统进行画像识别、分析预测、分类监控、预警处置,这就“加剧了城市的两极分化和社会隔阂,增加了个人隐私和公共部门信息泄露的风险,也恶化了社会治理的碎片化问题,产生了由技术官僚化带来的计算机官僚主义为城市设置的新的道德秩序”。可见,克服数智治理中的技术理性异化,促进科技向善,实现数字正义,已成为数字时代的重大课题。

三、法治悖论的化解策略

数智治理的四重法治悖论,具有特殊的时代背景和深刻的复杂原因,而化解这些悖论也不会是轻而易举的。因此,需要立足数字社会规律和国家发展大局,采取系统化、机制化、战略性的方案策略。

(一)数智治理的合理定位

尽管数智治理是数字时代的治理机制与模式创新,然而,对它的不同认识和定位,也会形成不同的探索方向和建设目标,并对上述法治悖论的出现和化解产生重要影响。

从数智治理的目前发展情况看,可能需要淡化五个“主义”。一是淡化现代主义,即数智治理固然离不开现代主义的治理理论、治理要素和治理方式,但数智治理却不是现代性路线上的直线延展,而是数字时代的“超现代性”螺旋上升逻辑。因此,不宜把数智治理仅仅局限在治理体系和治理能力的现代化上,更应注重它对现代化治理模式的突破和超越上,更多遵循数字社会运行规律。二是淡化功利主义,即不能仅仅以技术赋能、强化职能、拓展业务为基点,而应把数智治理视为便捷高效、提质增效、提供民生福祉的创新探索。三是淡化工具主义,即不能把数智治理当成新型的权力工具、维稳工具,而应视其为服务社会、保障民权的主要载体。四是淡化形式主义,即不能把数智治理当成一个数字化的政绩工程、面子工程,而应实实在在地推进数智治理变革。五是淡化技术主义,即不能过于强调数智治理的技术控制和技术至上,而应让技术辅助人类、造福人类,强化智能伦理和人文关怀。

淡化这五个“主义”的目的,就是要回归数智治理的应有定位,发挥其应有的数字法治功能。国家《“十四五”数字经济发展规划》明确指出:“数字经济发展速度之快、辐射范围之广、影响程度之深前所未有,正推动生产方式、生活方式和治理方式深刻变革,成为重组全球要素资源、重塑全球经济结构、改变全球竞争格局的关键力量。”浙江、上海等地坚持革命性重塑和打造“数治”新范式,把数智治理视为一个基础性、全局性、根本性的创新探索过程,这才是数智治理的本质和方向所在。也就是说,数智治理是一个从量变到质变的迭代转型和治理升级,是超越工商时代的数字社会治理形态。只有从这种定位出发,才能从根本上、底层上减少“新瓶装旧酒”、内在机制冲突以及权力“搭便车”等问题,从而有效化解数智治理的赋权悖论、参与悖论、规制悖论和人文悖论,发挥数智治理的应有功能和成效。

(二)纳入数字法治框架

由于数智治理是反映数字社会发展规律的新型治理模式与机制,因此,它不仅要体现法治要求,更要体现数字法治要求。必须纳入数字法治框架,进而以数字法治方式和途径去化解数智治理的四重悖论。

首先,以数字法治政府为牵引。基于我国国情和制度体制,党委和政府无疑是数智治理的核心和主导。党的十九届四中全会《决定》指出,要完善党委领导、政府负责、民主协商、社会协同、公众参与、法治保障、科技支撑的社会治理体系,建设人人有责、人人尽责、人人享有的社会治理共同体。2021年8月发布的《法治政府建设实施纲要(2021-2025年)》作出从数字政府到数字法治政府的战略转向,但这一转向却不只是“监管的数字技术”或者“数字技术的监管”,而是“一种适应数字时代的要求,是对政府理念、机构、职能、流程再造的法治化进程”。这样,数字法治政府的整体性重塑,就会有效地驱动、牵引数智治理在数字法治的框架内展开和发展。相反,如果党委和政府的理念跟不上时代步伐,体制机制陈旧僵化,那么,数智治理就不可能获得创新发展,有些时候还会成为导致四重法治悖论的重要原因,进而使数智治理受到阻滞和消解。可见,只有以数字法治政府为牵引,才能更好地推进数智治理,塑造新时代的数字法治秩序。

其次,确立和坚持数字正义价值。数智治理是数字法治建设的重要动力和基础,也是数字法治建设的重要内容和机制。必须秉持数字正义价值观,才能更好地化解其法治悖论,发挥其数字法治功能。具言之,一是贯彻合法性、正当性、合理性原则,在数据收集和处理、算法设计和运用、平台架构与运行等方面,都应遵守网络安全法、数据安全法、个人信息保护法以及互联网信息服务管理办法等的规则约束,确保全流程合法、科学合理、促进公平效率;二是贯彻共建共治共享原则,保持数智治理过程的公开透明、扩大社会参与、增强普惠包容、促进协同共享,避免人工智能技术的误用滥用和算法黑箱操作,杜绝数智治理的异化发展,维护社会公平正义;三是坚持比例原则,在数智治理的技术应用和机制运行过程中,对自身赋权和权力行使应控制在所必要、所必需的范围和合理限度内,不可凭借数智治理来过度增强控制力量或者回避制度约束;对社会公众权利和自由的不利影响应保持在最小范围、最低限度之内,从而充分尊重和保护民众权利,使数智治理更好地增进社会福祉;四是坚持数字人权保护原则,尤其是要克服数字鸿沟、算法歧视、算法滥用等问题,确保数字生存权、平等权和人格尊严。

第三,落实参与监督机制。事实表明,离开民主参与和社会监督,无论是传统的社会治理,还是新型的数智治理,都会被抽空治理的实质,变成一种空洞的形式。为此,党和政府一直高度重视公众的民主参与和监督,2021年上升为“发展全过程人民民主”。全过程人民民主体现在数智治理上,就是强化电子选举、数智参与、数智监督和数智治理的法治评价,同时,强化数智治理中的分工制约和相互监督。只有这样,才能有效化解数智治理的四重法治悖论,实现数智治理的预期目标和效能。

(三)培养数字公民能力

数智治理之所以会出现法治悖论,一个很重要的原因就是数智治理的技术性、复杂性、自动性而强化了其封闭性、自主性,这就无形中限制和削弱了公民参与和社会监督。为了更好地推进数智治理,就必须“立足公民的需求,智慧地使用资源,做出智慧决策,推动可持续经济增长和提高居民生活质量。同时培育公共生活中的多元主体,平衡科学与民主、技术与治理、技术与政治之间的关系”。首先,确立数字法治精神。作为主导者的党委和政府,应当按照数字思维、数字规则和数字正义理念来设计、推进数智治理;作为参与者的社会公众,应该确立数字公民精神,形成数字规则意识、数字权利义务意识、数字参与意识和数字监督意识,从而督促数智治理不至于脱离法治轨道。其次,塑造数字参与能力,国家《“十四五”规划和2035年远景目标纲要》就明确要求,“加强全民数字技能教育和培训,普及提升公民数字素养”,特别是要消除数字鸿沟,形成必要的数字素养和数字驾驭能力,能够运用数字方式和数字手段来深度参与数智治理过程,实现对数智治理的全过程民主监督,抑制数智治理悖论和异化;第三,培养数字行动能力,按照国家《“十四五”数字经济发展规划》和网信办《提升全民数字素养与技能行动纲要》的要求,要提升全民数字素养和技能,让“数字技能进社区”“数字技能进社区”等,以增强每个人的数字防护和进行司法救济的能力,在数智治理中维护自身的合法权益;第四,提升数字协商能力,善于进行数字表达和数字沟通,避免网络暴力和价值撕裂,促进数智治理中的共识协作;第五,强化数字自律能力,即每个人不仅是一个自然公民,同时也是一个数字公民,要在虚拟化、流动化、扁平化的数智治理过程中,形成良好的理性精神和自律能力,从而更好地参与数智治理进程,维护自身合法权益,促进数字法治秩序。

(四)构筑数字社会“道德基础设施”

众所周知,数字技术在给人类惊喜、机会和福祉的同时,也带来了相当的社会风险,数智治理也是如此。其中的算法决策既会算错、失控,也会承继,甚至放大人类社会的歧视与不平等。因此,“面对可能超越人类智力的算法所带来的多重风险时,政府、市场及社会应在AI治理中形成多元、多层次的治理能力,以积极的姿态降低AI风险,以最大化享受AI胜利所带来的生产力解放、生活便利舒适及决策的科学与理性”。其中很重要的就是要让“机会和风险可以得到恰当的权衡”。这样,数字时代的技术伦理就不再是一种价值追求,而是一种必不可少的“道德基础设施”。为此,构建这种“道德基础设施”就成为近年来的一个国际性主题。2019年欧盟委员会高级AI专家组(AI HLEG)发布《可信赖AI伦理指南》,2021年11月在第41届联合国教科文组织大会上通过全球首份《人工智能伦理问题建议书》。我国也先后发布了新一代人工智能治理原则、规范和科技伦理治理政策等。这些重要规范和政策,对推动人工智能安全可靠、可控可信和可持续发展,具有重要的意义和价值,也是化解数智人文悖论的根本所在。

结 语

数智治理在形式上是一种技术与人文融合贯通的治理创新,而在本质上则是一个从现代主义迈向超现代主义的重大历史变革,是从“物理世界”迈向“数字世界”的深刻转型,因而是人类社会治理形态的数字转型与迭代升级。但是,数智治理也衍生了权力技术化、技术权力化限缩社会参与、逃避法律规制和技术理性蔓延等严重问题,为此,必须把数智治理纳入数字法治框架来推进和完善。只有这样,才能有效化解数智治理的法治悖论,实现数字时代赋予数智治理的重大使命。

猜你喜欢
数智法治数字化
推动内部审计工作数字化的探究
走实“1+6法治同行”党建之路
“数智”时代会计教育重构:供需矛盾与要素创新
——更正——
“数智”时代高职课堂教学设计与实践
“数智”助力城市算好资源账
数字化起舞
攀云赋智,宗申动力抢抓“数智”新风口
高中数学“一对一”数字化学习实践探索
新时代道德与法治教师法治素养的培育