论人工智能缺陷产品生产者的刑事责任

黄陈辰

人工智能产品(1)人工智能产品是指运用大数据、机器学习、云计算、语音与图像识别等人工智能技术的产品，例如具有自动驾驶功能的交通工具、手术机器人、智能金融代理等。另外，部分学者根据自主意识的有无，提出弱人工智能与强人工智能的划分。但由于目前尚未产生且在可预见的相当长时间内不会产生所谓的强人工智能，因此本文仅在弱人工智能视角下进行研究。与传统产品不同，因此人工智能缺陷产品生产者(2)本文所述“生产者”，指的是包括研发、设计、制造等各部门在内的集合体，并不仅限于进行组装、制造的部门。的刑事责任的判断与传统缺陷产品生产者相比亦具有明显区别。例如算法黑箱导致因果关系的认定更加困难、信息网络技术使得生产者对流通领域内的产品具有更高的支配力等。这些区别导致传统缺陷产品生产者刑事责任的相关结论无法直接适用，必须加以调整。而这也正是本文研究的核心，即人工智能缺陷产品生产者的刑事责任应如何认定与承担。

一、人工智能缺陷产品生产者在生产环节的故意责任

(一)人工智能产品安全标准的欠缺与增补

根据我国《刑法》第146条的规定，生产不符合安全标准的产品罪的构成要件之一为“产品不符合国家标准、行业标准”。因此，相关产品的国家标准与行业标准成为判断生产者行为构罪与否的重要依据。

1.人工智能产品安全标准体系尚未形成

2.增补针对人工智能产品的安全标准

产品安全标准等规范性文件的内容往往是针对已经发生的社会现实，故其制定具有一定的滞后性。但科技的不断发展，尤其是从弱人工智能到强人工智能再到超人工智能的进程，既不可避免，也无法叫停。若不能及时更新、完善相关规范，则会造成规制上的空白与漏洞。因此，相关部门应紧跟时代发展，保持对科技进步的敏感性与前瞻性，及时增补针对人工智能产品的国家标准、行业标准，以构建人工智能产品安全标准体系。

(二)因果关系认定的困境与破解

1.“算法黑箱”导致因果判断失灵

2.“理论+技术+政策”破解“算法黑箱”困境

(3)政策层面。技术的发展并不是随心所欲的，其必须在一定的规范框架之下进行，故各国人工智能技术发展的具体方向与样态，很大程度上取决于各国在该领域内的政策导向。因此，要破解“算法黑箱”困境，则需要在政策层面对人工智能技术的可解释性提出要求。目前，部分国家已经开始探索并做出了一定的回应，值得我们借鉴。例如，美国电气和电子工程师协会(IEEE)发布的《人工智能及自动化系统伦理设计白皮书》中，提出了人工智能及自动化系统设计的五项基本原则，其中第四项原则为“透明性原则”，即要求一个特定的自主和智能系统的决策基础应该始终是可发现的，强调了人工智能算法的可发现性(13)“Ethically Aligned Design”, https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead_v2.pdf. 访问日期：2020年1月20日。；美国计算机协会(USACM)发布了关于算法透明和可责性的七项原则，其中第四项原则为“可解释性原则”，鼓励使用算法决策的组织和机构对算法所遵循的程序和所做出的具体决策进行解释(14)Simson Garfinkel, Jeanna Matthews, Stuart S. Shapiro, and Jonathan M. Smith, “Toward Algorithmic Transparency and Accountability”, Communications of the ACM, 2017, 60(9), p.5.。

二、人工智能缺陷产品生产者在流通环节的不作为责任

产品一经销售，即移转为消费者占有，生产者随即丧失对其的物理控制。但若该产品具有危及人身、财产安全的缺陷，生产者需要及时采取公告、召回等措施，否则将承担相应的法律责任，这一点在民法上已经明确(15)参见《侵权责任法》第46条、《消费者权益保护法》第19条、《食品安全法》第63条等。，在刑事责任领域也有所探讨。理论界对缺陷产品不召回行为(16)为方便表述，本文将生产者不及时消除缺陷产品所造成的法益侵害危险的行为统称为“不召回行为”。刑事责任的研究，主要集中在处理模式的选择上。目前共有三种模式，即将不召回行为与生产行为进行一体评价的故意作为犯模式、将作为义务消解于注意义务之中的过失犯模式，以及不真正不作为犯模式。其中，不真正不作为犯模式更加符合不召回行为的本质，且其能够有效填补前两者处罚范围有限与难以解释积极义务的弊端，因此属于相对合理的选择。需要注意的是，人工智能产品亦属于刑法所称的“产品”，故生产者不召回人工智能缺陷产品的行为同样构成不真正不作为犯。但与传统产品相比，人工智能产品能够依托大数据进行深度学习与自主决策，智能化程度更高，因此生产者不作为责任的具体认定具有其特殊性。

(一)作为义务的来源与内容

1.作为义务的来源

生产者承担不作为责任的最重要前提是存在作为义务，在不召回缺陷产品情形中则为召回义务。理论界对召回义务的来源具有不同观点，主要有安全确保义务说、支配领域说、先行行为说等(17)吕英杰：《风险社会中的产品刑事责任》，《法律科学》2011年第6期。。本文考虑到生产者在信息方面的优势地位、缺陷产品可能危害的对象范围、继任生产者的责任承担等因素，采取对因果进程的排他支配说，即由于生产者对损害后果发生的因果进程处于排他性支配地位，因此其具有防止损害发生的作为义务。

当然，产品一经销售即在物理上脱离生产者的控制，例如生产厂商将汽车销售之后，汽车的占有即移转给购买者，生产厂商不再对汽车具有实际的支配权。因此，在传统缺陷产品场合，只能将生产者对因果进程的排他支配限定在对“产品处于流通领域并随时可能引发事故”这一危险状态的支配，即生产者利用自己对产品质量的信息优势，通过左右消费者对缺陷产品危险性的认知来控制其是否继续使用该缺陷产品，进而达到对损害结果发生之因果进程的支配(18)黎宏、常康爽：《缺陷产品不召回的刑事责任》，《上海政法学院学报》2018年第5期。。产品购买即是为了使用，但绝大多数的产品缺陷都不易被消费者发现。因此，若生产者不告知其该产品存在缺陷，消费者便会继续使用，而产品事故都是在这种“无知”状态下发生的。但对于人工智能产品而言，其缺陷主要在于系统漏洞，而人工智能系统虽内置于相关产品，但仍未完全脱离研发端的总服务器，生产者可以通过该服务器对其生产的所有产品中的人工智能系统进行调试与更新。因此可以说，其对流通领域内的产品以及产品事故发生的因果进程具有更高的支配力，并且这种支配是直接的、具有物质载体的，相较于传统产品而言，排他性效果更强。例如，自动驾驶汽车的生产者能够远程对自动驾驶系统进行操作，且其技术与算法具有保密性，因此不用借助于信息的不对称，生产者可直接对因系统缺陷导致的产品事故具有排他性支配。

2.作为义务的内容

对于传统缺陷产品而言，生产者的作为义务即召回义务的内容，主要有对消费者提出警示与公告、及时召回市场上的全部缺陷产品、对缺陷产品进行修理等。但由于人工智能缺陷产品具有智能性等特征，其生产者的召回义务在上述内容的基础上还应增加以下两项：

其一，生产者可以通过主服务器禁用存在缺陷的人工智能系统。例如自动驾驶汽车的自动驾驶系统存在漏洞，则生产者可以直接在后台进行操作，禁止装配有该系统的汽车使用自动驾驶模式，而只能由人类驾驶员亲自驾驶。这样的措施与传统被动的警示、公告相比，具有主动性，生产者能够及时停止缺陷系统的使用，防止事故的继续发生。若生产者在得知系统存在缺陷之后未能及时禁用该系统，则应对扩大的损害后果承担不作为责任(19)牛天宝：《通过现有规范解决自动驾驶汽车肇事之刑事责任归属问题》，《法学杂志》2020年第3期。。

(二)作为的可能性

要认定人工智能缺陷产品生产者的不作为责任，除具有作为义务以外，还需要具备作为的可能性，即在客观上能够有所作为。若由于不可抗力等因素导致生产者无法采取相应措施，则其不对损害后果承担不作为责任。人工智能产品的特殊属性，使得其生产者在召回措施的作为可能性上与传统产品生产者有所不同：其一，生产者能够利用无线技术对各人工智能系统进行实时监控，因此无论产品的流通范围多广，也无论是否有其他渠道获取信息，一旦系统出现故障，生产者能在第一时间发现并采取相应措施。其二，传统产品出厂销售以后，由于经手各经销商、分销商等中间环节，生产者很难了解产品的具体去向，且某些产品的市场覆盖面广，甚至远销海外，故召回的成本高、难度大，即使最基本的警示与公告等措施，也很难保证所有购买者都能得知。但基于通信手段与互联网技术的发展，对于人工智能产品，生产者只需在总服务器上进行操作，即可将产品故障信息准确送达每一位产品使用者，并且还可以对故障系统实施远程禁用与修复。因此，人工智能缺陷产品生产者具有更高程度的作为可能性。

三、人工智能缺陷产品生产者刑事责任的阻却因素

并非所有因人工智能产品缺陷导致的损害后果均应归属于生产者。在下列情形中，生产者的刑事责任受到阻却：

(一)当前技术无法发现的缺陷

(二)介入因素导致的缺陷

导致损害后果的产品缺陷除了由生产者的生产行为引起外，还有可能归因于某些介入因素。在此情况下，生产者的刑事责任得以阻却，转而由介入因素主体承担。此处所说的介入因素有以下两类：

其二，犯罪人非法侵入系统。人工智能技术的发展在便利社会生活的同时，也为犯罪分子实施新型犯罪提供了条件。当前与人工智能有关的犯罪中，除利用人工智能技术作为犯罪手段外，还有另一种类型，即以人工智能系统为犯罪对象，犯罪人非法侵入人工智能系统并进行相应的操作，以实现犯罪目的。例如电影《速度与激情》中的“僵尸汽车”情节，即是黑客利用无线网络侵入自动驾驶汽车的操作系统并阻断人工接管功能，使汽车只能在自动驾驶模式下运行。在这种情况下，自动驾驶系统的漏洞并非由生产者的生产行为导致，而应归咎于黑客的侵入与修改行为，因此生产者无须对损害后果承担刑事责任。但需要注意的是，生产者在开发自动驾驶系统时应添加相应的安全模块以防止黑客入侵，若生产者怠于采取上述措施进而导致黑客侵入自动驾驶系统，则生产者需要承担相应的刑事责任。

(三)生产者发出警示公告后，使用者不听劝阻继续使用

四、结语