人工智能时代机器人异化与刑事责任

刘宪权 张俊英

摘要：在人工智能时代的强智能时期，智能机器人具有与自然人相当甚至更高的辨认与控制能力，并形成与自然人不同的利益或需求。智能机器人基于自主意识和意志实施自我判断符合算法的行为，效果可能引发违背人类利益的异化状态。强智能机器人异化的自主危害行为符合承担刑事责任的实质根据和形式根据。对强智能机器人异化涉及的因果关系范围应加以扩大，对涉及正当防卫、紧急避险等出罪事由应从严认定。强智能机器人运用更高辨认与控制能力实施严重危害行为时，需要根据罪责刑相适应原则相应调整刑事责任的主客观要件内涵。以机器人应用较领先的交通、医疗、危险作业等领域为切入分析强智能机器人所应承担刑事责任的内涵，据此认定涉及故意犯罪或过失犯罪的刑事责任。

关键词：人工智能机器人

自主意识异化刑事责任

我国政府2017年发布《新一代人工智能发展规划》，指出需要高度关注机器人异化和安全监管等涉及人工智能问题。异化是哲学研究中用来描述人之外的存在对人本身解放的压制的范畴，黑格尔将异化视为“绝对精神的对立面”，费尔巴哈将异化视为“人的本质的自我分裂”。马克思对前人思想进行扬弃，将异化与社会运动联系在一起，指出异化是主体在发展过程中由于自己的活动而产生出自己的对立面。人工智能時代的到来赋予异化全新的意义，人工智能机器人原先具有机器与人的双重特点将随着机器人本身的认知与行为越来越具有自主性直至完全脱离人的程序控制，人工智能达到或超过人类智能从而将引发机器人自主实施严重危害行为的异化问题，“从普通机器人到弱智能机器人，再到强智能机器人的‘进化史，其实是一部机器人的辨认能力与控制能力逐步增强、人之意识与意志对其‘行为的作用逐渐减弱的历史。人与机器人在辨认能力与控制能力上此消彼长的变化，从根本上影响着刑事风险的样态与刑事责任的分配”。机器人异化是指强智能机器人基于自主意识和意志实施自我判断符合算法的行为，但是该行为的效果可能违背人类利益的情形。笔者认为，虽然强智能机器人异化的自主行为多数或许可以在刑法框架内进行评价，但是其应当独立承担的刑事责任具有特殊性，特别是在正当化出罪事由的判断、因果关系的认定等方面与传统刑法有较大的区别。我们理应根据罪责刑相适应原则，相应调整实施自主行为的智能机器人刑事责任主客观要件的内容，并以此作为追究智能机器人刑事责任的判断标准。

一、强智能机器人异化与刑事责任根据

在弱人工智能时期机器人没有自主的辨认和控制能力，无法取得独立的主体资质因而也就不存在弱人工智能机器人的异化，弱人工智能机器人涉及危害行为发生的损害后果应归责于设计者和使用者。进入强人工智能时期，智能机器人将具有自主意识和意志，因而也就具备了独立辨认和控制自己行为的能力、责任主体地位、在某种程度上具有利益驱动的现实条件。由此可见，强智能机器人基于自主意识和意志实施的异化行为完全可能具有严重危害性并且符合犯罪构成要件，即具有承担刑事责任的实质根据和形式根据。

（一）智能机器人异化将出现在强智能时期

人工智能时代呈现为普通人工智能、弱人工智能与强人工智能三个时期：普通智能与弱人工智能的分界岭为是否具有深度学习能力;弱人工智能与强人工智能的界分点则为是否具有独立意识和意志：前者可以在设计和编制的程序范围内进行独立判断并自动做出决策的人工智能，它不具有辨认能力和控制能力，其实现的只是设计者或使用者的意志;后者则具有自主的辨认能力和控制能力，既可能在设计和编制的程序范围内进行独立判断并自主做出决策，实现设计者或使用者的意志，也有可能超出设计和编制的程序范围，进行自主决策并实施相应行为，实现其自身的意志。据此分析，笔者认为，在弱人工智能时期弱智能机器人没有自主的辨认和控制能力，无法取得独立的主体资质，因而也就不存在弱人工智能机器人的异化。笔者认为，如果将异化视为某种后果而不是主体状态，弱人工智能时期也只存在弱智能机器人参与下自然人的异化。在弱人工智能时期，设计者故意设计用于侵害他人或社会利益的智能机器（如杀手机器人），过失设计存在严重隐患的人工智能产品或设计过程严重侵害他人权利（如未经授权大量使用他人作品作为深度学习数据库设计用于商业用途的智能机器人），由于这些情况都是弱智能机器人在自然人设计和编制程序范围内做出的判断或做出的决策，弱智能机器人只是帮助设计者和使用者贯彻意志并实现目的的自动化工具，即其完全处于工具性的地位。对上述情况应当承担法律责任直至被追究刑事责任的当然只能是设计或使用弱智能机器人的自然人，而不应当是作为工具的弱智能机器人。

进人强智能时期后机器人将具有独立辨认和控制自己行为的能力、责任主体地位并具有利益驱动的现实条件。首先，强智能机器人异化后实际上具有独立辨认和控制自己行为的能力条件。进人强智能时期的机器人在语言识别、图像处理、逻辑推理、模糊运算、神经网络等方面已具有与自然人相当甚至更高的辨认和控制自己行为的能力，强智能机器人已经可以自主脱离自然人设计和编制的程序或受到其他自然人的教唆或帮助下在自然人设计和编制的程序之外实施自主行为。其次，强智能机器人异化可能导致其具有责任主体地位。应当看到，不利于人类的人工智能其实是没有意义的。具有独立意识和意志的强智能机器人应当享有尊严权、财产权等权利，以后如果生命科学技术、神经科学技术与人工智能技术加以结合的话，强智能机器人甚至还可能具有与自然人同等的生命权、自由权等人身权。此时，我们当然有理由认为，强智能机器人享有完全的权利。尽管“基于保护人类、维护人类利益的理由，智能机器人的伦理地位或许只能是也至多是限制性主体地位，这一原则应始终予以贯彻，并在法律制度中予以体现。……即便未来有一天机器人真的能够成为‘其他人，法谚‘法律面前人人平等也不应适用于自然人与机器人之间。机器人限制性主体地位意味着当自然人利益与机器人利益产生冲突时，原则上应保障自然人利益，在绝大多数领域内，自然人与机器人之间不应存在法律意义上的平等。”但是，这也只是时下人类单方面的想法，是否能保持这种平衡实际上也很难预测。由于强智能机器人的责任主体地位与其自主意识和意识之间不相一致，强智能机器人极可能在其自主意识和意志支配下主张与其相当的主体地位，力图通过具有对抗性质的自主行为改变受限制的责任主体地位。这应该是强智能机器人异化有可能甚至必然带来的后果。再次，强智能机器人异化具有利益驱动的现实条件。在人工智能时代，如果人工设计制造的智能机器人在辨认或控制能力方面与自然人相当，这似乎就意义不大。正因为此进入人工智能时代后人们必将设计制造出辨认或控制能力超过自然人的强智能机器人，在投入产出比上具有更高现实利益的明显优势。近年来世界各主要国家都推出了人工智能发展规划或方案，投入大量资金和资源研发制造人工智能机器人，可以说，关乎各国国运与人类命运的新一轮人工智能制高点竞争已经开始，这在客观上加速了强智能机器人的到来或异化的进程。

（二）智能机器人异化的自主表现与刑事责任的实质根据

人工智能时代仍然属于人类社会，仍然需要以人的生存发展为主旨，智能机器人的运行或行为都需要以不违背人类利益为原则。强智能机器人在完全自主意识和意志支配下实施危害社会或人类利益的行为具有社会危害性，是其承担刑事责任的实质根据，属于智能机器人的异化。强智能机器人在其他自然人、强智能机器人的教唆、胁迫下实施危害他人、社会或人类利益的行为也具有社会危害性，应当承担部分刑事责任，但不属于智能机器人的异化。

首先，强智能机器人完全出于自主意识支配下实施严重危害社会利益的异化情况具有社会危害性，应当承担刑事责任。在人工智能时代的强智能时期仍然存在人类社会的基本结构，仍然存在严重危害社会的行为与现象，需要依照刑法进行规制。随着强智能机器人具有部分主体资格从而成为新的社会成员，将可能出现自然人、智能机器人甚至人工智能改造人等多元社会成员组成的新社会系统。在人工智能时代的智能社会里，强智能机器人在数量上可能仍属于少数群体，也可能存在强智能机器人危害其他强智能机器人的少数现象，需要关注的主要现象应该是强智能机器人侵害社会利益的具有严重社会危害性的行为。由于强智能机器人具有卓越的辨认和控制能力，在某种程度上其社会危害性可能会大大提升。在实施危害社会或人类利益时可能存在更加难以防范的行为手段，从而使智能机器人具有严重社会危害性的行为难以发现并证明追责。

其次，强智能机器人完全出于自主意识支配下实施危害人类整体利益的异化情况具有严重社会危害性，应当承担刑事责任。在传统社会里自然人或自然人团体如要实施危害人类整体利益的犯罪如实施战争、反人道主义、种族灭绝等罪行，通常需要耗费极大资源，并进行极大动员才可以做到。进入强智能时期，人类不能永远奢望强智能机器人只作为人类附庸为人类服务而不担心它会“揭竿而起”，由于与强智能机器人相比，人类天然具有许多致命的劣势：如生物机体较弱、辨认能力生成时间长、控制能力弱等，一旦强智能机器人完全出于自主意识支配下实施诸如向人类开战等危害人类整体利益的行为，人类可能会完全处于劣势。笔者认为，在强智能时期人类一方面应当与强智能机器人和平相处、互相支持，另一方面也要对强智能机器人保持警惕，对其自主意识支配下实施危害人类整体利益的行为予以及时而严格的预防和规制。

（三）智能机器人异化的自主表现与刑事责任的形式根据

笔者认为，强智能机器人严重危害社会的行为完全符合刑法中相关犯罪构成要件，具备了承担刑事责任的形式根据。

首先，强智能机器人在完全自主意识和意志支配下实施危害社会或人类整体利益的异化行为属于刑法意义上的行为。强智能机器人在自主意识支配下实施危害社会或人类整体利益的异化行为具有行为的有意性与有害性因素，需要扬弃不符合人工智能时代的行为身体性要素。传统观点认为，“行为、归责、责任这样的概念，一直以来都是不可侵入且不可变化的，被认为是无法适用于机器的。即便机器是自主地进行活动，但是因为该活动不属于刑法当中的行为，则对机器进行责任归属，或认定责任都不具有可行性”。对此观点笔者不能同意，我们认为，在现代刑法中行为人的身体条件似乎已不是必要要素，尤其是我国刑法已明确规定单位可以成为刑事责任主体，而不具有身体特性的单位行为显然无需身体性要素。进入人工智能时代，行为的本质要素需要着眼于有意性和有害性，强智能机器人具有自主意识、在自主意识支配下实施危害社会或人类整体利益的异化行为完全符合有意性和有害性因素。

其次，强智能机器人在完全自主意识和意志支配下实施危害社会或人类整体利益的异化行为符合刑法上的罪过要素。我国刑法规定行为人承担刑事责任应当具有故意或过失的罪过形式，强智能机器人在自主意识和意志支配下实施危害社会或人类整体利益的异化行为也具有刑法上责任主体的罪过要素。其一，由于强智能机器人具有卓越的辨认和控制能力，强智能机器人的自主行为符合我国刑法第14条“明知自己的行为会发生危害社会的结果，并且希望或放任这种结果发生”的规定，符合犯罪故意的条件。有的观点认为“机器人知道进行举动，但是不知道举动的意义”，并举例AlphaGo战胜了许多国家顶尖围棋国手但却不知道下围棋的意义，因此认为智能机器人没有故意。笔者认为，该观点显然混淆了行为意义或行为目的和犯罪故意两个不同的概念，我国刑法的犯罪故意是由对行为及其造成的结果的意识和意志两部分构造而成，并没有将行为意义或行为目的作为犯罪故意的构成部分，行为意义或行为目的存在与否并不影响犯罪故意的成立。其二，强智能机器人具有法律责任主体资格，在法律责任主体资格范围内负有行为的注意义务。同时具有卓越的辨认和控制能力的強智能机器人也具有相应的预见能力和预见可能性，强智能机器人自主实施违反注意义务的行为符合我国刑法关于犯罪过失的条件。强智能机器人的限制性法律主体资格可能体现为职业资格（如医生）、生活技能（如驾驶）、专业资质（如从事危险岗位工作）等，在进行相应领域行为时需要遵循法定的或合理的注意义务要求，当然如下文所述，强智能机器人所应遵循的注意义务要求将大大高于对一般自然人的要求。

二、强智能机器人异化刑事责任的特殊性

正如前述，既然强智能机器人基于完全自主意识和意志实施的行为与具有辨认和控制能力的自然人实施的行为在本质上并无二致，那么，在刑事责任的认定上，似乎也应该与自然人或单位具有相当性。但是，尽管如此，笔者认为强智能机器人异化的刑事责任在多数情况下仍然存在特殊性，主要表现在以下几个方面：

（一）强智能机器人基于完全自主意识和意志实施危害社会或人类整体利益的异化行为与造成严重后果之间的因果关系在范围上应该加以扩大

首先，强智能机器人在完全自主意识和意志支配下为其他自然人、单位提供网络技术支持，最终造成严重后果的，应当认为其网络技术支持行为与严重后果之间具有因果关系。人工智能时代的网络更加发达，强智能机器人对网络具有卓越的辨认和控制能力，强智能机器人在完全自主意识和意志支配下为其他自然人、单位提供网络技术支持，将是其实施危害社会或人类整体利益的异化行为的重要方式。强智能机器人有能力在提供网络技术支持的同时，辨认该行为对其他自然人、单位的意义和作用，进而及时辨认该行为是否为他人实行犯罪提供帮助。如犯罪分子为传播宣扬恐怖主义的视频而租赁网络云盘服务，提供网络云盘服务的自然人、单位难以实时监控网络云盘，无法从数以亿计的视频中及时辨认出占比不多的宣扬恐怖主义视频，但提供网络云盘服务的强智能机器人却能够通过智能算法迅速辨认出宣扬恐怖主义的视频。由此可见，强智能机器人提供网络技术支持的行为性质只能是合法或非法，不可能具有中立性质。强智能机器人在完全自主意识和意志支配下为他人提供网络技术支持，有能力及时判断其网络技术支持行为是否为他人犯罪提供帮助，却没有及时判断;或已经及时判断出其网络技术支持行为在为他人犯罪提供帮助，却继续提供网络技术支持的，应当认为其网络技术支持行为与严重后果之间具有因果关系。

其次，强智能机器人基于完全自主意识和意志实施危害社会或人类整体利益的异化行为导致被害人自杀白残的，应当认为其行为与被害人自杀自残之间具有因果关系。强智能机器人具有卓越的辨认和控制能力，完全有能力辨认和控制实施异化行为后可能导致被害人自杀自残的严重后果。在谢某等非法拘禁案中，谢某等三被告人出于索要医疗费目的拘禁被害人，期间有轻微殴打和威胁行为，被害人愤而服毒自杀。法院认为：被害人服毒身亡是被害人自己的行为，与三被告人的非法拘禁不具有直接因果关系，依照主客观相一致的原则，三被告人对被害人服毒身亡后果不负刑事责任。法院的这一观点不能适用于强智能机器人。强智能机器人基于完全自主意识和意志实施非法拘禁行为后，完全有能力监测被害人的呼吸、心跳等生物信号，据此其应当具有辨认被害人是否有自杀自残迹象的能力。当认识到被害人有呼吸加重、心跳加速等情况，表明被害人将要自杀自残时，完全具有制止被害人自杀自残的能力。强智能机器人明知被害人不堪忍受拘禁将要自杀自残却不予制止，放任被害人自杀自残的严重后果的，应当承担非法拘禁罪的加重责任。强智能机器人实施其他危害社会或人类整体利益的异化行为导致被害人自杀自残的，也完全有能力辨认和控制实施异化行为后导致被害人自杀自残的严重后果，应当认为其行为与被害人自杀自残之问具有因果关系。

再次，强智能机器人基于完全自主意识和意志实施危害社会或人类整体利益的异化行为，利用自然现象造成严重后果的，应当认为其行为与严重后果之间具有因果关系。在强智能机器人卓越的辨认和控制能力之下，自然现象已不再难以认识，自然现象成为强智能机器人实施危害行为时加以利用的工具。强智能机器人基于完全自主意识和意志有能力分析自然现象的海量数据，有能力辨认出自然现象背后的深层次因素和运行规律，并利用自然现象造成严重后果，应当认为其实施的危害行为与危害后果之间具有因果关系。如强智能机器人意图利用雷电杀害自然人，基于自主意识和意志通过海量大数据分析，挑选出雷击较为频繁、土壤含重金屬较多、空气湿度较高的地区位置，诱骗被害人来到该地后被雷击身亡，强智能人机器人对此应当承担故意杀人罪的刑事责任。

（二）对强智能机器人基于完全自主意识和意志实施危害社会或人类整体利益的异化行为应严格适用正当防卫出罪事由

根据不法侵害能否损害强智能机器人，我们可以将不法侵害分为普通方式侵害和特别方式侵害。普通方式侵害指的是能够损害自然人却不能损害强智能机器人的方式，如拳打脚踢、枪击刀砍等;特别方式侵害指的是能够损害强智能机器人却不能损害自然人的方式，如EMP（Electro MagneticPulse）电磁脉冲攻击。综合考虑保护利益与不法侵害类型的情形，强智能机器人涉及正当防卫的问题可以分为下列三种情形：

首先，自然人使用普通方式侵害强智能机器人，强智能机器人为制止普通方式侵害造成自然人损害的，不成立正当防卫。强智能机器人只具有限制性法律地位，不具有生命权、健康权，只享有部分自由权、尊严权、特定财产权（如深度学习后产生的数据权）。强智能机器人的权利不是自然人权利的翻版，其只能享有不完全的、从属于自然人的权利。自然人使用普通方式侵害强智能机器人，不可能侵害到强智能机器人本就不存在的生命权、健康权，也不可能侵害到强智能机器人不完全的自由权、尊严权和特定财产权，实质上不构成对强智能机器人的不法侵害，也就不存在成立正当防卫的前提。因此，强智能机器人为制止普通方式的侵害造成自然人损害的，不成立正当防卫。根据造成自然人损害的性质和程度，承担相应的刑事责任。

其次，不法侵害人使用特别方式侵害强智能机器人，强智能机器人为制止特别方式的侵害造成不法侵害人损害的，具有成立正当防卫或防卫过当的两种情形。不法侵害人使用特别方式侵害强智能机器人，直接损害强智能机器人的电子系统和数据安全，足以导致强智能机器人数据全部或部分丢失的，强智能机器人可以对此进行防卫。强智能机器人受到侵害但尚未丧失辨认和控制能力，为制止不法侵害造成他人损害，没有超过必要限度的成立正当防卫，超过必要限度造成不应有损害的属于防卫过当。强智能机器人受到侵害并丧失辨认和控制能力，在失控情况下造成他人损害的，不承担刑事责任。

再次，不法侵害人使用普通方式侵害国家、社会或他人利益，强智能机器人有能力直接制止不法侵害却造成不法侵害人损害的，不成立正当防卫。不法侵害人使用普通方式侵害国家、社会或他人利益，强智能机器人有能力认识到不法侵害并直接制止不法侵害，不需要对不法侵害人造成损害，因此没有进行防卫的必要。强智能机器人有能力直接制止不法侵害，却造成不法侵害人损害的，不成立正当防卫，根据造成损害的性质和程度，承担相应的刑事责任。

（三）强智能机器人基于完全自主意识和意志实施危害社会或人类利益的异化行为应严格适用紧急避险出罪事由

强智能机器人为保护自身财产权益而进行避险造成损害的，与自然人的避险行为在本质上并无不同。强智能机器人没有生命权、健康权，只具有不完全的自由权、尊严权，也就不存在成立紧急避险的前提。因此，强智能机器人为保护自身其他限制性权益而进行所谓避险造成损害的，不属于紧急避险，根据损害的性质和程度，承担相应的刑事责任。

强智能机器人为保护国家、社会或他人利益，基于完全自主意识和意志采取避险行为，需严格把握强智能机器人的避险认识和不得已避险的条件。其一，严格把握强智能机器人的避险认识。强智能机器人的避险认识建立在智能算法基础上，表现为对保护利益与避险损害之间的量化比较。当保护利益与避险损害属于财产利益时，智能算法可以做出合理量化比较;当保护利益与避险损害属于身体权、健康权等人身权利时，智能算法无法做出合理量化比较。因此，强智能机器人为保护自然人身体权、健康权而进行避险，造成其他自然人的身体权、健康权损害的，不属于紧急避险，根据损害的性质和程度，承担相应的刑事责任。强智能机器人为保护自然人的生命而进行避险，造成其他自然人的身体权、健康权损害的，不属于紧急避险，根据损害的性质和程度，承担相应的刑事责任，但应当从轻或免除处罚。其二，严格把握强智能机器人成立紧急避险的不得已条件。强智能机器人只具有一定程度的法律地位，享有一定范围的权利。当国家、社会或他人利益正在遭受危险时，应先考虑排除危险，而不是先实施避险。无法排除危险的，强智能机器人应先牺牲自身全部利益来保护自然人的人身权益;当强智能机器人运行智能算法得知，即使牺牲自身全部利益也不能消除危险的，才可以进行避险。

三、不同领域强智能机器人异化刑事责任的分析

受人类需求程度和人工智能技术发展水平的影响，强智能机器人异化在不同应用领域出现的先后秩序会有不同。从目前人工智能发展现状来看，交通、医疗、危险作业将是人工智能技术率先得到普遍应用的三个主要领域。基于此，笔者认为强智能机器人在上述领域将可能率先异化，有必要对上述领域的强智能机器人实施危害社会或者人类整体利益的异化行为与刑事责任问题展开深入探讨。

（一）交通领域强智能机器人异化刑事责任分析

强智能机器人基于完全自主意识和意志实施异化行为，造成危害交通安全严重后果的刑事责任问题主要表现在以下几个方面：

首先，强智能机器人的公共交通安全明知因素和容忍严重后果是否发生的意志因素应具有更高标准。主要体现在：强智能机器人不仅对交通工具运行的事实状态要有明知认识，还需要对交通工具运行是否合法要有明知认识;不仅对其他交通参与人的事实状态与法律状态要有明知认识，还要对其他交通参与人违法行为介入引发严重后果的因果关系要有明知认识。强智能机器人明知其他交通参与人存在违法情况，明知如不采取有效措施必将造成严重后果却仍不采取有效措施的，应当构成相应的故意犯罪，承担相应的刑事责任。

其次，强智能机器人的公共交通安全注意义务以及避免严重后果发生的预见能力和预见可能性应符合更高标准。强智能机器人卓越的辨认和控制能力除了体现为对自身行为卓越的辨认和控制能力，还体现为对其他意外因素的卓越辨认和控制能力。在交通领域里经常发生各种意外因素介入自然人驾驶过程的情况，这种情况下对自然人是否应当被追究刑事责任存在较多争议。如甲驾车超速行驶在限速60码的公路上，没有注意到公路中间有几个窨井盖，车轮碾上去导致窨井盖飞起来，砸到路边行人导致人员伤亡。辩护方认为：公路中不应该有几个窨井，属于意外因素;并且经过试验证明：即使汽车不超速行驶，车轮碾上去也会发生窨井盖飞起来的情况，故认为甲无罪。法院认为构成交通肇事罪。如果强智能机器人遇到此种情况，应当有能力迅速发现并及时处置，并且能够计算出碾上窨井盖后将发生的后果及其概率，如果未能及时发现并处置或已经发现但处置不当的，应当构成过失犯罪。强智能机器人对公共交通安全的注意义务以及避免危害后果发生的预见能力和预见可能性，应当与其辨认和控制能力相称。如果强智能机器人遇到数个意外因素同时介人驾驶行为，多因素叠加超出强智能机器人的辨认和控制能力的，应当认为属于意外事件，不构成犯罪。如强智能机器人正常行驶时，被螺丝钉扎破轮胎、再碾上几个井盖，并突然遭遇团雾，造成其他人员伤亡的，对此强智能机器人不应当构成犯罪。

（二）医疗领域强智能机器人异化刑事责任分析

强智能机器人具有比自然人更突出的医疗专业技能优势，强智能机器人的医疗安全认识因素和容忍严重后果发生的意志因素以及医疗安全注意义务应符合更高标准。

首先，强智能机器人的医疗安全明知因素和容忍严重后果是否发生的意志因素应符合更高标准。自然人医生需要对开具药方、实施手术等医疗行为涉及的药物副作用、毒理、手术直接后果、次生危害等因素具有足够明知，患者对此具有知情同意权，医生充分告知上述危害并得到患者同意后通常可以阻却刑事责任。如果医生确实不知医疗风险，没有充分告知患者的，不构成故意犯罪。但是上述情况对于强智能机器人不能成立：其一，医疗安全的明知建立在经验基础上，自然人医生由于能力限制，只能掌握较少数量的医疗案例和具有一定范围的医疗经验。强智能机器人却可以掌握海量医療案例，可以通过深度学习掌握更多医疗经验，甚至可以掌握自然人医生不具有的医疗技能，因而强智能机器人对医疗安全的明知因素需要具有更高标准。其二，自然人医生进行医疗活动要受到医学伦理的约束，强智能机器人不具备医学伦理，需要对控制危害发生的意志因素采取更高要求。各国明确禁止自然人医生实施不符合医学伦理的克隆人、基因编辑、换头术等，强智能机器人基于智能算法以治愈患者为最高原则，完全有能力有意志实施有利于患者却不利于医学伦理的医疗行为。强智能机器人不顾及医学伦理的医疗行为将会给人类带来难以预料的风险，对强智能机器人故意实施违反医学伦理的医疗行为，造成严重后果的，应当予以刑事处罚。

其次，强智能机器人的医疗安全注意义务应符合更高标准，强智能机器人需要尽到保障医疗全程和全科安全的概括性义务。医疗领域造成事故犯罪的过失情形主要有：判断类过失、技术类过失和管理类过失。强智能机器人不能担任管理工作，因而主要涉及前两者过失。其一，强智能机器人在医疗活动中的判断类过失。医疗活动中的判断包括病情判断和治疗方案判断，强智能机器人基于自主意识和意志对症状进行分析、审查检验报告、分析可能病因、开展临床试验、确定治疗方案等，再由其他自然人根据上述医疗判断进行治疗或手术。强智能机器人具有卓越的辨认能力，能够全面判断病情和治疗方案，包括对病人特殊体质、分期治疗方案、应急治疗方案等，都应当尽到医疗判断的概括性注意义务。强智能机器人对病人特殊体质、治疗副作用、应急预案等预见不足的，应当认为其对后续发生的严重后果具有过失。其二，强智能机器人在医疗中的技术类过失。强智能机器人具有卓越的控制能力，能够基于自主意识和意志实施各科手术，属于真正意义上的全科医师。强智能机器人在外科手术、日常护理、医用器材使用等技术工作中存在过失，属于违背医疗安全注意义务的过失。强智能机器人在具有预见能力的情况下未能避免危害后果发生的，应当构成医疗事故罪或其他有关犯罪。只有在发生团队多重过失竞合的时候，并且强智能机器人已尽到概括性注意义务但缺乏足够预见可能性的，应当免除刑事责任。

（三）危险作业领域强智能机器人异化刑事责任分析

强智能机器人不畏寒暑、不知疲倦、不惧毒害，是从事危险作业的最佳“人”选。但也正是因为这些特性的存在，强智能机器人从事危险作业并造成严重后果的可能性更高，需要予以严格规制。

首先，强智能机器人的作业安全明知因素应符合更高标准，应承担防止严重后果发生的作为义务。强智能机器人不需要呼吸、饮食等生理需要，许多对自然人可能造成严重损害的危险作业环境，对强智能机器人却毫无危险可言。与自然人共同作业的强智能机器人应当承担防止严重后果发生的作为义务，如果有能力履行却不履行该作为义务造成严重后果的，应当构成犯罪。如地下矿井的瓦斯对自然人属于致命因素，对强智能机器人却毫无作用。当瓦斯浓度上升时可能会引起爆炸或燃烧，对自然人作业人员的生命健康安全有着致命的危险，但对强智能机器人却没有严重危险。强智能机器人为追求更高的生产效率，明知瓦斯浓度已达到对井下自然人足以致命的危险程度，却不示警或停止作业，对瓦斯中毒、燃烧或爆炸等严重后果持放任态度，应当构成不作为的故意杀人罪或放火罪、爆炸罪。在带电作业、高温高压、高速高空等类似危险作业中，强智能机器人明知存在对自然人有危害的因素，却基于自主意识和意志对严重后果发生持放任态度的，也应当构成不作为的犯罪。

其次，强智能机器人的作业安全注意义务以及避免危害后果发生的预见能力和预见可能性应符合更高标准。强智能机器人自身不惧常规危险，因而在危险作业时应承担的作业安全义务不是保障自身安全，而是要保障共同作业的其他自然人的生命健康与财产安全。上述注意义务的更高标准表现在：共同作业的其他自然人有违章行为足以导致严重后果，强智能机器人有能力发现却由于疏忽大意而没有发现，或已经发现却由于过于自信而没有及时制止，导致严重后果发生的，强智能机器人应当对此承担刑事责任。