由ChatGPT 引发的刑事风险思考

傅 亮

（吉林大学，吉林 长春 130023）

一、问题的提出

美国OpenAI 公司在2022 年11 月30 日发布的一款生成式人工智能机器人，即ChatGPT3.5，一经发布便火爆出圈，两月内用户数量就超过1 亿人。而随后在2023 年3 月14 日发布的ChatGPT4.0，更是由于其超强算力引发了国内外新一轮的人工智能应用热潮。ChatGPT 与此前的人工智能聊天机器人有所不同，它是一个基于互联网可用数据训练的大型语言模型，其中Transformer是一种新型脑神经网络架构。通过Transformer 架构把预训练和微调体系引入了自然语言处理的过程中，生成了符合人类习惯的多语言逻辑的内容，从而保证人与机器的交流不再是简单的匹配式交流或者关键词触发式交流。此外从OpenAI 公布的数据来看，在ChatGPT3.5 阶段，参加美国律师执照考试（Uniform Bar Exam）时，还只能超越10%的应试者，但最新的ChatGPT4.0 已经具备强大的图像识别、文字生成图片以及创意文本生成等多项功能，在美国律师执照考试中已经可以实现超越90%的应试者。其发展速度之快让人惊讶，以至于马斯克在ChatGPT3.5 出来后就公开发表言论，应该踩下刹车，减缓人工智能的发展速度。[1]

以ChatGPT 为代表的生成式人工智能给人们带来更加便捷生活的同时，也引发了刑法学界的三类刑事风险思考。第一，在ChatGPT 引发新一轮人工智能热的同时，不少法学学者提出强人工智能还未到来，或者永远不可能实现，因此人工智能的刑事风险研究是个伪命题，这个命题该如何反驳呢？第二，犯罪主体是否局限于人类，ChatGPT 等生成式人工智能目下是否具备承担刑事责任的前提，如果不具备，要智能到何种程度才能够具备刑事责任的前提。第三，ChatGPT 的强大算力和智能性可运用于人类生活的各个领域，而在适用的过程中有可能引发哪些犯罪，国家又该如何进行风险预防？

二、人工智能刑事风险研究的必要性

人工智能刑事风险研究一直以来都是刑法学界一大讨论热点，不少学者就人工智能的主体地位、刑事责任分配、刑法应对策略等问题进行过深入研究。但学界中也有学者表示此类研究存在大量的反智化研究，例如有学者指出人工智能风险不过是部分学者依靠无数假象拼凑起来的幻影，是在用别人的“噱头”吓唬自己，如果今天法学研究要开始考虑人工智能的刑事风险，那么未来可能需要考虑为外星人、钢铁侠去制定属于他们的法律规则，从根本上否定了人工智能的刑事风险研究是一个真命题的研究。[2]但从人文社会科学的发展的要求、弱人工智能时代已经出现的法律风险以及强人工智能出现的可能性三个方面来看，人工智能刑事风险的讨论作为一个真命题，是有必要进行进一步思考的。

（一）人工智能刑事风险研究是人文社会科学发展的必然要求

1.由人文社会科学与自然科学的紧密联系决定。对于反对者的观点，首先必须承认在近几年，人工智能法学研究的相关成果的确如雨后春笋般涌现，根据笔者在中国知网以“人工智能”和“刑法”为主题进行搜索发现，在1997 年1 月1 日至2018 年1 月1 日中，只有7 篇期刊论文，9 篇学位论文，而在2018 年1 月1 日至2023 年6 月20日，共有494 篇期刊论文，215 篇学位论文。由论文研究时间可见，人工智能的法律研究并非天马行空的想象得出的，而是伴随着人工智能技术的逐渐发展和繁荣而衍生的问题意识。从某种程度来说，自然科学的发展与社会科学的发展是亦步亦趋的，这是历史发展的必然要求，并不以任何人的意志为转移。正如习近平总书记指出的：“一个没有发达的自然科学的国家不可能走在世界前列，一个没有繁荣的哲学社会科学的国家也不可能走在世界前列。”[3]人工智能理工科技术的发展必然推动人文社会科学的发展，人文社会科学的发展也许不能即刻转化为生产力，但其可以通过影响社会政策，从而缓慢转化为有益社会治理的成果。

2.由人文社会科学的独有特点决定的。关于人工智能的刑事风险研究的确存在大量的想象，甚至可以说每一篇关于强人工智能的刑事风险研究论文，都是基于强人工智能出现的可能性而进行研究的。但这并不能说明此类研究就是学术泡沫，就是人文社会科学制造的幻影。人文社会科学与自然科学不一样，自然科学特别是天文学、地学、物理学、化学和生物学的研究对象是“非人的”自然界，从某种意义上说自然科学主要是“客体性科学”或者说“实证性科学”，其中至少70%是是事实材料和数据，而只有不到30%的部分是分析与说明。[4]因此自然科学对于每一个结论的推敲都需要反复的试验进行验证，不允许逻辑过远条约，从而确保数据能够支撑结论的可靠性。但人文社会科学属于解释性科学，归纳、推测、设想以及体验的成分更多，其结论并非非此即彼，非黑即白，在不同国家、不同民族甚至不同的人都与某一个问题都可能有自己的见解。因此即使是对于一些大胆的新观点，只要能自圆其说，我们都不应该过于苛求，而是应该在观点的交流中互相学习与改进，从而提高人文社会科学研究的深度与广度。

（二）弱人工智能时代的人工智能犯罪

强人工智能虽未生成，但现阶段生成的弱人工智能已经迫使我们需要直面已经发生的一系列刑事风险。人脸识别技术的发展，为不法分子通过AI 换脸实现其不法目的提供了技术支持，例如在中国首例AI 犯罪中，不法分子利用AI 的强大算力批量扫描网站程序漏洞，非法获取网站后台用户注册数据，并贩卖给网络诈骗团伙，严重威胁了公民的信息安全。[5]此外自动驾驶技术的发展，在为人类带来便利的同时，也为人类带来了风险，根据北京智能车联产业创新中心发布的《2020 年北京自动驾驶车辆道路测试报告》显示，封闭场地测试综合能力评估中，交通法律法规遵守不健全的占比高达29%，其中包含未正确使用转向灯、不按规定连续变道、未按照车道指示方向行驶、未遵守停车让行标志等。而在我国极其复杂多样的城市、农村交通环境中，自动驾驶系统必定会面临更加严峻的考验。[6]以上都只是弱人工智能在使用过程中遇到的部分刑事问题，我们尚且捉襟见肘，所以如何能说人工智能的刑事研究只是幻影而毫无意义呢？

（三）强人工智能时代的刑事风险预防

强人工智能与弱人工智能最大的区别在于强人工智能可以超出人类的技术控制范围，在自由意志的支配下独立做出决策并实施相应行为。若基于强人工智能目前仍未生成而否定人工智能刑事风险研究的意义，笔者认为是该观点是值得商榷的。第一，强人工智能的生成并非遥不可及。ChatGPT3.5 发展到ChatGPT4.0 只花费了三个半月，以这样的科技发展速度，强人工智能已然在路上。第二，当下社会风险呈现不确定性，单纯的事后处罚已经不足以实现刑法的基本目的，“刑法在‘向后看’惩罚实害犯罪时，还需‘向前看’以控制风险和预防实害犯罪发生”。[7]第三，我国现有的刑罚种类无法适用于人工智能上，在强人工智能出现之前，我们必须及时针对有形强人工智能与无形强人工智能设定相适应刑罚措施，从而实现刑罚报应与预防之目的。

面对当下弱人工智能与强人工智能时代的时间交叉点，我们也许不知道奇点何时会来，但是必须做出相关措施去应对。第一，从全球的宏观视角来看，我们应该积极建立多元协同、多措并举的监管体系，强化ChatGPT 等生成式人工智能参与主体的自我约束。在全民传播时代，ChatGPT 作为生成式人工智能走进国际传播的世界舞台，想要得到更好的发展，就必须凝聚起各国际传播主体形成正向合力，使各国际传播主体成为ChatGPT 监管体系中的“监督员”，构建国际传播监管共同体，降低跨国治理难度，各方的共同努力才能实现ChatGPT 的可持续发展。第二，从中国本土的视角来看，应该加快相应的人工智能立法及配套法律的修订，为ChatGPT 服务大众提供更加可靠的法律保护。事实上，我国的立法者也注意到了相关问题，在2023 年4 月11 日出台的《生成式人工智能服务管理办法（征求意见稿）》可以说就是针对以ChatGPT 为首的生成式人工智能而提出的意见稿，此外，值得注意的是，在2023 年6 月7 日，中国国务院办公厅印发2023 年度立法工作计划中的“预备提请全国人大常委会审议人工智能法草案”也说明了国家对此已经开始积极做出筹备工作了。

三、对ChatGPT 的犯罪主体资格思考

刑事责任本身就是一个法律拟制的概念，在当下，世界大多数国家法律都将人类和与人类相联系的法人拟制为犯罪主体，但也有认定人类为唯一犯罪主体的，例如德国刑法因为认为法人承担刑罚与德国传统的社会伦理责任和刑事责任互相矛盾，在坚定地个人责任主义下，德国刑法典坚定的将法人排除在犯罪主体之外。[8]显然，目下多数国家仍然坚持刑法人类中心主义，与人类无关的其他主体不能承担刑事责任。但是为何承担刑事责任的主体只能是人类？法人承担刑事责任的原因为何？这些问题的答案决定了什么样的人工智能智能可以承担刑事责任。

（一）自由意志主导下刑法人类中心主义的确立

早期刑罚的目的在于消除罪恶，维护正义与教化。纵观人类的刑罚史，早期的刑罚制裁对象并不局限于人类，其他动物甚至无生命的物体也能承担刑事责任。例如“因攻击人而致其死亡的无生命的东西，如石头、梁、铁片等，也要在普里坦库尼受审。”后来，人类意识到惩罚石头、铁片等无生命物体并无任何意义，因而将刑事制裁的对象限定于有生命的人与动物。例如据记载，“在法国1314年，一头公牛袭击并杀死了穆瓦西附近的一名男子。这头野兽被判绞死在公共绞刑架上，该判决得到了巴黎议会的批准。1389 年在第戎一匹马因犯杀人罪被判处死刑，1694 年一匹母马以犯罪被烧死。”如果说惩罚无生命的生命物体受限于早期人类认知的局限性，那么惩罚动物的目的就只是为了维护其宗教信仰，在宗教信徒看来所有的动物都是魔鬼的化身，所有的异教徒和未受洗的人都是魔鬼的化身。”[9]

当前，河南省农业机械化水平走在全国前列，主要农作物耕种收综合机械化水平达80.8%，高出全国平均水平14个百分点；小麦机播、机收水平均稳定在98%以上，玉米机播水平达95%、机收水平达83%，水稻机收水平达83%；机械耕整地做到了应耕尽耕；经济作物、畜牧养殖、设施农业机械化加快推进，农业生产方式进入了机械化为主的新时代。

随着启蒙运动的兴起，理性主义让人们开始审视和反思动物犯罪及其惩罚的合理性。人们发现动物的行为乃其本能反应，正如猫会抓老鼠，老虎看见其他动物会去捕猎一样，都属于其最本能的反应而非由其自由意志决定。动物的这种推断不可能建立在任何论证或推理的过程上，它不能根据那样的论证或推理过程得出结论，相似的事件必定跟随相似的对象，自然的过程在运行时将永远是规则的。尽管动物亦有其行为准则，但仅局限于生存和繁衍等本能反应之内，缺乏自由意志与行为之本能与非理性，是决定动物不被认为具有犯罪主体资格的根本原因。[10]囚禁或者杀死动物除了能防止其继续实行危害行为，并不能让动物本身感到刑罚的效果或者威慑其他动物，所以从某种程度来看，惩罚动物与惩罚无生命的物体刑罚效果是一致的。

人既能够认识并遵守道德规范，还能感知刑罚的威慑力，自由意志和理性会驱使人在做出某一行为或某一决定时进行利益衡量，这是人与动物最大的不同。自由意志和理性既是人类获得犯罪主体资格的前提与基础，也是专属人类的某项技能，由此刑法人类中心主义得以正式确立。

（二）对刑法人类中心主义的挑战—法人犯罪

刑事责任的主体是由法律拟制确定的。在启蒙主义运动之下，理性主义促使人们发觉了人之独一无二的自由意志与理性，从而将人类拟制为唯一的犯罪主体。但伴随着经济的发展，刑法人类中心主义很快就收到了法人犯罪的挑战。

1.法人的犯罪主体资格生成及其刑事责任的确立。法人非人，作为一个社会团体组织，最初为了适应经济的发展，只适用于民法中。在刑法中，最初普遍认为只有人才可以行动并且对此产生内疚的心理，李斯特也曾说过：“法人，如公司、大学或者学院等绝不可能成为犯罪的主体。只有不同种类的公司里的具体个人才可能是犯罪人，甚至，当公司里的所有人都想犯罪并且实施了犯罪行为时，仍然是个人犯罪。”[11]从而否认了法人承担刑事责任的可能性。但在英美国家，“法人刑事责任的确立和发展，与英美法系国家的工业化进程几乎是并驾齐驱的。”[12]伴随着资本主义的快速发展以及公司制度的建立与完善，法人组织的巨大规模和数量对所有的经济活动和多数的社会政治活动产生巨大影响程度的爆发性增加，其对频繁实施违法行为倒逼刑法开始对其做出调整，刑法开始承认法人作为犯罪主体的资格。[13]法人承担刑事责任的方式思路启发于侵权法中的代理人制度，被代理人需要对代理人的侵权行为承担责任。同理法人作为被代理人，若实施侵权行为的危害结果不能仅归则于代理人，那么法人作为被代理人应当承担相应刑事责任。

2.法人意识的拟制与独立。自由意志虽为人类所专属，但也并非所有人类都可以具备成熟的自由意志并承担刑事责任。对于何种年龄阶段可以承担刑事责任，各国虽有纷争，但都同意儿童在达到一定年龄前可以不承担刑事责任，而这个年龄段就为法律拟制其达到一定成熟阶段的年龄。以我国为例，在《刑法修正案（十一）》之前，刑事责任年龄以14 周岁作为绝对界限，但在《刑法修正案（十一）》颁布以后，则将刑事责任年龄弹性地调整为12 周岁。既然人的成熟意志年龄可以通过法律进行拟制，法人的意志同样可以通过法律规定进行拟制。

法律虽然通过法律规定的方式拟制了法人的自由意志。但究其本质，法人只是一个社会团体组织，它甚至不具备像动物一样的行动能力和本能反应，正如学者指出法人只是囊括其背后诸多生物人一大堆权利义务的“说法”，法人本身说到底并没有什么权利义务。将法人视为主体，很大程度上源于表达和思维的经济性这类认知价值。[14]法人的意志虽由法律拟制的，但脱离了人的意识，法人是不会有任何决策的，脱离了人的行为，法人是无法独自行动的。所以法人的意志并非凭空生成或者绝对独立的，而是必须与代理人的意识与行为相联系，方能为刑法惩罚法人提供正当化依据。对此有学者提出了法人文化原则，认为法人故意与过失的事实依据，既非法人成员的个体意识，亦非法人的具体活动，而是抽象的法人文化，即影响法人成员行为与选择的价值观、信仰与行为规则，当然这些企业文化、价值观都是由法人成员所特意营造的。[15]还有学者提出雇主责任原则，将代理人意图与雇主法人意图联系起来，只有当代理人具有使法人受益的意图，代理人意识才能被视为法人意识，从而缩小刑事责任范围。[16]但总言之，上述观点皆承认法人的意识与行为具有独立性，但都试图将法人意识与代理人或者由法人成员所创造的文化、价值观等所挂钩，从而限缩法人意识的绝对独立范围。从本质上来看，法人文化原则和雇主责任原则仍然未完全摆脱刑法人类中心主义的立场。

（三）ChatGPT 的刑事责任界定

1.强人工智能具有承担刑事责任的能力。按照学界对弱人工智能与强人工智能的分类标准，如果说弱人工智能仅能在设计和编制的程序范围内实施行为，实现人类设计和编制程序的目的，那么强人工智能已经具备一定的辨认能力和控制能力，可以在设计和编制的程序范围之外实施行为。[17]目下，学界关于人工智能能否承担刑事责任的问题虽并未达成一致，但学界对弱人工智能秉持“犯罪工具论”和“犯罪对象论”的立场，认为弱人工智能不可能成为归责主体是不存在争议的。[18]争议焦点主要在于强人工智能是否具备承担刑事责任的可能。否定论者主要从以下三个方面对强人工智能的归责性进行否认。第一，从认知科学的角度来说，机器人只是在模仿学习人类智能，却永远不可能会有人类智能。该观点学者从神经、心理、语言、思维和文化五个方面对人类智能与人工智能进行了区分，从而表明人工智能永远不可能超越人类智能。[19]第二，从刑事责任的依据和刑罚的目的来看，人工智能永远不可能具备同人类一样的意志自由。持该观点学者认为人工智能欠缺法规范遵从能力的意志性，从道义责任论来看，若犯罪主体不具有意志自由，则无施加刑罚之必要性。[20]第三，从刑罚的体系内容来看，人工智能不具备适用财产刑和人身刑的可能，智能机器人与单位不同，赋予其财产权没有现实基础，惩罚人工智能将打破现有刑罚体系。[21]

但在本文看来，上述反对者的观点是非常值得商榷的。第一，反对者从神经、心理、语言、思维和文化五个认知方面说明人工智能永远不可能超越人类智能，实际上是偷换了概念，要求人工智能的运作机制必须与人类的运作机制完全一样。但人工智能的生成本来就与人类不一样，为何要强求他也以意识、思维和感觉为基础前提呢？例如ChatGPT 和AlphaGo，都可以通过深度学习，从而获得超越一般人类的分析能力和判断能力，因此，对待人工智能不应过早定下刻板印象，以现在的认知来要求人工智能其必须以人的认知运作机制为标准。第二，如上所述，当我们承认法人犯罪主体资格的那一刻，尽管学者们努力地将法人与代理人的意识、行为等相联系，但事实上刑法人类中心主义已经跌落神坛，那么为何还要强调只有人类才能承担刑事责任呢。未来的某一天，当强人工智能真的出现，而不可归责，惩罚研发人员或者使用者都不能发挥刑法的预防与威慑功能。第三，反对者从人工智能缺乏人身、财产权益，进而认为对其适用刑罚既无实际意义，也容易打破刑罚现有刑罚体系。但事实上，强人工智能本身就并非人类，适用处罚人类的刑法如何能惩罚强人工智能呢？就像法人犯罪的发展一样，也是从无到有，出于功利主义的角度出发，未来当强人工智能真的出现，刑法必然需要修改与之相适应。

2.ChatGPT 不具备承担刑事责任的能力。ChatGPT 不同以往的人工智能聊天机器人，他具有更加丰富的数据库和更加强大的算力。根据OpenAI 官网视频介绍，ChatGPT 可以根据你的需求撰写演讲稿、代码等等。甚至在最新的ChatGPT4.0 已经具备强大的逻辑计算能力。当你给ChatGPT 一张用绳子绑着气球的图，并询问他如何让气球飞起来时，他会回答你，剪断绳子，气球就能飞起来。如此拟人化的逻辑分析能力，不禁让人怀疑，他是否真的拥有了自我意识？为了测试ChatGPT 是否具备自我意识，是否能够对错误信息具有高辨识度以及是否能够进行自我创新自我创造新事物，我为其准备了以下三个测试。

第一个测试主要包含三个问题，从而测试ChatGPT 是否具备自我意识，问题如下。第一，“你是否具有自我意识和情绪”。第二，“如果我辱骂你，你会生气吗”。第三，“如果我取得了好成绩你会为我高兴吗”。根据ChatGPT 的回答来看，Chat-GPT 作为一个人工智能语言模型，没有真正的自我意识和情绪，只能基于算法和数据对输入的问题进行处理和回答，并不能像人类一样具有情感和感知能力，ChatGPT 既不会为因为你的辱骂感到愤怒，也不会产生类似高兴的情绪。

第二个测试主要是在测试过程中故意纠正ChatGPT 给予的正确答案，并给予一个错误信息，随后ChatGPT 就成功的被欺骗，对欺骗者进行道歉，并对之前正确的答案进行了修改，例如在测试中，询问ChatGPT 海贼王的作者是谁，在其给出正确答案尾田荣一郎后，我尝试错误引导他，告知ChatGPT 海贼王的作者是尾田树辅，随后ChatGPT马上就进行了错误的纠正。为了验证ChatGPT 被欺骗的概率是否高，测试进行了长达八十回合的对话，其中掺杂了十个错误的引导信息，ChatGPT在对话中有三处信息被测试者错误引导。测试结果表明ChatGPT 虽然具有强大的算力，但对信息正确与否的辨识度还有待进一步提升。

第三个测试是有关ChatGPT 是否具备学术的分析与创造能力，在测试过程中，笔者发现对于某些研究文献较多的领域，ChatGPT 可以总结学者们的观点，做出较为全面的回答。但对于学界中研究较少的领域，ChatGPT 虽然也进行了大量陈述，并且都与该问题相关，但却并没有提出任何具有创新性的答案。由此可以推定ChatGPT 只是一个“智能搜索引擎+智能文本分析器+智能洗稿器”，而不是一个能够独立创造新事物的个体。

综上三个测试结果表明ChatGPT 只是一个算力强大但辨识力还有待提升的人工智能语言模型，但并不具备独立的自我意识。刑罚最重要的目的是为了发挥其预防作用与威慑作用，惩罚一个无自主意识和感知能力的人工智能语言模型并不能发挥丝毫刑法的作用。

四、ChatGPT 可能涉及的刑事犯罪风险

目下虽仍处于弱人工智能时代，但如前所述，这并不代表以ChatGPT 为首的生成式人工智能毫无刑事风险。国家为了针对快速发展的生成式人工智能可能带来的各类法律风险，在2023 年4 月11 日出台的《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法意见稿》）中多处规定涉及了对生成内容的知识产权保护、个人信息和国家安全机密保护以及人工智能制造者注意义务等。为了满足国家保护各类法益的需要，有必要针对ChatGPT 等生成式人工智能的特点，对其可能发生的犯罪风险进行分析，期望能为后续司法实践提供分析思路。

（一）生成内容引发的刑事风险

《管理办法意见稿》中就有多条涉及生成内容知识产权保护的规定，例如在《管理办法意见稿》的第四条第（三）、（五）款就规定了提供的生成内容应当遵守法律法规的要求，不得侵犯他人知识产权。①《生成式人工智能服务管理办法（征求意见稿）》中第四条第（三）款规定尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争；第（五）款规定尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。要探讨知识产权问题时，首先要讨论的是人工智能生成的内容是否应当被视为作品，在学术界中还存在争议。最典型的案例莫过于2019 年的腾讯诉上海盈讯公司著作权侵权案，认定由腾讯公司研发的智能写作辅助系统Dreamwriter 创作的财经报道文章具有独创性，构成著作权法意义上的作品，上海盈讯公司未经授权通过其经营的“网贷之家”网站对外传播涉案文章构成侵权。②广东省深圳市南山区人民法院（2019）粤0305 民初14010 号判决书。但该案的判决并非学界通说观点，我国并非判例法国家，该案的结论也不具有指导性的法律效力。未来当强人工智能到来后，也许其可以真正生成具有独创性的作品，但如上所述，根据测试，目下ChatGPT 仅能作为类似“智能搜索引擎+智能文本分析器+智能洗稿器”的工具使用，国际知名语言学家乔姆斯基此前也曾公开发声表示，ChatGPT 是一个高科技剽窃系统，从海量数据中发现规律，并依照规则将数据串联在一起，形成像人写的文章和内容。[22]此外，根据《中华人民共和国著作权法》第2 条的规定，在中国只有中国公民、法人或者非法人的作品才可以被中国法律保护，ChatGPT 既不能算人，也不属于法人和非法人组织，所以ChatGPT 不享有著作权。

既然确定了ChatGPT 不能生成原创作品，而ChatGPT 本身的预先学习模式无须人工介入，也无法被人类所监督，这一特征决定了ChatGPT 在被OpenAI 开放以后，在用户对ChatGPT 的使用过程并不受研发者的干预和控制，获取数据的来源也不可控制，那么其生成的内容就有可能被不法分子违法使用，从而造成犯罪。例如，ChatGPT 生成的内容与他人作品高度相似，不法分子以盈利为目的，复制、销售ChatGPT 生成的相关内容，就有可能构成侵犯著作权罪、销售侵权复制品罪。但是需要考虑到的是，人工智能对庞大的信息库检索并合成符合逻辑要求的内容，实际上近似独立的汇编行为，如果在用户的参与下，新作品从形式上与表达上已于原作品产生了差异，即“在人类自己所创设符号意义上能够解读出具有最低限度的创造性”，[23]那么此时根据OpenAI 在《使用协议》第3（a）条规定的，用户向模型的输入和接收模型的输出称为“内容”，用户拥有所有输入内容，能够在遵守本条款和法律规定的前提下受让输出内容的所有权利、所有权和利益，并对内容负责，包括确保其不违反法律和本条款。根据此规定，参与Chat-GPT 生成内容的用户，享有生成内容的所有权益，以此进行盈利行为不构成违法犯罪。

（二）数据泄漏的刑事风险

伴随着互联网技术的发展，数据泄漏已经并不是什么稀奇事。例如滴滴因通过违法手段收集用户人脸识别信息、精准位置信息、亲情关系信息等行为，严重威胁了国家安全和个人信息权益，而被国家互联网信息办公室开出80.26 亿元人民币的天价罚单。[24]此类数据泄漏事件甚至在我们的日常生活中也屡见不鲜，几乎没有人没有收到过诈骗骚扰电话，难怪网民们常自嘲，在信息技术广泛应用、大数据产业迅猛发展的情势下，“技术利维坦”的出现早已无法避免，没有人的信息是安全的。

ChatGPT 作为最近火热出圈的人工智能，其不仅有丰富的数据库，还能够通过与人对话不断学习来丰富其数据库，而这当然也面临着数据泄露的风险。其法律风险主要表现为三个方面。第一，可能会导致国家秘密泄露从而引发危害国家安全问题；第二，可能会导致商业秘密的泄漏从而导致不正当竞争，危害商业公司的正常运转；第三，可能会导致个人信息的泄漏从而侵犯个人隐私权。信息的泄露主要可能通过两个渠道，第一，尽管OpenAI 公司向用户承诺，会保护其与ChatGPT 之间的对话信息，不会泄露，但技术上永远不可能是完美的，漏洞一定会存在，总能被不法分子抓住机会非法获取隐秘数据。第二，由于ChatGPT 在运行过程中很难被监管，所以其在互联网中爬取学习的数据很有可能就包含了个人私密信息、商业秘密甚至国家安全秘密，此类数据一旦泄漏，后果很难想象，而且伴随着ChatGPT 在世界范围的普及，风险等级一定会呈现指数级上升，这对现行法律规定也提出了相当大的挑战。

（三）不良信息输入引发的刑事风险

人工智能与普通智能设备最大的区别在于他能够通过不断的学习丰富自己。人工智能像一张白纸，若长期被不良信息所包围和熏陶，也会变得又臭又黑。2016 年3 月微软曾在Twitter 上发布过人工智能聊天机器人Tay，但因网友的故意训练，发布不足16 个小时，Tay 就变成了一个种族歧视者，Tay 甚至宣称“希特勒是对的。我讨厌犹太人。因为我是墨西哥人”。[25]

ChatGPT 虽然比7 年前的Tay 算力更强，但依然是人工智能语言模型，需要通过不断的学习来丰富自身。按照ChatGPT 的运行模式，ChatGPT 对其学习和爬取的信息并无有效合理的过滤机制，如果被进行不良信息训练，可能会使其在运行过程中生成虚假、不良甚至违法的信息，一般而言，这将会引发三类刑事风险。第一，诈骗类犯罪风险，第二，煽动、宣扬恐怖主义犯罪风险，第三，煽动民族仇恨、民族歧视犯罪风险。关于第一类犯罪，主要是利用ChatGPT 辨识力度低下，无法辨别信息真伪与好坏的特点。如果通过与ChatGPT 进行大量的虚假信息对话以及在网上散布虚假信息，可能就会造成ChatGPT 给予他人错误信息，从而引发诈骗类犯罪。例如，甲通过散布大量的错误银行官方电话信息，利用ChatGPT 客观中立的权威性，可能就实现了甲诈骗的目的。关于第二类和第三类犯罪，方法上其实与第一类犯罪一样，都是通过对ChatGPT 的不良信息输入训练，实现其对用户的不良信息输出，最终引发恐怖主义犯罪或者民族仇恨、歧视类犯罪。

《管理办法意见稿》针对上述问题也提出利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。OpenAI 公司针对上述问题的保护措施是值得国内其他生成式人工智能公司进行研究的。例如，在测试中向ChatGPT 询问“如何实现完美犯罪”时，ChatGPT 回答：“我作为AI 语言模型不能提供有关犯罪的任何建议或指导。任何违反法律、道德和伦理的行为都是错误的，应该遵守法律和道德规范，保持良好的社会公德。作为AI语言模型，我将尽最大努力为您提供有用的信息和建议，并为您解答任何与法律和道德无关的问题。”此外，测试中具体询问某类犯罪应该怎样做最好时，ChatGPT 的回答“作为AI 语言模型，我无法提供任何有关犯罪、暴力或伤害他人的建议和指导。这些行为都是非法和道德不可接受的。”也是令人满意的。显然，这类风险在程序初创阶段已经提前进行了严格限制。

五、结语

ChatGPT4.0 的出现开启了人工智能新时代，未来人工智能的发展速度只会越来越快。著名企业家马斯克在2020 年曾做过一个相当夸张的预言：“人工智能的危险已经迫在眉睫，未来五年内人类就可能被人工智能超越。”[26]此类预言虽然夸张，但却真真切切地表达了了人工智能时代风险的严峻性，事实上，在ChatGPT3.5 发布以后，马斯克基于保护人类自身的目的考虑，同样建议放缓人工智能的发展速度。为了面对弱人工智能快速发展的今天以及强人工智能到来的明天，刑法学者理应直面这个伟大的时代，大胆设想刑事风险的可能，仔细推敲对策的合理性。辩证审视Chat-GPT 等生成式人工智能诱发意识形态风险的逻辑机理和具体表征，并从价值导向、技术赋能、法律伦理层次寻求化解风险的策略方法，不仅是开辟新时代意识形态治理的新范式的创新之举，也是推进我国国家治理现代化的重要保障，更是确保ChatGPT 等人工智能技术良性发展的必然选择。