存在论革命：人工智能神话与人性论悲歌——兼与赵汀阳《人工智能的神话或悲歌》商榷

张永超

引言：ARI作为新的人类命运之镜

自1990年赵汀阳先生的首部著作(1)赵汀阳：《美学和未来美学：批评与展望》，北京：中国社会科学出版社，1990年。《美学和未来美学：批评与展望》出版以来，其对哲学问题的批判性研究及其对传统观念的创发性诠释便在汉语学界形成了一种类似吕祥所说的“赵汀阳与所有其他人”的局面(2)吕祥：《赵汀阳与所有其他人》，《社会科学战线》1996年第1期。。然而，无论是对“哲学危机”(3)赵汀阳：《走出哲学的危机》，北京：中国社会科学出版社，1993年。的探究还是对于“天下体系”(4)赵汀阳：《天下体系：世界制度哲学导论》，南京：江苏教育出版社，2005年。的创发都给人一种骑士英雄纵横于思想疆场的豪迈旷达与激情万丈。乃至于面对“坏世界”(5)赵汀阳：《坏世界研究：作为第一哲学的政治哲学》，北京：中国人民大学出版社，2009年。，我们依然有保持谨慎乐观的理由。不过，经由“历史·山水·渔樵”(6)赵汀阳：《历史·山水·渔樵》，北京：生活·读书·新知三联书店，2019年。，我们却看到一个深沉哲人的历史悲情；在2022年讨论人工智能的论文结集《人工智能的神话或悲歌》(7)赵汀阳：《人工智能的神话或悲歌》，北京：商务印书馆，2022年。中，我们又看到这样一位学养深邃、洞见迭出的学者为我们呈现了一幅极其悲凉的未来人类画面。

这是一本看完令人脊背发凉、又忍不住多看几遍的书。

区别于通行的AI分类，赵汀阳依据笛卡尔“我思”标准界定AGI和SI为ARI(artificial reflexive intelligence)，让我们悲凉地看到，人类的真正未来隐忧不在ARI对人类的“清除”，而在于赵汀阳为人类未来树立了一面无法忽略的镜子：ARI。ARI作为新的人类命运之镜所折射的“存在论革命”(ontological revolution)以及主体性神话破灭才真正触目惊心。由此镜鉴，我们可以看出，在ARI“清理”人类之前，人类或许已经由于自身的败坏而自我毁灭。用他的话说：“人工智能的发展正是对人类智慧的一个终极测试。我有个悲观主义的预感：在人工智能成为统治者之前，人类就可能死于人工智能创造的一切好事。”(8)赵汀阳：《人工智能的神话或悲歌》，第155页。李泽厚说“哲学研究命运”(9)李泽厚：《静悄悄的工作——答香港记者杜耀明问》，《李泽厚对话集》(八十年代)，北京：中华书局，2014年，第81页；此文原题《答香港学者杜耀明问》，刊香港《明报月刊》1987年9月号；以题为《李泽厚怎样走上独立思考之路？》刊台湾《文星》1987年12月号；参见《李泽厚学术年谱》第121-122页引用。，而赵汀阳通过人工智能研究而预测的人类未来命运更近乎是一首挽歌，他的书名用“悲歌”可谓传神。此种无奈，不仅仅在于面对ARI，人类“单一主体”存在论知识体系的崩溃，更在于对人类自身人性的悲凉性揭示与悖论式存在。由ARI折射的“存在论革命”(ontological revolution)，其深层危机首先在于人类主体性内部的“存在论巨变”，而非多数主体间的“存在论”竞争。因为，若对ARI或者SI的想象不差，人类不具备竞争资格。如同人与上帝，不存在任何竞争的可能。这反而不是一个问题。真正的问题在人与人之中。

一、人工智能神话：存在论剧变引发人类命运危机

(一)一元主体与多元主体

赵汀阳多次提到，“任何智能的危险性都不在其能力，而在于意识”(10)赵汀阳：《人工智能的神话或悲歌》，第42页。。因此本书对于“人工智能”的讨论更多是在ARI层面的，这是人工智能的终极隐忧。倘若只是无意识的工具人智能机器，人们更乐享其便利性甚或娱乐性。在ARI之前，赵汀阳认为“存在论一向受制于单数主体的知识论视域(horizon)，即以人的视域来思考存在，而且默认人的视域是唯一的主体视域。”(11)赵汀阳：《人工智能的神话或悲歌》，第138页。但是，倘若ARI成真，“人工智能就有可能成长为另一种主体，另一种立法者，或者另一种眼睛。这意味着一个存在论巨变：单向的存在论有可能变成双向的存在论(甚至是多向的)。世界将不仅仅属于一种主体的视域，而可能属于两种以上的主体，甚至属于非人类的新主体。人工智能一旦发展为新主体，世界将进入新的存在论。”(12)赵汀阳：《人工智能的神话或悲歌》，第138页。由此以来，“人工智能和基因编辑不仅仅是技术革命，而且是存在论水平上的革命(ontological revolution)，相当于人类自己试图发动类似于上帝的创世行为(genesis)，它意味着人类试图改变人的概念。”(13)赵汀阳：《人工智能的神话或悲歌》，第66页。

“存在论革命”之所以值得人类恐惧，是因为一方面我们对“二元主体”的未知，另一方面我们对ARI主体的无力。“人工智能一旦突破奇点，就创造了不可测的新主体，而对于新主体，传统一元主体的知识、视域和价值观将会破产，而二元主体(甚至多元主体)的世界还很难推想。”(14)赵汀阳：《人工智能的神话或悲歌》，第140-141页。“1945年以前的技术发展不断成功地宣告主体性创作未来的主权，然而今天的技术发展却反而预告了人类自取灭亡的可能性，就是说，未来的技术发展很可能不再能够保卫存在，而变成一种否定存在的方式。”(15)赵汀阳：《人工智能的神话或悲歌》，第81页。这是一条不归路，因为ARI在智能层面远远高于人类，关键是他可以对人类说“不”。这里需要说明的是，人类的视域似乎一直是“多重主体”的(并非如赵汀阳所言“单一主体”视域)，人类一直处于“多重他者”语境。我们之所以对“他者”不放在眼里，主要是其他物种很难对人类说“不”(人类历史并非一直如此)。另外，对于“超越者”，也是人类视域外的重要“他者”，但是，对于无神论而言，这一重要“主体”被选择性忽视。

(二)对ARI的想象：上帝模式与系统为王

严格来说，人类对ARI只能想象，这涉及跨主体性诠释，其评判标准难免有拟人化倾向。这是人类理性的边界，对非人类对象的思考，依然受制于人类视域。赵汀阳认为“在理论上说，超级人工智能的最优存在形态不是个体性的(与人形毫不相似)，而是系统性的(与网络相似)，将以网络形式无处不在，其优势是使任何人的反抗都不再可能，因为人类的生活将全面依赖智能网络，而且网络化存在具有极强的修复能力，很难被彻底破坏。因此可以想象，只有一个‘灵魂’或主体性的系统化存在才是超级人工智能的最终形式。这意味着，硅基生命的人工智能系统最终将超越拟人模式而进入上帝模式，将成为像上帝那样无所不在的系统化生存。”(16)赵汀阳：《人工智能的神话或悲歌》，第32页。

其实，倘若ARI类似于“上帝模式”的话，依据人的有限是无法理解此种近乎“无限”的存在的。更合理的模型或许是，人类是有限的碳基生命，而ARI是有限的硅基智能系统，二者相比，人类变得脆弱不堪、极为被动。“假如真的实现了超级人工智能，万物都变成技术化的存在，此种存在升级意味着人类在世界存在系统中失去地位，人类不再重要，历史失去意义，人类文明成为遗迹，未来也不再属于人类，人类文明数千年的创世纪将终结而开始人工智能的创世纪，因此，超级人工智能的存在升级实际上是人类的自我否定和自我了断。”(17)赵汀阳：《人工智能的神话或悲歌》，第34页。这或许是人类热衷于讨论超级人工智能的原因之一，是一个惊心动魄的故事：“终极版的超图灵测试恐怕不是请客吃饭，不是做文章，而是革命和暴力，是历史的终结和人类的葬礼。”(18)赵汀阳：《人工智能的神话或悲歌》，第22页。问题在于，葬礼属于未来，所以人类在重温讨论“惊心动魄”故事的时候依然可以重新确认人类自身的主体性神话。若人类对ARI的想象不差，那只是另外一个“杞人忧天”的故事，人类对于“向死而生”早已司空见惯。也就意味着，那样大的隐忧，反而不值一提。说白了，担忧也无济于事，赵汀阳说当他看到《三体》中“来路不明的高端武器‘二向箔’使三维的太阳系跌落为二维，化为一张二维图画，地球死得如此唯美，这是我读到过最动人心魄的想象。”(19)赵汀阳：《人工智能的神话或悲歌》，第118页。倘若地球死得如此唯美，似乎是人类的福气。我们担心的是，人类可能不会如此幸运的“寿终正寝”，而是要经历残忍而漫长的“非人”经历。痛苦的不是如何去死，而是如何去活。

赵汀阳提到：“我记得李泽厚问过一个类似于罗尔斯无知之幕的问题：如果不能选择人物角色，你会选择什么时代？难道会选择古代吗？对这个超现实主义问题真是无言以对，但这个问题提醒了一个事实：人性倾向于贪图便利省力、摆脱劳动、安逸享受和物质利益，因此绝大多数人宁可选择物质高于精神的技术化生活。”(20)赵汀阳：《人工智能的神话或悲歌》，第137页。这才是真正值得留意的危险。ARI即便易如反掌地“清除”人类，那也是“未来”之事；对人类有着切实影响的是“现在”，人们自愿地选择了全方位的技术便利和安逸享受。真正的危险在于：全方位的技术依赖或许将人类引向了新的“存在论”巨变。赵汀阳注目于新生主体的“ARI”带来的“多元主体”，但是，切实而又危险的“存在论巨变”反而在于人类自身：比如文明的自闭和重新野蛮化(re-barbarization)。

人类自身“存在论”的结构变化及其引发的存在形态质变才是真正的人类危险。

(三)“存在论剧变”的真正危险来自人类

赵汀阳说，“如果人类运气不佳，人工智能和基因编辑等技术有可能要了人类的老命。历史经验表明，没有一种批评能够阻止技术的发展，尽管人喜欢吓唬自己，但终究还是挡不住技术的美妙诱惑。”(21)赵汀阳：《人工智能的神话或悲歌》，第2页。赵汀阳的担忧在于人工智能和基因编辑，高智能且有自主意识，因此“人类”可能会成为他们的“清除”对象，而人类对此却无力自保。然而真正的危险在于人们享受“技术的美妙诱惑”而逐渐出现了层级式的存在论巨变。赵汀阳敏锐地洞察到，“给定人性不变，文明的人工智能化就非常可能导致文明的重新野蛮化(re-barbarization)。在这里，‘野蛮化’不是指退化到洪荒的生活水平，而是指社会关系恶化为强权即真理的丛林状态，就是说，既然占有技术资源的人拥有压倒一切的必胜技术，就不需要伦理、法律和政治了。”(22)赵汀阳：《人工智能的神话或悲歌》，第143页。这里的危险在于，不用等到ARI出现，一般的技术就可以归顺于权力，由此出现人类内部的“存在论”层级式巨变。人们普遍依赖技术，当技术被权力垄断，那么多数人便会自愿地“归顺权力”提供的技术服务，甚至不需要“伦理、法律和政治”的现代性文明规则。主体之间不再对等，因此人权便成为无力兑现的支票，连口号的意义也不再具备。

赵汀阳认为，“存在论的起始问题不是‘存在’而是‘继续存在’，就是说，存在的未来性才是存在的问题，如果没有未来，存在就是一个纯粹概念，而没有落实为可以反思的‘实存’(existence)。”(23)赵汀阳：《人工智能的神话或悲歌》，第102页。“《周易》的‘生生’(let lives live)观念表达了一种未被现代知识论理性(epistemological reason)所摧毁的存在论理性(ontological reason)。”(24)赵汀阳：《人工智能的神话或悲歌》，第79页。“生生不仅是人类一切所作所为的目的，也是一切所作所为的界限。”(25)赵汀阳：《人工智能的神话或悲歌》，第80页。这里的问题在于，对“生生”的否定，自然是严重的“绝对不可接受”；但是，面对ARI对“人类清除”，依据目前设想，人类的“绝对不可接受”不具备任何意义。赵汀阳说：“如果允许我给出一个并且仅仅一个忠告，那么我愿意说，只需要一个原则：禁止研发有能力对人类说不的人工智能。”(26)赵汀阳：《人工智能的神话或悲歌》，第39页。问题在于，他也看到“历史经验表明，没有一种批评能够阻止技术的发展，尽管人喜欢吓唬自己，但终究还是挡不住技术的美妙诱惑。”(27)赵汀阳：《人工智能的神话或悲歌》，第2页。若ARI的诱惑势不可挡，他的“天下体系”方案同样岌岌可危，更可能的是另一种场景：权力和技术相互绑架以抵制共同的“障碍”，而他的“哥德尔炸弹”可能及时失效或变成“哑炮”(28)赵汀阳：《人工智能的神话或悲歌》，第61页。。

尤为要者，除了“存在”的“未来”维度之外，“存在论”的核心风险更在于能否“善生”(“全生为上，亏生次之，死次之，迫生为下。”《吕氏春秋·贵生》)而非“持续存在”(“迫生为下”)。因为倘若是一种重新野蛮化(re-barbarization)下的新奴隶制生存，即便是“永生”，似乎也是极其恐怖的人类“生存情景”。此种“永生”可能只是一种“自闭的文明循环”，“追求最终答案或最终标准事实上是人间常见的思想自闭症候，比如把某种主义宣布为绝对原理，把某种价值观宣布为绝对标准，或者把某种制度宣布为历史的终结。”(29)赵汀阳：《人工智能的神话或悲歌》，第121页。问题在于：“一个自闭的文明是否足以创造或说明自身的存在意义？其中特别需要反思的是，自闭的存在即使永在，也很可能进入不断重复的贫乏模式。”(30)赵汀阳：《人工智能的神话或悲歌》，第120页。但是，更严重的问题还在于，“当高科技提供了普遍依赖性的全面服务，而且以服务系统造就了普遍体制化的心灵，人们可能会‘民主地’选择技术专制。”(31)赵汀阳：《人工智能的神话或悲歌》，第59页。经由体制化了(institutionalized)的心灵，人们“自愿”地去歌颂此种“主义”和“制度”。这才是人类的真正“挽歌”，陶醉于曾经极为“反对”的场域，沉浸其中，自得其乐。在技术的加持下，人类似乎义无反顾地走向这种可能，这才是“ARI之镜”向我们折射的真正正在实现的“存在论巨变”和人类生存危机。

真正的危险来自人类自身，来自幽暗人性。赵汀阳说：“世界上最危险的生物是人，最坏的生物也是人。”(32)赵汀阳：《人工智能的神话或悲歌》，第78页。

二、人性论悲歌：图灵测试所映射的人性论幽暗

(一)面对人工智能：重新思考人性

赵汀阳说：“高智商的电脑在智力方面仍然存在两个明显缺陷：欠缺创造力和变通能力。”(33)赵汀阳：《人工智能的神话或悲歌》，第11页。“无论算法能力多强的人工智能，都缺少人类特有的几种神秘能力：反思能力、主动探索能力和创造力。”(34)赵汀阳：《人工智能的神话或悲歌》，第151页。所以，ARI的危险更多的是一种“危言耸听”，倘若真的出现超级人工智能，其具有自主意识，似乎也与人的思维模式不同，而且，很难说是人“创造”的；若是人工智能自发的意识衍生，依然是无法想象之事。意识的产生是人性的深层机密，唯有神知道。但是，“奇点”的遥遥无期并非人类苟延残喘的理由，若人类依靠此种侥幸生存，似乎显得更可悲。然而，赵汀阳以鲜明的文笔透露了这样令人不堪的事实，人类的生存、文明更多靠的就是“运气”，而“运气”是可能用完的。种种伟大理想、仁义道德之类，若回到人性自身，似乎在ARI映衬之下，更多是一种人性“深渊”，不忍凝视而又无法回避的“深渊”。他说：“到目前为止，地球上最危险的智能生命就是人类，因为人类的自由意志和自我意识在逻辑上蕴含了(imply)一切坏事，事实上，人类也是最坏的生物。”(35)赵汀阳：《人工智能的神话或悲歌》，第70页。我们习惯了“人是万物之灵”的自我吹嘘，若从另一种主体反观人类，许多说法确实是“人类中心主义”的自吹自擂。

面对一些好事者试图将人类价值添加给人工智能的想法，赵汀阳断然否定，他说：“越有人性的人工智能越危险，因为人性才是危险的根源。世界上最危险的生物就是人，原因很简单：做坏事的动机来自欲望和情感，而价值观更是引发冲突和进行伤害的理由。”(36)赵汀阳：《人工智能的神话或悲歌》，第53页。“人工智能是否必然是危险的？这里的回答是：并非必然危险，但如果人工智能拥有了情感、欲望和价值观，就必然是危险的。”(37)赵汀阳：《人工智能的神话或悲歌》，第54页。即便人为地添加成功，若AI升级至ARI，他们也会自行“价值观革命”而删除人类价值观。(38)赵汀阳：《人工智能的神话或悲歌》，第19-20页。若以目前较为前沿的智能武器为例，更多是人类价值观的服务工具，由于价值观以及利益冲突，这些智能武器只能“自为其主”成为炮灰。若他们可以说不，大约赵汀阳的猜想是可能的，人类才是他们的敌人。赵汀阳说：“假如超级人工智能必定出现，那么我们只能希望人工智能是无欲无情无价值观的。”(39)赵汀阳：《人工智能的神话或悲歌》，第54页。实际上，到这一步，我们的希望归于无效，他们一旦有“心”，他们的心思我们是猜不透的，至少目前恐怕猜不透，将来，或许根本没有猜的机会。

但是，面对ARI的可能性风险，赵汀阳对人性的重新思考则富有洞见。他说：“理性思维实非人类之特异功能，而是一切智能的通用功能，以理性去定义人类是一个自恋错误。人类思维的真正特异功能是超理性的反思能力——反思能力不是理性的一部分，相反，反思能力包含理性而大于理性。”(40)赵汀阳：《人工智能的神话或悲歌》，第13页。“至少有两个特点对于人的概念是最重要的：(1)仁，即互相把他人识别为人；(2)理性反思的自我意识，即能够反思自己的行为、价值观和思想的合理性。”(41)赵汀阳：《人工智能的神话或悲歌》，第66页。这个是值得留意的说法，因为，他反复论证，“奇点”之前，无论人工智能多么“高效”“高智商”，只要没有“反思”能力，这些AI对人类都是无害的，更多具有工具性服务价值。人类的精益求精，目的正在于让一系列的人类用品“智能化”，这样人类可以坐享其成。然而，若以AI或ARI的视角反观人类，或许我们能看出另一种情景。作为人类特性的“反思”能力逐渐在“衰弱”，在对技术的普遍“依赖”下，连“人心”也逐渐“体制化”了：“人类已经习惯于生活在互联网世界里，但也正在失去心灵，人们的心灵被互联网体制化了(institutionalized)，不再是精神的原产地，而变成了信息的中转站。”(42)赵汀阳：《人工智能的神话或悲歌》，第81页。

当我们说，机器不具有反思意识就只是机器；然而当人丧失了“反思意识”，还是人么？或许，真正的风险，不是机器越来越像人，而是人越来越像机器了。那种显而易见重新野蛮化(re-barbarization)以及奴隶制，让我们有反对的对象；然而，若是大家自愿地在享受各种技术服务的时候陶养心灵体制化，那么，大家不仅没有“革命”的念头，或许会沉浸于歌颂和娱乐。这样的人生再加之技术升级，或许可以“永生”，然而“当每个问题都化归为有穷的实践或技术问题，就都落在维特根斯坦定义的‘可说’范围内，而‘不可说’的问题消失了，哲学不再存在，历史收缩为账本，艺术变成杂技。”(43)赵汀阳：《人工智能的神话或悲歌》，第120页。“一个自闭的文明是否足以创造或说明自身的存在意义？其中特别需要反思的是，自闭的存在即使永在，也很可能进入不断重复的贫乏模式。”(44)赵汀阳：《人工智能的神话或悲歌》，第120页。这才是真正令人感到恐怖的问题。

“存在论巨变”的真正危险不在于多元主体导致人类“存在”的无法延续，而在于人类自身走向了“人性否在”，持续存在，但是，“非人”的永生。

(二)文明秩序奠基于人性之脆弱与有限

赵汀阳对人性的重新发掘是激动人心的，尽管在技术加持下，人心被技术化了，这或许是庄子所说“机心”的现代版。接续人性分析，赵汀阳对人类文明的分析更加痛彻心扉。似乎人类引以为傲的最后一层遮羞布也被无情地扯去。人性的反思、理性能力建立的契约秩序建基于人性的脆弱与对彼此的报复能力。文明秩序成为一种不得已的讨价还价方式；伦理、政治、法律只是人类的一种运气。“生存是一种运气，道德更是一种运气。”(45)赵汀阳：《人工智能的神话或悲歌》，第116页。“哲学一直苦苦论证的正义、公平、和谐、平等、自由和民主，都基于人类的运气。”(46)赵汀阳：《人工智能的神话或悲歌》，第116页。人人都是弱者，人人都不安全，因此才有道德和价值观的出现：“人类的道德和政治价值观的基础是这样一个极其重要的存在论事实：一个人有能力威胁他人的安全和利益，反过来说，没有一个人能够强大到不受任何人的威胁(参考荀子论证或者霍布斯论证)。”(47)赵汀阳：《人工智能的神话或悲歌》，第18页。

契约秩序奠基于人的脆弱以及理性报复能力。“契约并不是任何秩序的必要条件，而是一种表现形式。人类社会之所以能够产生秩序，最重要的两个条件是理性和报复能力。人们普遍明了理性的重要性，却往往忽视报复能力是同样具有决定性的因素。正因为人类能力相近，他人拥有可信的报复能力，暴力难免招致自己不可接受的报复，所以人们才宁愿按照理性去建立风险规避的秩序。因此，符合世界的解释是，关于报复能力的知识才是理性秩序的基础。”(48)赵汀阳：《人工智能的神话或悲歌》，第112页。“能够在任何可能世界中成功保护自身甚至胜过利己者的策略，最低限度是拥有可信报复能力的‘一报还一报’(TFT)策略。”(49)赵汀阳：《人工智能的神话或悲歌》，第113页。换句话说，“没有报复能力就没有能力建立好世界。”(50)赵汀阳：《人工智能的神话或悲歌》，第114页。“在互相拥有可信报复能力的条件下，‘人性的’光辉出现了，形成了制度、法律、伦理和各种规则。”(51)赵汀阳：《人工智能的神话或悲歌》，第116页。

不得不说，赵汀阳对人类文明的批判是釜底抽薪式的。“人性的”光辉不再，人类文明蕴含着残忍。甚或说，人类文明只是一个“例外”：“人类对于几乎‘零道德’的状态其实并不陌生，比如种族屠杀以及对敌国平民或战俘的屠杀，只是更愿意把大屠杀看作是文明的例外现象以便维持对文明的信心，而不愿意把文明如实理解为例外和幸运。”(52)赵汀阳：《人工智能的神话或悲歌》，第105页。倘若此种视角具有合理性，其悲怆在于，随着人工智能技术的出现，这些运气快被用完了。“人人为弱者就是人类的运气，也是伦理、法律和政治的基础，伦理、法律和政治正是互有伤害能力的弱者之间长期博弈形成的稳定均衡。”(53)赵汀阳：《人工智能的神话或悲歌》，第143页。“如果存在着足以规避报复的技术代差，合作或和平就几乎无望。宇宙战争只是假说，但人类社会的技术代差却不是虚构故事，现代科技就是人类内部的技术代差。”(54)赵汀阳：《人工智能的神话或悲歌》，第117页。人工智能的出现改变了“人人为弱者”的运气格局。普罗大众的运气用完了，当权者随着对技术的垄断，他们的“运气”才刚刚开始。然而，人类的“存在论”将由此而发生层级性的质差变化。赵汀阳说：“共在是一个悖论。”(55)赵汀阳：《人工智能的神话或悲歌》，第104页。这是对其“共在存在论”(56)赵汀阳：《第一哲学的支点》，北京：生活·读书·新知三联书店，2013年，第235页。的深刻反讽。

(三)技术代际差异造成的“存在论剧变”——人的异化

赵汀阳说：“人在排挤竞争者的同时，又需要竞争者的合作，因此人类的生存总是悖论性的存在，生存即存在于悖论之中。人类从来没有解决过这个悖论，不是智力不足，而是只有在悖论中才得以生存。在存在论上说，共在先于存在，而共在是一个悖论。”(57)赵汀阳：《人工智能的神话或悲歌》，第104页。然而，竞争格局正在起变化，人工智能便是导火索。当权力垄断了技术，合作与竞争变得不再对等。“人工智能高技术社会几乎将导致两极分化——赫拉利也有类似的看法——即分化为高智能的人上人(科学家集团)和愚昧大众。”(58)赵汀阳：《人工智能的神话或悲歌》，第60页。直接对应的是人与人之间的权利不再对等。当权者“如果有能力以最小成本的最简单方式去获得最大利益，人就会理性地选择简单粗暴的方式去解决问题，而不会选择复杂的高成本的方法。因此可知，一旦人工智能和基因技术创造了绝对强者，绝对强者就很可能利用绝对优势的技术去实现文明的重新野蛮化，比如说消灭‘无用的’人，而放弃高成本而复杂的伦理、法律和政治。”(59)赵汀阳：《人工智能的神话或悲歌》，第143-144页。

因此，人类内部不再对等，权力垄断技术出现了“绝对强者”，“金枝”(60)[英]弗雷泽：《金枝：巫术与宗教之研究》，徐育新、汪培基、张泽石译，北京：中国民间文艺出版社，1987年。中的“森林之王”再也不用诚惶诚恐。由此而言，人类“存在论”出现了人群之间的层级性或曰“质”的差别。这是“存在论”巨变的第二个方面，人类存在的异化。有些人成为了“超人”，有些人成了“工具人”，永世不得翻身。然而，对于任何一方而言，这都是一种深层“异化”，都在走向“非人”。即便因技术加持，获得“永生”，这样的“存在”也是一种“异化”后的存在。此种危险性远甚于赵汀阳所说“人失去劳动”“人不再需要人”“人失去家园”导致的人类异化和意义丧失(61)赵汀阳：《人工智能的神话或悲歌》，第57-59页。。甚至他借用桑德尔的“经验”，都并非很严重的问题，哪怕是生产性的劳动，对于诗人更多是想象，对于当事人更多是养家糊口的体力劳动，对于从未从事者，从未成为经验，也并非是一种缺失。人活着就不缺乏“经验”。问题在于，当技术代差改变了人类层级，人类即便痛苦于此类“经验”也变得无能为力。

赵汀阳说：“长生社会更可能成为一个阶层和结构极其稳定的技术专制社会，而不太可能成为自由民主社会。既然未来社会里，技术就是权力，那么，机会占先的超人阶层将非常可能控制一切权力和技术，甚至建立专有的智力特权，以高科技锁死其他人获得智力和能力升级的可能性(但也许会允许众人皆得浑浑噩噩的长生)，永远封死较低阶层的人们改变地位的机会，那些长生的超人永不退位，年轻人或后老人永无机会。那将更可能是一个高科技的新奴隶制，也许日常生活是自由的，但所有涉及超级智能和权力的事情都被严格控制在超人集团里。”(62)赵汀阳：《人工智能的神话或悲歌》，第36页。“关键是，在高科技的新奴隶社会里，人们无力进行任何反抗和革命，这是个致命的问题。可以考虑一条技术进步的黑暗铁律：对于人类社会，技术和知识能力的扩大都将落实为扩大统治和权力的能力，同时减少社会反抗的能力，最终达到使社会完全失去反抗权力的能力。看来历史事实不断在证实这条铁律：冷兵器时代能够揭竿举事，弱火器时代能够武装起义，但高科技时代就基本上失去反抗统治集团的可能性。”(63)赵汀阳：《人工智能的神话或悲歌》，第36页。

或许，还可以设想另一种情景，大家沉浸于“超人集团”所提供的各种技术服务和娱乐享受中，不仅仅无革命之力，更无革命之心。赵汀阳所担忧的“人工智能和基因编辑所产生的极端不平等非常可能引发社会暴乱。”(64)赵汀阳：《人工智能的神话或悲歌》，第76页。这种情况或许根本就不会出现。更可能的情景是：“当高科技提供了普遍依赖性的全面服务，而且以服务系统造就了普遍体制化的心灵，人们可能会‘民主地’选择技术专制。”(65)赵汀阳：《人工智能的神话或悲歌》，第59页。问题在于，此种大家自愿的技术专制，尽管沉浸其中，对于任何一方而言，似乎都是一种“异化”。

在“异化”中，人类走向自己的黄昏。

三、诸神的黄昏：主体性神话的破灭与野蛮化之可能

(一)主体性神话的破灭：“自定人”悖论

借助于ARI之镜所引发的“存在论革命”(ontological revolution)，对人类的第三个影响是主体性神话的破灭。赵汀阳说：“现代性的宗教性集中表现为人定胜天的进步观和人权。进步观和人权意味着人的神权，意味着人决心把人变成神，尽管在现实上尚未实现为神，但已经在概念上先行自诩为神，而且以概念作为抵押而预支了神权。”(66)赵汀阳：《人工智能的神话或悲歌》，第87页。“实际上人类处理数据的能力并不突出，人类所以能够取得惊人成就，是因为人类具有反思能力。”(67)赵汀阳：《人工智能的神话或悲歌》，第46页。近现代以来，人类确实谱写了深入人心的主体性神话叙事：“不敬神的现代性是一个关于人的主体性的神话，即以人为神，因此人想要一切，想做成一切。人的神话如此深入人心，以至于成为一种势不可挡的自动实现预言，更恐怖的是，人的神话具有自相关结构，即使反对主体性的僭越也需要以主体性为依据。”(68)赵汀阳：《人工智能的神话或悲歌》，第3页。

人权、自由、解放成为现代性叙事的主流话语，凯歌猛进，义无反顾。赵汀阳说：“个人的边界就是个人权利，为每个人划定一个小小边界，个人就成为小小边界内的独裁者。”(69)赵汀阳：《人工智能的神话或悲歌》，第60页。“现代对解放(liberation)的追求就是对人类神权的追求，通常说成是对自由(liberty)的追求。”(70)赵汀阳：《人工智能的神话或悲歌》，第88页。然而，“人的神话可能是有极限的，其实不可能化人为神。”(71)赵汀阳：《人工智能的神话或悲歌》，第88页。其中的一个严重问题便在于：“现代性的主体神性有其两面，就像硬币的两面：一面是作为人类整体的主体神性，就好像人类是一体化的神；另一面是作为独立、自主、平等个体的众人，类似于诸神。”(72)赵汀阳：《人工智能的神话或悲歌》，第90页。“问题是，主体性的两面价值并不一致，存在着自相矛盾，类似于硬币两面的面值不一致所导致的混乱。在实践上的结果是，对于人类整体的合理选择却未必是每个人的合理选择，于是产生了现代社会一个无法摆脱的基本困境：个人理性的加总(the aggregation of individual rationality)无法形成集体理性(collective rationality)。”(73)赵汀阳：《人工智能的神话或悲歌》，第69页。这涉及主体性神话的自身悖论，一方面是如硬币两面不等值的自相矛盾，另一方面更严重的危险在于：“自定人”(74)赵汀阳：《人工智能的神话或悲歌》，第67页。设定。看似存在论上的绝对自由，但是却会导致共在式悖论(集体非理性)。依据“自定人”，“按照这个概念及其逻辑，人工智能和基因编辑就几乎势在必然”(75)赵汀阳：《人工智能的神话或悲歌》，第68页。。主体性神话自身蕴含了“掘墓人”设定，从“生生(let lives live)”存在论而言，这预示了“主体性神话”破灭的必然性，无法持续，没有未来。

ARI会让此种“没有未来”的局面更快到来，甚至不用等到ARI，AI加持权力就可能出现新的技术奴隶制。凯歌猛进的“主体性神话”若走向奴隶制，不得不说，神话变成迷思，神坛与奴隶之间，只差一个技术。可是，现代社会，最不缺的就是技术，只有想不到，没有做不到的，就是技术的魅力。

(二)利维坦神话的再生：文明的重新野蛮化

赵汀阳说：“人工智能可能带来新的专制社会，会威胁民主制度。”(76)赵汀阳：《人工智能的神话或悲歌》，第58页。类似于技术加持专制的隐忧似乎国际学界多有预警，只是我们无法将面向未来的技术更新(进步的代名词)与落后退出的专制独裁(落伍的代名词)结合起来。感觉一个是现代或后现代，一个是前现代，两者是南辕北辙之物，不可能有结合的可能。然而，还是技术，是人工智能完成了此种“杂交”。换句话说，这并非是多么难为情的事，若考虑到契约、正义、秩序等本来只是建基于脆弱人性和“人人为弱者”这一局面的话。当AI出现，人性不变，但是权力格局变了：“给定人性不变，文明的人工智能化就非常可能导致文明的重新野蛮化(re-barbarization)。”(77)赵汀阳：《人工智能的神话或悲歌》，第143页。当权者垄断技术成为绝对强者，普罗大众被科技锁死成为绝对弱者。原有的伦理、政治、法律变得碍手碍脚，当权者懒得去用。当主体性神话跌落神坛，利维坦神话冉冉升起。但是，霍布斯所设想的人类最初情景早已改头换面，罗尔斯的无知之幕也归于无效。因为，此时实力悬殊，在上者不需要让渡权力，在下者已无权利可让。“人工智能高技术社会几乎将导致两极分化——赫拉利也有类似的看法——即分化为高智能的人上人(科学家集团)和愚昧大众。”(78)赵汀阳：《人工智能的神话或悲歌》，第60页。

赵汀阳说：“未来社会的技术水平超高，以专制去控制社会秩序的能力也变得超强，于是，权力的诱惑可能会导致回归专制。秩序是存在之本，什么事情有利于保证秩序，社会就会倾向于选择这种事情。所以，当技术水平很低，为了秩序就会选择专制；当技术水平很高，也会利用技术实行专制。”(79)赵汀阳：《人工智能的神话或悲歌》，第58-59页。

甚至，可以想象“引发社会暴乱”(80)赵汀阳：《人工智能的神话或悲歌》，第76页。的可能性都非常小，倒不是因为实力的不对等。如同赵汀阳所分析的“在高科技的新奴隶社会里，人们无力进行任何反抗和革命，这是个致命的问题。可以考虑一条技术进步的黑暗铁律：对于人类社会，技术和知识能力的扩大都将落实为扩大统治和权力的能力，同时减少社会反抗的能力，最终达到使社会完全失去反抗权力的能力。看来历史事实不断在证实这条铁律：冷兵器时代能够揭竿举事，弱火器时代能够武装起义，但高科技时代就基本上失去反抗统治集团的可能性。”(81)赵汀阳：《人工智能的神话或悲歌》，第36页。更可能的情形是，伴随体制化的心灵，大家非但没有“革命”之力，连“革命”之心也没有了。“高技术蕴含着对社会的全方位知情和全方位操控的能力，乃至对人的心灵进行体制化的能力。”(82)赵汀阳：《人工智能的神话或悲歌》，第59页。“当高科技提供了普遍依赖性的全面服务，而且以服务系统造就了普遍体制化的心灵，人们可能会‘民主地’选择技术专制。”(83)赵汀阳：《人工智能的神话或悲歌》，第59页。当大家自觉接受技术服务，自愿选择奴隶制，独裁者与奴隶制或许只差一个技术边界：“个人的边界就是个人权利，为每个人划定一个小小边界，个人就成为小小边界内的独裁者。”(84)赵汀阳：《人工智能的神话或悲歌》，第60页。

若“1984”(85)[英]乔治·奥威尔：《1984》，刘绍铭译，北京：北京十月文艺出版社，2010年。的场景是可怖的，那么“美丽新世界”(86)[英]奥尔德斯·赫胥黎：《美丽新世界》，陈超译，上海：上海译文出版社，2017年。便只剩下“赞美”了。

赵汀阳说：“也许我们的唯一的办法就是等待，只能等待物极必反，等待人的神话的破灭，只有当人的神性被颠覆，人才能认清人的有限地位，从而乐意承担起人的责任，而不再把人伪装成神。”(87)赵汀阳：《人工智能的神话或悲歌》，第90-91页。或许等待的结果是奴隶制，大家心满意足地奔向“美丽新时代”，人们依然去敬畏(或恐惧于)“伪装的新神”。“这一切都是现代主体性思维的逻辑结果，而主体性思维早已变成了现代人的思维定式，因此，技术的非理性发展是现代人共谋的结果，所有坚持主体性思维以及现代价值观的人都是共谋者。”(88)赵汀阳：《人工智能的神话或悲歌》，第96页。

或许，告别“伪神”，不是重建新的“伪神”，而是重新寻找(回归)“真神”才是人类的未来之路。看似主体性神话的“黄昏”，或许是人类未来命运的“黎明”？然而，通过如上分析，无论是危险抑或希望，人类都无法瞩目于AI或ARI；而是应以ARI为镜，反思人性自身的有限、幽暗与深渊，反思人类文明的脆弱、阴暗与偶然。赵汀阳在对比AI与人性时提到几点人性“神秘不可测”的部分或许可以成为我们开拓人类未来出路的新起点。赵汀阳说：“在以人为尊的现代，人也是不可质疑的，于是掩盖了人的弱点、缺点甚至罪恶。只要世界出现了什么坏事，总是归罪于制度或观念，不再反思人。”(89)赵汀阳：《人工智能的神话或悲歌》，第144页。面对ARI之镜，当主体性神话破灭，我们应做的是重新回到起点，继续反思人。

(三)黄昏抑或黎明？

赵汀阳提到一个有趣的现象，对人类而言，除了贪婪、利益，还有“价值”，比如“无利可图还是去做”“无论获利多少都不做”，他说：“人类拥有价值是一个文明奇迹，但不知道真正的‘价值’对于人工智能是否存在？”(90)赵汀阳：《人工智能的神话或悲歌》，第63页。这里的问题在于，为何自私自利的人类文明会产生“价值”这样的“文明奇迹”？他认为伦理只是利益分配原则：“伦理不是道德，而是博弈均衡所定义的稳定规则和观念，伦理的实质是处理利益关系，与高尚无关。”(91)赵汀阳：《人工智能的神话或悲歌》，第109页。人性光辉只是报复能力的结果：“在互相拥有可信报复能力的条件下，‘人性的’光辉出现了，形成了制度、法律、伦理和各种规则。”(92)赵汀阳：《人工智能的神话或悲歌》，第116页。但是，“至于无私乃至自我牺牲的高尚道德，确实存在于人类关系中，却至今难以解释。伦理可以通过博弈论而被还原，但自我牺牲的道德却无法在博弈论中被解释，而我们目前尚无能够解释高尚精神的方法论，所以至今仍然是一个谜。”(93)赵汀阳：《人工智能的神话或悲歌》，第109页。或许这些待解的“人性之谜”才是化解人类未来命运的“秘钥”。赵汀阳说：“人类思维具有如此惊人的创造性能量，一定在数学和逻辑之外还有别的思维方式，只是不清楚是什么样的。”(94)赵汀阳：《人工智能的神话或悲歌》，第149页。这一方面将人类意识与人工智能做了本质区别，另一方面也让我们看到人性的深邃，有限、阴暗、自私自利无法代表全部人性。基于“报复能力”的人性光辉似乎只是人性的另一道暗影，人性的光辉，若确实存在，大约不是建基于“报复能力”，或许建基于“无私之爱”。

在讨论人为何痴迷与创造人工智能时，赵汀阳常常类比于上帝造人，认为都是无中生有的“创世纪”，问题在于“上帝”因其大能，创造了有自主意识的“人类”，即便有着“天翻地覆”的变化，但是都在上帝的“世界之中”，因为上帝即世界：“在神学意义上，上帝是世界和生活的立法者，而在形而上学意义上，上帝即一切存在之本，上帝即世界。”(95)赵汀阳：《人工智能的神话或悲歌》，第8页。但是，AI或ARI不同，ARI与人共在“世界之中”，但是却可以对人类说“不”：“发明一个物质上的更高存在却是发明了在世界之中的一种游戏以及游戏对手，因此是对自身存在状态的一种根本改变，也是对生活问题的改变。”(96)赵汀阳：《人工智能的神话或悲歌》，第8-9页。这是一个显而易见的非理性行为(97)赵汀阳：《人工智能的神话或悲歌》，第69页。，但是，依据人类的主体性神话思维，这又是题中应有之义。严格来说，这个类比是不妥当的。但是，赵汀阳说“上帝即一切存在之本，上帝即世界”则颇值得留意。结合上述的“人性之谜”，似乎只有回到“存在之本”才能找到答案。此一思路或许会将人类的“黄昏”带向“黎明”。

小结：ARI映射的命运危机源自人类自身

赵汀阳说：“我们无法预料超级人工智能会如何对待人类，就像无法猜想神会做什么”(98)赵汀阳：《人工智能的神话或悲歌》，第135页。，但是，不得不说赵汀阳对ARI的系列分析依然洞见迭出、发人深省。尤其是，他将其知名的“天下体系”设想作为应对ARI风险的和平预案，令人眼前一亮。他说“要控制资本和权力，世界就需要一种新政治，我的想象是天下体系。在理论上说(但愿在实践上也是如此)，天下体系的一个重要应用就是能够以世界权力去限制任何高风险的行为。”(99)赵汀阳：《人工智能的神话或悲歌》，第39页。“为人工智能设置一个发展限度，就需要全球合作的政治条件才能够实现。所以，技术的发展问题最终是政治问题。因此，人类需要一种世界宪法，以及能够有效运行世界宪法的世界政治体系，否则无法建立人类的集体理性(collective rationality)。”(100)赵汀阳：《人工智能的神话或悲歌》，第84页。“天下体系的一个重要应用就是能够以世界权力去限制任何高风险的技术风险。”(101)赵汀阳：《人工智能的神话或悲歌》，第85页。

这里的真正问题，涉及到“世界宪法”“世界权力”对于另一个神话的限制与约束问题。如果说，赵汀阳在分析ARI时对主体性神话的颠覆令人耳目一新的话，那么其“天下体系”则旨在颠覆另一个神话：“主权神话”。与其说，基于“天下体系”的“世界宪法”“世界权力”在规避ARI风险，不如说是在规避借助“主权神话”的各自为政与自行其是，有时候甚至是“无法无天”。赵汀阳提到“天下体系”的三个“宪法性”(constitutional)条件(102)赵汀阳：《人工智能的神话或悲歌》，第85页。，在我看来，这里真正需要的是“世界宪法”的执行力，其正当性说明若无切实的“制裁力”支持，那么“世界权力”只是一个“笑话”。倘若“主权神话”肆无忌惮加持AI，“天下体系”的叙事主体将发生革命性翻转：比如高高在上的独裁者“一统天下”。这似乎与赵汀阳设想的“天下体系”渐行渐远。

总之，ARI或许是人类的掘墓人，但是，遥不可及。在走向这一遥不可及的未来之路上，真正的近忧倒在于人类自身。“存在论”革命，其危险不在于ARI对人类的清除，而在于基于人性弱点和人工智能技术加持，人类的存在论格局发生层级性蜕变，人的存在走向了“非人”，无论是强人抑或奴隶都走向了自身的异化。当主体性神话破灭，真正值得警惕的也不是运用“天下体系”预防ARI风险，而是建构有执行力的“世界宪法”规避“主权神话”的肆无忌惮和无法无天。我曾经以为，“天下体系”只是一个不切实际的设想，但是，其解释力指向颠覆“主权神话”、构建“世界秩序”这一和平方案。这大约是ARI到来之前，人类所能做的最伟大的创举。