《克拉拉与太阳》的人机伦理问题研究

汪庆子

《克拉拉与太阳》是石黑一雄（Kazuo Ishiguro，1954—）最新出版的描写人工智能机器人题材的小说。石黑一雄以机器人克拉拉的视角，展现了专为陪伴儿童而设计的AF（Artificial Friend，人工朋友）进入人类社会生活后遇到的一系列问题。小说中有一两项科学技术的突破性发展比现实世界实现得更早，其中机器人技术是小说讨论的重要内容，作者由此展开对科技、人性和伦理等问题的思考，以未来审视当下。本文借助文学伦理学批评研究拟对此论题加以探讨，旨在揭示高科技快速发展所反映的深刻的伦理内涵，以及从人类中心主义的伦理观出发，很难建立和谐稳定的人机伦理关系，从而思考在科学选择的新时代人机共存如何才有可能。

一、人机伦理世界：人工朋友与重组社会

《克拉拉与太阳》描绘了一个高度技术化的社会，小说中既有“超级智能的”机器人帮助人类摆脱孤独，也有各式各样尚在发展的高端技术，然而人类在利用科技加速征服世界的现代化进程中，自身也遭到科技的反噬。

首先，人类为消除孤独感，便通过“科学选择”制造人工朋友来陪伴孩子。所谓科学选择，是指人类文明在完成伦理选择后，目前正在进行和即将进行的选择。聂珍钊教授指出，科学选择解决科学与人的结合问题，主要强调三个方面：“一是人如何发展科学和利用科学；二是如何处理科学对人的影响及科学影响人的后果；三是应该如何认识和处理人同科学之间的关系。”主人公克拉拉和同伴们作为人工朋友而被制造出来，不仅具备一般人形机器人的特征和性能，还具有更多更优秀的能力，并无私地以自己的种种能力服务于人类。他们有着与人类无异的外形，比如克拉拉像法国人，有着颜色很深的短而利落的头发，还有“一双最最善良的眼睛”。日本学者森政弘（Masahiro Mori）曾提出“恐惑谷”理论。该理论表明，机器人的外形与行为跟人类越是接近，人类越容易对其产生亲和感；而当这种正面的情感达到一定的峰值后，随着相似度不断提高，人类反而会对他们产生莫名的惶惑，形成所谓“恐惑谷”。从乔西对克拉拉外貌的评价，以及大街上随处可见的一个孩子身边跟着一个AF 的情况来看，人工朋友的外观设计显然消除了人类“恐惑谷”的心理障碍，不至于因外形产生机器人与人类沟通交往的消极影响。同时，AF 们聪明且热情，真诚又体贴，克拉拉具有出色的共情能力和学习能力，以及善良、体贴、无私的美好品质。乔西向克拉拉承诺会把克拉拉带回家后却迟迟没有出现，善良的克拉拉谨遵两人的约定，一直等待着乔西。克拉拉还能敏锐地察觉出人类的恐惧、愤怒等情绪，能透过乔西的表情、语言、动作等感受到她的喜怒哀乐，能无微不至地关怀生病中的乔西。然而，具备“类人”品质的克拉拉还是无法获得人们的认同，梅拉尼娅管家始终对其态度恶劣，里克的母亲海伦质疑其是否是台真空吸尘器，卡帕尔迪先生仅仅将其当作科学实验的研究对象。因而，从科学选择的角度来看，克拉拉等人工智能机器人与生俱来的目的性和工具性使其不会被人类社会所认可，机器人作为人类工具的原初地位从未改变。

其次，小说还描绘了科技发展之下城市和乡村的种种景观，处处显示这是一个正面临巨大变革的重组社会。城市里，到处都是望不见顶的高楼大厦，遮蔽住了太阳光的照射，行人走到了阴影里；制造污染的库廷斯机器发出滚滚浓烟，还有恼人的噪音。乡村看似保有自然和宁静，实际上，父亲保罗曾经工作的制冷村荒废在乡野，克拉拉眼中可怕的“基因牛”等都在暗示乡村也无可避免地受到科技的入侵。基因改良技术也已成为这个社会普遍认可的改造手段，但乔西的姐姐在接受改造后过世，乔西也因此患病，接受改造甚至成了一道入学的“门槛”，里克因未接受改造而受到嘲弄且无法进入梦想的学府。

无论是人工朋友的生产制造，还是其他机器或技术的极速发展，最终都指向科学技术的异化与技术理性的膨胀，而这无疑是人类中心主义的产物，在此之下，克拉拉会有何种经历，又会做出何种选择？

二、人机伦理困境：人类中心主义伦理观

克拉拉短暂的一生可以分为两个阶段：商店橱窗阶段，与乔西及其家人生活阶段。在前一阶段，克拉拉和其他AF 一样，只需待在自己的位置上观察学习，等待被孩子买回家。来到乔西家后，克拉拉成为一个名副其实的AF，陪伴在乔西左右，担负起照顾乔西的任务。起初，克拉拉一直忠实地履行作为AF 最基本的职责，当乔西被病痛折磨时，克拉拉守护在她的床前，时刻关注她的状态；当乔西和里克闹别扭时，又帮助他们重归于好等等。但是随着乔西的健康每况愈下，克拉拉所需承担的职责似乎远远超过了本职。卡帕尔迪先生道出与母亲克丽西共谋为乔西“画肖像”的真实目的：“我们不仅仅是要求你模仿乔西的外在行为。我们还要请你延续她。”原来，无论是第一次见面时克丽西要求克拉拉模仿乔西走路，还是摩根瀑布之行时要求克拉拉以乔西的口吻与她对话，以及后来特意为克拉拉安排的对乔西了解程度的测试，目的都是让克拉拉更好地“延续”（continuation）乔西。作者在此处将小说推向高潮，摆在克拉拉面前的是要不要“成为乔西”的艰难抉择。

众所周知，在西方科幻小说史上，美国科幻作家艾萨克·阿西莫夫（Isaac Asimov）提出了著名的“机器人学三大法则”，并在其“机器人系列”小说中塑造了许多人类的朋友、帮手和忠实奴仆等机器人形象，改变了此前科幻文学中人对机器人害怕恐惧的描写。“三大法则”的具体内容是：“一、机器人不得伤害人类，或因不作为而使人类受到伤害。二、除非违背第一法则，机器人必须服从人类的命令。三、在不违背第一及第二法则的情况下，机器人必须保护自己。”简单说来就是，机器人不得伤害人类，机器人必须服从人类的命令，机器人可以自保但前提是不得伤害人类，其中第一法则绝对优先。“阿西莫夫的贡献是巨大的，其后的文学作品，如果不是专门讨论人工智能伦理问题，基本都会遵循该定律来叙述。”克拉拉等机器人也遵循该定律，作为AF 的克拉拉从未违背过第一法则，此刻却面临违背“三大法则”的困境。也就是说，如果克拉拉答应母亲的请求，则成全了她对乔西的“延续”，但这样就违背了第一法则，因为克拉拉“成为乔西”的同时也意味着乔西的生命走向了尽头，作为机器人的克拉拉无论如何也不会让这样的事情发生。另一方面，如果拒绝请求，则又违背了第二法则，同时太阳是否愿意为乔西献出特殊关照是不确定的，同样可能使乔西遭受危险。

借助文学伦理学的术语来解释，此时的克拉拉陷入了伦理困境，又称伦理两难。“伦理两难即伦理悖论。伦理两难由两个道德命题构成，如果选择者对它们各自单独地做出道德判断，每一个选择都是正确的，并且每一个选择都符合普遍道德原则。但是，一旦选择者在二者之间做出一项选择，就会导致另一项违背伦理，即违背普遍道德原则。”面对这般困境，克拉拉完美践行了暗含人类中心主义的“三大法则”，不惜贡献出自己体内的溶液以毁坏产生污染的库廷斯机器，又执拗地寻求太阳的特殊关照，都只为帮助乔西恢复健康。但石黑一雄并未止步于此，其笔下的克拉拉更有着对“三大法则”的突破与超越，那就是克拉拉意识到乔西身上有着一样特别的而自己无法替代的东西，“母亲、里克、梅拉尼娅管家、父亲——我永远都无法触及他们在内心中对于乔西的感情”。克拉拉并非出于对第一法则的绝对服从才不顾一切地拯救乔西，而是因为她要守护这份爱。最终，乔西在太阳的照耀下奇迹般地起死回生。在克拉拉对乔西“固执”的爱与守护中，看到的是克拉拉身上集中了人类天性中最值得赞颂的部分，成为“爱”的绝对象征。

病愈后的乔西如愿奔赴理想的学府，而完成“任务”后的克拉拉却独自走向满是机器人的堆场，在那里克拉拉看到了无数的同伴，他们同样失去价值，正慢慢凋零，可见如此“超级智能的”机器人仍未能摆脱悲惨的命运。那么，当一个人与机器共处的时代必定来临时，两者如何才能实现真正的共存？

三、人机伦理反思：人机共存的可能性

在科学选择的新时代，人类与机器人共存已成为不可回避的问题，石黑一雄曾表达对人工智能发展的担忧：“在拐弯处——我们是否已经转危为安了？——是科学、技术和医学的惊人突破所带来的挑战。新的遗传技术，如基因编辑技术CRISPR，以及人工智能和机器人技术的进步将为我们带来令人惊叹的、拯救生命的益处，但也可能造成类似种族隔离制度的野蛮的精英统治社会，以及大规模失业的问题，甚至于当前的行业精英们也将濒临失业。”因此，作者在小说中反思了人类中心主义观念下人机共存可能带来的问题。

一方面，机器人不仅侵占了人类的生存空间，而且剥夺了越来越多人类工作的机会，对于在劳动与工作中获得满足感与认同感的人来说，意味着劳动与工作信仰的降低，以及对荣誉和价值欲望的丧失，就像小说中乔西的父亲保罗被AI 取代，最后只能自我安慰“被替代是我遇到的一件最好的事情”。另一方面，当人工智能比人类强大得多的时候，人类对其“有一种十分普遍而且不断滋长的担忧”，“他们害怕，是因为他们已经不能理解那里面是如何运作的了”，所以机器人遭到人类的仇视与攻击，不断被拆开检查，但实质性的问题却始终没有得到解决。

人与机器人共存本就是一个复杂的问题，其根源就在于人类中心主义的伦理观所存在的弊端，那么如何打破这个禁锢，建立和谐稳定的人机共存世界，石黑一雄自然不会为此提供简单的答案。但作者赋予克拉拉独特的情感特质，通过克拉拉对“人心”的发现，让读者看到一个可谓是“真正的人”的机器，所以人工智能和机器人技术并非是对人类的彻底否定，恰恰是科学选择时代里对人类未来走向的追问。尽管人工智能给人类生活和本质带来巨大挑战，但可以肯定的是，“人心”的特殊价值是任何机器都无法替代的。康德曾说：“对动物残忍的人在处理他的人际关系时也会对他人残忍。我们可以通过一个人对待动物的方式来判断他的心肠是好是坏。”完全可以据此推论，在人机共存的未来时代里，人类对于机器人的伤害行为也会导致对其同胞的伤害，人类对待机器人的态度将成为评价人性善恶的标准之一。

世界千变万化，爱却始终是最为坚实的内核，克拉拉便拥有这样真诚的核心，她不仅仅是机器，更是一个太阳，以自己的光芒温暖着世人，并告诉世人：无论世界如何发展，身份如何改变，都要守护好自己的“人心”。

四、结语

比尔·盖茨在谈及《克拉拉与太阳》时说道：“这本书让我思考拥有超级智能机器人的生活会是怎样的——以及我们是否会将这些机器视为技术的一部分，还是更多的东西。”石黑一雄以作家的人道主义关怀，借助文学的想象力对人类与机器人的关系提出前瞻性设想，既反对技术至上的唯理主义，又反对以人类为中心的伦理取向，由此为读者带来思考与启示：给人类生存造成威胁的不是技术本身，而是人类对待和使用科技的态度与方式；若要建立一个和谐稳定的人机共存世界，必须摈弃以人类为中心的伦理观，人机和谐关系建立的基础不在于机器人究竟是不是“人”，而在于人类以怎样的眼光和方式看待与对待他们，这不仅是一个科学选择，更是一个伦理选择。