人工智能应用的道德困境分析

许凤鸣

（1.江西师范大学 马克思主义学院，江西南昌 330022；2.铜陵职业技术学院 思政部，安徽铜陵 244061）

一、引言

随着计算机技术、无线通信技术的飞速发展，人类进入大数据和人工智能时代。人工智能（Artificial Intelligence，AI），是由人类制造产生，并具有智能特征的一项科学技术。一般而言，人工智能本质上是一种计算程序，设定的程序可根据具体环境模拟人的思维，做出合理的行为，完成只有人类才能完成的工作。人工智能将人的智能机器化，是一种全新的颠覆性技术，制造一种与人类智能相似，做出与人类智能相似逻辑的机器。人工智能技术的内容包括机器学习（翻译）、语言处理、无人驾驶、图像识别、人机交互等。目前人工智能技术呈现出高速发展态势，但也存在政策价值取向不明晰、法律法规机制不健全、技术伦理约束滞后等问题，具有巨大的不确定性和道德风险。因此，从技术合理应用、健康发展的角度来看，有必要对人工智能技术进行全面审视和反思，处理人工智能应用技术与计算伦理之间的关系，更好地促进人工智能应用技术的合理健康发展。

二、人工智能应用的社会经济价值

当下，人工智能技术飞速发展，已打破了实验室的壁垒，越来越广泛地渗透和应用于日常生活中。人工智能产品在硬件和软件领域都得到较好的应用，如交通、科技、教育、金融、养老、医疗、管理、餐饮等方面，以及无人机、智能机器人、新型扫描仪、语音助手等软硬件。这些人工智能技术的新应用有力地影响并改变着人们生活生产方式等，为人与社会的自我提升和自由全面发展提供难得的契机，其社会效应和应用价值也不断凸显。

（一）提升国家或地区科技发展水平

人工智能是社会发展的引擎[1]。人工智能技术是人类历史上迄今为止与众不同的社会形态，无论是发达国家还是发展中国家，都无一例外地将人工智能作为国家发展战略重点。与传统技术不同的是，人工智能有助于在社会群体之间构建起智能网格。基于智能网络下，全球范围内的资源、市场、技术加速流动和自由配置，大大提高资源使用率。智能技术发展，能较好地促进传统产业的优化升级，提高劳动生产率，为社会提供更多的智能产品，满足社会、人民群众对美好生活需要。智能科技还可广泛应用于文化生产和文化消费中，如短视频、智能绘画、诗歌、影视、文学、文艺创作等。越来越多的智能产品和智能文化服务在社会生活中大量普及，对精神文化需求和文化生活内容进行“颠覆性”的改造。可以预见，人工智能已成为国际竞争的前沿阵地，智能化的发展水平和应用，将成为衡量一个国家或地区发展科技甚至是一国综合国力水平的重要标志之一。对此，党的十九大报告深刻指出：要“加快发展先进制造业，推动互联网、大数据、人工智能和实体经济深度融合”[2]。

（二）深化新兴产业结构的变革升级

在经济发展的新常态下，企业依靠传统的资本投入和劳动力规模的扩大已不能再次把企业推向快速发展之路。因此，必须利用人工智能，通过智能化的升级改造，节约生产资本，促使企业转型升级，提高劳动生产率，推动行业升级换代。战略性新兴产业代表新一轮科技革命和产业变革的方向，是培育发展新动能、获取未来竞争新优势的关键领域。人工智能作为战略性新兴产业，应用范围和领域非常广泛，包括模式识别、人脸识别、智能机器人、智能运载工具、增强现实和虚拟现实、智能终端、物联网基础器件等，这是人工智能发展本身创造的新业态。2019年，上海市首个5G智能物流示范园建立，标志着物联网与人工智能技术的新融合和新发展。有最新研究表明，未来将有700种职业被智能机器人取代，标志着智能机器人可以替代大部分的劳动力，直接代替人从事一些劳务工作，把人们从不愿意从事的繁重或烦琐工作中解放出来，缩短劳动必要时间，增加自由可支配时间。2017年7月8日，国务院印发的《新一代人工智能发展规划》，明确了未来中国人工智能产业的战略目标：到2025年，部分技术与应用达到世界领先水平，核心产业规模超过4 000亿元，带动相关产业规模超过5万亿元；到2030年，技术与应用总体达到世界领先水平，核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。这为新兴产业的发展提供了巨大的机遇。

（三）推动社会宏观经济效益的提高

习近平总书记指出：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。”[3]人工智能不仅带来产业结构的变革，还能提升社会巨大的经济效益。根据普华永道2017年6月27日发表的《抓住机遇——2017夏季达沃斯论坛报告》预测，到2030年，人工智能中国与北美地区累计可获益将达到10.7万亿美元[4]。“到2035年，人工智能有望推动中国劳动生产率提高27%，人工智能到2035年拉动中国经济年增长，从6.3%提速至7.9%。”[5]从目前来看，人工智能应用的热门领域有“人工智能+教育”“人工智能+医疗”“人工智能+金融”“人工智能+互联网”等。人工智能可以不断产生新的产业业态和创业方向，形成新的商业运作模式，通过大数据、云计算大规模化商业应用，并通过要素支撑、产业集聚、效率提升、资源叠加、知识创造等方式实现经济高质量发展，推动宏观经济效益的提高。

三、人工智能应用的道德困境审视

人工智能本来是社会科技发展进步的产物，但在实践中却是矛盾统一体，其价值与风险并存。在提高人类生活质量和技术，给人类带来诸多便利和社会效益的同时，但也不可避免地产生许多不容忽视的问题和道德困境。

（一）弱化道德情感

人工智能被广泛应用于虚拟生活中，导致虚拟与现实之间的界限模糊、边界不清。例如，在医疗领域，传统医患之间面对面地进行沟通、问诊和交流可被人工智能的机器人所代替，机器人AI通过远程治疗方式对患者进行问诊及手术，患者与医生之间的情感愈发冷淡，产生隔阂。此外，人工智能技术的应用，让个体需求欲望不断得到满足的同时，也使得情感和心理上存在迷失、冷漠和荒芜。截至2017年12月，我国手机网民规模达到7.53亿，网民中使用手机上网人群占比由2016年的95.1%上升至97.5%。2017 年1 至11 月，移动互联网接入流量消费累计达212.1 亿G 比特，比上年同期累计增长158.2%，而中国网民每个人平均每周花在网上的时间已经长达27小时，这相当于每位网民每天花费约4个小时上网[6]。有些青少年整日与智能终端设备打交道，长此以往觉得虚拟世界才是最真实、最可靠的，沉迷于虚拟世界中不能自拔，逃避、游离、躲闪现实世界，进而变得愈发孤僻、冷漠、自私、情感淡化等。此外，人工智能的发展，导致人类情感的异化。2017年7月13口，《自然》（Nature）杂志发表社论称，目前有四家公司（都在美国）在生产情侣机器人，但不清楚具体有多少人拥有情侣机器人。虽然目前的情侣机器人更像是玩偶（doll），不像机器人，但智能与机器人技术的发展会推进情侣机器人的研发。如果人与机器人结婚则会产生诸多伦理困境，首当其冲的就是冲击传统婚姻伦理观念，人类与机器人没有共同理想，在这种虚拟婚姻中，人类是否处于支配地位？机器人伴侣具有何种程度的道德地位？机器人伴侣该拥有哪些权利？实际上，人机的虚拟情感，不仅是心理上的障碍，更重要的是会产生伦理困境，弱化甚至会泯灭人性的道德情感。

（二）侵犯主体隐私

隐私权是受法律保护的一种基本的人格权利。在一定程度上，能否合理科学地保护好主体的隐私，这是社会能否有序良性运转的基石。在人工智能时代，人工智能掌握人类的一切数据，每一位个体网络用户在互联网上都会被记录下印记，大量的数据被获取、存储、挖掘和处理。各种人工智能通过大数据、云计算能对海量的数据进行整合、分析，后台均可计算出用户的兴趣、消费习惯、习性爱好、生活轨迹、面容等。生活中大量的手机App，通过跟踪记载用户浏览的数据，导致用户基本信息源发生泄露。阿里巴巴、京东等电商平台，就是通过对用户浏览的网页、商品、图片、搜索关键词、消费记录进行标记，推测用户的喜好，监视购物内容和消费习惯，并进行智能推送；腾讯QQ、微信等即时通信软件记录情感、隐私和情绪的变化；抖音、快手等App，根据用户的喜好、观看某一类型短视频的频率，反复向其推送；高德地图、百度地图、美团外卖等App通过对手机用户进行定位，读取手机图片信息，甚至可以获取用户的常住地址等情况。这让我们对人工智能、大数据合理性提出更多的质疑。个体用户的基本信息、行动轨迹就会被“裸露”。毫不夸张地说，每一个个体都是在人工智能时代下“裸奔”。倘若人工智能系统掌握的这些个人基本信息“被泄露”，小到个体隐私，大到一个国家基本信息安全何以保证？

（三）劳动竞争异化

马克思曾批判：“劳动用机器代替了手工劳动。但是使一部分工人回到野蛮的劳动，并使另一部分工人变成了机器。”[7]每一次技术革命都伴随着一些岗位、工作、工种被淘汰，这已经从历史发展的实践上得到验证。人工智能的应用和发展也不可避免地消解和分化社会中的工作岗位。“由于人工智能飞速的学习能力和构造与逻辑上的拟人化，人工智能并没有存在什么天然地阻碍其融入和替代绝大多数人类岗位的自然沟壑。所以，人类大规模地退出生产性劳动，将是一种历史必然。”[8]随着人工智能的发展和大规模利用，智能机器人正逐渐代替那些从事脏、累、重复、烦琐的事务性工作，甚至是有毒、有害、危险环境的工作。甚至一些特别行业，人工智能也进入其基本领域。由于智能机器人不断被创造和复制，越来越多的工种和工人工作将被取代，加之产业的转型升级和劳动生产率的提高，直接后果就会导致大规模的失业浪潮汹涌而至。在人工智能冲击下，很多失业人员无法找到合适的工作，社会一些劳动力很难及时得到有效合理消化使用，得不到劳动培训和工作的机会，只有被动接受失业甚至被边缘化的命运。毋庸置疑，劳动创造了人，劳动是个体的基本权利，人的自我肯定、价值实现等都是通过劳动获得的。人劳动是为了生活，为了从自然界获取物质产品。但人的劳动不是独立进行的，而是在社会框架中同别人共同进行。倘若人工智能的发展愈发地消解社会岗位，解构个人人生价值实现的机会，那么如何去定义新的劳动出现？如何维护社会稳定而避免失业造成的剧烈社会动荡？如何满足人类生活基本需要的劳动权？如何缩小社会贫富差距呢？

（四）冲击责任伦理

在一些特定领域，人工智能技术被广泛应用后将出现更大范围涉及责任伦理的问题。在军事方面，阿塞拜疆和亚美尼亚两国的军事冲突中，阿塞拜疆运用无人机隐蔽性好、威力强、打击范围大的特点对亚美尼亚实施精准打击，屠杀亚美尼亚士兵。战争的目标是一种正义的和平，“杀人机器”的军用机器人与战争的目的是相违背的。试问，作为人工智能应用的无人机是否需要像人类战士一样遵守道德准则？如果无人机可以上战场作战进行精准打击，那么它决定目标生死的标准由谁来制定？如果恐怖分子利用无人机进行暴力恐怖袭击，危害公共安全，又该如何定义人工智能呢？又如在医疗领域，随着高清CT影像扫描仪大量应用到临床门诊，便于更好地辅助医生进行诊断和治疗，倘若出现误诊导致医疗纠纷或患者伤亡，责任由谁来承担？此外，随着人工智能的普及和广泛的应用，机器人的工作范围也在不断扩大，由工业机器转移到智能家居。新闻报道，日本机器人之父石黑浩教授携团队发明了妻子仿真机器人，这种机器人形象逼真，能帮助做家务，无聊时还可进行对话，可以提供女性的一切服务。仿真机器人的出现是否会对人类相互之间的情感带来伤害？是否会冲击社会的公序良俗？人工智能技术的发展和普及，使得很多像谷歌、特斯拉、苹果、百度等科技公司争先进入。在自动驾驶方面，2016年，车主驾驶特斯拉轿车在高速路上发生车祸，当场死亡，而车子当时正处于自动驾驶模式。2018年1月10日，福特投资的一辆无人驾驶汽车发生事故，导致两人被送往医院。试问，在无人驾驶方面，该追究谁的责任呢？机器人能否成为责任的主体？在人机共生的年代，人类和机器之间遭遇的冲突和矛盾不胜枚举。

（五）破坏公平正义

公平正义是人类社会普遍的价值追求，也是人类社会健康发展的基石。人工智能的规模化应用将涉及更大范围的公平和正义的问题。从国内看，我国各区域存在经济发展水平上存在不同程度上的差异，东西部地区在人工智能产品生产、开发和应用上存在诸多不平衡，这在一定程度上会导致智力鸿沟。从国际上看，由于各个国家生产力发展的不均等，加上科技实力存在巨大悬殊，发达国家掌握着人工智能最前沿技术的话语主导权，拥有其绝对的技术先导优势，往往对关键数据资源进行垄断，在核心技术、关键领域及重大成果方面进行技术上的封锁。因此，发达国家同发展中国家、富裕地区同贫穷地区接收的人工智能技术存在绝对的不对等及不公平，人为地导致了“数字鸿沟”这一现象，更加剧了欠发达国家或地区在人工智能技术福利分配上的不平等，也谈不上通过新技术获益。“数字鸿沟造成的差别是继城乡差别、工农差别和脑体差别之后的‘第四大差别’。”[9]如何更好地缩小数字鸿沟，推动社会整体公平，维护人类社会整体福利，这是一个具有世界性、人类型的价值伦理难题，也是道德治理急需解决的课题。

四、人工智能应用道德困境的消解路径

作为一种新技术，人工智能的社会作用、社会影响越来越大，人工智能的发展也导致一些伦理道德问题的出现并可能潜藏一些新的道德风险。因此，必须建构合理的规避路径，将人工智能科学有效地运用于经济社会生活中，推动人工智能健康有效发展。

（一）公众意识：提高对人工智能的认知

面对汹涌的技术浪潮，面对数据时代发展的产物，任何设法阻止人工智能的应用和发展都是无效的，任何试图通过陈旧的伦理道德规范来约束、阻止科技的进步都是徒劳的。因为人类社会不断向前发展的驱动力是依靠科学技术的应用，科技发展的内在动力源自人类对技术源源不断的追求，人类自身是无法摆脱这种驱动的。不可否认的是，从人类历史发展的脉络看，科技的每一次进步在一定程度上都会对传统的伦理道德秩序造成解构和冲击，人工智能的应用也毫不例外。历史上曾经有过的关于原子弹、核武器、克隆技术、试管婴儿等的巨大争议，传统的道德规范都要对其进行反击。在变与不变的二重矛盾斗争中，科学技术总是义无反顾地摆脱了种种阻扰和伦理规范的约束，并能再一次实现科学技术的更大进步。因此，在今天各国都在重视科学技术的前提下，我们更要提高大众对人工智能的认知水平。既要正视人工智能的发展应用对原有的道德伦理的冲击，也要注重人工智能对促进社会进步的重要作用。公众对人工智能的担忧，一方面源于对人工智能的不了解，另一方面则是对一些现实问题的忧虑，如失业浪潮的侵袭、侵犯主体隐私、控制行为主体，等等。面对人工智能的发展及其应用，公众理应保持乐观态度，人工智能不会“失控”，更不会威胁到人类文明。从现实可操作性上来看，只有让人工智能产品走出实验室，创造更多与公众密切接触的机会，消除人工智能的神秘感，建立公众与科学家、工程师进行常态性对话交流的机制，提高公众对人工智能合理、科学的认知意识，引导正确认识人工智能威胁论和道德困境论，不断消除公众的疑虑，才能积极合理地推动人工智能的科学化应用。

（二）制度约束：建构人工智能伦理规范

人工智能要在全球范围内得到普惠和有益的发展，就必须构建符合人类社会的各种规范和价值。概而言之，对人工智能而言，技术高尚归根结底就是科学技术的开发应用应是造福人类，为全人类服务的，而不是通过技术的进步来消解、弱化或危害人类。人工智能伦理道德规范的构建应当保证人工智能的开发和应用并不引起严重的伦理价值冲突，应当保证人工智能技术的研究应用不会给人类安全造成严重威胁，不应与人类的基本权利相冲突。近年来，美国、英国、欧盟各国等已经积极推进人工智能的公共政策，开展人工智能领域的伦理研究。如“微软公司发布《人工智能政策建议》鼓励制定最佳实践伦理准则，以人工智能带来的好处为基准衡量隐私法，政府及公共部门通过启动重大项目和系统来促进人工智能的传播和采用”[11]。目前，目前，我国人工智能运用已进入蓬勃发展的好时期，但与人工智能运行的相关伦理道德制度规范还处在起步阶段，尚未构建起对人工智能约束的机制。2017年7月8日，国务院印发的《新一代人工智能发展规划的通知》中，提出制定促进人工智能发展的法律法规和伦理规范。2019 年6 月，新一代人工智能治理专业委员会发布《新一代人工智能治理原则》，提出人工智能伦理和法律的“三步走”战略目标，到2030年，我国将建成更加完善的人工智能法律法规、伦理规范和政策体系。当然，人工智能的有序应用和良性发展，防止人工智能技术的滥觞，法律规范缺一不可。除运用相关的伦理道德制度进行“软约束”外，迫切需要制定有关法律、法规，规范设计者的行为，实现有序合理的“硬通道”。一言以蔽之，通过制定伦理制度和法律法规的约束，能构建起人工智能与社会伦理体系之间的一种缓冲机制，使人工智能的应用自觉符合伦理价值规范及其伦理精神的制约。

（三）技术建构：强化人工智能主体道德责任

作为一种技术而言，人工智能设计的出发点是为了实现它的功能。但从设计者的角度来看，任何功能的实现都指向某种目的，涵盖一种主观意图或价值偏好，不可能是价值中立的。因此，明确主体道德责任是人工智能道德建构的一个不可缺少的方面。从设计的主体角度来看，算法设计者需要更多地养成人本意识，关注人的精神价值和现实诉求，注重人本理念，维护好人与人、人与自然、人与社会、人与技术等方面的道德关系。作为现实的主体，在与人工智能的关系上居于能动的主导地位，能全面、长远、准确地预测人工智能的运用对人类生活所造成的影响或产生的后果，在算法设计上切实负有伦理责任。面对智力上越趋接近并有超越人类的人工智能，设计者要提高自身的道德责任感，设计主体应对人工智能的应用全面负责，做到趋利避害，把人类的健康、安全和幸福放在首位。遵守设计主体的道德规范和机制体系，设计的人工智能产品要与社会核心价值体系保持一致，不得逾越道德和法律的底线。“所有技术行为及技术实践活动，包括技术设计、研发、制造及技术立项、技术运用、技术评价等，都必须把人作为出发点和落脚点。技术伦理的人本意识包含生命安全意识，实现、维护和发展人的利益和需求，不伤害人的尊严并增进人类福祉等内容。”[11]所以，从算法、设计和数据构造来看，人工智能最大的价值是用科学技术为人类服务，造福全人类，这才是人工智能设计的科学定位和价值旨归。

（四）政府监管：完善人工智能道德监督机制

构建全过程的道德监督机制是应对人工智能道德困境的有效屏障。从全过程的技术应用角度来看，从人工智能技术理念构建、技术设计、研发、应用等阶段强化技术主体的技术伦理考核因素，不断生成人工智能主体的伦理反思机制。道德监督机制的建立需要从两个方面着手。一方面，人工智能管理决策者，必须客观、公正、负责地揭示人工智能存在的某些风险，并自觉用道德伦理价值规范来制约其活动。另一方面，公众不可置身其外，既要对人工智能所遇到的伦理道德问题进行深入细致的讨论、研究，更要从公众主体的角度寻求最大的道德共识。就政府主体而言，政府或国家决策者应对人工智能的研究和应用加强引导、监督和管理，让人工智能技术应用在一定的规范下进行。如成立人工智能伦理委员会，对人工智能研发和应用中可能存在的道德风险、道德冲突进行评估和审议。广泛开展智能知识普及，提供智能产品的服务和加大智能培训力度，建立健全公开透明的人工智能监管体系，督促人工智能行业和企业加强自律，切实履行社会责任。就公众主体而言，应积极关注人工智能发展的现状，参与人工智能的后果与影响的评价，加强人工智能的伦理道德修养，增强明辨是非的能力。作为公众，理应形成同人工智能设计主体的联系，使公众的呼声得到积极响应。人工智能对社会的影响越来越大，越来越直接，人工智能的发展不只是设计主体的道德意识自觉，更重要的是取决于社会每个人的公众参与意识，建立设计主体与政府、公众之间的“绿色通道”。

五、结语

毋庸讳言，在全球范围内蓬勃兴起的智慧产物——人工智能，正在改变人类生产、生活方式，是推动新一轮科技革命和产业变革的重要驱动力量，对人类社会的影响也越来越深刻，其发展的重要意义不言而喻。必须承认，新技术的应用发展不可避免地带来若干道德风险和道德冲突，存在其实践应用与伦理价值之间的多维矛盾。因此，破解和重构人工智能技术应用所带来的道德困境，需要不断地提高公众对新技术的认知、建构科学的道德技术规范、增强技术主体的伦理责任和强化道德监督机制。从防止技术滥觞的角度，以合理、适度、有效的技术方式推动生产力的发展和生产方式的变革，是未来人工智能技术健康发展和科学应用的根本选择。