风险预测与忧患深思：人工智能对教育发展的冲击与变革

刘盾 刘健 徐东波

摘要：近年来，人工智能的重大价值已然受到各国政府的战略性重视。人工智能在贡献世界、发挥影响、促成改变的同时，也易于诱发系列风险危机，例如劳动的脱嵌与消匿、人与人的疏远与隔离、人类的被超越与被控制等。对于教育而言，人工智能将带来冲击与颠覆，譬如人工智能的超级泛在是否会导致人与教育的分离脱节？人工智能的科技依赖是否会导致人文教育的缺失让位？人工智能的全能覆盖是否会导致教师职业的沦陷取代？总体而言，我们对人工智能应持理性态度，既不能放任自流，也不能因噎废食，在开拓教育前线的同时，守住教育的底线。

关键词：人工智能;教育;风险;人文教育

人工智能正以高端、智慧、创新、泛在的变革即将引发颠覆式、乃至存在论级的剧变。美国计算机科学家、谷歌工程总监雷·库兹韦尔（RayKurzweil）在2011年出版《奇点临近：当计算机智能超越人类》，探讨了关键折点到来后人工智能对人类的彻底变革。[1]麦肯锡全球研究院在2017年发布的《人工智能的未来之路》中指出，当前许多国家正面临生产力成长率疲弱不振、人口结构老化等问题，机器人、机器学习、人工智能的推广普及将振兴全球经济，至2035年，全球半数现有工作可被机器人替代。[2]如今，Google（谷歌）开发的AlphaGo每天自我對弈100万盘围棋;Tesla（特斯拉）电动汽车公司研发的新型汽车每天从上百万辆车的行驶路线中学习驾驶经验;IBMWatson（沃森）研创的系统每天从数十万张医疗影像大数据中深度学习。[3]大数据、云计算驱动的人工智能正以惊人的效率解决特定领域的问题，更高级的机器智慧智能和深度学习算法层出不穷。

2016年，美国发布《国家人工智能研究与发展策略规划》《为人工智能的未来做好准备》两份重要文件。2017年，英国出台《人工智能：未来决策制定的机遇与影响》，法国颁布《国家人工智能战略》，日本出台《人工智能技术战略》。我国就此方向也一直在加大力度、努力追赶。2016年5月，国家发改委、科技部、工信部、中央网信办联合发布《“互联网+”人工智能三年行动实施方案》;2017年7月，国务院出台《新一代人工智能发展规划》;2018年1月，2018人工智能标准化论坛发布《人工智能标准化白皮书》;2018年4月，教育部印发《高等学校人工智能创新行动计划》。人工智能的重大价值已经受到各国政府的高度重视，应当引起学术界的进一步关注与深思。本文先分析人工智能对世界的贡献与改变，再探讨人工智能易于引发的风险危机，在此基础上研究人工智能对教育的冲击颠覆，最后深思未来的发展与规划。

一、人工智能对世界的贡献与改变

伴随人工智能的升级完善，以及科技革命、产业变革、技术升级、产品迭代带来的颠覆式改变，全球社会的劳动生产力与生产率将进一步史诗般迅猛提升，跨界融合、人机协同、群智开放、自主操控等越来越走入人们的生活、步入人们的视野。社会系统发展的网络化、智慧化、移动化、数字化将高效便捷的现代服务供给给人类，人的生活更加舒适愉悦，社会福利支撑、经济服务水平亦日益丰富。与此同时，社会场域与自然空间的设计、利用、监测、预警、调适、改进体系日臻完善，国家地区各级治理显著进步，各层各类运行更加稳健、安全、绿色、高效。

除空间升级、功能完善、服务细化外，人工智能对自由时间的解放是一大显著特征。时间是人类生命的尺度，自由时间是人在必要劳动之外可以自行支配的时间，自由时间深刻反映着人类的积极存在与自我价值。随着生产力的发展，一部分人已经占据大量剩余价值，从繁杂的生产劳作中摆脱出来，但大多数人仍承担着劳动重负，其用于全面发展、自由成长、兴趣探寻的时间与空间是极为匮乏的。人工智能的开发与使用可以置换人、替代人，由此让人获得更多的时间与精力。

值得注意的是，工业化尽管是人类划时代、纪元式的发明，但标准化、严控式的生产、管理、操作、运营机制，迫使人们日复一日地完成重复、乏味、紧张、无趣的工作。人工智能可以将人从高危高压、高强度、高作业的系统中解放出来，让人不再无止境沦陷于低满足感、低成长度、低幸福值的工作。昔日的人机对峙、彼此僵持将转向为人机互动、互帮互助，人类将有更多的时间、机会去开发自我潜能、实现高层次价值。

在教育方面，目前正在研发、不久后可以投入使用的（有些地区已经投入使用），就包括人工智能的自主命题与自动批阅、深度剖析与复式纠查、个性问题差异解决、心理表现探索评价、学习障碍自动诊断以及智能化学习导师、智能化合作伙伴等。诸如图像语音识别、人机智联交互、全沉浸式VR学习体验、AR智能课桌等，也都正从陌生转向熟悉，从遥远走向眼前。人工智能还可超越不同语言语种的隔阂束缚，促进学生学习的便捷性、高效性以及国际化、全球化，并可为具有视听障碍的特殊人群提供服务。

在未来，网络社群等多维空间组合形成的虚拟社群，可以为学习者提供长期的跨界的沉浸式学习情景体验。开放的知识产权、新媒体的社交工具将进一步便利人们、服务人们。利用智慧网、大数据、云分析的自主学习平台空间、高科技驱动的虚拟现实等可以全方位、立体化、智能化、高效率地采集学生的复合信息与综合数据，包括时间特征、任务特征、模式特征等，并联系学习者的心理特质、家庭背景、社会网络，对此精准地诊断、反馈及智能地研判。通过项目引擎的主题式、模块式、循进式、创新式学习，融合问题驱动、迭代优化、持续成长的人工智能，可与相关对应课程及教学渗透交互、整合提升，搭建新型的课程体系与教学生态。运用思维与行为特质的分类探讨与聚类分析，可将知识嵌入真实情景，培养学生的图景场域、及时策略、系统结构、风格类型，并帮助学生拓展思维、培养情感、开发潜力。

随着深入化演进与进一步发展，人工智能的高级化智慧化思维方式将突破点状式、割裂式、对立式的窠臼，形成多向关联式、整体融通式、综合渗透式的新模。借助人工智能积极构建为学生开放的智慧知识库、综合实验库、虚拟现实库、技能提升库，可以强化深度学习、促进人机协同，提升学生的知识迁移能力、方案规划能力、实验践行能力、问题破解能力。对于教师而言，自动化的命题、审阅、测评、指示系统可以有效减轻教师负担，为其部署决策、教学改革等提供及时、精准、详细的依据。教师也可据此双向感知、思考自己的知识系统、沟通表达、教学方法、存在不足等。整体而言，人工智能将打破教育发展与产业迭代的界限，构建学校机构、研究中心、行业企业、社会集群的命运共同体，重塑各级教育的内外部结构，联通物理空间、信息空间、社会空间，形塑新的生态圈、知识网、新范式、新架构。

二、人工智能引发的风险危机及价值冲突

自法兰克福学派的技术批判理论，到埃鲁尔的技术社会言说;自温纳的自主性技术理论，到技术漂移学说，再到波斯曼的媒介三部曲（《娱乐至死》（1985）、《童年的消逝》（1982）、《技术垄断：文化向技术投降》（1992））[4]，科技体制创新、全球化网络场域、人工智能技术等正生机勃勃、跃跃欲试地策划一场巨大的变革——形塑一种泛在智能的起居生活、学习工作、社会交往的新图景。事实上，人工智能将历经三大发展晋升阶段，分别是弱人工智能阶段、强人工智能阶段、超级人工智能阶段。可以说，人工智能的智慧性、泛在性、层级感、影响力将日益弥散、深入、覆盖到生活、工作、家庭、社会的方方面面。

但不可忽视的是，人工智能的升级与跃升也会带来一定的风险，例如技术与社会共生的复杂性、当代与未来贯通的长期性、全球与区域结合的跨界性等。类似的，有学者提出了其中存在的三重逻辑悖论，分别是：主奴悖论，即制造者与制造物之间的矛盾;不均衡悖论，指科技、经济、文化、环保等发展不均衡的矛盾;工具与目的悖论，指工具与目的偏差、背离的矛盾。[5]随着人工智能的迅捷发展，未来行业的大部分位置将由机器人负责操作运行，少部分位置由人类精英阶层控制引领，剩余位置很可能是必须由人类介入参与的服务型行业。美国技术哲学家兰登·温纳认为，尽管技术具有科学性、应用性、自动化等诸多特点，但技术的自主性特点颇为值得关注，因为自主性将唤醒难以想象与控制的力量。对于人工智能而言，在某种条件下，极有可能脱离一般社会运行范畴，按其自身喜好与逻辑概念发展技术、创造事物，甚至采取行为、威胁人类。

（一）劳动的脱嵌与消匿

所谓“劳动”，除了作为生存所需的硬性价值，也涵盖不能或缺的软性意义，这主要在于劳动给予人生命与生活以丰富的内容、有效的填充。或者说，劳动赋予人体会与经验，因为人在社会与其他人、事、物互动交流、思考行动的过程中，充满了多重多元的情景、元素、故事、旋律，以及发现、理解、感受、感动。这些体验与触及构建了生命的有机组成，让生活可以言说、值得言说，并有理由分享、延续、流传。如果失去了劳动，生活就失去了重要的填充内容。人工智能代替大量人工劳力，将免除诸多行业职业，创造高于此前的财富价值，物资丰富的高福利社会指日可待。

不过，人工智能激发的大量失业只是表征现象，失去劳动更会使人失去价值，使人的生命失去意义与真谛，从而衍生人的“非劳动依赖存在”及“转向异化”。事实上，人类需要人工智能替人劳作，抑或代人思考，但是人类离开劳动后，生活就会变得更好吗？技术进步固然可以解放一部分人的劳动，但也会剥夺一部分人的劳动，人的存在是否会变得迷惘、困惑？这将是一个足具反讽色彩的争议与悖论。

（二）人与人的疏远与隔离

互联网、物联网、大数据、云平台促生了自组织、自决策、新业态、新模式，人与人面对面的交流沟通越来越少，人与人的来往联系日益疏远，传统社会氛围瓦解，新型生活模式建立。随着人工智能由“前时代”到“后时代”的发展，当人工智能有能力、有水平供给覆盖各大范畴、各个领域的周到服务、精准服务时，全能技术的百变姿态会贯穿于任一事物的全过程、全要素、全链接。彼时，所有的一切交由人工智能去决策、去组织、去执行、去实现，人只须关注自我对科技的要义掌握、自我与科技的互联互动，不再需要真实他人的现实存在。人与人的交流很可能会显得苍白无力、不堪一击，甚至成为不必要、羁绊、多余的“低效行为”。人对人将失去兴趣与好奇，社会交际陷入深度异化与反转颠覆，社会人际网络的功效将大幅度降低，人与人衍生无用关系与零价值网络，生命与世界的意义将被重新思考与重新定义。

值得注意的是，技术后果既包括不可预测但在意料之中的，也包括不可预测且在意料之外的。我们确实可以基于一定经验，对技术后果进行预测与想象，但却极难揣测到多重技术升级迭代、叠加交错形成的联合效应，又因技术本身不具有处理自身不利影响的先导功能，风险比例也将大幅增长。

（三）人类的被超越与被控制

另一大问题涉及图灵机与超图灵机的模型差异与对比分析：图灵机属于机械算法机，是数据资源与数理逻辑的有机结合。图灵机可以实现能行构造，但不具备反思能力，更不能修改自身系统机制。比之更强大的是超级人工智能，可以衍生超图灵机。超图灵机可以创造性地突破自身、优化升级、进而超越人的想象。值得厘清的是，到达一定层级之后，人工智能的硅基生命形态没有必要模仿人类的碳基生命形态，因为人工智能的最优形态不是拟人，而是超人，而且不是个体的、单独的超人，是系统的、泛在的超人。基于此，当超图灵机自主探索、研判攻关、激发自我意识、活化自由意志时，便可构建新的编码与解码机制，甚至发明新的群体语言、制定新的规则、运作新的程序。那时的人工智能是否会排斥、挤压人类？是否会贬低、压迫人类？人类的孜孜追求与不懈发明究竟是在追求什么？

可以预见的是，基于超级网络及超级智能的广泛存在、极其强大，很可能压倒此前任何一次科技革命、制度革命，进而形塑新的世界、新的文明。超级人工智能或许对宇宙而言是一件微不足道的小事，但對人类来说却是一件无以复加的大事。超级人工智能如同人工智能的“创世纪”，彼时的人类极可能将遭遇自我否定、沦入自我结束的困局险境。

三、人工智能对教育的冲击与颠覆

（一）人工智能的超级泛在、技术臣服是否会导致人与教育的分离脱节

随着人工智能时代的到来，智能机器可解释并可克服各类问题，它们可精细地依据事件以及事务的表征、隐匿、动态、静态、观念、行为等，捕捉要点、发现路径、突围难关。人工智能可以分布在各个行业，代替现有“蓝领”、“白领”的各式工作与职能，并可24小时不间断、无休歇地投入、付出、制造、创造。同样不容忽略的是，它们不需要食物与饮水，也不需要大量灯光与照明。当人工智能包罗多个领域、行业，创造更大价值、提供各种服务时，是否会衍生人对人工智能的过度沉溺、眷恋，以及对技术的高度崇拜、臣服。那么，至少对于部分人群而言，教育将不再不可或缺。

人工智能的不公平、不均衡也会导致地区、群体发展的差异，因为不同群体的接触机会不同、理解水平不同、使用层次不同、运用程度不同。在未来，人工智能同经济、文化一样，将深刻影响着社会、教育的公平正义、均衡平等问题，智能差距与贫富差距一样可怕。由于技术无法自动表现为全民原则，不平等的社会结构与技术系统不得不引发这样的假设：人工智能很可能成为强者独享的乐土。

一位知名科幻作家曾指出，人工智能对我们的最大威胁在于：当我们过于依赖智能系统后，我们自身会变得懒于思考、懈于探索、怠于努力，这才是对人类的最大威胁。想象一下人工智能普及之后人类的家庭生活：推开家门，空调早已打开，温度、湿度、灯光都已调至最佳;孩子和宠物由机器人照看，智能厨师已烹饪好可口的饭菜;唯一需做的就是窝在沙发里尽情享用，并使用手机操作电视机、微波炉、洗衣机等所有家用电器;有客人来访时，也无需起身，智能门锁会在识别身份后自动打开……[6]

可见，人工智能虽大大便利我们的生活，但也让我们变得更加懒惰，因为人只需简单的认知与体验便可自如“玩转”周遭的一切。彼时，人不需太多的思考与分析、不需太大的成长与进步，甚至不需要教育、不需要工作。这样一种拒绝与排斥的态度也将继续促成不思进取、懒散懈怠、主动退化。进一步来看，当生物智能芯片可植入人脑，承担部分记忆、运算、表达等功能，那时的“共生体”究竟是“人”还是“机器”？人与机器的难辨，也将引发伦理、存在、生物论的思考。

（二）人工智能的科技依赖、技术理性是否会导致人文教育的缺失让位

人工智能依靠智慧科技与高级装备、超大数据与超级计算，可以捕捉每一位学习者的学习需求、偏好特性、适用方法，致使凡事依赖技术诉求与技术皈依，人与机器的关联不断强化提升、人与人的关联日渐式微减弱，这些将引发并加剧人文精神、人文熏陶、人文环境、人文感知的消弭及落寞。当霍金谈到这个星球已经到了最危险的时刻[7]，耶鲁大学校长萨罗维发声，我们到了最需要人文科学的时刻。[8]苹果公司CEO蒂姆·库克也发表观点：“我担心的不是人工智能可以像人一样思考，而是人仅像智能机器一样思维，失去了人类应有的价值观、同情心、敬畏感。”[9]

作为全球社会变革与教育变革观测站，联合国教科文组织于2016年发布了《反思教育：向“全球共同利益”的理念转变》，言明“尊重生命和人格尊严、权利平等和社会正义、文化和社会多样性，为建设我们共同的未来而一起团结、共担责任，以此人文主义价值观作为教育的基础和宗旨”。那么，应如何避免人工智能以“人工”的“智能”取代人类的价值判断，戕害人类特有的权利平等、社会正义、文化多样等理念思维，又如何避免人类微妙、丰富的“情商”被人工智能的“智商”所吞没湮灭？

钱穆先生在《文化与教育》中指出：“所谓如何做人，并不是指做一个自然人，而是指如何做一个‘文化人。人生自始只是一个自然人，必待人文教育之陶冶，而始成为一个文化人。学术、政治、宗教、军事、外交种种职务、種种活动，在其外形上，似乎各各分离，互不相关，但在其背后，有一个共通深厚的文化领域。”作家龙应台曾言：“大学是人文精神的泉源。所有的科学、技术、经济或商业管理的发明，都须以‘人为它的根本关照。离开了人文，一个大学不是大学，只是技术补习班而已。”事实上，人文精神与人文素养不但是全方位、综合性、广角度的，而且可以潜移默化、自然而然地熏陶人、感染人、净化人。人文教育既有助于提升人的道德理性、品格修养、处世态度、情怀情操，也有利于增强人的心理素质、意志品质、责任心、使命感，还能优化人的精神世界、价值观、人生观、世界观等，因此人文教育必不可少，不应当削减，更不能消除。

而且事实上，特别是文学、美学、教育、哲学、戏剧、音乐等课程及学问，高度依赖人文历史的积淀、社会演进的传承、氛围环境的熏陶、场景描摹的体验，以及教师的言传身教、人与人之间的传递交流，这些都离不开人文教育以及自然场景中人与人的互动。

（三）人工智能的覆盖与全能是否会导致教师职业的沦陷取代

尤瓦尔·赫拉利在《未来简史》中指出，人工智能的大量应用会导致失业问题的显著提升。[10]那么，如果人工智能在各个领域、各项专业战胜人类，在技能、方法、理解、沟通等方面超越人类，那么教师职业的存在是否仍然必要？假使有一天，可以将图书馆与电子库的资料浓缩为超级芯片，并植入到人的大脑，那么教育还可以做什么？

早在马克思时代，机器吃掉的是工人。今天，人工智能吃掉的则是当下的职业。有研究揭示，如果某项工作具有如下特点，那么其被人工智能取代的几率就十分之大：（1）简单培训即可掌握要领;（2）大量重复性劳动，灵活应变差;（3）工作空间狭窄封闭，只做指定任务，不闻外界变化等。与之相反，如果某项工作内嵌这些技能，那么被人工智能取代的几率就是比较低的：（1）社交协商沟通能力、人情练达艺术;（2）同情心、同理心，对他人真心实意的交流与关切;（3）创新与审美。[11]不难发现，任何工作一旦程式化、模式化，人工智能就可很快学会并掌握。在人工智能时代，人类必须发挥其特有灵活性、情感性、创新性等价值。

因而在人工智能时代，昔日形态固化的、导向记忆的、聚焦应试的教学理念、态度、方法、步骤必将更加过时、陈腐。传统的重复知识、照本宣科、权威压迫、话语灌输式的观念举措也必被淘汰、废置。在人工智能时代，教师必须树立危机意识与改革思维，掌握创新、引领、开拓的能力和共鸣、关爱、理解的方法。在专业素养上，教师要敢于跳出自身的学科界域，汲取多元学科的前沿进展，持续追求终身学习、不断参与跨界学习、积极地反哺自己、提升自己。唯有以更加广泛性、跨越性、纵深性、创新性的视域，坚持持续学习、不断更新、自我迭代，才可高速成长、适应未来。

此外，教师尤须注意发挥人类的特殊优势，譬如人文关怀、情感照顾、恳切交流等，以及创造性、启发式的指导价值，并注重培养学生的情商、逆商，发展学生的综合素养、复合思维、意志品质、性格特质。对于学生的自主学习、自我管理、逻辑综合、批判思考等，必须突破单纯的技术手段，融合情景化、实体化的教育培养。教师更须在德育方面加强柔性引导和情感倾入，以共情共鸣的心理、同理换位的思考塑造学生的人格品质、提升学生的道德修养。

四、结语

海德格尔在《存在与时间》中谈到：“现代技术业已不是中性中立的，它架构式地渗透、弥散、影响，甚至操控人的现代生活，赋予人新的生命与发展轨迹。”[12]马尔库塞认为：“技术的合法性转化为社会的合法性，技术崇拜四处蔓延，形塑这样的转向：‘技术解放—‘事与物的工具化—‘解放的桎梏—‘人的工具化。”[13]鉴于日益明显的数据异构化、信息分散化，人工智能一旦失控，制造物反转式威胁制物者。因此，一些悲观主义者认为加速的人工智能将奴役人类，甚至逼迫人类种族面临窘境、走向消逝。

阿西莫夫在《我，机器人》这一经典著作中提出了机器人的三大原则：第一，机器人不得伤害人类个体，或目睹人类个体遭受危险而不顾;第二，机器人必须服从人的命令，当该命令与第一原则冲突时除外;第三，机器人在不违反第一和第二定律时，尽量保护自身的安全。[14]所以，我们必须禁止研发有能力对人类说“不”的人工智能，必须明确牵联主体的权力、义务、责任、约束，预测可能产生的种种后果，尤其是处在人类知识边缘界限的开发者、操作者、裁决者、执行者，他们深度影响着人工智能的价值观念与伦理道德、能力高低。唯有谨慎监控、仔细核查，对人工智能的研发与应用作全周期、全过程、開放式、动态式的评核记录，方可严格防范破坏性乃至毁灭性的后果。

在海德格尔那里，人之存在的“此在与自由”就在于“解蔽”：人不应是“座架”（“座架”隐喻一种束缚与支配）促逼的持存物、呈摆物，而应是内含无限可能的存在物，人应通过解蔽获得救赎，从而发挥内在的多样性、无限性。对于人工智能，我们既不能吸纳反技术的浪漫主义思想，盲目抵制人工智能、因噎废食，进而舍弃运用人工智能造福人类的绝佳机会，也不能一味允许人工智能自流放任，忽视人工智能的几率性风险、可能性危机、反方位效应、负导向后果，从而催生人工智能对人类的有机可乘、扰乱侵害。事实上，我们应该超越技术本身，在更开阔的视野中思考教育变革的问题，既赋予充分的变革空间，又保留传统教育的精髓，在开拓教育前线的同时，守住教育的底线。

参考文献：

[1]雷·库兹韦尔.奇点临近：当计算机智能超越人类[M].李庆诚，董振华，田源，译.北京：机械工业出版社，2011：12.

[2]李广宇，等主编.人工智能的未来之路[M].上海：上海交通大学出版社，2017：25.

[3]田倩飞，张志强.人工智能2.0时代的知识分析变革研究[J].图书与情报，2018（2）：33-42.

[4]张成岗.人工智能时代：技术发展、风险挑战与秩序重构[J].南京社会科学，2018（5）：42-52.

[5]赵汀阳.人工智能“革命”的“近忧”和“远虑”——一种伦理学和存在论的分析[J].哲学动态，2018（4）：5-12.

[6]郝景芳：人工智能最大的威胁可能是让人类懒于思考[EB/OL].https：//tech.sina.com.cn/i/2017-11-05/doc-ifynnnsc6529608.shtml，2017-11-05.

[7]霍金：这是我们星球最危险的时刻[EB/OL].http：//www.sohu.com/a/129207105_523115，2017-03-17.

[8]孙伟平.关于人工智能的价值反思[J].哲学研究，2017（10）：120-126.

[9]库克：我不担心人工智能像人一样思考[EB/OL].http：//money.163.com/17/0616/08/CN1Q7CDR002580S6.html，2017-06-16.

[10]尤瓦尔·赫拉利.未来简史[M].林俊宏，译.北京：中信出版社，2017：164.

[11]李开复.人工智能[M].北京：文化发展出版社，2017：95.

[12]马丁·海德格尔.存在与时间[M].陈嘉映，王庆节，译.上海：生活·读书·新知三联书店，2014：295.

[13]赫伯特·马尔库塞.单向度的人：发达工业社会意识形态研究[M].刘继，译.上海：上海译文出版社，2008：71.

[14]阿西莫夫.我，机器人[M].叶李华，译.江苏：江苏文艺出版社，2013：268.

（责任编辑 刘第红）