多模态数据融合下智能教育伦理问题及应对策略

李晓娜 雷娜

摘要：近年来，人工智能在教育领域的发展取得了重大突破，其中多模态数据融合与智能教育相结合的应用愈加广泛，其可能引发的伦理风险也备受社会关注。本文详细阐述了多模态数据融合下智能教育的发展现状，深入剖析了智能教育可能引发的伦理问题，最后提出解决现有伦理困境的政策措施，以期推动智能教育向善发展，更好地服务于人类和社会。

关键词：智能教育；教育伦理；多模态数据融合；科技伦理

中图分类号：G434  文献标识码：A  论文编号：1674-2117（2023）08-0091-04

引言

在新时代背景下，人们更加关注利用智能前沿技术对传统教育进行改革，注重信息技术与教育教学融合发展，为学生和教师提供个性化服务。智能教育的快速发展，改善了教育教学环境，推动了新的教学形式转变，但也引发了一系列智能教育伦理问题，如智能教育的强大数据分析能力，可能会造成个人信息泄漏、教育主体功能的禁锢等。因此，正确认识智能教育伦理问题并规避其风险成为当今社会发展的重要议题。所以，本文通过分析多模态数据融合下的智能教育发展现状及背后的伦理问题，提出了智能教育伦理问题的应对策略，以期能为未来智能教育健康有序发展提供参考依据。

多模态数据融合下智能教育发展现状

当前，人工智能技术已经进入了一个崭新时代，其在教育、出行、经济、医疗健康等诸多领域不断发展突破。人工智能教育的主要思路是通过算法，利用互联网、大数据信息通过计算机实现学生的个性化学习、自主学习和教师的辅助管理学习功能。[1]事物的存在方式是多样的，也是多模态的，需要通过声音、文字、图像等多种形式呈现给社会大众[2]，人工智能的学习也是多模态的，其核心主要是运用科学技术方法来模拟与人类相似的对文本、语言和图像的认知。在智能教育领域中，多模态数据类型有很多种，前人研究中比较典型的数据分类有：Di Mitri et al（2018）[3]等人提出的运动和生理模态的行为数据和情境数据；穆肃（2021）[1]等将其分为数字空间数据、物理空间数据、生理体系数据、心理测量数据和环境场景数据这五类；而郑永和（2022）[2]则将其分为外在行为表征数据、内在神经生理信息数据、人机交互数据和学习情境数据。在智能教育领域，多模态数据融合就是将学生外在行为特征、内在心理神经特征、外在环境氛围和人机交互数据融合整理，从而描述学生的学习状态和效果，这样不仅可以提升数据分析的准确性，还能够提高对教育对象的精准刻画能力，及对教学效果精准测评，进而提出相应改进措施与方案，探索研究出更深程度的教学规律，提供更加适合用户的服务。多模态数据融合下的智能教育运用大数据和互联网技术，全程跟踪学生学习状态，从多面、多维度、多视角将现有数据进行整合研究，进而对信息进行全面分析，构建起更有效率、更加契合学生心理行为的新型教育教学体系。[4]随着人工智能在教育领域的发展，多模态数据融合将成为促进智能教育发展的重要力量和智能教育的重要发展方向。

多模态数据融合下智能教育伦理问题

1.智能教育算法可能出现错误或偏差

人工智能是将算法与数据处理合为一体的科学技术，算法是智能教育技术发展不可或缺的部分。由于人工智能产品内部算法运作模式与状态具有复杂性与隐蔽性，一旦智能系统出现错误或偏差，很难找出其根本原因，这将导致人们对人工智能技术的担忧和不信任。[5]智能教育也是依据智能系统发展起来的，同样有着类似的问题。同时，智能教育主要根据所记录到的学习者的数据信息以及固定的评价标准和方法对学习者的学习状态做出相应判断和决策[1]，这不可避免地会产生偏差，如数据信息的不确定性和判断标准的偏见，这样根据智能技术产生的用户画像来推荐学习内容和方法，不仅容易造成对学生性别、年龄和性格等方面的偏见，还会限制学习者的创新性及其对多样性内容的需求。

2.智能教育模式缺乏师生情感互动

智能教育是以智能系统为平台搭建的数字化虚拟环境，远程交流、线上互动成为新的交流和沟通方式，人与人之间的情感交流通过机器相互连接，可能导致学生之间、师生之间情感的缺失。同时。智能教育强调收集数据信息完成分析，发现教育规律，制订教育计划，但在此过程中收集到的数据往往不全面，如学习者和教师之间的情感数据信息无法测量[6]，从而容易忽视师生情绪状态和感受情况，将沟通与交流、人文关怀屏蔽。此外，智能技术与教育过程结合除了改变人与人之间的关系，还有可能会引起人与机器之间关系的改变，如对科学技术的滥用可能会带来学习者主动性缺失和教学者的主观能动性减少的问题。[7]

3.智能教育主体地位弱化

从本质上来说，教育实际上是人与人之间的社会实践活动，也是主体间的交互过程。无论是学生还是教师，都是教育教学过程的独立个体和主体，他们有独立思考的能力，也有自主选择的权利。在传统教学过程中，多媒体、教材等事物只是作为师生教育学习过程中的辅助工具，教师利用工具来进行更完整的教学活动。随着智能教育系统的发展和成熟，智能教育应用不再仅仅作为教学工具，它还可以扮演教师、学生、朋友的角色，这将会影响教育主体的地位，从而带来伦理风险。一方面，在以往的教育教学活动中，课上的教学活动、课下作业的批改任务和制订教育教学计划都是由教师自主和协作完成，教师是教育教学过程中的主要角色。但是人工智能技术在教育领域的发展减轻了教师的负担，它可以帮助教师在教学活动中进行决策、判断和反馈，若过度依赖于人工智能技术，会造成教师的权威地位消减，弱化教师的职能。另一方面，如果学生个体过度依赖于人工智能，可能会减少学习的自主性，降低学生主动探索新知的能力和创造力。[8]

4.智能教育信息安全難以保障

互联网技术和人工智能的快速发展使人们的生活已经离不开网络，线上教育越来越普遍化，尤其是2019年新冠疫情暴发，使得在线教育的发展越来越壮大，在线教育用户呈直线上升。据统计，截至2020年3月份，中国的在线用户达到了4.20亿，在线教育App设备数量达到4.30亿台。[9]这就意味着用户资料每天都在被收集和提供给智能教育平台，如用户个人身份信息、学习时长、设备使用情况等，这些数据信息在网络上会越来越庞大，若网络防御技术不够成熟，一旦黑客入侵将会造成巨大的数据泄露，给公民隐私带来威胁，对人们的生产生活带来不利影响，甚至有可能被不法分子利用，对用户造成金钱或心理上的伤害。[7]

5.智能教育伦理监管制度缺失

近年来，智能教育相关政策的制定和完善日益引起人们的重视，2016年国家出台《“互联网+”人工智能三年行动实施方案》，2019年教育部发布《北京促进人工智能与教育融合发展行动计划》。但目前国内智能教育伦理规制法律体系尚未健全，关于智能教育技术的责任界定及监管问题尚待解决，一旦在智能教育过程中出现伦理问题，责任界定无具体法律依据可以参考，教育主体的安全和利益可能会受到伤害，甚至会带来极大的社会负面影响。例如，在智能技术的催生下，依据数据和算法技术很容易获得资源，数字教材发展迅速，这可能带来盗版、抄袭等侵权问题。然而由人工智能所导致的知识侵权问题和责任分担问题缺少相关法律条文约束，导致对相关人员利益的保护并不全面。同时，智能教育监督管理体系不够健全，政府部门、技术人员的监督不够严谨。

应对策略

1.建立“以人为中心”的智能教育体系

首先，要树立“以人为中心”的算法设计理念。“以人为中心”的智能教育算法体系更加强调以人类自身的需求为导向，在算法设计之初，依据用户的行为习惯和用户的反馈等信息来改进算法，优化和升级系统，以推动用户的个性化发展和满足用户多方面需求，同时要提高人工智能教育算法的可理解性和透明性，避免算法滥用和误用。技术开发人员要与教育人员和学生个体保持紧密联系，及时沟通并了解用户反馈，不断总结并修正目前所产生的问题，创造出更符合道德伦理要求的智能教育技术。其次，要保障智能教育中人的主体地位。进一步普及智能教育知识，使教师和学生对智能教育有客观、正确的理解和认知，以理性的态度面对智能教育技术的发展。树立以教师的教和学生的学为主、智能教育工具为辅的理念，呈现给学生更加丰富和有趣的课堂。教师要加强与学生的之间沟通，积极关注学生的学习状态，注重对学生的人文关怀，既要通过智能教育大数据认识教育规律，也应注重收集学生个体“小数据”，发现和挖掘学生个性化特点，实现因材施教。

2.健全智能教育信息安全管理机制

在信息爆炸和人工智能快速发展的时代，数据信息是智能技术发展的基石，保障每个用户的数据信息安全是当今人工智能教育发展的关键问题之一。在多模态数据融合背景下，需要完善相应信息安全管理机制，全方位、多角度保障用户信息数据安全，确保智能教育系统在被用户使用过程中的可靠性和安全性。首先，政府部门应完善关于智能教育数据安全保护的法律法规，对教育数据的采集、分析、使用、共享和决策等进行有效规制，明令禁止隐私泄露、数据滥用等违规行为，保障消费者权益。其次，智能教育企业应不断完善智能教育数据保护措施并严格执行，自觉保护用户隐私，不恶意传播和使用用户数据。再次，学校要加强师生信息素养的培育以及信息安全教育培训，引导师生科学、合理地获取及筛选教育信息资源，加深对信息伦理风险等问题的理解与思考，进一步增强师生信息分辨能力和信息安全意识，提高其信息安全防护技能。同时，应畅通信息反馈渠道，引导师生及时反馈智能教育资源使用中遇到的伦理问题，不断改进智能教育应用成效。

3.建立智能教育伦理问题监管体系

完善的监管体系是促进智能教育良性健康发展的重要支撑。第一，各地区教育主管部门及相关部门应当建立联席会议制度，根据当地智能教育发展实际制订相应管理措施，加强对学校、各教育机构和培训单位智能教育伦理问题的审查，严厉打击智能教育发展中出现的违法违规行为，保障学生在相对安全可靠的环境中学习成长。第二，强化企业对智能教育系统设计中的风险评估。企业可组建区域技术管理小组，在智能教育系统开发设计与运行过程中强化伦理审查，并制订好相应风险应急处理措施，尽可能降低智能教育伦理风险。第三，学校、各教育机构和培训单位应该按照监管要求明确，选派技术骨干力量组建智能教育伦理问题监管团队，全面分析、排查、预警和化解本单位本部门智能教育系统面临的潜在风险和危害。第四，強化教师在智能教育过程中的监督作用。教师应根据学生“最近发展区”对教育资源进行鉴别和筛选，防止学生过度依赖人工智能提供的学习资源，偏离全面发展目标。

4.完善智能教育伦理问题问责机制

在智能教育应用中，任何一个环节出现问题都应及时找到导致事故发生的原因和责任方，尽力规避智能教育伦理风险，因此必须不断完善智能教育伦理问题问责机制。首先，政府部门应制定强有力的法律法规政策，明确智能教育系统开发和运用过程中所涉及的各项利益相关者如系统开发技术人员、开发商、用户等的责任和义务，明确智能教育开发和应用过程中的风险责任，并进一步完善问责程序与问责方式，以确保可以对智能教育行为决策后果进行问责，任何非法开发、滥用技术的行为都要受到相应法律制裁。其次，合理明确的问责机制需要遵循公平、公正、透明的原则，即需要构建一套智能教育系统数据记录方案，确保智能教育系统工作流程透明化，以便于遇到问题能明确责任主体。另外，对算法决策过程、教师利用智能教育工具进行教学的过程和学生学习期间的行为轨迹，也应当有完整的记录保存方案，从而为可能发生的教育伦理问题问责提供准确全面的资料和参考依据。

参考文献：

[1]穆肃，崔萌，黄晓地.全景透视多模态学习分析的数据整合方法[J].现代远程教育研究，2021，33（01）：26-37+48.

[2]郑永和，王一岩.教育与信息科技交叉研究：现状、问题与趋势[J].中国电化教育，2021（07）：97-106.

[3]Di Mitri，D.，Schneider， J.， & Specht， M. et al. From Signals to Knowledge： A Conceptual Model for Multimodal Learning Analytics[J].Journal of Computer Assisted Learning，2018，34（04）：338-349.

[4]杨彦军，徐刚，童慧.智能学习环境中基于多模态数据的深度学习监测研究[J].电化教育研究，2022，43（06）：68-76.

[5]王一岩，王杨春晓，郑永和.多模态学习分析：“多模态”驱动的智能教育研究新趋向[J].中国电化教育，2021（03）：88-96.

[6]戎翔.多模态数据融合的研究[D].南京：南京邮电大学，2012.

[7]梁冠宇.人工智能应用于教育的伦理风险与规避[D].太原：山西大学， 2021.

[8]孙增芹，潘宇.人工智能伦理困境的突破——基于法律运行的视角[C]//.《上海法学研究》集刊2022年第11卷——2022世界人工智能大会法治青年论坛文集，2022：161-168.

[9]于英姿，胡凡刚.隐忧与消解：智能技术之于教育的伦理省思[J].远程教育杂志，2020，38（03）：55-64.

作者简介：李晓娜（1998—），女，河北邢台人，河北地质大学经济学院在读硕士研究生，主要研究方向为大数据分析；雷娜（1982—），女，河北石家庄人，博士，河北地质大学经济学院副教授，硕士生导师，主要研究方向为区域经济与技术创新。

基金项目：河北省省级科技计划软科学研究专项资助，“河北省科技伦理治理体系建设研究”（225576186D）。