教育领域中的情感计算技术:应用隐忧、生成机制与实践规约

2022-05-13 23:31蒋艳双崔璨刘嘉豪岳丽杰
中国电化教育 2022年5期
关键词:人工智能

蒋艳双 崔璨 刘嘉豪 岳丽杰

摘要:情感计算可为分析学生情感状态、研究学生情感作用机理、设计人性化的服务和产品、创设自然和谐的人机交互提供可能性。该文重点分析教育领域中情感计算技术的价值和应用场景,探讨情感计算教育应用的困境与隐忧,并从内生性逻辑和关系性逻辑出发审视教育领域中情感计算应用隐忧的生成机制。基于此,提出四点实践规约:(1)聚焦多学科交叉融合,攻克教育中情感计算的关键技术;(2)制定情感计算技术审查标准与规范,实现跨人机的情感规则形塑;(3)控制学生的隐私边界渗透,构建数字全景敞视下的多元协同共治;(4)加强情感计算技术主体责任意识教育,提升情感计算教育应用生态效度。该文可为我国情感计算技术规范而有序地融入教育生态提供理论借鉴和行动指南。

关键词:情感计算教育应用;应用隐忧;伦理决策;人工智能;实践规约

中图分类号:G434 文献标识码:A

* 本文系北京市教育科学“十四五”规划2021年度青年专项课题“双师教学场域中的学生情感氛围动力学模型研究”(课题编号:CECA21109)阶段性研究成果。

学生情感能够显著影响认知过程,是学习行为的重要驱动因素。情感计算可为分析学生情感状态、研究学生情感作用机理、设计人性化的服务和产品[1]、创设自然和谐的人机交互[2]提供可能性。近年来,教育领域中情感计算技术应用得以快速发展,在教育反馈与干预[3]、优化师生体验[4]等方面发挥了积极作用,但也存在“过度情感劳动”“情感依赖”“情感异化”等应用困境与隐忧,以及侵犯个人隐私等伦理问题,为学生、教师、企业研发人员、教育管理者、教育研究者等利益相关者带来了诸多困扰,也对智能时代的教育治理提出更高的要求。因此,本研究对国际教育领域中情感计算技术的价值及应用场景进行分析,重点审视情感计算教育应用隐忧的生成机制,提出适用性强且指导性高的实践规约与研究建议,为我国情感计算技术规范而有序地融入教育生态提供理论借鉴和行动指南。

(一)何为情感计算技术

情感计算可被理解为与情感有关、由情感引起或能够影响情感的因素的计算[5],其目标是赋予计算机观察、理解和生成各种情感特征的能力[6],使其能与人开展自然、亲切和生动的交互活动。情感计算的关键环节包括情感发生机理研究、情感信号获取、情感建模分析、情感理解、表达和生成等[7]。从结构层次化的角度来看,情感计算技术的体系架构由数据、模型和可视化[8]三個层次构成,可为教育应用过程提供一个有效且可靠的分析框架。首先,数据层是模型层的输入和输出,包括学生情感数据的采集、脱敏、清洗、存储、处理和分析等技术环节,涉及学生行为姿态数据、生物特征识别数据、语音数据等。其次,模型层旨在解决学生情感建模和智能决策等问题,通过提取多模态情感特征,对多模态情感特征集进行降维,经过算法设计与实现,完成特征级或决策级融合,识别并判断学生的情感状态。最后,可视化层是借助5G/ F5G、物联网、VR/AR等技术,通过可视化界面将编程后的指令传递到真实世界,实现学生个体情感信息呈现、群体情感氛围场进化、个性化教学策略反馈与服务等。

(二)情感计算教育应用四大场景

近年来,美国麻省理工学院(MIT)Picard教授团队相继提出了50余种情感计算应用项目[9]。从教育场景来看,情感计算技术于在线教育、人机协同支持的双师教学、特殊儿童教育、教学评价等方面具有广泛的应用前景,主要包括情感智能体、可穿戴设备、智能导学系统等体现形式。

1.增强在线教学中的师生情感体验

在线教学实践过程中,虚拟课堂或虚拟实验室作为在线教学的表现形式之一,能够利用情感计算技术,促进在线学习者和虚拟化身之间的情感交互[10],实现沉浸式、具身式学习。Krithika[11]通过利用一种基于眼睛和头部运动的在线学习情绪识别系统,来测量学习者的注意力水平,并对学习者的主题参与度和兴趣水平进行分类,从而提高学习者的学习体验。在前沿技术探索方面,“情感鼠标”(Emotion Mouse)是一种接入在线教学的情感交互系统[12],它通过检测在线学习者的皮肤流电反应、脉搏、体温等信息来推断学习者的情绪变化。当学习者在学习或练习中出现萎靡不振的情绪时,“情感鼠标”就会发出提示,并及时播放舒缓的轻音乐,便于调整学习者的学习状态。近年来,研究者在基于触觉的情绪表现形式上也进行了一些探索。Tewell等使用由3个热刺激器组成的热刺激阵列提高文本信息的情绪唤醒能力[13]。综上所述,以上在线教学中的情感计算技术应用,能够增强师生情感交互,对提高学生学习体验具有显著的应用成效。

2.赋能乡村教育中的新型双师教学

通过创建具有情绪表现力的智能体来部分代替教师实现情感交流,是当前教育领域中情感计算所关注的学术焦点。针对我国边远农村地区中小学薄弱学校和教学点存在的国家课程开设困难、高质量教学资源匮乏、供给资源匹配性不足等问题,情感智能体支持的新型双师课堂作为人机协同教学领域中的重要实践场域,可为边远农村地区跨校和城乡联动课堂教学提供支持与服务。情感智能体包括虚拟和实体等表现形式[14],在双师教学中扮演基于情感计算技术的虚拟情感教师和情感化助教机器人等角色。情感智能体支持的新型双师教学是一种复杂的多模态人机交互系统,通过利用情感计算技术对情感性因素进行算法编程,进而实现模拟、识别和合成学生的情感,为学生提供个性化、自然和谐的情感互动。伴随模式识别和图形图像处理技术的迭代发展,情感智能体已能够通过学生的面部表情进行情绪识别和分析,判断学生的情感状态。目前,虚拟教师Baldi[15]、NAO机器人[16]、Kismet机器人[17]等均具备良好的情感识别能力,这些情感智能体可为探索和发展新型双师教学方式提供技术支撑。

3.提升孤独症儿童的情绪感知能力

孤独症儿童患有一组以社会交流和社会互动持续缺陷、行为兴趣重复刻板或异常为特点的异质性神经发育性疾病,其患病率呈逐年递增的态势[18]。在人机交互中,通过情感计算技术对孤独症儿童的社会交往功能缺陷进行情感治疗及情感补偿,从而提升情绪感知能力。在可穿戴的情感计算技术装备方面,MIT研究团队研发了一种具有社交智能的假肢,通过分析学生的面部表情和头部运动,实时检测并推断孤独症儿童的情感状态。此外,名为Galvactivator的可穿戴设备利用发光二极管测量学生的皮肤电流数据,推断并描绘出人体生理机能亢奋程度的图谱,最终以可视化技术对学生的情感状态予以呈现[19]。在情感智能体应用方面,由伦敦大学学院孤独症与教育研究中心研发的Zeno机器人为孤独症学生与同伴/教师之间的互动提供了一种交流工具。Zeno机器人通过生成面部表情来表达情绪,然后鼓励自闭症儿童进行模仿,使其在人机交互过程中学会管理自身面部表情和情绪之间的关系[20]。基于孤独症儿童面部表情、头部动作、身体姿态、手势、心率、体温、皮肤汗液反应等多模态数据,结合孤独症诊断结果、文化和性别等信息,治疗机器人能够发展自身深度学习网络,进而形成数据至学生情感状态的关联关系。经评估,相较于领域专家,治疗机器人能够更为精确地预测孤独症学生高兴或不安程度,以及学习兴趣水平等表现[21]。

4.发展智能教育中的学习投入测评

智能教育背景下,基于多模态数据融合方法进行学生情感计算,可实现对学生情感状态的精准评估与跟踪反馈。有研究能够实现课堂情境下无干扰地采集学生的面部表情、手势和身体姿态等多模态数据,以分析学生的情感状态及学习投入[22]。目前,学界对于学习投入的概念内涵尚未达成共识,但从认知投入、行为投入和情感投入三个维度[23]阐释其内在机制,已受到众多研究者的青睐。伴随情感计算技术的快速发展,对于学习投入智能化测评,逐步成为智能教育领域关注的前沿议题。Gupta等[24]将DAiSEE数据集分类标注为无聊、积极、困惑和沮丧等情绪,进而测量学习投入度的准确率。Ninaus等[25]利用机器学习算法,通过对学习者的面部表情分析进行情绪识别,从而研判情感投入水平。还有研究探讨大学课堂环境下学生情感状态的自动识别方法[26],帮助教师实时掌握课堂教学过程中的学生情感投入状态。

随着情感计算技术的快速发展,教育场域及其师生活动均产生显著变化,其中教育场域中的情感计算技术应用框架如图1所示。同时在应用过程中,也衍生出诸多应用困境和隐忧。

(一)教育场域中师生情绪理解的复杂模糊性

纵观教育领域中的情感计算技术应用,存在教育场域复杂性、情绪建模和本体风险三层应用隐忧。一是学生情感状态对跨教育场景的适应机制尚未厘清。当情感计算技术融入教育生态系统时,真实的信息化课堂教学、在线教育、特殊教育等基本教育形态的边界被开启,科技馆、图书馆、博物馆等学习空间作为一种协同育人环境,促使学习者的情感和行为要素发生多元耦合,教育系统变得更为错综复杂[27]。在此背景下,研究教育情境要素对学习者情绪状态的影响机理成为智能教育研究的重要议题,包括教学资源、教学内容、教学活动、教学媒体等要素对学习者情绪的潜在作用机制。例如,当计算机建立起生理、心理信号与学生情绪状态之间的关联关系时,相应的情感计算模型对跨应用场景的适应机制便成为关键技术突破与理论调和的重中之重。二是认知心理学视域下经典情绪建模存在局限性。当前,何種情绪建模方法通过计算机模拟和分析能够更加逼近人类的情绪本质,学界尚未达成统一共识。情绪建模需要融合数学、心理学、计算机和认知神经科学等多学科领域知识,不仅涉及计算模型的复杂性问题,还与数学解析技术有关[28]。三是教育中的情感计算应用本质上是数值逼近问题。虽然前期将采集、汇聚的规模化情感数据作为机器学习的训练集、测试集和验证集,但始终处于无限逼近和还原真实的情感特征世界,这正是情感计算技术本体风险的映射。

(二)学生过度的情感劳动导致自我呈现受阻

在教育领域的情感计算技术应用过程中,通过利用特定的算法,计算学生的姿态、手势、面部表情等数据,评估学生情感状态。在真实课堂情境中,摄像机等智能感知设备可能会无形中增加学生的心理负担,抑制其真情实感的表达,迫使学生开展频繁、高强度的情感劳动,最终导致学生情感的内在体验和外部表达之间的失调[29]。

差异化的情感效价导致学生情感劳动强度增加。在情感计算技术教育应用过程中,很可能直接将学生的情感状态划分为积极情绪和消极情绪等,这些裹挟着价值导向的情感效价分类,可能会对学生的人格尊严造成侵犯。需要说明的是,情绪唤醒水平与学业绩效存在U型曲线关系,过于激烈的情绪反而会降低学生的学习绩效[30]。基于非此即彼的计算结果,系统将匹配差异化的教学策略,可能对特定的学生群体产生歧视等冲突。由此,学生真实的自我呈现将面临更多的阻碍,需要更努力地进行情绪整饰[31]。

(三)教师过度技术依赖导致情绪感知力钝化

在教学过程设计、课堂管理、课后联合教研过程中,教师通过情感计算技术能够增强对教学情境的感知能力,捕捉并分析学生情绪,从而使计算机能够根据差异化情感需求适配教学内容和策略,辅助教师完成事项厘定。在情感计算支持的教学决策过程中,伴随情感识别技术的快速发展,计算机逐步实现将教学结果的可视化反馈,进而支持教师开展差异化情感补偿策略。当该系统变得愈来愈智能化,甚至出现情感计算工具理性霸权,可能使得教师过度依赖基于情感计算技术的教学决策及其情感补偿策略。部分教师过度依赖教育大数据与算法分析结果,丧失其作为教学决策者的主体性价值和角色能动性,忽视自身的教育实践智慧,逐渐钝化其对教学情境的研判能力,遮蔽自身对学生真实情感状态的感知。

(四)智能体情感欺骗导致师生情感体验缺位

教育智能体外在情感表达与学生内在情绪之间的关联关系具有不确定性,存在一定的科学性映射隐忧。一是在情感信号刺激较为强烈时,算法模型可建立情感信号与情感状态之间明确的表征关系,但当情感信号较为自然、微妙时,这种关联关系往往会发生偏误。二是相同的情感信号可能表达多种情绪内涵[32],应将其重新放置于真实教学情境中对师生实时情绪状态进行还原和解释。正如德雷福斯所言,数学计算机难以实现人类信息加工拟合过程中的“歧义容忍”[33]。

在人机情感交互过程中,智能体通过生成与合成眼睛注视、表情、姿态和手势等模态信息,对师生的情绪进行感知并完成情绪表现,从而建立与师生之间的情感流动。随着虚拟性和间接性交互的常态化,沉浸式和场景式的学习体验将不断模糊与真实世界的边界,学生也可能会产生情感体验缺位和社会交往障碍[34],长期缺乏真实的情感交互,甚至可能导致教学中社会关系(如师生关系、生生关系)的结构异化,引发伦理失调等风险。

智能时代下,我们应思考如何规制情感计算技术教育应用所带来的风险,审慎地看待情感识别、合成和表达等相关智能技术的进步和创新。在差异化进路(内生性逻辑和关系性逻辑)中,分别聚焦情感计算技术应用的结构及价值[35],将有助于分析情感计算应用隐忧的生成机制。

(一)内生性逻辑:数据博弈下的多模态情感分析

教育领域中的情感计算技术应用的内生性逻辑,即工程进路中的数据博弈和情感识别与分析,大致可分为情感数据采样、情感数据记录及存储、情感数据标注、情感计算的算法模型与教学决策规则构建等环节。内生性逻辑关系如图2所示。

情感数据采样方面,数据作为新型生产要素,为情感计算教育应用提供基础性“燃料”。教育场景中,通过对学生的身体姿态、手势、面部表情、语音、生理信号等多模态数据进行采集、获取,存储于数据池,便于学生情感的“数据画像”。但不同拍摄角度和光线下的面部表情识别、真实课堂中的学生语音信号的提取和去噪等问题均会对数据样本质量有影响。从样本代表性上,需考慮不同性别、不同民族学生等因素的样本差异性。在对非结构数据标准化的基础上,从学生多模态情感信号中提取稳定的情感特征,并进行有效的融合。值得说明的是,不管是特征级融合技术抑或是决策级融合,情感识别结果均存在依赖训练样本中特定人物的情感信息等难题。

情感数据记录及存储方面,应加强介入情感数据的跨境流动并有责任对第三方的情感数据保护作出评估[36]。数据流动规则应符合教育管理者以及师生的利益诉求,重视以存储者为中心的数据本地化存储。换言之,为减少对情感数据享有权、使用权的模糊性,对学生的情感数据权利进行正面确权,从客观上对第三方数据处理行为进行协同规制,形成安全可信的、鲁棒性强的网络存储机制。

情感数据标注方面,在特征提取的实操层面上,通过人工标注的方式,对学生举手、回答问题等情感信息添加标签,完成学生生物特征识别。随着数据量逐渐增多,深度学习算法开始逐步替代支持向量机(SVM)等传统的机器学习,能够高效准确地完成对学习情感的分类。深度学习虽然不会过度依赖情绪模型,但对数据集质量及其标注的准确性提出了更高的要求[37]。目前,人工标注的粒度和信度部分不达标[38],存在一定的主观性,需要进一步研究预训练、微调技术、多样化的网络输入设置[39],或改进适用于教育场景的自动标注技术等。

情感计算的算法模型与教学决策规则构建方面,在教育领域中情感计算架构下,将“数据、模型和可视化”多层结构通过算法黑箱化进行封装,是计算机编程中一种常用的工程模式。值得说明的是,算法是基于代码编程的一系列指令集,是一种抽象性程度较高的运算规则。目前机器学习算法在情感计算方面的应用主要集中于情感分类,采用机器学习方法,需要通过大量的训练样本和高性能计算来提高情感识别的准确率及效率,尤其是神经网络算法支持下的情感数据与师生情感类型的映射模型。

从技术流程来看,算法黑箱化将可能导致数据采集、算法决策、教学决策等方面的问题[40]。具体而言,数据采集方面,由于人类对于情感计算教育应用的风险认知存在主观性与局限性,肆意地获取、监测学生学习情感数据违背了学生、家长的知情同意权利。算法决策方面,在情感计算教育应用过程中,教师可能知晓班级学生时序情感状态的计算规则与学生行为姿态、面部表情、语音语调、交互程度等信息,但并不了解背后所采用的数学模型和参数权重的分配规则。教学决策方面,算法黑箱化有可能导致教学决策规则隐蔽而复杂,因此算法模型和输出结果的可解释性问题值得尤为关注。情感计算技术支持的教学决策旨在通过有效挖掘学生情感数据的价值,输出适切的教学策略。例如基于学生主体的身体姿态、手势、面部表情、心率等多模态情感信号,利用情感计算技术来分析和解释学生的情绪状态,支持差异化的教学决策。

(二)关系性逻辑:技术理性主义的阐释及关照

教育领域中情感计算技术应用的关系性逻辑,即教育进路中的技术理性主义的阐释及关照。正如海德格尔在《关于技术的追问》中认为,技术已经不再是“中性”的,而作为“座架”支配着现代人理解世界的方式。在情感计算应用过程中,技术理性包括工具理性与价值理性两个向度。工具理性则强调发展教育中情感计算技术的功能性与合理性,追求最大功效地提升教学效率,而价值理性强调情感计算技术及应用需与人类社会的根本需求相吻合。其中二者的辩证关系可从以下三个层面阐释:一是工具理性作为价值理性的前提,可直接服务于个性化教学。智能时代背景下,应进一步推进和发展情感计算技术支持的学生情绪状态研究,更新和拓展其教育应用场景,赋能个性化教学与精细化教育管理。二是价值理性作为工具理性的本质要求,是情感计算技术教育应用的根本目的。当前对情感计算技术的工具理性存在过度追求,而忽视对其价值理性的关照,这一现象值得引起学界更多的关注。例如加拿大Nural Logix公司通过利用透皮光学成像(Transdermal Optical Imaging)技术测量学生面部血液流动信息,进而识别学生面部表情背后所隐藏的情感状态[41]。在教育领域中,尽管基于明显的面部表情数据来推断学生情绪状态可能尚未上升为隐私保护的范畴,但利用学生的微表情、由教学刺激而短暂出现的面部表情(非自愿情感泄露)以及瞳孔扩张等细微变量来研判学生的情绪状态,这将对学生的个人隐私造成极大的侵犯,从而引发情感计算技术价值理性的缺失。三是价值理性与工具理性的有机统一。教育中情感计算技术在价值理性向度上的内涵包括关照学生学习体验的具身性[41]、差异化情感补偿策略等。工具理性包括物质形态工具和精神形态工具。前者是通过采集、记录、存储、处理和分析师生多模态情感数据,识别师生的情感状态,成为适应性教学服务的中介手段[42],具有直接效应。后者则是借助学生投入抽象的情感劳动,形成物质形态工具的采集来源,成为服务于情感计算教育应用价值理性的间接效应。

在智能时代,人们着力攻克教育领域中情感计算本身及应用的关键技术,关注工具理性所带来的教学效率提升以及技术控制。在人工智能与教育双向互动的过程中,情感计算技术的教育价值应体现为全生命周期、多尺度地满足教育主体需要,其中理解的价值偏误也成为了情感计算教育的应用隐忧之一。

人类的情感是一个被伦理和文化等因素所限制的建构过程[43]。在理性主义思潮的影响下,人们的理性和情感被视为一对天然的矛盾体[44],而实践规约应体现理性化的要求,实现对教育领域中情感计算技术应用的管控效力。

(一)聚焦多学科交叉融合,攻克教育领域中情感计算的关键技术

教育领域中的情感计算应用,兼具教育学科和工程学科的属性。从情感计算教育应用的国际发展趋势来看,它的工程属性愈发突显。当前教育领域中的情感计算技术应用研究热点,例如基于情感计算的教学评价、情感智能体应用等,均需涉及教育学、心理学、计算机科学、神经科学、数据科学、认知科学、行为科学、脑科学等综合性交叉领域的理论和方法。学科交叉是情感计算技术应用创新突破的“捷径”。究其原因,20世纪50年代人工智能的诞生本身就是学科交叉的结果,随着智能本源、神经网络等新问题和方法的重大突破,持续为人工智能的学科发展提供驱动力量。因此,聚焦不同学科的领域知识,重点关注复杂的教育领域重大问题,构建具有中国特色的情感计算原创理论体系,可为形成我国自主可控的情感计算技术创新生态提供理论支撑。

攻克教育中情感计算的关键技术,将成为多学科交叉融合的重要领域。跨场景分析情感计算的样本族、训练集、目标域/源域对齐方式、动力学模型等,通过对家庭/学校/科技场馆等协同育人教育场景的多任务功能点拓扑设计,可能成为情感计算教育应用的前沿议题。例如,为减缓传统接触式的情绪感知设备具有的较强的生物侵入性,远程生理信号分析逐步受到教育中情感计算应用领域学者的青睐。伴随远程光学体积描记术(Remote PhotoPlethysmoGraphy, rPPG)的快速發展,通过摄像头捕获视频中师生面部皮肤反射光来推断其情感状态成为可能[45]。跟踪视频帧中的人脸感兴趣区域(Region Of Interest, ROI),并对ROI中所有像素亮度值进行均值融合、盲源分解或滤波操作,从而得到稳定的远程信号。基于此,分析与提取鲁棒的平均心率、呼吸、血氧饱和度、血压等生理特征,构造分类器进行师生情感识别,实现无接触式远程测量生理信号分析师生情感变化。

(二)制定情感计算技术审查标准与规范,实现跨人机的情感规则形塑

伴随情感计算技术在教育领域中的快速应用,情感计算于在线教育、双师教学、特殊儿童教育、学习投入测评等场景中有着更为广泛的应用。习近平总书记指出,要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。目前,我国已形成以《网络安全法》《数据安全法》《个人信息保护法》三法为核心的合规体系,为智能时代的网络安全、数据安全、个人信息权益保护提供了基础制度保障。在上述多元复杂的教育场景中,需进一步完善情感计算技术标准和规范的制定,包括情感计算技术标准和伦理道德标准,从而促进情感计算算法与实践规约形成良性沟通。

针对教育中情感计算技术的规制问题,应面向不同学生群体和教育场景的需求,以事前规则和事后问责相结合的方式,构建全尺度、立体化的情感计算技术分类分级机制。具体而言,基于“学生风格-教育场景”的概念框架,按照情感计算技术成熟度,形成一套操作性强、细粒度的分类分级体系,持续推进算法系统与实践规约体系的跨系统互动[46],从而实现跨人机的情感规则形塑。基于此,应进一步建立健全公开透明的情感计算监管体系,构建情感计算创新发展的良好规约环境。

(三)控制学生的隐私边界渗透,构建数字全景敞视下的多元协同共治

近年来,人类社会逐步构筑起一座福柯式“全景式监狱”,释放出多种“现代性信任风险”[47]。在数字全景敞视主义下,人们表现出一种消极的隐私观,即我们应该主动放弃隐私,采取一种放任自由的态度来面对隐私泄露问题[48]。应进一步控制学生的隐私边界渗透,在知情同意的前提下,适度地向外界开放自己的个人隐私。利用数字技术对情感计算教育应用进行治理,以技术增量式赋权和重构式创新的方式,构建平台联通、流程高效、场景统筹的长效治理机制,提升情感计算教育应用的技术治理效能。

当前,政府与教育科技企业存在一定的技术依赖关系。政府不仅需要购买教育科技企业的算法系统,并且还需要企业提供长期的技术支持和稳定的运维服务。在情感计算教育产品嵌入行政活动过程中,由政府引领“政-企-校”多元协同共治的格局,促进一线师生的公众参与和企业的情感计算技术开放之间的良性互动,确保各方之间的信息对称性,突破技术中心主义的局限[49]。从平衡三方利益出发,应充分利用数字技术,感知社会态势、辅助科学决策、畅通“政-企-校”沟通渠道,既要求企业在不损害自身行业优势和商业机密的基础上,披露相关情感计算的算法指令内容,同时还要接受学校师生用户的公众监督、内容审查和易用性反馈。数字全景敞视主义下的多元协同共治背景下,对政府管理部门提出了更高的要求。相关部门应进一步推进并完善常态化治理风险预警监测机制,形成协同联动的预警和处置体系。

(四)加强情感计算技术主体责任意识,提高情感计算教育应用生态效度

在系统论关照下,教学实践、情感计算教育应用研究、教学数据均属于不同的子系统,承担着不同的主体角色与职责。具体而言,从教学实践主体来看,它是一种以社会交互为主体的实践活动,包括教师、学生、助教;从研究主体来看,它将教育中的情感计算封装于智能技术产品中,实现产学研用一体化,包括教师、研究者、企业算法工程师和产品设计者;从数据主体来看,它将师生情感行为作为数据采集和分析的主体,具体包括学生、教师。根据情感计算教育应用的分类分级机制,将进一步明确责任主体,划定使用者和算法设计者双方的权利和责任,最大程度预防情感计算技术伦理问题的发生。

情感计算技术支持的教与学可看作为是一个以师生互动为主要线条的生态系统。在此教育生态中,增强情感计算技术的算法透明度,提高情感计算教育应用生态效度,揭示教育领域中情感计算教育应用的“生态原貌”。为此,应秉持科技向善,重点关注伦理实践与科技实践的融合,增强情感计算教育应用系统的鲁棒性和灵活性,从而实现规模化教育下的个性化培养。

参考文献:

[1] 傅小兰.开展情感计算研究 构建和谐电子社会[J].中国科学院院刊,2008,(5):453-457.

[2] Tan T.Affective Computing and Intelligent Interaction [J].Lecture Notes in Computer Science,2011,6974(2):386-417.

[3] Arguedas M,Xhafa F,et al.A model for providing emotion awareness and feedback using fuzzy logic in online learning [J].Soft Computing,2018,(3):963-977.

[4] Hew K F,Hu X,et al.What predicts student satisfaction with MOOCs:A gradient boosting trees supervised machine learning and sentiment analysis approach [J].Computers & Education,2020,145:1-16.

[5] Poria S,Cambria E,et al.A review of affective computing: From unimodal analysis to multimodal fusion [J].Information Fusion,2017,37:98-125.

[6] 张迎辉,林学誾.情感可以计算——情感计算综述[J].计算机科学,2008,(5):5-8.

[7] 王一岩,刘士玉等.智能时代的学习者情绪感知:内涵、现状与趋势[J].远程教育杂志,2021,39(2):34-43.

[8] 薛耀锋,杨金朋等.面向在线学习的多模态情感计算研究[J].中国电化教育,2018,(2):46-50+83.

[9] 清华大学人工智能研究院等.人工智能之情感计算[EB/OL].https:// static.aminer.cn/misc/pdf/emotion.pdf,2022-01-03.

[10] 李勇帆,李里程.情感计算在网络远程教育系统中的应用:功能、研究现状及关键问题[J].现代远程教育研究,2013,(2):100-106.

[11] B K L,Gg L P.Student Emotion Recognition System (SERS) for e-learning improvement based on learner concentration metric [J]. Procedia Computer Science,2016,85:767-776.

[12] Fu,Y.J.,et al.Physiological mouse: toward an emotion-aware mouse [J].UNIVERSAL ACCESS IN THE INFORMATION SOCIETY,2017,16(2):365-379.

[13] Tewell J,Bird J,et al.The heat is on:a temperature display for conveying affective feedback [EB/OL].http://library.usc.edu.ph/ACM/ CHI%202017/1proc/p1756.pdf,2022-01-03.

[14] 劉婷婷,刘箴等.人机交互中的智能体情感计算研究[J].中国图象图形学报,2021,26(12):2767-2777.

[15] Bosseler A,Massaro D W.Development and evaluation of a computer-animated tutor for vocabulary and language learning in children with autism [J].Journal of Autism and Developmental Disorders,2003,33(6):653-672.

[16] QUI.Humanoid Robots - STEM Education Research Group [EB/OL].https:// research.qut.edu.au/stemerg/projects/humanoid-robots/,2022-01-19.

[17] MIT.Kismet:A Robot for Social Interactions with Humans [EB/OL]. http://www.ai.mit.edu/projects/kismet-new/kismet.html,2022-01-19.

[18] 五彩鹿自闭症研究院.2017《中国自闭症教育康复行业发展状况报告II》发布会今日在京举行[EB/OL].https://www.sohu.com/ a/131582510_661957,2020-12-01.

[19] Picard R W,Scheirer J.The Galvactivator:A glove that senses and communicates skin conductivity [EB/OL].https://dam-prod.media.mit. edu/x/files/pub/tech-reports/TR-542.pdf,2021-01-03.

[20] Robots Champion.ZENO ROBOT HELPING AUTISTIC CHILDREN COMMUNICATE [EB/OL].https://robotschampion.com/zenorobot/,2022-01-12.

[21] MIT NEWS.Personalized “deep learning” equips robots for autism therapy [EB/OL].https://news.mit.edu/2018/personalized-deeplearning-equips-robots-autism-therapy-0627,2022-01-10.

[22] Ashwin T S,Guddeti R.Automatic detection of students’ affective states in classroom environment using hybrid convolutional neural networks [J].Education and Information Technologies,2020,(4):1387-1415.

[23] Fredricks J A,Paris B A H.School engagement:potential of the concept,state of the evidence [J].Review of Educational Research,2004,74(1):59-109.

[24] Gupta A,D’Cunha A,et al.DAiSEE:Towards user engagement recognition in the wild [A].Computer Vision and Image Processing [C]. Salk Lake City:IEEE,2018.1-12.

[25] Ninaus M,Greipl S,et al.Increased emotional engagement in gamebased learning-A machine learning approach on facial e-motion detection data [EB/OL].https://www.sciencedirect.com/science/article/ abs/pii/S0360131519301940,2019-07-26.

[26] Tongu G,Ozkara B O.Automatic recognition of student emotions from facial expressions during a lecture [EB/OL].https://www.sciencedirect. com/science/article/abs/pii/S0360131519303471,2020-01-07.

[27] 阿兰·柯林斯,理查德·哈尔弗森.陈家刚,程佳铭译.技术时代重新思考教育[M].上海:华东师范大学出版社,2013.109.

[28] 梁丽,苏湛.计算机模拟的认识不透明性[J].自然辩证法通讯,2021,43(11):39-45.

[29] 程猛,阳科峰等.“精准识别”的悖论及其意外后果——人脸情绪识别技术应用于大学课堂的冷思考[J].重庆高教研究,2021,9(6):78-86.[30] Hebb,D.O.,J.L.Martinez,S.E.Glickman.The organization of behavior a neuropsychological theory-hebb,do [J].CONTEMPORARY PSYCHOL OGY,1994.39(11):1018-1020.

[31] 成伯清.当代情感体制的社会学探析[J].中国社会科学,2017,(5):83-101+207.

[32] 王禄生.情感计算的应用困境及其法律规制[J].东方法学,2021,(4): 49-60.

[33] 徐献军.德雷福斯对人工智能的批判仍然成立吗 [J].自然辩证法研究,2019,35(1):15-20.

[34] 謝瑜,谢熠.大数据时代技术治理的情感缺位与回归[J].自然辩证法研究,2022,38(1):124-128.

[35] 李子运.人工智能赋能教育的伦理思考[J].中国电化教育,2021,(11):39-45.

[36] 张继红.个人数据跨境传输限制及其解决方案[J].东方法学,2018, (6):37-48.

[37] 刘婷婷,刘箴等.人机交互中的智能体情感计算研究[J].中国图象图形学报,2021,26(12):2767-2777.

[38] 张永和,潘萌等.基于混合场景人脸数据集的学习投入度识别[J].现代教育技术,2021,31(10):84-92.

[39] Shan L,Deng W.Deep Facial Expression Recognition:A Survey [EB/OL]. https://arxiv.org/pdf/1804.08348.pdf,2021-01-23.

[40] 张凌寒.算法自动化决策与行政正当程序制度的冲突与调和[J].东方法学,2020,(6):4-17.

[41] Valentina Zezelj.NuraLogix:Monitoring health and emotions with Transdermal Optical Imaging [EB/OL].https://visagetechnologies.com/ nuralogix/,2019-12-10.

[42] 张广君,曾瑶.走向“和合”:“互联网+”时代的教师伦理取向[J].中国电化教育,2021,(4):26-34.

[43] 陈凡,徐旭.后人类时代的技术情感及其伦理反思[J].系统科学学报,2020,28(1):1-5+11.

[44] 许良.劳动、技术与人类解放——恩格斯技术哲学思想探析[J].自然辩证法研究,2006,(4):45-47+60.

[45] Xiaobai Li,Jie Chen,et al.Remote heart rate measurement from face videos under realistic situations [EB/OL].https://ieeexplore.ieee.org/ document/6909939/citations tabFilter=papers#citations,2014-09-25.[46] 衣俊霖.数字孪生时代的法律与问责——通过技术标准透视算法黑箱[J].东方法学,2021,82(4):77-92.

[47] 卓承芳.速度座架下的人与共同体——当代激进技术哲学与现代性批判[J].江苏社会科学,2016,288(5):119-126.

[48] Brandimarte,L.,A.Acquisti,G.Loewenstein.Misplaced Confidences:Privacy and the Control Paradox [J].SOCIAL PSYCHOLOGICAL AND PERSONALITY SCIENCE,2013.4(3):340-347.

[49] 陈姿含.公共领域算法决策的几个问题探讨[J].理论探索,2020,(3):113-120.

作者简介:

蒋艳双:助理研究员,博士,研究方向为情感计算教育应用、网络与远程教育。

崔璨:助理工程师,硕士,研究方向为教育信息化。

刘嘉豪:在读博士,研究方向为智慧教育。

岳丽杰:硕士,研究方向为教育信息化。

Affective Computing in Education: Application Concerns, Generation Mechanisms and Practice Rules

Jiang Yanshuang1, Cui Can2, Liu Jiahao1, Yue Lijie1(1.National Engineering Research Center of Cyberlearning and Intelligent Technology, Beijing Normal University, Beijing

100875; 2.Teaching and Research Support Center, Dalian Naval Academy of the PLA, Dalian 116018, Liaoning)

Abstract: Affective computing can provide possibilities for analyzing students’ emotional states, studying the mechanism of students’emotional effects, designing humanized services and products, and creating natural and harmonious human-computer interactions. The paper focuses on analyzing the value and application scenes of affective computing in education, exploring the dilemmas and concerns of educational applications of affective computing, and examining the mechanisms of the application concerns of affective computing in education from endogenous logics and relational logics. Based on this, four practical rules are proposed :(1) focus on interdisciplinary integration and conquer the key technology of affective computing in education; (2) formulate standards and norms for the review of affective computing, and realize the shaping of emotion rules across man-machine; (3) control the penetration of students’ privacy boundaries, and construct multiple collaborative governance under digital panopticism; (4) strengthen the responsibility consciousness education of technology subjects of affective computing, and improve the ecological validity of affective computing in education. Furthermore, this paper can provide a theoretical reference and action guide for the orderly integration of affective computing into the educational ecology in China.

Keywords: affective computing in education; application concerns; ethical decisions; Artificial Intelligence; practical rules

責任编辑:李雅瑄

猜你喜欢
人工智能
人工智能6月大事件
我校新增“人工智能”本科专业
人工智能AI
人工智能之父
2019:人工智能
人工智能
人工智能与就业
数读人工智能
人工智能时代,就业何去何从
下一幕,人工智能!