深度知识追踪在适应性学习系统的应用

李蓬

(北京建筑大学电气与信息工程学院，北京 100044)

0 引言

在线教育平台为学习者提供了一个方便、灵活的学习环境，能够充分满足每个学习者的学习偏好和学习需求。但是，目前的在线教育忽视了学习者的具体情况和个体特征，向学习者提供相同的学习资源，这容易引起学习者信息迷航和学习困难。20世纪90年代，建构主义教育理论的流行和计算机网络技术的飞速发展促进了适应性学习系统的产生。适应性学习系统以学习者为中心，通过监测学习者和学习过程，推断学习者的学习需求和学习状态，然后为每个学习者提供不同的学习材料、学习策略和指导，从而提高学习成效。

学习者已有的知识结构是学习新知识的起点。因此，准确地分析学习者的知识水平是构建适应性学习系统的关键。知识追踪可以根据学习者的学习行为数据，预测学习者对所学知识的掌握情况，为后续的教学设计提供依据。传统的知识追踪方法，如贝叶斯知识追踪(Bayesian Knowledge Tracing，BKT)，没有考虑知识概念之间的关系，且难以解决多知识概念的问题。认知诊断方法，如IRT和DINA等，需要对大量的习题进行标注。深度知识追踪(Deep Knowledge Tracing，DKT)是指采用深度学习以实现知识追踪的技术[1]。DKT不仅可以解决上述问题，而且取得了更好的预测效果[2]。目前，DKT成为在线教育中分析学习者知识水平的一个研究热点。

适应性学习是当前智慧教育的一个重要特征，使得学习过程更加个性化，真正实现了因材施教的教育理想。本文探讨DKT在适应性学习系统的应用，首先介绍DKT的基本模型和发展，然后描述适应性学习系统的主要功能模块，最后分析DKT在适应性学习系统的应用，以满足学习者的个性化学习需求。

1 深度知识追踪概述

2015年，Piech等基于深度学习对学习者的知识状态演化过程进行建模，提出了深度知识追踪(DKT)模型[1]。DKT模型利用循环神经网络(RNN)对学习者的答题记录进行建模分析，预测学习者的知识状态，其结构如图1所示。

图1 DKT网络模型

对于每个学习者的答题记录序列X=(x1，x2，x3，… ，xt)，其中X={qt，at}，qt表示知识概念的编号，at表示学习者的作答情况(0表示回答错误，1表示回答正确)。xt是通过独热编码转换成的向量。如果输入数据涉及N个知识概念，习题的作答结果有两种情况(正确或错误)，那么xt被编码成长度为2N的{0，1}向量。具体编码规则是：假设某一道习题属于第i个知识概念，回答正确时其向量表示为第N+i个向量元素的值为1，其余为0；回答错误时第i个向量元素的值为1，其余为0。ht是RNN的隐含层，表示学习者在t时刻对所学知识的整体掌握水平。yt是长度为N的向量，其中每一个元素为相应知识概念的预测结果。因此，通过学习者前t个时刻的答题序列可以预测t+1时刻对知识概念的作答情况。

RNN在结构上存在缺陷，使其难以对较长时间序列的特征进行建模。因此，DKT模型采用了LSTM实现。LSTM是RNN的一个改进，引入了三种门结构(输入门、遗忘门和输出门)，以模拟人类的记忆系统。LSTM可以学习序列特征的长期依赖关系。因为一般学习者的答题序列较长，所以LSTM结构更适合于知识追踪任务。

虽然DKT模型提高了预测性能，但是仍存在一些不足。首先，LSTM的隐含层表示的是学习者对所有知识概念的综合掌握情况，不能预测学习者对每一个知识概念的掌握程度。其次，LSTM的记忆容量有限，不能模拟人类的长期记忆过程。

2017年，Zhang等人提出了DKVMN模型，该模型通过引入辅助记忆单元，以优化网络的记忆结构，进而提高了模型的存储容量[3]。辅助记忆单元不同于LSTM的内部记忆(隐含态)，而是采用称为记忆增强神经网络(MANN)的外部记忆。相比于传统的DKT模型，DKVMN模型不再利用一个向量来存储信息，而是引入了两个记忆矩阵。key矩阵为静态记忆矩阵，用来存储学习者作答时涉及的知识概念信息；value矩阵为动态记忆矩阵，用来存储学习者对知识概念的掌握情况，其中每一个向量表示学习者对相应知识概念的掌握程度。DKVMN模型拥有更大的记忆容量，可以存储更长的时间序列信息，因此，具有更高的预测精度。另外，DKVMN模型可以准确地预测学习者对每个知识概念的掌握程度。后续有的研究对DKVMN模型又做了改进。例如，Abdelrahman等人提出了SKVMN模型，该模型利用Hop-LSTM发现习题之间的序列依赖，并通过修改DKVMN的写操作提高了预测效果[4]。Ai等人利用知识概念的特征、习题难度、回答问题的时间等信息提出了DKVMN-CA模型，提高了知识追踪的预测性能[5]。

除了上述两个基本模型，最近的研究提出了一些新的DKT模型。例如，Nakagawa等人把图神经网络(GNN)引入到知识追踪，提出了GKT模型，该模型将知识概念表示为图中的节点，知识概念之间的关系表示为节点之间的边[6]。Pandey等人提出了SAKT模型，该模型利用Transformer结构解决了数据稀疏问题[7]。Wang等人整合深层神经网络和认知诊断模型，提出了NeuralCDM模型，不仅提高了知识诊断的性能，还提高了结果的可解释性[8]。Liu等人设计了EKT框架，该框架不仅考虑了学习者的答题记录和相应习题的文本信息，还开发了记忆网络以整合知识概念等信息[9]。

2 深度知识追踪在适应性学习系统的应用

20世纪90年代兴起的建构主义学习理论对当前的在线教育模式产生了深刻影响。建构主义学习理论认为，学习不是知识从教师到学习者的单向传授，而是由学习者在一定的学习情境中自主地构建知识结构的过程。适应性学习系统根据学习者的学习目标和个体特征，通过适应性技术为学习者创造一个智能化的学习环境，可以极大程度地提升学习效率。

2.1 适应性学习系统的构成

适应性学习系统主要包括学习者模型、领域模型、教学模型和接口模型等四个基本模块[10]。目前，对于适应性学习系统的构成，还没有统一的说法，其基本结构如图2所示。

图2 适应学习系统的基本结构

学习者模型提供了学习者的个体特征信息，如知识水平、学习风格、兴趣等。领域模型记录了所要传授的领域知识以及各知识概念之间的关系。教学模型包括各种教学策略和教学方法，以及各种适合学习者的学习活动的教学设计规则。接口模型实现教学系统与学习者之间的交互。学习者模型、领域模型、教学模型和接口模型是适应性学习系统的基本组成结构，当前研究大多针对具体应用对系统进行功能扩展。

2.2 深度知识追踪在适应性学习系统的应用

适应性学习系统要解决两个关键问题：首先，准确地获取学习者的特征信息，构建合理的学习者模型；其次，采用有效的适应性学习技术，及时调整学习环境，满足学习者的需要。学习者模型是适应性学习系统提供个性化学习的依据。学习者模型既保存着相对稳定的静态信息，也保存着在学习过程中会发生变化的动态信息。学习者模型包含的信息越丰富、越准确，系统的自适应能力就会越强。教学模型对学习者模型的信息进行分析和推理，结合领域模型，动态调整教学内容和教学策略，为学习者提供个性化的教学服务。

深度知识追踪在适应性学习系统的应用如图3所示。首先，通过测量和跟踪学习者在学习过程中的特征，建立学习者模型。其次，根据学习者的学习目标和知识水平、学习风格等个体特征，筛选学习材料，组织学习内容，安排学习进程，并制订学习策略，然后提供给学习者。最后，监测学习者的学习活动，推断学习者的学习状态，分析学习者遇到的问题，提供有针对性的指导和干预措施以及协作学习支持。

图3 适应性学习的实现

学习者的知识水平是学习者的一个重要特征，是进行个性化教学的主要依据。除了知识水平，本文还整合学习者的认知能力、学习风格和情感状态等特征。学习者的认知能力、学习风格等特征是相对稳定的，属于静态信息。这些特征在学习者进入在线学习平台之前就测量好。知识水平和情感状态等特征是在学习过程中不断变化的，属于动态信息。系统使用知识追踪和情感识别方法跟踪学习者的学习活动，并及时更新学习者模型。本文采用深度知识追踪方法分析学习者的知识水平。利用学习者的答题数据，采用深度知识追踪方法，可以得到学习者当前的知识状态。

学习者模型建立之后，教学模型根据学习者的特征提供适应性、个性化的学习服务，其实现主要包括以下几个方面：

(1)学习材料推送

学习材料的内容有多种形式，如有的由具体的数据、实例构成，有的由抽象的概念、理论构成。学习材料的类型也有多种，如文本、视频、图片、语音等。另外，学习材料有不同的难度。因此，提供的学习材料需要与学习者的知识水平、学习风格等相匹配。否则，面对丰富的学习资料，容易引起信息迷失或认知过载。个性化学习材料推送根据学习者的知识水平、学习风格、认知能力等，从领域模型中筛选符合学习者需求的学习材料，然后适时地呈现给学习者。

(2)学习路径规划

学习路径是指为实现学习目标而形成的学习活动的路线。优化的学习路径可以避免信息迷航，提高学习者的学习效率。学习路线涉及到学习内容中知识概念的先后顺序。因此，需要通过分析学习者的知识水平，以确定学习者是否可以进入下一个学习环节。学习路径规划根据学习者的学习目标、知识水平等组织学习内容，安排学习进度，使学习者用较少的时间实现学习目标，并培养自主学习和终生学习的能力。

(3)学习策略推荐

学习策略是指在教学活动中为了达到教学目标所采取的方式和方法。学习策略推荐可以根据学习者的知识水平、学习风格等特征，为学习者选择有效的学习方式和方法。同时，系统监测和跟踪学习者的学习过程，根据学习者的学习情况，动态调整学习内容和学习方法，优化学习过程和学习情境，为每个学习者提供个性化的学习体验，从而提高学习效率和学习效果。

(4)学习干预

学习干预是指根据学习者在学习过程中出现的问题和薄弱环节，提供有针对性的帮助和引导，使学习者可以及时纠正错误，改进学习方法。学习者的情感状态与学习成效有密切的关系。每个学习者都有自己优化的学习区间，在该区间内，学习内容的复杂程度与学习者知识水平的提高相匹配，学习者处于专注的学习状态。如果提供给学习者的学习内容与学习者的知识水平出现偏差，那么学习者就可能出现困惑、沮丧或者厌倦等负面情绪。系统监视学习者的学习行为，推断学习者的情绪状态。当发现学习者出现负面情绪时，系统根据学习者的知识水平、学习风格等特征提供情绪调节和学习辅导。

(5)协作学习支持

协作学习是指学习者通过共同合作以完成学习任务。社会建构主义学习理论认为知识的构建是在一定的环境中借助于学习者之间的协作来完成的。因此，知识的学习不仅靠学习者的主动建构，社会交互更加重要。首先，系统根据学习目标和学习者的知识水平等特征构建学习者共同体。然后，系统提供交互协作的功能，支持学习者的交流互动。协作学习有助于学习者相互学习，提高学习积极性，挖掘学习者的潜能。

3 结语

互联网、大数据和人工智能技术的迅速发展和广泛应用，为适应性学习系统的实现提供了强有力的保证。适应性学习系统可以根据学习者的能力和需求，客户化学习活动，使学习者获得满意的学习体验。学习者具有学习风格、认知能力、学习兴趣等多种特征，其中知识水平是学习者最重要的属性，是系统提供个性化的基础。基于DKT预测学习者的知识状态可以获得更好的预测性能，在适应性学习系统的应用方面具有良好的应用前景。