MBP-KT：通过学习来自元行为模式的全球协同信息以增强知识追踪

# MBP-KT：从元行为模式中学习全局协作信息以增强知识追踪
来源：https://arxiv.org/html/2605.08697
贾宇豪¹，李端腾川²¹¹脚注标记:1，陈金松¹，毛中杰³，童明文¹²²脚注标记:2，李悦²，王晓光²
¹华中师范大学教育人工智能学院
²武汉大学信息管理学院
³池州大学大数据与人工智能学院
[email protected], [email protected]

###### 摘要

新兴的基于协作信息的知识追踪（Knowledge Tracing, KT）已成为增强学习者知识状态建模的一种有前景的方法。其核心思想是从其他学习者的交互序列中提取协作信息，以辅助对目标学习者的预测。尽管现有方法行之有效，但它们建立在带有定制模块的原始交互序列之上，这不可避免地限制了其深入捕捉学习行为模式和泛化的能力。为此，我们提出了一种通用的元行为模式感知框架（MBP-KT）用于KT。具体而言，MBP-KT引入了一种新颖的元行为序列构建方法，将原始交互序列转化为不同元行为模式的组合。通过这种方式，可以有效保留学习者的学习行为模式。随后，MBP-KT开发了一个无参数模块，从构建的元行为序列中提取全局协作表示。此外，MBP-KT提供了通用的注入策略，将提取的全局协作信息引入各种下游KT模型，从而确保协作信息的通用性。在真实世界数据集上的广泛结果表明，MBP-KT能够一致地提升多种KT模型的性能。

## 1 引言

知识追踪（Knowledge Tracing, KT）是教育数据挖掘[3 (https://arxiv.org/html/2605.08697#bib.bib3),26 (https://arxiv.org/html/2605.08697#bib.bib26)]中的一项基本任务，旨在根据历史响应日志预测目标学习者在下一道练习题上的表现。由于知识追踪场景中的学习交互响应日志自然地表现出序列特性，过去十年中，各种序列模型已被广泛应用于此任务[36 (https://arxiv.org/html/2605.08697#bib.bib36)]。这些方法的核心思想是利用先进的序列模型，如循环神经网络（RNNs）[32 (https://arxiv.org/html/2605.08697#bib.bib32),45 (https://arxiv.org/html/2605.08697#bib.bib45)]、Transformer[15 (https://arxiv.org/html/2605.08697#bib.bib15),39 (https://arxiv.org/html/2605.08697#bib.bib39),30 (https://arxiv.org/html/2605.08697#bib.bib30)]和状态空间模型（SSMs）[5 (https://arxiv.org/html/2605.08697#bib.bib5)]，从个人的学习序列中学习不断演变的知識状态，取得了显著的成果。

然而，基于个体序列的建模存在固有的局限性。深入挖掘单个学习者的交互记录，不可避免地会忽视从其他学习者交互记录中出现的共同学习模式。在教育环境中，这些共同的学习模式在对学习者知识状态建模中起着不可忽略的作用[25 (https://arxiv.org/html/2605.08697#bib.bib25),43 (https://arxiv.org/html/2605.08697#bib.bib43),19 (https://arxiv.org/html/2605.08697#bib.bib19)]。因此，近期研究[27 (https://arxiv.org/html/2605.08697#bib.bib27),25 (https://arxiv.org/html/2605.08697#bib.bib25),46 (https://arxiv.org/html/2605.08697#bib.bib46),18 (https://arxiv.org/html/2605.08697#bib.bib18)]尝试从其他学习者的交互中提取协作信息，以提高KT的性能。

这些方法之间的核心区别在于如何从学习者的交互记录中提取协作信息。[27 (https://arxiv.org/html/2605.08697#bib.bib27)]计算学习者对每个知识概念的反应表现，并进一步采用聚类策略[22 (https://arxiv.org/html/2605.08697#bib.bib22)]来识别表现相似的学习者群体。另一方面，[25 (https://arxiv.org/html/2605.08697#bib.bib25)]和[46 (https://arxiv.org/html/2605.08697#bib.bib46)]利用基于目标学习者历史响应序列的子序列匹配，来挖掘表现出相似响应序列的学习者群体。

尽管行之有效，但现有方法建立在原始交互序列之上，这些序列根据特定的练习题或知识概念识别行为上相似的学习者，使得协作信号受限于显式的内容重叠。一方面，这种基于内容的匹配策略容易受到原始交互序列不稳定的数据问题（例如数据稀疏性）[20 (https://arxiv.org/html/2605.08697#bib.bib20),8 (https://arxiv.org/html/2605.08697#bib.bib8)]的影响，这些问题在现实应用中经常遇到。另一方面，这些策略无法捕捉超越特定内容的更深层次的行为共性，从而限制了有意义协作信息的提取[14 (https://arxiv.org/html/2605.08697#bib.bib14),7 (https://arxiv.org/html/2605.08697#bib.bib7)]。除了协作信息提取的局限性外，现有范式还缺乏架构上的通用性。作为一种全局上下文特征，从所有交互响应中提取的协作信息应该有能力服务于各种下游模型[41 (https://arxiv.org/html/2605.08697#bib.bib41),16 (https://arxiv.org/html/2605.08697#bib.bib16)]。然而，当前方法通常将其协作模块定制为特定的神经网络骨干，这限制了全局协作信息被普遍应用于其他多样的下游模型。因此，一个研究问题自然产生：我们如何有效地从原始交互序列之外提取协作信息，并利用它来服务于各种下游KT方法？

为了回答这个问题，我们提出了一种用于KT的通用元行为模式感知框架（称为MBP-KT）。图1 (https://arxiv.org/html/2605.08697#S1.F1)展示了MBP-KT与先前方法的比较。与之前的方法不同，MBP-KT开发了一种新颖的元行为序列构建策略，该策略利用精心设计的行为算子将原始交互序列转换为元行为序列。该策略将协作信息的提取与原始交互序列解耦，使模型能够深入探索学习者行为的语义特征。MBP-KT进一步引入了一种无参数的模式提取操作，将元行为序列映射为全局协作模式矩阵，从而仔细保留协作信息。最后，MBP-KT提供了通用用法，将提取的协作信息注入各种KT模型，以提高KT的性能。本文的主要贡献总结如下：

- •我们提出了一种新的元行为序列构建方法，以加强KT场景中协作信息的提取。
- •我们提供了一种无参数策略来提取全局协作信息，并进一步为各种下游KT模型引入通用注入机制。
- •在三个真实世界数据集上的广泛实验表明，MBP-KT一致地改进了基于不同神经网络骨干的代表性KT模型。

参见说明Figure 1: MBP-KT与先前方法的比较。（a）传统KT模型仅利用个体响应进行预测。（b）先前的协作KT模型依赖于通过原始交互序列进行行为匹配来提取协作信息，以服务于特定模型。（c）MBP-KT将原始序列转换为元行为序列，以提取全局协作特征，从而增强各种KT模型的性能。

## 2 相关工作

### 2.1 传统知识追踪

传统KT的核心思想是利用各种技术，如经典概率模型[11 (https://arxiv.org/html/2605.08697#bib.bib11),4 (https://arxiv.org/html/2605.08697#bib.bib4),31 (https://arxiv.org/html/2605.08697#bib.bib31)]、心理测量模型[35 (https://arxiv.org/html/2605.08697#bib.bib35),34 (https://arxiv.org/html/2605.08697#bib.bib34),12 (https://arxiv.org/html/2605.08697#bib.bib12)]和神经网络[32 (https://arxiv.org/html/2605.08697#bib.bib32),37 (https://arxiv.org/html/2605.08697#bib.bib37),28 (https://arxiv.org/html/2605.08697#bib.bib28),40 (https://arxiv.org/html/2605.08697#bib.bib40)]，从个体的历史交互记录中预测学习者的知识状态。在众多方法中，基于神经网络的方法[32 (https://arxiv.org/html/2605.08697#bib.bib32),44 (https://arxiv.org/html/2605.08697#bib.bib44),47 (https://arxiv.org/html/2605.08697#bib.bib47)]因其强大的表征学习能力而备受关注。由于学习者的历史交互记录可以自然地视为序列数据，因此序列深度学习方法被广泛用于KT任务，例如基于LSTM的方法[44 (https://arxiv.org/html/2605.08697#bib.bib44),47 (https://arxiv.org/html/2605.08697#bib.bib47),2 (https://arxiv.org/html/2605.08697#bib.bib2),42 (https://arxiv.org/html/2605.08697#bib.bib42)]和基于Transformer的方法[29 (https://arxiv.org/html/2605.08697#bib.bib29),15 (https://arxiv.org/html/2605.08697#bib.bib15),9 (https://arxiv.org/html/2605.08697#bib.bib9),24 (https://arxiv.org/html/2605.08697#bib.bib24),39 (https://arxiv.org/html/2605.08697#bib.bib39),33 (https://arxiv.org/html/2605.08697#bib.bib33)]。此外，近期的一项研究[5 (https://arxiv.org/html/2605.08697#bib.bib5)]尝试将状态空间模型（SSMs）[17 (https://arxiv.org/html/2605.08697#bib.bib17)]引入KT，以提高长序列的计算效率。尽管之前的方法展示了显著的性能，但仅建模个体交互的固有局限性不可避免地忽视了从其他学习者历史记录中提取的信息丰富的学习行为模式，从而限制了它们在KT任务中的潜力。

### 2.2 协作知识追踪

新兴的协作KT结合了个体行为和共同学习模式，以全面预测目标学习者的知识状态，这已成为进一步提升KT性能的一种有前景的方式。协作KT的关键步骤是从所有学习者的历史交互中提取有价值的学习行为模式。先前的研究[27 (https://arxiv.org/html/2605.08697#bib.bib27),25 (https://arxiv.org/html/2605.08697#bib.bib25),46 (https://arxiv.org/html/2605.08697#bib.bib46)]利用基于聚类的策略[27 (https://arxiv.org/html/2605.08697#bib.bib27)]或基于子序列匹配的策略[25 (https://arxiv.org/html/2605.08697#bib.bib25),46 (https://arxiv.org/html/2605.08697#bib.bib46)]，从与目标学习者具有相似学习行为的学习者中提取协作信息。相应的结果也表明，结合协作信息可以增强KT的模型性能。

然而，现有方法依赖于基于原始交互序列的刚性信息提取规则，这未能有效探索学习者之间的深层协作信息，也未能促进各种KT方法的性能提升。尽管最近的一项研究[14 (https://arxiv.org/html/2605.08697#bib.bib14)]利用语义图提取协作信息，但该策略是为认知诊断开发的，不适合KT。为此，我们提出了MBP-KT，它利用定制化的提取策略学习协作信息，并将其转换为即插即用模块，以为各种KT模型服务。

## 3 初步知识

在KT任务中，我们有学习者集合$\mathcal{S}=\{s_1,...s_m\}$，问题集合$\mathcal{Q}=\{q_1,...q_n\}$和知识概念集合$\mathcal{C}=\{c_1,...c_l\}$，其中$m$、$n$和$l$分别表示学习者、问题和知识概念的数量。每个问题$q \in \mathcal{Q}$都关联一个或多个特定概念$C_q \in \mathcal{C}$。学习者在时间步$t$的交互记录表示为一个元组$x_t = (q_t, C_{q_t}, r_t)$。这里，$q_t$代表回答的问题，$C_{q_t}$是对应的知识概念集合，可能包含多个技能，$r_t \in \{0,1\}$表示二元响应正确性，其中$r_t=1$表示正确答案，否则为错误答案。对于给定的目标学习者从时间步$1$到$t$的历史交互序列，公式化为$X_{1:t} = \{x_1, x_2, ..., x_t\}$，KT的目标是预测在下一个时间步$t+1$新问题$q_{t+1}$的响应答案$r_{t+1}$。

## 4 方法论

参见说明Figure 2: MBP-KT的整体架构。在本节中，我们全面介绍了所提出的MBP-KT，它包含三个核心组件：元行为序列构建、全局协作模式提取和通用协作信息注入。MBP-KT的整体框架如图2 (https://arxiv.org/html/2605.08697#S4.F2)所示。

### 4.1 元行为序列构建

为了有效地从学习者的响应序列中提取协作信息，我们首先开发了元行为算子变换。元行为算子的目标是将原始交互序列转换为与内容无关的元行为序列，从而实现对学习者学习行为的深入探索。

给定$T$个时间步内的原始交互序列$X_{1:t} = \{x_1, x_2, ..., x_T\}$，我们考虑相邻时间步上的连续学习行为$(x_{t-1}, x_t)$来构建元行为算子$\omega_t$。具体而言，给定目标时间步$t$，从$(x_{t-1}, x_t)$到$\omega_t$的变换正式定义为：

$$
\omega_t = \begin{cases} \texttt{Start}, & \text{if } t=1, \\ \texttt{Same}, & \text{if } C_{q_t} \cap C_{q_{t-1}} \neq \emptyset, \\ \texttt{Diff}, & \text{if } C_{q_t} \cap C_{q_{t-1}} = \emptyset, \end{cases} \tag{1}
$$

其中$C_{q_t}$表示时间步$t$的知识概念集合。$\{\texttt{Start}, \texttt{Same}, \texttt{Diff}\}$是描述交互序列中三种状态类型的算子集合。$\texttt{Start}$算子表示交互序列的开始。$\texttt{Same}$算子表征目标学习者在相似知识概念下的学习行为，保留知识域内的知识状态。而$\texttt{Diff}$算子捕捉到的情况是...