用于知识追踪的专注预训练问题嵌入方法：结合语义增强的知识结构与概念标签引导的异构图表示

《Neural Networks》：Attentive Pre-training Question Embeddings for Knowledge Tracing with Semantically-Enhanced Knowledge structure and Concept Label-Guided Heterogeneous Graph Representation

　　

Jinjie Zhou|Senlin Luo|Songling Wu|Xiaonan Yang|Limin Pan|Deshan Yang

摘要

个性化智能教育的普及推动了对通过知识追踪（Knowledge Tracing, KT）准确预测学习者表现的需求。然而，目前概念层面的KT方法主要将所有难度级别不同的问题所涉及的概念同等对待，导致在捕捉问题相关信息时缺乏针对性。此外，一些方法在模型训练过程中学习问题嵌入，这可能导致问题嵌入与模型之间产生复杂的纠缠。为了解决这些问题，我们提出了一种名为“语义信息检索增强与概念标签异构图表示用于知识追踪”（Semantic Information Retrieval Augmentation and Concept Label-Heterogeneous Graph Representation for KT, SRHGKT）的注意力预训练嵌入方法。该方法通过专门的设计直接学习问题与概念之间的交互，例如设计混合语义检索来构建能够捕捉概念丰富信息的学习结构。此外，我们设计了一种创新的概念标签引导的异构图嵌入融合模块，将问题-概念交互中的高级信息与多个方面结合起来，从而生成预训练问题嵌入。我们还引入了一种遗忘问题相似性注意力机制来模拟学习者的遗忘模式。在三个真实世界数据集上进行的全面实验结果表明，SRHGKT在预测学习者表现方面优于14种最先进的方法。此外，泛化测试显示，我们的预训练嵌入具有出色的泛化能力，在应用于ASSISTment2009数据集的各种KT模型时，预测准确率提高了10%以上。