|
技术特征：1.一种基于对比学习与记忆机制的知识追踪方法，其特征在于该方法包括以下步骤：(1)实现序列增强表征：基于对比学习技术从学习历史中学习可迁移的序列增强表征，包括学生学习历史的数据增强，学生学习历史的向量化表征，负样本队列及参数的更新与对比损失的计算；(2)建模知识更新过程：基于信息加工模型建模知识的更新过程，从学生的学习历史中提取局部信息与全局信息，包括将信息输入至感知记忆模块，工作记忆模块对信息加工、贮存，长期记忆模块实现信息的存储、检索；(3)预测学生未来学习表现：基于对学生知识状态变化的建模，实现学生未来学习表现的预测。2.根据权利要求1所述的基于对比学习与记忆机制的知识追踪方法，其特征在于步骤(1)中所述实现序列增强表征，具体为：定义对比学习部分的网络结构：负样本队列、编码层、投影层与预测层；负样本队列属于队列结构，用于存储负样本特征，其具有先进先出的特性，能够在训练过程中对队列进行更新；编码层由基础编码器、动量编码器组成，每个编码器都是由transformer块构成，它与建模知识更新模块中的编码器共享参数；投影层由基础投影块、动量投影块组成，每个投影块均由线性函数、激活函数、正则化函数组合而成；预测层由线性函数与激活函数组合而成；其中，动量编码器与动量投影块的参数均由基础编码器与基础投影块初始化得到；在训练过程中，通过动量更新的方式对参数进行更新；(1-1)学生学习历史的数据增强：综合使用试题遮罩、试题替换、交互序列截取、交互序列打乱四种数据增强方式，采用随机数据增强策略，分别对学生的试题序列、学习交互序列(由试题序列与作答序列组合计算得到)进行数据增强；对于同一序列扩增出的两个序列互为正样本对，不同序列扩增出的两个序列互为负样本对；(1-2)学生学习历史的向量化表征：针对试题维度，将经过数据增强后的试题序列输入至编码层，得到该学生学习历史中试题所对应的向量化表征；针对学生维度，将经过数据增强后的学习交互序列依次输入至编码层、投影层，得到该学生学习历史中学习交互所对应的向量化表征；(1-3)负样本队列及参数的更新与对比损失的计算：通过入队出队函数实现负样本队列的更新，并采用一种名叫infonce的损失函数计算对比学习的损失值，它用来衡量样本对在表征空间中的相似性，再通过梯度计算、反向传播，实现参数的动量更新。3.根据权利要求1所述的基于对比学习与记忆机制的知识追踪方法，其特征在于步骤(2)中所述建模知识更新过程，具体为：(2-1)将信息输入至感知记忆模块：该模块通过卷积神经网络模拟感知记忆，基于滑动窗口提取学生学习历史的局部信息，其中滑动窗口大小将会被设置为参数在训练过程中进行优化；首先将学生的试题序列与学习交互序列使用embedding编码方式获取试题向量与交互向量，再将得到的试题向量与学习交互向量输入至卷积神经网络中完成变换操作，最终获得聚合了局部信息的试题向量与学习交互向量；(2-2)工作记忆模块对信息加工、贮存：该模块通过transformer神经网络模拟工作记忆，实现信息的加工、存储功能，其中基于注意力机制的试题编码器与知识编码器会分别实现对试题向量、学习交互向量的全局信息提取；首先将聚合了局部信息的试题向量与学习交互向量分别输入至试题编码器与知识编码器中，其次为各向量中的元素分别赋予不同的权重并进行融合，最后得到聚合了全局信息的试题向量与学习交互向量；(2-3)长期记忆模块实现信息的存储、检索：该模块通过矩阵结构模拟长期记忆，实现长期记忆的存储功能；首先将学习交互向量通过多层感知机写入长期记忆矩阵实现对长期记忆矩阵的更新，其次将长期记忆矩阵中的内容通过另一个多层感知机检索出来，最后将检索出的记忆向量与transformer中的学习交互向量进行融合，得到该学生当前的知识状态向量。4.根据权利要求1所述的基于对比学习与记忆机制的知识追踪方法，其特征在于步骤(3)中所述预测学生未来学习表现，具体为：在对所有的学生学习历史提取局部与全局信息后，首先将步骤(2)中最终获得的试题向量与知识状态向量输入至知识检索器(由transformer块构成，基于注意力机制实现试题向量与知识状态向量的检索)中，其次将检索到的新知识状态向量和当前试题的嵌入向量拼接起来，得到当前试题与知识状态的新嵌入向量，最后将其依次输入至一个全连接网络与sigmoid函数中，生成学生正确回答当前问题的预测概率，预测学生对当前问题的作答。 技术总结本发明涉及教育大数据挖掘、对比学习与学生行为建模领域，提供一种基于对比学习与记忆机制的知识追踪方法，包括：(1)实现序列增强表征；(2)建模知识更新过程；(3)预测学生未来学习表现。本发明利用对比学习、自然语言处理、卷积神经网络、时间序列建模等技术方法，基于信息加工模型，系统地对学生行为模式进行深入挖掘，能够科学、全面地建模学生知识状态的变化过程，对学生学习情况进行预测。对学生学习情况进行预测。对学生学习情况进行预测。 技术研发人员：黄涛 胡俊杰 杨华利 耿晶 胡盛泽 张浩 刘三女牙 杨宗凯受保护的技术使用者：华中师范大学技术研发日：2022.10.25技术公布日：2023/4/5
|