三重掩码注意力增强
一种同时建模题目、答题和技能标签的Transformer网络，深化三者上下文关联，提升学习掌握度预测。
Chen, Wang · 谢波 · Peiqian, Zhan · Xiaoqi, Yang · 张华
KSII Transactions on Internet and Information Systems 2025
将技能标签的嵌入与题目、答题序列一同输入，弥补了既有方法对技能信息利用不足的缺陷。
采用整流掩码自注意力分别捕捉题目、答题和技能标签的上下文表示，再通过三重掩码交叉注意力深度融合三者关系，提升预测精度。
设计了交叉注意力的变体，专门应对三种输入序列的异质性，使注意力计算更合理。