长依赖建模
用原型感知注意取代3DCNN，生成更具代表性的类别原型的少样本意图检测模型。
Shun, Yang · 杜亚军 · Xin, Zheng · 李显勇 · 陈晓亮 · Yanli, Li · 谢春芝
Pattern Recognition 2024
通过自监督多任务预训练，利用当前域的无标签数据帮助预训练编码器学习文本语义信息，增强在特定域的表示能力。
原型感知注意力通过计算类文本之间的注意力生成原型表示，有效解决3DCNN的长距离依赖问题。
引入无监督对比正则项约束PaAT，避免少样本学习中的过拟合。