自步对比学习模型

少样本分类更准

针对少样本文本分类,同时学习判别性表示并缓解过拟合,通过自步采样提升训练效率。

陈俊帆 · 张日崇 · Xiaohan, Jiang · 胡春明

ACM Transactions on Information Systems 2024

技术优势

相似类别也能分开

通过监督对比学习拉近同类实例、推开不同类实例,学习到更有判别性的文本表示,减少相似类别间的标签预测冲突。

过拟合被压住

利用无监督对比正则化约束模型,在少量训练实例的情况下防止过拟合,提升泛化能力。

训练更省时

自步采样策略动态调整 episode 难度,训练中逐步引入更难的任务,提高少样本训练的效率。

应用场景