课程平衡损失

改善尾部类别识别

通过结合重加权与课程学习因子，缓解长尾分布下模型的尾部塌缩问题。

项翔 · Zhang, Zihan · 陈熙霖

Neurocomputing 2024

参数信息

上超越先前最优方法

0.9 %

上超越先前最优方法

2.7 %

上超越先前最优方法

1.2 %

技术优势

全面超越现有最优

方法在CIFAR10-LT、CIFAR-100-LT和ImageNet-LT三个基准上均超越此前最优方法，证明了其普适性。

纠正尾部塌缩

设计了一个课程学习因子，使得模型在训练过程中逐渐强调困难类别，从而改善尾部类别特征学习。

理论上可达最优

所设计的重加权因子基于间隔训练，理论上能够达到网络的最优解。

应用场景

• 长尾视觉识别：直接嵌入训练目标，提升尾部类别识别率，无需改动网络结构。
• 类别不平衡学习：在训练阶段动态调整类别权重，解决类别不平衡导致的学习偏差。
• 鲁棒图像分类：抑制尾部塌缩对整体分类边界的破坏，使模型对稀有类别更鲁棒。