分类回归一致化
从分类和回归的空间错位入手,用和谐分数与任务解耦的特征蒸馏,让师生模型输出更一致的预测。
Tang, Ruining · Zhenyu, Liu · Li, Yangguang · Song, Yiguo · Liu, Hui · Wang, Qide · Shao, Jing · 段桂芳 · Jianrong, Tan
Pattern Recognition 2023
通过和谐分数估计分类与回归质量的一致性,将其作为先验知识促使学生模型产生更多和谐预测。
任务解耦特征蒸馏灵活平衡分类和回归任务在特征蒸馏中的贡献,缓解空间错位导致的区域选择不当。
在不增加推理开销的情况下,RetinaNet-R18 的 mAP 提高 4.1 个百分点,超越近期多种知识蒸馏方法。