跨域少样本增益8.68%
通过多模态频率域知识蒸馏，使单模态模型在跨域少样本场景下达到判别性和泛化性能。
Jie, Guo · Shuchang, Jiao · Ziyuan, Guo · 宋彬
Information Fusion 2027
训练阶段通过多模态教师集成蒸馏，将频域多尺度表征迁移给学生模型，推理时无需额外模态即可获得判别性和跨域泛化能力。
边际增强蒸馏对决策边界附近的不确定样本赋予更高权重，提升模型判别力。
在三个基准数据集上，1-shot平均提升8.68%，5-shot平均提升4.69%，超过竞争基线。