三元组提示蒸馏

小样本性能超越现有方法

通过原型引导的三元组提示蒸馏,从跨模态教师模型中高效迁移知识到轻量学生提示。

Xie, Yanzhao · Hao, Huang · 汪洋涛 · Fangyuan, Zhang · Rukai, Wei · DanDan, Shao · Maobin, Tang · 方美 · 彭伟龙 · 范立生 · 张文生

Pattern Recognition 2026

技术优势

蒸馏更高效

通过三元组提示蒸馏,在共享嵌入空间中建立图像-文本特征间的合理距离关系,从而从跨模态教师模型迁移知识。

分类更精准

引入批量正负样本原型筛选策略,用带边距的三元组损失对齐图像特征与原型,从而提升小样本分类精度。

应用场景