多标签原型对比蒸馏网络

跨图语义对齐

通过原型感知的表示与结构一致性蒸馏，使多标签学生模型在类内更紧凑、类间更分散，并保持与教师一致的标签语义结构。

Xia, Yuelong · Yihang, Tong · Jing, Yang · Xiaodi, Sun · 张云钢 · Huihua, Wang · 云利军

Tsinghua Science and Technology 2025

参数信息

验证数据集数量

3

技术优势

保持语义结构

通过样本到原型和样本到样本的结构对比蒸馏，学生模型能够在多个实例间保持与教师一致的标签语义结构。

增强类内紧凑性

通过最大化师生间原型感知表示的互信息，学生模型的类内表示更加紧凑，类间表示更加分散。

稳定原型更新

引入批量级动态原型校正，增强原型引导的稳定性，避免了原型更新中的噪声波动。

应用场景

• 图像多标签分类：直接处理图像多标签输出，保持标签间语义结构。
• 知识蒸馏：用于将多标签教师模型的知识迁移到轻量学生模型。
• 表示学习：学习原型感知的表示，增强类内紧凑性和类间分散性。
• 教师-学生模型压缩：在压缩模型的同时保持标签语义结构一致性。