CL-EDI 预训练模型

增强细节表征

通过聚合图像的补丁表示，该模型强化了数据表征中的细节信息，使预训练的视觉Transformer在数据有限时也能获得更具判别力的表征，从而在图像分类、迁移学习和目标检测任务中取得优越表现。

Zhuomin, Liang · 白亮 · Jinyu, Fan · Yang, Xian · 梁吉业

IEEE Transactions on Circuits and Systems for Video Technology 2024

技术优势

增强细节判别力

通过额外的 ViT 对比模块聚合图像的 patch 表征，使模型关注局部细节，提升特征对相似样本的区分能力。

多任务性能更优

在多个数据集上，该模型的性能在图像分类、迁移学习和目标检测任务中均超过现有方法。

应用场景

• 视觉基础模型预训练：无需海量标注数据即可预训练出判别力强的视觉基础模型。
• 少样本视觉识别：增强细节表征，在样本极少时仍能有效区分相似类别。
• 工业视觉检测：提供高判别力预训练特征，提升工业场景下缺陷与异常检测性能。