两阶段自监督预训练范式

小样本域适应增益达17.2%

在通用预训练基础上,引入第二阶段的领域自监督预训练,使模型在小样本物体再识别任务上获得更优初始化,超越监督预训练基线。

Ma, Haoyan · 李响 · 院校 · 赵春霞

Knowledge-Based Systems 2023

参数信息

上提升
8.5 %
上提升
11.5 %
上提升
13.3 %
上提升
17.2 %

技术优势

初始化更优

第二阶段在目标域无标注数据上继续自监督预训练,使模型更适合下游重识别任务,从而在微调后获得更高精度。

全面超越监督基线

在人物重识别的四个数据集上,与监督预训练相比,mAP 分别提升 1.5%、4.3%、3.9%、4.2%,证明自监督两阶段方法优于有监督预训练。

跨域通用

方法在人物和车辆重识别两个不同域上均带来一致提升,说明其不依赖特定域特性,具有较强的通用性。

应用场景