自注意力原型整流网络

小样本性能领先

将支持集与查询集作为整体学习任务相关特征,生成更无偏且更具判别力的类原型,缓解少样本场景下的原型偏差与分布差异。

赵鹏 · 王亮 · Zhao, Xuyang · 刘慧婷 · 纪霞

Expert Systems with Applications 2024

技术优势

缓解原型偏差

将支持集和查询集视为整体,通过自注意力机制学习任务相关特征,减少支持集与查询集分布差异的负面影响,使原型更无偏、更具判别力。

融合全局上下文

通过自注意力机制融合全局上下文信息,增强特征表达,从而提升小样本学习性能。

利用查询集整流原型

利用高置信度查询样本扩充支持集,对类原型进行校正,使其更能突出类别本质。

应用场景