标签减半不失精度
无需双模型即可蒸馏两个解码器的互补知识,以极低额外参数提升稀少标注下的分割精度。
Huazheng, Hao · Hui, Xiao · Junjie, Xiong · 董理 · 严迪群 · Liang, Dongtai · Jiayan, Zhuang · 彭成斌
Neural Computing and Applications 2025
伪孪生模块通过蒸馏两个解码器的集成知识来提升编码器,隐式形成伪孪生模型,避免了显式双模型的高昂空间复杂度。
自校正模块根据特征与类原型的相似度计算类别似然,校正低置信度伪标签,理论上和数值上都验证了有效性。
多数情况下训练内存节省超过30%,适合计算和内存资源紧张的系统。