自适应动态约束度量

约束随训练自适应生成

一个可学习的约束生成器,根据当前模型状态动态生成训练样本的复合约束,提升深度度量学习的泛化能力。

Zheng, Wenzhao · 鲁继文 · 周杰

IEEE Transactions on Pattern Analysis and Machine Intelligence 2023

技术优势

约束随模型动态生成

约束生成器以元学习方式优化,每次迭代都根据当前模型状态生成约束,使度量在不同训练阶段持续适配。

代理与样本联合建模

通过跨注意力机制整合当前批样本信息来更新代理,使代理能反映数据分布变化,提高约束质量。

应用场景