跨视角抗遗忘
一个统一了经验回放与对抗学习的在线连续学习模型,能自适应对齐不断变化的视角分布,从而缓解灾难性遗忘。
Yang, Yu · Du, Zhekai · Meng, Lichao · 李晶晶 · Jiang, Hu
Information Fusion 2024
AOCML 利用对抗学习组件在飞行中自适应对齐不同视角的数据分布,避免模型在任务切换时因分布漂移而过拟合当前任务。
除常规回放外,AOCML 引入软标签回放,利用旧任务的软标签信息,更有效地保持已学知识,减少遗忘。
AOCML 采用基于熵的加权机制,对高置信度样本赋予更大权重,提升回放样本的利用效率,进一步防止遗忘。