记忆塑形并举
通过参数衰减老记忆与多学习器协同，在任务增量场景下提升学习可塑性并保持记忆稳定。
Wang, Liyuan · Zhang, Xingxing · 李千 · Zhang, Mingtian · 苏杭 · 朱军 · 中央
Nature Machine Intelligence 2023
模型在参数分布中适当衰减旧记忆，提升学习可塑性，从而灵活适应增量变化。
通过协调多学习器架构确保解空间的兼容性，使模型能够更好地捕获观测分布。
在任务增量设置下，该方法相比突触正则化方法取得更好的持续学习性能。