连续学习少遗忘
一种通过通道注意力蒸馏来抑制连续学习灾难性遗忘的轻量模块,适配盲图像质量评价的域内与跨域任务。
Hui, Li · Liao, Liang · Chen, Chaofeng · 范晓鹏 · 左旺孟 · Lin, Weisi
IEEE Transactions on Circuits and Systems for Video Technology 2024
通过动态加权卷积通道,基础模型从混合数据集中更均衡地学习,为后续特定域的增量任务提供稳健起点。
对连续模型的信道调制核施加约束,通道注意力蒸馏损失有效缓解了新旧模型之间的分歧。
在同域和跨域连续学习设置中均验证优于现有方法,展现出对多样化图像上下文的适应能力。