动态扰动下保持鲁棒
一种自动识别并保留鲁棒通道的剪枝方案,使压缩后的模型在实际动态扰动环境中仍能保持鲁棒性。
Hui, Luo · Zhuang, Zhuangwei · Yuanqing, Li · 谭明奎 · Chen, Cen · Jianlin, Zhang
IEEE Transactions on Circuits and Systems for Video Technology 2023
通过即插即用的特征打分模块和贡献差异损失,在训练过程中动态评估中间特征的鲁棒性,从而准确识别哪些通道对扰动不敏感。
采用多类型对抗攻击样本与对抗扰动生成器生成的扰动样本制作混合噪声样本,更贴近动态环境中的真实扰动,而非仅用标准对抗攻击。
提出的特征打分模块和门控机制均为即插即用,可直接嵌入现有训练流程,不改变原网络结构,便于在已有模型上快速实施。