特征关系保持对抗训练

对抗鲁棒泛化显著提升

通过约束特征间关系来生成对抗样本并惩罚相关距离，同时提升自然与对抗样本上的泛化性能。

Zhang, Shufei · Qian, Zhuang · 黄开竹 · Wang, Qiufeng · 顾彬 · 熊欢 · Yi, Xinping

International Journal of Computer Vision 2024

参数信息

PGD20鲁棒准确率提升（CIFAR-10）

20 %

PGD20鲁棒准确率提升（CIFAR-100）

15 %

PGD20鲁棒准确率提升（SVHN）

29 %

技术优势

不牺牲自然精度

在提升对抗鲁棒性的同时，通过特征关系保持，自然样本上的泛化性能也能得到提升。

有理论保证

论文从理论上证明了在惩罚相关距离的同时使用此类样本进行训练能够提升自然与对抗样本的泛化能力。

跨数据集有效

在CIFAR-10、CIFAR-100和SVHN上均显著优于基线对抗训练，尤其在SVHN上提升约29%。

应用场景

• 对抗样本防御：提供一种新的对抗训练策略，可直接集成到现有防御管线中。
• 模型鲁棒性：通过保持特征关系，同时提升自然与对抗样本上的泛化能力。
• 安全关键系统：提高模型在对抗攻击下的可靠性，适用于对安全性要求高的场景。
• 计算机视觉应用：在多个视觉基准数据集上验证有效，可作为视觉模型训练的增强模块。