Grad-CAM掩码对抗样本生成

扰动像素减至五分之一

一种基于Grad-CAM掩码提取的对抗样本生成方法,在保证攻击成功率的同时,显著提高了结构相似度并减少了扰动像素数量。

Yaoming, Yang · 刘洁怡 · Yu, Zhou · Yan, Cheng · Shengzhi, Li · 李明哲

2024

参数信息

结构相似度
0.99
攻击成功率
90 %
扰动像素占比
1/5

技术优势

扰动像素更少

通过Grad-CAM提取图像中重要区域的掩码,只对掩码内的像素进行对抗扰动搜索,使扰动像素数少于总像素的1/5。

不易被检测

由于扰动集中在掩码区域且结构相似度超过0.99,生成的对抗样本更接近真实图像,降低被检测的风险。

攻击成功率依然高

在结构相似度大于0.99的条件下,对抗攻击成功率仍超过90%。

应用场景