扩散对抗攻击样本

无需原数据即攻击

利用扩散模型生成合成数据训练替代模型，在不接触目标模型和训练集的情况下实现与黑盒攻击相当的性能。

Dai, Xuelong · Yanjie, Li · Duan, Mingxing · Xiao, Bin

IEEE Transactions on Image Processing 2024

技术优势

无需真实数据

攻击者不需要接触目标模型的训练数据集，仅用扩散模型生成的合成数据就可以训练替代模型，使攻击在更严苛的假设下可行。

攻击成功率更高

在ImageNet数据集上，无盒攻击和黑盒攻击场景下的攻击成功率均超过现有方法，无需访问目标模型和数据即可达到最先进水平。

利用扩散先验

通过扩散模型生成高保真合成数据，并利用扩散模型进行替代模型微调和对抗样本采样，有效提升替代模型的泛化能力。

应用场景

• 对抗攻击：在无需访问目标模型和训练数据的情况下生成对抗样本，测试图像分类器的安全性。
• AI安全评估：作为安全评估工具，检测模型在面对扩散模型生成的对抗样本时的脆弱性。
• 模型鲁棒性测试：用于评估和提升模型对无盒和黑盒对抗攻击的鲁棒性。
• 图像分类安全：针对图像分类模型进行攻击，暴露其在真实世界威胁下的安全漏洞。