条件扩散对抗样本生成器

查询一次即可攻破

将对抗样本生成转化为分布变换，用条件扩散模型直接生成扰动，突破黑盒攻击的查询瓶颈。

Liu, Renyang · 周维 · Zhang, Tianwei · Chen, Kangjie · Zhao, Jun · Lam, Kwok Yan

IEEE Transactions on Information Forensics and Security 2024

参数信息

多数情况下

1 次

非定向攻击成功率

>99 %

定向攻击成功率

>99 %

技术优势

多数情况下只查一次

因为扩散模型直接从干净样本一步变换到对抗样本，省去了迭代优化的查询。

查询效率提升

平均查询次数从成百上千降低到个位数，攻击成本大幅下降。

应用场景

• 深度模型安全评估：用最少查询找出模型弱点，安全团队能快速评估防护。
• 对抗攻击测试工具：作为现成的攻击工具，集成到测试流程中生成对抗样本。
• 模型鲁棒性基准：用统一的攻击强度衡量各模型的鲁棒性，便于横向比较。
• AI系统渗透测试：模拟低查询预算的真实攻击者，检验系统在严苛条件下的表现。