频域后门攻击模型

多触发器高转移性

该模型利用频域触发器注入，能在单一压缩模型中植入多个后门，并对多种下游任务和预处理防御表现出鲁棒性和跨模型迁移性。

Yi, Yu · Yufei, Wang · Yang, Wenhan · Guo, Lanqing · Lu, Shijian · 段凌宇 · Tan, Yap-Peng · Kot, Alex Chichung

IEEE Transactions on Pattern Analysis and Machine Intelligence 2024

参数信息

攻击目标数量

4

技术优势

多触发器多目标

在频域设计多个触发器，可同时攻击压缩质量和下游任务，无需为每个目标重新训练模型。

防御能绕过

通过两阶段训练和鲁棒频率选择，所注入后门对预处理防御方法具有抵抗力。

跨模型可迁移

通过在损失函数中移动分类边界，攻击在不同压缩模型和下游任务之间具有强迁移性。

训练更高效

动态损失函数自动平衡不同损失项，减少超参数调整，并提升攻击效果。

应用场景

• 图像压缩安全：评估压缩模型抵御后门攻击的能力，暴露安全隐患。
• 深度模型安全：用于测试深度模型在频域后门攻击下的脆弱性。
• 对抗性攻击：提供新的攻击范式，丰富对抗攻击工具箱。
• AI安全评估：作为安全评估基准，检验防御措施的有效性。