上下文归因图引导对抗攻击

攻击隐蔽且可转移

针对3D目标检测的对抗攻击方法，通过分析上下文区域的影响力生成扰动，在不破坏目标完整性的同时保持视觉不可察觉性，并表现出对多种检测器的可转移性。

Cai, Mumuxin · Wang, Xupeng · Sohel, Ferdous Ahmed · 雷航

Remote Sensing 2024

参数信息

攻击成功率

83 %

攻击成功率

68 %

迁移攻击成功率

50 %

技术优势

攻击更隐蔽

攻击不直接破坏目标本身，只在上下文区域添加扰动，因此不容易被察觉。

可迁移到多种检测器

针对一个模型生成的扰动，对四个不同的受害者检测器都有至少50%的迁移攻击成功率。

应用场景

• 3D目标检测安全：在不破坏目标完整性的前提下，评估检测器对隐蔽攻击的鲁棒性。
• 自动驾驶安全：用难以察觉的扰动测试自动驾驶感知系统对对抗样本的防御能力。
• 机器人感知安全：提供攻击样本以检验机器人感知模型在上下文干扰下的安全性。
• 对抗样本评估：作为隐蔽且可迁移的攻击基准，用于衡量对抗样本的威胁程度。