跨结构对抗攻击方法

五黑盒模型高迁移

提出一种级联与权重分配策略的对抗攻击方法，无需目标模型知识，即可生成对多种结构图像描述模型均有高迁移性的对抗样本。

Boyuan, Zhang · 石育澄 · 韩亚洪 · Hu Q. · Ding W.

Information Fusion 2024

技术优势

跨结构黑盒可迁移

对抗样本无需目标模型知识，即可对5个不同结构黑盒模型保持高迁移性。

应用场景

• 多模态安全：暴露多模态模型在对抗样本下的安全漏洞，提前加固。
• 鲁棒性测评：作为基准攻击方法，评估图像描述模型的鲁棒性。