黑盒NLP对抗攻击器

查询需求降低十倍

一种简单紧凑的决策型文本对抗攻击方法,能以极少查询生成语法正确的对抗样本,并保持高成功率。

Xiaoxue, Hu · Geling, Liu · Zheng, Baolin · Zhao, Lingchen · Qian, Wang · Yufei, Zhang · Du, Minxin

IEEE Transactions on Information Forensics and Security 2024

参数信息

攻击成功率
97.4 %
平均查询次数
200
查询次数比值
0.1

技术优势

查询需求降一个量级

相比现有最先进攻击,在文本分类和蕴含任务中查询次数仅需十分之一,且保持相当的攻击成功率和扰动词率,显著降低计算和通信开销。

保持语法正确

生成的对抗文本语法正确,避免被基于语法检查的防御机制轻易察觉,提升攻击的隐蔽性和有效性。

实现简单紧凑

攻击方法设计简单紧凑,易于实现和部署,降低了使用门槛和集成成本。

应用场景