查询需求降低十倍
一种简单紧凑的决策型文本对抗攻击方法,能以极少查询生成语法正确的对抗样本,并保持高成功率。
Xiaoxue, Hu · Geling, Liu · Zheng, Baolin · Zhao, Lingchen · Qian, Wang · Yufei, Zhang · Du, Minxin
IEEE Transactions on Information Forensics and Security 2024
相比现有最先进攻击,在文本分类和蕴含任务中查询次数仅需十分之一,且保持相当的攻击成功率和扰动词率,显著降低计算和通信开销。
生成的对抗文本语法正确,避免被基于语法检查的防御机制轻易察觉,提升攻击的隐蔽性和有效性。
攻击方法设计简单紧凑,易于实现和部署,降低了使用门槛和集成成本。