伪随机分类器

免训练通用对抗样本检测

利用密码学启发式映射与注入机制，实现对对抗样本与攻击方式无关的概率性检测。

朱博宇 · Changyu, Dong · Zhang, Yuan · 毛云龙 · 仲盛

IEEE Transactions on Information Forensics and Security 2023

技术优势

无需针对特定攻击训练

检测器不依赖任何特定攻击方式，因此攻击者即使改变策略也无法轻易绕过检测。

兼容主流模型

该方法作为一个分类器的包装器，可以与现有的神经网络分类器结合使用，无需修改原模型。

应用场景

• 对抗样本防御：为图像分类模型提供攻击无关的对抗样本检测，增强系统安全性。
• 深度学习安全：在深度学习模型部署前提供一种新的鲁棒性验证手段，提前发现安全漏洞。
• 模型鲁棒性评估：可作为一个标准化的鲁棒性测试组件，用于比较不同防御策略的有效性。