概念向量对抗样本检测器

可解释检测

基于高层概念激活向量的变化检测对抗攻击，解释人类可理解。

Li, Jiaxing · Yu-an, Tan · Liu, Xinyu · Meng, Weizhi · 李元章

Computers and Security 2025

参数信息

平均检测准确率

95 %

技术优势

概念级解释

检测基于高层概念而非像素级特征，解释与人类认知一致，便于信任。

高检测率

在ImageNet上平均检测准确率超过95%，能有效识别对抗样本。

应用场景

• 对抗攻击防御：在推理前拦截对抗样本，防止模型被误导。
• 可解释AI：提供概念级解释，让检测决策可被人类理解。
• 计算机视觉安全：保护图像识别系统免受对抗攻击。