像素级解释器

解读任意CNN

一种精确的像素级可解释方法，能准确揭示CNN分类依据，并可用于提升模型的对抗鲁棒性。

Zhang, Haitao · 王婧 · 李国强 · Cheng, Zhuo

Neural Networks 2025

参数信息

解释准确率

100 %

技术优势

解释完全准确

该方法的解释结果与模型真实分类依据完全一致，开发人员可以直接信任解释结果，无需人工核对。

能提升模型鲁棒性

基于精确的像素级解释可以设计对抗鲁棒性增强方案，直接提升CNN模型对对抗攻击的抵抗能力。

换结构也能用

该增强方案可以在不同结构的CNN模型之间迁移，无需针对每个新模型重新设计。

应用场景

• CNN可解释性：直接查看模型在像素层面依据哪些区域做分类决策，用于调试和验证模型行为。
• 对抗鲁棒性：利用准确解释定位模型弱点，设计增强方案提升模型抵御对抗攻击的能力。
• 模型诊断：将解释结果用于诊断CNN分类错误的原因，定位模型缺陷。
• 可信AI：为模型决策提供可靠、可追溯的像素级证据，提升用户对CNN的信任。