解释一致性重加权学习框架

精度与可解释性双升

引入解释一致性指标自适应调整训练样本权重，使模型在不需额外监督下同时提升识别精度、可解释性和鲁棒性。

吴贺丰 · 江灏 · Wang, Keze · Ziyi, Tang · Xianghuan, He · 林倞

IEEE Transactions on Multimedia 2024

技术优势

精度可解释性兼得

在提升可解释性的同时，模型识别精度也获得提升，解决了以往优化一方损害另一方的问题。

无需额外监督

框架以自适应方式调整样本权重，不依赖人工标注或额外监督信号。

多重性能受益

除了识别精度和可解释性，还提升了数据去偏能力、网络鲁棒性和定位精度。

应用场景

• 计算机视觉：为视觉模型提供可解释热力图，并增强鲁棒性与定位精度，便于诊断模型行为。
• 可解释人工智能：用解释一致性度量视觉解释的可靠性，并自适应重加权提升解释质量。
• 机器学习：该框架可集成到现有训练流程，改善模型泛化与公平性。