基于可兴奋神经元的深度学习测试框架

高效触发DNN错误行为

该测试框架突破了传统神经元覆盖率指标的限制，通过量化神经元对模型损失的贡献度来定位易引发错误的神经元，从而更有效地发现深度神经网络中的错误行为。

Jin, Haibo · Chen, Ruoxi · 郑海斌 · 陈晋音 · Cheng, Yao · 余跃 · 陈铁明 · 刘祥龙

Information Sciences 2023

参数信息

对抗样本错误检测提升倍数

1.2

污染数据错误检测提升倍数

4.7

技术优势

检测更多错误

DeepSensor生成的测试样例能有效触发更多因对抗样本和污染数据导致的安全问题。

可解释性强

通过识别可兴奋神经元并提供t-SNE可视化，为DeepSensor的有效性提供可解释的认证。

应用场景

• AI测试：发现更多对抗样本和污染数据引发的错误，提高AI系统安全性。
• 深度神经网络：在部署前系统测试DNN的错误行为，避免实际应用中出错。
• 软件质量保障：生成有效测试样例，提高软件质量保障中的缺陷发现效率。
• 工业自动化：为工业自动化中的深度学习模型提供安全测试，防止生产事故。