基于不可转移性的后门检测器

即时检测恶意触发输入

利用被攻陷模型无法将后门行为转移到未感染模型这一内在弱点，在运行时甄别输入，无需训练、无需专业知识。

Yinshan, Li · Ma, Hua · Zhang, Zhi · 高艳松 · Abuadbba, Alsharif · Xue, Minhui · 付安民 · 郑宜峰 · Al-Sarawi, Said F. · Abbott, Derek A.

IEEE Transactions on Information Forensics and Security 2023

技术优势

无需专业知识

检测仅依赖预训练特征提取器和相似性比较，用户无需训练模型或理解攻击机制。

检测延迟低

运行时仅需一次前向传播提取特征并与少量样本比较相似度，满足实时部署要求。

应用场景

• 深度学习模型安全：在不修改模型的情况下识别输入是否为后门触发器，保护已部署模型免受劫持。
• 部署安全检测：作为部署环境中的轻量级监测组件，对输入进行实时筛查，阻止恶意样本通过。
• 攻击检测：利用不可转移性弱点，无需了解攻击细节即可发现触发输入，适用各类后门。
• 模型完整性验证：通过比对输入与同类样本的特征相似性，间接验证模型是否被植入后门。