嵌入空间重构防御

抵御检索投毒

通过推拉双策略重塑嵌入空间，在保持良性文档检索质量的同时有效抑制恶意文档的影响。

Longzhu, He · Xiyu, Zhang · Quan, Liu · Li, Chaozhuo · Liu, Zheng · Zhou, Pengpeng · 苏森

ACM Transactions on Information Systems 2026

技术优势

同时实现推离恶意与拉近良性

通过多数共识机制过滤少数恶意信号，同时将查询嵌入拉向良性文档，从而在不牺牲良性检索质量的前提下降低恶意文档的影响。

显著提升多个LLM的响应准确性

在四个开放域问答数据集上，对七个代表性LLM进行实验，ShieldRAG显著提升响应准确性并缓解对抗效应，显示了跨模型和数据的强泛化能力。

应用场景

• RAG系统安全：为RAG系统抵御检索投毒攻击，保障生成内容不受恶意文档干扰。
• LLM应用防护：保护基于LLM的应用在检索增强时免受投毒影响，维持输出准确性。
• 知识库安全：强化知识库安全性，即使存在恶意注入文档也能保证检索结果可靠。