动态对比解码策略

免训练提升RAG

在生成阶段动态放大选定文档中的知识，无需训练即可缓解检索噪声带来的幻觉，并可与其他方法即插即用。

Jing, Jin · 王厚峰 · Hao, Zhang · Li, Xiaoguang · Guo, Zhijiang

2024

技术优势

不用训练

仅修改推理时的解码策略，无需更新模型参数，可直接嵌入现有 RAG 流程。

噪声虽在，答案不偏

通过筛选机制只放大真正相关的文档，并把无关文档作为对比信号抑制其影响，减轻不相关内容的干扰。

即插即用

可以与其他方法集成以进一步提升 RAG 性能，无需修改现有架构。

应用场景

• 检索增强生成：在生成阶段过滤检索噪声，提升现有 RAG 系统的答案忠实度。
• 多文档问答：同时处理多个文档，动态权衡信息，避免无关段落主导回答。
• 大语言模型推理：替换 LLM 解码采样步骤，无需重新训练即可部署到现有推理服务中。