多轮交互调优框架

对话一致性显著提升

该框架通过分别建模说话者角色,实现多轮对话中代理角色的一致性。

王键 · Chak-Tou, Leong · Wang, Jiashuo · Lin, Dongding · Li, Wenjie · 魏骁勇

2024

技术优势

角色分开建模

将代理和用户分别用两个适配器建模,各自处理各自轮次的发言,使代理能够始终遵循自己的角色设定,从而保持对话一致性。

轮级记忆缓存

微调时利用轮级记忆缓存机制,高效保留历史对话信息,使模型在多轮交互中维持上下文连贯,从而促进对话一致性。

效果优于传统微调

大量实验表明,该框架相比传统微调表现更优,展现出提升对话一致性的巨大潜力。

应用场景