多轮对话生成更连贯
采用静态与动态注意力相结合的方式来建模对话历史语义,缓解了传统RNN的梯度消失问题,提升了多轮上下文的理解能力。
张伟男 · 崔一鸣 · Zhang, Kaiyan · 王一凡 · 朱庆福 · 李凌志 · 刘挺
ACM Transactions on Information Systems 2023
静态注意力直接聚合历史各轮表示,动态注意力关注当前解码状态相关的信息,绕开了RNN的顺序传递,从而缓解梯度消失。
模型通过注意力机制捕捉整个对话历史,而不是只看最后一句,生成回复时能考虑更全局的语义。
在自动和人工评估指标上均取得提升,多个实验设置下验证了有效性。