静态动态注意模型

多轮对话生成更连贯

采用静态与动态注意力相结合的方式来建模对话历史语义,缓解了传统RNN的梯度消失问题,提升了多轮上下文的理解能力。

张伟男 · 崔一鸣 · Zhang, Kaiyan · 王一凡 · 朱庆福 · 李凌志 · 刘挺

ACM Transactions on Information Systems 2023

技术优势

梯度不再消失

静态注意力直接聚合历史各轮表示,动态注意力关注当前解码状态相关的信息,绕开了RNN的顺序传递,从而缓解梯度消失。

上下文更连贯

模型通过注意力机制捕捉整个对话历史,而不是只看最后一句,生成回复时能考虑更全局的语义。

验证更全面

在自动和人工评估指标上均取得提升,多个实验设置下验证了有效性。

应用场景