两阶段不丢要点
在提取-生成两阶段摘要中,用句级语义监督注意力权重,避免抽取阶段丢失关键信息。
Rui, Zhang · Nan, Zhang · Yu, Jianjun
International Journal of Intelligent Systems 2023
该组件可以直接集成到已有的抽取-生成系统中,只需要替换注意力模块,不需要从头训练。
句感知掩码注意力调节权重,让生成模型关注重要语义的句子,同时不忽略其他句子。