显著提升开放域回复选择
针对对话场景设计的预训练模型，通过模拟对话特有特征，在开放域回复选择与质量评估上显著优于基线模型。
李俊龙 · 张倬胜 · 赵海
Neurocomputing 2023
通过质量评估衍生的预训练目标，显式建模连贯性、具体性和信息量，弥补通用预训练模型的不足。
在开放域回复选择和质量评估基准上显著超越基线模型，并在MuTual排行榜上取得最先进性能。
通过连贯性导向的上下文破坏和具体性导向的自动重打分，构建无监督训练集，帮助模型捕获对话内部连贯性并衡量数据质量。