多模态对话网络

电商场景最先进

一种用于对话响应生成的多模态多跳交互网络,在缺乏结构化知识库的电商场景中,利用商品的文本和图像信息生成响应。

Zhou, Jie · Tian, Junfeng · Rui, Wang · 吴苑斌 · Yan, Ming · 贺樑 · 黄萱菁

Expert Systems with Applications 2023

技术优势

没有知识库也能应答

模型通过查询感知的多模态编码器和多跳解码器,从商品的文本描述和图像中直接提取信息来生成响应,摆脱了对结构化知识库的依赖。

指标全面领先

在自动评估和人工评估中均超越了多个强基线模型,证明了方法的有效性。

自带两个大规模数据集

发布了两个真实世界的大规模数据集,包含对话历史和商品多模态信息,可直接用于后续研究。

应用场景