三叉语义框架

风格化字幕新框架

利用图像-事实-风格三叉数据的核心关系,实现跨模态语义对齐与风格化解码,在风格化图像字幕任务上表现优于现有方法。

Wang, Lanxiao · Qiu, Heqian · Qiu, Benliu · 孟凡满 · 吴庆波 · 李宏亮

IEEE Transactions on Circuits and Systems for Video Technology 2023

技术优势

同时保持事实与风格

通过直接挖掘图像-事实-风格三叉数据中的核心关系,模型能够利用事实语义和图像构建跨模态语义特征空间,从而在生成字幕时兼顾事实准确性和风格一致性。

缓解数据不足

设计了伪标签过滤器(PLF),通过为传统图像描述数据集中的图像-事实数据构建伪风格化标注,能够大规模扩展图像-事实-风格三叉数据,从而缓解风格化字幕数据收集和标注困难的问题。

通用即插即用

伪标签过滤器(PLF)是一个通用算法,可以用于任何现有的风格化字幕模型,无需修改模型结构即可解决数据不足的问题。

应用场景