多模态自选扩展
该模型将知识增强与上下文过滤相融合,实现自选择性语义扩展,通过多模态信息融合提升中文语义相似度任务的性能。
72051804 · 戴青云 · 72051805 · Zeng-Hui, Wang · Wang, Changdong
IEEE Transactions on Industrial Informatics 2024
模型对扩展出的多模态信息进行过滤和去噪,仅保留与词语强相关的部分,避免无关信息干扰语义表示。
模型以完全工程化的方式设计,可以直接应用于实际场景,省去人工调整和适配步骤。
融合多个模态的互补信息来构建词语对的语义表示,从而更好地捕捉复杂语义关系,带来的性能提升最高达21%。