模态内外双路注意力
同时建模模态内局部特征与模态间全局互补关系,提升图像-文本多模态分类性能。
Yuqing, Huang · 80771464 · Liming, Chen · Zhao, Hong · Zheng, Yifeng · 张文杰
Engineering Applications of Artificial Intelligence 2026
通过模态内局部注意力模块增强每个模态的细节表征,避免因跨模态融合而丢失单模态内部关键信息。
通过模态间全局外积融合模块建模跨模态的全局互补关系,充分利用不同模态的联合信息。
在两个公开数据集上均取得领先的分类准确率:ISIC2019达到80.42%,UPMC-Food-101达到92.05%。
消融实验验证了框架中每个组成部分的有效性,表明设计无冗余。