ILIGA多模态融合网络

模态内外双路注意力

同时建模模态内局部特征与模态间全局互补关系,提升图像-文本多模态分类性能。

Yuqing, Huang · 80771464 · Liming, Chen · Zhao, Hong · Zheng, Yifeng · 张文杰

Engineering Applications of Artificial Intelligence 2026

参数信息

分类准确率
80.42 %
分类准确率
92.05 %

技术优势

局部特征不丢

通过模态内局部注意力模块增强每个模态的细节表征,避免因跨模态融合而丢失单模态内部关键信息。

跨模态互补抓得住

通过模态间全局外积融合模块建模跨模态的全局互补关系,充分利用不同模态的联合信息。

精度刷到SOTA

在两个公开数据集上均取得领先的分类准确率:ISIC2019达到80.42%,UPMC-Food-101达到92.05%。

模块都有用

消融实验验证了框架中每个组成部分的有效性,表明设计无冗余。

应用场景