跨模态共享网络

缺模态仍精准识别

通过跨模态分布约束,在仅单一模态输入时可利用多模态知识进行连续情感识别。

Li, Chiqin · 解仑 · Shao, Xingmao · Pan, Hang · 王志良

Engineering Applications of Artificial Intelligence 2024

参数信息

可用模态数(推理阶段)
1

技术优势

缺模态不断崖

推理阶段仅需一种模态,通过共享空间利用多模态知识,缺失模态时分类性能依然保持稳定。

跨模态分布对齐

采用宽松的跨模态分布匹配约束,使视频和生理信号在共享空间中分布接近,从而有效利用互补信息增强判别能力。

可处理部分缺失

进一步实验证明该网络能处理部分缺失的模态,扩展至其他模态,展现出实际应用潜力。

应用场景