不一致感知多模态生理融合模型

消除模态不一致

通过跨模态Transformer与低秩融合消除不同生理信号间的不一致与冗余,在不额外增加模型复杂度的情况下提升情感识别准确率。

Jing, Li · 陈宁 · 朱宏擎 · Li, Guangqiang · Zhangyong, Xu · Dingxin, Chen

Information Fusion 2024

技术优势

消除模态不一致

采用跨模态Transformer将辅助模态特征向主模态对齐,去除不同信号间的矛盾表示,使融合后的特征更一致。

减少融合冗余

低秩融合通过紧凑的组合方式减少多模态融合带来的信息冗余,在不损失判别力的前提下降低计算负担。

刷新SOTA

在公开数据集DEAP和WESAD上,该模型的情感识别准确率均超过现有最优模型。

应用场景