消除模态不一致
通过跨模态Transformer与低秩融合消除不同生理信号间的不一致与冗余,在不额外增加模型复杂度的情况下提升情感识别准确率。
Jing, Li · 陈宁 · 朱宏擎 · Li, Guangqiang · Zhangyong, Xu · Dingxin, Chen
Information Fusion 2024
采用跨模态Transformer将辅助模态特征向主模态对齐,去除不同信号间的矛盾表示,使融合后的特征更一致。
低秩融合通过紧凑的组合方式减少多模态融合带来的信息冗余,在不损失判别力的前提下降低计算负担。
在公开数据集DEAP和WESAD上,该模型的情感识别准确率均超过现有最优模型。