不完整多模态仍有效
用对比掩蔽注意统一架构灵活应对任意缺失模式,在不完整多模态学习中表现出有效性与稳健性。
Shu-Wei, Qian · 王崇骏
Neural Networks 2023
通过注意力掩码限制模型只关注实际观察到的模态,避免利用缺失模态的估计信息引入额外噪声。
所有模态组合共享统一架构,无需为每种缺失模式设计专门模型,因此能灵活应对不同的缺失情况。
通过堆叠自注意力块建模跨模态交互,即使部分模态缺失,仍能利用可用模态间的关联提升表示质量。
使用基于 GAN 的数据增强进行跨模态对比学习,通过二人博弈使得增强适应不完整场景,从而生成更有效的多模态表示。