模态共享表示
提出一个多模态零样本学习网络,用mixup幻觉和交替混合器为不可见类生成占位表示,维持嵌入空间。
Zhuopan, Yang · 杨振国 · Xiaoping, Li · Yu, Yi · Li Q. · 刘文印
IEEE Transactions on Multimedia 2024
利用mixup幻觉生成伪类嵌入作为占位符,即可为不可见类维持嵌入空间。
交替混合器通过反转模态特定与原始表示的维度来建模模态间交互,得到模态共享表示。
在零样本和新闻事件数据集上的实验表明该方法性能优越。