渐进占位学习网络

模态共享表示

提出一个多模态零样本学习网络,用mixup幻觉和交替混合器为不可见类生成占位表示,维持嵌入空间。

Zhuopan, Yang · 杨振国 · Xiaoping, Li · Yu, Yi · Li Q. · 刘文印

IEEE Transactions on Multimedia 2024

技术优势

无需真实样本

利用mixup幻觉生成伪类嵌入作为占位符,即可为不可见类维持嵌入空间。

跨模态融合强

交替混合器通过反转模态特定与原始表示的维度来建模模态间交互,得到模态共享表示。

泛化性能领先

在零样本和新闻事件数据集上的实验表明该方法性能优越。

应用场景