多模态学习超越单模态
利用对比学习同时编码几何形状与构造序列,使表示既保留细节又利于重建,在下游检索与生成任务中表现显著优于基线。
Weijian, Ma · 徐旻洋 · Xueyang, Li · 周向东
2023
对比学习让几何形状和构造序列的特征交互,充分利用两种模态的互补信息,比单一模态表示更全面。
多模态对比学习方案在下游任务上显著超越了基线方法和单模态方法。