无标签训练强化表征
利用双向上下文与对比学习重塑多模态表征空间，在没有标注数据的情况下也能显著提升练习表征质量。
Mu, Jie · Zhang, Xianchao · Yujiao, Du · Yuxiang, Hu · 刘晗 · 徐剑
Neurocomputing 2023
通过带有掩码约束损失的表示模块，同时利用习题的未来上下文块，而不是只看单侧信息。
多模态对比损失重塑表征空间，在无标注情况下增强模型表征能力。
通过设计的图文匹配策略为文本和图像提供语义链接，强化多模态融合。