集成多源预训练知识
以高斯过程为集成框架，将CLIP的零样本先验与多种预训练模型的深层特征融合，仅需少量样本即可实现高精度分类。
Yibo, Miao · Yu, Lei · Feng, Zhou · Deng, Zhijie
2024
通过将CLIP作为高斯过程均值函数、多种预训练模型的深度核组合为核函数，灵活融合不同来源的知识。
直接对分类标签进行回归，实现解析推断、直接的不确定性量化和有原则的超参数调优。
在标准基准上，预测性能一致优于竞争性集成方法。
在分布外数据集上保持鲁棒，且模型校准优于大多数确定性基线。