CBDMoE专家组合网络

域泛化性能领先

通过约束专家间一致性与多样性,显著提升模型在未知目标域上的泛化能力。

Xu, Fangbin · 陈东岳 · 贾同 · Deng, Shizhuo · Hao, Wang

IEEE Transactions on Multimedia 2024

技术优势

专家更均衡

采用域-类别均衡子集划分采样策略训练专家,避免专家偏向多数域或类别,提升单个专家的泛化能力。

兼顾一致与多样

两个正则化损失同时鼓励专家预测一致性和多样性,使组合模型既能共享知识又保留互补性。

精度超越现有方法

在三个主流域泛化基准数据集上的大量实验表明,CBDMoE 的性能优于现有最先进方法。

应用场景