异构模型垂直联邦训练法

不共享数据也准

在各方模型结构互不相同的垂直联邦场景下，通过嵌入聚合与盲化保护，同时训练多个异构模型，让协作建模不再受限于同构架构。

Shuo, Wang · 盖珂珂 · 于金刚 · 祝烈煌 · Meng, Weizhi · Xiao, Bin

IEEE Transactions on Mobile Computing 2025

参数信息

准确率提升

7.22 %

技术优势

异构也能训

通过聚合各参与方的本地嵌入，不同结构的模型可以同时参与训练，无需统一模型架构。

隐私有保障

使用轻量级盲化因子对被动方的本地嵌入进行保护，防止原始信息泄露。

准确率更高

在CIFAR-10数据集上，模型准确率较现有最优方法提升7.22%。

应用场景

• 多方协作建模：让模型结构各异的机构无需统一架构即可联合训练。
• 移动端联邦学习：适应移动端异构模型协同，无需共享原始数据。
• 隐私保护机器学习：通过盲化嵌入保护参与方本地数据，减少隐私风险。
• 分布式机器学习：在分布式环境下支持异构模型并行训练。