梯度一致性联邦学习算法

精度提升10.7%

通过梯度一致性度量动态调整同步频率，让联邦学习在训练过程中兼顾精度与通信效率。

Chen, Chen · 徐宏 · Wang, Wei · Li, Baochun · Li, Bo · Chen, Li · Gong, Zhang

IEEE Journal on Selected Areas in Communications 2023

参数信息

准确率提升

10.7 %

训练时间减少

58.1 %

技术优势

兼顾精度与效率

根据梯度一致性实时调整同步频率：数据分布漂移时加密同步保证精度，训练稳定时减少同步以节省时间。

不泄露隐私

频率调整决策只利用训练过程中产生的梯度信息，不接触任何客户端原始数据。

应用场景

• 联邦学习：替换固定同步频率策略，在不牺牲隐私的前提下同时提升模型精度和训练效率。
• 分布式训练：利用梯度一致性动态调整通信频率，减少分布式训练中的通信开销并加快收敛。
• 多设备协同智能：在数据分布不一致的多设备协作中自适应同步节奏，避免因频率不当导致的精度损失。
• 边缘计算：根据梯度一致性调整同步频率，减轻边缘设备通信负担，提升资源受限环境下的训练效率。