无线二阶去中心化联邦学习算法

通信轮次大幅降低

该算法将二阶优化的快速收敛与空中计算的低延迟聚合相结合,大幅减少通信轮次和开销,解决了集中式联邦学习对参数服务器的依赖问题。

Yang, Peng · Jiang, Yuning · Wen, Dingzhu · 王廷 · Jones, Colin Neil · 石远明

IEEE Transactions on Wireless Communications 2023

技术优势

大幅减少通信轮次

二阶优化方法收敛速度快,显著降低达到目标精度所需的迭代次数。

降低每轮通信开销

利用空中计算实现低延迟模型聚合,大量减少每轮通信的数据传输量。

消除参数服务器依赖

算法在去中心化框架下通过信息共享进行模型聚合,无需中心节点的协调。

可对抗累积噪声

通过系统优化分别处理累积项和个体项,有效减轻误差项中累积噪声的影响。

应用场景