显著降低通信开销
一种基于率失真优化的自适应梯度量化方法,通过联合利用梯度的时空相关性,显著降低联邦学习的通信开销。
Chen, Guojun · Kaixuan, Xie · Wenqiang, Luo · 徐寅飞 · Xin, Lun · 宋铁成 · 胡靖
Digital Communications and Networks 2024
通过同时利用客户端间梯度的空间相关性和通信轮次间的时间相关性,自适应当前梯度分布,在相同失真下获得更低的比特率。
基于率失真理论推导最优量化方案,而非启发式方法,确保压缩效率的可靠性和可解释性。
引入卡尔曼滤波进行最优量化点的跟踪和估计,避免复杂优化求解,降低计算负担。