统一分布式学习框架

收敛更快

一个既能适配设备算力差异、又能独立更新各模块、并采用混合聚合的语义通信训练框架,解决训练效率与用户数据隐私的矛盾。

Nan, Guoshun · Xinghan, Liu · Lyu, Xinchen · 崔琪楣 · 许晓东 · Ping, Zhang

IEEE Network 2023

技术优势

数据不出设备

每个设备仅基于本地数据计算梯度,上传的是参数更新而非原始数据,从根源上避免隐私泄露。

按算力定制训练

学习机制可根据设备计算能力灵活调整,小算力设备也能参与训练,不需要统一的高性能硬件。

模块独立更新

将系统拆成多个模块,客户端和服务器端分别独立更新参数,避免全局重训练带来的通信和计算开销。

应用场景