避免灾难性遗忘
该框架通过自适应元学习模型和可学习学习率网络,实现了设备上个性化快速适应新任务,同时支持跨客户端知识迁移并降低通信成本。
Dongdong, Li · Nan, Huang · 王喆 · 杨海
IEEE Internet of Things Journal 2023
自适应元学习模型 cTD-αMAML 通过对齐新旧任务梯度,使模型在学习新任务时保留对旧任务的识别能力。
在 FedAvg 基础上扩展,客户端本地保留可学习的学习率网络,使每个设备具有适应自身数据分布的个性化模型。
客户端上传元初始化参数而非完整模型,服务器聚合后仅分发全局元初始化,减少了每轮通信的数据量。