边云协作微调框架

低资源定制大模型

该框架利用联邦学习在边缘设备上协作微调预训练大模型，以低成本实现个性化AIGC服务，同时保护用户隐私。

Zhang, Qinnan · Tianqi, Zong · Xiong, Zehui · Pangbo, Sun · 朱建明 · Qiu, Wangjie · 郑志明 · H. Vincent, Poor

IEEE Network 2024

技术优势

降低微调成本

将微调任务从云端下放到边缘设备，避免集中式训练百亿参数模型的高昂资源消耗。

保护用户隐私

通过联邦学习在本地数据上协作微调，无需上传原始数据，降低隐私泄露风险。

支持医学影像诊断

在医学场景中，通过协作微调多模态预训练模型，开发了实用的X射线诊断演示系统。

应用场景

• 个性化内容生成：利用边缘协作微调，快速定制个性化内容生成模型，无需上传用户数据。
• 边缘智能：将大模型微调任务部署在边缘设备上，实现低延迟、低成本的智能服务。
• 医学影像诊断：通过协作微调多模态模型，构建隐私保护的X射线诊断辅助系统。