隐私保护联邦学习算法

抗标签翻转攻击

该算法通过同态加密协议检测恶意客户端，在不泄露模型更新隐私的前提下抵御标签翻转攻击，适用于非独立同分布数据。

Shen, Xicong · 刘英 · Fu, Li · 李春光

IEEE Internet of Things Journal 2023

技术优势

不用上传明文更新

基于同态加密的隐私保护协议使服务器在密文上执行检测和聚合，客户端无需暴露模型更新。

非IID也有效

该方法不依赖数据分布假设，在 IID 和非 IID 数据上都能有效防御标签翻转攻击。

应用场景

• 物联网联邦学习：在物联网设备上安全协同训练，防止恶意标签破坏全局模型。
• 安全机器学习：在分布式训练中同时实现对抗投毒和隐私保护。
• 分布式隐私保护：无需明文上传模型更新即可完成恶意检测和聚合。
• 边缘智能：为边缘节点上的联邦学习提供抗攻击和隐私保障。
• 可信联邦学习：增强联邦学习对内部恶意客户端的鲁棒性与可信度。