趋近智
高级联邦学习技术
章节 1: 联邦学习核心原理重温
联邦学习原则回顾
联邦环境中的难题
联邦优化的数学表述
同步联邦学习模型与异步联邦学习模型
联邦学习中的威胁模型
评估联邦学习系统
章节 2: 高级聚合算法
联邦平均（FedAvg）的局限性
FedProx：处理统计异质性
SCAFFOLD: 联邦优化中的方差降低
FedNova：针对异构系统的规范化平均
拜占庭容错聚合方法
自适应联邦优化方法
实践：实现高级聚合
章节 3: 提升联邦学习中的隐私保护
联邦学习中的差分隐私机制
将差分隐私应用于梯度更新
组合定理与隐私预算管理
安全多方计算 (SMC) 聚合协议
同态加密 (HE) 用于安全聚合
联邦学习中差分隐私、安全多方计算与同态加密的比较
隐私攻击：推断与重建
动手实践：实现DP-FedAvg
章节 4: 处理异质性和个性化
异构性的来源：统计性与系统性
处理非独立同分布数据的技术
聚类联邦学习方法
联邦个性化中的元学习
联邦设置中的多任务学习
模型剪枝与设备限制适应
实践：模拟非独立同分布数据及缓解方法
章节 5: 通信效率与系统优化
联邦学习中的通信瓶颈
梯度压缩技术
误差累积与补偿方法
模型更新压缩方法
优化本地计算
异步联邦学习优化
动手实践：实现梯度量化
章节 6: 联邦学习系统设计与实现
联邦学习系统的架构
联邦学习框架概览
模拟与部署
联邦系统的监控与调试
跨筒仓与跨设备联邦学习实现
系统部署中的安全考量
实践：搭建基础联邦学习仿真
处理非独立同分布数据的技术
这部分内容有帮助吗？
- Advances and Open Problems in Federated Learning, Tian Li, Anit Kumar Sahu, Manzil Zaheer, Maziar Sanjabi, Ameet Talwalkar, Virginia Smith, 2020 Foundations and Trends® in Machine Learning, Vol. 13 (Now Publishers) DOI: 10.1561/2200000080 - 这篇全面的综述对联邦学习进行了广泛概述，其中大量篇幅专门讨论了统计异构性和非独立同分布数据作为核心挑战及其缓解策略。
- Clustered Federated Learning: Model-Agnostic Distributed Optimization for Heterogeneous Networks, Soumyabrata Ghosh, Mehrdad Mahdavi, Virginia Smith, 2020 Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 34 (AAAI) DOI: 10.1609/aaai.v34i07.7077 - 本文介绍了聚类联邦学习，这是一个通过动态分组具有相似数据分布的客户端来训练独立的、专用模型，以解决严重统计异构性的框架。