趋近智
高级联邦学习技术
章节 1: 联邦学习核心原理重温
联邦学习原则回顾
联邦环境中的难题
联邦优化的数学表述
同步联邦学习模型与异步联邦学习模型
联邦学习中的威胁模型
评估联邦学习系统
章节 2: 高级聚合算法
联邦平均（FedAvg）的局限性
FedProx：处理统计异质性
SCAFFOLD: 联邦优化中的方差降低
FedNova：针对异构系统的规范化平均
拜占庭容错聚合方法
自适应联邦优化方法
实践：实现高级聚合
章节 3: 提升联邦学习中的隐私保护
联邦学习中的差分隐私机制
将差分隐私应用于梯度更新
组合定理与隐私预算管理
安全多方计算 (SMC) 聚合协议
同态加密 (HE) 用于安全聚合
联邦学习中差分隐私、安全多方计算与同态加密的比较
隐私攻击：推断与重建
动手实践：实现DP-FedAvg
章节 4: 处理异质性和个性化
异构性的来源：统计性与系统性
处理非独立同分布数据的技术
聚类联邦学习方法
联邦个性化中的元学习
联邦设置中的多任务学习
模型剪枝与设备限制适应
实践：模拟非独立同分布数据及缓解方法
章节 5: 通信效率与系统优化
联邦学习中的通信瓶颈
梯度压缩技术
误差累积与补偿方法
模型更新压缩方法
优化本地计算
异步联邦学习优化
动手实践：实现梯度量化
章节 6: 联邦学习系统设计与实现
联邦学习系统的架构
联邦学习框架概览
模拟与部署
联邦系统的监控与调试
跨筒仓与跨设备联邦学习实现
系统部署中的安全考量
实践：搭建基础联邦学习仿真
联邦学习原则回顾
这部分内容有帮助吗？
- Communication-Efficient Learning of Deep Networks from Decentralized Data, H. Brendan McMahan, Eider Moore, Daniel Ramage, Seth Hampson, Blaise Agüera y Arcas, 2017 Proceedings of the 20th International Conference on Artificial Intelligence and Statistics, Vol. 54 (PMLR) - 介绍了联邦学习和联邦平均（FedAvg）算法，为该领域确立了基本方法。
- Advances and Open Problems in Federated Learning, Peter Kairouz, H. Brendan McMahan, Brendan Avent, Aurélien Bellet, Martin Bober, Marc Buděšínský, Aaron Chow, Francisco Corella-Sáez, Heather Davis, K. Addison Debs, Mason R. Greenberg, Clement H. C. Guo, Ram Herlands, Paul K. Ireland, Maryann Y. Kamoun, Felix X. J. Kerschbaumer, Sanmi Koyejo, Tong Li, Sanja L. Fidler, Vladan Markovic, Dara Mirza, Alireza Narimani, Daniel Ogawa, José Augusto Pinto, Nicolas E. Ryffel, Sara Scalia, Lawrence I. Smith, Koray S. Tugan, William Wei, Galen Andrew, Sergey Arbuzov, Hugo Bagpipe, Blakeley H. B. Bauman, Zachary Charles, Geoffrey M. Hinton, Thomas P. M. Furlan, Jan Krcmar, Alon Z. G. Ravid, Andreas Terzis, Andrew C. T. Yao, 2021 Foundations and Trends® in Machine Learning, Vol. 14 DOI: 10.1561/2200000083 - 对联邦学习的全面综述，讨论了其原理、挑战（例如异构性、隐私）和未来的研究方向。
- Federated Learning: Challenges, Methods, and Future Directions, Tian Li, Anit Kumar Sahu, Manzil Zaheer, Maziar Sanjabi, Ameet Talwalkar, Virginia Smith, 2020 IEEE Signal Processing Magazine, Vol. 37 (IEEE) DOI: 10.1109/MSP.2020.2975572 - 提供了联邦学习的动机、核心工作流程、系统和数据异构挑战以及各种方法的结构化概述。
- Federated Learning: An Overview of Concepts and Applications, Peter Kairouz, H. Brendan McMahan, Brendan Avent, Aurélien Bellet, Martin Bober, Marc Buděšínský, Aaron Chow, Francisco Corella-Sáez, Heather Davis, K. Addison Debs, Mason R. Greenberg, Clement H. C. Guo, Ram Herlands, Paul K. Ireland, Maryann Y. Kamoun, Felix X. J. Kerschbaumer, Sanmi Koyejo, Tong Li, Sanja L. Fidler, Vladan Markovic, Dara Mirza, Alireza Narimani, Daniel Ogawa, José Augusto Pinto, Nicolas E. Ryffel, Sara Scalia, Lawrence I. Smith, Koray S. Tugan, William Wei, Galen Andrew, Sergey Arbuzov, Hugo Bagpipe, Blakeley H. B. Bauman, Zachary Charles, Geoffrey M. Hinton, Thomas P. M. Furlan, Jan Krcmar, Alon Z. G. Ravid, Andreas Terzis, Andrew C. T. Yao, 2021 (Morgan & Claypool Publishers) DOI: 10.2200/S01095ED1V01Y202104MLT082 - 由该领域众多创建者合著的权威书籍，对联邦学习的原理和应用提供了深入且系统的解释。