文章详情

摘要

文章针对联邦学习算法在实际应用中缺乏系统评估的问题，基于轻量级平台LightFL对10种主流算法在MNIST数据集上的IID和狄利克雷Non-IID两种数据划分方式下进行性能对比。在IID场景下，多数算法表现较好且差异较小。在高度异构的狄利克雷Non-IID场景中，各算法的鲁棒性受到挑战。SCAFFOLD通过独特的客户端偏差校正机制，有效缓解了数据异构带来的性能下降，展现了较好的鲁棒性。研究表明，联邦学习算法的性能高度依赖于数据分布特性。在数据分布相对均匀时可优先考虑FedAvg等简单高效的算法；面对高度数据异构的场景，SCAFFOLD等具备强鲁棒性的算法则是更可靠的选择。上述结论可为联邦学习算法选型提供实证依据，指导实际应用部署。

关键词

联邦学习；算法评估；独立同分布；非独立同分布

参考文献

1. [1] MCMAHAN B，MOORE E，RAMAGE D，et al. Communication-Efficient Learning of Deep Networks from Decentralized Data [C]//Proceedings of the 20th International Conference on Artificial Intelligence and Statistics.Fort Lauderdale：PMLR，2017：1273-1282.
2. [2] 刘若轩，高凌航，谢国云，等.轻量级联邦学习平台LightFL的设计与实现 [J].现代信息科技，2025，9（6）：71-74.
3. [3] LI T，SAHU A K，ZAHEER M，et al. Federated Optimization in Heterogeneous Networks [C]//Proceedings of Machine Learning And Systems.Austin：MLSys，2020，2：429-450.
4. [4] HSU T M H，QI H，BROWN M. Measuring the Effects of Non-Identical Data Distribution for Federated Visual Classification [J/OL].arXiv:1909.06335 [cs.LG].[2025-09-06].https://doi.org/10.48550/arXiv.1909.06335.
5. [5] KARIMIREDDY S P，KALE S，MOHRI M，et al. SCAFFOLD: Stochastic Controlled Averaging for Federated Learning [C]//International Conference on Machine Learning.[S.I.]：PMLR，2020：5132-5143.
6. [6] WANG J，LIU Q，LIANG H，et al. Tackling the Objective Inconsistency Problem in Heterogeneous Federated Optimization [C]//Advances in Neural Information Processing Systems 15.Vancouver：MIT Press，2020，33：7611-7623.
7. [7] REDDI S J，CHARLES Z，ZAHEER M，et al. Adaptive Federated Optimization [J/OL].arXiv:2003.00295 [cs.LG].[2025-09-03].https://doi.org/10.48550/arXiv.2003.00295.
8. [8] TAN Y，LONG G D，LIU L，et al. FedProto: Federated Prototype Learning across Heterogeneous Clients [C]//Proceedings of the AAAI Conference on Artificial Intelligence.Washington：AAAI Press，2022，36（8）：8432-8440.
9. [9] LI T，SANJABI M，BEIRAMI A，et al. Fair Resource Allocation in Federated Learning [C]//International Conference on Learning Representations.[S.I.]：OpenReview，2020.
10. [10] WANG H，YUROCHKIN M，SUN Y，et al. Federated Learning with Matched Averaging [J/OL].arXiv:1905.10497 [cs.LG].[2025-08-26].https://doi.org/10.48550/arXiv.1905.10497.
11. [11] LIN T，KONG L J，STICH S U，et al. Ensemble Distillation for Robust Model Fusion in Federated Learning [J/OL].arXiv:2006.07242 [cs.LG].[2025-08-29].https://doi.org/10.48550/arXiv.2006.07242.

基金项目

2025年北京信息科技大学大学生创新创业训练计划项目（S202511232139）；2024年北京信息科技大学“青年骨干教师”支持计划（YBT202450）；面向青藏高原地区的基于人工智能的天气预报模型开发（S2426030）；2025年北京信息科技大学“星光基金”资助项目（XG2025PT92）

作者简介

王佳欣（2005—），女，汉族，河南三门峡人，本科在读，研究方向：联邦学习；李科宏（2004—），男，土家族，重庆忠县人，本科在读，研究方向：联邦学习；刘苏月（2005—），女，汉族，河南商丘人，本科在读，研究方向：联邦学习；魏琦佳（2006—），女，汉族，北京通州人，本科在读，研究方向：联邦学习；俞乐（2005—），女，汉族，北京大兴人，本科在读，研究方向：联邦学习；通信作者：王灿（1990—），男，汉族，山东济宁人，副教授，博士，研究方向：联邦学习。