在无线传感器网络环境中，利用轻量级中间模型实现的一次性联邦学习

《IEEE Internet of Things Journal》：One-Shot Federated Learning with Lightweight Intermediate Models in Wireless Sensor Network Setting

　　

摘要：

一次性联邦学习（FL）在单次通信轮次中完成模型训练和聚合，与传统联邦学习相比显著降低了通信成本。这种方法特别适用于资源受限的环境，如无线传感器网络（WSNs）。然而，由于模型异构性，现有解决方案在聚合过程中面临重大挑战——客户端采用的模型在深度、宽度和计算能力上各不相同。为了解决这个问题，我们提出了一种名为FedLIM的一次性FL方法，该方法使用轻量级的中间模型来实现高效的知识传递和全局模型聚合。费希尔信息矩阵（FIM）被用来指导模型聚合过程并提高其鲁棒性。尽管FedLIM在单次通信轮次中完成了全局训练和聚合，但之后引入了一个可选的个性化模型调整步骤。该步骤仅涉及服务器到客户端的数据传输，不涉及额外的聚合操作。在三个数据集上的实验结果表明，FedLIM在全局模型准确性方面优于现有的一次性FL方法，尤其是在高度异构的环境中。此外，通过这个可选的细化步骤，局部模型的准确性也得到了进一步提升。