FedSynHAR：一种基于特征增强型自适应剪枝与互蒸馏的联邦人体活动识别框架

《Scientific Reports》：FedSynHAR: a framework based on feature-enhanced adaptive pruning-mutual distillation for federated human activity recognition

　　

摘要

近年来，基于深度学习的人体活动识别技术得到了广泛的研究与应用，但同时也引发了隐私方面的担忧。联邦学习技术能够在不共享原始数据的情况下实现协同训练，从而保护用户隐私。然而，将联邦学习应用于人体活动识别时面临着三个相互关联的挑战：客户端之间的数据非独立同分布、在异构本地模型下的数据聚合问题，以及边缘设备有限的计算资源和带宽限制。为了解决这些问题，本文提出了FedSynHAR这一轻量级的联邦学习框架，它结合了基于梯度重要性的自适应剪枝算法与基于通道信息的特征级互蒸馏技术。GIAP算法根据梯度重要性对服务器和客户端的网络结构进行剪枝，从而降低计算和通信开销；CFMD算法则利用通道重要性来引导本地模型与代理模型之间的互蒸馏过程，有效缓解剪枝带来的性能下降，提升系统在非独立同分布条件下的稳定性。在UCI-HAR和PAMAP2数据集上的实验表明，FedSynHAR在联邦学习人体活动识别任务中具有出色的性能。在UCI-HAR数据集上，FedSynHAR的收敛速度约为FedAvg的2\(\times\)倍，在非独立同分布条件下仍能达到94.91%的识别准确率，且计算开销可降低两个数量级。PAMAP2数据集上的实验结果进一步证明了FedSynHAR在更复杂的异构环境中的稳定性。