HSCP：一种用于资源受限无人机识别的两阶段谱聚类框架

《Digital Signal Processing》：HSCP: A Two-Stage Spectral Clustering Framework for Resource-Constrained UAV Identification

针对无人机射频指纹识别模型在边缘设备部署中的计算瓶颈，提出分层谱聚类剪枝框架HSCP，通过层和通道维度的协同剪枝实现86.39%参数缩减与84.44%计算量降低，同时保持1.49%的准确率提升。该框架结合中心核对齐的谱聚类方法进行层次化剪枝，并通过Mixup数据增强实现噪声鲁棒微调。

　　

王茂宇|卢瑶|周博|陈壮志|林云|轩琦|桂冠

中国浙江工业大学计算机科学与技术学院

摘要

随着无人机（UAV）的快速发展以及低空安全威胁的日益复杂，传统的无人机识别方法难以在复杂环境中提取可靠的信号特征并满足实时要求。最近，基于深度学习的射频指纹识别（RFFI）方法显著提高了识别精度。然而，这些方法的大型模型和高的计算需求阻碍了它们在资源受限的边缘设备上的部署。虽然模型剪枝为降低复杂性提供了一种通用解决方案，但现有的权重、信道和层剪枝技术在同时优化压缩率、硬件加速和识别精度方面存在困难。为此，本文提出了HSCP（分层谱聚类剪枝框架），该框架结合了层剪枝和信道剪枝，以实现极端的压缩比、高性能和高效的推理。在第一阶段，HSCP利用中心核对齐（CKA）引导的谱聚类来识别并移除冗余层。随后，将相同的策略应用于信道维度以消除更细微的冗余。为了确保鲁棒性，我们进一步采用了抗噪声微调策略。在UAV-M100基准测试上的实验表明，HSCP的性能优于现有的信道和层剪枝方法。具体来说，与未剪枝的基线相比，HSCP在ResNet18上实现了86.39%的参数减少和84.44%的FLOPs减少，并且即使在低信噪比环境下也保持了较高的鲁棒性。

引言

随着精密传感器技术和智能控制系统的快速发展，无人机的应用在全球范围内迅速普及[1]、[2]、[3]、[4]。最初，无人机主要应用于军事领域，在侦察、监视和战场支援中发挥关键作用[5]、[6]。如今，它们的用途已扩展到民用领域，包括航拍、物流运输、农业监测和应急救援[7]、[8]、[9]。这些进步不仅推动了工业的快速发展，也为社会生产和日常生活带来了便利。然而，无人机的广泛使用也带来了潜在的安全威胁，包括未经授权的入侵受限空域、非法运输货物以及对航空安全的风险[10]、[11]。为应对这些威胁，在典型应用中部署RFFI系统（如保护公共活动免受未经授权的无人机入侵、打击跨境走私以及监控受限机场空域）至关重要[12]、[13]。在这些时间紧迫的低空对抗场景中，必须在便携式、资源有限的边缘设备上快速可靠地进行识别。因此，建立及时、准确和可靠的无人机识别机制对于保障公共安全和加强低空空域管理变得十分紧迫。当前的无人机检测方法受到固有局限性的制约。例如，声学检测受环境噪声干扰[14]；视觉和光学方法虽然直观，但在复杂背景条件、视觉遮挡和不同光照条件下难以进行自适应检测[15]、[16]、[17]；基于雷达的检测在城市环境中可能受到建筑物等障碍物的影响，导致盲点和较高的部署成本[18]、[19]。相比之下，射频指纹识别（RFFI）通过利用无线发射器中的独特硬件缺陷而具有明显优势[20]。这些物理特征源于天线和电路等组件制造过程中的微小变化，成为每个设备的独特“指纹”。由于这些特性极难伪造或复制，RFFI已被广泛用于区分同一型号的设备，为非视觉和对抗性环境提供了可靠的识别手段[21]、[22]。

在实际的RFFI部署中，必须严格解决现实应用场景中的限制。识别系统通常部署在资源有限的边缘设备上[23]，例如便携式软件定义无线电终端、地面频谱监测节点或移动巡逻车辆，这些设备的计算能力和功耗是关键瓶颈[24]。尽管现有的深度学习模型[25]、[26]、[27]、[28]取得了令人印象深刻的性能，但它们通常包含大量参数，导致显著的推理延迟，从而妨碍了实时识别。此外，实际收集的原始I/Q信号经常受到高斯噪声、多径效应和时变信道条件的干扰，因此模型需要在噪声输入下保持鲁棒性[29]。在时间紧迫的低空对抗场景中，延迟和可靠性是控制效果的决定性因素。因此，在显著降低模型复杂性和推理延迟的同时实现高识别精度仍然是一个紧迫的挑战。

当前的主流研究主要集中在从头开始设计新的轻量级网络来提高识别性能[30]、[31]、[32]、[33]。然而，这些方法通常依赖于广泛的架构搜索和手动调优，这既耗时又在不同任务间的泛化能力有限。其他方法试图通过复杂的数据增强或训练策略来提高模型的鲁棒性，但这些方法并没有从根本上减轻模型参数或推理成本的负担。总体而言，大多数现有方法都是为特定场景量身定制的，缺乏适用于主流架构的通用模型压缩框架。这一限制导致了高昂的成本和工程部署及模型迁移的重大障碍。

为了解决这些挑战并避免手动设计的难度，我们提出了HSCP（分层谱聚类剪枝）。这是一种通用且高效的方法，可以在不改变整体架构的情况下显著减少参数和延迟。与从头开始设计新网络的方法不同，我们的方法直接在现有的预训练模型上工作。它可以适应许多常见的架构，如ResNet[34]、ShuffleNet[35]和MobileNet[36]。具体来说，HSCP采用从粗到细的步骤进行操作。在第一阶段，我们利用基于CKA相似性的谱聚类来识别并移除冗余层。随后，我们将这种统一分析扩展到信道维度以消除更细微的冗余。为了确保模型在噪声条件下的强度，我们在微调阶段添加了随机高斯噪声。这使得剪枝后的模型在不同噪声水平下仍能保持高精度。与构建新模型相比，我们的方法同时使用预训练网络进行压缩和加速，从而减少了工程工作，加快了边缘设备的部署，并为无人机态势感知提供了有用的解决方案。

总结来说，本文做出了以下贡献：

•

分层谱聚类剪枝实现：我们提出了HSCP，这是一种分层谱聚类剪枝框架，结合了层剪枝和信道剪枝。具体来说，在第一阶段，HSCP使用CKA引导的谱聚类来剪除冗余层。在第二阶段，它将相同的分析策略应用于信道维度以消除更细微的冗余。这种方法系统地降低了模型复杂性，同时保留了原始网络的容量。

•

抗噪声微调策略：在复杂的无线环境中部署时，由于信号干扰和噪声，剪枝模型的性能会下降。为了解决这个问题，我们引入了抗噪声微调策略，通过Mixup增强技术生成虚拟样本来提高模型的泛化能力，确保剪枝模型即使在低信噪比环境下也能保持高识别精度。

•

通用性和有效性验证：

广泛的实验表明，HSCP在UAV-M100数据集和3种主流架构（ResNet、MobileNet、ShuffleNet）上的性能优于现有的剪枝方法，并在参数、压缩率和检测精度之间取得了最佳平衡。值得注意的是，与最先进的基线相比，我们的方法表现出更好的鲁棒性和通用性。

在本文的其余部分，我们首先在第2节回顾相关工作并介绍先验知识。第3节详细介绍了剪枝框架。第4节进行了实验评估和分析，第5节给出了结论。

部分片段

无人机识别

无人机识别因其对空域安全和监控的支持而受到广泛关注。最近的研究探索了多种感知模式，包括视觉、雷达和射频（RF）信号。基于视觉的方法利用深度学习进行无人机检测和跟踪。然而，在遮挡或光照不足的情况下，它们的性能会显著下降[37]。基于雷达的方法利用微多普勒特征来区分无人机类型，一些工作对此进行了改进

数据处理

在输入神经网络之前，原始的I/Q数据需要进行预处理。在数据收集过程中，使用USRP X310捕获了无人机RF信号，并以IQ格式存储。整个预处理流程如图1所示。

数据集描述

数据集[64]包含来自七架相同的DJI M100无人机的RF信号，这些信号是在RF无回声室中使用Ettus USRP X310和UBX 160子板捕获的。每架无人机分别在距离接收器6英尺、9英尺、12英尺和15英尺的距离处飞行，并在10 MHz下行链路频道上传输信号。在每个距离处，信号以4秒的间隔收集了4次，每次间隔10秒。每次收集的数据被分为140个不重叠的数据序列，从而形成了一个更大的数据集

结论

在本文中，我们提出了HSCP，这是一种分层谱聚类剪枝框架，它结合了层剪枝和信道剪枝，以实现极端的压缩比、高性能和高效的推理。具体来说，HSCP包括两个阶段。在第一阶段，基于CKA相似性的谱聚类应用于层表示以实现层剪枝。然后，统一的谱分析策略利用信道相似性来诊断冗余并移除这些冗余

CRediT作者贡献声明

王茂宇：方法论、软件、形式分析、可视化、撰写 - 原始草稿；卢瑶：概念化、撰写 - 原始草稿、监督、撰写 - 审稿与编辑；周博：监督、撰写 - 审稿与编辑；陈壮志：监督、撰写 - 审稿与编辑；林云：监督、资源提供、撰写 - 审稿与编辑；轩琦：监督、资源提供、撰写 - 审稿与编辑；桂冠：监督、资源提供、撰写 - 审稿与编辑；

利益冲突声明

作者声明他们没有已知的可能会影响本文报告工作的竞争财务利益或个人关系。