HBO-NAS：一种基于类意识的零成本优化方法，用于通过混合繁殖优化算法进行保持多样性的神经架构搜索

《Scientific Reports》：HBO-NAS: class-aware zero-cost fitness for diversity-preserving neural architecture search through hybrid breeding optimization algorithm

　　

摘要

利用进化计算的神经架构搜索（NAS）越来越依赖于“零成本代理”来降低训练候选网络时的高昂计算成本。然而，现有的代理主要旨在最大化分数与准确率之间的相关性，而忽略了维持种群多样性所需的目标函数的结构特性。为了解决这个问题，我们提出了一种具有类别意识的、无需训练的目标函数，该函数利用类内紧凑性和类间可分性来构建一个结构化的框架——一个多模态的适应度景观，从而自然地防止过早收敛。这一能力有效地促进了更广泛的高性能结构的发现。在使用混合繁殖优化算法进行评估时，我们的方法始终表现出优越的优化性能，在DARTS搜索空间中，ImageNet16-120数据集的平均准确率达到了71.18%，几乎与报道的最佳性能架构（准确率为72.00%）相当，同时保持了较高的种群多样性。这些发现表明，研究视角正朝着以搜索为中心的方向转变，在这种视角下，塑造目标函数的结构与排名准确性同样重要，都是发现多样化结构的关键。