综述：基于神经网络的代码语义对齐在软件工程中的应用：三视角框架、三维评估方法及工业应用

《Neurocomputing》：Neural network-driven code semantic alignment for software engineering: Three-perspective framework, three-dimensional evaluation, and industrial adaptation

　　海泽·胡 | 子琪·张 | 精·吴 | 娜雪·熊 | 杰罗姆·叶
广西师范大学计算机科学与技术学院，桂林市启兴路，541004，广西，中国

**摘要**
为了系统地阐明代码语义对齐的技术现状及其理论实践价值，本文对2023年至2025年间发表的113篇高质量研究进行了全面调查。以“基于神经网络的代码语义对齐优化”为核心，我们提出了一个三视角分类框架：“对比学习（区分性表示）+ 结构建模（逻辑捕获）+ 大语言模型（LLM）协作（语义增强）”，并系统地剖析了12个技术分支的演变背景和核心优化逻辑，包括难负样本挖掘、多视图学习、基于抽象语法树（AST）的图神经网络（GNN）嵌入、多图融合以及LLM辅助的查询扩展。我们建立了一个整合“有效性-效率-鲁棒性”的三维评估体系，并辅以软件工程特定指标（兼容性相关性、可维护性对齐），以定量评估15种代表性方法在主流数据集（CodeSearchNet、CoSQA+、智能合约数据集）上的表现。此外，我们深入分析了技术和应用层面的核心挑战：专业领域中的资源匮乏适应瓶颈、跨场景（跨领域/跨语言）的语义迁移障碍、准确性-效率-可解释性之间的三角平衡困境，以及学术研究与工业工具链整合之间的脱节。最后，从六个方面展望了未来的研究方向：三视角方法的深度协同、LLM与任务特定模型的协作、动态语义建模、可解释的对齐增强、资源匮乏/跨场景优化以及工业级工具链的适配。对这113项研究的主题和时间顺序分析揭示了该领域从“独立技术发展”到“对比学习与结构建模的深度整合”的演变过程。本文阐明了代码语义对齐的技术逻辑和研究热点，为研究人员和工程师提供了系统性的参考，以促进理论创新与实际工业应用的结合。

**引言**
代码搜索的核心工作流程围绕“查询-匹配-检索”范式展开，其本质是通过模型建立自然语言查询与代码库中目标代码之间的语义关联，最终实现准确的排名和高效检索。详细的工作流程如图1所示。在开源生态系统扩展和敏捷协作的背景下，代码搜索已成为贯穿软件生命周期的核心技术[4]。GitHub托管了超过2亿个开源项目，企业遗留系统的数量也在迅速增加。传统的关键词搜索浪费了40%的开发时间，导致代码冗余和维护成本增加[15]。高质量的语义搜索可将代码复用率提高30%以上，并将遗留系统的维护成本降低25%[113]，同时边缘计算和企业发展需求轻量级、低延迟的模型[18]；它在ADC精度校准等专业领域也显示出潜力[114]。

从学术角度来看，代码搜索整合了跨模态表示学习、程序理解和图结构数据建模，解决了自然语言描述与严格代码结构之间的语义一致性问题，推动了神经网络理论（对比学习、GNN嵌入[55]）的发展，并有助于代码生成和修复。学术界与工业界的合作形成了良性循环：工业界的痛点指导理论方向，而神经网络创新[5]则支持实际应用——巩固了代码语义对齐作为理论与实践之间的桥梁。

语义对齐是代码搜索的根本瓶颈，源于自然语言功能描述与严格代码逻辑实现之间的内在差异，以及现有表示和匹配机制的局限性[12]。这种“语义差距”在遗留系统维护（未注释的过时代码）和多语言协作（语法差异掩盖功能等价性）等场景中尤为明显，未能捕捉到功能等价性可能导致冗余开发和潜在错误。三个关键问题阻碍了有效对齐：
(1) 语义表示不足：传统方法依赖于浅层特征，忽略了控制流、数据流和功能逻辑语义——邓、徐、刘等人（2024）的研究指出，命名/格式不一致性阻碍了跨团队协作。
(2) 多样且不完整的代码结构：不完整的查询或结构变异的代码挑战了语法搜索[61]，特别是在需要特定语义捕获的安全约束和领域规则的专业场景（例如智能合约）中。
(3) 结构建模与语义建模之间的脱节：纯结构匹配可能会将语法相似但功能不同的代码混淆，而以文本为中心的模型则忽略了结构上不同但等价的代码[55]，降低了复用效率。Khan等人[38]将代码搜索定义为翻译检索，但仍难以解决跨模态语义一致性问题。

2023年至2025年间，神经网络彻底改变了代码搜索中的语义对齐，主要趋势包括优化的对比学习变体、LLM集成、多模态/多任务协作、增强的样本挖掘和多模态动量对比[5]。这些趋势共同解决了细微语义区分、表示一致性和查询模糊性等核心挑战，推动该领域从“独立技术探索”发展到“区分性表示与逻辑捕获的深度整合”[55]。代表性创新包括用于细粒度语义区分的软对比学习、用于更清晰决策边界的难负样本挖掘、用于跨任务协作的多任务对冲框架，以及用于解决模糊性的LLM驱动的查询重写——为可靠高效的代码搜索系统奠定了基础，这些系统架起了学术创新与工业应用之间的桥梁。Di Grazia等人[92]的全面调查总结了2023年之前的代码搜索技术，指出了传统范式的局限性。这些方法通过基于关键词、基于结构和基于信息检索（IR）的路径不断发展，为语义对齐奠定了基础，但未能满足现代软件工程的精确性和效率要求。

**基于关键词的方法**：通过字符串匹配（例如TF-IDF）提取关键词以匹配代码元素，被Google Code Search采用[104]。核心局限性包括：严重依赖注释/命名质量[102]、无法捕捉上下文/功能语义[64]，以及在大规模代码库中的效率低下[28]。
**基于结构的方法**：将代码解析为AST/CFG/DFG以进行结构相似性匹配（例如CodeMatch）[39]，适用于重构和错误修复[89]。核心缺点包括：高结构图构建成本[105]、“结构相似但功能不同”[91]，以及开发者输入负担重[41]。
**基于IR的方法**：结合文本处理（例如词嵌入）和结构提取将代码向量化，通过TF-IDF/LSI捕捉隐含语义（例如Sourcerer [68]）。核心局限性包括：多维语义编码不完整、难以区分功能等价但语法不同的代码[83]，以及领域特定适应性差[1]。Phan等人[65]尝试通过统计机器翻译进行改进，但未能解决结构-语义脱节问题。这些传统范式支持后续的发展，但无法弥合复杂代码搜索场景中的深层语义差距。

现有调查采用“基于列表”的叙述方式，仅按时间顺序或技术分类列举12-15种代表性方法，而没有深入分析神经网络驱动的代码搜索优化背后的演变逻辑。它们未能阐明核心优化路径之间的理论继承和技术推导，使研究人员无法理解技术进步的内在驱动力。

在语义对齐增强这一核心技术方向上，现有综述仅简要提及多模态融合和难负样本挖掘，而没有剖析其迭代演变过程。例如，难负样本挖掘已从随机采样发展到基于相似性的筛选和顺序增强的子集构建，每次迭代都解决了模型无法区分“功能相似但语法不同”样本的问题。关于多模态融合，当前调查忽略了从浅层特征连接向深度跨模态注意力交互的转变，以及其与代码结构图（例如AST/DFG）的集成以补偿语义损失。此外，现有工作缺乏对技术瓶颈和解决方案路径的比较分析，没有探讨为什么后来的技术取代了早期的技术，也没有总结不同优化方向中的共同挑战（例如语义编码中的数据质量依赖性、结构融合中的计算复杂性限制）。这种表面的呈现方式阻碍了新研究人员建立系统的知识框架，并阻碍了深入的技术继承和创新。

大多数现有调查发表于2023年之前，仅涵盖了CodeBERT和GraphCodeBERT等传统神经网络模型，忽略了2024-2025年的突破和代码搜索范式的转变——因此无法反映当前的研究现状。

**核心模型创新**：现有综述未涉及OASIS和HedgeCode等代表性方法。OASIS提出了一种顺序增强策略，从CodeSearchNet数据中构建难负子集以增强功能组件的区分度，在Python代码搜索任务中实现了5.35%-5.46%的MRR提升。HedgeCode将动量对比学习与代码结构特征相结合，有效解决了长代码片段中语义捕获不足的问题。

**技术范式演变**：现有综述忽略了从“静态检索”到“动态推理”的转变。新兴的智能代理搜索范式（LocAgent、OrcaLoca、SWE-Agent）取代了传统的“查询-响应”模式——这些智能代理驱动的方法自主规划搜索路径，在代码依赖图上进行多跳推理，并实现迭代的“搜索-分析-研究”循环，显著提高了复杂任务导向的搜索效率。此外，现有调查忽略了结合对比学习和结构建模的显著趋势。这一趋势将对比学习的全局语义捕获与代码图的局部结构感知相结合，有效弥合了自然语言查询与代码逻辑之间的语义差距，已成为核心研究方向。

对8项代表性现有调查的统计分析显示，它们的评估指标体系严重碎片化且不完整，无法满足现代代码搜索的全面评估需求。大多数调查仅关注有效性指标，阻碍了客观的技术比较和进展积累。Sun等人[79]的调查指出指标碎片化问题——8项指标中有6项仅报告基本有效性指标（MRR、NDCG），2项补充了部分效率指标（例如检索延迟），但没有深入分析其与有效性的权衡。没有指标包括鲁棒性指标（例如在噪声查询下的性能、低资源语言下的性能）或关键的软件工程特定指标（兼容性相关性、可维护性对齐、可扩展性）。

**评估方法**：现有调查采用单一数据集验证（主要是CodeSearchNet），忽略了不同场景下的评估结果差异（例如通用与特定领域如智能合约）。它们还缺乏评估协议的比较分析（例如排名/相似性计算方法的影响）。这种不完整的体系导致基准测试标准不一致，难以客观衡量方法的实际价值，限制了该领域的健康发展。

本研究聚焦2023-2025年间基于神经网络的代码语义对齐的先进进展，涵盖了跨模态匹配机制、技术创新路径和评估体系。为了全面性和权威性，我们使用“代码语义对齐”、“用于代码搜索的对比学习”和“用于软件工程的LLM”等关键词，从ACM数字图书馆、IEEE Xplore和arXiv（cs.SE、cs.CL、cs.AI）系统地检索了327篇文献。排除146篇不相关和68篇不完整的文献后，保留了113篇高质量文献作为核心分析基础。

选定文献的分布如下：
(1) 按年份：2023年38篇（33.6%），2024年45篇（39.8%），2025年30篇（26.5%）；
(2) 按类型：62篇会议论文（ICSE、ACL等），32篇期刊文章（TSE、TOIS等），19篇arXiv预印本；
(3) 按主题：47篇关于对比学习，42篇关于结构建模，24篇关于它们的集成；特定场景的研究包括19篇关于资源匮乏适应，15篇关于跨语言/跨领域迁移，12篇关于工业级优化。这种分布反映了该领域从“独立发展”到“深度整合+场景适应”的演变过程。

文献筛选遵循四个严格标准：
(1) 主题相关性：专注于神经网络驱动的语义对齐，排除传统的基于规则/统计的方法；
(2) 技术完整性：要求完整的技术框架、实验设计和结果；
(3) 及时性：发表于2023年1月至2025年12月之间；
(4) 权威性：优先考虑顶级会议（ICSE、ACL、NeurIPS）、权威期刊和核心预印本平台。

与现有综述的泛化视角不同，本研究聚焦“软件工程任务的语义对齐优化”，构建了一个双视角分类系统：“对比学习（区分性表示）+ 结构建模（逻辑捕获””，细分为8个技术分支[55]。该框架通过剖析内部机制并将其与软件工程需求联系起来，深入解释了神经网络驱动的语义对齐在代码重用、遗留系统维护和跨语言协作等实际场景中的应用。

从对比学习的角度来看，重点在于优化区分性表示以区分细粒度语义（对于开源代码重用等任务至关重要）。其四个分支包括：
(1) 软对比学习：动态调整损失函数权重/温度参数，逐步区分语义相似性，解决样本模糊性问题；
(2) 难负样本挖掘：使用领域适应性筛选（例如跨编码器语义评分）构建具有挑战性的样本对，加强区分边界；
(3) 多任务对冲对比学习：通过联合监督-自我监督训练统一表示对齐，捕捉粗粒度相关性和细粒度差异；
(4) 跨模态对比学习：使用双模态损失函数建模文本-代码语义相关性，缓解跨模态各向异性（例如，区分O(n2)和O(n log n)排序算法，适用于性能敏感的任务）。

从结构建模的角度来看，核心在于捕捉代码的固有逻辑（对于未注释的遗留系统非常有价值）。本文分为四个主要分支：
(1) 基于AST的GNN建模：将抽象语法树（AST）转换为图结构，并根据代码特性调整GNN架构（如GraphSAGE、GAT），例如调整AST节点的邻域采样方式。
(2) 多图融合建模：整合CFG（控制流图）和DFG（数据流图），以全面编码执行逻辑和数据依赖关系。
(3) 异构有向超图神经网络：模拟代码元素之间的非成对相关性，避免高阶结构信息的丢失。
(4) 跨模态结构对齐：通过注意力驱动的投影层，弥合文本查询与代码结构之间的差距。
这一双视角系统反映了2023-2025年的核心技术趋势（即区分性表示与逻辑捕获的结合），并实现了从“技术分类”到“机制解释”的突破。与仅列举方法的现有综述不同，本文通过神经网络设计细节揭示了每个分支背后的优化逻辑，为研究人员提供了可操作的技术见解和清晰的进化背景。

**全面文献覆盖**：113篇高质量研究（2023-2025年）确保了研究的代表性和时效性。采用系统化的检索策略，涵盖了顶级会议、权威期刊和核心预印本平台，包括62篇会议论文、32篇期刊文章和19篇预印本，涵盖了基础性突破、深入验证和前沿方向（如轻量级模型优化、跨模态结构对齐）。通过纳入顶级会议（如ICSE、ACL、TSE）和新兴预印本，避免了片面性。

**精细的技术分类**：该双视角系统（“对比学习+结构建模”）将技术分支细分为8个清晰的部分，并通过核心优化逻辑（如对比学习中的“软对比学习”与“硬负样本挖掘”；结构建模中的“基于AST的GNN建模”与“多图融合建模”）明确了技术差异、适用场景和进化背景，提供了精确的技术框架。

**定量评估系统**：结合“有效性-效率-鲁棒性”及“软件工程特定指标”，填补了评估体系的空白。构建了三维评估矩阵，并补充了两个专业指标（兼容性相关性、可维护性对齐），采用标准化指标（NDCG、MRR [101]）评估有效性，量化效率指标（训练/推理时间、内存占用），并引入了针对软件工程的鲁棒性指标（如在旧代码语法下的性能下降 [71]）。该系统能够对113项研究中的15种方法进行客观基准测试，解决了评估标准不一致的问题，为研究人员提供了可操作的参考，并为工程师提供了统一的框架，实现了理论与实践的结合——符合CSUR的使命。

本文共7章，遵循“基础-方法-评估-挑战-展望”的逻辑结构：
第2章概述了神经网络驱动的语义对齐的技术基础和进化背景；
第3章构建了“对比学习+结构建模”的双视角系统（8个技术分支）并探讨了核心方法和优化逻辑；
第4章梳理了2023-2025年的主流数据集，并建立了三维评估体系（有效性-效率-鲁棒性）；
第5章从技术和应用角度分析了语义对齐的核心挑战；
第6章提出了6个结合最新技术趋势和现有问题的未来研究方向；
第7章总结了本文的核心贡献并展望了该领域的发展。

**代码-文本语义匹配的定义与目标**
代码-文本语义匹配旨在建立自然语言查询（如“实现快速排序”）与源代码片段之间的功能等价映射，具有三个核心目标：
(1) 召回率（检索所有功能匹配的代码片段）；
(2) 精确度（过滤无关代码段）；
(3) 效率（确保大规模代码库的实时检索）。

**分类基础：神经网络优化逻辑与语义对齐目标**
本文分类体系的核心在于神经网络如何解决语义对齐的关键问题，涵盖三个互补的技术方向：
(1) 对比学习通过“样本交互”优化共享嵌入空间，从而解决“模糊的语义表示”问题，增强跨模态表示的区分能力，区分查询之间的细微功能差异。

**主流基准数据集的详细分析**
基准数据集是方法验证和性能比较的基础，其质量直接影响评估结果的可靠性。根据应用场景的覆盖范围，主流数据集可分为通用数据集（适用于通用代码搜索任务）和特定场景数据集（针对区块链、跨语言开发等专业领域）。

**代码搜索技术的关键挑战与应用瓶颈**
神经网络驱动的代码语义对齐在通用场景中取得了显著进展，但在复杂软件工程环境中的实际应用仍受多维度挑战的限制。这些挑战源于技术实现限制（如表示能力不足和传输机制效率低下）以及学术研究与工业需求之间的不匹配。

**领域特定场景中的泛化差距**
尽管通用代码搜索模型在标准基准测试中取得了显著进展，但在特定领域中的适应性和有效性仍是一个关键挑战。为了评估这些模型的泛化能力，我们将研究范围扩展到了两个代表性领域：智能合约和科学计算。然而，现有文献表明，这些领域的专门研究仍处于起步阶段。

**结论**
本文基于2023-2025年间发表的113篇高质量研究，系统地探讨了神经网络驱动的代码语义对齐的技术现状、核心挑战和发展趋势。以“弥合自然语言查询与代码之间的语义差距”为核心目标，本文构建了统一的理论框架，进行了定量性能基准测试，并提出了针对性的未来发展方向。

**作者贡献声明**
胡海泽：撰写初稿、数据整理；
张子琪：撰写初稿；
吴静：方法论设计、资金获取；
熊乃雪：验证工作；
叶杰罗姆：验证工作、形式分析。

**利益冲突声明**
作者声明没有已知的可能影响本文工作的财务利益或个人关系。

**致谢**
本研究得到了广西人工智能研究院和广西高等教育机构中青年教师科研能力提升计划（编号2025KY0098）的支持。
胡海泽于2024年获得湖南科技大学博士学位，现任广西师范大学计算机科学与工程学院讲师，研究方向包括工业代码搜索、算法优化和数据特征提取（电子邮件：[e-mail]）。