综述：智能代理AI与可解释CADx：临床癌症诊断领域的趋势、方法及新兴方向

《ARCHIVES OF COMPUTATIONAL METHODS IN ENGINEERING》：Agentic AI and Explainable CADx: Trends, Methods, and Emerging Directions in Clinical Cancer Diagnosis

　　

摘要

临床决策支持系统正越来越多地与人工智能相结合，这提升了诊断的准确性及工作效率。然而，许多深度学习模型的透明度问题仍制约着临床领域的信任度与责任界定。因此，可解释人工智能成为了一个重要的研究领域，旨在让基于人工智能的诊断系统更具可解释性且更符合临床需求。近期，代理型人工智能作为一种通过多步骤推理、工具运用以及基于工作流的决策支持来改进现有诊断流程的可行方案，受到了广泛关注。本综述系统地分析了可解释人工智能在计算机辅助诊断中的应用发展、相关方法及其临床价值，重点探讨了基于生物医学影像和生理信号的癌症诊断领域，并分析了代理型人工智能在未来临床应用中的潜力。研究涵盖了2015年至2025年的1,472篇相关文献，明确了该领域的知识架构，确定了核心研究来源，同时总结了MRI、CT、超声、脑电图和心电图等应用场景中在可解释性方面的发展趋势。研究结果表明，由于人们对可靠、可临床应用的人工智能需求不断增加，2023年之后基于可解释人工智能的计算机辅助诊断研究发展迅速。不过，一些问题依然存在，包括数据集的异质性、模型泛化能力有限、验证与报告流程不统一、对解释质量的评价标准不一，以及临床医生对这类系统的信任度不稳定。文章认为，代理型人工智能可通过提供适应性强、能感知工作流需求的支持来提升计算机辅助诊断的可解释性，而目前的这类系统仍属于研究原型，尚未成为经过临床验证的决策支持工具。本研究为可解释人工智能在计算机辅助诊断中的应用提供了极具批判性且方法论严谨的分析视角，同时也为开发透明、稳健且具有临床可信度的诊断人工智能系统指明了发展方向。