摘要
人工智能在医疗领域展现出巨大潜力，应用范围涵盖先进的诊断技术、临床决策支持以及个性化医疗等。尽管取得了这些进展，但复杂的人工智能模型往往具有难以理解的“黑箱”特性，因此需要运用可解释人工智能技术来确保其透明度、可问责性、可解释性以及符合监管要求。本研究系统地梳理了2020年至2025年间发表的76篇将可解释人工智能技术应用于医疗领域的研究论文。研究结果表明，SHAP和LIME这类可解释人工智能模型多用于电子健康记录等结构化数据的应用场景，而Grad-CAM和层序相关性传播算法则主要应用于医学影像分析。与以往的描述性综述不同，本研究还专门探讨了用于评估可解释性的指标，包括真实性、可信度以及合规性等方面。分析显示，虽然可解释人工智能技术能够显著提升临床医生的信任度，但目前的相关解释方法仍存在差异，且大多仅在受控环境及特定基准数据集上适用。阻碍其在临床中广泛应用的关键因素包括不同数据类型之间的可解释性不一致，以及缺乏标准化的评估框架。现有的可解释人工智能技术往往不符合欧盟人工智能法案、美国食品药品监督管理局的指导方针以及健康保险便携性与责任法案等严格的监管标准。本文主张应尽快对可解释人工智能技术的验证方法进行标准化，并设计以人为中心的技术方案，从而实现从单纯追求算法透明性向真正实现其在医院实际应用中的可靠落地。
