反事实扩散模型为病理学中的人工智能模型提供可解释的说明 开放获取

《Cancer Research》：Counterfactual Diffusion Models Provide Interpretable Explanations of Artificial Intelligence Models in Pathology Open Access

　　

摘要

深度学习能够从组织病理学全切片图像中提取具有预测和诊断价值的生物标志物。然而，在数字病理学中广泛使用的可解释人工智能方法，如注意力热图和类别激活映射，只能有限地揭示与分类器输出相关的图像特征。在此，我们开发了MoPaDi（形态学组织病理学扩散模型），这是一种用于为组织病理学图像生成反事实解释的框架，有助于识别与模型预测相关的形态学或染色相关特征。MoPaDi将扩散自编码器与针对特定任务的多个实例学习分类器相结合，通过修改与分类器相关的特征来调整图像并改变预测结果。该框架在涵盖结直肠癌、乳腺癌、肝癌和肺癌的多个数据集上进行了测试，应用场景包括组织类型、癌症亚型以及生物标志物（微卫星不稳定性）的分类。MoPaDi生成的反事实组织病理学图像在视觉上十分真实，有助于病理学家识别与模型预测变化相关的形态学特征，从而补充数字病理学中對高关注区域的常规分析。在微卫星不稳定性状态预测任务中，MoPaDi识别出了与分类器预测相关的形态学特征，包括黏液分化、腺体结构改变以及淋巴细胞浸润，这些结果与先前的研究一致。将与染色相关的特征与形态学相关特征分开分析后发现，在此情况下，预测变化主要与形态学方面的改变有关，而非染色方面的变化。总体而言，MoPaDi是一种实用的计算病理学反事实解释框架，有助于评估模型特定的决策依据并辅助假设的生成。