用时间定位聚类解释心电图的深度学习应用

《IEEE Transactions on Biomedical Engineering》：Explaining deep learning for ECG using time-localized clusters

　　

摘要：

目的：深度学习提升了心电图（ECG）的分析能力，但其结果仍难以解读，这限制了其在临床中的应用以及人们对电生理特性的了解。我们提出了一种用于解释应用于心电图的卷积神经网络（CNN）的后处理方法。方法：该方法对1D-ResNet最后三个残差块的特征激活值进行聚类，将每段心电图分割成一系列簇，并通过计算分配熵来表示每个时间点的不确定性。该方法在PTB-XL超类分类任务上进行了10折交叉验证测试，在CODE-15%年龄回归任务上也进行了测试。结果：簇的比例与预测标签相关，且与P/QRS/T/TP等心电信号特征点一致。基于这些簇比例训练的随机森林模型在94.9±0.5%的准确率上能够再现CNN的预测结果，其准确率和AUROC值也与真实标签的对应值相当（分别为88.2%和88.4%；在另外两个指标上分别为79.6%和81.4%。编码器的不确定性曲面反映了与类别相关的表征稳定性，这是Grad-CAM无法显示的。结论：基于时间定位的簇能够从CNN的激活值中恢复出与生理结构相符的信息，并准确概括编码器的区分信息。意义：该方法是一种轻量级的后处理工具，可用于评估基于CNN的心电图模型，从而发现标签质量方面的问题。