分层渐进融合：一种用于点云深度神经网络的新型可解释性方法

《Pattern Recognition Letters》：Hierarchical Progressive Fusion: A Novel Explainability Method for Point Cloud Deep Neural Networks

　　

Bo Ding|Yang Zhao|Guangzhen Li|Jun Zhou|Yongjun He

摘要

深度神经网络在3D点云理解方面取得了显著的性能提升，但其决策过程仍然难以解释。现有的可解释性方法主要针对图像设计，不适用于不规则、稀疏的点云数据。在点云网络中，最远点采样（Farthest Point Sampling, FPS）破坏了深度特征与原始输入之间的对应关系，导致空间不一致性。一些现有方法在解释过程中通过移除点云中的点来改变原始数据，这进一步破坏了输入数据的一致性。我们提出了分层渐进融合（Hierarchical Progressive Fusion, HPF）算法，该算法逐步融合多级梯度和激活值，并将其投影回原始输入空间，以实现空间一致性。此外，HPF仅需进行一次前向和后向传播即可生成热图，从而保证输入数据的一致性。而且，HPF作为一种即插即用的工具，不会修改点云网络的架构。在ShapeNet-Part和SUN RGB-D数据集上的实验表明，HPF能够为点云模型提供准确且有效的解释结果。代码可在以下链接获取：https://github.com/perfect979/HPF.