有助于了解一张图像的哪一部分让卷积神经网络做出了最终的分类决策。 通用的技术： * **类激活图**（CAM，class activation map）可视化，它是指对输入图像生成类激活的热力图 * 类激活热力图是与特定输出类别相关的二维分数网格，对任何输入图像的每个位置都要进行计算，它表示每个位置对该类别的重要程度 ### **具体实现方式** > Grad-CAM: visual explanations from deep networks via gradient- based localization-论文 > * [ ] 给定一张**输入图像**，对于一个**卷积层**的输出**特征图** * [ ] 用类别相对于通道的梯度对这个特征图中的**每个通道进行加权** “每个通道对类别的**重要程度**”对“输入图像对不同通道的**激活强度**”的空间图进行**加权**，从而**得到**了“输入图像对类别的激活强度”的**空间图**。