正文
CNN 与 DeconvNet
设定好 DeconvNet 后，如果对 CNN 网络的某一个激活元感兴趣，只需保留该单元而把其它单元设为 0 值后提交给 DeconvNet。DeconvNet 进行反池化，非线性化，去卷积化等操作，每一层 DeconvNet 重复此操作后直至到达最初的像素空间。
CNN 隐藏层的可视化
该图展示了 CNN 在 ImageNet 训练后得到的模型中每一层 CNN 中最强的激活特征单元（灰度图片），以及该激活单元通过 DeconvNet 后生成的像素图（彩色图片）。通过 DeconvNet 可以非常清楚的理解每一层 CNN 的作用。
通过 DeconvNet 分析得出，CNN 第一层训练学习的是以“边”为单位的基本元，第二层学习了“角”，“圆”等其他图像元，之后的第三层则开始学习复杂图案，而且会把相似的图案归类到一起。限于篇幅的原因后面更深的 CNN 层图片就不放出了，通过 DeconvNet 可以分析出 CNN 第四层开始出现物体的特征，比如“狗的脸部”，“鸟的腿部”等，第五层开始出现整个物体，以及物体的不同姿势和形态。
DeconvNet 清楚的证明了 CNN 高效的学习能力：通过学习图像中物体从小至大的特征而归纳出物体的整体特征。由此得出结论 CNN 网络中海量的内部隐藏特征元并不是随机或者不可解释的。该结论极大的增加了使用者对于 CNN 模型的理解，从而进一步信任模型的结果。DeconvNet 技术除了可以观察解释 CNN 内部结构外，还可以用来排除模型建立和调试时遇到的问题，以及通过分析内部结果来得到更好的模型。研究表明 CNN 模型一大优势就是预测精确度与内部隐藏层的局部结构有很强的关联。
除了从 CNN 内部结构着手的 DeconvNet，图案和区域生成法也是有效的模型可视化手段。通过进行数值优化技术来生成图案，CNN 预测的结果可以被更好的可视化并带有解释性。以常见的图像分类问题来举例，CNN 在大量图像数据集上训练得出一个分类器模型：给定的一张图像会被标注为一个或多个类别，比如一张猫的照片会标记为猫或某种猫。对于一个特定的标注类，图案生成法通过数值优化生成可以表述为 CNN 分类分数的图像，也就是把 CNN 理解分类的过程给“画”了出来，如下图所示。
CNN 所理解的：洗衣机，键盘，狐狸，鹅，鸵鸟，轿车
从生成的图像中可以看出 CNN 对于图像分类的判断与人对图像的判断有一定的相似之处，物体的部分特征可以表述出来。但是 CNN 又学会了自有和特有的判定条件，而有一些条件从人类的角度上来看可能是显而易见的错误，比如上图中鹅有多于两条腿等。通过图像生成可视化可以帮助理解 CNN 模型，从而进行更好的排错和优化。
图像生成法的另一类应用是图像的区域识别。区域识别是图像识别应用中广泛需求的技术，在安防人脸识别，自动驾驶环境识别等应用中是识别准确的关键步骤。图像生成法先建立 CNN 分类与图像空间的映射关系，通过反向梯度传导来更新映射关系中的权重，最终得到一个完整的类显著映射集。给定一个 CNN 指定分类和原始输入图像，该映射集可以生成特征图案。
映射集生成灰度图案，白色部分是 CNN 标注的显著区域
利用单次反向梯度传导就可以快速得到上图中的映射集，从而可以显示出 CNN 判断分类的特征和区域。比如通过生成法可以理解 CNN 学习的过程同时包含从图像中找到小狗的位置，并加以判断这是一只小狗。用生成法产生的映射集可以进一步结合 GraphCut 颜色分割技术来进行图像区域识别和物体分割。 通过生成法产生的映射集划定了图像的大体边界，加上颜色分割技术的细节修正可以快速高效的识别物体区域。
原图（左）映射生成图（中 1 中 2）产生分割图（右）
生成法利用 CNN 分类模型实现了区域识别。原图中的物体不仅被标识为正确类别，同时也标注出物体的区域和边界。整个过程又可以通过映射集可视化。
