专栏名称: AI科技评论
「AI科技评论」是国内顶尖人工智能媒体和产业服务平台,专注全球 AI 业界、学术和开发三大方向的深度报道。
目录
相关文章推荐
51好读  ›  专栏  ›  AI科技评论

深度学习黑盒可视化指南,从隐藏层开始

AI科技评论  · 公众号  · AI  · 2020-02-18 12:30

正文

请到「今天看啥」查看全文



三、隐藏层内部到底是怎样的?

我们回到网络的基本构建模块——神经元。神经元的各层构成了复杂、性能最佳的神经网络。但问题是,每个神经元学到了什么?是否可以捕获在任意特定的时间上的网络图像并查看每个神经元的行为?俗话说“一图胜千言”,现阶段所需要的就是可视化。
在最近的项目中,Tensorflow.js的合著者之一Daniel Smilkov和谷歌大脑团队的Shan Carter共同创建了一个神经网络训练场(  Playground),旨在通过让用户与其进行交互和实验来可视化隐藏层。
The Tensorflow Playground
有趣的是,我们在给机器学习建立更好的模型过程中,得到了关于大脑运作方式的新信息。处理和可视化隐藏层是开始此过程的好方法,同时也让更多的人能够理解深度学习这一概念。
当你对Tensorflow Playground的感受从玩的很开心转换到厌烦时,你就可以加入我们,来学习如何亲自构建可视化。

四、深入深度学习

让我们先来了解下 Keras可视化工具包(Keras-vis),这是一个用于可视化和调试训练过的神经网络的高级开发库。
我们使用在ImageNet 数据集的子集上经过训练的VGG16网络的预训练权重,ImageNet 数据集由120万张手工标注的图像组成,属于1/1000的预定义类。

这让我们可以深入地了解使用的层的类型、过滤器大小、可训练的参数等。请注意,由于池化层不可训练,因此该层有0个参数。最大池化层通过选择窗口中的最大值来减小输入的大小,并且此过程不涉及任何权重更新。
如果我们要将一个“图像分类问题”的输出层可视化为一个图像,那么我们需要将输出层的激活函数转换为线性函数而不是softmax函数。了解一种检索与模型各层关联的配置参数和权重的方法,会派上用场。






请到「今天看啥」查看全文