Eugenio Culurciello的神经网络结构解析(Part 2)

正文

请到「今天看啥」查看全文

GoogLeNet及Inception系列模型

Google实验室的Christian Szegedy开始了一系列致力于降低深度学习模型的尝试(例如VGG)的计算压力，这一系列尝试的第一篇文章就是Going Deeper with Convolutions。
( https://arxiv.org/abs/1409.4842 )

截止2014年秋天，深度学习模型在图片以及视频帧内容的分类里已经取得了极大进展，大部分对深度学习和神经网络的质疑也基本上偃旗息鼓了。鉴于这类技术取得的巨大成功，像Google这样的科技巨头开始探索这类模型结构在他们服务器集群上的高效以及大规模部署。

Christian思考了很多方法来降低计算压力，同时还能保持最好的分类效果；或者能够在同样的计算资源下，可以获得更好的图像处理效果。

他以及他在Google的组提出了Inception模型：

这个模型第一眼看起来，基本上是一个对1x1，3x3以及5x5卷积滤波器的并行归并，但是Inception模型一个最重要的直觉，是在于通过使用1x1卷积滤波器(NiN)来大大减少了在并行模块前的大量特征，这一思想一般我们称之为”bottleneck”, 关于这一思想，我们会在Bottleneck Layer这一章节来详细介绍。

GoogLeNet使用了一个不包含Inception模块的主干来作为初始层，然后使用了类似NiN的平均pooling以及softmax分类器的结构。这一模型相比于AlexNet以及VGG，也是属于使用了极少的可训练参数的模型之一，具体的细节可以参见我们的论文： https://arxiv.org/abs/1605.07678

Bottleneck Layer

请到「今天看啥」查看全文