CNN经典模型整理Lenet，Alexnet，Googlenet，VGG，Deep Residual Learning,squeezenet

水深无声 2022-06-12 04:37 264阅读 0赞

关于卷积神经网络CNN，网络和文献中有非常多的资料，我在工作/研究中也用了好一段时间各种常见的model了，就想着简单整理一下，以备查阅之需。如果读者是初接触CNN，建议可以先看一看“Deep Learning（[深度学习][Link 1]）学习笔记整理系列”中关于CNN的介绍\[1\]，是介绍我们常说的Lenet为例，相信会对初学者有帮助。

1.  Lenet，1986年
2.  Alexnet，2012年
3.  GoogleNet，2014年
4.  VGG，2014年
5.  Deep Residual Learning，2015年

## Lenet ##

就从Lenet说起，可以看下[caffe中lenet的配置文件（点我）][caffe_lenet]，可以试着理解每一层的大小，和各种参数。由两个卷积层，两个池化层，以及两个全连接层组成。 卷积都是5\*5的模板，stride=1，池化都是MAX。下图是一个类似的结构，可以帮助理解层次结构（和caffe不完全一致，不过基本上差不多）

![这里写图片描述][20151231225627375]

## 对于卷积层，其计算公式为  ![Center][]     其中K表示由L层到L+1层要产生的feature的数量，表示“卷积核”，表示偏置，也就是bias，令卷积核的大小为5\*5，总共就有6\*（5\*5+1）=156个参数，对于卷积层C1，每个像素都与前一层的5\*5个像素和1个bias有连接，所以总共有156\*28\*28=122304个连接（connection）。  对于LeNet5，S2这个pooling层是对C1中的2\*2区域内的像素求和再加上一个偏置，然后将这个结果再做一次映射（sigmoid等函数），所以相当于对S1做了降维，此处共有6\*2=12个参数。S2中的每个像素都与C1中的2\*2个像素和1个偏置相连接，所以有6\*5\*14\*14=5880个连接（connection）。  除此外，pooling层还有max-pooling和mean-pooling这两种实现，max-pooling即取2\*2区域内最大的像素，而mean-pooling即取2\*2区域内像素的均值。  LeNet5最复杂的就是S2到C3层，其连接如下图所示。  ![Center 1][]     前6个feature map与S2层相连的3个feature map相连接，后面6个feature map与S2层相连的4个feature map相连接，后面3个feature map与S2层部分不相连的4个feature map相连接，最后一个与S2层的所有feature map相连。卷积核大小依然为5\*5，所以总共有6\*（3\*5\*5+1）+6\*（4\*5\*5+1）+3\*（4\*5\*5+1）+1\*（6\*5\*5+1）=1516个参数。而图像大小为10\*10，所以共有151600个连接。  S4是pooling层，窗口大小仍然是2\*2，共计16个feature map，所以32个参数，16\*（25\*4+25）=2000个连接。  C5是卷积层，总共120个feature map，每个feature map与S4层所有的feature map相连接，卷积核大小是5\*5，而S4层的feature map的大小也是5\*5，所以C5的feature map就变成了1个点，共计有120（25\*16+1）=48120个参数。  F6相当于MLP中的隐含层，有84个节点，所以有84\*（120+1）=10164个参数。F6层采用了正切函数，计算公式为，  ![Center 2][]     输出层采用了RBF函数，即径向欧式距离函数，计算公式为，  ![Center 3][]     以上就是LeNet5的结构。      ##

## Alexnet ##

2012年，Imagenet比赛冠军的model——Alexnet \[2\]（以第一作者alex命名）。[caffe的model文件在这里][caffe_model]。说实话，这个model的意义比后面那些model都大很多，首先它证明了CNN在复杂模型下的有效性，然后GPU实现使得训练在可接受的时间范围内得到结果，确实让CNN和GPU都大火了一把，顺便推动了有监督DL的发展。

模型结构见下图，别看只有寥寥八层（不算input层），但是它有60M以上的参数总量，事实上在参数量上比后面的网络都大。

![这里写图片描述][20160101171955054]

这个图有点点特殊的地方是卷积部分都是画成上下两块，意思是说吧这一层计算出来的feature map分开，但是前一层用到的数据要看连接的虚线，如图中input层之后的第一层第二层之间的虚线是分开的，是说二层上面的128map是由一层上面的48map计算的，下面同理；而第三层前面的虚线是完全交叉的，就是说每一个192map都是由前面的128+128=256map同时计算得到的。

Alexnet有一个特殊的计算层，LRN层，做的事是对当前层的输出结果做平滑处理。下面是我画的示意图：

![这里写图片描述][20160101171421127]

前后几层（对应位置的点）对中间这一层做一下平滑约束，计算方法是：

![这里写图片描述][20160101172019664]

具体打开Alexnet的每一阶段（含一次卷积主要计算）来看\[2\]\[3\]：

（1）con - relu - pooling - LRN

![这里写图片描述][20160102093047427]

具体计算都在图里面写了，要注意的是input层是227\*227，而不是paper里面的224\*224，这里可以算一下，主要是227可以整除后面的conv1计算，224不整除。如果一定要用224可以通过自动补边实现，不过在input就补边感觉没有意义，补得也是0。

（2）conv - relu - pool - LRN

![这里写图片描述][20160102094243914]

和上面基本一样，唯独需要注意的是group=2，这个属性强行把前面结果的feature map分开，卷积部分分成两部分做。

（3）conv - relu

![这里写图片描述][20160102094427439]

（4）conv-relu

![这里写图片描述][20160102094443713]

（5）conv - relu - pool

![这里写图片描述][20160102094450421]

（6）fc - relu - dropout

![这里写图片描述][20160102094500313]

这里有一层特殊的dropout层，在alexnet中是说在训练的以1/2概率使得隐藏层的某些neuron的输出为0，这样就丢到了一半节点的输出，BP的时候也不更新这些节点。   
（7）   
fc - relu - dropout   
![这里写图片描述][20160102094510338]  
（8）fc - softmax   
![这里写图片描述][20160102094517937]

以上图借用\[3\]，感谢。

## GoogleNet ##

googlenet\[4\]\[5\]，14年比赛冠军的model，这个model证明了一件事：用更多的卷积，更深的层次可以得到更好的结构。（当然，它并没有证明浅的层次不能达到这样的效果）

![这里写图片描述][20160102103157778]

这个model基本上构成部件和alexnet差不多，不过中间有好几个inception的结构：

![这里写图片描述][20160102103750597]

是说一分四，然后做一些不同大小的卷积，之后再堆叠feature map。

计算量如下图，可以看到参数总量并不大，但是计算次数是非常大的。   
![这里写图片描述][20160102104027555]

## VGG ##

VGG有很多个版本，也算是比较稳定和经典的model。它的特点也是连续conv多，计算量巨大（比前面几个都大很多）。具体的model结构可以参考\[6\]，这里给一个简图。基本上组成构建就是前面alexnet用到的。   
![这里写图片描述][20160102100136966]

下面是几个model的具体结构，可以查阅，很容易看懂。

![这里写图片描述][20160102104541385]

## Deep Residual Learning ##

这个model是2015年底最新给出的，也是15年的imagenet比赛冠军。可以说是进一步将conv进行到底，其特殊之处在于设计了“bottleneck”形式的block（有跨越几层的直连）。最深的model采用的152层！！下面是一个34层的例子，更深的model见表格。   
![这里写图片描述][20160102105914090]   
其实这个model构成上更加简单，连LRN这样的layer都没有了。

![这里写图片描述][20160102105943475]

block的构成见下图：

![这里写图片描述][20160102110124716]

## 总结 ##

OK，到这里把常见的最新的几个model都介绍完了，可以看到，目前cnn model的设计思路基本上朝着深度的网络以及更多的卷积计算方向发展。虽然有点暴力，但是效果上确实是提升了。当然，我认为以后会出现更优秀的model，方向应该不是更深，而是简化。是时候动一动卷积计算的形式了。

## 参考资料 ##

\[1\] [http://blog.csdn.net/zouxy09/article/details/8781543/][http_blog.csdn.net_zouxy09_article_details_8781543]   
\[2\] ImageNet Classification with Deep Convolutional Neural Networks   
\[3\] [http://blog.csdn.net/sunbaigui/article/details/39938097][http_blog.csdn.net_sunbaigui_article_details_39938097]   
\[4\] [http://blog.csdn.net/csyhhb/article/details/45967291][http_blog.csdn.net_csyhhb_article_details_45967291]   
\[5\] Going deeper with convolutions   
\[6\] VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION

LeNet5

LeNet5 诞生于 1994 年，是最早的卷积神经网络之一，并且推动了深度学习领域的发展。自从 1988 年开始，在许多次成功的迭代后，这项由 Yann LeCun 完成的开拓性成果被命名为 LeNet5（参见：Gradient-Based Learning Applied to Document Recognition）。

![20160907100307_377.jpg][]

LeNet5 的[架构][Link 2]基于这样的观点：（尤其是）图像的特征分布在整张图像上，以及带有可学习参数的卷积是一种用少量参数在多个位置上提取相似特征的有效方式。在那时候，没有 GPU 帮助训练，甚至 CPU 的速度也很慢。因此，能够保存参数以及计算过程是一个关键进展。这和将每个像素用作一个大型多层神经网络的单独输入相反。LeNet5 阐述了那些像素不应该被使用在第一层，因为图像具有很强的空间相关性，而使用图像中独立的像素作为不同的输入特征则利用不到这些相关性。

LeNet5 特征能够总结为如下几点：

卷积神经网络使用 3 个层作为一个序列：卷积、池化、非线性 → 这可能是自从这篇 paper 起图像深度学习的关键特征！

使用卷积提取空间特征

使用映射到空间均值下采样（subsample）

双曲正切（tanh）或 S 型（sigmoid）形式的非线性

多层神经网络（MLP）作为最后的分类器

层与层之间的稀疏连接矩阵避免大的计算成本

总体来看，这个网络是最近大量架构的起点，并且也给这个领域的许多带来了灵感。

间隔

从 1998 年到 2010 年神经网络处于孵化阶段。大多数人没有意识到它们不断增长的力量，与此同时其他研究者则进展缓慢。由于手机相机以及便宜的数字相机的出现，越来越多的数据可被利用。并且计算能力也在成长，CPU 变得更快，GPU 变成了多种用途的计算工具。这些趋势使得神经网络有所进展，虽然速度很慢。数据和计算能力使得神经网络能完成的任务越来越有趣。之后一切变得清晰起来......

Dan Ciresan Net

2010 年的时候，Dan Claudiu Ciresan 和 Jurgen Schmidhuber 发布了最早的 GPU 神经网络的一个实现。这个实现是在一块 NVIDIA GTX 280 图形处理器上运行 9 层的神经网络，包含前向与反向传播。

AlexNet

2012 年，Alex Krizhevsky 发表了 Alexet（参见：ImageNet Classification with Deep Convolutional Neural Networks），它是 LeNet 的一种更深更宽的版本，并以显著优势赢得了困难的 ImageNet 竞赛。

![20160907100307_912.jpg][]

AlexNet 将 LeNet 的思想扩展到了更大的能学习到远远更复杂的对象与对象层次的神经网络上。这项工作的贡献有：

使用修正的线性单元（ReLU）作为非线性

在训练的时候使用 Dropout 技术有选择地忽视单个神经元，以避免模型过拟合

覆盖进行最大池化，避免平均池化的平均化效果

使用 GPU NVIDIA GTX 580 减少训练时间

在那时，GPU 相比 CPU 可以提供更多数量的核，训练时间可以提升 10 倍，这又反过来允许使用更大的数据集和更大的图像。

AlexNet 的成功掀起了一场小革命。卷积神经网络现在是深度学习的骨干，它已经变成了「现在能解决有用任务的大型神经网络」的代名词。

Overfeat

2013 年的 12 月，纽约大学的 Yann LeCun 实验室提出了 AlexNet 的衍生——Overfeat（参见：OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks）。这篇文章也提出了学习边界框（learning bounding box），并导致之后出现了很多研究这同一主题的论文。我相信学习分割对象比学习人工边界框更好。

VGG

来自牛津大学的 VGG 网络（参见：Very Deep Convolutional Networks for Large-Scale Image Recognition）是第一个在各个卷积层使用更小的 3×3 过滤器（filter），并把它们组合作为一个卷积序列进行处理的网络。

这看来和 LeNet 的原理相反，其中是大的卷积被用来获取一张图像中相似特征。和 AlexNet 的 9×9 或 11×11 过滤器不同，过滤器开始变得更小，离 LeNet 竭力所要避免的臭名昭著的 1×1 卷积异常接近——至少在该网络的第一层是这样。但是 VGG 巨大的进展是通过依次采用多个 3×3 卷积，能够模仿出更大的感受野（receptive field）的效果，例如 5×5 与 7×7。这些思想也被用在了最近更多的网络架构中，如 Inception 与 ResNet。

![20160907100307_451.jpg][]

VGG 网络使用多个 3×3 卷积层去表征复杂特征。注意 VGG-E 的第 3、4、5 块（block）：256×256 和 512×512 个 3×3 过滤器被依次使用多次以提取更多复杂特征以及这些特征的组合。其效果就等于是一个带有 3 个卷积层的大型的 512×512 大分类器。这显然意味着有大量的参数与学习能力。但是这些网络训练很困难，必须划分到较小的网络，并逐层累加。这是因为缺少强大的方式对模型进行正则化，或者或多或少约束大量由于大量参数增长的搜索空间。

VGG 在许多层中都使用大特征尺寸，因为推断（inference）在运行时是相当耗费时间的。正如 Inception 的瓶颈（bottleneck）那样，减少特征的数量将节省一些计算成本。

网络中的网络（Network-in-network）

网络中的网络（NiN，参见论文：Network In Network）的思路简单又伟大：使用 1×1 卷积为卷积层的特征提供更组合性的能力。

NiN 架构在各个卷积之后使用空间 MLP 层，以便更好地在其他层之前组合特征。同样，你可以认为 1×1 卷积与 LeNet 最初的原理相悖，但事实上它们可以以一种更好的方式组合卷积特征，而这是不可能通过简单堆叠更多的卷积特征做到的。这和使用原始像素作为下一层输入是有区别的。其中 1×1 卷积常常被用于在卷积之后的特征映射上对特征进行空间组合，所以它们实际上可以使用非常少的参数，并在这些特征的所有像素上共享！

![20160907100308_505.jpg][]

MLP 的能力能通过将卷积特征组合进更复杂的组（group）来极大地增加单个卷积特征的有效性。这个想法之后被用到一些最近的架构中，例如 ResNet、Inception 及其衍生技术。

NiN 也使用了平均池化层作为最后分类器的一部分，这是另一种将会变得常见的实践。这是通过在分类之前对网络对多个输入图像的响应进行平均完成的。

GoogLeNet 与 Inception

来自谷歌的 Christian Szegedy 开始追求减少深度神经网络的计算开销，并设计出 GoogLeNet——第一个 Inception 架构（参见：Going Deeper with Convolutions）。

那是在 2014 年秋季，深度学习模型正在变得在图像与视频帧的分类中非常有用。大多数怀疑者已经不再怀疑深度学习与神经网络这一次是真的回来了，而且将一直发展下去。鉴于这些技术的用处，谷歌这样的互联网巨头非常有兴趣在他们的服务器上高效且大规模庞大地部署这些架构。

Christian 考虑了很多关于在深度神经网络达到最高水平的性能（例如在 ImageNet 上）的同时减少其计算开销的方式。或者在能够保证同样的计算开销的前提下对性能有所改进。

他和他的团队提出了 Inception 模块：

![20160907100308_882.jpg][]

初看之下这不过基本上是 1×1、3×3、5×5 卷积过滤器的并行组合。但是 Inception 的伟大思路是用 1×1 的卷积块（NiN）在昂贵的并行模块之前减少特征的数量。这一般被称为「瓶颈（bottleneck）」。这部分内容将在下面的「瓶颈层（bottleneck layer）」部分来解释。

GoogLeNet 使用没有 inception 模块的主干作为初始层，之后是与 NiN 相似的一个平均池化层加 softmax 分类器。这个分类器比 AlexNet 与 VGG 的分类器的运算数量少得多。这也促成一项非常有效的网络设计，参见论文：An Analysis of Deep Neural Network Models for Practical Applications。

瓶颈层（Bottleneck layer）

受到 NiN 的启发，Inception 的瓶颈层减少了每一层的特征的数量，并由此减少了运算的数量；所以可以保持较低的推理时间。在将数据通入昂贵的卷积模块之前，特征的数量会减少 4 倍。在计算成本上这是很大的节约，也是该架构的成功之处。

让我们具体验证一下。现在你有 256 个特征输入，256 个特征输出，假定 Inception 层只能执行 3×3 的卷积，也就是总共要完成 256×256×3×3 的卷积（将近 589,000 次乘积累加（MAC）运算）。这可能超出了我们的计算预算，比如说，在谷歌服务器上要以 0.5 毫秒运行该层。作为替代，我们决定减少需要进行卷积运算的特征的数量，也就是 64（即 256/4）个。在这种情况下，我们首先进行 256 -> 64 1×1 的卷积，然后在所有 Inception 的分支上进行 64 次卷积，接而再使用一个来自 64 -> 256 的特征的 1×1 卷积，现在运算如下：

256×64 × 1×1 = 16,000s

64×64 × 3×3 = 36,000s

64×256 × 1×1 = 16,000s

相比于之前的 60 万，现在共有 7 万的计算量，几乎少了近 10 倍。

而且，尽管我们做了更好的运算，我们在此层也没有损失其通用性（generality）。事实证明瓶颈层在 ImageNet 这样的数据集上已经表现出了顶尖水平，而且它也被用于接下来介绍的 ResNet 这样的架构中。

它之所以成功是因为输入特征是相关联的，因此可通过将它们与 1×1 卷积适当结合来减少冗余。然后，在小数量的特征进行卷积之后，它们能在下一层被再次扩展成有意义的结合。

Inception V3（还有 V2）

Christian 和他的团队都是非常高产的研究人员。2015 年 2 月，Batch-normalized Inception 被引入作为 Inception V2（参见论文：Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift）。Batch-normalization 在一层的输出上计算所有特征映射的均值和标准差，并且使用这些值规范化它们的响应。这相当于数据「增白（whitening）」，因此使得所有神经图（neural maps）在同样范围有响应，而且是零均值。在下一层不需要从输入数据中学习 offset 时，这有助于训练，还能重点关注如何最好的结合这些特征。

2015 年 12 月，该团队发布 Inception 模块和类似架构的一个新版本（参见论文：Rethinking the Inception Architecture for Computer Vision）。该论文更好地解释了原始的 GoogLeNet 架构，在设计选择上给出了更多的细节。原始思路如下：

通过谨慎建筑网络，平衡深度与宽度，从而最大化进入网络的信息流。在每次池化之前，增加特征映射。

当深度增加时，网络层的深度或者特征的数量也系统性的增加。

使用每一层深度增加在下一层之前增加特征的结合。

只使用 3×3 的卷积，可能的情况下给定的 5×5 和 7×7 过滤器能分成多个 3×3。看下图

![20160907100308_712.jpg][]

因此新的 Inception 成为了：

![20160907100308_483.jpg][]

也可以通过将卷积平整进更多复杂的模块中而分拆过滤器：

![20160907100308_291.jpg][]

在进行 inception 计算的同时，Inception 模块也能通过提供池化降低数据的大小。这基本类似于在运行一个卷积的时候并行一个简单的池化层：

![20160907100309_759.jpg][]

Inception 也使用一个池化层和 softmax 作为最后的分类器。

ResNet

2015 年 12 月又出现了新的变革，这和 Inception V3 出现的时间一样。ResNet 有着简单的思路：供给两个连续卷积层的输出，并分流（bypassing）输入进入下一层（参见论文：Deep Residual Learning for Image Recognition）。

![20160907100309_40.jpg][]

这和之前的一些旧思路类似。但 ResNet 中，它们分流两个层并被应用于更大的规模。在 2 层后分流是一个关键直觉，因为分流一个层并未给出更多的改进。通过 2 层可能认为是一个小型分类器，或者一个 Network-In-Network。

这是第一次网络层数超过一百，甚至还能训练出 1000 层的网络。

有大量网络层的 ResNet 开始使用类似于 Inception 瓶颈层的网络层：

![20160907100309_801.jpg][]

这种层通过首先是由带有更小输出（通常是输入的 1/4）的 1×1 卷积较少特征的数量，然后使用一个 3×3 的层，再使用 1×1 的层处理更大量的特征。类似于 Inception 模块，这样做能保证计算量低，同时提供丰富的特征结合。

ResNet 在输入上使用相对简单的初始层：一个带有两个池的 7×7 卷基层。可以把这个与更复杂、更少直觉性的 Inception V3、V4 做下对比。

ResNet 也使用一个池化层加上 softmax 作为最后的分类器。

关于 ResNet 的其他洞见每天都有发生：

ResNet 可被认为既是平行模块又是连续模块，把输入输出（inout）视为在许多模块中并行，同时每个模块的输出又是连续连接的。

ResNet 也可被视为并行模块或连续模块的多种组合（参见论文：Residual Networks are Exponential Ensembles of Relatively Shallow Networks）。

已经发现 ResNet 通常在 20-30 层的网络块上以并行的方式运行。而不是连续流过整个网络长度。

当 ResNet 像 RNN 一样把输出反馈给输入时，该网络可被视为更好的生物上可信的皮质模型（参见论文：Bridging the Gaps Between Residual Learning, Recurrent Neural Networks and Visual Cortex）。

Inception V4

这是 Christian 与其团队的另一个 Inception 版本，该模块类似于 Inception V3：

![20160907100309_907.jpg][]

Inception V4 也结合了 Inception 模块和 ResNet 模块：

![20160907100309_931.jpg][]

我认为该架构不太简洁，但也满满都是较少透明度的启发法（heuristics）。很难理解里面的选择，对作者们而言也难以解释。

考虑到网络的简洁性，可被轻易的理解并修正，那 ResNet 可能就更好了。

SqueezeNet

SqueezeNet（参见论文：SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size）是最近才公布的，该架构是对 ResNet 与 Inception 里面概念的重新处理。一个更好的架构设计网络型号要小，而且参数还不需要复杂的压缩[算法][Link 3]。

ENet

我们的团队计划结合近期公开的架构的所有特征，做出一个非常高效、低重的网络，使用较少的参数和计算就能达到顶尖结果。该网络架构被称为 ENet，由 Adam Paszke 设计。我们已经使用它进行过单像素标记和场景解析。

详细了解 ENet 可参见论文 ENet: A Deep Neural Network Architecture for Real-Time Semantic Segmentation。ENet 是一个编码加解码的网络。编码器是一个常规的 CNN 设计进行分类。解码器是一个增采样（upsampling）网络，将分类反向传播给原始图像进行分割。这只使用了神经网络，没有其他算法进行图像分割。

ENet 被设计为在开始时尽可能使用最小数量的资源。正是如此它有着如此小的脚本，编码器和解码器网络共占有 0.7 MB，16 fp 精度。即使这么小的型号，ENet 在分割的准确度上也类似于或者高于其他神经网络解决方案。

模块分析

对 CNN 模块的分析，该论文（Systematic evaluation of CNN advances on the ImageNet）已经做过了，里面的发现是非常有帮助的：

使用没有 batchnorm 的 ELU 非线性或者有 batchnorm 的 ReLU。

使用一个学习到的 RGB 的彩色空间转换。

使用线性学习率衰退策略。

使用平均和最大池化层的和。

使用大约 128 到 256 的 mini-batch 大小。如果这对你的 GPU 而言太大，将学习率按比例降到这个大小就行。

使用完全连接层作为卷积，并为做最后预测平均所有预测。

当研究增加训练集大小的时候，检测有一个 plateau 是否没有达到

数据的整洁要比数据大小更重要。

如果你不能增加输入图像的大小，在随后的层上减少步幅（stride），这样做有同样的效果。

如果你的网络有复杂和高度优化的架构，像是 GoogLeNet，那修改一定要谨慎。

其他值得关注的架构

FractalNet（参见论文：FractalNet: Ultra-Deep Neural Networks without Residuals）使用递归架构，它在 ImageNet 上没有进行[测试][Link 4]。该架构是 ResNet 的衍生或者更通用的 ResNet。

未来

我们相信制作神经网络架构是深度学习领域发展的头等大事。我们团队高度推荐仔细阅读并理解文中提到的论文。

但有人可能会想为什么我们要投入如此多的时间制作架构？为什么不是用数据告诉我们使用什么？如何结合模块？这些问题很好，但仍在研究中，有一篇论文可以参考：Neural networks with differentiable structure。

要注意到，我们在本文中谈到的大部分架构都是关于[计算机视觉][Link 5]的。类似神经网络架构在其他领域内也有开发，学习其他所有任务中的架构变革也是非常有趣的。

如果你对神经网络架构和计算性能的比较有兴趣，可参见论文：An Analysis of Deep Neural Network Models for Practical Applications

本文讲一下最新由UC Berkeley和Stanford研究人员一起完成的SqueezeNet\[1\]网络结构和设计思想。SqueezeNet设计目标不是为了得到最佳的CNN识别精度，而是希望简化网络复杂度，同时达到public网络的识别精度。所以SqueezeNet主要是为了降低CNN模型参数数量而设计的。OK，下面直奔主题了。

## 设计原则 ##

（1）替换3x3的卷积kernel为1x1的卷积kernel

卷积模板的选择，从12年的AlexNet模型一路发展到2015年底Deep Residual Learning模型，基本上卷积大小都选择在3x3了，因为其有效性，以及设计简洁性。本文替换3x3的卷积kernel为1x1的卷积kernel可以让参数缩小9X。但是为了不影响识别精度，并不是全部替换，而是一部分用3x3，一部分用1x1。具体可以看后面的模块结构图。

（2）减少输入3x3卷积的input feature map数量   
如果是conv1-conv2这样的直连，那么实际上是没有办法减少conv2的input feature map数量的。所以作者巧妙地把原本一层conv分解为两层，并且封装为一个Fire Module。

（3）减少pooling   
这个观点在很多其他工作中都已经有体现了，比如GoogleNet以及Deep Residual Learning。

## Fire Module ##

Fire Module是本文的核心构件，思想非常简单，就是将原来简单的一层conv层变成两层：squeeze层+expand层，各自带上Relu激活层。在squeeze层里面全是1x1的卷积kernel，数量记为S11；在expand层里面有1x1和3x3的卷积kernel，数量分别记为E11和E33，要求S11 < (E11+E33)即满足上面的设计原则（2）。expand层之后将1x1和3x3的卷积output feature maps在channel维度拼接起来。

![这里写图片描述][20160315232750747]

## 总体网络架构 ##

直接上图说（左边的狗狗很忧伤啊）：   
![这里写图片描述][20160316002407347]

看图就很明朗了，总共有9层fire module，中间穿插一些max pooling，最后是global avg pooling代替了fc层（参数大大减少）。在开始和最后还有两层最简单的单层conv层，保证输入输出大小可掌握。

下图是更详细的说明：非常清楚，就不再啰嗦了。   
![这里写图片描述][20160316002741650]

## 实验结果 ##

主要在imagenet数据上比较了alexnet，可以看到准确率差不多的情况下，squeezeNet模型参数数量显著降低了（下表倒数第三行），参数减少50X；如果再加上deep compression技术，压缩比可以达到461X！还是不错的结果。不过有一点，用deep compression\[2\]是有解压的代价的，所以计算上会增加一些开销。

![这里写图片描述][20160316002818036]

## 思考 ##

SqueezeNet之前我就在研究如果降低网络规模，SqueezeNet印证了小得多的网络也可以到达很好的CNN识别精度。相信以后会出现更多小网络，做到state-of-the-art的精度。好，本篇就介绍到这里，希望对大家有启发，有的话请支持一下我博客哈！~谢谢！

## 参考资料 ##

\[1\] SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <1MB model size，2016   
\[2\] Deep compression: Compressing DNNs with pruning, trained quantization and huffman coding， 2015

[Link 1]: http://lib.csdn.net/base/deeplearning
[caffe_lenet]: https://github.com/BVLC/caffe/blob/master/examples/mnist/lenet_train_test.prototxt
[20151231225627375]: /images/20220612/df5e6d9788234762a36c0d02132267cc.png
[Center]: https://img-blog.csdn.net/20141208134525764?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveHVhbnl1YW5zZW4=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 1]: https://img-blog.csdn.net/20141208104830148?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveHVhbnl1YW5zZW4=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 2]: https://img-blog.csdn.net/20141208134532062?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveHVhbnl1YW5zZW4=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 3]: /images/20220612/839e50a1601f4bccbc03187b194622d2.png
[caffe_model]: https://github.com/BVLC/caffe/blob/master/models/bvlc_alexnet/deploy.prototxt
[20160101171955054]: /images/20220612/bd86c6251c2043d2aab11d1238b5f313.png
[20160101171421127]: /images/20220612/07edde05bb5648b4bd668b26b1dfc91e.png
[20160101172019664]: /images/20220612/0b9c6d5622924390b538b05b98879ba1.png
[20160102093047427]: /images/20220612/40297711371f4fe58f1c0e3740875121.png
[20160102094243914]: /images/20220612/01ab43316bde4453bb3fdce52cd0e577.png
[20160102094427439]: /images/20220612/507044e1cd0740f5b9d9a7cd970ce411.png
[20160102094443713]: /images/20220612/d0f03ece32574d1c852ab8337f05e515.png
[20160102094450421]: /images/20220612/44523e86af2947ba8f3b9021e3cdea57.png
[20160102094500313]: /images/20220612/32e74ff6bef84e248823e9b7ff595e75.png
[20160102094510338]: /images/20220612/4a35b15e20024ee2b329acf4cd94f7b1.png
[20160102094517937]: /images/20220612/fc8f31deac09471194fae5cc1b34e4ab.png
[20160102103157778]: /images/20220612/b13848c21adf4deda432f1a9efa1810f.png
[20160102103750597]: /images/20220612/0abf144f8fca4ab7bb1789c05337a044.png
[20160102104027555]: /images/20220612/779625a6e3c842f4a9044c852093b647.png
[20160102100136966]: /images/20220612/dfc1da145fea49649dad6384990f4a48.png
[20160102104541385]: /images/20220612/f7da33491487434b96829d93f86dd37d.png
[20160102105914090]: /images/20220612/f274a78774b54724ab95ab87847b60bf.png
[20160102105943475]: /images/20220612/9c7e4204b7244fd89bd2a3636072e0f9.png
[20160102110124716]: /images/20220612/ef6cd0bf266645488fc4093ccc43ea52.png
[http_blog.csdn.net_zouxy09_article_details_8781543]: http://blog.csdn.net/zouxy09/article/details/8781543/
[http_blog.csdn.net_sunbaigui_article_details_39938097]: http://blog.csdn.net/sunbaigui/article/details/39938097
[http_blog.csdn.net_csyhhb_article_details_45967291]: http://blog.csdn.net/csyhhb/article/details/45967291
[20160907100307_377.jpg]: /images/20220612/14c7ba287f4c4d7980059e50e31be585.png
[Link 2]: http://lib.csdn.net/base/architecture
[20160907100307_912.jpg]: /images/20220612/70fd79b8786040eeaa2b4370453eab1d.png
[20160907100307_451.jpg]: /images/20220612/896bd6bc15874cd6bf412d79554e1631.png
[20160907100308_505.jpg]: /images/20220612/fbb64b232b864a159c055e9f77290912.png
[20160907100308_882.jpg]: /images/20220612/83d00cefc62342deb44cc800e8184975.png
[20160907100308_712.jpg]: /images/20220612/a9e968437e724f8e9b5b85dada304730.png
[20160907100308_483.jpg]: /images/20220612/7d2180bde3eb425381c0d298cb3c92c6.png
[20160907100308_291.jpg]: /images/20220612/5290a331cdff4749937e278fe5bc71e3.png
[20160907100309_759.jpg]: /images/20220612/0b563e12bae944aa801fcfde60a864e1.png
[20160907100309_40.jpg]: /images/20220612/6e40457d552143f6a179cb86bd37a0b5.png
[20160907100309_801.jpg]: /images/20220612/4ceec3e950094b148b1e763ba63b9ccf.png
[20160907100309_907.jpg]: /images/20220612/86e9d5c1934b4f96b698463a9453065f.png
[20160907100309_931.jpg]: /images/20220612/440baeac8f9e49a5a41d673301f30544.png
[Link 3]: http://lib.csdn.net/base/datastructure
[Link 4]: http://lib.csdn.net/base/softwaretest
[Link 5]: http://lib.csdn.net/base/computervison
[20160315232750747]: /images/20220612/f56a4d03aa0b4dfd90c95fa423ad0ae4.png
[20160316002407347]: /images/20220612/607c97e8e9ae4544b1d85ef63ee6466b.png
[20160316002741650]: /images/20220612/2818130c695c4221812b62aa51842155.png
[20160316002818036]: /images/20220612/23f30b60bf3440a19ac96ae4f8a7f2f5.png