详解卷积神经网络(CNN)

梦里梦外; 2022-06-02 10:05 440阅读 0赞

# 详解卷积神经网络(CNN) #

*  [详解卷积神经网络CNN][CNN]
 *  [概揽][Link 1]
 *  [Layers used to build ConvNets][]
    
     *  [卷积层Convolutional layer][Convolutional layer]
     *  [池化层Pooling Layer][Pooling Layer]
     *  [全连接层Fully-connected layer][Fully-connected layer]
 *  [卷积神经网络架构][Link 2]
    
     *  [Layer Patterns][]
     *  [Layer Sizing Patterns][]
     *  [Case Studies][]
 *  [参考][Link 3]

--------------------

**卷积神经网络（Convolutional Neural Network, CNN）**是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。

**本文首发** : [http://www.liuhe.website/index.php?/Articles/single/37][http_www.liuhe.website_index.php_Articles_single_37]

--------------------

# 概揽 #

**卷积神经网络**（Convolutional Neural Networks / CNNs / ConvNets）与普通神经网络非常相似，它们都由具有可学习的权重和偏置常量(biases)的神经元组成。每个神经元都接收一些输入，并做一些点积计算，输出是每个分类的分数，普通神经网络里的一些计算技巧到这里依旧适用。

所以哪里不同呢？卷积神经网络默认输入是图像，可以让我们把特定的性质编码入网络结构，使是我们的前馈函数更加有效率，并减少了大量参数。

**具有三维体积的神经元(3D volumes of neurons)**   
卷积神经网络利用输入是图片的特点，把神经元设计成三个维度 ： **width**, **height**, **depth**(注意这个depth不是神经网络的深度，而是用来描述神经元的) 。比如输入的图片大小是 32 × 32 × 3 (rgb)，那么输入神经元就也具有 32×32×3 的维度。下面是图解：

![这里写图片描述][20160404000039222]  
传统神经网络

![这里写图片描述][20160404000318630]   
卷积神经网络

一个卷积神经网络由很多层组成，它们的输入是三维的，输出也是三维的，有的层有参数，有的层不需要参数。

--------------------

# Layers used to build ConvNets #

卷积神经网络通常包含以下几种层：

*  **卷积层（Convolutional layer）**，卷积神经网路中每层卷积层由若干卷积单元组成，每个卷积单元的参数都是通过反向传播算法优化得到的。卷积运算的目的是提取输入的不同特征，第一层卷积层可能只能提取一些低级的特征如边缘、线条和角等层级，更多层的网络能从低级特征中迭代提取更复杂的特征。
 *  **线性整流层（Rectified Linear Units layer, ReLU layer）**，这一层神经的活性化函数（Activation function）使用线性整流（Rectified Linear Units, ReLU）f(x)=max(0,x)。
 *  **池化层（Pooling layer）**，通常在卷积层之后会得到维度很大的特征，将特征切成几个区域，取其最大值或平均值，得到新的、维度较小的特征。
 *  **全连接层（ Fully-Connected layer）**, 把所有局部特征结合变成全局特征，用来计算最后每一类的得分。

一个卷积神经网络各层应用[实例][Link 4]：   
![应用][20160404000401881]

--------------------

## 卷积层（Convolutional layer） ##

**局部感知（Local Connectivity）**

普通神经网络把输入层和隐含层进行“**全连接(Full Connected)**“的设计。从计算的角度来讲，相对较小的图像从整幅图像中计算特征是可行的。但是，如果是更大的图像（如 96x96 的图像），要通过这种全联通网络的这种方法来学习整幅图像上的特征，从计算角度而言，将变得非常耗时。你需要设计 10 的 4 次方（=10000）个输入单元，假设你要学习 100 个特征，那么就有 10 的 6 次方个参数需要去学习。与 28x28 的小块图像相比较， 96x96 的图像使用前向输送或者后向传导的计算方式，计算过程也会慢 10 的 2 次方（=100）倍。

卷积层解决这类问题的一种简单方法是对隐含单元和输入单元间的连接加以限制：**每个隐含单元仅仅只能连接输入单元的一部分**。例如，每个隐含单元仅仅连接输入图像的一小片相邻区域。（对于不同于图像输入的输入形式，也会有一些特别的连接到单隐含层的输入信号“连接区域”选择方式。如音频作为一种信号输入方式，一个隐含单元所需要连接的输入单元的子集，可能仅仅是一段音频输入所对应的某个时间段上的信号。)

每个隐含单元连接的输入区域大小叫r神经元的**感受野(receptive field)**。

由于卷积层的神经元也是三维的，所以也具有深度。卷积层的参数包含一系列过滤器（filter），每个过滤器训练一个深度，有几个过滤器输出单元就具有多少深度。

具体如下图所示，样例输入单元大小是32×32×3, 输出单元的深度是5, 对于输出单元不同深度的同一位置，与输入图片连接的区域是相同的，但是参数（过滤器）不同。

![示例][20160404000501632]

虽然每个输出单元只是连接输入的一部分，但是值的计算方法是没有变的，都是权重和输入的点积，然后加上偏置，这点与普通神经网络是一样的，如下图所示：

![计算方法][20160404000626757]

--------------------

**空间排列（Spatial arrangement）**

一个输出单元的大小有以下三个量控制：**depth**, **stride** 和 **zero-padding**。

*  **深度(depth)** : 顾名思义，它控制输出单元的深度，也就是filter的个数，连接同一块区域的神经元个数。又名：**depth column**
 *  **步幅(stride)**：它控制在同一深度的相邻两个隐含单元，与他们相连接的输入区域的距离。如果步幅很小（比如 stride = 1）的话，相邻隐含单元的输入区域的重叠部分会很多; 步幅很大则重叠区域变少。
 *  **补零(zero-padding)** ： 我们可以通过在输入单元周围补零来改变输入单元整体大小，从而控制输出单元的空间大小。

我们先定义几个符号：

*  W : 输入单元的大小（宽或高）
 *  F : 感受野(receptive field)
 *  S : 步幅（stride）
 *  P : 补零（zero-padding)的数量
 *  K : 深度，输出单元的深度

则可以用以下公式计算一个维度（宽或高）内一个输出单元里可以有几个隐藏单元：

W−F\+2PS\+1

如果计算结果不是一个整数，则说明现有参数不能正好适合输入，步幅（stride）设置的不合适，或者需要补零，证明略，下面用一个例子来说明一下。

这是一个一维的例子，左边模型输入单元有5个，即W=5, 边界各补了一个零，即P=1，步幅是1， 即S=1，感受野是3，因为每个输出隐藏单元连接3个输入单元，即F=3，根据上面公式可以计算出输出隐藏单元的个数是：5−3\+21\+1=5，与图示吻合。右边那个模型是把步幅变为2，其余不变，可以算出输出大小为：5−3\+22\+1=3，也与图示吻合。若把步幅改为3，则公式不能整除，说明步幅为3不能恰好吻合输入单元大小。

![步幅说明][20160404000726054]

另外，网络的权重在图的右上角，计算方法和普通神经网路一样。

--------------------

**参数共享(Parameter Sharing)**

应用参数共享可以大量减少参数数量，参数共享基于一个假设：如果图像中的一点（x1, y1）包含的特征很重要，那么它应该和图像中的另一点（x2, y2）一样重要。换种说法，我们把同一深度的平面叫做**深度切片(depth slice)**（(e.g. a volume of size \[55x55x96\] has 96 depth slices, each of size \[55x55\])），那么同一个切片应该共享同一组权重和偏置。我们仍然可以使用梯度下降的方法来学习这些权值，只需要对原始算法做一些小的改动， 这里共享权值的梯度是所有共享参数的梯度的总和。

我们不禁会问为什么要权重共享呢？一方面，重复单元能够对特征进行识别，而不考虑它在可视域中的位置。另一方面，权值共享使得我们能更有效的进行特征抽取，因为它极大的减少了需要学习的自由变量的个数。通过控制模型的规模，卷积网络对视觉问题可以具有很好的泛化能力。

--------------------

**卷积（Convolution）**

如果应用参数共享的话，实际上每一层计算的操作就是输入层和权重的**卷积**！这也就是卷积神经网络名字的由来。

先抛开卷积这个概念不管。为简便起见，考虑一个大小为5×5的图像，和一个3×3的卷积核。这里的卷积核共有9个参数，就记为 Θ=\[θij\]3×3 吧。这种情况下，卷积核实际上有9个神经元，他们的输出又组成一个3×3的矩阵，称为特征图。第一个神经元连接到图像的第一个3×3的局部，第二个神经元则连接到第二个局部（注意，有重叠！就跟你的目光扫视时也是连续扫视一样）。具体如下图所示。

![卷积][20160404000810898]

图的上方是第一个神经元的输出，下方是第二个神经元的输出。每个神经元的运算依旧是

f(x)=act(∑i,jnθ(n−i)(n−j)xij\+b)

需要注意的是，平时我们在运算时，习惯使用 θijxij 这种写法，但事实上，我们这里使用的是 θ(n−i)(n−j)xij。

现在我们回忆一下离散卷积运算。假设有二维离散函数 f(x,y) , g(x,y) ， 那么它们的卷积定义为

f(m,n)∗g(m,n)=∑u∞∑v∞f(u,v)g(m−u,n−v)

现在发现了吧！上面例子中的9个神经元均完成输出后，实际上等价于图像和卷积核的卷积操作！

--------------------

**Numpy examples**

下面用numpy的代码具体的说明一下上面的概念和公式等。

假设输入存储在一个numpy array `X`里，那么：   
\* 位于 (x, y) 的 depth column 是 `X[x, y, :]`   
\* 深度为 d 的 depth slice 是 `X[:, :, d]`

假设X的大小是`X.shape: (11,11,4)`，并且不用补零（P ＝ 0），过滤器（感受野）大小F ＝ 5，步幅为2（S＝ 2）。那么输出单元的空间大小应该为 (11 - 5) / 2 + 1 = 4，即宽和高都为4 。假设输出存储在 `V`中，那么它的计算方式应该为：

*  `V[0,0,0] = np.sum(X[:5,:5,:] * W0) + b0`
 *  `V[1,0,0] = np.sum(X[2:7,:5,:] * W0) + b0`
 *  `V[2,0,0] = np.sum(X[4:9,:5,:] * W0) + b0`
 *  `V[3,0,0] = np.sum(X[6:11,:5,:] * W0) + b0`
 *    
    
    
     *  `V[0,0,1] = np.sum(X[:5,:5,:] * W1) + b1`
 *  `V[1,0,1] = np.sum(X[2:7,:5,:] * W1) + b1`
 *  `V[2,0,1] = np.sum(X[4:9,:5,:] * W1) + b1`
 *  `V[3,0,1] = np.sum(X[6:11,:5,:] * W1) + b1`
 *  `V[0,1,1] = np.sum(X[:5,2:7,:] * W1) + b1`
 *  `V[2,3,1] = np.sum(X[4:9,6:11,:] * W1) + b1`

注意在numpy中 `*` 表示两个数组对应元素相乘。

--------------------

**卷积层总结(Summary)**

*  接收三维输入 W1∗H1∗D1
 *  需要给出4个参数（hyperparameters）：   
    
    
     *  Number of filters K,
     *  their spatial extent F,
     *  the stride S,
     *  the amount of zero padding P.
 *  输出一个三维单元 W2∗H2∗D2，其中：   
    
    
     *  W2=W1−F\+2PS\+1
     *  H2=H1−F\+2PS\+1
     *  D2=K
 *  应用权值共享，每个filter会产生F∗F∗D1 个权重，总共 (F∗F∗D1)∗K 个权重和 K 个偏置。
 *  在输出单元，第d个深度切片的结果是由第d个filter 和输入单元做卷积运算，然后再加上偏置而来。

--------------------

## 池化层(Pooling Layer) ##

**池化（pool）**即**下采样（downsamples）**，目的是为了减少特征图。池化操作对每个深度切片独立，规模一般为 2＊2，相对于卷积层进行卷积运算，池化层进行的运算一般有以下几种：   
\* 最大池化（Max Pooling）。取4个点的最大值。这是最常用的池化方法。   
\* 均值池化（Mean Pooling）。取4个点的均值。   
\* 高斯池化。借鉴高斯模糊的方法。不常用。   
\* 可训练池化。训练函数 ff ，接受4个点为输入，出入1个点。不常用。

最常见的池化层是规模为2\*2， 步幅为2，对输入的每个深度切片进行下采样。每个MAX操作对四个数进行，如下图所示：   
![池化][20160404000845008]

池化操作将保存**深度大小不变**。

如果池化层的输入单元大小不是二的整数倍，一般采取边缘补零（zero-padding）的方式补成2的倍数，然后再池化。

--------------------

**池化层总结(Summary)**

*  接收单元大小为：W1∗H1∗D1
 *  需要两个参数（hyperparameters）：   
    
    
     *  their spatial extent F,
     *  the stride S,
 *  输出大小：W2∗H2∗D2，其中：   
    
    
     *  W2=W1−FS
     *  H2=H1−FS\+1
     *  D2=D1
 *  不需要引入新权重

--------------------

## 全连接层（Fully-connected layer） ##

全连接层和卷积层可以相互转换：   
\* 对于任意一个卷积层，要把它变成全连接层只需要把权重变成一个巨大的矩阵，其中大部分都是0 除了一些特定区块（因为局部感知），而且好多区块的权值还相同（由于权重共享）。   
\* 相反地，对于任何一个全连接层也可以变为卷积层。比如，一个K＝4096 的全连接层，输入层大小为 7∗7∗512，它可以等效为一个 F=7, P=0, S=1, K=4096 的卷积层。换言之，我们把 filter size 正好设置为整个输入层大小。

--------------------

# 卷积神经网络架构 #

## Layer Patterns ##

常见的卷积神经网络架构是这样的：

INPUT -> [[CONV -> RELU]*N -> POOL?]*M -> [FC -> RELU]*K -> FC
     
      
       1

堆叠几个卷积和整流层，再加一个池化层，重复这个模式知道图片已经被合并得比较小了，然后再用全连接层控制输出。

上述表达式中 `?` 意味着0次或1次，通常情况下：`N >= 0 && N <= 3`, `M >= 0`, `K >= 0 && K < 3`。

比如你可以组合出以下几种模式：   
\* `INPUT -> FC`, 实现了一个线性分类器， 这里 `N = M = K = 0`   
\* `INPUT -> CONV -> RELU -> FC`   
\* `INPUT -> [CONV -> RELU -> POOL]*2 -> FC -> RELU -> FC`. Here we see that there is a single `CONV` layer between every `POOL` layer.   
\* `INPUT -> [CONV -> RELU -> CONV -> RELU -> POOL]*3 -> [FC -> RELU]*2 -> FC` Here we see two CONV layers stacked before every POOL layer. This is generally a good idea for larger and deeper networks, because multiple stacked CONV layers can develop more complex features of the input volume before the destructive pooling operation.

--------------------

## Layer Sizing Patterns ##

*  **Input layer** : 应该是2的整数次幂。比如32，64， 128等。
 *  **Conv Layer** : 使用小的过滤器（filter），F=3 or F=5, 步幅 S=1，如果不能恰好拟合输入层，还要边缘补零。如果使用 F=3, P=1，那么输出大小将与输入一样。如果用更大的过滤器（比如7\*7），一般只会在紧挨着原始输入图片的卷积层才会看到。
 *  **Pool Layer** : F=2, S=2

--------------------

## Case Studies ##

大牛们构建的网络

*  **LeNet**. The first successful applications of Convolutional Networks were developed by Yann LeCun in 1990’s. Of these, the best known is the [LeNet][] architecture that was used to read zip codes, digits, etc.
 *  **AlexNet**. The first work that popularized Convolutional Networks in Computer Vision was the [AlexNet][], developed by Alex Krizhevsky, Ilya Sutskever and Geoff Hinton. The AlexNet was submitted to the [ImageNet ILSVRC challenge][] in 2012 and significantly outperformed the second runner-up (top 5 error of 16% compared to runner-up with 26% error). The Network had a similar architecture basic as LeNet, but was deeper, bigger, and featured Convolutional Layers stacked on top of each other (previously it was common to only have a single CONV layer immediately followed by a POOL layer).
 *  **ZF Net**. The ILSVRC 2013 winner was a Convolutional Network from Matthew Zeiler and Rob Fergus. It became known as the [ZFNet][] (short for Zeiler & Fergus Net). It was an improvement on AlexNet by tweaking the architecture hyperparameters, in particular by expanding the size of the middle convolutional layers.
 *  **GoogLeNet**. The ILSVRC 2014 winner was a Convolutional Network from [Szegedy et al.][] from Google. Its main contribution was the development of an Inception Module that dramatically reduced the number of parameters in the network (4M, compared to AlexNet with 60M). Additionally, this paper uses Average Pooling instead of Fully Connected layers at the top of the ConvNet, eliminating a large amount of parameters that do not seem to matter much.
 *  **VGGNet**. The runner-up in ILSVRC 2014 was the network from Karen Simonyan and Andrew Zisserman that became known as the [VGGNet][]. Its main contribution was in showing that the depth of the network is a critical component for good performance. Their final best network contains 16 CONV/FC layers and, appealingly, features an extremely homogeneous architecture that only performs 3x3 convolutions and 2x2 pooling from the beginning to the end. It was later found that despite its slightly weaker classification performance, the VGG ConvNet features outperform those of GoogLeNet in multiple transfer learning tasks. Hence, the VGG network is currently the most preferred choice in the community when extracting CNN features from images. In particular, their [pretrained model][VGGNet] is available for plug and play use in Caffe. A downside of the VGGNet is that it is more expensive to evaluate and uses a lot more memory and parameters (140M).
 *  **ResNet**. [Residual Network][] developed by Kaiming He et al. was the winner of ILSVRC 2015. It features an interesting architecture with special skip connections and features heavy use of batch normalization. The architecture is also missing fully connected layers at the end of the network. The reader is also referred to Kaiming’s presentation ([video][], [slides][]), and some [recent experiments][] that reproduce these networks in Torch.

--------------------

# 参考 #

[CS231n: Convolutional Neural Networks for Visual Recognition][CS231n_ Convolutional Neural Networks for Visual Recognition]   
[卷积神经网络-维基百科][-]   
[卷积特征提取][Link 5]   
[卷积神经网络全面解析][Link 6]

最后，可以看看这篇文章  https://zhuanlan.zhihu.com/p/27642620  写的不错的。

[CNN]: http://blog.csdn.net/qq_25762497/article/details/51052861#详解卷积神经网络cnn
[Link 1]: http://blog.csdn.net/qq_25762497/article/details/51052861#概揽
[Layers used to build ConvNets]: http://blog.csdn.net/qq_25762497/article/details/51052861#layers-used-to-build-convnets
[Convolutional layer]: http://blog.csdn.net/qq_25762497/article/details/51052861#卷积层convolutional-layer
[Pooling Layer]: http://blog.csdn.net/qq_25762497/article/details/51052861#池化层pooling-layer
[Fully-connected layer]: http://blog.csdn.net/qq_25762497/article/details/51052861#全连接层fully-connected-layer
[Link 2]: http://blog.csdn.net/qq_25762497/article/details/51052861#卷积神经网络架构
[Layer Patterns]: http://blog.csdn.net/qq_25762497/article/details/51052861#layer-patterns
[Layer Sizing Patterns]: http://blog.csdn.net/qq_25762497/article/details/51052861#layer-sizing-patterns
[Case Studies]: http://blog.csdn.net/qq_25762497/article/details/51052861#case-studies
[Link 3]: http://blog.csdn.net/qq_25762497/article/details/51052861#参考
[http_www.liuhe.website_index.php_Articles_single_37]: http://www.liuhe.website/index.php?/Articles/single/37
[20160404000039222]: /images/20220602/7465402b7e1c42cd87d1c78c5fbceff2.png
[20160404000318630]: /images/20220602/eb2d1ab4bc594c6ebba771253d675c37.png
[Link 4]: http://cs231n.stanford.edu/
[20160404000401881]: /images/20220602/02df351e313642c8a61dcc204791d8ff.png
[20160404000501632]: /images/20220602/3ec2cdee06674bb3820696a4ae0a7982.png
[20160404000626757]: /images/20220602/b486e7169ae946579217fce896587a8b.png
[20160404000726054]: /images/20220602/8f747881390e47f6912493214b88192a.png
[20160404000810898]: /images/20220602/3ea07b721aa948e29d9b8a876799d132.png
[20160404000845008]: /images/20220602/0d315c2fc0f9450cbf66c01ae86c0d04.png
[LeNet]: http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf
[AlexNet]: http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks
[ImageNet ILSVRC challenge]: http://www.image-net.org/challenges/LSVRC/2014/
[ZFNet]: http://arxiv.org/abs/1311.2901
[Szegedy et al.]: http://arxiv.org/abs/1409.4842
[VGGNet]: http://www.robots.ox.ac.uk/~vgg/research/very_deep/
[Residual Network]: http://arxiv.org/abs/1512.03385
[video]: https://www.youtube.com/watch?v=1PGLj-uKT1w
[slides]: http://research.microsoft.com/en-us/um/people/kahe/ilsvrc15/ilsvrc2015_deep_residual_learning_kaiminghe.pdf
[recent experiments]: https://github.com/gcr/torch-residual-networks
[CS231n_ Convolutional Neural Networks for Visual Recognition]: http://cs231n.github.io/convolutional-networks/
[-]: https://www.wikiwand.com/zh-hans/%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C
[Link 5]: http://deeplearning.stanford.edu/wiki/index.php/%E5%8D%B7%E7%A7%AF%E7%89%B9%E5%BE%81%E6%8F%90%E5%8F%96
[Link 6]: http://www.moonshile.com/post/juan-ji-shen-jing-wang-luo-quan-mian-jie-xi