经典回味：ResNet到底在解决一个什么问题呢？

深碍√TFBOYSˉ_ 2022-09-09 12:43 305阅读 0赞

点击上方“**机器学习与生成对抗网络**”，关注星标

获取有趣、好玩的前沿干货！

编辑：Amusi  |  来源：知乎

https://www.zhihu.com/question/64494691

文仅交流，侵删

ResNet发布于2015年，目前仍有大量CV任务用其作为backbone（尤其是顶会实验比较），而且当前很多网络都在使用残差模块。

# **Deep Residual Learning for Image Recognition** #

论文：https://arxiv.org/abs/1512.03385

截止2021年8月19日，ResNet的引用量已达到**86531**（数据来自谷歌学术）。盲猜2021年底，引用量能破10万！本文根据知乎上的话题，来深入探讨一下强悍的ResNet。而且正值招聘/求职季，ResNet也是一个高频面试重点，方便大家查漏补缺。

![4fc8dbebd9f7f7e3246eaa2f14b7ee26.png][]

## **Resnet到底在解决一个什么问题呢？** ##

既然可以通过初试化和归一化（BN层）解决梯度弥散或爆炸的问题，那Resnet提出的那条通路是在解决什么问题呢？

在He的原文中有提到是解决深层网络的一种退化问题，但并明确说明是什么问题！

**作者：王峰  
https://www.zhihu.com/question/64494691/answer/220989469**

**17年2月份有篇文章，正好跟这个问题一样。**

**The Shattered Gradients Problem: If resnets are the answer, then what is the question?**

大意是神经网络越来越深的时候，反传回来的梯度之间的相关性会越来越差，最后接近白噪声。因为我们知道图像是具备局部相关性的，那其实可以认为梯度也应该具备类似的相关性，这样更新的梯度才有意义，如果梯度接近白噪声，那梯度更新可能根本就是在做随机扰动。

有了梯度相关性这个指标之后，作者分析了一系列的结构和激活函数，发现resnet在保持梯度相关性方面很优秀（相关性衰减从 ![format_png][] 到了 ![format_png 1][] ）。这一点其实也很好理解，从梯度流来看，有一路梯度是保持原样不动地往回传，这部分的相关性是非常强的。

**作者：灰灰  
https://www.zhihu.com/question/64494691/answer/271335912**

一方面: ResNet解决的不是梯度弥散或爆炸问题，kaiming的论文中也说了:臭名昭著的梯度弥散/爆炸问题已经很大程度上被normalized initialization  and intermediate normalization layers解决了;

另一方面: 由于直接增加网络深度的(plain)网络在训练集上会有更高的错误率，所以更深的网络并没有过拟合，也就是说更深的网络效果不好，是因为网络没有被训练好，至于为啥没有被训练好，个人很赞同前面王峰的答案中的解释。

在ResNet中,building block:

![56c7da0d62fd9a80c216a199c1fd1747.png][]

H(x)是期望拟合的特征图,这里叫做desired underlying mapping

一个building block要拟合的就是这个潜在的特征图

当没有使用残差网络结构时,building block的映射F(x)需要做的就是拟合H(x)

当使用了残差网络时,就是加入了skip connection 结构,这时候由一个building block 的任务由: F(x) := H(x)，变成了F(x) := H(x)-x

对比这两个待拟合的函数,文中说假设拟合残差图更容易优化,也就是说:F(x) := H(x)-x比F(x) := H(x)更容易优化,接下来举了一个例子,极端情况下:desired underlying mapping要拟合的是identity mapping，这时候残差网络的任务就是拟合F(x): 0,而原本的plain结构的话就是F(x) : x,而F(x): 0任务会更容易,原因是:resnet（残差网络）的F（x）究竟长什么样子？中theone的答案:

F是求和前网络映射，H是从输入到求和后的网络映射。比如把5映射到5.1，那么引入残差前是F'(5)=5.1，引入残差后是H(5)=5.1, H(5)=F(5)+5, F(5)=0.1。这里的F'和F都表示网络参数映射，引入残差后的映射对输出的变化更敏感。比如s输出从5.1变到5.2，映射F'的输出增加了1/51=2%，而对于残差结构输出从5.1到5.2，映射F是从0.1到0.2，增加了100%。明显后者输出变化对权重的调整作用更大，所以效果更好。残差的思想都是去掉相同的主体部分，从而突出微小的变化，看到残差网络我第一反应就是差分放大器

后续的实验也是证明了假设的, 残差网络比plain网络更好训练。因此，ResNet解决的是更好地训练网络的问题，王峰的答案算是对ResNet之所以好的一个理论论证吧.

**作者：周翼南  
https://www.zhihu.com/question/64494691/answer/325492405**

最近也在研究residual结构，说点自己的理解。

residual结构很大程度上解决了relu之后的空缺问题。

首先，一个3x3的卷积+relu，不可能对于所有的图片都有响应的。图片A经过这个卷积有正响应，图片B可能就没有。

那能不能填上这个空缺，可以的。

resnet结构的机制大概是这样，3x3感受野没有提出来的特征，我用5x5的感受野去填，还不行就用7x7去填。

这个填空缺的思想在resnext上表现的更为明显，他用了一堆5x5去填。

我是做人脸的，我设计过rrsnet结构和非resnet结构并且对每一层layer做过可视化，发现resnet出来的channel要比非resnet结构出来的channel饱满。而且bypass上正好就做了填充工作。

**作者：刘昕宸  
https://www.zhihu.com/question/64494691/answer/1545759510**

最近又重读了ResNet这篇论文，并详细写了一些自己的理解，链接见本回答末尾。

--------------------

ResNet解决的其实是一个**不符合预期的现象**。

> 做实验如果出现了不符合预期的现象，并且在我们的预期没什么问题的情况下，那么一定是哪里出了问题，并且 **这个问题非常值得解决**！

**前提：**

网络的不同层可以提取不同抽象层次的特征，越深的层提取的特征越抽象。因此深度网络可以整合low-medium-high各种层次的特征，增强网络表征能力。

**预期：**

越深的网络，表征能力应该越强，做分类等任务效果应该越好。

**现实：**

![251556f291ed2e6ffc7cc058569b6da9.png][]

更深的56-layer网络在训练和测试结果上均不如20-layer网络！

**不符合预期的现象出现了！！！**

**这个就是论文中提到的退化问题，而ResNet则正是为了解决这个问题。**

**下面进入碎碎念分析：**

deeper network准确率饱和后，很快就退化了

为什么会这样呢？

首先，深度网络优化是比较困难的，比如会出现**梯度爆炸/梯度消失**等问题。不过，这个问题已经被normalized initialization和batch normalization等措施解决得差不多了。

其次，网络更深了，参数更多了，应该拟合能力更强了才对啊！噢，一定是**过拟合**了。

但似乎也不是过拟合的问题：

因为56-layer网络（上图红线）的training error（上左图）也比20-layer网络（上图黄线）要高，这就应该不是过拟合了啊！

那么究竟是什么原因导致了deeper network degradation问题呢？

现在，我们换一种思路来构建deeper network：

假设浅层网络已经可以得到一个不错的结果了，那我接下来新增加的层啥也不干，只是拟合一个identity mapping，输出就拟合输入，这样总可以吧。

这样的话，我们觉得：这样构建的深层网络至少不应该比它对应的浅层training error要高。对吧。

但是实验又无情地打脸。

**看来，一定是在优化深层网络时出了问题！这种问题导致了深层网络的性能退化，ResNet就是要解决这个问题！**

**怎么解决？**

ResNet的核心就是**residual learning**和**identity learning by shortcut**

**效果怎么样呢？**

ResNet解决了退化问题，获得了更高的准确率，实现了更快的收敛速度。

**作者：\[已重置\]  
https://www.zhihu.com/question/64494691/answer/511981382**

这么简单的问题需要搞那么复杂么？

dy(x)/dx=F(x)=> y(x)=x+F(x)\*dt，这不就是个微分方程的差分化么？所以ResNet就是个微分方程啊。

至于说其收敛性好，就是通过这种操作使得网络的结构更均匀，整个映射就是由几乎完全一样的模块来构造，而且当F(x)=0的时候，相应的模块就相当于不存在，或者是当F(x)按照一定比例scaling的时候，等价于调整步长dx, 这种结构使得映射空间的曲率更平滑，基本是均匀的，并且可以或者通过跳过某些F(x)模块或者通过对F(x)的scaling来调整映射复杂度，达到模型复杂度和问题复杂度的更好的匹配，这一点在普通的CNN中是很难完成的。

简单说，ResNet构造了一个平滑的解空间流形，在这个平滑的流形上更容易找到解。

**作者：薰风初入弦  
https://www.zhihu.com/question/64494691/answer/786270699**

看了这个问题之后我思考了很久，于是写出了这篇专栏，现在贴过来当答案。

首先是跟着论文的思路走，了解作者提出resnet的“心路历程”，最后也有些个人整理的理解。

ps：欢迎关注我的专栏，这段时间我会持续更新，并且在更完约莫十几篇论文阅读后，会再写一些模型实现/代码方面的理解。

https://zhuanlan.zhihu.com/IsonomiaCS

## **一、引言：为什么会有ResNet？Why ResNet？** ##

> 神经网络叠的越深，则学习出的效果就一定会越好吗？

答案无疑是否定的，人们发现当模型层数增加到某种程度，模型的效果将会不升反降。也就是说，深度模型发生了退化（degradation）情况。

那么，为什么会出现这种情况？

### **1. 过拟合？Overfitting？** ###

首先印入脑海的就是Andrew Ng机器学习公开课\[1\]的过拟合问题

![550ec2e2a54cceaa356bb6ef0a0bbf89.png][] Andrew Ng的课件截图

在这个多项式回归问题中，左边的模型是欠拟合（under fit）的此时有很高的偏差（high bias），中间的拟合比较成功，而右边则是典型的过拟合（overfit），此时由于**模型过于复杂**，导致了高方差（high variance）。

然而，很明显当前CNN面临的效果退化不是因为过拟合，因为过拟合的现象是"高方差，低偏差"，即测试误差大而训练误差小。但实际上，深层CNN的训练误差和测试误差都很大。

![2a17f7084f12119544055787c93bef8a.png][] （a）欠拟合与过拟合 （b）模型退化

### 2. **梯度爆炸/消失？Gradient Exploding/Vanishing？** ###

除此之外，最受人认可的原因就是“梯度爆炸/消失（弥散）”了。为了理解什么是梯度弥散，首先回顾一下反向传播的知识。

假设我们现在需要计算一个函数 ![format_png 2][] ， ![format_png 3][] ,![format_png 4][] ,![format_png 5][]在时的梯度，那么首先可以做出如下所示的计算图。

将![format_png 3][] ,![format_png 4][] ,![format_png 5][]带入，其中，令 ![format_png 6][] ,一步步计算，很容易就能得出 ![format_png 7][] 。

这就是前向传播（计算图上部分绿色打印字体与蓝色手写字体），即：

![aee92ab28d8b429774ae74400e11bdd8.png][]

前向传播是从输入一步步向前计算输出，而反向传播则是从输出反向一点点推出输入的梯度(计算图下红色的部分)。

![f16753042ee94e8f302d9f5daaea4678.png][] ![a8285e3723546042922cb2edd29908c3.png][] 原谅我字丑……

注：这里的反向传播假设输出端接受之前回传的梯度为1（也可以是输出对输出求导=1）

观察上述反向传播，不难发现，在输出端梯度的模值，经过回传扩大了3~4倍。

这是由于反向传播结果的**数值大小**不止取决于求导的式子，很大程度上也取决于**输入的模值。**当计算图每次输入的模值都大于1，那么经过很多层回传，梯度将不可避免地呈几何倍数增长（每次都变成3~4倍，重复上万次，想象一下310000有多大……），直到Nan。这就是梯度爆炸现象。

当然反过来，如果我们每个阶段输入的模恒小于1，那么梯度也将不可避免地呈几何倍数下降（比如每次都变成原来的三分之一，重复一万次就是3-10000），直到0。这就是梯度消失现象。值得一提的是，由于人为的参数设置，梯度更倾向于消失而不是爆炸。

由于至今神经网络都以反向传播为参数更新的基础，所以梯度消失问题听起来很有道理。然而，事实也并非如此，至少不止如此。

我们现在无论用Pytorch还是Tensorflow，都会自然而然地加上Bacth Normalization(简称BN)，**而BN的作用本质上也是控制每层输入的模值，**因此梯度的爆炸/消失现象理应在很早就被解决了（至少解决了大半）。

不是过拟合，也不是梯度消失，这就很尴尬了……CNN没有遇到我们熟知的两个老大难问题，却还是随着模型的加深而导致效果退化。无需任何数学论证，我们都会觉得这不符合常理。等等，不符合常理……

### 3. **为什么模型退化不符合常理？** ###

按理说，当我们堆叠一个模型时，理所当然的会认为效果会越堆越好。因为，假设一个比较浅的网络已经可以达到不错的效果，**那么即使之后堆上去的网络什么也不做，模型的效果也不会变差**。

*然而事实上，这却是问题所在。“什么都不做”恰好是当前神经网络最难做到的东西之一。*

MobileNet V2的论文\[2\]也提到过类似的现象，由于非线性激活函数Relu的存在，每次输入到输出的过程都几乎是不可逆的（信息损失）。我们很难从输出反推回完整的输入。

![8ff22721595e7bd7b783f04f2e9a87e0.png][] Mobilenet v2是考虑的结果是去掉低维的Relu以保留信息

也许赋予神经网络无限可能性的“非线性”让神经网络模型走得太远，却也让它忘记了为什么出发（想想还挺哲学）。这也使得特征随着层层前向传播得到完整保留（什么也不做）的可能性都微乎其微。

用学术点的话说，这种神经网络丢失的“不忘初心”/“什么都不做”的品质叫做**恒等映射（identity mapping）**。

因此，可以认为Residual Learning的初衷，其实是让模型的内部结构至少有恒等映射的能力。以保证在堆叠网络的过程中，网络至少不会因为继续堆叠而产生退化！

## 二、**深度残差学习 Deep Residual Learning** ##

**1. 残差学习 Residual Learning**

前面分析得出，如果深层网络后面的层都是是**恒等映射**，那么模型就可以转化为一个浅层网络。那现在的问题就是**如何得到恒等映射**了。

事实上，已有的神经网络很难拟合潜在的恒等映射函数H(x) = x。

但如果把网络设计为**H(x) = F(x) + x，即直接把恒等映射作为网络的一部分**。就可以把问题转化为**学习一个残差函数F(x) = H(x) - x.**

只要F(x)=0，就构成了一个恒等映射H(x) = x。而且，拟合残差至少比拟合恒等映射容易得多。

于是，就有了论文\[3\]中的Residual block结构

![2840b1e5c91358e190237fcd9ebeef30.png][] Residual Block的结构

图中右侧的曲线叫做跳接（shortcut connection），通过跳接在**激活函数前，**将上一层（或几层）**之前的输出与本层**计算的**输出相加**，将求和的结果输入到激活函数中做为本层的输出。

用数学语言描述，假设Residual Block的输入为 ![format_png 8][] ，则输出 ![format_png 9][] 等于：

![6636cb8f752170df2c53b5b48324e1b6.png][]

其中 ![format_png 10][] 是我们学习的目标，即输出输入的残差 ![format_png 11][] 。以上图为例，残差部分是中间有一个Relu激活的双层权重，即：

![f79d0300be57a85a986c6721d15caf3c.png][]

其中 ![format_png 12][] 指代Relu，而 ![format_png 13][] 指代两层权重。

*顺带一提，这里一个**Block中必须至少含有两个层**，否则就会出现很滑稽的情况：*

![5b60d66611e37650b16e0d832742f1f6.png][]

*显然这样加了和没加差不多……*

2.**网络结构与维度问题**

![6f97fa672b9f50291e62f09299228c33.png][] ResNet结构示意图（左到右分别是VGG，没有残差的PlainNet，有残差的ResNet）

论文中原始的ResNet34与VGG的结构如上图所示，可以看到即使是当年号称“Very Deep”的VGG，和最基础的Resnet在深度上相比都是个弟弟。

可能有好奇心宝宝发现了，跳接的曲线中大部分是实现，但也有少部分虚线。这些虚线的代表这些Block前后的维度不一致，因为去掉残差结构的Plain网络还是参照了VGG经典的设计思路：**每隔x层，空间上/2（下采样）但深度翻倍。**

也就是说，**维度不一致体现在两个层面**：

*  **空间上**不一致
 *  **深度上**不一致

**空间上**不一致很简单，只需要在跳接的部分给输入x加上一个线性映射 ![format_png 14][] ,即：

![036df21db131aef7036f43b5b097854f.png][]

而对于**深度上**的不一致，则有两种解决办法，一种是在跳接过程中加一个1\*1的卷积层进行升维，另一种则是直接简单粗暴地补零。事实证明两种方法都行得通。

*注：深度上和空间上维度的不一致是分开处理的，但很多人将两者混为一谈（包括目前某乎一些高赞文章），这导致了一些人在模型的实现上感到困惑（比如当年的我）。*

### **3. torchvision中的官方实现** ###

事实上论文中的ResNet并不是最常用的，我们可以在Torchvision的模型库中找到一些很不错的例子，这里拿Resnet18为例：

![1b540828c654be22c23dbeabef50220c.png][]

运行代码：

import torchvision
    model = torchvision.models.resnet18(pretrained=False) #我们不下载预训练权重
    print(model)

得到输出：

ResNet(
      (conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
      (layer1): Sequential(
        (0): BasicBlock(
          (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
        )
        (1): BasicBlock(
          (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
        )
      )
      (layer2): Sequential(
        (0): BasicBlock(
          (conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (downsample): Sequential(
            (0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
            (1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          )
        )
        (1): BasicBlock(
          (conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
        )
      )
      (layer3): Sequential(
        (0): BasicBlock(
          (conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (downsample): Sequential(
            (0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
            (1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          )
        )
        (1): BasicBlock(
          (conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
        )
      )
      (layer4): Sequential(
        (0): BasicBlock(
          (conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (downsample): Sequential(
            (0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
            (1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          )
        )
        (1): BasicBlock(
          (conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
          (relu): ReLU(inplace)
          (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
          (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
        )
      )
      (avgpool): AvgPool2d(kernel_size=7, stride=1, padding=0)
      (fc): Linear(in_features=512, out_features=1000, bias=True)
    )

## **薰风说 Thinkings** ##

上述的内容是我以自己的角度思考作者提出ResNet的心路历程，我比作者蔡很多，所以难免出现思考不全的地方。

ResNet是如此简洁高效，以至于模型提出后还有无数论文讨论“ResNet到底解决了什么问题(The Shattered Gradients Problem: If resnets are the answer, then what is the question?)”\[4\]

论文\[4\]认为，即使BN过后梯度的模稳定在了正常范围内，但**梯度的相关性实际上是随着层数增加持续衰减的**。而经过证明，ResNet可以有效减少这种相关性的衰减。

对于 ![format_png 15][] 层的网络来说，没有残差表示的Plain Net梯度相关性的衰减在 ![format_png][] ，而ResNet的衰减却只有 ![format_png 1][] 。这也验证了ResNet论文本身的观点，网络训练难度随着层数增长的速度不是线性，而至少是多项式等级的增长（如果该论文属实，则可能是指数级增长的）

而对于“梯度弥散”观点来说，在输出引入一个输入x的恒等映射，则梯度也会对应地引入一个常数1，这样的网络的确不容易出现梯度值异常，在某种意义上，起到了稳定梯度的作用。

除此之外，shortcut类似的方法也并不是第一次提出，之前就有“Highway Networks”。可以只管理解为，以往参数要得到梯度，需要快递员将梯度一层一层中转到参数手中（就像我取个快递，都显示要从“上海市”发往“闵行分拣中心”，闵大荒日常被踢出上海籍）。而跳接实际上给梯度开了一条“高速公路”（取快递可以直接用无人机空投到我手里了），效率自然大幅提高，不过这只是个比较想当然的理由。

![3ed691e98dfe16939d0dadd47bd8fa98.png][]

上面的理解很多论文都讲过，但我个人最喜欢下面两个理解。

第一个已经由Feature Pyramid Network\[5\]提出了，那就是跳连接相加可以实现不同分辨率特征的组合，因为浅层容易有高分辨率但是低级语义的特征，而深层的特征有高级语义，但分辨率就很低了。

第二个理解则是说，引入跳接实际上让模型自身**有了更加“灵活”的结构**，即在训练过程本身，模型可以选择在每一个部分是“更多进行卷积与非线性变换”还是“更多倾向于什么都不做”，抑或是将两者结合。模型在训练便可以自适应本身的结构，这听起来是多么酷的一件事啊！

有的人也许会纳闷，我们已经知道一个模型的来龙去脉了，那么在一个客观上已经十分优秀的模型，强加那么多主观的个人判断有意思吗？

然而笔者还是相信，更多角度的思考有助于我们发现现有模型的不足，以及值得改进的点。比如我最喜欢的两个理解就可以引申出这样的问题“虽然跳接可以结合不同分辨率，但ResNet显然没有充分利用这个优点，因为每个shortcut顶多跨越一种分辨率（大部分还不会发生跨越）”。

那么“如果用跳接组合更多分辨率的特征，模型的效果会不会更好？”这就是DenseNet回答我们的问题了。

## **参考文献** ##

\[1\]https://www.coursera.org/learn/machine-learning  
\[2\]Sandler M, Howard A, Zhu M, et al. MobileNetV2: Inverted Residuals and Linear Bottlenecks\[J\]. 2018.

\[3\]He K, Zhang X, Ren S, et al. Deep Residual Learning for Image Recognition\[J\]. 2015.

\[4\]Balduzzi D , Frean M , Leary L , et al. The Shattered Gradients Problem: If resnets are the answer, then what is the question?\[J\]. 2017.

\[5\]Lin T Y , Dollár, Piotr, Girshick R , et al. Feature Pyramid Networks for Object Detection\[J\]. 2016.

**猜您喜欢：**

**[等你着陆！【GAN生成对抗网络】知识星球！][GAN]  **

**[CVPR 2021 | GAN的说话人驱动、3D人脸论文汇总][CVPR 2021 _ GAN_3D]**

**[CVPR 2021 | 图像转换 今如何？几篇GAN论文][CVPR 2021 _ _ _GAN]**

[**【CVPR 2021】通过GAN提升人脸识别的遗留难题**][CVPR 2021_GAN]

[**CVPR 2021生成对抗网络GAN部分论文汇总**][CVPR 2021_GAN 1]

[**经典GAN不得不读：StyleGAN**][GAN_StyleGAN]

[**最新最全20篇！基于 StyleGAN 改进或应用相关论文**][20_ StyleGAN]

**[超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

[**附下载 | 《Python进阶》中文版**][_ _Python]

[**附下载 | 经典《Think Python》中文版**][_ _Think Python]

[**附下载 | 《Pytorch模型训练实用教程》**][_ _Pytorch]

[**附下载 | 最新2020李沐《动手学深度学习》**][_ _2020]

**[附下载 | 《可解释的机器学习》中文版][Link 1]**

[**附下载 |《TensorFlow 2.0 深度学习算法实战》**][_TensorFlow 2.0]

**[附下载 | 超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

**[附下载 |《计算机视觉中的数学方法》分享][Link 2]**

![ca879aa2b1c69adcd89e8a37a1b30cf3.png][]

[4fc8dbebd9f7f7e3246eaa2f14b7ee26.png]: /images/20220829/ddabbe14c3174528803ca90efbed8c08.png
[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1B1cFhOZlQxVEhpY3BldnQwcFVHZWZ1T2doZ1NkWVBUblMwdXB4alU0V2hxd21qVHlJY0VuZzByT01oY2dBUHU1ci82NDA?x-oss-process=image/format,png
[format_png 1]: /images/20220829/ca2ee36313674f42a1ca2056cbf068f5.png
[56c7da0d62fd9a80c216a199c1fd1747.png]: /images/20220829/9f41b02e56f44f148b09a6134f57f921.png
[251556f291ed2e6ffc7cc058569b6da9.png]: /images/20220829/b2d84992bbe346028b843c65a3fb4c26.png
[550ec2e2a54cceaa356bb6ef0a0bbf89.png]: /images/20220829/62044520f9104630bf1cd9d4ed573abb.png
[2a17f7084f12119544055787c93bef8a.png]: /images/20220829/959e2f55057943e38bd22f7e1dc2cfac.png
[format_png 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1B4WGNYWXNVdUxFUXJLV3ZKMmg3ZlhGaWNlZmZ4bEdic2Q2WU41ZGZTcjdGYTNGb2N0TmR0TndVU3ZITlRTR0RmbC82NDA?x-oss-process=image/format,png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BQcGJNc3JqNjVYSDhmZmJRemFIU2tzUzRqRndjVEdZWDR4ajBQa2ljUzFwRHEwMnZTRnk3amc4TktyWDFkNWQyUS82NDA?x-oss-process=image/format,png
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BPcWljUEtZbFRkUnB5NnJCTW85MWpQYzBqVW8zTFF3ZWlibm9RR2ljYkV1czR3d2d1RWN3TThUOTE0Y0tYbE13YlRULzY0MA?x-oss-process=image/format,png
[format_png 5]: /images/20220829/62a4cbd5d767438ebaa8e2a3365b6629.png
[format_png 6]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BnZFpwRk1Oa2QwV2NvaWFKN1lsdFlCWlRjS3BUbFJDUmRydkJpYUxCVUhMcDVNMlFDMDVEdjVuNHc4M2liN0IwNDdaLzY0MA?x-oss-process=image/format,png
[format_png 7]: /images/20220829/0efef9991ad04b899fee9182f8829a91.png
[aee92ab28d8b429774ae74400e11bdd8.png]: /images/20220829/f0705505011044648c67ebd053547baa.png
[f16753042ee94e8f302d9f5daaea4678.png]: https://img-blog.csdnimg.cn/img_convert/f16753042ee94e8f302d9f5daaea4678.png
[a8285e3723546042922cb2edd29908c3.png]: /images/20220829/74e3579f0fdb498a82bddbef16ade91a.png
[8ff22721595e7bd7b783f04f2e9a87e0.png]: /images/20220829/447a9916af6044f7a0c31995b01e9013.png
[2840b1e5c91358e190237fcd9ebeef30.png]: /images/20220829/415ca8831b844775b94eaf3863ee9ffc.png
[format_png 8]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BmSGljb0xqMnFYVTlEdE56UnNDUmNzSTU5Y2pOalBoMTBwWlBkVDNpYnFXVFNDQWt2UmliWkxucEpkclBleE10aWJYaWEvNjQw?x-oss-process=image/format,png
[format_png 9]: /images/20220829/656768fd11d24e65a5b7e527787b48cd.png
[6636cb8f752170df2c53b5b48324e1b6.png]: /images/20220829/7bee40c18b0e48ddaa9cc026cbad6e94.png
[format_png 10]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BFWGo1bUo2a2FrRmFqT3VLc1BnNmdZUUloS2swT3ZkeUJOUEhWSUhBN0pYQjNDRkdKeFV4V0JOZ1ZMaGVGaWNyaWIvNjQw?x-oss-process=image/format,png
[format_png 11]: /images/20220829/964772f14f00491c841989ad2d445524.png
[f79d0300be57a85a986c6721d15caf3c.png]: /images/20220829/34e710aa81c141ab9e65f908a1b7dbf2.png
[format_png 12]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BXNElHeUJTeXdZM280aWF5R2hqSEdXdnJCQjhsd1Q4aGJQTDUwd0JNZ0dMNE1DSjRiT05MZ254ZWdEcGFrTjNMQi82NDA?x-oss-process=image/format,png
[format_png 13]: /images/20220829/3d5c628c77bf4b7b9975f10cdd0041fe.png
[5b60d66611e37650b16e0d832742f1f6.png]: /images/20220829/d2cb21c69d6b486cb074d0de8c7f1255.png
[6f97fa672b9f50291e62f09299228c33.png]: /images/20220829/433cf84ab37e4bcca262c2c37578df54.png
[format_png 14]: /images/20220829/a982480bf8194eeb8a34649df68e65b8.png
[036df21db131aef7036f43b5b097854f.png]: /images/20220829/b218e8cd70184b968af07a3f479aaada.png
[1b540828c654be22c23dbeabef50220c.png]: /images/20220829/f29dc9888d734ebfb7cc986eaf096a4f.png
[format_png 15]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3N2Zy9xZDN1NUlIU1lUOGliQ3QzU1djWERYd2Q1MXVrVzFVN1BkYXZPR3VBU21MZ0thV29UZGlhazNGdkVaWkhMRXNYQ3ZlUERMaWFuYklKd3NSZDNZajhkRDdDdUVjaWFUY2J2b0pQLzY0MA?x-oss-process=image/format,png
[3ed691e98dfe16939d0dadd47bd8fa98.png]: /images/20220829/55b7c942b4ba43cea01a651e22793359.png
[GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29bf4bc95e365d4f53676d3aa2b80299375e55f9bab3bc7f8ad9405e7ada61d7ac00abb4bf&idx=1&mid=2247491056&scene=21&sn=535829ad04b094f59b2b38eb85cdbb38#wechat_redirect
[CVPR 2021 _ GAN_3D]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe2a41fac95dc8ec752351699318742fa502dfc945ce072567bb4bf0c59ce83049dc58c1a57d&idx=1&mid=2247492417&scene=21&sn=292be5e5fab52c5df5c94508b898da5a#wechat_redirect
[CVPR 2021 _ _ _GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe2a4278c95dcb6ebd0ba346a11dc195a0ac4f7830f3a7cf69fcffc7057fa1bf3eaeb9386300&idx=1&mid=2247491779&scene=21&sn=f0a601ca66c01361709e6af8485f629b#wechat_redirect
[CVPR 2021_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe2a4289c95dcb9f047c18e63b3be9d78e5e75f1d94dc80be34686ce6b4f22cdee2d7cc7f2ae&idx=1&mid=2247491634&scene=21&sn=427cb6bfd6868662f2b5ae1ac37f6072#wechat_redirect
[CVPR 2021_GAN 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29bfe4c95e36f275332b31b993532b98d52acc76d26c15e2321de4cf52141510bee3ff96af&idx=1&mid=2247490911&scene=21&sn=671926492c3b36e3350db4963f7fcb16#wechat_redirect
[GAN_StyleGAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29bedbc95e37cd709f583372918478ad8d3cff5309a85f3a940e7c0356050278f89d7e1c79&idx=2&mid=2247490656&scene=21&sn=bbe156fef077f23263b57e506ad43314#wechat_redirect
[20_ StyleGAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29b979c95e306f03b134809b16009d06aa0694b03da3368f84625de3700e6a56221d49d1bf&idx=1&mid=2247490498&scene=21&sn=324cfbbde362a728aa5336f4b200f7a3#wechat_redirect
[100_CVPR 2020_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a94cc95e205ae880cb9518cb16a54c0abde69e5a8654f7fedf70a0cc990775265bf28a1c&idx=1&mid=2247486455&scene=21&sn=94156f53845cdf07e859e343862be745#wechat_redirect
[_ _Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29abb6c95e22a04d1eb019f964c8ae97b2f3af98c22f730f5d5ed2aea9fdb320b00c688967&idx=2&mid=2247485709&scene=21&sn=55a51c98ab48f393ba305c082ba0e4fe#wechat_redirect
[_ _Think Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a418c95e2d0e9a3de46e0e4d1b8d4947154d8639418a511a3091300aa31699932046556e&idx=2&mid=2247485091&scene=21&sn=f569d5d70c2e6c9cc567fbc5147787a4#wechat_redirect
[_ _Pytorch]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa78c95e236e380c9fd2ae79917d7451ccdd4803c5e6047a16f921d1b61d18efc79ada7c&idx=2&mid=2247485635&scene=21&sn=90608bce32fe353cf3c64b39e3406bc3#wechat_redirect
[_ _2020]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4a4c95e2db2aab16bdcefa78795bbb7efbc70b533bb197d73f617558f2f8a523120c6e3&idx=2&mid=2247484959&scene=21&sn=563999cc8d48498beed00270844ceec4#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4bac95e2dac758c4aac10a3aac49eb062bc0829d4ef2ebc8e6d5069d246385c5084a2b4&idx=1&mid=2247484929&scene=21&sn=523220858287ed3e6105919703c8e833#wechat_redirect
[_TensorFlow 2.0]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a5b0c95e2ca6599d4a91d5d40900566b7525de3dd85259e7a6c173aa26aa7ea3641d1aaf&idx=2&mid=2247485195&scene=21&sn=e3387067db29d1759755c6c2ea96c870#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa8fc95e23993e057fb0dbe09f2810ea07184a439c173f404a7ab657cadcde3d24efa52a&idx=2&mid=2247485492&scene=21&sn=c4fb135de02cd52f06bc61b0e79476e4#wechat_redirect
[ca879aa2b1c69adcd89e8a37a1b30cf3.png]: /images/20220829/12a4c161d1c448b8bda95b1a6f17c0c2.png