深度学习中几种常见的激活函数理解与总结

清疚 2021-12-15 08:21 336阅读 0赞

学习神经网络的时候我们总是听到激活函数这个词，而且很多资料都会提到常用的激活函数，比如Sigmoid函数、tanh函数、Relu函数。肯定很多人刚开始和我一样一头雾水，接下来就让我们详细了解一下激活函数方方面面的知识。

1.激活函数的概念和作用；

2.通俗的理解一下激活函数(图文结合)；

3.几种激活函数的对比；

4.如何选择合适的激活函数?

--------------------

## 1.激活函数的概念和作用 ##

**概念：**神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值，并将输入值传递给下一层，输入层神经元节点会将输入属性值直接传递给下一层（隐层或输出层）。在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数（又称激励函数）。

**关于神经网络中的激活函数的作用，通常都是这样解释：**不使用激活函数的话，神经网络的每层都只是做线性变换，多层输入叠加后也还是线性变换。因为线性模型的表达能力通常不够，所以这时候就体现了激活函数的作用了，激活函数可以引入非线性因素**。**疑问就来了，激活函数是如何引入非线性因素呢？

## 2.通俗的理解一下激活函数(图文结合)； ##

为了解释激活函数如何引入非线性因素，接下来让我们以神经网络分割平面空间作为例子。

（1）无激活函数的神经网络

神经网络最简单的结构就是单输出的单层感知机，单层感知机只有输入层和输出层，分别代表了神经感受器和神经中枢。下图是一个只有2个输入单元和1个输出单元的简单单层感知机。图中x1、w2代表神经网络的输入神经元受到的刺激，w1、w2代表输入神经元和输出神经元间连接的紧密程度，b代表输出神经元的兴奋阈值，y为输出神经元的输出。我们使用该单层感知机划出一条线将平面分割开，如图所示：

![1179840-20190319110553264-236804987.png][]

同理，我们也可以将多个感知机（注意，不是多层感知机）进行组合获得更强的平面分类能力，如图所示：

* ![1179840-20190319110651609-619322213.png][]*

再看看包含一个隐层的多层感知机的情况，如图所示：

![1179840-20190319110717094-929379549.png][]

通过对比可以发现，上面三种没有激励函数的神经网络的输出是都线性方程，其都是在用复杂的线性组合来试图逼近曲线。

（2）带激活函数的神经网络

让我们在神经网络每一层神经元做完线性变换以后，加上一个非线性激励函数对线性变换的结果进行转换，结果显而易见，输出立马变成一个不折不扣的非线性函数了，如图所示：

![1179840-20190319111221661-586556238.png][]

拓展到多层神经网络的情况, 和刚刚一样的结构, 加上非线性激励函数之后, 输出就变成了一个复杂的非线性函数了，如图所示：

![1179840-20190319111313076-157747424.png][]

总结：加入非线性激励函数后，神经网络就有可能学习到平滑的曲线来分割平面，而不是用复杂的线性组合逼近平滑曲线来分割平面，使神经网络的表示能力更强了，能够更好的拟合目标函数。 这就是为什么我们要有非线性的激活函数的原因。如下图所示说明加入非线性激活函数后的差异，上图为用线性组合逼近平滑曲线来分割平面，下图为平滑的曲线来分割平面：

![1179840-20190319111437582-813519773.png][]

## 3.几种激活函数的对比； ##

首先让我们看看激活函数的大分类，如下图所示：

![1179840-20190319150235460-1867017910.png][]

首先让我们看看什么是饱和激活函数：

![1179840-20190319150556444-1472486977.png][]

反之，不满足以上条件的函数则称为非饱和激活函数。

sigmoid和tanh是“饱和激活函数”，而ReLU及其变体则是“非饱和激活函数”。使用“非饱和激活函数”的优势在于两点：(1)"非饱和激活函数”能解决所谓的“梯度消失”问题。(2)它能加快收敛速度。

Sigmoid函数需要一个实值输入压缩至\[0,1\]的范围---------σ(x) = 1 / (1 + exp(−x))

tanh函数需要讲一个实值输入压缩至 \[-1, 1\]的范围---------tanh(x) = 2σ(2x) − 1

由于使用sigmoid激活函数会造成神经网络的梯度消失和梯度爆炸问题，所以许多人提出了一些改进的激活函数，如：tanh、ReLU、Leaky ReLU、PReLU、RReLU、ELU、Maxout。下面我们具体来分析一下这几个激活函数的区别。

**（1）Sigmoid**

Sigmoid是常用的非线性的激活函数，它的数学形式如公式4：

![1179840-20190319121958218-79632961.png][]

其函数图像如图所示：

![1179840-20190319122054216-517460665.png][]

导函数图像如图所示：

![1179840-20190319122137349-1900227721.png][]

Sigmoid函数在历史上曾经非常的常用，输出值范围为\[0,1\]之间的实数。但是现在它已经不太受欢迎，实际中很少使用。原因是sigmoid存在3个问题：

1.  sigmoid函数饱和使梯度消失(Sigmoidsaturate and kill gradients)。我们从导函数图像中可以看出sigmoid的导数都是小于0.25的，那么在进行反向传播的时候，梯度相乘结果会慢慢的趋近于0。这样，几乎就没有梯度信号通过神经元传递到前面层的梯度更新中，因此这时前面层的权值几乎没有更新，这就叫梯度消失。除此之外，为了防止饱和，必须对于权重矩阵的初始化特别留意。如果初始化权重过大，可能很多神经元得到一个比较小的梯度，致使神经元不能很好的更新权重提前饱和，神经网络就几乎不学习。  
    
2.  sigmoid函数输出不是“零为中心”(zero-centered)。一个多层的sigmoid神经网络，如果你的输入x都是正数，那么在反向传播中w的梯度传播到网络的某一处时，权值的变化是要么全正要么全负。![1179840-20190319123139943-1720408027.png][]
    
    如上图所示：当梯度从上层传播下来，w的梯度都是用x乘以f的梯度，因此如果神经元输出的梯度是正的，那么所有w的梯度就会是正的，反之亦然。在这个例子中，我们会得到两种权值，权值范围分别位于图8中一三象限。当输入一个值时，w的梯度要么都是正的要么都是负的，当我们想要输入一三象限区域以外的点时，我们将会得到这种并不理想的曲折路线（zig zag path），图中红色曲折路线。假设最优化的一个w矩阵是在图8中的第四象限，那么要将w优化到最优状态，就必须走“之字形”路线，因为你的w要么只能往下走(负数)，要么只能往右走(正的)。优化的时候效率十分低下，模型拟合的过程就会十分缓慢。
3.  指数函数的计算是比较消耗计算资源的。

**（2）tanh**

tanh函数跟sigmoid还是很像的，实际上，tanh是sigmoid的变形,如公式5所示。tanh的具体公式如公式6所示,其图像如下图所示：

![1179840-20190319142014597-1522962519.png][]![1179840-20190319142025244-1530592496.png][]

tanh与sigmoid不同的是，tanh是“零为中心”的。因此，实际应用中，tanh会比sigmoid更好一些。但是在饱和神经元的情况下，tanh还是没有解决梯度消失问题。

** 优点：**tanh解决了sigmoid的输出非“零为中心”的问题

** 缺点：**（1）依然有sigmoid函数过饱和的问题。（2)依然进行的是指数运算

** （3）ReLU**

近年来，ReLU函数变得越来越受欢迎。全称是Rectified Linear Unit，中文名字：修正线性单元。ReLU是Krizhevsky、Hinton等人在2012年《ImageNet Classification with Deep Convolutional Neural Networks》论文中提出的一种线性且不饱和的激活函数。它的数学表达式如7所示

![1179840-20190319142645050-960207525.png][]

函数图像如下图所示：

![1179840-20190319142717458-293933746.png][]

** 优点：**（1）ReLU解决了梯度消失的问题，至少x在正区间内，神经元不会饱和；（2）由于ReLU线性、非饱和的形式，在SGD中能够快速收敛；（3）算速度要快很多。ReLU函数只有线性关系，不需要指数计算，不管在前向传播还是反向传播，计算速度都比sigmoid和tanh快

** 缺点：**（1）ReLU的输出不是“零为中心”(Notzero-centered output)。（2）随着训练的进行，可能会出现神经元死亡，权重无法更新的情况。这种神经元的死亡是不可逆转的死亡

** 总结：**训练神经网络的时候，一旦学习率没有设置好，第一次更新权重的时候，输入是负值，那么这个含有ReLU的神经节点就会死亡，再也不会被激活。因为：ReLU的导数在x>0的时候是1，在x<=0的时候是0。如果x<=0，那么ReLU的输出是0，那么反向传播中梯度也是0，权重就不会被更新，导致神经元不再学习。也就是说，这个ReLU激活函数在训练中将不可逆转的死亡，导致了训练数据多样化的丢失。在实际训练中，如果学习率设置的太高，可能会发现网络中40%的神经元都会死掉，且在整个训练集中这些神经元都不会被激活。所以，设置一个合适的较小的学习率，会降低这种情况的发生。所以必须设置一个合理的学习率。为了解决神经元节点死亡的情况，有人提出了Leaky ReLU、P-ReLu、R-ReLU、ELU等激活函数。

**引出的问题：****神经网络中ReLU是线性还是非线性函数？为什么relu这种“看似线性”（分段线性）的激活函数所形成的网络，居然能够增加非线性的表达能力？**

（1）relu是非线性激活函数。

（2）让我们先明白什么是线性网络?如果把线性网络看成一个大的矩阵M。那么输入样本A和B，则会经过同样的线性变换MA，MB（这里A和B经历的线性变换矩阵M是一样的）

（3）的确对于单一的样本A，经过由relu激活函数所构成神经网络，其过程确实可以等价是经过了一个线性变换M1，但是对于样本B，在经过同样的网络时，由于每个神经元是否激活（0或者Wx+b）与样本A经过时情形不同了（不同样本），因此B所经历的线性变换M2并不等于M1。因此，relu构成的神经网络虽然对每个样本都是线性变换，但是不同样本之间经历的线性变换M并不一样，所以整个样本空间在经过relu构成的网络时其实是经历了非线性变换的。

**（4）Leaky ReLU**

ReLU是将所有的负值设置为0，造成神经元节点死亡情况。相反，Leaky ReLU是给所有负值赋予一个非零的斜率。Leaky ReLU激活函数是在声学模型(2013)中首次提出来的。它的数学表达式如公式8所示：

![1179840-20190319145740341-1886346925.png][]

其图像如下图：

![1179840-20190319151440440-1540740307.png][]

**优点：**

（1）.神经元不会出现死亡的情况。

（2）.对于所有的输入，不管是大于等于0还是小于0，神经元不会饱和。

（3）.由于Leaky ReLU线性、非饱和的形式，在SGD中能够快速收敛。

（4）.计算速度要快很多。Leaky ReLU函数只有线性关系，不需要指数计算，不管在前向传播还是反向传播，计算速度都比sigmoid和tanh快。

**缺点：**（1）.Leaky ReLU函数中的α，需要通过先验知识人工赋值。

**总结：**Leaky ReLU很好的解决了“dead ReLU”的问题。因为Leaky ReLU保留了x小于0时的梯度，在x小于0时，不会出现神经元死亡的问题。对于Leaky ReLU给出了一个很小的负数梯度值α，这个值是很小的常数。比如：0.01。这样即修正了数据分布，又保留了一些负轴的值，使得负轴信息不会全部丢失。但是这个α通常是通过先验知识人工赋值的。

**（5）RReLU**

RReLU的英文全称是“Randomized Leaky ReLU”，中文名字叫“随机修正线性单元”。RReLU是Leaky ReLU的随机版本。它首次是在Kaggle的NDSB比赛中被提出来的,其图像和表达式如下图所示：

![1179840-20190319152454838-1537099385.png][]

![1179840-20190319152514833-2103123577.png][]

RReLU的核心思想是，在训练过程中，α是从一个高斯分布![70][]中随机出来的值，然后再在测试过程中进行修正。在测试阶段，把训练过程中所有的![70 1][]取个平均值。

**特点：**

（1）.RReLU是Leaky ReLU的random版本，在训练过程中，α是从一个高斯分布中随机出来的，然后再测试过程中进行修正。

（2）.数学形式与PReLU类似，但RReLU是一种非确定性激活函数，其参数是随机的

**（6）ReLU、Leaky ReLU、PReLU和RReLU的比较**

各自图像如下图所示：

![1179840-20190320092631224-557924518.png][]

**总结：**

（1）PReLU中的α是根据数据变化的；

（2）Leaky ReLU中的α是固定的；

（3）RReLU中的α是一个在给定范围内随机抽取的值，这个值在测试环节就会固定下来。

**（7）ELU**

ELU的英文全称是“Exponential Linear Units”，中文全称是“指数线性单元”。它试图将激活函数的输出平均值接近零，从而加快学习速度。同时，它还能通过正值的标识来避免梯度消失的问题。根据一些研究显示，ELU分类精确度是高于ReLU的。公式如12式所示。

![1179840-20190320092927859-1314400255.png][]

ELU与其他几种激活函数的比较图：

![1179840-20190320093023552-229272922.png][]

**优点：**

（1）ELU包含了ReLU的所有优点。

（2）神经元不会出现死亡的情况。

（3）ELU激活函数的输出均值是接近于零的。

** 缺点：**

（1）计算的时候是需要计算指数的，计算效率低的问题。

**（8）Maxout**

Maxout “Neuron” 是由Goodfellow等人在2013年提出的一种很有特点的神经元，它的激活函数、计算的变量、计算方式和普通的神经元完全不同，并有两组权重。先得到两个超平面，再进行最大值计算。激活函数是对ReLU和Leaky ReLU的一般化归纳，没有ReLU函数的缺点，不会出现激活函数饱和神经元死亡的情况。Maxout出现在ICML2013上，作者Goodfellow将maxout和dropout结合，称在MNIST，CIFAR-10，CIFAR-100，SVHN这4个数据集上都取得了start-of-art的识别率。Maxout公式如13所示。

![1179840-20190320095223079-1051492782.png][]

其中![70 2][]，假设w是2维的，那么我们可以得出公式14。

![1179840-20190320095253259-1751171154.png][]

分析公式14可以注意到，ReLU和Leaky ReLU都是它的一个变形。比如的时候，就是ReLU。Maxout的拟合能力非常强，它可以拟合任意的凸函数。Goodfellow在论文中从数学的角度上也证明了这个结论，只需要2个Maxout节点就可以拟合任意的凸函数，前提是“隐含层”节点的个数足够多。

**优点：**

（1）Maxout具有ReLU的所有优点，线性、不饱和性。

（2）同时没有ReLU的一些缺点。如：神经元的死亡。

**缺点：**

（1）从这个激活函数的公式14中可以看出，每个neuron将有两组w，那么参数就增加了一倍。这就导致了整体参数的数量激增。

## **4.如何选择合适的激活函数?** ##

看了这多激活函数，想必大家都应该有所了解，那这么多的激活函数该如何选择呢？目前还不存在定论，在实践过程中更多还是需要结合实际情况，考虑不同激活函数的优缺点综合使用。我在这里给大家一点在训练模型时候的建议。

（1）通常来说，不能把各种激活函数串起来在一个网络中使用。

（2）如果使用ReLU，那么一定要小心设置学习率(learning rate),并且要注意不要让网络中出现很多死亡神经元。如果死亡神经元过多的问题不好解决，可以试试Leaky ReLU、PReLU、或者Maxout。

（3）尽量不要使用sigmoid激活函数，可以试试tanh，不过我还是感觉tanh的效果会比不上ReLU和Maxout。

参考链接：[https://blog.csdn.net/program\_developer/article/details/80032376][https_blog.csdn.net_program_developer_article_details_80032376]

[ https://zhidao.baidu.com/question/565740454826072204.html][https_zhidao.baidu.com_question_565740454826072204.html]

* *

--------------------

以上就是本次学习心得，欢迎交流！

转载于:https://www.cnblogs.com/XDU-Lakers/p/10557496.html

[1179840-20190319110553264-236804987.png]: /images/20211214/0ca494ff168e40ec833267e17c3379b5.png
[1179840-20190319110651609-619322213.png]: /images/20211214/eb6e99461d494061a81cafaf921d59d3.png
[1179840-20190319110717094-929379549.png]: /images/20211214/ac79f6256b364c159477e8781eb8d675.png
[1179840-20190319111221661-586556238.png]: /images/20211214/3804afb2c16848da8403d4e10f64d71f.png
[1179840-20190319111313076-157747424.png]: /images/20211214/b0c86f3943924ac2b22d98afd1ba0728.png
[1179840-20190319111437582-813519773.png]: /images/20211214/9a3c25e43da2413bab0fb2ab6b766904.png
[1179840-20190319150235460-1867017910.png]: /images/20211214/7168899538314439852f3258a40ef266.png
[1179840-20190319150556444-1472486977.png]: /images/20211214/8359799c015b4a23b1dfddfa9b3de33a.png
[1179840-20190319121958218-79632961.png]: /images/20211214/f217d302ff454ca1a438a4ea4ab3dd3b.png
[1179840-20190319122054216-517460665.png]: /images/20211214/c6b1f81fb9be47418c5132623ff5da99.png
[1179840-20190319122137349-1900227721.png]: /images/20211214/818ce44f8f6b4efabcf65f18f3874b0f.png
[1179840-20190319123139943-1720408027.png]: /images/20211214/6d94f2b33c334e279fbf728ba754c553.png
[1179840-20190319142014597-1522962519.png]: https://img2018.cnblogs.com/blog/1179840/201903/1179840-20190319142014597-1522962519.png
[1179840-20190319142025244-1530592496.png]: /images/20211214/06e29ec2deff47c69a6601ca209dc75b.png
[1179840-20190319142645050-960207525.png]: /images/20211214/471ca704e1ee49cc8003eda2d474193c.png
[1179840-20190319142717458-293933746.png]: /images/20211214/cc874f176e914fbca0dc16313d542bf1.png
[1179840-20190319145740341-1886346925.png]: /images/20211214/05e40ee2b1124be4a5329c9005c9bfab.png
[1179840-20190319151440440-1540740307.png]: /images/20211214/f5e12a2b91d344c18731e34d8029e17b.png
[1179840-20190319152454838-1537099385.png]: /images/20211214/37ce7f2099a54f71abfbced9559a2bd4.png
[1179840-20190319152514833-2103123577.png]: /images/20211214/31cebc90b0c94c44883bae4dab67ff47.png
[70]: https://img-blog.csdn.net/20180421192756217?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3Byb2dyYW1fZGV2ZWxvcGVy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70
[70 1]: /images/20211214/5ecb11ec580f4e728f70d6dd7a3d4147.png
[1179840-20190320092631224-557924518.png]: /images/20211214/dcc12af1eaea4bc5b656e8a455f2af3d.png
[1179840-20190320092927859-1314400255.png]: /images/20211214/d05119b6b84c47e8906253911de6ff5e.png
[1179840-20190320093023552-229272922.png]: /images/20211214/251cfea2d5074a28877a965c8e3fe0e6.png
[1179840-20190320095223079-1051492782.png]: /images/20211214/04770f3d0eec486ca8e523c3c2a52493.png
[70 2]: /images/20211214/3c73129854b94876a029d4f7600fd7c6.png
[1179840-20190320095253259-1751171154.png]: /images/20211214/cefed70aec784658b6e6c2549aa0ea49.png
[https_blog.csdn.net_program_developer_article_details_80032376]: https://blog.csdn.net/program_developer/article/details/80032376
[https_zhidao.baidu.com_question_565740454826072204.html]: https://zhidao.baidu.com/question/565740454826072204.html