【深度学习】常见的几种激活函数（含源代码解读）

た入场券 2023-09-27 12:47 122阅读 0赞

#### 目录：深度学习中常见的几种激活函数 ####

*  一、前言
 *  二、ReLU函数
 *  三、sigmoid函数
 *  四、tanh函数

## 一、前言 ##

激活函数（activation function）通过计算加权和并加上偏置来确定神经元是否应该被激活， 它们将输入信号转换为输出的可微运算。 大多数激活函数都是非线性的。 由于激活函数是深度学习的基础，下面简要介绍一些常见的激活函数。

## 二、ReLU函数 ##

最受欢迎的激活函数是修正线性单元（Rectified linear unit，ReLU）， 因为它实现简单，同时在各种预测任务中表现良好。 ReLU提供了一种非常简单的非线性变换。 给定元素 x x x，ReLU函数被定义为该元素与0的最大值：  
 R e L U ( x ) = m a x ( x , 0 ) ReLU(x)=max(x,0) ReLU(x)=max(x,0)  
通俗地说，ReLU函数通过将相应的活性值设为0，仅保留正元素并丢弃所有负元素。 为了直观感受一下，我们可以画出函数的曲线图。 正如从图中所看到，激活函数是分段线性的。

import torch 
    from d2l import torch as d2l
    x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)
    y = torch.relu(x)
    d2l.plot(x.detach(), y.detach(), 'x', 'relu(x)', figsize=(10, 6))
    d2l.plt.show()

![在这里插入图片描述][aedaa63fda0245389e760ab4203a16d6.png]  
当输入为负数时，ReLU函数的导数为0，而当输入为正时，ReLU函数的导数为1。

注意，当输入值精确等于0时，ReLU函数不可导。 在此时，我们默认使用左侧的导数，即当输入为0时导数为0。 我们可以忽略这种情况，因为输入可能永远都不会是0。

这里引用一句古老的谚语，“如果微妙的边界条件很重要，我们很可能是在研究数学而非工程”， 这个观点正好适用于这里。 下面我们绘制ReLU函数的导数：

import torch 
    from d2l import torch as d2l
    x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)
    y = torch.relu(x)
    y.backward(torch.ones_like(x), retain_graph=True)
    d2l.plot(x.detach(), x.grad, 'x', 'grad of relu', figsize=(10, 6))
    d2l.plt.show()

![在这里插入图片描述][7331491898274959a55cbf12c92edacc.png]  
使用ReLU的原因是，它求导表现得特别好：要么让参数消失，要么让参数通过。 这使得优化表现得更好，并且ReLU减轻了困扰以往神经网络的梯度消失问题（稍后将详细介绍）。

注意，ReLU函数有许多变体，包括参数化ReLU（Parameterized ReLU，pReLU） 函数 \[He et al., 2015\]。 该变体为ReLU添加了一个线性项，因此即使参数是负的，某些信息仍然可以通过：  
 p R e l u = m a x ( 0 , x ) + α m i n ( 0 , x ) pRelu=max(0, x)+\\alpha min(0,x) pRelu=max(0,x)\+αmin(0,x)

## 三、sigmoid函数 ##

对于一个定义域在 R \\R R中的输入， sigmoid函数将输入变换为区间(0, 1)上的输出。 因此，sigmoid通常称为挤压函数（squashing function）： 它将范围（-inf, inf）中的任意输入压缩到区间（0, 1）中的某个值：  
 s i g m o i d ( x ) = 1 1 + e x p ( − x ) sigmoid(x)=\\frac\{1\}\{1+exp(-x)\} sigmoid(x)=1\+exp(−x)1  
在最早的神经网络中，科学家们感兴趣的是对“激发”或“不激发”的生物神经元进行建模。 因此，这一领域的先驱可以一直追溯到人工神经元的发明者麦卡洛克和皮茨，他们专注于阈值单元。 阈值单元在其输入低于某个阈值时取值0，当输入超过阈值时取值1。

当人们逐渐关注到到基于梯度的学习时， sigmoid函数是一个自然的选择，因为它是一个平滑的、可微的阈值单元近似。 当我们想要将输出视作二元分类问题的概率时， sigmoid仍然被广泛用作输出单元上的激活函数 （你可以将sigmoid视为softmax的特例）。 然而，sigmoid在隐藏层中已经较少使用， 它在大部分时候被更简单、更容易训练的ReLU所取代。

下面，我们绘制sigmoid函数。 注意，当输入接近0时，sigmoid函数接近线性变换。  
![在这里插入图片描述][de4b5f22b799421282acdf04a07afdea.png]  
sigmoid函数的导数为下面的公式：  
 d d x s i g m o i d ( x ) = e x p ( − x ) ( 1 + e x p ( − x ) ) 2 = s i g m o i d ( x ) ( 1 − s i g m o i d ( x ) ) \\frac\{d\}\{dx\}sigmoid(x)=\\frac\{exp(-x)\}\{(1+exp(-x))^2\}=sigmoid(x)(1-sigmoid(x)) dxdsigmoid(x)=(1\+exp(−x))2exp(−x)=sigmoid(x)(1−sigmoid(x))  
sigmoid函数的导数图像如下所示。 注意，当输入为0时，sigmoid函数的导数达到最大值0.25； 而输入在任一方向上越远离0点时，导数越接近0。

import torch 
    from d2l import torch as d2l
    x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)
    y = torch.sigmoid(x)
    y.backward(torch.ones_like(x), retain_graph=True)
    d2l.plot(x.detach(), x.grad, 'x', 'grad of sigmoid', figsize = (10, 6))
    d2l.plt.show()

![在这里插入图片描述][0fdba59ac6c64e4b98928b37ea41466c.png]

## 四、tanh函数 ##

与sigmoid函数类似， tanh(双曲正切)函数也能将其输入压缩转换到区间(-1, 1)上。 tanh函数的公式如下：  
 t a n h ( x ) = 1 − e x p ( − 2 x ) 1 + e x p ( − 2 x ) tanh(x)=\\frac\{1-exp(-2x)\}\{1+exp(-2x)\} tanh(x)=1\+exp(−2x)1−exp(−2x)  
下面我们绘制tanh函数。 注意，当输入在0附近时，tanh函数接近线性变换。 函数的形状类似于sigmoid函数， 不同的是tanh函数关于坐标系原点中心对称。

import torch 
    from d2l import torch as d2l
    x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)
    y = torch.tanh(x)
    d2l.plot(x.detach(), y.detach(), 'x', 'tanh(x)', figsize = (10, 6))
    d2l.plt.show()

![在这里插入图片描述][1334ffb6ca4544908d5090d16a78e1cd.png]  
tanh函数的导数是：  
 d d x t a n h ( x ) = 1 − t a n h 2 ( x ) \\frac\{d\}\{dx\}tanh(x)=1-tanh^2(x) dxdtanh(x)=1−tanh2(x)  
tanh函数的导数图像如下所示。 当输入接近0时，tanh函数的导数接近最大值1。 与我们在sigmoid函数图像中看到的类似， 输入在任一方向上越远离0点，导数越接近0。

import torch 
    from d2l import torch as d2l
    x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)
    y = torch.tanh(x)
    y.backward(torch.ones_like(x), retain_graph=True)
    d2l.plot(x.detach(), x.grad, 'x', 'grad of tanh', figsize = (10, 6))
    d2l.plt.show()

![在这里插入图片描述][76517715f45d4454bef7c653a2a15441.png]

[aedaa63fda0245389e760ab4203a16d6.png]: https://img-blog.csdnimg.cn/aedaa63fda0245389e760ab4203a16d6.png
[7331491898274959a55cbf12c92edacc.png]: https://img-blog.csdnimg.cn/7331491898274959a55cbf12c92edacc.png
[de4b5f22b799421282acdf04a07afdea.png]: https://img-blog.csdnimg.cn/de4b5f22b799421282acdf04a07afdea.png
[0fdba59ac6c64e4b98928b37ea41466c.png]: https://img-blog.csdnimg.cn/0fdba59ac6c64e4b98928b37ea41466c.png
[1334ffb6ca4544908d5090d16a78e1cd.png]: https://img-blog.csdnimg.cn/1334ffb6ca4544908d5090d16a78e1cd.png
[76517715f45d4454bef7c653a2a15441.png]: https://img-blog.csdnimg.cn/76517715f45d4454bef7c653a2a15441.png