激活函数 Sigmoid、Tanh、ReLU、Softmax

红太狼 2023-07-02 11:25 54阅读 0赞

# ![20191009191333910.png][] #

# [日萌社][Link 1] #

[人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）][AI_Keras PyTorch MXNet TensorFlow PaddlePaddle]

--------------------

[tensorflow 2.0 画出model网络模型的拓扑图][tensorflow 2.0 _model]

[tensorflow 2.0 的回调函数callbacks（TensorBoard、ModelCheckpoint）][tensorflow 2.0 _callbacks_TensorBoard_ModelCheckpoint]

[TensorBoard视觉化网络每层权重分布、视觉化网络层结构][TensorBoard]

[MSE(均方误差)、MAE(平均绝对误差)][MSE_MAE]

[from\_logits][from_logits]

[CE(Cross-Entropy)、BCE(Binary Cross-Entropy 即Sigmoid+CE)、CCE(Categorical Cross-Entropy 即Softmax+CE)][CE_Cross-Entropy_BCE_Binary Cross-Entropy _Sigmoid_CE_CCE_Categorical Cross-Entropy _Softmax_CE]

[对连续值/离散值进行预处理的两种方式（标准化/one-hot化）、反标准化/逆标准化、字符串预处理][one-hot]

[损失函数loss、指标函数metrics][loss_metrics]

[激活函数 Sigmoid、Tanh、ReLU、Softmax][Sigmoid_Tanh_ReLU_Softmax]

[Batch Normalization][]

[反向传播、梯度下降、学习率、优化器optimizers（GD、SGD、Momentum、AdaGrad、Adam）][optimizers_GD_SGD_Momentum_AdaGrad_Adam]

[权重初始化对于激活函数的选择：随机常态分布/随机正态分布初始化(标准差为0.01或1)、Xavier(Glorot)初始化、He初始化][0.01_1_Xavier_Glorot_He]

[图像增强(IA)、数据预处理][IA]

[混淆矩阵tf.math.confusion\_matrix][tf.math.confusion_matrix]

[使用预训练网络训练的两种方式：Keras Applications、TensorFlow Hub][Keras Applications_TensorFlow Hub]

--------------------

常见的激活函数包括Sigmoid、Tanh、ReLU、Softmax。
    	ReLU 一般可用在每个隐藏层或输出层的后面作为非线性输出。
    	Sigmoid和Tanh如果作为神经网络中的隐藏层的激活函数的话，都有可能造成梯度消失的问题，所以隐藏层的激活函数一般推荐使用ReLU，不推荐使用Sigmoid和Tanh。
    	Sigmoid一般只用在输出层中，而不能用在隐藏层中，因为网络层数太深时使用Sigmoid作为隐藏层的非线性输出的话容易导致梯度消失，使得网络难以更新，
    	而ReLU 则能有效避免梯度消失问题，Softmax也一般用在输出层中。
    	比如二分类的逻辑回归模型中的输出层末尾一般都加上Sigmoid，那么输出值将介于0到1之间，分别代表两个不同分类。
    	比如多分类的逻辑回归模型中的输出层末尾一般都加上Softmax，那么全部输出值的总和将等于1，代表了所有不同分类的概率值的总和等于1。
    	下面举例在反向传播中经过多个隐藏层的Sigmoid，首先因为Sigmoid的导函数最大值为f(0)=0.25，也就是说当反向传播中每经过一层隐藏层的Sigmoid时，
    	其梯度值都要乘上0.25，代表每经过一次其梯度值就要被衰减0.25倍，如果反向传播中需要经过五层隐藏层的Sigmoid的话，那么其梯度值一共至少会被衰减0.25的5次方的倍数。
    	那么将造成神经网络前面的几层的权重将很难被更新，同理Tanh也存在类似的状况，因此大多数的隐藏层的激活函数都使用ReLU，
    	另外ReLU的计算速度也比Sigmoid和Tanh还要快上许多。

1.因为Sigmoid的导函数最大值为f(0)=0.25，也就是说当反向传播中每经过一层隐藏层的Sigmoid时，
      其梯度值都要乘上0.25，代表每经过一次其梯度值就要被衰减0.25倍，如果反向传播中需要经过五层隐藏层的Sigmoid的话，
      那么其梯度值一共至少会被衰减0.25的5次方的倍数，那么将造成神经网络前面的几层的权重将很难被更新。
    2.当隐藏层使用Sigmoid激活函数，并同时使用标准差为1的正态分布初始化的话，那么从Sigmoid函数曲线图得知，
      如果当Sigmoid函数输出值大多都落在0和1附近的话，那么在计算反向传播的过程中，根据Sigmoid的Derivative导数曲线得知，
      传递值会趋于0，依然会造成梯度消失的问题。
    3.当隐藏层使用Sigmoid激活函数，并同时使用标准差为0.01的正态分布初始化的话，那么从Sigmoid函数曲线图得知，
      如果当Sigmoid函数输出值大多都落在0.5附近的话，那么在计算反向传播的过程中，根据Sigmoid的Derivative导数曲线得知，
      传递值会落在0.25附近，虽然一定程度上改善了“使用标准差为1的正态分布初始化所造成的”梯队消失问题，
      但是如果构建太多层网络的话，依然有可能会发生梯度消失的问题。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 1][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 2][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 3][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 4][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 5][]

[20191009191333910.png]: https://img-blog.csdnimg.cn/20191009191333910.png
[Link 1]: http://www.rimengshe.com/
[AI_Keras PyTorch MXNet TensorFlow PaddlePaddle]: https://blog.csdn.net/zimiao552147572/article/details/88867161
[tensorflow 2.0 _model]: https://azusa.blog.csdn.net/article/details/104092884
[tensorflow 2.0 _callbacks_TensorBoard_ModelCheckpoint]: https://azusa.blog.csdn.net/article/details/104100362
[TensorBoard]: https://azusa.blog.csdn.net/article/details/104132982
[MSE_MAE]: https://azusa.blog.csdn.net/article/details/104094483
[from_logits]: https://azusa.blog.csdn.net/article/details/104095436
[CE_Cross-Entropy_BCE_Binary Cross-Entropy _Sigmoid_CE_CCE_Categorical Cross-Entropy _Softmax_CE]: https://azusa.blog.csdn.net/article/details/104095759
[one-hot]: https://azusa.blog.csdn.net/article/details/104099669
[loss_metrics]: https://azusa.blog.csdn.net/article/details/104099800
[Sigmoid_Tanh_ReLU_Softmax]: https://azusa.blog.csdn.net/article/details/104108314
[Batch Normalization]: https://azusa.blog.csdn.net/article/details/104115714
[optimizers_GD_SGD_Momentum_AdaGrad_Adam]: https://azusa.blog.csdn.net/article/details/104106429
[0.01_1_Xavier_Glorot_He]: https://azusa.blog.csdn.net/article/details/104110857
[IA]: https://azusa.blog.csdn.net/article/details/104114416
[tf.math.confusion_matrix]: https://azusa.blog.csdn.net/article/details/104125078
[Keras Applications_TensorFlow Hub]: https://azusa.blog.csdn.net/article/details/104134536
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200129220950735.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200129220955489.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200129171447729.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20200129171450941.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20200129171454822.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20200129171458830.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9henVzYS5ibG9nLmNzZG4ubmV0,size_16,color_FFFFFF,t_70