tensorflow中tanh激活函数

女爷i 2023-02-12 05:46 171阅读 0赞

# tensorflow中tanh函数 #

> ## 引用API：tensorflow.math.tanh(x) ##

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3l1bmZlYXRoZXI_size_16_color_FFFFFF_t_70][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3l1bmZlYXRoZXI_size_16_color_FFFFFF_t_70 1][]

> tanh函数
> 
> ![y=\\frac\{1-e^\{-2x\}\}\{1+e^\{-2x\}\}][y_frac_1-e_-2x_1_e_-2x]
> 
> 优点：收敛速度比sigmod函数快
> 
>           输出是0均值
> 
> 缺点：函数导数输出为0~1，多次神经网络计算后可能趋向于0，产生梯度消失，无法继续更新参数
> 
>             幂运算复杂，训练时间长

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3l1bmZlYXRoZXI_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200524195952207.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3l1bmZlYXRoZXI=,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3l1bmZlYXRoZXI_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200524200020541.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3l1bmZlYXRoZXI=,size_16,color_FFFFFF,t_70
[y_frac_1-e_-2x_1_e_-2x]: https://private.codecogs.com/gif.latex?y%3D%5Cfrac%7B1-e%5E%7B-2x%7D%7D%7B1&plus;e%5E%7B-2x%7D%7D

发表评论取消回复

表情：

评论列表（有 0 条评论，171人围观）

还没有评论，来说两句吧...

相关阅读

相关激活函数 Sigmoid、Tanh、ReLU、Softmax

![20191009191333910.png][] [日萌社][Link 1] [人工智能AI：Keras PyTorch MXNet TensorFlow Pa

红太狼/ 2023年07月02日 11:25/ 0 赞/ 57 阅读

相关激活函数 ReLU、sigmoid、tanh（双曲正切）

![20191009191333910.png][][个人主页 ][Link 1] -------------------- ![watermark_type_ZmFu

叁歲伎倆/ 2023年06月17日 07:54/ 0 赞/ 15 阅读

相关 tensorflow中Leaky Relu激活函数

tensorflow中Leaky Relu激活函数 > 引用API:tensorflow.nn.leaky\_relu(x) ![watermark_type_Zm

清疚/ 2023年02月12日 05:48/ 0 赞/ 84 阅读

相关 tensorflow中Relu激活函数

tensorflow中Relu激活函数 > 引用API：tensorflow.nn.relu(x) 初学者建议选择Relu激活函数 ![20200524201

àì夳堔傛蜴生んèń/ 2023年02月12日 05:47/ 0 赞/ 83 阅读

相关 tensorflow中tanh激活函数

tensorflow中tanh函数 > 引用API：tensorflow.math.tanh(x) ![watermark_type_ZmFuZ3poZW5naGV

女爷i/ 2023年02月12日 05:46/ 0 赞/ 172 阅读

相关 17,18_常见函数梯度，激活函数梯度（Sigmoid、Tanh、ReLu）

1. 常见函数梯度 1.1 常见函数 ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_

╰+哭是因爲堅強的太久メ/ 2022年10月26日 11:29/ 0 赞/ 269 阅读

相关激活函数之tanh介绍及C++/PyTorch实现

深度神经网络中使用的激活函数有很多种，这里介绍下tanh。它的公式如下，截图来自于维基百科([https://en.wikipedia.org/wiki/Activ

「爱情、让人受尽委屈。」/ 2022年09月02日 00:42/ 0 赞/ 281 阅读

相关深度学习——激活函数-Sigmoid,Tanh,ReLu,softplus,softmax

转自：[激活函数-Sigmoid,Tanh,ReLu,softplus,softmax][-Sigmoid_Tanh_ReLu_softplus_softmax] PS:在学

ゞ浴缸里的玫瑰/ 2022年05月11日 06:48/ 0 赞/ 282 阅读

相关激活函数：sigmoid、Tanh、ReLU

import matplotlib.pyplot as plt import numpy as np 设置字体为中文 plt.rcParams

男娘i/ 2022年01月31日 10:41/ 0 赞/ 348 阅读

相关 pytorch中的relu,sigmiod,tanh等激励函数(激活函数）

什么是激励函数（激活函数）：在神经网络中原本输入输出都是线性关系，但现实中，许多的问题是非线性的（比如，房价问题中，房价不可能随着房子面积的增加一直线性增加），这

你的名字/ 2021年05月12日 11:49/ 0 赞/ 727 阅读