3.深度学习入门笔记:求导和计算图
原文链接:https://blog.csdn.net/TeFuirnever/article/details/100900465
欢迎关注WX公众号:【程序员管小亮】
专栏——深度学习入门笔记
声明
1)该文章整理自网上的大牛和机器学习专家无私奉献的资料,具体引用的资料请看参考文献。
2)本文仅供学术交流,非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益,还望海涵,并联系博主删除。
3)博主才疏学浅,文中如有不当之处,请各位指出,共同进步,谢谢。
4)此属于第一版本,若有错误,还需继续修正与增删。还望大家多多指点。大家都共享一点点,一起为祖国科研的推进添砖加瓦。
文章目录
- 欢迎关注WX公众号:【程序员管小亮】
- 专栏——深度学习入门笔记
- 声明
- 深度学习入门笔记(三):求导和计算图
- 0、写在前面
- 1、导数
- 2、深入理解导数
- 3、计算图
- 4、使用计算图求导数
- 推荐阅读
- 参考文章
深度学习入门笔记(三):求导和计算图
0、写在前面
这一次主要是想对微积分和导数直观理解一下。很多人在想或许自从大学毕以后,再也没有接触微积分。不要担心,为了高效应用神经网络和深度学习,其实 并不需要非常深入理解微积分。
如果你是精通微积分的那一小部分人群,对微积分非常熟悉,可以跳过这个笔记。
1、导数
导数,也叫导函数值,又名微商,是微积分中的重要基础概念,但是其实理解起来并没有那么难。来看一个例子:
一个函数 f ( a ) = 3 a f ( a ) = 3 a f(a)=3af(a)=3a f(a)=3af(a)=3adadv=1,所以 d J d a = d J d v d v dJda=dJdvdv dJda=dJdvdv
还没有评论,来说两句吧...