3.深度学习入门笔记：求导和计算图

￡神魔★判官ぃ 2023-03-14 10:50 83阅读 0赞

原文链接：https://blog.csdn.net/TeFuirnever/article/details/100900465

# 欢迎关注WX公众号：【程序员管小亮】 #

## [专栏——深度学习入门笔记][Link 1] ##

## 声明 ##

1）该文章整理自网上的大牛和机器学习专家无私奉献的资料，具体引用的资料请看参考文献。  
2）本文仅供学术交流，非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益，还望海涵，并联系博主删除。  
3）博主才疏学浅，文中如有不当之处，请各位指出，共同进步，谢谢。  
4）此属于第一版本，若有错误，还需继续修正与增删。还望大家多多指点。大家都共享一点点，一起为祖国科研的推进添砖加瓦。

### 文章目录 ###

*  欢迎关注WX公众号：【程序员管小亮】
 *   *  专栏——深度学习入门笔记
     *  声明
     *  深度学习入门笔记（三）：求导和计算图
     *   *  0、写在前面
         *  1、导数
         *  2、深入理解导数
         *  3、计算图
         *  4、使用计算图求导数
     *  推荐阅读
     *  参考文章

## 深度学习入门笔记（三）：求导和计算图 ##

### 0、写在前面 ###

这一次主要是想对微积分和导数直观理解一下。很多人在想或许自从大学毕以后，再也没有接触微积分。不要担心，为了高效应用神经网络和深度学习，其实 **并不需要非常深入理解微积分**。

如果你是精通微积分的那一小部分人群，对微积分非常熟悉，可以跳过这个笔记。

### 1、导数 ###

导数，也叫导函数值，又名微商，是微积分中的重要基础概念，但是其实理解起来并没有那么难。来看一个例子：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1RlRnVpcm5ldmVy_size_16_color_FFFFFF_t_70_pic_center]  
一个函数  f ( a ) = 3 a f ( a ) = 3 a f(a)=3af(a)=3a f(a)=3af(a)=3adadv=1，所以  d J d a = d J d v d v dJda=dJdvdv dJda=dJdvdv

[Link 1]: https://blog.csdn.net/tefuirnever/article/category/9336737
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L1RlRnVpcm5ldmVy_size_16_color_FFFFFF_t_70_pic_center]: /images/20230312/2fb4eb60e26e429c9b4bd682605b8938.png