深度学习——人工神经网络中为什么ReLu要好过于tanh和sigmoid function？

浅浅的花香味﹌ 2022-05-09 22:26 52阅读 0赞

参考吴恩达的深度学习课程。

先看看各个激活函数图：

![70][]

第一个问题：为什么引入非线性激励函数？ 如果不用激励函数（其实相当于激励函数是f(x) = x），在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你神经网络有多少层，输出都是输入的线性组合，与只有一个隐藏层效果相当，这种情况就是多层感知机（MLP）了。 正因为上面的原因，我们决定引入非线性函数作为激励函数，这样深层神经网络就有意义了（不再是输入的线性组合，可以逼近任意函数）。最早的想法是sigmoid函数或者tanh函数，输出有界，很容易充当下一层输入（以及一些人的生物解释balabala）。参考博客：[https://blog.csdn.net/piaodexin/article/details/77163297][https_blog.csdn.net_piaodexin_article_details_77163297]

第二个问题：为什么ReLu要好过sigmoid和tanh？

*  第一，采用sigmoid等函数，算激活函数时（指数运算），计算量大，反向传播求误差梯度时，求导涉及除法和指数运算，计算量相对大，而采用Relu激活函数，整个过程的计算量节省很多。
 *  第二，对于深层网络，sigmoid函数反向传播时，很容易就会出现梯度消失的情况（在sigmoid接近饱和区时，变换太缓慢，导数趋于0，这种情况会造成信息丢失），这种现象称为饱和，从而无法完成深层网络的训练，为什么会无法完成训练呢，因为神经网络更新w的时候就是依靠导数来更新的，如果导数接近0，那w更新之后还是原来的w了。而ReLU就不会有饱和倾向，不会有特别小的梯度出现。
 *  第三，Relu会使一部分神经元的输出为0，这样就造成了网络的稀疏性，并且减少了参数的相互依存关系，缓解了过拟合问题的发生（以及一些人的生物解释balabala）。当然现在也有一些对relu的改进，比如prelu，random relu等，在不同的数据集上会有一些训练速度上或者准确率上的改进。

[70]: /images/20220510/3b2af7d0d957415a9a1e2bf17fbbd8f6.png
[https_blog.csdn.net_piaodexin_article_details_77163297]: https://blog.csdn.net/piaodexin/article/details/77163297