深度学习中常用的激励函数

Bertha 。 2022-05-19 12:41 315阅读 0赞

*—— 原文发布于本人的微信公众号“大数据与人工智能Lab”（BigdataAILab），欢迎关注。*

![182920_AW5j_876354.png][]

我们知道深度学习的理论基础是神经网络，在单层神经网络中（感知机），输入和输出计算关系如下图所示：  
![182932_BbjI_876354.png][]  
可见，输入与输出是一个线性关系，对于增加了多个神经元之后，计算公式也是类似，如下图：  
![182940_bxUt_876354.png][]  
这样的模型就只能处理一些简单的线性数据，而对于非线性数据则很难有效地处理（也可通过组合多个不同线性表示，但这样更加复杂和不灵活），如下图所示：  
![182946_EN9g_876354.png][]  
那么，通过在神经网络中加入非线性激励函数后，神经网络就有可能学习到平滑的曲线来实现对非线性数据的处理了。如下图所示：  
![182952_W8TT_876354.png][]  
因此，神经网络中激励函数的作用通俗上讲就是将多个线性输入转换为非线性的关系。如果不使用激励函数的话，神经网络的每层都只是做线性变换，即使是多层输入叠加后也还是线性变换。通过激励函数引入非线性因素后，使神经网络的表示能力更强了。

下面介绍几个常用的激励函数  
**1、sigmoid 函数**  
![183022_BMeZ_876354.png][]  
这应该是神经网络中使用最频繁的激励函数了，它把一个实数压缩至0到1之间，当输入的数字非常大的时候，结果会接近1，当输入非常大的负数时，则会得到接近0的结果。在早期的神经网络中使用得非常多，因为它很好地解释了神经元受到刺激后是否被激活和向后传递的场景（0：几乎没有被激活，1：完全被激活），不过近几年在深度学习的应用中比较少见到它的身影，因为使用sigmoid函数容易出现梯度弥散或者梯度饱和。当神经网络的层数很多时，如果每一层的激励函数都采用sigmoid函数的话，就会产生梯度弥散的问题，因为利用反向传播更新参数时，会乘以它的导数，所以会一直减小。如果输入的是比较大或者比较小的数（例如输入100，经Sigmoid函数后结果接近于1，梯度接近于0），会产生饱和效应，导致神经元类似于死亡状态。

***【小白科普】什么是饱和呢？***  
![183032_M7lE_876354.png][]

**2、tanh 函数**  
![183108_CSSq_876354.png][]  
tanh函数将输入值压缩至-1到1之间。该函数与Sigmoid类似，也存在着梯度弥散或梯度饱和的缺点。

**3、ReLU函数**  
![183117_AQxk_876354.png][]  
ReLU是修正线性单元（The Rectified Linear Unit）的简称，近些年来在深度学习中使用得很多，可以解决梯度弥散问题，因为它的导数等于1或者就是0。相对于sigmoid和tanh激励函数，对ReLU求梯度非常简单，计算也很简单，可以非常大程度地提升随机梯度下降的收敛速度。（因为ReLU是线性的，而sigmoid和tanh是非线性的）。  
但ReLU的缺点是比较脆弱，随着训练的进行，可能会出现神经元死亡的情况，例如有一个很大的梯度流经ReLU单元后，那权重的更新结果可能是，在此之后任何的数据点都没有办法再激活它了。如果发生这种情况，那么流经神经元的梯度从这一点开始将永远是0。也就是说，ReLU神经元在训练中不可逆地死亡了。

**4、Leaky ReLU 函数**  
![183125_dDUy_876354.png][]  
Leaky ReLU主要是为了避免梯度消失，当神经元处于非激活状态时，允许一个非0的梯度存在，这样不会出现梯度消失，收敛速度快。它的优缺点跟ReLU类似。

**5、ELU 函数**  
![183133_XffM_876354.png][]  
ELU在正值区间的值为x本身，这样减轻了梯度弥散问题（x>0区间导数处处为1），这点跟ReLU、Leaky ReLU相似。而在负值区间，ELU在输入取较小值时具有软饱和的特性，提升了对噪声的鲁棒性  
下图是ReLU、LReLU、ELU的曲线比较图：

![183142_X86o_876354.png][]

6、Maxout 函数  
![183148_xh6C_876354.png][]  
Maxout也是近些年非常流行的激励函数，简单来说，它是ReLU和Leaky ReLU的一个泛化版本，当w1、b1设置为0时，便转换为ReLU公式。  
因此，Maxout继承了ReLU的优点，同时又没有“一不小心就挂了”的担忧。但相比ReLU，因为有2次线性映射运算，因此计算量也会翻倍。

**推荐相关阅读**

*  [大话卷积神经网络（CNN）][CNN]
 *  [大话循环神经网络（RNN）][RNN]
 *  [大话深度残差网络（DRN）][DRN]
 *  [浅说“迁移学习”][Link 1]
 *  [什么是“强化学习”][Link 2]
 *  [AlphaGo算法原理浅析][AlphaGo]
 *  [大数据究竟有多少个V][V]
 *  [Apache Hadoop 2.8 完全分布式集群搭建超详细教程][Apache Hadoop 2.8]
 *  [Apache Hive 2.1.1 安装配置超详细教程][Apache Hive 2.1.1]
 *  [Apache HBase 1.2.6 完全分布式集群搭建超详细教程][Apache HBase 1.2.6]
 *  [离线安装Cloudera Manager 5和CDH5（最新版5.13.0）超详细教程][Cloudera Manager 5_CDH5_5.13.0]

[182920_AW5j_876354.png]: https://static.oschina.net/uploads/space/2018/0226/182920_AW5j_876354.png
[182932_BbjI_876354.png]: https://static.oschina.net/uploads/space/2018/0226/182932_BbjI_876354.png
[182940_bxUt_876354.png]: https://static.oschina.net/uploads/space/2018/0226/182940_bxUt_876354.png
[182946_EN9g_876354.png]: https://static.oschina.net/uploads/space/2018/0226/182946_EN9g_876354.png
[182952_W8TT_876354.png]: https://static.oschina.net/uploads/space/2018/0226/182952_W8TT_876354.png
[183022_BMeZ_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183022_BMeZ_876354.png
[183032_M7lE_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183032_M7lE_876354.png
[183108_CSSq_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183108_CSSq_876354.png
[183117_AQxk_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183117_AQxk_876354.png
[183125_dDUy_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183125_dDUy_876354.png
[183133_XffM_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183133_XffM_876354.png
[183142_X86o_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183142_X86o_876354.png
[183148_xh6C_876354.png]: https://static.oschina.net/uploads/space/2018/0226/183148_xh6C_876354.png
[CNN]: https://my.oschina.net/u/876354/blog/1620906
[RNN]: https://my.oschina.net/u/876354/blog/1621839
[DRN]: https://my.oschina.net/u/876354/blog/1622896
[Link 1]: https://my.oschina.net/u/876354/blog/1614883
[Link 2]: https://my.oschina.net/u/876354/blog/1614879
[AlphaGo]: https://my.oschina.net/u/876354/blog/1594849
[V]: https://my.oschina.net/u/876354/blog/1604254
[Apache Hadoop 2.8]: https://my.oschina.net/u/876354/blog/993836
[Apache Hive 2.1.1]: https://my.oschina.net/u/876354/blog/1057639
[Apache HBase 1.2.6]: https://my.oschina.net/u/876354/blog/1163018
[Cloudera Manager 5_CDH5_5.13.0]: https://my.oschina.net/u/876354/blog/1605320