梯度下降法、牛顿法、拟牛顿法、共轭梯度

叁歲伎倆 2022-06-07 07:15 431阅读 0赞

**一、梯度下降法**

参考来源：[http://www.cnblogs.com/LeftNot ... .html][http_www.cnblogs.com_LeftNot ... .html]

以下是一个典型的机器学习的过程，首先给出一个输入数据，我们的算法会通过一系列的过程得到一个估计的函数，这个函数有能力对没有见过的新数据给出一个新的估计，也被称为构建一个模型。

![20171014100530217][]

我们用X1，X2..Xn 去描述feature里面的分量，比如x1=房间的面积，x2=房间的朝向，等等，我们可以做出一个估计函数：

![20171014100713422][]

θ在这儿称为参数，在这儿的意思是调整feature中每个分量的影响力，就是到底是房屋的面积更重要还是房屋的地段更重要。为了如果我们令X0 = 1，就可以用向量的方式来表示了：

![20171014100823848][]

我们程序也需要一个机制去评估我们θ是否比较好，所以说需要对我们做出的h函数进行评估，一般这个函数称为损失函数（loss function）或者错误函数(error function)，描述h函数不好的程度，在下面，我们称这个函数为J函数：

![20171014100909255][]

这个错误估计函数是去对x(i)的估计值与真实值y(i)差的平方和作为错误估计函数，前面乘上的1/2是为了在求导的时候，这个系数就不见了。  
  
如何调整θ以使得J(θ)取得最小值有很多方法，其中有最小二乘法(min square)，是一种完全是数学描述的方法，在stanford机器学习开放课最后的部分会推导最小二乘法的公式的来源，这个来很多的机器学习和数学书上都可以找到，这里就不提最小二乘法，而谈谈梯度下降法。  
  
梯度下降法是按下面的流程进行的：  
  
1）首先对θ赋值，这个值可以是随机的，也可以让θ是一个全零的向量。  
  
2）改变θ的值，使得J(θ)按梯度下降的方向进行减少。  
  
为了更清楚，给出下面的图：

![20171014101008710][]

这是一个表示参数θ与误差函数J(θ)的关系图，红色的部分是表示J(θ)有着比较高的取值，我们需要的是，能够让J(θ)的值尽量的低。也就是深蓝色的部分。θ0，θ1表示θ向量的两个维度。  
  
在上面提到梯度下降法的第一步是给θ给一个初值，假设随机给的初值是在图上的十字点。  
  
然后我们将θ按照梯度下降的方向进行调整，就会使得J(θ)往更低的方向进行变化，如图所示，算法的结束将是在θ下降到无法继续下降为止。

![20171014101056856][]

当然，可能梯度下降的最终点并非是全局最小点，可能是一个局部最小点，可能是下面的情况：

![20171014101138551][]

上面这张图就是描述的一个局部最小点，这是我们重新选择了一个初始点得到的，看来我们这个算法将会在很大的程度上被初始点的选择影响而陷入局部最小点  
  
下面我将用一个例子描述一下梯度减少的过程，对于我们的函数J(θ)求偏导J：（求导的过程如果不明白，可以温习一下微积分）

![20171014101239939][]

下面是更新的过程，也就是θi会向着梯度最小的方向进行减少。θi表示更新之前的值，-后面的部分表示按梯度方向减少的量，α表示步长，也就是每次按照梯度减少的方向变化多少。

![20171014101337445][]

一个很重要的地方值得注意的是，梯度是有方向的，对于一个向量θ，每一维分量θi都可以求出一个梯度的方向，我们就可以找到一个整体的方向，在变化的时候，我们就朝着下降最多的方向进行变化就可以达到一个最小点，不管它是局部的还是全局的。  
  
用更简单的数学语言进行描述步骤2）是这样的：

![20171014101434817][]

倒三角形表示梯度，按这种方式来表示，θi就不见了，所以说用好向量和矩阵，真的会大大的简化数学的描述。

**随机梯度下降**

梯度下降法不一定能找到下降最快的方向，它只是目标函数在当前目标函数在当前的点沿其负梯度下降地对快的方向。它在更新回归系数时，要遍历整个数据集，是一种批处理的方法，这样训练数据特别庞大，可能出现以下问题：

1）收敛过程可能非常慢；

2）如果误差曲面上有多个局部极小值，那么不能保证这个过程会找到全局最小值。

随机梯度下降是梯度下降的一种变体，相对于梯度下降的误差是针对所有训练误差样本得到的，而随机梯度下降的思想是根据每个单独的训练样本来更新权重的，则梯度公式就变成了：

![20171014102524380][]

经过推导后，我们就可以得到最终的权值更新的公式：

![20171014102637990][]

有了上面权重的更新公式后，我们就可以通过输入大量的实例样本，来根据我们预期的结果不断地调整权值，从而最终得到一组权值使得我们的算法能够对一个新的样本输入得到正确的或无限接近的结果。

如下是一个对比，J（）代价函数

![20171014102759396][]

![20171014102932227][]

以下是各种优化方法的对比，（来源：[http://sebastianruder.com/opti ... cent/][http_sebastianruder.com_opti ... cent]）

![20171014103028541][]

SGD各优化方法在损失曲面上的表现  
从上图可以看出， Adagrad、Adadelta与RMSprop在损失曲面上能够立即转移到正确的移动方向上达到快速的收敛。而Momentum 与NAG会导致偏离(off-track)。同时NAG能够在偏离之后快速修正其路线，因为其根据梯度修正来提高响应性。

在鞍点上的对比：

![20171014103222535][]

**二、牛顿法（Newton's method）**

牛顿法是一种在实数域和复数域上近似求解方程的方法。方法使用函数f (x)的泰勒级数的前面几项来寻找方程f (x) = 0的根。牛顿法最大的特点就在于它的收敛速度很快。其迭代公式为：

![20171014103500041][]

已经证明，牛顿法具有平方收敛的性能，粗略的说，这就意味着没迭代一次，牛顿法结果的有效数字将增加一倍。由于牛顿法是基于当前位置的切线来确定下一次的位置，所以牛顿法又被很形象地称为是"切线法"。牛顿法的搜索路径（二维情况）如下图所示：

![20171014103655583][]

关于牛顿法和梯度下降法的效率对比：  
a）从收敛速度上看 ，牛顿法是二阶收敛，梯度下降是一阶收敛，前者牛顿法收敛速度更快。但牛顿法仍然是局部算法，只是在局部上看的更细致，梯度法仅考虑方向，牛顿法不但考虑了方向还兼顾了步子的大小，其对步长的估计使用的是二阶逼近。  
b）根据wiki上的解释，从几何上说，牛顿法就是用一个二次曲面去拟合你当前所处位置的局部曲面，而梯度下降法是用一个平面去拟合当前的局部曲面，通常情况下，二次曲面的拟合会比平面更好，所以牛顿法选择的下降路径会更符合真实的最优下降路径。

![20171014103747925][]

注：红色的牛顿法的迭代路径，绿色的是梯度下降法的迭代路径。  
牛顿法的优缺点总结：  
优点：二阶收敛，收敛速度快；  
缺点：牛顿法是一种迭代算法，每一步都需要求解目标函数的Hessian矩阵（二阶导数）的逆矩阵，在高维特征的情形下，这个矩阵非常大，计算和存储都成问题。另外，在使用小批量情形下，牛顿法对于二阶导数的估计噪音太大；在目标函数非凸时，牛顿法更容易收到鞍点甚至最大值点的吸引

**三、拟牛顿法（Quasi-Newton Methods）**

来源：[http://blog.csdn.net/wtq1993/a ... 07040][http_blog.csdn.net_wtq1993_a ... 07040]

拟牛顿法是求解非线性优化问题最有效的方法之一，于20世纪50年代由美国Argonne国家实验室的物理学家W.C.Davidon所提出来。Davidon设计的这种算法在当时看来是非线性优化领域最具创造性的发明之一。不久R. Fletcher和M. J. D. Powell证实了这种新的算法远比其他方法快速和可靠，使得非线性优化这门学科在一夜之间突飞猛进。  
拟牛顿法的本质思想是改善牛顿法每次需要求解复杂的Hessian矩阵的逆矩阵的缺陷，它使用正定矩阵来近似Hessian矩阵的逆，从而简化了运算的复杂度。拟牛顿法和最速下降法一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化，构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法，尤其对于困难的问题。另外，因为拟牛顿法不需要二阶导数的信息，所以有时比牛顿法更为有效。如今，优化软件中包含了大量的拟牛顿算法用来解决无约束，约束，和大规模的优化问题。

**四、共轭梯度**

来源：[http://blog.csdn.net/wtq1993/a ... 07040][http_blog.csdn.net_wtq1993_a ... 07040]

共轭梯度法是介于梯度下降法（最速下降法）与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了梯度下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hessian矩阵并求逆的缺点，共轭梯度法不仅是解决大型线性方程组最有用的方法之一，也是解大型非线性最优化最有效的算法之一。在各种优化算法中，共轭梯度法是非常重要的一种。其优点是所需存储量小，具有逐步收敛性，稳定性高，而且不需要任何外来参数。  
  
下图为共轭梯度法和梯度下降法搜索最优解的路径对比示意图：

![20171014110343836][]注：绿色为梯度下降法，红色代表共轭梯度法

[http_www.cnblogs.com_LeftNot ... .html]: http://www.cnblogs.com/LeftNotEasy/archive/2010/12/05/mathmatic_in_machine_learning_1_regression_and_gradient_descent.html
[20171014100530217]: /images/20220607/ccb35b0103d34300aca8e6fb7fcc0bb4.png
[20171014100713422]: /images/20220607/a5f0d0ee2d7f439a8626d18548c5bc5b.png
[20171014100823848]: /images/20220607/a9acd66f366d41988fecb571ac94bdd7.png
[20171014100909255]: /images/20220607/23a9e96745844325b2cab3681e82b12c.png
[20171014101008710]: /images/20220607/d191903814474cc1bc3a503aa4d4152a.png
[20171014101056856]: /images/20220607/7de19532b7ad4a978b0a8ee5043ce381.png
[20171014101138551]: /images/20220607/0732da7ec4ef4e7d83db85fde4d247bd.png
[20171014101239939]: /images/20220607/8e6b23c8ecae42fb8d7d181e7c5c1ab4.png
[20171014101337445]: /images/20220607/6c8a8530c8f943a982221876bda4d866.png
[20171014101434817]: /images/20220607/5ed2122ecb554c31be99c0372e7170c1.png
[20171014102524380]: /images/20220607/4b5429a16d4e422abec6681a4c57134c.png
[20171014102637990]: /images/20220607/2387f6d798794fe4b10a02041f1c7607.png
[20171014102759396]: /images/20220607/35c5ec733c7943fe929646ed4e87ada7.png
[20171014102932227]: /images/20220607/a00206353417411bad37b528cb23ae38.png
[http_sebastianruder.com_opti ... cent]: http://sebastianruder.com/optimizing-gradient-descent/
[20171014103028541]: /images/20220607/aeab1df2d63146668b7ce9aaec257906.png
[20171014103222535]: /images/20220607/1b128056697a4f8d9fd08cfa9bef9a26.png
[20171014103500041]: /images/20220607/c3eb6785ec0f400ea336b490e71e39a1.png
[20171014103655583]: /images/20220607/4a0b1cfd5fc54bc89e6b0e30b6090bfa.png
[20171014103747925]: /images/20220607/da781327acc043d9a3b01bb15aa8420f.png
[http_blog.csdn.net_wtq1993_a ... 07040]: http://blog.csdn.net/wtq1993/article/details/51607040
[20171014110343836]: /images/20220607/3a98f5ecc7c445f388b6250f741439ce.png