Deep learning：四十三(用Hessian Free方法训练Deep Network)

矫情吗；* 2023-06-04 02:52 4阅读 0赞

# Deep learning：四十三(用Hessian Free方法训练Deep Network) #

2016-03-13 15:14:01 [mydear\_11000][mydear_11000] 阅读数 912更多

分类专栏： [机器学习][Link 1] [深度学习][Link 2] [tornadomeet][]

目前，深度网络（Deep Nets）权值训练的主流方法还是梯度下降法（结合BP算法），当然在此之前可以用无监督的方法（比如说RBM，Autoencoder）来预训练参数的权值，而梯度下降法应用在深度网络中的一个缺点是权值的迭代变化值会很小，很容易收敛到的局部最优点；另一个缺点是梯度下降法不能很好的处理有病态的曲率（比如Rosenbrock函数）的误差函数。而本文中所介绍的Hessian Free方法（以下简称HF）可以不用预训练网络的权值，效果也还不错，且其适用范围更广（可以用于RNN等网络的学习），同时克服了上面梯度下降法的那2个缺点。HF的主要思想类似于牛顿迭代法，只是并没有显示的去计算误差曲面函数某点的Hessian矩阵H，而是通过某种技巧直接算出H和任意向量v的乘积Hv（该矩阵-向量的乘积形式在后面的优化过程中需要用到），因此叫做”Hessian Free”。本文主要是读完Martens的论文 *Deep learning via Hessian-free optimization*记下的一些笔记（具体内容请参考论文部分）。

Hessian Free方法其实在多年前就已经被使用，但为什么Martens论文又重提这个方法呢？其实它们的不同在于H矩阵”free”的方式不同，因为隐式计算H的方法可以有很多种，而算法的名字都可以叫做HF，因此不能简单的认为Martens文章中在Deep Learning中的HF方法就是很久以前存在的方法了（如果真是如此，Deep Learning在N年前就火了！），只能说明它们的思想类似。将HF思想应用于DL网络时，需要用到各种技巧，而数学优化本身就是各种技巧、近似的组合。Matrens主要使用2个大思想+5个小技巧（论文给出的大概是5个，但是其code里面还有不少技巧论文中没有提到）来完成DL网络的训练。

idea 1：利用某种方法计算Hv的值(v任意)，比如说常见的对误差导函数用有限差分法来高精度近似计算Hv(见下面公式)，这比以前只是用一个对角矩阵近似Hessian矩阵保留下来的信息要多很多。通过计算隐式计算Hv，可以避免直接求H的逆，一是因为H太大，二是H的逆有可能根本不存在。

![19110631-d237e5fd333d42928919d320e85c81d0.png][]

idea 2：用下面二次项公式来近似得到θ值附近的函数值。且最佳搜索方向p由CG迭代法（该算法简单介绍见前面博文：[机器学习&数据挖掘笔记\_12（对Conjugate Gradient 优化的简单理解）][12_Conjugate Gradient]）求得。

![19110657-811400530e234e65920b40c9a97525bf.png][]

技巧1：计算Hv时并不是直接用有限差分法，而是利用Pearlmutter的R-operator方法（没看懂，但是该方法优点有很多）。

技巧2：用Gauss-Newton矩阵G来代替Hessian矩阵H，所以最终隐式计算的是Gv.

技巧3：作者给出了用CG算法（有预条件的CG，即先对参数θ进行了一次线性坐标变换）求解θ搜索方向p时的迭代终止条件，即：

![19110715-b912717174a845cb9b21661bc8d92710.png][]

技巧4：在进行处理大数据学习时，用CG算法进行线性搜索时并没有用到所有样本，而是采用的mini-batch，因为从一些mini-batch样本已经可以获得关于曲面的一些有效曲率信息。

技巧5：用启发式的方法(Levenburg-Marquardt)求得系统的阻尼系数λ，该系数在预条件的CG算法中有用到，预条件矩阵M的计算公式为：

![19110726-1adc3ab9da9f472e9aa9b6b15e53ab56.png][]

上面的7点需要详细阅读Martens的paper，且结合其paper对应的code来读（code见他的个人主页[http://www.cs.toronto.edu/~jmartens/research.html][http_www.cs.toronto.edu_jmartens_research.html]）.

下面来简单看看HF的流程图：

![19110841-1e1c1b351e7048b19e9139f6133ebd75.png][]

流程图说明的是：定义好系统的目标函数，见本博客中的第2个公式，接着定义一个最大权值更新次数max-epochs，每次循环时首先用BP算法求出目标函数的梯度值，接着用启发式的方法取得λ值，然后预条件CG方法来优化参数搜索方向p（此过程需要用到Hv形式的求解函数），最后更新参数进入下一轮。

关于code部分，简单说以下几点：

运行该程序，迭代到170次，共用了差不多20个小时，程序的输出如下：

![复制代码][copycode.gif]

maxiters = 250; miniters = 1
    CG steps used: 250, total is: 28170
    ch magnitude : 7.7864
    Chose iters : 152
    rho = 0.50606
    Number of reductions : 0, chosen rate: 1
    New lambda: 0.0001043
    epoch: 169, Log likelihood: -54.7121, error rate: 0.25552
    TEST Log likelihood: -87.9114, error rate: 3.5457
    Error rate difference (test - train): 3.2901

![复制代码][copycode.gif]

code完成的是CURVES数据库的分类，用的是Autoencoder网络，网络的层次结构为：\[784 400 200 100 50 25 6 25 50 100 200 400 784\]。

conjgrad\_1(): 完成的是预条件的CG优化算法，函数求出了CG所迭代的步数以及优化的结果（搜索方向）。

computeGV(): 完成的是矩阵Gv的计算，结合了R操作和Gauss-Newton方法。

computeLL(): 计算样本输出值的log似然以及误差（不同激发函数的输出节点其误差公式各异）。

nnet\_train\_2()：该函数当然是核心函数了，直接用来训练一个DL网络，里面当少不了要调用conjgrad\_1()，computeGV()，computeLL()，另外关于误差曲面函数导数的求法也是用的经典BP算法。

参考资料：

Martens, J. (2010). Deep learning via Hessian-free optimization. Proceedings of the 27th International Conference on Machine Learning (ICML-10).

[机器学习&数据挖掘笔记\_12（对Conjugate Gradient 优化的简单理解）][12_Conjugate Gradient]

[http://www.cs.toronto.edu/~jmartens/research.html][http_www.cs.toronto.edu_jmartens_research.html]

[http://pillowlab.wordpress.com/2013/06/11/lab-meeting-6102013-hessian-free-optimization/][http_pillowlab.wordpress.com_2013_06_11_lab-meeting-6102013-hessian-free-optimization]

转载于:https://www.cnblogs.com/think90/p/11619616.html

[mydear_11000]: https://me.csdn.net/mydear_11000
[Link 1]: https://blog.csdn.net/mydear_11000/article/category/5750839
[Link 2]: https://blog.csdn.net/mydear_11000/article/category/5752137
[tornadomeet]: https://blog.csdn.net/mydear_11000/article/category/6132107
[19110631-d237e5fd333d42928919d320e85c81d0.png]: /images/20230601/8f90bd518a0142ff8f24cb770261556b.png
[12_Conjugate Gradient]: http://www.cnblogs.com/tornadomeet/p/3265225.html
[19110657-811400530e234e65920b40c9a97525bf.png]: /images/20230601/72d41f1607384d7ab2c37a2a56acf98d.png
[19110715-b912717174a845cb9b21661bc8d92710.png]: /images/20230601/796de2dba1744bb7893650696b107809.png
[19110726-1adc3ab9da9f472e9aa9b6b15e53ab56.png]: /images/20230601/7b8b26aed16f480d8f3c2a5c3d765a27.png
[http_www.cs.toronto.edu_jmartens_research.html]: http://www.cs.toronto.edu/~jmartens/research.html
[19110841-1e1c1b351e7048b19e9139f6133ebd75.png]: /images/20230601/50c025cc62c947a29a964d26df9dc03b.png
[copycode.gif]: /images/20230601/be3054f40eec4502bd8ec6efd8afedc6.png
[http_pillowlab.wordpress.com_2013_06_11_lab-meeting-6102013-hessian-free-optimization]: http://pillowlab.wordpress.com/2013/06/11/lab-meeting-6102013-hessian-free-optimization/