matlab练习程序（Levenberg-Marquardt法最优化）

我会带着你远行 2021-12-16 10:09 253阅读 0赞

[上一篇博客][Link 1]中介绍的高斯牛顿算法可能会有J'\*J为奇异矩阵的情况，这时高斯牛顿法稳定性较差，可能导致算法不收敛。比如当系数都为7或更大的时候，算法无法给出正确的结果。

Levenberg-Marquardt法一定程度上修正了这个问题。

计算迭代系数deltaX公式如下：

![340413-20190104105705984-225393403.png][]

当lambda很小的时候，H占主要地位，公式变为高斯牛顿法，当lambda很大的时候，H可以忽略，公式变为最速下降法。该方法提供了更稳定的deltaX。

算法步骤如下：

1.给定初始系数，以及初始优化半径u。

2.计算使用当前系数的模型得到的结果与测量结果差值e。

3.使用迭代公式更新带解算系数。

4.计算更新后系数的模型得到的结果与测量结果差值ecur。

5.如果ecur>e，则u=2\*u；否则u=u/2，并且更新模型系数x(k+1)=x(k)+deltaX。

6.判断算法是否收敛，不收敛返回2，否则结束。

代码如下：

clear all;
    close all;
    clc;
    warning off all;
    
    a=7;b=7;c=7;              %待求解的系数
    
    x=(0:0.01:1)';
    w=rand(length(x),1)*2-1;   %生成噪声
    y=exp(a*x.^2+b*x+c)+w;     %带噪声的模型 
    plot(x,y,'.')
    
    pre=rand(3,1);             
    update=1;
    u=0.1;
    for i=1:100    
        if update==1
            f = exp(pre(1)*x.^2+pre(2)*x+pre(3));
            g = y-f;                                        %计算误差 
    
            p1 = exp(pre(1)*x.^2+pre(2)*x+pre(3)).*x.^2;    %对a求偏导
            p2 = exp(pre(1)*x.^2+pre(2)*x+pre(3)).*x;       %对b求偏导
            p3 = exp(pre(1)*x.^2+pre(2)*x+pre(3));          %对c求偏导
            J = [p1 p2 p3];                                 %计算雅克比矩阵
            H=J'*J;
            if i==1
                e=dot(g,g);
            end          
        end
        
        delta = inv(H+u*eye(length(H)))*J'* g;      
        pcur = pre+delta;                           %迭代
        fcur = exp(pcur(1)*x.^2+pcur(2)*x+pcur(3)); 
        ecur = dot(y-fcur,y-fcur);
        
        if ecur<e                                   %比较两次差值，新模型好则使用
            if norm(pre-pcur)<1e-10
               break; 
            end
            u=u/2;  
            pre=pcur;
            e=ecur;
            update=1;    
        else
            u=u*2;        
            update=0;
        end 
    end
    
    hold on;
    plot(x,exp(a*x.^2+b*x+c),'r');
    plot(x,exp(pre(1)*x.^2+pre(2)*x+pre(3)),'g');
    
    %比较一下
    [a b c]
    pre'

迭代结果，其中散点为带噪声数据，红线为原始模型，绿线为解算模型

![340413-20190104104811593-498607979.png][]

参考：

《视觉slam十四讲》

http://www.docin.com/p-63281100.html

转载于:https://www.cnblogs.com/tiandsp/p/10218774.html

[Link 1]: https://www.cnblogs.com/tiandsp/p/10213910.html
[340413-20190104105705984-225393403.png]: /images/20211214/52ed7f3e028c42a8b7d9061f4f077ccd.png
[340413-20190104104811593-498607979.png]: /images/20211214/4eea300a44894e5cb409fda2cd9a023a.png