最优化马昌凤第三章作业模板.doc

最优化-马昌凤-第三章作业最优化方法及其Matlab程序设计****题作业暨实验报告学院:数学与信息科学学院班级:12级信计一班姓名:李明学号:第三章最速下降法和牛顿法上机问题与求解过程1、用最速下降法求的极小值。 解:仿照书上编写最速下降法程序如下:function[x,val,k]=grad(fun,gfun,x0)%功能:用最速下降法求解无约束化问题:minf(x)%输入:x0是初始点,fun,gfun分别是目标函数和梯度%输出:x,val分别是近似嘴有点和最优值,k是迭代次数maxk=5000;rho=;sigma=;%一开始选择时选择的rho和sibma选择的数据不够合理,此处我参照书上的数据编写数据k=0;epsilon=1e-5;while(k<maxk)g=feval(gfun,x0);%计算梯度d=-g;%计算搜索方向if(norm(d)<epsilon),break;endm=0;mk=0;while(m<20)%Armijo搜索if(feval(fun,x0+rho^m*d)<feval(fun,x0)+sigma*rho^m*g'*d)mk=m;break;%直接利用Armijo搜索公式,一开始的时候没有记住公式编写出现错误endm=m+1;endx0=x0+rho^mk*d;k=k+1;endx=x0;val=feval(fun,x0)%求得每一个的函数值然后仿照书上建立两个目标函数和梯度的M文件:functionf=fun(x)f=3*x(1)^2+2*x(2)^2-4*x(1)-6*x(2);functiong=gfun(x)g=[6*x(1)-4,4*x(2)-6]';选取初始点为,调用函数程序,得出最小极值点为,极小值为,在界面框中输入的程序如下:[x,val,k]=grad('fun','gfun',x0)val=x=val=k=10从结果能够看出迭代次数为次,如果选取不同的初值点则迭代次数不一样,但是极小值相同。2、分别用牛顿法和阻尼牛顿法求解函数的极小点。 解:牛顿法:改编书上的阻尼牛顿法,将Armijo线性搜索公式去掉,改编为牛顿法,其中程序为:function[x,val,k]=netwn(fun,gfun,Hess,x0)%功能:用牛顿法求解无约束问题:minf(x)%输入:x0是初始点,fun,gfun,Hess分别是求%目标函数值,梯度,Hesse矩阵函数%输出:x,val分别是近似点最优解和最优质,k是迭代次数maxk=500;%因为是牛顿法,感觉不能简单直接找出最佳数值,所以需要加大迭代次数k=0;epsilon=1e-5;while(k<maxk)gk=feval(gfun,x0);%计算梯度Gk=feval(Hess,x0);%计算Hess矩阵if(norm(gk)<epsilon),break;enddk=-Gk\gk;%计算搜索方向x0=x0+dk;%直接根据前面的算法框架,得出上面迭代步骤k=k+1;end%只是将阻尼牛顿法,简单的删去Armijo搜索公式x=x0;val=feval(fun,x);然后仿照书上建立两个目标函数和梯度的M文件:functionf=fun(x)f=4*x(1)^2+x(2)^2-8*x(1)-4*x(2);functiong=gfun(x)g=[8*x(1)-8,