最優(yōu)化馬昌鳳作業(yè)

1、最優(yōu)化 馬昌鳳 第三章作業(yè)標準化文件發(fā)布號：（9456-EUATWK-MWUBWUNNINNULDDQTY-KII最優(yōu)化方法及其Matlab程序設(shè)計習題作業(yè)暨實驗報告學院:數(shù)學與信息科學學院班級:12級信計一班姓名:李明學號:12012140493第三章最速下降法和牛頓法一、上機問題與求解過程1、用最速下降法求/(山,吃)=3才+2卅-4a)-6x2的極小值。 解：仿照書上編寫最速下降法程序如下：function x,val,k=grad(fun,gfun,xO)務(wù)功能：用最速下降法求解無約束化問題：min f (:) 務(wù)輸入：xO是初始點，fun, gfun分別是目標函數(shù)和梯度 務(wù)輸出：次八

2、昇分別是近似嘴有點和最優(yōu)值，k是迭代次數(shù) maxk=5000;rho=0 5;sigma=0 4;% 開始選擇時選擇的rho和sibma選擇的數(shù)據(jù)不夠合理，此處我參照書上的數(shù)據(jù)編寫數(shù)據(jù) k=0;epsilon=le-5;while(kmaxk)g=feval(gfun,xO);務(wù)計算梯度d=-g;務(wù)計算搜索方向if(norm(d)epsilon),break;endm=0;mk=0;while(m:0+rhoAm*d) feval (fun, xO) +sigma*rhoAm*g 1 *d) mk=m;break;$直接利用Armijo搜索公式，開始的時候沒有記住公式編寫出現(xiàn)錯誤 endm=m

3、+1;endxO=xO+rhoAmk*d;k=k+l;endx=xO;val=feval(fun,xO)務(wù)求得每i個的函數(shù)值然后仿照書上建立兩個目標函數(shù)和梯度的M文件：function f=fun(x)f=3*x(l)A2+2*x(2)A2-4*x(l)-6*x(2);function g=gfun(x)g=6*x(l)-4/4*x(2)-6選取初始點為0,0,調(diào)用函數(shù)程序，得出最小極值點為 0.6667,1.500,極小值為-5.8333,在界面框中輸入的程序如下： x,val,k=grad(,fun,gfunxO) val =-5.8333 x =0.66671.5000val =-5.8

4、333k =10從結(jié)果可以看出迭代次數(shù)為10次，如果選取不同的初值點則迭代 次數(shù)不一樣，但是極小值相同。2、分別用牛頓法和阻尼牛頓法求解函數(shù)/(.“2)= 4彳+-8召-4心的 極小點。解：牛頓法：改編書上的阻尼牛頓法，將Armijo線性搜索公式去掉，改編為牛頓法，其中程序為：function xz val,k=netwn(fun,gfun,Hess, xO)務(wù)功能；用牛頓法求解無約束問題：min f (x)務(wù)輸A: :-:0是初始點，funz gfunr Hess分別是求%目標函數(shù)值，梯度，Hesse矩陣函數(shù)務(wù)輸出：分別是近似點最優(yōu)解和最優(yōu)質(zhì)，k是迭代次數(shù)maxk=500;$因為是牛頓法，感

5、覺不能簡單宜接找出最佳數(shù)值，所以需要加人迭代次數(shù)k=0;epsilon=le-5;while(kmaxk)gk=feval (gfun, xO);冷計算梯度Gk=feval (Hess, xO);冷計篦 Hess 他陣if(norm(gk):0=x0+dk;$直接根據(jù)前而的算法框架，得出上而迭代步驟k=k+l;end務(wù)只是將阻尼牛頓法，簡單的刪去Armijo搜索公式x=x0;val=feval(fun,x);然后仿照書上建立兩個目標函數(shù)和梯度的M文件：function f=fun(x)f=4*x(l)A2+x(2)A2-8*x(l)-4*x(2);function g=gfun(x)g=8*x

6、(l)-8,2*x(2)-4最后仿照書上建立Hess矩陣的M文件：function He=Hess(x)n=length(x);He=zeros(n,n);He=8,0;0,2;選取初始點為0,0,調(diào)用函數(shù)程序，得出最小極值點為1,2,極 小值為-8,在界面框中輸入的程序如下： x0=0 01;x, val, k =ne*twn ( * fun * , * gfun * z 1 Hess * z xO)x =12val =-8k =1從結(jié)果可以看出迭代次數(shù)為10次，如果選取不同的初值點則迭代 次數(shù)不一樣，但是極小值相同。下面看阻尼牛頓法： 阻尼牛頓法：仿照書上編寫程序并結(jié)合Armijo線性搜索

7、步長，有算法程序如 下：function x,val,k=znetwn(fun,gfun,Hess,xO)$功能：用牛頓法求解無約束問題：min f (x)令輸入：x0是初始點，funr gfun, Hess分別是求%目標函數(shù)值，梯度，Hesse矩陣函數(shù)務(wù)輸出：分別是近似點最優(yōu)解和最優(yōu)質(zhì)，k是迭代次數(shù)maxk=100;rho=0 50;sigma=0 4;k=0;epsilon=le-5;while(kmaxk)gk=feval (gfun, xO);務(wù)計算梯度Gk=feval (Hess, xO) ; iI 篦 Hess 矩陣dk=-Gkgk;務(wù)計算搜索方向if(norm(gk)epsilo

8、n),break;endb檢査終止準則m=0;mk=0;while(m:0+rhoAm*dk) :0=x0+rhoAmk*dk;6k=k+l;end %Armijo搜索公式簡單的加入牛頓算法中，便得到阻尼牛頓法x=xO;val=feval(fun,x);兩個目標函數(shù)、梯度的M文件和Hess矩陣的M文件與牛頓法的 相同，做題時直接在源程序上進行改編。選取初始點為4,6,調(diào)用 函數(shù)程序，得出最小極值點為1,2,極小值為-8,在界面框中輸入 的程序如下：xO= 4 6*;x, vaI, k=netwn(*fun*, *gfun, Hess, xO)x =12val =-8k =1從結(jié)果可以看出迭代次

9、數(shù)為1次，如果選取不同的初值點則迭代次 數(shù)不一樣，但是極小值相同。3、用最速下降法程序求函數(shù)= (x, -2)4 + (x, -2x2)2的極小點，取 初始點為兀。=(0,3幾解：運用上面第一題的程序，建立兩個目標函數(shù)和梯度的M文件：function g=gfun(x)g=4*(x(l)-2)A3+2*(x(1)-2*x(2)z-2*(x(1)-2*x(2);function f=fun(x)f=(x(l)-2)A4+(x(l)-2*x(2) ) A2;在對話框中輸入語句，計算結(jié)果為2.0151,1.0075 o輸入界面語句如 下:x0=0 3;x,val,k=grad(*funVgfunxO

10、)val =5443e-08x =2.01511.0075val =5.1443e-08k =218674、用牛頓法程序求Rosenbrock函數(shù)/(a) = 100(x2 -)2 +(X)-1)2的極小 點,取初始點為x0 = (-1.2,1/o解：利用上面一道題的牛頓法程序，兩個目標函數(shù)、梯度的M文件和 Hess矩陣的M文件分別為：function f=fun(x)f=100*(x(2)-x(l)A2)A2+(x(l)-l) A2;function g=gfun(x)g=200* (x(2)-x(l)A2)*2*x(l)+2*(x(l)-l)*x(l)z200*(x(2)-x(1) A2)

11、 function He=Hess(x)n=length(x);He=zeros(n,n);He=-400z 400*x(l);400* (1),200選取初始點為x0 =(-i.2,iy,調(diào)用函數(shù)程序，得出極小極值點為 -8.8422,77.7778,極小值為113.4648,在界面框中輸入的命令如下： x0=4 6; x, vaI, k=netwn (fun1,1gfun*, *Hess,xO)He =1 0e+03 *-0. 4000-3. 52650. 40000. 2000x =-8.842277. 7778val =113.4648k =500從結(jié)果可以看出迭代次數(shù)為500次，已經(jīng)達到最大迭代次數(shù)，結(jié)果 不可靠。二、實驗結(jié)果與心得1、通過第一題與后面兩道題比較可以得出，在尋去極