《最優(yōu)化方法》復(fù)習(xí)題(含答案)

附錄5《最優(yōu)化方法》復(fù)習(xí)題1、設(shè)是對(duì)稱矩陣，，求在任意點(diǎn)處的梯度和Hesse矩陣．解．2、設(shè)，其中二階可導(dǎo)，，試求．解．3、設(shè)方向是函數(shù)在點(diǎn)處的下降方向，令，其中為單位矩陣，證明方向也是函數(shù)在點(diǎn)處的下降方向．證明由于方向是函數(shù)在點(diǎn)處的下降方向，因此，從而，所以，方向是函數(shù)在點(diǎn)處的下降方向．4、是凸集的充分必要條件是的一切凸組合都屬于．證明充分性顯然．下證必要性．設(shè)是凸集，對(duì)用歸納法證明．當(dāng)時(shí)，由凸集的定義知結(jié)論成立，下面考慮時(shí)的情形．令，其中，且．不妨設(shè)（不然，結(jié)論成立），記，有，又，則由歸納假設(shè)知，，而，且是凸集，故．5、設(shè)為非空開凸集，在上可微，證明：為上的凸函數(shù)的充要條件是．證明必要性．設(shè)是上的凸函數(shù)，則及，有，于是，因?yàn)殚_集，在上可微，故令，得，即．充分性．若有，則，取，從而，，將上述兩式分別乘以和后，相加得，所以為凸函數(shù)．6、證明：凸規(guī)劃的任意局部最優(yōu)解必是全局最優(yōu)解．證明用反證法．設(shè)為凸規(guī)劃問題的局部最優(yōu)解，即存在的某個(gè)鄰域，使．若不是全局最優(yōu)解，則存在，使．由于為上的凸函數(shù)，因此，有．（1）0.618法的迭代公式：（2）Fibonacci法的迭代公式：．（3）Newton一維搜索法的迭代公式：．（4）最速下降法用于問題的迭代公式：（5）Newton法的迭代公式：．（6）共軛方向法用于問題的迭代公式：．10、已知線性規(guī)劃：（1）用單純形法求解該線性規(guī)劃問題的最優(yōu)解和最優(yōu)值；（2）寫出線性規(guī)劃的對(duì)偶問題；（3）求解對(duì)偶問題的最優(yōu)解和最優(yōu)值．解（1）引進(jìn)變量，將給定的線性規(guī)劃問題化為標(biāo)準(zhǔn)形式：311100601-220101011*-100120-21-1000020210-1403000125011-100120-30000-1-20所給問題的最優(yōu)解為，最優(yōu)值為．（2）所給問題的對(duì)偶問題為：（1）（3）將上述問題化成如下等價(jià)問題：引進(jìn)變量，將上述問題化為標(biāo)準(zhǔn)形式：（2）-3-1-11002-12-1*010-1-1-210011-60-10-200000-2-301-1031-210101-2000110-40-5000-20020問題（2）的最優(yōu)解為，最優(yōu)值為（最小值）．問題（1）的最優(yōu)解為，最優(yōu)值為（最大值）．11、用0.618法求解，要求縮短后的區(qū)間長(zhǎng)度不超過0.2，初始區(qū)間?。獾谝淮蔚喝。_定最初試探點(diǎn)分別為，．求目標(biāo)函數(shù)值：，．比較目標(biāo)函數(shù)值：．比較．第二次迭代：．．．第三次迭代：．．．第四次迭代：．．．第五次迭代：．．．第六次迭代：．．．第七次迭代：．．．第八次迭代：．．．第九次迭代：．．．故．12、用最速下降法求解，取，迭代兩次．解，將寫成的形式，則．第一次迭代：．第二次迭代：．13、用FR共軛梯度法求解，取，迭代兩次．若給定判定是否還需進(jìn)行迭代計(jì)算．解，再寫成，，．第一次迭代：，令，從出發(fā)，沿進(jìn)行一維搜索，即求的最優(yōu)解，得．第一次迭代：．，．從出發(fā)，沿進(jìn)行一維搜索，即求的最優(yōu)解，得．此時(shí)．得問題的最優(yōu)解為，無(wú)需再進(jìn)行迭代計(jì)算．14、用坐標(biāo)輪換法求解，取，迭代一步．解從點(diǎn)出發(fā)，沿進(jìn)行一維搜索，即求的最優(yōu)解，得．再?gòu)狞c(diǎn)出發(fā)，沿進(jìn)行一維搜索，即求的最優(yōu)解，得．15、用Powell法求解，取，初始搜索方向組，給定允許誤差（迭代兩次）．解第一次迭代：令，從點(diǎn)出發(fā)沿進(jìn)行一維搜索，易得；接著從點(diǎn)出發(fā)沿進(jìn)行一維搜索，得由此有加速方向．因?yàn)?，所以要確定調(diào)整方向．由于，按（8.4.17）式有，因此，并且．又因，故（8.4.18）式不成立．于是，不調(diào)整搜索方向組，并令．第二次迭代：取，從點(diǎn)出發(fā)沿作一維搜索，得．接著從點(diǎn)出發(fā)沿方向作一維搜索，得．由此有加速方向．因?yàn)椋砸_定調(diào)整方向．因，故按（8.4.17）式易知，并且．由于，因此（8.4.18）式成立。于是，從點(diǎn)出發(fā)沿作一維搜索，得。同時(shí)，以替換，即下一次迭代的搜索方向組取為．16、用外罰函數(shù)法求解?。庖肓P函數(shù)則原約束最優(yōu)化問題相應(yīng)的一系列無(wú)約束最優(yōu)化問題為：，其中．解上述無(wú)約束問題，得，同時(shí)．依次對(duì)用上述公式計(jì)算和，結(jié)果如下表所示．11.33332.22291.99227.69221.52.5101.99613.87631.66672.222111.99811.94641.81.6121.99909.74751.88899.877131.99954.87861.9412