數(shù)學(xué)模型及基本概念

數(shù)學(xué)模型及基本概念第一頁，共五十四頁，編輯于2023年，星期六§2.1

優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型一.機(jī)械優(yōu)化設(shè)計(jì)方法解決實(shí)際問題的步驟

1.分析實(shí)際問題，建立優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型；

分析：①設(shè)計(jì)的要求（目標(biāo)、準(zhǔn)則）；②設(shè)計(jì)的限制（約束）條件；③設(shè)計(jì)的參數(shù)，確定設(shè)計(jì)變量。

建立：機(jī)械優(yōu)化設(shè)計(jì)方法相應(yīng)的數(shù)學(xué)模型。

2.分析數(shù)學(xué)模型的類型，選擇合適的求解方法（優(yōu)化算法）。

3.求數(shù)學(xué)模型的最優(yōu)解，并對(duì)計(jì)算的結(jié)果進(jìn)行評(píng)價(jià)分析,最終確定是否選用此次計(jì)算的解。第二頁，共五十四頁，編輯于2023年，星期六§2.1

優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型舉例1：圓形等截面銷軸的優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型

已知：軸的一端作用載荷P=1000N，扭矩M=100N·m；軸長(zhǎng)不得小于8cm；材料的許用彎曲應(yīng)力[σw]=120MPa，許用扭剪應(yīng)力[τ]=80MPa，許用撓度[f]=0.01cm；密度[ρ]=7.8t/m，彈性模量E=2×105MPa。

分析：設(shè)計(jì)目標(biāo)是軸的質(zhì)量最輕Q=1/4πd2lρ→min.；要求：設(shè)計(jì)銷軸，在滿足上述條件的同時(shí)，軸的質(zhì)量應(yīng)為最輕。

設(shè)計(jì)限制條件有5個(gè)：彎曲強(qiáng)度：σmax≤[σw]

扭轉(zhuǎn)強(qiáng)度：τ≤[τ]

剛度：f≤[f]

結(jié)構(gòu)尺寸：l≥8,d≥0

設(shè)計(jì)參數(shù)中的未定變量：d、l第三頁，共五十四頁，編輯于2023年，星期六§2.1

優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型具體化：目標(biāo)函數(shù)Q=1/4πd2lρ→min.

約束函數(shù)σmax=Pl/(0.1d3)≤[σw] τ=M/(0.2d3)≤[τ] f=Pl3/(3EJ)≤[f] l≥8d≥0代入數(shù)據(jù)整理得數(shù)學(xué)模型：設(shè)：X=[x1,x2]T=[d,l]T

min.f(x)=x12x2X∈R2s.t.g1(x)=8.33x2-

x13≤0g2(x)=6.25-x13≤0g3(x)=0.34x23-x14≤0g4(x)=8-x2≤0g5(x)=-x1≤0二.舉例1（續(xù)）第四頁，共五十四頁，編輯于2023年，星期六§2.1

優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型舉例2：包裝箱尺寸參數(shù)設(shè)計(jì)

已知：一個(gè)體積為5m3的薄板包裝箱，其中一邊長(zhǎng)度不小于4m。

分析：

傳統(tǒng)設(shè)計(jì)方法：首先固定包裝箱一邊長(zhǎng)度a=4m,滿足包裝箱體積為5m3的設(shè)計(jì)要求，則有很多設(shè)計(jì)方案。要求：使薄板耗材最少，確定包裝箱的尺寸參數(shù)：長(zhǎng)a、寬b和高h(yuǎn)。優(yōu)化設(shè)計(jì)方法：在滿足包裝箱的體積abh=5，長(zhǎng)度a≥4,寬度b>0和高度h>0的限制條件下，確定設(shè)計(jì)參數(shù)a、b、h的值，使包裝箱的表面積s達(dá)到最小。選擇合適的優(yōu)化方法對(duì)該優(yōu)化設(shè)計(jì)問題進(jìn)行求解，得到的優(yōu)化結(jié)果是：第五頁，共五十四頁，編輯于2023年，星期六§2.1優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型機(jī)械優(yōu)化設(shè)計(jì)數(shù)學(xué)模型的一般形式：

設(shè)X=[x1,x2,…,xn]Tmin.f(x)=f(x1,x2,…,xn)X∈Rns.t.gu(x)

≤0u=1,2,…,mhv(x)=0v=1,2,…,p<n——

設(shè)計(jì)變量——

目標(biāo)函數(shù)——

約束函數(shù)（性能約束）——

約束函數(shù)（性能約束）——

約束函數(shù)（性能約束）——

約束函數(shù)（幾何約束）——

約束函數(shù)（幾何約束）（不等式約束）（等式約束）屬于2維歐氏空間根據(jù)例子中的數(shù)學(xué)模型：設(shè)：X=[x1,x2]T=[d,l]T

min.f(x)=x12x2X∈R2s.t.g1(x)=8.33x2-

x13≤0g2(x)=6.25-x13≤0g3(x)=0.34x23-x14≤0g4(x)=8-x2≤0g5(x)=-x1≤0三.優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型第六頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素一.設(shè)計(jì)變量：

設(shè)計(jì)變量：在優(yōu)化設(shè)計(jì)過程中是變化的，需要優(yōu)選確定的量。

設(shè)計(jì)參數(shù)：在優(yōu)化設(shè)計(jì)過程中保持不變或預(yù)先確定數(shù)值。

可以是幾何參數(shù)：例，尺寸、形狀、位置運(yùn)動(dòng)學(xué)參數(shù)：例，位移、速度、加速度動(dòng)力學(xué)參數(shù)：例，力、力矩、應(yīng)力其它物理量：例，質(zhì)量、轉(zhuǎn)動(dòng)慣量、頻率、撓度非物理量：例，效率、壽命、成本設(shè)計(jì)變量：優(yōu)化設(shè)計(jì)問題有n個(gè)設(shè)計(jì)變量x1,x2,…,xn，

用xi(i=1,2,…,n)表示，是設(shè)計(jì)向量X的n個(gè)分量。設(shè)計(jì)向量：用X=[x1,x2,…,xn]T表示，是定義在n維歐氏空間中的一個(gè)向量。第七頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素設(shè)計(jì)點(diǎn):X(k)（x1(k),x2(k),…,xn(k)）：是設(shè)計(jì)向量X(k)的端點(diǎn)，代表設(shè)計(jì)空間中的一個(gè)點(diǎn)，也代表第k個(gè)設(shè)計(jì)方案?？赡苁强尚蟹桨?、也可能不是可行方案。設(shè)計(jì)空間Rn：以x1,x2,…,xn

為坐標(biāo)軸，構(gòu)成n維歐氏實(shí)空間Rn。它包含了所有可能的設(shè)計(jì)點(diǎn)，即所有設(shè)計(jì)方案。例：右圖三維空間中第1設(shè)計(jì)點(diǎn)：X(1)=[x1(1),x2(1),x3(1)]T第2設(shè)計(jì)點(diǎn)：X(2)=[x1(2),x2(2),x3(2)]T

其中：X(2)=X(1)+ΔX(1)

增量：ΔX(1)=[Δx1(1),Δx2(1),Δx3(1)]T

即x1(2)=x1(1)+

Δx1(1)x2(2)

=x2(1)

+Δx2(1)

x3(2)=x3(1)+Δx3(1)一.設(shè)計(jì)變量（續(xù)1）第八頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素設(shè)計(jì)變量的選取原則:

盡量減少設(shè)計(jì)變量的個(gè)數(shù)，就是說盡可能將那些不很活躍的參數(shù)，根據(jù)過去設(shè)計(jì)經(jīng)驗(yàn)或者考慮工藝、結(jié)構(gòu)布置等方面的因素，可以預(yù)先取定，作為設(shè)計(jì)參數(shù)來處理。將設(shè)計(jì)指標(biāo)影響較大的設(shè)計(jì)參數(shù)作為設(shè)計(jì)變量來處理。一.設(shè)計(jì)變量（續(xù)2）設(shè)計(jì)變量的向量形式:==xi是n維向量X的第i個(gè)分量，T是轉(zhuǎn)置符，即表示把列向量轉(zhuǎn)置為行向量。第九頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素設(shè)計(jì)約束：設(shè)計(jì)變量值(設(shè)計(jì)點(diǎn))的選擇不僅要使目標(biāo)函數(shù)達(dá)到最優(yōu)值，同時(shí)還會(huì)受一定的條件限制，這些制約條件稱設(shè)計(jì)約束。約束函數(shù)：設(shè)計(jì)約束是設(shè)計(jì)變量的函數(shù)，稱為約束函數(shù)。

不等式約束函數(shù)：gu(x)

≤0u=1,2,…,m

等式約束數(shù)：hv(x)=0v=1,2,…,p＜n問題：是否每個(gè)設(shè)計(jì)約束中都必須包含n個(gè)設(shè)計(jì)變量？m+p個(gè)約束呢？不等式約束能否表達(dá)成gu(x)≥0？p為什么必須小于n?例：有三個(gè)不等式約束

g1(x)=-

x1

≤0g2(x)=-x2

≤0g3(x)=x12+x22-1≤0

再加一個(gè)等式約束

h(x)=x1-x2=0D二.約束函數(shù)第十頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素約束（曲）面：對(duì)于某一個(gè)不等式約束gu(x)

≤0中，滿足gu(x)

=0的x點(diǎn)的集合構(gòu)成一個(gè)曲面，稱為約束（曲）面。

它將設(shè)計(jì)空間分成兩部分：滿足約束條件gu(x)

≤0的部分和不滿足約束條件gu(x)

＞0的部分。設(shè)計(jì)可行域（簡(jiǎn)稱為可行域）對(duì)于一個(gè)優(yōu)化問題，所有不等式約束的約束面將組成一個(gè)復(fù)合的約束曲面，包圍了設(shè)計(jì)空間中滿足所有不等式約束的區(qū)域，稱為設(shè)計(jì)可行域。記作

D

=gu(x)

≤0u=1,2,…,mhv(x)=0v=1,2,…,p問題：等式約束與約束曲面是什么關(guān)系？

D

二.約束函數(shù)（續(xù)1）第十一頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素可行設(shè)計(jì)點(diǎn)（內(nèi)點(diǎn)）：在可行域內(nèi)任意一點(diǎn)稱為可行設(shè)計(jì)點(diǎn)，代表一個(gè)可行方案。極限設(shè)計(jì)點(diǎn)（邊界點(diǎn)）：在約束面上的點(diǎn)稱為極限設(shè)計(jì)點(diǎn)。

若討論的設(shè)計(jì)點(diǎn)x(k)點(diǎn)使得gu(x(k))

=0，則gu(x(k))≤0稱為適時(shí)約束或起作用約束。

非可行設(shè)計(jì)點(diǎn)（外點(diǎn)）：在可行域外的點(diǎn)稱為非可行設(shè)計(jì)點(diǎn)，代表不可采用的設(shè)計(jì)方案。二.約束函數(shù)（續(xù)2）問題：①極限設(shè)計(jì)點(diǎn)是否代表可行設(shè)計(jì)方案？②什么約束一定是適時(shí)約束？③可行域是否一定封閉？第十二頁，共五十四頁，編輯于2023年，星期六二維設(shè)計(jì)平面可行域中的內(nèi)點(diǎn)、外點(diǎn)和邊界點(diǎn)第十三頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素等式約束的特殊性：等式約束條件是對(duì)設(shè)計(jì)變量的一種特殊組合，從理論上講，有一個(gè)等式約束條件就存在一個(gè)從最優(yōu)化設(shè)計(jì)中消去某個(gè)設(shè)計(jì)變量的機(jī)會(huì)，即降低最優(yōu)化設(shè)計(jì)問題維數(shù)的一次機(jī)會(huì)。等式約束條件數(shù)p必須小于優(yōu)化設(shè)計(jì)問題的維數(shù)n，若n＝p，則由n個(gè)等式約束函數(shù)方程限制了設(shè)計(jì)方案只能有唯一的解，沒有最優(yōu)化的余地?？尚杏虻倪吔缫话闶堑仁郊s束，在二維設(shè)計(jì)空間中，等式約束表現(xiàn)為一條曲線，在三維設(shè)計(jì)空間中，等式約束一般表現(xiàn)為一張曲面。二.約束函數(shù)（續(xù)3）第十四頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素目標(biāo)函數(shù)：優(yōu)化設(shè)計(jì)的過程是從可行設(shè)計(jì)解中，找出一組最優(yōu)解的過程。需要一個(gè)準(zhǔn)則來評(píng)價(jià)當(dāng)前設(shè)計(jì)點(diǎn)（解）的最優(yōu)性。這個(gè)準(zhǔn)則包含各個(gè)設(shè)計(jì)變量，作為評(píng)價(jià)函數(shù)，一般稱為目標(biāo)函數(shù)，也稱為評(píng)價(jià)函數(shù)、準(zhǔn)則函數(shù)、價(jià)值函數(shù)。多目標(biāo)函數(shù)：由于評(píng)價(jià)準(zhǔn)則的非唯一性，目標(biāo)函數(shù)可以是一個(gè)——單目標(biāo)函數(shù)，也可以是多個(gè)——稱為多目標(biāo)函數(shù)。單目標(biāo)函數(shù)的表達(dá)式為：f(x)=f(x1,x2,…,xn)多目標(biāo)函數(shù)的表達(dá)式為：f(x)=ω1f1(x)+ω2f2(x)+…+ωqfq(x)=

其中：f1(x)，f2(x)，…fq(x)代表q個(gè)分設(shè)計(jì)目標(biāo)；

ω1，ω2，…

，ωq代表q個(gè)加權(quán)系數(shù)。三.目標(biāo)函數(shù)第十五頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素說明：①f(x)必須是x的函數(shù)，應(yīng)隨設(shè)計(jì)點(diǎn)的變化f(x)的值上升、下降；②f(x)應(yīng)該是實(shí)函數(shù)，是可計(jì)算的。但不一定通過數(shù)學(xué)公式，還可以用其它數(shù)值計(jì)算方法計(jì)算。③f(x)可以是有物理意義，有單位的，也可以沒有物理意義。例如，銷軸的質(zhì)量：Q=1/4πd2lρ，∵1/4πρ是常數(shù)，∴目標(biāo)函數(shù)可簡(jiǎn)化為f(x)=d2l=x12x2問題：①f(x)是否一定應(yīng)包含所有的設(shè)計(jì)變量？②f(x)若是越大越好，則應(yīng)如何處理？③分目標(biāo)函數(shù)f1(x)，f2(x)，…fq(x)中，有些是越小越好，有些是越大越好，則又應(yīng)如何處理？三.目標(biāo)函數(shù)(續(xù)）第十六頁，共五十四頁，編輯于2023年，星期六§2.2優(yōu)化設(shè)計(jì)的三大要素通常根據(jù)設(shè)計(jì)準(zhǔn)則建立：①在機(jī)構(gòu)優(yōu)化設(shè)計(jì)中，這種準(zhǔn)則可以是運(yùn)動(dòng)學(xué)和動(dòng)力學(xué)的性質(zhì)，如運(yùn)動(dòng)誤差，主動(dòng)力和約束反力的最大值，振動(dòng)特性等②在零件和部件設(shè)計(jì)中，設(shè)計(jì)準(zhǔn)則可以用重量、體積、效率、可靠性、承載能力表示③對(duì)于產(chǎn)品設(shè)計(jì)，可以將成本、價(jià)格、壽命等作為所追求的目標(biāo)。在一般情況下，這些設(shè)計(jì)指標(biāo)與設(shè)計(jì)變量之間都有明顯的的函數(shù)關(guān)系。三.目標(biāo)函數(shù)(續(xù)2）第十七頁，共五十四頁，編輯于2023年，星期六§2.3優(yōu)化設(shè)計(jì)的分類一.按模型性質(zhì)分：

確定型優(yōu)化問題：靜態(tài)優(yōu)化問題（與時(shí)間無關(guān)或忽略時(shí)間因素）動(dòng)態(tài)優(yōu)化問題（隨時(shí)間變化，系統(tǒng)響應(yīng)變化）不確定型優(yōu)化問題（隨機(jī)優(yōu)化問題）二.按設(shè)計(jì)變量性質(zhì)分

連續(xù)變量、離散變量、隨機(jī)變量三.按約束情況分1.按有無約束分：無約束優(yōu)化問題約束優(yōu)化問題

2.按約束性質(zhì)分：區(qū)域約束（幾何約束、邊界約束）性能約束（功能約束、性態(tài)約束）第十八頁，共五十四頁，編輯于2023年，星期六§2.3

優(yōu)化設(shè)計(jì)的分類（續(xù)）四.按目標(biāo)函數(shù)和約束函數(shù)的特性分：

線性規(guī)劃問題非線性規(guī)劃問題幾何規(guī)劃問題二次規(guī)劃問題五.按目標(biāo)函數(shù)的個(gè)數(shù)分：

單目標(biāo)優(yōu)化問題雙目標(biāo)優(yōu)化問題多目標(biāo)優(yōu)化問題第十九頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)一.等值（線）面：

對(duì)于可計(jì)算的函數(shù)f(x)，給定一個(gè)設(shè)計(jì)點(diǎn)X(k)(x1(k),x2(k),…,xn

(k))，f(x)總有一個(gè)定值c與之對(duì)應(yīng)；而當(dāng)f(x)取定值c時(shí)，則有無限多個(gè)設(shè)計(jì)點(diǎn)X(i)(x1(i),x2(i),…,xn(i))（i=1,2,…

）與之對(duì)應(yīng)，這些點(diǎn)集構(gòu)成一個(gè)曲面，稱為等值面。

當(dāng)c取c1,c2,…等值時(shí)，就獲得一族曲面族，稱為等值面族。

當(dāng)f(x)是二維時(shí)，獲得一族等值線族；當(dāng)f(x)是三維時(shí)，獲得一族等值面族；當(dāng)f(x)大于三維時(shí)，獲得一族超等值面族。第二十頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)等值線的“心”

（以二維為例）

一個(gè)“心”：是單峰函數(shù)的極（?。┲迭c(diǎn)，是全局極（?。┲迭c(diǎn)。沒有“心”：例，線性函數(shù)的等值線是平行的，無“心”，認(rèn)為極值點(diǎn)在無窮遠(yuǎn)處。

多個(gè)“心”：不是單峰函數(shù)，每個(gè)極（小）值點(diǎn)只是局部極（?。┲迭c(diǎn)，必須通過比較各個(gè)極值點(diǎn)和“鞍點(diǎn)”（須正確判別）的值，才能確定極（?。┲迭c(diǎn)。一.等值（線）面：第二十一頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)無約束最優(yōu)解和約束最優(yōu)解

對(duì)于無約束最優(yōu)化問題，最優(yōu)解就是目標(biāo)函數(shù)的極值點(diǎn)，實(shí)際上就是目標(biāo)函數(shù)等值線的中心。對(duì)于約束最優(yōu)化問題，最優(yōu)點(diǎn)往往是目標(biāo)函數(shù)等值超曲面與約束超曲面的一個(gè)切點(diǎn)，而且可能在兩個(gè)以上約束超曲面的交集上一.等值（線）面：局部最優(yōu)解和全局最優(yōu)解第二十二頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)等值線的形狀：同心圓族、橢圓族，近似橢圓族；等值線的疏密：沿等值線密的方向，函數(shù)值變化快；沿等值線疏的方向，函數(shù)值變化慢。等值線的疏密定性反應(yīng)函數(shù)值變化率。

嚴(yán)重非線性函數(shù)——病態(tài)函數(shù)的等值線族是嚴(yán)重偏心和扭曲、分布疏密嚴(yán)重不一的曲線族。一.等值（線）面：第二十三頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)等值線的分布規(guī)律與目標(biāo)函數(shù)變化規(guī)律之間的關(guān)系：對(duì)于求目標(biāo)函數(shù)極小化問題來說，愈靠近極值點(diǎn)的等值線（面）所代表的目標(biāo)函數(shù)值愈小。在極值點(diǎn)附近的等值線呈現(xiàn)橢圓形狀，其中心就是極值點(diǎn)。等值線舉例（二維優(yōu)化設(shè)計(jì)問題）：一.等值（線）面：令目標(biāo)函數(shù)值等于一系列常數(shù)值：則在設(shè)計(jì)平面上得到以點(diǎn)(2，0)為圓心，以為半徑的一族同心圓,曲線族中某一條曲線上的各點(diǎn)都具有相同的目標(biāo)函數(shù)值。第二十四頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)二維優(yōu)化問題的幾何描述：例：對(duì)二維優(yōu)化問題一.等值（線）面：進(jìn)行幾何描述約束線、可行域、目標(biāo)函數(shù)等值線、約束極值點(diǎn)第二十五頁，共五十四頁，編輯于2023年，星期六設(shè)，是設(shè)計(jì)空間中的任意兩個(gè)向量，則有：(1)．xi=yi(i=1,2,…,n)時(shí)，稱x與y相等;(2)．x與y的和、差定義：(3)．向量與實(shí)數(shù)的乘積定義為：

(4)．當(dāng)時(shí)，稱x為零向量。

§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)二.向量與矩陣：向量：第二十六頁，共五十四頁，編輯于2023年，星期六(1)．向量的模：(2)．向量x與y之間的距離：

(3)．向量x與y的內(nèi)積：(4)．非零向量x與y的之間的夾角：

(5)．在實(shí)空間中，稱為歐氏空間，記作。

§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)二.向量與矩陣：歐式空間：第二十七頁，共五十四頁，編輯于2023年，星期六(1).設(shè)為中的m個(gè)向量(m≤n)，若有不全為零的m個(gè)數(shù)，i=1,2,…，m，使成立，稱向量組是線性相關(guān)的。(2).若中一組向量線性相關(guān)，中任一向量x都可表示為則稱為的一組基。

§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)二.向量與矩陣：向量的線性相關(guān)與基：設(shè)，，則有：設(shè)，，為實(shí)數(shù)，則有：

矩陣：第二十八頁，共五十四頁，編輯于2023年，星期六當(dāng)m=n時(shí)，A稱為n階方陣，aii,i=1~n,稱為方陣的主對(duì)角元素。

|Ａ|稱為方陣Ａ的行列式，且有：在n階方陣A中，當(dāng)主對(duì)角元素均為１，其余各元素都為零，則稱為單位方陣E?！?.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)二.向量與矩陣：方陣：對(duì)于n階方陣A,B，如果AB=E，則稱B為A的逆矩陣，記為，而且可推得：當(dāng)n階方陣各元素aii=aji

，i,j=1~n,稱A為對(duì)稱方陣。第二十九頁，共五十四頁，編輯于2023年，星期六二次型：含有n個(gè)變量x1,x2,…,xn的二次齊次函數(shù)上式也可表達(dá)為：對(duì)于任意的非零向量，恒有，則稱f(X)為正二次型，A為正定矩陣?！?.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)二.向量與矩陣：二次型與正定矩陣：函數(shù)的偏導(dǎo)數(shù)：偏導(dǎo)數(shù)是指在某坐標(biāo)軸方向函數(shù)值的變化率，連續(xù)可微的n維函數(shù)，在點(diǎn)的一階偏導(dǎo)數(shù)表示為：，，…，第三十頁，共五十四頁，編輯于2023年，星期六方向?qū)?shù)：二維問題中，f(x1,x2)在X(0)點(diǎn)沿方向s的方向?qū)?shù)為：其中：是X(0)點(diǎn)的梯度。S為s方向的單位向量，。

為S的方向角,方向?qū)?shù)為方向余弦。為梯度在方向s上的投影。三.梯度§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)第三十一頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)梯度的性質(zhì)：

①梯度是X(0)點(diǎn)處最大的方向?qū)?shù)；②梯度的方向是過點(diǎn)的等值線的法線方向；③梯度是X(0)

點(diǎn)處的局部性質(zhì)；④梯度指向函數(shù)變化率最大的方向；⑤正梯度方向是函數(shù)值最速上升的方向，負(fù)梯度方向是函數(shù)值最速下降的方向。

對(duì)于n維問題的梯度三.梯度第三十二頁，共五十四頁，編輯于2023年，星期六例2-1

求二元函數(shù)在

處的梯度和梯度的模解：由梯度的定義可得：將代入上式得到：x2P21x12

的模為：梯度的單位向量為：第三十三頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)n維函數(shù)f(x)在x(k)

點(diǎn)的臺(tái)勞展開式:二階近似式：其中：增量

ΔX(k)=[Δx1(k),Δx2(k),…,Δxn(k)]T梯度

Hesse矩陣四.Hesse矩陣與正定第三十四頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)Hesse矩陣的特性：是實(shí)對(duì)稱矩陣。矩陣正定的充要條件：主子式det(ait)＞0當(dāng)主子式det(ait)≥0時(shí)，矩陣半正定

det(ait)＜0時(shí)，矩陣負(fù)定

det(ait)≤0時(shí)，矩陣半負(fù)定Hesse矩陣的正定性：H(x*)正定，是x*為全局極小值點(diǎn)的充分條件；H(x*)半正定,是x*為局部極小值點(diǎn)的充分條件；H(x*)負(fù)定，是x*為全局極大值點(diǎn)的充分條件；H(x*)半負(fù)定,是x*為局部極大值點(diǎn)的充分條件。正定的二次函數(shù)：曲面為橢圓拋物面；等值線族為橢圓曲線族，橢圓中心為極小值點(diǎn)。四.Hesse矩陣與正定第三十五頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)凸集：設(shè)D為歐氏空間Rn中X的集合，即D∈Rn,X∈D，若D域內(nèi)任意兩個(gè)點(diǎn)x(1)，x(2)的連線上的各點(diǎn)都屬于D域，則的集合D稱為Rn

內(nèi)的一個(gè)凸集。否則，為非凸集。凸函數(shù)：

f(x)是定義在n維歐氏空間中，凸集上的函數(shù)，同時(shí)x(1)∈D，x(2)∈D，ξ∈[0,1]，當(dāng)下式成立時(shí)，則稱f(x)為定義在凸集D上的凸函數(shù)。f[ξx(1)+(1-ξ)x(2)]≤ξf(x(1))+(1-ξ)f(x(2))

當(dāng)上式中的≤為＜時(shí)，f(x)是嚴(yán)格凸函數(shù)。五.函數(shù)的凸性第三十六頁，共五十四頁，編輯于2023年，星期六§2.4

優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)判別函數(shù)為凸函數(shù)的凸性條件：

按梯度判斷凸性：設(shè)f(x)是定義在凸集D上具有連續(xù)一階導(dǎo)數(shù)的函數(shù)，則f(x)在D上為凸函數(shù)的充要條件是：對(duì)于任意的x(1),x(2)∈D都有成立。

按二階偏導(dǎo)數(shù)判斷凸性：設(shè)f(x)是定義在凸集D上具有連續(xù)二階導(dǎo)數(shù)的函數(shù)，則f(x)在D上為凸函數(shù)的充要條件是：f(x)的Hesse矩陣處處半正定。若Hesse矩陣處處正定，則f(x)為嚴(yán)格凸函數(shù)。凸函數(shù)的基本性質(zhì)：

若f(x)是定義在凸集D上的嚴(yán)格凸函數(shù)，則f(x)在D上的一個(gè)極小點(diǎn)，也就是全局最小點(diǎn)。凸函數(shù)的線性組合仍然為凸函數(shù)。α

f1

(x)＋β

f2

(x)

設(shè)x(1),x(2)為凸函數(shù)f(x)上的兩個(gè)最小點(diǎn)，則其連線上的任意點(diǎn)也都是最小點(diǎn)。五.函數(shù)的凸性第三十七頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件一.優(yōu)化設(shè)計(jì)最優(yōu)解無約束優(yōu)化設(shè)計(jì)問題最優(yōu)解：約束優(yōu)化設(shè)計(jì)問題最優(yōu)解：

不受約束條件限制，使目標(biāo)函數(shù)達(dá)到最小值的一組設(shè)計(jì)變量，即最優(yōu)點(diǎn)x*=[x1*,x2*,…,xn*]和最優(yōu)值f(x*)構(gòu)成無約束問題最優(yōu)解。

滿足約束條件，使目標(biāo)函數(shù)達(dá)到最小值的一組設(shè)計(jì)變量，即最優(yōu)點(diǎn)x*=[x1*,x2*,…,xn*]和最優(yōu)值f(x*)構(gòu)成約束問題最優(yōu)解。第三十八頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件二.無約束問題的極值條件必要條件：充分條件：

在點(diǎn)的一階偏導(dǎo)數(shù)為零（即梯度向量為零向量）

如果它的二階偏導(dǎo)數(shù)矩陣（即Hesse矩陣）是負(fù)定的，則為極大點(diǎn)；如果它的二階偏導(dǎo)數(shù)矩陣是正定的，則為極小點(diǎn)。例2-2

求三維函數(shù)的極值點(diǎn)解：根據(jù)三維函數(shù)存在極值的必要條件，令梯度為零第三十九頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件二.無約束問題的極值條件聯(lián)解得到：海賽矩陣行列式各階主子式計(jì)算點(diǎn)處的Hesse矩陣Hesse矩陣是正定的，是極小點(diǎn)，對(duì)應(yīng)的目標(biāo)函數(shù)值第四十頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件三.有約束問題最優(yōu)點(diǎn)的幾種情況2.有適時(shí)約束目標(biāo)函數(shù)是凸函數(shù),可行域是凸集，則目標(biāo)函數(shù)等值線與適時(shí)約束曲面的切點(diǎn)為最優(yōu)點(diǎn)，而且是全局最優(yōu)點(diǎn)。1.無適時(shí)約束目標(biāo)函數(shù)是凸函數(shù)，可行域是凸集，則最優(yōu)點(diǎn)是內(nèi)點(diǎn)。相當(dāng)于無約束問題的最優(yōu)點(diǎn)。x(k)為最優(yōu)點(diǎn)x*的條件：必要條件：充分條件：Hesse矩陣H(x(k))

是正定矩陣··X*f(x)·x*第四十一頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件有適時(shí)約束目標(biāo)函數(shù)是非凸函數(shù)（圖a），或可行域是非凸集（圖b）：

則目標(biāo)函數(shù)等值線與適時(shí)約束曲面可能存在多個(gè)切點(diǎn)，是局部極值點(diǎn)，其中只有一個(gè)點(diǎn)是全局最優(yōu)點(diǎn)。三.有約束問題最優(yōu)點(diǎn)的幾種情況pQQp第四十二頁，共五十四頁，編輯于2023年，星期六§2.5

優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件四.K-T(Kuhn-Tucker庫恩-塔克)

條件

——有適時(shí)約束時(shí)獲得最優(yōu)解的條件1.有一個(gè)適時(shí)約束時(shí)：

與x(k)點(diǎn)目標(biāo)函數(shù)的負(fù)梯度方向成銳角，即沿S方向目標(biāo)函數(shù)值下降；與x(k)點(diǎn)約束函數(shù)的梯度方向成鈍角，即保證S方向上各點(diǎn)在可行域內(nèi)。此時(shí)，獲得最優(yōu)解x(k)

為最優(yōu)點(diǎn)x*，f(x(k))為最優(yōu)值f(x*)。

從數(shù)學(xué)上定義，當(dāng)從x(k)點(diǎn)出發(fā)不存在一個(gè)S方向能同時(shí)滿足：①;②，即，則獲得最優(yōu)解：x(k)為最優(yōu)點(diǎn)x*，f(x(k))為最優(yōu)值f(x*)。從幾何上看，當(dāng)從x(k)點(diǎn)出發(fā)不存在一個(gè)S方向能同時(shí)滿足：第四十三頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件

相反，當(dāng)從x(k)點(diǎn)出發(fā)，存在一個(gè)S方向能同時(shí)滿足：和時(shí)，則x(k)不是最優(yōu)點(diǎn)。

從幾何上看，當(dāng)從x(k)點(diǎn)出發(fā)存在一個(gè)S方向能同時(shí)滿足：與x(k)點(diǎn)目標(biāo)函數(shù)的負(fù)梯度方向成銳角，即沿S方向目標(biāo)函數(shù)值下降；與x(k)點(diǎn)約束函數(shù)的梯度方向成鈍角，即保證S方向上各點(diǎn)在可行域內(nèi)。此時(shí)，x(k)不是最優(yōu)點(diǎn)x*。四.K-T(Kuhn-Tucker庫恩-塔克)

條件

——有適時(shí)約束時(shí)獲得最優(yōu)解的條件1.有一個(gè)適時(shí)約束時(shí)：第四十四頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件2.有二個(gè)適時(shí)約束時(shí)：

x(k)成為約束最優(yōu)點(diǎn)x*的必要條件為:。

幾何上位于和所張的扇形子空間內(nèi)。即不存在一個(gè)S方向能同時(shí)滿足：四.K-T(Kuhn-Tucker庫恩-塔克)

條件

——有適時(shí)約束時(shí)獲得最優(yōu)解的條件第四十五頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件相反，不符合以上條件：

幾何上不位于和所張的扇形子空間內(nèi)。則x(k)

點(diǎn)不是最優(yōu)點(diǎn)。不能表達(dá)成和的線性組合。即存在一個(gè)S方向能同時(shí)滿足：四.K-T(Kuhn-Tucker庫恩-塔克)

條件

——有適時(shí)約束時(shí)獲得最優(yōu)解的條件2.有二個(gè)適時(shí)約束時(shí)：第四十六頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件3.K-T條件（擴(kuò)展至m個(gè)適時(shí)約束）：

設(shè)某個(gè)設(shè)計(jì)點(diǎn)x(k)，其適時(shí)約束集為，

幾何上，x(k)成為約束最優(yōu)點(diǎn)（極小點(diǎn)）x*時(shí)，目標(biāo)函數(shù)的負(fù)梯度向量位于m適時(shí)約束梯度向量所張成的子空間內(nèi)。且為線性獨(dú)立，則x(k)成為約束最優(yōu)點(diǎn)的必要條件是目標(biāo)函數(shù)的負(fù)梯度向量可表示為適時(shí)約束梯度向量的線性組合，即。其中，。四.K-T(Kuhn-Tucker庫恩-塔克)

條件

——有適時(shí)約束時(shí)獲得最優(yōu)解的條件第四十七頁，共五十四頁，編輯于2023年，星期六§2.5優(yōu)化設(shè)計(jì)的最優(yōu)解及獲得最優(yōu)解的條件K-T條件的作用：判別邊界設(shè)計(jì)點(diǎn)x(k)

為最優(yōu)點(diǎn)的依據(jù)，見參考書（第三版）52頁例3-6、53頁例3-7（要求會(huì)判斷）；作為約束優(yōu)化的收斂條件。問題：

K-T條件是否為充分必要條件？若是，說明理由；若不是，則說明什么情況下，可成為充要條件？有等式約束時(shí)，K-T條件是否還能適用？四.K-T(Kuhn-Tucker庫恩-塔克)

條件

——有適時(shí)約束時(shí)獲得最優(yōu)解的條件第四十八頁，共五十四頁，編輯于2023年，星期六§2.6優(yōu)化設(shè)計(jì)問題的數(shù)值迭代法及其收斂條件一.數(shù)值迭代法：基本思想：從設(shè)計(jì)點(diǎn)x(k)出發(fā)，根據(jù)函數(shù)在該點(diǎn)的某些（局部）性質(zhì)，確定本次搜索的方向S(k)和步長(zhǎng)因子α(k)

，從而達(dá)到一個(gè)新點(diǎn)x(k+1),…逐步調(diào)優(yōu)，最終達(dá)到或逼近目標(biāo)函數(shù)的最優(yōu)點(diǎn)。

迭代公式：

x(k+1)=x(k)+α(k)S(k)

迭代條件：保證得到的新點(diǎn)