北郵最優(yōu)化課件1預(yù)備知識

2023/5/3最優(yōu)化理論1最優(yōu)化理論與算法帥天平北京郵電大學(xué)數(shù)學(xué)系§1預(yù)備知識2023/5/3最優(yōu)化理論TPSHUAI21，預(yù)備知識1.線性空間2.范數(shù)3.集合與序列4.矩陣的分解與校正2023/5/3最優(yōu)化理論TPSHUAITPSHUAI31.線性空間Df1.3:給定一非空集合G以及在G上的一種代數(shù)運算+:G×G→G(稱為加法),若下述條件成立:則<G,+>稱為一個群.若還滿足對任意的a,b∈G,有a+b=b+a,則<G,+>稱為一個阿貝爾群(&交換群)2023/5/3最優(yōu)化理論TPSHUAITPSHUAI41.線性空間Df1.4:給定一非空集合V和一個域F,并定義兩種運算加法+:V×V→V以及數(shù)乘:F×V→V.若<V,+>構(gòu)成一交換群,且兩種運算滿足下面性質(zhì):則稱V在域F上關(guān)于加法和數(shù)乘運算構(gòu)成一線性空間,簡稱V為F上的線性空間.記為V(F).若V的非空子集合S關(guān)于加法和數(shù)乘運算在F上也構(gòu)成一線性空間,則S稱為F上的線性子空間.2023/5/3最優(yōu)化理論TPSHUAITPSHUAI51.線性空間例子2023/5/3最優(yōu)化理論TPSHUAITPSHUAI61.線性空間2023/5/3最優(yōu)化理論TPSHUAITPSHUAI71.線性空間Th1.1

線性空間V(F)的非空子集S的線性擴張L(S)是V中包含S的最小子空間.2023/5/3最優(yōu)化理論TPSHUAITPSHUAI81.線性空間2023/5/3最優(yōu)化理論TPSHUAITPSHUAI91.線性空間2023/5/3最優(yōu)化理論TPSHUAITPSHUAI102.范數(shù)2023/5/3最優(yōu)化理論TPSHUAITPSHUAI112.范數(shù)2023/5/3最優(yōu)化理論TPSHUAITPSHUAI122.范數(shù)2023/5/3最優(yōu)化理論TPSHUAITPSHUAI133.集合與序列2023/5/3最優(yōu)化理論TPSHUAITPSHUAI143，集合與序列2023/5/3最優(yōu)化理論TPSHUAITPSHUAI153.集合與序列2023/5/3最優(yōu)化理論TPSHUAITPSHUAI163.集合與序列2023/5/3最優(yōu)化理論TPSHUAITPSHUAI174.矩陣的分解與校正Th1.5

若n階矩陣A可逆，則存在一個排列矩陣P,單位下三角矩陣L和上三角矩陣U，使得PA=LU2023/5/3最優(yōu)化理論TPSHUAITPSHUAI184.矩陣的分解與校正Th1.6

設(shè)A為對稱正定矩陣，則（1）矩陣A可唯一的分解成A=LDLT,其中L為單位下三角矩陣，D為對角矩陣（2）存在可逆的下三角矩陣L，使得A=LLT.當(dāng)L的對角元素為正時，分解是唯一的。(Cholesky分解)2023/5/3最優(yōu)化理論TPSHUAITPSHUAI194.矩陣的分解與校正2023/5/3最優(yōu)化理論TPSHUAITPSHUAI204.矩陣的分解與校正2023/5/3最優(yōu)化理論TPSHUAITPSHUAI215.函數(shù)的可微性與展開2023/5/3最優(yōu)化理論TPSHUAITPSHUAI225.函數(shù)的可微性與展開當(dāng)f(x)在x點存在二階偏導(dǎo)時,函數(shù)f在點x的Hesse矩陣定義為2023/5/3最優(yōu)化理論TPSHUAITPSHUAI235.函數(shù)的可微性與展開2023/5