數(shù)學(xué)補(bǔ)充材料

1、線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)1補(bǔ)充材料補(bǔ)充材料 線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)2行列式與線性方程組u行列式：12121112121222()1212( 1)nnnnp ppppnpnnnnaaaaaaaaaaaa行列式的計(jì)算按行（列）展開計(jì)算化為三角行列式計(jì)算112122112212000nnnnnnaaaa aaaaaMatlabAdet( ):A中計(jì)算矩陣 的行列式線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)3解線性方程組的克萊姆法則u對(duì)于線性方程組：11 11221121 1222221 122nnnnnnnnnna xa xa xba xa xa xba xa xa xbu如果

2、系數(shù)行列式 D=|aii|0，則方程組存在唯一解1212,nnDDDxxxDDDu齊次線性方程組(即b=0)，有非零解的充要條件是D=|aii|=0行列式線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)4矩陣uMatrix: 由mn個(gè)數(shù)aij排列成的m行n列的數(shù)表：Amn = aijmn1122000000000000nnaaaeye( )n( )diag Atriu( )tril( )AA方陣：m=n對(duì)角陣：=diag(a11,a22,ann)單位陣：E= diag(1,1,1)上三角陣與下三角陣1000010000100001211503040070001線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)5矩陣的運(yùn)算u矩陣的乘法：C=ABno

3、c(A) = nor(B)noc(C) = noc(B)nor(C) = nor(A)ijikkjkca bu矩陣的轉(zhuǎn)置：A=(aij), A=AT=(aji)u對(duì)稱方陣：A=A， 即 aij= ajiu方陣的行列式： 如果|A|0，A稱為非奇異陣，否則為奇異陣 |A|= |A|， |AB|= |A|B|u逆矩陣：如果AB=BA=E, 則稱A可逆，B為A的逆u方陣A可逆的充要條件： |A|0inv( )BA矩陣線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)6分塊矩陣及其運(yùn)算u分塊矩陣：用橫線和豎線把矩陣分成若干小塊，每個(gè)小塊為一個(gè)矩陣，它可以作為一個(gè)元素參加運(yùn)算。u分塊對(duì)角陣：|A|=|A11|A22|Arr|222

4、21010010100120021EEOB1122rrAAA11111221rrAAAA1122blkdiag(,.,)rrAAAA11(1:,1: )AAmn矩陣線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)7向量un維向量：x=(x1,x2,xn)Tu線性相關(guān)與線性無關(guān)：設(shè)有n維向量組： x1, x2, xm，如果只有當(dāng)k1= k2=km=0時(shí)，才能使下式成立，則稱該向量組線性無關(guān)。否則為線性相關(guān)。1 12 2m mkkk xxx0um個(gè)n維向量的矩陣表示：A=(a1, a2, am)un個(gè)n維向量：ai=(ai1,ai2,ain)T線性無關(guān)的充要條件是|A|0線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)8向量(二)u如果向量組A =

5、 (a1, a2, am) = (b1, b2, bm)C = BC，稱A可由向量組B線性表示。u向量組的秩：rank(A)=nov(A的最大線性無關(guān)組) u向量的內(nèi)積:1( , )nTi iixyxyx yu向量的模（范數(shù)/長度）：Txx x12212121( , )() ()Tdx xxxxxxx121212,arccosTxxxxxxu兩點(diǎn)的距離：u兩向量的夾角：線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)9向量(三)u兩向量正交：(x,y)=0, cos()=0u若非零的n維向量x1, x2, xm兩兩正交，則稱為正交向量組。正交向量組的性質(zhì)：正交向量組線性無關(guān)。若n維向量y可由正交向量組x1, x2, x

6、m線性表示，則：12121122TTTmmTTTmmy xy xy xyxxxx xx xx x線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)10向量(四)u向量空間：對(duì)加法和數(shù)乘運(yùn)算均封閉的非空向量集合稱為一個(gè)向量空間。u向量空間V的基：向量空間中的任一向量都可由線性無關(guān)向量組a1, a2, , ar線性表示，則稱向量組a1, a2, , ar為V的基，dimV=ru向量空間V中的任一向量z可由它的基唯一線性表示，有序組(x1, x2, , xr)稱為向量z在該基下的坐標(biāo)。1 12 2.rrzxxxaaau基變換與坐標(biāo)變換1212(.)(.)rraC 線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)11矩陣的特征值與特征向量u方陣A的特征值

7、與特征向量: A=設(shè)設(shè)是是方陣A的屬于特征值的特征向量，則k 也是也是A的屬于特征值的特征向量。方陣A的兩個(gè)不同特征值所對(duì)應(yīng)的特征向量是線性無關(guān)的。u方陣A的特征矩陣A-E和特征多項(xiàng)式|A-E|u方陣A的特征方程： |A-E|=0u特征方程|A-E|=0的解為方陣A的特征值，方程 (A-E)x=0的非零解向量就是方陣A的屬于特征值的特征向量。線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)12矩陣的特征值與特征向量例題u求矩陣A的特征值和特征向量。3452A34(2)(7)052AE特征方程122,7 特征值特征值-2對(duì)應(yīng)的特征向量540(2)540AE xx4x5特征值7對(duì)應(yīng)的特征向量440(7)550AE xx1x

8、1 線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)13相似矩陣u如果存在可逆方陣P，使P-1AP=B，則稱A與B相似，記作AB。 相似關(guān)系具有反身、對(duì)稱、傳遞性。 相似矩陣有相同的行列式，即|A|=|B| 相似矩陣有相同的特征多項(xiàng)式及特征值un階方陣A與對(duì)角矩陣相似的充要條件是A有n個(gè)線性無關(guān)的特征向量。u如果A，即有P-1AP= =diag(d1,d2,dn)，則d1, d2, , dn是A的n個(gè)特征值。u實(shí)對(duì)稱矩陣： 特征值為實(shí)數(shù) 兩個(gè)相異的特征值對(duì)應(yīng)的特征向量正交 n階實(shí)對(duì)稱方陣A有n個(gè)線性無關(guān)的特征向量 n階實(shí)對(duì)稱方陣A與對(duì)角矩陣相似線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)14正交矩陣u正交矩陣A，有AA=E，即A-1=A正交

9、矩陣A與B的乘積AB仍為正交矩陣正交矩陣A的行列式|A|=1u正交矩陣A的行(列)向量組為正交單位向量組，即：1212,nnE Tijiju若A為實(shí)對(duì)稱矩陣，則必存在正交矩陣P，使P-1AP=， 是以A的特征值為對(duì)角元素的對(duì)角矩陣。線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)15二次型u二次齊次函數(shù)：12, 1( , , , ),nnij ijijjii jf x xxa xxaau記x=(x1, x2, xn)T，A=(aij)n*n ，則有：12( , , , )nf x xxAx xu二次型f 與對(duì)稱矩陣A存在一一對(duì)應(yīng)：A為二次型f的矩陣， f 為矩陣A的二次型。線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)16標(biāo)準(zhǔn)二次型uA=時(shí)為

10、標(biāo)準(zhǔn)二次型(只含平方項(xiàng))u對(duì)于任何二次型：12( , , , )nf x xx xAxCxy總可找到正交變換將f化為標(biāo)準(zhǔn)形2221122nnfyyyC AC yy線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)17正定二次型和正定矩陣u二次型f(x1, x2, , xn)，如果對(duì)于任何x12 + x22 + xn2 0，都有f 0，則稱 f 為正定二次型。其矩陣A為正定矩陣(A0)。un階方陣A正定的充要條件是：A的n個(gè)特征值全為正的。un階方陣A，若存在可逆矩陣B，使A=BB，則A為正定矩陣。線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)18多元隨機(jī)變量的統(tǒng)計(jì)特征un維隨機(jī)變量：x=x1,x2,xnTun維隨機(jī)變量的（總體）均值：un維隨機(jī)

11、變量的（樣本）均值：un維隨機(jī)變量的（總體）相關(guān)函數(shù)矩陣：un維隨機(jī)變量的（樣本）相關(guān)函數(shù)矩陣：un維隨機(jī)變量的（總體）協(xié)方差矩陣：un維隨機(jī)變量的（樣本）協(xié)方差矩陣：E( )( )pdxxxxxR( )EETijijrx x xxx11NiiNx11R( )NTiiiNxx xC( )E()()E()() Tijiijjcxxxx x11C( )()()NTiiiiiNxxx線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)19n維隨機(jī)變量協(xié)方差矩陣的性質(zhì)un維隨機(jī)變量協(xié)方差矩陣C是實(shí)對(duì)稱矩陣協(xié)方差矩陣C的特征值為實(shí)數(shù)C有n個(gè)線性無關(guān)的特征向量存在正交矩陣U，使U-1CU= UTCU=， 是以C的特征值為對(duì)角元素的對(duì)角矩陣，U=u1,u2,un，C ui=i ui線性代數(shù)與概率統(tǒng)計(jì)基礎(chǔ)20梯度（下降）法( )J a準(zhǔn)則函數(shù)： *argmin ( )Jaaa最優(yōu)化問題： 12*( )0 TnJJJJaaaaa求解方法： 應(yīng)滿足方程： 0a沿梯度的負(fù)方向改變 ，函數(shù)會(huì)最快地達(dá)