Chapter特征值和乘冪法方法學(xué)習(xí)教案

1、會(huì)計(jì)學(xué)1Chapter特征值和乘冪特征值和乘冪(chn m)法方法法方法第一頁，共40頁。工程實(shí)踐中有多種振動(dòng)問題工程實(shí)踐中有多種振動(dòng)問題(wnt)，如橋梁或建筑，如橋梁或建筑物的物的振動(dòng)，機(jī)械機(jī)件、飛機(jī)機(jī)翼的振動(dòng)，工程實(shí)踐中振動(dòng)，機(jī)械機(jī)件、飛機(jī)機(jī)翼的振動(dòng)，工程實(shí)踐中有多種振動(dòng)問題有多種振動(dòng)問題(wnt)，如橋梁或建筑物的振動(dòng)，如橋梁或建筑物的振動(dòng)，機(jī)械機(jī)械機(jī)件、飛機(jī)機(jī)翼的振動(dòng)，及一些穩(wěn)定性分析和相機(jī)件、飛機(jī)機(jī)翼的振動(dòng)，及一些穩(wěn)定性分析和相關(guān)分析可轉(zhuǎn)化為求矩陣特征值與特征向量的問題關(guān)分析可轉(zhuǎn)化為求矩陣特征值與特征向量的問題(wnt)。第1頁/共40頁第二頁，共40頁。xxGT1exTG: Go

2、ogle Matrix, “the worlds largest matrix computation”. 4,300,000,000 x: PageRank（網(wǎng)頁級(jí)別）（網(wǎng)頁級(jí)別） vector “The $25,000,000,000 Eigenvector”搜索引搜索引擎擎第2頁/共40頁第三頁，共40頁。 設(shè)設(shè)A是是n階矩陣階矩陣, x是非零列向量是非零列向量. 如果有數(shù)如果有數(shù)存在存在(cnzi), 滿足滿足Ax=x , 那么那么, 稱稱x是矩陣是矩陣A關(guān)關(guān)于特征于特征值值的特征向量的特征向量. 1 特征值與特征向量特征值與特征向量 /*Eigenvalue and eigenvec

3、tor*/如果如果(rgu)(rgu)把右端寫為把右端寫為IxIx，那么又可寫為，那么又可寫為: : (I-A)x=0 (I-A)x=0即即 |I-A| =0 |I-A| =0 0111|)(aaaAIfnnn記記它是關(guān)于參數(shù)它是關(guān)于參數(shù)的的n次多項(xiàng)式，稱為矩陣次多項(xiàng)式，稱為矩陣(j zhn)A的特征多項(xiàng)式，的特征多項(xiàng)式， 其中其中a0=(-1)n|A|. 齊次線性齊次線性方程組方程組定義定義1第3頁/共40頁第四頁，共40頁。顯然顯然, 當(dāng)當(dāng)是是A的一個(gè)特征值時(shí)的一個(gè)特征值時(shí), 它必然是它必然是f()=0 的根的根. 反之反之, 如果如果是是f()=0的根的根, 那么那么(n me)齊齊次方

4、程組次方程組(I-A)x=0有非零解向量有非零解向量x, 使使Ax=x成立成立. 從而，從而，是是A的一個(gè)特征值的一個(gè)特征值.矩陣特征值和特征向量有如下矩陣特征值和特征向量有如下(rxi)主要主要性質(zhì)：性質(zhì)： n階矩陣階矩陣A是降秩矩陣的充分必要條件是是降秩矩陣的充分必要條件是A有零有零 特征值特征值. 設(shè)矩陣設(shè)矩陣A與矩陣與矩陣B相似，那么它們有相同的特相似，那么它們有相同的特 征值征值. n階矩陣階矩陣A與與AT有相同的特征值有相同的特征值. 設(shè)設(shè)ij是是n階矩陣階矩陣A的兩個(gè)互異特征值，的兩個(gè)互異特征值，x、 y分 別 是 其 相 應(yīng) 的 右 特 征 向 量 和 左 特 征 向分 別 是

5、 其 相 應(yīng) 的 右 特 征 向 量 和 左 特 征 向 量，那么，量，那么，xTy=0 . 定理定理1定理定理2定理定理3定理定理4第4頁/共40頁第五頁，共40頁。2 Hermite矩陣矩陣(j zhn)特征特征值問題值問題設(shè)設(shè)A為為n階矩陣，其共軛轉(zhuǎn)置矩陣記為階矩陣，其共軛轉(zhuǎn)置矩陣記為AH. 如果如果(rgu)A = A H ， 那 么 ， 那 么 ， A 稱 為稱 為 H e r m i t e 矩 陣矩 陣一、一、Hermite矩陣矩陣(j zhn)的的有關(guān)性質(zhì)有關(guān)性質(zhì)設(shè)設(shè) 是是Hermite矩陣矩陣A的的n個(gè)特征值個(gè)特征值.有以下性質(zhì)有以下性質(zhì):n,21全是實(shí)數(shù)全是實(shí)數(shù).n,21有

6、相應(yīng)的有相應(yīng)的n個(gè)線性無關(guān)的特征向量，它們可以化個(gè)線性無關(guān)的特征向量，它們可以化為一組標(biāo)準(zhǔn)酉交的特征向量組為一組標(biāo)準(zhǔn)酉交的特征向量組 ,即即nuuu,21ijjHiuu第5頁/共40頁第六頁，共40頁。 是酉空間中的一組標(biāo)準(zhǔn)酉交基是酉空間中的一組標(biāo)準(zhǔn)酉交基. nuuu,21記記U=( ),它是一個(gè)酉陣，即它是一個(gè)酉陣，即UHU=UUH=I，那么，那么nuuu,21DAUUnH1即即A與以與以 為對(duì)角元的對(duì)角陣相似為對(duì)角元的對(duì)角陣相似n,21A為正定矩陣的充分必要條件是為正定矩陣的充分必要條件是 全全為為正數(shù)正數(shù).n,21第6頁/共40頁第七頁，共40頁。 設(shè)設(shè) 是是Hermite矩陣矩陣A的的

7、n個(gè)特征值個(gè)特征值， 那么那么n,212222)()()(AAAAAH因此因此inimaxA12niiHFAtrAAtrA1222)()(又由又由inimaxA12niiFA12得得niiFA12定理定理(dngl)5證明證明(zhngmng)第7頁/共40頁第八頁，共40頁。 如果如果A的的n個(gè)特征值為個(gè)特征值為 其相其相應(yīng)的標(biāo)準(zhǔn)酉交的特征向量為應(yīng)的標(biāo)準(zhǔn)酉交的特征向量為 那么有那么有 12.n12,.,nu uu 設(shè)設(shè)A是是Hermite矩陣矩陣(j zhn) ，那么那么設(shè)設(shè)x是一個(gè)非零向量是一個(gè)非零向量, A是是Hermite矩陣矩陣, 稱稱 為矩陣為矩陣A關(guān)于向量關(guān)于向量x的的Rayle

8、igh商，記為商，記為R(x).xxAxxHHnxR)(1)(min0,xRxkCxk)(min0,1xRxknCxk或或定理定理(dngl)6定理定理(dngl)7第8頁/共40頁第九頁，共40頁。二、極值二、極值(j zh)定理定理 (極值定理極值定理) 設(shè)設(shè)Hermite矩陣的矩陣的n個(gè)特征值為個(gè)特征值為 ，其相應(yīng)的標(biāo)準(zhǔn)酉交特征向量，其相應(yīng)的標(biāo)準(zhǔn)酉交特征向量為為n21nuuu,21用用Ck表示表示(biosh)酉空間酉空間Cn中任意的中任意的k維子空維子空間，那么間，那么)(0,xRminmaxxkCxkCk)(0,11xRmaxminxknCxknCk或或定理定理(dngl)8第9頁/

9、共40頁第十頁，共40頁。三、三、Hermite矩陣矩陣(j zhn)特征值問題的特征值問題的性態(tài)性態(tài)矩陣特征值問題與求解線性方程組問題一樣，都矩陣特征值問題與求解線性方程組問題一樣，都存在當(dāng)矩陣存在當(dāng)矩陣A的原始數(shù)據(jù)有小變化的原始數(shù)據(jù)有小變化(binhu)(小擾小擾動(dòng)動(dòng))時(shí)，時(shí)，引起特征值問題的變化引起特征值問題的變化(binhu)有大有小的問題有大有小的問題，如果引，如果引起的變化起的變化(binhu)小，稱小，稱 該特征值問題是良態(tài)的該特征值問題是良態(tài)的. 反之，反之，稱為病態(tài)的稱為病態(tài)的.第10頁/共40頁第十一頁，共40頁。 (擾動(dòng)定理擾動(dòng)定理 ) 設(shè)矩陣設(shè)矩陣A, E, A+E都是

10、都是n階階Hermite矩陣，其特征值分別為矩陣，其特征值分別為 , , , 那么那么,1iniin21n21n21 設(shè)矩陣設(shè)矩陣A關(guān)于特征值關(guān)于特征值1,2,n 的標(biāo)準(zhǔn)酉交的標(biāo)準(zhǔn)酉交 特征向量為特征向量為u1, u2, , un， 是由是由ui, ui+1, , un 生成的生成的n-i+1維子空間維子空間.1inC對(duì)對(duì) 中任意非零向量中任意非零向量x,由極值定理由極值定理,有有1inCxxxEAxmaxHHxinCxi)(0, 1xxExxmaxxxAxxmaxHHxinCxHHxinCx0, 10, 1定理定理(dngl)9證明證明(zhngmng)第11頁/共40頁第十二頁，共40頁。

11、10maxn iHiHx Cxx Axx x 且由定理由定理110maxn iHnHx Cxx Exx x 且又由定理，對(duì)任意又由定理，對(duì)任意x0，有，有1ii從而有從而有另一方面另一方面, A=(A+E)- -E. 1in i 那么，那么，1ii重復(fù)上面的過程重復(fù)上面的過程,可得可得iin從而有從而有12n為矩陣為矩陣- -E的特征值的特征值記記，第12頁/共40頁第十三頁，共40頁。 設(shè)矩陣設(shè)矩陣A和和A=A+E都是都是n階階Hermite矩矩 陣，陣，其其特征值分別為特征值分別為 和和 ，那么那么 12n12n222iiEE定理定理(dngl)10第13頁/共40頁第十四頁，共40頁。

12、3 乘冪乘冪(chn m)法法設(shè)設(shè)A是是n階矩陣階矩陣(j zhn), 其其n個(gè)特征值按模從大個(gè)特征值按模從大到小排序?yàn)榈叫∨判驗(yàn)閨21n又假設(shè)關(guān)于又假設(shè)關(guān)于1, 2, , n的特征向量的特征向量v1, v2, ,vn線性無關(guān)線性無關(guān)一、乘冪法一、乘冪法第14頁/共40頁第十五頁，共40頁。建立建立(jinl)(jinl)迭代公式迭代公式 ：)0(122110avavavaxnn1kkAxxnnAvaAvaAvaAxx221101nnnvavava222111nnnvavavaxAAxx2222212110212nknnkkkkkvavavaxAAxx22211101nknnkkvavava)

13、()(12122111第15頁/共40頁第十六頁，共40頁。因此因此(ync)，xk可看成是關(guān)于特征值可看成是關(guān)于特征值1的近似特征向量的近似特征向量 有一嚴(yán)重有一嚴(yán)重(ynzhng)缺點(diǎn)，當(dāng)缺點(diǎn)，當(dāng)|1|1 （或（或| 1 |0時(shí)時(shí)1|11kk|1111vbvbzk第17頁/共40頁第十八頁，共40頁。按模最大特征值按模最大特征值1及其相應(yīng)及其相應(yīng)(xingyng)的特征向量的特征向量v1的乘冪法的計(jì)算公式：的乘冪法的計(jì)算公式： 當(dāng)當(dāng) 10時(shí)時(shí)1|11kk|1111vbvbzkkkkxxzkkAzx1, 2 , 1 , 0kkTkkTkkTkkTkkzzAzzzzxz111若若1為為A的實(shí)重

14、根的實(shí)重根, 冪法仍然冪法仍然(rngrn)有效有效. 第18頁/共40頁第十九頁，共40頁。試用試用(shyng)冪法求按模最大的特征值和相應(yīng)冪法求按模最大的特征值和相應(yīng)的特征向量的特征向量 3 1- 2-1- 4 3 2- 3 7 A例例1第19頁/共40頁第二十頁，共40頁。二、加速二、加速(ji (ji s)s)方法方法冪法計(jì)算冪法計(jì)算A的特征值的特征值1的收斂的收斂(shulin)速度主速度主要由要由 決定決定有特征值有特征值1-p, 2-p, , n-p21pIAB選擇選擇p使使1-p仍為仍為B的主特征值的主特征值,且滿足且滿足2121pp第20頁/共40頁第二十一頁，共40頁。4

15、 反冪法反冪法 反冪法可以求一個(gè)反冪法可以求一個(gè)(y )非奇異矩陣非奇異矩陣A的逆矩陣的逆矩陣A-1的按的按模最小的特征值及相應(yīng)的特征向量，又可以求模最小的特征值及相應(yīng)的特征向量，又可以求A的 某 個(gè) 近 似 特 征 值 相 應(yīng) 的 特 征 向 量的 某 個(gè) 近 似 特 征 值 相 應(yīng) 的 特 征 向 量 .kkkxxzkkzLUx1kTkkTkkzzxz1)1(, 2 , 1 , 0kkkzAx11若若A非奇異非奇異(qy), 且且Ax=x, 則則A-1x= -1x因此因此,求求A按模最小特征值就是求按模最小特征值就是求A-1按模最大特征值按模最大特征值第21頁/共40頁第二十二頁，共40頁

16、。一、一、ii的近似的近似(jn (jn s)s)求法求法kkkxxzkkzLy kkyUx1, 2 , 1 , 0k若若A有特征值有特征值i, i有近似值有近似值:ikTkkTkkzzxz1)1(先對(duì)矩陣先對(duì)矩陣 進(jìn)行進(jìn)行LU分解分解IAi記記LUIAi第22頁/共40頁第二十三頁，共40頁。二、半迭代法二、半迭代法一種選取特殊一種選取特殊(tsh)的初始向量的初始向量x0的反的反冪法冪法選取初始選取初始(ch sh)向量向量x0滿足滿足x0=1，這時(shí)，這時(shí)z0=x0對(duì)照上頁中的第二個(gè)式子對(duì)照上頁中的第二個(gè)式子.可把可把z0看成滿足看成滿足Le=z0這里，這里，e=(1,1,1)T, 而而z

17、0的各個(gè)分量的取值多少的各個(gè)分量的取值多少是無關(guān)重要的是無關(guān)重要的這樣這樣, 在第一個(gè)迭代步的計(jì)算中在第一個(gè)迭代步的計(jì)算中, 只需求解上頁中只需求解上頁中的上三角方程組的上三角方程組Ux1=e.假設(shè)假設(shè)IAi第23頁/共40頁第二十四頁，共40頁。1526315728. 0392156862. 001588235294. 000122280702. 000176470588. 0335294118. 00231 . 51 . 11211 . 23231 . 59 . 1 IAB例例2試用試用(shyng)反冪法求矩陣反冪法求矩陣A最接近于最接近于 的特征的特征值和相應(yīng)的特征向量值和相應(yīng)的特征向

18、量9 . 1s取取 Ty) 1 , 1 , 1 (0作半迭代作半迭代(di di)，計(jì)算結(jié)果如，計(jì)算結(jié)果如表表 第24頁/共40頁第二十五頁，共40頁。00178927. 219 . 16sTzx) 1 ,999152823. 0,999486949. 0()6(1由于由于A是對(duì)稱是對(duì)稱(duchn)矩陣，做一次矩陣，做一次Rayleigh商加速商加速 000000047. 2),(),()6()6()6()6(vvvAvs與精確值與精確值s=2相比相比(xin b)，這次加速有較好效，這次加速有較好效果果 第25頁/共40頁第二十六頁，共40頁。 5 Jacobi方方法法(fngf)第26頁

19、/共40頁第二十七頁，共40頁。22111112222212212211122222111222cos2sincossin()sincos(cossin)sin2sincoscosbaaabbaaabaaa一、平面旋轉(zhuǎn)一、平面旋轉(zhuǎn)(xunzhun)(xunzhun)矩矩陣與相似約化陣與相似約化先看一個(gè)先看一個(gè)(y (y )簡單簡單的例子的例子. . 設(shè)設(shè) 是二階實(shí)對(duì)稱矩陣是二階實(shí)對(duì)稱矩陣, 即即a21=a12, 其特其特征值為征值為1, 2.22211211aaaaA22211211bbbbARRBT21ARRT容易容易(rngy)驗(yàn)證驗(yàn)證BT=B, 且且cossinsincosR令令使得使得

20、第27頁/共40頁第二十八頁，共40頁。當(dāng)當(dāng) 時(shí)時(shí)1122aa12112221arctan2aaa為使為使RTAR為對(duì)角為對(duì)角(du jio)陣，要求陣，要求b12=b21=0解之得解之得:當(dāng)當(dāng) 時(shí)時(shí)1122aa4可選取可選取qqpppqaaa2arctan214|第28頁/共40頁第二十九頁，共40頁。二、經(jīng)典二、經(jīng)典(jngdin)的的Jacobi方法方法設(shè)設(shè)A是實(shí)對(duì)稱是實(shí)對(duì)稱(duchn)矩陣，記矩陣，記A1=A.Jacobi方法的基本思想是用迭代格式方法的基本思想是用迭代格式Ak+1=QTkAkQk , k=1,2,第29頁/共40頁第三十頁，共40頁。(1)2(1)2( )2( )2

21、()()()()kkkkipiqipiqaaaa( )()kkiikAdiag aE記記其中其中Ek是是Ak除主對(duì)角元除主對(duì)角元外的矩陣外的矩陣.由平面旋轉(zhuǎn)矩陣的性質(zhì)由平面旋轉(zhuǎn)矩陣的性質(zhì) 中中,對(duì)對(duì)于于 1TkpqkpqAR A R,ip q, 有有22( )212()kkkpqFFEEa因此因此,定理定理(dngl)11第30頁/共40頁第三十一頁，共40頁。又由假設(shè)又由假設(shè)(jish),22( )(1)kkpqFEn na因此因此,222112222(1)(1)kkkFFFEEEnnnn這樣這樣,便有便有1,0kFkE從而從而,當(dāng)當(dāng)|max|)(,1)(kijjinjikpqaa2)(,

22、1,2)(| ) 1(|kpqnjijikpqanna第31頁/共40頁第三十二頁，共40頁。循環(huán)循環(huán)Jacobi方法必須一次又一次掃描方法必須一次又一次掃描, 才能使才能使Ak收斂收斂(shulin)于對(duì)角陣于對(duì)角陣 ，計(jì)算量很大，計(jì)算量很大. 在實(shí)際計(jì)算在實(shí)際計(jì)算中，往中，往往用一些特殊方法來控制掃描次數(shù)往用一些特殊方法來控制掃描次數(shù), 減少計(jì)算量減少計(jì)算量. 減少閾值的方法通常是先固定一個(gè)正整數(shù)減少閾值的方法通常是先固定一個(gè)正整數(shù)Mn，掃描一，掃描一次后，讓次后，讓 . 而閾值的下界是根據(jù)實(shí)際問題的精而閾值的下界是根據(jù)實(shí)際問題的精度度要求選定的要求選定的.M三、實(shí)用三、實(shí)用(shyng)

23、的的Jacobi方法方法下面介下面介 紹一種應(yīng)用最為廣泛紹一種應(yīng)用最為廣泛(gungfn)的特殊循環(huán)的特殊循環(huán)Jacobi方法方法閾閾Jacobi方法方法.閾閾Jacobi方法首先確定一個(gè)閾值方法首先確定一個(gè)閾值，在對(duì)非對(duì)角元零化的，在對(duì)非對(duì)角元零化的一次掃描中，只對(duì)其中絕對(duì)值一次掃描中，只對(duì)其中絕對(duì)值 超過閾值的非對(duì)角元進(jìn)行超過閾值的非對(duì)角元進(jìn)行零化零化. 當(dāng)所有非對(duì)角元素的絕對(duì)值都不超過閾值后，將閾當(dāng)所有非對(duì)角元素的絕對(duì)值都不超過閾值后，將閾值減少，值減少， 再重復(fù)下一輪掃描，直至閾值充分小為止再重復(fù)下一輪掃描，直至閾值充分小為止.第32頁/共40頁第三十三頁，共40頁。四、用四、用Jac

24、obi方法方法(fngf)計(jì)算計(jì)算特征向量特征向量假定經(jīng)過假定經(jīng)過k次迭代得到次迭代得到Ak+1=RTkRT1AR1Rk，這時(shí)這時(shí)Ak+1是滿足精度要求的一個(gè)是滿足精度要求的一個(gè)(y )近似的對(duì)近似的對(duì)角陣角陣. 記記 Qk=R1R2Rk=Qk-1Rk，則，則，Qk是一個(gè)正交矩陣，是一個(gè)正交矩陣，Ak+1=QTkAQk.在實(shí)際計(jì)算中，把在實(shí)際計(jì)算中，把Qk看成是看成是Qk-1右乘一個(gè)平面旋右乘一個(gè)平面旋轉(zhuǎn)矩陣得到轉(zhuǎn)矩陣得到. 不妨記不妨記 Q0=I，Qk的元素按下式計(jì)算：的元素按下式計(jì)算：kkiqkkipkipqqqsincos)1()1()(kkiqkkipkikqqqcossin)1()1

25、()(qpjqqkijkij,)1()(ni, 2 , 1第33頁/共40頁第三十四頁，共40頁。6 對(duì)分法對(duì)分法第34頁/共40頁第三十五頁，共40頁。一、相似一、相似(xin s)約化為實(shí)對(duì)稱三對(duì)約化為實(shí)對(duì)稱三對(duì)角矩陣角矩陣將一個(gè)將一個(gè)(y )(y )實(shí)對(duì)稱矩陣正交相似約化為一個(gè)實(shí)對(duì)稱矩陣正交相似約化為一個(gè)(y (y )實(shí)對(duì)稱三實(shí)對(duì)稱三對(duì)角矩陣的算法，可歸納如下：對(duì)角矩陣的算法，可歸納如下：記記A(1)=A,對(duì)對(duì)k=1,2,n-2nkikikkkkkaasign12)()(, 1)()()()(,2)(, 1knkkkkkkkkkaaau)()(, 1kkkkkkakkkkuAg)(1kTkkkgu1kkkkugy21)()()1(TkkTkkkkuyyuAA第35頁/共40頁第三十六頁，共40頁。二、二、Sturm序列序列(xli)的性質(zhì)的性質(zhì)設(shè)實(shí)對(duì)稱三對(duì)角矩陣為設(shè)實(shí)對(duì)稱三對(duì)角矩陣為nnT122111其中其中(qzhng)i0 (i=1,2,n-1)iiip122111)(多項(xiàng)式序列多項(xiàng)式序列(xli)pi() (i=0,1,n)稱為稱為Sturm序序列列(xli) 記記T-I的第的第i階主子式為階主子式為: 其特征矩陣為其特征矩陣為T-I.定義定義2令令p0()1，p1()=1-，pi()=(i -)pi-1