矩陣特征值與特征向量的計(jì)算

1、.薅羂莄蒅襖羂肄蟻螀羈膆蒄蚆肀艿蠆薂聿莁蒂袁肈肁芅袇肇芃薀螃肆蒞莃蠆肆肅蕿薅肅膇莁袃肄芀薇蝿膃莂莀蚅膂肂薅薁膁芄莈羀膀莆蚃袆膀蒈蒆螂腿膈螞蚈螅芀蒄薄螄莃蝕袂袃肂蒃螈袃膅蚈蚄袂莇蒁蝕袁葿莄罿袀腿蕿裊衿芁莂螁袈莄薈蚇袇肅莀薃羇膆薆袁羆羋荿螇羅蒀薄螃羄膀蕆蠆羃節(jié)蚃薅羂莄蒅襖羂肄蟻螀羈膆蒄蚆肀艿蠆薂聿莁蒂袁肈肁芅袇肇芃薀螃肆蒞莃蠆肆肅蕿薅肅膇莁袃肄芀薇蝿膃莂莀蚅膂肂薅薁膁芄莈羀膀莆蚃袆膀蒈蒆螂腿膈螞蚈螅芀蒄薄螄莃蝕袂袃肂蒃螈袃膅蚈蚄袂莇蒁蝕袁葿莄罿袀腿蕿裊衿芁莂螁袈莄薈蚇袇肅莀薃羇膆薆袁羆羋荿螇羅蒀薄螃羄膀蕆蠆羃節(jié)蚃薅羂莄蒅襖羂肄蟻螀羈膆蒄蚆肀艿蠆薂聿莁蒂袁肈肁芅袇肇芃薀螃肆蒞莃蠆肆肅蕿薅肅膇莁袃肄芀

2、薇蝿膃莂莀蚅膂肂薅薁膁芄莈羀膀莆蚃袆膀蒈蒆螂腿膈螞蚈螅芀蒄薄螄莃蝕袂袃肂蒃螈袃膅蚈蚄袂莇蒁蝕袁葿莄罿袀腿蕿裊衿芁莂螁袈莄薈蚇袇肅莀薃羇膆薆袁羆羋荿螇羅蒀薄螃羄膀蕆蠆羃節(jié)蚃薅羂莄蒅襖羂肄蟻螀羈膆蒄蚆肀艿蠆薂聿莁蒂袁肈肁芅袇肇芃薀螃肆蒞莃蠆肆肅 第3章 矩陣特征值與特征向量的計(jì)算一些工程技術(shù)問(wèn)題需要用數(shù)值方法求得矩陣的全部或部分特征值及相關(guān)的特征向量。3.1 特征值的估計(jì)較粗估計(jì)r(A) £ |A|欲將復(fù)平面上的特征值一個(gè)個(gè)用圓盤圍起來(lái)。3.1.1 蓋氏圖定義3.1-1 設(shè)A = aijn´n，稱由不等式所確定的復(fù)區(qū)域?yàn)锳的第i個(gè)蓋氏圖，記為Gi，i = 1，2，n。定理3.1

3、-1 若l為A的特征值，則證明：設(shè)Ax = lx (x ¹ 0)，若k使得因?yàn)?#222;ÞÞ例1 估計(jì)方陣特征值的范圍解：G1 = z：|z 1|£ 0.6；G2 = z：|z 3|£ 0.8；G3 = z：|z + 1|£ 1.8；G4 = z：|z + 4|£ 0.6。G1G2G3G4注：定理稱A的n個(gè)特征值全落在n個(gè)蓋氏圓上，但未說(shuō)明每個(gè)圓盤內(nèi)都有一個(gè)特征值。3.1.2 蓋氏圓的連通部分稱相交蓋氏圓之并構(gòu)成的連通部分為連通部分。孤立的蓋氏圓本身也為一個(gè)連通部分。定理3.1-2 若由A的k個(gè)蓋氏圓組成的連通部分，含且僅

4、含A的k個(gè)特征值。證明: 令D = diag(a11，a12，ann)，M = A D，記則顯然有A(1) = A，A(0) = D，易知A(e)的特征多項(xiàng)式的系數(shù)是e的多項(xiàng)式，從而A(e)的特征值l1(e)，l2(e)，ln(e)為e的連續(xù)函數(shù)。A(e)的蓋氏圓為：因?yàn)锳(0) = D的n個(gè)特征值a11，a12，ann，恰為A的蓋氏圓圓心，當(dāng)e由0增大到1時(shí)，li(e)畫出一條以li(0) = aii為始點(diǎn)，li(1) = li為終點(diǎn)的連續(xù)曲線，且始終不會(huì)越過(guò)Gi；aiili 不失一般性，設(shè)A開(kāi)頭的k個(gè)圓盤是連通的，其并集為S，它與后n k個(gè)圓盤嚴(yán)格分離，顯然，A(e)的前k個(gè)蓋氏圓盤與后n

5、 k個(gè)圓盤嚴(yán)格分離。 當(dāng)e = 0時(shí)，A(0) = D的前k個(gè)特征值剛好落在前k個(gè)圓盤G1，Gk中，而另n k個(gè)特征值則在區(qū)域S之外，e從0變到1時(shí)，與始終分離（嚴(yán)格）。連續(xù)曲線始終在S中，所以S中有且僅有A的k個(gè)特征值。注：1) 每個(gè)孤立圓中恰有一個(gè)特征值。2) 例1中G2，G4為僅由一個(gè)蓋氏圓構(gòu)成的連通部分，故它們各有一個(gè)特征值，而G1，G3構(gòu)成的連通部分應(yīng)含有兩個(gè)特征值。3) 因?yàn)槔?中A為實(shí)方陣，所以若l為A的特征值，則也是A的特征值，所以G2，G4中各有一個(gè)實(shí)特征值。3.1.3 蓋氏圓與相似變換由于特征值是相似不變量，所以代數(shù)上常用相似變換將矩陣化簡(jiǎn)以得到特征向量，這里也可用相似變換

6、將蓋氏圓的半徑變小，以得到更好的估計(jì)。原理：取對(duì)角陣作相似變換陣：P = diag(b1，b2，bn)其中bi > 0，i = 1，2，n則與A有相同特征值.而B的第i個(gè)蓋氏圓為：， 適當(dāng)選取b1，b2，bn就有可能使B的某些蓋氏圓的半徑比A的相應(yīng)蓋氏圓的半徑小。1) 欲縮小Gi，可取bi最大。2) 欲縮小除Gi外的圓，可取bi最小。例2，估計(jì)的特征值范圍。解：A的三個(gè)蓋氏圓分別為：G1 = z：| z 0.9|£ 0.13；G2 = z：| z 0.8|£ 0.14；G3 = z：| z 0.4|£ 0.03l3 Î G3，較好。為了更好地估計(jì)另

7、外兩個(gè)特征值可取b3最?。喝1 = b2 = 1，b3 = 0.1即，則所以G1' = z：| z 0.9|£ 0.022；G2' = z：| z 0.8|£ 0.023；G3' = z：| z 0.4|£ 0.3三個(gè)蓋氏圓分離，故有l(wèi)1 Î G1'，l2 Î G2'，l3 Î G3。3.2 冪法與反冪法冪法是求方陣的最大特征值及對(duì)應(yīng)特征向量的一種迭代法。3.2.1 冪法設(shè)An有n個(gè)線性相關(guān)的特征向量v1，v2，vn，對(duì)應(yīng)的特征值l1，l2，ln，滿足|l1| > |l2| ³

8、 ³ |ln| (3.2.1)1. 基本思想因?yàn)関1，v2，vn為Cn的一組基，所以任給x(0) ¹ 0， 線性表示所以有 (3.2-2)若a1 ¹ 0，則因知，當(dāng)k充分大時(shí) A(k)x(0) » l1ka1v1 = cv1 屬l1的特征向量另一方面，記max(x) = xi，其中|xi| = |x|¥，則當(dāng)k充分大時(shí)，若a1 = 0，則因舍入誤差的影響，會(huì)有某次迭代向量在v1方向上的分量不為0，迭代下去可求得l1及對(duì)應(yīng)特征向量的近似值。2. 規(guī)范化在實(shí)際計(jì)算中，若|l1| > 1則|l1ka1| ®¥，若|l1| &

9、lt; 1則| l1ka1| ® 0都將停機(jī)。須采用“規(guī)范化”的方法， k = 0，1，2， (3.2-4)定理3.2-1 任給初始向量有， (3.2-5)證明：而注：若的特征值不滿足條件(3.2.1)，冪法收斂性的分析較復(fù)雜，但若l1 = l2 = = l r且|l1| > |l r +1| ³ ³ |ln|則定理結(jié)論仍成立。此時(shí)不同初始向量的迭代向量序列一般趨向于l1的不同特征向量。3. 算法求maxa(x)的流程，設(shè)數(shù)組x(n)數(shù)向量x的n個(gè)分量數(shù)組x = nk = 1for(i = 2 to n, i+)若|xi| > |xk|Tk = ima

10、x = xk冪法流程：輸入數(shù)組x0, eps, Ax1 = x0y = x1/maxa(x1)x0 = Ay|maxa(x1) maxa(x0)| < eps輸出y, maxa(x0)例1，用冪法求的最大模特征值及對(duì)應(yīng)特征向量見(jiàn)P312function y = maxa(x)k=1;n=length(x);for i=2:n if (abs(x(i)>abs(x(k),k=i; end;end;y=x(k);A=2,4,6;3,9,15;4,16,36;x0=1;1;1;y=x0/maxa(x0)x1=A*ywhile(abs(maxa(x1)-maxa(x0)>0.001

11、x0=x1; y=x0/maxa(x0) x1=A*yend;ymaxa(x1)3.2.2 加速方法冪法的迭代公式：當(dāng)k ®¥時(shí)，max(x(k) ® l1，其中|l1| > |l2| ³ ³ |ln|注：冪法的收斂速度取決于比值|l2| / |l1|，考慮收斂加速1. 特征值的Aitken加速法(1) 思想：由定理3.2.1的證明知Þ(3.2.6)解之得 (3.2.7)使用l1(k+2)作為l1的近似值的算法稱為Aitken加速法。(2) Aitken加速法設(shè)xk線性收斂到x*，即存在c，|c| < 1，滿足xk+1 x

12、* = (c dk)( xk x*)，其中令則算法：計(jì)算流程圖輸入x0計(jì)算max(x0)，y0 = x0/max(x0)計(jì)算x1=A y0，max(x1)，y1= x1/max(x1)x2 = A y1，l1 = l0計(jì)算max(x2)y2= x2/max(x2)l0=max(x2)-max(x2)-max(x1)2/max(x2)-2max(x1)+max(x0)x0 = x1，x1 = x2|l1 - l0| > eps輸出l0例2 用冪法求方陣A的最大模特征值，并用Aitkem加速法解：見(jiàn)（P314）x0=1;1;1;y0=x0/maxa(x0)x1=A*y0;y1=x1/maxa

13、(x1)x2=A*y1;y2=x2/maxa(x2)l0=maxa(x2)-(maxa(x2)-maxa(x1)2/(maxa(x2)-2*maxa(x1)+maxa(x0)while (abs(l1-l0)>0.01 x0=x1;x1=x2;l1=l0; x2=A*y2 maxk=maxa(x2) y2=x2/maxk l0=maxa(x2)-(maxa(x2)-maxa(x1)2/(maxa(x2)-2*maxa(x1)+maxa(x0)end;2. 原點(diǎn)平移法思想：由矩陣論知，若l為A的特征值則l a為A aI的特征值，且特征向量相同。若l1 a為A aI的最大模特征值，且。（lk

14、 a是A aI的次最大模特征值），則對(duì)A aI計(jì)算l1 a及對(duì)應(yīng)的特征向量比對(duì)計(jì)算收斂得快，此即為原點(diǎn)平移法。計(jì)算l1 a及特征向量的迭代公式特征向量：，max(x(k) ® l1 a，Þ a + max(x(k) ® l1。注：a的選取較為困難。例3 設(shè)，求最大模特征值及特征向量。解：（P315）冪法：A=-3,1,0;1,-3,-3;0,-3,4;x0=0;0;1;k=1;y=x0/maxa(x0)x1=A*ywhile(abs(maxa(x1)-maxa(x0)>0.001 x0=x1; y=x0/maxa(x0) k=k+1 x1=A*yend;ym

15、axa(x1)原點(diǎn)平移法：A=-3,1,0;1,-3,-3;0,-3,4;x0=0;0;1;k=1;y=x0/maxa(x0)x1=(A+4*eye(3)*ywhile(abs(maxa(x1)-maxa(x0)>0.001 x0=x1; y=x0/maxa(x0) k=k+1 x1=(A+4*eye(3)*yend;ymaxa(x1)-43. 對(duì)稱矩陣的Rayleigh商加速法定義 設(shè)A對(duì)稱，x ¹ 0，則稱為關(guān)于的Rayleigh商思想：A對(duì)稱特征值l1，l2，ln均為實(shí)數(shù)，且存在特征向量v1，v2，vn為標(biāo)準(zhǔn)正交基。設(shè)，a1 ¹ 0，則當(dāng)k充分大時(shí)，M'

16、與k無(wú)關(guān))注；此比Aitken加速中的(3.2-6)更快公式稱為Rayleigh商加速法。其中注：有了R(x(k)，R(x(k+1)，R(x(k+2)，的值，可再用Aitken加速法得到的一個(gè)更好的近似值：因?yàn)樗岳? 設(shè)，用Rayleigh商加速法求的最大模特征值及特征向量，并與冪法相比較。解：（P317）冪法：A=6,2,1;2,3,1;1,1,1;x0=1;1;1;k=1;y=x0/maxa(x0)x1=A*ywhile(abs(maxa(x1)-maxa(x0)>0.001 x0=x1; y=x0/maxa(x0) x1=A*y k=k+1end;ymaxa(x1)Rayleig

17、h商加速法：A=6,2,1;2,3,1;1,1,1;x0=1;1;1;k=1;r=0;y=x0/maxa(x0)x1=A*ywhile(abs(r1-r)>0.001 x0=x1;r1=r; y=x0/maxa(x0) x1=A*y r = y'*x1/(y'*y) k=k+1end;ymaxa(x1)r3.2.3 反冪法用代替作冪法，即反冪法1. 求最小模特征值及相應(yīng)的特征向量若可逆，|l1| > |l2| ³ ³ |ln|為其特征值，則為A-1的最大模特征值。迭代公式：x(k+1) = A1x(k)，k = 0，1，2，但A1不易求，通常可解

18、方程組Ax(k+1) = x(k)來(lái)求x(k+1)即有 (3.2.12)當(dāng)k ® ¥時(shí)有注：為解(3.2-12)中的方程組。對(duì)作LR分解（帶行交模）PA = LR則有2. 求任一特征值及相應(yīng)特征向量反冪法結(jié)合原點(diǎn)平移法思想：若已知為lj的近似值，則的特征值是而顯然非常大（最大）比值很小迭代公式：當(dāng)k ® ¥時(shí)有注：(1) 若有分LR解則迭代公式 (3.2-16)(2) 在(3.2-16)中直接取z(1) = (1，1)T作初值開(kāi)始迭代稱為半次迭代法例5 設(shè)的一個(gè)特征值的l的近似值，用帶原點(diǎn)平移的反冪法求l及相應(yīng)的特征向量見(jiàn)P320format long;

19、A=-1,2,1;2,-4,1;1,1,-6;x0=1;1;1;B=A+6.42*eye(3);C=lu(B);R = triu(C,0);L =eye(3)+ tril(C,-1);y=x0/maxa(x0);z=1,1,1'x1=inv(R)*zwhile(abs(maxa(x1)-maxa(x0)>0.001 x0=x1; y=x0/maxa(x0) z=inv(L)*y x1=inv(R)*zend;-6.42+1/maxa(x1)預(yù)備知識(shí)：矩陣論1. 矩陣QR分解定理 設(shè)可逆，則存在正交陣Q與上三角陣R使A=QR注：方法 1) 使用史密斯正交變換 2) 使用Househ

20、older變換（反） 3) 使Givens變換2. 矩陣Schur分解定理 設(shè)，則存在正交陣Q使實(shí)Schur型其中至多2階。若1階，其元素即A的特征值若2階其特征值為A的一對(duì)共軛復(fù)特征值。注：想加快迭代速度通常先將A化為上Hessenberg陣3. 正交相似于一個(gè)n階上Hessenberg矩陣（）證明：見(jiàn)（P125）§3.3 QR方法 QR方法即使用QR分解構(gòu)造迭代序列，是目前求一般矩陣全部特征值的最有效并廣泛使用的方法之一。3.3.1 QR方法的計(jì)算公式思想：從A1 = A出發(fā)用正交相似變換得序列Ak使當(dāng)k ® ¥時(shí)，Ak本質(zhì)收斂到塊上三角陣方法：設(shè)A1 = Q

21、1R1（QR分解），令A(yù)2 = R1Q1，設(shè)A2 = Q2R2，令A(yù)3 = R2Q2，即 k = 1，2， (3.3-1)Ak的性質(zhì)： Ak A：Ak+1 = RkQk = (Qk-1Ak)Qk= Rk = Qk-1Ak= (Q1Qk)-1A(Q1Qk)記Gk = Q1Qk 正交，故有Ak A，且有A1Gk = GkAk+1 記Hk = RkR1，則Ak = GkHkQR分解GkHk = (Q1Qk)(RkR1) = Gk-1QkRk Hk-1 = Gk-1AkHk-1= A1Gk-1Hk-1 = = A1k = Ak注：為求得A的特征值，只須Ak能趨于塊上三角陣。定義： 矩陣列Ak，當(dāng)k &

22、#174; ¥時(shí)，若其對(duì)角元均收斂，且嚴(yán)格下三角部分元素收斂到0，則稱Ak本質(zhì)收斂到上三角陣。 矩陣列Ak，當(dāng)k ® ¥時(shí)，若其對(duì)角子塊收斂到1階或2階的方陣，其下部收斂到0，則稱Ak本質(zhì)收斂到塊上三角陣。定理3.3-1設(shè)A的特征值滿足條件：|l1| > |l2| > > |ln| > 0，vi為li對(duì)應(yīng)的特征向量，i = 1，2，n。記X = (v1，v2，vn)，若有直接三角分解X-1 = LU（杜利特爾分解），則(3.3-1)序列Ak本質(zhì)收斂于上三角陣，其主對(duì)角元素均為的特征值。例1 用QR方法求的A特征值，其中見(jiàn)（P322）注：若A

23、不滿足定理?xiàng)l件，Ak不一定本質(zhì)收斂于上三角矩陣。3.3.2 上Hessenberg矩陣的QR方法及帶原點(diǎn)平移的QR方法 在使用QR方法之前，先A將作正交相似變換化為上Hessenberg矩陣H，然后對(duì)H作QR迭代，可大量節(jié)省運(yùn)算量。 Givens變換記s = sinq，c = cosq，則為旋轉(zhuǎn)變換正交陣。推廣到n維：稱為Givens矩陣或Givens變換（旋轉(zhuǎn)變換）。易知J(i，k，q)為正交陣。 對(duì)上Hessenberg矩陣用Givens變換作QR分解令hi+1,i* = si hii + ci hi+1,i = 0，即選擇qi使右邊第i+1行第i列元素為0，而H的第i行與第i+1行零元素位置上左乘J(i，i+1，qi)后仍為0，其他行則不變。（可以證明） 這樣i = 1，2，n-1共n-1次左乘J后H變?yōu)樯先顷嘡。即U定理 = R，其中UT= J(n-1，n，qn-1)J(1，2，q1)正交，且為下Hessenberg陣，Þ U為上Hessenberg陣 Þ H = UR (QR分解) 記H1 = H，設(shè)H1= U1R1 令H