矩陣分析 第五章

1、第五章 特征值的估計(jì)及對稱矩陣的極性本章主要討論數(shù)值代數(shù)中的三個(gè)特殊理論，即特征值的估計(jì)廣義特征值問題實(shí)對稱矩陣（一般是Hermite矩陣）特征值的極小極大原理，其次也涉及到一些特征值和奇異值的擾動(dòng)問題,最后簡要地介紹矩陣直積的一些性質(zhì)及其在線性矩陣方程求解方面的應(yīng)用。這幾方面的內(nèi)容，在矩陣的理論研究與實(shí)際應(yīng)用當(dāng)中都有著相當(dāng)重要的作用。5.1特征值的估計(jì)一、 特征值的界首先給出直接估計(jì)矩陣特征值模的上界的一些方法定理5.1 設(shè)A=(ars)Rnn,令M=表示A任一特征值，則的虛部Im()滿足不等式|Im(l)|A-AT|2 / 2|Im(l)|A-AT|1/2. 證明：設(shè)x+iy為對應(yīng)于的A的

2、特征向量，則 A(x+iy)=(a+bi)(x+iy)其中=a+bi.顯然x,y為實(shí)向量，且x,y為線性無關(guān)的 向量。經(jīng)整理A(x,y)=(x,y)B, 其中B=。從而(x,y)TA(x,y)=(x,y)T(x,y)B展開有=a+ b (求等式兩邊矩陣的對角元之和，可得a(xTx+yTy)=xTAx+yTAy (1)等式兩邊矩陣的左上角單元減去右下角單元可得：b(xTx+yTy)=xT(A-AT)y1).記B=A-AT,則 |xTBy|x|2 |B|2|y|2從而 |b|x|2 |B|2|y|2 /(|x|2)2 +(|y|2)2)利用ab/(a2+b2)1/2 可得 |b|B|2 /2.2)

3、.由于|xTBy|Bx|1 |y|B|1|x|1 |y|從而 |b|B|1 |x|1 |y| /(|x|2)2 +(|y|2)2)易證明 |x|1 |y| /(|x|2)2 +(|y|2)2)/2.(顯然，不妨假設(shè)(|x|2)2 +(|y|2)2=1,設(shè)|y|=t=cos(a), 則y必為t ej 的形式（為什么？），從而極值轉(zhuǎn)化為求解如下最大值問題：max |x|1, 滿足約束(|x|2)2=1-t2這樣有均值不等式|x|1|x|2= (1-t2)1/2,從而我們需要求解t(1-t2)1/2的最大值，設(shè)t=cos(a)可得t(1-t2)1/2的最大值為1/2. 從而得證。)因此 |b|B|1

4、/2.3). 由于bii=0, i =1,2,n, bij= -bji, 因此 |xTBy|2=|2(2M)2(利用(a1+a2+an)2 n(a1)2+(a2)2+(an)2)(2M)2 (n(n-1)/2) (2M)2 (n(n-1)/2)=M2 (n(n-1)2 (xT x)(yTy)- (xT y)2利用 (xT x)(yTy)- (xT y)2(xT x)(yTy)可得|b|M (2n(n-1)1/2 (xT x)1/2(yTy)1/2 /(xTx+yTy)M (2n(n-1)1/2 / 2=M (n(n-1)/2)1/2 4). |xTBy|=| 而 (xT x)1/2(yTy)1

5、/2由此可以有|b|(1/2)思考題：對于(1)式，利用定理推導(dǎo)的類似技術(shù)，求出關(guān)于|a|的界。推論 實(shí)對稱矩陣的特征值都是實(shí)數(shù)。事實(shí)上，當(dāng)A這實(shí)對稱矩陣時(shí)，M=0.由定理5.1可得Im()=0,即為實(shí)數(shù)。引理1 設(shè)BCnn,列向量yCn滿足|y|2=1,則|yHBy|.定理5.2 設(shè)ACnn，則A的任一特征值滿足|A| (5.1.3) (5.1.4)推論: Hermite矩陣的特征值都是實(shí)數(shù);反Hermite矩陣的特征值為零或純虛數(shù)。事實(shí)上，當(dāng)A為Hermite矩陣時(shí)，由式（5.1.4）知Im()=0,即為實(shí)數(shù)；當(dāng)A為反Hermite矩陣時(shí)，由式（5.1.3）知Re()=0,即為為零或純虛數(shù)

6、。定義.5.1設(shè),則稱矩陣A按行(弱)對角占優(yōu)。定義5.2 設(shè)ACnn。如果AT按行嚴(yán)格對角占優(yōu)，則稱A按列嚴(yán)格對角占優(yōu)；如果AT按行（弱）對角占優(yōu)，則稱A按列（弱）對角占優(yōu)。對直接估計(jì)矩陣特征之乘積的模的界，再給出以下兩個(gè)方法。定理5.3 設(shè)A=(ars)Cnn,令Mr=|arr|+如果A按行嚴(yán)格對角占優(yōu)，則(5.1.5)且當(dāng)ars=0(sr)時(shí)，式(5.1.5)中等號成立。證明：由于A按對角占優(yōu)， 所以det(A)0.考慮方程組 因?yàn)锳按行對角占優(yōu)， 因此A1也按行對角占優(yōu)。從而A1可逆。上述線性方程組有唯一解x(1)=(x2, ,xn)T. 可以證明 |x k|=max |x2|, ,|

7、xn| 1,事實(shí)上，若|x k|=0 則顯然成立。若|x k|0， 我們有ak1+=0 (2 k n)則有 (2 k n)如果|x k| 1, 則可得 (2 k n)這和A對角占優(yōu)矛盾。因此|x k|=max |x2|, ,|xn| 1成立。利用分塊矩陣的性質(zhì)和x(1)的定義，我們有det(A)=det= det其中 b11=a11+, |xs |1 (s=2,n) 從而m1 |b11| M1, 其余類推可得01|(a1,ak)|2/(ak,ak)det(A1) （*）類似推導(dǎo)可以得到命題的證明。不等式的幾何意義在于: (a1,a1)-maxk1|(a1,ak)|2/(ak,ak) =|a1|

8、21- (maxk1|(a1,ak)|/(|ak|a1|) )2 = |a1|2sin2(a1ak)如下圖所示的多面體的體積應(yīng)該等于底面積乘以高,也就是底面積乘以向量h的長度。根據(jù)正弦函數(shù)的定義，h的長度等于a1和底面的投影OP夾角的正弦乘以a1的長度。由于正弦函數(shù)為在0,p/2內(nèi)為單調(diào)增加的，因此高h(yuǎn)的長度小于a1的長度乘以a1和底面的任何一條邊ak的夾角的正弦，即為角 a1OPa1Oak成立。從而我們的估計(jì)為a1q的長度，也就是|a1p| |a1q| a1 h p O q ak 定理5.5 （Schurs inequality） 設(shè)A=(ars)Cnn的特征值為l1，ln，則有 (5.1.

9、9)證明：根據(jù)定理1.43,存在酉矩陣U使得 A=UTUH其中T為上三角矩陣。因此T的對角元素為A的特征值，且有 =tr(THT)=tr(AHA).由于酉相似的矩陣有相同的跡。定義5.3 設(shè)A=（aij）Cnn,稱由不等式|z-aii|Ri (5.1.10)在復(fù)平面上確定的區(qū)域?yàn)榫仃嘇的第i個(gè)Gerschgorin圓（蓋爾圓）Gi的半徑（i=1,n）.定理5.6 （Gerschgorin theorem1）矩陣A=（aij）Cnn的一切特征值都在它的n個(gè)蓋爾圓的并集之內(nèi)。定理5.7 (Gerschgorin theorem2)由矩陣A的所有蓋爾圓組成的連通部分中有且僅有A的k個(gè)特征值(蓋爾圓相

10、重時(shí)重復(fù)計(jì)數(shù)，特征值相同時(shí)也重復(fù)計(jì)數(shù)).推論: 若將式(5.1.10)中的Ri改作 (5.1.13)則定理5.6與定理5.7的結(jié)論仍然成立。其中 ai為任意的正實(shí)數(shù)。利用推論，有時(shí)能夠得到更精確的特征值的包含區(qū)域。例5. 嚴(yán)格對角占優(yōu)矩陣非奇異。定理5.8 設(shè)不可約矩陣*A=(aij)nn有一個(gè)特征值l在其n個(gè)蓋爾圓|z-aii|Ri(I=1,n)并集的邊界上，則所有 n個(gè)圓周|z-aii|=Ri(I=1,n) (5.1.16)都通過點(diǎn)l。譜與范數(shù)的關(guān)系：r(A)|A|利用定理5.8,加強(qiáng)式(5.1.15) 的結(jié)果如下定理所述。定理5.9如果A=(aij)nn不可約,且存在i0使得則有 r(A

11、)Ri(A)Rj(A),則detA0.52 廣義特征值問題在振動(dòng)理論中，常常會(huì)碰到形式如下的特征值問題，求數(shù)l使方程Ax=lBx (5.2.1)有非零解x，這里A為n階對稱矩陣，B為n階實(shí)對稱正定矩陣x為n維列向量。當(dāng)B=I時(shí)，式(5.2.1)就成為普通的特征值問題，因此式(5.2.1)可以看作是對普通特征值問題的推廣。定義5.5 稱形如式(5.2.1)的特征值問題為矩陣A相對于矩陣B的廣義特征值問題，簡稱為廣義特征值問題；稱滿足式(5.2.1)要求的數(shù)l為矩陣A相對于矩陣B的特征值；而與l相對應(yīng)的非零解x稱之為屬于l的特征向量. (xi,Bxj)=dij定義5.6 滿足式(5.2.5) 向量

12、系x1,xn稱為按B標(biāo)準(zhǔn)正交化向量系；式（5.2.5）的第一式稱作B正交（共軛）條件，按B標(biāo)準(zhǔn)正交化向量x1,xn具有以下的性質(zhì)。性質(zhì)1 xi0(i =1,n)性質(zhì)2 x1,xn線性無關(guān)。5.3對稱矩陣特征值的極性在許多實(shí)際問題中，所產(chǎn)生的矩陣往往都具有對稱性。如用等距的差分格式求解調(diào)和方程的第一類邊值問題時(shí)所出現(xiàn)的矩陣，以及用有限元法求解某些結(jié)構(gòu)問題時(shí)所產(chǎn)生的剛度矩陣，一般都是對稱的，特別是，實(shí)對稱矩陣在理論研究與實(shí)際應(yīng)用當(dāng)中占有比較重要的地位。因此，本節(jié)將著重討論實(shí)對稱矩陣的一些性質(zhì)。一、 實(shí)對稱矩陣的Rayleigh商的極性先引入如下定義定義5.7 設(shè)A是n階實(shí)對稱矩陣，xRn。稱 （5

13、.3.1）為矩陣A的Rayleigh商。Rayleigh商（5.3.1）具有以下的特殊性。性質(zhì)1 R(x)是x的連續(xù)函數(shù)。在0點(diǎn)不連續(xù)。性質(zhì)2 R(x)是x的零次齊次函數(shù)。事實(shí)上，對任意的實(shí)數(shù)l0，有性質(zhì)3 xL(x0)(x00)時(shí)，R(x)是一常數(shù)。性質(zhì)4 R(x)的最大值和最小值存在，且能夠在單位球面S=x|xRn,|x|2=1上達(dá)到。補(bǔ)充性質(zhì)：(Toeplitz定理)設(shè)A為任意復(fù)數(shù)矩陣，定義S= z: z=xHAx, |x|=1, 則S為復(fù)平面上的閉凸集。定理5.16 設(shè)A為實(shí)對稱矩陣，則 (5.3.3)推論1 在|x|2=1上，p1和pn分別是R(x)的一個(gè)極小點(diǎn)和極大點(diǎn)，即有 R(p

14、1)=l1, R(pn)=ln (5.3.5)推論2 如果l1=lk（1kn）,則在|x|2=1上，R（x）的所有極小點(diǎn)為b1p1+bkpk其中biR(i=1,k),且滿足b21+b2k=1推論3. 設(shè)A為實(shí)對稱矩陣，l1l2ln,則對于任意的1 r n有其中Ir表示r階單位矩陣。定理5.17 設(shè)xL(pr,pr+1,ps),1rsn,則有 (5.3.7)定理5.18 （Courant-Fischer）設(shè)實(shí)對稱矩陣A的特征值按l1l2ln的次序排列，則A的第k個(gè)特征值其中Vk是Rn的任意一個(gè)k維子空間，1kn.證明：設(shè)A的特征值l1l2ln對應(yīng)的特征向量為p1,p2,pn .構(gòu)造Rn的子空間W

15、k=L(pk,pk+1,pn).顯然dim(Wk)=n-k+1.由于對任意的k維子空間Vk， 我們有Vk+WkRn所以ndim(Vk+Wk)= dim(Wk)+dim(Vk)- dim(VkWk)= n-k+1+k- dim(VkWk)從而 dim(VkWk) 1。因此對于任意的k維子空間Vk，存在 xVkWk， 即存在ck,ck+1,cn使得 x=ckpk+ck+1pk+1+cnpn 且|x|2=1.從而xTAx=lk.由于Vk的任意性，我們有為了證明相反不等式，令Vk= L(p1,p2,pk), 取x Vk,即存在c1,c2,ck使得x=c1p1+c2pk+1+ckpk 且 |x|2=1.

16、從而xTAx= lk.所以定理5.19 設(shè)實(shí)對稱矩陣A和A+Q的特征值分別為l1l2ln和m1m2mn,則有 |li-mi|Q|2 (i=1,n) (5.3.11)證明:由于|Q|+mi=(因?yàn)镼+|Q|I為半正定)=li同理可證得反向不等式。定理5.20 (Hoffman-Wielandt)設(shè)實(shí)對稱矩陣A，A+Q和Q的特征值分別是l1l2ln和m1m2mn,和g1g2，g n并定義向量u=(l1,ln)T,v=(m1,mn)T,w=(g1,，g n)T,則 |u-v|2|w|2.定理5.21 (Lidskii-Wielandt)在定理5.20的條件下，u落在形為v+Pw向量集的凸包（即包含該

17、向量的最小凸集）中，其中P取遍所有可能的排列矩陣。定義5.8 設(shè)A，B為n階實(shí)對稱矩陣，且B正定，xR n.稱R(x)=, x 0為矩陣A相對于矩陣B的廣義Rayleigh商。定理5.22 非零向量x0是R(x)的駐點(diǎn)的充要條件是x0為Ax=lBx的屬于特征值l的特征向量.推論: 若是 Ax=lBx的特征向量，則R()是與之對應(yīng)的特征值。定理5.23 設(shè)Vk為Rn的任意一個(gè)k維子空間，則廣義特征問題Ax=lBx的第k個(gè)特征值和第n-k+1個(gè)特征值具有下列的極小極大性質(zhì) (5.3.14) (5.3.15)證明:式(5.3.14)和式(5.3.15)等價(jià)的，僅需將A替換為-A.則可以立即得出結(jié)論。

18、我們僅需證明式(5.3.14)。設(shè)Ax=lBx的廣義特征值l1l2ln對應(yīng)的按B標(biāo)準(zhǔn)正交的特征向量系為p1,p2,pn .構(gòu)造Rn的子空間Wk=L(pk,pk+1,pn).顯然dim(Wk)=n-k+1.由于對任意的k維子空間Vk， 我們有Vk+WkRn所以ndim(Vk+Wk)= dim(Wk)+dim(Vk)- dim(VkWk)= n-k+1+k- dim(VkWk)從而 dim(VkWk) 1。因此對于任意的k維子空間Vk，存在 xVkWk， 即存在ck,ck+1,cn使得 x=ckpk+ck+1pk+1+cnpn 且x0.從而Ax=lkckBpk+lk+1ck+1Bpk+1+ln c

19、nBpn從而 xTAx=，xTBx=,因此R(x)= lk.由于Vk的任意性，我們有 為了證明相反不等式，令Vk= L(p1,p2,pk), 取x Vk,即存在c1,c2,ck使得x=c1p1+c2pk+1+ckpk 且 x0.從而R(x)= lk所以推論2 設(shè)Vn-k+1是Rn的任意一個(gè)n-k+1維子空間，則定理5.23或推論1的結(jié)論可寫成如下形式 (5.3.18) (5.3.19)對稱正定矩陣的補(bǔ)充性質(zhì)：設(shè)A,B為對稱(半)正定矩陣，矩陣C為A和B的點(diǎn)積，即 cij=aijbij, 則C為對稱(半)正定矩陣。定理5.24 設(shè)ARrmn的奇異值排列為0=s1=sn-rsn-r+1sn (5.

20、3.21)則A的第k個(gè)奇異值和第n-k+1個(gè)奇異值具有下列的極性質(zhì) (5.3.22) (5.3.23)其中Vk是Rn的任一k維子空間。定理5.25 設(shè)ARrmn的奇異值排列同式(5.3.21),(A+Q) 的奇異排列為0=t1=tn-rtn-r+1tn (5.3.25)則有|si-ti|Q|2 (i=1,n) (5.3.26)定理5.26 設(shè)ARrmn和(A+Q)的奇異值排列分別同式(5.3.21)和(5.3.25), Q的排列值為0=d1= dn (5.3.29)定義向量u=(s1,sn)T,v=(t1,tn)T,w=(d1,dn)T則有 |u-v|2|w|25.4 矩陣直積的定義和基本性質(zhì)

21、.定義5.9 設(shè)A=(aij)Cmn,B=(bij)Cpq,則稱如下的分塊矩陣 (5.4.1)為A與B的直積（Kronecker積）。矩陣直積的基本性質(zhì)：1).k(AB)=(kA)B= A(kB)2).若A,B為同價(jià)矩陣，則 (A+B)C=AC+BC C (A+B) = CA+ CB3). (AB)C=A(BC)4). (AB)(CD)=(AC) (BD)證（）（）=.推論 （1）=.（2）=.上面兩個(gè)式子只要等號右邊有意義，則左邊也有意義，而且兩邊相等.5). (AB) -1= (A-1B-1)6). 若A,B為三角矩陣，則AB也是三角矩陣。7). (AB) H= (AHBH)8). 設(shè)Am

22、m和Bnn都是酉(正交)矩陣，則AB也是。9). rank(AB)=rank(A)rank(B)證 設(shè)rank=，rank=.對矩陣，必存在可逆矩陣、，使得，其中=.對矩陣，必存在可逆矩陣、，使得，其中=.則由性質(zhì)4知：= =.由性質(zhì)5知：、仍為可逆矩陣.矩陣乘以可逆矩陣后，其秩不變. rank()=rank（）= rankrank.10). tr (AB)=tr(A) tr(B)定義1 設(shè)=，記，令=,則稱為矩陣A的列拉直（列展開）.定義2 設(shè)=，記令，則稱為矩陣的行拉直（行展開）.定理 設(shè)，則（1）. 特別地，vec(xyT)= yx , 其中,x和y分別為m和n維列向量.（2）.證（1）

23、記，；， ，則.而， （2）設(shè)=，則= =，即.11). 對于Amm和Bnn有：AB相似于BA證明：對于Xmn由于XT=因此vec(XT)= 記P mn=顯然，(Pmn)T= =Pnm則有vec(XT)=Pmn vec(X),因此vec(X)=Pnm vec(XT)=(Pmn)T P mnvec(X)這樣有(Pmn)T P mn =I其中，ei為n維的單位向量，而ej為m維的單位向量。性質(zhì)：如果A為m1的向量和B為n1的向量時(shí)，那么ABT=A BT性質(zhì)：tr(ATB)= vec(A)T vec(B)從而對于矩陣Xnm有 vec(BXAT)= (AB)vec(X) 另一方面vec(BXAT)=P

24、mnvec(AX TBT) =Pmn (BA)vec(X T) = Pmn (BA)Pnm vec(X) 從而(AB)vec(X)=Pmn (BA)(Pmn)Tvec(X) 由于X為任意的nm矩陣，因此有 (AB)= Pmn (BA)Pnm = Pmn (BA) (Pmn)-1對于矩陣直積，也可以引入方冪的概念。定義：設(shè)ACmn,令 A1=A和Ak+1=Ak A，k=1,2,性質(zhì)：(AB)k=AkBk證明可以由直積的性質(zhì)4 :(AB)(CD)=(AC) (BD) 簡單得到。對二元函數(shù)f(x,y)=及矩陣ACmn,BCpq, 定義f(A,B)=.定理5.27 設(shè)Amm的特征值為l1，l2，lm,Bnn的特征