矩陣分析 第一章

1、矩陣的代數(shù)性質(zhì)1.矩陣是線性映射的表示：線性映射的相加表示為矩陣的相加線性映射的復(fù)合表示為矩陣的相乘2.矩陣是一種語言，它是表示復(fù)雜系統(tǒng)的有力工具。學(xué)習(xí)矩陣?yán)碚摰闹匾猛局痪褪菍W(xué)會用矩陣表示復(fù)雜系統(tǒng)的關(guān)系，培養(yǎng)根據(jù)矩陣推演公式的能力是學(xué)習(xí)矩陣論的目的之一。定義一個(gè)矩陣有幾種方式：可以通過定義矩陣的每一個(gè)元素來定義一個(gè)矩陣，也可以通過矩陣具有的性質(zhì)來定義一個(gè)矩陣。如：對稱矩陣可以定義為：aij=aji也可以定義為: (x, Ay)=(Ax,y), 還可以定義為： Ax=Ñf(x), 其中f(x)=xTAx/2,即它對向量x的作用相當(dāng)于函數(shù)f(x)在x處的梯度。3. 矩陣可以表示為圖像

2、矩陣的大小可以表示為圖像。反之，一幅灰度圖像本身就是矩陣。圖像壓縮就是矩陣的表示問題. 這時(shí)矩陣相鄰元素間有局部連續(xù)性，既相鄰的元素的值大都差別不大。4. 矩陣是二維的(幾何性質(zhì)) 矩陣能夠在二維的紙張和屏幕等平面媒體上表示，使得用矩陣表示的問題顯得簡單清楚，直觀，易于理解和交流。很多二元關(guān)系很直觀的就表示為矩陣，如關(guān)系數(shù)據(jù)庫中的屬性和屬性值，隨機(jī)馬爾科夫鏈的狀態(tài)轉(zhuǎn)移概率矩陣，圖論中的有向圖或無向圖的矩陣表示等。第一章：線性空間和線性變換1. 線性空間集合與映射集合是現(xiàn)代數(shù)學(xué)最重要的概念，但沒有嚴(yán)格的定義。集合與其說是一個(gè)數(shù)學(xué)概念，還不如說是一種思維方式，即用集合(整體)的觀點(diǎn)思考問題。整個(gè)數(shù)

3、學(xué)發(fā)展的歷史就是從特殊到一般，從個(gè)體到整體的發(fā)展歷程。集合的運(yùn)算及規(guī)則，兩個(gè)集合的并、交運(yùn)算以及一個(gè)集合的補(bǔ)；集合中元素沒有重合，子集，元素設(shè)S，S'為集合映射：為一個(gè)規(guī)則s：S ® S', 使得S中元素a和S'中元素對應(yīng)， 記為 a'=s(a),或s：a®a'.映射最本質(zhì)的特征在于對于S中的任意一個(gè)元素在S'中僅有唯一的一個(gè)元素和它對應(yīng)。映射的原象，象；映射的復(fù)合。滿射,單射,一一映射。若S'和S相同，則稱s為變換。若S'為數(shù)域，則稱s為函數(shù)。線性空間的定義和性質(zhì)定義1.1設(shè)V是一個(gè)非空集合，它的元素用x,y

4、,z等表示，并稱之為向量；K是一個(gè)數(shù)域，它的元素用k,l,m等表示，如果V滿足下列條件(I) 在V中定義一個(gè)加法運(yùn)算，即當(dāng)時(shí)，有惟一的，且加法運(yùn)算滿足下列性質(zhì)(1) 結(jié)合律(2) 交換律(3) 存在零元素0，使x+0=x；(4) 存在負(fù)元素，即對任何一向量xÎV ,存在向量y，使x+y=0，則稱y為x的負(fù)元素，記為-x，于是有 x+(-x) = 0(II) 在V中定義數(shù)乘運(yùn)算，即當(dāng)xÎV, kÎK,有唯一的kxÎV, 且數(shù)乘運(yùn)算滿足下列性質(zhì) （5）數(shù)因子分配律 k(x+y)=kx+ky ;(6) 分配律 （k+l）x = k x+l x ;(7) 結(jié)合律

5、 k(l x)=(k l ) x ;(8) 1 x = x則稱V為數(shù)域K上的線性空間或向量空間。特別地， 當(dāng)K為實(shí)數(shù)域R時(shí)，則稱V為實(shí)線性空間；當(dāng)K為復(fù)數(shù)域C時(shí)，則稱V為復(fù)線性(酉)空間。例：次數(shù)不超過n-1的多項(xiàng)式Pn全體按照通常的多項(xiàng)式加法和數(shù)乘構(gòu)成一個(gè)線性的多項(xiàng)式函數(shù)空間；即：f(x)=a0xn-1+a1xn-2+an-2x+an-1 g(x)=b0xn-1+b1xn-2+bn-2x+bn-1 定義 f(x)Åg(x)=f(x)+g(x), k×f(x)=(k×a0)xn-1+(k×a1)xn-2+(k×an-2)x+k×an-

6、1 n維實(shí)向量的全體按照通常的向量加法和數(shù)乘構(gòu)成一個(gè)實(shí)線性空間,我們把這個(gè)空間稱為實(shí)向量空間；即：x, yÎRn， 定義：(xÅy)i=xi+yi ,(k×x)i=k×xi 所有m´n實(shí)矩陣的全體按照通常的矩陣加法和數(shù)乘構(gòu)成一個(gè)實(shí)線性空間，稱之為矩陣空間；由例如，取V=R, x,yÎV, 定義 xÅy=(x3+y3)1/3, k×x=k1/3x，kÎR.易驗(yàn)證這樣定義的加法和數(shù)乘仍然構(gòu)成一個(gè)線性空間。線性空間中，向量的關(guān)系：線性相關(guān)：若存在一組不全為零的數(shù)c1,c2,cm,使得c1x1+c2x2+cmxm

7、=0則稱向量組x1,x2,xm線性相關(guān)，否則為線性無關(guān)。極大線性無關(guān)組：一個(gè)不可能再往里添加向量而保持它們的線性無關(guān)性引理1.1：線性無關(guān)組總是可以擴(kuò)充為極大線性無關(guān)組。例如：x1=(1,0,0)T,x2=(0,1,0)T, 則設(shè)x3=(*,*,a)T,其中*表示任意的數(shù)，只要a¹0，則x1,x2,x3就為極大線性無關(guān)組。引理1.2：在一個(gè)線性空間中任兩個(gè)極大線性無關(guān)組若它們的所含向量個(gè)數(shù)都有限，則所含向量個(gè)數(shù)一定相同.證明：設(shè)x1,x2,xm和y1,y2,yn為線性空間V中的兩個(gè)極大線性無關(guān)組。則存在矩陣A,B使得(x1,x2,xm)=(y1,y2,yn)A (1)(y1,y2,y

8、n)=(x1,x2,xm)B (2)將式(1)代入式(2)可得 (y1,y2,yn)=(x1,x2,xm)B=(y1,y2,yn)AB (3)另一方面，我們知道(y1,y2,yn)=(y1,y2,yn) En (4)其中， En為n階單位矩陣。由于 y1,y2,yn為極大線性無關(guān)組，因此表示系數(shù)矩陣應(yīng)該唯一，也就說，由式(3)和式(4)可得 AB = En， 由此有trace(AB)= trace(En)= n (5)類似地，將式(2)代入式(1)可得(x1,x2,xm)=(x1,x2,xm)BA=(x1,x2,xm)Em ,再由 x1,x2,xm為極大線性無關(guān)組可得BA = Em,由此有tr

9、ace(BA)= trace(Em)= m (6)這樣利用矩陣跡算子trace(×)的性質(zhì)，聯(lián)合式(5)和式(6)可得n= trace(AB)= trace(BA)=m。因此，這兩個(gè)極大線性無關(guān)組所含向量個(gè)數(shù)相同。 (定義)線性空間V的維數(shù)：V中極大線性無關(guān)組的所含向量的個(gè)數(shù)，定義為線性空間的維數(shù)。維數(shù)有限的稱為有限維空間，否則稱為無窮維空間。這個(gè)定義之所以有意義，是因?yàn)樵谝?.2中我們證明了極大線性無關(guān)組的個(gè)數(shù)是相同的。本書僅僅研究有限維空間，這里得到的結(jié)論有些可以直接推廣到無窮維空間，但有些卻不可能。必須小心！在后面的討論中我們僅僅討論有限維空間，而不一一說明。線性空間中向量的

10、表示線性空間的基：若線性空間V的向量x1,x2,xr滿足1） x1,x2,xr線性無關(guān)；2） V中的任意向量x都是x1,x2,xr的線性組合；則稱x1,x2,xr為V的一個(gè)基或基底，相應(yīng)地稱xi為基向量。推論1.1： 線性空間中任意一組極大無關(guān)組構(gòu)成它的一個(gè)基。定義1.2：稱線性空間Vn的一個(gè)基x1,x2,xn為Vn的一個(gè)坐標(biāo)系。設(shè)向量xÎVn,它在該個(gè)基下的線性表示為x = c1 x1+c2x2+cnxn 則稱 c1,c2, cn為x在該坐標(biāo)系下的坐標(biāo)或分量，有時(shí)我們稱n維向量(c1,c2, cn)T為向量x在該個(gè)基下的表示。這實(shí)際定義在V和Rn或(Cn)的之間一一映射s: V&#

11、174; Rn(或Cn)即s: xÎV® (c1,c2, cn)TÎRn(或Cn)數(shù)域相同的線性空間和n維列向量空間的關(guān)系：定理1.2 在一個(gè)基下我們看到任意n維線性空間V和n維列向量空間Rn(或Cn)代數(shù)同構(gòu),即存在V和Rn或(Cn)的之間一一映射s:V® Rn(或Cn)使得 s(x+y)= s(x)+ s(y), x, yÎV s(kx) =k s(x), xÎV, kÎK，也就是s保持加法和數(shù)乘運(yùn)算。(按后面的定義，s實(shí)際為可逆的線性映射)。這個(gè)定理說明雖然n維線性空間有無窮多，但是從代數(shù)的角度我們僅僅研究n維實(shí)(或復(fù)

12、)向量空間就足夠了。例如：前面介紹次數(shù)不超過n-1的多項(xiàng)式全體按照通常的多項(xiàng)式加法和數(shù)乘構(gòu)成一個(gè)線性的多項(xiàng)式函數(shù)空間Pn，選擇Pn的一個(gè)基x1=1,x2=x,x3=x2,xn=xn-1, 則任意次數(shù)不超過n-1的多項(xiàng)式 f(x) = a0xn-1+a1xn-2+an-2x+an-1= (1,x,x2,)( an-1, an-2, a0)T這樣( an-1, an-2, a0)T就是多項(xiàng)式f(x)在基x1,x2,xn的坐標(biāo)。顯然我們可以看成將f(x)映射為( an-1, an-2, a0)T，這時(shí)明顯可見映射為線性的，即若s: f(x)® ( an-1, an-2, a0)Ts: g(

13、x)® ( bn-1, bn-2, b0)T則 s: f(x)+g(x)® (an-1+bn-1, an-2+bn-2, a0+b0)T基變換與坐標(biāo)變換在線性空間Vn中，同一向量對不同的基，它的坐標(biāo)表示是不一樣的。當(dāng)由一個(gè)基x1,x2,xn變換為另一個(gè)基y1,y2,yn時(shí),則由基的定義可得 y1=c11x1+c21x2+cn1xn y2= c12x1+c22x2+cn2xn: yn= c1nx1+c2nx2+cnnxn或用矩陣形式寫為Y = XC 稱為基變換公式 (1.1) 其中矩陣C為c11 c12 c1nc21 c22 cn2 稱為由舊基到新基的過渡矩陣。 : cn1

14、cn2cnnY=(y1,y2,yn), X= (x1,x2,xn)實(shí)(復(fù))矩陣A為奇異矩陣定義為：存在非零n維實(shí)(復(fù))向量x使得Ax = 0.推論1.2 過渡矩陣非奇異. (自行證明)從推論1.2我們可以發(fā)現(xiàn)， 任何一個(gè)非奇異矩陣都可以看成是線性空間的兩個(gè)基之間的過渡矩陣，換句話說，是一個(gè)基在另一個(gè)基下的坐標(biāo)表示。向量在不同基下的表示坐標(biāo)的關(guān)系：設(shè)由一個(gè)基x1,x2,xn變換為另一個(gè)基y1,y2,yn時(shí)過渡矩陣為C,向量x在基x1,x2,xn和基y1,y2,yn的坐標(biāo)表示分別為x =x1,x2,xnT, h =h1,h2,hnT則有x=X×x=Y×h=(X×C)&

15、#215;h= X×(C ×h),從而有x=C×h或者h(yuǎn)=C-1×x或用分量形式推導(dǎo)得即為 x=C×h線性子空間定義：設(shè)V1是數(shù)域K上線性空間V的非空子集合，且對V已有的線性運(yùn)算滿足以下條件(1)對加法封閉： 若x, yÎV1，則x+yÎV1(2)對數(shù)乘封閉：若xÎV1，kÎK,則k×xÎV1.則稱V1為V的線性子空間或子空間。僅由0元素構(gòu)成的子空間為零子空間。注意：零子空間的維數(shù)為0而不是1。子空間的運(yùn)算：交， 和， 直和兩個(gè)子空間V1,V2的交V1ÇV2仍為子空間。定義1

16、.8 設(shè)V1, V2為數(shù)域K上的線性空間V的子空間，且xÎV1,yÎV2,則由x+y 的全體構(gòu)成的集合稱為V1和V2的和，記為 V1+V2.記V1+V2=z | z=x+y, xÎV1,yÎV2。顯然,兩個(gè)子空間V1, V2的和V1+V2仍為子空間,并且交與和分別滿足結(jié)合律， 即(V1ÇV2) ÇV3=V1Ç(V2 ÇV3),(V1+V2)+ V3=V1+(V2 +V3),從而它們都可以推廣到幾個(gè)子空間的情形,并且V1ÇV2 Ç ÇVn 或V1+V2 + +Vn有意義。子空間的維數(shù)公式

17、：dim V1+dim V2=dim (V1+V2)+dim(V1ÇV2)直和的定義： 若V1ÇV2=0,則V1+V2為V1,V2的直和，記為 V1V2。性質(zhì)：對于V1V2中的元素z, 在V1和V2分別存在唯一x和y使得z = x + y.即z的分解唯一。顯然有V1V2Û dim(V1ÇV2)=0Û dim V1+dim V2=dim (V1V2)子空間的構(gòu)成：1）由幾個(gè)子空間的交或和構(gòu)成。2）向量x1,x2,xm組擴(kuò)張而成。由單個(gè)非零向量x對數(shù)乘運(yùn)算封閉構(gòu)成的一維子空間 L(x)=z | z=k×x, kÎK.同理記L(x

18、1,x2,xm)=L(x1)+L(x2)+L(xm)顯然dim(L(x1,x2,xm) £ m思考題1：一個(gè)n維線性空間的真子空間有多少？思考題2：若V1,V2, ,Vm為線性空間V的真子空間，證明存在一個(gè)向量xÎV,但xÏV1ÈV2È ÈVm成立。特別討論在實(shí)線性空間Rm中矩陣A=(aij)ÎRm´n的列向量構(gòu)成的子空間L(a1,a2,an)稱為矩陣A的值域(列空間),記為R(A)=L(a1,a2,an)ÌRm矩陣的秩矩陣的列秩：由矩陣的列向量構(gòu)成的最大無關(guān)組的個(gè)數(shù)。矩陣的行秩：由矩陣的行向量構(gòu)成的最大

19、無關(guān)組的個(gè) 數(shù)。定理: 矩陣的行秩和列秩相同。證明：由于 rank(A)=rank(AAT)£rank(AT) 同樣，rank(AT) £rank(A) 這樣，rank(A)= rank(AT)，即矩陣的行秩和列秩相同.從而它們稱為矩陣的秩，記為rank(A).定理 dim(R(A)=rank(A).定義1.7 設(shè)在實(shí)線性空間Rn中矩陣A=(aij)ÎRm´n,稱集合x|Ax=0為矩陣A的核空間,記為N(A),即N(A)=x|Ax=0ÎRn.稱N(A)的維數(shù)為A的零度，記為n(A),即n(A)=dim(N(A).定理： dim(R(A)+dim

20、(N(A)=n. 思考：若AÎCn´n,R(A)N(A)成立嗎？舉例說明？ 成立的條件是什么？不一定成立如2 線性映射,線性函數(shù)，線性變換及它們的矩陣表示表示是什么？表示究是本質(zhì)來說是一種映射，它把我們不熟悉或抽象的事物映射為我們熟知或具體的事物。例如：抽象的線性空間在一個(gè)基下可表示為實(shí)或復(fù)的向量空間。同樣地，線性空間之間的線性映射都可以表示為矩陣。這正是矩陣的代數(shù)本質(zhì)所在。(向量為特殊的矩陣)這就是本節(jié)所研究的內(nèi)容。定義：數(shù)域相同的線性空間X到線性空間Y的映射T稱為線性映射，若T滿足下列條件：1) T(x+y)=T(x)+T(y) 2) T(kx)=kT(x)若線性空間W

21、和線性空間V的維數(shù)分別為：m=dim(W),n=dim(V)x1,x2,xm以及y1,y2,yn分別為W和V的一個(gè)基，則線性映射可以表示為一個(gè)Rn´m(或者Cn´m)的矩陣。設(shè)向量Txi在基y1,y2,yn的坐標(biāo)表示為Txi=(y1,y2,yn) (a1i,a2i,ani)T=(y1,y2,yn)ai, i=1,2,m記矩陣A=(a1,a2,am)， 而基為 Y=(y1,y2,yn), X= (x1,x2,xm)。則有 TX=(Tx1,Tx2,Txm)=Y ×A (2.1)對任意向量x在基x1,x2,xm的坐標(biāo)表示為x =x1,x2,xmT，向量Tx在基y1,y2

22、,yn的坐標(biāo)表示為h =h1,h2,hnT，那么我們有 Tx=Y×h=T(X×x)=(TX) ×x=(Tx1,Tx2,Txm) ×x =Y×(Ax )Þ h=Ax (2.2)從而對于線性映射T，在基X和Y的下的表示為矩陣A. T : x ® y = T x 其中x=Xx, y=Yh ¯ ¯ ¯ ¯ A: x ® h = A x 注意對于同一映射，若基X和Y選擇不同，則T的表示A一般不相同。一個(gè)很自然的問題就是各種表示之間的關(guān)系如何？若用映射的形式我們可以表示為: A=s(T;

23、 X,Y) (2.3)設(shè)線性空間W的另一組為X', 且X'=XC,線性空間V的另一組為Y', 且Y'=YD,或Y=Y' D-1(注意，因?yàn)镃和D分別為過渡矩陣，從而可逆)設(shè)線性映射T在基X'和Y'下的矩陣為A',即 TX'=Y' A'則 TX'=T(XC)=(TX)C(由(2.1)=(YA)C=Y(AC)=Y'D-1AC=Y'A'從而我們有 A'= D-1AC (2.4)這就是線性映射在不同基下的矩陣表示的關(guān)系式。注意： DÎRn´n, A

24、6;Rn´m, CÎRm´m.線性映射的復(fù)合： S: W®V; T: V®Z 定義 (ToS)(x)=T(S(x). 其中W, V和Z為線性空間， S和T都為線性映射。很明顯， 線性映射的復(fù)合仍為線性映射。設(shè)x1, x2,xm為W的一個(gè)基，y1,y2,yn為V的一個(gè)基z1,z2,zr為Z的一個(gè)基，S在W和V的當(dāng)前基下的表示為A,而T在V和Z的當(dāng)前基下的表示為B，則它們的復(fù)合ToS在當(dāng)前基下的矩陣表示為BA.由于映射的復(fù)合一般不可交換，從而對應(yīng)的矩陣的乘法也不可交換， 即 BA=AB一般不成立。思考題：根據(jù)（2.3），若用映射的形式我們可以表示為

25、: BA=s(ToS; X, Z) 可見，ToS的矩陣表示和V的基Y的選擇無關(guān)，假如選擇另外一組V的基Y¢,證明這一點(diǎn)。定理：設(shè)T為線性空間W到線性空間V的線性映射，則W內(nèi)的線性子空間W1在V中的象V1為V的線性子空間。反之， V中的線性子空間V1的逆象 T-1(V1)= x | $ y ÎV1 s.t. y=Tx ,xÎW 也為W中的線性子空間。證明：利用子空間的定義，顯然可以得到。定理：設(shè)T為線性空間W到線性空間V的線性映射，W1，W2為W內(nèi)的子空間，則1). T(W1+W2)= T(W1)+T(W2)2). T(W1ÇW2)Ì T(W1)

26、 ÇT(W2) (思考為什么等式不能成立？)記R(T)為W在V中的象，稱之為值域， 即 R(T)= yÎV | y=Tx, " xÎW 記N(T)為V中零向量空間的逆象T-1(0),稱之為T的核，即N(T)= x| Tx=0, xÎW T的值域R(T)的維數(shù)dim(R(T)稱為T的秩，其核子空間的維數(shù)dim(N(T)稱為T的虧度。 dim(R(T)+ dim(N(T)=dim(W)證明：設(shè)x1,x2,xr為N(T)的一個(gè)基，擴(kuò)充它們使之為W的一個(gè)基：x1,x2,xr,xr+1,xn,那么我們證明T(xr+1),T(xn)為R(T)的一個(gè)基。首先

27、證明T(xr+1),T(xn)線性無關(guān).設(shè)tr+1T(xr+1)+tnT(xn)=0則T(tr+1xr+1+tnxn)=0,從而tr+1xr+1+tnxnÎN(T)所以tr+1xr+1+tnxn能夠被x1,x2,xr線性表示。因此存在t1,tr使得t1x1+trxr=tr+1xr+1+tnxn,即t1x1+trxr-tr+1xr+1-tnxn=0因此t1=t2=tr=tr+1=tn=0這樣就說明T(xr+1),T(xn)線性無關(guān)。 其次我們證明對于任給yÎR(T)，y能被T(xr+1),T(xn)線性表示. 由于yÎR(T)，因此存在xÎW使得y=T(x

28、). 由于x1,x2,xr,xr+1,xn為W一個(gè)基，因此存在t1,tr,tr+1,tn使得 x=t1x1+trxr+tr+1xr+1+tnxn從而 y=T(x)=T(t1x1+trxr+tr+1xr+1+tnxn) = t1T(x1)+trT(xr)+tr+1T(xr+1)+tnT(xn) = tr+1T(xr+1)+tnT(xn)因此y能夠被T(xr+1),T(xn)線性表示。同時(shí)由于T(xr+1),T(xn)線性無關(guān)。這樣它們就構(gòu)成了R(T)的一個(gè)基。從而有 dim(R(T)+ dim(N(T)=dim(W) 證畢.例：對于Rn到Rm的線性映射T,對于任給xÎRn,T(x)=A

29、x,其中A為Rm´n的矩陣，這時(shí)R(T)=R(A)，即A的列向量構(gòu)成的線性子空間. N(T)為Ax=0的解的全體構(gòu)成的子空間.由dim(R(T)+ dim(N(T)=dim(W)可以看出，Ax=0的基礎(chǔ)解系的個(gè)數(shù)為n-r(A)，其中r(A)=R(T)為A的秩. 這個(gè)結(jié)論我們在高等數(shù)學(xué)里已經(jīng)得到過.對于W到V的兩個(gè)的線性映射T1和T2分別定義它們的加法和數(shù)乘如下： (T1+T2)(x)=T1x+T2x (2.4) (kT1)(x) = k (T1x) (2.5) 那么有以下定理：定理2.4：所有W到V的線性映射的全體按(2.4)和(2.5)定義的加法和數(shù)乘構(gòu)成一個(gè)線性空間。這個(gè)空間的維

30、數(shù)為mn.從這里我們可以看到，借助矩陣表示，我們可以完全利用矩陣運(yùn)算研究線性映射，其實(shí)反過來也是對的，即，有時(shí)我們可以借助線性映射來研究矩陣。有時(shí)候，如果我們利用線性映射的某些特點(diǎn)可以證明矩陣的某些性質(zhì)，如下例所示。例 設(shè)AÎCm´n, BÎCn´p. 則N(AB)=B-1N(A)ÇR(B),線性映射復(fù)合的維數(shù)公式：dim(N(AB)=dim(N(B)+ dim(N(A)ÇR(B)dim(R(AB)=dim(R(B) - dim(N(A)ÇR(B)所以可以證明，rank(A)+rank(B)-n£rank(AB)d

31、im(R(AB)+dim(R(BC)- dim(R(B)£ dim(R(ABC)證明：1). 顯然 N(AB)=B-1N(A)ÇR(B)成立;2). 欲證dim(N(AB)=dim(N(B)+ dim(N(A)ÇR(B)， 顯然存在x1,x2,.,xrÎCp使得Bx1, Bx2,., Bxr為N(A)ÇR(B)的一個(gè)基，那么顯然x1,x2,.,xr線性無關(guān)。再取N(B)的一個(gè)基為xr+1,x r+2,.,xs,那么可以證明x1,x2,.,xr, xr+1,x r+2,.,xs,為N(AB)的一個(gè)基。從而有dim(N(AB)=dim(N(B)+

32、dim(N(A)ÇR(B)類似地可以證明dim(R(AB)=dim(R(B) - dim(N(A)ÇR(B)或者由dim(R(AB)+dim(N(AB)=dim(R(B)+dim(N(B)可得dim(R(B)- dim(R(AB)=dim(N(A)ÇR(B) 3). dim(R(B)- dim(R(AB)=dim(N(A)ÇR(B)£ dim(N(A)=n- dim(R(A)因此有rank(A)+rank(B)-n£rank(AB)等號成立的充要條件是N(A)ÌR(B). 同樣的dim(R(BC)- dim(R(ABC)=d

33、im(N(A)ÇR(BC) £ dim(N(A)ÇR(B) = dim(R(B)- dim(R(AB)因此有dim(R(AB)+dim(R(BC)- dim(R(B)£ dim(R(ABC)等號成立的條件就是N(A)ÇR(BC)= N(A)ÇR(B)因此這個(gè)例子說明，線性映射和矩陣之間的相互關(guān)系，既可以利用矩陣討論線性映射的性質(zhì)，也可以利用線性映射討論矩陣的性質(zhì)，二者之間建立聯(lián)系是有助于矩陣研究的。 幾個(gè)特殊的線性映射：1）線性函數(shù)，即取 V=R1,或C1稱之為實(shí)或復(fù)線性函數(shù)。在泛函分析中稱之為線性泛函。2)線性變換：若線性映射T為：

34、W®W, 則稱T為線性變換。 線性映射和線性映射的區(qū)別：1. 線性映射T：W ®V, 線性變換T: W®W.2. 線性映射的矩陣表示A與W和V的選擇基有關(guān)。線性變換的矩陣表示A僅需選擇W的一個(gè)基而不是兩個(gè)基。 區(qū)別2的意思是，線性空間W上的線性變換T的矩陣表示A僅需選擇一個(gè)基x1,x2, xn,那么Txi=(x1,x2,xn) (a1i,a2i,ani)T=(x1,x2,xn)ai, i=1,2,n這時(shí)有TX=XA.( 我們稱A為線性變換T在線性空間W的基x1,x2, xn的矩陣表示。)這時(shí)如果將T看作W®W的線性映射，我們分別選擇W的兩個(gè)基X= (x1

35、,x2,xm)和Y=(y1,y2,yn)，這時(shí)T的矩陣A表示為Txi=(y1,y2,yn) (a1i,a2i,ani)T=(y1,y2,yn)ai, i=1,2,m這時(shí)有TX=Y A.在以后，我們所線性變換時(shí)，僅需選擇一個(gè)基。由于線性變換僅為線性映射的特殊情形，因此前面討論的關(guān)于線性映射的所有定義和性質(zhì)對線性變換都適應(yīng)，我們不必重復(fù)。下面我們僅討論線性變換的特殊之處。線性變換的矩陣表示在不同基下的關(guān)系：設(shè)線性空間W的兩組不同基X和X'之間滿足關(guān)系X'=XC那么線性變換T在基X和X'下的矩陣表示分別為A和A',則 A'= C-1AC定義： 線性變換在不同基

36、下的表示矩陣稱為相似矩陣。定理: 矩陣A和A'相似的充要條件為存在可逆矩陣C使得 A' = C-1AC容易驗(yàn)證矩陣相似關(guān)系為等價(jià)關(guān)系。即， 自反性：A和A相似； 對稱性：若A和B相似，則B和A相似； 傳遞性：若A和B相似，B和C相似，則A和C相似。從這兒我們可以看出，在相似等價(jià)意義下具有的性質(zhì)有時(shí)也稱線性變換的性質(zhì)。例如，相似的矩陣具有相同的行列式，所以我們可以認(rèn)為線性變換的對應(yīng)矩陣的行列式為線性變換對原空間的單位超立方體經(jīng)變換后的多面體的體積。這正是多元積分的變量替換的Jacobi行列式。又如 我們知道，相似的矩陣具有相同的的特征多項(xiàng)式，所以我們可以定義線性變換的特征多項(xiàng)式。

37、同樣可以導(dǎo)出線性變換的特征值，線性變換的跡(定義為線性變換的所有特征值的和)。幾個(gè)特殊的變換：零變換T0： T0(x)=0.恒等變換I： I(x) = x.數(shù)乘變換Tk: Tk(x)= k ×x.正交變換T： |Tx|2=|x|2,其中|.|2為歐氏范數(shù)(第2章介紹)對于復(fù)合變換ToT記為T2, 類似地， 記Tk+1=TkoT,顯然若線性變換T的矩陣表示為A, 則Tk的矩陣表示為Ak,從而線性變換f (T)=a0Tm+a1Tm-1+am-1T+am I（此處I表示恒等變換）的矩陣表示為矩陣多項(xiàng)式：f (A)= a0Am+a1Am-1+am-1A+amEn其中En表示單位矩陣。線性變換

38、的特征值和特征向量由于線性變換在不同基下的矩陣表示不相同，那么一個(gè)很自然的問題就是，怎樣選擇特殊的基使得給定線性變換在該個(gè)基下的表示矩陣最簡單。為此引入下列概念.定義： 若存在非零向量x和數(shù)l滿足Tx=l x則稱l為T的特征值， x為相應(yīng)的特征向量。注意： 由定義，特征向量非零。定義：矩陣A的特征矩陣lI-A的行列式det(lI-A)=|lI-A|, 稱為矩陣A的特征多項(xiàng)式，記為j(l)。j(l)的根l0為A的特征根或特征值；相應(yīng)方程(l0I-A)x=0的非零解x稱為A的屬于l0的特征向量。若線性變換T在線性空間的一個(gè)基X下的矩陣表示為A, 即T X=(Tx1,Tx2,Txn)=XA設(shè)T的特征

39、向量x在基X的坐標(biāo)表示為x，即 x=x1x1+x2x2+ xnxn =X(x1,x2, xn)T=Xx那么有 X(l0×x)=l0x=Tx=T Xx=XAx從而 l0×x= Ax，由于上述推導(dǎo)可以倒推， 因此求線性變換T的特征值l0和特征向量x等價(jià)于在一個(gè)基X下求T的表示矩陣A的特征值l0和特征向量x。這時(shí)x為x在基X下的坐標(biāo)， 即 x=Xx。定義(特征子空間)：設(shè)l0為線性變換T的一個(gè)特征值，稱線性變換l0I-T 的核空間Vl0=x | (l0I-T)x=0 為T的屬于l0的特征子空間， 其中I表示恒等變換。定義：變換矩陣A的跡 Trace(A)=Tr(A)=性質(zhì)1：Tr

40、(A)等于A的所有特征值的和.由根與系數(shù)的關(guān)系可得。性質(zhì)2： Tr(AB)=Tr(BA).性質(zhì)3： 對任意可逆矩陣P， Tr(A)=Tr(P-1AP), 這說明矩陣A的跡由線性變換T(在某種基下對應(yīng)于矩陣A)決定，與基(坐標(biāo))的選擇無關(guān)。矩陣的性質(zhì)定理1.16(Sylvester) 設(shè)AÎRm´n , BÎRn´m ， AB的特征多項(xiàng)式為jAB(l)， BA的特征多項(xiàng)式為jBA(l), 則lnjAB(l)=lm jBA(l)證明：根據(jù)矩陣等式有： Im 0 Im A lIm-AB 0 -B In 0 lIn B In Im 0 lIm A lIm A -

41、B In lB lIn 0 lIn-BA對矩陣等式取行列式可得結(jié)論。特殊矩陣：嚴(yán)格下三角矩陣L,對角矩陣D下三角矩陣D+L， 單位下三角矩陣I+L， 嚴(yán)格下三角矩陣L，上三角矩陣D+LT， 單位上三角矩陣I+LT， 嚴(yán)格上三角矩陣LT，塊對角矩陣， 塊三角矩陣;初等矩陣(定義): E(u,v；s)=I-suvH性質(zhì)1: E(u,v;s)E(u,v;t)= E(u,v;s+t-stvHu);性質(zhì)2: det(E(u,v; s)=1- s×vHu性質(zhì)3. Ln =0性質(zhì)4. 若對角矩陣D的元素各不相同，對于變換矩陣A有DA=AD, 則 A為對角矩陣。定理1.17 任意n階矩陣A與三角矩陣

42、相似.證明:對階數(shù)n利用數(shù)學(xué)歸納法證明. 當(dāng)n=1時(shí)顯然成立.設(shè)當(dāng)階數(shù)為n-1時(shí)定理成立。下面證明定理對n階矩陣仍然成立，設(shè)x1,x2,xn是n個(gè)線性無關(guān)的列向量，其中x1為A的特征值l的特征向量，即A×x1=l×x1,記P=(x1,x2,xn)于是AP=(Ax1,Ax2,Axn)=(l×x1,Ax2,Axn)由于AxiÎCn,因此Axi可以由x1,x2,xn唯一地線性表示，即有 Axi=b1ix1+b2ix2+bnixn i= 2,3,n于是AP=(l×x1,Ax2,Axn)=(x1,x2,xn)即 P-1AP=由歸納假定，對于n-1階矩陣A

43、1存在矩陣Q使得Q-1A1Q=U,其中U為上三角矩陣.記R=, S=PR, 則有S-1AS=R-1P-1APR= =為上三角矩陣.定理1.18 (Hamilton-Cayley) n階矩陣A是其特征多項(xiàng)式的根，即設(shè)j(l)=det(lI-A)=ln +a1ln-1+an-1l+an則 j(A) =An +a1An-1+an-1A+anI=0.證明略.(可以對矩陣階數(shù)n使用數(shù)學(xué)歸納法，利用定理1.17很簡單的證明)設(shè)對于n-1階矩陣定理成立，那么對于n階矩陣A, 由定理1.17可得存在可逆矩陣P和上三角矩陣R使得 P-1AP=R.很明顯，A和R有相同的特征多項(xiàng)式j(luò)(l)，并且P-1j(A)P=j

44、(R),因此如果能夠證明j(R)=0，那么j(A)=0也就能夠成立了。事實(shí)上，設(shè)A的n個(gè)特征值為l1, l2,ln，R=,那么j(R)=(l1En-R) (l2En-R) .(ln-1En-R) (lnEn-R)=其中a為n-1維列向量。根據(jù)上三角矩陣的乘積的對角塊矩陣為相應(yīng)對角塊矩陣的乘積，那么j(R)= ，推論：任何一個(gè)n階可逆矩陣A的逆可以表示為A的次數(shù)不超過n-1的多項(xiàng)式，即A-1=g(A)，其中g(shù)(x)的為次數(shù)不超過n-1的多項(xiàng)式.定義19. 在所有首項(xiàng)系數(shù)為1的多項(xiàng)式中使得A成為它的根的最小次數(shù)多項(xiàng)式m(l)稱為A的最小多項(xiàng)式。定理1.19 矩陣A的最小多項(xiàng)式m(l)可整除以A為根

45、的任意首項(xiàng)系數(shù)為1的多項(xiàng)式y(tǒng) (l)， 且m(l)是唯一的。定理1.20矩陣A的最小多項(xiàng)式m(l)和特征多項(xiàng)式j(luò) (l)的零點(diǎn)相同。定理1.21 設(shè)n階矩陣A特征多項(xiàng)式j(luò) (l)，特征矩陣lI-A的全體n-1階子式的最大公因式為d(l)，則A的最小多項(xiàng)式為 m(l)=j (l)/d(l)定理1.22 如果l1,l2,ls是矩陣A的互不相同的特征值，x1,x2,xs是分別屬于它們的特征向量， 那么x1,x2,xs線性無關(guān)。定理1.23如果l1,l2,lk是矩陣A的互不相同的特征值，xi1,xi2,xi ri是屬于li的線性無關(guān)的特征向量， 那么x11,x12,x1r1, xk1,xk2,xkrk

46、線性無關(guān)。證明：對k利用數(shù)學(xué)歸納法可得結(jié)論.不變子空間定義1.20 如果線性空間V的線性子空間V1對線性變換T保持不變，即，任給xÎV1 , 有TxÎV1, 則稱V1為T不變子空間.定義1.21 設(shè)T為線性空間V的線性變換，若V1為T不變子空間，這時(shí)T可以看作V1的線性變換，記T在V1上的限制為T|V1。不變子空間的性質(zhì)：性質(zhì)1. 不變子空間的和與交仍為不變子空間。性質(zhì)2. 線性變換T的值域R(T)，核N(T)仍為不變子空間。性質(zhì)3. 設(shè)f(t)為多項(xiàng)式，則T的不變子空間為f(T)的不變子空間，N(f(T)為T的不變子空間，從而特征子空間Vl=x| Tx=lx為T的不變子空

47、間。證明: 設(shè)V1為T的不變子空間，則任給xÎV1有TxÎV1,從而T2x=T(Tx)ÎV1,因此有TkxÎV1,對任何的非負(fù)整數(shù)成立。因此有V1為f(T)的不變子空間。 設(shè)xÎN(f(T), 則有f(T)x=0. 并且f(T)(Tx)=T(f(T)x)=0因此TxÎN(f(T),從而N(f(T)為T的不變子空間.推論：若T為可逆變換，則T的不變子空間也是T-1的不變子空間.證明: 利用結(jié)論T-1可以表示為T的多項(xiàng)式,即T-1=g(T)可得結(jié)論.利用不變子空間簡化線性變換的矩陣定理1.27 設(shè)T是線性空間Vn的線性變換，且Vn可分解為

48、s個(gè)T的不變子空間的直和 Vn=V1ÅV2ÅÅVs在每個(gè)不變子空間Vi中選取一個(gè)基xi1,xi2,xini i =1,2,3,s它們的合并構(gòu)成Vn的一個(gè)基，則T在該個(gè)基下的矩陣為塊對角矩陣 A=diag(A1,A2,As)推論1： 線性變換可對角化的充要條件為存在一組特征向量構(gòu)成的基。推論2 設(shè)l1,l2,lk是線性變換T的全部的k互不相同的特征值，則T可對角化的充要條件為 dim(N(l1I-T)+ dim(N(l2I-T)+ dim(N(lkI-T)= n推論3 若線性變換T有n個(gè)互不相同的特征值，則T可對角化。Jordan 標(biāo)準(zhǔn)形定理1.28 設(shè)T是復(fù)數(shù)域C

49、上的線性空間Vn的線性變換， 任取Vn的一個(gè)基， T在該基下的矩陣為A， T的特征多項(xiàng)式j(luò)(l)=det(lI-A)= (m1+m2+ms=n)則Vn可分解為不變子空間的直和Vn=N1ÅN2ÅÅNs其中Ni=x| x=0, xÎVn是線性變換的核空間。若給每個(gè)子空間Ni選一個(gè)基，它們的并構(gòu)成Vn 的基，且T在該個(gè)基下的矩陣為如下形式的對角塊矩陣其中定義1.21 在上面的定義中 J稱為矩陣A的Jordan 標(biāo)準(zhǔn)形，Ji(li)為對應(yīng)的Jordan 塊。定理. 設(shè)矩陣A為復(fù)數(shù)域C的矩陣， 特征多項(xiàng)式的分解j(l)=det(lI-A)=存在， 則存在非奇異矩陣

50、P使得 P-1AP= J.定理1.30 每個(gè)n階復(fù)矩陣A都與一個(gè)Jordan 標(biāo)準(zhǔn)形相似，這個(gè)Jordan 標(biāo)準(zhǔn)形除去其中Jordan塊的排列次序外，是由A唯一確定的。歐氏(Euclid)空間定義： 設(shè)V是實(shí)數(shù)域R上的線性空間，對V中任意兩個(gè)x和y,按某種規(guī)則定義一個(gè)實(shí)數(shù)，用(x,y)表示，且滿足下列四個(gè)條件：1). 交換律：(x,y)=(y, x);2). 分配律：(x,y+z)=(x, y)+(x,z)3). 齊次性: (kx,y)=k (x,y), " kÎR4). 非負(fù)性：(x,x)³0, 當(dāng)且僅當(dāng) x=0時(shí),(x,x)=0.則稱V為Euclid空間，簡稱

51、歐氏空間或?qū)崈?nèi)積空間.思考：任意線性空間在它的兩個(gè)向量能否定義內(nèi)積，若否，舉例說明；若能，證明這一點(diǎn)。例1對于我們以前定義的線性空間V=Rn，xy =(x13+y13)1/3,(x23+y23)1/3,(xn3+yn3)1/3 )Tkx=k1/3×x我們已經(jīng)證明了這樣定義的加法和數(shù)乘確實(shí)為線性空間。那么對于它的內(nèi)積，我們可以定義為：(x,y)=(x1×y1)3 +(x2×y2)3+(xn×yn)3.例2 對于V=R+, xy =x×y, kx=xk, 我們已經(jīng)證明了這樣定義的加法和數(shù)乘確實(shí)為線性空間。那么對于它的內(nèi)積，我們可以定義為： (x,y

52、)=logx×logy例3 對于例2的一維空間，我們可以使用笛卡爾乘積擴(kuò)充為多維空間 V=R+´R+´´R+, 對于任意x,yÎV，x=(x1,x2,xn)T, y=(y1,y2,yn)T 定義xy =(x1×y1, x2×y2,xn×yn )Tkx=(x1)k, (x2)k,(xn)k)T,顯然可以驗(yàn)證這樣的加法和數(shù)乘確實(shí)構(gòu)成一個(gè)線性空間。對于對于任意x,yÎV，x=(x1,x2,xn)T, y=(y1,y2,yn)T 定義它們的內(nèi)積為(x, y)=log x1×log y1+log x2&#

53、215;log y2+log xn×logyn這樣我們對于這個(gè)n維線性空間，定義了一種內(nèi)積。例4. 對于一般線性空間V，我們可以在其上選擇一個(gè)基X=(x1,x2,xn)，那么對于任意兩個(gè)向量x, yÎV, 設(shè)它們的坐標(biāo)分別為x®(a1,a2,an)T, y®(b1,b2,bn)T,這時(shí)我們可以定義內(nèi)積為 (x,y)=a1×b1+a2×b2+an×bn容易驗(yàn)證這樣的定義仍然滿足內(nèi)積的條件。顯然這樣定義的內(nèi)積與基函數(shù)的選擇有關(guān)。我們可以討論這樣定義的兩個(gè)不同基之間的內(nèi)積的關(guān)系。(留作思考題)作業(yè)題：針對例3中定義的線性空間，求出

54、它的一個(gè)基，對這個(gè)基給出由例4中定義的內(nèi)積，然后比較這樣定義的內(nèi)積和例3中定義的內(nèi)積的關(guān)系。定義： 在Euclid空間中，非負(fù)實(shí)數(shù)稱為向量x的長度(或模，范數(shù)), 記為|x|或|x|.定義： 非零向量x和y的夾角<x,y>定義為<x,y>=arccos性質(zhì)1 (x,k×y)=k (x,y)性質(zhì)2 (x,0)=(0,x)=0性質(zhì)3.定義Gram矩陣A=(aij)=( (xi,xj) ), 其中X=(x1,x2,xn)為一個(gè)基。性質(zhì)4. Schwarz不等式 |(x,y)|£ |x|×|y|證明：給定的m個(gè)向量x1,x2,xm，對于m維向量 l

55、=(l1, l2,lm)T, 作y=l1×x1+l2×x2+lm×xm,則二次型F(l)=|y|2=(y, y)= =lTBl³ 0其中B=(bij)二次型的矩陣。由于對于任意的m維向量l，二次型F(l)為非負(fù)的。因此矩陣B為半正定矩陣，從而det(B)³0特別的，當(dāng)m=2時(shí)令x1=x,x2 =y有， B=從而0£det(B)=(x,x)×(y,y)-(x,y)2,即為Schwarz不等式。等號成立的充要條件為x和y相關(guān).推論：設(shè)x,yÎRn,A為對稱正定矩陣，則 |xTy| £ xTAx×yT

56、A-1y（證明留作思考題）性質(zhì)5. 三角不等式 |x+y|£|x|+|y|性質(zhì)6. (Reize表示定理) Euclid空間Vn中所有的線性函數(shù)都可表示為內(nèi)積形式， 即設(shè)l(x)為Vn為的一個(gè)線性函數(shù)， 則一定存在一個(gè)向量 ul ÎVn使得對任一xÎVn有l(wèi)(x)=(ul,x).正交性Euclid空間的向量正交性： x和y正交的定義為(x,y)=0，記為x y.定理： Euclid 空間的向量x和y正交的充要條件為|x+y|2=|x|2+|y|2定義:如果Euclid空間中的一組非零向量兩兩正交則稱之為正交向量組。定理： 正交向量組一定線性無關(guān)。定義：在Euclid空間Vn中，n個(gè)正交向量組成的極大線性無關(guān)組構(gòu)成Vn的正交基。由單位向量組成的正交基為標(biāo)準(zhǔn)正交基。定理：任意Euclid空間Vn中存在一組正交基。對任意一組Vn的一個(gè)基x1,x2,xn,存在一組正交基y1,y2,yn滿足L(x1,x2,xi)=L(y1,y2,yi) , i=1,2,n成立。證明過程就是 Gram-Schmidt正交化過程。子空間的正交性： 設(shè)Euclid空間Vn的兩個(gè)子空間V1和V2滿足任給xÎV1, yÎV2滿足(x,y)=0, 則稱V