周國標師生交流講席

1、蒞芃蚈肅肄薈薄肄膇莁袃肅艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蕆螇芆薃螅螆羅莆螁螆膈蟻蚇螅芀蒄薃螄莂芇袂螃肂蒂螈螂膄芅蚄袁芇蒁薀袀羆芃蒆袀肈葿襖衿芁莂螀袈莃薇蚆袇肅莀薂袆膅薅蒈裊芇莈螇羄羇薄蚃羄聿莇蕿羃節(jié)薂薅羂莄蒅襖羈肄羋螀羀膆蒃蚅罿羋芆薁羈羈蒁蕆肈肀芄螆肇膂蒀螞肆蒞芃蚈肅肄薈薄肄膇莁袃肅艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蕆螇芆薃螅螆羅莆螁螆膈蟻蚇螅芀蒄薃螄莂芇袂螃肂蒂螈螂膄芅蚄袁芇蒁薀袀羆芃蒆袀肈葿襖衿芁莂螀袈莃薇蚆袇肅莀薂袆膅薅蒈裊芇莈螇羄羇薄蚃羄聿莇蕿羃節(jié)薂薅羂莄蒅襖羈肄羋螀羀膆蒃蚅罿羋芆薁羈羈蒁蕆肈肀芄螆肇膂蒀螞肆蒞芃蚈肅肄薈薄肄膇莁袃肅艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蕆螇芆薃螅螆羅莆螁螆膈蟻蚇螅芀蒄薃螄

2、莂芇袂螃肂蒂螈螂膄芅蚄袁芇蒁薀袀羆芃蒆袀肈葿襖衿芁莂螀袈莃薇蚆袇肅莀薂袆膅薅蒈裊芇莈螇羄羇薄蚃羄聿莇蕿羃節(jié)薂薅羂莄蒅襖羈肄羋螀羀膆蒃蚅罿羋芆薁羈羈蒁蕆肈肀芄螆肇膂蒀螞肆蒞芃蚈肅肄薈薄肄膇莁袃肅艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蕆螇芆薃螅螆羅莆螁 周國標師生交流講席004 2007.9.30本次講席討論求解數(shù)值線性代數(shù)兩大主要問題的基本思想之一等價變換思想，這兩大基本問題分別是： 。1如第一章所述，數(shù)值線性代數(shù)是數(shù)值計算的一個重要領(lǐng)域，主要研究兩大類矩陣方程及其擴展的問題的數(shù)值計算方法及其相關(guān)的數(shù)學(xué)理論，問題的核心對象是矩陣，所以又稱為矩陣計算，它是數(shù)值計算中近代發(fā)展最快，蘊含的數(shù)學(xué)思想空前活躍，研究

3、成果也相當豐富的領(lǐng)域。數(shù)值線性代數(shù)包括線性方程組問題、矩陣特征值問題，最小二乘問題和奇異值問題的數(shù)值計算，其中前兩者為兩大基本、也是基礎(chǔ)問題。針對矩陣的階數(shù)大小，以及的對稱性，正定性，稀疏性，奇異性，帶狀性等等結(jié)構(gòu)特征，求解的數(shù)值方法大體分為直接法和間接法兩大類。大家在第一章已經(jīng)知道了什么叫直接法和間接法，這里不多解釋。采用等價線性變換來化簡問題的求解難度，是貫穿于數(shù)值線性代數(shù)的一個成功有效的數(shù)學(xué)思想，它指通過等價線性變換，將矩陣變?yōu)檩^為簡單特殊的矩陣，使變換后對矩陣有關(guān)的計算求解更為直接，有利于原問題的求解。這里“等價”的含義是指變換前后的問題的解相同（或者說變換前后的兩問題是同解方程問題）

4、。根據(jù)這一思想，已提出了一批有效的數(shù)值方法。下面來分析這一思想是如何體現(xiàn)在求解兩類問題上的。（1）線性代數(shù)方程組 由線性代數(shù)的理論可知，方程有解的充分必要條件是秩（A，b）=秩A，其中（A，b）稱為方程的增廣矩陣。由于對矩陣的初等行變換不改變矩陣的秩，而對矩陣的初等行變換對應(yīng)一個非奇異矩陣P左乘于矩陣，所以，若有非奇異矩陣，使，那么，秩（A，b）= 秩A = 秩PA= 秩P（A，b）= 秩（PA，Pb）= 秩（B，d）。對于標準的線性方程組（指為n階方陣），為了使得從中容易求出，最理想的矩陣是單位陣，這時，未知向量直接求出，此時的非奇異矩陣，是的逆陣。理論上，可由初等行變換這樣，可以求得的逆陣

5、。但從數(shù)值計算的復(fù)雜度角度看，這樣做是不妥的。所以，要求退而求其次，改為實施矩陣的三角化。三角形方程組的求解雖然不是一步能夠解出，但畢竟容易求出這就是我們在中學(xué)學(xué)過的Guass消元法的思想萌芽，由此發(fā)展起來的Guass消元法是數(shù)值求解的直接法的基礎(chǔ)。例11 用Guass消元法求解 解：用初等行變換消去（2）（3）中的（即使的系數(shù)為0），具體的說，用（-2）乘（1），加到（2）上，用（-3）乘（10，加到（3）上，就可得到與方程組（I）等價的下列（II）：第2步，再利用初等行變換消去中的，可得與（II）等價的（III）： 此時的方程組（III）已是所謂的上三角形方程組，可用反向回代的方法（即先得

6、，再得，最后得），不難得到方程組（III）的解，也是原方程組的解：。 顯然，上述思想和方法可以運用到任意高階的上，其實質(zhì)是用一組初等行變換把系數(shù)矩陣變?yōu)橐粋€三角形矩陣，即尋找一個非奇異的行變換P（對應(yīng)的變換矩陣為P），使，這里為上三角形矩陣。這個過程可用下圖表示。 （1. 1）這個過程稱為將矩陣非奇異上三角化，或者將矩陣非奇異下三角零化。這個變換過程導(dǎo)致原方程組的求解基本實現(xiàn)，所以，需要仔細研究這樣的非奇異矩陣如何有效地生成。這是我們將在下一節(jié)研究的核心問題之一。如果有的同學(xué)還不理解這個過程，恐怕深究下去在你的線性代數(shù)的基礎(chǔ)，不太清楚為什么實行初等行變換后，前后兩方程組是“等價”的。希望這樣的

7、同學(xué)先復(fù)習(xí)有關(guān)的內(nèi)容，也可以找參加本學(xué)期初“數(shù)學(xué)復(fù)習(xí)班”的同學(xué)一起討論。（2）矩陣特征值問題。理論上我們知道，矩陣特征值可從特征方程 求出，我們在本科學(xué)線性代數(shù)時，用這樣的方法計算過。不過，我們在練習(xí)中做的題基本上是解3階矩陣的，最多是4階了，因為階數(shù)高了，行列式的展開就夠麻煩的了。即使你化了九牛二虎之力，將行列式展開成一個高階的代數(shù)方程，它的數(shù)值求解也非易事。所以，數(shù)值計算不走這樣“理論上正確，但實際計算困難”之路。那么，路在何方？我們在線性代數(shù)里熟悉一條重要結(jié)論：對矩陣作相似變換可保持其特征值不變，即相似變換具有保譜功能。設(shè)矩陣相似于矩陣，即存在非奇異矩陣，使得，則不難證明，從而的特征多項

8、式相等，兩者的特征值就相同。如果變換后的矩陣的特征值比較容易求出，那么，矩陣的特征值也就隨之而得，問題解決！什么樣的矩陣的特征值容易求出呢？對角陣和三角陣！這樣的矩陣的特征值就是其對角線上的全部元素。所以，如果對矩陣能找到一個相似變換，得到的矩陣恰為對角陣或三角陣，那么，矩陣的特征值問題就基本解決（這里沒有說徹底解決，是因為還有計算特征向量的問題）。線性代數(shù)有相應(yīng)的理論結(jié)果支持這樣的思路。 對于對稱矩陣，我們熟悉下面的結(jié)果：引理1. 1設(shè)為對稱矩陣，則存在正交矩陣，使得 (1. 2)其中對角矩陣的對角線上的元素恰為的所有特征值，而正交矩陣的諸列恰是各特征值對應(yīng)的標準化的特征向量。上述引理稱為對

9、稱陣的正交對角化，從數(shù)學(xué)的觀點看，這是一個很深刻有很優(yōu)美的結(jié)果。如果矩陣是Hermite矩陣，只需在上述引理中將正交矩陣改為酉矩陣即可。對于非對稱矩陣，無法做到一般性的正交對角化（雖然有時也可存在這樣的矩陣），但是，我們可以推而其次，實現(xiàn)酉三角化。這便有著名的Schur三角化定理。引理1. 2 設(shè)的特征值為，則存在酉矩陣，使得 。 (1. 3)證明：對階數(shù)n用數(shù)學(xué)歸納法。當n =1，結(jié)論是顯然的。假設(shè)對階矩陣，定理的結(jié)論成立，現(xiàn)在此基礎(chǔ)上來證明對n階矩陣結(jié)論也成立。設(shè)，且已標準化（即其長度為，）。將擴充為上的一個標準正交基：，并記，那么為酉矩陣。這里要注意，不一定是矩陣的其他特征向量，但它們與

10、夠成一個正交基，在中的正交基不是唯一的。這樣，我們就有 具體地，上式的右邊可表為其中第1列元素為 ，因此，其中為階矩陣。由于矩陣與酉相似，故兩者的特征值相同。記階矩陣的個特征值為。 由歸納假定知，存在階酉矩陣，使得 記 ，和， 則為n階酉矩陣，且有 。 當實矩陣的特征值為實值時，則存在正交矩陣，使得 .由(1.2)和（1.3）,如果能尋找到酉矩陣或正交矩陣, 那么矩陣的特征值就找到了。這似乎是說，矩陣特征值問題基本解決了。但是，問題在于這樣的酉矩陣（或正交矩陣）怎么求法？一般的說，這個新問題不比原問題（指矩陣特征值問題）更簡單。理論上只給出了存在性，并沒有給出具體求法。在數(shù)值求解矩陣特征值問題

11、上，現(xiàn)在的主流算法（即我們在第5章要仔細研究的方法）避免直接求酉矩陣或正交矩陣，而將矩陣作正交三角化 ， 其中為酉（正交）陣，為上三角陣。 然后，構(gòu)作。 不難知，故有可見 與 正交相似，兩者特征值相同。再繼續(xù)對作正交三角化， 構(gòu)作， 同理，與相似。按此繼續(xù)下去，可得正交相似的矩陣序列。在一定的條件下可以證明，此矩陣序列將收斂與一個三角矩陣，從而此三角矩陣的隊角元素便是矩陣的特征值。上述過程就是著名的方法（矩陣的分解算法是20 世紀的十大算法之一）。一般矩陣的特征值問題得到解決。這樣，問題就轉(zhuǎn)化為矩陣的正交三角化，即，或者，形象地可表為 。 （1. 4）這樣的過程稱為將矩陣正交上三角化，或者將矩

12、陣正交下三角部分零化。這個過程的提出, 是數(shù)值計算史上一個里程碑式的成就.注意(1.4)與(1.1)表面看來, 都是三角化, 形式上相同。 但是，它們的線性變換的性質(zhì)不同。第一個是非奇異變換，因為解線性方程組只需要保證矩陣的秩不變就可以了；而后者是正交變換，特征值問題的求解需要保譜，還需要保范。這些道路以后具體學(xué)習(xí)時再作解釋。當然，對線性代數(shù)掌握得較好的同學(xué)來說，我想你們已經(jīng)明白其中的理由了。由此可見，要解決這兩大類矩陣方程的數(shù)值求解問題，首先要解決實現(xiàn)(1.1)和(1.4)的數(shù)值計算方法問題。我們在后面的學(xué)習(xí)中，就致力于尋找這樣的數(shù)值工具，圍繞這個主題開展的。 實際上，大家已經(jīng)學(xué)習(xí)了Hous

13、eholder 反射變換， Givens 旋轉(zhuǎn)變換， Gauss變換等，這些看起來有點讓人模糊的變換，目的卻很簡單為了實現(xiàn)三角化！我想，這樣的解釋已經(jīng)講到點子上了。該休息了。大家看，數(shù)學(xué)并不那么神秘，它是很有邏輯，很有道路，很有根據(jù)的。數(shù)學(xué)也并不玄乎，如果有誰把它講玄乎了，那一定是那個人在故弄玄乎，賣弄高深，嚇乎老百姓，或者他自己也沒有鬧明白，照章宣科。我看，這時，你還是離開他吧，不要浪費寶貴的時間。謝謝。下一講，該說說Householder 反射變換了。 膈薀肄肀膇蚃袇羆膆螅蠆芄膆蒅裊膀芅薇蚈肆芄蠆袃羂芃荿蚆袈節(jié)薁袂芇芁蚃螄膃芀螆羀聿芀蒅螃羅艿薈羈袁莈蝕螁膀莇莀羆肆莆蒂蝿羂蒞蚄羅羈蒞螇袈芆莄蒆蝕膂莃蕿袆肈莂蟻蠆羄蒁莁襖袀蒀蒃蚇腿葿薅袂膅葿螇蚅肁蒈蕆羈羇蕆蕿螃芅蒆螞罿膁蒅螄螂肇薄蒄羇羃膁薆螀衿膀蚈羆羋腿蒈螈膄膈薀肄肀膇蚃袇羆膆螅蠆芄膆蒅裊膀芅薇蚈肆芄蠆袃羂芃荿蚆袈節(jié)薁袂芇芁蚃螄膃芀螆羀聿芀蒅螃羅艿薈羈袁莈蝕螁膀莇莀羆肆莆蒂蝿羂蒞蚄羅羈蒞螇袈芆莄蒆蝕膂莃蕿袆肈莂蟻蠆羄