線性代數(shù)方程組的直接解法詳解演示文稿

線性代數(shù)方程組的直接解法詳解演示文稿現(xiàn)在是1頁\一共有72頁\編輯于星期三（優(yōu)選）線性代數(shù)方程組的直接解法現(xiàn)在是2頁\一共有72頁\編輯于星期三

3.2解線性方程組的直接法（高斯消去法）

3.2.1高斯消去法的基本思想例3.1解線性方程組

①②③解:

該方程組的求解過程實際上是將中學(xué)學(xué)過的消元法標(biāo)準(zhǔn)化,將一個方程乘或除以某個常數(shù),然后將兩個方程相加減,逐步減少方程中的未知數(shù),最終使每個方程只含有一個未知數(shù),從而得出所求的解。整個過程分為消元和回代兩個部分。

現(xiàn)在是3頁\一共有72頁\編輯于星期三（1）消元過程第1步:將方程①乘上(-2)加到方程②上去,將方程①乘上加到方程③上去,這樣就消去了第2、3個方程的項,于是就得到等價方程組④⑤現(xiàn)在是4頁\一共有72頁\編輯于星期三第2步：將方程

④乘上加到方程

⑤上去，這樣就消去了第3個方程的項，于是就得到等價方程組

⑥這樣，消元過程就是把原方程組化為上三角形方程組，其系數(shù)矩陣是上三角矩陣。

（2）回代過程回代過程是將上述三角形方程組自下而上求解，從而求得原方程組的解：

現(xiàn)在是5頁\一共有72頁\編輯于星期三前述的消元過程相當(dāng)于對原方程組

的增廣矩陣進(jìn)行下列變換(表示增廣矩陣的第行）同樣可得到與原方程組等價的方程組⑥現(xiàn)在是6頁\一共有72頁\編輯于星期三

由此看出,高斯消去法解方程組基本思想是設(shè)法消去方程組的系數(shù)矩陣A的主對角線下的元素,而將Ax=b化為等價的上三角形方程組,然后再通過回代過程便可獲得方程組的解。換一種說法就是用矩陣行的初等變換將原方程組系數(shù)矩陣化為上三角形矩陣,而以上三角形矩陣為系數(shù)的方程組的求解比較簡單,可以從最后一個方程開始,依次向前代入求出未知變量這種求解上三角方程組的方法稱為回代,通過一個方程乘或除以某個常數(shù),以及將兩個方程相加減,逐步減少方程中的變元數(shù),最終將方程組化成上三角方程組,一般將這一過程稱為消元,然后再回代求解。通常把按照先消元,后回代兩個步驟求解線性方程組的方法稱為高斯（Gauss）消去法?，F(xiàn)在是7頁\一共有72頁\編輯于星期三3.2.2高斯消去法算法構(gòu)造

線性方程組(3.1)用矩陣形式表示為

(3.3)解線性方程組（3.1）的高斯（Gauss）消去法的消元過程就是對(3.3)的增廣矩陣進(jìn)行行初等變換。將例3.1中解三階線性方程組的消去法推廣到一般的階線性方程組并記則高斯消去法的算法構(gòu)造歸納為：

現(xiàn)在是8頁\一共有72頁\編輯于星期三⑴消元過程,高斯消去法的消元過程由n-1步組成：第1步設(shè),把(3.3)中的第一列中元素消為零,令用乘以第1個方程后加到第個方程上去,消去第2～n個方程的未知數(shù),得到即其中

現(xiàn)在是9頁\一共有72頁\編輯于星期三第k步

（k=2,3,…,n-1）繼續(xù)上述消元過程，設(shè)第k-1次消元已經(jīng)完成，得到與原方程組等價的方程組

記為其中現(xiàn)在是10頁\一共有72頁\編輯于星期三只要,消元過程就可以進(jìn)行下去,直到經(jīng)過n-1次消元之后，消元過程結(jié)束，得到與原方程組等價的上三角形方程組,記為或者寫成

現(xiàn)在是11頁\一共有72頁\編輯于星期三即

(3.7)（2）回代過程就是對上三角方程組（3.7）自下而上逐步回代解方程組計算，即

現(xiàn)在是12頁\一共有72頁\編輯于星期三（3）高斯消去法的計算步驟：①消元過程;設(shè)計算②回代過程

現(xiàn)在是13頁\一共有72頁\編輯于星期三(4)高斯消去法流程圖

，見P42(5)

Gauss消去法計算量≈①消元計算:aij(k+1)=aij(k)-mik

akj(k)

(i,j=k+1,k+2,…,n)

第一步計算乘數(shù)mik,mik=ai1/a11

(i=2,3,…,n)

需要n-1次除法運算,

計算aij(2）(i,j=2,3,…,n)

需要(n-1)2次乘法運算及(n-1)2次加減法運算,現(xiàn)在是14頁\一共有72頁\編輯于星期三第k步加減法次數(shù)乘法次數(shù)除法次數(shù)123…n-1(n-1)2(n-2)2(n-3)2…1(n-1)2(n-2)2(n-3)2…1(n-1)(n-2)(n-3)…1合計n(n-1)(2n-1)/6n(n-1)(2n-1)/6n(n-1)/2乘除法次數(shù)：MD=n(n-1)(2n-1)/6+n(n-1)/2=1/3n(n2-1)加減法次數(shù)：AS=n(n-1)(2n-1)/6現(xiàn)在是15頁\一共有72頁\編輯于星期三3.2.3高斯消去法的適用條件定理3.1方程組系數(shù)矩陣的順序主子式全不為零則高斯消去法能實現(xiàn)方程組的求解。證明上三角形方程組是從原方程組出發(fā)，通過逐次進(jìn)行“一行乘一數(shù)加到另一行”而得出的，該變換不改變系數(shù)矩陣順序主子式的值。

現(xiàn)在是16頁\一共有72頁\編輯于星期三設(shè)方程組系數(shù)矩陣，其順序主子式（m=1,2,…，n）

經(jīng)變換得到的上三角形方程組的順序主子式所以能實現(xiàn)高斯消去法求解

（m=1,2,…，n）現(xiàn)在是17頁\一共有72頁\編輯于星期三定義3.1設(shè)矩陣每一行對角元素的絕對值都大于同行其他元素絕對值之和

則稱A為嚴(yán)格對角占優(yōu)矩陣。

定理3.2若方程組的系數(shù)矩陣A為嚴(yán)格對角占優(yōu)，則用高斯消去法求解時，全不為零。

現(xiàn)在是18頁\一共有72頁\編輯于星期三證:先考察消元過程的第1步,因A為嚴(yán)格對角占優(yōu),故故,又根據(jù)高斯消去公式得

于是再利用方程組的對角占優(yōu)性,由上式可進(jìn)一步得又由得

故有當(dāng)A為嚴(yán)格對角占優(yōu)時,,余下的子陣仍是對角占優(yōu)的，從而又有。依次類推全不為零。定理證畢?，F(xiàn)在是19頁\一共有72頁\編輯于星期三一般線性方程組使用高斯消去法求解時，在消元過程中可能會出現(xiàn)的情況，這時消去法將無法進(jìn)行；即使，但它的絕對值很小時，用其作除數(shù)，會導(dǎo)致其他元素數(shù)量級的嚴(yán)重增長和舍入誤差的擴(kuò)散，將嚴(yán)重影響計算結(jié)果的精度。實際計算時必須避免這類情況的發(fā)生。主元素消去法就可彌補這一缺陷?，F(xiàn)在是20頁\一共有72頁\編輯于星期三交換原則：通過方程或變量次序的交換，使在對角線位置上獲得絕對值盡可能大的系數(shù)作為akk(k)，稱這樣的akk(k)

為主元素，并稱使用主元素的消元法為主元素法根據(jù)主元素選取范圍分為：列主元素法、行主元素法、全主元素法記筆記3.2.4高斯主元素消去法現(xiàn)在是21頁\一共有72頁\編輯于星期三主元素法的意義例3.2用高斯消去法求下列方程組的解

解：確定乘數(shù)，再計算系數(shù)假設(shè)計算在4位浮點十進(jìn)值的計算機(jī)上求解,則有

這時方程組的實際形式是

由此回代解出,但這個解不滿足原方程組,解是錯誤的。這是因為所用的除數(shù)太小使得上式在消元過程中“吃掉”了下式，解決這個問題的方法之一就是采用列選主元高斯消元法。即按列選絕對值大的系數(shù)作為主元素，則將方程組中的兩個方程相交換，原方程組變?yōu)?/p>

得到消元后的方程組現(xiàn)在是22頁\一共有72頁\編輯于星期三這時

因而方程組的實際形式是由此回代解出,這個結(jié)果是正確的可見用高斯消去法解方程組時,小主元可能導(dǎo)致計算失敗,因為用絕對值很小的數(shù)作除數(shù),乘數(shù)很大,引起約化中間結(jié)果數(shù)量級嚴(yán)重增長,再舍入就使得計算結(jié)果不可靠了,故避免采用絕對值很小的主元素。以便減少計算過程中舍入誤差對計算解的影響。現(xiàn)在是23頁\一共有72頁\編輯于星期三全主元素消去法是通過方程或變量次序的交換，使在對角線位置上獲得絕對值盡可能大的系數(shù)作為，稱這樣的為主元素。盡管它的算法更穩(wěn)定，但計算量較大，實際應(yīng)用中大多數(shù)使用列主元素消去法即可滿足需要。

現(xiàn)在是24頁\一共有72頁\編輯于星期三全主元素法不是按列選主元素，而是在全體待選系數(shù)中選取，則得全主元素法。例3.3用全主元素法解下列線組

10x1-19x2-2x3=3(1)-20x1+40x2+x3=4(2)x1+4x2+5x3=5(3)解：選擇所有系數(shù)中絕對值最大的40作為主元素，交換第一、二行和交換第一、二列使該主元素位于對角線的第一個位置上，得40x2-20x1+

x3=4(4)-19x2+10x1-2x3=3(5)

4x2+x1+5x3=5(6)記筆記現(xiàn)在是25頁\一共有72頁\編輯于星期三計算m21=-19/40=0.475，m31=4/40=0.1(5)-m21(4),(6)-m31(4)消去x2

得

0.5x1–1.525x3=4.9(7)3x1+4.9

x3=4.6(8)選4.9為主元素

4.9x3+3x1=4.6(9)1.525x3+0.5x1=4.9(10)計算m32=-1.525/4.9=-0.31122，(10)-m32(9)消去x2得1.43366x1=6.33161(11)記筆記現(xiàn)在是26頁\一共有72頁\編輯于星期三保留有主元素的方程40x2-20x1+

x3=4(4)

4.9x3+3x1=4.6(9)

1.43366x1=6.33161(11)進(jìn)行回代x1=4.41634

x3=-1.76511x2=2.35230現(xiàn)在是27頁\一共有72頁\編輯于星期三3.2.4.1列主元素法列主元素法就是在待消元的所在列中選取主元，經(jīng)方程的行交換，置主元素于對角線位置后進(jìn)行消元的方法。例3.4用列主元素法解下列線性方程組

10x1-19x2-2x3=3(1)-20x1+40x2+x3=4(2)x1+4x2+5x3=5(3)解：選擇-20作為該列的主元素，-20x1+40x2+x3=3(4)

10x1-19x2-2x3=4(5)x1+4x2+5x3=5(6)計算m21

=10/-20=-0.5

m31=1/-20=-0.05現(xiàn)在是28頁\一共有72頁\編輯于星期三(5)-m21(4),(6)-m31(4)得

x2–1.5x3=5(7)6x2+5.05x3=5.2(8)選6為主元素6x2+5.05x3=5.2(9)x2–1.5x3=5(10)計算m32=1/6=0.16667，

(10)-m32(9)得-2.34168x3=4.13332(11)記筆記現(xiàn)在是29頁\一共有72頁\編輯于星期三保留有主元素的方程

-20x1+40x2+x3=4(4)6x2+5.05x3=5.2(9)-2.34168x3=4.13332(11)進(jìn)行回代x3=-1.76511x2=2.35230x1=4.41634記筆記

列選主元素的計算方法與高斯消去法完全一樣,不同的是在每步消元之前要按列選出主元現(xiàn)在是30頁\一共有72頁\編輯于星期三例3.5用矩陣的初等行變換求解解方程組

解:用矩陣的初等行變換求解,對增廣矩陣

(下面帶下劃線元素為主元素)現(xiàn)在是31頁\一共有72頁\編輯于星期三現(xiàn)在是32頁\一共有72頁\編輯于星期三3.3矩陣三角分解法

3.3.1矩陣三角分解原理

應(yīng)用高斯消去法解n階線性方程組Ax=b,經(jīng)過n步消元之后,得出一個等價的上三角型方程組A(n)x=b(n),對上三角形方程組用逐步回代就可以求出解來。上述過程可通過矩陣分解來實現(xiàn)。將非奇異陣A分解成一個下三角陣L和一個上三角陣U的乘積

A=LU

稱為對矩陣A的三角分解，又稱LU分解現(xiàn)在是33頁\一共有72頁\編輯于星期三其中現(xiàn)在是34頁\一共有72頁\編輯于星期三方程組Ax=b的系數(shù)矩陣A經(jīng)過順序消元逐步化為上三角型A(n),相當(dāng)于用一系列初等變換左乘A的結(jié)果。事實上，第1列消元將A(1)=A化為A(2)，若令：則根據(jù)距陣左乘有L1A(1)=A(2)現(xiàn)在是35頁\一共有72頁\編輯于星期三第2列消元將A(2)化為A(3)，若令：經(jīng)計算可知L2A(2)=A(3),依此類推,一般有LkA(k)=A(k+1)現(xiàn)在是36頁\一共有72頁\編輯于星期三mi1=a(1)

i1/a(1)

11i=2,3,……n于是矩陣經(jīng)過消元化為上三角陣的過程可表示為上述矩陣是一類初等矩陣,它們都是單位下三角陣，且其逆矩陣也是單位下三角陣,只需將

改為

,就得到。即現(xiàn)在是37頁\一共有72頁\編輯于星期三于是有

其中現(xiàn)在是38頁\一共有72頁\編輯于星期三L為由乘數(shù)構(gòu)成的單位下三角陣，U為上三角陣，由此可見，在的條件下，高斯消去法實質(zhì)上是將方程組的系數(shù)矩陣A分解為兩個三角矩陣的乘積A=LU。這種把非奇異矩陣A分解成一個下三角矩陣L和一個上三角矩陣U的乘積稱為矩陣的三角分解，又稱LU分解。顯然，如果,由行列式的性質(zhì)知，方程組系數(shù)矩陣A的前n-1個順序主子矩陣非奇異，即順序主子式不等于零，即現(xiàn)在是39頁\一共有72頁\編輯于星期三其中（A的主子陣）

反之,可用歸納法證明,如果A的順序主子式則于是得到下述定理：

現(xiàn)在是40頁\一共有72頁\編輯于星期三定理3.5設(shè)。如果A順序各階主子式,,則A可惟一地分解成一個單位下三角陣L和一個非奇異的上三角陣U的乘積。證：由于A各階主子式不為零,則消元過程能進(jìn)行到底,前面已證明將方程組的系數(shù)矩陣A用初等變換的方法分解成兩個三角矩陣的乘積A=LU的過程。

現(xiàn)僅證明分解的惟一性。設(shè)A有兩種LU分解其中為單位下三角陣，為上三角陣

∵A的行列式均為非奇異矩陣,有上式兩邊左邊同乘，右邊同乘得上式左邊為單位下三角陣,右邊為上三角陣,故應(yīng)為單位陣,即惟一性得證。現(xiàn)在是41頁\一共有72頁\編輯于星期三把A分解成一個單位上三角陣L和一個下三角陣U的乘積稱為杜利特爾（Doolittle）分解。其中

現(xiàn)在是42頁\一共有72頁\編輯于星期三若把A分解成一個下三角陣L和一個單位上三角陣U的乘積稱為克洛特分解Crout）

其中現(xiàn)在是43頁\一共有72頁\編輯于星期三3.3.2用三角分解法解方程組求解線性方程組Ax=b時,先對非奇異矩陣A進(jìn)行LU分解使A=LU，那么方程組就化為

LUx=b從而使問題轉(zhuǎn)化為求解兩個簡單的的三角方程組

Ly=b求解yUx=y求解x這就是求解線性方程組的三角分解法的基本思想。下面只介紹杜利特爾（Doolittle）分解法。設(shè)A=LU為現(xiàn)在是44頁\一共有72頁\編輯于星期三由矩陣乘法規(guī)則由此可得U的第1行元素和L的第1列元素現(xiàn)在是45頁\一共有72頁\編輯于星期三再確定U的第k行元素與L的第k列元素,對于k=2,3,…,n計算：①

計算U的第k行元素

（j=k,k+1,…,n）

②計算L的第k列元素（i=k,k+1,…,n）

現(xiàn)在是46頁\一共有72頁\編輯于星期三利用上述計算公式便可逐步求出U與L的各元素求解Ly=b,即計算:

求解Ux=y,即計算：現(xiàn)在是47頁\一共有72頁\編輯于星期三顯然,當(dāng)時,解Ax=b直接三角分解法計算才能完成。設(shè)A為非奇異矩陣,當(dāng)時計算將中斷或者當(dāng)絕對值很小時，按分解公式計算可能引起舍入誤差的積累，因此可采用與列主元消去法類似的方法，對矩陣進(jìn)行行交換，則再實現(xiàn)矩陣的三角分解。用直接三角分解法解Ax=b大約需要次乘除法。

現(xiàn)在是48頁\一共有72頁\編輯于星期三例3.8用三角分解法解方程組

求解

Ly=b得

y=[2，2，1]T

求解Ux=y得x=[-1，0，1]T所以方程組的解為

現(xiàn)在是49頁\一共有72頁\編輯于星期三3.5追趕法在數(shù)值計算中,有一種系數(shù)矩陣是三對角方程組

簡記為Ax=f,A滿足條件（1）（2）（3）現(xiàn)在是50頁\一共有72頁\編輯于星期三用歸納法可以證明，滿足上述條件的三對角線性方程組的系數(shù)矩陣A非奇異，所以可以利用矩陣的直接三角分解法來推導(dǎo)解三對角線性方程組的計算公式，用克洛特分解法，將A分解成兩個三角陣的乘積，設(shè)A=LU

按乘法展開

則可計算

可依次計算當(dāng)，由上式可惟一確定L和U。

現(xiàn)在是51頁\一共有72頁\編輯于星期三例3.9用追趕法求解三對角方程組

解由Ly=f

解出y又由Ux=y解出x現(xiàn)在是52頁\一共有72頁\編輯于星期三記筆記3.6向量和矩陣的范數(shù)向量范數(shù)是用來度量向量長度的,它可以看成是二、三維解析幾何中向量長度概念的推廣。用Rn表示n維實向量空間?，F(xiàn)在是53頁\一共有72頁\編輯于星期三記筆記3.6向量和矩陣的范數(shù)定義3.2

對任一向量XRn,按照一定規(guī)則確定一個實數(shù)與它對應(yīng),該實數(shù)記為||X||,若||X||滿足下面三個性質(zhì):(1)||X||0；||X||=0當(dāng)且僅當(dāng)X=0；(2)對任意實數(shù)，||X||=||||X||；對任意向量YRn，||X+Y||||X||+||Y||

則稱該實數(shù)||X||為向量X的范數(shù)現(xiàn)在是54頁\一共有72頁\編輯于星期三在Rn中，常用的幾種范數(shù)有：記筆記其中x1,x2,…,xn分別是X的n個分量。以上定義的范數(shù)分別稱為1-范數(shù)，2-范數(shù)和-范數(shù)現(xiàn)在是55頁\一共有72頁\編輯于星期三當(dāng)不需要指明使用哪一種向量范數(shù)時，就用記號||.||泛指任何一種向量范數(shù)。有了向量的范數(shù)就可以用它來衡量向量的大小和表示向量的誤差。設(shè)x*為Ax=b的精確解，x為其近似解，則其絕對誤差可表示成||x-x*||，其相對誤差可表示成記筆記3.6向量和矩陣的范數(shù)或現(xiàn)在是56頁\一共有72頁\編輯于星期三現(xiàn)在是57頁\一共有72頁\編輯于星期三例3.11設(shè)x=(1,0,-1,2)T,計算

解:=1+0+|-1|+2=4現(xiàn)在是58頁\一共有72頁\編輯于星期三定理3.7對于任意向量x,有證:∵

∴即

當(dāng)p→∞，

∴現(xiàn)在是59頁\一共有72頁\編輯于星期三定義3.4(向量序列的極限)設(shè)為中的一向量序列，,記。如果(i=1,2,…,n)，則稱收斂于向量，記為定理3.8（向量范數(shù)的等價性）設(shè)為上任意兩種向量范數(shù),則存在常數(shù)C1,,C2>0,使得對任意恒有（證:略）

現(xiàn)在是60頁\一共有72頁\編輯于星期三定理3.9

其中為向量中的任一種范數(shù)。

證由于

而對于上的任一種范數(shù),由定理3.7知存在常數(shù)C1，C2，使于是可得從而定理得證?，F(xiàn)在是61頁\一共有72頁\編輯于星期三定義3.5（矩陣的范數(shù)）如果矩陣的某個

非負(fù)的實值函數(shù)，滿足則稱是上的一個矩陣范數(shù)(或模)現(xiàn)在是62頁\一共有72頁\編輯于星期三現(xiàn)在是63頁\一共有72頁\編輯于星期三定義3.7（矩陣的譜半徑）設(shè)的特征值為,稱為A的譜半徑。例3.12計算方陣

的三種常用范數(shù)現(xiàn)在是64頁\一共有72頁\編輯于星期三例3.12計算方陣

的三種范數(shù)

解先計算