數(shù)值分析ppt第5章解線性方程組的直接方法

1、上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁第第5章章 解線性方程組的直接方法解線性方程組的直接方法 5.1 引言與預(yù)備知識(shí)引言與預(yù)備知識(shí) 5.2 高斯消去法高斯消去法 5.3 高斯主元素消去法高斯主元素消去法 5.4 矩陣三角分解法矩陣三角分解法 5.5 向量和矩陣的范數(shù)向量和矩陣的范數(shù) 5.6 誤差分析誤差分析 5.7 矩陣的正交三角化及應(yīng)用矩陣的正交三角化及應(yīng)用上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 這一章討論線性方程組這一章討論線性方程組5.1 引言與預(yù)備知識(shí)引言與預(yù)備知識(shí) .,22112222212111212111mnmnmmnnnnbxaxaxabxaxaxabxa

2、xaxa的數(shù)值解法的數(shù)值解法.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 在自然科學(xué)和工程技術(shù)中在自然科學(xué)和工程技術(shù)中, ,很多問題歸結(jié)為很多問題歸結(jié)為解解線性方程組線性方程組. .例如電學(xué)中的網(wǎng)絡(luò)問題，船體數(shù)學(xué)放例如電學(xué)中的網(wǎng)絡(luò)問題，船體數(shù)學(xué)放樣中建立三次樣條函數(shù)問題，用最小二乘法求實(shí)驗(yàn)樣中建立三次樣條函數(shù)問題，用最小二乘法求實(shí)驗(yàn)數(shù)據(jù)的曲線擬合問題，解非線性方程組問題，用差數(shù)據(jù)的曲線擬合問題，解非線性方程組問題，用差分法或者有限元方法解常微分方程、偏微分方程邊分法或者有限元方法解常微分方程、偏微分方程邊值問題等都導(dǎo)致求解線性方程組，而這些值問題等都導(dǎo)致求解線性方程組，而這些方程組的方程

3、組的系數(shù)矩陣大致分為兩種系數(shù)矩陣大致分為兩種，一種是低階稠密矩陣一種是低階稠密矩陣( (例例如，階數(shù)不超過如，階數(shù)不超過150). 150). 另另一種是大型稀疏矩陣一種是大型稀疏矩陣( (即即矩陣階數(shù)高且零元素較多矩陣階數(shù)高且零元素較多).).5.1.1 引言引言上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 有的問題的數(shù)學(xué)模型中雖不直接表現(xiàn)為含線性有的問題的數(shù)學(xué)模型中雖不直接表現(xiàn)為含線性方程組方程組, ,但它的數(shù)值解法中將問題但它的數(shù)值解法中將問題“離散化離散化”或或“線性化線性化”為線性方程組為線性方程組. .因此因此線性方程組的求解是線性方程組的求解是數(shù)值分析課程中最基本的內(nèi)容之一數(shù)

4、值分析課程中最基本的內(nèi)容之一. . 關(guān)于線性方程組的解法一般有兩大類：關(guān)于線性方程組的解法一般有兩大類：上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 但實(shí)際計(jì)算中由于舍入誤差的存在和影響，這但實(shí)際計(jì)算中由于舍入誤差的存在和影響，這種方法也只能求得線性方程組的近似解種方法也只能求得線性方程組的近似解. . 本章將闡本章將闡述這類算法中最基本的和具有代表性的算法就是高述這類算法中最基本的和具有代表性的算法就是高斯消元法斯消元法, ,以及它的某些變形和應(yīng)用以及它的某些變形和應(yīng)用. .這類方法是解這類方法是解低階稠密矩陣方程組及某些大型稀疏矩陣方程組低階稠密矩陣方程組及某些大型稀疏矩陣方程組( (

5、例例如，大型帶狀方程組如，大型帶狀方程組) )的有效方法的有效方法. . 1. 直接法直接法 經(jīng)過有限次的算術(shù)運(yùn)算經(jīng)過有限次的算術(shù)運(yùn)算, ,可以求得方程組的精確可以求得方程組的精確解解( (假定計(jì)算過程沒有舍入誤差假定計(jì)算過程沒有舍入誤差).).如線性代數(shù)課程中如線性代數(shù)課程中提到的克萊姆算法就是一種直接法提到的克萊姆算法就是一種直接法. .但該法對(duì)高階方但該法對(duì)高階方程組計(jì)算量太大程組計(jì)算量太大, ,不是一種實(shí)用的算法不是一種實(shí)用的算法. .上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 就是用某種極限過程去逐步逼近方程組精確解就是用某種極限過程去逐步逼近方程組精確解的方法的方法. 迭代法

6、具有計(jì)算機(jī)的存儲(chǔ)單元較少、程序設(shè)迭代法具有計(jì)算機(jī)的存儲(chǔ)單元較少、程序設(shè)計(jì)簡單、原始系數(shù)矩陣在計(jì)算過程中始終不變等優(yōu)計(jì)簡單、原始系數(shù)矩陣在計(jì)算過程中始終不變等優(yōu)點(diǎn)，但存在點(diǎn)，但存在收斂條件收斂條件和和收斂速度收斂速度問題問題. .迭代法是解大迭代法是解大型稀疏矩陣方程組型稀疏矩陣方程組( (尤其是由微分方程離散后得到的尤其是由微分方程離散后得到的大型方程組大型方程組) )的重要方法的重要方法( (見第見第6 6章章).). 為了討論線性方程組數(shù)值解法，需復(fù)習(xí)一些基為了討論線性方程組數(shù)值解法，需復(fù)習(xí)一些基本的矩陣代數(shù)知識(shí)本的矩陣代數(shù)知識(shí). . 2. 迭代法迭代法上頁上頁上頁上頁上頁上頁下頁下頁下頁

7、下頁下頁下頁5.1.2 向量和矩陣向量和矩陣 基本概念基本概念： 用用Rmn表示全部表示全部mn實(shí)矩陣的向量空間；實(shí)矩陣的向量空間； 用用Cmn表示全部表示全部mn復(fù)矩陣的向量空間復(fù)矩陣的向量空間. mnmmnnijnmaaaaaaaaaaARA212222111211)(由數(shù)排成的矩陣表，稱為由數(shù)排成的矩陣表，稱為m行行n列矩陣列矩陣).上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 mmxxxxRx21其中其中aj為為A的第的第j列的列的m維列向量維列向量. 同理同理(m維列向量維列向量). ,21naaaA ,21 TmTTbbbA其中其中biT為為A的第的第i行的行的n維行向量維行向

8、量. 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 矩陣的基本運(yùn)算矩陣的基本運(yùn)算： (1) 矩陣加法矩陣加法).,(nmijijijRCBAbacBAC (2) 矩陣與標(biāo)量的乘法矩陣與標(biāo)量的乘法).,(是是一一個(gè)個(gè)數(shù)數(shù) nmijijRCAacAC (3) 矩陣與矩陣的乘法矩陣與矩陣的乘法).,(1pmpnnmnkkjikijRCRBRAbacABC (4) 轉(zhuǎn)置矩陣轉(zhuǎn)置矩陣.,jiijmnTnmacRACRA 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (5) 單位矩陣單位矩陣 ,21nnnReeeI 其中其中., 2 , 1,)0 , 0 , 1 , 0 , 0(nkeTk (6)

9、 非奇異矩陣非奇異矩陣.,IBAABRBAnn 且且若若則稱則稱B是是A的逆矩陣，記為的逆矩陣，記為A- -1，且，且(A- -1)T=(AT)- -1. 如如果果A- -1存在，則存在，則A稱為非奇異矩陣稱為非奇異矩陣. 如果如果A、B均為非均為非奇異矩陣，則有奇異矩陣，則有(AB)- -1=B- -1A- -1.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (7) 矩陣的行列式矩陣的行列式), 2 , 1()det(1niAaAnjijij 設(shè)設(shè)ARnn，則，則A的行列式可按任一行的行列式可按任一行(列列)展開展開,其中其中Aij為為aij的代數(shù)余子式，的代數(shù)余子式，Aij=(- -1

10、)i+jMij，為，為Mij元元素素aij的余子式的余子式. 行列式性質(zhì)行列式性質(zhì)：.,),det()det()det()(nnRBABAABa .),det()det()(nnTRAAAb .,),det()det()(nnnRARcAccAc .0)det()(是是非非奇奇異異矩矩陣陣AAd 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁5.1.3 特殊矩陣特殊矩陣 設(shè)設(shè)A=(aij)Rnn. (1) 對(duì)角矩陣對(duì)角矩陣 如果當(dāng)如果當(dāng)ij 時(shí)，時(shí)，aij =0. (2) 三對(duì)角矩陣三對(duì)角矩陣 如果當(dāng)如果當(dāng)|i- -j|1時(shí)，時(shí)，aij =0. (3) 上三角矩陣上三角矩陣 如果當(dāng)如果當(dāng)ij

11、時(shí)，時(shí)，aij =0. (4) 上海森伯格上海森伯格(Hessenberg)矩陣矩陣 如果當(dāng)如果當(dāng)ij+1時(shí)，時(shí)，aij =0. (5) 對(duì)稱矩陣對(duì)稱矩陣 如果如果AT=A. (6) 埃爾米特埃爾米特(Hermit)矩陣矩陣 設(shè)設(shè)ACnn ，如果當(dāng)，如果當(dāng)AH =A(AH是是A的共軛轉(zhuǎn)置矩陣的共軛轉(zhuǎn)置矩陣).上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (7) 對(duì)稱正定矩陣對(duì)稱正定矩陣 如果如果AT =A且對(duì)任意非零向量，且對(duì)任意非零向量， xRn，(Ax, x)=xTAx0. (8) 正交矩陣正交矩陣 如果如果A- -1=AT. (9) 酉矩陣酉矩陣 設(shè)設(shè)ACnn，如果，如果A- -1=

12、AH. (10) 初等置換陣初等置換陣 由單位矩陣由單位矩陣I交換第交換第i行與第行與第j行行(或第或第i列與第列與第j列列)，得到的矩陣記為，得到的矩陣記為Iij，且，且. IijA=B(為交換為交換A第第i行與第行與第j行得到的矩陣行得到的矩陣)； AIij=C(為交換為交換A第第i列與第列與第j列得到的矩陣列得到的矩陣). (11) 置換陣置換陣 由初等置換陣的乘積得到的矩陣由初等置換陣的乘積得到的矩陣.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 定理定理1 設(shè)設(shè)ARnn，則下述命題等價(jià)：，則下述命題等價(jià)： (1) 對(duì)任何對(duì)任何bRn，方程組，方程組Ax=b有唯一解有唯一解. (2

13、) 齊次方程組齊次方程組Ax=0只有唯一解零解只有唯一解零解x=0. (3) det(A)0. (4) A- -1存在存在. (5) A的秩的秩rank(A)=n.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 定理定理2 設(shè)設(shè)ARnn為對(duì)稱正定矩陣，則為對(duì)稱正定矩陣，則 (1) A為非奇異矩陣，且為非奇異矩陣，且A- -1亦是對(duì)稱正定矩陣亦是對(duì)稱正定矩陣. (2) 設(shè)設(shè)Ak為為A的順序主子陣，則的順序主子陣，則Ak(k=1,2,n)亦亦是對(duì)稱正定矩陣，其中是對(duì)稱正定矩陣，其中 (3) A的特征值的特征值i0 (i=1,2,n). (4) A的順序主子式都大于零，即的順序主子式都大于零，即A

14、k的行列式的行列式det(Ak)0 (k=1,2,n).)., 2 , 1(1111nkaaaaAkkkkk 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 定理定理3 設(shè)設(shè)ARnn為對(duì)稱矩陣，如果為對(duì)稱矩陣，如果det(Ak)0 (k=1,2, ,n)，或，或A的特征值的特征值i0 (i=1,2,n)，則，則A為為對(duì)稱正定矩陣對(duì)稱正定矩陣. 有重特征值的矩陣不一定相似于對(duì)角矩陣，那有重特征值的矩陣不一定相似于對(duì)角矩陣，那么一般么一般n階矩陣階矩陣A在相似變換下能簡化到什么形狀在相似變換下能簡化到什么形狀. 定理定理4(Jordan標(biāo)準(zhǔn)型標(biāo)準(zhǔn)型) 設(shè)設(shè)A為為n階矩陣，則存在階矩陣，則存在一個(gè)

15、非奇異一個(gè)非奇異n階矩陣階矩陣P使得使得.)()()(22111 rrJJJAPP 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁為為若當(dāng)若當(dāng)(Jordan) 塊塊.), 2 , 1( 1.111)(1nnrinJriiinniiiiiiii 且且 其中其中上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (1) 當(dāng)當(dāng)A的若當(dāng)標(biāo)準(zhǔn)型中所有若當(dāng)塊的若當(dāng)標(biāo)準(zhǔn)型中所有若當(dāng)塊Ji均為一階均為一階時(shí)，此標(biāo)準(zhǔn)型變?yōu)閷?duì)角矩陣時(shí)，此標(biāo)準(zhǔn)型變?yōu)閷?duì)角矩陣. (2) 如果如果A的特征值各不相同，則其若當(dāng)標(biāo)準(zhǔn)型的特征值各不相同，則其若當(dāng)標(biāo)準(zhǔn)型必為對(duì)角矩陣必為對(duì)角矩陣diag(1,2,n).上頁上頁上頁上頁上頁上頁下

16、頁下頁下頁下頁下頁下頁5.2 高斯消去法高斯消去法 本節(jié)介紹高斯消去法本節(jié)介紹高斯消去法( (逐次消去法逐次消去法) )及消去法及消去法和矩陣三角分解之間的關(guān)系和矩陣三角分解之間的關(guān)系. . 雖然高斯消去法是一雖然高斯消去法是一種古老的求解線性方程組的方法種古老的求解線性方程組的方法( (早在公元前早在公元前250250年年我國就掌握了解方程組的消去法我國就掌握了解方程組的消去法) )，但由它改進(jìn)、，但由它改進(jìn)、變形得到的選主元素消去法、三角分解法仍然是目變形得到的選主元素消去法、三角分解法仍然是目前計(jì)算機(jī)上常用的有效方法前計(jì)算機(jī)上常用的有效方法. .我們在中學(xué)學(xué)過消去我們在中學(xué)學(xué)過消去法法,

17、 ,高斯消去法就是它的標(biāo)準(zhǔn)化的、適合在計(jì)算機(jī)高斯消去法就是它的標(biāo)準(zhǔn)化的、適合在計(jì)算機(jī)上自動(dòng)計(jì)算的一種方法上自動(dòng)計(jì)算的一種方法. .上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁5.2.1 高斯消去法高斯消去法 設(shè)有線性方程組設(shè)有線性方程組)1 . 2(.,22112222212111212111 mnmnmmnnnnbxaxaxabxaxaxabxaxaxa或?qū)懗删仃囆问交驅(qū)懗删仃囆问?2121212222111211 mnmnmmnnbbbxxxaaaaaaaaa簡記為簡記為Ax=b.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 nnnnnnnnbxubxuxubxuxuxu22222

18、11212111,nnnnubx .,112111uxubxnjjj 如如: 上三角矩上三角矩陣陣所對(duì)應(yīng)所對(duì)應(yīng)的線性方的線性方程組程組,)1)(1()1(11 nnnnnnnuxubx解為解為 當(dāng)當(dāng)m=n時(shí)，對(duì)時(shí)，對(duì)三角形方程組三角形方程組的解非常容易，如的解非常容易，如上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 nnnnnnbylylylbylylbyl221122221211111,1111lby 下三角矩陣下三角矩陣所對(duì)所對(duì)應(yīng)的線性方程組應(yīng)的線性方程組,2212122lylby ,計(jì)算量（乘除法的主要部分）都為計(jì)算量（乘除法的主要部分）都為 n2/2.解為解為nnnjjjnnlyl

19、by 111 因此，我們將一般的線性方程組化成等價(jià)的三因此，我們將一般的線性方程組化成等價(jià)的三角形方程組來求解角形方程組來求解.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 首先舉一個(gè)簡單的例子來說明消去法的基本思想首先舉一個(gè)簡單的例子來說明消去法的基本思想. 例例1 用消去法解方程組用消去法解方程組 )4 . 2(. 122)3 . 2(, 54)2 . 2(, 632132321xxxxxxxx 解解 第第1步，將方程步，將方程(2.2)乘上乘上- -2加到方程加到方程(2.4)上上去，消去去，消去(2.4)中的未知數(shù)中的未知數(shù)x1，得到，得到)5 . 2(.11432 xx 第第2步

20、，將方程步，將方程(2.3) 加到方程加到方程(2.5)上去，消去上去，消去(2.5)中的未知數(shù)中的未知數(shù)x2，得到與原方程組等價(jià)的三角形，得到與原方程組等價(jià)的三角形方程組方程組上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 . 62)6 . 2(, 54, 6332321xxxxxx顯然，方程組是顯然，方程組是(2.6)是容易求解的，解為是容易求解的，解為.)3 , 2 , 1(Tx 上述過程相當(dāng)于對(duì)方程的上述過程相當(dāng)于對(duì)方程的增廣陣做初等行變換增廣陣做初等行變換 6200514061111114051406111112251406111)(bA132rr 23rr 其中其中ri用表示矩陣

21、的第用表示矩陣的第i行行.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 由此看出，用消去法解方程組的由此看出，用消去法解方程組的基本思想基本思想是用是用逐次消去未知數(shù)的方法把原方程組逐次消去未知數(shù)的方法把原方程組Ax=b化為與其等化為與其等價(jià)的三角形方程組，而求解三角形方程組可用回代價(jià)的三角形方程組，而求解三角形方程組可用回代的方法求解的方法求解. 換句話說，上述過程就是用初等行變換句話說，上述過程就是用初等行變換將原方程組系數(shù)矩陣化為簡單形式換將原方程組系數(shù)矩陣化為簡單形式(上三角矩陣上三角矩陣)，從而求解原方程組從而求解原方程組(2.1)的問題轉(zhuǎn)化為求解簡單方程的問題轉(zhuǎn)化為求解簡單方程

22、組的問題組的問題. 或者說，對(duì)系數(shù)矩陣或者說，對(duì)系數(shù)矩陣A施行一些行變換施行一些行變換(用一些簡單矩陣左乘用一些簡單矩陣左乘A)將其約化為上三角矩陣將其約化為上三角矩陣. 這這就是就是高斯消去法高斯消去法.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 下面討論求解一般線性方程組的高斯消去法下面討論求解一般線性方程組的高斯消去法.由由 mnmnmmnnnnbxaxaxabxaxaxabxaxaxa22112222212111212111 )1()1(2)1(21)1(1)1(2)1(22)1(221)1(21)1(1)1(12)1(121)1(11mnmnmmnnnnbxaxaxabxaxa

23、xabxaxaxa .2121212222111211 mnmnmmnnbbbxxxaaaaaaaaa .)1()1(2)1(121)1()1(2)1(1)1(2)1(22)1(21)1(1)1(12)1(11 mnmnmmnnbbbxxxaaaaaaaaa上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 將將(2.1)記為記為A(1)x=b(1)，其中，其中 )1()1(2)1(1)1(2)1(22)1(21)1(1)1(12)1(11)1(mnmmnnaaaaaaaaaA )1()1(2)1(1)1(mbbbb.212222111211 mnmmnnaaaaaaaaa.21 mbbb上頁上

24、頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (1) 第第1步步(k=1). .,)2()2(2)2(2)2(2)2(22)2(22)1(1)1(12)1(121)1(11mnmnmnnnnbxaxabxaxabxaxaxa 設(shè)設(shè)a11(1) 0，首先計(jì)算，首先計(jì)算乘數(shù)乘數(shù) mi1= ai1(1) /a11(1) (i=2,3,m).用用- -mi1乘乘(2.1)的第一個(gè)方程，加到第的第一個(gè)方程，加到第i個(gè)個(gè)(i=2,3, ,m)方程上，消去方程上，消去(2.1)的從第二個(gè)方程到第的從第二個(gè)方程到第m個(gè)方程中的個(gè)方程中的未知數(shù)未知數(shù)x1，得到與，得到與(2.1)等價(jià)的方程組等價(jià)的方程組.00)2

25、()2(2)1(121)2()2(2)2(2)2(22)1(1)1(12)1(11 mnmnmnnbbbxxxaaaaaaa (2.7)上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁簡記為簡記為 A(2)x=b(2)，其中其中A(2), b(2)的元素計(jì)算公式為的元素計(jì)算公式為 )., 2(), 2;, 2()1(11)1()2()1(11)1()2(mibmbbnjmiamaaiiijiijij (2) 第第k次消元次消元(k=1,2,s, s=min(m- -1,n). 設(shè)上述第設(shè)上述第1步，步， ，第，第k- -1步消元過程計(jì)算已經(jīng)步消元過程計(jì)算已經(jīng)完成，即已計(jì)算好與完成，即已計(jì)算好與

26、(2.1)等價(jià)的方程組，簡記為等價(jià)的方程組，簡記為A(k)x=b(k)，其中，其中上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁)8 .2(.)()()2(2)1(121)()()2(2)1(1)()()2(2)2(22)1(1)1(12)1(11 kmkkmkkmnkknnnkmkkkkkkbbbbxxxxaaaaaaaaaaa 設(shè)設(shè)akk(k) 0，計(jì)算，計(jì)算乘數(shù)乘數(shù) mik= aik(k) /akk(k) (i=k+1, ,m).用用- -mik乘乘(2.8)的第的第k個(gè)方程加到第個(gè)方程加到第 i個(gè)個(gè)(i= k+1, , m)方方程上，消去從第程上，消去從第k+1個(gè)方程到第個(gè)方程到第m

27、個(gè)方程中的未知數(shù)個(gè)方程中的未知數(shù)xk，得到與，得到與(2.1)等價(jià)的方程組等價(jià)的方程組A(k+1)x=b(k+1)，上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁其中其中A(k+1), b(k+1)的元素計(jì)算公式為的元素計(jì)算公式為， )9 . 2()., 1(), 1;, 1()()()1()()()1(mkibmbbnkjmkiamaakkikkikikkjikkijkij顯然顯然A(k+1)中從第中從第1行到第行到第k行與行與A(k)相同相同. (3) 繼續(xù)上述過程，且設(shè)繼續(xù)上述過程，且設(shè)aii(i) 0 (i=1,2, ,s)，直，直到完成第到完成第s步消元計(jì)算步消元計(jì)算. 最后得到與

28、原方程組等價(jià)的最后得到與原方程組等價(jià)的簡單方程組簡單方程組A(s+1)x=b(s+1) ，其中，其中A(s+1)為上階梯為上階梯.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 特別當(dāng)特別當(dāng)m=n時(shí)，時(shí)，與原方程組等價(jià)的簡單方程組為與原方程組等價(jià)的簡單方程組為A(n)x=b(n)，即，即)10.2(.)()2(2)1(121)()2(2)2(22)1(1)1(12)1(11 nnnnnnnnbbbxxxaaaaaa由由(2.1)約化為約化為(2.10)的過程稱為的過程稱為消元過程消元過程. 如果如果A是非奇異矩陣，且是非奇異矩陣，且akk(k) 0 (k=1,2,n- -1)，求解三角形方程

29、組求解三角形方程組(2.10)，得到求解公式，得到求解公式)11. 2 ().1 , 2, 1(/ )(,/)(1)()()()( nnkaxabxabxkkknkjjkkjkkknnnnnn(2.10)的求解過程的求解過程(2.11) 稱為稱為回代過程回代過程.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 注意：設(shè)注意：設(shè)Ax=b，其中，其中ARnn為非奇異矩陣，如為非奇異矩陣，如果果a11(1)=0，由于，由于A為非奇異矩陣，所以為非奇異矩陣，所以A的第的第1列一定列一定有元素不等于零，例如有元素不等于零，例如al1 0，于是可交換兩行元素，于是可交換兩行元素(即即r1rl)，將，將a

30、l1 調(diào)到調(diào)到(1,1)位置，然后進(jìn)行消元計(jì)算，位置，然后進(jìn)行消元計(jì)算，這時(shí)這時(shí)A(2)右下角矩陣為右下角矩陣為n- -1階非奇異矩陣，繼續(xù)這過階非奇異矩陣，繼續(xù)這過程，高斯消去法照樣可進(jìn)行計(jì)算程，高斯消去法照樣可進(jìn)行計(jì)算. 總結(jié)上述討論即有總結(jié)上述討論即有上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 定理定理5 設(shè)設(shè)Ax=b，其中，其中ARnn. (1) 如果如果akk(k) 0 (k=1,2,n)，則可通過高斯消去，則可通過高斯消去法將法將Ax=b約化為等價(jià)的三角形方程組約化為等價(jià)的三角形方程組(2.10)，且計(jì)算，且計(jì)算公式為公式為 (a) 消元計(jì)算消元計(jì)算(k=1,2, ,n- -

31、1) )., 1(), 1,(), 1(/)()()1()()()1()()(nkibmbbnkjiamaankiaamkkikkikikkjikkijkijkkkkikik上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (b) 回代計(jì)算回代計(jì)算 ).1 , 2 , 1(/ )(,/)(1)()()()(nkaxabxabxnnnnkjjkkjkkknnnnnn (2) 如果如果A為非奇異矩陣，則可通過高斯消去法為非奇異矩陣，則可通過高斯消去法(及交換兩行的初等變換及交換兩行的初等變換)將方程組將方程組Ax=b約化為等價(jià)的約化為等價(jià)的三角形方程組三角形方程組(2.10).上頁上頁上頁上頁上頁

32、上頁下頁下頁下頁下頁下頁下頁 算法算法1(高斯算法高斯算法) 設(shè)設(shè)ARmn (m1), s=min(m- -1,n)，如果如果akk(k) 0 (k=1,2,s)，本算法用高斯方法將，本算法用高斯方法將A約化約化為上三角形矩陣，且為上三角形矩陣，且A(k)覆蓋覆蓋A，乘數(shù)，乘數(shù)mik覆蓋覆蓋aik. 對(duì)于對(duì)于 k=1,2, ,s (1) 如果如果akk=0，則計(jì)算停止；，則計(jì)算停止； (2) 對(duì)于對(duì)于i=k+1, ,m (a) aikmik= aik/akk (b) 對(duì)于對(duì)于j=k+1, ,n aijaij- -mikakj .上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 顯然，算法顯然，

33、算法1第第k步需要步需要m- -k次除法，次除法，(m- -k)(n- -k)次乘法，因此，本算法次乘法，因此，本算法(從第從第1步到第步到第s步消元計(jì)算總步消元計(jì)算總的計(jì)算量的計(jì)算量)大約需要大約需要s3/3- -(m- -k)s2/2+mns次乘法運(yùn)算次乘法運(yùn)算(對(duì)對(duì)相當(dāng)大的相當(dāng)大的s). 當(dāng)當(dāng)m=n時(shí)時(shí), 總共大約需要總共大約需要n3/3次乘法運(yùn)算次乘法運(yùn)算. 數(shù)數(shù)akk(k)在高斯消去法中有著突出的作用，稱為約在高斯消去法中有著突出的作用，稱為約化的化的主元素主元素(簡稱簡稱主元主元).上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 算法算法2(回代算法回代算法) 設(shè)設(shè)Ux=b，其中

34、，其中U=(uij)Rnn為為非奇異上三角矩陣非奇異上三角矩陣，本算法計(jì)算，本算法計(jì)算Ux=b的解的解. 對(duì)于對(duì)于 j=n,n- -1, ,1 (1) xibi (2) 對(duì)于對(duì)于j=i+1, ,n xixi- -uijxj (3) xi xi/uii 這個(gè)算法需要這個(gè)算法需要n(n-1-1)/2次乘除法運(yùn)算次乘除法運(yùn)算.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁例子例子 解方程組解方程組 02115472321321321xxxxxxxxx解解：消元：消元 0121111547112回代得回代得, 3263 x 3235 . 2rr 620033307112 5 . 35 . 05 .

35、203330711231212124rrrr , 233332 xx. 127321 xxx上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 高斯消去法對(duì)于某些簡單的矩陣可能會(huì)失敗，例如高斯消去法對(duì)于某些簡單的矩陣可能會(huì)失敗，例如.0110 A 由此，需要對(duì)算法由此，需要對(duì)算法1進(jìn)行修改，首先研究原來矩陣進(jìn)行修改，首先研究原來矩陣A在什么條件下才能保證在什么條件下才能保證akk(k) 0 (k=1,2, ,s). 下面的下面的定理給出了這個(gè)條件定理給出了這個(gè)條件.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 定理定理6 約化的主元素約化的主元素aii(i) 0 (i=1,2,k)的充要條的

36、充要條件是方陣件是方陣A的順序主子式的順序主子式Di 0 (i=1,2,k)，即，即)12. 2()., 2 , 1(0, 01111111kiaaaaDaDiiiii 證明證明 首先利用歸納法證明首先利用歸納法證明充分性充分性. 顯然顯然, 當(dāng)當(dāng)k=1時(shí)，結(jié)論成立，現(xiàn)設(shè)結(jié)論對(duì)時(shí)，結(jié)論成立，現(xiàn)設(shè)結(jié)論對(duì)k- -1是成立的，對(duì)是成立的，對(duì)k由條件由條件設(shè)設(shè)Di 0 (i=1,2,k)，于是由歸納法假設(shè)我們有，于是由歸納法假設(shè)我們有aii(i) 0 (i=1,2,k- -1)，可用高斯消去法將，可用高斯消去法將A(1)約化到約化到A(k)，即，即上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁.)(

37、)()2(2)1(1)()()2(2)2(22)1(1)1(12)1(11)()1( knnkknnnknkkkkkkkaaaaaaaaaaaAA利用行列式的性質(zhì)，我們有利用行列式的性質(zhì)，我們有,0)2(22)1(11)2(22)1(12)1(112aaaaaD )13.2(.)()2(22)1(11)()1(1)1(11kkkkkkkkaaaaaaD 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 由條件有由條件有Di 0 (i=1,2,k)，利用，利用(2.13)式，則有式，則有aii(i) 0 (i=1,2,k)，定理，定理6的對(duì)的對(duì)k成立成立. 必要性必要性，由條件，由條件aii(i

38、) 0 (i=1,2,k)，利用，利用(2.13)式式亦可推出亦可推出Di 0 (i=1,2,k). 定理定理6得證得證. )., 3 , 2(/,1)(1)1(11nkDDaDakkkkk 推論推論 如果如果A的順序主子式的順序主子式Di 0 (i=1,2,n- -1), 則則上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁5.2.2 矩陣三角分解矩陣三角分解 下面我們借助矩陣?yán)碚撨M(jìn)一步對(duì)消去法做些分下面我們借助矩陣?yán)碚撨M(jìn)一步對(duì)消去法做些分析，從而建立高斯消去法與矩陣因式分解的關(guān)系析，從而建立高斯消去法與矩陣因式分解的關(guān)系. 設(shè)設(shè)(2.1)的系數(shù)矩陣的系數(shù)矩陣ARnn的各順序主子式均不的各順

39、序主子式均不為零，對(duì)于為零，對(duì)于A施行初等行變換相當(dāng)于用初等矩陣左乘施行初等行變換相當(dāng)于用初等矩陣左乘A，于是對(duì)，于是對(duì)(2.1)施行第施行第1次消元后化為次消元后化為(2.7)，這時(shí)，這時(shí)A(1)化為化為A(2)，b(1)化為化為b(2)，即，即L1A(1) =A(2) , L1b(1)=b(2)，上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁,10111211 nmmL其中其中.)2()2(2)1(1)2( nbbbb 一般第一般第k步消元，步消元，A(k)化為化為A(k+1)，b(k)化為化為b(k+1)，相當(dāng)于相當(dāng)于LkA(k) =A(k+1), Lkb(k)=b(k+1)，上頁上頁

40、上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁.1111, 1 knkkkmmL其中其中 重復(fù)這過程，最后得到重復(fù)這過程，最后得到;)()1(1221nnnAALLLL .)()1(1221nnnbbLLLL (2.14)上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 將上三角矩陣將上三角矩陣A(n)記為記為U，由，由(2.14)得到得到.)(111211LUALLLAnn 其中其中,11111,21323121111211 nnnnnmmmmmmLLLL為單位下三角矩陣為單位下三角矩陣.,)() 1(, 1) 1(1, 1)2(2)2(1,2)2(22) 1(1) 1(1, 1) 1(12) 1

41、(11)( nnnnnnnnnnnnnnaaaaaaaaaaAU上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 這就是說，這就是說，高斯消去法實(shí)質(zhì)上產(chǎn)生了一個(gè)將高斯消去法實(shí)質(zhì)上產(chǎn)生了一個(gè)將A分分解為解為兩個(gè)三角形矩陣相乘的因式分解兩個(gè)三角形矩陣相乘的因式分解，于是我們得到，于是我們得到如下重要定理，它在解方程組的直接法中起著重要作如下重要定理，它在解方程組的直接法中起著重要作用用. 定理定理7(矩陣的矩陣的LU分解分解) 設(shè)設(shè)A為為n階矩陣，如果階矩陣，如果A的的順序主子式順序主子式Di 0 (i=1,2,n- -1)，則，則A可分解為一個(gè)單可分解為一個(gè)單位下三角矩陣位下三角矩陣L和一個(gè)上三

42、角矩陣和一個(gè)上三角矩陣U的乘積，即的乘積，即A=LU,且且這種分解是唯一這種分解是唯一的的.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 證明證明 根據(jù)以上根據(jù)以上高斯消去法的矩陣分析高斯消去法的矩陣分析，A=LU的存在性的存在性已經(jīng)得到證明已經(jīng)得到證明，現(xiàn)僅在，現(xiàn)僅在A為非奇異矩陣的假為非奇異矩陣的假定下來證明唯一性，當(dāng)定下來證明唯一性，當(dāng)A為奇異矩陣的情況留作練習(xí)，為奇異矩陣的情況留作練習(xí)，設(shè)設(shè)A有兩種分解為有兩種分解為A=LU=L1U1，其中其中L, L1為單位下三角矩陣，為單位下三角矩陣，U, U1為上三角矩陣為上三角矩陣. 由于由于L- -1,U1- -1存在，故有存在，故有 L

43、- -1L1=UU1- -1.上式右邊為上三角矩陣，左邊為單位下三角矩陣，從上式右邊為上三角矩陣，左邊為單位下三角矩陣，從而上式兩邊都必須等于單位矩陣而上式兩邊都必須等于單位矩陣I，故有，故有 L=L1，U=U1. 證畢證畢.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 例例2 對(duì)于例對(duì)于例1，系數(shù)矩陣，系數(shù)矩陣,122140111 A由高斯消去法由高斯消去法 m21=0，m31=2，m32=- -1，故，故.200140111112010001LUA 從而得到從而得到求矩陣行列式的計(jì)算公式求矩陣行列式的計(jì)算公式為為.)det()det(1)()()1(11)2(22)1(11 niiii

44、nnnnnnaaaaaUA上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁5.3 高斯主元素消元法高斯主元素消元法 由高斯消去法知道由高斯消去法知道, 在消元過程中可能有在消元過程中可能有akk(k)0的情況，這時(shí)消去法將無法進(jìn)行；即使主元素的情況，這時(shí)消去法將無法進(jìn)行；即使主元素akk(k) 0但很小時(shí)，用其作除數(shù)，會(huì)導(dǎo)致其它元素?cái)?shù)量級(jí)的嚴(yán)但很小時(shí)，用其作除數(shù)，會(huì)導(dǎo)致其它元素?cái)?shù)量級(jí)的嚴(yán)重增長和舍入誤差的擴(kuò)散，最后也使得計(jì)算解不可靠重增長和舍入誤差的擴(kuò)散，最后也使得計(jì)算解不可靠. 先看一個(gè)例子先看一個(gè)例子(同時(shí)參看書上同時(shí)參看書上p174-例例3). 高斯消去法也稱高斯消去法也稱主元素消去法主

45、元素消去法 (條件條件det A 0) 即即當(dāng)當(dāng)akk(k)=0 時(shí)，高斯消元法時(shí)，高斯消元法無法進(jìn)行無法進(jìn)行；或；或 | akk(k) |0(i=1,2,n). 由矩陣乘法及由矩陣乘法及l(fā)jk=0(當(dāng)當(dāng)jk時(shí)時(shí)),得得,111jjijjkjkiknkjkikijlllllla 于是得到解對(duì)稱正定方程組于是得到解對(duì)稱正定方程組Ax=b的平方根法計(jì)算公式的平方根法計(jì)算公式 對(duì)于對(duì)于 j=1,2,n)7 . 4(), 2 , 1(. 121112njlaljkjkjjjj );, 1(. 211njilllaljjjkjkikijij 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁求解求解Ax=

46、b，即求解兩個(gè)三角形方程組，即求解兩個(gè)三角形方程組 (1) Ly=b，求，求y；(2) LTx=y，求求x.)8 . 4()., 2 , 1(. 311nilylbyiiikkikii ).1 , 1,(. 41 nnilxlyxiinikkkiii由計(jì)算公式知道由計(jì)算公式知道), 2 , 1(12njlajkjkjj 所以有所以有 ,max12jjnjjjjkaal 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁于是于是 .maxmax12,jjnjjkkjal 上面分析說明，分析過程中元素上面分析說明，分析過程中元素ljk的數(shù)量級(jí)不的數(shù)量級(jí)不會(huì)增長且對(duì)角元素會(huì)增長且對(duì)角元素ljj恒為正數(shù)

47、恒為正數(shù). 于是有于是有 結(jié)論結(jié)論 不選主元素的平方根法是一個(gè)數(shù)值穩(wěn)定的不選主元素的平方根法是一個(gè)數(shù)值穩(wěn)定的方法方法. 當(dāng)求出當(dāng)求出L的第的第j列元素時(shí)，列元素時(shí)，LT的第的第j行元素亦算出行元素亦算出.所以平方根約需所以平方根約需n3/6次乘除法，大約為一般直接次乘除法，大約為一般直接LU分解法計(jì)算量的一半分解法計(jì)算量的一半.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 例題例題 用平方根法求解對(duì)稱正定方程組用平方根法求解對(duì)稱正定方程組.25. 7645 . 375. 2175. 225. 41114321 xxx 解解 首先對(duì)首先對(duì)A進(jìn)行進(jìn)行Cholesky分解分解.1005 . 12

48、05 . 05 . 0215 . 15 . 0025 . 0002 TLLA求解求解Ly=b，得，得 y1=2, y2=3.5, y3=1. 求解求解LTx=y，得，得 x1=1, x2=1, x3=1. 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 由公式由公式(4.7)看出，用平方根法解對(duì)稱正定方程看出，用平方根法解對(duì)稱正定方程組時(shí)，計(jì)算組時(shí)，計(jì)算L的元素的元素ljj需要用需要用到開方運(yùn)算到開方運(yùn)算. 為了避免為了避免開方開方，我們下面用，我們下面用定理定理10的分解式的分解式A=LDLT.1111112121212121 nnnnnTllldddlllLDLA即即 由矩陣乘法，并注意

49、由矩陣乘法，并注意ljj=1,ljk=0(j1時(shí)時(shí), aij=0, 且且(a) |b1|c1|0;(b) |bi|ai|+|ci|, ai,ci0, (i=2,3,n- -1).(c) |bn|an|0. 我們利用矩陣的直接三角分解法來推導(dǎo)解三對(duì)我們利用矩陣的直接三角分解法來推導(dǎo)解三對(duì)角線方程組角線方程組(4.12)的計(jì)算公式的計(jì)算公式. 由系數(shù)陣由系數(shù)陣A的特點(diǎn)，的特點(diǎn)，可以將可以將A分解為兩個(gè)三角矩陣的乘積，即分解為兩個(gè)三角矩陣的乘積，即A=LU,其中取其中取L下三角陣下三角陣, 取取U為單位上三角陣為單位上三角陣, 這樣求解這樣求解方程組方程組Ax=f的方法稱為的方法稱為追趕法追趕法.

50、設(shè)設(shè)上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁)13. 4(.111112111221 nnnnn nnnnnbacbacbacbA11122211其中其中 為待定系數(shù)，比較為待定系數(shù)，比較(4.13)兩邊即得兩邊即得 iii ,上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁)14. 4()1, 2 , 1(), 3 , 2(,111 nicnibabiiiiiiiii .)14. 4(, 10)15. 4(),1, 2 , 1(0c. 10,/c, 0c011111111iiiinibbb 可可求求出出從從而而由由即即我我們們用用歸歸納納法法證證明明下下面面得得，由由 .,1)15.

51、 4(.1)15. 4(亦成立亦成立求證對(duì)求證對(duì)成立成立對(duì)對(duì)現(xiàn)設(shè)現(xiàn)設(shè)是成立的是成立的對(duì)對(duì)iii 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁得得到到由由也也就就是是條條件件有有的的假假設(shè)設(shè)及及又又由由由由歸歸納納法法假假設(shè)設(shè))14. 4(. 10. 0)15. 4(, 10111 iiiiiiiiiiiicabababA );, 2(1niabiiii ).1, 2()/(1 niabciiiii .,分分解解的的實(shí)實(shí)現(xiàn)現(xiàn)了了我我們們完完全全確確定定了了的的假假設(shè)設(shè)條條件件由由這這就就是是說說LUAAiii 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 求解求解Ax=f等價(jià)于求解兩個(gè)三

52、角形方程組等價(jià)于求解兩個(gè)三角形方程組. (1) Ly=f, 求求y; (2) Ux=y, 求求x.從而得到解三對(duì)角線方程組的追趕法從而得到解三對(duì)角線方程組的追趕法.遞遞推推公公式式計(jì)計(jì)算算,. 1ii ,/111bc ,/111bfy ).1, 3 , 2()/(1 niabciiiii fLy 解解. 2)., 3 , 2()/()(11niabyafyiiiiiii );, 2(1niabiiii 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁,nnyx yUx 解解. 3).1 , 2 , 1(1 nixyxiiii 我們將計(jì)算系數(shù)我們將計(jì)算系數(shù) 及及 的的過程稱為過程稱為追的過程追的

53、過程, 將計(jì)算方程組的解將計(jì)算方程組的解 的過程稱為的過程稱為趕的過程趕的過程. 合起來就是合起來就是追趕法追趕法.121 n nyyy2111xxxnn 追趕法公式實(shí)際上就是把高斯消去法用到求解追趕法公式實(shí)際上就是把高斯消去法用到求解三對(duì)角線方程組上去的結(jié)果三對(duì)角線方程組上去的結(jié)果. 這時(shí)由于這時(shí)由于A特別簡單特別簡單, 因此使得求解的計(jì)算公式非常簡單因此使得求解的計(jì)算公式非常簡單,而且計(jì)算量僅為而且計(jì)算量僅為5n- -4次乘除法次乘除法,而另外增加一個(gè)方程組而另外增加一個(gè)方程組Ax=f2僅增加僅增加3n- -2次乘除法運(yùn)算次乘除法運(yùn)算,易見追趕法的計(jì)算量是比較小的易見追趕法的計(jì)算量是比較小

54、的.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 總結(jié)上述討論有總結(jié)上述討論有 ii , 定理定理12 設(shè)有三對(duì)角線方程組設(shè)有三對(duì)角線方程組Ax=f, 其中其中A滿足條滿足條件件(a), (b), (c), 則則A為非奇異矩陣且追趕法計(jì)算公式中為非奇異矩陣且追趕法計(jì)算公式中的的 滿足滿足);1, 2 , 1(1010 nii .0);1, 3 , 2(020nnnnniiiiiiababniababc 由定理由定理12的的10, 20說明追趕法計(jì)算公式中不會(huì)出現(xiàn)說明追趕法計(jì)算公式中不會(huì)出現(xiàn)中間結(jié)果數(shù)量級(jí)的巨大增長和舍入誤差的嚴(yán)重累積中間結(jié)果數(shù)量級(jí)的巨大增長和舍入誤差的嚴(yán)重累積.上頁上頁上頁

55、上頁上頁上頁下頁下頁下頁下頁下頁下頁5.5 向量與矩陣的范數(shù)向量與矩陣的范數(shù) 在分析方程組的解的誤差及下章中迭代法的收在分析方程組的解的誤差及下章中迭代法的收斂性時(shí)，常產(chǎn)生一個(gè)問題斂性時(shí)，常產(chǎn)生一個(gè)問題,即如何判斷向量即如何判斷向量 x 的的“大大小小”，對(duì)矩陣也有類似的問題，對(duì)矩陣也有類似的問題. 本節(jié)介紹本節(jié)介紹n維向量維向量范數(shù)和范數(shù)和nn矩陣的范數(shù)矩陣的范數(shù). 向量范數(shù)是三維歐氏空間向量范數(shù)是三維歐氏空間中向量長度概念的推廣，在數(shù)值分析中起著重要作中向量長度概念的推廣，在數(shù)值分析中起著重要作用用.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 首先將向量長度概念推廣到首先將向量長度概

56、念推廣到Rn(或或Cn)中中.),(),(11 niiiHniiiTyxxyyxyxxyyx或或復(fù)復(fù)數(shù)數(shù)稱為向量稱為向量x, y的的數(shù)量積數(shù)量積(內(nèi)積內(nèi)積). 將非負(fù)實(shí)數(shù)將非負(fù)實(shí)數(shù),),(122 niixxxx,),(122 niixxxx或或稱為向量稱為向量x的的歐氏范數(shù)歐氏范數(shù). 定義定義1 設(shè)設(shè)x=(x1,x2,xn)T, y= (y1,y2,yn)T Rn , 將實(shí)數(shù)將實(shí)數(shù)上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 下面定理可在線性代數(shù)書中找到下面定理可在線性代數(shù)書中找到. 定理定理13 設(shè)設(shè)x, y Rn (或或Cn), 則則 1. (x, x)=0, 當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)x=0時(shí)

57、成立時(shí)成立;);),(),(),(),( . 2為為復(fù)復(fù)數(shù)數(shù)或或?yàn)闉閷?shí)實(shí)數(shù)數(shù) yxyxyxyx );),(),()(,(),( . 3_xyyxxyyx 或或);,(),(),( . 42121yxyxyxx ;,| ),( | )( . 522線性相關(guān)時(shí)成立線性相關(guān)時(shí)成立與與等式當(dāng)且僅當(dāng)?shù)仁疆?dāng)且僅當(dāng)不等式不等式y(tǒng)xyxyxSchwarzCauchy . 6222yxyx 三三角角不不等等式式上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 我們還可以用其他辦法來度量我們還可以用其他辦法來度量Rn中向量的中向量的“大大小小”. 例如例如, 對(duì)于對(duì)于x=(x1,x2)T Rn, 可以用一個(gè)可以用

58、一個(gè)x的函數(shù)的函數(shù)N(x)=max|xi|來度量來度量 x 的的“大小大小”, 而且這種度量而且這種度量 x 的的“大小大小”的方法計(jì)算起來比歐氏范數(shù)方便的方法計(jì)算起來比歐氏范數(shù)方便. 在許在許多應(yīng)用中多應(yīng)用中, 對(duì)度量對(duì)度量x的的“大小大小”的函數(shù)的函數(shù)N(x)都要求是都要求是正定的正定的、齊次的、齊次的且且滿足三角不等式滿足三角不等式. . 下面我們給出下面我們給出向量范數(shù)的一般定義向量范數(shù)的一般定義. .上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 (1) |x| 0(|x|=0當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)x=0) (正定性正定性), (2) |x|=| |x|, 對(duì)任何對(duì)任何 R(或或 C)(

59、齊次性齊次性), (3) |x+y| |x|+|y| (三角不等式三角不等式).則稱則稱N(x)=|x|是是Rn(或或Cn)上的一個(gè)上的一個(gè)向量范數(shù)向量范數(shù)(或或模模). 定義定義2(向量的范數(shù)向量的范數(shù)) 如果向量如果向量x Rn(或或Cn)的某個(gè)的某個(gè)實(shí)值函數(shù)實(shí)值函數(shù)N(x)=|x|，滿足條件，滿足條件: 由由(3)可推出不等式可推出不等式. (4) | |x|- -|y| | |x- -y|.上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁 下面給出幾種下面給出幾種常用的向量范數(shù)常用的向量范數(shù), 設(shè)設(shè)x=(x1,x2,xn)T.max. 11inixx . 211 niixx.),(.

60、32112212 niixxxx容易證明前三種范數(shù)是的容易證明前三種范數(shù)是的p- -范數(shù)范數(shù)特殊情況特殊情況, 其中其中向量的向量的 - -范數(shù)范數(shù)(最大范數(shù)最大范數(shù))向量的向量的1- -范數(shù)范數(shù). 411pnipipxx 向量的向量的p- -范數(shù)范數(shù)(0p0, 使得對(duì)一切使得對(duì)一切x Rn有有.21stsxcxxc 證明證明 只要就只要就|x|s=|x|證明上式成立即可證明上式成立即可, 即證即證明存在常數(shù)明存在常數(shù)c1,c20, 使得使得. 0,21 xRxcxxcnt且且對(duì)一切對(duì)一切 考慮考慮n元函數(shù)元函數(shù)., 0)(ntRxxxf 上頁上頁上頁上頁上頁上頁下頁下頁下頁下頁下頁下頁記記S