向量和矩陣的范數(shù)

第三章線性方程組的數(shù)值解法3.1向量與矩陣的范數(shù)3.2直接法3.3迭代法3.4迭代法的收斂性分析"范數(shù)"是對(duì)向量和矩陣的一種度量,實(shí)際上是二維和三維向量長(zhǎng)度概念的一種推廣二維向量和三維向量都可以度量其大小和長(zhǎng)度高維向量的"長(zhǎng)度"能否定義呢?為了研究線性方程組近似解的誤差估計(jì)和迭代的收斂性，需要對(duì)n維向量空間中的向量以及矩陣引進(jìn)“大小”的概念。

對(duì)于實(shí)數(shù)和復(fù)數(shù)，由于定義了它們的絕對(duì)值或模，這樣我們就可以用這個(gè)度量來(lái)表示它們的大?。◣缀紊暇褪情L(zhǎng)度），進(jìn)而可以考察兩個(gè)實(shí)數(shù)或復(fù)數(shù)的距離。

對(duì)于維線性空間，定義了內(nèi)積以后，向量就有了長(zhǎng)度（大小）、角度、距離等度量概念，這顯然是3維現(xiàn)實(shí)空間中相應(yīng)概念的推廣。利用公理化的方法，可以進(jìn)一步把向量長(zhǎng)度的概念推廣到范數(shù)?！?.1向量與矩陣的范數(shù)從向量的長(zhǎng)度或模談起，當(dāng)且僅當(dāng)時(shí)，等號(hào)成立。例1

復(fù)數(shù)

的長(zhǎng)度或模指的是量顯然復(fù)向量的模具有下列三條性質(zhì)：，當(dāng)且僅當(dāng)時(shí)，等號(hào)成立。顯然向量的模也具有下列三條性質(zhì)：例2

維歐氏空間中向量的長(zhǎng)度或模定義為定義3.3.1按某種規(guī)則(或映射)（一）向量的范數(shù)由(3)可推出不等式：--------(1)--------(2)--------(3)--------(4)顯然并且由于例3.3.1

求下列向量的各種常用范數(shù)解向量范數(shù)是其分量的連續(xù)函數(shù)，即有下述定理：定理3.1（向量范數(shù)連續(xù)性定理）證明有限維向量空間的范數(shù)等價(jià)性定理定理3.2容易驗(yàn)證：

（1）‖x‖2≤‖x‖1≤

n1/2‖x‖2；

（2）‖x‖∞≤‖x‖2≤

n1/2‖x‖∞；

（3）‖x‖∞≤‖x‖1≤

n‖x‖∞。3種范數(shù)相互等價(jià)向量序列的收斂性定義3.3

如果向量序列{x(k)}?Rn和向量x∈Rn滿足則稱向量序列{x(k)}收斂于向量x，記為定理3.3

向量序列{x(k)}收斂于x的充分必要條件是由向量范數(shù)的等價(jià)性定理可得到結(jié)論：如果在一種范數(shù)意義下向量序列收斂時(shí)，則在任何一種范數(shù)意義下向量序列亦收斂證明：定義3.43.1.2矩陣的范數(shù)由于大多數(shù)與估計(jì)有關(guān)的問(wèn)題中，矩陣和向量會(huì)同時(shí)參與運(yùn)算，所以希望引進(jìn)一種矩陣范數(shù)，它和向量范數(shù)相聯(lián)系而且和向量范數(shù)相容，即為此我們引進(jìn)矩陣的算子范數(shù)--------(3.5)定義3.5定理3.4--------(3.6)定理3.5

向量的常用范數(shù)可以得到常用的矩陣算子范數(shù)證明：對(duì)于2范數(shù)，應(yīng)有

注意，

是半正定的對(duì)稱陣，設(shè)其特征值為

以及其對(duì)應(yīng)的正交規(guī)范特征向量為

則對(duì)任一滿足

的向量

有

和

于是，有

另一方面，若取

，則有所以

例3.3.4求矩陣A的各種常用范數(shù)解由于特征方程為容易計(jì)算計(jì)算較復(fù)雜對(duì)矩陣元素的變化比較敏感(理論上)使用最廣泛性質(zhì)較好定義3.7如果n階矩陣序列{A(k)}

?Rn×n和矩陣A∈Rn×n

滿足（其中A(k)=(aij(k))n×n

,A=(aij)n×n）矩陣序列的收斂性則稱矩陣序列{A(k)}收斂于矩陣A，記為定理3.6，Rn×n

中矩陣序列{A(k)}收斂于矩陣A的充分必要條件是定理3.7設(shè)A為任意n階方陣，則對(duì)任意矩陣范數(shù)||A||，有：ρ(A)≤||A||證:設(shè)λ為A的任意一個(gè)特征值,X為對(duì)應(yīng)的特征向量AX=λX兩邊取范數(shù),得:||

AX||

=||λX

||=|λ|||

X

|||λ|||

X

||=||λX

||=||

AX||≤||

A||

||

X||由X

≠0,所以||

X

||>0,故有:|λ|≤||A||

所以特征值的最大值≤||A||，即ρ(A)≤||A||對(duì)任給的

存在

上的算子范數(shù)

使得定理3.8證明：由Jordan分解定理知，存在非奇異矩陣

，使得

其中，

=1或0，對(duì)于任意給定的

，令則有

在

上引入一個(gè)算子矩陣范數(shù)，定義如下

它所對(duì)應(yīng)的向量范數(shù)，定義如下

該范數(shù)對(duì)于矩陣

有

定理證明補(bǔ)充定理3.9--------(3.8)證明3.1.3、方程組的性態(tài)條件數(shù)與攝動(dòng)理論（一）線性代數(shù)方程組的性態(tài)

判斷一個(gè)計(jì)算方法的好壞，可用方法是否穩(wěn)定、解的精確度高低以及計(jì)算量、存儲(chǔ)量大小等來(lái)衡量。然而，對(duì)于不同的問(wèn)題，同一方法卻可以產(chǎn)生完全不同的效果，這就涉及到所提供問(wèn)題的性態(tài)，即“好、壞”。例3.3.5

可見(jiàn)，在上述方程組中，系數(shù)誤差的小擾動(dòng)對(duì)解的影響不大?？梢?jiàn)，在上述方程組中，系數(shù)誤差的小擾動(dòng)對(duì)解的影響很大。思考:求解時(shí),A

和的誤差對(duì)解

有何影響？

設(shè)A

精確，有誤差，得到的解為，即絕對(duì)誤差放大因子又相對(duì)誤差放大因子

設(shè)精確，A有誤差，得到的解為，即(只要

A充分小，使得是關(guān)鍵的誤差放大因子，稱為A的狀態(tài)數(shù)(條件數(shù))，記為cond(A),定義3.9定義3.8矩陣A的條件數(shù)與所取范數(shù)有關(guān)。通常記顯然，當(dāng)A對(duì)稱時(shí)，條件數(shù)有下列性質(zhì)：定理3.9推論1推論2常數(shù)項(xiàng)b的擾動(dòng)對(duì)解的影響系數(shù)矩陣A的擾動(dòng)對(duì)解的影響定義3.3.8例3.3.6

試求例3.3.5中兩個(gè)線性代數(shù)方程組的條件數(shù)解因而，第二個(gè)方程組的性態(tài)遠(yuǎn)比第一個(gè)方程組壞，從而對(duì)系數(shù)的敏感程度要高得多。值得強(qiáng)調(diào)的是，線性代數(shù)方程組的性質(zhì)是問(wèn)題本身的固有性質(zhì)。用一個(gè)穩(wěn)定的方法去解一個(gè)良態(tài)的方程組，必然得到較準(zhǔn)確的結(jié)果。同樣用一個(gè)穩(wěn)定的方法去解一個(gè)病態(tài)的方程組，結(jié)果就可能很差。例3.3.7

解線性代數(shù)方程組的精確解為用列選主元消元法計(jì)算：回代后得到計(jì)算結(jié)果完全不可靠，實(shí)際上，此時(shí)因此，方程組病態(tài)！如把方程組的系數(shù)舍入成兩位有效數(shù)字例3.3.8設(shè)有線性代數(shù)方程組試分析其性態(tài)。試分別計(jì)算兩組方程組的精確解。它的精確解為x1=-6.222...x2=38.25…x3=-33.65...它的精確解為x1=x2=x3=1.條件數(shù)不是很好。兩個(gè)解相差大，說(shuō)明解對(duì)系數(shù)矩陣敏感程度高事實(shí)上，上例中矩陣A是三階Hilbert矩陣n階Hilbert矩陣是有名的病態(tài)矩陣，它隨著矩陣階數(shù)的增大，條件數(shù)迅速增大。解

“病態(tài)”方程的經(jīng)驗(yàn)判斷

“病態(tài)”問(wèn)題的處理方法例3.3.10

解等價(jià)的方程組解回代后得到用列選主