大連理工大學(xué)-矩陣與數(shù)值分析緒論課件

計(jì)算機(jī)科學(xué)計(jì)算

（第一版）

施吉林張宏偉金光日編

高等教育出版社

計(jì)算機(jī)科學(xué)計(jì)算

（第一

本課件在張宏偉老師提供課件基礎(chǔ)上略加改動(dòng)而成，謹(jǐn)此致謝！

本課件第1章緒論1.1

計(jì)算機(jī)科學(xué)計(jì)算研究對(duì)象與特點(diǎn)第1章緒論1.1計(jì)算機(jī)科學(xué)計(jì)算研究對(duì)象與特點(diǎn)科學(xué)計(jì)算（計(jì)算方法、計(jì)算數(shù)學(xué)、數(shù)值分析）：計(jì)算機(jī)上求解數(shù)學(xué)問題的離散近似算法

科學(xué)計(jì)算（計(jì)算方法、計(jì)算數(shù)學(xué)、數(shù)值分析）：

主要內(nèi)容包括：微分方程數(shù)值解法

本課程研究用計(jì)算機(jī)求解各種數(shù)學(xué)問題的數(shù)值計(jì)算方法、理論與軟件實(shí)現(xiàn)數(shù)值代數(shù)數(shù)值逼近（數(shù)值微分積分）主要內(nèi)容包括：微分方程數(shù)值解法本課程研究

課程特點(diǎn)：

一、構(gòu)造計(jì)算機(jī)可行的有效算法：計(jì)算量與存儲(chǔ)量。

二、給出實(shí)用的理論分析結(jié)果，如算法收斂性和穩(wěn)定性。

課程特點(diǎn)：一、構(gòu)造計(jì)算機(jī)可行的有效考察線性方程組早在18世紀(jì)Gramer已給出了求解法則：

什么是有效算法？

考察線性方程組早在18世紀(jì)Gramer已給出了求解法則：什么…，（D≠0），Gramer’sRuler…，（D≠0），Gramer’sRuler

從理論上講Gramer法則是一個(gè)求線性方程組的數(shù)值方法，且對(duì)階數(shù)不高的方程組行之有效。但是在計(jì)算機(jī)上，它是否實(shí)際可行？在算法中的乘、除運(yùn)算次數(shù)將達(dá)使用每秒一億次的串行計(jì)算機(jī)計(jì)算,一年可進(jìn)行的運(yùn)算應(yīng)為：21！=9.7×1020次(9.7×1020)(3.5)(3.097×1015

)

30(萬(wàn)年)365(天)×24(小時(shí))×3600(秒)×1093.5×1015（次）

?以求解20階線性方程組為例，如果用Gramer法則求解，共需要耗費(fèi)時(shí)間為：從理論上講Gramer法則是一個(gè)求線性方程組的數(shù)值1.2誤差分析與數(shù)值方法的穩(wěn)定性

1.2.1誤差來源與分類

誤差的主要來源：

1.2誤差分析與數(shù)值方法的穩(wěn)定性1.2.1誤差實(shí)際問題數(shù)學(xué)模型計(jì)算機(jī)數(shù)值結(jié)果數(shù)值計(jì)算方法計(jì)算流程與誤差來源模型誤差觀測(cè)誤差截?cái)嗾`差舍入誤差實(shí)際問題數(shù)學(xué)模型計(jì)算機(jī)數(shù)值結(jié)果數(shù)值計(jì)算方法計(jì)算流程與誤差來源1．模型誤差：實(shí)際問題的解與數(shù)學(xué)模型的解之間的誤差，來源于數(shù)學(xué)模型對(duì)實(shí)際問題的的簡(jiǎn)化。2.

觀測(cè)誤差：初始數(shù)據(jù)大多數(shù)是由觀測(cè)而得到的。由于觀測(cè)手段的限制，得到的數(shù)據(jù)常有誤差。1．模型誤差：實(shí)際問題的解與數(shù)學(xué)模型的解之間的誤2.觀測(cè)

截?cái)嗾`差這一術(shù)語(yǔ)來源：截?cái)郥aylor級(jí)數(shù)，用Taylor級(jí)數(shù)的有限項(xiàng)近似替代

Taylor級(jí)數(shù)的無(wú)窮和。3.截?cái)嗾`差：數(shù)學(xué)模型與數(shù)值計(jì)算模型的誤差，如有限代替無(wú)限、離散代替連續(xù)的誤差。

截?cái)嗾`差這一術(shù)語(yǔ)來源：3.截?cái)嗾`差：數(shù)學(xué)模型例如，求的值。利用無(wú)窮級(jí)數(shù)：前項(xiàng)和截?cái)嗾`差則數(shù)值方法的誤差是，近似代替函數(shù)給定=例如，求的值。利用無(wú)窮級(jí)數(shù)：前項(xiàng)和截?cái)嗾`差則數(shù)值方法的誤差是4.

舍入誤差例如，產(chǎn)生的誤差就是舍入誤差。

用近似代替，由于計(jì)算機(jī)字長(zhǎng)有限而造成的計(jì)算過程中誤差。4.舍入誤差例如，產(chǎn)生的誤差就是舍入誤差。用

模型和觀測(cè)兩種誤差不在本課程的討論范圍。

這里主要討論截?cái)嗾`差與舍入誤差，而截?cái)嗾`差將結(jié)合具體算法討論.

初始數(shù)據(jù)誤差也常常歸結(jié)為舍入誤差.

下面討論誤差估計(jì)幾個(gè)基本問題模型和觀測(cè)兩種誤差不在本課程的討論范圍。這

1.誤差的基本概念

設(shè)為精確值，因此誤差也未知。稱

通常準(zhǔn)確值是未知的，為近似值的絕對(duì)誤差，簡(jiǎn)稱誤差。為的一個(gè)近似值，絕對(duì)誤差界（限）誤差可正可負(fù)。絕對(duì)誤差（誤差）

則叫做近似值的誤差界（限）。它總是正數(shù)。定義1.4定義1.5

設(shè)為精確值，為的一個(gè)近似值，若有常數(shù)使得（1-13）1.誤差的基本概念設(shè)為精確值，因此誤

例如，用毫米刻度的米尺測(cè)量一長(zhǎng)度，讀出和該長(zhǎng)度接近的刻度，是的近似值，它的誤差限是，于是如讀出的長(zhǎng)度為，則有.

雖然從這個(gè)不等式不能知道準(zhǔn)確的是多少，但可知絕對(duì)誤差界（限）結(jié)果說明在區(qū)間內(nèi).例如，用毫米刻度的米尺測(cè)量一長(zhǎng)度，讀出和該長(zhǎng)度接

對(duì)于一般情形，即也可以表示為

但要注意的是，誤差的大小并不能完全表示近似值的好壞.對(duì)于一般情形，即也可以表示為

實(shí)際計(jì)算中，如果真值未知時(shí)，

若，稱為近似值的相對(duì)誤差。作為的相對(duì)誤差，條件是較小。通常取相對(duì)誤差（誤差）則將近似值的誤差與準(zhǔn)確值的比值定義實(shí)際計(jì)算中，如果真值未知時(shí)，若，

相對(duì)誤差也可正可負(fù)，其絕對(duì)值上界叫做相對(duì)誤差界（限）

是的平方項(xiàng)級(jí)，故可忽略不計(jì)。記為：相對(duì)誤差界（限）這是由于相對(duì)誤差也可正可負(fù)，其絕對(duì)值上界叫做相對(duì)誤差界（限）

例，有兩個(gè)量，則

又例如，有兩個(gè)量

絕對(duì)誤差相對(duì)誤差絕對(duì)誤差相對(duì)誤差則=-0.1例，有兩個(gè)量，

上例中，絕對(duì)誤差有較大變化，而相對(duì)誤差相同。相對(duì)誤差由于考慮到準(zhǔn)確值本身的大小常常更有意義。

上例中，絕對(duì)誤差有較大變化，而相對(duì)誤差相同。相對(duì)其近似值

,求

已知，因此其絕對(duì)誤差界為：相對(duì)誤差界為：的絕對(duì)誤差界和相對(duì)誤差界。解：0.00030.0002。注意：絕對(duì)誤差界和相對(duì)誤差界并非唯一。例1其近似值,求已知，因此其絕對(duì)誤差

當(dāng)準(zhǔn)確值位數(shù)比較多時(shí)，常常按四舍五入的原則得到的前幾位近似值，

取3位

取5位它們的誤差界可以取為：例如誤差界的確定當(dāng)準(zhǔn)確值位數(shù)比較多時(shí)，常常按四舍五入的原則得（1-14）的一個(gè)數(shù)字，為整數(shù)，（1-15）則稱為的具有位有效數(shù)字的近似值。定義1.6

設(shè)為精確值，為的一個(gè)近似值，表為可以是有限或無(wú)限小數(shù)形式，其中是0到9中為使下式成立的最大正整數(shù)，（1-14）的一個(gè)數(shù)字，為整數(shù)，（1-15）

其中非零，是四舍五入得到的，則

其中非零，是四舍五入得到的，則

如果一個(gè)近似值是由精確值經(jīng)四舍五入得到的，那么，從這個(gè)近似值的末尾數(shù)（可以是零）向前數(shù)起直到再無(wú)非零數(shù)字止，所數(shù)到的數(shù)字均為有效數(shù)字有效數(shù)字位數(shù)與小數(shù)點(diǎn)的位置無(wú)關(guān)

一般來說，絕對(duì)誤差與小數(shù)位數(shù)有關(guān)，相對(duì)誤差與有效數(shù)字位數(shù)有關(guān)如果一個(gè)近似值是由精確值經(jīng)四舍五入得到的，那么，從這

下列近似值的絕對(duì)誤差限均為0.005，問它們各有幾位有效數(shù)字？解：則由已知條件，

練習(xí)1

即有5位有效數(shù)字；

下列近似值的絕對(duì)誤差限均為0.005，問它們各有1位有效數(shù)字；

即無(wú)有效數(shù)字。

即有1位有效數(shù)字；即無(wú)有效數(shù)字。即減小舍入誤差影響的幾個(gè)原則：1.避免兩個(gè)相近的數(shù)做減法兩個(gè)具有個(gè)有效數(shù)字的相近數(shù)相減后，常常損失有效數(shù)字。例如在三位有效數(shù)字計(jì)算機(jī)上求解方程一個(gè)根為有三位有效數(shù)字。而另一個(gè)根為只有一位有效數(shù)字。減小舍入誤差影響的幾個(gè)原則：1.避免兩個(gè)相近的數(shù)做減法兩個(gè)具方程的改進(jìn)求根公式：當(dāng)很小時(shí)，用下面近似公式計(jì)算例方程的改進(jìn)求根公式：當(dāng)很小時(shí)，用下面近似公式計(jì)算例

2.防止“大數(shù)吃小數(shù)”

計(jì)算在五位有效數(shù)字計(jì)算機(jī)上，由于加減法要對(duì)齊小數(shù)點(diǎn)，導(dǎo)致“大數(shù)吃小數(shù)”。因此，應(yīng)該小數(shù)相加后，再與大數(shù)相加：2.防止“大數(shù)吃小數(shù)”計(jì)算在五位有效數(shù)字計(jì)算機(jī)3.避免小數(shù)做除數(shù)或大數(shù)做乘數(shù)例如，若則絕對(duì)誤差比增大倍。當(dāng)時(shí)，有可能溢出！3.避免小數(shù)做除數(shù)或大數(shù)做乘數(shù)例如，若則絕對(duì)誤差比增大倍。當(dāng)即為所求。次乘法和例如，直接逐項(xiàng)求和計(jì)算若令，

則有遞推公式（秦九韶算法，霍納算法）：需次乘法，次加法。4.巧用等價(jià)公式減少運(yùn)算次數(shù)需要次加法。即為所求。次乘法和例如，直接逐項(xiàng)求和計(jì)算若令，由于則遞歸算法如下：1.2.計(jì)算積分解：算出由計(jì)算出由5.選擇穩(wěn)定的算法（穩(wěn)定性：舍入誤差的積累影響不大)由于則遞歸算法如下：1.2.計(jì)算積分解：算出由計(jì)算出由5.選

設(shè)的近似值為，然后按方法1計(jì)算的近似值

。如果最初計(jì)算時(shí)誤差為遞推過程的舍入誤差不記，并記，則有舍入誤差放大了倍，因此是數(shù)值不穩(wěn)定的。按方法2計(jì)算時(shí)，

記初始誤差為，則有

因此公式2是數(shù)值穩(wěn)定的。設(shè)的近似值為，然后按方法1計(jì)算的近似值。如果最初計(jì)算時(shí)1.2向量與矩陣的范數(shù)實(shí)數(shù)或復(fù)數(shù)的大小由非負(fù)實(shí)數(shù)度量。（2）齊次性

（3）三角不等式

注意到滿足以下三個(gè)條件：（1）非負(fù)性當(dāng)且僅當(dāng)時(shí)1.2向量與矩陣的范數(shù)實(shí)數(shù)或復(fù)數(shù)的大小由非負(fù)實(shí)數(shù)向量和矩陣的范數(shù)：向量和矩陣的“長(zhǎng)度”或“大小”?？茖W(xué)計(jì)算中離不開矩陣和向量的運(yùn)算。運(yùn)算過程的收斂、穩(wěn)定、誤差等問題都基于“距離”、“長(zhǎng)度”、“大小”的概念，都用范數(shù)來描述。向量和矩陣的范數(shù)：向量和矩陣的“長(zhǎng)度”或“大小”?？茖W(xué)計(jì)算中1.2.1向量范數(shù)

（1）非負(fù)性并且當(dāng)且僅當(dāng)時(shí)

（2）齊次性

（3）三角不等式則稱函數(shù)為上的一個(gè)向量范數(shù)．以及任意復(fù)（實(shí)）常數(shù)該函數(shù)滿足（或）上的一個(gè)非負(fù)，若對(duì)任意向量和

定義在實(shí)值函數(shù)，記為定義1.1（或1.2.1向量范數(shù)（1）非負(fù)性記任意ｎ維向量(為向量的轉(zhuǎn)置），常用的向量范數(shù)有

(1-1)

(1-2)

(為向量的共軛轉(zhuǎn)置）

(1-3)

(1-4)表示的模．上述四種范數(shù)分別稱為１，2，∞范數(shù)和p-范數(shù)

記任意ｎ維向量(為向量的轉(zhuǎn)置），常前面三種范數(shù)為p-范數(shù)當(dāng)ｐ＝１，2，∞時(shí)的特例。

例如，當(dāng)時(shí)，。事實(shí)上，兩邊開次方得

由于

故容易驗(yàn)證以上三種范數(shù)均滿足范數(shù)定義中的三個(gè)條件。下面我們分析一下向量的１，2和∞-范數(shù)的幾何意義，以為例。前面三種范數(shù)為p-范數(shù)當(dāng)ｐ＝１，2，∞時(shí)的特例。例如，當(dāng)大連理工大學(xué)-矩陣與數(shù)值分析緒論ppt課件給定任意一種向量范數(shù)都可以定義一種加權(quán)范數(shù)加權(quán)的1-范數(shù)為：

加權(quán)的2-范數(shù)為：和任意非奇異矩陣?yán)鐚?duì)于和給定任意一種向量范數(shù)都可以定義一種加權(quán)范數(shù)加權(quán)的1-范數(shù)為：例對(duì)任給,試問如下實(shí)值函數(shù)是否構(gòu)成向量范數(shù)？

答：1.

不滿足非負(fù)性條件，3.不滿足齊次性條件；4.滿足加權(quán)向量范數(shù)的定義，故構(gòu)成向量范數(shù)。2.不滿足非負(fù)性條件，例如取例如取都不是向量范數(shù)！例對(duì)任給,試問如下實(shí)值函數(shù)是否構(gòu)成向量范數(shù)？答：1.例：求向量的１，2和∞-范數(shù)。解：

例：求向量的１，2和∞-范數(shù)。解：

（向量范數(shù)的等價(jià)性定理）設(shè)和為上的任意兩種向量范數(shù)，則存在兩個(gè)與向量無(wú)關(guān)的正常數(shù)

c1和c2，使得下面的不等式成立

（1-6）

并稱和為上的等價(jià)范數(shù)。

定理1.1（向量范數(shù)的等價(jià)性定理）設(shè)和為上的任意兩種向量1.矩陣范數(shù)（2）齊次性

（3）三角不等式則稱函數(shù)為上的一個(gè)矩陣范數(shù)。以及任意復(fù)常數(shù)對(duì)任意矩陣

和

上的一個(gè)非負(fù)實(shí)值函數(shù)，記為，若該函數(shù)滿足以下條件：

定義在（1）非負(fù)性當(dāng)且僅當(dāng)時(shí)03A（4）相容性定義1.21.矩陣范數(shù)（2）齊次性（3）三角不等式則稱函數(shù)

（1-7）

(1-8)

顯然上述兩個(gè)函數(shù)均滿足矩陣范數(shù)定義中的（1）—（4）

我們分別稱由（1-7）和（1-8）所定義的范數(shù)為矩陣的

-范數(shù)和Frobenius范數(shù)（簡(jiǎn)稱F-范數(shù)）．（1-7）(1-8)2．算子范數(shù)

(1-9)則是一種矩陣范數(shù),稱為算子范數(shù)。定理1.2設(shè)由算子范數(shù)定義，有是向量范數(shù)。定義2．算子范數(shù)(1-9)則是一種矩陣范定義稱如下集合為矩陣的譜定義矩陣的譜半徑為注：若矩陣為：則其復(fù)共軛矩陣為：定義稱如下集合為矩陣的譜定義矩陣

我們稱由關(guān)系式（1-9）定義的矩陣范數(shù)為從屬于向量范數(shù)的矩陣范數(shù)，簡(jiǎn)稱從屬范數(shù)或算子范數(shù)．在向量范數(shù)中，最常用的范數(shù)為向量的1-范數(shù)、2-范數(shù)和∞-范數(shù)，下面分別導(dǎo)出從屬這三種向量范數(shù)的矩陣范數(shù)．

(列范數(shù))(行范數(shù))

（1）（2）（3）（譜范數(shù)）其中表示矩陣的最大特征值；

定理1.3我們稱由關(guān)系式（1-9）定義的矩陣范數(shù)為從屬于向量對(duì)任何算子范數(shù)，單位矩陣

的范數(shù)值為1，即推論事實(shí)上，特別地，

不是算子范數(shù)。事實(shí)上，對(duì)任何算子范數(shù)，單位矩陣的范數(shù)值為1，即推論事實(shí)設(shè)求例2解：

設(shè)求例2解：令得，令得，

滿足1.2.4矩陣范數(shù)的性質(zhì)為矩陣空間的任一算子范數(shù)，均有

設(shè)則對(duì)任意的n階方陣

（1-10）

的譜半徑。

為方陣其中定理1.４證，則有從而得到．設(shè)滿足1.2.4矩陣范數(shù)的性質(zhì)為矩陣空間的任一算子范一般地，實(shí)值函數(shù)可以作為一種矩陣范數(shù)嗎？注意：當(dāng)時(shí)，取，則有，從而

；從而。另一方面故實(shí)值函數(shù)不可以作為一種范數(shù)！一般地，實(shí)值函數(shù)可以作為一種矩陣范數(shù)嗎？對(duì)于任給的ε>0,則存在定理1.5

上的一種算子范數(shù)

（依賴矩陣和常數(shù)ε），使得

（1-11）注：定理1.５中的矩陣范數(shù)與給定的矩陣有關(guān)。針對(duì)矩陣構(gòu)造的矩陣范數(shù)對(duì)于另一個(gè)矩陣，不等式不一定成立。

對(duì)于任給的ε>0,則存在定理1.5上的一種算子范數(shù)

，如果

上的一種算子矩陣范數(shù)

且

則可逆且

(1-12)定理1.6

整理后便可得到(1-12)式。證由定理1.4可得，設(shè)為矩陣的任意非零特征值則矩陣的特征值為：從而可知即可逆。進(jìn)一步，如果上的一種算子矩陣范數(shù)且

秦九韶是一位既重視理論又重視實(shí)踐，既善于繼承又勇于創(chuàng)新的數(shù)學(xué)家．他所提出的大衍求一術(shù)和正負(fù)開方術(shù)及其名著《數(shù)書九章》，是中國(guó)數(shù)學(xué)史上光彩奪目的一頁(yè)，對(duì)后世數(shù)學(xué)發(fā)展產(chǎn)生了廣泛的影響．美國(guó)著名科學(xué)史家G．薩頓(Sarton，1884－1956)說過，秦九韶是“他那個(gè)民族，他那個(gè)時(shí)代，并且確實(shí)也是所有時(shí)代最偉大的數(shù)學(xué)家之一”．秦九韶的數(shù)學(xué)成就及對(duì)世界數(shù)學(xué)的貢獻(xiàn)主要表現(xiàn)在以下方面：

1、秦九韶的《數(shù)書九章》是一部劃時(shí)代的巨著

2、秦九韶的“大衍求一術(shù)”，領(lǐng)先高斯554年，被康托爾稱為“最幸運(yùn)的天才”

3、秦九韶的任意次方程的數(shù)值解領(lǐng)先英國(guó)人霍納（W·G·Horner，1786—1837年）572年

秦九韶（公元1202－1261），字道古，安岳人。南宋大數(shù)學(xué)家秦九韶與李冶、楊輝、朱世杰并稱