數(shù)值計算方法 第4版 課件 第5-7章 二乘法、數(shù)值積分和數(shù)值微分、微分方程01歐拉法02R-K法

第5章曲線擬合的最小二乘法

5.1最小二乘法原理

5.2超定方程組的最小二乘解

5.3可線性性化模型的最小二乘擬合

5.4多變量的數(shù)據(jù)擬合

5.5多項式擬合

5.6正交多項式及其最小二乘擬合5.1最小二乘原理設已知某物理過程y=f(x)在m個互異點的觀測數(shù)據(jù)

求一個簡單的近似函數(shù)φ(x)，使之“最好”地逼近f(x)，而不必滿足插值原則。稱函數(shù)y=φ(x)為經(jīng)驗公式或擬合曲線。這就是曲線擬合問題。

xix1x2

…..xmyiy1y2

…..ym5.2超定方程組的最小二乘解設線性方程組

(m>n)

即

如果有向量x使得

達到最小，則稱x為超定方程組的最小二乘解。

定理超定方程組Ax=b存在最小二乘解，且即為方程組ATAx=ATb

的解。當A的列向量線性無關時ATA非奇異，這時有唯一的解。

稱方程組ATAx=ATb

為方程組Ax=b的正則方程組、正規(guī)方程組、法方程組

曲線擬合的最小二乘法可以看成求下述超定方程組的最小二乘解的問題

簡寫為

一般計算步驟(1)計算

，其中

(2)計算ATA,ATb

，形成法方程組ATAx=ATb(3)求解法方程組，輸出

a1,a2,…,an,構成

5.3可線性性化模型的最小二乘擬合

例已知觀測數(shù)據(jù)(1,–5),(2,0),(4,5),(5,6)，試用最小二乘法求形如的經(jīng)驗公式。

解

作超定方程組即法方程組為求得a=1.537650114

b=－6.432976311所求經(jīng)驗公式為5.5多項式擬合1直線擬合

作超定方程組

n記號

指對i從1到n取和法方程組

2二次擬合、拋物擬合

作超定方程組

有法方程組

3一般情形

超定方程組的系數(shù)矩陣

例給定函數(shù)y=f(x)的實例數(shù)據(jù)表。試用最小二乘法求二次擬合多項式。

解設二次擬合多項式寫出其正則方程組x1234678y2367532將計算結(jié)果代入正則方程組解得

a0=-1。3185,a1=3.4321,a2=-0.3864二次擬合曲線

第6章數(shù)值積分和數(shù)值微分

本章的問題：計算定積分∫abf(x)dx的近似值。必要性:如果f(x)的原函數(shù)是F(x)，則

等.

實際問題中常有些被積函數(shù)沒有表達式,只是通過觀測得到一些離散的數(shù)據(jù)點,這樣的定積分也只能用數(shù)值方法近似計算.（牛頓-萊布尼茲公式）但有些定積分的被積函數(shù)的原函數(shù)不能用初等函數(shù)明顯表示,牛頓-萊布尼茲公式不能用.如第6章數(shù)值積分和數(shù)值微分6.1數(shù)值積分概述6.2牛頓-柯特斯公式6.3變步長求積和龍貝格算法6.4高斯型求積公式6.5數(shù)值微分6.1.2代數(shù)精度代數(shù)精度與節(jié)點數(shù)的關系6.1.3插值求積公式6.1.4

構造插值求積公式的步驟用待定系數(shù)法構造插值求積公式6.2牛頓-柯特斯求積公式6.2.1公式的導出6.2.2牛頓-柯特斯公式的代數(shù)精度6.2.3低階求積公式的余項6.2.4復化求積法6.2牛頓-柯特斯求積公式

6.2.1

公式的導出2柯特斯系數(shù)的求取n

11/21/2

21/64/61/6

31/83/83/81/8

47/9016/452/1516/457/90

519/28825/9625/14425/14425/9619/288

641/8409/359/28034/1059/2809/3541/840

7751/172803577/172801323/172802989/172802989/172801323/172803577/17280751/17280

8989/283505888/28350-928/2835010496/28350-4540/2835010496/28350-928/283505888/28350989/28350柯特斯求積系數(shù)表：例如：n=1時，有n=2時，有柯特斯系數(shù)的性質(zhì)

(2)系數(shù)有對稱性。

(3)當n≥8時開始出現(xiàn)負值的柯特斯系數(shù)。

(1)取f(x)≡1，則f(n+1)(x)≡0,Rn(f)≡0，于是梯形公式

當n=1時,有

相當于用直線P(x)代替f(x)計算積分。3常用的低階牛頓-柯特斯公式拋物線(辛卜生)公式牛頓－柯特斯求積公式當n=2時有

相當于用過兩個端點和中點的二次拋物線P(x)代替f(x)計算積分。辛卜生公式的幾何意義

柯特斯公式牛頓－柯特斯求積公式當n=4時有

6.2.2

牛頓－柯特斯公式的代數(shù)精度當f(x)是1,x,x2,…,xm時，準確成立，但當f(x)=xm+1時，不準確成立，則稱求積公式的代數(shù)精確度（簡稱代數(shù)精度）為m。復習定義求積公式（Ai與f(x)無關）

牛頓－柯特斯公式是把積分區(qū)間分成n等分，用n+1個節(jié)點構造的插值求積公式。因此，牛頓－柯特斯公式至少具有n

次代數(shù)精度，但當n為偶數(shù)時具有n+1次代數(shù)精度。

定理當n是偶數(shù)時，牛頓－柯特斯求積公式具有n+1次代數(shù)精確度。梯形公式，

n=1(2個節(jié)點）,有1次代數(shù)精度，應用梯形公式不是因為其代數(shù)精度高，而是因為其簡單。辛卜生（拋物線）公式，n=2(3個節(jié)點）,有3次代數(shù)精度，柯氏公式，n=4(5個節(jié)點）,有5次代數(shù)精度。因為其代數(shù)精度高，所以常采用。當n=3(4個節(jié)點）,因為n=3不是偶數(shù)，只有3次代數(shù)精度，所以該公式不采用。

證

由于(x-a)(x-b)在[a,b]

中不變號，在[a,b]

中連續(xù)，根據(jù)廣義積分中值定理，存在一點η∈[a,b]

,使6.2.3牛頓－柯特斯公式的余項梯形公式、辛卜生公式和柯特斯公式的余項（誤差估計）定理（梯形公式的余項）設f(x)在[a,b]上具有連續(xù)的二階導數(shù)，則梯形公式的余項（誤差)

對梯形公式余項的說明負號f(x)的2階導數(shù)，有1次代數(shù)精度。3和區(qū)間的3次方成正比。例證梯形公式的代數(shù)精度為1。證明梯形公式是誤差當f(x)=1,x

時，R1

(f)=0,梯形公式成為準確等式.當f(x)=x2

時，根據(jù)梯形公式，R1

(f)不為零。因此，梯形公式的代數(shù)精度為1。

定理（辛卜生公式的余項）設f(x)在[a,b]上具有連續(xù)的四階導數(shù)，則辛卜生公式的余項定理（柯特斯公式的余項）設f(x)在[a,b]上具有連續(xù)的六階導數(shù)，則柯特斯公式的余項

對辛卜生公式余項的說明負號f(x)的4階導數(shù)，有3次代數(shù)精度。3和區(qū)間的5次方成正比。例證明辛卜生公式的代數(shù)精度為3。證明辛卜生公式是誤差當f(x)=1,x,x2,x3

時，R2

(f)=0,辛卜生公式成為準確等式.當f(x)=x4

時，因此，辛卜生公式的代數(shù)精確度為3?！?，辛卜生公式不能準確成立。

對科特斯公式余項的說明負號f(x)的6階導數(shù)，有5次代數(shù)精度。3和區(qū)間的7次方成正比。

梯形公式、辛卜生公式和柯特斯公式在區(qū)間不大時，用來計算定積分是簡單實用的。但當區(qū)間比較大時，由余項可以看出精度差（梯形公式、辛卜生公式和柯特斯公式的余項分別和區(qū)間長度的3，5，7次方成正比），為減小因區(qū)間過大造成的誤差過大，將積分區(qū)間等分成n

等份，對每等份（每個小區(qū)間）分別用低階的牛頓－柯特斯公式（如梯形公式、辛卜生公式或柯特斯公式）求積，然后將其結(jié)果加起來，得到積分的近似值。6.2.4復化求積法

復化求積法的基本思想：為減小因區(qū)間過大而造成的誤差過大，將積分區(qū)間等分成若干等份,每份成為一個子區(qū)間，然后對每個子區(qū)間用低階的求積公式（如梯形公式、辛卜生公式或科特斯公式等）求積，再利用積分的區(qū)間可加性，把各區(qū)間上的積分加起來，得到復化求積公式。

將積分區(qū)間等分成n個小區(qū)間，在每個小區(qū)間上分別用梯形求積公式求積，然后再將其結(jié)果加起來。設f(x)

在[a,b]上有連續(xù)的二階導數(shù)，n是正整數(shù).將[a,b]等分成n個小區(qū)間1復化梯形公式及其誤差在

，上運用梯形公式然后對各子區(qū)間的積分值相加在[a,b]上的誤差由于f″(x)連續(xù)，對連續(xù)函數(shù)在[a,b]上存在，有（平均值）梯形公式的誤差已知為當f(x)在[a,b]有連續(xù)的2階導數(shù)時，在子區(qū)間例

用n=6的復化梯形公式計算積分的近似值。解

44.24.44.64.855.21.827655

用n=6的復化梯形公式計算積分解

2復化辛卜生（拋物線）公式及其誤差記子區(qū)間的中點為

則復化辛卜生（拋物線）求積公式當f(x)

在[a,b]上有連續(xù)的4階導數(shù)時，在子區(qū)間辛卜生公式的誤差為使絕對誤差小于10–6。例

用復化辛卜生公式計算積分的近似值,解解不等式求得n=6。用n=6的復化拋物線公式計算積分，見上例。3復化柯特斯公式及其誤差將子區(qū)間分成4等份，內(nèi)分點依次為則復化柯特斯求積公式當f(x)在[a,b]有連續(xù)的6階導數(shù)時，復化柯特斯公式的誤差6.3變步長求積和龍貝格算法

復化求積公式能提高精度，但要給出步長，步長太大精度低，步長太小，計算量大。實際計算用變步長計算，在步長逐次二分過程中，反復利用復化求積公式進行計算，直到所求積分值滿足精度要求為止。

將積分區(qū)間等分成n個子區(qū)間，則有n+1個分點對子區(qū)間再增加一個新節(jié)點，區(qū)間增加1倍，有對子區(qū)間運用梯形公式，有6.3.1變步長梯形法則

比較?。ㄔ试S截斷誤差ε

）在步長逐次二分的過程中，校驗上式，取滿足精度的。若將區(qū)間再分半，為則有6.3.2

龍貝格（Romberg)求積法梯形法的加速梯形法計算簡單，精度較低，收斂慢，當把區(qū)間分成n等份，用復化公式計算積分的近似值為，截斷誤差為當時，T2n即為所求的近似值。是T2n

的修正項，它與T2n

之和比T2n

、Tn更接近與真值，即它是一種補償。取設f″(x)在

[a,b]連續(xù)且變化不大時，有f″(ξn)≈f″(ξ2n),可得近似式驗后誤差估計式下面說明將Tn,T2n的表達式代入，有2辛卜生法的加速當把區(qū)間分成n等份，用復化辛卜生公式計算積分的近似值為，截斷誤差為若將區(qū)間再分半，為則有設

連續(xù)且變化不大時，有

,可得近似式具有5次代數(shù)精度。3龍貝格公式（柯特斯法的加速）當把區(qū)間分成n等份，用復化柯特斯公式計算積分的近似值為，截斷誤差為若將區(qū)間再分半，為則有設連續(xù)且變化不大時，有,可得近似式具有7次代數(shù)精度。龍貝格積分法可以按下面表的順序進行：

當對角線上最后兩個相鄰項滿足時,可停止計算并取作為所求積分的近似值。例用龍貝格積分法計算積分

,使精確度達到10-4。解最后得到………6.4.2高斯-勒讓德（Gauss-Legendre）求積公式

從定理可以看出，當給定，節(jié)點就確定了。本題的精確解,求積公式具有4為有效數(shù)字。6.5數(shù)值微分

兩點公式第7章常微分方程初值問題的數(shù)值解法微分方程常微分方程一階常微分方程定階條件：初值問題數(shù)值解法：給定點a=x0<x1<…<xn=b,將初值問題離散化為差分方程,求出解函數(shù)(積分曲線)y(x)在這些點的近似值y1,y2,…,yn

。所求得的近似值y1,y2,…,yn稱為微分方程數(shù)值解。第7章常微分方程初值問題的數(shù)值解法7.1歐拉法7.2龍格-庫塔法7.3線性多步法7.4收斂性與穩(wěn)定性7.5微分方程組和高階微分方程7.1歐拉法和改進的歐拉法7.1.1

歐拉公式7.1.2局部截斷誤差和階7.1.3隱式（后退）歐拉公式和兩步歐拉公式7.1.4

梯形公式7.1.5

改進的歐拉法(預報-校正公式)7.1歐拉法

7.1.1歐拉公式3歐拉法數(shù)值微分推導用差商代替導數(shù)

設等距，步長

令x=xn,x+h=xn+1,

y(xn)≈yn

，y(xn+1)≈yn+1,初值問題離散化為初值問題(歐拉公式)

，

局部截斷誤差和階：數(shù)值公式的精度定義局部截斷誤差：假設第n步是準確的，即y(xn

)=yn，將y(xn+1)-yn+1定義為數(shù)值方法的局部截斷誤差。由于實際上yn不是準確值，因此它的誤差會傳播下去。實際計算時，每一步都可能產(chǎn)生舍入誤差。定義若局部截斷誤差為O(hp+1),p為正整數(shù)，則稱數(shù)值公式是p階公式。

歐拉公式的截斷誤差是O(h2)，公式是1階的。二階泰勒公式

兩式相減，由設yn=y(xn

)，有

歐拉公式的局部截斷誤差和階7.1.3兩步歐拉公式

1隱式（后退）歐拉公式2兩步歐拉公式：中點方法

7.1.3梯形法對微分方程y′=f(x,y)兩邊求xn到x