函數逼近與曲線擬合省公開課金獎全國賽課一等獎微課獲獎課件

§

8.1數據擬合

本章繼續(xù)討論用簡單函數近似代替較復雜函數問題.上章提到插值就是近似代替方法之一,插值近似標準是在插值點處誤差為零.但在實際應用中,有時不要求詳細一些點誤差為零,而要求考慮整體誤差限制,這就引出了擬合和迫近概念.

對離散型函數(即數表形式函數)考慮數據較多情況.若將每個點都看成插值節(jié)點,則插值函數是一個次數很高多項式,比較復雜.而且因為龍格振蕩現(xiàn)象,這個高次插值多項式可能并不靠近原函數.同時因為數表中點普通是由觀察測量所得,往往帶有隨機誤差,要求近似函數過全部點既不現(xiàn)實也無須要.第8章函數迫近與曲線擬合1/81

本章討論函數迫近，是指“對函數類A中給定函數f(x)，記作f(x)∈A，要求在另一類簡單便于計算函數類B中求函數p(x)∈B，使p(x)與

f(x)誤差在某種度量意義下最小”.函數類A通常是區(qū)間[a,b]上連續(xù)函數，記作C[a,b]，稱為函數迫近空間;而函數B通常為n次多項式,有理函數或分段低次多項式等.為了在數學上描述更準確，先要介紹代數和分析中一些基本概念及預備知識.2/81

數學上常把在各種集合中引入某一些不一樣確實定關系稱為賦予集合以某種空間結構，并將這么集合稱為空間。例1

全部實n維向量集合，按向量加法和數乘組成實數域R上線性空間---Rn,稱為n維向量空間.例2

對次數不超出n（n為正整數）實系數多項式全體，按多項式加法和數乘組成數域R上多項式線性空間--Hn,稱為多項式空間.例3

全部定義在[a,b]集合上連續(xù)函數全體，按函數加法和數乘組成數域R上連續(xù)函數線性空間–

C[a,b],稱為連續(xù)函數空間.類似地記Cp[a,b]為含有p階連續(xù)導數函數空間.3/81則稱x1,x2,…,xn

線性相關，不然稱x1,x2,…,xn

線性無關，即只有當a1=a2=…=an=0時等式(1.1)才成立.

定義1

設集合S是數域P上線性空間，元素x1,x2,…,xn∈S，假如存在不全為零數a1,a2,…,an∈P，使得4/81則x1,…,xn稱為空間S一組基,記為S=span{x1,…,xn},并稱空間S為n維空間，系數a1,…,an為x在基x1,…,xn下坐標，記作(a1,…,an)，假如S中有沒有限多個線性無關元素x1,…,xn,…，則稱S為無限維線性空間.

若線性空間S是由n個線性無關元素x1,…,xn生成，即對任意x∈S，都有5/81它由n+1個系數(a0,a1,…,an)唯一確定.1,x,…,xn線性無關，它是Hn一組基，故集合

Hn=span{1,x,…,xn}，且(a0,a1,…,an)是p(x)坐標向量，Hn是n+1維.

下面考慮次數不超出n實系數多項式集合Hn，其元素p(x)∈Hn表示為6/81其中ε為任意給小正數，即精度要求.這就是下面著名魏爾斯特拉斯（Weierstrass）定理.

對連續(xù)函數f(x)∈C[a,b]，它不能用有限個線性無關函數表示，故C[a,b]是無限維，但它任一元素f(x)∈C[a,b]均可用有限維p(x)∈Hn迫近，使誤差7/81在[a,b]上一致成立.

定理1

設f(x)∈C[a,b]，則對任何ε>0，總存在一個代數多項式p(x)

，使8/81

由(1.1)式給出Bn(f,x)也是f(x)在[0,1]上一個迫近多項式，但它收斂太慢，實際中極少使用.9/81更普通函數迫近概念：10/81最慣用度量標準：(一)一致迫近以函數f(x)和p(x)最大誤差：作為度量誤差f(x)－p(x)“大小”標準

在這種意義下函數迫近稱為一致迫近或均勻迫近

(二)平方迫近：采取作為度量誤差“大小”標準函數迫近稱為平方迫近或均方迫近。

11/81

8.2正交多項式

正交多項式是數值計算中主要工具，這里只介紹正交多項式基本概念、一些性質和結構方法。離散情形正交多項式用于下節(jié)數據擬合，連續(xù)情形正交多項式用于生成最正確平方迫近多項式和下章高斯型求積公式結構。它們在數值分析其它領域中也有不少應用。12/81定義

設有點集{xi}i=0,1,…,m，函數f(x)和g(x)在離散意義下內積定義為(1)其中

i>0為給定權數。在離散意義下，函數f(x)2-范數定義為(2)有了內積，就能夠定義正交性。若函數f(x)和g(x)內積(f,g)=0，則稱二者正交。離散點集上正交多項式13/81若多項式組{

k(x)}k=0,…n

在離散意義下內積滿足(3)則稱多項式組{

k(x)}k=0,…n為在離散點集{xi}i=0,1,…,m上帶權{

i}i=0,…m正交多項式序列.下面給出離散點上正交多項式結構方法

.14/81

給定點集{xi}i=0,1,…,m和權數{

i}i=0,…m

，而且點集{xi}i=0,1,…,m中最少有n+1個互異，則由以下三項遞推公式（4）給出多項式序列是正交多項式序列，其中（5）

三項遞推公式（4）是結構正交多項式簡單公式，另外，還有其它特殊情形，這里，不深入討論。15/81

例

已知點集{xi}i=0,1,…,4={0,0.25,0.5,0.75,1}和權數{

i}i=0,…4={1,1,1,1,1}.試用三項遞推公式求關于該點集正交多項式解先令P0(x)=1，由此得16/81由此得從而有17/81連續(xù)區(qū)間上正交多項式

連續(xù)區(qū)間上正交多項式概念與離散點集上正交多項式概念相同，只要將內積定義作對應改變。定義2.10函數f(x)和g(x)在連續(xù)意義下內積定義為

（6）其中

(x)0為給定權函數。按連續(xù)意義下內積，若多項式組{

k(x)}k=0,…n

滿足條件(6),則稱它為在區(qū)間[a,b]上帶權

(x)正交多項式序列。18/811．權函數定義1設

(x)定義在有限或無限區(qū)間[a,b]上，假如有以下性質：(1)

(x)≥0，對任意x

[a,b]，(2)積分存在，(n=0,1,2,…)，(3)對非負連續(xù)函數g(x)若

則在(a,b)上g(x)

0稱

(x)為[a,b]上權函數

連續(xù)區(qū)間上正交多項式

連續(xù)區(qū)間上正交多項式概念與離散點集上正交多項式概念相同，只要將內積定義作對應改變。19/812．內積定義2設f(x)，g(x)

C[a,b]，

(x)是[a,b]上權函數，則稱

為f(x)與g(x)在[a,b]上以

(x)為權函數內積。

內積性質：(1)(f,f)≥0，且(f,f)=0

f=0；(2)(f,g)=(g,f)；

(3)(f1+f2,g)=(f1,g)+(f2,g)；

(4)對任意實數k，(kf,g)=k(f,g)。20/813．正交定義3設f(x)，g(x)

C[a,b]若則稱f(x)與g(x)在[a,b]上帶權

(x)正交。

定義4設在[a,b]上給定函數系{

k(x)}，若滿足條件則稱函數系{

k(x)}是[a,b]上帶權

(x)正交函數系。21/81若定義

4中函數系為多項式函數系，則稱為以

(x)為權在[a,b]上正交多項式系。并稱pn(x)是[a,b]上帶權

(x)n次正交多項式。尤其地，當Ak

1時，則稱該函數系為標準正交函數系。22/81實際上，例

三角函數組內權函數為1正交組。23/81正交多項式三項遞推公式:

是首項系數為1i次多項式，則滿足遞推公式:

完全類似于離散情況下正交多項式結構方法,連續(xù)區(qū)間上正交多項式序列一樣能夠由遞推公式(4)和(5)結構,其中內積按(6)式定義.24/81下面給出幾個慣用正交多項式.

(1)勒讓德（Legendre）多項式.正交多項式記為，由三項遞推公式得(7)給出.它們是在區(qū)間[-1,1]上帶權

(x)=1正交多項式.25/81它們根都是在開區(qū)間(-1,1)上單根,而且與原點對稱.前幾個Legendre多項式以下:26/81勒讓德多項式圖形：

P0(x),P1(x),P2(x),P3(x)27/81

(2)第一類Chebyshev多項式.

第一類Chebyshev多項式可由三項遞推公式給出.它們是在區(qū)間[-1,1]上帶權正交多項式.(8)28/81它們根都在開區(qū)間（-1，1）上單根，而且與原點對稱。前幾個第一類Chebyshev多項式以下:29/81切比雪夫多項式圖形：

T0(x),T1(x),T2(x),T3(x)30/81（3）拉蓋爾(Laguerre)多項式。

Laguerre多項式可由三項遞推公式給出。它們是在區(qū)間[0,+∞)上帶權正交多項式。前幾個Laguerre多項式以下:

31/81它們根都是在區(qū)間（0，+∞）上單根。32/81

設是[a,b]上線性無關連續(xù)函數,a0,a1,…,an是任意實數，則并稱是生成集合一個基底。全體是C[a,b]一個子集，記為8.3最正確平方迫近33/81定義對于給定函數假如存在使

則稱S*(x)為f(x)在區(qū)間[a,b]上最正確平方迫近函數。函數最正確平方迫近即34/81求最正確平方迫近函數問題可歸結為求它系數使多元函數取得極小值。

I(a0,a1,…，an)是關于a0,a1,…，an二次函數，利用多元函數取得極值必要條件，35/81(k=0,1,2,…,n)得方程組36/81如采取函數內積記號方程組能夠簡寫為

37/81寫成矩陣形式為為法方程組！

38/81

因為

0,

1,…,

n線性無關，故Gn

0，于是上述方程組存在唯一解

從而必定了函數f(x)在

中假如存在最佳平方迫近函數，則必是記稱之為最正確平方迫近誤差！注：最正確平方迫近誤差越小，說明函數空間Hn對f(x)迫近效果越好。39/812024/5/140例定義內積

，試在函數空間，尋求對于函數最正確平方迫近函數。解簡單計算可得法方程為#所以40/81

例2設，求[0，1]上一次最正確

平方迫近多項式。解由方程組，解出41/81平方誤差

最大誤差

42/81一、問題提法已知一個函數數值表xx1x2…xmyy1y2…ym求一個簡單易算近似函數

S(x)

f(x)

。8.4曲線擬合最小二乘法43/81不過(1)m通常很大；(2)yi本身是測量值，不準確，即yi

f(xi)。這時沒必要使S(xi)=yi,而只要S(xi)

yi

總體上盡可能小。常見做法：

使最小太復雜

使最小不可導，求解困難

使最小最小二乘法44/81定義

對于給定函數假如存在使

到達最小。則把

稱為f(x)最小二乘擬合曲線45/81求問題可歸結為求它系數a0,a1,…,am

使多元函數取得極小值。Q(a0,a1,…，am)是關于a0,a1,…，am二次函數，利用多元函數取得極值必要條件，46/81(k=0,1,2,…,m)得方程組47/81如采取函數內積記號方程組能夠簡寫為

48/81寫成矩陣形式為

法方程組！

49/81

因為

0,

1,…,

n線性無關，故Gn

0，于是上述方程組存在唯一解

從而必定了函數f(x)在

中存在50/812024/5/151若函數組，是兩兩正交，則法方程為從而可得求解相當方便！51/81利用Schmidt正交化過程，變?yōu)檎换湍軌驅⒍囗検交瘮?2/81

例：給定函數值表，求f(x)最小二乘擬合函數s*(x)

xi0.240.650.951.241.73yi0.23-0.26-1.10-0.450.27解：在坐標平面上描出上表中數據點，依據點分布情況，選取xi2.012.232.522.772.99yi0.10-0.290.240.561.0053/81可得法方程解得所以設54/81注：最小二乘問題中，怎樣選擇數學模型很主要，即怎樣選取函數空間，通常需要依據物理意義，或所給數據分布情況來選取適當數學模型。55/81

選擇直線來擬合數據稱為直線擬合。假設直線為則擬合誤差使擬合誤差最小應滿足線性擬合56/81這個方程組稱為直線擬合法方程組，解此方程組就能夠確定，從而得到擬合直線57/81例及均方誤差58/8159/81例設數據以下：試用直線擬合這組數據，計算過程保留4位小數

解：法方程組為：所求直線為：kxkykxk2xkyk1110110236918344161645225105613661923876060/81多項式擬合

對給定數據組，用一個m次多項式擬合這組數據，則此多項式可假設為依據最小二乘原理令61/81法方程組為：共能夠得到m+1個方程，每一個方程左邊有m+1項。請大家找一找，這m+1個方程左右兩邊各有什么規(guī)律？怎樣來幫助記憶。62/81所以，求

a0,a1,…,an,就是求解法方程：

ATAa=ATy。

63/81例用給定數據，求經驗公式f(x)=a+bx3。

x=-3-2-124

y=14.38.34.78.322.7解約定直接計算得法方程64/81于是法方程為：所求經驗公式為：f(x)=10.675+0.137x3。65/81解法方程為ATAx=ATy.直接計算得例66/81此時

稱為數據擬合多項式，上述擬合稱為多項式擬合。對稱矩陣67/81比如，二次多項式擬合為：法方程組為：三次擬合多項式為：法方程組為：

68/81例：用來擬合

解：

0(x)=1，1(x)=x，2(x)=x269/8170/812024/5/171x-3-2-124y14.38.34.78.322.7例已知數表，求其最小二乘擬合函數(1)求形如擬合函數；(2)求形如擬合函數；解(1)法方程為71/812024/5/172(2)x-3-2-124y14.38.34.78.322.7lny2.66032.11631.54