函數(shù)逼近與曲線擬合

§

8.1數(shù)據(jù)擬合

本章繼續(xù)討論用簡單函數(shù)近似代替較復(fù)雜函數(shù)的問題.上章提到的插值就是近似代替的方法之一,插值的近似標準是在插值點處誤差為零.但在實際應(yīng)用中,有時不要求具體某些點誤差為零,而要求考慮整體的誤差限制,這就引出了擬合和逼近的概念.

對離散型函數(shù)(即數(shù)表形式的函數(shù))考慮數(shù)據(jù)較多的情況.若將每個點都當作插值節(jié)點,則插值函數(shù)是一個次數(shù)很高的多項式,比較復(fù)雜.而且由于龍格振蕩現(xiàn)象,這個高次的插值多項式可能并不接近原函數(shù).同時由于數(shù)表中的點一般是由觀察測量所得,往往帶有隨機誤差,要求近似函數(shù)過所有的點既不現(xiàn)實也不必要.第8章函數(shù)逼近與曲線擬合

本章討論的函數(shù)逼近，是指“對函數(shù)類A中給定的函數(shù)f(x)，記作f(x)∈A，要求在另一類簡單的便于計算的函數(shù)類B中求函數(shù)p(x)∈B，使p(x)與

f(x)的誤差在某種度量意義下最小”.函數(shù)類A通常是區(qū)間[a,b]上的連續(xù)函數(shù)，記作C[a,b]，稱為函數(shù)逼近空間;而函數(shù)B通常為n次多項式,有理函數(shù)或分段低次多項式等.為了在數(shù)學(xué)上描述更精確，先要介紹代數(shù)和分析中一些基本概念及預(yù)備知識.

數(shù)學(xué)上常把在各種集合中引入某一些不同的確定關(guān)系稱為賦予集合以某種空間結(jié)構(gòu)，并將這樣的集合稱為空間。例1

所有實n維向量集合，按向量的加法和數(shù)乘構(gòu)成實數(shù)域R上的線性空間---Rn,稱為n維向量空間.例2

對次數(shù)不超過n的（n為正整數(shù)）實系數(shù)多項式全體，按多項式加法和數(shù)乘構(gòu)成數(shù)域R上的多項式線性空間--Hn,稱為多項式空間.例3

所有定義在[a,b]集合上的連續(xù)函數(shù)全體，按函數(shù)的加法和數(shù)乘構(gòu)成數(shù)域R上的連續(xù)函數(shù)線性空間–

C[a,b],稱為連續(xù)函數(shù)空間.類似地記Cp[a,b]為具有p階連續(xù)導(dǎo)數(shù)的函數(shù)空間.則稱x1,x2,…,xn

線性相關(guān)，否則稱x1,x2,…,xn

線性無關(guān)，即只有當a1=a2=…=an=0時等式(1.1)才成立.

定義1

設(shè)集合S是數(shù)域P上的線性空間，元素x1,x2,…,xn∈S，如果存在不全為零的數(shù)a1,a2,…,an∈P，使得則x1,…,xn稱為空間S的一組基,記為S=span{x1,…,xn},并稱空間S為n維空間，系數(shù)a1,…,an為x在基x1,…,xn下的坐標，記作(a1,…,an)，如果S中有無限多個線性無關(guān)元素x1,…,xn,…，則稱S為無限維線性空間.

若線性空間S是由n個線性無關(guān)元素x1,…,xn生成的，即對任意x∈S，都有它由n+1個系數(shù)(a0,a1,…,an)唯一確定.1,x,…,xn線性無關(guān)，它是Hn的一組基，故集合

Hn=span{1,x,…,xn}，且(a0,a1,…,an)是p(x)的坐標向量，Hn是n+1維的.

下面考慮次數(shù)不超過n實系數(shù)多項式集合Hn，其元素p(x)∈Hn表示為其中ε為任意給的小正數(shù)，即精度要求.這就是下面著名的魏爾斯特拉斯（Weierstrass）定理.

對連續(xù)函數(shù)f(x)∈C[a,b]，它不能用有限個線性無關(guān)的函數(shù)表示，故C[a,b]是無限維的，但它的任一元素f(x)∈C[a,b]均可用有限維的p(x)∈Hn逼近，使誤差在[a,b]上一致成立.

定理1

設(shè)f(x)∈C[a,b]，則對任何ε>0，總存在一個代數(shù)多項式p(x)

，使

由(1.1)式給出的Bn(f,x)也是f(x)在[0,1]上的一個逼近多項式，但它收斂太慢，實際中很少使用.更一般函數(shù)逼近的概念：最常用的度量標準：(一)一致逼近以函數(shù)f(x)和p(x)的最大誤差：作為度量誤差f(x)－p(x)的“大小”的標準

在這種意義下的函數(shù)逼近稱為一致逼近或均勻逼近

(二)平方逼近：采用作為度量誤差的“大小”的標準的函數(shù)逼近稱為平方逼近或均方逼近。

8.2正交多項式

正交多項式是數(shù)值計算中的重要工具，這里只介紹正交多項式的基本概念、某些性質(zhì)和構(gòu)造方法。離散情形的正交多項式用于下節(jié)的數(shù)據(jù)擬合，連續(xù)情形的正交多項式用于生成最佳平方逼近多項式和下章的高斯型求積公式的構(gòu)造。它們在數(shù)值分析的其他領(lǐng)域中也有不少應(yīng)用。定義

設(shè)有點集{xi}i=0,1,…,m，函數(shù)f(x)和g(x)在離散意義下的內(nèi)積定義為(1)其中

i>0為給定的權(quán)數(shù)。在離散意義下，函數(shù)f(x)的2-范數(shù)定義為(2)有了內(nèi)積，就可以定義正交性。若函數(shù)f(x)和g(x)的內(nèi)積(f,g)=0，則稱兩者正交。離散點集上的正交多項式若多項式組{

k(x)}k=0,…n

在離散意義下的內(nèi)積滿足(3)則稱多項式組{

k(x)}k=0,…n為在離散點集{xi}i=0,1,…,m上的帶權(quán){

i}i=0,…m的正交多項式序列.下面給出離散點上正交多項式的構(gòu)造方法

.

給定點集{xi}i=0,1,…,m和權(quán)數(shù){

i}i=0,…m

，并且點集{xi}i=0,1,…,m中至少有n+1個互異，則由下列三項遞推公式（4）給出的多項式序列是正交多項式序列，其中（5）

三項遞推公式（4）是構(gòu)造正交多項式的簡單公式，此外，還有其他的特殊的情形，這里，不進一步討論。

例

已知點集{xi}i=0,1,…,4={0,0.25,0.5,0.75,1}和權(quán)數(shù){

i}i=0,…4={1,1,1,1,1}.試用三項遞推公式求關(guān)于該點集的正交多項式解先令P0(x)=1，由此得由此得從而有連續(xù)區(qū)間上正交多項式

連續(xù)區(qū)間上的正交多項式的概念與離散點集上的正交多項式概念相似，只要將內(nèi)積的定義作相應(yīng)的改變。定義2.10函數(shù)f(x)和g(x)在連續(xù)意義下的內(nèi)積定義為

（6）其中的

(x)0為給定的權(quán)函數(shù)。按連續(xù)意義下的內(nèi)積，若多項式組{

k(x)}k=0,…n

滿足條件(6),則稱它為在區(qū)間[a,b]上的帶權(quán)

(x)的正交多項式序列。1．權(quán)函數(shù)定義1設(shè)

(x)定義在有限或無限區(qū)間[a,b]上，如果有下列性質(zhì)：(1)

(x)≥0，對任意x

[a,b]，(2)積分存在，(n=0,1,2,…)，(3)對非負的連續(xù)函數(shù)g(x)若

則在(a,b)上g(x)

0稱

(x)為[a,b]上的權(quán)函數(shù)

連續(xù)區(qū)間上正交多項式

連續(xù)區(qū)間上的正交多項式的概念與離散點集上的正交多項式概念相似，只要將內(nèi)積的定義作相應(yīng)的改變。2．內(nèi)積定義2設(shè)f(x)，g(x)

C[a,b]，

(x)是[a,b]上的權(quán)函數(shù)，則稱

為f(x)與g(x)在[a,b]上以

(x)為權(quán)函數(shù)的內(nèi)積。

內(nèi)積的性質(zhì)：(1)(f,f)≥0，且(f,f)=0

f=0；(2)(f,g)=(g,f)；

(3)(f1+f2,g)=(f1,g)+(f2,g)；

(4)對任意實數(shù)k，(kf,g)=k(f,g)。3．正交定義3設(shè)f(x)，g(x)

C[a,b]若則稱f(x)與g(x)在[a,b]上帶權(quán)

(x)正交。

定義4設(shè)在[a,b]上給定函數(shù)系{

k(x)}，若滿足條件則稱函數(shù)系{

k(x)}是[a,b]上帶權(quán)

(x)的正交函數(shù)系。若定義

4中的函數(shù)系為多項式函數(shù)系，則稱為以

(x)為權(quán)的在[a,b]上的正交多項式系。并稱pn(x)是[a,b]上帶權(quán)

(x)的n次正交多項式。特別地，當Ak

1時，則稱該函數(shù)系為標準正交函數(shù)系。事實上，例

三角函數(shù)組內(nèi)的權(quán)函數(shù)為1的正交組。正交多項式的三項遞推公式:

是首項系數(shù)為1的i次多項式，則滿足遞推公式:

完全類似于離散情況下的正交多項式的構(gòu)造方法,連續(xù)區(qū)間上的正交多項式序列同樣可以由遞推公式(4)和(5)構(gòu)造,其中內(nèi)積按(6)式定義.下面給出幾種常用的正交多項式.

(1)勒讓德（Legendre）多項式.正交多項式記為，由三項遞推公式得(7)給出.它們是在區(qū)間[-1,1]上的帶權(quán)

(x)=1的正交多項式.它們的根都是在開區(qū)間(-1,1)上的單根,并且與原點對稱.前幾個Legendre多項式如下:勒讓德多項式的圖形：

P0(x),P1(x),P2(x),P3(x)

(2)第一類Chebyshev多項式.

第一類Chebyshev多項式可由三項遞推公式給出.它們是在區(qū)間[-1,1]上的帶權(quán)的正交多項式.(8)它們的根都在開區(qū)間（-1，1）上的單根，并且與原點對稱。前幾個第一類Chebyshev多項式如下:切比雪夫多項式的圖形：

T0(x),T1(x),T2(x),T3(x)（3）拉蓋爾(Laguerre)多項式。

Laguerre多項式可由三項遞推公式給出。它們是在區(qū)間[0,+∞)上帶權(quán)的正交多項式。前幾個Laguerre多項式如下:

它們的根都是在區(qū)間（0，+∞）上的單根。

設(shè)是[a,b]上線性無關(guān)的連續(xù)函數(shù),a0,a1,…,an是任意實數(shù)，則并稱是生成集合的一個基底。的全體是C[a,b]的一個子集，記為8.3最佳平方逼近定義對于給定的函數(shù)如果存在使

則稱S*(x)為f(x)在區(qū)間[a,b]上的最佳平方逼近函數(shù)。函數(shù)的最佳平方逼近即求最佳平方逼近函數(shù)的問題可歸結(jié)為求它的系數(shù)使多元函數(shù)取得極小值。

I(a0,a1,…，an)是關(guān)于a0,a1,…，an的二次函數(shù)，利用多元函數(shù)取得極值的必要條件，(k=0,1,2,…,n)得方程組如采用函數(shù)內(nèi)積記號方程組可以簡寫為

寫成矩陣形式為為法方程組！

由于

0,

1,…,

n線性無關(guān)，故Gn

0，于是上述方程組存在唯一解

從而肯定了函數(shù)f(x)在

中如果存在最佳平方逼近函數(shù)，則必是記稱之為最佳平方逼近誤差！注：最佳平方逼近誤差越小，說明函數(shù)空間Hn對f(x)的逼近效果越好。2024/1/440例定義內(nèi)積

，試在函數(shù)空間，尋求對于函數(shù)的最佳平方逼近函數(shù)。解簡單計算可得法方程為#所以

例2設(shè)，求[0，1]上的一次最佳

平方逼近多項式。解由方程組，解出平方誤差

最大誤差

一、問題的提法已知一個函數(shù)的數(shù)值表xx1x2…xmyy1y2…ym求一個簡單易算的近似函數(shù)

S(x)

f(x)

。8.4曲線擬合的最小二乘法但是(1)m通常很大；(2)yi本身是測量值，不準確，即yi

f(xi)。這時沒必要使S(xi)=yi,而只要S(xi)

yi

總體上盡可能小。常見做法：

使最小太復(fù)雜

使最小不可導(dǎo)，求解困難

使最小最小二乘法定義

對于給定的函數(shù)如果存在使

達到最小。則把

稱為f(x)的最小二乘的擬合曲線求的問題可歸結(jié)為求它的系數(shù)a0,a1,…,am

使多元函數(shù)取得極小值。Q(a0,a1,…，am)是關(guān)于a0,a1,…，am的二次函數(shù)，利用多元函數(shù)取得極值的必要條件，(k=0,1,2,…,m)得方程組如采用函數(shù)內(nèi)積記號方程組可以簡寫為

寫成矩陣形式為

法方程組！

由于

0,

1,…,

n線性無關(guān)，故Gn

0，于是上述方程組存在唯一解

從而肯定了函數(shù)f(x)在

中存在2024/1/451若函數(shù)組，是兩兩正交的，則法方程為從而可得求解相當方便！利用Schmidt正交化過程，變?yōu)檎换涂梢詫⒍囗検交瘮?shù)

例：給定函數(shù)值表，求f(x)的最小二乘擬合函數(shù)s*(x)

xi0.240.650.951.241.73yi0.23-0.26-1.10-0.450.27解：在坐標平面上描出上表中的數(shù)據(jù)點，根據(jù)點的分布情況，選取xi2.012.232.522.772.99yi0.10-0.290.240.561.00可得法方程解得所以設(shè)注：最小二乘問題中，如何選擇數(shù)學(xué)模型很重要，即如何選取函數(shù)空間，通常需要根據(jù)物理意義，或所給數(shù)據(jù)的分布情況來選取合適的數(shù)學(xué)模型。

選擇直線來擬合數(shù)據(jù)稱為直線擬合。假設(shè)直線為則擬合誤差使擬合誤差最小的應(yīng)滿足線性擬合這個方程組稱為直線擬合的法方程組，解此方程組就可以確定，從而得到擬合直線例及均方誤差例設(shè)數(shù)據(jù)如下：試用直線擬合這組數(shù)據(jù)，計算過程保留4位小數(shù)

解：法方程組為：所求直線為：kxkykxk2xkyk11101102369183441616452251056136619238760多項式擬合

對給定的數(shù)據(jù)組，用一個m次的多項式擬合這組數(shù)據(jù)，則此多項式可假設(shè)為根據(jù)最小二乘原理令法方程組為：共可以得到m+1個方程，每一個方程的左邊有m+1項。請大家找一找，這m+1個方程的左右兩邊各有什么規(guī)律？怎樣來幫助記憶。因此，求

a0,a1,…,an,就是求解法方程：

ATAa=ATy。

例用給定數(shù)據(jù)，求經(jīng)驗公式f(x)=a+bx3。

x=-3-2-124

y=14.38.34.78.322.7解約定直接計算得法方程于是法方程為：所求經(jīng)驗公式為：f(x)=10.675+0.137x3。解法方程為ATAx=ATy.直接計算得例此時

稱為數(shù)據(jù)擬合多項式，上述擬合稱為多項式擬合。對稱矩陣例如，二次多項式擬合為：法方程組為：三次擬合多項式為：法方程組為：

例：用來擬合

解：

0(x)=1，1(x)=x，2(x)=x22024/1/471x-3-2-124y14.38.34.78.322.7例已知數(shù)表，求其最小二乘擬合函數(shù)(1)求形如的擬合函數(shù)；(2)求形如的擬合函數(shù)；解(1)法方程為2024/1/472(2)x-3-2-124y14.38.34.78.322.