數(shù)據(jù)擬合與函數(shù)逼近

第十三章數(shù)據(jù)擬合與函數(shù)逼近數(shù)據(jù)擬合與函數(shù)逼近涉及到許多內(nèi)容與方法，從不同角度出發(fā)，也有多種叫法。這一章，我們主要通地線性擬合而引出最小乘法這一根本方法。13.1數(shù)據(jù)擬合概念與直線擬合插值法是一種用簡單函數(shù)近似代替較復(fù)雜函數(shù)的方法，它的近似標(biāo)準(zhǔn)是在插值點處的誤差為零。但有時，我們不要求具體某些點的誤差為零，而是要求考慮整體的誤差限制。對了到達(dá)這一目的，就需要引入擬合的方法，所以數(shù)據(jù)擬合與插值相比：數(shù)據(jù)擬合--不要求近似函數(shù)過所有的數(shù)據(jù)點，而要求它反映原函數(shù)整體的變化趨勢。插值法--在節(jié)點處取函數(shù)值。實際給出的數(shù)據(jù)，總有觀測誤差的，而所求的插值函數(shù)要通過所有的節(jié)點，這樣就會保存全部觀測誤差的影響，如果不是要求近似函數(shù)過所有的數(shù)據(jù)點，而是要求它反映原函數(shù)整的變化趨勢，那么就可以用數(shù)據(jù)擬合的方法得到更簡單活用的近似函數(shù)。13.1.1直線擬合由給定的一組測定的離散數(shù)據(jù)〔〕，求自變量和因變量的近似表達(dá)式的方法。影響因變量只有一個自變量的數(shù)據(jù)擬合方法就是直線擬合。直線擬合最常用的近似標(biāo)準(zhǔn)是最小二乘原理，它也是流行的數(shù)據(jù)處理方法之一。直線擬合步驟如下：(1)做出給定數(shù)據(jù)的散點圖〔近似一條直線〕。(2)設(shè)擬合函數(shù)為：(13.1.1)然后，這里得到的和可能不相同，記它們的差為：(13.1.2)稱之為誤差。在原始數(shù)據(jù)給定以后，誤差只依賴于的選取，因此，可以把誤差的大小作為衡量的選取是否優(yōu)良的主要標(biāo)志。最小二乘法便是確定“最正確”參數(shù)的方法，也就是要誤差的平方和到達(dá)最小。(3)寫出誤差和表達(dá)式：(13.1.3)要選擇而使得函數(shù)最小，可以用數(shù)學(xué)分析中求極值的方法，即先分別對求偏導(dǎo)，再使偏導(dǎo)等于零。就可得到所謂的正規(guī)方程組。(4)正規(guī)方程組：(13.1.4)(13.1.5)(5)求解正規(guī)方程組，得。(6)確定的具體表達(dá)式。13.2最小二乘原理應(yīng)用

上面我們簡單地提到最小二乘法的原理就是使誤差的平方各到達(dá)最小。下面由線性無關(guān)的定義來給出最小二乘法的一般表達(dá)。假設(shè)在區(qū)間上，對于個函數(shù)(13.2.1)成立的充要條件是，那么稱這個函數(shù)在上線性無關(guān)。否那么，假設(shè)存在不全為零的使該式成立，那么稱在線性相關(guān)。設(shè)是定義在上的個線性無關(guān)的連續(xù)函數(shù)，函數(shù)是在上的個節(jié)點上給定的離散函數(shù)。最小二乘法實質(zhì)是用的線性組合：(13.2.2)逼近，使和在各節(jié)點上的差的加權(quán)平方和(13.2.3)在由的一切線性組合所組成的函數(shù)類中最小。其中權(quán)數(shù)的不同，是由于所測得的數(shù)據(jù)不一定等精度造成的。下面的討論設(shè)〔〕。13.2.1多變量擬合影響變量的因素是多個，設(shè)為，由給定的離散數(shù)據(jù)確定近似函數(shù)：(13.2.4)在中，記〔〕，那么該式化為多變量擬合(13.2.5)可見，多變量擬合是可以互相轉(zhuǎn)化的。最小二乘原理原理就要確定近似函數(shù)(13.2.4)中的系數(shù)，使得其誤差平方和到達(dá)最小。誤差平方和為：(13.2.6)與直線擬合類似，上式兩邊分別對各系數(shù)求偏導(dǎo)，然后令其為零，便得到正規(guī)方程組：(13.2.7)因，且線性無關(guān)，故方程組總有惟一解。通過求解方程組(13.2.7)可以得到系數(shù)，然后將得的系數(shù)代入(13.2.4),即，，便得到了多變量線性擬后函數(shù)。13.2.2非線性曲線擬合除了線性曲線外，我們也常常會遇非線性曲線，對于某些非線性問題，可以轉(zhuǎn)化為線性問題，然后便可利用前面的方法來求解。下面討論常出現(xiàn)的兩類非線性方程。對于如下形式的指數(shù)方程：(13.2.8)上式兩邊取對數(shù)，得：(13.2.9)令：，，那么上式實際上有線性形式：(13.2.10)其誤差平方和為：(13.2.11)求得正規(guī)方程組為：(13.2.12)由上述方程給，便可解出，，再由求出擬合函數(shù)：。(2)對于如下形式的雙曲線：(13.2.13)令：，，得：(13.2.14)上式的誤差平方和：(13.2.15)求得正規(guī)方程組為：(13.2.16)解上述方程給，可解出，，得擬合函數(shù)。13.2.3超定方程組的最小二乘解對于給定方程組：(13.2.17)其中：，，假設(shè)，其中為方程的個數(shù)，為未知數(shù)的個數(shù)，那么方程組不一定有解，這時稱方程組為超定方程組。要尋求方程組(13.2.17)的解，即要尋求，使得：(13.2.18)最小。如果方程組(13.2.17)有解，那么此解也是方程組的最小二乘解。轉(zhuǎn)化形式：(13.2.19)求解方程組(13.2.17)。13.2.4用正交函數(shù)作最小二乘擬合在前面的討論中，多項式擬合總是化為多變量擬合來計算?，F(xiàn)在介紹一種特殊的運用正交多項式的擬合數(shù)據(jù)的方法。如果多項式族滿足下面條件：(13.2.20)那么稱其為對某組值和與之對應(yīng)的權(quán)數(shù)值的正交多項式族。設(shè)擬合函數(shù)為：(13.2.21)如果為正交多項式族，那么正規(guī)方程組：,〔〕(13.2.22)有解：，〔〕(13.2.23)由此，就可寫出擬合函數(shù)的表達(dá)式。如果一個多項式族滿足：，〔〕(13.2.24)那么稱為在區(qū)間上關(guān)于權(quán)函數(shù)的正交多項式系。假設(shè)還滿足：，〔〕(13.2.25)那么稱為在區(qū)間上關(guān)于權(quán)函數(shù)的規(guī)格化正交多項式系。區(qū)間上關(guān)于非負(fù)權(quán)函數(shù)的正交多項式系總存在。假設(shè)給定區(qū)間是，對權(quán)函數(shù)的一種正交多項式為：，〔〕(13.2.26)假設(shè)給定點區(qū)間是，且給定數(shù)據(jù)中的節(jié)點〔〕等距，其中，，步長為1，令權(quán)函數(shù)，那么有正交多項式：，()(13.2.27)其中表示的次數(shù)，表示給定的節(jié)點個數(shù)。13.3數(shù)據(jù)擬合的MATLAB程序13.3.1線性擬合程序功能：個數(shù)據(jù)點，〔〕，構(gòu)造最小二乘擬合曲線。*********************************************************************function[a,b]=lsline(x,y)%x是由數(shù)據(jù)點的橫坐標(biāo)組成的向量，y是縱坐標(biāo)組成的向量。%a是擬合曲線y=ax+b中x的系數(shù)，b是截距。xmean=mean(x);ymean=mean(y);sumx2=(x-xmean)*(x-xmean)';sumxy=(y-ymean)*(x-xmean)';a=sumxy/sumx2;b=ymean-a*xmean***************************************************************例13.3.1給定如下表數(shù)據(jù)點，用上述程度構(gòu)造擬合曲線。編號xiyi1-11020931742553464375086-1解：建立一個主程序prog1331.mclcclearlsline([-1,0,1,2,3,4,5,6],[10,9,7,5,4,3,0,-1])然后在MATLAB命令窗口運行上述主程序，即：>>prog1331計算結(jié)果如下。b=8.6429ans=-1.6071即所求得擬后曲線為：13.3.2多項式擬合程序功能：個數(shù)據(jù)點，〔〕，用最小二乘法構(gòu)造多項式擬合曲線。*********************************************************************functionc=lspoly(x,y,m)%x是數(shù)據(jù)點的橫坐標(biāo)組成的向量，y是縱坐標(biāo)組成的向量。%m是要構(gòu)造的多項式的次數(shù)，c是多項式由高次到低次的系數(shù)所組成的向量。n=length(x);b=zeros(1:m+1);f=zeros(n,m+1);fork=1:m+1f(:,k)=x'.^(k-1);enda=f'*f;b=f'*y';c=a\b;c=flipud(c);*****************************************************************例13.3.2根據(jù)下表數(shù)據(jù)，利用上述程序求解擬合曲線編號xiyi1-2-5.82-11.1303.8413.352-1.5解：建立一個主程序prog1332.mclcclearlspoly([-2,-1,0,1,2],[-5.8,1.1,3.8,3.3,-1.5],2)然后在MATLAB命令窗口運行上述主程序，即：>>prog1332計算結(jié)果如下。ans=-1.90001.08003.9800即求得擬后曲線為：13.4函數(shù)逼近13.4.1函數(shù)逼近的概念在數(shù)值計算中，經(jīng)常需要用一個構(gòu)造簡單、計算量小的函數(shù)來近似給定的函數(shù),這樣，就可以迅速求出函數(shù)值的近似值。也即對函數(shù)類中給定的函數(shù)，要求另一類較簡單的便于計算的函數(shù)類〔〕中的函數(shù),使得與之差在某種度量意義下最小。函數(shù)類通常是區(qū)間上的連續(xù)函數(shù)，記作；函數(shù)類通常是代數(shù)多項式，三角多項式以及有理函數(shù)等。有兩種最常用的度量與之差最小的標(biāo)準(zhǔn)。(1)最大誤差：(13.4.1)這種度量意義下的函數(shù)逼近稱為一致逼近或均勻逼近。(2)均方誤差：(13.4.2)這種度量的函數(shù)逼近稱為平方逼近或均方逼近。我們這里，只研究對于給定函數(shù)，在次數(shù)不高于的代數(shù)多項式中，尋求使最大誤差最小的代數(shù)多項式〔即最正確一致逼近多項式〕和使均方誤差最小的代數(shù)多項式〔即所謂最正確平方多項式〕。13.4.2最正確一致逼近多項式定義：對于給定的，假設(shè)次多項式滿足關(guān)系式：，(13.4.3)那么稱是在區(qū)間上的次最正確一致逼近多項式。其中，為任一次數(shù)不高于的多項式。為了尋求連續(xù)函數(shù)的最正確一致逼近多項式，先介紹偏差點的概念。定義：設(shè)，，假設(shè)在上有，那么稱是的偏差點。假設(shè)，稱為正偏差點。假設(shè)：，那么稱為負(fù)偏差點。稱：為在上的最小偏差。也就是就的偏差點總是存在。定理：假設(shè)是的最正確一致逼近多項式，那么同時存在正負(fù)偏差點。定理：是的次最正確一致逼近多項式的充分必要條件是，在區(qū)間上至少有個輪流為正、負(fù)的偏差點，即有個點，使：，〔〕(13.4.4)成立。其中，是的最大誤差。式(13.4.4