最小二乘法的應(yīng)用研究

小二乘法的應(yīng)用研究摘要最小二乘法是從誤差擬合角度對(duì)回歸模型進(jìn)行參數(shù)估計(jì)或系統(tǒng)辨識(shí),并在參數(shù)估計(jì)、系統(tǒng)辨識(shí)以及預(yù)測(cè)、預(yù)報(bào)等眾多領(lǐng)域中得到極為廣泛的應(yīng)用.然而,最小二乘法因其抽象、難懂常常不能被準(zhǔn)確理解.本文探討了最小二乘法的基本原理及其各種變形的擬合方法,其中包括:一元線性最小二乘法擬合、多元線性擬合、多項(xiàng)式擬合、非線性擬合,并且討論了用鏡像映射和切比雪夫多項(xiàng)式解“病態(tài)”矛盾方程組的基本原理和方法,在此基礎(chǔ)上給出了幾種最小二乘法程序的設(shè)計(jì)原理.關(guān)鍵詞：最小二乘法,線性擬合,曲線擬合,切比雪夫多項(xiàng)式StudyontheApplicationaboutMethodofLeastSquareAbstractLeastsquarewasusedtoestimateparametersandidentifysystemofregressionmodel,bythepointoferrorfitting.Andithaswidelyapplicationintheparametersestimate,systemidentification,prediction,forecastingandotherfields.However,theleastsquaremethodbecauseofitsabstractanddifficult,oftencannotbeaccuratelyunderstanding.Theleastsquaremethod'principleandthevariouskindsoffittingmethodssuchasthelinearleastsquarefitting,multiplelinearfitting,polynomialfittinganonlinearfittingaredealtwith.AnddiscussedusingmirrorandChebyshevpolynomialsolutionpathologicalcontradictoryequationsbasicprinciplesandmethods.Finallysomekindsoftheprincipleoftheprogramsontheleastsquaremethodaregiven.KeyWords：leastsquaremethod,linearfitting,curvefitting,Chebyshevpolynomial目錄TOC\o"1-5"\h\z一、最小二乘法的統(tǒng)計(jì)學(xué)原理1二、曲線擬合2一元線性擬合2多元線性擬合……………………4多項(xiàng)式擬合………………………5非線性最小二乘法擬合…………6多項(xiàng)式回歸的高精度快速算法…………………7TOC\o"1-5"\h\z三、應(yīng)用最小二乘法的幾個(gè)問題9四、程序設(shè)計(jì)原理10線性擬合程序的設(shè)計(jì)原理10多元線性擬合程序的設(shè)計(jì)原理103.Shehata方程u=++2的擬合程序設(shè)計(jì)原理11k+sk+s12結(jié)束語(yǔ)………………11參考文獻(xiàn)……………12#三、應(yīng)用最小二乘法的幾個(gè)問題三、應(yīng)用最小二乘法的幾個(gè)問題最小二乘法雖然在數(shù)據(jù)處理方面具有顯著的效果,但如果使用不當(dāng)會(huì)導(dǎo)致很大的誤差,甚至錯(cuò)誤的結(jié)果.因此,在應(yīng)用時(shí)必須注意以下幾個(gè)問題:(1)慎重選擇擬合關(guān)系式在實(shí)際問題中,適當(dāng)選擇擬合關(guān)系式是一項(xiàng)十分謹(jǐn)慎的工作,它將直接影響計(jì)算的工作量和結(jié)論.(2)自變量的選擇在實(shí)際工作中,對(duì)一組實(shí)驗(yàn)(x,y)數(shù)據(jù)按不同的擬合形式,結(jié)果會(huì)不一樣.特ii別注意當(dāng)兩個(gè)變量都有一定誤差時(shí),應(yīng)當(dāng)使用雙變量最小二乘法進(jìn)行處理,否則可以使用單變量最小二乘法.加權(quán)最小二乘法此法是應(yīng)用于實(shí)驗(yàn)測(cè)量值y非等精度的情況下的擬合方法.它不同程度的消i除誤差因素,結(jié)果更準(zhǔn)確可靠.設(shè)擬合函數(shù)為y二f(x)，當(dāng)x值取x時(shí)y的實(shí)測(cè)值為y,取b=|y-f(x)|?加iiiii權(quán)偏差平方和s=遲wb2iii=1=s=遲wb2iii=1iiii=1式中w為i個(gè)實(shí)驗(yàn)點(diǎn)的權(quán)重因子?選取合適的權(quán)重因子w可獲得高精度的擬合參ii數(shù).四、程序設(shè)計(jì)原理1?線性擬合程序的設(shè)計(jì)原理[4]對(duì)于給定的實(shí)驗(yàn)數(shù)據(jù)(x,y),i=1,2,n,求作擬合直線y=a+bx,使總誤差

Q=工[y-(a+bx)]2為最小.iii=1再由數(shù)學(xué)中極值求法得LS公式:b=工b=工(x-x)(y-y)/工ii(x-x)2,ii=1ii=1a=y-bx,nni

i=1式中x=—工-—yy=y.nii=12.多元線性擬合程序的設(shè)計(jì)原理對(duì)式y(tǒng)=a0+y羅j,設(shè)變量xj的第i次測(cè)量值為為’對(duì)應(yīng)的函數(shù)值j=1y(i=1,2,n偏差平方和is(a,a,?…，a)=區(qū)(y-y)2=y(y-a-工ax)2,01nii0jijTOC\o"1-5"\h\zi=1i=1j=1求其極小值得正規(guī)方程組ma+y(區(qū)x)a=yy,0ijjij=1i=1i=1yxa+工(區(qū)xx)a=y(xx)(k=1,2,,n),ik0ijikjijikj=1j=1i=1i=1式中：m為實(shí)驗(yàn)點(diǎn)數(shù)，n為未知參數(shù)個(gè)數(shù)，x(m,n)為變量x(j=1,2,,n)在第ji(i=1,2,,m)次測(cè)量中的取值x；y(m)為函數(shù)第i次測(cè)量值y,c(m,n+1)為正規(guī)ijixxijiki=1i=1ixikyii=1i=1方程組的系數(shù)yx和xxijiki=1i=1ixikyii=1i=13?Shehata方程u二空+Q的擬合程序設(shè)計(jì)原理k+sk+s12將方程考慮為k,k的函數(shù),將12du_s2du_s2dk(k+s)2'dk(k+s)2'1122代入正規(guī)方程即得結(jié)果.結(jié)束語(yǔ)

結(jié)束語(yǔ)最小二乘法是一個(gè)比較古老的方法,早在十八世紀(jì),就由首先創(chuàng)立并成功地應(yīng)用于天文觀測(cè)和大地測(cè)量工作中.此后近三百年來(lái),它己廣泛應(yīng)用于科學(xué)實(shí)驗(yàn)與工程技術(shù)中.最小二乘法能將從實(shí)驗(yàn)中得出的一大堆看上去雜亂無(wú)章的數(shù)據(jù)中找出一定規(guī)律,擬合成一條曲線來(lái)反映所給數(shù)據(jù)點(diǎn)總趨勢(shì),以消除其局部波動(dòng).它為科研工作者提供了一種非常方便實(shí)效的數(shù)據(jù)處理方法.隨著現(xiàn)代電子計(jì)算機(jī)的普及與發(fā)展,這個(gè)占老的方法更加顯示出其強(qiáng)大的生命力.參考文獻(xiàn):李慶揚(yáng)，王能超,易大義?數(shù)值分析(第4版)[M].北京:清華大學(xué)出版社,2001.黃俊欽.靜動(dòng)態(tài)數(shù)學(xué)模型的實(shí)用建模方法[M].北京:機(jī)械工業(yè)出版社,1988.宋文臣主編.TrueBasic語(yǔ)言程序設(shè)計(jì)[M].北京：電子工業(yè)出版社，1994.王能超.數(shù)值分析簡(jiǎn)明教程[M].北京:高等教育出版社,1984.肖明耀.誤差理論與應(yīng)用[