第六章 函數(shù)最佳逼近

第6章函數(shù)最佳逼近/*OptimalApproximation*/6.1正交多項式/*OrthogonalPolynomials*/1.正交函數(shù)族/*orthogonalfunctionfamily*/定義權(quán)函數(shù)/*weightfunction*/設(shè)義在（有限或無限）上，如果滿足條件（1）；（2）存在；（3）對非負連續(xù)函數(shù)，若，則在上一定有，那么稱是區(qū)間上的權(quán)函數(shù)。。

權(quán)函數(shù)的一種解釋是物理上的密度函數(shù)，相應的表示總質(zhì)量，當權(quán)函數(shù)常數(shù)時，表示質(zhì)量分布是均勻的。定義對于任意給定的函數(shù)表達式稱為它們關(guān)于權(quán)函數(shù)的內(nèi)積。注意與維歐氏空間中內(nèi)積的定義作比較

OKOK,Ithinkit’spositivedefiniteness,nonnegativity,homogeneity,distributivelaw…定義函數(shù)的范數(shù)由內(nèi)積定義可得上的一個度量由內(nèi)積誘導出的范數(shù)注

只是一個范數(shù)定義式，當然還需驗證其是否滿足范數(shù)的定義。根據(jù)函數(shù)的2-范數(shù)，能否推測出函數(shù)的1-范數(shù)？定義正交函數(shù)族若函數(shù)族滿足關(guān)系則稱是上帶權(quán)的正交函數(shù)族；若則稱為標準正交函數(shù)族。定義正交多項式設(shè)是上首項系數(shù)的次多項式，為上的權(quán)函數(shù)，如果多項式序列滿足如下關(guān)系式則稱多項式序列在上帶權(quán)正交，稱為上帶權(quán)的次正交多項式。我們曾經(jīng)接觸過的多項式：代數(shù)多項式，三角多項式…一種常用的正交化方法：施密特變換如果給定區(qū)間和權(quán)，可以通過對線性無關(guān)的函數(shù)族作施密特正交化變化那得到正交多項式序列。例如對函數(shù)族作施密特變換，令

則即為正交多項式序列。那么權(quán)函數(shù)該如何選擇？如此得到的正交多項式序列又有什么樣的性質(zhì)呢？性質(zhì)1-3請同學自行證明，性質(zhì)4請先自行查閱相關(guān)資料。性質(zhì)1是最高次項系數(shù)為1的次多項式。性質(zhì)2任何次多項式均可表示為的線性組合。性質(zhì)3當時，，且與任一次數(shù)小于的多項式正交。性質(zhì)4有如下遞推關(guān)系式其中性質(zhì)5設(shè)是在上帶權(quán)的正交多項式序列，則的個根都是區(qū)間上的單根。證明不妨考慮首項系數(shù)為1的正交多項式？假定（若為其他情況？）則與正交多項式定義矛盾于是至少存在一使根的存在性再假設(shè)是的二重零點，即則是次多項式，由性質(zhì)3另一方面這說明只能是的單零點。多少個？假設(shè)在內(nèi)只有個單零點，于是2.幾個常用的正交多項式勒讓德多項式/*Legendrepolynomials*/當區(qū)間為，權(quán)函數(shù)時，由正交化得到的多項式稱為Legendre多項式，用表示。其簡單的表達式為思考:的最高次項系數(shù)為？最高次項系數(shù)為1的Legendre多項式有什么樣的形式？Pn的重要性質(zhì)：正交性奇偶性滿足遞推關(guān)系是如下微分方程的滿足條件的多項式解。切比雪夫多項式/*Chebyshevpolynomials*/當區(qū)間為，權(quán)函數(shù)時，由正交化得到的多項式稱為Chebyshev多項式，用表示。其簡單的表達式為關(guān)于Chebyshev多項式的具體內(nèi)容，將在6.2中進一步討論。6.2最佳一致逼近

/*OptimalUniformApproximation*/在插值問題中容易產(chǎn)生Runge現(xiàn)象，得不到理想的結(jié)果，而所謂的“一致逼近”可以使逼近函數(shù)與被逼函數(shù)在整個區(qū)間上都很接近，同時克服插值逼近的缺陷。定義對任意的，在范數(shù)的意義下定義兩個函數(shù)的距離通常稱在度量下的逼近問題為一致逼近問題。偏差/*deviation*/定理設(shè)，則對任意給定的，存在多項式使得下式成立證明略。在意義下，使得最小。也稱為minimaxproblem。若，則稱x0為偏差點。v1.0最佳一致逼近多項式

/*optimaluniformapproximatingpolynomial*/的構(gòu)造：求n

階多項式Pn(x)使得||Pn

y

||最小。直接構(gòu)造OUAP

的確比較困難，不妨換個角度，先考察它應該具備的性質(zhì)。有如下結(jié)論：

OUAP存在，且必同時有偏差點。證明：存在性證明略。后者用反證法，設(shè)只有正偏差點。設(shè)而對于所有的x[a,b]都有是n階多項式是誤差更小的多項式（Chebyshev定理）Pn是y的OUAP

Pn關(guān)于y在定義域上至少有n+2個交錯的偏差點。即存在點集at1<…<tn+2b使得{tk}稱為切比雪夫交錯組

/*Chebyshevalternatingsequence*/若且y不是n

次多項式，則n次OUAP

唯一。證明：反證，設(shè)有2個OUAP’s，分別是Pn

和Qn。則它們的平均函數(shù)也是一個OUAP。2)()()(xQxPxRnnn+=對于Rn

有Chebyshev交錯組{t1,…,tn+2}使得nkknkknkknnEtytQtytPtytRE-+--=|)()(|21|)()(|21|)()(|nkknkknEtytQtytP=-=-|)()(||)()(|則至少在一個點上必須有)()()()(knkkkntQtytytP-=-0)()(=-kkntytR0=nE由Chebyshev定理可推出：Pn(x)

y(x)在定義域上至少變號

次，故至少有個根。xy0yyx=()yyxEn=+()yyxEn=-()yPxn=()n+1n+1可見Pn(x)是y(x)的某一個插值多項式

如何確定插值節(jié)點{x0,…,xn

}的位置，使得Pn(x)剛好是

y

的OUAP？即，使插值余項v2.0達到極小？v2.1

在[1,1]上求{x1,…,xn}使得的||wn||最小。=-=niinxxxw1)()(注意到，要使||wn||最小就意味著)()(1xPxxwnnn--=v3.0

在[1,1]上求函數(shù)xn的n1階

OUAP。由Chebyshev定理可推出：Pn1(x)關(guān)于xn有n+1個偏差點，即wn(x)在n+1個點上交錯取極大、極小值。v3.1

在[1,1]上求切比雪夫交錯組{t1,…,tn+1

}。切比雪夫多項式/*Chebyshevpolynomials*/考慮三角函數(shù)cos(n)在[0,]上的個極值點。n+1當時，cos(n)交錯達到極大值1和極小值1，且存在系數(shù)a0,…,an使得

令x=cos()，則x[1,1

]。)cos

arccos()cos()(xn·nxTn==q稱為Chebyshev多項式Tn的重要性質(zhì)：當時，交錯取到極大值1和極小值1，即1當時，即{x1,…,xn}為Tn(x)的n個零點。Tn(x)滿足遞推關(guān)系：T0(x)=1，T1(x)=x，Tn(x)為n

次多項式，首項系數(shù)為。且T2n(x)只含x

的次冪，T2n+1(x)只含x

的次冪。2n1偶奇{T0(x),T1(x),…}是[1,1

]上關(guān)于權(quán)正交的函數(shù)族。即在內(nèi)積的意義下有

OKOK,Ithinkit’senoughforus…What’sourtargetagain?v3.1

在[1,1]上求切比雪夫交錯組{t1,…,tn+1

}。v3.0

在[1,1]上求函數(shù)xn的n1階

OUAP。Tn(x)的n個零點?？梢姡喝羧。瑒twn在[1,1

]上有n+1

個極值點{tk}，也即Pn1(x)=xn

wn(x)關(guān)于xn在[1,1

]上有n+1個交錯偏差點{tk}

。v3.0OKv2.1

在[1,1]上求{x1,…,xn}使得的||wn||最小。=-=niinxxxw1)()(取最小值n={首項系數(shù)為1的n

階多項式/*monicpolynomialsofdegreen*/}{x1,…,xn}即為

如何確定插值節(jié)點{x0,…,xn

}的位置，使得Pn(x)剛好是

y

的OUAP？即，使插值余項達到極小？v2.0取{x0,…,xn}為Tn+1(x)的n+1個零點，做y

的插值多項式Pn(x)，則插值余項的上界可達極小。注：上界最小不表示|Rn(x)|最小，故Pn(x)嚴格意義上只是y(x)的近似最佳逼近多項式；對于一般區(qū)間x[a,b]，可作變量替換，則t[1,1

]，這時即以為插值節(jié)點(k=0,…,n)，得Pn(x)，余項有最小上界。6.3最佳平方逼近

/*Least-SquaresApproximation

*/回顧我們在度量下的，研究了一致逼近問題，而使用不同的度量會產(chǎn)生不同的逼近理論。對任意的，在范數(shù)的意義下定義兩個函數(shù)的距離對任意的，在范數(shù)的意義下定義兩個函數(shù)的距離引申平方度量補充知識曲線擬合與函數(shù)逼近/*ApproximationTheory*/仍然是已知x1…xm

;y1…ym,求一個簡單易算的近似函數(shù)P(x)

f(x)。但是①

m很大；②

yi本身是測量值，不準確，即yi

f(xi)這時沒必要取P(xi)=yi,而要使P(xi)yi總體上盡可能小。常見做法：

使最小/*minimaxproblem*/

太復雜使最小不可導，求解困難使最小/*Least-Squaresmethod*/最小二乘擬合多項式

/*L-Sapproximatingpolynomials*/確定多項式，對于一組數(shù)據(jù)(xi,yi)(i=1,2,…,n)使得達到極小，這里n

<<

m。naaa10實際上是a0,a1,…,an的多元函數(shù)，即[]=-+++=miinininyxaxaaaaa121010...),...,,(j在的極值點應有kiminjijijxyxa==-=10][2-====+njmikiimikjijxyxa0112記====mikiikmikikxycxb11,法方程組(或正規(guī)方程組)/*normalequations*/回歸系數(shù)/*regressioncoefficients*/定理L-S擬合多項式存在唯一

(n<m)。證明：記法方程組為Ba=c.則有其中對任意，必有。若不然，則存在一個使得…即是n

階多項式的根則B為正定陣，則非奇異，所以法方程組存在唯一解。Waitasecond!Youonlygavemeacriticalpoint,butit’snotnecessarilyaminimumpoint!定理

Ba=c的解確是的極小點。即：設(shè)a

為解，則任意b=(b0

b1…bn)T

對應的多項式必有==njjjxbxF0)(===--=mimiiiiibyxFyxPa1122)(])([])([)(jj證明：==---=-miiimiiiyxPyxFab1212])([])([)()(jj==---+-=miiimiiiiiyxPyxPxPxF1212])([])()()([==--+-=miiiiimiiiyxPxPxFxPxF112])()][()([2)]()([0注：L-Smethod首先要求設(shè)定P(x)的形式。若設(shè)n=m1，則可取P(x)為過m個點的m1階插值多項式，這時=0。P(x)不一定是多項式，通常根據(jù)經(jīng)驗確定。例：xy(xi,yi),i=1,2,…,m方案一：設(shè)baxxxPy+=)(求a和b使得最小。=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線性化

/*linearization*/：令，則bXaY+就是個線性問題將化為后易解a和b。),(iiYX),(iiyx方案二：設(shè)xbeaxPy/)(-=(a>0,b>0)線性化：由可做變換xbay-lnlnbBaAxXyY-====,ln,1,lnBXAY+就是個線性問題將化為后易解A和B),(iiYX),(iiyx定義考慮一般的線性無關(guān)函數(shù)族={0(x),1(x),…,n(x),…}，其有限項的線性組合稱為廣義多項式

/*generalizedpolynomial*/.定義如果對任何實數(shù)只要必有則稱函數(shù)族為線性無關(guān)，否則…現(xiàn)在我們開始研究最佳平方逼近問題定義廣義L-S擬合：①

離散型/*discretetype*/在點集{x1…xm}

上測得{y1…ym}，在一組權(quán)系數(shù){w1…wm}下求廣義多項式P(x)使得誤差函數(shù)最小。

=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/已知y(x)

C[a,b]以及權(quán)函數(shù)(x)，求廣義多項式P(x)使得誤差函數(shù)=最小。dxxyxPxba2)]()([)(-r內(nèi)積與范數(shù)離散型連續(xù)型則易證(f,g)是內(nèi)積，而是范數(shù)。(f,g)=0表示f與g

帶權(quán)正交。廣義L-S問題可敘述為：求廣義多項式P(x)使得最小。nkyaknjjjk,...,0,),(),(0===jjj設(shè)則完全類似地有：)(...)()()(1100xaxaxaxPnnjjj+++=法方程組

/*normalequations*/即：),(),(),(00yyaabnnjiijjjjj===c證明：若存在一組系數(shù){i

}使得0...1100=+++nnjajaja則等式兩邊分別與0,1,…,n作內(nèi)積，得到：即：B=0……定理

Ba=c存在唯一解

0(x),1(x),…,n(x)線性無關(guān)。例：用來擬合，w1解：0(x)=1，1(x)=x，2(x)=x2Itissoooos