第六章 函數最佳逼近

第6章函數最佳逼近/*OptimalApproximation*/6.1正交多項式/*OrthogonalPolynomials*/1.正交函數族/*orthogonalfunctionfamily*/定義權函數/*weightfunction*/設義在（有限或無限）上，如果滿足條件（1）；（2）存在；（3）對非負連續(xù)函數，若，則在上一定有，那么稱是區(qū)間上的權函數。。

權函數的一種解釋是物理上的密度函數，相應的表示總質量，當權函數常數時，表示質量分布是均勻的。定義對于任意給定的函數表達式稱為它們關于權函數的內積。注意與維歐氏空間中內積的定義作比較

OKOK,Ithinkit’spositivedefiniteness,nonnegativity,homogeneity,distributivelaw…定義函數的范數由內積定義可得上的一個度量由內積誘導出的范數注

只是一個范數定義式，當然還需驗證其是否滿足范數的定義。根據函數的2-范數，能否推測出函數的1-范數？定義正交函數族若函數族滿足關系則稱是上帶權的正交函數族；若則稱為標準正交函數族。定義正交多項式設是上首項系數的次多項式，為上的權函數，如果多項式序列滿足如下關系式則稱多項式序列在上帶權正交，稱為上帶權的次正交多項式。我們曾經接觸過的多項式：代數多項式，三角多項式…一種常用的正交化方法：施密特變換如果給定區(qū)間和權，可以通過對線性無關的函數族作施密特正交化變化那得到正交多項式序列。例如對函數族作施密特變換，令

則即為正交多項式序列。那么權函數該如何選擇？如此得到的正交多項式序列又有什么樣的性質呢？性質1-3請同學自行證明，性質4請先自行查閱相關資料。性質1是最高次項系數為1的次多項式。性質2任何次多項式均可表示為的線性組合。性質3當時，，且與任一次數小于的多項式正交。性質4有如下遞推關系式其中性質5設是在上帶權的正交多項式序列，則的個根都是區(qū)間上的單根。證明不妨考慮首項系數為1的正交多項式？假定（若為其他情況？）則與正交多項式定義矛盾于是至少存在一使根的存在性再假設是的二重零點，即則是次多項式，由性質3另一方面這說明只能是的單零點。多少個？假設在內只有個單零點，于是2.幾個常用的正交多項式勒讓德多項式/*Legendrepolynomials*/當區(qū)間為，權函數時，由正交化得到的多項式稱為Legendre多項式，用表示。其簡單的表達式為思考:的最高次項系數為？最高次項系數為1的Legendre多項式有什么樣的形式？Pn的重要性質：正交性奇偶性滿足遞推關系是如下微分方程的滿足條件的多項式解。切比雪夫多項式/*Chebyshevpolynomials*/當區(qū)間為，權函數時，由正交化得到的多項式稱為Chebyshev多項式，用表示。其簡單的表達式為關于Chebyshev多項式的具體內容，將在6.2中進一步討論。6.2最佳一致逼近

/*OptimalUniformApproximation*/在插值問題中容易產生Runge現象，得不到理想的結果，而所謂的“一致逼近”可以使逼近函數與被逼函數在整個區(qū)間上都很接近，同時克服插值逼近的缺陷。定義對任意的，在范數的意義下定義兩個函數的距離通常稱在度量下的逼近問題為一致逼近問題。偏差/*deviation*/定理設，則對任意給定的，存在多項式使得下式成立證明略。在意義下，使得最小。也稱為minimaxproblem。若，則稱x0為偏差點。v1.0最佳一致逼近多項式

/*optimaluniformapproximatingpolynomial*/的構造：求n

階多項式Pn(x)使得||Pn

y

||最小。直接構造OUAP

的確比較困難，不妨換個角度，先考察它應該具備的性質。有如下結論：

OUAP存在，且必同時有偏差點。證明：存在性證明略。后者用反證法，設只有正偏差點。設而對于所有的x[a,b]都有是n階多項式是誤差更小的多項式（Chebyshev定理）Pn是y的OUAP

Pn關于y在定義域上至少有n+2個交錯的偏差點。即存在點集at1<…<tn+2b使得{tk}稱為切比雪夫交錯組

/*Chebyshevalternatingsequence*/若且y不是n

次多項式，則n次OUAP

唯一。證明：反證，設有2個OUAP’s，分別是Pn

和Qn。則它們的平均函數也是一個OUAP。2)()()(xQxPxRnnn+=對于Rn

有Chebyshev交錯組{t1,…,tn+2}使得nkknkknkknnEtytQtytPtytRE-+--=|)()(|21|)()(|21|)()(|nkknkknEtytQtytP=-=-|)()(||)()(|則至少在一個點上必須有)()()()(knkkkntQtytytP-=-0)()(=-kkntytR0=nE由Chebyshev定理可推出：Pn(x)

y(x)在定義域上至少變號

次，故至少有個根。xy0yyx=()yyxEn=+()yyxEn=-()yPxn=()n+1n+1可見Pn(x)是y(x)的某一個插值多項式

如何確定插值節(jié)點{x0,…,xn

}的位置，使得Pn(x)剛好是

y

的OUAP？即，使插值余項v2.0達到極??？v2.1

在[1,1]上求{x1,…,xn}使得的||wn||最小。=-=niinxxxw1)()(注意到，要使||wn||最小就意味著)()(1xPxxwnnn--=v3.0

在[1,1]上求函數xn的n1階

OUAP。由Chebyshev定理可推出：Pn1(x)關于xn有n+1個偏差點，即wn(x)在n+1個點上交錯取極大、極小值。v3.1

在[1,1]上求切比雪夫交錯組{t1,…,tn+1

}。切比雪夫多項式/*Chebyshevpolynomials*/考慮三角函數cos(n)在[0,]上的個極值點。n+1當時，cos(n)交錯達到極大值1和極小值1，且存在系數a0,…,an使得

令x=cos()，則x[1,1

]。)cos

arccos()cos()(xn·nxTn==q稱為Chebyshev多項式Tn的重要性質：當時，交錯取到極大值1和極小值1，即1當時，即{x1,…,xn}為Tn(x)的n個零點。Tn(x)滿足遞推關系：T0(x)=1，T1(x)=x，Tn(x)為n

次多項式，首項系數為。且T2n(x)只含x

的次冪，T2n+1(x)只含x

的次冪。2n1偶奇{T0(x),T1(x),…}是[1,1

]上關于權正交的函數族。即在內積的意義下有

OKOK,Ithinkit’senoughforus…What’sourtargetagain?v3.1

在[1,1]上求切比雪夫交錯組{t1,…,tn+1

}。v3.0

在[1,1]上求函數xn的n1階

OUAP。Tn(x)的n個零點?？梢姡喝羧。瑒twn在[1,1

]上有n+1

個極值點{tk}，也即Pn1(x)=xn

wn(x)關于xn在[1,1

]上有n+1個交錯偏差點{tk}

。v3.0OKv2.1

在[1,1]上求{x1,…,xn}使得的||wn||最小。=-=niinxxxw1)()(取最小值n={首項系數為1的n

階多項式/*monicpolynomialsofdegreen*/}{x1,…,xn}即為

如何確定插值節(jié)點{x0,…,xn

}的位置，使得Pn(x)剛好是

y

的OUAP？即，使插值余項達到極?。縱2.0取{x0,…,xn}為Tn+1(x)的n+1個零點，做y

的插值多項式Pn(x)，則插值余項的上界可達極小。注：上界最小不表示|Rn(x)|最小，故Pn(x)嚴格意義上只是y(x)的近似最佳逼近多項式；對于一般區(qū)間x[a,b]，可作變量替換，則t[1,1

]，這時即以為插值節(jié)點(k=0,…,n)，得Pn(x)，余項有最小上界。6.3最佳平方逼近

/*Least-SquaresApproximation

*/回顧我們在度量下的，研究了一致逼近問題，而使用不同的度量會產生不同的逼近理論。對任意的，在范數的意義下定義兩個函數的距離對任意的，在范數的意義下定義兩個函數的距離引申平方度量補充知識曲線擬合與函數逼近/*ApproximationTheory*/仍然是已知x1…xm

;y1…ym,求一個簡單易算的近似函數P(x)

f(x)。但是①

m很大；②

yi本身是測量值，不準確，即yi

f(xi)這時沒必要取P(xi)=yi,而要使P(xi)yi總體上盡可能小。常見做法：

使最小/*minimaxproblem*/

太復雜使最小不可導，求解困難使最小/*Least-Squaresmethod*/最小二乘擬合多項式

/*L-Sapproximatingpolynomials*/確定多項式，對于一組數據(xi,yi)(i=1,2,…,n)使得達到極小，這里n

<<

m。naaa10實際上是a0,a1,…,an的多元函數，即[]=-+++=miinininyxaxaaaaa121010...),...,,(j在的極值點應有kiminjijijxyxa==-=10][2-====+njmikiimikjijxyxa0112記====mikiikmikikxycxb11,法方程組(或正規(guī)方程組)/*normalequations*/回歸系數/*regressioncoefficients*/定理L-S擬合多項式存在唯一

(n<m)。證明：記法方程組為Ba=c.則有其中對任意，必有。若不然，則存在一個使得…即是n

階多項式的根則B為正定陣，則非奇異，所以法方程組存在唯一解。Waitasecond!Youonlygavemeacriticalpoint,butit’snotnecessarilyaminimumpoint!定理

Ba=c的解確是的極小點。即：設a

為解，則任意b=(b0

b1…bn)T

對應的多項式必有==njjjxbxF0)(===--=mimiiiiibyxFyxPa1122)(])([])([)(jj證明：==---=-miiimiiiyxPyxFab1212])([])([)()(jj==---+-=miiimiiiiiyxPyxPxPxF1212])([])()()([==--+-=miiiiimiiiyxPxPxFxPxF112])()][()([2)]()([0注：L-Smethod首先要求設定P(x)的形式。若設n=m1，則可取P(x)為過m個點的m1階插值多項式，這時=0。P(x)不一定是多項式，通常根據經驗確定。例：xy(xi,yi),i=1,2,…,m方案一：設baxxxPy+=)(求a和b使得最小。=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線性化

/*linearization*/：令，則bXaY+就是個線性問題將化為后易解a和b。),(iiYX),(iiyx方案二：設xbeaxPy/)(-=(a>0,b>0)線性化：由可做變換xbay-lnlnbBaAxXyY-====,ln,1,lnBXAY+就是個線性問題將化為后易解A和B),(iiYX),(iiyx定義考慮一般的線性無關函數族={0(x),1(x),…,n(x),…}，其有限項的線性組合稱為廣義多項式

/*generalizedpolynomial*/.定義如果對任何實數只要必有則稱函數族為線性無關，否則…現在我們開始研究最佳平方逼近問題定義廣義L-S擬合：①

離散型/*discretetype*/在點集{x1…xm}

上測得{y1…ym}，在一組權系數{w1…wm}下求廣義多項式P(x)使得誤差函數最小。

=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/已知y(x)

C[a,b]以及權函數(x)，求廣義多項式P(x)使得誤差函數=最小。dxxyxPxba2)]()([)(-r內積與范數離散型連續(xù)型則易證(f,g)是內積，而是范數。(f,g)=0表示f與g

帶權正交。廣義L-S問題可敘述為：求廣義多項式P(x)使得最小。nkyaknjjjk,...,0,),(),(0===jjj設則完全類似地有：)(...)()()(1100xaxaxaxPnnjjj+++=法方程組

/*normalequations*/即：),(),(),(00yyaabnnjiijjjjj===c證明：若存在一組系數{i

}使得0...1100=+++nnjajaja則等式兩邊分別與0,1,…,n作內積，得到：即：B=0……定理

Ba=c存在唯一解

0(x),1(x),…,n(x)線性無關。例：用來擬合，w1解：0(x)=1，1(x)=x，2(x)=x2Itissoooos