函數(shù)逼近和曲線擬合

關于函數(shù)逼近和曲線擬合第1頁，課件共64頁，創(chuàng)作于2023年2月

當函數(shù)只在有限點集上給定函數(shù)值，要在包含該點擊的區(qū)間上用公式給出函數(shù)的簡單表達式，這些都涉及到在區(qū)間[a,b]上用簡單函數(shù)逼近已知復雜函數(shù)的問題，這就是函數(shù)逼近問題。插值法就是函數(shù)逼近問題的一種第2頁，課件共64頁，創(chuàng)作于2023年2月擬解決的問題：計算復雜的函數(shù)值已知有限點集上的函數(shù)值，給出在包含該點集的區(qū)間上函數(shù)的簡單表達式函數(shù)逼近——對函數(shù)類A中給定的函數(shù)f(x)，記作要求在另一類簡單的便于計算的函數(shù)類B中求函數(shù)使p(x)與f(x)的誤差在某種度量意義下最小。逼近問題函數(shù)逼近曲線擬合第3頁，課件共64頁，創(chuàng)作于2023年2月基本數(shù)學概念：定義1：設集合S是數(shù)域P上的線性空間，元素如果存在不全為0的數(shù)，使得線性相關，否則，若等式(1.1)只對則稱成立，則稱為線性無關。第4頁，課件共64頁，創(chuàng)作于2023年2月若線性空間S是由n個線性無關元素生成的，即：為空間S的一組基，記為：則稱并稱該空間為n維空間。稱為x在這組基下的坐標。例：n次多項式第5頁，課件共64頁，創(chuàng)作于2023年2月連續(xù)函數(shù)不能用有限個線性無關的函數(shù)表示，故連續(xù)函數(shù)空間是無限維的，但它的任一元素可以用有限維的多項式逼近，使誤差為任意小。定理1：設則對任何總存在一個代數(shù)多項式p(x),使在[a,b]上一致成立。第6頁，課件共64頁，創(chuàng)作于2023年2月范數(shù)與賦范線性空間定義2：設S為線性空間，x是S的元素，若存在唯一實數(shù)，滿足條件：則稱為線性空間S上的范數(shù)。稱為賦范線性空間。第7頁，課件共64頁，創(chuàng)作于2023年2月例：n維向量空間上定義的三種范數(shù)：稱為-范數(shù)稱為1

-范數(shù)稱為2

-范數(shù)第8頁，課件共64頁，創(chuàng)作于2023年2月例：連續(xù)函數(shù)空間上定義的三種范數(shù)：稱為-范數(shù)稱為1

-范數(shù)稱為2

-范數(shù)第9頁，課件共64頁，創(chuàng)作于2023年2月例：求下列向量的1范數(shù)、2范數(shù)和無窮范數(shù)第10頁，課件共64頁，創(chuàng)作于2023年2月內積與內積空間定義3：設X為數(shù)域K（R或C）上的線性空間，滿足條件：稱(u,v)為X上u與v的內積。定義了內積的線性空間為內積空間。若(u,v)=0,則稱u和v正交。第11頁，課件共64頁，創(chuàng)作于2023年2月例例如：第12頁，課件共64頁，創(chuàng)作于2023年2月例其中為權函數(shù)，滿足定義4（page68)第13頁，課件共64頁，創(chuàng)作于2023年2月正交函數(shù)定義5：既：f(x)與g(x)在[a,b]上帶權正交。若函數(shù)族滿足則稱該函數(shù)族是在[a,b]上帶權的正交函數(shù)族。時為標準正交函數(shù)族第14頁，課件共64頁，創(chuàng)作于2023年2月例如，三角函數(shù)族是在區(qū)間上的正交函數(shù)族。定義6：正交多項式(page70)第15頁，課件共64頁，創(chuàng)作于2023年2月逼近問題函數(shù)逼近曲線擬合第16頁，課件共64頁，創(chuàng)作于2023年2月實例：考察某種纖維的強度與其拉伸倍數(shù)的關系,下表是實際測定的24個纖維樣品的強度與相應的拉伸倍數(shù)是記錄:第17頁，課件共64頁，創(chuàng)作于2023年2月纖維強度隨拉伸倍數(shù)增加而增加并且24個點大致分布在一條直線附近必須找到一種度量標準來衡量什么曲線最接近所有數(shù)據(jù)點(1)第18頁，課件共64頁，創(chuàng)作于2023年2月仍然是已知x1…xm

;y1…ym,求一個簡單易算的近似函數(shù)P(x)

f(x)。但是①

m

很大；②

yi本身是測量值，不準確，即yi

f(xi)這時沒必要取P(xi)=yi,

而要使P(xi)yi總體上盡可能小。使誤差在某種度量意義下最小第19頁，課件共64頁，創(chuàng)作于2023年2月常見做法：

使最小/*minimaxproblem*/

太復雜使最小不可導，求解困難使最小/*Least-Squaresmethod*/第20頁，課件共64頁，創(chuàng)作于2023年2月最小二乘法的基本概念一般使用在回歸分析中稱為殘差稱為平方誤差第21頁，課件共64頁，創(chuàng)作于2023年2月在回歸分析中稱為殘差平方和從而確定(1)中的待定系數(shù)注意(1)式是一條直線因此將問題一般化一般情況下第22頁，課件共64頁，創(chuàng)作于2023年2月仍然定義平方誤差第23頁，課件共64頁，創(chuàng)作于2023年2月我們選取的度量標準是(2)(3)第24頁，課件共64頁，創(chuàng)作于2023年2月第25頁，課件共64頁，創(chuàng)作于2023年2月法方程組由可知因此可假設因此求最小二乘解轉化為二次函數(shù)第26頁，課件共64頁，創(chuàng)作于2023年2月由多元函數(shù)取極值的必要條件得即第27頁，課件共64頁，創(chuàng)作于2023年2月(4)即第28頁，課件共64頁，創(chuàng)作于2023年2月引入記號則由內積的概念可知(5)(6)顯然內積滿足交換律第29頁，課件共64頁，創(chuàng)作于2023年2月方程組(4)便可化為(7)將其表示成矩陣形式(8)第30頁，課件共64頁，創(chuàng)作于2023年2月并且其系數(shù)矩陣為對稱陣所以法方程組的系數(shù)矩陣非奇異,即根據(jù)Cramer法則,法方程組有唯一解第31頁，課件共64頁，創(chuàng)作于2023年2月即是的最小值所以因此第32頁，課件共64頁，創(chuàng)作于2023年2月作為一種簡單的情況,基函數(shù)之間的內積為平方誤差第33頁，課件共64頁，創(chuàng)作于2023年2月例1.回到本節(jié)開始的實例，從散點圖可以看出纖維強度和拉伸倍數(shù)之間近似與線性關系故可選取線性函數(shù)為擬合函數(shù)，其基函數(shù)為建立法方程組根據(jù)內積公式，可得第34頁，課件共64頁，創(chuàng)作于2023年2月法方程組為解得平方誤差為第35頁，課件共64頁，創(chuàng)作于2023年2月擬合曲線與散點的關系如右圖:第36頁，課件共64頁，創(chuàng)作于2023年2月例2.求擬合下列數(shù)據(jù)的最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:從數(shù)據(jù)的散點圖可以看出因此假設擬合函數(shù)與基函數(shù)分別為第37頁，課件共64頁，創(chuàng)作于2023年2月6.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728通過計算,得法方程組的系數(shù)矩陣及常數(shù)項矩陣為Go!第38頁，課件共64頁，創(chuàng)作于2023年2月用Gauss列主元消去法,得-1.0410-1.26130.030735擬合的平方誤差為圖象如圖第39頁，課件共64頁，創(chuàng)作于2023年2月例3.在某化學反應里,測得生成物濃度y%與時間t的數(shù)據(jù)如下，試建立y關于t的經驗公式x=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有圖示的圖形的曲線很多，本題特提供兩種形式第40頁，課件共64頁，創(chuàng)作于2023年2月例：xy(xi,yi),i=1,2,…,m方案一：設baxxxPy+=)(求a

和b

使得最小。=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線性化

/*linearization*/：令，則bXaY+就是個線性問題將化為后易解a

和b。),(iiYX),(iiyx第41頁，課件共64頁，創(chuàng)作于2023年2月方案二：設xbeaxPy/)(-=(a>0,b>0)線性化：由可做變換xbay-lnlnbBaAxXyY-====,ln,1,lnBXAY+就是個線性問題將化為后易解A

和B),(iiYX),(iiyx第42頁，課件共64頁，創(chuàng)作于2023年2月兩邊取對數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為第43頁，課件共64頁，創(chuàng)作于2023年2月用最小二乘法得即無論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好平方誤差為第44頁，課件共64頁，創(chuàng)作于2023年2月定義權函數(shù)：①

離散型/*discretetype*/根據(jù)一系列離散點擬合時，在每一誤差前乘一正數(shù)wi

，即誤差函數(shù)

，這個wi

就稱作權/*weight*/，反映該點的重要程度。=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/在[a,b]上用廣義多項式P(x)擬合連續(xù)函數(shù)f(x)時，定義權函數(shù)(x)C[a,b]，即誤差函數(shù)

=。權函數(shù)(x)必須滿足：非負、可積，且在[a,b]的任何子區(qū)間上(x)0。加權最小二乘法第45頁，課件共64頁，創(chuàng)作于2023年2月各點的重要性可能是不一樣的重度:即權重或者密度，統(tǒng)稱為權系數(shù)

定義加權平方誤差為(9)第46頁，課件共64頁，創(chuàng)作于2023年2月使得第47頁，課件共64頁，創(chuàng)作于2023年2月由多元函數(shù)取極值的必要條件得即第48頁，課件共64頁，創(chuàng)作于2023年2月引入記號定義加權內積(10)第49頁，課件共64頁，創(chuàng)作于2023年2月矩陣形式(法方程組)為方程組(10)式化為(11)(12)第50頁，課件共64頁，創(chuàng)作于2023年2月平方誤差為作為特殊情形,用多項式作擬合函數(shù)的法方程組為(13)第51頁，課件共64頁，創(chuàng)作于2023年2月例：連續(xù)型擬合中，取則Hilbert陣！改進：若能取函數(shù)族={0(x),1(x),…,n(x),…}，使