《曲線回歸》ppt課件

1、第十一章 曲線回歸第一節(jié) 曲線的類型與特點(diǎn)第二節(jié) 曲線方程的配置第三節(jié) 多項(xiàng)式回歸n曲線回歸(curvilinear regression)或非線性回歸(non-linear regression)：兩個(gè)變數(shù)間呈現(xiàn)曲線關(guān)系的回歸。n曲線回歸分析或非線性回歸分析：以最小二乘法分析曲線關(guān)系資料在數(shù)量變化上的特征和規(guī)律的方法。 n曲線回歸分析方法的主要內(nèi)容有：n 確定兩個(gè)變數(shù)間數(shù)量變化的某種特定的規(guī)那么或規(guī)律；n 估計(jì)表示該種曲線關(guān)系特點(diǎn)的一些重要參數(shù)，如回歸參數(shù)、極大值、極小值和漸近值等；n 為消費(fèi)預(yù)測(cè)或?qū)嶒?yàn)控制進(jìn)展內(nèi)插，或在論據(jù)充足時(shí)作出實(shí)際上的外推。第一節(jié) 曲線的類型與特點(diǎn)n一、指數(shù)函數(shù)曲線n

2、二、對(duì)數(shù)函數(shù)曲線n三、冪函數(shù)曲線n四、雙曲函數(shù)曲線n五、S型曲線一、指數(shù)函數(shù)曲線n指數(shù)函數(shù)方程有兩種方式：n 圖11.1方程 的圖象bxaey xaby 00，ba00，babxaey yxn二、對(duì)數(shù)函數(shù)曲線n對(duì)數(shù)函數(shù)方程的普通表達(dá)式為：n 圖11.2 方程 =a+blnx 的圖象xbayln0b0byyxn三、冪函數(shù)曲線n冪函數(shù)曲線指y是x某次冪的函數(shù)曲線，其方程為：n 圖11.3 方程 的圖象baxy 10ba100ba0，0babaxy yyxxn四、雙曲函數(shù)曲線n雙曲函數(shù)因其屬于變形雙曲線而得名，其曲線方程普通有以下3種方式：n 圖11.4 方程 的圖象bxaxyxbxaybxay10

3、0，ba0，0 bab1bayybxaxy xxn五、S型曲線nS型曲線主要用于描畫動(dòng)、植物的自然生長(zhǎng)過(guò)程，故又稱生長(zhǎng)曲線。nLogistic曲線方程為： bxaeky1balnk2kak1yx第二節(jié) 曲線方程的配置n一、曲線回歸分析的普通程序n二、指數(shù)曲線方程 的配置n三、冪函數(shù)曲線方程的配置n四、Logistic曲線方程的配置bxaey 一、曲線回歸分析的普通程序n曲線方程配置(curve fitting)：是指對(duì)兩個(gè)變數(shù)資料進(jìn)展曲線回歸分析，獲得一個(gè)顯著的曲線方程的過(guò)程。n由實(shí)驗(yàn)數(shù)據(jù)配置曲線回歸方程，普通包括以下3個(gè)根本步驟： n1根據(jù)變數(shù)X 與Y 之間確實(shí)切關(guān)系，選擇適當(dāng)?shù)那€類型。n

4、2對(duì)選定的曲線類型，在線性化后按最小二乘法原理配置直線回歸方程，并作顯著性檢驗(yàn)。n3將直線回歸方程轉(zhuǎn)換成相應(yīng)的曲線回歸方程，并對(duì)有關(guān)統(tǒng)計(jì)參數(shù)作出推斷。 表11.1 常用曲線回歸方程的直線化方法n運(yùn)用上述程序配置曲線方程時(shí)，應(yīng)留意以下3點(diǎn)： n(1) 假設(shè)同一資料有多種不同類型的曲線方程配置，需經(jīng)過(guò)判別來(lái)選擇。統(tǒng)計(jì)規(guī)范是離回歸平方和 最小的中選。n(2) 假設(shè)轉(zhuǎn)換無(wú)法找出顯著的直線化方程，可采用多項(xiàng)式逼近，n(3) 當(dāng)一些方程無(wú)法進(jìn)展直線化轉(zhuǎn)換，可采用最小二乘法擬合。2)(yy二、指數(shù)曲線方程 的配置n (111)n兩邊取對(duì)數(shù)：n (112)n令 ，可得直線回歸方程：n (113) n假設(shè) 與x

5、的線性相關(guān)系數(shù)： n (114) bxaey bxaey bxay lnlnbxaylnyxyxyxySSSSSPryylnn顯著，就可進(jìn)一步計(jì)算回歸統(tǒng)計(jì)數(shù)：n (115)n三、冪函數(shù)曲線方程 的配置n (116) axxyeaxbyaSSSPbln ln/baxy baxy n當(dāng) y 和 x 都大于0時(shí)可線性化為：n (117)n假設(shè)令 ， ，即有線性回歸方程：n (118) n 假設(shè)線性相關(guān)系數(shù)：n (119)xbaylnlnlnyylnxxlnxbaylnxyxyxySSSSSPrn顯著，回歸統(tǒng)計(jì)數(shù)：n (1110) n四、Logistic曲線方程的配置n a、b、k均0 (1111)

6、axxyeaxbyaSSSPbln ln/bxaeky1nK 可由兩種方法估計(jì)：n 假設(shè)y是累積頻率，那么顯然k=100%；n 假設(shè)y是生長(zhǎng)量或繁衍量，那么可取3對(duì)察看值 x1，y1、x2，y2、和x3，y3，代入(1111) n 得：)()()(321111321bxbxbxaekyaekyaekyn假設(shè)令 ，解得：n移項(xiàng)，取自然對(duì)數(shù)得： n 2/ )(312xxx31223213122)(yyyyyyyyyk2bxayykln)ln( (1113)(1112)n令 ，可得直線回歸方程：n (1114)n 和 x 的相關(guān)系數(shù)： n (1115) n回歸統(tǒng)計(jì)數(shù) a 和 b 由下式估計(jì)：)ln(

7、yykybxaylnyxyrxyxySSSSSP axxyeaxbyaSSSPblnln/(1116)第三節(jié) 多項(xiàng)式回歸n 一、多項(xiàng)式回歸方程n 二、多項(xiàng)式回歸的假設(shè)檢驗(yàn)一、多項(xiàng)式回歸方程n(一) 多項(xiàng)式回歸方程式n多項(xiàng)式回歸(polynomial regression)：當(dāng)兩個(gè)變數(shù)間的曲線關(guān)系很難確定時(shí)，可以運(yùn)用多項(xiàng)式去逼近。n二次多項(xiàng)式，其方程為：n (1117) 2212xbxbayn 三次多項(xiàng)式的方程式為： n (1118) 332213xbxbxbayn多項(xiàng)式方程的普通方式為： n (1119) n(二)多項(xiàng)式方程次數(shù)的初步確定n多項(xiàng)式回歸方程取的次數(shù)：散點(diǎn)所表現(xiàn)的曲線趨勢(shì)的峰數(shù)谷數(shù)

8、。假設(shè)散點(diǎn)動(dòng)搖較大或峰谷兩側(cè)不對(duì)稱，可再高一次。kkkxbxbxbay221n(三)多項(xiàng)式回歸統(tǒng)計(jì)數(shù)的計(jì)算n可采用類似于多元線性回歸的方法求解多項(xiàng)式回歸的統(tǒng)計(jì)數(shù)。n令 ， ， ，(1119)可化為：n (1120) xx 122xx kkxx kkkxbxbxbay2211n可采用矩陣方法求解。即由n和knnnkkknnnkkxxxxxxxxxxxxxxxxxx121112212121121111212221212111111111Xnyyy21Yn求得 、 和( )-1，并由n b=( )-1( )獲得相應(yīng)的多項(xiàng)式回歸統(tǒng)計(jì)數(shù)。n(四) 多項(xiàng)式回歸方程的估計(jì)規(guī)范誤n y 的總平方和 SSy 可

9、分解為回歸和離回歸兩部分： n SSy=Uk+QkXX YX XX XX YX (1121) k 次多項(xiàng)式的離回歸規(guī)范誤可定義為： 即是多項(xiàng)式回歸方程的估計(jì)規(guī)范誤。 kykkyQSSnUQnSS/)(/)(22Y1YXbYXbYYY1YY1)(，/knQskxxxyk2(1122)(1123) n二、多項(xiàng)式回歸的假設(shè)檢驗(yàn)n多項(xiàng)式回歸的假設(shè)檢驗(yàn)包括三項(xiàng)內(nèi)容：n總的多項(xiàng)式回歸關(guān)系能否成立？n能否以k-1次多項(xiàng)式替代k次多項(xiàng)式，即能否有必要配到k次式？n在一個(gè)k次多項(xiàng)式中，X 的一次分量項(xiàng)、二次分量項(xiàng)、k-1次分量項(xiàng)能否被略去(相應(yīng)的自在度和平方和并入誤差)？ n(一)多項(xiàng)式回歸關(guān)系的假設(shè)檢驗(yàn)n多項(xiàng)

10、式回歸(Uk)由X的各次分量項(xiàng)的不同所引起，具有： 。n離回歸(Qk)：與X 的不同無(wú)，具有 。n n可檢驗(yàn)多項(xiàng)式回歸關(guān)系的真實(shí)性。 k)1(kn1)(knQkUFkk/(1124)n相關(guān)指數(shù)： ，k 次多項(xiàng)式的回歸平方 n 和占Y總平方和的比率的平方根值，可用來(lái)表示Y與X的多項(xiàng)式的相關(guān)親密程度。n n決議系數(shù)：在Y 的總變異中，可由X 的k 次多項(xiàng)式闡明的部分所占的比率。kxxxyR，2ykxxxySSURk/2，(1125)n(二) k 次多項(xiàng)式必要性的假設(shè)檢驗(yàn)n假設(shè)k次多項(xiàng)式的k次項(xiàng)不顯著，可由k-1次方程描畫Y 與X 的曲線關(guān)系。 n有必要檢驗(yàn)多項(xiàng)式添加一次所用去的1個(gè)自在度，對(duì)于離回歸平方和的減少(或回歸平方和