《非線性回歸分析》ppt課件

1、袁克虹袁克虹辦公：辦公：26032453辦公地點(diǎn)辦公地點(diǎn):L樓樓305B郵件：郵件： 2021.04.29一元非線性回歸分析一元非線性回歸分析回想-一元一次線性回歸步驟：1.察看散點(diǎn)圖2.判別是什么關(guān)系;3. 回歸參數(shù)計(jì)算；4. 判別系數(shù)；5.顯著性檢驗(yàn)留意H06.失擬合檢驗(yàn)留意需求的條件目的評價(jià)相關(guān)系數(shù)，判別系數(shù)回歸公式顯著性檢驗(yàn)H0假設(shè)的含義；方差分析表；F(1,n-2)失擬合檢驗(yàn)條件？F(m-2,n-m)回歸分析內(nèi)容一元線性步驟： 1.察看散點(diǎn)圖，2.判別是什么關(guān)系，3. 回歸，4. 判別系數(shù)；5。顯著性檢查留意H0，6.失擬合檢驗(yàn)留意需求的條件

2、一元非線性帶虛擬變量多元線性多元非線性和逐漸回歸Logistic回歸 煉鋼廠出鋼水時(shí)用的鋼包，在運(yùn)用過程中由于鋼水煉鋼廠出鋼水時(shí)用的鋼包，在運(yùn)用過程中由于鋼水及爐渣對耐火資料的浸蝕，其容積不斷增大。如今鋼及爐渣對耐火資料的浸蝕，其容積不斷增大。如今鋼包的容積用盛滿鋼水時(shí)的分量包的容積用盛滿鋼水時(shí)的分量y (kg)表示，相應(yīng)的實(shí)表示，相應(yīng)的實(shí)驗(yàn)次數(shù)用驗(yàn)次數(shù)用x表示。數(shù)據(jù)見表，要找出表示。數(shù)據(jù)見表，要找出y 與與x的定量關(guān)系的定量關(guān)系表達(dá)式。表達(dá)式。 一次非線性回歸一次非線性回歸鋼包的分量鋼包的分量y與實(shí)驗(yàn)次數(shù)與實(shí)驗(yàn)次數(shù)x數(shù)據(jù)數(shù)據(jù) 序號(hào)序號(hào)xy序號(hào)序號(hào)xy12106.42811110.592310

3、8.20914110.6034109.581015110.9045109.501116110.7657110.001218111.0068109.931319111.20710110.49 下面我們分三步進(jìn)展。 確定能夠的函數(shù)方式確定能夠的函數(shù)方式 為對數(shù)據(jù)進(jìn)展分析，首先描出數(shù)據(jù)的散點(diǎn)圖，判別兩個(gè)變量之間能夠的函數(shù)關(guān)系，圖是本例的散點(diǎn)圖。 觀測這13個(gè)點(diǎn)構(gòu)成的散點(diǎn)圖，我們可以看到它們并不接近一條直線，用曲線擬合這些點(diǎn)應(yīng)該是更恰當(dāng)?shù)?，這里就涉及如何選擇曲線函數(shù)方式的問題。 首先，假設(shè)可由專業(yè)知識(shí)確定回首先，假設(shè)可由專業(yè)知識(shí)確定回歸函數(shù)方式，那么應(yīng)盡能夠利用歸函數(shù)方式，那么應(yīng)盡能夠利用專業(yè)知識(shí)。當(dāng)

4、假設(shè)不能有專業(yè)知專業(yè)知識(shí)。當(dāng)假設(shè)不能有專業(yè)知識(shí)加以確定函數(shù)方式，那么可將識(shí)加以確定函數(shù)方式，那么可將散點(diǎn)圖與一些常見的函數(shù)關(guān)系的散點(diǎn)圖與一些常見的函數(shù)關(guān)系的圖形進(jìn)展比較，選擇幾個(gè)能夠的圖形進(jìn)展比較，選擇幾個(gè)能夠的函數(shù)方式，然后運(yùn)用統(tǒng)計(jì)方法在函數(shù)方式，然后運(yùn)用統(tǒng)計(jì)方法在這些函數(shù)方式之間進(jìn)展比較，最這些函數(shù)方式之間進(jìn)展比較，最后確定適宜的曲線回歸方程。為后確定適宜的曲線回歸方程。為此，必需了解常見的曲線函數(shù)的此，必需了解常見的曲線函數(shù)的圖形，。圖形，。 本例中，散點(diǎn)圖呈現(xiàn)呈現(xiàn)一個(gè)明本例中，散點(diǎn)圖呈現(xiàn)呈現(xiàn)一個(gè)明顯的向上且上凸的趨勢，能夠選顯的向上且上凸的趨勢，能夠選擇的函數(shù)關(guān)系有很多，比如，我擇的函

5、數(shù)關(guān)系有很多，比如，我們可以給出如下四個(gè)曲線函數(shù)：們可以給出如下四個(gè)曲線函數(shù)： 1) 1/y=a+b/x 2) y=a+blnx 3) 4) 在初步選出能夠的函數(shù)關(guān)系在初步選出能夠的函數(shù)關(guān)系(即即方程方程)后，我們必需處理兩個(gè)問題：后，我們必需處理兩個(gè)問題：如何估計(jì)所選方程中的參數(shù)？如如何估計(jì)所選方程中的參數(shù)？如何評價(jià)所選不同方程的優(yōu)劣？何評價(jià)所選不同方程的優(yōu)劣？ yab x/100(0)x bya eb 對上述非線性函數(shù)，參數(shù)估計(jì)最常用的方法對上述非線性函數(shù)，參數(shù)估計(jì)最常用的方法是是“線性化方法。線性化方法。 以以1/y=a+b/x為例，為了能采用一元線性回歸為例，為了能采用一元線性回歸分析

6、方法，我們作如下變換分析方法，我們作如下變換u=1/x,v=1/y 那么曲線函數(shù)就化為如下的直線那么曲線函數(shù)就化為如下的直線v=bu 這是實(shí)際回歸函數(shù)。對數(shù)據(jù)而言，回歸方程為這是實(shí)際回歸函數(shù)。對數(shù)據(jù)而言，回歸方程為 vi=a+ bui + i 于是可用一元線性回歸的方法估計(jì)出于是可用一元線性回歸的方法估計(jì)出a,b。 參數(shù)估計(jì)計(jì)算表參數(shù)估計(jì)計(jì)算表 2.05088194iu 13n 0.11826672iv 0.15776015u 0.00909744v 20.53721798iu 0.01883495iiu v 20.32354744nu 0.01865778nuv 0.21367054uul0

7、.00017717uvl/0.00082917uvuub ll0.00896663a v ub 0.000829170.00896663xyx 用類似的方法可以得出其它三個(gè)曲用類似的方法可以得出其它三個(gè)曲線回歸方程，它們分別是：線回歸方程，它們分別是： 106.31473.9466lnyx106.3013 1.1947yx1.1256/100 11.7506xye 曲線回歸方程的比較曲線回歸方程的比較 我們上面得到了四個(gè)曲線回歸方程，我們上面得到了四個(gè)曲線回歸方程，通?？刹捎萌缦露€(gè)目的進(jìn)展選擇。通?？刹捎萌缦露€(gè)目的進(jìn)展選擇。 1決議系數(shù)決議系數(shù)R2：類似于一元線：類似于一元線性回歸方程中相

8、關(guān)系數(shù)，決議系數(shù)性回歸方程中相關(guān)系數(shù)，決議系數(shù)定義為：定義為： R2越大，闡明殘差越小，回歸曲越大，闡明殘差越小，回歸曲線擬合越好，線擬合越好， R2從總體上給出一個(gè)從總體上給出一個(gè)擬合好壞程度的度量。擬合好壞程度的度量。 222()1()iiiyyRyy2剩余規(guī)范差剩余規(guī)范差s：類似于一元線性回歸中規(guī)范差的估計(jì)：類似于一元線性回歸中規(guī)范差的估計(jì)公式，此剩余規(guī)范差可用殘差平方和來獲得，即公式，此剩余規(guī)范差可用殘差平方和來獲得，即 s為諸觀測點(diǎn)為諸觀測點(diǎn)yi與由曲線給出的擬合值與由曲線給出的擬合值 間的平均偏離程間的平均偏離程度的度量，度的度量，s越小，方程越好。越小，方程越好。2()2iiyy

9、sniy 在觀測數(shù)據(jù)給定后，不同的曲線在觀測數(shù)據(jù)給定后，不同的曲線選擇不會(huì)影響選擇不會(huì)影響 的取值，的取值，但會(huì)影響到殘差平方和但會(huì)影響到殘差平方和 的取值。因此，對選擇的曲線而言，的取值。因此，對選擇的曲線而言，決議系數(shù)和剩余規(guī)范差都取決于殘決議系數(shù)和剩余規(guī)范差都取決于殘差平方和差平方和 ，從而，兩種選，從而，兩種選擇準(zhǔn)那么是一致的，只是從兩個(gè)不擇準(zhǔn)那么是一致的，只是從兩個(gè)不同側(cè)面作出評價(jià)。同側(cè)面作出評價(jià)。21()niiyy21()niiiyy21()niiiyy表給出第一個(gè)曲線回歸方程的殘差平方和的計(jì)算過程， 由于n=13， ， 故其決議系數(shù)及剩余規(guī)范差分別為：其它三個(gè)方程的決議系數(shù)及剩余

10、規(guī)范差可同樣計(jì)算，我們將它們列在表中。 1321()0.5743iiyy20.57430.574310.9729,0.2285 21.2105132Rs 四種曲線回歸四種曲線回歸決議系數(shù)及剩余規(guī)范差決議系數(shù)及剩余規(guī)范差 模型編號(hào)模型編號(hào) (1)(2)(3)(4)R20.97290.87730.78510.9623s0.22850.48640.64370.2696可以看出，第一個(gè)曲線方程的決議系數(shù)最大，剩余規(guī)范差最小，在這四個(gè)曲線回歸方程中，不論用哪個(gè)規(guī)范，都是第一個(gè)方程擬合得最好。因此，近似得比較好的定量關(guān)系式就是0.000829170.00896663xyx例子例子 例子例子例子 由于商品零

11、售額添加，流通費(fèi)用率呈下降趨勢，二者之間為負(fù)相關(guān)關(guān)系，故相關(guān)系數(shù)取負(fù)值為：0.9898。闡明兩者高度相關(guān)，用雙曲線回歸模型配合進(jìn)展預(yù)測是可靠的。 例子本章小節(jié) 回歸分析和相關(guān)分析目的不同 在回歸分析中，尋覓的是變量之間的關(guān)系，代表這種關(guān)系的方程能夠就是所期望的結(jié)果，也能夠是所期望預(yù)測的均值。 虛擬變量回歸預(yù)測虛擬變量回歸預(yù)測 虛擬變量質(zhì)量變量不像數(shù)量變量那樣表現(xiàn)為詳細(xì)的數(shù)值。它只能以質(zhì)量、屬性、種類等方式來表現(xiàn)。要在回歸模型中引入此類質(zhì)量變量，必需首先將具有屬性性質(zhì)的質(zhì)量變量數(shù)量化。通常的做法是令某種屬性出現(xiàn)對應(yīng)于1，不出現(xiàn)對應(yīng)于0。這種以出現(xiàn)為，未出現(xiàn)為方式表現(xiàn)的質(zhì)量變量，就稱為虛擬變量。帶虛擬變量的回歸模型 常見的帶虛擬變量的回歸模型有以下二種方式： Xi02 X2Yi虛擬變量回歸預(yù)測 其中的趨勢變化如右圖所示其中的趨勢變化如右圖所示Xi02 X2Yi虛擬變量回歸預(yù)測 虛擬變量回歸預(yù)測 虛擬變量的回歸模型運(yùn)用舉例