第16講非線性回歸多元線性

§可線性化的一元非線性回歸一、常見可線性化的回歸方程二、方法三、評價§5.3一元非線性回歸1.常見可線性化的一元非線性回歸可以不是直線(即線性)的相關(guān)關(guān)系,而是在工程技術(shù)中,兩個變量之間的關(guān)系某種曲線(即非線性)的相關(guān)關(guān)系.定可能的非線性函數(shù)形式,也可利用專業(yè)一般,可根據(jù)二維子樣的散點圖來確知識確定曲線類型.例1例1為了檢驗X射線的殺菌作用,用200kv的X射線照射殺菌,每次照射6min,照射次數(shù)為X,照射后所剩細菌數(shù)為y,試驗結(jié)果如下1xy78324333287417551296xy72743828916109散點圖散點圖800700600500400300200100xy012345678910。。。。。。。。。。非線性回歸(曲線回歸)一般根據(jù)散點圖確定需配曲線的類型實際中常會遇到很復(fù)雜的回歸問題，但在某些情況下，通過適當(dāng)?shù)淖兞孔儞Q，可將其化為一元線性回歸來處理。下面是三種常見的可轉(zhuǎn)化為一元線性回歸的模型。

五類曲線常用五類曲線配置方法雙曲線名稱表達式方法圖像冪曲線冪函數(shù)名稱表達式方法圖像曲線指數(shù)曲線指數(shù)名稱表達式方法圖像曲線對數(shù)曲線對數(shù)曲線名稱表達式方法圖像S型曲線名稱表達式方法圖像S型曲線參數(shù)估計2.方法變量代換非線性函數(shù)線性函數(shù)線性回歸問題愈大愈好決定系數(shù)評價標(biāo)準(zhǔn)3.常用曲線回歸方程好壞的評價標(biāo)準(zhǔn)配曲線步驟作出散點圖；1.由試驗數(shù)據(jù)2.確定需配曲線的類型；3.根據(jù)試驗數(shù)據(jù)計算所配曲線的未知參數(shù)a和b.注注

若有兩個或兩個以上非線性函數(shù)可用，則分別擬合非線性回歸并根據(jù)評價標(biāo)準(zhǔn)進行選擇.配曲線“三步曲”解例1給出例1具體的回歸方程,并求其對應(yīng)根據(jù)經(jīng)驗知道,的曲線回歸方的決定系數(shù)和剩余標(biāo)準(zhǔn)差.解關(guān)于程形式可能有(或等)令則回歸方程17836.66316.663613089772.01120.78計算表24336.071412.142187489476.281873.1632875.660916.98082369293.8346.6541755.1651620.66030625181.2739.3151294.8602524.30016641111.83294.816724.2773625.662518468.999.067433.7614926.327184942.560.198283.3326426.65678426.263.039162.7738124.95725616.200.041092.19710021.970819.990.9855197544.759385206.3179383672388.01列表計算關(guān)于的線性回歸方程從而的曲線回歸方程為關(guān)于決定系數(shù)表明曲線擬合程度相當(dāng)好！用其它曲線方程來擬合,可類似計算(1)注(2)例2例2設(shè)曲線函數(shù)形式為試給出一個變換,將其化為一元線性回歸的形式.

則最后的線性回歸函數(shù)為解考慮如下變換：變換后的線性函數(shù)為：再令在彩色顯影中,根據(jù)以往經(jīng)驗,形成染料光學(xué)密度與析出銀的光學(xué)密度之間呈倒指數(shù)曲線關(guān)系:已測得11對數(shù)據(jù)見下表:(1)求出經(jīng)驗回歸曲線方程；(2)對回歸曲線的顯著性進行檢驗.x0.050.060.070.100.140.200.250.310.380.430.47

y0.100.140.230.370.590.791.001.121.191.251.29例4/9/5.5令

經(jīng)計算得解:(1)由5/9/5.56/9/5.5線性回歸方程為:

曲線回歸方程為:7/9/5.5拒絕域為現(xiàn)在n=11，取(2)檢驗假設(shè)8/9/5.5∴拒絕原假設(shè)

∴y對x的回歸方程是顯著的.§多元線性回歸分析一、多元線性回歸方程二、回歸參數(shù)的估計五、回歸系數(shù)的顯著性檢驗四、線性假設(shè)的顯著性檢驗六、預(yù)測三、誤差方程的估計設(shè)隨機變量與之間呈線性相關(guān)關(guān)系,則其中是個未知參數(shù),是隨機誤差.稱方程為多元線性回歸方程一、多元線性回歸方程如果我們獲得了n組觀察數(shù)據(jù)則有矩陣形式其中基本假設(shè)

(1)是確定性變量,且(2)相互獨立,即其中是階單位方陣二、最小二乘估計用最小二乘法估計回歸參數(shù)考慮使分別求關(guān)于的偏導(dǎo)數(shù),并令其為零整理得正規(guī)方程組其矩陣形式為解得所以多元線性回歸方程的矩陣形式為三、

的無偏估計

和一元線性回歸類似,平方和分解從而的無偏估計為與一元線性回歸相比,元線性回歸的參數(shù)估計量也有類似的性質(zhì).例如:都是的線性組合;分別是的無偏估計;等四、多元線性回歸方程的顯著性檢驗(F檢驗)

檢驗假設(shè)不全為零由平方和分解構(gòu)造統(tǒng)計量可以證明,當(dāng)成立時所以對給定的顯著性水平的拒絕域為五、多元線性回歸系數(shù)的顯著性檢驗(t檢驗)多元線性回歸系數(shù)的顯著性假設(shè)檢驗,是對每一個變量在線性回歸方程中的作用進行檢驗,如果對的作用不顯著,則它的系數(shù)就可以取值為0.因此檢驗變量是否顯著等價于檢驗假設(shè),且與獨立.另一方面記則所以即選取檢驗統(tǒng)計量其中則當(dāng)成立時故對給定的顯著性水平,假設(shè)檢驗問題的拒絕域為六、預(yù)測（1）回歸系數(shù)的置信區(qū)間

的置信區(qū)間為（2）

的置信區(qū)間

對于的一個觀測值,有記預(yù)測誤差可以證明且與相互獨立.于是所以即所以的置信區(qū)間為可以通過增大樣本容量n或增大樣本觀測值的范圍的辦法提高多元線性回歸模型的預(yù)測精度例觀測落葉松的樹齡(年)與高度(m)有如下資料:2345678910115.6810.412.815.317.819.921.422.423.2如果與的關(guān)系為拋物線（1）試求回歸方程（2）檢驗回歸方程的顯著性解(1)令經(jīng)計算=>回歸方程為(2)檢驗假設(shè)

不全為零檢驗統(tǒng)計量的值而所以拒絕,即認為對的回歸方程是顯著的

多元回歸分析例8-6有一個工廠會計部門在估計每月管理費y時，用工人的勞動日數(shù)x1與機器的開工臺數(shù)x2作自變量，現(xiàn)將當(dāng)年10個月的數(shù)據(jù)搜集起來，如圖8-15（“多元回歸分析”工作表）所示，估計y對x1與x2的線性回歸方程(α=0.05)。返回首頁（1）在“工具”菜單中選擇“數(shù)據(jù)分析”選項，在“分析工具”列表中選擇“回歸”，單擊“確定”按鈕，打開“回歸”對話框。（2）在“Y值輸入?yún)^(qū)域”中輸入“D1:D11”，在“X值輸入?yún)^(qū)域”中輸入“B1:C11”；選擇“標(biāo)志”，置信度默認；在“輸出選項”中選擇“輸出區(qū)域”，在其右邊輸入“A12”，單擊“確定”按鈕輸出結(jié)果，如圖8-16所示。圖8-15“多元回歸分析”工作表圖8-16二元線性回歸分析計算結(jié)果返回本節(jié)

非線性回歸分析以最小平方法分析非線性關(guān)系資料在數(shù)量變化上的規(guī)律叫做非線性回歸分析。從非線性回歸的角度看，線性回歸僅是其中的一個特例。一個恰當(dāng)?shù)姆蔷€性回歸方程的確定不是很容易的，一般要經(jīng)過變量轉(zhuǎn)換，將非線