chapter10-多元線性回歸與曲線擬合

1、SPSS 10.0高級教程十二：多元線性回歸與曲線擬合回歸分析是處理兩個及兩個以上變量間線性依存關(guān)系的統(tǒng)計方法。在醫(yī)學領(lǐng)域中，此類問題很普遍，如人頭發(fā)中某種金屬元素的含量與血液中該元素的含量有關(guān)系，人的體表面積與身高、體重有關(guān)系；等等?；貧w分析就是用于說明這種依存變化的數(shù)學關(guān)系。§10.1Linear過程 簡單操作入門調(diào)用此過程可完成二元或多元的線性回歸分析。在多元線性回歸分析中，用戶還可根據(jù)需要，選用不同篩選自變量的方法（如：逐步法、向前法、向后法，等）。例10.1：請分析在數(shù)據(jù)集Fat surfactant.sav中變量fat對變量spovl的大小有無影響？顯然，在這里

2、spovl是連續(xù)性變量，而fat是分類變量，我們可用用單因素方差分析來解決這個問題。但此處我們要采用和方差分析等價的分析方法-回歸分析來解決它。回歸分析和方差分析都可以被歸入廣義線性模型中，因此他們在模型的定義、計算方法等許多方面都非常近似，下面大家很快就會看到。這里spovl是模型中的因變量，根據(jù)回歸模型的要求，它必須是正態(tài)分布的變量才可以，我們可以用直方圖來大致看一下，可以看到基本服從正態(tài)，因此不再檢驗其正態(tài)性，繼續(xù)往下做。.1 界面詳解在菜單中選擇Regression=>liner，系統(tǒng)彈出線性回歸對話框如下：除了大家熟悉的內(nèi)容以外，里面還出現(xiàn)了一些特色菜，讓我們來一一品嘗?！綝e

3、pendent框】用于選入回歸分析的應變量?！綛lock按鈕組】由Previous和Next兩個按鈕組成，用于將下面Independent框中選入的自變量分組。由于多元回歸分析中自變量的選入方式有前進、后退、逐步等方法，如果對不同的自變量選入的方法不同，則用該按鈕組將自變量分組選入即可。下面的例子會講解其用法。【Independent框】用于選入回歸分析的自變量。【Method下拉列表】用于選擇對自變量的選入方法，有Enter（強行進入法）、Stepwise（逐步法）、Remove（強制剔除法）、Backward（向后法）、Forward（向前法）五種。該選項對當前Independent框中的

4、所有變量均有效?！維election Variable框】選入一個篩選變量，并利用右側(cè)的Rules鈕建立一個選擇條件，這樣，只有滿足該條件的記錄才會進入回歸分析?！綜ase Labels框】選擇一個變量，他的取值將作為每條記錄的標簽。最典型的情況是使用記錄ID號的變量?！網(wǎng)LS>>鈕】可利用該按鈕進行權(quán)重最小二乘法的回歸分析。單擊該按鈕會擴展當前對話框，出現(xiàn)WLS Weight框，在該框內(nèi)選入權(quán)重變量即可。【Statistics鈕】彈出Statistics對話框，用于選擇所需要的描述統(tǒng)計量。有如下選項： o Regression Coefficients復選框組：定義回歸系數(shù)的輸出

5、情況，選中Estimates可輸出回歸系數(shù)B及其標準誤，t值和p值，還有標準化的回歸系數(shù)beta；選中Confidence intervals則輸出每個回歸系數(shù)的95%可信區(qū)間；選中covariance matrix則會輸出各個自變量的相關(guān)矩陣和方差、協(xié)方差矩陣。以上選項默認只選中Estimates。 o Residuals復選框組：用于選擇輸出殘差診斷的信息，可選的有Durbin-Watson殘差序列相關(guān)性檢驗、超出規(guī)定的n倍標準誤的殘差列表。 o Model fit復選框：模型擬合過程中進入、退出的變量的列表，以及一些有關(guān)擬合優(yōu)度的檢驗：，R，R2和調(diào)整的R2, 標準誤及方差分析表。 o

6、R squared change復選框：顯示模型擬合過程中R2、F值和p值的改變情況。 o Descriptives復選框：提供一些變量描述，如有效例數(shù)、均數(shù)、標準差等，同時還給出一個自變量間的相關(guān)矩陣。 o Part and partial correlations復選框：顯示自變量間的相關(guān)、部分相關(guān)和偏相關(guān)系數(shù)。 o Collinearity diagnostics復選框：給出一些用于共線性診斷的統(tǒng)計量，如特征根（Eigenvalues）、方差膨脹因子(VIF)等。以上各項在默認情況下只有Estimates和Model fit復選框被選中?！綪lot鈕】彈出Plot對話框，用于選擇需要繪制

7、的回歸分析診斷或預測圖?？衫L制的有標準化殘差的直方圖和正態(tài)分布圖，應變量、預測值和各自變量殘差間兩兩的散點圖等?！維ave鈕】許多時候我們需要將回歸分析的結(jié)果存儲起來，然后用得到的殘差、預測值等做進一步的分析，Save鈕就是用來存儲中間結(jié)果的。可以存儲的有：預測值系列、殘差系列、距離（Distances）系列、預測值可信區(qū)間系列、波動統(tǒng)計量系列。下方的按鈕可以讓我們選擇將這些新變量存儲到一個新的SPSS數(shù)據(jù)文件或XML中?！綩ptions鈕】設置回歸分析的一些選項，有： o Stepping Method Criteria單選鈕組：設置納入和排除標準，可按P值或F值來設置。o Include

8、constant in equation復選框：用于決定是否在模型中包括常數(shù)項，默認選中。o Missing Values單選鈕組：用于選擇對缺失值的處理方式，可以是不分析任一選入的變量有缺失值的記錄（Exclude cases listwise）而無論該缺失變量最終是否進入模型；不分析具體進入某變量時有缺失值的記錄（Exclude cases pairwise）；將缺失值用該變量的均數(shù)代替（Replace with mean）。.2 輸出結(jié)果解釋根據(jù)題目的要求，我們只需要在Dependent框中選入spovl，Independent框中選入fat即可，其他的選項一律不管。單擊OK后，系統(tǒng)很快

9、給出如下結(jié)果：Regression這里的表格是擬合過程中變量進入/退出模型的情況記錄，由于我們只引入了一個自變量，所以只出現(xiàn)了一個模型1（在多元回歸中就會依次出現(xiàn)多個回歸模型），該模型中fat為進入的變量，沒有移出的變量，具體的進入/退出方法為enter。上表為所擬合模型的情況簡報，顯示在模型1中相關(guān)系數(shù)R為0.578，而決定系數(shù)R2為0.334，校正的決定系數(shù)為0.307。這是所用模型的檢驗結(jié)果，可以看到這就是一個標準的方差分析表！有興趣的讀者可以自己用方差分析模型做一下，就會發(fā)現(xiàn)出了最左側(cè)的一列名字不太一樣外，其他的各個參數(shù)值都是相同的。從上表可見所用的回歸模型F值為12.059，P值為0

10、.002，因此我們用的這個回歸模型是有統(tǒng)計學意義的，可以繼續(xù)看下面系數(shù)分別檢驗的結(jié)果。由于這里我們所用的回歸模型只有一個自變量，因此模型的檢驗就等價與系數(shù)的檢驗，在多元回歸中這兩者是不同的。上表給出了包括常數(shù)項在內(nèi)的所有系數(shù)的檢驗結(jié)果，用的是t檢驗，同時還會給出標化/未標化系數(shù)?？梢姵?shù)項和fat都是有統(tǒng)計學意義的，上表的內(nèi)容如果翻譯成中文則如下所示：未標準化系數(shù)標準化系數(shù)模型系數(shù)b系數(shù)標準誤系數(shù)t值P值1常數(shù)fat 復雜實例操作.1 分析實例例10.2：請分析在數(shù)據(jù)集plastic.sav中變量extrusn、additive、gloss和opacity對變量tear_res的大小有無影響？

11、已知extrusn對tear_res的大小有影響。顯然，這里是一個多元回歸，由于除了extrusn確有影響以外，我們不知道另三個變量有無影響，因此這里我們將extrusn放在第一個block，進入方法為enter（我們有把握extrusn一定有統(tǒng)計學意義）；另三個變量放在第二個block，進入方法為stepwise（讓軟件自動選擇判斷），操作如下：1. Analyze=>Regression=>Liner2. Dependent框：選入tear_res3. Independent框：選入extrusn；單擊next鈕4. Independent框：選入additive、gloss和

12、opacity；Method列表框：選擇stepwise5. 單擊OK鈕.2 結(jié)果解釋最終的結(jié)果如下：Regression上面的表格依次列出了模型的篩選過程，模型1用進入法引入了extrusn，然后模型2用stepwise法引入了additive，另兩個變量因沒有達到進入標準，最終沒有進入。上面的表格翻譯出來如下：模型進入的變量移出的變量變量篩選方法1extrusn進入法2additivestepwise法（標準：進入概率小于0.05，移出概率大于0.1）上表是兩個模型變異系數(shù)的改變情況，從調(diào)整的R2可見，從上到下隨著新變量的引入，模型可解釋的變異占總變異的比例越來越大。上表是所用兩個模型的檢

13、驗結(jié)果，用的方法是方差分析，可見二個模型都有統(tǒng)計學意義。上表仍然為三個模型中各個系數(shù)的檢驗結(jié)果，用的是t檢驗，可見在模型2中所有的系數(shù)都有統(tǒng)計學意義，上表的內(nèi)容翻譯如下：  未標化的系數(shù)標化的系數(shù)  模型 B標準誤Betat值P值1(常數(shù)).265 .000 extrusion.590.167.639.0002(常數(shù)).314 .000 extrusion.590.144.639.000 additive.390.144.422.000這是新出現(xiàn)的一個表格，反映的是沒有進入模型的各個變量的檢驗結(jié)

14、果，可見在模型1中，未引入模型的候選變量additive還有統(tǒng)計學意義，可能需要引入，而模型2中沒有引入的兩個變量其P值均大于0.05，無需再進行分析了。10.2 Curve Estimation過程Curve Estimation過程可以用與擬合各種各樣的曲線，原則上只要兩個變量間存在某種可以被它所描述的數(shù)量關(guān)系，就可以用該過程來分析。但這里我們要指出，由于曲線擬合非常的復雜，而該模塊的功能十分有限，因此最好采用將曲線相關(guān)關(guān)系通過變量變換的方式轉(zhuǎn)化為直線回歸的形式來分析，或者采用其他專用的模塊分析。 界面詳解Curve Estimation過程中有特色的對話框界面內(nèi)容如下：下面我們分別解釋一

15、下它們的具體功能?！綝ependent框】用于選入曲線擬和中的應變量，可選入多個，如果這樣，則對各個應變量分別擬合模型?！綢ndependent單選框組】用于選入曲線擬和中的自變量，有兩種選擇，可以選入普通的自變量，也可以選擇時間作為自變量，如果這樣做，則所用的數(shù)據(jù)應為時間序列數(shù)據(jù)格式?！綧odels復選框組】是該對話框的重點，用于選擇所用的曲線模型，可用的有：· Linear：擬合直線方程，實際上與Linear過程的二元直線回歸相同；· Quadratic：擬合二次方程Y = b0+b1X+b2X2；· Compound：擬合復合曲線模型Y = b0×

16、b1X；· Growth：擬合等比級數(shù)曲線模型Y = e(b0+b1X)；· Logarithmic：擬合對數(shù)方程Y = b0+b1lnX；· Cubic：擬合三次方程Y = b0+b1X+b2X2+b3X3；· S：擬合S形曲線Y = e(b0+b1/X)；· Exponential：擬合指數(shù)方程Y = b0 eb1X；· Inverse：數(shù)據(jù)按Y = b0+b1/X進行變換；· Power：擬合乘冪曲線模型Y = b0X b1；· Logistic：擬合Logistic曲線模型Y = 1/（1/u + b0&#

17、215;b1X），如選擇該線型則要求輸入上界。上面的幾種線型和其他的模塊有重復，如Logistic、Liner等，由于本模塊的功能有限，在重復的情況下建議用其它專用模塊來分析?！綢nclude constant in equation復選框】確定是否在方程中包含常數(shù)項?！綪lot models復選框】要求對模型做圖，包括原始數(shù)值的連線圖和擬合模型的曲線圖。【save鈕】彈出SAVE對話框，用于定義想要存儲的中間結(jié)果，如預測值、預測值可信區(qū)間、殘差等。【Display ANOVA table復選框】要求顯示模型檢驗的方差分析表。 實例操作例10.3：錫克試驗陰性率（%）隨著年齡的增長而增高，某地

18、查得兒童年齡（歲）X與錫克試驗陰性率Y的資料如下，試擬合曲線。年齡（歲）1234567錫克試驗陰性率（%）首先對年齡和陰性率作散點圖，發(fā)現(xiàn)兩者有斜率逐漸放緩的曲線趨勢，因此選擇二次曲線模型、三次曲線模型和對數(shù)曲線模型，最終取其中結(jié)果最優(yōu)者，做法如下：1. Analyze=>Regression=>Curve estimation2. Dependant框：選入陰性率3. Independant框：選入年齡4. Models復選框組：選擇Quadratic、Curbe、Logarithmatic，取消對Liner的選擇。5. 單擊OK結(jié)果如下：Curve FitMODEL:MOD_11.Independent:年齡DependentMthRsqd.f.FSigfb0b1b2b3陰性率LOG.9135.001陰性率QUA.9704.001陰性率CUB.9943.001.3806上表給出了所擬合的三個模型的檢驗報告，包括擬合優(yōu)度、模型的檢驗結(jié)果和各個系數(shù)值，從檢驗結(jié)果看，三個模型均有統(tǒng)計學意義，但從擬合優(yōu)度看，三次方曲線的擬合優(yōu)度最高，似乎應選擇三次方曲線，但注意三次方曲線多一個參數(shù)，要復雜一些，而它的擬合優(yōu)度和二次方曲線相差不大，因此僅從這里的結(jié)果還不好對它們兩者作