第三講用SAS作回歸分析

1、1回歸分析中SAS的使用21、回歸分析計算PROC REG DATA=數(shù)據(jù)集名; MODEL 應(yīng)變量=自變量;RUN;PROC REG DATA=數(shù)據(jù)集名; MODEL 應(yīng)變量=自變量名列/ p cli clm RUN;32、回歸線作圖PROC REG DATA=數(shù)據(jù)集名; MODEL 應(yīng)變量=自變量/p cli clm r; PLOT y變量*x變量/選項;RUN;利用plot語句可以繪制與擬合數(shù)據(jù)有關(guān)散點(diǎn)圖、回歸線和置信曲線、預(yù)測區(qū)間曲線4回歸線作圖PROC REG DATA=數(shù)據(jù)集名; MODEL 應(yīng)變量=自變量/p cli clm r; PLOT y變量*x變量/選項;RUN;y變量和

2、x變量可以是應(yīng)變量、自變量和其它與回歸分析有關(guān)的變量：p.(predicted) 預(yù)測值r. (residual) 余差U95., L95. 預(yù)測值置信限U95M.,L95M.預(yù)測均值置信限選項：conf 95作預(yù)測均值置信曲線pred95作預(yù)測值置信曲線overlay將語句中規(guī)定的圖迭置在一幅圖上AIC CP MSE SSE在圖上顯示相應(yīng)的統(tǒng)計量53、逐步回歸分析計算-變量選擇PROC REG DATA=數(shù)據(jù)集名; MODEL 應(yīng)變量=自變量名列/p cli clm r selection=stepwise slentry=0.05 slstay=0.05 details;RUN;64、回歸

3、診斷例外值(outliers)或異常作用點(diǎn)的檢查從已擬合回歸的數(shù)據(jù)中分析線性模型的假定是否被破壞：應(yīng)變量的均值是否是獨(dú)立變量的線性函數(shù)，是否需要對變量進(jìn)行變換或擬合曲線回歸余差(residuals)是否同方差，不相關(guān)，正態(tài)分布獨(dú)立變量間是否存在線性關(guān)系(僅多元有)考察余差散點(diǎn)圖是進(jìn)行回歸診斷的必要步驟7回歸診斷8回歸診斷回歸分析的余差值是回歸診斷的重要工具rYYiii = - 個預(yù)測值為第其中 :余差的定義為iYYYriiii 利用余差可以考察余差和預(yù)測值的散點(diǎn)圖也可以檢驗余差分布的正態(tài)性9回歸診斷3.4.1.2.模型合適模型合適應(yīng)改曲線模應(yīng)改曲線模型型不等方差不等方差觀測值不獨(dú)立觀測值不獨(dú)立

4、10回歸診斷生成余差在PROC REG的model語句加上選項 p，就會輸出預(yù)測值和相應(yīng)的余差PROC REG DATA=數(shù)據(jù)集名; MODEL 應(yīng)變量=自變量/p; PLOT y變量*x變量/選項;RUN;利用plot語句 plot r.*p. ; 就可得到余差-預(yù)測散點(diǎn)圖11回歸診斷識別異常觀測值在PROC REG的model語句加上選項 r，就會輸出與預(yù)測值和余差有關(guān)的一些統(tǒng)計量。他們可用于識別異常數(shù)據(jù)(outlier)及其影響PROC REG DATA=數(shù)據(jù)集名 ; MODEL 應(yīng)變量=自變量/r;RUN;Predict Value 預(yù)測值Std Err Predict 預(yù)測值標(biāo)準(zhǔn)差R

5、esidual 余差Std Err Predict 余差標(biāo)準(zhǔn)差Student Residual student化的余差-2 -1 0 1 2 余差顯著性圖Cooks D Cooks D統(tǒng)計量12回歸診斷余差分布正態(tài)性有了余差的數(shù)據(jù)，就可對其運(yùn)用圖形方法或正式的分布正態(tài)性的檢驗在INSIGHT中可直接對數(shù)據(jù)表中的預(yù)測余差變量進(jìn)行分析在PROC REG可利用下列語句用圖形分析余差分布正態(tài)性PROC REG DATA=數(shù)據(jù)集名 graphics ; MODEL 應(yīng)變量=自變量; PLOT nqq.*student.(nqq.*r.);RUN;13回歸診斷識別有影響的觀測Cook D統(tǒng)計量度量一個觀測

6、從分析中剔除時參數(shù)估計值的變化對一個觀測值其 Cook D 統(tǒng)計量的值超過 4/n 時(n為樣本容量)，這個觀測存在反常效應(yīng)14回歸診斷識別有影響的觀測Dffitsi 度量第i 個觀測對預(yù)測值的影響iY第i個觀測的預(yù)測值 )(iY用排除第i個觀測的回歸對第i個觀測的預(yù)測值 )(iYS第i個觀測的預(yù)測值的標(biāo)準(zhǔn)差 )(Dffits)(iiiiYsYY npi/2? |Dffits|p 為模型中參數(shù)的個數(shù)， n 為樣本容量15回歸診斷識別有影響的觀測Proc REG 的 Model語句加選項 r 可獲得 Cook D 統(tǒng)計量Proc REG 的 Model語句加選項 influence 可獲得 Df

7、fits 等反映觀測值影響的統(tǒng)計量PROC REG DATA=數(shù)據(jù)集名 ; MODEL 應(yīng)變量=自變量/r influence;RUN;16選項 influence 生成的統(tǒng)計量 17五、影響點(diǎn)診斷proc reg data=e4;model y1=x1-x4/influence r;run;其中選項influence 同上一頁。R主要給出Cook-distance.前面已有。18六、共線性診斷共線性(collinearity, multicollinearity)問題是指獨(dú)立變量間存在線性關(guān)系變量間的線性關(guān)系會隱蔽變量的顯著性也會增加參數(shù)估計的方差產(chǎn)生不穩(wěn)定的模型只有擬合多元回歸才會發(fā)生這一

8、問題共線性的診斷可使用方差膨脹因子、條件指數(shù)和方差比例19回歸診斷共線性診斷-VIF方差膨脹因子(VIF)是對由于共線性而引起的參數(shù)估計量的方差增加的一個相對度量r2rTOL111VIFrR獨(dú)立時系數(shù)方差系數(shù)方差Rr2 是Xr關(guān)于模型中其它獨(dú)立變量回歸的R2一般采用 VIF 10 表明存在共線性問題Proc REG 的Model語句加選項 VIF20回歸診斷共線性診斷-條件指數(shù)和方差比例條件指數(shù)(condition index)和方差比例(variance proportion)聯(lián)合使用可確認(rèn)存在線性關(guān)系的變量組條件指數(shù)(hi=(lmax/li)1/2)在10-30間為弱相關(guān)在30-100間為中度相關(guān)大于100表明有強(qiáng)相關(guān)大的條件指數(shù)伴隨方差比例 0.5 可確認(rèn)有共線性的獨(dú)立變量子集Proc REG: Model語句加選項collin 或 collinoint