衛(wèi)生統(tǒng)計(jì)學(xué)課件-第13章-多元分析(04醫(yī)七)

1、2002級(jí)研究生醫(yī)學(xué)統(tǒng)計(jì)學(xué)Multiple linear regression.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月Root MSE 反映了回歸方程的精度，其值越小說(shuō)明回歸效果越好 0095. 20382. 41) 1/()(2.12,殘殘）（MSmnSSmnYYSmY.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月determination coeffici

2、ent說(shuō)明所有自變量能解釋Y變化的百分比。取值（0，1），越接近1模型擬合越好 6008. 05519.2228412.8815519.2227107.13312總殘總回SSSSSSSSR.s含義含義：被解釋變量所解釋的部分占總體離差：被解釋變量所解釋的部分占總體離差的大小。越大越好，但是不會(huì)超過(guò)的大小。越大越好，但是不會(huì)超過(guò)1。s缺點(diǎn)缺點(diǎn)：如果在模型中增加一個(gè)解釋變量，模：如果在模型中增加一個(gè)解釋變量，模型的解釋功能增強(qiáng)了，型的解釋功能增強(qiáng)了， 就增大了。這就給人就增大了。這就給人一個(gè)錯(cuò)覺(jué)：要使得模型擬合得好，就必須增一個(gè)錯(cuò)覺(jué)：要使得模型擬合得好，就必須增加解釋變量。加解釋變量。2R.第四軍

3、醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 說(shuō)明所有自變量與Y間的線性相關(guān)程度。 如果只有一個(gè)自變量，此時(shí) 7751. 06008. 02RRY|r|R .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 5282. 026/5519.22222/8412.8811) 1/()1/(1) 1(1)1 (122總殘總殘MSMSnSSpnSSpnnRRcY響考慮了自變量個(gè)數(shù)的影,22RRc.校正的決定系數(shù)校正的決定系數(shù)5282. 01)1 (222knRkRRc.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 Parameter

4、Standard Standardized Variable DF Estimate Error t Value Pr |t| Estimate 變量變量 自由度自由度 回歸系數(shù)回歸系數(shù) 標(biāo)準(zhǔn)誤標(biāo)準(zhǔn)誤 t t值值 P P值值 標(biāo)準(zhǔn)化回歸系數(shù)標(biāo)準(zhǔn)化回歸系數(shù) Intercept 22 5.94327 2.82859 2.10 0.0473 0 X1 22 0.14245 0.36565 0.39 0.7006 0.07758 X2 22 0.35147 0.20420 1.72 0.0993 0.30931 X3 22 -0.27059 0.12139 -2.23 0.0363 -0.33948

5、X4 22 0.63820 0.24326 2.62 0.0155 0.397741mnSbtjbjj.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月YjjYYjjjYYjjjjSSbnlnlbllbb) 1/() 1/( 變量變量回歸系數(shù)回歸系數(shù)b bj j標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化回歸系數(shù)回歸系數(shù)bbj j 標(biāo)準(zhǔn)差標(biāo)準(zhǔn)差S SX1X10.142450.14245 0.07758 0.077581.5934 1.5934 X2X20.351470.35147 0.30931 0.309312.5748 2.5748 X3X3-0.27059-0.27059-0.33948-0.339483.6706

6、 3.6706 X4X40.63820.6382 0.39774 0.397741.8234 1.8234 Y Y2.9257 2.9257 .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月1; 1;) 1(21)(mnmnSSSSSSFjj殘回回 是在其它自變量存在于回歸方程中的是在其它自變量存在于回歸方程中的下，考察某一自變量下，考察某一自變量Xj對(duì)應(yīng)變量對(duì)應(yīng)變量Y的回歸效應(yīng)的回歸效應(yīng) 0:0:10jjHH；j=1,2,m .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月1. 變量多增加了模型的復(fù)雜度變量多增加了模型的復(fù)雜

7、度2. 計(jì)算量增大計(jì)算量增大3. 估計(jì)和預(yù)測(cè)的精度下降估計(jì)和預(yù)測(cè)的精度下降4. 模型應(yīng)用費(fèi)用增加模型應(yīng)用費(fèi)用增加.s1.殘差平方和縮小與決定系數(shù)增大s2.殘差均方縮小與調(diào)整決定系數(shù)增大s3. Cp統(tǒng)計(jì)量)2()()(qnMSSSCmpp殘殘的模型為最佳接近1)q( pC總殘差總回歸SSSSSSSSR12總殘MSMSRc12.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月二二 自變量篩選的常用方法自變量篩選的常用方法根據(jù)一些準(zhǔn)則（根據(jù)一些準(zhǔn)則（criterion）建）建立立 “最優(yōu)最優(yōu)”回歸模型回歸模型校正決定系數(shù)（考慮了自變量的個(gè)數(shù)）Cp準(zhǔn)則（C即criterion，p為所選模型中變量的

8、個(gè)數(shù)；）AIC(Akaikes Information Criterion)準(zhǔn)則； .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 5282. 026/5519.22222/8412.8811) 1/()1/(1) 1(1)1 (122總殘總殘MSMSnSSpnSSpnnRRcY響考慮了自變量個(gè)數(shù)的影,22RRc.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月Cp準(zhǔn)則的計(jì)算公式準(zhǔn)則的計(jì)算公式的模型為最佳接近提出年殘殘殘殘1)p()2()()(1()2()()(MallowsCL1964pmpmppCpnMSMSpnpnMSSSC.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12

9、月準(zhǔn)則的計(jì)算公式準(zhǔn)則的計(jì)算公式越小越好最小二乘法年由日本學(xué)者赤池提出AICpSnpnnAICpy)(2/ )ln(1973212.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 如果自變量個(gè)數(shù)為4，則所有的回歸有241 15個(gè)；當(dāng)自變量數(shù)個(gè)數(shù)為10時(shí)，所有可能的回歸為 2101 1023個(gè)；。；當(dāng)自變量數(shù)個(gè)數(shù)為50時(shí)，所有可能的回歸為25011015個(gè)。.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 1. 前進(jìn)法（forward selection）2. 后退法（backward elimination）3. 逐步回歸法（stepwise regression）。 它們的共同特點(diǎn)

10、是每一步只引入或剔除一個(gè)自變量。決定其取舍則基于對(duì)偏回歸平方和的F檢驗(yàn)1; 1;) 1(21)(pnpnSSSSSSFjj殘回回.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 自變量從無(wú)到有、從少到多自變量從無(wú)到有、從少到多 Y Y對(duì)每一個(gè)自變量作直線回歸，對(duì)回歸平方和最對(duì)每一個(gè)自變量作直線回歸，對(duì)回歸平方和最大的自變量作大的自變量作F F 檢驗(yàn)，有意義（檢驗(yàn)，有意義（P P?。﹦t引入。?。﹦t引入。在此基礎(chǔ)上，計(jì)算其它自變量的偏回歸平方和在此基礎(chǔ)上，計(jì)算其它自變量的偏回歸平方和，選取偏回歸平方和最大者作，選取偏回歸平方和最大者作F F 檢驗(yàn)，檢驗(yàn)，。 局限性：即后續(xù)變量的引入可能會(huì)使先

11、進(jìn)入方局限性：即后續(xù)變量的引入可能會(huì)使先進(jìn)入方程的自變量變得不重要。程的自變量變得不重要。.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 先將全部自變量放入方程，然后逐步剔除先將全部自變量放入方程，然后逐步剔除 偏回歸平方和最小的變量，作偏回歸平方和最小的變量，作F F 檢驗(yàn)及檢驗(yàn)及相應(yīng)的相應(yīng)的P P值，決定它是否剔除（值，決定它是否剔除（P P大）大） 。 建立新的回歸方程。重復(fù)上述過(guò)程。建立新的回歸方程。重復(fù)上述過(guò)程。 局限性：局限性：自變量高度相關(guān)時(shí)，可能得不出正自變量高度相關(guān)時(shí)，可能得不出正確的結(jié)果確的結(jié)果 。.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 雙向篩選 ；

12、引入有意義的變量（前進(jìn)法），剔除無(wú)意義變量（后退法） 小樣本檢驗(yàn)水準(zhǔn)a定為0.10或0.15，大樣本把值定為0.05。值越小表示選取自變量的標(biāo)準(zhǔn)越嚴(yán)。 注意，引入變量的檢驗(yàn)水準(zhǔn)要小于或等于剔除變量的檢驗(yàn)水準(zhǔn)。.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 變異來(lái)源變異來(lái)源 自由自由度度SSMSFP總變異總變異26 222.5519回回 歸歸3133.098 44.366 11.41 0.0001殘殘 差差2389.4543.889.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 .第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002

13、年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月影響因素分析，控制混雜因素預(yù)測(cè)：由自變量值推出應(yīng)變量Y的值控制：指定應(yīng)變量Y的值查看自變量的改變量.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月（1）自變量為連續(xù)型變量 ：必要時(shí)作變換（2）自變量為有序變量：依次賦值，如療效好中差，可分別賦值3、2、1（3）自變量為二分類：如令男1，女0.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 假如職業(yè)分類為工、農(nóng)、商、學(xué)、兵5類，則可定義比分類數(shù)少1個(gè)，即4個(gè)啞變量。編

14、碼方法如下：.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 觀察個(gè)體數(shù)n與變量個(gè)數(shù)m的比例一般至少應(yīng)為：n : m510.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月不同準(zhǔn)則、方法得出的“最優(yōu)”方程不同；不同的引入、剔除標(biāo)準(zhǔn)獲得的“最優(yōu)”方程不同；方程還受數(shù)據(jù)的正確性、共線性影響.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 自變量間存在著線性關(guān)系，使一個(gè)或幾個(gè)自變量可以由另外的自變量線性表示時(shí)，稱為該變量與另外的自變量間存在有共線性(collinearity)?；貧w系數(shù)的符號(hào)與由專業(yè)知識(shí)不符變量的重要性與專業(yè)不符.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 整個(gè)方程決定系數(shù)R2高，但各自變量對(duì)應(yīng)的回歸系數(shù)均不顯著。解決共線性的主要方法：篩選自變量用主成分回歸嶺回歸。.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)教研室 宇傳華2002年12月 當(dāng)某一自變量對(duì)應(yīng)變量的作用大小與另一個(gè)自變量的取值有關(guān)時(shí)，則表示兩個(gè)變量有交互作用（interaction）。 檢驗(yàn)兩變量間有無(wú)交互作用，普遍的做法是在方程中加入它們的乘積項(xiàng)再做檢驗(yàn)。如考察X1、X2間的交互作用，可在模型中加入X1X2項(xiàng)。.第四軍醫(yī)大學(xué)衛(wèi)生統(tǒng)計(jì)學(xué)