第12章多重線性回歸分析

16:591作業(yè)P263

對題目3，完成下列問題

（1）根據(jù)表1寫出線性回歸方程，并找出對Y影響最大的自變量。（2）完成表216:59216:593例12-1某學(xué)校20名一年級女大學(xué)生體重（kg）、胸圍（cm）、肩寬（cm）及肺活量（L）實(shí)測值如表12-1所示，試對影響女大學(xué)生肺活量的有關(guān)因素進(jìn)行回歸分析。16:59416:59516:596根據(jù)研究的目的和收集到的數(shù)據(jù)，擬回答如下問題：體重、胸圍、肩寬這三個(gè)因素是否都對女生的肺活量有影響？如何定量地描述這些因素對女生肺活量的影響？哪個(gè)因素對女生肺活量的影響最大？哪個(gè)因素的影響最?。咳绻眠@些影響因素去預(yù)測女生肺活量，如何預(yù)測？效果如何？16:597第十二章多重線性回歸與相關(guān)16:598第十二章多重線性回歸與相關(guān)第一節(jié)多重線性回歸的概念及其統(tǒng)計(jì)描述第二節(jié)多重線性回歸的假設(shè)檢驗(yàn)第三節(jié)復(fù)相關(guān)系數(shù)與偏相關(guān)系數(shù)第四節(jié)自變量篩選第五節(jié)中英文結(jié)果報(bào)告第六節(jié)案例討論16:599目的要求掌握復(fù)相關(guān)系數(shù)、偏相關(guān)系數(shù)和確定系數(shù)的概念。熟悉多重線性回歸的概念、自變量的篩選原則和方法。了解多重線性回歸的假設(shè)檢驗(yàn)。了解統(tǒng)計(jì)內(nèi)容的報(bào)告與中英文表達(dá)。16:5910重點(diǎn)復(fù)相關(guān)系數(shù)、偏相關(guān)系數(shù)和確定系數(shù)的概念。多重線性回歸的概念、自變量的篩選原則和方法。16:5911難點(diǎn)自變量的篩選原則和方法。16:5912第一節(jié)多重線性回歸的概念及其統(tǒng)計(jì)描述一、基本概念二、多重線性回歸模型三、回歸系數(shù)的估計(jì)16:5913一、基本概念多重線性回歸(multiplelinearregression)：一種重要的、經(jīng)典的多因素分析方法，是簡單線性回歸方法的拓展;采用回歸方程的方式定量地描述一個(gè)因變量Y和多個(gè)自變量之間的線性依存關(guān)系;當(dāng)模型中包括多個(gè)因變量時(shí)，稱為多元線性回歸(multivariatelinearregression)或多元線性模型(multivariatelinearmodel)。16:5914自變量篩選與最優(yōu)模型:交互作用:如果某個(gè)自變量與因變量的線性關(guān)系隨著另外一個(gè)自變量的取值的改變而改變，我們就說這兩個(gè)自變量之間存在交互作用或交互效應(yīng);交互效應(yīng)又稱為效應(yīng)修正(effectmodification)。16:5915

β0：常數(shù)項(xiàng)（Constant）或截距βj：自變量Xj

的偏回歸系數(shù)（partialregressioncoefficient），表示當(dāng)方程中其他自變量保持常量時(shí)，自變量Xj變化一個(gè)計(jì)量單位,反應(yīng)變量Y的平均值變化的單位數(shù)。二、多重線性回歸模型16:5916標(biāo)準(zhǔn)化偏回歸系數(shù)（standardizedpartialregressioncoefficient）。標(biāo)準(zhǔn)化偏回歸系數(shù)b’j絕對值較大的自變量在數(shù)值上對反應(yīng)變量Y的影響較大。16:5917三、回歸系數(shù)的估計(jì)方法：最小二乘法

(leastsquaremethod)。前提條件：LINE。16:5918SPSS結(jié)果殘差分析—?dú)埐顖D16:5920第二節(jié)多重線性回歸的假設(shè)檢驗(yàn)從總體看來，這個(gè)回歸方程是否有意義？各個(gè)偏回歸系數(shù)所對應(yīng)的總體偏回歸系數(shù)是否等于0？16:5921回歸方程的假設(shè)檢驗(yàn)——從總體看來，這個(gè)回歸方程是否有意義？應(yīng)用方差分析一、整體回歸效應(yīng)的假設(shè)檢驗(yàn)16:592216:5923建立假設(shè)16:5924P<0.0001，按照0.05的檢驗(yàn)水準(zhǔn)，可以拒絕H0，認(rèn)為所建立的回歸方程是有意義的。16:5925回歸系數(shù)的假設(shè)檢驗(yàn)——四個(gè)自變量是否都對反應(yīng)變量有影響？檢驗(yàn)的假設(shè)為

H0:βj=0

H1:βj

≠0α=0.05二、偏回歸系數(shù)的t檢驗(yàn)16:5926檢驗(yàn)統(tǒng)計(jì)量為

Sbj為第j個(gè)偏回歸系數(shù)的標(biāo)準(zhǔn)誤16:592716:5928第三節(jié)復(fù)相關(guān)系數(shù)與偏相關(guān)系數(shù)一、決定系數(shù)、復(fù)相關(guān)系數(shù)與調(diào)整決定系數(shù)二、偏相關(guān)系數(shù)16:5929決定系數(shù)一、決定系數(shù)、復(fù)相關(guān)系數(shù)與調(diào)整決定系數(shù)16:593016:5931對確定系數(shù)開平方根得到復(fù)相關(guān)系數(shù)（multiplecorrelationcoefficient）復(fù)相關(guān)系數(shù)16:5932它表示變量Y與p個(gè)自變量（X1,X2,…Xp）的線性相關(guān)的程度?？梢宰C明，復(fù)相關(guān)系數(shù)也等于Y與其回歸估計(jì)值的相關(guān)系數(shù)，即16:5933確定系數(shù)的缺點(diǎn)：隨自變量個(gè)數(shù)的增加而增加。調(diào)整的確定系數(shù)：為了在解釋變異的能力和自變量個(gè)數(shù)之間作出折衷，可采用16:5934本例16:5935對調(diào)整的確定系數(shù)開平方根就得到調(diào)整的復(fù)相關(guān)系數(shù)（adjustedmultiplecorrelationcoefficient），Ra

16:5936二、偏相關(guān)系數(shù)16:593716:5938二、偏相關(guān)系數(shù)16:5939二、偏相關(guān)系數(shù)16:5940二、偏相關(guān)系數(shù)一般地，扣除其他變量的影響后，變量Y與X的相關(guān)，稱為Y與X的偏相關(guān)系數(shù)（partialcorrelationcoefficient）。16:5942第四節(jié)自變量篩選為確?；貧w方程包含所有對反應(yīng)變量有較大貢獻(xiàn)的自變量，而把對反應(yīng)變量貢獻(xiàn)不大或可有可無的自變量排除在方程之外，這一統(tǒng)計(jì)過程稱為自變量的篩選。

16:5943一、自變量篩選的標(biāo)準(zhǔn)與原則1.殘差平方和（SSE）縮小即決定系數(shù)（R2）增大；

16:59442.殘差均方（MSE）縮小即調(diào)整確定系數(shù)（Ra2）增大16:5945

3.統(tǒng)計(jì)量:如果含

p個(gè)自變量的模型是合適的，則其殘差均方接近，接近

；相反，如果含

p

個(gè)自變量的模型是不合適的，殘差均方遠(yuǎn)大于，

遠(yuǎn)大于。16:5946二、自變量篩選的常用方法前向選擇（forwardselection）；后向選擇（backwardselection）；逐步選擇（stepwiseselection）；所有可能自變量子集選擇(allpossiblesubsetsselection)。16:5947判斷某一自變量可否引入當(dāng)前方程可進(jìn)行如下檢驗(yàn)

H0：p個(gè)自變量為好，

H1：p+1個(gè)自變量為好

α=0.05

檢驗(yàn)統(tǒng)計(jì)量為：16:5948前向選擇自變量由少到多一個(gè)一個(gè)引入回歸方程。規(guī)定一個(gè)界值Fin,對模型外每個(gè)變量計(jì)算反映其進(jìn)入模型后該變量對新模型貢獻(xiàn)量的F值，找出F最大，若F最大>Fin，則引入該變量，否則停止。16:5949后向選擇自變量由多到少一個(gè)一個(gè)剔出回歸方程。規(guī)定一個(gè)界值Fout,對模型內(nèi)每個(gè)變量計(jì)算反映其剔出模型后所致?lián)p失的F值，找出F最小，若F最小<Fout，則剔出該變量，否則停止。16:5950逐步選擇一邊引入，一邊提出。(1)同時(shí)規(guī)定界值Fin和Fout，且Fin<Fout，(2)對模型外每個(gè)變量計(jì)算反映其進(jìn)入模型后該變量對新模型貢獻(xiàn)量的F值，找出F最大，若F最大>Fin，則引入該變量。(3)對模型內(nèi)每個(gè)變量計(jì)算反映其剔出模型后所致?lián)p失的F值，找出F最小，若F最小<Fout，則剔出該變量。若（2）中F最大<Fin且（3）中F