多元線性回歸

多元線性回歸

(multiplelinearregressionmodel)

———14應(yīng)化謝雅14540629一、概念

它研究一組自變量如何影響一個因變量。

涉及p個自變量的多元回歸模型可表示為：

b0

，b1，b2

，，bp是參數(shù)，也稱偏回歸系數(shù)(partialregressioncoefficient)

是被稱為誤差項的隨機變量，也稱殘差

y是x1,，x2

，，xp

的線性函數(shù)加上誤差項

包含在y里面但不能被p個自變量的線性關(guān)系所解釋的變異性多元線性回歸模型

二、基本假定：1.解釋變量x1，x2，…，xp是確定性變量．不是隨機變量。即Y與X1，X2，···，Xm之間具有線性關(guān)系。2.誤差項ε是一個期望值為0的隨機變量，即E()=0。3.對于自變量x1，x2，…，xp的所有值，的方差2都相同4.誤差項ε是一個服從正態(tài)分布的隨機變量，即ε~N(0,2)，且相互獨立多元線性回歸方程（最小二乘法）4三、最小二乘法估計回歸參數(shù)使因變量的觀察值與估計值之間的離差平方和達到最小來求得

。即

式中Q為誤差平方和，亦即誤差的方差。多元線性回歸分析的目標就是找出最佳β值使Q達到最小。通過回歸得到的最小Q值稱為剩余平方和或殘余方差。各變量的離均差L（1,2)=(X11X12+X21X22+````````X271X272)-(X11+```X271)(X12+X272)/27由上面的方程可以看出：總膽固醇、甘油三酯和糖化血紅蛋白的升高會引起血糖的升高，而胰島素的升高會引起血糖的下降。多元線性回歸模型的檢驗1.復(fù)相關(guān)系數(shù)的檢驗（檢驗方程）多重相關(guān)系數(shù)R相關(guān)系數(shù)越接近1，則模型非常準確。決定系數(shù)=1-S殘/LYY=S回/LYY(S殘=Q）

不可片面追求過大的決定系數(shù)，否則預(yù)測效果不佳。2.方差分析和F檢驗（檢驗自變量）SS為平方和，MS為均方差，n為實驗總序號，m為因素F<F臨界，則舍棄這個因素。偏回歸平方和越大，回歸貢獻越大。

3.殘差分析

（剔除可疑值）

例某種水泥在凝固時釋放的熱量與水泥中四種化學(xué)成分的含量有關(guān)

用MATLAB程序求解在程序中輸入X數(shù)據(jù)的13行4列矩陣

Y結(jié)果的1行1列矩陣

X=[ones(13,1)x]%生成含常數(shù)列的自變量矩陣

[B,BINT,R,RINT,STATS]=regress(y,X,0.05)

可得B的1行5列的矩陣B=57.511.60820.560080.1886-0.10151根據(jù)B數(shù)組可以確定模型

X=57.51+1.6082X1+0.56008X2+0.1886X3-0.10151X4STATUS=0.9786491.6390.00007.2777STATUS數(shù)組的值對應(yīng)R2=0.97864F=91.639

本次實驗的數(shù)據(jù)個數(shù)n=13自變量因素m=4置信度為95%n-m-1=8

在MATLAB下輸入finv(0.95,4,8)求得統(tǒng)計參數(shù)F的臨界值F4,8（0.05）=3.84F計算值>F臨界值說明回歸方程可以通過統(tǒng)計學(xué)檢