實(shí)驗(yàn)七多元回歸模型

1、實(shí)驗(yàn)七 多元回歸模型（2學(xué)時(shí)）一、實(shí)驗(yàn)?zāi)康暮鸵?. 熟練掌握多元線性回歸模型的建立方法，掌握并能檢驗(yàn)所建立回歸方程的顯著性與方程系數(shù)的顯著性，能根據(jù)實(shí)際問(wèn)題作預(yù)測(cè)與控制；2.掌握平方和分解公式，會(huì)編程求總離差平方和TSS、回歸平方和RSS、殘差平方和ESS、復(fù)相關(guān)系數(shù)平方等統(tǒng)計(jì)量； 3.會(huì)根據(jù)實(shí)際問(wèn)題對(duì)建立多元非線性回歸模型，掌握多元線性回歸的regress命令格式二、實(shí)驗(yàn)內(nèi)容1.多元線性回歸模型（1）多元線性回歸模型多元線性回歸模型待定常數(shù)，回歸系數(shù)，.矩陣表示對(duì)進(jìn)行次獨(dú)立觀測(cè)，得組數(shù)據(jù) 則有 ，其中 相互獨(dú)立，且采用矩陣記號(hào) -觀測(cè)向量- 設(shè)計(jì)矩陣-待估回歸參數(shù)向量 -隨機(jī)誤差向量 多元

2、線性回歸模型（2）參數(shù)估計(jì)及性質(zhì)-的最小二乘估計(jì)-隨機(jī)誤差項(xiàng)方差的無(wú)偏估計(jì)-回歸方程給出，可由的觀測(cè)值和經(jīng)驗(yàn)回歸方程求得的預(yù)測(cè)值%求回歸參數(shù)命令（3）復(fù)相關(guān)系數(shù)及相關(guān)性檢驗(yàn)總離差平方和分解 總離差殘差平方和（Total Sum of Squares） 殘差平方和（Error Sum of Squares） 回歸平方和（Regression Sum of squares）復(fù)相關(guān)系數(shù)平方，回歸愈越顯著%求復(fù)相關(guān)系數(shù)平方命令TSS=sum(y-mean(y).2) %計(jì)算總離差平方和，y是因變量Y數(shù)據(jù)RSS=sum(y1-mean(y).2) %計(jì)算回歸平方和ESS=sum(y-y1).2) %計(jì)算

3、殘差平方和R2=RSS/ESS; %計(jì)算樣本決定系數(shù)R2=RSS/TSS（4）回歸方程的顯著性檢驗(yàn)檢驗(yàn)假設(shè)： 統(tǒng)計(jì)量 給出顯著性水平，檢驗(yàn)值，當(dāng)拒絕，認(rèn)為與線性回歸顯著；否則線性關(guān)系不顯著%回歸方程顯著性檢驗(yàn)命令F=(n-p-1)*SSR/SSE %計(jì)算的F統(tǒng)計(jì)量,n是樣本容量F1=finv(0.95,p,n-p-1) %查F統(tǒng)計(jì)量0.05的分位數(shù)F2=finv(0.99,p,n-p-1) %查F統(tǒng)計(jì)量0.01的分位數(shù)p=1-fcdf(F,p,n-p-1) %求檢驗(yàn)P值，F(xiàn)是上面計(jì)算結(jié)果（5）回歸系數(shù)的統(tǒng)計(jì)推斷檢驗(yàn)假設(shè) 統(tǒng)計(jì)量 檢驗(yàn)值當(dāng)，拒絕,認(rèn)為與線性回歸顯著；否則不顯著%回歸系數(shù)顯著性的t

4、檢驗(yàn)命令T=b1/sqrt(SSE/(n-2)*sqrt(sum(x-mean(x).2) %t統(tǒng)計(jì)量觀測(cè)值to, x是自變量，b1是X的回歸系數(shù)T1=tinv(0.975,n-p-1) %t統(tǒng)計(jì)量0.05的分位數(shù)T2=tinv(0.995,n-p-1) %t統(tǒng)計(jì)量0.01的分位數(shù)p=2-2*tcdf(T,n-p-1) %t檢驗(yàn)的p值（6）預(yù)測(cè)及統(tǒng)計(jì)推斷 因變量的點(diǎn)估計(jì)和區(qū)間估計(jì)給出，的預(yù)測(cè)值的置信區(qū)間 4.多元線性回歸建模的基本步驟(1)對(duì)問(wèn)題進(jìn)行直觀分析，選擇因變量與解釋變量，作出因變量與各解釋變量散點(diǎn)圖，初步設(shè)定多元線性回歸模型參數(shù)個(gè)數(shù)；(2) 多元回歸建模命令輸入因變量與自變量的觀測(cè)數(shù)

5、據(jù)(y,X), 計(jì)算參數(shù)的估計(jì)regeress，調(diào)用格式有以下三種：（1）b = regress(Y,X)（2）b,bint,r,rint,stats = regress(Y,X)（3）b,bint,r,rint,stats = regress(Y,X,alpha) 輸入?yún)?shù)：因變量觀測(cè)向量;矩陣，第一列元素全為1，第j列是自變量Xj觀測(cè)向量，對(duì)一元線性回歸，取p=1即可;alpha為顯著性水平.輸出參數(shù)：向量b-回歸系數(shù)估計(jì)值bint-回歸系數(shù)的(1-alpha)置信區(qū)間；向量r-殘差列向量；rint-模型的殘差的(1- a)的置信區(qū)間；stats-用于檢驗(yàn)回歸模型的統(tǒng)計(jì)量，有4個(gè)分量值：第

6、一個(gè)是復(fù)相關(guān)系數(shù)平方，第二個(gè)是F統(tǒng)計(jì)量值，第三個(gè)是與統(tǒng)計(jì)量F對(duì)應(yīng)的概率P，當(dāng)P n,p=size(A); %讀取A的行數(shù)和列數(shù)X=A(:,1:3) %X1-X3構(gòu)成的數(shù)據(jù)矩陣 y=A(:,4)mmdl=LinearModel.fit(X,y) %調(diào)用LinearModel類(lèi)的fit方法求解模型 結(jié)果輸出：結(jié)果輸出 mmdl = Linear regression model: y 1 + x1 + x2 + x3Estimated Coefficients:參數(shù)估計(jì)表 Estimate SE tStat pValue 參數(shù)估計(jì) 殘差平方 t統(tǒng)計(jì)量 檢驗(yàn)P值 (Intercept) 162.06

7、 346.15 0.46818 0.64686 x1 7.2739 1.3523 5.3787 9.7273e-05 x2 13.957 3.167 4.4071 0.00059659 x3 -4.3996 19.76 -0.22265 0.82702 以下是關(guān)于一些統(tǒng)計(jì)量的結(jié)果：Number of observations: 18, Error degrees of freedom: 14Root Mean Squared Error: 100R-squared: 0.957, Adjusted R-Squared 0.948F-statistic vs. constant model: 1

8、05, p-value = 7.75e-10 其他結(jié)果，點(diǎn)擊工作區(qū)mmdl,顯示很多結(jié)果。包括給出3個(gè)平方和SSE、SST、SSR及MSE，殘差Residuals，因變量擬合Fittde等諸多結(jié)果。說(shuō)明：1）,修正后的復(fù)相關(guān)系數(shù)平方 均認(rèn)為和的線性關(guān)系顯著.2）F統(tǒng)計(jì)量觀測(cè)值,及檢驗(yàn)概率均拒絕原假設(shè)，認(rèn)為和的線性關(guān)系顯著.3）從參數(shù)估計(jì)表看出, 認(rèn)為, 認(rèn)為認(rèn)為與關(guān)系顯著，與關(guān)系不顯著，可進(jìn)一步考慮是否剔除.此外，該類(lèi)結(jié)果還給出了一系列統(tǒng)計(jì)量值，如Fitted-因變量擬合結(jié)果，Residual殘差結(jié)果，平方和SSESSTSSR等?，F(xiàn)代服務(wù)業(yè)是社會(huì)分工不斷深化的產(chǎn)物，隨著經(jīng)濟(jì)的發(fā)展，科學(xué)技術(shù)的進(jìn)

9、步，現(xiàn)代服務(wù)業(yè)的發(fā)展受到多種因素和條件的影響。不僅受到經(jīng)濟(jì)總體發(fā)展水平的影響，還受到第二產(chǎn)業(yè)、就業(yè)、投入等因素的影響，從這幾個(gè)主要方面出發(fā)，利用江蘇省統(tǒng)計(jì)年鑒的有關(guān)數(shù)據(jù)，通過(guò)建立多元線性回歸模型對(duì)1990-2008年各種因素對(duì)現(xiàn)代服務(wù)業(yè)的影響進(jìn)行回歸分析。假如構(gòu)建如下江蘇省服務(wù)業(yè)增長(zhǎng)模型：，Y代表江蘇省服務(wù)業(yè)的增加值(單位：億元)，反映了江蘇省服務(wù)業(yè)發(fā)展的總體水平。x1x4表示影響江蘇省服務(wù)業(yè)發(fā)展的四種主要因素和影響，其中x1代表江蘇省人均GDP(單位：元)，說(shuō)明江蘇省總體經(jīng)濟(jì)發(fā)展水平對(duì)服務(wù)業(yè)的影響；x2代表江蘇省第二產(chǎn)業(yè)的增加值(單位：億元)，說(shuō)明了工業(yè)發(fā)展對(duì)服務(wù)業(yè)的影響，體現(xiàn)了生產(chǎn)性服務(wù)業(yè)

10、的需求規(guī)模；x3表示江蘇省服務(wù)業(yè)的就業(yè)人數(shù)(單位：萬(wàn)人)； x4表示江蘇省服務(wù)業(yè)資本形成總額(單位：億元)，主要體現(xiàn)服務(wù)業(yè)投資的經(jīng)濟(jì)效應(yīng)。表3.11 江蘇省關(guān)于服務(wù)業(yè)發(fā)展及各影響因素相關(guān)數(shù)據(jù)年份服務(wù)業(yè)增加值Y省人均GDPX1第二產(chǎn)業(yè)增加值X2服務(wù)業(yè)就業(yè)人數(shù)X3服務(wù)業(yè)資本形成總額X4198937.76203870.24589.74252.01199028.13210935.53623.19275.82199193.582353101.33640.95330.711992160.623106325.34706.39439.321993286.584321478.79786.37620.971994

11、277.125801588.72855.97858.911995387.117319528.49920.451102.711996367.168471358.86975.661293.431997291.779371337.741025.221370.211998280.0110049228.241102.311624.741999227.6110695280.051151.681773.372000329.1611765515.741192.021903.372001385.4412882471.571263.772131.872002437.0214396697.031341.862189

12、.782003601.39168301182.621407.632686.572004704.72202231650.881443.373362.1920051291.11245601917.051542.463930.5620061360.09288141895.81625.064628.5920071769.28339282055.561713.335287.91解：（1）建立回歸模型，,n=19,p=4回歸分析程序%輸入各影響因素的數(shù)據(jù)x0=203870.24589.74252.01210935.53623.19275.822353101.33640.95330.713106325.34

13、706.39439.324321478.79786.37620.975801588.72855.97858.917319528.49920.451102.718471358.86975.661293.439371337.741025.221370.2110049228.241102.311624.7410695280.051151.681773.3711765515.741192.021903.3712882471.571263.772131.8714396697.031341.862189.78168301182.621407.632686.57202231650.881443.373362

14、.19245601917.051542.463930.56288141895.81625.064628.59339282055.561713.335287.91;y=37.76,28.13,93.58,160.62,286.58,277.12,387.11,367.16,291.77,280.01,227.61,329.16,385.44,437.02,601.39,704.72,1291.11,1360.09,1769.28; %Y服務(wù)業(yè)增加值列向量n,p=size(x0); %矩陣的行數(shù)即樣本容量n，列數(shù)即回歸變量個(gè)數(shù)x=ones(n,1),x0; % 構(gòu)造設(shè)計(jì)矩陣,第一列為1，后4列為X

15、1-X4db,dbint,dr,drint,dstats=regress(y,x); % 調(diào)用多元回歸分析命令，輸出回歸參數(shù)db，回歸參數(shù)置信區(qū)間dbinr，殘差dr,殘差置信區(qū)間drint,及一些統(tǒng)計(jì)量dstats程序運(yùn)行結(jié)果：1）回歸參數(shù)的估計(jì)n=19, p=4輸出：db =345.2493 0.1672 0.1962 -0.7012 -0.6537得到回歸參數(shù)估計(jì)為所以，服務(wù)業(yè)增加值Y對(duì)4個(gè)自變量的線性回歸方程為回歸參數(shù)的區(qū)間估計(jì)結(jié)果dbint = 22.8409 667.6576 的置信區(qū)間 0.0731 0.2613 的置信區(qū)間為0.0731, 0.2631 0.0201 0.372

16、2 的置信區(qū)間 -1.1650 -0.2374 的置信區(qū)間 -1.2867 -0.0207 的置信區(qū)間2）殘差輸出結(jié)果：dr = -83.8119 -59.4867 0.5889 14.6534 82.1633 7.9945 80.5396 64.6092 -72.1976 44.5876 5.7768 -4.5670 73.2709 -79.9409 -46.9710 -136.1633 113.7938 -10.20225.3624即殘差向量殘差的置信區(qū)間結(jié)果drint = -221.9639 54.3402 即的置信區(qū)間-221.9639, 54.3402 -205.9396 86.96

17、62 -151.4255 152.6034 -140.5198 169.8267 -62.4916 226.8182 -144.3484 160.3374 -72.5509 233.6301 -92.9528 222.1712 -214.9770 70.5819 -103.0712 192.2464 -137.4586 149.0121 -162.2339 153.0999 -64.6853 211.2271 -195.3209 35.4392 -191.1233 97.1813 -228.7041 -43.6224 -12.7351 240.3227 -149.3628 128.9584 -

18、85.7809 96.5057 的置信區(qū)間-85.7809, 96.50573）輸出 統(tǒng)計(jì)量值dstats = 1.0e+003 * %下列數(shù)據(jù)要100.00010 0.1727 0.0000 5.7926可決系數(shù)R2=0.00010接近0， F統(tǒng)計(jì)量觀測(cè)值,檢驗(yàn)P值， Fa,或者由F0的p值為p0=00.05，所以拒絕H0，接受備擇假設(shè)H1，說(shuō)明總體回歸系數(shù)bi不全為零，即表明模型的線性關(guān)系在95%的置信水平下顯著成立.2）回歸系數(shù)的t 檢驗(yàn)%t檢驗(yàn)程序S=MSE*inv(x*x); % 計(jì)算回歸參數(shù)的協(xié)方差矩陣T0=db./sqrt(diag(S); % 每個(gè)回歸參數(shù)的T統(tǒng)計(jì)量 Ta=tinv(0.975,n-p-1); % t分布的分位數(shù)pp=tpdf(T0,n-p-1); % 每個(gè)回歸參數(shù)的T統(tǒng)計(jì)量對(duì)應(yīng)的概率t檢驗(yàn)程序結(jié)果：S =1.0e+04 * 2.2597 -0.0003 -0.0004 -0.0032 0.0024 -0.0003 0.00