淺談多元線性回歸模型及其應(yīng)用.doc

鹽城師范學(xué)院畢業(yè)論文（設(shè)計(jì)）1多元線性回歸模型的概念及基本假設(shè)1.1多元線性回歸模型的概念 多元線性回歸模型是用兩個(gè)或兩個(gè)以上的解釋變量來解釋因變量的一種模型。設(shè)為因變量，為k個(gè)用來說明的被稱為解釋變量的不同變量，其中恒等于1，則 （1）式稱為多元線性回歸模型。其中，為隨即擾動(dòng)項(xiàng)；參數(shù)稱為回歸系數(shù)。若令，則（1）式可用矩陣形式表示為： （2）式。1.2多元線性回歸模型的基本假設(shè)1.2.1 隨機(jī)擾動(dòng)項(xiàng)的數(shù)學(xué)期望為零即,這意味著為線性回歸模型（2）的總體回歸函數(shù)。1.2.2 隨機(jī)擾動(dòng)項(xiàng)的方差相等即，也稱為同方差性。1.2.3 隨機(jī)擾動(dòng)項(xiàng)和解釋變量不相關(guān)數(shù)學(xué)表達(dá)式為：。1.2.4 解釋變量之間不存在多重共線性所謂多重共線性是指解釋變量之間存在完全或近似完全的線性相關(guān)。1.2.5 隨機(jī)擾動(dòng)項(xiàng)為服從正態(tài)分布的隨機(jī)向量2多元線性回歸模型的參數(shù)估計(jì) 要想確定多元線性回歸模型，則必須估計(jì)出回歸系數(shù)的值。在回歸分析中，使用最廣泛的方法是最小二乘法，一般稱為普通最小二乘法，即使殘差平方和最小的回歸系數(shù)的估計(jì)。設(shè)與總體回歸模型（1）式對應(yīng)的樣本回歸模型為： （4）式，或用矩陣表示為：,其中為總體回歸系數(shù)的最小二乘估計(jì)，為殘差向量。根據(jù)最小二乘法的定義，在線性樣本回歸模型中，使殘差平方和最小的回歸系數(shù)的估計(jì)稱為最小二乘估計(jì)。即使最小的。其中是的轉(zhuǎn)置。為使最小，可將看作是的函數(shù)，則其關(guān)于的一階偏導(dǎo)數(shù)必須為零，即,因此得到方程，所以。雖然計(jì)算過程十分復(fù)雜，但是在如今的計(jì)算機(jī)時(shí)代可以運(yùn)用相關(guān)的統(tǒng)計(jì)軟件（如Eviews3.0）對回歸系數(shù)進(jìn)行估計(jì)。3回歸系數(shù)及回歸方程的顯著性檢驗(yàn)3.1 回歸系數(shù)的顯著性檢驗(yàn) 運(yùn)用上面的計(jì)算方法或者通過計(jì)算機(jī)的運(yùn)行可以得出回歸系數(shù)的估計(jì)，但所估計(jì)的回歸系數(shù)在給定的顯著性水平下是否具有顯著性呢？這需要給予相應(yīng)的顯著性檢驗(yàn)，通常是構(gòu)造統(tǒng)計(jì)量。那么在進(jìn)行檢驗(yàn)過程中需遵循以下四個(gè)步驟：提出原假設(shè)和備擇假設(shè)：原假設(shè)，備擇假設(shè)；作統(tǒng)計(jì)量：，其中為的標(biāo)準(zhǔn)差；根據(jù)樣本數(shù)據(jù)和原假設(shè)計(jì)算統(tǒng)計(jì)量的值；將統(tǒng)計(jì)量的值與臨界值相比較，若的絕對值大于臨界值，則需拒絕原假設(shè)，說明顯著不為零。反之，則需接受原假設(shè)，說明顯著為零。3.2回歸方程的顯著性檢驗(yàn) 在已知回歸系數(shù)的條件下，還需對整個(gè)回歸方程進(jìn)行顯著性檢驗(yàn)。在對整個(gè)回歸方程進(jìn)行顯著性檢驗(yàn)時(shí)通常是構(gòu)造統(tǒng)計(jì)量，類似的，檢驗(yàn)時(shí)仍需四個(gè)步驟：提出原假設(shè)和備擇假設(shè)：原假設(shè)，備擇假設(shè)；作統(tǒng)計(jì)量：，其中SSR為殘差平方和，SSE為回歸平方和，（k-1）,(n-k)分別為SSR，SSE的自由度；根據(jù)樣本數(shù)據(jù)和原假設(shè)計(jì)算統(tǒng)計(jì)量的值；將統(tǒng)計(jì)量的值與臨界值相比較，若的值大于臨界值，則需拒絕原假設(shè)，說明回歸方程顯著。反之，則需接受原假設(shè)，說明回歸方程不顯著。4多元線性回歸模型的應(yīng)用4.1 城鄉(xiāng)居民收入差距的因素分析及數(shù)據(jù)收集4.1.1 影響城鄉(xiāng)居民收入之比的因素分析影響城鄉(xiāng)居民收入差距的因素有多種，本文考慮了七種相關(guān)的因素：a. 城鄉(xiāng)二元結(jié)構(gòu)系數(shù)（） 一般是指以社會(huì)化生產(chǎn)為主要特點(diǎn)的城市經(jīng)濟(jì)和以小生產(chǎn)為主要特點(diǎn)的農(nóng)村經(jīng)濟(jì)并存的經(jīng)濟(jì)結(jié)構(gòu)，我國城鄉(xiāng)二元經(jīng)濟(jì)結(jié)構(gòu)主要表現(xiàn)為：城市經(jīng)濟(jì)以現(xiàn)代化的大工業(yè)生產(chǎn)為主，而農(nóng)村經(jīng)濟(jì)以典型的小農(nóng)經(jīng)濟(jì)為主。不同的生產(chǎn)對象必然會(huì)導(dǎo)致收入的差距的產(chǎn)生。b.城鎮(zhèn)化水平（） 指一個(gè)地區(qū)城鎮(zhèn)化所達(dá)到的程度，簡單地說就是城市人口在總?cè)丝谥械谋壤?。它是區(qū)域經(jīng)濟(jì)發(fā)展程度的重要標(biāo)志。一個(gè)地區(qū)城鎮(zhèn)化水平越高，則城鄉(xiāng)居民收入差距就越??；反之，就會(huì)越大。c.人均GDP增長率（） 常作為衡量經(jīng)濟(jì)發(fā)展?fàn)顩r的指標(biāo)，是重要的宏觀經(jīng)濟(jì)指標(biāo)之一，將一個(gè)國家核算期內(nèi)（通常是一年）實(shí)現(xiàn)的國內(nèi)生產(chǎn)總值與這個(gè)國家的常住人口相比進(jìn)行計(jì)算，得到人均國內(nèi)生產(chǎn)總值。再將各年的人均國內(nèi)生產(chǎn)總值進(jìn)行環(huán)比計(jì)算。人均GDP增長率越高，則居民收入就越高；反之，則越低。d.財(cái)政支農(nóng)比率（） 是指政府為鞏固農(nóng)業(yè)的基礎(chǔ)地位和促進(jìn)整個(gè)國民經(jīng)濟(jì)的協(xié)調(diào)穩(wěn)定發(fā)展,通過財(cái)政投入、農(nóng)業(yè)稅收、財(cái)政補(bǔ)貼等政策手段,實(shí)現(xiàn)對農(nóng)業(yè)的指導(dǎo)、鼓勵(lì)、幫助和管理。顯然財(cái)政支農(nóng)比率越高，農(nóng)民的收入就越高，城鄉(xiāng)居民收入差距就越?。环粗?，差距則會(huì)越大。e.農(nóng)村金融發(fā)展水平（） 農(nóng)村金融在我國一般是指在縣及縣以下地區(qū)提供的存款、貸款、匯兌、保險(xiǎn)、期貨、證券等各種金融服務(wù)，其發(fā)展目的是促進(jìn)農(nóng)村經(jīng)濟(jì)發(fā)展。從而，農(nóng)村金融發(fā)展水平越高，農(nóng)村經(jīng)濟(jì)發(fā)展就越好，農(nóng)民的收入就越高，城鄉(xiāng)居民收入差距就越?。环粗蜁?huì)越大。f.產(chǎn)業(yè)結(jié)構(gòu)（） 是指各產(chǎn)業(yè)的構(gòu)成及各產(chǎn)業(yè)之間的聯(lián)系和比例關(guān)系，目前分為第一、二、三產(chǎn)業(yè)。第一產(chǎn)業(yè)僅包括農(nóng)、林、牧、漁業(yè)；第二產(chǎn)業(yè)包括采礦業(yè)、制造業(yè)、電力、燃?xì)饧八纳a(chǎn)和供應(yīng)業(yè)、建筑業(yè)；第三產(chǎn)業(yè)包括除第一、第二產(chǎn)業(yè)之外的其他各行業(yè)部門。若產(chǎn)業(yè)結(jié)構(gòu)協(xié)調(diào)發(fā)展，城鄉(xiāng)居民收入差距就會(huì)縮小，反之，就會(huì)擴(kuò)大。g.就業(yè)結(jié)構(gòu)（） 就業(yè)結(jié)構(gòu)又稱社會(huì)勞動(dòng)力分配結(jié)構(gòu)，一般是指國民經(jīng)濟(jì)各部門所占用的勞動(dòng)數(shù)量、比例及其相互關(guān)系。這一結(jié)構(gòu)考察的是就業(yè)人口在國民經(jīng)濟(jì)各部門的分布，在產(chǎn)業(yè)結(jié)構(gòu)中說到，若產(chǎn)業(yè)結(jié)構(gòu)越協(xié)調(diào)，則就業(yè)人口在各部門的分布就越均衡，從而城鄉(xiāng)居民收入差距就越小，反之，就會(huì)越大。4.1.2 數(shù)據(jù)收集本文討論的重點(diǎn)是城鄉(xiāng)居民收入差距的影響因素，即城鄉(xiāng)居民收入差距代表了因變量，各影響因素就是自變量。城鄉(xiāng)居民收入差距和各影響因素的數(shù)據(jù)均以黑龍江統(tǒng)計(jì)年鑒與新中國55年統(tǒng)計(jì)資料匯編中的1978年至2008年的相應(yīng)數(shù)據(jù)為準(zhǔn)。各項(xiàng)具體數(shù)據(jù)如表4-1所示。表4-1 黑龍江省城鄉(xiāng)收入差距及其影響因素?cái)?shù)據(jù)年份城鄉(xiāng)居民收入之比（%）城鄉(xiāng)二元結(jié)構(gòu)系數(shù)（%）城鎮(zhèn)化水平（%）人均GDP增長率（%）財(cái)政支農(nóng)比率（%）農(nóng)村金融發(fā)展水平（%）產(chǎn)業(yè)結(jié)構(gòu)（%）就業(yè)結(jié)構(gòu)（%）19782.653.6335.910.3714.5119.8376.547.3619792.43.0837.35.3217.2820.7276.351.1219802.052.6438.516.8417.620.137553.2219811.892.4139.42.1617.9929.0374.754.719821.832.339.97.4817.6133.2874.455.7419831.341.974110.3717.3929.1471.556.0119841.622.034214.0315.5433.437357.0319851.862.5342.910.7413.0339.8778.358.7919861.742.343.911.9610.4935.5276.959.119871.882.6544.912.2811.6540.828060.2619881.823.0445.92010.1242.6582.961.5119892.133.7346.912.8610.6645.3485.160.5419901.592.274812.1710.7828.9277.660.419911.892.814913.918.4636.518261.8219921.722.7650.115.678.8426.5982.663.2319931.913.1151.323.738.5317.4983.461.8319941.862.4852.432.798.2216.028163.2119951.912.5453.723.05815.1781.463.2219961.732.4353.818.148.3114.6681.364.119971.772.6253.911.778.1815.7582.764.6819981.895.17543.3910.3419.3984.551.3819992.126.354.22.758.629.0386.851.1620002.297.2851.99.459.4823.4687.849.7920012.386.9352.47.318.9122.9787.249.4820022.546.7752.67.29.123.78749.6220032.667.4152.611.57.3425.3587.648.7220042.496.5552.817.027.8427.4687.551.6920052.57653.115.957.132.3887.654.0120062.595.9953.512.437.5934.6187.954.8220072.485.2253.913.86834.958756.320082.385.0855.417.588.6232.5986.956.61 數(shù)據(jù)來源：黑龍江統(tǒng)計(jì)年鑒與新中國55年統(tǒng)計(jì)資料匯編4.2 模型建立與數(shù)據(jù)處理4.2.1 建立模型根據(jù)多元線性回歸模型的定義，在經(jīng)濟(jì)學(xué)上研究一個(gè)變量的變化受多個(gè)因素的影響時(shí)，往往會(huì)考慮建立多元線性回歸模型進(jìn)行研究分析。綜上所述，可以以城鄉(xiāng)居民收入之比（%）Y為因變量，各影響因素為解釋變量建立多元回歸模型為：，其中，是回歸系數(shù)，表示在其他影響因素保持不變的情況下，變化一單位時(shí)城鄉(xiāng)居民收入之比（%）平均變動(dòng)的單位數(shù)。為常數(shù)項(xiàng)，為隨機(jī)擾動(dòng)項(xiàng)。4.2.2 數(shù)據(jù)處理本文通過計(jì)量經(jīng)濟(jì)學(xué)軟件Eviews3.0和EXCEL進(jìn)行分析，輸出結(jié)果見表4-2和表4-3。 表4-2 運(yùn)行結(jié)果（一）Dependent Variable: YMethod: Least SquaresDate: 05/02/12 Time: 12:20Sample: 1978 2008Included observations: 31VariableCoefficientStd. Errort-StatisticProb. C0.3697552.0000200.1848760.8549X1-0.1391330.131882-1.0549820.3024X2-0.0372820.018274-2.0401470.0530X30.0124810.0066791.8688610.0744X4-0.0185760.027536-0.6745990.5067X5-0.0023080.004856-0.4754150.6390X60.0977200.0298713.2714370.0034X7-0.0680290.032470-2.0951260.0474R-squared0.841845 Mean dependent var2.063871Adjusted R-squared0.793711 S.D. dependent var0.361512S.E. of regression0.164195 Akaikin focriterion-0.557884Sum squared resid0.620083 Schwarz criterion-0.187822Log likelihood16.64720 F-statistic17.48961Durbin-Watson stat1.229259 Prob(F-statistic)0.000000表4-3 運(yùn)行結(jié)果（二） 變量間的相關(guān)性YX1X2X3X4X5X6X7Y1X10.7911X20.2440.5621X3-0.143-0.2640.2701X4-0.317-0.513-0.912-0.3841X5-0.039-0.041-0.200-0.1690.0821X60.6280.8240.8450.084-0.8530.0041X7-0.672-0.6880.1440.593-0.2080.092-0.1851由表4-2可得多元線性回歸方程 （0.184876）（-1.054982）（-2.040147）（1.868861）（-0.674599）（-0.475415） （3.271437）（-2.095126） 其中是擬合優(yōu)度，值用來檢驗(yàn)是否存在自相關(guān)，對回歸方程檢驗(yàn)，檢驗(yàn)是要檢驗(yàn)總體回歸方程是否顯著，并對每個(gè)參數(shù)檢驗(yàn)，檢驗(yàn)是要檢驗(yàn)是否對某個(gè)存在線性相關(guān)關(guān)系。不太接近于1，表明數(shù)據(jù)線性擬合程度不高，,這又說明了回歸方程是顯著的，產(chǎn)生矛盾。再看表4-3，觀察相關(guān)系數(shù)矩陣，發(fā)現(xiàn)城鎮(zhèn)化水平和二元結(jié)構(gòu)系數(shù)、財(cái)政支農(nóng)比率和二元結(jié)構(gòu)系數(shù)、城鎮(zhèn)化水平和產(chǎn)業(yè)結(jié)構(gòu)、財(cái)政支農(nóng)比率和城鎮(zhèn)化水平、產(chǎn)業(yè)結(jié)構(gòu)和財(cái)政支農(nóng)比率之間的相關(guān)系數(shù)都非常高，初步斷定自變量間可能存在多重共線性。4.2.3 逐步回歸逐步回歸的基本思想是逐個(gè)引入自變量，每次引入對影響最顯著的自變量，并對方程中的老變量逐個(gè)進(jìn)行檢驗(yàn)，把變?yōu)椴伙@著的變量逐個(gè)從方程中剔除掉，最終得到的方程中既不漏掉對影響顯著的變量，也不包含對影響不顯著的變量。將每個(gè)解釋變量帶回原回歸方程，繼續(xù)用計(jì)量經(jīng)濟(jì)學(xué)Eviews3.0先選出一個(gè)最優(yōu)的解釋變量（結(jié)果見表4-4）。表4-4 回歸結(jié)果分析（一）變量檢驗(yàn)經(jīng)濟(jì)意義0.626024顯著合理0.059396顯著合理0.020455顯著合理0.100342顯著合理0.001522不顯著合理0.394210顯著不合理0.451586顯著合理表中結(jié)果表明、5個(gè)解釋變量通過了檢驗(yàn)并且經(jīng)濟(jì)意義也比較合理，但就擬合優(yōu)度而言第一個(gè)回歸方程是最優(yōu)的，所以選擇第一個(gè)為基本回歸方程。將選出了的繼續(xù)引入其他解釋變量，用Eviews3.0選出另外的解釋變量（結(jié)果見表4-5）。表4-5 回歸結(jié)果分析（二）變量檢驗(yàn)經(jīng)濟(jì)意義0.685144顯著合理0.630701不顯著合理0.636901顯著合理0.626063不顯著不合理0.627827不顯著不合理0.657041顯著合理表中結(jié)果很顯然引入之后，都通過了檢驗(yàn)并且經(jīng)濟(jì)意義也同樣合理，但就擬合優(yōu)度而言的回歸方程是最優(yōu)的，所以選擇第一個(gè)和第二個(gè)為基本回歸方程。在基礎(chǔ)上繼續(xù)重新引入其他解釋變量，用Eviews3.0選出其他的解釋變量（結(jié)果見表4-6）。表4-6 回歸結(jié)果分析（三）變量檢驗(yàn)經(jīng)濟(jì)意義0.738091顯著不合理0.737417顯著不合理0.688727顯著合理0.756753不顯著合理0.692028不顯著不合理表中結(jié)果很明顯，在引入之后，擬合優(yōu)度進(jìn)一步提高，檢驗(yàn)也是顯著地，經(jīng)濟(jì)意義也合理。同理將三個(gè)解釋變量也引入回歸方程。同理在基礎(chǔ)上得出如表4-7所示的結(jié)果。表4-7 回歸結(jié)果分析（四）變量檢驗(yàn)經(jīng)濟(jì)意義0.739643不顯著合理0.752217顯著不合理0.793687顯著合理0.711294顯著不合理 由表4-7結(jié)果可知在基礎(chǔ)上增加變量后，擬合優(yōu)度明顯提高，同樣通過了檢驗(yàn)，其經(jīng)濟(jì)意義也是合理的。再將四個(gè)解釋變量引入回歸方程。同理在基礎(chǔ)上得出如表4-8所示的結(jié)果。表4-8 回歸結(jié)果分析（五）變量檢驗(yàn)經(jīng)濟(jì)意義0.810116不顯著合理0.800245不顯著合理0.806465不顯著不合理由表4-8結(jié)果顯示，在基礎(chǔ)上增加變量后雖然擬合優(yōu)度再一次的提高，但是檢驗(yàn)未能通過并且的經(jīng)濟(jì)意義也不合理。因而最后的回歸結(jié)果為表4-9所示。 表4-9 運(yùn)行結(jié)果（三）Dependent Variable: YMethod: Least SquaresDate: 05/02/12 Time: 15:53Sample: 1978 2008Included observations: 31VariableCoefficientStd.Errort-StatisticProb. C-1.5295081.099218-1.3914510.1759X10.0831400.0359702.3113480.0290X2-0.0574620.012569-4.5717080.0001X5-0.0091490.004241-2.1574240.0404X60.0770220.0211783.6369220.0012R-squared0.793687 Mean dependent var2.063871Adjusted R-squared0.761946 S.D. dependent var0.361512S.E. of regression0.176385 Akaikeinfo criterion-0.485609Sum squared resid0.808900 Schwarz criterion-0.254321Log likelihood12.52694 F-statistic25.00546Durbin-Watson stat0.738860 Prob(F-statistic)0.000000表4-9可見，樣本決定系數(shù)=0.794，且=25.005，顯著性值0.000，通過檢驗(yàn)，擬合優(yōu)度良好。同時(shí)，由表7可知所有系數(shù)的估計(jì)值都通過了檢驗(yàn)且經(jīng)濟(jì)意義均合理，最后得到最優(yōu)的回歸方程：。4.3 運(yùn)算