計(jì)量經(jīng)濟(jì)學(xué)第四章 多重共線性

第四章

多重共線性1計(jì)量經(jīng)濟(jì)學(xué)引子：發(fā)展農(nóng)業(yè)會(huì)減少財(cái)政收入嗎？為了分析各主要因素對(duì)財(cái)政收入的影響，建立財(cái)政收入模型:其中:CS財(cái)政收入(億元);

NZ農(nóng)業(yè)增加值(億元);JZZ建筑業(yè)增加值(億元);CUM最終消費(fèi)(億元);GZ工業(yè)增加值(億元);TPOP總?cè)丝?萬(wàn)人);SZM受災(zāi)面積(萬(wàn)公頃)數(shù)據(jù)樣本時(shí)期1978年-2007年（資料來(lái)源：《中國(guó)統(tǒng)計(jì)年鑒2008》，中國(guó)統(tǒng)計(jì)出版社2008年版）采用普通最小二乘法得到以下估計(jì)結(jié)果：2財(cái)政收入模型的EViews估計(jì)結(jié)果3可決系數(shù)為0.9897

，校正的可決系數(shù)為0.9870，模型擬合很好。模型對(duì)財(cái)政收入的解釋程度高達(dá)98.9%F統(tǒng)計(jì)量為366.68，說(shuō)明0.05水平下回歸方程整體上顯著。t檢驗(yàn)結(jié)果表明，除了農(nóng)業(yè)增加值、建筑業(yè)增加值以外，其他因素對(duì)財(cái)政收入的影響均不顯著。農(nóng)業(yè)增加值的回歸系數(shù)是負(fù)數(shù)。農(nóng)業(yè)的發(fā)展反而會(huì)使財(cái)政收入減少嗎？!這樣的異常結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。若模型設(shè)定和數(shù)據(jù)真實(shí)性沒(méi)問(wèn)題，問(wèn)題出在哪里呢？4模型估計(jì)與檢驗(yàn)結(jié)果分析具體案例分析一、研究的目的要求提出研究的問(wèn)題——為了規(guī)劃中國(guó)未來(lái)國(guó)內(nèi)旅游產(chǎn)業(yè)的發(fā)展，需要定量地分析影響中國(guó)國(guó)內(nèi)旅游市場(chǎng)發(fā)展的主要因素。二、模型設(shè)定及其估計(jì)影響因素分析與確定——影響因素主要有國(guó)內(nèi)旅游人數(shù)

，城鎮(zhèn)居民人均旅游支出

，農(nóng)村居民人均旅游支出

，并以公路里程次

和鐵路里程作為相關(guān)基礎(chǔ)設(shè)施的代表。理論模型的設(shè)定其中

：

——第

t

年全國(guó)國(guó)內(nèi)旅游收入5數(shù)據(jù)的收199集與4年—2007處理年中國(guó)旅游收入及相關(guān)數(shù)據(jù)6、該模型可，

決系數(shù)很高，F(xiàn)檢驗(yàn)值593.4168,明顯顯著。但是當(dāng)

時(shí)不僅

、

系數(shù)的t檢驗(yàn)不顯著，而且

系數(shù)的符號(hào)與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。OLS估計(jì)的結(jié)果7計(jì)算各解釋變量的相關(guān)系數(shù)--檢驗(yàn)共線性表明各解釋變量間確實(shí)存在嚴(yán)重的多重共線性。89加四四、、回回歸歸結(jié)結(jié)果果的的解解釋釋與與分分析析最最后后消消除除多多重重共共線線性性的的結(jié)結(jié)果果=

-3136.713

+0.0435 +

3.6660 +

2.1786t=（-10.5998）(16.0418)

(3.8314)

(1.9744)=0.9961

=0.9949

F=841.4324

DW=1.1763這這說(shuō)說(shuō)明明，，在在其其他他因因素素不不變變的的情情況況下下，，當(dāng)當(dāng)國(guó)國(guó)內(nèi)內(nèi)旅旅游游人人數(shù)數(shù)

每每增增11萬(wàn)萬(wàn)人人次次，，城城鎮(zhèn)鎮(zhèn)居居民民人人均均旅旅游游花花費(fèi)費(fèi)

和和農(nóng)農(nóng)村村居居民民人人均均旅旅游游花花費(fèi)費(fèi)分分別別增增加加11元元時(shí)時(shí)，，國(guó)國(guó)內(nèi)內(nèi)旅旅游游收收入入

將將分分別別平平均均增增加加00..00443355

億億元元、、33..666666億億元元和和22..11778866億億元元。。10第四章

多重共線性11本章討論四個(gè)問(wèn)題：什么是多重共線性（含義、背景）多重共線性產(chǎn)生的后果多重共線性的檢驗(yàn)多重共線性的補(bǔ)救措施第一節(jié)

什么是多重共線性12本節(jié)基本內(nèi)容:多重共線性的含義產(chǎn)生多重共線性的背景。總共一一、、多重共線性的含義多重共線性的含義在計(jì)量經(jīng)濟(jì)學(xué)中所謂的多重共線性在計(jì)量經(jīng)濟(jì)學(xué)中所謂的多重共線性(Multi-Collinearity)(Multi-Collinearity)不僅包括不僅包括完全的多重共線性完全的多重共線性，還包括，還包括不完全的多重共線性不完全的多重共線性在有截距項(xiàng)的模型中，截距項(xiàng)可以視為其對(duì)應(yīng)的解釋變量在有截距項(xiàng)的模型中，截距項(xiàng)可以視為其對(duì)應(yīng)的解釋變量是為是為11。對(duì)于解釋變量。對(duì)于解釋變量

，如果存在不全為，如果存在不全為00的的數(shù)數(shù)

，使得，使得則稱解釋變量則稱解釋變量

之間存在著完全的多重之間存在著完全的多重線性。線性。或者說(shuō)或者說(shuō),,當(dāng)當(dāng)

時(shí)時(shí)，，表明在數(shù)據(jù)矩陣表明在數(shù)據(jù)矩陣

中中，，至少有至少有一個(gè)列向量可以用其余的列向量線性表示一個(gè)列向量可以用其余的列向量線性表示，，則說(shuō)明存在完全的則說(shuō)明存在完全的重共線性重共線性。。13不不完完全全的的多多重重共共線線性性實(shí)實(shí)際際中中，，常常見(jiàn)見(jiàn)的的情情形形是是解解釋釋變變量量之之間間存存在在不不完完

全全的的多多重重共共線線性性。。對(duì)對(duì)于于解解釋釋變變量量

，存存在在不不全全為為00的的數(shù)數(shù)，使使得得其其中中，

為為隨隨機(jī)機(jī)變變量量。。這這表表明明解解釋釋變變量量只只是是一一種種近近似似的的線線性性關(guān)關(guān)系系。14，解釋變量間毫無(wú)線性關(guān)系，變量間相互正交。這時(shí)已不需要作多元回歸，每個(gè)參數(shù)

j都可以通過(guò)Y

對(duì)

Xj

的一元回歸來(lái)估計(jì)。即一元和多元回歸得到的參數(shù)相同，且多元回歸截距項(xiàng)參數(shù)是多個(gè)一元回歸截距項(xiàng)參數(shù)的線性組合?；貧w模型中解釋變量的關(guān)系可能表現(xiàn)為三種情形：(1)，解釋變量間完全共線性。此時(shí)模型參數(shù)將無(wú)，解釋變量間存在一定程度的線性關(guān)系。實(shí)際中常遇到的情形。(2)法確定。(3)15二、產(chǎn)生多重共線性的背景19多重共線性產(chǎn)生的經(jīng)濟(jì)背景主要有幾種情形：經(jīng)濟(jì)變量之間具有共同變化趨勢(shì)。如時(shí)間序列數(shù)據(jù)中的收入、消費(fèi)、就業(yè)率等，可能同增同減！模型中包含滯后變量。如當(dāng)期消費(fèi)和前一期消費(fèi)！利用截面數(shù)據(jù)建立模型也可能出現(xiàn)多重共線性。如資本、勞動(dòng)力、科技、能源等投入與產(chǎn)出的規(guī)模都相關(guān)，呈現(xiàn)出共同增長(zhǎng)的趨勢(shì)！部分因素的變化與另一部分因素的變化相關(guān)程度較高！樣本數(shù)據(jù)自身的原因。解釋變量取值范圍受限導(dǎo)致變量變異不大；或總體受限導(dǎo)致多個(gè)解釋變量的樣本數(shù)據(jù)之間存在相關(guān)！第二節(jié)

多重共線性產(chǎn)生的后果20本節(jié)基本內(nèi)容:完全多重共線性產(chǎn)生的后果不完全多重共線性產(chǎn)生的后果一一、、完完全全多多重重共共線線性性產(chǎn)產(chǎn)生生的的后后果果11..參參數(shù)數(shù)的的估估計(jì)計(jì)值值不不確確定定當(dāng)當(dāng)解解釋釋變變量量完完全全線線性性相相關(guān)關(guān)時(shí)時(shí)————OOLLSS

估估計(jì)計(jì)式式不不確確定定▲▲

從從偏偏回回歸歸系系數(shù)數(shù)意意義義看看：：在在

和和

完完全全共共線線性性時(shí)時(shí)，，無(wú)無(wú)法法保保持持

不不變變，，去去單單獨(dú)獨(dú)考考慮慮

對(duì)對(duì)

的的影影響響（（

和和

的的影影響響

不不可可區(qū)區(qū)分分））▲▲從從OOLLSS估估計(jì)計(jì)式式看看：：可可以以證證明明此此時(shí)時(shí)22..參參數(shù)數(shù)估估計(jì)計(jì)值值的的方方差差無(wú)無(wú)限限大大OOLLSS估估計(jì)計(jì)式式的的方方差差成成為為無(wú)無(wú)窮窮大大：：21二、不完全多重共線性產(chǎn)生的后果24如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計(jì)值，但是對(duì)計(jì)量經(jīng)濟(jì)分析可能會(huì)產(chǎn)生一系列的影響。1.參數(shù)估計(jì)值的方差增大當(dāng)增大時(shí)也增大2.對(duì)參數(shù)區(qū)間估計(jì)時(shí)，置信區(qū)間趨于變大假設(shè)檢驗(yàn)容易作出錯(cuò)誤的判斷可能造成可決系數(shù)較高，但對(duì)各個(gè)參數(shù)單獨(dú)的 t

檢驗(yàn)卻可能不顯著，甚至可能使估計(jì)的回歸系數(shù)符號(hào)相反，得出完全錯(cuò)誤的結(jié)論。25總結(jié)：多重共線性產(chǎn)生的后果

1、參數(shù)估計(jì)值不穩(wěn)定，方差增大對(duì)參數(shù)難以作出精確的估計(jì)。

2、回歸方程高度顯著，有些回歸系數(shù)卻通不過(guò)顯著性檢驗(yàn)，甚至出現(xiàn)回歸系數(shù)的正負(fù)號(hào)得不到合理的經(jīng)濟(jì)解釋。第三節(jié)

多重共線性的檢驗(yàn)27本節(jié)基本內(nèi)容：直觀判斷法簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法方差擴(kuò)大（膨脹）因子法逐步回歸法一、直觀判斷法28當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。（敏感）從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒(méi)有通過(guò)顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)很可能存在多重共線性。解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問(wèn)題。二、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法29含義：簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。判斷規(guī)則：一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù)(零階相關(guān)系數(shù))比較高，例如大于0.8，則可認(rèn)為存在著較嚴(yán)重的多重共線性。注意：較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。三、方差擴(kuò)大（膨脹）因子法統(tǒng)計(jì)上可以證明，解釋變量

的參數(shù)估計(jì)式的方差可表示為31是變量其中的

的方差擴(kuò)大因子(Variance

Inflation

Factor)，即其中

是多個(gè)解釋變量輔助回歸的可決系數(shù)輔助回歸：分別以每個(gè)解釋變量為被解釋變量，作與其他解釋變量的回歸經(jīng)驗(yàn)規(guī)則32方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過(guò)來(lái)，方差膨脹因子越接近于1，多重共線性越弱。經(jīng)驗(yàn)表明，方差膨脹因子≥10時(shí)，說(shuō)明解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過(guò)度地影響最小二乘估計(jì)。當(dāng)解釋變量之間存在完全或高度共線性時(shí)，將不能給出回歸模型的參數(shù)估計(jì)結(jié)果。此時(shí)可考慮評(píng)估VIF大小。四、逐步回歸檢測(cè)法34逐步回歸的基本思想將變量逐個(gè)地引入模型，每引入一個(gè)解釋變量后，都要進(jìn)行Ｆ檢驗(yàn)，并對(duì)已經(jīng)選入的解釋變量逐個(gè)進(jìn)行t檢驗(yàn)，當(dāng)原來(lái)引入的解釋變量由于后面解釋變量的引入而變得不再顯著時(shí)，則將其剔除。以確保每次引入新的變量之前回歸方程中只包含顯著的變量。在逐步回歸中，高度相關(guān)的解釋變量，在引入時(shí)會(huì)被剔除。因而也是一種檢測(cè)多重共線性的有效方法第四節(jié)多重共線性的補(bǔ)救措施35本節(jié)基本內(nèi)容:修正多重共線性的經(jīng)驗(yàn)方法逐步回歸法一、修正多重共線性的經(jīng)驗(yàn)方法36剔除變量法把方差擴(kuò)大因子最大者所對(duì)應(yīng)的自變量首先剔除再重新建立回歸方程，直至回歸方程中不再存在嚴(yán)重的多重共線性。注意:若剔除了重要變量，可能引起模型的設(shè)定誤差。增大樣本容量如果樣本容量增加，會(huì)減小回歸參數(shù)的方差，標(biāo)準(zhǔn)誤差也同樣會(huì)減小。因此盡可能地收集足夠多的樣本數(shù)據(jù)可以改進(jìn)模型參數(shù)的估計(jì)。問(wèn)題：增加樣本數(shù)據(jù)在實(shí)際計(jì)量分析中常面臨許多困難。變換模型形式一般而言，差分后變量之間的相關(guān)性要比差分前弱得多，所以差分后的模型可能降低出現(xiàn)共線性的可能性，此時(shí)可直接估計(jì)差分方程。問(wèn)題：差分會(huì)丟失一些信息，差分模型的誤差項(xiàng)可能存在序列相關(guān)可能會(huì)違背經(jīng)典線性回歸模型的相關(guān)假設(shè)，在具體運(yùn)用時(shí)要慎重利用非樣本先驗(yàn)信息通過(guò)經(jīng)濟(jì)理論分析能夠得到某些參數(shù)之間的關(guān)系，可以將這種關(guān)系作為約束條件，將此約束條件和樣本信息結(jié)合起來(lái)進(jìn)行約束最小二乘估計(jì)。375.橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用38首先利用橫截面數(shù)據(jù)估計(jì)出部分參數(shù)，再利用時(shí)序數(shù)據(jù)估計(jì)出另外的部分參數(shù)，最后得到整個(gè)方程參數(shù)的估計(jì)。注意：這里包含著假設(shè)，即參數(shù)的橫截面估計(jì)和從純粹時(shí)間序列分析中得到的估計(jì)是一樣的。6.變量變換：對(duì)模型中變量進(jìn)行變換39(1)計(jì)算相對(duì)指標(biāo)：如總量指標(biāo)變換成人均指標(biāo)

(2)將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù)：如剔除價(jià)格影響(3)將小類指標(biāo)合并成大類指標(biāo)：如將工業(yè)增加值、建筑業(yè)增加值合并成第二產(chǎn)業(yè)增加值變量數(shù)據(jù)的變換有時(shí)可得到較好的結(jié)果，但無(wú)法保證一定可以得到很好的結(jié)果。二、逐步回歸法用被解釋變量對(duì)每一個(gè)所考慮的解釋變量做簡(jiǎn)單回歸。以對(duì)被解釋變量貢獻(xiàn)最大的解釋變量所對(duì)應(yīng)的回歸方程為基礎(chǔ)，按對(duì)被解釋變量貢獻(xiàn)大小的順序逐個(gè)引入其余的解釋變量。若新變量的引入改進(jìn)了

和

檢驗(yàn)，且回歸參數(shù)的t

檢驗(yàn)在統(tǒng)計(jì)上也是顯著的，則在模型中保留該變量。40若新變量的引入未能改進(jìn)和檢驗(yàn)，且對(duì)其他回歸參數(shù)估計(jì)值的t檢驗(yàn)也未帶來(lái)什么影響，則認(rèn)為該變量是多余變量。若新變量的引入未能改進(jìn)和檢驗(yàn)，且顯著地影響了其他回歸參數(shù)估計(jì)值的數(shù)值或符號(hào)，同時(shí)本身的回歸參數(shù)也通不過(guò)t檢驗(yàn)，說(shuō)明出現(xiàn)了嚴(yán)重的多重共線性。41具體案例分析一、研究的目的要求提出研究的問(wèn)題——為了規(guī)劃中國(guó)未來(lái)國(guó)內(nèi)旅游產(chǎn)業(yè)的發(fā)展，需要定量地分析影響中國(guó)國(guó)內(nèi)旅游市場(chǎng)發(fā)展的主要因素。二、模型設(shè)定及其估計(jì)影響因素分析與確定——影響因素主要有國(guó)內(nèi)旅游人數(shù)

，城鎮(zhèn)居民人均旅游支出

，農(nóng)村居民人均旅游支出

，并以公路里程次

和鐵路里程作為相關(guān)基礎(chǔ)設(shè)施的代表。理論模型的設(shè)定其中

：

——第

t

年全國(guó)國(guó)內(nèi)旅游收入42數(shù)據(jù)的收199集與4年—2007處理年中國(guó)旅游收入及相關(guān)數(shù)據(jù)43、該模型可，

決系數(shù)很高，F(xiàn)檢驗(yàn)值593.4168,明顯顯著。但是當(dāng)

時(shí)不僅

、

系數(shù)的t檢驗(yàn)不顯著，而且

系數(shù)的符號(hào)與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。OLS估計(jì)的結(jié)果44計(jì)算各解釋變量的相關(guān)系數(shù)--檢驗(yàn)共線性表明各解釋變量間確實(shí)存在嚴(yán)重的多重共線性。4546加四四、、回回歸歸結(jié)結(jié)果果的的解解釋釋與與分分析析最最后后消消除除多多重重共共線線性性的的結(jié)結(jié)果果=

-3136.713

+0.0435 +

3.6660 +

2.1786t=（-10.5998）(16.0418)

(3.8314)

(1.9744)=0.9961

=0.9949

F=841.4324

DW=1.1763這這說(shuō)說(shuō)明明，，在在其其他他因因素素不不變變的的情情況況下下，，當(dāng)當(dāng)國(guó)國(guó)內(nèi)內(nèi)旅旅游游人人數(shù)數(shù)

每每增增11萬(wàn)萬(wàn)人人次次，