計(jì)量經(jīng)濟(jì)學(xué) 多重共線性

計(jì)量經(jīng)濟(jì)學(xué)多重共線性第一頁，共四十二頁，編輯于2023年，星期五一、多重共線性的概念二、實(shí)際經(jīng)濟(jì)問題中的多重共線性三、多重共線性的后果四、多重共線性的檢驗(yàn)五、克服多重共線性的方法六、案例*七、分部回歸與多重共線性

§4.3多重共線性第二頁，共四十二頁，編輯于2023年，星期五

一、多重共線性的概念對于模型

Yi=0+1X1i+2X2i++kXki+i

i=1,2,…,n其基本假設(shè)之一是解釋變量是互相獨(dú)立的。

如果某兩個或多個解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性(Multicollinearity)。第三頁，共四十二頁，編輯于2023年，星期五

如果存在

c1X1i+c2X2i+…+ckXki=0

i=1,2,…,n

其中:ci不全為0，則稱為解釋變量間存在完全共線性（perfectmulticollinearity）。

如果存在

c1X1i+c2X2i+…+ckXki+vi=0

i=1,2,…,n

其中ci不全為0，vi為隨機(jī)誤差項(xiàng)，則稱為近似共線性（approximatemulticollinearity）或交互相關(guān)(intercorrelated)。第四頁，共四十二頁，編輯于2023年，星期五

在矩陣表示的線性回歸模型

Y=X+

中，完全共線性指：秩(X)<k+1，即中，至少有一列向量可由其他列向量（不包括第一列）線性表出。如：X2=X1，則X2對Y的作用可由X1代替。第五頁，共四十二頁，編輯于2023年，星期五

注意：

完全共線性的情況并不多見，一般出現(xiàn)的是在一定程度上的共線性，即近似共線性。第六頁，共四十二頁，編輯于2023年，星期五

二、實(shí)際經(jīng)濟(jì)問題中的多重共線性

一般地，產(chǎn)生多重共線性的主要原因有以下三個方面：

（1）經(jīng)濟(jì)變量相關(guān)的共同趨勢

時間序列樣本：經(jīng)濟(jì)繁榮時期，各基本經(jīng)濟(jì)變量（收入、消費(fèi)、投資、價格）都趨于增長；衰退時期，又同時趨于下降。

橫截面數(shù)據(jù)：生產(chǎn)函數(shù)中，資本投入與勞動力投入往往出現(xiàn)高度相關(guān)情況，大企業(yè)二者都大，小企業(yè)都小。第七頁，共四十二頁，編輯于2023年，星期五

（2）滯后變量的引入在經(jīng)濟(jì)計(jì)量模型中，往往需要引入滯后經(jīng)濟(jì)變量來反映真實(shí)的經(jīng)濟(jì)關(guān)系。

例如，消費(fèi)=f(當(dāng)期收入,前期收入）顯然，兩期收入間有較強(qiáng)的線性相關(guān)性。第八頁，共四十二頁，編輯于2023年，星期五

（3）樣本資料的限制

由于完全符合理論模型所要求的樣本數(shù)據(jù)較難收集，特定樣本可能存在某種程度的多重共線性。

一般經(jīng)驗(yàn)：

時間序列數(shù)據(jù)樣本：簡單線性模型，往往存在多重共線性。

截面數(shù)據(jù)樣本：問題不那么嚴(yán)重，但多重共線性仍然是存在的。第九頁，共四十二頁，編輯于2023年，星期五

二、多重共線性的后果

1、完全共線性下參數(shù)估計(jì)量不存在如果存在完全共線性，則(X’X)-1不存在，無法得到參數(shù)的估計(jì)量。的OLS估計(jì)量為：第十頁，共四十二頁，編輯于2023年，星期五例：對離差形式的二元回歸模型如果兩個解釋變量完全相關(guān)，如x2=x1，則這時，只能確定綜合參數(shù)1+2的估計(jì)值：第十一頁，共四十二頁，編輯于2023年，星期五

2、近似共線性下OLS估計(jì)量非有效

近似共線性下，可以得到OLS參數(shù)估計(jì)量，但參數(shù)估計(jì)量方差的表達(dá)式為

由于|X’X|0，引起(X’X)-1主對角線元素較大，使參數(shù)估計(jì)值的方差增大，OLS參數(shù)估計(jì)量非有效。第十二頁，共四十二頁，編輯于2023年，星期五仍以二元線性模型

y=1x1+2x2+為例:恰為X1與X2的線性相關(guān)系數(shù)的平方r2由于r2

1，故1/(1-r2)1第十三頁，共四十二頁，編輯于2023年，星期五多重共線性使參數(shù)估計(jì)值的方差增大，1/(1-r2)為方差膨脹因子(VarianceInflationFactor,VIF)當(dāng)完全不共線時,r2

=0

當(dāng)近似共線時,0<

r2

<1當(dāng)完全共線時，r2=1，第十四頁，共四十二頁，編輯于2023年，星期五

3、參數(shù)估計(jì)量經(jīng)濟(jì)含義不合理

如果模型中兩個解釋變量具有線性相關(guān)性，例如X2=X1

，這時，X1和X2前的參數(shù)1、2并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對被解釋變量的共同影響。

1、2已經(jīng)失去了應(yīng)有的經(jīng)濟(jì)含義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象：例如1本來應(yīng)該是正的，結(jié)果恰是負(fù)的。第十五頁，共四十二頁，編輯于2023年，星期五

4、變量的顯著性檢驗(yàn)失去意義存在多重共線性時參數(shù)估計(jì)值的方差與標(biāo)準(zhǔn)差變大容易使通過樣本計(jì)算的t值小于臨界值，誤導(dǎo)作出參數(shù)為0的推斷可能將重要的解釋變量排除在模型之外第十六頁，共四十二頁，編輯于2023年，星期五

5、模型的預(yù)測功能失效

變大的方差容易使區(qū)間預(yù)測的“區(qū)間”變大，使預(yù)測失去意義。第十七頁，共四十二頁，編輯于2023年，星期五注意：除非是完全共線性，多重共線性并不意味著任何基本假設(shè)的違背；因此，即使出現(xiàn)較高程度的多重共線性，OLS估計(jì)量仍具有線性性等良好的統(tǒng)計(jì)性質(zhì)。

問題在于，即使OLS法仍是最好的估計(jì)方法，它卻不是“完美的”，尤其是在統(tǒng)計(jì)推斷上無法給出真正有用的信息。第十八頁，共四十二頁，編輯于2023年，星期五

多重共線性檢驗(yàn)的任務(wù)是：

（1）檢驗(yàn)多重共線性是否存在；（2）估計(jì)多重共線性的范圍，即判斷哪些變量之間存在共線性。多重共線性表現(xiàn)為解釋變量之間具有相關(guān)關(guān)系，所以用于多重共線性的檢驗(yàn)方法主要是統(tǒng)計(jì)方法：如判定系數(shù)檢驗(yàn)法、逐步回歸檢驗(yàn)法等。三、多重共線性的檢驗(yàn)第十九頁，共四十二頁，編輯于2023年，星期五

1、檢驗(yàn)多重共線性是否存在

(1)對兩個解釋變量的模型，采用簡單相關(guān)系數(shù)法求出X1與X2的簡單相關(guān)系數(shù)r，若|r|接近1，則說明兩變量存在較強(qiáng)的多重共線性。

(2)對多個解釋變量的模型，采用綜合統(tǒng)計(jì)檢驗(yàn)法若在OLS法下：R2與F值較大，但t檢驗(yàn)值較小，說明各解釋變量對Y的聯(lián)合線性作用顯著，但各解釋變量間存在共線性而使得它們對Y的獨(dú)立作用不能分辨，故t檢驗(yàn)不顯著。第二十頁，共四十二頁，編輯于2023年，星期五

2、判明存在多重共線性的范圍

如果存在多重共線性，需進(jìn)一步確定究竟由哪些變量引起。

(1)判定系數(shù)檢驗(yàn)法使模型中每一個解釋變量分別以其余解釋變量為解釋變量進(jìn)行回歸，并計(jì)算相應(yīng)的擬合優(yōu)度。如果某一種回歸

Xji=1X1i+2X2i+LXLi的判定系數(shù)較大，說明Xj與其他X間存在共線性。第二十一頁，共四十二頁，編輯于2023年，星期五具體可進(jìn)一步對上述回歸方程作F檢驗(yàn)：

式中：Rj?2為第j個解釋變量對其他解釋變量的回歸方程的決定系數(shù)，若存在較強(qiáng)的共線性，則Rj?2較大且接近于1，這時（1-Rj?2

）較小，從而Fj的值較大。因此，給定顯著性水平，計(jì)算F值，并與相應(yīng)的臨界值比較，來判定是否存在相關(guān)性。構(gòu)造如下F統(tǒng)計(jì)量第二十二頁，共四十二頁，編輯于2023年，星期五

在模型中排除某一個解釋變量Xj，估計(jì)模型；如果擬合優(yōu)度與包含Xj時十分接近，則說明Xj與其它解釋變量之間存在共線性。另一等價的檢驗(yàn)是:第二十三頁，共四十二頁，編輯于2023年，星期五

(2)逐步回歸法

以Y為被解釋變量，逐個引入解釋變量，構(gòu)成回歸模型，進(jìn)行模型估計(jì)。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否獨(dú)立。

如果擬合優(yōu)度變化顯著，則說明新引入的變量是一個獨(dú)立解釋變量；

如果擬合優(yōu)度變化很不顯著，則說明新引入的變量與其它變量之間存在共線性關(guān)系。第二十四頁，共四十二頁，編輯于2023年，星期五找出引起多重共線性的解釋變量，將它排除出去。以逐步回歸法得到最廣泛的應(yīng)用。注意：這時，剩余解釋變量參數(shù)的經(jīng)濟(jì)含義和數(shù)值都發(fā)生了變化。

如果模型被檢驗(yàn)證明存在多重共線性，則需要發(fā)展新的方法估計(jì)模型，最常用的方法有三類。四、克服多重共線性的方法

1、第一類方法：排除引起共線性的變量第二十五頁，共四十二頁，編輯于2023年，星期五

2、第二類方法：差分法時間序列數(shù)據(jù)、線性模型：將原模型變換為差分模型:

Yi=1X1i+2X2i++kXki+i可以有效地消除原模型中的多重共線性。

一般講，增量之間的線性關(guān)系遠(yuǎn)比總量之間的線性關(guān)系弱得多。第二十六頁，共四十二頁，編輯于2023年，星期五

例

如：第二十七頁，共四十二頁，編輯于2023年，星期五由表中的比值可以直觀地看到，增量的線性關(guān)系弱于總量之間的線性關(guān)系。

進(jìn)一步分析：

Y與C(-1)之間的判定系數(shù)為0.9988，△Y與△C(-1)之間的判定系數(shù)為0.9567第二十八頁，共四十二頁，編輯于2023年，星期五

3、第三類方法：減小參數(shù)估計(jì)量的方差

多重共線性的主要后果是參數(shù)估計(jì)量具有較大的方差，所以

采取適當(dāng)方法減小參數(shù)估計(jì)量的方差，雖然沒有消除模型中的多重共線性，但確能消除多重共線性造成的后果。例如：①增加樣本容量，可使參數(shù)估計(jì)量的方差減小。第二十九頁，共四十二頁，編輯于2023年，星期五*②嶺回歸法（RidgeRegression）

70年代發(fā)展的嶺回歸法，以引入偏誤為代價減小參數(shù)估計(jì)量的方差，受到人們的重視。具體方法是：引入矩陣D，使參數(shù)估計(jì)量為

其中矩陣D一般選擇為主對角陣，即

D=aI

a為大于0的常數(shù)。（*）顯然，與未含D的參數(shù)B的估計(jì)量相比，(*)式的估計(jì)量有較小的方差。第三十頁，共四十二頁，編輯于2023年，星期五六、案例——中國糧食生產(chǎn)函數(shù)

根據(jù)理論和經(jīng)驗(yàn)分析，影響糧食生產(chǎn)（Y）的主要因素有：農(nóng)業(yè)化肥施用量（X1）；糧食播種面積(X2)

成災(zāi)面積(X3);農(nóng)業(yè)機(jī)械總動力(X4);

農(nóng)業(yè)勞動力(X5)已知中國糧食生產(chǎn)的相關(guān)數(shù)據(jù)，建立中國糧食生產(chǎn)函數(shù)：

Y=0+1X1+2X2+3X3

+4X4

+4X5

+第三十一頁，共四十二頁，編輯于2023年，星期五第三十二頁，共四十二頁，編輯于2023年，星期五

1、用OLS法估計(jì)上述模型：

R2接近于1；給定=5%，得F臨界值F0.05(5,12)=3.11

F=638.4>15.19，故認(rèn)上述糧食生產(chǎn)的總體線性關(guān)系顯著成立。但X4

、X5

的參數(shù)未通過t檢驗(yàn)，且符號不正確，故解釋變量間可能存在多重共線性。

(-0.91)(8.39)(3.32)(-2.81)(-1.45)(-0.14)第三十三頁，共四十二頁，編輯于2023年，星期五

2、檢驗(yàn)簡單相關(guān)系數(shù)發(fā)現(xiàn)：

X1與X4間存在高度相關(guān)性。列出X1，X2，X3，X4，X5的相關(guān)系數(shù)矩陣：第三十四頁，共四十二頁，編輯于2023年，星期五

3、找出最簡單的回歸形式可見，應(yīng)選第1個式子為初始的回歸模型。分別作Y與X1，X2，X4，X5間的回歸：

(25.58)(11.49)R2=0.8919F=132.1DW=1.56

(-0.49)(1.14)R2=0.075F=1.30DW=0.12

(17.45)(6.68)R2=0.7527F=48.7DW=1.11

(-1.04)(2.66)R2=0.3064F=7.07DW=0.36第三十五頁