《線程的多維性》PPT課件.ppt

1、1,第四章 多重共線性 嗆口小辣椒博客,計(jì)量經(jīng)濟(jì)學(xué),3,引子：發(fā)展農(nóng)業(yè)和建筑業(yè)會(huì)減少財(cái)政收入嗎？,為了分析各主要因素對(duì)財(cái)政收入的影響，建立財(cái)政收 入模型: 其中: CS財(cái)政收入(億元) ; NZ農(nóng)業(yè)增加值(億元); GZ工業(yè)增加值(億元); JZZ建筑業(yè)增加值(億元); TPOP總?cè)丝?萬人); CUM最終消費(fèi)(億元); SZM受災(zāi)面積(萬公頃) 數(shù)據(jù)樣本時(shí)期1978年-2003年（資料來源：中國(guó)統(tǒng)計(jì)年鑒2004，中國(guó)統(tǒng)計(jì)出版社2004年版） 采用普通最小二乘法得到以下估計(jì)結(jié)果,4,財(cái)政收入模型的EViews估計(jì)結(jié)果,5,可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模型擬合很好。模型對(duì)財(cái)

2、政收入的解釋程度高達(dá)99.5%。 F統(tǒng)計(jì)量為632.10，說明0.05水平下回歸方程整體上顯著。 t 檢驗(yàn)結(jié)果表明，除了工業(yè)增加值和總?cè)丝谝酝?，其他因素?duì)財(cái)政收入的影響均不顯著。 農(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負(fù)數(shù)。 農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會(huì)使財(cái)政收入減少嗎？! 這樣的異常結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。 若模型設(shè)定和數(shù)據(jù)真實(shí)性沒問題，問題出在哪里呢？,模型估計(jì)與檢驗(yàn)結(jié)果分析,6,第四章 多重共線性,本章討論四個(gè)問題： 什么是多重共線性 多重共線性產(chǎn)生的后果 多重共線性的檢驗(yàn) 多重共線性的補(bǔ)救措施,7,第一節(jié) 什么是多重共線性,本節(jié)基本內(nèi)容: 多重共線性的含義 產(chǎn)生多重共線性的背景,

3、8,一、多重共線性的含義,對(duì)于模型 i=1,2,n 其基本假設(shè)之一是解釋變量是互相獨(dú)立的。 如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性,9,不完全的多重共線性: 在計(jì)量經(jīng)濟(jì)學(xué)中所謂的多重共線性(Multi-Collinearity)，不僅包括完全的多重共線性，還包括不完全的多重共線性。 對(duì)于解釋變量 ，如果存在不全為0的 數(shù) ，使得 則稱解釋變量 之間存在著完全的多重 共線性。,10,當(dāng) 時(shí)，表明在數(shù)據(jù)矩陣 中，至少有一個(gè)列向量可以用其余的列向量線性表示，則說明存在完全的多重共線性。 矩陣表示為,11,不完全的多重共線性,實(shí)際中，常見的情形是解釋變量之間存在不完全的多重共線性。

4、,12,無多重共線性,如果解釋變量之間不存在上述關(guān)系，則稱解釋變量之間無多重共線性此時(shí)： 注意：個(gè)解釋變量不存在多重共線性（線性相關(guān)）并不能說明它們之間無關(guān)，不存在非線性關(guān)系,13,，解釋變量間毫無線性關(guān)系，變量間相互正交。這時(shí)已不需要作多元回歸，每個(gè)參數(shù)j都可以通過Y 對(duì) Xj 的一元回歸來估計(jì)。,14,二、產(chǎn)生多重共線性的原因,多重共線性產(chǎn)生的經(jīng)濟(jì)背景主要有幾種情形： 1.經(jīng)濟(jì)變量之間往往存在同方向的變化趨勢(shì)。當(dāng)他們被引入同一個(gè)模型成為解釋變量時(shí)，會(huì)出現(xiàn)多重共線性 2.模型中包含滯后變量，變量各期值之間有可能高度相關(guān)。 3.利用截面數(shù)據(jù)建立模型也可能出現(xiàn)多重共線性。 4.經(jīng)濟(jì)變量之間往往存

5、在著密切的內(nèi)在關(guān)聯(lián)度，要素之間互相制約，互相依存。 5.樣本數(shù)據(jù)自身的原因，數(shù)據(jù)收集的范圍過窄，造成某些解釋變量之間似乎有相同或相反變化趨勢(shì)的假象。 .在建模過程中由于解釋變量選擇不當(dāng)，引起變量之間的多重共線性 注：解釋變量之間的多重共線性不可避免，只可能使多重共線性的程度盡可能地減弱,15,第二節(jié) 多重共線性產(chǎn)生的后果,本節(jié)基本內(nèi)容: 完全多重共線性產(chǎn)生的后果 不完全多重共線性產(chǎn)生的后果,16,一、完全多重共線性產(chǎn)生的后果,17,1.參數(shù)的估計(jì)值不確定 當(dāng)解釋變量完全線性相關(guān)時(shí) OLS 估計(jì)式不確定 從偏回歸系數(shù)意義看：在 和 完全共線性時(shí)，無法保持 不變，去單獨(dú)考慮 對(duì) 的影響（ 和 的影

6、響不可區(qū)分） 從OLS估計(jì)式看：可以證明此時(shí) 2.參數(shù)估計(jì)值的方差無限大 OLS估計(jì)式的方差成為無窮大：,18,二、不完全多重共線性產(chǎn)生的后果,19,如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計(jì)值，但是對(duì)計(jì)量經(jīng)濟(jì)分析可能會(huì)產(chǎn)生一系列的影響。 1.參數(shù)估計(jì)值的方差增大 為對(duì)其他解釋變量做輔助回歸模型的決定系數(shù) 其中： 稱為方差膨脹因子 當(dāng)與其他解釋變量存在嚴(yán)重的多重共線性時(shí)：,20,2.對(duì)參數(shù)區(qū)間估計(jì)時(shí)， 置信區(qū)間趨于變大區(qū)間估計(jì)失去可靠性；預(yù)測(cè)區(qū)間變大，降低預(yù)測(cè)精度 3.假設(shè)檢驗(yàn)容易作出錯(cuò)誤的判斷，檢驗(yàn)的可靠性降低，可能導(dǎo)致在假設(shè)檢驗(yàn)中舍去重要的解釋變量 因?yàn)椋夯貧w參數(shù)顯著性檢驗(yàn),21

7、,4.可能造成可決系數(shù)較高，但對(duì)各個(gè)參數(shù)單獨(dú)的 t 檢驗(yàn)卻可能不顯著，甚至可能使估計(jì)的回歸系數(shù)符號(hào)相反，得出完全錯(cuò)誤的結(jié)論。無法正確反映每個(gè)解釋變量對(duì)被解釋變量的單獨(dú)影響。 回歸模型缺乏穩(wěn)定性 當(dāng)樣本觀測(cè)數(shù)據(jù)發(fā)生微小變化時(shí)，模型參數(shù)的估計(jì)值會(huì)有很大的變化（氏檢驗(yàn)）,22,第三節(jié) 多重共線性的檢驗(yàn),本節(jié)基本內(nèi)容： 簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法 方差擴(kuò)大（膨脹）因子法 直觀判斷法 逐步回歸法,23,一、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法,含義：簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。 判斷規(guī)則：一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù)(零階相關(guān)系數(shù))比較高，例如大于0

8、.8，則可認(rèn)為存在著較嚴(yán)重的多重共線性。,24,Klein判別公式:,25,注意： 1.較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。 2.只適用于兩個(gè)解釋變量之間存在線性相關(guān)檢驗(yàn),對(duì)于三個(gè)或更多的解釋變量之間存在的線性相關(guān)關(guān)系不適用 3.相關(guān)系數(shù)很大則必存在多重共線性,而相關(guān)系數(shù)很小卻未必沒有多重共線性.特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。,26,二、輔助回歸檢驗(yàn)法,27,三、方差擴(kuò)大（膨脹）因子法,28,經(jīng)驗(yàn)規(guī)則,方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過來，

9、方差膨脹因子越接近于1，多重共線性越弱。 經(jīng)驗(yàn)表明，方差膨脹因子10時(shí)，說明解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過度地影響最小二乘估計(jì)。,29,四、直觀判斷法,根據(jù)回歸結(jié)果判斷也叫不顯著系數(shù)檢驗(yàn)法 1.從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒有通過顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。 F檢驗(yàn)大于給定顯著性水平下的臨界值.但模型中的全部或部分參數(shù)估計(jì)值卻不顯著,或系數(shù)估計(jì)值的符號(hào)不對(duì),則模型自變量之間存在多重共線性.,30,2. 當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可

10、能存在嚴(yán)重的多重共線性。 3. 有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存在多重共線性。 4. 解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問題。,31,五、逐步回歸檢測(cè)法,也稱Frisch綜合分析法其基本思想： 將變量逐個(gè)的引入模型，每引入一個(gè)解釋變量后，都要進(jìn)行檢驗(yàn)，并對(duì)已經(jīng)選入的解釋變量逐個(gè)進(jìn)行t 檢驗(yàn)，當(dāng)原來引入的解釋變量由于后面解釋變量的引入而變得不再顯著時(shí)，則將其剔除。以確保每次引入新的變量之前回歸方程中只包含顯著的變量。 在逐步回歸中，高度相關(guān)的解釋變量，在引入時(shí)會(huì)被剔除。因而也是一種檢測(cè)多重共線性的有效方法。,32,六、特征值檢驗(yàn)法

11、,33,第四節(jié) 多重共線性的補(bǔ)救措施,本節(jié)基本內(nèi)容: 修正多重共線性的經(jīng)驗(yàn)方法 逐步回歸法,34,一、修正多重共線性的經(jīng)驗(yàn)方法,1. 剔除變量法 是降低多重共線性最簡(jiǎn)便的方法. 把方差擴(kuò)大因子最大者所對(duì)應(yīng)的自變量首先 剔除再重新建立回歸方程，直至回歸方程中 不再存在嚴(yán)重的多重共線性。 注意: 若剔除了重要變量，可能引起模型的設(shè) 定誤差。,35,2. 增大樣本容 樣本容量增加，會(huì)減小回歸參數(shù)的方差，標(biāo)準(zhǔn)誤差也同樣會(huì)減小。因此盡可能地收集足夠多的樣本數(shù)據(jù)可以改進(jìn)模型參數(shù)的估計(jì)。 樣本容量越小有近似多重共線性的可能性就越大,反之,樣本容量越大,多重共線性的可能性就越小問題：增加樣本數(shù)據(jù)在實(shí)際計(jì)量分析

12、中常面臨許多困難,受制于實(shí)際情況。 增大樣本容量并不必然降低近似的多重共線性,如增加的數(shù)據(jù)也有類似的共線性,就不起作用 如果變量總體中本來就有共線性問題,再增大樣本容量也無濟(jì)于事.,36,3. 變換模型形式 一般而言，差分后變量之間的相關(guān)性要比差分 前弱得多，所以差分后的模型可能降低出現(xiàn)共 線性的可能性，此時(shí)可直接估計(jì)差分方程。 問題：差分會(huì)丟失一些信息，差分模型的誤差 項(xiàng)可能存在序列相關(guān)，可能會(huì)違背經(jīng)典線性回 歸模型的相關(guān)假設(shè)，在具體運(yùn)用時(shí)要慎重。,37,4. 利用非樣本先驗(yàn)信息 通過經(jīng)濟(jì)理論分析能夠得到某些參數(shù)之間的關(guān) 系，可以將這種關(guān)系作為約束條件，將此約束 條件和樣本信息結(jié)合起來進(jìn)行約

13、束最小二乘估 計(jì)。,38,5. 橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用 首先利用橫截面數(shù)據(jù)估計(jì)出部分參數(shù)，再利用 時(shí)序數(shù)據(jù)估計(jì)出另外的部分參數(shù)，最后得到整 個(gè)方程參數(shù)的估計(jì)。 注意：這里包含著假設(shè)，即參數(shù)的橫截面估計(jì)和 從純粹時(shí)間序列分析中得到的估計(jì)是一樣的。,39,6. 變量變換 變量變換的主要方法： (1)計(jì)算相對(duì)指標(biāo) (2)將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù) (3)將小類指標(biāo)合并成大類指標(biāo) 變量數(shù)據(jù)的變換有時(shí)可得到較好的結(jié)果，但無 法保證一定可以得到很好的結(jié)果。,40,二、逐步回歸法,（1）用被解釋變量對(duì)每一個(gè)所考慮的解釋變量做簡(jiǎn)單回歸。 （2）以對(duì)被解釋變量貢獻(xiàn)最大的解釋變量所對(duì)應(yīng)的回歸方程為基礎(chǔ)，按對(duì)被解釋

14、變量貢獻(xiàn)大小的順序逐個(gè)引入其余的解釋變量。 若新變量的引入改進(jìn)了 和 檢驗(yàn)，且回歸參 數(shù)的t 檢驗(yàn)在統(tǒng)計(jì)上也是顯著的，則在模型中保 留該變量。,41,若新變量的引入未能改進(jìn) 和 檢驗(yàn)，且對(duì)其他回 歸參數(shù)估計(jì)值的t 檢驗(yàn)也未帶來什么影響，則認(rèn)為該 變量是多余變量。 若新變量的引入未能改進(jìn) 和 檢驗(yàn)，且顯著地影 響了其他回歸參數(shù)估計(jì)值的數(shù)值或符號(hào)，同時(shí)本身的 回歸參數(shù)也通不過t 檢驗(yàn)，說明出現(xiàn)了嚴(yán)重的多重共 線性。,42,三、其他方法(了解).,1.嶺回歸法 2.主成分回歸.,43,第五節(jié) 案例分析,一、研究的目的要求 提出研究的問題為了規(guī)劃中國(guó)未來國(guó)內(nèi)旅游產(chǎn)業(yè) 的發(fā)展，需要定量地分析影響中國(guó)國(guó)內(nèi)

15、旅游市場(chǎng)發(fā)展 的主要因素。 二、模型設(shè)定及其估計(jì) 影響因素分析與確定影響因素主要有國(guó)內(nèi)旅游 人數(shù) ，城鎮(zhèn)居民人均旅游支出 ，農(nóng)村居民人均 旅游支出 ，并以公路里程次 和鐵路里程 作為相關(guān)基礎(chǔ)設(shè)施的代表 理論模型的設(shè)定 其中 ： 第 t 年全國(guó)國(guó)內(nèi)旅游收入,44,數(shù)據(jù)的收集與處理,數(shù)據(jù)來源:中國(guó)統(tǒng)計(jì)年鑒2004,45,該模型,，,可決系數(shù)很高，F(xiàn)檢驗(yàn)值 173.3525,明顯顯著。 但是當(dāng),時(shí),、,不僅 、 系數(shù)的t檢驗(yàn)不顯著，而且 系數(shù)的符號(hào)與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。,OLS 法估計(jì)的結(jié)果,46,計(jì)算各解釋變量的相關(guān)系數(shù),表明各解釋變量間確實(shí)存在嚴(yán)重的多重共線性,47,三

16、、消除多重共線性,采用逐步回歸法檢驗(yàn)和解決多重供線性問題。 分別作Y 對(duì)X2、X3、X4、X5、X6的一元回歸,的大小排序?yàn)椋篨3、X6、X2、X5、X4。,以X3為基礎(chǔ)，順次加入其他變量逐步回歸，過程從略 （見教材）,48,最后消除多重共線性的結(jié)果,這說明，在其他因素不變的情況下，當(dāng)城鎮(zhèn)居民人均旅游支出 和農(nóng)村居民人均旅游支出 分別增長(zhǎng)1元時(shí)，國(guó)內(nèi)旅游收入 將分別增長(zhǎng)4.21億元和3.22 億元。在其他因素不變的情況下， 作為旅游設(shè)施的代表，公路里程 每增加1萬公里時(shí), 國(guó)內(nèi)旅游 收入 將增長(zhǎng)13.63億元。,四、回歸結(jié)果的解釋與分析,49,第四章 小結(jié),1.多重共線性是指各個(gè)解釋變量之間有準(zhǔn)確或近似 準(zhǔn)確的線性關(guān)系。 2.多重共線性的后果： 如果各個(gè)解釋變量之間有完全的共線性，則它們的 回歸系數(shù)是不確定的，并且它們的方差會(huì)無窮大。 如果共線性是高度的但不完全的，回歸系數(shù)可估計(jì)， 但有較大的標(biāo)準(zhǔn)誤差?；貧w系數(shù)不能準(zhǔn)確地估計(jì)。,50,3.診斷共線性的經(jīng)驗(yàn)方法： (1) 表現(xiàn)為可決系數(shù)異常高而回歸系數(shù)的t 檢驗(yàn)不顯著。 (2) 變量之間