計量經(jīng)濟學(xué)-第七章-多重共線性正規(guī)版資料

計量經(jīng)濟學(xué)第七章多重共線性第一頁，共49頁。17.1多重共線性的兩種表現(xiàn)形式對于形如的多元線性回歸模型，如果自變量之間存在較強的線性關(guān)系，或者說一組不全為零的常數(shù)，使得那么(nàme)就說原模型中存在多重共線性。則表明原模型中存在(cúnzài)完全多重共線性則表明原模型(móxíng)中存在不完全多重共線性第二頁，共49頁。21.完全(wánquán)多重共線性假設(shè)(jiǎshè)為了研究某種商品的需求函數(shù)4912984522964432943942923852903762883472863282843092822910280收集到一組樣本數(shù)據(jù)(shùjù)，觀察兩個自變量，它們之間實際上存在下面函數(shù)關(guān)系也就是說兩個自變量之間存在明確的線性關(guān)系，即所謂的完全共線性第三頁，共49頁。3因而(yīnér)原來的模型變?yōu)檫@個模型實際上變成了一個(yīɡè)一元線性回歸模型，我們可以估計出截距系數(shù)和斜率系數(shù)在上面的方程組中，有三個未知數(shù)，沒有辦法(bànfǎ)求出原回歸模型中三個參數(shù)的唯一解，這就是完全多重共線性的后果第四頁，共49頁。42.不完全(wánquán)多重共線性假設(shè)現(xiàn)在收集到另外一組樣本數(shù)據(jù)，在這個樣本中，兩個自變量之間沒有明確的函數(shù)關(guān)系，但是(dànshì)它們之間的相關(guān)系數(shù)，說明兩個變量之間還是存在線性相關(guān)關(guān)系491297.5452294.9443293.5394292.8385290.2376289.7347285.8328294.6309291.12910278.8第五頁，共49頁。5在這種不完全多重共線性情況下，可以(kěyǐ)對模型使用最小二乘估計，得到下面的結(jié)果(-3.4444)(-0.7911)參數(shù)是可以估計出來(chūlái)，但是這個模型存在下面兩個問題:1.收入?yún)?shù)的斜率系數(shù)符號為負(fù)，在現(xiàn)實生活中我們知道隨著人們(rénmen)收入的增加，對一般商品的需求應(yīng)該也是增加的，參數(shù)符號應(yīng)該為正；第六頁，共49頁。67.2多重共線性產(chǎn)生(chǎnshēng)的原因1、經(jīng)濟(jīngjì)變量之間的內(nèi)在聯(lián)系(對橫截面數(shù)據(jù))工業(yè)生產(chǎn)函數(shù)(hánshù)中，勞動力投入量和資金投入量產(chǎn)品需求函數(shù)中，商品本身價格和替代品價格消費函數(shù)中，人們的收入和財產(chǎn)這些變量之間實際上相互聯(lián)系，經(jīng)常會表現(xiàn)出一定的相關(guān)關(guān)系2、經(jīng)濟變量共同變化的趨勢(對時間序列數(shù)據(jù))這些經(jīng)濟變量本身之間可能沒有非常密切的聯(lián)系，但是它們在相同的樣本期間內(nèi)，有著相同變化的趨勢，比如在經(jīng)濟繁榮的時期，人們的收入、、就業(yè)等經(jīng)濟變量都會相同的增長趨勢第七頁，共49頁。73、模型中引入了滯后(zhìhòu)變量比如(bǐrú)在消費函數(shù)中引入了上一期或者前幾期收入，各期收入之間有可能是高度相關(guān)的第八頁，共49頁。87.3多重共線性的后果(hòuguǒ)多重共線性對多元線性模型的影響，可以從完全多重共線性和不完全多重共線性兩個方面進行(jìnxíng)分析。(1)參數(shù)無法估計(參數(shù)無唯一解)前面我們已經(jīng)通過一個例子說明在完全多線性的情況下，沒有辦法(bànfǎ)得到參數(shù)的唯一解，實際上我們也可以從二元線性回歸模型的參數(shù)估計表達式中得出同樣得結(jié)論第九頁，共49頁。9以一個二元線性回歸模型的偏斜(piānxié)率系數(shù)為例在完全(wánquán)共線性情況下，若第十頁，共49頁。10(2)參數(shù)估計量的方差(fānɡchà)無窮大在多元線性回歸模型一章(yīzhānɡ)中也給出了參數(shù)估計量的方差第十一頁，共49頁。11兩個(liǎnɡɡè)自變量完全共線性時，第十二頁，共49頁。122.不完全(wánquán)多重共線性對模型的影響(1)參數(shù)(cānshù)估計值的方差增大隨著自變量之間的相關(guān)性增強，估計參數(shù)(cānshù)的方差也隨之增大，從剛推導(dǎo)出的方差表達式中也可以看出第十三頁，共49頁。13為此特別(tèbié)定義方差膨脹因子010.520.850.9100.95200.96250.97330.98500.991000.9991000

觀察右側(cè)方差增大的趨勢表，可以發(fā)現(xiàn)當(dāng)變量之間的的相關(guān)系數(shù)，方差急劇增大第十四頁，共49頁。14(2)t檢驗的可靠性降低模型中存在多重共線性時，估計參數(shù)的方差增大，因此其標(biāo)準(zhǔn)差也會增大，從而(cóngér)使得t檢驗值減小,一個或多個自變量可能沒有辦法通過參數(shù)的顯著性檢驗，其檢驗的可靠性也會降低(3)難以區(qū)分每個自變量對因變量的單獨影響正是(zhènɡshì)由于自變量之間的共線性，它們相互影響，因此沒有辦法分離出每個解釋變量對因變量的影響第十五頁，共49頁。15(4)參數(shù)估計值及其標(biāo)準(zhǔn)差對數(shù)據(jù)(shùjù)的微小變化都非常敏感yx1x212420234124605816yx1x212420234046125816第十六頁，共49頁。167.4多重共線性的檢驗(jiǎnyàn)多重共線性檢驗一般要實現(xiàn)下面幾個(jǐɡè)任務(wù)多重共線性產(chǎn)生的原因比較復(fù)雜，在實際的檢驗(jiǎnyàn)過程中沒有固定的、確定的方法，只有一些探索性的手段第十七頁，共49頁。171.利用(lìyòng)相關(guān)系數(shù)檢驗通過計算自變量之間的兩兩的相關(guān)系數(shù)，可以大體判斷出模型中是否(shìfǒu)存在多重共線性以新教材P115模型為例經(jīng)過(jīngguò)計算，四個自變量兩兩的相關(guān)系數(shù)如下

從上面的相關(guān)系數(shù)矩陣中可以看出這四個自變量兩兩之間高度相關(guān)，因此原模型中存在多重共線性問題第十八頁，共49頁。18由于(yóuyú)x對應(yīng)的一元線性回歸模型擬合系數(shù)最大，第三十一頁，共49頁。如果最小二乘估計結(jié)果的擬合系數(shù)和方程總體顯著(xiǎnzhù)統(tǒng)計量都比較大，而有的自變量的偏斜率系數(shù)t檢驗值較小，無法通過顯著(xiǎnzhù)性檢驗，此時模型中可能會存在多重共線性問題思路：向前選擇法從一元線性回歸模型(móxíng)開始，找出擬合系數(shù)最大的一元線性回歸模型(móxíng)和自變量，然后再向模型(móxíng)中增加一個變量，找到擬合系數(shù)或F值最大的二元線性回歸模型(móxíng)；1)改變模型的函數(shù)形式，將線性回歸(huíguī)模型轉(zhuǎn)為為對數(shù)模型或者多項式模型等；采用類似方法不停地向模型(móxíng)中增加自變量。⒈如果建立模型的目的僅僅是為了預(yù)測，只要模型的擬合(nǐhé)系數(shù)較大，而且自變量之間的相關(guān)關(guān)系在短時間內(nèi)不會變化，那么多重共線性的影響其實并不太重要；(1)計算該模型的方差膨脹因子方差膨脹(péngzhàng)因子的有關(guān)說明多重共線性產(chǎn)生的原因比較復(fù)雜，在實際的檢驗(jiǎnyàn)過程中沒有固定的、確定的方法，只有一些探索性的手段需求(xūqiú)函數(shù)就可以寫成多重共線性對多元線性模型的影響，可以從完全多重共線性和不完全多重共線性兩個方面進行(jìnxíng)分析。如果價格和收入之間有高度共線性的趨勢，對上面的模型(móxíng)進行回歸將會遇到多重共線性問題。某個自變量的容許度數(shù)值越大，其他自變量對該自變量的解釋程度越小，那么這個自變量和其他自變量的共線性程度越小；一個(yīɡè)較高的方差膨脹因子既不是導(dǎo)致參數(shù)估計值較大的標(biāo)準(zhǔn)誤差的必要條件也不是充分條件，也就是說一個(yīɡè)較高的VIF度量出來的較高的多重共線性不一定會導(dǎo)致參數(shù)估計值較高的標(biāo)準(zhǔn)誤差。比如(bǐrú)在消費函數(shù)中引入了上一期或者前幾期收入，各期收入之間有可能是高度相關(guān)的2.綜合分析普通(pǔtōng)最小二乘估計的結(jié)果如果最小二乘估計結(jié)果的擬合系數(shù)和方程總體顯著(xiǎnzhù)統(tǒng)計量都比較大，而有的自變量的偏斜率系數(shù)t檢驗值較小，無法通過顯著(xiǎnzhù)性檢驗，此時模型中可能會存在多重共線性問題仍以新教材(jiàocái)P115或老教材(jiàocái)P146頁的數(shù)據(jù)為例

(-1.7614)(3.7076)(0.2951)(-2.2049)(2.2391)第十九頁，共49頁。193.通過輔助(fǔzhù)回歸方程進行檢驗這種檢驗方法通過建立(jiànlì)每個自變量和其它自變量之間的輔助線性回歸方程來檢驗?zāi)Ｐ椭惺欠翊嬖诙嘀毓簿€性，也就是建立(jiànlì)形如如果其中某些自變量通過參數(shù)顯著性檢驗，就表明(biǎomíng)模型中存在多重共線性。第二十頁，共49頁。20①不僅能檢驗是否模型中是否存在(cúnzài)多重共線性，而且可以得到多重共線性的具體形式；這種檢驗方法具有(jùyǒu)比較顯著的作用：②結(jié)合相關(guān)(xiāngguān)和偏相關(guān)(xiāngguān)分析，可以進一步斷定模型中哪些自變量引起多重共線性第二十一頁，共49頁。21

(-3.0501)(3.5450)(-0.8013)(2.3868)(0.8944)(3.5450)(1.0732)(-1.3268)第二十二頁，共49頁。22(0.9844)(-0.8013)(1.0731)(3.3131)第二十三頁，共49頁。23(1)計算每個自變量對應(yīng)的方差膨脹因子VIF來判斷模型中是否存在(cúnzài)多重共線性，一般認(rèn)為如果方差膨脹因子VIF>10，那么模型中的自變量之間是高度共線性的。第二十四頁，共49頁。24(2)容許度(tolerance)是方差膨脹因子的倒數(shù)，某個自變量的容許度就是其他自變量所不能解釋的這個自變量的變動(biàndòng)程度。某個自變量的容許度數(shù)值越大，其他自變量對該自變量的解釋程度越小，那么這個自變量和其他自變量的共線性程度越??；反之則表明這個自變量和其他自變量的共線性程度越大。第二十五頁，共49頁。25輔助回歸方程(1)0.9922127.62100.0078輔助回歸方程(2)0.982055.49900.0180輔助回歸方程(3)0.986373.04000.0137輔助回歸方程(4)0.9921126.61200.0079通過計算可以看出每一個輔助回歸方程中的方差(fānɡchà)膨脹因子都大于10，容許度都比較小，因此原模型中存在比較嚴(yán)重的共線性問題第二十六頁，共49頁。26方差膨脹(péngzhàng)因子的有關(guān)說明使用方差膨脹因子來度量模型中的共線性僅僅是一種經(jīng)驗方法，它的使用也受到一些批評。一個(yīɡè)較高的方差膨脹因子既不是導(dǎo)致參數(shù)估計值較大的標(biāo)準(zhǔn)誤差的必要條件也不是充分條件，也就是說一個(yīɡè)較高的VIF度量出來的較高的多重共線性不一定會導(dǎo)致參數(shù)估計值較高的標(biāo)準(zhǔn)誤差。第二十七頁，共49頁。27X127.62103.70760.0139K55.49900.29510.7798P173.0400-2.20490.0786p0126.61202.23910.0753對比模型中每個自變量的方差膨脹因子(yīnzǐ)和參數(shù)顯著性檢驗的結(jié)果，可以發(fā)現(xiàn)第二個自變量的方差膨脹因子(yīnzǐ)是最小的，但偏偏是它沒有通過參數(shù)的顯著性檢驗，第一個自變量和第四個自變量的方差膨脹因子(yīnzǐ)都是非常大的，但是它們反而都通過了參數(shù)的顯著性檢驗第二十八頁，共49頁。28課堂(kètáng)練習(xí)題某商品的需求函數(shù)為其中Y為需求量,X1為商品價格,X2為收入(shōurù),現(xiàn)已知兩個自變量之間的相關(guān)系數(shù)為-0.96,需求函數(shù)的回歸結(jié)果為:(1)計算該模型的方差膨脹因子(2)結(jié)合方差膨脹因子和相關(guān)的檢驗統(tǒng)計量,判斷(pànduàn)該模型是否存在多重共線性第二十九頁，共49頁。297.5多重共線性的解決(jiějué)方法在處理多重共線性問題(wèntí)之前，必須明確兩點:⒈如果建立模型的目的僅僅是為了預(yù)測，只要模型的擬合(nǐhé)系數(shù)較大，而且自變量之間的相關(guān)關(guān)系在短時間內(nèi)不會變化，那么多重共線性的影響其實并不太重要；⒉多重共線性產(chǎn)生最主要的原因是多元線性回歸模型中自變量之間的相關(guān)性，其根本解決方法是剔除回歸模型中的若干自變量，但是這樣一來又會帶來其他的問題①模型的經(jīng)濟意義不盡合理如生產(chǎn)函數(shù)中，勞動力投入和資本投入之間經(jīng)常高度相關(guān)，剔除其中任何一個都不太合適第三十頁，共49頁。30②如果剔除的變量是比較重要的，那么將影響回歸(huíguī)模型的估計，容易使得模型產(chǎn)生異方差和自相關(guān)的問題；③如果自變量剔除不當(dāng)，還會使得模型設(shè)定存在偏差，造成(zàochénɡ)參數(shù)估計嚴(yán)重偏誤為了解決多重共線性的問題，我們應(yīng)該(yīnggāi)慎重考慮，根據(jù)自變量的特點，分別采用直接剔除法和間接剔除法來對多重共線性進行補救第三十一頁，共49頁。311.直接剔除次要或者可以替代(tìdài)的變量如果模型中有些自變量可能是沒有顯著影響的，或者它們(tāmen)的影響可以用其他變量來代替，那么可以直接剔除第三十二頁，共49頁。322.間接剔除(tīchú)重要的解釋變量(1)利用已知或者(huòzhě)附加的信息前面我們講到，在柯布－道格拉斯生產(chǎn)函數(shù)中，勞動力投入L和資本投入K之間常常是高度相關(guān)的，如果我們事先知道勞動力投入和資本投入之間是規(guī)模報酬不變的，即α＋β＝1，則原來的生產(chǎn)函數(shù)可以改寫為對于模型中重要的解釋變量，可以利用下面(xiàmian)的方法將它們“間接剔除”：第三十三頁，共49頁。33第三十四頁，共49頁。34(2)改變模型(móxíng)的形式對原來的模型進行適當(dāng)?shù)母淖冇袝r也可以消除(xiāochú)或者減少模型中自變量之間的相關(guān)程度：1)改變模型的函數(shù)形式，將線性回歸(huíguī)模型轉(zhuǎn)為為對數(shù)模型或者多項式模型等；2)改變自變量的形式，使用差分變量、相對數(shù)變量；

3)改變變量的統(tǒng)計指標(biāo)，比如在生產(chǎn)函數(shù)中，勞動力投入使用職工工資指標(biāo)，資本投入采用固定資產(chǎn)或者流動資產(chǎn)指標(biāo)來進行分析。第三十五頁，共49頁。35比如我們在前面提到過的商品需求(xūqiú)函數(shù)第三十六頁，共49頁。36(3)增加(zēngjiā)樣本容量多重共線性是一個樣本現(xiàn)象，在研究同一個問題的另外一個樣本中或許并不存在非常(fēicháng)嚴(yán)重的多重共線性，因此增大樣本容量也許能夠減輕模型中大的共線性程度。但是在在實際的工作中，社會(shèhuì)經(jīng)濟的數(shù)據(jù)并不是通過實驗方法來獲得的，要得到新增的數(shù)據(jù)并不是輕而易舉的事情，也許要花費很大的代價。第三十七頁，共49頁。37(4)綜合(zōnghé)使用橫截面數(shù)據(jù)和時間序列數(shù)據(jù)

比如研究汽車的需求(xūqiú)函數(shù)，假定收集到車輛出售數(shù)量、車輛平均價格和消費者收入的有關(guān)數(shù)據(jù)，并且設(shè)定如果價格和收入之間有高度共線性的趨勢，對上面的模型(móxíng)進行回歸將會遇到多重共線性問題。為了解決這個問題a)假設(shè)我們能夠收集到橫截面的數(shù)據(jù)，我們就能比較可靠地估計收入彈性，因為這些數(shù)據(jù)都產(chǎn)生在同一時間內(nèi)，價格不至于發(fā)生很大變化第三十八頁，共49頁。38(1)參數(shù)(cānshù)估計值的方差增大計量經(jīng)濟學(xué)第七章多重共線性②如果剔除的變量是比較重要的，那么將影響回歸(huíguī)模型的估計，容易使得模型產(chǎn)生異方差和自相關(guān)的問題；8013)(1.特點：使用這種方法，不容許把剔除的變量再增加(zēngjiā)到模型中。③如果自變量剔除不當(dāng)，還會使得模型設(shè)定存在偏差，造成(zàochénɡ)參數(shù)估計嚴(yán)重偏誤線性回歸模型，如果自變量之間存在較強的線性關(guān)系，或者說一組不全為零的常數(shù)，使得如生產(chǎn)函數(shù)中，勞動力投入和資本投入之間經(jīng)常高度相關(guān)，剔除其中任何一個都不太合適以新教材P115模型為例96,需求函數(shù)的回歸結(jié)果為:使用方差膨脹因子來度量模型中的共線性僅僅是一種經(jīng)驗方法，它的使用也受到一些批評。2049)(2.如果模型中有些自變量可能是沒有顯著影響的，或者它們(tāmen)的影響可以用其他變量來代替，那么可以直接剔除計量經(jīng)濟學(xué)第七章多重共線性①模型的經(jīng)濟意義不盡合理1)改變模型的函數(shù)形式，將線性回歸(huíguī)模型轉(zhuǎn)為為對數(shù)模型或者多項式模型等；需求(xūqiú)函數(shù)就可以寫成b)再利用時間序列(xùliè)數(shù)據(jù)，估計價格彈性這種方法的問題：這種方法解釋起來可能有一定的問題，它假定收入彈性的橫截面估計值和從純粹的時間序列分析中得到的估計值完全一致。當(dāng)橫截面估計在不同截面之間沒有多大變化(biànhuà)時可以考慮使用這種方法。第三十九頁，共49頁。391、向前(xiànɡqián)選擇法(Forward)多元回歸模型中選擇(xuǎnzé)自變量的方法思路：向前選擇法從一元線性回歸模型(móxíng)開始，找出擬合系數(shù)最大的一元線性回歸模型(móxíng)和自變量，然后再向模型(móxíng)中增加一個變量，找到擬合系數(shù)或F值最大的二元線性回歸模型(móxíng)；采用類似方法不停地向模型(móxíng)中增加自變量。當(dāng)增加的自變量不能使殘差平方和明顯減少時，結(jié)束這一過程。第四十頁，共49頁。40問題：這種方法不能反應(yīng)引入新的自變量后模型的變化情況，某個自變量開始可能是顯著的，但是引入其他自變量后也許會變得不顯著了，但是沒有機會將它剔除(tīchú)出去，只考慮引入變量，沒有考慮剔除(tīchú)的方法是不全面的。特點：使用(shǐyòng)這種方法，變量被增加到模型中，就不容許把它從模型中剔除。第四十一頁，共49頁。412、向后排除法(Backward)思路：這種方法和向前選擇法相反，它從包含所有自變量的回歸模型開始，然后利用準(zhǔn)則從模型中剔除變量，使模型的擬合系數(shù)減