第六講 工具變量回歸概要

1、工具變量回歸OLS經(jīng)典假設(shè)所有的解釋變量Xi與隨機(jī)誤差項(xiàng)彼此之間不相關(guān)。Cov(ui.Xi)=0若解釋變量Xi和Ui相關(guān)，貝！IOLS估計(jì)量是非一致的，也就是即使當(dāng)樣本容量很大時(shí)，OLS估計(jì)量也不會(huì)接近回歸系數(shù)的真值。當(dāng)解釋變量和隨機(jī)誤差項(xiàng)相關(guān)時(shí)，模型存在著內(nèi)生性問(wèn)題。0在計(jì)量經(jīng)濟(jì)學(xué)中，把所有與擾動(dòng)項(xiàng)相關(guān)的解釋變量都稱為“內(nèi)生變量”。這與一般經(jīng)濟(jì)學(xué)理論中的定義有所不同Orlo與誤差項(xiàng)相關(guān)的變量稱為內(nèi)生變量(endogenousvariable)廠2。與誤差項(xiàng)不相關(guān)的變量稱為外生變量(exogenousvariable)o相關(guān)（內(nèi)生性）因很多，但我們主要考慮如下幾個(gè)方面:曠遺漏變量偏差r變量有測(cè)

2、量誤差廣雙向因果關(guān)系。遺漏變量偏差假設(shè)真實(shí)的模型為V.=X.3+乙乩八Zl11/2'21I而實(shí)際估計(jì)的模型為yi+他遺漏變量(omittedvai-inbbs)無(wú)；0被歸入新擾動(dòng)項(xiàng)色中去了?？紤]以下兩種情形，（1）遺漏變量血與解釋變量殲不相關(guān),即Cov（£“2）二0。在這種情況下,擾動(dòng)項(xiàng)冷與解釋變量以不相關(guān)，根據(jù)大樣本理論，OLS依然可以一致地估計(jì)何。但由于遺漏變量曲2被歸入擾動(dòng)項(xiàng)冷中，可能增大擾動(dòng)項(xiàng)的方弟，從而影響OLS估計(jì)的精確度。（2）遺漏變量如與解釋變量州相關(guān)，即Cov（嗎“2）工0。在這種情況下,根據(jù)大樣本理論，OLS不再是一致的，其偏差被稱為“遺漏變量偏差”（om

3、ittedvariablebias）0這種偏差在計(jì)量實(shí)賤中較常見，成為某些實(shí)證研究的致命傷。比如，在研究教育投資回報(bào)時(shí),個(gè)體的先天能力因?yàn)闊o(wú)法觀測(cè)血披遺漏，但能力與受教育年限很可能存在正相關(guān)。曠7變量有測(cè)量誤差曠測(cè)量數(shù)據(jù)正確時(shí)：假設(shè)方程為:X=00+0iXi+lli當(dāng)存在測(cè)量誤差時(shí)：方程為：%=00+01免+口所以我們有：X=0o+0&+"=00+01(XXi)+Ui曠0Vi01(XiXi)+Hi可知，誤差項(xiàng)中包含Xi-Xi所以可以得到：如果Cov(Xi-Xi,Xi)0貝！|回歸結(jié)果有偏，非一致我們假設(shè)Xi=Xi+Wi則有八(J2xO兀+O"w'結(jié)論:lo由

4、于cr2x2.因此啟即使在大樣本下也偏向于02?；貧w的性質(zhì)決定于w的標(biāo)準(zhǔn)差兀oo仏卩、°X°ax+crC八(7Xo-2w0血>00“1ox+awr之前我們假定因果關(guān)系是從回歸變量到因變量的（X導(dǎo)致了Y）。但如果因果關(guān)系同時(shí)也是從因變量到一個(gè)或多個(gè)回歸變量（Y導(dǎo)致了X）的呢？如果是這樣的話，因果關(guān)系是向前的也是“向后”的，即存在雙向因果關(guān)系，如果存在雙向因果關(guān)系，貝！JOLS回歸中同時(shí)包含了這兩個(gè)效應(yīng)，因此OLS估計(jì)量是有偏的、非一致的。Yi=島+燦X*+UiXi=y0+/1Y,+越可以推導(dǎo)出：Cou(X%)=rxcyu/(1廠i0i)遺漏變量偏差可采用在多元回歸中加入

5、遺漏變量的方法加以解決，但前提是只有當(dāng)你有遺漏變量數(shù)據(jù)時(shí)上述方法才可行。廠雙向因果關(guān)系偏差是指如果有時(shí)因果關(guān)系是從X到Y(jié)又從Y到X時(shí)，此時(shí)僅用多元回歸無(wú)法消除這一偏差。同樣，廠變量有測(cè)量誤差也無(wú)法用我們前面學(xué)過(guò)的方法解決。r因此我們就必須尋找一種新的方法。MBMl歸是當(dāng)回歸變量X與誤差項(xiàng)u相關(guān)時(shí)獲得總體回歸方程未知系數(shù)一致估計(jì)量的一般方法。我們經(jīng)常稱其為IV估計(jì)。廠其基本思想是：假設(shè)方程是:Yt=金+直&+叫，匚=1,2,n我們假設(shè)比與X湘關(guān)，則OLS估計(jì)量一定是有偏的和非一致的。工具變量估計(jì)是利用另一個(gè)“工具”變量Z將片分離成與出相關(guān)和不相關(guān)的兩部分。廣我們的工作就是要尋找相應(yīng)的工具

6、變量將解1*='MU釋變量分解成內(nèi)生變量和外生變量，然后利用兩階段最小二乘法(TSLS)進(jìn)行估計(jì)。工具變量的選取一個(gè)有效的工具變量必須滿足稱為工具變量相關(guān)性和工具變量外生性兩個(gè)條件:即(1)工具變量相關(guān)性：工具變量與所替代的隨機(jī)解釋變量高度相關(guān)；Cov(Zi,X)主0(2)工具變量外生性：工具變量與隨機(jī)誤差項(xiàng)不相關(guān)；Cov(mZi)0兩階段最小二乘估計(jì)量r若工具變量Z滿足工具變量相關(guān)性和外生性的條件，則可用稱為兩階段最小二乘(TSLS)的IV估計(jì)量估計(jì)系數(shù)坷。r兩階段最小二乘估計(jì)量分兩階段計(jì)算:廠第一階段把X分解成兩部分：即與回歸誤差項(xiàng)相關(guān)的一部分以及與誤差項(xiàng)無(wú)關(guān)的一部分。廠第二階段是

7、利用與誤差項(xiàng)無(wú)關(guān)的那部分進(jìn)行估一般IV回歸模型一般IV回歸模型為Yi=&+mX】i+"+直X打+0屮Wn+"+SrtMn+%1.因變量丫遷2外生解釋變量Wh、W2P.WriO3.內(nèi)生解釋變量X1PX2P.XkiO4我們引入工具變量Z“Z2P.Zmio第一階段回歸：利用OLS建立每個(gè)內(nèi)生變量(X1PX2P.Xki)關(guān)于工具變量(Zii、Z2p和外生變量(W1PW2P.wri)的回歸，并得到所有回歸結(jié)果的擬合值Xiat。第二階段回歸：用Xi_hat取代原有的與原有的外生變量W起進(jìn)行第二次回歸，得到TSLS統(tǒng)計(jì)量卩TSLSo注意：工具變量出現(xiàn)在第一階段回歸，但不出現(xiàn)在第二

8、階段回歸。V引頭工具變量的個(gè)數(shù)存假設(shè)我們有n個(gè)內(nèi)生解釋變量，引入了m個(gè)工眞交量，n和m的關(guān)親晁什么？<n=m恰好識(shí)別廣nvm過(guò)度識(shí)別n>m不可識(shí)別r只有恰好識(shí)別和過(guò)度識(shí)別才能用IV方法估計(jì)。rivregress2slsdepvarvarlistl(varlist2=instlist),rffirst其中，“depvar”為被解釋變量，varlistl為外生解釋變量，varlist2為所有的內(nèi)生解釋變量集合，instlist為工具變量集合。廣選擇項(xiàng)r表示使用異方差穩(wěn)健的標(biāo)準(zhǔn)誤，選擇項(xiàng)“first”表示顯示第一階段的回歸。力工具變量有效性的檢驗(yàn)r工具變量相關(guān)性r工具變量相關(guān)性越強(qiáng)，也就

9、是工具變量能解釋越多的X變動(dòng)，則：IV回歸中能用的信息就越多，因此利用相關(guān)性更強(qiáng)的工具變量得到的估計(jì)量也更精確。r弱工具變量：如果雖然Cov(Zi,X)70c但是Cov(Zi,Xi)a0r弱工具變量幾乎不能解釋X的變動(dòng)。弱工具變量檢驗(yàn)準(zhǔn)則1.偏R2(Shea'spartialR2)曠含義：在第一階段回歸中，在控制外生變量影響的前提下，看其它變量對(duì)某內(nèi)生變量的解釋力，或者說(shuō)，在第一階段回歸中，剔除掉外生變量的影響。廣2最小特征值統(tǒng)計(jì)量F：經(jīng)驗(yàn)上F應(yīng)該大于10。Stata命令：restatfirststageAallforcenonrobust廣3Cragg-DonaldWaldF統(tǒng)計(jì)量r

10、4Kleibergen-PaapWaldrkF統(tǒng)計(jì)量”rStata命令：ivreg2=J量。=J廣1.如果有很多工具變量，有部分強(qiáng)工具變量和部分弱工具變量，可以舍棄較弱的工具變量而選用相關(guān)性較強(qiáng)的工具變量子集。在stata中，可以使用ivreg2命令進(jìn)行“冗余檢驗(yàn)”，以決定選擇舍棄哪個(gè)工具變（直觀上，冗余工具變量是那些第一階段回歸中不顯著的變量。）廣2如果系數(shù)是恰好識(shí)別的，則你不能略去弱工具變量。在這種情況下，有兩個(gè)選擇：第一個(gè)選擇是尋找其他較強(qiáng)的工具變量。（難度較大）第二個(gè)選擇是利用弱工具變量繼續(xù)進(jìn)行實(shí)證分"析，但采用的方法不再是TSLS。而是對(duì)弱工具變量不太敏感的有限信息極大似然

11、法(LIML)o在大樣本下，LIML與2SLS是漸近等價(jià)的，但在存在弱工具變量的情況下，LIML的小樣本性質(zhì)可能優(yōu)于2SLS。廣LIML的Stata命令為rivregresslimldepvarvarlistl(varlist2=instlist)K工具變量外生性的檢驗(yàn)廣剛才我們提到：只有恰好識(shí)別和過(guò)度識(shí)別才能用IV方法估計(jì)。r一個(gè)很重要的命題是：只有過(guò)度識(shí)別情況下才能檢驗(yàn)工具變量的外生性，而恰好識(shí)別情況下無(wú)法檢驗(yàn)。廣基本思想:1=假設(shè)有一個(gè)內(nèi)生回歸變量，兩個(gè)工具變量且沒(méi)而另一個(gè)利用第二個(gè)工具變量。由于抽樣變異近。如果由這兩個(gè)工具變量得到估計(jì)非常不同,時(shí)翳中一個(gè)或兩個(gè)工具變量都有內(nèi)益標(biāo)準(zhǔn):0r

12、Sargan統(tǒng)計(jì)量廠J統(tǒng)計(jì)量廣C統(tǒng)計(jì)量曠過(guò)度識(shí)別檢驗(yàn)的Stata命令:restatoverid廠豪斯曼檢驗(yàn)原假設(shè)為:廠H0：所有解釋變量均為外生變量regyxlx2eststoreolsivregress2slsyxl(x2=zlz2)eststoreivhausmanivols,sigmamore1=1八上述檢驗(yàn)的缺點(diǎn)是，它假設(shè)在H0成立的情況下，OLS最有效率。但如果存在異方差，OLS并不最有效率(不是BLUE)O故傳統(tǒng)的豪斯曼檢驗(yàn)不適用于異方差的情形。廣此時(shí)可以使用杜賓吳豪斯曼檢驗(yàn)(DWH),該檢驗(yàn)在異方差的情況下也適用，更為穩(wěn)健。stata命令:estatendogenousK廣義矩估

13、計(jì)法WsMM-r基本思想：求解如下一般化目標(biāo)函數(shù)，使之最小化J(b_GMM)=n*g(b_GMM)'*W*g(b_GMM)其中，W為權(quán)重矩陣廣在球型擾動(dòng)項(xiàng)的假定下，2SLS是最有效的。但如果擾動(dòng)項(xiàng)存在異方差或自相關(guān)，則廣義矩估計(jì)方法效果更好。rGMM方法又分為兩步GMM法和迭代GMM方法。/尸j二廠有關(guān)GMM的Stata命令為rivregressgmmyxl（x2=zlz2）（兩步GMM）rivregressgmmyxl（x2=zlz2）figmm（迭代GMM）restatoverid（過(guò)度識(shí)別檢驗(yàn)）Mincer(1958)最早研究了工資與受教育年限的正相關(guān)關(guān)系，但遺漏了“能力”這個(gè)變

14、量，導(dǎo)致遺漏變量偏差。針對(duì)美國(guó)面板調(diào)查數(shù)據(jù)中的年輕男子組群(YoungMen，sCohortoftheNationalLongitudinalSurvey,簡(jiǎn)記NLS-Y),Griliches(1976)采用工具變量法對(duì)遺漏變量問(wèn)題進(jìn)行了校正。BlackburnandNeumark(1992)更新r了Griliches(1976)的數(shù)據(jù)，即這個(gè)例子中將要使用的數(shù)據(jù)集grilicdta。八該數(shù)據(jù)集中包括以下變量：lw（工資對(duì)數(shù)），弋S（受教育年限），age（年齡），expr（工齡），tenuref在現(xiàn)革位的工作年數(shù)）,iq（智商），med（母親的受教育年限），kww（涯"knowled

15、geoftheWorldofWork”測(cè)試中的成績(jī)），nut（婚姻虛擬變量，已婚=1）,rns（美國(guó)南方虛擬變量，住在南方=1）,smsa（大城市虛擬變量，住在大城市=1）,year（有數(shù)據(jù)的最早年份，1966-1973年中的某一年）。作這是一個(gè)兩期面板數(shù)氟初始期為當(dāng)以上變量有數(shù)據(jù)的最早年份，結(jié)束期為1980年。不帶80字樣的變量名為初始期，帶80字樣的變量名為1980年數(shù)據(jù)。比如，iq指的是初始期的智商，而lw80指的是1980年的工資對(duì)數(shù)。usegrilic.dta,clearsum廠(2)考察智商與受教育年限的相關(guān)關(guān)系。pwcorriqs,sig(3)建立如下方程:Zw80=0*80+0

16、2exp廠80+j33tenure80+uireglw80s80expr80tenure80z繼續(xù)對(duì)方程進(jìn)行wr我們發(fā)現(xiàn)了如下問(wèn)題:廣1。遺漏變量問(wèn)題：認(rèn)為方程遺漏了“能力”這個(gè)變量，加入iq（智商）作為“能力”的代理變量。廣reglw80s80iqexpr80tenure802o測(cè)量誤差問(wèn)題Jq衞商）対“能力”的測(cè)量存二在誤差。3。變量?jī)?nèi)生性問(wèn)題：S80可能與擾動(dòng)項(xiàng)中除“能力”以外的其他因素相關(guān)，因此是內(nèi)生變量。解決方法：引入四個(gè)變量med,kww,mrt,age,作為內(nèi)生解釋變量iq與s80的工具變量。r然后使用TSLS方法進(jìn)行回歸。ivregress2slslw80expr80tenur

17、e80(s80iq=medkwwmrtage),first廣使用兩步GMMoivreg(s80ressgmmlw80expr80tenure80iq=medkwwmrtage)廠使用迭代GMMoivreg(s80ressgmmlw80expr80teriure80iq=medkwwmrtage)Aigmm廣1。first選項(xiàng)的目的是顯示TSLS第一階段的結(jié)果，如果省略，則僅顯示第二階段的結(jié)果。曠2。命令的用法比較嚴(yán)格，將被解釋變量和所有外生解釋變量放到括號(hào)外面，內(nèi)生解釋變量放到括號(hào)里面，等號(hào)后面為所有工具變量。3o2SLS只能通過(guò)stata完成，利用定義手動(dòng)計(jì)算的結(jié)果是錯(cuò)誤的，因?yàn)闅埐钚蛄惺清e(cuò)

18、誤的。的工具變量，而是給所有內(nèi)生變量指定一系列工具變量。廣5。所有外生變變量都作為自己的工具變量。曠6。為了檢驗(yàn)工具變量的外生性，本題為過(guò)度識(shí)別。下偏誤可能很嚴(yán)重。么乞弱工*變量躥廣檢驗(yàn)方法：曠1。初步判斷可以用偏R2（partialR2）（剔除掉模型中原有外生變量的影響）。2oMinimumeigenvaluestatistic（最才、特征值統(tǒng)計(jì)量），經(jīng)驗(yàn)上此數(shù)應(yīng)該大于10。這個(gè)方法類似于與書上的“第一階段F統(tǒng)計(jì)O曠工眞變量外生性檢驗(yàn)我們一般稱為過(guò)度識(shí)別約束J檢驗(yàn)。廣檢驗(yàn)工具變量是否與干擾項(xiàng)相關(guān)，即工具變量是否為外生變量。rTSLS根據(jù)Sargan統(tǒng)計(jì)量進(jìn)行過(guò)度識(shí)別檢驗(yàn)。廣命令為：estat

19、overid檢驗(yàn)工具變量的外H0：所有工具變量都是外生的。H1：至少有一個(gè)工具變量不是外生的，與擾動(dòng)項(xiàng)相關(guān)。%0ivregress2slslw80expr80tenure80(s80iq=medkwwmrtage),firstestatfirststage,allforcenorirobustestatfirststageestatoveridK究竟該用OLS還是IV曠解釋變量是否真的存在內(nèi)生性？r假設(shè)能夠找到方程外的工具變量。曠1。如果所有解釋變量都是外生變量，則OLS比IV更有效。在這種情況下使用IV,雖然估計(jì)量仍然是一致的，會(huì)增大估計(jì)量的方差。2o如果存在內(nèi)生解釋變量，則OLS是不一致的

20、，而IV是一致的。V檢驗(yàn)方法L豪斯曼檢驗(yàn)檢驗(yàn)0=廣豪斯曼檢驗(yàn)(Hausmanspecificationtest)rHO：所有解釋變量均為外生變量。rHl：至少有一個(gè)解釋變量為內(nèi)生變量。quietlyreglw80s80expr80tenure80iqeststoreolsquietlyivregress2slslw80expr80tenure80(s80iq=medkwwmrtage)eststoreivhausmanivolsZw=0s+禹expr+ptenure+/3rns+/35smsa+uiregIwsexprtenurerrissmsa,r引入智商(iq)作為“能力”的代理變量，再進(jìn)

21、行OLS回歸。regIwsiqexprtenuremssmsaArMBMB/r(2)由于用iq來(lái)度量能力存在“測(cè)量誤差”7>哉iq是內(nèi)生麥量，考慮使用變量(me£kwwymrt,age)作為iq的工具變量，建行2SLS回歸，并使用穩(wěn)健標(biāo)準(zhǔn)誤。廣ivregress2slslwsexprtenurernssmsa(iq=medkwwmrtage)frfirst廣(3)進(jìn)行過(guò)度識(shí)別檢驗(yàn)，考察是否所有工具變量均外生，即與擾動(dòng)項(xiàng)不相關(guān)。restatoverid使用C統(tǒng)計(jì)量檢驗(yàn)這兩個(gè)工具變量的外生性。finditivreg2/ivreg2lwsexprtenuremssmsa(iq=med

22、kwwmrtage)zrorthog(mrtage)r(5)考慮僅使用變量kww)作為iq的工具變量，再次進(jìn)行2SLS回歸。ivregress2slslwsexprtenuremssmsa(iq=medkww)川first么再次進(jìn)行過(guò)度識(shí)別檢驗(yàn)：Jiestatoverid廠(6)弱工具變量檢驗(yàn)estatfirststagefallforcenorirobust廠(7)為了穩(wěn)健起見，下面使用對(duì)弱工具變量更不敏感的有限信息最大似然法(LIML)：ivregresslimllwsexprtenuremssmsa(iq=medkww),r廠(8)進(jìn)一步考察翡工具變量問(wèn)題，對(duì)工具變量kww進(jìn)行冗余檢驗(yàn)ivreg2lwsexprtenuremssmsa(iq=medkww)Arredundant(kww)廣(9)利用豪斯曼檢驗(yàn)判斷是否存在內(nèi)生解釋變量。quireglwiqsexprtenurernssmsaeststoreolslquiivregress2slslwsexprtenuremssmsa(iq=medkww)estimatesstoreiv