第5講 自相關與異方差

1、多元回歸 2-1 7-2 回顧 計量分析前，先要有心目中的DGP 對一種DGP，可以用很多不同估計量來 估計參數 我們關注線性估計量： 目前評判估計量好壞的標準：（1）無偏 性；（2）有效性 高斯馬爾科夫定理證明：在高斯馬爾科 夫假定下，OLS是BLUE的 ii wY 多元回歸DGP：高斯馬爾科夫假定4 誤差的球面方差假定 4a同方差假定 含義：4a誤差項的方差不隨X取值不同而 變動，X不提供關于誤差項方差的信息 2-3 2222 ()(|)E(|X)(|) iiii VarXEXEX 4 . . x1=5x2 =10 E(y|x) = 0 + 1x y f(y) 給定x時y的 條件分布 多元

2、回歸DGP：高斯馬爾科夫假定4 4b無自相關假定 含義： 4b任意兩個觀察的擾動不相關 4c隨機抽樣可以保證 2-5 (|)0 ij EX cov( ,|)0(|)(|) (|) ijijij XEXEX EX 多元回歸DGP：高斯馬爾科夫假定4 寫到一起： 2-6 2 1 1 NNN N EXI 2 1 1121 2 2 1222 2 12 .0.0 .0.0 . .00. n n nnnn N NN N EXEXEX EXEXEX EXEXEX 異方差 同方差假定 含義：4a誤差項的方差隨X取值不同而變 動 2-7 2222 ()(|)E(|X)(|) iiiii VarXEXEX 8 .

3、 Education level primary secondary f(y|x) Illustration of Heteroskedasticity 異方差圖示 college . . E(y|x) = 0 + 1x wage 異方差下的OLS1：OLS無偏性保持 在假定1（線性）、2（滿秩）、3（外生 ）的條件下，OLS估計量無偏 2-9 1 1 1 () ()() () X XX Y X XXX X XX 1 ()()()EXX XX EX X EEEX 異方差下的OLS2：不是最小方差 高斯馬爾科夫定理（四個假定都用上） ，OLS估計量是方差最?。ㄗ顑?yōu)）的線 性無偏估計量BLUE。異

4、方差下： 2-10 11 11 121 21 (|)()()|X ()()|X () |X() ()() () VarXE E X XXX X X X XX EX X X X XXI X X X X X 異方差下的OLS2：方差為多少？ 2-11 2 1 () () i in i i xx k xx 1011 1 () n iiiiii i bk ykxk 22 111 222222 1122121211 222222 1122 var( )()() (.2.2) (.) ii nnnnnn nn bE bEk E kkkk kkk E kkk 異方差下的OLS2：方差為多少？ 2-12 22

5、 111 222222 112212 1211 222222 1122 222222 1122 222222 1122 2 22 2 var( )()() (.2.2) (.) ()().() . () () () ii nnnnnn nn nn nn i i i i bE bEk E kkkk kkk E kkk k Ek Ek E kkk xx xx xx 2 2 2 () i i xx 異方差下的OLS后果3：t檢驗，F檢驗 失效 2-13 由于OLS計算的方差不正確，t檢驗和F檢驗不 再有效 如何檢驗異方差：方法1圖示 2-14 繪制1：y軸為殘差平方，x軸為y的擬合值 繪制2：y軸為

6、殘差平方，x軸為某個解釋變量 繪制3：y軸為被解釋變量，X軸為某個解釋變 量 如何檢驗異方差：方法2white和bp檢 驗 2-15 適用于：誤差項方差的變化連續(xù) White檢驗步驟： 1、OLS回歸，得到殘差 2、殘差取平方，然后對所有解釋變量，解釋 變量的平方，解釋變量的交互進行回歸 3、零假設：同方差。此時所有斜率項系數應 為0，大樣本下有 看臨界值，p值 22 df nR 如何檢驗異方差：方法2white和bp檢 驗 2-16 適用于：誤差項方差的變化連續(xù) White檢驗可檢驗一般的異方差 對自由度消耗大 需要大樣本 如何檢驗異方差：方法2white和bp檢 驗 2-17 適用于：誤差

7、項方差的變化連續(xù) BreuschPagan test類似white 但需要選擇哪些解釋變量包括在輔助回歸中， 有主觀性。 如何檢驗異方差：方法3 GoldfeldQuandt檢驗 2-18 適用于：誤差項方差的變化不連續(xù)，不同組之 間方差不同 把數據分為n組，如男、女 如何檢驗異方差：方法3 GoldfeldQuandt檢驗 2-19 (1) Divide the n observations into h groups, of sizes n 1.nh (2) Choose two groups, say 1 and 2. H0: 1 2 2 2 against Ha: 1 2 2 2 (3

8、) Regress Y against the explanators for group 1. (4) Regress Y against the explanators for group 2. 如何檢驗異方差：方法3 GoldfeldQuandt檢驗 2-20 (5) Relabel the groups as L and S, such that SSRL n L k SSRS nS k Compute G SSRL nL k SSRS nS k (6) Compare G to the critical value for an F-statistic with (nL k) and

9、 (nS k) degrees of freedom. 異方差下的BLUE估計量:GLS 2-21 0 01 ()() iiii iiii yxx 假定異方差已知，則 * 001iiii yxx 此時，誤差項方差轉為同方差 *22 2 1 var()()()1 i ii ii EE 異方差下的BLUE估計量:GLS 2-22 對 應用OLS 得到 的BLUE估計量 * 001iiii yxx 1 1 22 ()(y )()() ()()() iiiiiiii iiiii ww xw xw y b ww xw x 2 1 i w 1 異方差下的BLUE估計量:GLS的方差 2-23 對 應用OL

10、S 得到 BLUE估計量的方差 * 001iiii yxx 1 1 22 var( ) ()()() i iiiii w b ww xw x 2 1 i w 異方差下的BLUE估計量:代數性質 2-24 相當于如下加權最小二乘法得到的估計量 * 2*2 0 1 1 min() n i iiii i wew ybb x 2 1 i w 異方差下的BLUE估計量:GLS 2-25 假定異方差已知，即 2 ()EV 111 () GLS bX VXX Vy 211 var cov()() GLS bX VX 異方差下的BLUE估計量:EGLS 2-26 假定異方差未知，估計V 111 () EGLS

11、 bX VXX Vy 211 var cov()() EGLS bX VX 異方差下的BLUE估計量:EGLS 2-27 假定異方差未知，估計V 111 () EGLS bX VXX Vy 211 var cov()() EGLS bX VX 未知異方差下的估計：猜測1 2-28 猜測1:誤差方差與某解釋變量平方成正比 處理：所有變量都除以該解釋變量 然后做無常數項回歸 未知異方差下的估計：猜測2 2-29 猜測2:誤差方差與某解釋變量正比 處理：所有變量都除以該解釋變量的平方根 然后做無常數項回歸 未知異方差下的估計：猜測3 2-30 猜測3:誤差方差與被解釋變量的期望平方成 正比 處理：所

12、有變量都除以被解釋變量的擬合值 然后做無常數項回歸 未知異方差下的估計：猜測4 2-31 猜測4: 處理： Var( i ) 2 X i h Estimate the regression with OLS. Regress Divide every variable by: Apply OLS to the transformed data. ln(ei 2 ) ln( 2 ) hln(X i )i 2 h h iii dXX 未知異方差下的估計：變換5 2-32 猜測1:未知 處理：變量取對數 未知異方差下的估計：另一條思路 2-33 思路:仍然用OLS無偏估計 處理：重新正確估計方差，w

13、hite穩(wěn)健方差 22 1 22 () . . .() ( () ) ii i xxe ese xx White 未知異方差下的估計：另一條思路 2-34 思路:仍然用OLS無偏估計 處理：重新正確估計方差，white穩(wěn)健方差 此時OLS仍然不是BLUE,但無偏， 多元回歸DGP：高斯馬爾科夫假定4 4b無自相關假定 含義： 4b任意兩個觀察的擾動不相關 4c隨機抽樣可以保證 2-35 (|)0 ij EX cov( ,|)0(|)(|) (|) ijijij XEXEX EX 自相關 2-36 (|)0 ij EXij 自相關下的OLS1：OLS無偏性保持 在假定1（線性）、2（滿秩）、3（

14、外生 ）的條件下，OLS估計量無偏 2-37 1 1 1 () ()() () X XX Y X XXX X XX 1 ()()()EXX XX EX X EEEX 自相關下的OLS2：不是最小方差 高斯馬爾科夫定理（四個假定都用上） ，OLS估計量是方差最?。ㄗ顑?yōu)）的線 性無偏估計量BLUE。異方差下： 2-38 11 11 121 21 (|)()()|X ()()|X () |X() ()() () VarXE E X XXX X X X XX EX X X X XXI X X X X X 自相關下的OLS后果3：t檢驗，F檢驗 失效 2-39 由于OLS計算的方差不正確，t檢驗和F檢驗

15、不 再有效 為什么出現自相關 滯后性 遺漏變量 模型形式不正確 自回歸 差分 2-40 自相關下OLS的方差 2-41 1 2 1 22 | 1 ()() ()(,) ( )( ,) Stt T tttttt ttt T tttttt ttt T tttt t ttt VarVarwY Var wYCov wY w Y w Var Yw w Cov Y Y ww w 自相關下GLS 假設AR(1) 2-42 1 11 ttt 01ttt yx 11 2 1 2 1 2 ()() () n tttt GLS t n tt t xxyy bC xx tt xxx 識別自相關：1繪圖 繪制殘差對時間

16、關系圖 繪制殘差與殘差滯后圖 2-43 識別自相關：2Durbin-Watson檢驗 2-44 d (etet1)2 et 2 t1 T t2 T et 2 t2 T et1 2 2etet1 t2 T t2 T et 2 t1 T 14-45 d 1 T k 2 et 2 t2 T 1 T k 2 et1 2 2 1 T k 2 etet1 t2 T t2 T 1 T k 1 et 2 t1 T DurbinWatson Test (cont.) In large samples, we can divide the numerator by (T-k-2) and the denomina

17、tor by (T-k-1) without creating much of a bias. 14-46 DurbinWatson Test (cont.) In large samples, all approximate s2, an estimate of the variance of the error term. 1 T k 2 e t 2 t2 T , 1 T k 2 e t1 2 , 1 T k 1 e t 2 t1 T t2 T 14-47 1 T k 2 e tet1 t2 T DurbinWatson Test (cont.) In large samples, app

18、roximately estimates the covariance between adjacent error terms. If there is no first-order serial correlation, this term will collapse to 0. 14-48 DurbinWatson Test (cont.) In large sample, the DurbinWatson statistic approximates Under the null hypothesis of no first-order serial correlation, d 2 2 2 2Cov(t,t1) 2 2 2Cov(t,t1) 2 14-49 DurbinWatson Test (cont.) When the DurbinWatson statistic, d, gives a value far from 2,