異方差性的概念類型后果檢驗(yàn)ppt課件.ppt

在教材P29 32和P64 65 分別對(duì)一元和多元線性回歸模型提出了若干基本假設(shè) 只有在滿足這些基本假設(shè)的情況下 應(yīng)用普通最小二乘法才能得到無偏的 有效的參數(shù)估計(jì)量 但是 在實(shí)際的計(jì)量經(jīng)濟(jì)學(xué)問題中 完全滿足這些基本假設(shè)的情況并不多見 如果違背了某一項(xiàng)基本假設(shè) 那么應(yīng)用普通最小二乘法估計(jì)模型所得參數(shù)估計(jì)量就可能不具有某些優(yōu)良特性 這就需要發(fā)展新的方法估計(jì)模型 本章正是要討論違背了某一項(xiàng)基本假設(shè)的問題及其估計(jì)方法 引言 異方差性Heteroscedasticity 一 異方差性的概念及類型二 異方差性的后果三 異方差性的檢驗(yàn)四 異方差的修正五 案例 1 什么是異方差 對(duì)于模型 i 1 2 n 同方差性假設(shè)為 i 1 2 n 如果出現(xiàn) i 1 2 n 即對(duì)于不同的樣本點(diǎn)i 隨機(jī)誤差項(xiàng)的方差不再是常數(shù) 則認(rèn)為出現(xiàn)了異方差性 注意 對(duì)于每一個(gè)樣本點(diǎn)i 隨機(jī)誤差項(xiàng) i都是隨機(jī)變量 服從均值為0的正態(tài)分布 而方差 i2衡量的是隨機(jī)誤差項(xiàng)圍繞其均值0的分散程度 所以 所謂異方差性 是指這些服從正態(tài)分布的隨機(jī)變量圍繞其均值0的分散程度不同 一 異方差性的概念及類型 異方差性示意圖 或者 也可以說 對(duì)于每一個(gè)樣本點(diǎn)i 隨機(jī)誤差項(xiàng)的方差 i2衡量的是被解釋變量的觀測值Yi圍繞回歸線E Yi 0 1Xi1 kXik的分散程度 而所謂異方差性 是指被解釋變量觀測值的分散程度隨樣本點(diǎn)的不同而不同 龐皓P130 2 異方差的類型 同方差性假定是指 每個(gè) i圍繞其0均值的方差并不隨解釋變量Xi的變化而變化 不論解釋變量的觀測值是大還是小 每個(gè) i的方差保持相同 即 i2 常數(shù) i 1 2 n 在異方差的情況下 i2已不是常數(shù) 它隨Xi的變化而變化 即 i2 f Xi i 1 2 n 異方差一般可以歸結(jié)為三種類型 1 單調(diào)遞增型 i2 f Xi 隨Xi的增大而增大 2 單調(diào)遞減型 i2 f Xi 隨Xi的增大而減小 3 復(fù)雜型 i2 f Xi 隨Xi的變化呈復(fù)雜形式 3 實(shí)際經(jīng)濟(jì)問題中的異方差性 在該模型中 i的同方差假定往往不符合實(shí)際情況 對(duì)高收入家庭來說 儲(chǔ)蓄的差異較大 低收入家庭的儲(chǔ)蓄則更有規(guī)律性 如為某一特定目的而儲(chǔ)蓄 差異較小 因此 i的方差往往隨Xi的增加而增加 呈單調(diào)遞增型變化 例4 1 1 在截面資料下研究居民家庭的儲(chǔ)蓄行為Yi 0 1Xi iYi和Xi分別為第i個(gè)家庭的儲(chǔ)蓄額和可支配收入 一般情況下 居民收入服從正態(tài)分布 處于中等收入組中的人數(shù)最多 處于兩端收入組中的人數(shù)最少 而人數(shù)多的組平均數(shù)的誤差小 人數(shù)少的組平均數(shù)的誤差大 所以樣本觀測值的觀測誤差隨著解釋變量觀測值的增大而先減后增 例4 1 2 以絕對(duì)收入假設(shè)為理論假設(shè) 以分組數(shù)據(jù) 將居民按照收入等距離分成n組 取組平均數(shù)為樣本觀測值 作樣本建立居民消費(fèi)函數(shù) Ci 0 1Yi i 如果樣本觀測值的觀測誤差構(gòu)成隨機(jī)誤差項(xiàng)的主要部分 那么對(duì)于不同的樣本點(diǎn) 隨機(jī)誤差項(xiàng)的方差隨著解釋變量觀測值的增大而先減后增 U形 出現(xiàn)了異方差性 例4 1 3 以某一行業(yè)的企業(yè)為樣本建立企業(yè)生產(chǎn)函數(shù)模型Yi Ai 1Ki 2Li 3e i產(chǎn)出量為被解釋變量 選擇資本 勞動(dòng) 技術(shù)等投入要素為解釋變量 那么每個(gè)企業(yè)所處的外部環(huán)境對(duì)產(chǎn)出量的影響被包含在隨機(jī)誤差項(xiàng)中 由于每個(gè)企業(yè)所處的外部環(huán)境對(duì)產(chǎn)出量的影響程度不同 造成了隨機(jī)誤差項(xiàng)的異方差性 這時(shí) 隨機(jī)誤差項(xiàng)的方差并不隨某一個(gè)解釋變量觀測值的變化而呈規(guī)律性變化 為復(fù)雜型的一種 規(guī)律 一般經(jīng)驗(yàn)告訴人們 對(duì)于采用截面數(shù)據(jù)作樣本的計(jì)量經(jīng)濟(jì)學(xué)問題 由于在不同樣本點(diǎn) 即不同空間 上解釋變量以外的其他因素的差異較大 所以往往存在異方差性 1 參數(shù)估計(jì)量非有效 當(dāng)計(jì)量經(jīng)濟(jì)學(xué)模型出現(xiàn)異方差性時(shí) 其普通最小二乘法參數(shù)估計(jì)量仍然具有無偏性 但不具有有效性 而且 在大樣本情況下 參數(shù)估計(jì)量仍然不具有漸近有效性 即同方差和無序列相關(guān)條件 因?yàn)樵谟行宰C明 見教材P70 71 中利用了 二 異方差性的后果 2 變量的顯著性檢驗(yàn)失去意義 在變量的顯著性檢驗(yàn)中 t統(tǒng)計(jì)量 j 0 1 2 k 如果出現(xiàn)了異方差性 而仍按同方差時(shí)的公式計(jì)算t統(tǒng)計(jì)量 將使t統(tǒng)計(jì)量失真 偏大或偏小 見第三版P110補(bǔ)充說明 從而使t檢驗(yàn)失效 使某些原本顯著的解釋變量可能無法通過顯著性檢驗(yàn) 或者使某些原本不顯著的解釋變量可能通過顯著性檢驗(yàn) 3 模型的預(yù)測失效 一方面 由于上述后果 使得模型不具有良好的統(tǒng)計(jì)性質(zhì) 所以 當(dāng)模型出現(xiàn)異方差性時(shí) Y預(yù)測區(qū)間的建立將發(fā)生困難 它的預(yù)測功能失效 其中 書上這句話有點(diǎn)問題 1 檢驗(yàn)方法的共同思路 既然異方差性就是相對(duì)于不同的解釋變量觀測值 隨機(jī)誤差項(xiàng)具有不同的方差 那么 檢驗(yàn)異方差性 也就是檢驗(yàn)隨機(jī)誤差項(xiàng)的方差與解釋變量觀測值之間的相關(guān)性及其相關(guān)的 形式 各種檢驗(yàn)方法正是在這個(gè)共同思路下發(fā)展起來的 三 異方差性的檢驗(yàn) 教材P111 問題在于 用什么來表示隨機(jī)誤差項(xiàng)的方差 一般的處理方法 2 圖示檢驗(yàn)法 1 用X Y的散點(diǎn)圖進(jìn)行判斷 李子奈P108 看是否存在明顯的散點(diǎn)擴(kuò)大 縮小或復(fù)雜型趨勢(shì) 即不在一個(gè)固定的帶型域中 隨機(jī)誤差項(xiàng) 的方差描述的是 取值的離散程度 而由于被解釋變量Y與隨機(jī)誤差項(xiàng) 有相同的方差 所以利用Y與X之間的相關(guān)圖形也可以粗略地看出 的離散程度與X之間是否有相關(guān)關(guān)系 看是否形成一條斜率為零的直線 教材P111 3 戈里瑟 Gleiser 檢驗(yàn)與帕克 Park 檢驗(yàn) 戈里瑟檢驗(yàn)與帕克檢驗(yàn)的思想 如果存在某一種函數(shù)形式 使得方程顯著成立 則說明原模型存在異方差性 由于f Xj 的具體形式未知 因此需要選擇各種形式進(jìn)行試驗(yàn) 4 戈德菲爾德 匡特 Goldfeld Quandt 檢驗(yàn) G Q檢驗(yàn)以F檢驗(yàn)為基礎(chǔ) 僅適用于樣本容量較大 異方差為單調(diào)遞增或單調(diào)遞減的情況 G Q檢驗(yàn)的思想 先按某一被認(rèn)為有可能引起異方差的解釋變量對(duì)樣本排序 再將排序后的樣本一分為二 對(duì)子樣本 和子樣本 分別進(jìn)行OLS回歸 然后利用兩個(gè)子樣本的殘差平方和之比構(gòu)造F統(tǒng)計(jì)量進(jìn)行異方差檢驗(yàn) G Q檢驗(yàn)的步驟 將n對(duì)樣本觀察值 Xi1 Xi2 Xik Yi 按某一被認(rèn)為有可能引起異方差的解釋變量觀察值Xij的大小排隊(duì) 將序列中間的c n 4個(gè)觀察值除去 并將剩下的觀察值劃分為較小與較大的容量相同的兩個(gè)子樣本 每個(gè)子樣本的樣本容量均為 n c 2 檢驗(yàn) 給定顯著性水平 確定F分布表中相應(yīng)的臨界值F 1 2 若F F 1 2 則拒絕H0 認(rèn)為存在異方差 反之 則不存在異方差 H0成立 意味著同方差 H1成立 意味著異方差 5 懷特 White 檢驗(yàn) G Q檢驗(yàn)需按某一被認(rèn)為有可能引起異方差的解釋變量對(duì)樣本排序 而且只能檢驗(yàn)單調(diào)遞增或單調(diào)遞減型異方差 懷特 White 檢驗(yàn)則不需要排序 且對(duì)任何形式的異方差都適用 懷特 White 檢驗(yàn)的基本思想與步驟 下面 以二元回歸為例 說明懷特檢驗(yàn)的基本思想與步驟 設(shè)回歸模型為 首先 對(duì)該模型做普通最小二乘回歸 記殘差為 然后 以上述殘差的平方為被解釋變量 以原模型中各解釋變量的水平項(xiàng) 平方項(xiàng) 還可以有更高次項(xiàng) 交叉項(xiàng)等各種組合為解釋變量 做如下的輔助回歸 則在同方差性假設(shè)下 也即H0 1 5 0 該輔助回歸方程的可決系數(shù)R2與樣本容量n的乘積漸近地服從自由度 輔助回歸方程中解釋變量個(gè)數(shù) 該例 5 的 2分布 懷特 White 檢驗(yàn)的EViews軟件操作要點(diǎn) 在OLS的方程對(duì)象Equation中 選擇View Residualtests WhiteHeteroskedasticity 在選項(xiàng)中 EViews提供了包含交叉項(xiàng)的懷特檢驗(yàn) WhiteHeteroskedasticity crossterms 和沒有交叉項(xiàng)的懷特檢驗(yàn) WhiteHeteroskedasticity nocrossterms 這樣兩個(gè)選擇 軟件輸出結(jié)果 最上方顯示兩個(gè)檢驗(yàn)統(tǒng)計(jì)量 F統(tǒng)計(jì)量和White統(tǒng)計(jì)量nR2 下方則顯示以O(shè)LS的殘差平方為被解釋變量的輔助回歸方程的回歸結(jié)果 以教材P118的例子為例 包含交叉項(xiàng)的懷特檢驗(yàn) WhiteHeteroskedasticity crossterms 的輸出結(jié)果為 懷特檢驗(yàn)的軟件輸出界面 可見 懷特統(tǒng)計(jì)量nR2 20 55085 31 0 662931 大于自由度 也即輔助回歸方程中解釋變量的個(gè)數(shù) 為5的 2分布臨界值11 07 因此 在5 的顯著性水平下拒絕同方差的原假設(shè) 四 異方差的修正 加權(quán)最小二乘法 weightedleastsquares 異方差穩(wěn)健標(biāo)準(zhǔn)誤法 heteroscedasticity robuststandarderror 1 加權(quán)最小二乘法的基本思想 加權(quán)最小二乘法 WeightedLeastSquares 是對(duì)原模型加權(quán) 使之變成一個(gè)新的不存在異方差性的模型 然后采用普通最小二乘法估計(jì)其參數(shù) 例如 在遞增的異方差下 與較小的Xi對(duì)應(yīng)的Yi離回歸線較近 殘差ei較小 而與較大的Xi對(duì)應(yīng)的Yi離回歸線較遠(yuǎn) 殘差ei較大 為了更可靠地估計(jì)總體回歸函數(shù) 我們應(yīng)該給那些緊密圍繞其 總體 均值的觀測值較大的權(quán)數(shù) 而給那些遠(yuǎn)離其均值的觀測值較小的權(quán)數(shù) 古扎拉蒂P355 一 加權(quán)最小二乘法 于是 我們可以對(duì)較小的殘差平方ei2賦予較大的權(quán)數(shù) 對(duì)較大的殘差平方ei2賦予較小的權(quán)數(shù) 加權(quán)最小二乘法就是對(duì)加了權(quán)重的殘差平方和實(shí)施OLS法 最小 例如 如果在檢驗(yàn)過程中已經(jīng)知道 2 一個(gè)例子 重要 i 1 2 n 在該模型中 存在 即滿足同方差性 這就是加權(quán)最小二乘法 在這里 權(quán)數(shù)為 注意 將這里的權(quán)數(shù)平方之后 才是對(duì)殘差平方加權(quán)的權(quán)數(shù) 第三版P114補(bǔ)充 可見 實(shí)施加權(quán)最小二乘法的關(guān)鍵是尋找適當(dāng)?shù)?權(quán) 或者說尋找模型中隨機(jī)干擾項(xiàng)的方差與解釋變量間的適當(dāng)?shù)暮瘮?shù)形式 如果發(fā)現(xiàn) 那么 加權(quán)最小二乘法的 權(quán) 即為 注意 其中的 2完全可以是1 注意 這里的 權(quán) 仍然是指用來乘原模型兩邊的 權(quán) 相當(dāng)于對(duì)原模型的殘差ei加權(quán) 將這里的權(quán)數(shù)平方之后 才是對(duì)原模型的殘差平方ei2加權(quán)的權(quán)數(shù) 那么 可以用作為權(quán)數(shù) 去乘原模型的兩邊 得到下面的模型 補(bǔ)充 特別地 如果像教材P111 4 1 4 式那樣 近似地有 該模型滿足同方差性 可以用普通最小二乘法估計(jì) i 1 2 n Eviews軟件中的加權(quán)最小二乘法 WLS 正是這樣設(shè)計(jì)的 所以 Eviews軟件中WLS法的 權(quán) 是指對(duì)原模型兩邊加權(quán)的 權(quán) 而不是對(duì)原模型的殘差平方ei2加權(quán)的權(quán)數(shù) 3 一般情況 只需了解其思想 第三版已刪掉 跳過 對(duì)于模型 Y XB N 如果存在 其中 即存在異方差性 Var i 2wi i 1 2 n 補(bǔ)充 設(shè)A為一個(gè)實(shí)系數(shù)對(duì)稱矩陣 如果對(duì)任何一個(gè)非零實(shí)向量X 都使二次型X AX正定 也即大于0 那么A稱為正定矩陣 那么 由于W是一正定矩陣 存在一個(gè)可逆矩陣D 使得 顯然 記作 該模型具有同方差性 因?yàn)?用D 1左乘原模型Y XB N兩邊 可以得到一個(gè)新的模型 這就是原模型的加權(quán)最小二乘估計(jì)量 它是無偏 有效的 于是 可以用普通最小二乘法估計(jì)新模型 得到參數(shù)估計(jì)量 為 這里權(quán)矩陣為D 1 它來自于矩陣W 4 如何得到權(quán)矩陣D 1 從上述推導(dǎo)過程可以看出 D 1來自于原模型的隨機(jī)誤差項(xiàng)N的方差 協(xié)方差矩陣Var Cov N 2W 因此仍然可以對(duì)原模型首先采用OLS法 得到隨機(jī)誤差項(xiàng)的近似估計(jì)量 以此構(gòu)造W的估計(jì)量 進(jìn)而得到權(quán)矩陣D 1 即 假定 2 1 這是完全可以的 總結(jié) 加權(quán)最小二乘法的具體步驟 注意 用手工加權(quán)得到WLS法的結(jié)果 即先用GENR命令生成新序列E 殘差的絕對(duì)值 及YE 即Y E CE 即1 E XE 即X E 然后用OLS法估計(jì) 得到WLS法的結(jié)果 要求能寫出有關(guān)的命令格式 注意 在實(shí)際建模過程中 人們通常并不對(duì)原模型進(jìn)行異方差性檢驗(yàn) 而是直接選擇加權(quán)最小二乘法 尤其是采用截面數(shù)據(jù)作樣本時(shí) 如果確實(shí)存在異方差 則被有效地消除了 如果不存在異方差 則加權(quán)最小二乘法等價(jià)于普通最小二乘法 1 異方差穩(wěn)健標(biāo)準(zhǔn)誤法的基本思想 異方差穩(wěn)健標(biāo)準(zhǔn)誤法 heteroscedasticity robuststandarderror 該方法由懷特 White 于1980年提出 是指先采用普通最小二乘法估計(jì)原模型 然后用殘差的平方作為相應(yīng)的隨機(jī)誤差項(xiàng)方差的代表 對(duì)參數(shù)估計(jì)量的方差或標(biāo)準(zhǔn)誤差進(jìn)行修正 見教材P115 116 不要求 從略 二 異方差穩(wěn)健標(biāo)準(zhǔn)誤法 五 案例 1 補(bǔ)充 某地區(qū)居民儲(chǔ)蓄模型 某地區(qū)31年來居民收入與儲(chǔ)蓄額數(shù)據(jù)表 1 普通最小二乘估計(jì) 直接使用OLS法 得到 5 87 18 04 R2 0 9182 2 異方差檢驗(yàn) 1 圖示檢驗(yàn) G Q檢驗(yàn) 這里沒有按X排序 是因?yàn)閄是逐年增大的 求兩個(gè)子樣本 n1 n2 12 回歸方程的殘差平方和RSS1與RSS2 計(jì)算F統(tǒng)計(jì)量 F RSS2 RSS1 769899 2 162899 2 4 726 查表在5 的顯著性水平下 第1和第2自由度均為 31 7 2 2 10的F分布臨界值為F0 05 10 10 2 97由于F 4 726 F0 05 10 10 2 97因此 否定兩組子樣本的方差相同的假設(shè) 從而該總體隨機(jī)誤差項(xiàng)存在遞增型異方差 Park檢驗(yàn) 顯然 lnXi前的參數(shù)在統(tǒng)計(jì)上是顯著的 表明原模型存在異方差 3 異方差模型的估計(jì) 與OLS估計(jì)結(jié)果相比較 擬合效果更差 為什么 關(guān)于異方差形式的假定可能存在問題 與OLS估計(jì)結(jié)果相比較 擬合效果更好 五 案例 2 補(bǔ)充 中國消費(fèi)函數(shù)模型 中國消費(fèi)函數(shù)模型 二元回歸 根據(jù)消費(fèi)模型的一般形式 選擇消費(fèi)總額為被解釋變量 國內(nèi)生產(chǎn)總值和前一年的消費(fèi)總額為解釋變量 變量之間關(guān)系為簡單線性關(guān)系 選取1981年至1996年統(tǒng)計(jì)數(shù)據(jù)為樣本觀測值 中國消費(fèi)數(shù)據(jù)表單位 億元 1 OLS估計(jì)結(jié)果 2 WLS估計(jì)結(jié)果 注 這里的權(quán)數(shù)E 也可以用別的符號(hào) 為OLS估計(jì)的殘差項(xiàng)的絕對(duì)值的倒數(shù) 3 比較 R2 0 999739 0 999999F 28682 980736 e2 438613 29437t 6 422 04 2 25 2134 122 9D W 1 45 1 81各項(xiàng)統(tǒng)計(jì)檢驗(yàn)指標(biāo)全面改善 五 案例 3 中國農(nóng)村居民人均消費(fèi)函數(shù)模型 見第三版教材P116 120例4 1 4 也是一個(gè)非常好的案例 僅僅是把第二版的2001年數(shù)據(jù)替換成了2006年的數(shù)據(jù) 主要的EViews軟件輸出結(jié)果如下 全樣本的OLS回歸 軟件操作 createu131datayx1x2 genrlny log y genrlnx1 log x1 genrlnx2 log x2 lslnyclnx1lnx2 懷特檢驗(yàn)的軟件輸出界面 可見 懷特統(tǒng)計(jì)量nR2 20 55085 31 0 662931 大于自由度 也即輔助回歸方程中解釋變量的個(gè)數(shù) 為5的 2分布臨界值11 07 因此 在5 的顯著性水平下拒絕同方差的原假設(shè) 在OLS方程對(duì)象窗口中 選擇view Residualtest WhiteHeteroskedasticity Eviews提供了包含交叉項(xiàng)的懷特異方差檢驗(yàn) WhiteHeteroskedasticity crossterms 和沒有交叉項(xiàng)的懷特異方差檢驗(yàn) WhiteHeteroskedasticity nocrossterms 這樣兩個(gè)選項(xiàng) 按lnx2排序后 子樣本1的OLS回歸 按lnx2排序的操作 dataT 用于還原 sortlnx2 子樣本1的操作 smpl112lslnyclnx1lnx2 按lnx2排序后 子樣本2的OLS回歸 子樣本2的操作 smpl2031lslnyclnx1lnx2 將數(shù)據(jù)還原 包括樣本區(qū)間還原 數(shù)據(jù)順序還原 再采用WLS法回歸 其中 w 1 abs resid 數(shù)據(jù)還原的操作 smpl131sortT WLS的軟件操作 lslnyclnx1lnx2genrw 1 abs resid 然后 用菜單實(shí)現(xiàn)WLS 手工加權(quán)的回歸結(jié)果 其中 E abs resid LNYE LNY E CE 1 E LNX1E LNX1 E LNX2E LNX2 E 軟件操作 smpl131sortTlslnyclnx1lnx2genre abs resid genrlnye lny egenrce 1 egenrlnx1e lnx1 egenrlnx2e lnx2 elslnyecelnx1elnx2e 線性回歸模型的基本假定 見教材P64 65 2 解釋變量Xj是確定性變量 不是隨機(jī)變量 在重復(fù)抽樣中取固定值 解釋變量之間不存在嚴(yán)格的線性相關(guān)性 無完全多重共線性 3 各個(gè)解釋變