第9章 異 方 差

1、第9章 異方差HETEROSCEDASTICITY What happens if the error variance is nonconstant? 異方差有什么性質(zhì) 異方差的後果是什么 如何診斷存在異方差 如果存在異方差，該如何補(bǔ)救？9.1異方差的性質(zhì) 實(shí)例 在低收入?yún)^(qū)域，收入的提高可以解釋食品消費(fèi)的增加，可得到一個(gè)規(guī)律。但這個(gè)規(guī)律在高收入?yún)^(qū)會(huì)不會(huì)同樣有效？ 相似的道理，收入與支出在不同收入水平上，是否具有相同的規(guī)律？ 如果某家人每天的食譜都是一樣的，窮還是富？南美安第斯山，窮人老是吃土豆和玉米 變異太小是“單調(diào)”、“齋”，他們無(wú)力“豐富”什么是異方差？是收入是儲(chǔ)蓄；其中：的模型例如儲(chǔ)蓄

2、與收入的關(guān)系的變化而變化，即的方差隨異方差：的方差相同動(dòng)項(xiàng)古典假定之一：隨機(jī)擾iiiiiiiiiiiXYuXYXfXni21222)()var(,.,2 , 1)var(儲(chǔ)蓄Y與收入X：異方差的圖形表示(A)概率密度儲(chǔ)蓄Y收入XiX21同方差(B)概率密度儲(chǔ)蓄Y收入XiX21異方差(A)與(B)的比較相同點(diǎn)：收入增加，儲(chǔ)蓄平均來(lái)說(shuō)也增加。不同點(diǎn)： （A）儲(chǔ)蓄的方差在所有的收入水平上保持不變。 （B）儲(chǔ)蓄的方差隨收入的增加而增加。解釋：隨收入增長(zhǎng)，人們有更多的備用收入，從而如何支配他們的收入有更大的選擇范圍。現(xiàn)象的聯(lián)想 林子大了同方差或者異方差假定下，都會(huì)有“什么鳥(niǎo)都有”的現(xiàn)象 如果相異的方差是

3、逐漸縮小，鳥(niǎo)的種類會(huì)隨著林子擴(kuò)大而變少 如果相異的方差是逐漸增大，鳥(niǎo)的種類會(huì)隨著林子擴(kuò)大而迅速增加 幸福的家庭無(wú)不相似，不幸的家庭各有不幸。列夫列夫托爾斯泰托爾斯泰安娜安娜卡列尼娜卡列尼娜 一個(gè)印象：電影、電視中的“壞人” 更容易使人記住產(chǎn)生異方差的主要原因 異方差多出現(xiàn)于截面數(shù)據(jù)產(chǎn)生異方差的主要原因模型中遺漏了影響逐漸增大的因素。如，儲(chǔ)蓄函數(shù)中的證券投資、利息、消費(fèi)者行為等因素；成本函數(shù)中的管理水平、生產(chǎn)技術(shù)條件和規(guī)模效應(yīng)等因素；消費(fèi)函數(shù)中的家庭財(cái)產(chǎn)、消費(fèi)心理等因素。模型函數(shù)形式的誤差。如將指數(shù)曲線模型誤設(shè)成了線性模型，則誤差有增大的趨勢(shì)。隨機(jī)因素的影響，如政策變動(dòng)、自然災(zāi)害、金融危機(jī)等。行

4、業(yè)的銷售收入與利潤(rùn)2009 排序後，前19個(gè)行業(yè)殘差的方差為2722=73853，後20個(gè)行業(yè)殘差的方差為4812=231169 可以用F檢驗(yàn)231169與73853是否顯著不同 計(jì)算F統(tǒng)計(jì)量231169/(20-2)/73853/(19-2)。其中，20與19為變量值個(gè)數(shù)，2是方程中包含截距項(xiàng)的自變量個(gè)數(shù)。F=2.956，對(duì)應(yīng)的概率為1.51%，能認(rèn)為兩個(gè)群體具有不同的方差。9.2 異方差的後果consequences很嚴(yán)重 1-3最小二乘估計(jì)不再是有效估計(jì) 隨機(jī)誤差項(xiàng)為異方差時(shí)，OLS估計(jì)仍然是無(wú)偏估計(jì)，但不再具有最小方差的特性 4-5、CLRM假定下估計(jì)量b的方差有偏，一個(gè)不變的方差估計(jì)

5、值不可能代表相異的條件方差 6、t檢驗(yàn)、F檢驗(yàn)的可靠性降低，增大模型的預(yù)測(cè)誤差 9.3 異方差的診斷1 問(wèn)題的性質(zhì)nature of problem 從統(tǒng)計(jì)學(xué)角度看，事物都表現(xiàn)為分布，對(duì)于正態(tài)分布，同質(zhì)指均值、方差相等 如男女生的身高數(shù)值，變異系數(shù)可能接近，但均值不同。同樣滿足無(wú)偏性的射擊比賽，但方差不同，可以區(qū)分高、低水平 計(jì)量分析中的X和Y通常具有數(shù)量上的互相影響關(guān)系，不同的量級(jí)代表了不同的經(jīng)濟(jì)性質(zhì)，很可能存在異方差9.3 異方差的診斷2 殘差的圖形檢驗(yàn)graphical examination of residuals 見(jiàn)“精要13例題”之殘差圖、殘差平方圖(收入X為橫軸) 如果是多元回

6、歸方程，可以使用殘差平方對(duì)Y作圖，注意，Y是有確定規(guī)律的，它是X的線性函數(shù) 如果呈現(xiàn)圖9.6之b、c、d、e模式，即有異方差性存在殘差的圖形模式殘差是無(wú)知的代名詞 對(duì)于無(wú)知的東西，可能是本質(zhì)性質(zhì)的，有時(shí)，雖不知本質(zhì)，但可以觀察到現(xiàn)象 無(wú)知于理論或本質(zhì)更常見(jiàn)，但無(wú)知與數(shù)量模式則很難敷衍塞責(zé)。 很多學(xué)問(wèn)之中都有一些詞表示“無(wú)知”9.3 異方差的診斷3帕克Park檢驗(yàn) 其中的X，可以是每一個(gè)Xi，或者是Y。 如果B2以較大的概率為0，說(shuō)明自變量對(duì)殘差沒(méi)有影響，不存在異方差。如果B2以較小的概率為0，說(shuō)明自變量對(duì)殘差有影響，則存在異方差。iiivXBBelnln2129.3 異方差的診斷4格萊澤Gle

7、iser檢驗(yàn) Gleiser又譯戈里瑟，不是格蘭杰 檢驗(yàn)的原理同Park 如果經(jīng)檢驗(yàn)?zāi)撤匠淌秋@著的，則表明隨機(jī)誤差項(xiàng)的方差隨著解釋變量取值的不同而變化，即存在異方差性。 兩種檢驗(yàn)的特點(diǎn)：不僅能檢驗(yàn)異方差性，而且通過(guò)“實(shí)驗(yàn)”可以探測(cè)異方差的具體形式，這有助于進(jìn)一步研究如何消除異方差性的影響。 , 5 . 0, 2, 1|21hvxBBeihii9.3 異方差的診斷5懷特White檢驗(yàn) White檢驗(yàn)通過(guò)建立輔助回歸模型的方式來(lái)判斷異方差性 1.估計(jì)回歸模型，并計(jì)算殘差的平方 。 2.估計(jì)輔助回歸方程 3.檢驗(yàn)?zāi)Ｐ褪欠窬哂薪忉屇芰?4.如果chi方值大，則對(duì)應(yīng)的p低，輔助回歸方程具有解釋能力的概率

8、低，則無(wú)異方差iiiiuXBXBBY33221iiiiiiiivXXAXAXAXAXAAe326235224332212212kRn9.4異方差的補(bǔ)救措施 What to do if heteroscedasticity is observed: remediak measures 兩個(gè)基本思路 1.把異方差“算”成同方差，WLS 理想狀態(tài)下，條件方差已知，方程兩邊同時(shí)除以各條件方差，即得同方差模型 實(shí)際中，條件方差未知， 假設(shè)誤差方差與X成比例，則平方根變換 假設(shè)誤差方差與X2成比例，則倒數(shù)變換 2.重新設(shè)定模型9.4.1 已知時(shí)：加權(quán)最小二乘法 考慮一元線性回歸模型niuXYii, 2 ,

9、 1,212i如果每個(gè)觀察值的誤差項(xiàng)方差 是已知的，使用 為權(quán)數(shù)，對(duì)模型(9.18)作如下變換：2ii/112iiiiiiiYXu22211()()1iiiiiiuVarVar u通過(guò)加權(quán)變換使誤差項(xiàng)變成同方差了。 由于 9.4.2 未知時(shí)：變換2i 如果 是未知的，可根據(jù)誤差與解釋變量或被解釋變量的關(guān)系來(lái)確定變換的權(quán)數(shù) 先采用戈里瑟檢驗(yàn)確定ei與Xi 之間的關(guān)系。2i情形11如 之間為線性關(guān)系，則可認(rèn)為iiXe 與iiiXuE222選擇 為權(quán)數(shù)，即對(duì)模型(9.18)兩邊同時(shí)乘以 ，將異方差模型變?yōu)橥讲钅Ｐ汀?iX1iX1iiiiiiXuXXXY21情形2 如 之間為線性關(guān)系，則可認(rèn)為iiX

10、e 與2222)(iiiXuE選擇1/Xi為權(quán)數(shù)，可將模型(9.18)變換為如下模型：iiiiiXuXXY21北京市大百貨商店銷售資料 利用普通最小二乘法，根據(jù)表中數(shù)據(jù)，估計(jì)該回歸方程為2329.9960.075(810.332)(0.012)( 0.407)(6.105)0.4891.616YXSetRDW 根據(jù)此回歸方程，可以求出利稅總額的回歸估計(jì)值和殘差 ，然後將銷售收入Xi 作為橫坐標(biāo)，殘差ei 為縱坐標(biāo)，畫(huà)出回歸殘差圖。從殘差圖看，殘差的有不斷擴(kuò)大的趨勢(shì)，ui 存在明顯的異方差性。()iiieYY殘差圖銷售收入(萬(wàn)元)X14000012000010000080000600004000

11、0200000普通殘差80006000400020000-2000-4000-6000戈里瑟檢驗(yàn)的殘差回歸方程259. 0)692. 3()160. 1 ()215. 3)(857.748(027. 0419.5622RtSeXe305. 0)141. 4()147. 1()215. 3()857.748(314.13638.8582RtSeXe二個(gè)殘差回歸方程回歸系數(shù)的顯著性檢驗(yàn)，均拒絕同方差假設(shè)，表明存在異方差性。右式的判定系數(shù) 較大。故認(rèn)為 有線性關(guān)系， ，選擇 為權(quán)數(shù)對(duì)原模型(13.18)進(jìn)行變換。2RiiXe 與iiiXuE222)(iX1684. 1230. 0)194. 6()0

12、60. 0()011. 0()622.442(069. 01611.26/2DWRtSeXXXYiiii對(duì)變換後的模型使用普通最小二乘法得到如下結(jié)果：對(duì)比加權(quán)最小二乘估計(jì)式(右)與普通最小二乘估計(jì)式(左)，斜率系數(shù)相差很小，但加權(quán)最小二乘估計(jì)的標(biāo)準(zhǔn)誤(0.011)要小于OLS估計(jì)的標(biāo)準(zhǔn)誤(0.012)，說(shuō)明在有異方差的情形下，普通最小二乘估計(jì)高估了估計(jì)量的標(biāo)準(zhǔn)誤。2329.9960.075(810.332)(0.012)( 0.407)(6.105)0.4891.616YXSetRDW 684. 1230. 0)194. 6()060. 0()011. 0()622.442(069. 01611.26/2DWRtSeXXXYiiii變換函數(shù)形式 取對(duì)數(shù)後，可以降低原序列的差異程度，當(dāng)然可以降低異方差的程度9.5 懷特異