異方差檢驗(yàn)(共13頁)

1、七、 異方差與自相關(guān)一、背景我們討論如果古典假定中的同方差和無自相關(guān)假定不能得到滿足，會(huì)引起什么樣的估計(jì)問題呢？另一方面，如何發(fā)現(xiàn)問題，也就是發(fā)現(xiàn)和檢驗(yàn)異方差以及自相關(guān)的存在性也是一個(gè)重要的方面，這個(gè)部分就是就這個(gè)問題進(jìn)行討論。二、知識(shí)要點(diǎn)1、引起異方差的原因及其對(duì)參數(shù)估計(jì)的影響2、異方差的檢驗(yàn)（發(fā)現(xiàn)異方差）3、異方差問題的解決辦法4、引起自相關(guān)的原因及其對(duì)參數(shù)估計(jì)的影響5、自相關(guān)的檢驗(yàn)（發(fā)現(xiàn)自相關(guān)）6、自相關(guān)問題的解決辦法 （時(shí)間序列部分講解）三、要點(diǎn)細(xì)綱1、引起異方差的原因及其對(duì)參數(shù)估計(jì)的影響原因：引起異方差的眾多原因中，我們討論兩個(gè)主要的原因，一是模型的設(shè)定偏誤，主要指的是遺漏變量的影響

2、。這樣，遺漏的變量就進(jìn)入了模型的殘差項(xiàng)中。當(dāng)省略的變量與回歸方程中的變量有相關(guān)關(guān)系的時(shí)候，不僅會(huì)引起內(nèi)生性問題，還會(huì)引起異方差。二是截面數(shù)據(jù)中總體各單位的差異。后果：異方差對(duì)參數(shù)估計(jì)的影響主要是對(duì)參數(shù)估計(jì)有效性的影響。在存在異方差的情況下，OLS方法得到的參數(shù)估計(jì)仍然是無偏的，但是已經(jīng)不具備最小方差性質(zhì)。一般而言，異方差會(huì)引起真實(shí)方差的低估，從而夸大參數(shù)估計(jì)的顯著性，即是參數(shù)估計(jì)的t統(tǒng)計(jì)量偏大，使得本應(yīng)該被接受的原假設(shè)被錯(cuò)誤的拒絕。2、異方差的檢驗(yàn)（1）圖示檢驗(yàn)法由于異方差通常被認(rèn)為是由于殘差的大小隨自變量的大小而變化，因此，可以通過散點(diǎn)圖的方式來簡(jiǎn)單的判斷是否存在異方差。具體的做法是，以回歸

3、的殘差的平方為縱坐標(biāo)，回歸式中的某個(gè)解釋變量為橫坐標(biāo)，畫散點(diǎn)圖。如果散點(diǎn)圖表現(xiàn)出一定的趨勢(shì)，則可以判斷存在異方差。（2）Goldfeld-Quandt檢驗(yàn)Goldfeld-Quandt 檢驗(yàn)又稱為樣本分段法、集團(tuán)法，由Goldfeld和Quandt 1965年提出。這種檢驗(yàn)的思想是以引起異方差的解釋變量的大小為順序，去掉中間若干個(gè)值，從而把整個(gè)樣本分為兩個(gè)子樣本。用兩個(gè)子樣本分別進(jìn)行回歸，并計(jì)算殘差平方和。用兩個(gè)殘差平方和構(gòu)造檢驗(yàn)異方差的統(tǒng)計(jì)量。Goldfeld-Quandt檢驗(yàn)有兩個(gè)前提條件，一是該檢驗(yàn)只應(yīng)用于大樣本（n>30），并且要求滿足條件：觀測(cè)值的數(shù)目至少是參數(shù)的二倍； 二是除

4、了同方差假定不成立以外，要求其他假設(shè)都成立，隨機(jī)項(xiàng)沒有自相關(guān)并且服從正態(tài)分布。Goldfeld-Quandt檢驗(yàn)假設(shè)檢驗(yàn)設(shè)定為：H0:具有同方差， H1:具有遞增型異方差。具體實(shí)施步驟為：將觀測(cè)值按照解釋變量x的大小順序排列。將排在中間部分的c個(gè)（約n/4）觀測(cè)值刪去，再將剩余的觀測(cè)值分成兩個(gè)部分，每個(gè)部分的個(gè)數(shù)分別為n1、n2。分別對(duì)上述兩個(gè)部分的觀測(cè)值進(jìn)行回歸，得到兩個(gè)部分的回歸殘差平方和。構(gòu)造F統(tǒng)計(jì)量，其中 k為模型中被估參數(shù)個(gè)數(shù)。在H0成立條件下，判別規(guī)則如下， 若 F £ Fa (n2 - k, n1 - k), 接受H0（具有同方差） 若 F > Fa(n2 - k

5、, n1 - k), 拒絕H0（遞增型異方差）注意： 當(dāng)摸型含有多個(gè)解釋變量時(shí)，應(yīng)以每一個(gè)解釋變量為基準(zhǔn)檢驗(yàn)異方差。 此法只適用于遞增型異方差。（3）BreuschPagan/Godfrey LM檢驗(yàn)該方法的基本思想是構(gòu)造殘差平方序列與解釋變量之間的輔助函數(shù)，得到回歸平方和ESS，從而判斷異方差性存在的顯著性。該檢驗(yàn)假設(shè)異方差的形式為：其中是解釋變量構(gòu)成的向量，當(dāng)時(shí)，模型是同方差的。具體設(shè)模型為： 表示是某個(gè)解釋變量或全部。 同樣，該檢驗(yàn)也可以通過一個(gè)簡(jiǎn)單的回歸來實(shí)現(xiàn)。提出原假設(shè)為 ， 具體步驟如下：構(gòu)造變量：用OLS方法估計(jì)方程中的未知參數(shù)，得 和 （n為樣本容量） 以為被解釋變量，為解釋變

6、量進(jìn)行回歸，并計(jì)算回歸平方和ESS。構(gòu)造輔助回歸函數(shù) 構(gòu)造LM統(tǒng)計(jì)量為：LM當(dāng)有同方差性，且n無限增大時(shí)有 對(duì)于給定顯著性水平 ，如果，則拒絕原假設(shè)，表明模型中存在異方差。 為了計(jì)算的簡(jiǎn)便，LM統(tǒng)計(jì)量的構(gòu)造也可以采取如下形式：其中，是關(guān)于的觀測(cè)值矩陣, g是觀測(cè)值排成的列向量。由于上述統(tǒng)計(jì)量的構(gòu)造過分依賴于殘差的正態(tài)性假定，因此，Koenker和Bassett對(duì)該統(tǒng)計(jì)量進(jìn)行了修正，令 則（4）White檢驗(yàn)White檢驗(yàn)由H. White 1980年提出。和Goldfeld-Quandt 檢驗(yàn)相比，White檢驗(yàn)不需要對(duì)觀測(cè)值排序，也不依賴于隨機(jī)誤差項(xiàng)服從正態(tài)分布，它是通過一個(gè)輔助回歸式構(gòu)造

7、c2 統(tǒng)計(jì)量進(jìn)行異方差檢驗(yàn)。White檢驗(yàn)的提出避免了Breusch-Pagan檢驗(yàn)一定要已知隨機(jī)誤差的方差產(chǎn)生的原因且要求隨機(jī)誤差服從正態(tài)分布。White檢驗(yàn)與Breusch-Pagan檢驗(yàn)很相似，但它不需要關(guān)于異方差的任何先驗(yàn)知識(shí)，只要求在大樣本的情況下。 White的檢驗(yàn)的思想直接來源于其異方差一致估計(jì)。當(dāng)存在異方差時(shí)，傳統(tǒng)的方差估計(jì)式不再是估計(jì)量方差的一致估計(jì)，而應(yīng)該使用White一致性估計(jì)：。通過檢驗(yàn)是不是參數(shù)估計(jì)方差的一致估計(jì)，可以檢驗(yàn)是否存在異方差。在實(shí)際的應(yīng)用過程中，可以通過回歸的步驟來簡(jiǎn)單的實(shí)現(xiàn)上述思想。以二元回歸模型yi = b0 +b1 xi1 +b2 xi2 + ui為

8、例，White檢驗(yàn)的具體步驟如下：首先對(duì)上式進(jìn)行OLS回歸，求殘差平方。做如下輔助回歸式， = a0 +a1 xi1 +a2 xi2 + a3 xi12 +a4 xi22 + a5 xi1 xi2 + vi 即用殘差平方對(duì)原回歸式中的各解釋變量、解釋變量的平方項(xiàng)、交叉乘積項(xiàng)進(jìn)行OLS回歸。注意，上式中要保留常數(shù)項(xiàng)。求輔助回歸式的可決系數(shù)R2。White檢驗(yàn)的原假設(shè)和備擇假設(shè)是 H0：ui不存在異方差， H1：ui存在異方差利用回歸得到的，計(jì)算統(tǒng)計(jì)量。在同方差假設(shè)條件下，統(tǒng)計(jì)量 nR 2 c 2(5) 其中n表示樣本容量，R2是輔助回歸式的OLS估計(jì)的可決系數(shù)。自由度5表示輔助回歸式中解釋變量項(xiàng)

9、數(shù)（注意，不計(jì)算常數(shù)項(xiàng)）。n R 2屬于LM統(tǒng)計(jì)量。統(tǒng)計(jì)量漸進(jìn)服從自由度為的卡方分布，其中是輔助回歸中參數(shù)的個(gè)數(shù)（包括常數(shù)項(xiàng)）。判別規(guī)則是 若 n R 2 £ c2a (5), 接受H0（ui 具有同方差） 若 n R 2 > c2a (5), 拒絕H0（ui 具有異方差）（5）ARCH檢驗(yàn)自回歸條件異方差（ARCH）檢驗(yàn)主要用于檢驗(yàn)時(shí)間序列中存在的異方差。ARCH檢驗(yàn)的思想是，在時(shí)間序列數(shù)據(jù)中，可認(rèn)為存在的異方差性為ARCH過程，并通過檢驗(yàn)這一過程是否成立來判斷時(shí)間序列是否存在異方差。ARCH過程可以表述為：其中是ARCH過程的階數(shù)，并且，；為隨機(jī)誤差。ARCH檢驗(yàn)的基本步驟

10、如下：提出假設(shè)：中至少一個(gè)不為零。對(duì)原模型做OLS估計(jì)，求出殘差，并計(jì)算殘差平方序列，分別作為對(duì)的估計(jì)。作輔助回歸并計(jì)算上式的可決系數(shù)，可以證明，在原假設(shè)成立的情況下，基于大樣本，有近似服從自由度為的卡方分布。如果，則拒絕原假設(shè)，表明原模型的誤差項(xiàng)存在異方差。（6）Park檢驗(yàn)法Park檢驗(yàn)法就是將殘差圖法公式化，提出 是解釋變量 的某個(gè)函數(shù)，然后通過檢驗(yàn)這個(gè)函數(shù)形式是否顯著，來判定是否具有異方差性及其異方差性的函數(shù)結(jié)構(gòu)。（7）Glejser檢驗(yàn)法 這種方法類似于Park檢驗(yàn)。首先從OLS回歸取得殘差 之后，用 的絕對(duì)值對(duì)被認(rèn)為與方差密切相關(guān)的X變量作回歸。3、異方差的解決辦法 （詳細(xì)見板書）

11、對(duì)異方差的傳統(tǒng)解決辦法是通過加權(quán)最小二乘WLS將殘差向同方差轉(zhuǎn)換。一般認(rèn)為，異方差的產(chǎn)生是由于殘差項(xiàng)中包含了解釋變量的相關(guān)信息，也就是說，可以將殘差項(xiàng)表達(dá)成解釋變量的函數(shù)：其中是的向量，可以是關(guān)于的線性函數(shù)，也可以是非線性的。如果知道的函數(shù)形式，那么可以通過加權(quán)最小二乘的方法對(duì)模型進(jìn)行修正，在不存在自相關(guān)的假定下，在回歸方程兩邊同乘以可以對(duì)殘差進(jìn)行修正，從而消除殘差的異方差性使得OLS估計(jì)量仍然具有有效性。但是，這樣的方法卻有兩個(gè)方面的問題首先，是的形式難以確定（為了簡(jiǎn)便，我們往往假設(shè)是關(guān)于的線性函數(shù)，但實(shí)際上真實(shí)的函數(shù)形式很可能是非線性的），從而相應(yīng)的WLS的權(quán)重設(shè)定也就往往是不正確的了；其

12、次，即使知道的真實(shí)函數(shù)形式，通過加權(quán)得出的參數(shù)估計(jì)也已經(jīng)不是原來的關(guān)注參數(shù)了；最后，在強(qiáng)外生性條件不滿足的條件下，WLS估計(jì)量也往往是不一致的。因此，從現(xiàn)代的觀點(diǎn)來看，從模型設(shè)定的角度對(duì)異方差進(jìn)行修正才是可行的方法。4、引起自相關(guān)的原因及其對(duì)參數(shù)估計(jì)的影響引起自相關(guān)的原因主要可以歸納為三點(diǎn)：經(jīng)濟(jì)數(shù)據(jù)的固有的慣性（inertia）帶來的相關(guān)，比如經(jīng)濟(jì)系統(tǒng)自身的慣性，經(jīng)濟(jì)活動(dòng)的滯后效應(yīng)。這主要出現(xiàn)在時(shí)間序列數(shù)據(jù)當(dāng)中，經(jīng)濟(jì)變量在時(shí)間上的慣性往往是造成自相關(guān)的主要原因。滯后效應(yīng)指的是某一經(jīng)濟(jì)變量對(duì)另一經(jīng)濟(jì)變量的影響不僅影響于當(dāng)期，而是延續(xù)若干期，由此帶來變量的自相關(guān)。模型的設(shè)定誤差，主要仍然是遺漏變量

13、的影響，將遺漏的變量歸入了殘差項(xiàng)，由于遺漏的變量在不同時(shí)間點(diǎn)上是相關(guān)的，這就造成了殘差項(xiàng)的自相關(guān)。對(duì)數(shù)據(jù)的處理造成了數(shù)據(jù)的內(nèi)在聯(lián)系，從而引起自相關(guān)現(xiàn)象。自相關(guān)對(duì)參數(shù)估計(jì)的影響仍然是影響參數(shù)估計(jì)的有效性，自相關(guān)的存在使得OLS得到的參數(shù)估計(jì)不再具有最小方差性質(zhì)。一般而言，在存在自相關(guān)的情況下，如果仍然用滿足古典假定的OLS去估計(jì)參數(shù)及其方差，會(huì)低估真實(shí)的，更會(huì)低估參數(shù)估計(jì)的方差，從而是t統(tǒng)計(jì)量被高估，致使原來不顯著的解釋變量變得顯著，夸大的參數(shù)的顯著水平。5、自相關(guān)的檢驗(yàn)（1）圖示檢驗(yàn)圖示檢驗(yàn)是一種直觀的檢驗(yàn)自相關(guān)的方法。與上述檢驗(yàn)異方差的方法略有不同的是，該方法是通過做殘差的當(dāng)期值與其滯后期的

14、值的散點(diǎn)圖來判斷是否存在自相關(guān)。具體做法是，以O(shè)LS回歸的殘差當(dāng)期值為縱坐標(biāo)，以其滯后值為橫坐標(biāo)（可以是滯后一期，也可以是滯后一期以上）畫散點(diǎn)圖。如果該圖形有明顯的趨勢(shì)，則可以認(rèn)為殘差存在自相關(guān)。（2）相關(guān)系數(shù)檢驗(yàn)法相關(guān)系數(shù)的方法是檢驗(yàn)自相關(guān)的一個(gè)簡(jiǎn)單方法。其基本思想就是通過計(jì)算OLS回歸得到的殘差之間的一階自相關(guān)系數(shù)，來確認(rèn)是否存在自相關(guān)的現(xiàn)象。具體表示如下：做輔助回歸顯然，r是對(duì)相關(guān)系數(shù)的一個(gè)估計(jì)。但是這個(gè)方法的問題是：沒有一個(gè)確定的標(biāo)準(zhǔn)來判斷究竟多大的相關(guān)悉數(shù)才能認(rèn)為存在自相關(guān)。（3）BreuschGodfrey LM檢驗(yàn)BreuschGodfrey LM檢驗(yàn)的原假設(shè)是不存在自相關(guān)，備擇

15、假設(shè)是存在自相關(guān)?；静襟E如下：提出假設(shè)：中至少一個(gè)不為零。其中是階數(shù)。對(duì)原模型做OLS估計(jì)，求出殘差 。作輔助回歸并得到上面回歸的可決系數(shù)，可以證明，在原假設(shè)成立的情況下，基于大樣本，有近似服從自由度為的卡方分布。拒絕原假設(shè)，則表明原模型的誤差項(xiàng)存在自相關(guān)。（4）PierceBox檢驗(yàn)和Ljung-Box 檢驗(yàn)Q統(tǒng)計(jì)量最早由Box和Pierce于1970年提出，其計(jì)算表達(dá)式為：其中，。Q統(tǒng)計(jì)量服從自由度為P的卡方分布。為了使該統(tǒng)計(jì)量具有更加優(yōu)良的小樣本性質(zhì)，Ljung和Box于1979年對(duì)其進(jìn)行了改進(jìn)。改進(jìn)后的統(tǒng)計(jì)量其表達(dá)形式為：（5）DurbinWatson檢驗(yàn)DW統(tǒng)計(jì)量是用OLS回歸的殘

16、差來構(gòu)造檢驗(yàn)自相關(guān)的統(tǒng)計(jì)量的。可以表述如下：其中，r是一階自相關(guān)系數(shù)。當(dāng)樣本量很大的時(shí)候，上式中的第二項(xiàng)可以忽略，此時(shí)統(tǒng)計(jì)量變成。DW檢驗(yàn)有兩個(gè)臨界值和，當(dāng)統(tǒng)計(jì)量的值落在兩個(gè)臨界值中間時(shí)，接受原假設(shè)，認(rèn)為不存在自相關(guān)。當(dāng)統(tǒng)計(jì)量的值臨界值大于或者小于時(shí)，均認(rèn)為存在自相關(guān)。使用DW統(tǒng)計(jì)量對(duì)自相關(guān)進(jìn)行檢驗(yàn)需要注意該統(tǒng)計(jì)量的使用條件。一是該統(tǒng)計(jì)量只能檢驗(yàn)一階自相關(guān)，不能檢驗(yàn)高階的自相關(guān)；二是該檢驗(yàn)要求回歸式中不能包含有解釋變量的滯后值，否則計(jì)算得到的統(tǒng)計(jì)量總是傾向于得出沒有自相關(guān)的結(jié)論。（6）Durbin H檢驗(yàn)Durbin H檢驗(yàn)克服了DW檢驗(yàn)要求回歸式中不含有被解釋變量的滯后項(xiàng)的缺點(diǎn)，其構(gòu)造的統(tǒng)計(jì)量可以表示如下：其中是OLS回歸中回歸系數(shù)的方差。h的值越大，越傾向于拒絕原假設(shè)，即認(rèn)為存在自相關(guān)。當(dāng)時(shí)，該統(tǒng)計(jì)量無法計(jì)算，此時(shí)可以使用輔助回歸的做