Hausman檢驗(yàn)與模型選擇統(tǒng)計(jì)量

Hausman檢驗(yàn)Hausman檢驗(yàn)的差不多思想是：由于在遺漏相關(guān)變量的情況下，往往導(dǎo)致解釋變量與隨機(jī)擾動(dòng)項(xiàng)出現(xiàn)同期相關(guān)性，即，外生性條件不滿足，從而使得OLS可能量有偏且非一致。因此，對(duì)模型遺漏相關(guān)變量的檢驗(yàn)?zāi)軌蛴媚Ｐ褪欠癯霈F(xiàn)解釋變量與隨機(jī)擾動(dòng)項(xiàng)同期相關(guān)性的檢驗(yàn)來(lái)替代。我們明白，當(dāng)，或者解釋變量與隨機(jī)擾動(dòng)項(xiàng)同期相關(guān)時(shí)，采納工具變量法（IV）可得到參數(shù)的一致可能量；當(dāng)解釋變量與隨機(jī)擾動(dòng)項(xiàng)同期無(wú)關(guān)時(shí)，OLS可能量為參數(shù)的一致可能量。因此，只須檢驗(yàn)IV可能量與OLS可能量是否存在顯著的差異性，以檢驗(yàn)解釋變量與隨機(jī)擾動(dòng)項(xiàng)是否同期無(wú)關(guān)，進(jìn)而判不模型是否存在著遺漏相關(guān)變量的情況。Hausman檢驗(yàn)在原假設(shè)條件下，IV可能量與LS可能量差不多上一致的，而在備擇假設(shè)中，只有IV可能量是一致的。若外生性條件確定滿足時(shí)，我們更傾向于使用LS可能量；而當(dāng)外生性條件不確定滿足時(shí)，就需要使用IV可能量。令，則H檢驗(yàn)統(tǒng)計(jì)量為一個(gè)Wald統(tǒng)計(jì)量：能夠證明得到。則若拒絕原假設(shè)則需要選用IV可能量。模型選擇統(tǒng)計(jì)量我們明白，隨著模型中變量個(gè)數(shù)的增加，殘差平方和將減小，擬合優(yōu)度增加，但自由度減少。和指標(biāo)的提出差不多上為了權(quán)衡減小和自由度丟失兩個(gè)方面，是模型選擇中最常用的標(biāo)準(zhǔn)。近年來(lái)，若干模型選擇的標(biāo)準(zhǔn)相繼面世。這些標(biāo)準(zhǔn)所采納的的形式均為殘差平方和與具有懲處意義的自由度因子（表征模型設(shè)定復(fù)雜度）的乘積。其中，赤池（1970，1974）提出了有限預(yù)測(cè)誤差（FPE）和赤池信息準(zhǔn)則(AIC)；漢南（Hannan）和奎因（Quinn）的HQ準(zhǔn)則；許瓦茲準(zhǔn)則（SCHWARZ）；施巴塔準(zhǔn)則（Shibata）；賴斯準(zhǔn)則（RICE）；廣義交叉確認(rèn)準(zhǔn)則（GCV）等。下表是關(guān)于各類不同標(biāo)準(zhǔn)的總結(jié)。這些統(tǒng)計(jì)量也被稱為模型選擇統(tǒng)計(jì)量。SGMASQHQAICRICEFPESCHWARZGCVSHIBATA理想情況是，我們所設(shè)定的模型，在上述各科統(tǒng)計(jì)量中，與其他模型相比較，有著較小的檢驗(yàn)統(tǒng)計(jì)值。換言之，模型選擇的標(biāo)準(zhǔn)為，上述各個(gè)模型選擇統(tǒng)計(jì)量具有較小的統(tǒng)計(jì)值。各個(gè)統(tǒng)計(jì)量的推導(dǎo)不作要求?？紤]題1、假設(shè)真實(shí)的模型為：，若遺漏變量，討論可能量的無(wú)偏性。若我們關(guān)懷的不是回歸參數(shù)，而是的預(yù)測(cè)值，遺漏變量是否帶來(lái)偏誤？若是的線性函數(shù)，結(jié)論是如何樣的？2、證明：有約束的統(tǒng)計(jì)量絕可不能比無(wú)約束的統(tǒng)計(jì)量大，加入約束條件不能提高模型的擬合優(yōu)度。（提示：從RSS入手。）3、對(duì)一個(gè)常數(shù)、和的多元回歸結(jié)果如下：，＝8/60，，模型滿足古典的假設(shè)條件，依照這些結(jié)果，檢驗(yàn)兩個(gè)斜率之和為1的假設(shè)。Wald檢驗(yàn)、拉格朗日乘數(shù)檢驗(yàn)和似然比檢驗(yàn)差不多思路：（1）沃爾德檢驗(yàn)關(guān)于回歸模型的參數(shù)約束而言，能夠是線性約束也能夠是非線性約束。設(shè)，采納ML可能，有：則：故當(dāng)成立時(shí)，有：Wald檢驗(yàn)統(tǒng)計(jì)量為：其中，是無(wú)約束條件下的參數(shù)可能向量。在和大樣本條件下，W遵從自由度等于約束個(gè)數(shù)的卡方分布。其中，約束個(gè)數(shù)是指約束方程的個(gè)數(shù)。（2）似然比檢驗(yàn)差不多思想設(shè)總體的密度函數(shù)（或分布列）為，為未知參數(shù)，，現(xiàn)考慮如下的檢驗(yàn)問(wèn)題：，（1）其中與是非空子集，且與不相交，下面為方便起見(jiàn)，討論與之并為的情況。設(shè)是來(lái)自的樣本，記其似然函數(shù)為，與分不是的參數(shù)空間與上的極大似然可能，似然函數(shù)在與上的極大值分不記為與，即和，記其比值為：（2）其中，是一個(gè)統(tǒng)計(jì)量，由于范圍越大L的最大值可不能減少，故總有，這意味著。由于似然函數(shù)能夠看成是給定樣本后，出現(xiàn)可能性的一種度量。設(shè)的密度函數(shù)為，為階的未知參數(shù)向量，，。分三種情形討論1．，；2．，；3．，；①簡(jiǎn)單假設(shè)情形：，則有：當(dāng)成立時(shí)，有：，且的拒絕域?yàn)椋?。②?fù)合假設(shè)情形：，其中：是的向量，與是一一對(duì)應(yīng)，連續(xù)。由于為的極大似然可能，則：，可得：因此，。③一般情形：，則有檢驗(yàn)統(tǒng)計(jì)量（3）拉格朗日乘數(shù)檢驗(yàn)差不多思想由于在非限制條件下，滿足，即在處為0。若成立，則也應(yīng)在0附近?？紤]到和均為的一致性可能，有約束條件下的對(duì)數(shù)似然函數(shù)為因而，有。此乃拉格朗日乘數(shù)檢驗(yàn)：若成立，則；則可依據(jù)構(gòu)造檢驗(yàn)統(tǒng)計(jì)量，得到給定顯著水平條件下的拒絕