Hausman檢驗與模型選擇統(tǒng)計量

Hausman檢驗Hausman檢驗的差不多思想是：由于在遺漏相關(guān)變量的情況下，往往導(dǎo)致解釋變量與隨機(jī)擾動項出現(xiàn)同期相關(guān)性，即，外生性條件不滿足，從而使得OLS可能量有偏且非一致。因此，對模型遺漏相關(guān)變量的檢驗?zāi)軌蛴媚Ｐ褪欠癯霈F(xiàn)解釋變量與隨機(jī)擾動項同期相關(guān)性的檢驗來替代。我們明白，當(dāng)，或者解釋變量與隨機(jī)擾動項同期相關(guān)時，采納工具變量法（IV）可得到參數(shù)的一致可能量；當(dāng)解釋變量與隨機(jī)擾動項同期無關(guān)時，OLS可能量為參數(shù)的一致可能量。因此，只須檢驗IV可能量與OLS可能量是否存在顯著的差異性，以檢驗解釋變量與隨機(jī)擾動項是否同期無關(guān)，進(jìn)而判不模型是否存在著遺漏相關(guān)變量的情況。Hausman檢驗在原假設(shè)條件下，IV可能量與LS可能量差不多上一致的，而在備擇假設(shè)中，只有IV可能量是一致的。若外生性條件確定滿足時，我們更傾向于使用LS可能量；而當(dāng)外生性條件不確定滿足時，就需要使用IV可能量。令，則H檢驗統(tǒng)計量為一個Wald統(tǒng)計量：能夠證明得到。則若拒絕原假設(shè)則需要選用IV可能量。模型選擇統(tǒng)計量我們明白，隨著模型中變量個數(shù)的增加，殘差平方和將減小，擬合優(yōu)度增加，但自由度減少。和指標(biāo)的提出差不多上為了權(quán)衡減小和自由度丟失兩個方面，是模型選擇中最常用的標(biāo)準(zhǔn)。近年來，若干模型選擇的標(biāo)準(zhǔn)相繼面世。這些標(biāo)準(zhǔn)所采納的的形式均為殘差平方和與具有懲處意義的自由度因子（表征模型設(shè)定復(fù)雜度）的乘積。其中，赤池（1970，1974）提出了有限預(yù)測誤差（FPE）和赤池信息準(zhǔn)則(AIC)；漢南（Hannan）和奎因（Quinn）的HQ準(zhǔn)則；許瓦茲準(zhǔn)則（SCHWARZ）；施巴塔準(zhǔn)則（Shibata）；賴斯準(zhǔn)則（RICE）；廣義交叉確認(rèn)準(zhǔn)則（GCV）等。下表是關(guān)于各類不同標(biāo)準(zhǔn)的總結(jié)。這些統(tǒng)計量也被稱為模型選擇統(tǒng)計量。SGMASQHQAICRICEFPESCHWARZGCVSHIBATA理想情況是，我們所設(shè)定的模型，在上述各科統(tǒng)計量中，與其他模型相比較，有著較小的檢驗統(tǒng)計值。換言之，模型選擇的標(biāo)準(zhǔn)為，上述各個模型選擇統(tǒng)計量具有較小的統(tǒng)計值。各個統(tǒng)計量的推導(dǎo)不作要求?？紤]題1、假設(shè)真實的模型為：，若遺漏變量，討論可能量的無偏性。若我們關(guān)懷的不是回歸參數(shù)，而是的預(yù)測值，遺漏變量是否帶來偏誤？若是的線性函數(shù)，結(jié)論是如何樣的？2、證明：有約束的統(tǒng)計量絕可不能比無約束的統(tǒng)計量大，加入約束條件不能提高模型的擬合優(yōu)度。（提示：從RSS入手。）3、對一個常數(shù)、和的多元回歸結(jié)果如下：，＝8/60，，模型滿足古典的假設(shè)條件，依照這些結(jié)果，檢驗兩個斜率之和為1的假設(shè)。Wald檢驗、拉格朗日乘數(shù)檢驗和似然比檢驗差不多思路：（1）沃爾德檢驗關(guān)于回歸模型的參數(shù)約束而言，能夠是線性約束也能夠是非線性約束。設(shè)，采納ML可能，有：則：故當(dāng)成立時，有：Wald檢驗統(tǒng)計量為：其中，是無約束條件下的參數(shù)可能向量。在和大樣本條件下，W遵從自由度等于約束個數(shù)的卡方分布。其中，約束個數(shù)是指約束方程的個數(shù)。（2）似然比檢驗差不多思想設(shè)總體的密度函數(shù)（或分布列）為，為未知參數(shù)，，現(xiàn)考慮如下的檢驗問題：，（1）其中與是非空子集，且與不相交，下面為方便起見，討論與之并為的情況。設(shè)是來自的樣本，記其似然函數(shù)為，與分不是的參數(shù)空間與上的極大似然可能，似然函數(shù)在與上的極大值分不記為與，即和，記其比值為：（2）其中，是一個統(tǒng)計量，由于范圍越大L的最大值可不能減少，故總有，這意味著。由于似然函數(shù)能夠看成是給定樣本后，出現(xiàn)可能性的一種度量。設(shè)的密度函數(shù)為，為階的未知參數(shù)向量，，。分三種情形討論1．，；2．，；3．，；①簡單假設(shè)情形：，則有：當(dāng)成立時，有：，且的拒絕域為：。②復(fù)合假設(shè)情形：，其中：是的向量，與是一一對應(yīng)，連續(xù)。由于為的極大似然可能，則：，可得：因此，。③一般情形：，則有檢驗統(tǒng)計量（3）拉格朗日乘數(shù)檢驗差不多思想由于在非限制條件下，滿足，即在處為0。若成立，則也應(yīng)在0附近?？紤]到和均為的一致性可能，有約束條件下的對數(shù)似然函數(shù)為因而，有。此乃拉格朗日乘數(shù)檢驗：若成立，則；則可依據(jù)構(gòu)造檢驗統(tǒng)計量，得到給定顯著水平條件下的拒絕