第五講OLS的漸進(jìn)性

1、第第五章五章：OLS的漸進(jìn)性的漸進(jìn)性 ( (OLS Asymptotics ) ) 5.1 一致性 5.2 漸近正態(tài)和大樣本推斷 5.3 OLS的漸進(jìn)有效性 第一節(jié)第一節(jié) 一致性一致性(consistency) 一、一、一致性的含義一致性的含義 令令Wn是基于樣本是基于樣本y1,y2yn的關(guān)于參數(shù)的關(guān)于參數(shù)的估計(jì)量，的估計(jì)量， 如果對(duì)任意如果對(duì)任意0，當(dāng)，當(dāng)n時(shí)，時(shí)，Pr(|Wn|)0，Wn就是就是 的一個(gè)的一個(gè)一致估計(jì)量一致估計(jì)量(consistent estimator)。當(dāng)。當(dāng)Wn具有一具有一 致性時(shí)，我們也稱致性時(shí)，我們也稱為為Wn的概率極限的概率極限(probability limi

2、t of Wn)，記作，記作Plim(Wn)=。 1.定義定義 2.為什么要考慮一致性為什么要考慮一致性 我們已經(jīng)討論了有限樣本我們已經(jīng)討論了有限樣本(finite sample)，也就是小樣本，也就是小樣本 (small sample)中中OLS估計(jì)量估計(jì)量(OLS estimators )和檢驗(yàn)統(tǒng)計(jì)量和檢驗(yàn)統(tǒng)計(jì)量(test statistics)具有的如下性質(zhì)：具有的如下性質(zhì)： u在在MLR. 1-4下下 OLS估計(jì)量具有無(wú)偏性估計(jì)量具有無(wú)偏性(Unbiasedness) u在在MLR. 1-5下下 OLS估計(jì)量是最優(yōu)線性無(wú)偏無(wú)計(jì)量估計(jì)量是最優(yōu)線性無(wú)偏無(wú)計(jì)量(BLUE) u在在MLR. 1

3、-6下下 OLS估計(jì)量是最小方差無(wú)偏估計(jì)量估計(jì)量是最小方差無(wú)偏估計(jì)量(MVUE) uT統(tǒng)計(jì)量的分布為統(tǒng)計(jì)量的分布為t分布分布 樣本容量為任意樣本容量為任意n時(shí)，這些性質(zhì)都成立。時(shí)，這些性質(zhì)都成立。 由于在很多情形下誤差項(xiàng)可能呈現(xiàn)非正態(tài)分布，由于在很多情形下誤差項(xiàng)可能呈現(xiàn)非正態(tài)分布， 了解了解OLS 估計(jì)量和檢驗(yàn)統(tǒng)計(jì)量的漸近性，即估計(jì)量和檢驗(yàn)統(tǒng)計(jì)量的漸近性，即當(dāng)樣本容當(dāng)樣本容 量任意大時(shí)量任意大時(shí)(when the sample size grows without bound)的的 特性就是重要的問(wèn)題。特性就是重要的問(wèn)題。 雖然在高斯馬爾可夫假定下雖然在高斯馬爾可夫假定下OLS 是最優(yōu)線性無(wú)是

4、最優(yōu)線性無(wú) 偏估計(jì)量，但在別的情形下不一定能找到無(wú)偏估計(jì)量。偏估計(jì)量，但在別的情形下不一定能找到無(wú)偏估計(jì)量。 因此，因此，在那些情形下，我們只要找到一致的估計(jì)量，即在那些情形下，我們只要找到一致的估計(jì)量，即 n 時(shí)時(shí), 這些估計(jì)量的分布退化為參數(shù)的真值即可。這些估計(jì)量的分布退化為參數(shù)的真值即可。 u當(dāng)當(dāng)n增加時(shí)樣本的分布增加時(shí)樣本的分布(Sampling Distributions as n increases) b b1 n1 n2 n3 1的樣本分布的樣本分布 例：例：n1:每次從班上抽取每次從班上抽取10人，人， 抽若干次后，平均身高的分布；抽若干次后，平均身高的分布； n2:每次從班上

5、抽取每次從班上抽取100人，人， 抽若干次后，平均身高的分布；抽若干次后，平均身高的分布； n3:每次從班上抽取每次從班上抽取200人，人， 抽若干次后，平均身高的分布抽若干次后，平均身高的分布。 的的一一致致估估計(jì)計(jì)量量、是是、 方方法法得得到到的的下下，通通過(guò)過(guò)可可以以證證明明，在在假假定定 的的分分布布緊緊縮縮成成一一個(gè)個(gè)點(diǎn)點(diǎn)趨趨于于無(wú)無(wú)窮窮大大時(shí)時(shí)，當(dāng)當(dāng) 的的周周圍圍。的的分分布布越越來(lái)來(lái)越越集集中中在在樣樣本本容容量量的的增增加加， 隨隨著著估估計(jì)計(jì)量量是是一一致致的的，那那么么概概率率分分布布。如如果果 都都有有一一個(gè)個(gè)，估估計(jì)計(jì)量量，對(duì)對(duì)于于每每一一個(gè)個(gè)的的是是 kk jj jj

6、 jjj OLS.MLR n OLS nOLS b bb bb bb bb bb b b bb b b bb b b bb bb b 1010 41 3.一致性和無(wú)偏性的關(guān)系一致性和無(wú)偏性的關(guān)系(Consistency v.s. unbiasedness) u一個(gè)估計(jì)量是否有可能在有限樣本（小樣本）中是一個(gè)估計(jì)量是否有可能在有限樣本（小樣本）中是 有偏的但在大樣本條件下又具有一致性？有偏的但在大樣本條件下又具有一致性？ 假設(shè)假設(shè)Z的真值為的真值為0，一個(gè)隨機(jī)變量，一個(gè)隨機(jī)變量X以以(n-1)/n的概率的概率 取值為取值為Z，而以，而以1/n的概率取值為的概率取值為n。那么，。那么，X的期望為的

7、期望為1， 也就是：也就是： 記記plim(x) 為為n趨向無(wú)窮大時(shí)趨向無(wú)窮大時(shí)x的取值，則有：的取值，則有：plim(x)=z=0 1 11 n n n n ZXE u是否有可能一個(gè)估計(jì)量是無(wú)偏的但又不具備一致性？是否有可能一個(gè)估計(jì)量是無(wú)偏的但又不具備一致性？ 依然假設(shè)依然假設(shè)Z的真值為的真值為0，一個(gè)隨機(jī)變量，一個(gè)隨機(jī)變量X以以0.5的概率取的概率取0.5，而，而 以以0.5的概率取的概率取-0.5，那么，那么X的期望為的期望為0，也就是說(shuō)，也就是說(shuō)，X是是Z的無(wú)偏估的無(wú)偏估 計(jì)量。計(jì)量。 但是，但是，X總是在總是在X=0這條線上下擺動(dòng)，當(dāng)這條線上下擺動(dòng)，當(dāng)n趨向無(wú)窮大時(shí)，它趨向無(wú)窮大時(shí)，

8、它 的方差并不會(huì)趨于的方差并不會(huì)趨于0。因此，。因此，X并不是并不是Z的一致估計(jì)量，也就是說(shuō)的一致估計(jì)量，也就是說(shuō)X 不具備一致性。不具備一致性。 無(wú)偏估計(jì)量未必是一致的，但是那些當(dāng)樣本容量增大時(shí)方差無(wú)偏估計(jì)量未必是一致的，但是那些當(dāng)樣本容量增大時(shí)方差 會(huì)收縮到零的無(wú)偏估計(jì)量是一致的。會(huì)收縮到零的無(wú)偏估計(jì)量是一致的。 二二、OLS估計(jì)量的估計(jì)量的一致性一致性 1.定理定理5.1 在假設(shè)在假設(shè)MLR.1到到MLR.4下，下，OLS截距估計(jì)量截距估計(jì)量和和斜率斜率 估計(jì)量估計(jì)量都是都是一致一致的估計(jì)量。的估計(jì)量。 2.證明一致性證明一致性 在簡(jiǎn)單回歸中，斜率的估計(jì)量為：在簡(jiǎn)單回歸中，斜率的估計(jì)量為

9、： 2 11 1 11 1 1 2 11 11 1 2 11 11 1 xxn uxxn xx uxx xx yxx i ii i ii i ii b bb n時(shí)，分子趨近于時(shí)，分子趨近于0，但分母，但分母 卻不趨近于卻不趨近于0，因此，當(dāng)，因此，當(dāng)n時(shí)，時(shí)， Plim( )= 1 b 1 b 3.一個(gè)更弱的假定一個(gè)更弱的假定 要獲得估計(jì)量的無(wú)偏性要獲得估計(jì)量的無(wú)偏性(unbiasedness)，我們假定零，我們假定零 條件期望條件期望(zero conditional mean)：E(u|x1, x2,xk) = 0 而要獲得估計(jì)量的一致性而要獲得估計(jì)量的一致性(consistency)，我

10、們可以使，我們可以使 用更弱的假定：零期望和零相關(guān)性假定，即：用更弱的假定：零期望和零相關(guān)性假定，即：E(u) = 0， Cov(xj,u) = 0, j = 1, 2, , k。 如果連這個(gè)較弱的假定也不成立，如果連這個(gè)較弱的假定也不成立，OLS將是有偏將是有偏 (biased)而且不一致的而且不一致的(inconsistent)。 上述討論表明：如果上述討論表明：如果OLS估計(jì)量是無(wú)偏的，那么它一定是一致的；估計(jì)量是無(wú)偏的，那么它一定是一致的； 但是如果但是如果OLS估計(jì)量是一致的，卻不能保證它是無(wú)偏的。估計(jì)量是一致的，卻不能保證它是無(wú)偏的。 u推導(dǎo)不一致性推導(dǎo)不一致性 定義漸近偏差定義漸

11、近偏差(asymptotic bias)為：為： ， 并考并考 慮下面的真實(shí)模型和待估計(jì)模型。慮下面的真實(shí)模型和待估計(jì)模型。 11 plimbb vxxy 22110 bbb uxy 110 bb vxu 22 b 真實(shí)的模型為：真實(shí)的模型為： 實(shí)際進(jìn)行估計(jì)的模型為：實(shí)際進(jìn)行估計(jì)的模型為： 顯然：顯然： 1121 lim0)(p，,xxCov則此時(shí)，如果 1 21 21 1 1221 1 1 221 1 1 1 11 , , , lim xVar xxCov xVar vxCovxxCov xVar vxxCov xVar uxCov p bb b b b b bb 則：則： 因此，考慮漸近偏

12、差的方向就像是考慮存在一個(gè)遺漏變量時(shí)因此，考慮漸近偏差的方向就像是考慮存在一個(gè)遺漏變量時(shí) 偏差的方向。主要的區(qū)別在于漸近偏差用總體方差和總體協(xié)方差偏差的方向。主要的區(qū)別在于漸近偏差用總體方差和總體協(xié)方差 表示，而遺漏變量時(shí)的偏差則是基于它們?cè)跇颖局械膶?duì)應(yīng)量。表示，而遺漏變量時(shí)的偏差則是基于它們?cè)跇颖局械膶?duì)應(yīng)量。 bbb 211 limp 1 21 , xVar xxCov 1211 bbbE 2 11 211 1 xx xxx i ii 1102 xx 值得注意的是，不一致性是一個(gè)大樣本問(wèn)題。因此，當(dāng)數(shù)據(jù)值得注意的是，不一致性是一個(gè)大樣本問(wèn)題。因此，當(dāng)數(shù)據(jù) 增加時(shí)候這個(gè)問(wèn)題并不會(huì)消失。也就是說(shuō)

13、，即使樣本容量再大，增加時(shí)候這個(gè)問(wèn)題并不會(huì)消失。也就是說(shuō)，即使樣本容量再大， OLS估估計(jì)的偏誤也不會(huì)消失，而且會(huì)收斂到一個(gè)有偏誤的值。計(jì)的偏誤也不會(huì)消失，而且會(huì)收斂到一個(gè)有偏誤的值。 4.存在內(nèi)生性時(shí)的一致性存在內(nèi)生性時(shí)的一致性 考慮真實(shí)模型為考慮真實(shí)模型為y = b b0 + b b1x1 + b b2x2 + u ，但，但u和和x1相關(guān)，相關(guān)， 即即cov(u , x1)0。 則則OLS估計(jì)量的估計(jì)量的不一致性（不一致性（inconsistency）為：為： 111 111 1 1 11 lim0),( lim0),( )( ),( lim bb bb bb puxCov puxCov

14、xVar uxCov p ，則如果 ，則如果 u若若x1 和和x2相關(guān)，即相關(guān)，即cov(x1 , x2 ) 0，而，而u和和x2不相關(guān)，即不相關(guān)，即 cov(u , x2 )=0時(shí)，則對(duì)時(shí)，則對(duì)b b1和和b b2的的OLS估計(jì)量都是不一致的。估計(jì)量都是不一致的。 u若若x1 和和x2不相關(guān)，即不相關(guān)，即cov(x1 , x2 )=0，且，且u和和x2不相關(guān)，不相關(guān)， 即即cov(u , x2 )=0時(shí)，則只有對(duì)時(shí)，則只有對(duì)b b1的的OLS估計(jì)量是不一致的。估計(jì)量是不一致的。 u存在內(nèi)生性時(shí)存在內(nèi)生性時(shí)對(duì)其他參數(shù)估計(jì)量對(duì)其他參數(shù)估計(jì)量的一致性的影響的一致性的影響 )( ),( lim 1

15、1 11 xVar uxCov p bb 5.漸近有效性漸近有效性 我們知道，如果總體回歸模型滿足我們知道，如果總體回歸模型滿足MLR.1-5，那么，那么 OLS估計(jì)量是最優(yōu)線性無(wú)偏估計(jì)量。估計(jì)量是最優(yōu)線性無(wú)偏估計(jì)量。 事實(shí)上，可以證明在這些假定下，事實(shí)上，可以證明在這些假定下， OLS估計(jì)量是估計(jì)量是 漸近有效的（漸近有效的（asymptotic efficient）。也就是說(shuō)，隨著樣。也就是說(shuō)，隨著樣 本容量無(wú)限增大，本容量無(wú)限增大， OLS估計(jì)量具有最小的漸近方差。估計(jì)量具有最小的漸近方差。 第二節(jié)第二節(jié) 漸近正態(tài)和大樣本推斷漸近正態(tài)和大樣本推斷 (Asymptotic Normalit

16、y and Large Sample Inference) 估計(jì)量的一致性是一條重要性質(zhì)，但我們并不能只靠它來(lái)估計(jì)量的一致性是一條重要性質(zhì)，但我們并不能只靠它來(lái) 進(jìn)行統(tǒng)計(jì)推斷。在經(jīng)典線性模型假設(shè)下，樣本的分布是正態(tài)分進(jìn)行統(tǒng)計(jì)推斷。在經(jīng)典線性模型假設(shè)下，樣本的分布是正態(tài)分 布，因而我們推出布，因而我們推出t分布和分布和F分布用于檢驗(yàn)。分布用于檢驗(yàn)。 這種準(zhǔn)確的正態(tài)分布來(lái)自于總體誤差這種準(zhǔn)確的正態(tài)分布來(lái)自于總體誤差(population error)的分的分 布是正態(tài)分布的假定。這個(gè)正態(tài)誤差的假定意味著當(dāng)布是正態(tài)分布的假定。這個(gè)正態(tài)誤差的假定意味著當(dāng)x給定時(shí)，給定時(shí)， y的分布也是正態(tài)分布。的分布

17、也是正態(tài)分布。 為什么需要正態(tài)性假定？為什么需要正態(tài)性假定？ u為了證明無(wú)偏性？為了證明無(wú)偏性？ u為了證明最優(yōu)線性估計(jì)量？為了證明最優(yōu)線性估計(jì)量？ u為了能夠用為了能夠用t統(tǒng)計(jì)量和統(tǒng)計(jì)量和F統(tǒng)計(jì)量做精確的推斷？統(tǒng)計(jì)量做精確的推斷？ 很容易碰到一些例子，其中嚴(yán)格的正態(tài)性假定并不能成立。很容易碰到一些例子，其中嚴(yán)格的正態(tài)性假定并不能成立。 因?yàn)檎龖B(tài)分布是對(duì)稱的，所以，任何一個(gè)因?yàn)檎龖B(tài)分布是對(duì)稱的，所以，任何一個(gè)明顯不對(duì)稱明顯不對(duì)稱(clearly skewed)的變量，像拘捕次數(shù)，儲(chǔ)蓄量等都不可能服從正態(tài)分布。的變量，像拘捕次數(shù)，儲(chǔ)蓄量等都不可能服從正態(tài)分布。 當(dāng)樣本容量變大時(shí)是否估計(jì)量會(huì)漸近地

18、趨向于正態(tài)分布？我當(dāng)樣本容量變大時(shí)是否估計(jì)量會(huì)漸近地趨向于正態(tài)分布？我 們關(guān)注的們關(guān)注的OLS估計(jì)是否量滿足漸近正態(tài)性。估計(jì)是否量滿足漸近正態(tài)性。 中心極限定理中心極限定理(Central Limit Theorem) 基于中心極限定理，我們能夠證明基于中心極限定理，我們能夠證明OLS估計(jì)量是漸近正態(tài)。估計(jì)量是漸近正態(tài)。 漸近正態(tài)意味著當(dāng)漸近正態(tài)意味著當(dāng)n 時(shí)，時(shí)，P(Zz) F(z) 或者或者P(Zz) (z) 。 中心極限定理指出任何一個(gè)均值為中心極限定理指出任何一個(gè)均值為，方差為，方差為2 2的總體的標(biāo)準(zhǔn)的總體的標(biāo)準(zhǔn) 化平均值的分布漸近趨同于化平均值的分布漸近趨同于N0,1N0,1，或者

19、記作：，或者記作： 1 , 0 N n Y Z a Y 1.中心極限定理是研究獨(dú)立隨機(jī)變量和的極限分布為正態(tài)分布的中心極限定理是研究獨(dú)立隨機(jī)變量和的極限分布為正態(tài)分布的 問(wèn)題。問(wèn)題。 2.定理定理5.2：OLS的的漸近正態(tài)性漸近正態(tài)性 (Asymptotic Normality of OLS) 在高斯在高斯馬爾科夫假設(shè)馬爾科夫假設(shè)MLR.1 MLR.5前提下：前提下： 1） 符合漸近正態(tài)分布，也就是說(shuō)：符合漸近正態(tài)分布，也就是說(shuō)： 其中，其中， 是是 的漸近方差；的漸近方差； ，而，而 是是xj對(duì)其他解釋變量對(duì)其他解釋變量 進(jìn)行回歸所得到的殘差。進(jìn)行回歸所得到的殘差。 j b 2 2 , 0

20、j jj Nn bb 2 2 j jj nbb 212 lim ijj rnp ij r 2） 是是 的一個(gè)一致性估計(jì)。的一個(gè)一致性估計(jì)。 3）隨著樣本容量）隨著樣本容量n的擴(kuò)大，對(duì)任意的擴(kuò)大，對(duì)任意j，都有：，都有： 2 2 1 ,0 N se j jj b bb 的一致估計(jì)量是相應(yīng)地， 2 2 1 1 i u kn u在定理在定理5.2中什么才是我們的假定中什么才是我們的假定 u誤差的分布具有有限的方差誤差的分布具有有限的方差(finite variance) u零條件期望零條件期望(Zero conditional mean) u同方差性同方差性(Homoskedasticity) u線

21、性結(jié)構(gòu)線性結(jié)構(gòu)(Linear structure) u隨機(jī)樣本隨機(jī)樣本(random sample) 1）去掉了）去掉了正態(tài)性假定正態(tài)性假定(normality assumption)MLR.6 2）仍然保留以下假定：）仍然保留以下假定： u對(duì)定理對(duì)定理5.2的理解的理解 為什么在為什么在1）中考慮的是）中考慮的是 ，而不是，而不是 jj nbb jj bb 因?yàn)橐驗(yàn)?j j j j jj j SSR SST SSR SST RSST Var 22 2 2 1 b 2 jijj xxSST 2 ijj rSSR 注意到注意到 的樣本方差為的樣本方差為 的樣本方差為的樣本方差為 j xnSSTj

22、 ij r nSSRj 2 22 rj j nSSR Var b 其中，其中， 是是 的總體方差。的總體方差。 ij r 2 r 令令 ，那么有：，那么有： c r 2 2 n c Var j b 當(dāng)當(dāng) 時(shí)，時(shí)， 以以 的速度減小到零，因的速度減小到零，因 此，只有按照此，只有按照 的比例增大的比例增大 ，才能討論，才能討論 漸近分布。漸近分布。 n j Varb n 1 n j b 因?yàn)樽杂啥群艽蟮囊驗(yàn)樽杂啥群艽蟮?t分布接近于正態(tài)分布，我們也可以分布接近于正態(tài)分布，我們也可以 得到：得到： 1 kn a j jj t seb bb 注意到盡管我們?cè)诖髽颖局胁辉傩枰龖B(tài)性假定，我們注意到盡管

23、我們?cè)诖髽颖局胁辉傩枰龖B(tài)性假定，我們 仍然需要同方差性仍然需要同方差性(homoskedasticity)。 漸漸近近標(biāo)準(zhǔn)誤差標(biāo)準(zhǔn)誤差(Asymptotic Standard Errors) ncse RSST se jj jj j b b , 1 2 2 所以所以，我們預(yù)計(jì)標(biāo)準(zhǔn)誤差減小的速度，我們預(yù)計(jì)標(biāo)準(zhǔn)誤差減小的速度與與 成正比。成正比。 如果如果u不是正態(tài)分布，我們有時(shí)把標(biāo)準(zhǔn)誤差稱作漸近標(biāo)不是正態(tài)分布，我們有時(shí)把標(biāo)準(zhǔn)誤差稱作漸近標(biāo) 準(zhǔn)誤差，因?yàn)椋簻?zhǔn)誤差，因?yàn)椋?n 大樣本推斷大樣本推斷(Large sample inference) uOLS估計(jì)量的漸近正態(tài)性告訴我們，如果樣本容量足夠

24、大，而估計(jì)量的漸近正態(tài)性告訴我們，如果樣本容量足夠大，而 且總體回歸模型滿足且總體回歸模型滿足MLR.1-5，那么，那么t統(tǒng)計(jì)量近似地服從標(biāo)準(zhǔn)正態(tài)統(tǒng)計(jì)量近似地服從標(biāo)準(zhǔn)正態(tài) 分布或分布或t分布，從而可以進(jìn)行分布，從而可以進(jìn)行t檢驗(yàn)。此時(shí)，不必要求滿足正態(tài)性檢驗(yàn)。此時(shí)，不必要求滿足正態(tài)性 假定。假定。 u如果樣本容量足夠大，而且總體回歸模型滿足如果樣本容量足夠大，而且總體回歸模型滿足MLR.1-5，那么，那么 通常的通常的F檢驗(yàn)也是適用的。檢驗(yàn)也是適用的。 u需要注意的是，進(jìn)行大樣本推斷的前提是需要注意的是，進(jìn)行大樣本推斷的前提是MLR.5（同方差假定）（同方差假定） 必須成立。必須成立。 拉格朗

25、日乘子統(tǒng)計(jì)量拉格朗日乘子統(tǒng)計(jì)量(Lagrange Multiplier statistic) 當(dāng)我們使用大樣本并且依靠漸近正態(tài)性當(dāng)我們使用大樣本并且依靠漸近正態(tài)性(asymptotic normality) 進(jìn)行推斷時(shí)，除了進(jìn)行推斷時(shí)，除了t和和F統(tǒng)計(jì)量，我們還可以使用別的統(tǒng)計(jì)量。統(tǒng)計(jì)量，我們還可以使用別的統(tǒng)計(jì)量。 拉格朗日乘子或拉格朗日乘子或LM統(tǒng)計(jì)量是檢驗(yàn)統(tǒng)計(jì)量是檢驗(yàn)多重限定性約束多重限定性約束(multiple exclusion restrictions)的另一種選擇，的另一種選擇，LM統(tǒng)計(jì)量使用一個(gè)輔助性統(tǒng)計(jì)量使用一個(gè)輔助性 的回歸的回歸(auxiliary regression)，

26、因此它有時(shí)也被叫做，因此它有時(shí)也被叫做nR2統(tǒng)計(jì)量。統(tǒng)計(jì)量。 對(duì)于大樣本數(shù)據(jù)，可以使用對(duì)于大樣本數(shù)據(jù)，可以使用LM檢驗(yàn)對(duì)多個(gè)線性假設(shè)進(jìn)行檢驗(yàn)，檢驗(yàn)對(duì)多個(gè)線性假設(shè)進(jìn)行檢驗(yàn)， 前提是高斯馬爾科夫假定（前提是高斯馬爾科夫假定（ MLR.1-5 ）成立）成立 假設(shè)我們有一個(gè)標(biāo)準(zhǔn)模型假設(shè)我們有一個(gè)標(biāo)準(zhǔn)模型: y = b b0 + b b1x1 + b b2x2 + . . . b bkxk + u 而我們的零假設(shè)為而我們的零假設(shè)為: H0: b bk-q+1 = 0, . , b bk = 0 我們的備選假設(shè)為我們的備選假設(shè)為: H1: b bk-q+1, . , b bk 中至少有一個(gè)不為零中至少有一

27、個(gè)不為零 p cLMc )q(nRLM)3( Reu )2( ) 1 ( 0 22 u 2 u110 qq110 的顯著性水平精確 。當(dāng)然也可計(jì)算出，可以拒絕，如果臨界值 以及相應(yīng)的平。對(duì)于給定的顯著性水 得到根據(jù) 得到殘差估計(jì)有約束模型 H XX uuXXY kk kk bbb LM檢驗(yàn)的特性檢驗(yàn)的特性(Characteristics of LM test) LM統(tǒng)計(jì)量有時(shí)被稱作是統(tǒng)計(jì)量有時(shí)被稱作是nR2，或者得分統(tǒng)計(jì)量，或者得分統(tǒng)計(jì)量(score statistic) u約束約束q的個(gè)數(shù)的個(gè)數(shù)(number of restrictions, q ) u輔助輔助R2的大小的大小(the si

28、ze of the auxiliary R-squared ) u樣本容量樣本容量(the sample size) 相關(guān)的因素只有相關(guān)的因素只有: u未約束模型中自由度的個(gè)數(shù)未約束模型中自由度的個(gè)數(shù) u未約束模型和被約束模型的未約束模型和被約束模型的R2 不相關(guān)的因素有不相關(guān)的因素有: LM檢驗(yàn)與檢驗(yàn)與F檢驗(yàn)和檢驗(yàn)和t檢驗(yàn)的優(yōu)劣對(duì)比檢驗(yàn)的優(yōu)劣對(duì)比 LM test vs F test & t test u在大樣本中，在大樣本中，F(xiàn)檢驗(yàn)和檢驗(yàn)和LM檢驗(yàn)得到的結(jié)果相似。檢驗(yàn)得到的結(jié)果相似。 u只有一個(gè)約束時(shí)，只有一個(gè)約束時(shí)，F(xiàn)檢驗(yàn)和檢驗(yàn)和t檢驗(yàn)是等價(jià)的，然而檢驗(yàn)是等價(jià)的，然而LM檢驗(yàn)和檢驗(yàn)和F檢檢

29、 驗(yàn)并不等價(jià)。驗(yàn)并不等價(jià)。 u主回歸和輔助回歸必須使用相同的一組觀測(cè)值。主回歸和輔助回歸必須使用相同的一組觀測(cè)值。 例例5.3: Economic Model of Crime(crime1.raw) narr86= 0+1pcnv+2avgsen+3tottime+4ptime86+5qemp86+u H0: 2= 3=0 H1: 2和和3至少有一個(gè)不為至少有一個(gè)不為0 Steps （i）對(duì)約束模型進(jìn)行回歸，得到殘差）對(duì)約束模型進(jìn)行回歸，得到殘差 u （ii）用）用 對(duì)無(wú)約束模型的所有解釋變量進(jìn)行回歸，得到對(duì)無(wú)約束模型的所有解釋變量進(jìn)行回歸，得到Ru2 u 可知可知Ru2 =0.0015，從

30、而，從而LM=nRu2 = 27250.0015=4.09 Df=2，顯著性水平為，顯著性水平為5%的的 2 分布臨界值為分布臨界值為5.99，顯然有，顯然有 LM5.99，因此不能拒絕，因此不能拒絕H0. 漸近有效漸近有效(Asymptotic Efficiency) u在高斯在高斯-馬爾可夫假定下，馬爾可夫假定下，OLS估計(jì)量以外的估計(jì)量可以具有一估計(jì)量以外的估計(jì)量可以具有一 致性。致性。 u但是，在高斯但是，在高斯-馬爾可夫假定下，馬爾可夫假定下，OLS估計(jì)量具有最小的漸近方估計(jì)量具有最小的漸近方 差差(asymptotic variances)。 u我們說(shuō)在高斯我們說(shuō)在高斯-馬爾可夫假

31、定下馬爾可夫假定下OLS估計(jì)量是漸近有效的估計(jì)量。估計(jì)量是漸近有效的估計(jì)量。 值得注意的是如果同方差值得注意的是如果同方差(homoskedastic)的假定不成立，上述結(jié)的假定不成立，上述結(jié) 論也不能成立。論也不能成立。 定理定理5.3： OLS估計(jì)量的漸近有效性估計(jì)量的漸近有效性 Asymptotic Efficiency of OLS Estimators b 在在高斯高斯馬爾科夫假定下，將馬爾科夫假定下，將 記為如下方程的記為如下方程的 估計(jì)量：估計(jì)量： kjxxyxg kkj .2 , 1, 0 110 bbb 其中，其中， 為任何一個(gè)觀測(cè)值為任何一個(gè)觀測(cè)值i的所有自變量的函數(shù)的所有自變量的函數(shù) xg j 進(jìn)一步，讓進(jìn)一步，讓 為為OLS估計(jì)量，那么，估計(jì)量，那么，