計量經(jīng)濟(jì)學(xué)中相關(guān)證明

1、計量經(jīng)濟(jì)學(xué)中相關(guān)證明計量經(jīng)濟(jì)學(xué)中相關(guān)證明計量經(jīng)濟(jì)學(xué)中相關(guān)證明課本中相關(guān)章節(jié)的證明過程第2章相關(guān)的證明過程2.1一元線性回歸模型有一元線性回歸模型為：yt=0+1xt+ut上式表示變量yt和xt之間的真實(shí)關(guān)系。其中yt稱被解釋變量（因變量），xt稱解釋變量（自變量），ut稱隨機(jī)誤差項(xiàng)，0稱常數(shù)項(xiàng)，1稱回歸系數(shù)（平時未知）。上模型可以分為兩部分。（1）回歸函數(shù)部分，E(yt)=0+1xt,（2）隨機(jī)部分，ut。圖2.8真實(shí)的回歸直線這種模型可以賦予各種實(shí)際意義，收入與支出的關(guān)系；如脈搏與血壓的關(guān)系；商品價格與供給量的關(guān)系；文件容量與保存時間的關(guān)系；林區(qū)木材采伐量與木材節(jié)余物的關(guān)系；身高與體重的關(guān)系

2、等。以收入與支出的關(guān)系為例。假設(shè)固定對一個家庭進(jìn)行察看，隨著收入水平的不同，與支出呈線性函數(shù)關(guān)系。但實(shí)際上數(shù)據(jù)來自各個家庭，來自各個不同收入水平，使其他條件不變成為不可能，所以由數(shù)據(jù)得到的散點(diǎn)圖不在一條直線上（不呈函數(shù)關(guān)系），而是散在直線周圍，聽從統(tǒng)計關(guān)系。隨機(jī)誤差項(xiàng)ut中可能包括家庭人口數(shù)不同，消費(fèi)習(xí)慣不同，不同地域的消費(fèi)指數(shù)不同，不同家庭的外來收入不同樣因素。所以，在經(jīng)濟(jì)問題上“控制其他因素不變”實(shí)際是不可能的?；貧w模型的隨機(jī)誤差項(xiàng)中一般包括如下幾項(xiàng)內(nèi)容，（1）非重要解釋變量的省略，（2）人的隨機(jī)行為，（3）數(shù)學(xué)模型形式欠妥，（4）合并誤差（糧食的合并）（5）測量誤差等?；貧w模型存在兩個特

3、點(diǎn)。（1）建立在某些假設(shè)條件不變前提下抽象出來的回歸函數(shù)不能百分之百地再現(xiàn)所研究的經(jīng)濟(jì)過程。（2）也正是由于這些假設(shè)與抽象，才使我們可以透過復(fù)雜的經(jīng)濟(jì)現(xiàn)象，深刻認(rèn)識到該經(jīng)濟(jì)過程的本質(zhì)。1xt平時，線性回歸函數(shù)的估計，即對0和E(yt)=1的估計。0+1xt是察看不到的，利用樣本獲得的只是對E(yt)=0+在對回歸函數(shù)進(jìn)行估計以前應(yīng)當(dāng)對隨機(jī)誤差項(xiàng)ut做出如下假設(shè)。ut是一個隨機(jī)變量，ut的取值聽從概率散布。E(ut)=0。(3)D(ut)=Eut-E(ut)2=E(ut)2=2。稱ui擁有同方差性。(4)ut為正態(tài)散布（根據(jù)中心極限定理）。以上四個假設(shè)可作如下表達(dá)：utN(0,)。(5)Cov(

4、ui,uj)=E(ui-E(ui)(uj-E(uj)=E(ui,uj)=0,(ij)。含義是不同察看值所對應(yīng)的隨機(jī)項(xiàng)相互獨(dú)立。稱為ui的非自相關(guān)性。xi是非隨機(jī)的。Cov(ui,xi)=E(ui-E(ui)(xi-E(xi)=Eui(xi-E(xi)=Euixi-uiE(xi)=E(uixi)=0.ui與xi相互獨(dú)立。否則，分不清是誰對yt的貢獻(xiàn)。(8)關(guān)于多元線性回歸模型，解釋變量之間不能完全相關(guān)或高度相關(guān)（非多重共線性）。在假設(shè)（1），（2）建立條件下有E(t)=E(0+1t+ut)=0+1xt。yx2.2最小二乘估計（OLS）關(guān)于所研究的經(jīng)濟(jì)問題，平時真實(shí)的回歸直線是察看不到的。收集樣本

5、的目的就是要對這條真實(shí)的回歸直線做出估計。圖2.9怎樣估計這條直線呢？顯然綜合起來看，這條直線處于樣本數(shù)據(jù)的中心地點(diǎn)最合理。怎樣用數(shù)學(xué)語言描述“處于樣本數(shù)據(jù)的中心地點(diǎn)”？設(shè)估計的直線用y?t=?+?xt01表示。其中yt稱y的擬合值（fittedvalue），?和?分別是0和1的估計量。察看值到01?t這條直線的縱向距離用?表示，稱為殘差。utyt=?=?xt+?yt+ut0+1ut稱為估計的模型。假設(shè)樣本容量為T。（1）用“殘差和最小”確定直線地點(diǎn)是一個途徑。但很快發(fā)現(xiàn)計算“殘差和”存在相互抵消的問題。（2）用“殘差絕對值和最小”確定直線地點(diǎn)也是一個途徑。但絕對值的計算比較麻煩。（3）最小二

6、乘法的原則是以“殘差平方和最小”確定直線地點(diǎn)。用最小二乘法除了計算比較方便外，獲得的估計量還擁有優(yōu)異特性（這種方法對異常值特別敏感）。設(shè)殘差平方和用Q表示，=T?2Ty?)2T?2(y(yx)，Q=t=t01tuti1ti1i1則經(jīng)過Q最小確定這條直線，即確定?0和?1的估計值。以?0和?1為變量，把Q看作是?0和?1的函數(shù)，這是一個求極值的問題。求Q對?0和?1的偏導(dǎo)數(shù)并令其為零，得正規(guī)方程，Q=2T?0?1xt)(-1)=0(yt(2.7)?i10Q=2T?0?1xt)(-xt)=0(yt(2.8)?i11下面用代數(shù)和矩陣兩種形式推導(dǎo)計算結(jié)果。首先用代數(shù)形式推導(dǎo)。由（2.7）、（2.8）式

7、得，T(yt?0?1xt)=0(2.9)1T(yt?(2.10)01xt)xt=012.9）式兩側(cè)用除T，并整理得，?0=y?1x(2.11)把（2.11）式代入（2.10）式并整理，得，T?1(xt(yty)x)xt=0(2.12)i1TT(yty)xt?(xtx)xt=0(2.13)1i1i1?1=xt(yty)(2.14)(xtx)xtTTT因?yàn)閤(yty)=0，x(xtx)=0，采用離差和為零的結(jié)論：(xtx)0，i1i1i1T(yty)0。i1TT所以，經(jīng)過配方法，分別在（2.14）式的分子和分母上減x(yty)和x(xtx)得，i1i1?1=xt(yty)x(yty)(2.15)(

8、xtx)xtx(xtx)=(xtx)(yty)(2.16)(xtx)2即有結(jié)果：?1=(xtxt)(ytyt)（2.17）(xtx)2?0=y?1x這是察看值形式。如果以離差形式表示，就更加簡潔好記。xtyt?1=2xt?0=y?1x矩陣形式推導(dǎo)計算結(jié)果：由正規(guī)方程，Q=2T?(yt)(-1)=0?i101xt0Q=2T?0?1xt)(-xt)=0(yt?i11?0T+?1(Txt)=Tyti1i1?T+?T2)=Txt(xtxtyt01i1i1i1Txt?=yt20 xtxt?xtyt1?Txt1yt=0 xt2?1xtxtytxt2ytxtxtyt1xt2xtytTxt2(xt)2=22x

9、TxtytT(xtxt)tTxtytxtytTxt2(xt)2Txt1注意：重點(diǎn)是求逆矩陣。它等于其陪同陣除以其行列式，陪同陣是其行列xtxt2式對應(yīng)的代數(shù)余子式組成的方陣的轉(zhuǎn)置。寫成察看值形式。?1=(xtxt)(ytyt)(xtx)2?0=y?1x如果，以離式形式表示更加簡潔：xtyt?1=xt2?0=y?1x2.3一元線性回歸模型的特性1線性特性（將結(jié)果離差轉(zhuǎn)變?yōu)椴炜粗当憩F(xiàn)形式）?2xiyixi(YiY)x2x2iixiYYxiKYx2ix2iiii?Y?XYXKY12ii1YiKiXYi1KiXYinn2無偏性?2KiYiKi(12Xiui)Ki1Ki2XiKiui1Ki2KiXiKi

10、uixxi（XiX)Kii0其中：x2x2x2iiixx(XXX)KiXix2iXiiix2iixi(XiX)xiXx2ixi2Xxixi21xi2xi1故有：?22KiuiE?E(2Ku)2KEui2iii?11KiXYin1KiX12Xiuin12Xiuinnn1KiX2KiXXiKiXui12Xu1XKi2XKiXi(1XKi)uinE?(1KX)Eu11ii1n3有效性首先議論參數(shù)估計量的方差。2XKiuiVar(?2)E(?2E(?2)2E(?2)2E(2Ku)2)2E(Ku)22iiiiKu2(KuK2u2Ku)(KuKuKu)ii11nn1122nn(Kiui)2KiKjuiuj

11、ijE(Kiu)2E(Ku)2EKKjuujiiiiiijxi22222KiEuix2x2ii即：同理有：2Var(?2)xi2Var(?1)2Xi2nxi2Var(?1)E(?1E(?1)2E(1KiXui)2n1212KiXuiKiXu2nni1KX1KjXuujijniniVar(?1)212KiXn2(12KiXKi2X2)n2n222XKi2X2Ki2nn22(Xi)2nn2xi22n(x2)(Xi)2in2x2in2(Xi2nX2)12(Xi)nn2xi22Xi2xi2顯然各自的標(biāo)準(zhǔn)誤差為：se(?2)Xi2se(?1)xi2，nxi2標(biāo)準(zhǔn)差的作用：權(quán)衡估計值的精度。由于為總體方差

12、，也需要用樣本進(jìn)行估計。?2ei2n2證明過程如下：回顧:Yi12Xiui因此有：Y12Xu那么：(YiY)yi(12Xiui)(12Xu)2xi(uiu)根據(jù)定義：ey?xii2i，（實(shí)際察看值與樣本回歸線的差值）則有：e(2xi(uu)?x(uu)(?2)xii2ii2i兩邊平方，再求和：ei2(uiu)22(uiu)(?22)xi(?22)xi)2(?2)2x2(uiu)22(?2)(uiu)x2i2i對上式兩邊取希望有：E(e2)x2E(?)2ii22E(uiu)2)2E?22(uiu)xiABCAxi222xi2其中：BEui2nEu2n212nE(ui)n2n21E(ui2uiuj

13、)nijn21(n2)(n1)2nC2Exiuiuixiuxix2i22Exiui2E(?2)2x2xi22i22xi2x2i22故有：Eei2(n1)22e2Ein2即有：，e2?2in2，則問題得證。令關(guān)于ei2的計算：ei2yi2?22xi2yi2?2xiyi關(guān)于R2R2的證明：R2112n11a1R2Rnk，其中：a1。當(dāng)k1a1R211R2n111R2R2n1當(dāng)k1a1，當(dāng)0R21時，有：R2R2R211R2aR21aaR2a1R2a1a11R20R2R2Q.E.D.關(guān)于R2可能小于0的證明。設(shè)：Yt2Xtut則有：那么但：Jmine2minY?X2?2t?2t2tJ0?22Y?Xt

14、XtXe0t2ttJ0et0，因?yàn)闆]有?1存在。同時，還有：Y?2XeYY?XtYet2t?Xt?Xee22t?XtXee2tTSSYY2Y2nY2tt?XtXee22t?XtX2ee22?XtXee2t2t其中：XtXeteXteteXeteXteteXt0eeeneen1e0tttnt，和Xtet0XtXetenXe則：TSS?2XtX2ee22?nXe2t2?2X2n?2X2e2ne22?nXe2t2t2?2X2e2ne22?nXen?2X22tt22?2X2e2n?2X22?Xee22tt22考慮到：nY2n?2Xe2?22X22?2Xee2nY2?Xte2?2X22?Xee2t2t2

15、t2ttt?22Xt2et2若定義TSSY2nY2?2X2e2n?2X22?Xee2t2tt22RSSTSS?22Xt2et2RSSTSSn?22X22?2Xee2?22Xt2n?2212Xt2?2Xee2?22Xt2nn?22Xt2n2?2Xee2?22Xt2n?22Xt2XtXsn2?2Xee2?22Xt2tsn1?22Xt2n?22XtXsn2?2Xee2ts可能小于0。參照書：DennisJ.AignerBasicEconometrics,Prentice-Hall,EnglewoodCliffs,N.J.1971,pp85-88第二章2.1簡單線性回歸最小二乘估計最小方差性質(zhì)的證明關(guān)

16、于OLS估計式1和2,已知其方差為22XiVar(1)Nxi22Var(2)xi2這里只證明Var(2)最小，Var(1)最小的證明可以近似得出。*設(shè)2的另一個線性無偏估計為2，即*wYii2wiki,kixixi2其中E(2*)E(wYii)Ewi(12Xiui)1wi2wiXi*E(2*)因?yàn)?也是2的無偏估計，即2，必須有wi0，wiXi1同時Var(2*)Var(wYii)wi2Var(Yi)22因?yàn)閂ar(Yi)2wi2(wikiki)22(wiki)22ki222(wiki)ki2(wiki)22ki222(wkiiki2)wikiki2wixixi2xi2(xi2)2上式最后一項(xiàng)

17、中wi(XiX)1xi2xi2wiXiXwi1xi2xi20（因?yàn)閣i0，wiXi1）Var(2*)2(wiki)22xi222所以(xi)2ki)22(wixi22ki)2(wiVar(2)20，因?yàn)閣iki，則有(wiki)20，為此而2*)Var(Var(2)wiki*Var(2)只有時，2)Var(，由于2是任意設(shè)定的2的線性無偏估計式，這表示的OLS估計式擁有最小方差性。2.22最小二乘估計的證明用離差形式表示模型時yiYiY(12Xiui)(12Xu)(uiu)2xi而且yiYiY(12Xi)(12X)xi因此eiyiyi(uiu)(22)xiei22)xi2則有(uiu)(2(u

18、iu)22)2xi2(22(22)(uiu)xi取ei2的希望E(ei2)E(uiu)2xi2E(2)222E(22)(uiu)xi式中(1)E(uiu)2Eui2n(u)2E(ui2)1E(ui)2n21E(u12u22Lun22u1u2L2un1un)n21E(u12u22Lun2)n21n2(n1)2n2(2)xi2E(22)2xi2xi222E(2)(uiu)xi2Exiui(xiuiuxi)2(3)xi2(xiui)22Exi22E(2)2xi222xi2E(22)222所以E(ei2)(n1)2222(n2)222ei如果定義n22eiE(2)E2其希望值為n222ei2這說明n2

19、是的無偏估計。第三章3.1多元線性回歸最小二乘估計無偏性的證明因?yàn)?(XX)-1XY=(XX)-1X(X+U)(XX)-1(XX)+(XX)-1XU=+(XX)-1XU對兩邊取希望,E()=+(XX)-1XE(U)=由假設(shè)1:E(U)=0即是的無偏估計。3.2多元線性回歸最小二乘估計最小方差性的證明*設(shè)為的另一個關(guān)于Y的線性無偏估計式，可知*（A為常數(shù)矩陣）=AY*由無偏性可得E()=E(AY)=EA(X+U)E(AX)+AE(U)AXE()=所以必須有AX=IVar(*)，只要證要證明最小二乘法估計式的方差Var()小于其他線性去偏估計式的方差明協(xié)方差矩陣之差*-)E(-)(-)E(-)(為

20、半正定矩陣，則稱最小二乘估計是的最小方差線性無偏估計式。*因?yàn)?=AY-=A(X+U)-=AX+AU-=+AU-=AU*-)E(AU)(AU)E(AUUA)所以E(-)(AE(UU)A2=AA=(XX)-1XY=+(XX)-1XU由于-1-1E(-)(-)E(XX)XU(XX)XU-1-1E(XX)XUUX(XX)(XX)-1XE(UU)X(XX)-1(XX)-1XX(XX)-12(XX)-12*2-12-)E(-)(-)=AA(XX)所以E(-)(AA-(XX)-12由于A-(XX)-1XA-(XX)-1X=A-(XX)-1XA-X(XX)-1AA-(XX)-1XA-AX(XX)-1+(XX

21、)-1XX(XX)-1AA-(XX)-1由線性代數(shù)知，對任一非奇怪矩陣C，CC為半正定矩陣。如果令A(yù)-(XX)-1X=C則CC=A-(XX)-1XA-(XX)-1X=AA-(XX)-1由于半正定矩陣對角線元素非負(fù)，因此有AA-(XX)-10j*j)2即E(E(jj)0（j1,2,Lk）這證了然j的最小二乘估計j在j的所有無偏估計中是方差最小的估計式。3.3殘差平方和ei2的均值為(nk)2的證明由殘差向量的定義及參數(shù)的最小二乘估計式，有e=Y-Y=Y-XY-X(XX)-1XYI-X(XX)-1XY可以記P=I-X(XX)-1X，則e=PY=I-X(XX)-1XX+UX-X(XX)-1XX+PU

22、PU容易考據(jù)，P為對稱等冪矩陣，即P=PP2=PP=P殘差向量的協(xié)方差矩陣為Var(e)E(ee)EPU(PU)EP(UU)PPE(UU)PP(2I)PPP2P2利用矩陣跡的性質(zhì)，有ei2eetr(ee)兩邊取希望得E(ei2)E(ee)Etr(ee)trE(ee)trP22trI-X(XX)-1X2tr(I)tr(XX)-1XX2ntr(I)(nk)2第五章5.1在異方差性條件下參數(shù)估計統(tǒng)計性質(zhì)的證明1、參數(shù)估計的無偏性依舊建立設(shè)模型為Yi12Xivi,i1,2,n用離差形式表示yi2xiui(其中uiviv)參數(shù)2的估計量?2為1）2）?xiyixi(2xiui)2xi2xiui2xi2x

23、i2xi2xiui(3)2xi2E(?2)2E(xiui)2E(xiui)2(4)xi2xi2在證明中僅用到了假設(shè)E(xiui)0。2、參數(shù)估計的有效性不可立var(ui)2222的估計?2的方差為假設(shè)（1）式存在異方差，且iXi，則參數(shù)xiui2Var(?2*)E?2E(?2)2?22E2E2xi22xiui2xi2ui22xixjuiujxi2E(ui2)2xixjE(uiuj)EEijijijijxi2(xi2)2(xi2)22222ijxiE(ui)ijxii2xi2Xi2xi2Xi2(xi2)2(xi2)2(xi2)2xi2xi2(5)在上述推導(dǎo)中用了假設(shè)E(uiuj)0,ij。wi

24、1zi下面對（2）式運(yùn)用加權(quán)最小二乘法（WLS）。設(shè)權(quán)數(shù)為，對（2）式變換為yixiuizi2zizi（6）?2ui可求得參數(shù)的估計，根據(jù)本章第四節(jié)變量變換法的議論，這時新的隨機(jī)誤差項(xiàng)zi為同方var(ui)2?2差，即zi，而的方差為var(?2)wls22xizi（7）為了便于區(qū)別，用(?2)wls表示加權(quán)最小二乘法估計的2，用(?2)ols表示OLS法估計的2。比較（5）式與（7）式，即在異方差下用OLS法獲得參數(shù)估計的方差與用WLS法獲得參數(shù)估計的方差相比較為22xi2xi2var(?2)wlsxi22zizivar(?2)ols222222xiixizixixi2zi22222xix

25、izi（8）2xiai,zixibiab1令zia2b2，由初等數(shù)學(xué)知識有，因此（10）式右端有22xi12xixi2zi2zi（9）進(jìn)而，有var(?2)wlsvar(?2)ols這就證了然在異方差下，依舊用普通最小二乘法所獲得的參數(shù)估計值的方差不再最小。5.2對數(shù)變換后殘差為相對誤差的證明事實(shí)上，設(shè)樣本回歸函數(shù)為Yi?ei（10）12Xi其中eiYi?Y為殘差，取對數(shù)后的樣本回歸函數(shù)為lnY?1?2lnXe*（11）*lnY?其中殘差為elnY，因此?Y?Y?Y?*lnYYY?YelnYln(?)ln(?)ln(1)YYY（12）對（12）式的右端，依據(jù)泰勒展式ln(1X)XX2X3X4(

26、1)n1Xn234n（13）Y?Y?*將（13）式中的X用Y替換，則e可近似地表示為*Y?Ye?（14）Y即表示（11）式中的誤差項(xiàng)為相對誤差。第六章：6.1:存在自相關(guān)時參數(shù)估計值方差的證明Var(?2)E(?22)22xtutExt221E(x1u1x2u2xnun)2xt221xr21xt2E(x12u12x22u22xn2un2)+2(x1x2u1u2x1x3u1u3xn1xnun1un)2(x12E(u12)x22E(u22)xn2E(un2)2uxt22unxt2t1+2x1x2E(u1u2)x1x3E(u1u3)22x1x22x1x3222)uu(xtn1n2xtxt12xtxt

27、2(12t12t1nnxt2xt2t1t1xn1xnE(un1un)xn1xnu2n1x1xn2n)xt2t1第九章)9.12概率極限性質(zhì)的證明x2ix3ix2i(uiu)plim2plim2plim3x2i2plimx2i2nnnnplim1x2ix3iplim1x2i(uiu)nnnn231x22iplim1x22iplimnnnnCovX2i,X3iCovX2i,ui23VarX2iVarX2i1x22i1x2ix3i1x2i(uiu)其中：n2的樣本方差，n23的樣本協(xié)方差，n為為X為X和XX2和ui的樣本協(xié)方差。)9.2參數(shù)2一致性的證明plim)plim2plim(x32i)(x2i(uiu)(x2ix3i)(x3i(uiu)2x2i2x3i2(x2ix3i)2nnnplim(x32i)(x2i(uiu)(x2ix3i)(x3i(uiu)2nplimx22ix32i(x2ix3i)2nplim(x32i)plim(x2i(uiu)plim(x2ix3i)plim(x3i(uiu)2nnn