第一章經(jīng)典經(jīng)濟(jì)計(jì)量模型（線性回歸模型）

計(jì)量經(jīng)濟(jì)學(xué)（Ⅰ）對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)國(guó)際經(jīng)濟(jì)貿(mào)易學(xué)院、數(shù)量經(jīng)濟(jì)學(xué)專業(yè)唐丹一元線性回歸模型1．一元線性回歸模型有一元線性回歸模型（統(tǒng)計(jì)模型）如下， yi=0+1xi+ui上式表示變量yi和xi之間的真實(shí)關(guān)系。其中yi稱被解釋變量（因變量），xi稱解釋變量（自變量），ui稱隨機(jī)誤差項(xiàng)，0稱常數(shù)項(xiàng)，1稱回歸系數(shù)（通常未知）。上模型可以分為兩部分。（1）回歸函數(shù)部分，E(yi)=0+1xi,（2）隨機(jī)部分，ui。圖2.1真實(shí)的回歸直線這種模型可以賦予各種實(shí)際意義，收入與支出的關(guān)系；如脈搏與血壓的關(guān)系；商品價(jià)格與供給量的關(guān)系；文件容量與保存時(shí)間的關(guān)系；林區(qū)木材采伐量與木材剩余物的關(guān)系；身高與體重的關(guān)系等。以收入與支出的關(guān)系為例。假設(shè)固定對(duì)一個(gè)家庭進(jìn)行觀察，隨著收入水平的不同，與支出呈線性函數(shù)關(guān)系。但實(shí)際上數(shù)據(jù)來(lái)自各個(gè)家庭，來(lái)自各個(gè)不同收入水平，使其他條件不變成為不可能，所以由數(shù)據(jù)得到的散點(diǎn)圖不在一條直線上（不呈函數(shù)關(guān)系），而是散在直線周圍，服從統(tǒng)計(jì)關(guān)系。隨機(jī)誤差項(xiàng)ui中可能包括家庭人口數(shù)不同，消費(fèi)習(xí)慣不同，不同地域的消費(fèi)指數(shù)不同，不同家庭的外來(lái)收入不同等因素。所以在經(jīng)濟(jì)問(wèn)題上“控制其他因素不變”是不可能的。回歸模型的隨機(jī)誤差項(xiàng)中一般包括如下幾項(xiàng)內(nèi)容，（1）非重要解釋變量的省略，（2）人的隨機(jī)行為，（3）數(shù)學(xué)模型形式欠妥，（4）歸并誤差（糧食的歸并）（5）測(cè)量誤差等。回歸模型存在兩個(gè)特點(diǎn)。（1）建立在某些假定條件不變前提下抽象出來(lái)的回歸函數(shù)不能百分之百地再現(xiàn)所研究的經(jīng)濟(jì)過(guò)程。（2）也正是由于這些假定與抽象，才使我們能夠透過(guò)復(fù)雜的經(jīng)濟(jì)現(xiàn)象，深刻認(rèn)識(shí)到該經(jīng)濟(jì)過(guò)程的本質(zhì)。通常線性回歸函數(shù)E(yi)=0+1xi是觀察不到的，利用樣本得到的只是對(duì)E(yi)=0+1xi的估計(jì)，即對(duì)0和1的估計(jì)。在對(duì)回歸函數(shù)進(jìn)行估計(jì)之前應(yīng)該對(duì)隨機(jī)誤差項(xiàng)ui做出如下假定。(1)ui是一個(gè)隨機(jī)變量，ui的取值服從概率分布。ui為正態(tài)分布（根據(jù)中心極限定理）。(2)E(ui)=0。(3)D(ui)=E[ui-E(ui)]2=E(ui)2=2。稱ui具有同方差性。以上三個(gè)假定可作如下表達(dá)。uiN(0,)。(4)Cov(ui,uj)=E[(ui-E(ui))(uj-E(uj))]=E(ui,uj)=0,(ij)。含義是不同觀測(cè)值所對(duì)應(yīng)的隨機(jī)項(xiàng)相互獨(dú)立。稱為ui的非自相關(guān)性。(5)Cov(ui,xi)=E[(ui-E(ui))(xi-E(xi))]=E[ui(xi-E(xi)]=E[uixi-uiE(xi)]=E(uixi)=0.ui與xi相互獨(dú)立。否則，分不清是誰(shuí)對(duì)yi的貢獻(xiàn)。在這學(xué)期的課程中，都假設(shè)xi是非隨機(jī)的。對(duì)于多元線性回歸模型，解釋變量之間不能完全相關(guān)或高度相關(guān)（非多重共線性）。在假定（1），（2）成立條件下有E(yi)=E(0+1xi+ui)=0+1xi。2．最小二乘估計(jì)（OLS）對(duì)于所研究的經(jīng)濟(jì)問(wèn)題，通常真實(shí)的回歸直線是觀測(cè)不到的。收集樣本的目的就是要對(duì)這條真實(shí)的回歸直線做出估計(jì)。怎樣估計(jì)這條直線呢？顯然綜合起來(lái)看，這條直線處于樣本數(shù)據(jù)的中心位置最合理。怎樣用數(shù)學(xué)語(yǔ)言描述“處于樣本數(shù)據(jù)的中心位置”？設(shè)估計(jì)的直線用=+xi表示。其中稱yi的擬合值（fittedvalue），和分別是0和1的估計(jì)量。觀測(cè)值到這條直線的縱向距離用表示，稱為殘差。yi=+=+xi+稱為估計(jì)的模型。假定樣本容量為n。（1）用“殘差和最小”確定直線位置是一個(gè)途徑。但很快發(fā)現(xiàn)計(jì)算“殘差和”存在相互抵消的問(wèn)題。（2）用“殘差絕對(duì)值和最小”確定直線位置也是一個(gè)途徑。但絕對(duì)值的計(jì)算比較麻煩。（3）最小二乘法的原則是以“殘差平方和最小”確定直線位置。用最小二乘法除了計(jì)算比較方便外，得到的估計(jì)量還具有優(yōu)良特性。（這種方法對(duì)異常值非常敏感）設(shè)殘差平方和用Q表示，Q===，則通過(guò)Q最小確定這條直線，即確定和的估計(jì)值。以和為變量，把Q看作是和的函數(shù)，這是一個(gè)求極值的問(wèn)題。求Q對(duì)和的偏導(dǎo)數(shù)并令其為零，得正規(guī)方程，=2(-1)=0(1)=2(-xi)=0(2)下面用代數(shù)和矩陣兩種形式推導(dǎo)計(jì)算結(jié)果。首先用代數(shù)形式推導(dǎo)。由（1）、（2）式得，=0(3)xi=0(4)（3）式兩側(cè)用n除，并整理得，=(5)把上式代入（4）式并整理，得，xi=0(6)=0(7)=(8)因?yàn)?0，=0，分別在（8）式的分子和分母上減和得，=(9)=(10)下面用矩陣形式推導(dǎo)n+()=+()====這種形式在單位根檢驗(yàn)的理論分析中非常有用。3．最小二乘估計(jì)量和的特性線性特性這里指和分別是yt的線性函數(shù)。===令ki=，代入上式得=kiyi可見(jiàn)是yi的線性函數(shù)，是1的線性估計(jì)量。同理對(duì)于0也具有線性特性。無(wú)偏性利用上式E()=E(kiyi)=E[ki(0+1xi+ui)]=E(0ki+1kixi+kiui)=E[1ki(xi)+kiui]=1+E(kiui)=1(3)有效性0,1的OLS估計(jì)量的方差比其他估計(jì)量的方差小。Gauss-Marcov定理：若ui滿足E(ui)=0，D(ui)=2，那么用OLS法得到的估計(jì)量就具有最佳線性無(wú)偏性(BLUE)。估計(jì)量稱最佳線性無(wú)偏估計(jì)量。最佳線性無(wú)偏估計(jì)特性保證估計(jì)值最大限度的集中在真值周圍，估計(jì)值的置信區(qū)間最小。上面的評(píng)價(jià)是對(duì)有限樣本而言，對(duì)于大樣本（無(wú)限樣本）估計(jì)量具有漸近特性。漸近無(wú)偏性，一致性和漸近有效性。OLS估計(jì)量能滿足漸近特性，但滿足漸近特性的估計(jì)量不見(jiàn)得是最佳線性無(wú)偏估計(jì)量。注意：分清4個(gè)式子的關(guān)系。(1)真實(shí)的統(tǒng)計(jì)模型，yi=0+1xi+ui(2)估計(jì)的統(tǒng)計(jì)模型，yi=+xi+(3)真實(shí)的回歸直線，E(yi)=0+1xi(4)估計(jì)的回歸直線，=+xi4．OLS回歸直線的性質(zhì)(1)殘差和等于零，=0由正規(guī)方程2(yi--xi)(-1)=0得(yi--xi)=(yi-)=()=0(2)估計(jì)的回歸直線=+xi過(guò)（,）點(diǎn)。正規(guī)方程(yi--xi)=0兩側(cè)同除樣本容量n，得=+。得證。(3)yi的擬合值的平均數(shù)等于其樣本觀測(cè)值的平均數(shù)，=。==(+xi)=+=。得證。(4)Cov(,xi)=0只需證明(xi-)=xi-=xt=xi(--xi)=0。上式為正規(guī)方程之一。(5)Cov(,)=0只需證明(-)=-==(+xi)=+xi=05．yi的分布和的分布根據(jù)假定條件uiN(0,)，E(yi)=E(0+1xi+ui)=0+1xi+E(ui)=0+1xi。Var(yi)=Var(0+1xi+ui)=Var(0+1xi)+Var(ui)=yi是ui的線性函數(shù)，所以yiN(0+1xi,)?？梢宰C明E()=1，Var()=，是yi的線性函數(shù)（=kiyi），所以N(1,)。6．的估計(jì)定義=其中2表示待估參數(shù)的個(gè)數(shù)。可以證明E()=。是的無(wú)偏估計(jì)量。因?yàn)槭菤埐睿杂址Q作誤差均方?？捎脕?lái)考察觀測(cè)值對(duì)回歸直線的離散程度。和的估計(jì)的方差是()=S2()=，()=S2()=7．?dāng)M合優(yōu)度的測(cè)量擬合優(yōu)度是指回歸直線對(duì)觀測(cè)值的擬合程度。顯然若觀測(cè)值離回歸直線近，則擬合程度好；反之則擬合程度差。圖2.3三種離差示意圖可以證明(yi-)2=(-)2+(yi-)2=(-)2+()2。TSS（總平方和）=RSS（回歸平方和）+ESS（殘差平方和）證明(yi-)2=[(yi-)+(-)]2=(yi-)2+(-)2+2(yi-)(-)其中(yi-)(-)=(yi-)(xi-)=(yi-)xi-(yi-)=xi=0度量擬合優(yōu)度的統(tǒng)計(jì)量是可決系數(shù)（確定系數(shù)）。R2==（回歸平方和）/（總平方和）=RSS/TSS所以R2的取值范圍是[0，1]。對(duì)于一組數(shù)據(jù)，TSS是不變的，所以RSS↑（↓），ESS↓（↑）。RSS：舊指回歸平方和（regressionsumofsquares），現(xiàn)指殘差平方和（sumofsquaredresiduals）ESS：舊指殘差平方和（errorsumofsquares(sumofsquarederrors)），現(xiàn)指回歸平方和（explainedsumofsquares）8．回歸參數(shù)的顯著性檢驗(yàn)及其置信區(qū)間主要是檢驗(yàn)1是否為零。通常用樣本計(jì)算的不等于零，但應(yīng)檢驗(yàn)這是否有統(tǒng)計(jì)顯著性。H0：1=0；H1：10在H0成立條件下，t===-t(n-2)0t/2(n-2)若t>t(n-2)，則10；若t<t(n-2)，則1=0。還可以利用估計(jì)1的置信區(qū)間。由于P{t(n-2)}=1-由大括號(hào)內(nèi)不等式得1的置信區(qū)間-t(n-2)1+t(n-2)其中是=的算術(shù)根，而其中的是的算術(shù)根。9．yf的點(diǎn)預(yù)測(cè)及其區(qū)間預(yù)測(cè)下面以時(shí)間序列數(shù)據(jù)為例介紹預(yù)測(cè)問(wèn)題。預(yù)測(cè)可分為事前預(yù)測(cè)和事后預(yù)測(cè)。兩種預(yù)測(cè)都是在樣本區(qū)間之外進(jìn)行，如圖所示。對(duì)于事后預(yù)測(cè)，被解釋變量和解釋變量的值在預(yù)測(cè)區(qū)間都是已知的?？梢灾苯佑脤?shí)際發(fā)生值評(píng)價(jià)模型的預(yù)測(cè)能力。對(duì)于事前預(yù)測(cè)，解釋變量是未發(fā)生的。（當(dāng)模型中含有滯后變量時(shí)，解釋變量則有可能是已知的。）當(dāng)預(yù)測(cè)被解釋變量時(shí)，則首先應(yīng)該預(yù)測(cè)解釋變量的值。對(duì)于解釋變量的預(yù)測(cè)，通常采用時(shí)間序列模型。T1T2T3（目前）樣本區(qū)間事后預(yù)測(cè)事前預(yù)測(cè)預(yù)測(cè)還分為有條件預(yù)測(cè)和無(wú)條件預(yù)測(cè)。對(duì)于無(wú)條件預(yù)測(cè)，預(yù)測(cè)式中所有解釋變量的值都是已知的。所以事后預(yù)測(cè)應(yīng)該屬于無(wú)條件預(yù)測(cè)。當(dāng)一個(gè)模型的解釋變量完全由滯后變量組成時(shí)，事前預(yù)測(cè)也有可能是無(wú)條件預(yù)測(cè)。例如=+xf-1當(dāng)預(yù)測(cè)n+1期的yt值時(shí)，xt用的是n期值，是已知值。yf的點(diǎn)預(yù)測(cè)。根據(jù)估計(jì)的回歸函數(shù)，得=+xf單個(gè)yf的區(qū)間預(yù)測(cè)的分布是N(0+1xf,(1++))所以，yf的區(qū)間預(yù)測(cè)是[t(n-2)]E(yf)的區(qū)間預(yù)測(cè)E()的分布是E()N(0+1xf,(+))則E(