古典線性回歸模型課件

1、第五章古典線性回歸模型1問題的提出數(shù)據(jù)背后存在著某種規(guī)律性最小二乘保證了3條性質(zhì)殘差和=0，殘差與自變量無關(guān)、殘差與擬合值無關(guān)關(guān)于數(shù)據(jù)生成過程的初步假定數(shù)據(jù)生成過程=確定性部分+非確定性部分樣本一般說來總會(huì)反映一些總體的性質(zhì)，于是對非確定性部分隨機(jī)擾動(dòng)項(xiàng)作出類似于最小二乘殘差的假設(shè)2數(shù)據(jù)背后存在著某種規(guī)律性現(xiàn)實(shí)世界中本身存在著經(jīng)濟(jì)規(guī)律，正是這些經(jīng)濟(jì)規(guī)律的作用，通過現(xiàn)實(shí)經(jīng)濟(jì)生活又顯現(xiàn)出一些復(fù)雜現(xiàn)象來。這些現(xiàn)象既有某種確定性（規(guī)律性的一面），有具有某種不確定性（隨機(jī)性的一面）。計(jì)量經(jīng)濟(jì)學(xué)研究假定現(xiàn)實(shí)數(shù)據(jù)中存在某種規(guī)律性數(shù)據(jù)背后存在一個(gè)數(shù)據(jù)產(chǎn)生的過程，即經(jīng)濟(jì)現(xiàn)象后面存在規(guī)律性。挖掘數(shù)據(jù)后面的規(guī)律乃是

2、計(jì)量經(jīng)濟(jì)學(xué)的己任。3最小二乘保證了4條性質(zhì)1、殘差和=02、殘差與自變量不相關(guān)3、殘差與因變量擬合值不相關(guān)4、因變量實(shí)際值與擬合值的均值相等即：4解決問題的思路數(shù)據(jù)生成過程=確定性部分+非確定性部分關(guān)于數(shù)據(jù)生成過程的初步假定提出線性模型從總體與樣本的關(guān)系看殘差與隨機(jī)擾動(dòng)項(xiàng)的關(guān)系對非確定性部分隨機(jī)擾動(dòng)項(xiàng)作出6項(xiàng)假設(shè)5關(guān)于數(shù)據(jù)生成過程的初步假定雖然數(shù)據(jù)并不一定滿足最小二乘估計(jì)直線這些性質(zhì)，但仍可依據(jù)對現(xiàn)實(shí)的抽象，假定背后有一個(gè)數(shù)據(jù)生成的過程yi=a+b1xi1+b2xi2+b3xi3+bkxik+ui (i=1,2, ,n)僅僅是一個(gè)初步假定（假定：數(shù)據(jù)生成過程=確定性部分+非確定性部分），還須進(jìn)

3、一步對ui作出假定6從總體與樣本的關(guān)系看殘差與隨機(jī)擾動(dòng)項(xiàng)最小二乘估計(jì)直線有條性質(zhì)。性質(zhì)中的殘差是一個(gè)樣本的殘差。從總體與樣本的關(guān)系看，數(shù)據(jù)是總體的一個(gè)子集，自然ui也是ui的一個(gè)子集，而ui是總體的隨機(jī)擾動(dòng)項(xiàng)。樣本一般說來總會(huì)反映一些總體的性質(zhì)，于是對隨機(jī)擾動(dòng)項(xiàng)作出類似最小二乘估計(jì)殘差的假設(shè)。從而完成了數(shù)據(jù)生成過程的假設(shè)。7第一節(jié) 有關(guān)隨機(jī)擾動(dòng)項(xiàng)ui的古典模型假設(shè)隨機(jī)擾動(dòng)項(xiàng)ui是一個(gè)有關(guān)總體屬性的隨機(jī)變量，下面對ui的分布，依據(jù)最小二乘估計(jì)得到的殘差（樣本）的性質(zhì)作出類似的假設(shè)：假設(shè)隨機(jī)擾動(dòng)項(xiàng)ui垂直波動(dòng)假設(shè)殘差分布均值為零假設(shè)隨機(jī)擾動(dòng)項(xiàng)方差一定假設(shè)隨機(jī)擾動(dòng)項(xiàng)（誤差）相互獨(dú)立假設(shè)所有xi都是可

4、觀察的并且獨(dú)立于ui假設(shè)數(shù)據(jù)產(chǎn)生過程是線性的8假設(shè)隨機(jī)擾動(dòng)項(xiàng)ui垂直波動(dòng) （Vertical Error Jumps）樣本數(shù)據(jù)點(diǎn)只沿著yi的方向在真實(shí)直線附近垂直跳動(dòng)，即這種波動(dòng)圍繞真實(shí)直線上下波動(dòng)。對于每一個(gè)xi，yi總是垂直變動(dòng)，沒有橫向偏移。這也就是說觀察到的xi是準(zhǔn)確無誤的，實(shí)際中的xi沒有絲毫偏差，而對應(yīng)于xi的yi卻存在垂直的偏差。誤差變量模型xi存在隨機(jī)偏差（Errorsin Variable Model）（第十五章中討論）9古典線性模型中只有因變量存在垂直波動(dòng)YXABx1 x2 x3 x4 x5 x610YXABx1 x2 x3 x4 x5 x6變量誤差模型自變量也存在隨機(jī)變動(dòng)

5、a+bxiyi=a+b(xi+i)+ui11假設(shè)殘差分布均值為零（Zero Mean Error Displacement）E(ui)=0 (i=1,2,.,n)必須注意：樣本殘差的數(shù)學(xué)期望 E(ui)=0，是最小二乘保證了的，只要使用最小二乘法，就一定會(huì)有樣本的殘差均值為零。而E(ui)=0則是一個(gè)假設(shè)，假設(shè)總體殘差（隨機(jī)擾動(dòng)項(xiàng)）ui的數(shù)學(xué)期望為零即總體隨機(jī)擾動(dòng)項(xiàng)對回歸估計(jì)沒有影響?；蛘呦穗S機(jī)變動(dòng)，規(guī)律性就呈現(xiàn)出來了。12假設(shè)隨機(jī)擾動(dòng)項(xiàng)方差一定（Constant Error Variance）Var(ui)=2 (i=1,2,，n) 表明對所有的ui，變動(dòng)的方差是相同的，稱為同方差。否則

6、，Var(ui)=2i (i=1,2,，n) Var(ui)=ui-E(ui)2=2i (i=1,2,，n) 2i是一個(gè)變量（隨I而變）。這種情形稱為異方差。（在第十章中討論）13同方差x1 x2XuY隨著x變化隨機(jī)擾動(dòng)項(xiàng)u的方差不變 a + b x14異方差x1 x2Xu隨著x增加隨機(jī)擾動(dòng)項(xiàng)方差增大Y15假設(shè)隨機(jī)擾動(dòng)項(xiàng)（誤差）相互獨(dú)立 （Error Independent）ui與uj不相關(guān)，也就是說，對所有的ij，有E(ui,uj)=0由假設(shè)2，E(ui)=0，E(uj)=0，因此，COV(ui,uj)=Eui-E(ui)uj-E(uj)=E(ui,uj)由假設(shè)4，COV(ui,uj) =E

7、(ui,uj)=0自然有ui與uj不相關(guān)（ij），且有E(ui,ui+1)= E(ui-1,ui)=0 如果E(ui,uj) 0，稱為隨機(jī)擾動(dòng)項(xiàng)（誤差）自相關(guān)（Autocorrelation）。（在第十一章中討論）16假設(shè)所有xi都是可觀察的 并且獨(dú)立于ui即對所有i,j來說COV(xi,uj)=0（The x are revealed and independent of ui）對所有的i,j來說，COV(xi,uj)=0這保證了ui的取值與xj的取值沒有任何關(guān)系，同時(shí)xi與其它xj也沒有關(guān)系?，F(xiàn)實(shí)經(jīng)濟(jì)活動(dòng)中這條假設(shè)是否滿足要大打折扣。例如下述的消費(fèi)與GNP的關(guān)系。否則容易造成多重共線，造成

8、危害。（已經(jīng)作了部分討論）17消費(fèi)與GNP的關(guān)系Ci = a+bGNPi+ui （1）GNPi = Ci+Ii+Gi （2）其中Ci為消費(fèi)，Ii為投資，Gi為政府支出，GNPi為國民生產(chǎn)總值，ui為隨機(jī)擾動(dòng)項(xiàng)。ui的變化必然引起Ci變化，從而引起GNPi發(fā)生變化。即ui與GNPi相關(guān)。這是一個(gè)聯(lián)立方程模型。Gi和Ii為外生變量，將（1）代入（2）可用回歸方法解決18假設(shè) 數(shù)據(jù)產(chǎn)生過程是線性的 （Linearity of the Model）yi=a+b1xi1+b2xi2+b3xi3+bkxik+ui (i=1,2, ,n)因變量yi=自變量的線性組合再加上一個(gè)隨機(jī)擾動(dòng)項(xiàng)。自然，因變量yi也是

9、一個(gè)隨機(jī)變量，于是必須對yi的分布做一番討論。而a、b等回歸估計(jì)系數(shù)乃是由yi和xij估計(jì)出來的，自然也需對它們的性質(zhì)作進(jìn)一步的討論。關(guān)于它們性質(zhì)的討論十分有用，影響到估計(jì)得到規(guī)律（回歸方程）的檢驗(yàn)可靠性。如果是非線性就不能采用最小二乘法。19第二節(jié)古典假設(shè)的一些內(nèi)涵一、yi的分布二、高斯馬爾科夫定理：最小二乘估計(jì)量的樣本分布三、一元模型參數(shù)估計(jì)量的性質(zhì)四、二元模型參數(shù)估計(jì)量的性質(zhì)20問題的提出因變量yi=自變量的線性組合再加上一個(gè)隨機(jī)擾動(dòng)項(xiàng)，自然因變量yi也是一個(gè)隨機(jī)變量，于是必須對yi的分布做一番討論。而a、b等回歸估計(jì)系數(shù)乃是由yi和xij估計(jì)出來的（可以證明它們是yi的線性組合），自然

10、也需對它們的性質(zhì)作進(jìn)一步的討論。關(guān)于它們性質(zhì)的討論十分有用，影響到估計(jì)得到規(guī)律（回歸方程）的檢驗(yàn)可靠性和預(yù)測。21解決問題的思路根據(jù)古典模型的假設(shè)，推斷出因變量的性質(zhì)在通過高斯-馬爾科夫定理精確地討論最小二乘估計(jì)量的性質(zhì)22關(guān)于隨機(jī)擾動(dòng)項(xiàng)的6項(xiàng)假定假設(shè)隨機(jī)擾動(dòng)項(xiàng)ui垂直波動(dòng)自變量X是確定性變量假設(shè)殘差分布均值為零ui=0假設(shè)隨機(jī)擾動(dòng)項(xiàng)方差一定Var(ui)=2假設(shè)隨機(jī)擾動(dòng)項(xiàng)（誤差）相互獨(dú)立 E(ui,uj)=0uiuj=0 (ij)假設(shè)所有xi都是可觀察的并且獨(dú)立于ui E(x,uj)=0 xuj=0 假設(shè)數(shù)據(jù)產(chǎn)生過程是線性的Y=XB+u23一、yi的分布根據(jù)以上6項(xiàng)假設(shè)，模型：yi=a+b1

11、xi1+b2xi2+b3xi3+bkxik+ui (i=1,2, ,n)中的的各個(gè)觀察值的方差=2，數(shù)學(xué)期望=0，相互獨(dú)立，即ui 服從i.i.d（0, 2）i.i.d是Identical Independent Distribution指的是獨(dú)立同分布。但是，并沒有指出它是何種具體的分布形式。24yi的分布的數(shù)字特征E（yi）=E（a+b1xi1+b2xi2+b3xi3+bkxik+ui）因?yàn)閍,b1，b2,b3,bk,（參數(shù)） 和xi1,xi2,xi3,xik（確定性變量）都不是隨機(jī)變量（而 a,b1，b2,b3,bk的估計(jì)量才是隨機(jī)變量），所以E（yi）=a+b1xi1+b2xi2+b3

12、xi3+bkxikVar（yi）=Var（a+b1xi1+b2xi2+b3xi3+bkxik+ui）Var（yi）=2 ，所以yi 服從i.i.d（a+b1xi1+b2xi2+b3xi3+bkxik，2）Cov(yi,yj)=025Yi分布圖YXVar(Yi)222E(yi)是一條總體回歸直線 ：E(yi)=a+b1x1+bkxk估計(jì)得到的回歸直線在它的附近E(yi)=a+b1x1+bkxk26YXVar(Yi)E(yi)=a+b1x1+bkxkE(yi)是一條總體回歸直線 ：E(yi)=a+b1x1+bkxk估計(jì)得到的回歸直線在它的附近27二、高斯馬爾科夫定理最小二乘估計(jì)量的樣本分布28問題

13、的提出對于設(shè)計(jì)模型：yi=a+b1xi1+b2xi2+b3xi3+bkxik+ui (i=1,2, ,n)根據(jù)一組樣本值，經(jīng)最小二乘估計(jì)可以得到一條直線，得到參數(shù)的估計(jì)值，根據(jù)另一組樣本又會(huì)得到另一條直線，另一組參數(shù)的估計(jì)值。如果給出多個(gè)樣本，就會(huì)得到多組參數(shù)估計(jì)值。必須指出，每一條直線必定或多或少地反映了總體的性質(zhì)，就象子女象它們的父母，帶來了總體（母體）的信息，位于總體回歸直線附近。我們正是這樣假設(shè)的數(shù)據(jù)生成過程。估計(jì)得到的參數(shù)是一個(gè)隨機(jī)變量（隨抽樣不同而不同），因此有必要討論參數(shù)估計(jì)量的性質(zhì)。29解決問題的思路從一元模型入手，接著再討論二元模型。分別討論：1、線性估計(jì)2、參數(shù)估計(jì)量的數(shù)學(xué)

14、期望3、參數(shù)估計(jì)量的方差和協(xié)方差此外，還要給出它們的矩陣表示30三、一元模型參數(shù)估計(jì)量的性質(zhì)一元模型：yi=a+bxi+ui1、線性估計(jì)2、輔助量wi的性質(zhì)3、E（b）=b無偏估計(jì)量4、Var（b）= ？5、E（a）= a無偏估計(jì)量6、Var（a）= ？311、線性估計(jì)32332、輔助量wi的性質(zhì)343536373、384、395、40證明過程很煩瑣，下面用矩陣證明它們的方差-協(xié)方差矩陣。41424344四、二元模型參數(shù)估計(jì)量的性質(zhì)45yi=a+b1xi1+b2xi2+b3xi3+bkxik+ui 的矩陣表示46模型的基本假定47最小二乘法估計(jì)48參數(shù)最小二乘估計(jì)量的數(shù)學(xué)期望49參數(shù)最小二乘估

15、計(jì)量的方差-協(xié)方差50二元模型的方差-協(xié)方差矩陣51回歸系數(shù)方差與變量方差和決定系數(shù)之間的關(guān)系52回歸系數(shù)方差與變量方差和決定系數(shù)之間的關(guān)系53回歸系數(shù)方差與變量方差和決定系數(shù)之間的關(guān)系54一元回歸模型系數(shù)的方差和協(xié)方差55關(guān)于回歸系數(shù)的t檢驗(yàn)56tf(t)t-t57結(jié)論最小二乘估計(jì)量是線性、無偏估計(jì)量（高斯-馬爾科夫定理將證明它們是有效估計(jì)量）。58第三節(jié)高斯馬爾科夫定理一、高斯馬爾科夫定理基本概念二、以模型：yi=a+bxi+ui為例證明高斯馬爾科夫定理1、順證明2、逆證明構(gòu)造法證明59一、高斯馬爾科夫定理基本概念60高斯-馬爾科夫定理對模型：yi=a+b1xi1+b2xi2+b3xi3+

16、bkxik+uiui服從i.i.d(0,2),最小二乘估計(jì)a,b1,b2, ,bk是a,b1,b2, ,bk最好的，線性的，無偏的估計(jì)量。所謂最好的估計(jì)量，是指估計(jì)量中的方差最小的那個(gè)估計(jì)量。即最小二乘得到的估計(jì)量在所有線性、無偏估計(jì)量中，它的方差最小。所謂無偏估計(jì)量，是指估計(jì)量的數(shù)學(xué)期望等于真實(shí)值。所謂線性估計(jì)量，是指估計(jì)量與yi存在線性關(guān)系估計(jì)量是yi的線性組合。6162二、以模型：yi=a+bxi+ui為例證明高斯馬爾科夫定理1、線性的2、無偏的3、最好的一切線性無偏估計(jì)量中最小二乘估計(jì)量的方差最小631、最小二乘估計(jì)量是線性的642、最小二乘估計(jì)量是無偏的653、最小二乘估計(jì)量方差最小

17、的順證明（思路）因?yàn)樽钚《斯烙?jì)量是線性的，設(shè)有一個(gè)任意的不等于最小二乘估計(jì)量的線性的無偏的估計(jì)量（為什么只是在LS估計(jì)量上加一點(diǎn)或減一點(diǎn)呢 ？）如果證明這個(gè)任意的線性無偏估計(jì)量的方差大于最小二乘估計(jì)量的方差那么，最小二乘估計(jì)量的方差就是一切線性無偏估計(jì)量中方差最小的，因而也是最好的663、最小二乘估計(jì)量方差最小的順證明 （必須滿足的條件）673、最小二乘估計(jì)量方差最小的順證明 （結(jié)論）684、最小二乘估計(jì)量方差最小的逆證明構(gòu)造法證明1、思路2、利用拉格朗日條件極值法，使構(gòu)造出來的估計(jì)量的方差滿足最小3、對比條件極值結(jié)果與最小二乘估計(jì)量進(jìn)行比較=最小二乘估計(jì)量的方差最小694、最小二乘估計(jì)量方

18、差最小的逆證明 構(gòu)造法證明（思路）1、依據(jù)線性特性構(gòu)造一個(gè)線性的估計(jì)量（ yi的線性組合）2、構(gòu)造出來的估計(jì)量必須滿足無偏的條件3、通過拉格朗日條件極值法，在滿足2、給出的條件下，求估計(jì)量方差的極值（最?。?、用3、得到的結(jié)果與LS估計(jì)量進(jìn)行比較5、結(jié)論LS估計(jì)量的方差最小702、最小二乘估計(jì)量方差最小的逆證明（構(gòu)造一個(gè)線性估計(jì)量）714、最小二乘估計(jì)量方差最小的逆證明（拉格朗日條件極值）1724、最小二乘估計(jì)量方差最小的逆證明（拉格朗日條件極值）2734、最小二乘估計(jì)量方差最小的逆證明（拉格朗日條件極值）37475統(tǒng)計(jì)計(jì)算中的技巧之一76統(tǒng)計(jì)計(jì)算中的技巧之二77第四節(jié)高斯馬爾科夫定理再探78

19、問題的提出探索規(guī)律的一般方法：觀察=鑒別差異=尋找產(chǎn)生差異的原因得到（因果）規(guī)律=提出措施=改進(jìn)工作、提高效益=增進(jìn)人類最大的福利觀察的種類：（1）可控制條件下的觀察（2）不可控制條件下的觀察79可控制條件下進(jìn)行觀察舉例 施肥試驗(yàn)一控制條件：多塊面積相等、光照相同、肥沃程度一樣，播種同一品種同量的種子，采用相同的經(jīng)營管理試驗(yàn)對照措施：施相同的氮肥（50kg）試驗(yàn)結(jié)果：一塊地產(chǎn)1000kg，另一塊產(chǎn)1030kg，結(jié)論：30kg的產(chǎn)量差異是什么原因引起的？無法解釋。就目前的認(rèn)識水平它只能是隨機(jī)因素引起的。80可控制條件下進(jìn)行觀察舉例施肥試驗(yàn)二對照措施分別施用氮肥量：30、40、50、60、70kg

20、（唯一差異性）試驗(yàn)結(jié)果產(chǎn)量：800、900、1000、1100、900結(jié)論：產(chǎn)量的差異來自施肥量的差異于是可以擬合出施肥模型尋找出最佳施肥量81由兩次試驗(yàn)結(jié)果得到的起示1、拉開控制條件的差異增加自變量的方差2、使自變量的平均數(shù)盡可能地接近于用戶準(zhǔn)備用來進(jìn)行預(yù)測時(shí)的自變量的值3、通過對比探索原因，擬合模型4、這樣作還可以減少估計(jì)參數(shù)的方差估計(jì)更準(zhǔn)確5、這樣作還可以使期望預(yù)測的精度提高82估計(jì)回歸系數(shù)的方差與自變量方差的關(guān)系8384從試驗(yàn)設(shè)計(jì)與估計(jì)量方差得到的啟示在試驗(yàn)一中，因?yàn)樽宰兞康姆讲畹扔?，不存在差異不能建立模型。即使建立起模型，回歸系數(shù)的方差趨于極大模型不穩(wěn)定。因此要增大自變量的方差Va

21、r(Xm)。篩選自變量時(shí)它們之間最好不存在比較密切的相關(guān)關(guān)系，否則出現(xiàn)多重共線復(fù)相關(guān)系數(shù)（擬合優(yōu)度）趨于1，也將出現(xiàn)回歸系數(shù)的方差趨于極大模型不穩(wěn)定。因此要篩選自變量。85一、自變量離均差為零對可控制試驗(yàn)，設(shè)計(jì)時(shí)盡量將自變量的差距拉大，增加自變量的方差。也就是我們常說的“要全面看問題”。一門新興的學(xué)科試驗(yàn)設(shè)計(jì)怎樣安排試驗(yàn)。用最小的代價(jià)、最小的時(shí)間、采用最小的試驗(yàn)次數(shù)，從而采用最簡單的方法建立最優(yōu)的模型。已經(jīng)成為經(jīng)驗(yàn)學(xué)科的必修課。對不可控制試驗(yàn)，收集數(shù)據(jù)時(shí)盡可能作到全面，擴(kuò)大自變量取值的范圍86四個(gè)物體稱重正交試驗(yàn)設(shè)計(jì)87888990二、多重共線（二）兩種情形（1）擬合優(yōu)度等于1（2）擬合優(yōu)度接

22、近于191工資模型Wi=a+b1Si+b2Ei+b3Ai+b4Ui+ui （1）其中Wi=工資， Si=學(xué)校教育， Ei=工作年限，Ai=年齡，Ui=是否參加工會(huì)。這是一個(gè)典型的多重共線問題。用年齡學(xué)齡和工齡進(jìn)行回歸，會(huì)得到擬合優(yōu)度R2=1，因?yàn)椋篈i=7+Si+Ei （2）解決辦法：將（2）式代入（1）式，將消去Ai ，消除了模型中的完全線性關(guān)系，就消除了多重共線。Wi=（a+7 b3）+（b1+ b3）Si+（b2 + b3 ）Ei+ b4Ui+ ui只需估計(jì)：Wi=c+dSi+eEi+fUi+ ui92消除多重共線的方法之一找出模型中的完全線性關(guān)系，擬合優(yōu)度（復(fù)相關(guān)系數(shù)）=1利用完全線性

23、關(guān)系代入待估計(jì)模型消去（刪除）共線變量，從而消除多重共線關(guān)系即復(fù)相關(guān)系數(shù)=1，應(yīng)考慮刪除變量；反之復(fù)相關(guān)系數(shù)遠(yuǎn)遠(yuǎn)地小于1，則應(yīng)在模型中加入新的自變量為了優(yōu)化模型在變量選擇上：刪除或加入變量93、變量的誤刪的定義在模型中本應(yīng)包括這個(gè)變量因?yàn)镽2=1，為了消除多重共線，我們將這個(gè)變量從模型中刪除了，此時(shí)稱為變量誤刪。因此，原模型是正確的，刪除變量后的模型是錯(cuò)誤的。94、變量的誤加的定義在模型中本不應(yīng)包括這個(gè)變量因?yàn)镽21，為了增加擬合優(yōu)度（至少可以使擬合優(yōu)度不減），我們將這個(gè)變量增加到模型中，此時(shí)稱為變量誤加。因此，原模型是正確的，增加變量后的模型是錯(cuò)誤的。953、變量的誤刪的后果X2=因變量，X

24、1=自變量96X2=因變量，X1=自變量97變量誤刪引致的結(jié)論（1）估計(jì)量有偏（2）仍然保留在模型中的估計(jì)量的方差減小 方差方差 有偏真實(shí)模型98 方差方差 有偏真實(shí)模型99 方差方差 有偏真實(shí)模型1004、變量誤加的后果11014、變量誤加的后果2102變量誤加引致的結(jié)論（1）估計(jì)量無偏（2）估計(jì)量方差較大真實(shí)的誤加的方差103消除多重共線的方法之二逐步回歸法1目的：尋找最優(yōu)回歸方程使R2較大，F(xiàn)顯著；每個(gè)回歸系數(shù)顯著2種類（1）逐個(gè)剔除法（2）逐個(gè)引入法（3）有進(jìn)有出法3準(zhǔn)則：一次只能引入或剔除一個(gè)自變量，直至模型中所有自變量均顯著104第五節(jié)復(fù)習(xí)與提高一、計(jì)量經(jīng)濟(jì)學(xué)的任務(wù)二、估計(jì)三、二元

25、回歸系數(shù)的斜方差矩陣四、回歸系數(shù)的方差與復(fù)相關(guān)系數(shù)、自變量方差之間的關(guān)系五、從扣除法得到的回歸系數(shù)的方差看偏回歸系數(shù)的方差六、關(guān)于回歸估計(jì)模型中的方差及其聯(lián)系105一、計(jì)量經(jīng)濟(jì)學(xué)的任務(wù)在經(jīng)濟(jì)活動(dòng)中，經(jīng)濟(jì)數(shù)據(jù)總是不規(guī)則地反映經(jīng)濟(jì)規(guī)律的作用結(jié)果。但這些數(shù)據(jù)的產(chǎn)生并不完全是任意的，它們的背后有一個(gè)數(shù)據(jù)生成過程。我們的任務(wù)是從總體中觀察一組樣本，利用已知的、對應(yīng)的、離散的數(shù)據(jù)推測數(shù)據(jù)的生成過程因果關(guān)系。推測數(shù)據(jù)生成過程的方法有二：（1）點(diǎn)估計(jì)；（2）區(qū)間估計(jì)106二、估計(jì)點(diǎn)估計(jì)的方法也很多。但是經(jīng)過以上討論。高斯-馬爾科夫定理保證：由最小二乘法得到的估計(jì)量是線性一元無偏的估計(jì)量，而且是一個(gè)最好的估計(jì)量。即最小二乘估計(jì)量具有BLUE性質(zhì)。BLUE（Best linear Unbias Estimator）107所有估計(jì)量集合所有線性估計(jì)量集合所有無偏估計(jì)量集合最小二乘估計(jì)量的性質(zhì)BLUE集合108BestLinear Unbias EstimatorBLUE109三、二元回歸系數(shù)的協(xié)方差矩陣110三、一元回歸系數(shù)