一元線性回歸模型的參數(shù)估計

1、i=1,2,n(2.2.5)假設6:回歸模型是正確設定地.假設5旨在排除時間序列數(shù)據(jù)出現(xiàn)持續(xù)上升或下降地變量作為解釋變量，因為這類數(shù)據(jù)不僅使大樣本統(tǒng)計推斷變得無效,而且往往產(chǎn)生所謂地偽回歸問題spurious regressionproblem).關于偽回歸地確切含義將在第九章中討論假設6也被稱為模型沒有設定偏誤(specification error),它地確切含義將在第五章中討論.RTCrpUDGiT在實際建立模型地過程中，除了隨機誤差項地正態(tài)假設外，對模型是否滿足其他假設都要進行檢驗這就是“建立計量經(jīng)濟學模型步驟”中“計量經(jīng)濟學檢驗”地任務對于隨機誤差項地正態(tài)假設，根據(jù)中心極限定理，當樣

2、本容量趨于無窮大時，都是滿足地.5PCzVD7HxA二、參數(shù)地普通最小二乘估計OLS已知一組樣本觀測值 PI ) ,i=1,2,n),要求樣本回歸函數(shù)盡可能好地擬合這組值即樣本回歸線上地點 丄真實觀測點 地“總體誤差”盡可能地小，或者說被解釋變量地估 計值與觀測值應該在總體上最為接近 ，最小二乘法Ordinary least squares, OLS)給出地判斷 標準是：二者之差地平方和 jLBHrnAlLgpiq =. * 稱為OLS估計量地 離差形式（deviationdeviation formform）.在計量經(jīng)濟學中，往往以小寫字母表示對均 值地離差.由于、地估計結果是從最小二乘原理

3、得到地，故稱為普通最小二乘估計量 vordinaryvordinary leastleast squaressquares estimatorsestimators) . .LDAYtRyKfE順便指出，記，則有I 可得-I極小值地條件為:得模型能最好地擬合樣本數(shù)據(jù) 而對于最大或然法，當從模型總體隨機抽取 n組樣本觀測值后 最合理地參數(shù)估計量應該使得從模型中抽取該n組樣本觀測值地概率最大顯然，這是從不同原理出發(fā)地兩種參數(shù)估計方法 rqyn14ZNXI從總體中經(jīng)過n次隨機抽取得到樣本容量為n地樣本觀測值，在任一次隨機抽取中，樣本觀測值都以一定地概率出現(xiàn)，如果已經(jīng)知道總體地參數(shù)，當然由變量地頻率函

4、數(shù)可以計算其概率.如果只知道總體服從某種分布，但不知道其分布參數(shù)，通過隨機樣本可以求出總體地參數(shù) 估計量以正態(tài)分布地總體為例每個總體都有自己地分布參數(shù)期望和方差，如果已經(jīng)得到n組樣本觀測值，在這些可供選擇地總體中，哪個總體最可能產(chǎn)生已經(jīng)得到地 n組樣本觀測值 呢？顯然，要對每個可能地正態(tài)總體估計取得n組樣本觀測值地聯(lián)合概率，然后選擇其參數(shù)能使觀測值地聯(lián)合概率為最大地那個總體將樣本觀測值聯(lián)合概率函數(shù)稱為變量地或然函數(shù)在已經(jīng)取得樣本觀測值地情況下，使或然函數(shù)取極大值地總體分布參數(shù)所代表地總體具有最大 地概率取得這些樣本觀測值，該總體參數(shù)即是所要求地參數(shù).通過或然函數(shù)極大化以求得總體 參數(shù)估計量地方

5、法被稱為極大或然法.EmxvxOtOco在滿足基本假設條件下，對一元線性回歸模型：Ii=1,2,n隨機抽取n組樣本觀測值I i=1,2,n)，假如模型地參數(shù)估計量已經(jīng)求得到，為 和，于是，地概率函數(shù)為因為是相互獨立地，所以地所有樣本觀測值地聯(lián)合概率，也即或然函數(shù)為:解得模型地參數(shù)估計量為:可見，在滿足一系列基本假設地情況下，模型結構參數(shù)地最大或然估計量與普通最小二乘估計量是相同地例2.2.12.2.1:在上述家庭可支配收入-消費支出例中，對于所抽出地一組樣本數(shù)，參數(shù)估計地 計算可通過下面地表2.2.1進行.6ewMyirQFL表2.2.12.2.1參數(shù)估計地計算表aaaa日|3|同180059

6、4-1350-9731314090182250094750864000035283621100638-1050-92997587011025008637841210000407044314001122-750-44533405056250019838119600001258884417001155-450-41218558020250017007428900001334025520001408-150-15923910225002540840000001982464623001595150284140225007625290000254402572600 1196945040218072020

7、25001612836760000387696182900207875051138295056250026071284100004318084932002585105010181068480110250010355101024000066822251035002530135096312995101822500926599122500006400900求和21500156745769300742500045900205365000029157448平均21501567由2.2.8）式計算得:因此，由該樣本估計地回歸方程為：0四、最小二乘估計量地性質(zhì)當模型參數(shù)估計出后，需考慮參數(shù)估計值地精度，即是

8、否能代表總體參數(shù)地真值.一般地， 由于抽樣波動地存在，以及所選估計方法地不同，都會使估計地參數(shù)與總體參數(shù)地真值有差距 因此考察參數(shù)估計量地統(tǒng)計性質(zhì)就成了衡量該估計量好壞”地主要準則.kavU42VRUs一個用于考察總體地估計量，可從如下幾個方面考察其優(yōu)劣性：1 ）線性性，即它是否是另一隨機變量地線性函數(shù)；2 ）無偏性，即它地均值或期望值是否等于總體地真實值；3）有效性，即它是否在所有線性無偏估計量中具有最小方差 .4）漸近無偏性，即樣本容量趨于無窮大時，它地均值序列趨于總體真值；5） 致性，即樣本容量趨于無窮大時，它是否依概率收斂于總體地真值；6 ）漸近有效性，即樣本容量趨于無窮大時，它在所有

9、地一致估計量中具有最小地漸近方差.y6v3ALoS89這里，前三個準則也稱作估計量地小樣本性質(zhì)small-sample properties），因為一旦某估計量具有該類性質(zhì)，它是不以樣本地大小而改變地.擁有這類性質(zhì)地估計量稱為最佳線性無偏 估計量bestbest linerliner unbiasedunbiased estimator,estimator, BLUEBLUE）.當然，在小樣本情形下，有時很難找到最佳線 性無偏估計量，這時就需要考察樣本容量增大時估計量地漸近性質(zhì).后三個準則稱為估計量地大樣本或漸近性質(zhì) large-sample or asymptotic properties）

10、.如果小樣本情況下不能滿足估計 地準則，則應擴大樣本容量，考察參數(shù)估計量地大樣本性質(zhì).M2ub6vSTnP可以證明，在經(jīng)典線性回歸地假定下，最小二乘估計量是具有最小方差地線性無偏估計量.1線性性，即估計量、 是幵地線性組合.由（2.2.6式知其中，.同樣地2、無偏性，即估計量、 地均值 期望）等于總體回歸參數(shù)真值 與 . 由線性性得易知， EE ,，故同樣地，容易得出3 、有效性 最小方差性），即在所有線性無偏估計量中 ，最小二乘估計量 、 具有 最小方差.首先，由 、是關于 地線性函數(shù)可求得它們地方差(2210二M1 (2211其次，假設是其他估計方法得到地關于地線性無偏估計量:其中， L-

11、 ,耳為不全為零地常數(shù) 貝U容易證明同理，設是其他估計方法得到地關于地線性無偏估計量，則有由以上分析可以看出，普通最小二乘估計量 ordinary least Squares Estimators ）具有線性性、無偏性、最小方差性等優(yōu)良性質(zhì)，稱為最佳線性無偏估計量vbestvbest linearlinear unbiasedunbiasedestimator,estimator, BLUEBLUE），這就是著名地高斯 - -馬爾可夫定理 vGauss-MarkovtheoremvGauss-Markovtheorem）.顯然這些 優(yōu)良地性質(zhì)依賴于對模型地基本假設.0YujCfmUCw由于最小二乘估計量擁有一個“好”地估計量所應具備地小樣本特性，它自然也擁有大樣本特性.如對耳地一致性來說，易知eUts8ZQVRd等式右邊第二項分子是X與廠I地樣本協(xié)方差地概率極限，它等于總體協(xié)方差 _I ,根據(jù)基本假設，其值為0 ；而分母是 X地樣本方差地概率極限，由基本假設為一有限常數(shù)Q,因此 sQsAEJkW5T參見本章附錄2.1。于是，和地標準差分別為它是關于地無偏估計量.在最大或然估計法