多元線性回歸模型及參數(shù)估計(jì)

§2.3多元線性回歸模型的參數(shù)估計(jì)

EstimationofMultipleLinearRegressionModel

一、多元線性回歸模型二、多元線性回歸模型的參數(shù)估計(jì)三、OLS參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)四、樣本容量問題五、多元線性回歸模型實(shí)例多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第1頁(yè)!一、多元線性回歸模型多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第2頁(yè)!1、多元線性回歸模型的形式由于：在實(shí)際經(jīng)濟(jì)問題中，一個(gè)變量往往受到多個(gè)原因變量的影響；

“從一般到簡(jiǎn)單”的建模思路。所以，線性回歸模型中的解釋變量往往有多個(gè)，至少開始是這樣。這樣的模型被稱為多元線性回歸模型。多元線性回歸模型參數(shù)估計(jì)的原理與一元和二元線性回歸模型相同，只是計(jì)算更為復(fù)雜。多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第3頁(yè)!多元線性回歸模型的矩陣表達(dá)式為：其中多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第4頁(yè)!多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第5頁(yè)!多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第6頁(yè)!1、普通最小二乘估計(jì)普通最小二乘估計(jì)（i=1,2,…,n）多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第7頁(yè)!于是得到關(guān)于待估參數(shù)估計(jì)值的正規(guī)方程組：多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第8頁(yè)!多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第9頁(yè)!2、最大或然估計(jì)Y的隨機(jī)抽取的n組樣本觀測(cè)值的聯(lián)合概率

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第10頁(yè)!三、OLS參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第11頁(yè)!3．有效性

其中利用了根據(jù)高斯—馬爾可夫定理，上述方差在所有無(wú)偏估計(jì)量的方差中是最小的，所以普通最小二乘參數(shù)估計(jì)量具有有效性。多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第12頁(yè)!4．隨機(jī)誤差項(xiàng)方差估計(jì)量的性質(zhì)

由于被解釋變量的估計(jì)值與觀測(cè)值之間的殘差殘差的平方和為:

所以有其中符號(hào)“tr”表示矩陣的跡，其定義為矩陣主對(duì)角線元素的和。于是所以，隨機(jī)誤差項(xiàng)方差的無(wú)偏估計(jì)量為多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第13頁(yè)!四、樣本容量問題1、最小樣本容量2、滿足基本要求的樣本容量

計(jì)量經(jīng)濟(jì)學(xué)模型，說(shuō)到底是從表現(xiàn)已經(jīng)發(fā)生的經(jīng)濟(jì)活動(dòng)的樣本數(shù)據(jù)中尋找經(jīng)濟(jì)活動(dòng)中內(nèi)含的規(guī)律性，所以，它對(duì)樣本數(shù)據(jù)具有很強(qiáng)的依賴性。

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第14頁(yè)!2、滿足基本要求的樣本容量

雖然當(dāng)n≥k+1時(shí)，可以得到參數(shù)估計(jì)量，但除了參數(shù)估計(jì)量質(zhì)量不好以外，一些建立模型所必須的后續(xù)工作也無(wú)法進(jìn)行。

一般經(jīng)驗(yàn)認(rèn)為當(dāng)n330或者至少nk3+31()時(shí)，才能說(shuō)滿足模型估計(jì)的基本要求。

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第15頁(yè)!中國(guó)消費(fèi)函數(shù)模型根據(jù)消費(fèi)模型的一般形式，選擇消費(fèi)總額為被解釋變量，國(guó)內(nèi)生產(chǎn)總值和前一年的消費(fèi)總額為解釋變量，變量之間關(guān)系為簡(jiǎn)單線性關(guān)系，選取1981年至1996年統(tǒng)計(jì)數(shù)據(jù)為樣本觀測(cè)值。

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第16頁(yè)!模型估計(jì)結(jié)果多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第17頁(yè)!

多元線性回歸模型的一般形式為：

習(xí)慣上，把常數(shù)項(xiàng)μi看成為一個(gè)虛變量的系數(shù)，在參數(shù)估計(jì)過程中該虛變量的樣本觀測(cè)值始終取1。這樣：模型中解釋變量的數(shù)目為（k+1）。

i=1,2,…,n

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第18頁(yè)!

2、多元線性回歸模型的基本假定多元線性回歸模型在滿足下列基本假設(shè)的情況下，可以采用普通最小二乘法（OLS）估計(jì)參數(shù)。關(guān)于多元線性回歸模型的基本假定多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第19頁(yè)!多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第20頁(yè)!二、多元線性回歸模型的參數(shù)估計(jì)多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第21頁(yè)!根據(jù)最小二乘原理，參數(shù)估計(jì)值應(yīng)該是下列方程組的解：

其中多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第22頁(yè)!

上述估計(jì)過程的矩陣表示：其中

從而，被解釋變量的觀測(cè)值與估計(jì)值之差的平方和為：

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第23頁(yè)!隨機(jī)誤差項(xiàng)的均值為0，方差的估計(jì)量為：

于是，得到正規(guī)方程組：

參數(shù)的最小二乘估計(jì)值為：

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第24頁(yè)!對(duì)數(shù)或然函數(shù)為參數(shù)的最大或然估計(jì)

結(jié)果與參數(shù)的普通最小二乘估計(jì)相同

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第25頁(yè)!1．線性

2．無(wú)偏性

這里利用了解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)的假設(shè)，即多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第26頁(yè)!參數(shù)估計(jì)量的方差-協(xié)方差矩陣多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第27頁(yè)!多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第28頁(yè)!⒈

最小樣本容量最小樣本容量：是指從最小二乘原理出發(fā)，欲得到參數(shù)估計(jì)量，不管其質(zhì)量如何，所要求的樣本容量的下限。樣本容量必須不少于模型中解釋變量的數(shù)目（包括常數(shù)項(xiàng)），這就是最小樣本容量：

多元線性回歸模型及參數(shù)估計(jì)共32頁(yè)，您現(xiàn)在瀏覽的是第29頁(yè)!五、多元