




版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1 1頁(yè)頁(yè) 上一章討論的一元線性回歸模型主要討論一個(gè)被解釋變量和一上一章討論的一元線性回歸模型主要討論一個(gè)被解釋變量和一個(gè)解釋變量之間的線性關(guān)系,但是,由于實(shí)際經(jīng)濟(jì)問(wèn)題的復(fù)雜性,個(gè)解釋變量之間的線性關(guān)系,但是,由于實(shí)際經(jīng)濟(jì)問(wèn)題的復(fù)雜性,一個(gè)經(jīng)濟(jì)變量可能會(huì)同多個(gè)變量相聯(lián)系。一個(gè)經(jīng)濟(jì)變量可能會(huì)同多個(gè)變量相聯(lián)系。 例如,消費(fèi)者對(duì)某種商品的需求量不僅受該種商品價(jià)格的影例如,消費(fèi)者對(duì)某種商品的需求量不僅受該種商品價(jià)格的影響,而且還可能受消費(fèi)者的收入水平、
2、其他代用商品的價(jià)格等因響,而且還可能受消費(fèi)者的收入水平、其他代用商品的價(jià)格等因素的影響;素的影響; 又如,影響一個(gè)國(guó)家貨幣需求量的不僅有經(jīng)濟(jì)總量又如,影響一個(gè)國(guó)家貨幣需求量的不僅有經(jīng)濟(jì)總量GDP,而,而且還有利率、物價(jià)水平、外匯儲(chǔ)備等多種因素。且還有利率、物價(jià)水平、外匯儲(chǔ)備等多種因素。 因此,本章將把上一章討論的結(jié)論推廣到包含多個(gè)解釋變量因此,本章將把上一章討論的結(jié)論推廣到包含多個(gè)解釋變量的多元線性回歸模型。的多元線性回歸模型。第三章第三章 多元線性回歸模型多元線性回歸模型 機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)
3、經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2 2頁(yè)頁(yè)第一節(jié)第一節(jié) 多元線性回歸模型及其參數(shù)估計(jì)多元線性回歸模型及其參數(shù)估計(jì)第四節(jié)第四節(jié) 多元線性回歸模型評(píng)價(jià)多元線性回歸模型評(píng)價(jià)*第二節(jié)第二節(jié) OLSE的統(tǒng)計(jì)性質(zhì)及其假定的統(tǒng)計(jì)性質(zhì)及其假定第五節(jié)第五節(jié) 模型應(yīng)用:預(yù)測(cè)與分析模型應(yīng)用:預(yù)測(cè)與分析本章內(nèi)容有:本章內(nèi)容有:第三節(jié)第三節(jié) 多元回歸模型參數(shù)的統(tǒng)計(jì)推斷多元回歸模型參數(shù)的統(tǒng)計(jì)推斷機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3 3頁(yè)頁(yè)5、能夠借助回歸模型對(duì)現(xiàn)象進(jìn)行預(yù)測(cè)和分析。、能夠借助回歸模型對(duì)現(xiàn)象進(jìn)
4、行預(yù)測(cè)和分析。學(xué)習(xí)本章后學(xué)習(xí)本章后, 您應(yīng)該做到:您應(yīng)該做到:1、了解多元線性總體回歸模型的一般形式,熟練掌握多、了解多元線性總體回歸模型的一般形式,熟練掌握多元線性回歸模型的元線性回歸模型的OLS估計(jì);估計(jì);2、理解多元線性回歸模型、理解多元線性回歸模型OLSE的統(tǒng)計(jì)性質(zhì)及其假定;的統(tǒng)計(jì)性質(zhì)及其假定;3、掌握多元線性回歸模型參數(shù)的區(qū)間估計(jì)與假設(shè)檢驗(yàn);、掌握多元線性回歸模型參數(shù)的區(qū)間估計(jì)與假設(shè)檢驗(yàn);4、了解多元線性回歸模型的評(píng)價(jià)標(biāo)準(zhǔn);、了解多元線性回歸模型的評(píng)價(jià)標(biāo)準(zhǔn);重點(diǎn)與難點(diǎn):重點(diǎn)與難點(diǎn): 掌握多元線性總體回歸模型的矩陣形式;理解多元線性掌握多元線性總體回歸模型的矩陣形式;理解多元線性回歸模
5、與一元線性回歸模型經(jīng)典假定的異同;掌握多元線回歸模與一元線性回歸模型經(jīng)典假定的異同;掌握多元線性回歸模型參數(shù)的區(qū)間估計(jì)與假設(shè)檢驗(yàn)。性回歸模型參數(shù)的區(qū)間估計(jì)與假設(shè)檢驗(yàn)。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第4 4頁(yè)頁(yè)第一節(jié)第一節(jié) 多元線性回歸模型及其參數(shù)估計(jì)多元線性回歸模型及其參數(shù)估計(jì)一、多元線性回歸模型的一般形式一、多元線性回歸模型的一般形式 如果被解釋變量如果被解釋變量y與與k個(gè)解釋變量個(gè)解釋變量 之間有之間有線性相關(guān)關(guān)系,那么它們之間的多元線性總體回歸模型可以線性相關(guān)關(guān)系,那么
6、它們之間的多元線性總體回歸模型可以表示為表示為kxxx,2101 122kkyxxxu(3.1) 由于多個(gè)解釋變量會(huì)同時(shí)對(duì)被解釋變量由于多個(gè)解釋變量會(huì)同時(shí)對(duì)被解釋變量y的變動(dòng)發(fā)揮作用,的變動(dòng)發(fā)揮作用,因此,如果要考察其中某個(gè)解釋變量對(duì)因此,如果要考察其中某個(gè)解釋變量對(duì)y的影響,就必須使其的影響,就必須使其它解釋變量保持不變。在多元線性回歸模型(它解釋變量保持不變。在多元線性回歸模型(3.1)中,)中, 機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第5 5頁(yè)頁(yè) 回歸系數(shù)回歸系數(shù) 表示:表示:
7、 在其它解釋變量不變的條件下,第在其它解釋變量不變的條件下,第j個(gè)解釋變量的單位變動(dòng)個(gè)解釋變量的單位變動(dòng)對(duì)被解釋變量平均值的影響,故多元線性回歸模型的回歸系數(shù)對(duì)被解釋變量平均值的影響,故多元線性回歸模型的回歸系數(shù)又被稱為偏回歸系數(shù)。又被稱為偏回歸系數(shù)。u是隨機(jī)誤差項(xiàng)。是隨機(jī)誤差項(xiàng)。(0,1,2, )jjk 如果我們將如果我們將n組實(shí)際觀測(cè)數(shù)據(jù)組實(shí)際觀測(cè)數(shù)據(jù) 代入(代入(3.1)式中)式中,可得到下列形式可得到下列形式12(,)(1,2,)iiikiy xxxin01 122iiikkiiyxxxu1,2,in(3.2)101 1122111201 122222201 122kkkknnnkkn
8、nyxxxuyxxxuyxxxu即即機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第6 6頁(yè)頁(yè)寫成矩陣形式為寫成矩陣形式為12nyyy112111222212111kknnknxxxxxxxxx01k12nuuuY = X+ u即即(3.3)其中其中12nyyYy112111222212111kknnknxxxxxxXxxx01k12nuuuuu一般稱一般稱Y,X為因變量和自變量觀測(cè)矩陣;為因變量和自變量觀測(cè)矩陣; 為系數(shù)向量為系數(shù)向量, 為隨機(jī)誤差向量。為隨機(jī)誤差向量。機(jī)動(dòng) 目錄 上頁(yè) 下
9、頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第7 7頁(yè)頁(yè)(3.5)ikikiiiexxxy22110(3.5)式稱為樣本回歸模型,它由兩部分組成:式稱為樣本回歸模型,它由兩部分組成:kikiixxx22110稱為稱為系統(tǒng)分量系統(tǒng)分量,是可以被是可以被自變量解自變量解釋的部分釋的部分; ei是不能被自變量解釋的部分稱為是不能被自變量解釋的部分稱為殘差殘差(residuals),可看成是隨機(jī)項(xiàng),可看成是隨機(jī)項(xiàng)ui的代表值的代表值。 利用樣本點(diǎn)對(duì)樣本回歸方程(利用樣本點(diǎn)對(duì)樣本回歸方程(3.5)系統(tǒng)分量部分的)系統(tǒng)分
10、量部分的系數(shù)進(jìn)行估計(jì),便可得到樣本回歸函數(shù)(系數(shù)進(jìn)行估計(jì),便可得到樣本回歸函數(shù)(SRF)或樣本)或樣本12(,.,; )iikixxxy 在總體線性回歸函數(shù)中,各個(gè)回歸系數(shù)是未知的,在總體線性回歸函數(shù)中,各個(gè)回歸系數(shù)是未知的,只能利用樣本觀測(cè)值對(duì)其進(jìn)行估計(jì)。對(duì)于任意抽取的只能利用樣本觀測(cè)值對(duì)其進(jìn)行估計(jì)。對(duì)于任意抽取的觀測(cè)(樣本)點(diǎn)觀測(cè)(樣本)點(diǎn) 有:有: 機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第8 8頁(yè)頁(yè)其中,其中, iy是是y的系統(tǒng)分量,即由的系統(tǒng)分量,即由12,.,iikixxx
11、決定的理論值決定的理論值12(|,.,)iiikiE yxxx是對(duì)是對(duì)y的條件均值的條件均值的估計(jì),的估計(jì),012,k 012,k 分別是回歸系數(shù)分別是回歸系數(shù)的樣本估計(jì)量。的樣本估計(jì)量。對(duì)于給定的樣本,樣本回歸方程的矩陣形式為對(duì)于給定的樣本,樣本回歸方程的矩陣形式為XY (3.7)其中其中 12nyyyY =112111222212111kknnknxxxxxxXxxx01k01 122iiikkiyxxx(3.6)回歸方程:回歸方程:機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第9 9
12、頁(yè)頁(yè)二、回歸模型參數(shù)的二、回歸模型參數(shù)的OLS估計(jì)估計(jì) 多元線性回歸方程的未知參數(shù)的估計(jì)與一元線性回歸方程的多元線性回歸方程的未知參數(shù)的估計(jì)與一元線性回歸方程的參數(shù)估計(jì)原理一樣,仍然可以采用普通最小平方法(參數(shù)估計(jì)原理一樣,仍然可以采用普通最小平方法(OLS)進(jìn))進(jìn)行參數(shù)估計(jì),估計(jì)準(zhǔn)則是令殘差平方和行參數(shù)估計(jì),估計(jì)準(zhǔn)則是令殘差平方和Q達(dá)到最小。其中達(dá)到最小。其中2211()nniiiiiQeyy201 1221()niiikkiiyxxx根據(jù)微分極值原理知,根據(jù)微分極值原理知, 012,k 應(yīng)滿足下列方程組應(yīng)滿足下列方程組 0112201122101122012()02()02()0iiikk
13、iiiikkiiiiikkik ikQQQyxxxyxxxxyxxxx 機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1010頁(yè)頁(yè)整理后得到正規(guī)方程組:整理后得到正規(guī)方程組:011222101112121201122iiikkiiiiiiikikikiikiikiikikkiynxxxx yxxx xx xx yxx xx xx(3.8)解方程組(解方程組(3.8),得到回歸系數(shù)),得到回歸系數(shù) 012,k的最小的最小012,.k 二乘估計(jì)量(二乘估計(jì)量(OLSE)為了敘述簡(jiǎn)單,可以用矩陣
14、運(yùn)算推導(dǎo)參數(shù)的最小二乘估計(jì)量。為了敘述簡(jiǎn)單,可以用矩陣運(yùn)算推導(dǎo)參數(shù)的最小二乘估計(jì)量。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1111頁(yè)頁(yè)正規(guī)方程組正規(guī)方程組(3.8)(3.8)的的矩陣形式矩陣形式1112112111nkkknxxxxxx12nyyy01k=11111121122121111111knkkkknnknxxxxxxxxxxxx即即:X YX X由于由于Rank(X)=k+1,故有故有 : X X 可逆可逆1()X XX Y于是于是機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20
15、212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1212頁(yè)頁(yè)上述問(wèn)題也可以用以下矩陣方法來(lái)推導(dǎo):上述問(wèn)題也可以用以下矩陣方法來(lái)推導(dǎo):() ()MinQYXYXYYX YYXX X 因?yàn)橐驗(yàn)?都是標(biāo)量,所以二者相等,故:都是標(biāo)量,所以二者相等,故:,X Y Y X022XXYXQTT化簡(jiǎn)得:化簡(jiǎn)得: X YX X1()X XX Y(3.10) 2MinQY YX YX X(3.9)由于由于Rank(X)=k+1,故故 滿秩,故有滿秩,故有 機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)
16、計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1313頁(yè)頁(yè) 例例31在研究某行業(yè)員工的教育回報(bào)問(wèn)題時(shí),經(jīng)在研究某行業(yè)員工的教育回報(bào)問(wèn)題時(shí),經(jīng)分析確定了以下變量:工資水平(分析確定了以下變量:工資水平(y,萬(wàn)元,萬(wàn)元/年)、受教年)、受教育年限(育年限(x1,年)、在勞動(dòng)力市場(chǎng)上的工作經(jīng)歷(,年)、在勞動(dòng)力市場(chǎng)上的工作經(jīng)歷(x2,年)及任現(xiàn)職年限(年)及任現(xiàn)職年限(x3,年)?,F(xiàn)隨機(jī)抽取了該行業(yè),年)?,F(xiàn)隨機(jī)抽取了該行業(yè)24位員工,觀察數(shù)據(jù)如表位員工,觀察數(shù)據(jù)如表3-1所示。試建立員工工資水所示。試建立員工工資水平關(guān)于受教育年限、工作經(jīng)歷和任現(xiàn)職年限的多元回平關(guān)于受教育年限、工作經(jīng)歷
17、和任現(xiàn)職年限的多元回歸方程。歸方程。表表3-1 某行業(yè)員工工資水平及影響因素樣本數(shù)據(jù)某行業(yè)員工工資水平及影響因素樣本數(shù)據(jù)機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1414頁(yè)頁(yè)序號(hào)序號(hào)yx1x2x3序號(hào)序號(hào)yx1x2x313.101520138.771615023.2416222145.501618333.0015201522.216311546.001236281617.332014055.301672177.501610068.7520981810.63171610711.25221
18、57193.601613085.001653204.501612693.601664216.8816114101848162913116.252082236.332099128.131730246.0015378機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1515頁(yè)頁(yè)將上述資料代入將上述資料代入OLS正規(guī)方程:正規(guī)方程:0112233011223310112233201122333()0()0()0()0iiiiiiiiiiiiiiiiiiiyxxxyxxxxy
19、xxxxyxxxx012315.5081.1790.1870.117 得到得到機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1616頁(yè)頁(yè)所以樣本回歸方程為:所以樣本回歸方程為:12315.508 1.1790.1870.117yxxx 該例也可以利用式(該例也可以利用式(3.10)計(jì)算,結(jié)果完全一樣,)計(jì)算,結(jié)果完全一樣,請(qǐng)同學(xué)們自己驗(yàn)證。請(qǐng)同學(xué)們自己驗(yàn)證。 由于多元回歸的計(jì)算量一般都很大,實(shí)際計(jì)算可利由于多元回歸的計(jì)算量一般都很大,實(shí)際計(jì)算可利用用EViews軟件進(jìn)行。方法是建立數(shù)據(jù)文件
20、后,在主菜軟件進(jìn)行。方法是建立數(shù)據(jù)文件后,在主菜單選單選Quick Estimate Equations,進(jìn)入輸入估計(jì)方程對(duì)話,進(jìn)入輸入估計(jì)方程對(duì)話框框, 輸入待估計(jì)方程,選擇估計(jì)方法輸入待估計(jì)方程,選擇估計(jì)方法LS(最小二乘法(最小二乘法),或在直接命令窗口鍵入),或在直接命令窗口鍵入“l(fā)s y c x1 x2 x3”,點(diǎn)擊,點(diǎn)擊OK進(jìn)行估計(jì)。本例的進(jìn)行估計(jì)。本例的EViews輸出結(jié)果如下:輸出結(jié)果如下:機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1717頁(yè)頁(yè)Dependent Var
21、iable: YVariableCoefficientStd. Errort-StatisticProb. C-15.508066.637424-2.3364570.0300X11.1793880.3641483.2387580.0041X20.1873640.1168241.6038180.1244X30.1167560.1603820.7279850.4751R-squared0.462817 Mean dependent var7.896667Adjusted R-squared0.382239 S.D. dependent var4.984674S.E. of regression3.
22、917842 Akaike info criterion5.719971Sum squared resid306.9898 Schwarz criterion5.916313Log likelihood-64.63965 Hannan-Quinn criter.5.772061F-statistic5.743747 Durbin-Watson stat1.445114Prob(F-statistic)0.005291表表3-2 EViews輸出結(jié)果輸出結(jié)果機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)
23、濟(jì)教研室第第1818頁(yè)頁(yè)樣本原始數(shù)據(jù)的標(biāo)準(zhǔn)化處理公式為樣本原始數(shù)據(jù)的標(biāo)準(zhǔn)化處理公式為:三、標(biāo)準(zhǔn)化回歸系數(shù)三、標(biāo)準(zhǔn)化回歸系數(shù) 在多元線性回歸中,如果自變量的在多元線性回歸中,如果自變量的量綱量綱不同,不同不同,不同回歸系數(shù)的大小比較沒(méi)有意義。為了比較不同自變量對(duì)回歸系數(shù)的大小比較沒(méi)有意義。為了比較不同自變量對(duì)因變量的影響強(qiáng)弱,就需要對(duì)樣本原始數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化因變量的影響強(qiáng)弱,就需要對(duì)樣本原始數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理,然后用最小二乘法去估計(jì)未知參數(shù),這樣得到的處理,然后用最小二乘法去估計(jì)未知參數(shù),這樣得到的回歸系數(shù)叫做回歸系數(shù)叫做標(biāo)準(zhǔn)化回歸系數(shù)標(biāo)準(zhǔn)化回歸系數(shù)(Standardized Coefficien
24、ts )或者或者 系數(shù)(系數(shù)(Beta Coefficients)。)。 2() /jjijjijjixjijxxxxxSxxn1,2, ,1,2,injk機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第1919頁(yè)頁(yè)2() /iiiyiyyyyySyyn1,2,in 、 分別為分別為 的樣本標(biāo)準(zhǔn)差。的樣本標(biāo)準(zhǔn)差。 jxSyS,jxy對(duì)標(biāo)準(zhǔn)化的樣本數(shù)據(jù)對(duì)標(biāo)準(zhǔn)化的樣本數(shù)據(jù) 12(,;)1,2,iikiixxxyik用最小二乘法可以得到下列經(jīng)驗(yàn)回歸方程:用最小二乘法可以得到下列經(jīng)驗(yàn)回歸方程:112
25、2iiikkiyxxx12, ,kx xxy12,kxxx*y12,k 其中,其中, 為因變量為因變量 對(duì)自變量對(duì)自變量 的回歸系數(shù),即為因變量的回歸系數(shù),即為因變量 對(duì)自變量對(duì)自變量 的標(biāo)的標(biāo)準(zhǔn)化回歸系數(shù)。準(zhǔn)化回歸系數(shù)。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2020頁(yè)頁(yè)可以證明,標(biāo)準(zhǔn)化回歸系數(shù)與普通最小二乘回歸系數(shù)之間的可以證明,標(biāo)準(zhǔn)化回歸系數(shù)與普通最小二乘回歸系數(shù)之間的關(guān)系為:關(guān)系為:22()()jxjijjjjyiSxxSyy普通最小二乘回歸系數(shù)普通最小二乘回歸系數(shù) 表示在其
26、他變量不變表示在其他變量不變的情況下,自變量的情況下,自變量 每變化一個(gè)絕對(duì)單位引起每變化一個(gè)絕對(duì)單位引起的因變量的平均變化量;的因變量的平均變化量;), 2 , 1( ,kjj), 2 , 1( ,kjxj標(biāo)準(zhǔn)化回歸系數(shù)標(biāo)準(zhǔn)化回歸系數(shù) 表示在其他變量不變的情況表示在其他變量不變的情況下,自變量下,自變量 每變化每變化1%1%(相對(duì)于其標(biāo)準(zhǔn)差)(相對(duì)于其標(biāo)準(zhǔn)差)引起的因變量的平均變化的百分?jǐn)?shù)(相對(duì)于其標(biāo)準(zhǔn)差)。引起的因變量的平均變化的百分?jǐn)?shù)(相對(duì)于其標(biāo)準(zhǔn)差)。), 2 , 1( ,kjj), 2 , 1( ,kjxj(1,2, )jjk(1,2, )jjk(1, )jxjk 盡管標(biāo)準(zhǔn)化回歸系數(shù)
27、盡管標(biāo)準(zhǔn)化回歸系數(shù)消除了量綱的影響,較之消除了量綱的影響,較之在比較自變量在比較自變量普通最小二乘回歸系數(shù)普通最小二乘回歸系數(shù)機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2121頁(yè)頁(yè)對(duì)因變量對(duì)因變量y的影響大小時(shí)更具可比性;但與原模型的回歸的影響大小時(shí)更具可比性;但與原模型的回歸系數(shù)相比,其經(jīng)濟(jì)含義已經(jīng)改變,在使用過(guò)程中,需要系數(shù)相比,其經(jīng)濟(jì)含義已經(jīng)改變,在使用過(guò)程中,需要特別注意。特別注意。 四、多元線性回歸的擬合優(yōu)度四、多元線性回歸的擬合優(yōu)度R2 與一元回歸一樣,多元回歸總離差平方和
28、與一元回歸一樣,多元回歸總離差平方和 ,可,可以分解為可解釋(回歸)平方和以分解為可解釋(回歸)平方和 與殘差平方和與殘差平方和 。即。即TSSESSRSSTSSESSRSS(3.11)具體計(jì)算公式為:具體計(jì)算公式為:2222()iiTSSyyynyYYny機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2222頁(yè)頁(yè)22011222()iiiiiikkiiESSyyyx yx yx yny ny X Y2201122()iiiiiiiikkiiRSSyyyyx yx yx y YY - X
29、Y 與一元回歸類似,我們把回歸解釋平方和與一元回歸類似,我們把回歸解釋平方和 在總離差平在總離差平方和方和 中所占的比重定義為多重(復(fù))樣本決定系數(shù),中所占的比重定義為多重(復(fù))樣本決定系數(shù),或多重(復(fù))可決系數(shù)),記為或多重(復(fù))可決系數(shù)),記為 :TSS2RESS21ESSRSSRTSSTSS (3.12)機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2323頁(yè)頁(yè)很顯然,很顯然, 越大說(shuō)明回歸方程與樣本值擬合得越好,越大說(shuō)明回歸方程與樣本值擬合得越好,2201;RR反之越差。反之越差。
30、 例例3.2 以例以例3.1資料為例,計(jì)算樣本決定系數(shù)。資料為例,計(jì)算樣本決定系數(shù)。222()264.49080.4628571.4805()iiyyESSRTSSyy 在在EViews中,中, 用用R-squared表示(見(jiàn)表表示(見(jiàn)表3.2)。)。2R 在實(shí)際的經(jīng)濟(jì)分析中,往往希望所建立模型的擬合優(yōu)度在實(shí)際的經(jīng)濟(jì)分析中,往往希望所建立模型的擬合優(yōu)度越高越好。越高越好。但是,由但是,由ESS與與RSS的計(jì)算公式可知,在回歸模的計(jì)算公式可知,在回歸模型中多增加一個(gè)自變量,型中多增加一個(gè)自變量,ESS一般會(huì)變大,一般會(huì)變大,RSS一般會(huì)變小一般會(huì)變小,導(dǎo)致,導(dǎo)致R2通常會(huì)增加,使得通常會(huì)增加,使
31、得R2不適宜作為判斷一個(gè)解釋變不適宜作為判斷一個(gè)解釋變量是否引入模型的工具。量是否引入模型的工具。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2424頁(yè)頁(yè) 擬合優(yōu)度無(wú)法反映模型中每個(gè)解釋變量對(duì)被解擬合優(yōu)度無(wú)法反映模型中每個(gè)解釋變量對(duì)被解釋變量的影響。在回歸分析中,不僅要模型的擬合釋變量的影響。在回歸分析中,不僅要模型的擬合程度高,而且還要得到總體回歸系數(shù)的可靠估計(jì)量。程度高,而且還要得到總體回歸系數(shù)的可靠估計(jì)量。因此,在選擇模型時(shí),不能單純地憑樣本決定系數(shù)因此,在選擇模型時(shí),不能單純地憑
32、樣本決定系數(shù)高低斷定模型的優(yōu)劣,有時(shí)為了通盤考慮模型回歸高低斷定模型的優(yōu)劣,有時(shí)為了通盤考慮模型回歸系數(shù)的顯著性及其經(jīng)濟(jì)意義,可以適當(dāng)降低對(duì)擬合系數(shù)的顯著性及其經(jīng)濟(jì)意義,可以適當(dāng)降低對(duì)擬合優(yōu)度指標(biāo)的要求。優(yōu)度指標(biāo)的要求。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2525頁(yè)頁(yè)第二節(jié)第二節(jié) OLSE的統(tǒng)計(jì)性質(zhì)及其假定的統(tǒng)計(jì)性質(zhì)及其假定 本節(jié)主要研究最小二乘估計(jì)量本節(jié)主要研究最小二乘估計(jì)量 的有限樣本性質(zhì)與漸的有限樣本性質(zhì)與漸進(jìn)性質(zhì),及其相關(guān)聯(lián)的經(jīng)典假定。這些內(nèi)容可以理解為進(jìn)性質(zhì),及其相關(guān)聯(lián)
33、的經(jīng)典假定。這些內(nèi)容可以理解為是一元線性回歸模型統(tǒng)計(jì)性質(zhì)在多元線性回歸模型的推是一元線性回歸模型統(tǒng)計(jì)性質(zhì)在多元線性回歸模型的推廣。廣。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2626頁(yè)頁(yè)一、一、OLSE的有限樣本性質(zhì)及其假定的有限樣本性質(zhì)及其假定(一)(一)OLSE的無(wú)偏性及其假定的無(wú)偏性及其假定 首先給出多元線性回歸模型中首先給出多元線性回歸模型中OLSE的無(wú)偏性涉及的無(wú)偏性涉及的相關(guān)假定。的相關(guān)假定。假定假定MLR.1:線性回歸模型假定:線性回歸模型假定總體回歸模型可表述為總體回
34、歸模型可表述為01 122kkyxxxu012,k 其中,其中, 是我們所關(guān)心的未知參數(shù),而是我們所關(guān)心的未知參數(shù),而u是是無(wú)法觀測(cè)的隨機(jī)誤差項(xiàng)。回歸模型對(duì)參數(shù)而言是線性無(wú)法觀測(cè)的隨機(jī)誤差項(xiàng)。回歸模型對(duì)參數(shù)而言是線性的,但它對(duì)變量而言不一定是線性的,因變量的,但它對(duì)變量而言不一定是線性的,因變量y和自變和自變量量 可以是我們所關(guān)心的變量的任意函數(shù)??梢允俏覀兯P(guān)心的變量的任意函數(shù)。12,kx xx機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2727頁(yè)頁(yè)該假定定義了多元線性回歸模型的形式。
35、該假定定義了多元線性回歸模型的形式。假定假定MLR.2: 隨機(jī)抽樣假定(獨(dú)立同分布假定)隨機(jī)抽樣假定(獨(dú)立同分布假定)12(,):1,2,iikiixxxyin 有一個(gè)包含有一個(gè)包含n次觀測(cè)的樣本次觀測(cè)的樣本, 它隨機(jī)取自滿足假定它隨機(jī)取自滿足假定MLR.1中的總體模型。隨機(jī)性假定中的總體模型。隨機(jī)性假定意味著各樣本點(diǎn)獨(dú)立同分布的。與一元線性回歸模型類意味著各樣本點(diǎn)獨(dú)立同分布的。與一元線性回歸模型類似,也可以使用固定回歸元或隨機(jī)回歸元假定。可以用似,也可以使用固定回歸元或隨機(jī)回歸元假定??梢杂秒S機(jī)樣本的形式將回歸模型寫成隨機(jī)樣本的形式將回歸模型寫成 01 122iiikkiiyxxxu是第次觀
36、測(cè)的誤差或干擾項(xiàng)。是第次觀測(cè)的誤差或干擾項(xiàng)。 iu機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2828頁(yè)頁(yè)假定假定MLR.3: 解釋變量之間無(wú)完全共線性假定解釋變量之間無(wú)完全共線性假定 在假定在假定MLR.1的回歸模型中,沒(méi)有一個(gè)自變量是的回歸模型中,沒(méi)有一個(gè)自變量是常數(shù),任意兩個(gè)或幾個(gè)自變量間不存在嚴(yán)格的線性關(guān)常數(shù),任意兩個(gè)或幾個(gè)自變量間不存在嚴(yán)格的線性關(guān)系,也就是說(shuō)解釋變量的樣本矩陣系,也就是說(shuō)解釋變量的樣本矩陣X是滿列秩,即是滿列秩,即 ()1rankkn X 如果一個(gè)自變量剛好是
37、其他自變量的一個(gè)線性組如果一個(gè)自變量剛好是其他自變量的一個(gè)線性組合,也即模型遇到完全共線性(合,也即模型遇到完全共線性(Perfect Collinearity)問(wèn)題,該模型的參數(shù)也就無(wú)法估計(jì)了。值得注意的問(wèn)題,該模型的參數(shù)也就無(wú)法估計(jì)了。值得注意的是,假定是,假定MLR.3允許自變量之間存在一定的相關(guān)關(guān)允許自變量之間存在一定的相關(guān)關(guān)系,但不能完全相關(guān)。系,但不能完全相關(guān)。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第2929頁(yè)頁(yè) 假定假定MLR.4:隨機(jī)項(xiàng)零條件均值假定(解釋變量:隨機(jī)項(xiàng)
38、零條件均值假定(解釋變量外生性假定)外生性假定)iu12,iikixxx即在給定解釋變量即在給定解釋變量的條件下,隨機(jī)擾動(dòng)項(xiàng)的條件下,隨機(jī)擾動(dòng)項(xiàng)的條件均值為零。即的條件均值為零。即12|,0iiikiiE uxxxE u X(3.13)此時(shí)對(duì)于多元回歸模型就有此時(shí)對(duì)于多元回歸模型就有 1201 122(|,.,)iiikiiikkiE yxxxxxx 該假定意味著:經(jīng)驗(yàn)分析所用的模型中不存在設(shè)定偏該假定意味著:經(jīng)驗(yàn)分析所用的模型中不存在設(shè)定偏誤(誤(Specification Bias)或設(shè)定誤差()或設(shè)定誤差(Specification Error),也就是說(shuō),回歸模型設(shè)定是正確的;解釋變)
39、,也就是說(shuō),回歸模型設(shè)定是正確的;解釋變量具有外生性。量具有外生性。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3030頁(yè)頁(yè)j 因?yàn)橐宰宰兞康臉颖局禐闂l件,因?yàn)橐宰宰兞康臉颖局禐闂l件, 是一個(gè)常數(shù)矩陣,是一個(gè)常數(shù)矩陣,由(由(3.10)式知)式知 是是Y的線性組合,為線性估計(jì)量。由(的線性組合,為線性估計(jì)量。由(3.3)式和()式和(3.10)式知)式知1()X XX 當(dāng)回歸模型滿足假定當(dāng)回歸模型滿足假定MLR.1假定假定MLR.4時(shí)時(shí),回歸參數(shù)的回歸參數(shù)的OLS估計(jì)量估計(jì)量 是線性的和
40、無(wú)偏的。證明如下是線性的和無(wú)偏的。證明如下:-1-1()()u = X XX Y =+ X XX 說(shuō)明最小二乘估計(jì)量說(shuō)明最小二乘估計(jì)量 不僅是不僅是的線性組合,也是隨機(jī)項(xiàng)的線性組合,也是隨機(jī)項(xiàng)u的的線性組合。線性組合。對(duì)對(duì)(3.10)式兩邊取期望值,利用假定式兩邊取期望值,利用假定 1,E(u |X) = 0, 可得可得 -1-1()()()Xu E(X)= E X XX Y X = EX XX-1()()E u X+ X XX機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3131頁(yè)頁(yè)也就
41、是說(shuō),也就是說(shuō),OLSE在假定在假定MLR.1假定假定MLR.4下,是總體參數(shù)下,是總體參數(shù)的線性無(wú)偏估計(jì)量。的線性無(wú)偏估計(jì)量。(二)(二)OLSE的有效性及其假定的有效性及其假定假定假定MLR.5:條件同方差性假定:條件同方差性假定12,iikixxx對(duì)于任意的解釋變量觀測(cè)值對(duì)于任意的解釋變量觀測(cè)值,隨機(jī)擾動(dòng)項(xiàng),隨機(jī)擾動(dòng)項(xiàng)iu的條件方差相同。用公式表示為:的條件方差相同。用公式表示為: 21 ,2var(|,)var()iiikiiuux xxu X(1,2, )in 這表明,對(duì)于每個(gè)解釋變量的組合,這表明,對(duì)于每個(gè)解釋變量的組合,ui的方差都等于某的方差都等于某個(gè)固定的正的常數(shù)。如果該假定
42、不成立,就說(shuō)模型具有異方差個(gè)固定的正的常數(shù)。如果該假定不成立,就說(shuō)模型具有異方差性性(Heteroscedasticity),表示,表示ui的方差隨解釋變量的變化而變化。的方差隨解釋變量的變化而變化。(1, )jjk 在假定在假定MLR.1假定假定MLR.5下,可以得到下,可以得到OLS估計(jì)量估計(jì)量機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3232頁(yè)頁(yè)的抽樣方差:的抽樣方差:212222var()()() (1)ujjjujujijjCxxRX X(3.14)21.(1)jjjCSST
43、R其中其中,2()ijjxx,jSST常被簡(jiǎn)記為常被簡(jiǎn)記為2jRjx是將是將對(duì)其余自變量對(duì)其余自變量進(jìn)行回歸所得到的判別系數(shù)進(jìn)行回歸所得到的判別系數(shù)R2 。var()jj是而且可以證明而且可以證明,的所有線性無(wú)偏估計(jì)量中最小的的所有線性無(wú)偏估計(jì)量中最小的估計(jì)量,即具有最優(yōu)性(證明見(jiàn)本章附錄)。估計(jì)量,即具有最優(yōu)性(證明見(jiàn)本章附錄)。 在多元線性回歸模型中,假定在多元線性回歸模型中,假定MLR.1假定假定MLR.5稱為高稱為高斯斯-馬爾科夫假定。馬爾科夫假定。 在高斯在高斯-馬爾科夫假定下,馬爾科夫假定下, jj的的OLS估計(jì)量估計(jì)量具有線性、無(wú)具有線性、無(wú)機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 2
44、0212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3333頁(yè)頁(yè)偏性、有效性的有限樣本性質(zhì),即偏性、有效性的有限樣本性質(zhì),即OLSE是最優(yōu)線性無(wú)偏估是最優(yōu)線性無(wú)偏估計(jì)量(計(jì)量(BLUE)。這就是著名的)。這就是著名的“高斯馬爾科夫定理高斯馬爾科夫定理”。j式式(3.14)給出了回歸參數(shù)最小二乘估計(jì)量給出了回歸參數(shù)最小二乘估計(jì)量 的方差表達(dá)式,然的方差表達(dá)式,然是未知數(shù),還需予以估計(jì)。是未知數(shù),還需予以估計(jì)。2u而其中總體隨機(jī)項(xiàng)的方差而其中總體隨機(jī)項(xiàng)的方差可以證明可以證明 222()11iiiueyynknk是是 的無(wú)偏估計(jì)量。其中的
45、無(wú)偏估計(jì)量。其中k為自變量個(gè)數(shù)。它的算術(shù)方為自變量個(gè)數(shù)。它的算術(shù)方根根 稱為估計(jì)標(biāo)準(zhǔn)誤差稱為估計(jì)標(biāo)準(zhǔn)誤差(S.E. of regression) 。 2uu22()11iiiueyynknk(3.15) 機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3434頁(yè)頁(yè)()jsej由由(3.14)、(、(3.15)知)知,系數(shù)系數(shù) 的估計(jì)標(biāo)準(zhǔn)誤差的估計(jì)標(biāo)準(zhǔn)誤差為為222()(1)ujjujjsecSSTR(3.16) 在在EViews的輸出結(jié)果中,各回歸系數(shù)的估計(jì)標(biāo)準(zhǔn)誤差的輸出結(jié)果中,各回歸系數(shù)的
46、估計(jì)標(biāo)準(zhǔn)誤差()jse寫為寫為Std.Error (三)(三)OLSE的正態(tài)性假定的正態(tài)性假定為了進(jìn)一步進(jìn)行統(tǒng)計(jì)推斷,多元線性回歸模型同樣需要正態(tài)性假定。為了進(jìn)一步進(jìn)行統(tǒng)計(jì)推斷,多元線性回歸模型同樣需要正態(tài)性假定。假定假定MLR.6:隨機(jī)誤差項(xiàng)的正態(tài)性假定:隨機(jī)誤差項(xiàng)的正態(tài)性假定總體誤差項(xiàng)總體誤差項(xiàng) 獨(dú)立于解釋變量獨(dú)立于解釋變量 iu12,kx xx而且獨(dú)立同分布而且獨(dú)立同分布機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3535頁(yè)頁(yè)于均值為零方差為于均值為零方差為2u的正態(tài)分布:的正態(tài)分
47、布: 2. . .(0,)iuuii d N 假定假定MLR.6是一個(gè)比前面任何一個(gè)假定都更強(qiáng)的假定。實(shí)是一個(gè)比前面任何一個(gè)假定都更強(qiáng)的假定。實(shí)際上,由于在假定際上,由于在假定MLR.6下下 獨(dú)立于解釋變量獨(dú)立于解釋變量 iu12, , ,kx xx所以所以 1 ,2(|,)()0iiikiiE ux xxE u21 ,2var(|,)var( )iiikiiuux xxu因此,如果做出假定因此,如果做出假定MLR.6,就必然假定了,就必然假定了MLR.4 和和MLR.5。 就橫截面回歸中的應(yīng)用而言,從假定就橫截面回歸中的應(yīng)用而言,從假定MLR.1假定假定MLR.6這六個(gè)假定被稱為經(jīng)典多元線性
48、模型(這六個(gè)假定被稱為經(jīng)典多元線性模型(CLM)假定(古典假)假定(古典假定)。定)??偨Y(jié)古典假定的一種簡(jiǎn)潔方法是總結(jié)古典假定的一種簡(jiǎn)潔方法是201 122. . . (,)kkuy xii d Nxxx(3.17)其中,其中, x是是 12( ,)kx xx的簡(jiǎn)記,也就是說(shuō),以的簡(jiǎn)記,也就是說(shuō),以x為條件的為條件的 ,iy獨(dú)立地同分布于正態(tài)分布,分布的均值是獨(dú)立地同分布于正態(tài)分布,分布的均值是 12,kx xx的線性函的線性函數(shù),分布方差為一常數(shù)。數(shù),分布方差為一常數(shù)。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大
49、學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3636頁(yè)頁(yè)二、二、OLSE的漸進(jìn)性質(zhì)的漸進(jìn)性質(zhì) 前面我們討論了前面我們討論了OLSE的有限樣本性質(zhì)。比如,的有限樣本性質(zhì)。比如,OLSE在前在前四個(gè)高斯四個(gè)高斯-馬爾科夫假定下具有無(wú)偏性,馬爾科夫假定下具有無(wú)偏性,OLSE在全部高斯在全部高斯-馬爾馬爾科夫假定下具有最優(yōu)線性無(wú)偏性的特性,這都是科夫假定下具有最優(yōu)線性無(wú)偏性的特性,這都是OLSE的有限樣的有限樣本(或小樣本)性質(zhì),本(或小樣本)性質(zhì), 因?yàn)樗鼘?duì)任何樣本容量因?yàn)樗鼘?duì)任何樣本容量n(只要(只要n大于等大于等于模型中參數(shù)的個(gè)數(shù)于模型中參數(shù)的個(gè)數(shù)k+1)都成立。)都成立。 與一元回歸模型一樣,了解多元線性回歸
50、模型估計(jì)量的與一元回歸模型一樣,了解多元線性回歸模型估計(jì)量的漸進(jìn)性質(zhì)也很重要。在高斯?jié)u進(jìn)性質(zhì)也很重要。在高斯-馬爾科夫假定(假定馬爾科夫假定(假定MLR.1假假定定MLR.5)下,多元線性回歸模型的)下,多元線性回歸模型的OLSE具有令人滿意的大具有令人滿意的大樣本性質(zhì),即具有一致性和漸進(jìn)有效性。而且即使沒(méi)有正態(tài)樣本性質(zhì),即具有一致性和漸進(jìn)有效性。而且即使沒(méi)有正態(tài)性假定(假定性假定(假定MLR.6),),OLSE在大樣本下也近似服從正態(tài)分在大樣本下也近似服從正態(tài)分布,即具有漸近正態(tài)性。布,即具有漸近正態(tài)性。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)
51、大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3737頁(yè)頁(yè) 更為重要的是,要獲得更為重要的是,要獲得OLS估計(jì)量的一致性,在估計(jì)量的一致性,在MLR.1假定假定MLR.3下,下,MLR.4關(guān)于隨機(jī)項(xiàng)均值獨(dú)立于解釋變量假關(guān)于隨機(jī)項(xiàng)均值獨(dú)立于解釋變量假定可以用更弱的線性無(wú)關(guān)假定代替定可以用更弱的線性無(wú)關(guān)假定代替.對(duì)于多元線性回歸模型,對(duì)于多元線性回歸模型,這一假定的表述如下:這一假定的表述如下:假定假定MLR.4:零期望和零相關(guān)性假定:零期望和零相關(guān)性假定,都有,都有1,2,jk 隨機(jī)誤差項(xiàng)的期望值為零,隨機(jī)誤差項(xiàng)與解釋變量的協(xié)方隨機(jī)誤差項(xiàng)的期望值為零,隨機(jī)誤差項(xiàng)與解釋變量的協(xié)方
52、差為零,即對(duì)于所有的差為零,即對(duì)于所有的( )0E u cov(, )0jx u OLSE的漸進(jìn)性質(zhì)及其條件告訴我們,在大樣本條件下,的漸進(jìn)性質(zhì)及其條件告訴我們,在大樣本條件下,我們可以在更為寬松的條件下借助于最小二乘法進(jìn)行多元線我們可以在更為寬松的條件下借助于最小二乘法進(jìn)行多元線性回歸分析,從而可以大大拓寬性回歸分析,從而可以大大拓寬OLS的應(yīng)用范圍。的應(yīng)用范圍。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3838頁(yè)頁(yè)第三節(jié)第三節(jié)多元回歸模型參數(shù)的區(qū)間估計(jì)與假設(shè)檢驗(yàn)多元回歸模型參數(shù)的區(qū)
53、間估計(jì)與假設(shè)檢驗(yàn)一、回歸參數(shù)的置信區(qū)間一、回歸參數(shù)的置信區(qū)間根據(jù)假定根據(jù)假定MLR.6, 服從正態(tài)分布,這決定了服從正態(tài)分布,這決定了yi也是服從正態(tài)分布也是服從正態(tài)分布的隨機(jī)變量。由于最小二乘估計(jì)量的線性性質(zhì),的隨機(jī)變量。由于最小二乘估計(jì)量的線性性質(zhì), iu(0,1,2, )jjk是是yi的線性函數(shù),這決定了的線性函數(shù),這決定了 也是服從正態(tài)分布的隨機(jī)變量。也是服從正態(tài)分布的隨機(jī)變量。又由于又由于 j()jjE2()jjjuVarC所以,所以, 2(,)jjjjuNCvar()j由于由于是未知的,故是未知的,故也未知。但可也未知。但可2u2u用用 的無(wú)偏估計(jì)量的無(wú)偏估計(jì)量 222()11ii
54、iueyynknk代替代替2u機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第3939頁(yè)頁(yè)對(duì)對(duì)j作標(biāo)準(zhǔn)化變換,作標(biāo)準(zhǔn)化變換, 可以證明所構(gòu)造的樞軸變量可以證明所構(gòu)造的樞軸變量 服從自由度服從自由度jt為為n-k-1的的t分布,即分布,即2 (1)()jjjjjjjjutt nkseC/2(|(1)1,jP ttnk 由由的置信區(qū)間為:的置信區(qū)間為: 可得可得 的置信度為的置信度為1j/2/2(1)(),(1)()jjjjtnksetnkse22/2/2(1),(1)jjjujjjutnkCt
55、nkC機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第4040頁(yè)頁(yè)例例33運(yùn)用表運(yùn)用表3-1樣本的數(shù)據(jù)樣本的數(shù)據(jù), 1試在試在95的置信水平下,構(gòu)的置信水平下,構(gòu)造造 的置信區(qū)間。的置信區(qū)間。由表由表3-2可知,可知, 1()0.3641,Se11.179,由于給定的置信水平由于給定的置信水平為為95,則,則 0.05查查t分布表得臨界值:分布表得臨界值: 20.025(4)(20)2.086tnt將有關(guān)數(shù)據(jù)代入(將有關(guān)數(shù)據(jù)代入(3.19)式,即可得到)式,即可得到1的置信度為的置信度為95
56、%的的置信區(qū)間:置信區(qū)間:1/211/21(4)(),(4)() =0.4198,1.9390 tnsetnse機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第4141頁(yè)頁(yè)二、回歸參數(shù)的假設(shè)檢驗(yàn)二、回歸參數(shù)的假設(shè)檢驗(yàn)(一)單個(gè)回歸參數(shù)的檢驗(yàn):(一)單個(gè)回歸參數(shù)的檢驗(yàn):t檢驗(yàn)檢驗(yàn) 多元回歸分析中對(duì)各個(gè)回歸參數(shù)的假設(shè)檢驗(yàn),目的在于分多元回歸分析中對(duì)各個(gè)回歸參數(shù)的假設(shè)檢驗(yàn),目的在于分別檢驗(yàn)當(dāng)其它解釋變量不變時(shí),該回歸參數(shù)對(duì)應(yīng)的解釋變量別檢驗(yàn)當(dāng)其它解釋變量不變時(shí),該回歸參數(shù)對(duì)應(yīng)的解釋變量是否對(duì)被解釋
57、變量有顯著的解釋能力?;貧w系數(shù)顯著性檢驗(yàn)是否對(duì)被解釋變量有顯著的解釋能力?;貧w系數(shù)顯著性檢驗(yàn)一般采用一般采用t檢驗(yàn),檢驗(yàn)原理與一元線性回歸的檢驗(yàn)基本相同,檢驗(yàn),檢驗(yàn)原理與一元線性回歸的檢驗(yàn)基本相同,檢驗(yàn)法則取決于我們建立的零假設(shè)檢驗(yàn)法則取決于我們建立的零假設(shè) 和備擇假設(shè)和備擇假設(shè) 。常。常用的假設(shè)形式為:用的假設(shè)形式為:0H1H0010:;:jjHc Hc(雙側(cè)備擇假設(shè)雙側(cè)備擇假設(shè)) 0010:;:jjHc Hc(右單側(cè)備擇假設(shè)右單側(cè)備擇假設(shè))0010:;:jjHc Hc(左單側(cè)備擇假設(shè)左單側(cè)備擇假設(shè))機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)
58、統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第4242頁(yè)頁(yè)第一步:提出假設(shè)第一步:提出假設(shè)0j0:H1:0jH第二步:構(gòu)造第二步:構(gòu)造t統(tǒng)計(jì)量統(tǒng)計(jì)量 在多數(shù)應(yīng)用中,研究者主要關(guān)注的是回歸系數(shù)是否顯著不在多數(shù)應(yīng)用中,研究者主要關(guān)注的是回歸系數(shù)是否顯著不為零,也即參數(shù)的顯著性檢驗(yàn)。為零,也即參數(shù)的顯著性檢驗(yàn)。 j以的顯著性檢驗(yàn)(雙邊檢驗(yàn))為例,的顯著性檢驗(yàn)(雙邊檢驗(yàn))為例,t檢驗(yàn)的基本步驟為:檢驗(yàn)的基本步驟為:2 (1)()jjjjjjutt nkseC(3.20)()jjse是其中,其中,的估計(jì)標(biāo)準(zhǔn)誤差(的估計(jì)標(biāo)準(zhǔn)誤差(Std.Error)。)。機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束
59、20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第4343頁(yè)頁(yè)第三步,做出統(tǒng)計(jì)決策。第三步,做出統(tǒng)計(jì)決策。2(1)tnk若若 則拒絕原假設(shè)則拒絕原假設(shè)H0 ,說(shuō)明自變量,說(shuō)明自變量 對(duì)因?qū)σ蜃兞孔兞?的線性相關(guān)關(guān)系顯著;的線性相關(guān)關(guān)系顯著; 2(1)jttnkyjxjx2(1)ttnky若若 則接受原假設(shè)則接受原假設(shè)H0 ,說(shuō)明自變量,說(shuō)明自變量 對(duì)因變量對(duì)因變量 的線性相關(guān)關(guān)系不顯著;的線性相關(guān)關(guān)系不顯著; 例例34仍以例仍以例31資料為例,檢驗(yàn)回歸參數(shù)的顯著性。資料為例,檢驗(yàn)回歸參數(shù)的顯著性。0:0jH1,2,3j 1:0j
60、H1,2,3j 由第二節(jié)表由第二節(jié)表3-2可知可知給定顯著性水平給定顯著性水平 ,查表可得到臨界值,查表可得到臨界值1()0.3641,se3()0.1604,se2()0.1168,se機(jī)動(dòng) 目錄 上頁(yè) 下頁(yè) 返回 結(jié)束 20212021年年9 9月月2828日日 山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室山東財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院計(jì)量經(jīng)濟(jì)教研室第第4444頁(yè)頁(yè)1111.179=3.2390.3641()tse0.05 由由查查t分布臨界值表得:分布臨界值表得: 0.05/2(20)2.086t10.05/23.239(20)2.086,tt因?yàn)橐驗(yàn)樗晕覀兙芙^原假設(shè)所以我們拒絕原假設(shè) ,即自變量即自變量
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025至2030布藝行業(yè)市場(chǎng)深度調(diào)研及發(fā)展趨勢(shì)與發(fā)展趨勢(shì)分析與未來(lái)投資戰(zhàn)略咨詢研究報(bào)告
- 改初一學(xué)霸的數(shù)學(xué)試卷
- 阜陽(yáng)2024高三聯(lián)考數(shù)學(xué)試卷
- 高一聯(lián)考數(shù)學(xué)試卷
- 豐南區(qū)期末考試數(shù)學(xué)試卷
- 知識(shí)產(chǎn)權(quán)戰(zhàn)略在健身器材行業(yè)中的法律風(fēng)險(xiǎn)防范措施考核試卷
- 恩施州期末聯(lián)考數(shù)學(xué)試卷
- 贛州市一模理科數(shù)學(xué)試卷
- 印刷企業(yè)品牌形象塑造與傳播策略考核試卷
- 鳳凰教育小升初數(shù)學(xué)試卷
- 2025-2030中國(guó)輔助生殖技術(shù)行業(yè)市場(chǎng)發(fā)展趨勢(shì)與前景展望戰(zhàn)略研究報(bào)告
- 中醫(yī)茶飲培訓(xùn)課件模板
- (湖北省高考卷)2024年湖北省普通高中學(xué)業(yè)水平選擇性考試高考物化生+政史地真題試卷及答案
- 2024-2025學(xué)年人教PEP英語(yǔ)六年級(jí)下學(xué)期期末模擬試卷(含答案含聽(tīng)力原文無(wú)音頻)
- T/CCBD 19-2022品牌餐廳評(píng)價(jià)規(guī)范
- GSK質(zhì)量管理體系介紹培訓(xùn)課件
- 河南省南陽(yáng)市內(nèi)鄉(xiāng)縣2025屆數(shù)學(xué)七下期末調(diào)研試題含解析
- 學(xué)生宿舍改造設(shè)計(jì)方案
- 出國(guó)培訓(xùn)考試試題及答案
- 2025年中國(guó)樂(lè)器網(wǎng)數(shù)據(jù)監(jiān)測(cè)研究報(bào)告
- 西方文化導(dǎo)論試題及答案
評(píng)論
0/150
提交評(píng)論