計(jì)量經(jīng)濟(jì)學(xué)第三章多元線性回歸

1、計(jì)量經(jīng)濟(jì)學(xué)第三章多元線性回歸第1頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第三章 多元線性回歸模型 第一節(jié)：模型的建立及其假定條件第二節(jié)：最小二乘法第三節(jié)：最小二乘估計(jì)量的特性第四節(jié)：可決系數(shù)第五節(jié)：顯著性檢驗(yàn)與置信區(qū)間第六節(jié)：預(yù)測(cè)第七節(jié)：案例分析第2頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件1. 為什么要引入多元線性回歸模型？ 在實(shí)際經(jīng)濟(jì)問題中，一個(gè)經(jīng)濟(jì)變量往往不只受到一個(gè)經(jīng)濟(jì)因素的影響，而是受到多個(gè)經(jīng)濟(jì)因素的影響。如，商品的需求量不但受到商品本身價(jià)格的影響，還會(huì)受到消費(fèi)者偏好、消費(fèi)者收入以及其它相關(guān)商品價(jià)格、預(yù)期價(jià)格等因素的影響。

2、引入多元線性回歸模型，為我們深入探究某經(jīng)濟(jì)問題如何被多個(gè)經(jīng)濟(jì)因素所影響提供了可能，并有助于我們解析出經(jīng)濟(jì)問題背后存在的內(nèi)在規(guī)律。 多元線性回歸模型是一元線性回歸模型的推廣，其基本原理和方法同一元模型完全相似。 第3頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三 設(shè) 是對(duì)總體 的n次獨(dú)立樣本觀測(cè)值，則第一節(jié) 模型的建立及其假定條件2. 多元線性回歸模型與一元模型的形式有什么不同？ 多元總體線性回歸方程，簡(jiǎn)稱總體回歸方程。 是樣本數(shù)據(jù)結(jié)構(gòu)形式的多元總體線性回歸模型，由n個(gè)方程、k+1個(gè)未知參數(shù) 組成的一個(gè)線性方程組。第4頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型

3、的建立及其假定條件3. 多元線性回歸模型的方程組與矩陣形式？被解釋向量=解釋變量矩陣未知參數(shù)向量+隨機(jī)誤差向量第5頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件3. 多元線性回歸模型的方程組與矩陣形式？第6頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件4. 多元線性回歸模型的樣本估計(jì)形式？樣本回歸模型 矩陣形式為：樣本回歸方程 矩陣形式為：表示殘差（隨機(jī)誤差項(xiàng)估計(jì)值）的列向量第7頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件5. 多元線性回歸模型的假定條件假定1： E(ui)

4、 = 0 i1,2n 這樣，被解釋變量Yi的期望值 為： E(Yi) = 0 +1X1 i+ 2X2i + kX ki 第8頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件5. 多元線性回歸模型的假定條件假定2：Var(ui) = Eui - E(ui) 2 = E(ui)2 = 2 i1,2,n 這樣，Yi的方差也相同，且等于 2，即： Var(Yi) = 2 i1,2,n假定3：Cov(ui, uj) = E(ui - E(ui) ) ( uj - E(uj) ) = E(ui, uj) = 0 (i j ) i，j1,2,n即：隨機(jī)誤差項(xiàng)無序列相關(guān)。

5、第9頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件5. 多元線性回歸模型的假定條件假定2和假定3可以由下列矩陣表示：第10頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件5. 多元線性回歸模型的假定條件假定2和假定3可以由下列矩陣表示：上式稱為隨機(jī)誤差向量u的方差協(xié)方差矩陣。 第11頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第一節(jié) 模型的建立及其假定條件5. 多元線性回歸模型的假定條件即樣本觀測(cè)值矩陣X必須是滿秩矩陣，應(yīng)滿足：假定4：Cov(uj, Xij) =0 i1,2k；i，j1,2n 即 ui

6、與Xi 彼此不相關(guān)。rank（X）=k1n假定5：解釋變量X1 ,X2 ,X k之間不存在完全的線性關(guān)系，假定6：隨機(jī)誤差項(xiàng)服從正態(tài)分布，即uiN（0, 2）同時(shí)，被解釋變量也服從正態(tài)分布 YiN(0 +1X1 i+ 2X2i + kX ki, 2)第12頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法參數(shù)的最小二乘估計(jì) 第一步 構(gòu)建最小二乘函數(shù)：第13頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法參數(shù)的最小二乘估計(jì) 第二步 應(yīng)用極值定理，對(duì)參數(shù)求導(dǎo)：第14頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法參數(shù)的最小

7、二乘估計(jì) 第二步 應(yīng)用極值定理，對(duì)參數(shù)求導(dǎo)：化簡(jiǎn)第15頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法參數(shù)的最小二乘估計(jì) 第二步 應(yīng)用極值定理，對(duì)參數(shù)求導(dǎo)： 寫成矩陣形式第16頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法參數(shù)的最小二乘估計(jì) 第三步 解方程組：因?yàn)椋旱?7頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法參數(shù)的最小二乘估計(jì) 第三步 解方程組：所以：于是： 就是 的最小二乘估計(jì)量。第18頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法2. 最小二乘估計(jì)的矩陣微分法則其中，第19

8、頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法2. 最小二乘估計(jì)的矩陣微分法則對(duì)矩陣求 向量的微分，得整理，得于是可見，矩陣微分法與解方程組法的結(jié)果是一樣的。第20頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法例 3.1 由經(jīng)濟(jì)理論知，在市場(chǎng)上某種商品的需求量 主要取決于該商品的價(jià)格 和消費(fèi)者的收入 。試建立該種商品的需求量與商品價(jià)格和消費(fèi)者平均收入之間的線性回歸模型。第一步：確立研究問題；第二步：搜集研究數(shù)據(jù)；第21頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法例 3.1第三步：構(gòu)建計(jì)量經(jīng)濟(jì)學(xué)模型；第22頁(yè)，

9、共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法例 3.1 第三步：構(gòu)建計(jì)量經(jīng)濟(jì)學(xué)模型；第23頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三M是一個(gè) n 階對(duì)稱冪等矩陣，即第二節(jié) 最小二乘法3. 隨機(jī)誤差項(xiàng)的方差 的估計(jì)量第24頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法3. 隨機(jī)誤差項(xiàng)的方差 的估計(jì)量則注：符號(hào) tr 表示矩陣的跡，它等于矩陣主對(duì)角線上元素之和.第25頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第二節(jié) 最小二乘法3. 隨機(jī)誤差項(xiàng)的方差 的估計(jì)量于是有，可見，隨機(jī)誤差項(xiàng)的方差2 的無偏估計(jì)量為：第26頁(yè)，

10、共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三殘差平方和 的計(jì)算方法如下：第二節(jié) 最小二乘法3. 隨機(jī)誤差項(xiàng)的方差 的估計(jì)量請(qǐng)計(jì)算例3.1中誤差項(xiàng)方差的回歸標(biāo)準(zhǔn)差。第27頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三 所謂線性性是指最小二乘估計(jì)量 是被解釋變量的觀測(cè)值 的線性函數(shù)： 已知 令 則 ，A是一個(gè)非隨機(jī) (k+1)n階常數(shù)矩陣。 2. 無偏性 由 知第三節(jié) 最小二乘估計(jì)量的特性1. 線性性 第28頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三由知令則 ，因 b 是 的無偏估計(jì)量，所以從而有第三節(jié) 最小二乘估計(jì)量的特性3. 最小方差性（有效性） 第29頁(yè)，共4

11、2頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第三節(jié) 最小二乘估計(jì)量的特性高斯馬爾科夫定理 如果基本假設(shè)(1)(5)成立，則最小二乘估計(jì)量 是 的最優(yōu)線性無偏估計(jì)量（BLUE），即 的所有線性無偏估計(jì)量中， 具有最小方差性。例3.3 試計(jì)算例3.1中 和 的標(biāo)準(zhǔn)差的估計(jì)值。解：第30頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第四節(jié) 可決系數(shù)1. 總離差平方和的分解 多元回歸模型同一元回歸模型相似，總離差平方和也可分解為：其中即總離差平方和=回歸平方和+殘差平方和 TSS = RSS+ ESS第31頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第四節(jié) 可決系數(shù)2. 多元

12、樣本的可決系數(shù) 修正的多元樣本可決系數(shù)第32頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第四節(jié) 可決系數(shù) 在實(shí)際應(yīng)用時(shí)， 和 越大，模型擬合得越好。 和 僅僅說明了在給定的樣本條件下，估計(jì)的回歸方程對(duì)于樣本觀測(cè)值擬合的優(yōu)度，擬合優(yōu)度并不是評(píng)價(jià)模型優(yōu)劣的惟一標(biāo)準(zhǔn)。我們并不能僅以 和 的大小來選擇模型，有時(shí)為了使有重要經(jīng)濟(jì)意義的解釋變量保留在模型中，寧可犧牲一點(diǎn)擬合優(yōu)度。例3.4 計(jì)算例3.1的可決系數(shù)第33頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第五節(jié) 顯著性檢驗(yàn)與置信區(qū)間 1. 回歸方程的顯著性檢驗(yàn)（ F 檢驗(yàn)） 回歸方程的顯著性檢驗(yàn)是指，在一定的顯著水平下，從總體

13、上對(duì)模型中被解釋變量與解釋變量之間的線性關(guān)系是否顯著成立進(jìn)行的一種統(tǒng)計(jì)檢驗(yàn)。 對(duì)于多元回歸模型提出原假設(shè)備擇假設(shè)為當(dāng)H0成立時(shí)第34頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第五節(jié) 顯著性檢驗(yàn)與置信區(qū)間 1. 回歸方程的顯著性檢驗(yàn)（ F 檢驗(yàn)） 例3.5 試對(duì)例3.1中的估計(jì)的回歸方程進(jìn)行顯著性檢驗(yàn)。解：從Eviews的輸出結(jié)果中，也能夠直接看出第35頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第五節(jié) 顯著性檢驗(yàn)與置信區(qū)間 2. 解釋變量的顯著性檢驗(yàn)（ t 檢驗(yàn) ） 多元線性回歸模型同一元線性回歸模型一樣，檢驗(yàn)未知參數(shù)的顯著性也可用 t 統(tǒng)計(jì)量：已知 ，其中有記 ，若

14、假設(shè)H0成立則可得 第36頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第五節(jié) 顯著性檢驗(yàn)與置信區(qū)間 2. 解釋變量的顯著性檢驗(yàn)（ t 檢驗(yàn) ） 例3.6 試對(duì)例3.1的回歸系數(shù) ， 進(jìn)行顯著性檢驗(yàn)。 解：第37頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第五節(jié) 顯著性檢驗(yàn)與置信區(qū)間 3. 回歸系數(shù)的置信區(qū)間 已知 所以，有例3.7 試對(duì)例3.1中的回歸系數(shù)建立置信度為95%的置信區(qū)間。解：基于Eviews的輸出結(jié)果可得 和 的置信區(qū)間為第38頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第六節(jié) 預(yù)測(cè) 1. 點(diǎn)預(yù)測(cè) 點(diǎn)預(yù)測(cè)：就是將解釋變量X1,X2,Xk的一組特定值： X0=(1,X10,X20,Xk0) 代入估計(jì)的回歸方程中，計(jì)算出被解釋變量Y0 的點(diǎn)預(yù)測(cè)值： 即： 與一元情形一樣，對(duì) 有兩種解釋：（1）看作 Y 的條件期望 E ( Y0 | X0 ) 的點(diǎn)估計(jì)（2）看作 Y 的個(gè)別值（真值）Y0 的點(diǎn)估計(jì)第39頁(yè)，共42頁(yè)，2022年，5月20日，7點(diǎn)10分，星期三第六節(jié) 預(yù)測(cè) 2. 區(qū)間預(yù)測(cè) （1） 的預(yù)測(cè)區(qū)間 因此， 是 的無偏估計(jì)量。即第40頁(yè)，共4