計量經(jīng)濟學第二章簡單線性回歸模型ppt課件.ppt

計量經(jīng)濟學 第二章簡單線性回歸模型 2 從2004中國國際旅游交易會上獲悉 到2020年 中國旅游業(yè)總收入將超過3000億美元 相當于國內(nèi)生產(chǎn)總值的8 至11 資料來源 國際金融報2004年11月25日第二版 是什么決定性的因素能使中國旅游業(yè)總收入到2020年達到3000億美元 旅游業(yè)的發(fā)展與這種決定性因素的數(shù)量關系究竟是什么 怎樣具體測定旅游業(yè)發(fā)展與這種決定性因素的數(shù)量關系 引子 中國旅游業(yè)總收入將超過3000億美元嗎 3 第二章簡單線性回歸模型 本章主要討論 回歸分析與回歸函數(shù) 簡單線性回歸模型參數(shù)的估計 擬合優(yōu)度的度量 回歸系數(shù)的區(qū)間估計和假設檢驗 回歸模型預測 4 第一節(jié)回歸分析與回歸方程 本節(jié)基本內(nèi)容 回歸與相關 總體回歸函數(shù) 隨機擾動項 樣本回歸函數(shù) 5 1 經(jīng)濟變量間的相互關系 確定性的函數(shù)關系 不確定性的統(tǒng)計關系 相關關系 為隨機變量 沒有關系 一 回歸與相關 對統(tǒng)計學的回顧 6 7 相關關系的類型 從涉及的變量數(shù)量看簡單相關多重相關 復相關 從變量相關關系的表現(xiàn)形式看線性相關 散布圖接近一條直線非線性相關 散布圖接近一條曲線 從變量相關關系變化的方向看正相關 變量同方向變化 同增同減負相關 變量反方向變化 一增一減不相關 8 9 和都是相互對稱的隨機變量 線性相關系數(shù)只反映變量間的線性相關程度 不能說明非線性相關關系 樣本相關系數(shù)是總體相關系數(shù)的樣本估計值 由于抽樣波動 樣本相關系數(shù)是個隨機變量 其統(tǒng)計顯著性有待檢驗 相關系數(shù)只能反映線性相關程度 不能確定因果關系 不能說明相關關系具體接近哪條直線計量經(jīng)濟學關心 變量間的因果關系及隱藏在隨機性后面的統(tǒng)計規(guī)律性 這有賴于回歸分析方法 使用相關系數(shù)時應注意 10 4 回歸分析 回歸的古典意義 高爾頓遺傳學的回歸概念 父母身高與子女身高的關系 回歸的現(xiàn)代意義 一個應變量對若干解釋變量依存關系的研究回歸的目的 實質(zhì) 由固定的解釋變量去估計應變量的平均值 11 的條件分布當解釋變量取某固定值時 條件 的值不確定 的不同取值形成一定的分布 即的條件分布 的條件期望對于的每一個取值 對所形成的分布確定其期望或均值 稱為的條件期望或條件均值 注意幾個概念 12 13 回歸函數(shù) 應變量的條件期望隨解釋變量的的變化而有規(guī)律的變化 如果把的條件期望表現(xiàn)為的某種函數(shù)這個函數(shù)稱為回歸函數(shù) 回歸函數(shù)分為 總體回歸函數(shù)和樣本回歸函數(shù) 舉例 假如已知100個家庭構(gòu)成的總體 回歸線與回歸函數(shù) 14 例 100個家庭構(gòu)成的總體 單位 元 15 16 17 實際的經(jīng)濟研究中總體回歸函數(shù)通常是未知的 只能根據(jù)經(jīng)濟理論和實踐經(jīng)驗去設定 計量 的目的就是尋求PRF 總體回歸函數(shù)中與的關系可是線性的 也可是非線性的 對線性回歸模型的 線性 有兩種解釋就變量而言是線性的 的條件均值是的線性函數(shù)就參數(shù)而言是線性的 的條件均值是參數(shù)的線性函數(shù) 3 如何理解總體回歸函數(shù) 18 19 三 隨機擾動項 概念 各個值與條件均值的偏差代表排除在模型以外的所有因素對的影響 性質(zhì) 是期望為0有一定分布的隨機變量重要性 隨機擾動項的性質(zhì)決定著計量經(jīng)濟方法的選擇 20 未知影響因素的代表 無法取得數(shù)據(jù)的已知影響因素的代表 眾多細小影響因素的綜合代表 模型的設定誤差 變量的觀測誤差 變量內(nèi)在隨機性 引入隨機擾動項的原因 21 四 樣本回歸函數(shù) SRF 22 SRF的特點 每次抽樣都能獲得一個樣本 就可以擬合一條樣本回歸線 所以樣本回歸線隨抽樣波動而變化 可以有許多條 SRF不唯一 SRF2 23 樣本回歸函數(shù)的函數(shù)形式應與設定的總體回歸函數(shù)的函數(shù)形式一致 樣本回歸線還不是總體回歸線 至多只是未知總體回歸線的近似表現(xiàn) 24 25 對樣本回歸的理解 如果能夠獲得和的數(shù)值 顯然 和是對總體回歸函數(shù)參數(shù)和的估計 是對總體條件期望的估計 在概念上類似總體回歸函數(shù)中的 可視為對的估計 26 27 28 第二節(jié)簡單線性回歸模型的最小二乘估計 本節(jié)基本內(nèi)容 簡單線性回歸的基本假定 普通最小二乘法 OLS回歸線的性質(zhì) 參數(shù)估計式的統(tǒng)計性質(zhì) 29 一 簡單線性回歸的基本假定 1 為什么要作基本假定 模型中有隨機擾動 估計的參數(shù)是隨機變量 只有對隨機擾動的分布作出假定 才能確定所估計參數(shù)的分布性質(zhì) 也才可能進行假設檢驗和區(qū)間估計 只有具備一定的假定條件 所作出的估計才具有較好的統(tǒng)計性質(zhì) 30 1 對模型和變量的假定如假定解釋變量是非隨機的 或者雖然是隨機的 但與擾動項是不相關的假定解釋變量在重復抽樣中為固定值假定變量和模型無設定誤差 2 基本假定的內(nèi)容 31 又稱高斯假定 古典假定假定1 零均值假定在給定的條件下 的條件期望為零假定2 同方差假定在給定的條件下 的條件方差為某個常數(shù) 2 對隨機擾動項的假定 32 假定3 無自相關假定隨機擾動項的逐次值互不相關假定4 隨機擾動與解釋變量不相關 33 假定5 對隨機擾動項分布的正態(tài)性假定即假定服從均值為零 方差為的正態(tài)分布 說明 正態(tài)性假定不影響對參數(shù)的點估計 但對確定所估計參數(shù)的分布性質(zhì)是需要的 且根據(jù)中心極限定理 當樣本容量趨于無窮大時 的分布會趨近于正態(tài)分布 所以正態(tài)性假定是合理的 34 的分布性質(zhì) 由于的分布性質(zhì)決定了的分布性質(zhì) 對的一些假定可以等價地表示為對的假定 假定1 零均值假定假定2 同方差假定假定3 無自相關假定假定5 正態(tài)性假定 35 OLS的基本思想 不同的估計方法可得到不同的樣本回歸參數(shù)和 所估計的也不同 理想的估計方法應使與的差即剩余越小越好 因可正可負 所以可以取最小即 二 普通最小二乘法 rdinaryLeastSquares 36 正規(guī)方程和估計式 用克萊姆法則求解得觀測值形式的OLS估計式 取偏導數(shù)為0 得正規(guī)方程 37 為表達得更簡潔 或者用離差形式OLS估計式 注意其中 而且樣本回歸函數(shù)可寫為 用離差表現(xiàn)的OLS估計式 38 三 OLS回歸線的性質(zhì) 可以證明 回歸線通過樣本均值 估計值的均值等于實際觀測值的均值 39 剩余項的均值為零 應變量估計值與剩余項不相關 解釋變量與剩余項不相關 40 四 參數(shù)估計式的統(tǒng)計性質(zhì) 一 參數(shù)估計式的評價標準1 無偏性前提 重復抽樣中估計方法固定 樣本數(shù)不變 經(jīng)重復抽樣的觀測值 可得一系列參數(shù)估計值參數(shù)估計值的分布稱為的抽樣分布 密度函數(shù)記為如果 稱是參數(shù)的無偏估計式 否則稱是有偏的 其偏倚為 見圖1 2 41 圖1 2 42 前提 樣本相同 用不同的方法估計參數(shù) 可以找到若干個不同的估計式目標 努力尋求其抽樣分布具有最小方差的估計式 最小方差準則 或稱最佳性準則 見圖1 3 既是無偏的同時又具有最小方差的估計式 稱為最佳無偏估計式 2 最小方差性 43 44 4 漸近性質(zhì) 大樣本性質(zhì) 思想 當樣本容量較小時 有時很難找到最佳無偏估計 需要考慮樣本擴大后的性質(zhì)一致性 當樣本容量n趨于無窮大時 如果估計式依概率收斂于總體參數(shù)的真實值 就稱這個估計式是的一致估計式 即或漸近有效性 當樣本容量n趨于無窮大時 在所有的一致估計式中 具有最小的漸近方差 見圖1 4 45 46 二 OLS估計式的統(tǒng)計性質(zhì) 由OLS估計式可以看出由可觀測的樣本值和唯一表示 因存在抽樣波動 OLS估計是隨機變量 OLS估計式是點估計式 47 1 線性特征是的線性函數(shù) 2 無偏特性 證明見教材P37 3 最小方差特性 證明見教材P68附錄2 1 在所有的線性無偏估計中 OLS估計具有最小方差結(jié)論 在古典假定條件下 OLS估計式是最佳線性無偏估計式 BLUE OLS估計式的統(tǒng)計性質(zhì) 高斯定理 48 第三節(jié)擬合優(yōu)度的度量 本節(jié)基本內(nèi)容 什么是擬合優(yōu)度 總變差的分解 可決系數(shù) 49 一 什么是擬合優(yōu)度 概念 樣本回歸線是對樣本數(shù)據(jù)的一種擬合 不同估計方法可擬合出不同的回歸線 擬合的回歸線與樣本觀測值總有偏離 樣本回歸線對樣本觀測數(shù)據(jù)擬合的優(yōu)劣程度 擬合優(yōu)度擬合優(yōu)度的度量建立在對總變差分解的基礎上 50 二 總變差的分解 分析Y的觀測值 估計值與平均值的關系將上式兩邊平方加總 可證得 TSS ESS RSS 51 總變差 TSS 應變量Y的觀測值與其平均值的離差平方和 總平方和 解釋了的變差 ESS 應變量Y的估計值與其平均值的離差平方和 回歸平方和 剩余平方和 RSS 應變量觀測值與估計值之差的平方和 未解釋的平方和 52 變差分解的圖示 53 三 可決系數(shù) 以TSS同除總變差等式兩邊 或定義 回歸平方和 解釋了的變差ESS 在總變差 TSS 中所占的比重稱為可決系數(shù) 用表示 或 54 作用 可決系數(shù)越大 說明在總變差中由模型作出了解釋的部分占的比重越大 模型擬合優(yōu)度越好 反之可決系數(shù)小 說明模型對樣本觀測值的擬合程度越差 特點 可決系數(shù)取值范圍 隨抽樣波動 樣本可決系數(shù)是隨抽樣而變動的隨機變量 可決系數(shù)是非負的統(tǒng)計 可決系數(shù)的作用和特點 55 可決系數(shù)與相關系數(shù)的關系 1 聯(lián)系數(shù)值上 可決系數(shù)等于應變量與解釋變量之間簡單相關系數(shù)的平方 56 可決系數(shù)與相關系數(shù)的關系 2 區(qū)別 57 運用可決系數(shù)時應注意 可決系數(shù)只是說明列入模型的所有解釋變量對因變量的聯(lián)合的影響程度 不說明模型中每個解釋變量的影響程度 在多元中 回歸的主要目的如果是經(jīng)濟結(jié)構(gòu)分析 不能只追求高的可決系數(shù) 而是要得到總體回歸系數(shù)可信的估計量 可決系數(shù)高并不表示每個回歸系數(shù)都可信任 如果建模的目的只是為了預測因變量值 不是為了正確估計回歸系數(shù) 一般可考慮有較高的可決系數(shù) 58 第四節(jié)回歸系數(shù)的區(qū)間估計和假設檢驗 本節(jié)基本內(nèi)容 OLS估計的分布性質(zhì) 回歸系數(shù)的區(qū)間估計 回歸系數(shù)的假設檢驗 59 問題的提出 為什么要作區(qū)間估計 OLS估計只是通過樣本得到的點估計 不一定等于真實參數(shù) 還需要找到真實參數(shù)的可能范圍 并說明其可靠性為什么要作假設檢驗 OLS估計只是用樣本估計的結(jié)果 是否可靠 是否抽樣的偶然結(jié)果 還有待統(tǒng)計檢驗 區(qū)間估計和假設檢驗都是建立在確定參數(shù)估計值概率分布性質(zhì)的基礎上 60 一 OLS估計的分布性質(zhì) 基本思想是隨機變量 必須確定其分布性質(zhì)才可能進行區(qū)間估計和假設檢驗是服從正態(tài)分布的隨機變量 決定了也是服從正態(tài)分布的隨機變量 是的線性函數(shù) 決定了也是服從正態(tài)分布的隨機變量 只要確定的期望和方差 即可確定的分布性質(zhì) 61 的期望 無偏估計 的方差和標準誤差 標準誤差是方差的算術(shù)平方根 注意 以上各式中未知 其余均是樣本觀測值 的期望和方差 62 可以證明 見教材P70附錄2 2 的無偏估計為 n 2為自由度 即可自由變化的樣本觀測值個數(shù) 對隨機擾動項方差的估計 63 在已知時 將作標準化變換 64 1 當樣本為大樣本時 用估計的參數(shù)標準誤差對作標準化變換 所得Z統(tǒng)計量仍可視為標準正態(tài)變量 根據(jù)中心極限定理 2 當樣本為小樣本時 可用代替 去估計參數(shù)的標準誤差 用估計的參數(shù)標準誤差對作標準化變換 所得的t統(tǒng)計量不再服從正態(tài)分布 這時分母也是隨機變量 而是服從t分布 當未知時 65 二 回歸系數(shù)的區(qū)間估計 概念 對參數(shù)作出的點估計是隨機變量 雖然是無偏估計 但還不能說明估計的可靠性和精確性 需要找到包含真實參數(shù)的一個范圍 并確定這個范圍包含參數(shù)真實值的可靠程度 在確定參數(shù)估計式概率分布性質(zhì)的基礎上 可找到兩個正數(shù) 和 使得區(qū)間包含真實的概率為 即這樣的區(qū)間稱為所估計參數(shù)的置信區(qū)間 66 一般情況下 總體方差未知 用無偏估計去代替 由于樣本容量較小 統(tǒng)計量t不再服從正態(tài)分布 而服從t分布 可用t分布去建立參數(shù)估計的置信區(qū)間 回歸系數(shù)區(qū)間估計的方法 67 選定 查t分布表得顯著性水平為 自由度為的臨界值 則有即 68 三 回歸系數(shù)的假設檢驗 1 假設檢驗的基本思想為什么要作假設檢驗 所估計的回歸系數(shù) 和方差都是通過樣本估計的 都是隨抽樣而變動的隨機變量 它們是否可靠 是否抽樣的偶然結(jié)果呢 還需要加以檢驗 69 對回歸系數(shù)假設檢驗的方式 計量經(jīng)濟學中 主要是針對變量的參數(shù)真值是否為零來進行顯著性檢驗的 目的 對簡單線性回歸 判斷解釋變量是否是被解釋變量的顯著影響因素 在一元線性模型中 就是要判斷是否對具有顯著的線性影響 這就需要進行變量的顯著性檢驗 70 一般情況下 總體方差未知 只能用去代替 可利用t分布作t檢驗 給定 查t分布表得 如果或者則拒絕原假設 而接受備擇假設 如果則接受原假設 2 回歸系數(shù)的檢驗方法 71 P 72 用P值判斷參數(shù)的顯著性 假設檢驗的p值 p值是根據(jù)既定的樣本數(shù)據(jù)所計算的統(tǒng)計量 拒絕原假設的最小顯著性水平 統(tǒng)計分析軟件中通常都給出了檢驗的p值 73 74 本節(jié)主要內(nèi)容 回歸分析結(jié)果的報告 被解釋變量平均值預測 被解釋變量個別值預測 第五節(jié)回歸模型預測 75 一 回歸分析結(jié)果的報告 經(jīng)過模型的估計 檢驗 得到一系列重要的數(shù)據(jù) 為了簡明 清晰 規(guī)范地表述這些數(shù)據(jù) 計量經(jīng)濟學通常采用了以下規(guī)范化的方式 例如 回歸結(jié)果為 76 二 被解釋變量平均值預測 1 基本思想 運用計量經(jīng)濟模型作預測 指利用所估計的樣本回歸函數(shù) 用解釋變量的已知值或預測值 對預測期或樣本以外的被解釋變量數(shù)值作出定量的估計 計量經(jīng)濟預測是一種條件預測 條件 模型設定的關系式不變 所估計的參數(shù)不變 解釋變量在預測期的取值已作出預測對應變量的預測分為平均值預測和個別值預測對應變量的預測又分為點預測和區(qū)間預測 77 預測值 平均值 個別值的相互關系 是真實平均值的點估計 也是對個別值的點估計 個別值 78 2 Y平均值的點預測 將解釋變量預測值直接代入估計的方程這樣計算的是一個點估計值 79 3 Y平均值的區(qū)間預測 基本思想 由于存在抽樣波動 預測的平均值不一定等于真實平均值 還需要對作區(qū)間估計 為對Y作區(qū)間預測 必須確定平均值預測值的抽樣分布 必須找出與和都有關的統(tǒng)計量 80 81 82 三 應變量個別值預測 基本思想 既是對平均值的點預測 也是對個別值的點預測 由于存在隨機擾動的影響 的平均值并不等于的個別值 為了對的個別值作區(qū)間預測 需要尋找與預測值和個別值有關的統(tǒng)計量 并要明確其概率分布 83 具體作法 已知剩余項是與預測值及個別值都有關的變量 并且已知服從正態(tài)分布 且可證明當用代替時 對標準化的變量t為 84 85 應變量Y區(qū)間預測的特點 1 平均值的預測值與真實平均值有誤差 主要是受抽樣波動影響個別值的預測值與真實個別值的差異 不僅受抽樣波動影響 而且還受隨機擾動項的影響 86 2 平均值和個別值預測區(qū)間都不是常數(shù) 是隨的變化而變化的3 預測區(qū)間上下限與樣本容量有關 當樣本容量時個別值的預測誤差只決定于隨機擾動的方差 87 88 第六節(jié)案例分析 提出問題 改革開放以來隨著中國經(jīng)濟的快速發(fā)展 居民的消費水平也不斷增長 但全國各地區(qū)經(jīng)濟發(fā)展速度不同 居民消費水平也有明顯差異 為了分析什么是影響各地區(qū)居民消費支出有明顯差異的最主要因素 并分析影響因素與消費水平的數(shù)量關系 可以建立相應的計量經(jīng)濟模型去研究 研究范圍 全國各省市2002年城市居民家庭平均每人每年消費截面數(shù)據(jù)模型 89 理論分析 影響各地區(qū)城市居民人均消費支出的因素有多種 但從理論和經(jīng)驗分析 最主要的影響因素應是居民收入 從理論上說可支配收入越高 居民消費越多 但邊際消費傾向大于0 小于1 建立模型 其中 Y 城市居民家庭平均每人每年消費支出 元 X 城市居民人均年可支配收入 元 90 數(shù)據(jù) 從2002年 中國統(tǒng)計年鑒 中得到 91 接上頁數(shù)據(jù)表 92 估計參數(shù) 具體操作 使用EViews軟件包 估計結(jié)果 假定模型中隨機擾動滿足基本假定 可用OLS法 93 表示為 94 1 可決系數(shù) 模型整體上擬合好 2 系數(shù)顯著性檢驗 給定 查t分布表 在自由度為n 2 29時臨界值為因為t 20 44023 說明 城鎮(zhèn)人均可支配收入 對 城鎮(zhèn)人均消費支出 有顯著影響 3 用P值檢驗 p 0 0000 模型檢驗 95 4 經(jīng)濟意義檢驗 估計的解釋變量的系數(shù)為0 758511 說明城鎮(zhèn)居民人均可支配收入每增加1元 人均年消費支出平均將增加0 758511元 這符合經(jīng)濟理論對邊際消費傾向的界定 96 點預測 西部地區(qū)的城市居民人均年可支配收入第一步爭取達到1000美元 按現(xiàn)有匯率即人民幣8270元 代入估計的模型得第二步再爭取達到1500美元 即人民幣12405元 利用所估計的模型可預測這