計量經(jīng)濟學（第四版）課件：多元線性回歸分析基礎

計量經(jīng)濟學（第四版）多元線性回歸分析計量經(jīng)濟學

多元線性回歸分析28二月2024重點問題參數(shù)的最小二乘估計最小二乘估計量的性質(zhì)參數(shù)估計式的分布特性與檢驗多重共線性多元線性回歸分析28二月2024主要內(nèi)容第一節(jié)

模型的假定

第二節(jié)

參數(shù)的最小二乘估計

第三節(jié)

最小二乘估計量的性質(zhì)第四節(jié)參數(shù)估計式的分布特性與檢驗第五節(jié)多重共線性第六節(jié)預測多元線性回歸分析28二月2024第一節(jié)模型的假定模型矩陣形式其中多元線性回歸分析28二月2024第一節(jié)模型的假定In為n階單位陣多元線性回歸分析28二月2024第二節(jié)參數(shù)的最小二乘估計殘差向量殘差平方和*式*為正規(guī)方程組，包含k個方程式多元線性回歸分析28二月2024第二節(jié)參數(shù)的最小二乘估計由假設條件可以證明XTX是正定的，即XTX>0則最小二乘估計：多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)

一、最小二乘估計的特性1.線性特性2.無偏性多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)3.最優(yōu)性多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)二、誤差項方差估計

即e是U的線性變換。其中，M稱為最小二乘基本等冪矩陣。

多元線性回歸分析28二月2024第三節(jié)最小二乘估計量的性質(zhì)M的性質(zhì)：（1）對稱性MT=M（2）等冪性Mn=M（3）M與X互相獨立MX=0多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗一、參數(shù)估計式的分布特性

在多元線性回歸分析中，除了要進行與一元線性回歸分析中類似的單個參數(shù)的檢驗，還要檢驗多個解釋變量對被解釋變量Y的共同影響是否顯著。通常構(gòu)造F統(tǒng)計量進行這些檢驗。多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗二、參數(shù)β的線性約束檢驗與置信區(qū)間多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗1.β的置信區(qū)間當R=Ik，可以得到β的置信區(qū)間多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗2.β的檢驗（1）參數(shù)的整體檢驗問題H0∶β2=β3=…=βk=0

H1∶存在某個βi≠0,2≤i≤k

多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗（2）單個參數(shù)的檢驗問題

H0∶βi=0H1∶βi≠0

多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗三、相關分析記為復相關系數(shù)或決定系數(shù)相關系數(shù)也可以表示為相關系數(shù)R2有一個顯著特點：如果觀察值Yt不變，決定系數(shù)R2將隨解釋變量的數(shù)目增加而增大。

多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗定義為修正的決定系數(shù)修正的決定系數(shù)比一般決定系數(shù)更準確地反映了解釋變量對被解釋變量的影響程度。因此在一般情況下，修正的確定系數(shù)比R2應用更廣泛。注：修正的決定系數(shù)可能為負值多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗四、單因素方差分析1.單因素方差分析的模型其中，μi為第i個水平下Yij的總體均值。eij為Yij與均值之差。σ2為Yij的方差，方差為常數(shù)。k為因素A的水平數(shù)量。ni為從第i個水平Ai中抽取的樣本數(shù)量。多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗2.單因素方差分析的檢驗H0∶μ1＝μ2＝…＝μk＝μVSH1∶μi不全相等多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗定義統(tǒng)計量多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗五、方差分析、相關分析和回歸分析的關系方差分析方法也可以應用在回歸分析中。把由因素A引起的組間離差平方和ASS換成回歸平方和ESS，把由隨機因素引起的組內(nèi)離差平方和RSS換成殘差平方和RSS。把k由代表水平數(shù)目換成代表參數(shù)數(shù)目。多元線性回歸分析28二月2024第四節(jié)參數(shù)估計式的分布特性與檢驗六、用逐步引入法選擇解釋變量基本思想：借助回歸分析的方差分析方法，對總變差中由新增加的解釋變量所帶來的增加的可解釋部分的方差比進行F檢驗，以決定新引入的解釋變量的取舍。見69頁例2-2多元線性回歸分析28二月2024第五節(jié)多重共線性多重共線性指解釋變量之間存在比較強的線性相關關系。

一、多重共線性造成的影響1.如果解釋變量之間存在完全多重共線性，無法得到參數(shù)估計式。2.嚴重多重共線性，即︱X′X︱≈0時，具有下列影響(1)大大降低預測精確度由于|X’X|0，引起(X’X)-1主對角線元素較大，使參數(shù)估計值的方差增大，OLS參數(shù)估計量非有效。多元線性回歸分析28二月2024第五節(jié)多重共線性(2)發(fā)生棄真錯誤由于的方差很大，在進行顯著性檢驗時t統(tǒng)計量明顯偏小，即使決定系數(shù)R2及F統(tǒng)計量很大，也容易淘汰一些不應淘汰的解釋變量。(3)造成錯誤的模型關系

由于嚴重多重共線性是指解釋變量之間有強線性相關關系。因此，不同解釋變量對被解釋變量的影響會發(fā)生互相代替的情況。如果采用逐步引入法選擇解釋變量，已經(jīng)引入并且經(jīng)檢驗證明顯著的解釋變量的數(shù)值就會變小，t數(shù)值下降，變?yōu)椴伙@著的，甚至出現(xiàn)參數(shù)符號改變的情況。原來模型中與被解釋變量正(負)相關的解釋變量，由于新解釋變量引入，變?yōu)樨?正)相關，從而造成錯誤的模型關系。(4)建立的回歸模型的可靠程度降低參數(shù)估計值及其方差對樣本很敏感，由于增加或減少一些樣本，參數(shù)估計值及其方差發(fā)生很大變化，因而建立的回歸模型的可靠程度降低。多元線性回歸分析28二月2024第五節(jié)多重共線性二、多重共線性的檢驗1.相關系數(shù)檢驗法

對樣本中任何兩個不同解釋變量求簡單相關系數(shù)，如果相關系數(shù)r的絕對值比較大，例如|r|＞0.8，或|r|＞0.9，就可以認為這兩個樣本之間高度相關，因而樣本存在多重共線性。

2.逐步分析檢驗法

這種檢驗方法首先對各種可能的多元線性回歸模型分別進行參數(shù)估計和檢驗。先引入經(jīng)濟意義明顯，并且統(tǒng)計上最顯著的解釋變量，然后逐步引入其他解釋變量。如果新引入解釋變量使原有解釋變量的數(shù)值發(fā)生明顯變化，甚至改變其符號，或者使原有解釋變量的t統(tǒng)計量明顯變小，就表示新引入的解釋變量與原有解釋變量之間存在多重共線性。多元線性回歸分析28二月2024第五節(jié)多重共線性三、處理多重共線性問題的方法1.保留重要解釋變量2.去掉不重要的解釋變量3.一階差分法4.主分量法多元線性回歸分析28