經(jīng)濟(jì)學(xué)多元回歸模型

1多元線性回歸分析

很少有經(jīng)濟(jì)現(xiàn)象能夠只用一個(gè)解釋變量來(lái)解釋。比如：消費(fèi)水平、股票價(jià)格、工資水平、破產(chǎn)率、新生嬰兒死亡率等等。因此，要解釋這些復(fù)雜經(jīng)濟(jì)現(xiàn)象或經(jīng)濟(jì)相關(guān)現(xiàn)象，那么在建立回歸模型的時(shí)候必須納入多個(gè)解釋變量，以充分反映多種因素對(duì)因變量的影響。2多元回歸模型的一般形式總體回歸函數(shù)的隨機(jī)形式總體回歸函數(shù)的確定形式3二元回歸實(shí)例

研究美國(guó)非農(nóng)業(yè)未償還抵押貸款余額與個(gè)人收入和抵押貸款費(fèi)用的關(guān)系。Y：美國(guó)非農(nóng)業(yè)未償還抵押貸款余額(億美元)。X2：個(gè)人收入總水平(億美元)。X3：抵押貸款費(fèi)用（%）442、數(shù)據(jù)表53、回歸結(jié)果

66工資方程educ:

受教育的年數(shù)exper:

工作經(jīng)歷tenure:

現(xiàn)任職務(wù)的任期當(dāng)一個(gè)人在同一企業(yè)多待一年，對(duì)工資的影響？78矩陣X稱為“數(shù)據(jù)矩陣”，是由k-1個(gè)解釋變量的n組觀測(cè)值加上n個(gè)常變量1構(gòu)成。9經(jīng)典正態(tài)線性回歸模型基本假定1011121314樣本回歸模型樣本回歸函數(shù)的隨機(jī)形式樣本回歸函數(shù)的確定形式1516

最小二乘原理

構(gòu)造合適的估計(jì)量，使得殘差平方和最小。估計(jì)方法：最小二乘法17OLS估計(jì)量的推導(dǎo)18192021222324252627最小二乘估計(jì)量的決定式28三變量模型回歸系數(shù)的OLS估計(jì)量29偏回歸系數(shù)的含義偏回歸系數(shù)體現(xiàn)的是解釋變量對(duì)因變量的凈影響或直接影響。一元回歸模型中的回歸系數(shù)體現(xiàn)的是解釋變量對(duì)因變量的總影響，包括直接影響和間接影響。30

j也被稱為偏回歸系數(shù)，表示在其他解釋變量保持不變的情況下，Xj每變化1個(gè)單位時(shí)，Y的均值E(Y)的變化;

或者說(shuō)

j給出了Xj的單位變化對(duì)Y均值的“直接”或“凈”（不含其他變量）影響。31最小二乘估計(jì)量的優(yōu)良性質(zhì)

高斯—馬爾可夫定理

在經(jīng)典線性回歸模型的假定條件下，最小二乘估計(jì)量，在所有無(wú)偏線性估計(jì)量中，具有最小方差，也就是說(shuō)，它們是最優(yōu)線性無(wú)偏估計(jì)量。

最優(yōu)線性無(wú)偏估計(jì)量(BLUE)Bestlinearunbiasedestimator

同時(shí)滿足“線性”、“無(wú)偏”、“方差最小”三個(gè)優(yōu)良性質(zhì)的估計(jì)量。

32

隨機(jī)干擾項(xiàng)的方差通常是未知的，因此，回歸系數(shù)估計(jì)量真正的方差協(xié)方差矩陣也就不能確定。通常用模型的回歸標(biāo)準(zhǔn)誤去替代隨機(jī)干擾項(xiàng)的標(biāo)準(zhǔn)差，則可以得到回歸系數(shù)估計(jì)量的樣本方差協(xié)方差矩陣。根據(jù)此矩陣，可以得到回歸系數(shù)估計(jì)量的樣本方差和樣本標(biāo)準(zhǔn)誤。33OLS估計(jì)量的概率分布

知道了統(tǒng)計(jì)量的概率分布，并且根據(jù)樣本數(shù)據(jù)能夠計(jì)算出具體的統(tǒng)計(jì)值，從而可以很方便地進(jìn)行回歸系數(shù)的區(qū)間估計(jì)和假設(shè)檢驗(yàn)。34檢驗(yàn)一：回歸系數(shù)顯著性檢驗(yàn)

檢驗(yàn)單個(gè)回歸系數(shù)的顯著性。檢驗(yàn)方法與雙變量模型的回歸系數(shù)顯著性檢驗(yàn)沒(méi)有本質(zhì)區(qū)別，但需要特別注意t統(tǒng)計(jì)量的自由度個(gè)數(shù)。35變量的顯著性檢驗(yàn)（t檢驗(yàn)）

方程的總體線性關(guān)系顯著

每個(gè)解釋變量對(duì)被解釋變量的影響都是顯著的。因此，必須對(duì)每個(gè)解釋變量進(jìn)行顯著性檢驗(yàn)，以決定是否作為解釋變量被保留在模型中。這一檢驗(yàn)是由對(duì)變量的t檢驗(yàn)完成的。36

設(shè)計(jì)原假設(shè)與備擇假設(shè)：

H1：

i

0

給定顯著性水平

，可得到臨界值t

/2(n-k-1)，由樣本求出統(tǒng)計(jì)量t的數(shù)值，通過(guò)

|t|

t

/2(n-k-1)或|t|≤t

/2(n-k-1)來(lái)拒絕或接受原假設(shè)H0，從而判定對(duì)應(yīng)的解釋變量是否應(yīng)包括在模型中。

H0：

i=0

（i=1,2…k）

注意：此處的k表示模型中偏斜率系數(shù)的個(gè)數(shù).37注意：一元線性回歸中，t檢驗(yàn)與F檢驗(yàn)一致

t檢驗(yàn)與F檢驗(yàn)都是對(duì)相同的原假設(shè)H0：

1=0

進(jìn)行檢驗(yàn).（假設(shè)常數(shù)項(xiàng)為

0

）所以，一元線性回歸中，t檢驗(yàn)與F檢驗(yàn)一致。38檢驗(yàn)二：回歸模型的擬合優(yōu)度檢驗(yàn)稱為“多元判定系數(shù)”39“判定系數(shù)”的含義和性質(zhì)判定系數(shù)度量了因變量的總變異在多大比例上可以由回歸模型來(lái)解釋，體現(xiàn)了回歸模型對(duì)樣本觀測(cè)值的擬合優(yōu)度，在一定程度上反映了模型的優(yōu)良程度。判定系數(shù)在0到1之間。4041由R2的計(jì)算式可看出，R2隨解釋變量的增加而可能提高（不可能降低）：

與解釋變量X的個(gè)數(shù)無(wú)關(guān)，而則可能隨著解釋變量的增加而減少（至少不會(huì)上升），因而，不同的SRF，得到的R2就可能不同。必須消除這種因素，使R2即能說(shuō)明被解釋的離差與總離差之間的關(guān)系，又能說(shuō)明自由度的數(shù)目。4242

引入調(diào)整擬合優(yōu)度的作用添加解釋變量，擬合優(yōu)度增加調(diào)整的擬合優(yōu)度當(dāng)變量個(gè)數(shù)增加到一定程度時(shí)，開(kāi)始下降43*2、赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則為了比較所含解釋變量個(gè)數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標(biāo)準(zhǔn)還有:

赤池信息準(zhǔn)則（Akaikeinformationcriterion,AIC）施瓦茨準(zhǔn)則（Schwarzcriterion，SC）442、赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則這兩準(zhǔn)則均要求僅當(dāng)所增加的解釋變量能夠減少AIC值或AC值時(shí)才在原模型中增加該解釋變量。45檢驗(yàn)三：方程顯著性檢驗(yàn)（F檢驗(yàn)）把模型作為一個(gè)整體進(jìn)行假設(shè)檢驗(yàn)，檢驗(yàn)?zāi)Ｐ椭幸蜃兞颗c解釋變量之間的線性關(guān)系是否顯著成立。檢驗(yàn)方案：46檢驗(yàn)思路：方差分析對(duì)TSS的組成部分進(jìn)行研究叫做方差分析。TSS——自由度n-1ESS——自由度k-1RSS——自由度n-k47F檢驗(yàn)的拒絕域4849

2、關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)關(guān)系的討論

注意：此處的k表示模型中偏斜率系數(shù)的個(gè)數(shù).5051

答：有時(shí)方程通過(guò)總體線性關(guān)系的顯著性檢驗(yàn)（F檢驗(yàn)），但計(jì)算得到的校正（或調(diào)整）后的擬合優(yōu)度值比較小，比如0.2左右。此時(shí)，我們不應(yīng)對(duì)校正后的擬合優(yōu)度值過(guò)分苛求，更重要的是要考察模型的經(jīng)濟(jì)關(guān)系是否合理。52四、參數(shù)的置信區(qū)間

參數(shù)的置信區(qū)間用來(lái)考察：在一次抽樣中所估計(jì)的參數(shù)值離參數(shù)的真實(shí)值有多“近”。

注意：此處的k表示模型中偏斜率系數(shù)的個(gè)數(shù).535455如何才能縮