3.計(jì)量經(jīng)濟(jì)學(xué)第三講-雙變量線性回歸模型

1、Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE Tuesday, 7 Oct. 2008CUFE Tuesday,

2、7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFEttxYE)(tttxYtttxYTuesday, 7 Oct. 2008CUFEttXYttteXYYtYTuesday, 7 Oct. 2008CUFEtttYYetttXYe 圖圖 3-23-2XY,XttYtYOetYTuesday, 7 Oct. 2008CUFE)(tttXYe22tttYYe22tttXYeQ22t

3、ttXYeTuesday, 7 Oct. 2008CUFE022tttXYe022ttttXXYettXnY2ttttXXYX0te0tteXTuesday, 7 Oct. 2008CUFE 根據(jù)前面的結(jié)果，我們有 , 其中 到此樣本回歸模型的參數(shù)就估計(jì)出來了。對(duì)于這個(gè)結(jié)果需要注意的是：這里的 和 都是Y的函數(shù)，因而是隨機(jī)變量隨機(jī)變量。因此，從理論上說，隨機(jī)變量是一個(gè)概率分布，而不是一個(gè)或幾個(gè)固定的值。YYyXXxtttt,XY3.143.152tttxyxTuesday, 7 Oct. 2008CUFE考慮Yt = + Xt + ut; t = 1, 2, , n的兩種特殊情況Yt = +

4、ut; t = 1, 2, , n此時(shí)，殘差平方和 。令整理，得 ，故有 。22ttYe022ttYenYtYnYtTuesday, 7 Oct. 2008CUFE考慮Yt = + Xt + ut; t = 1, 2, , n的兩種特殊情況2. Yt = Xt + ut; t = 1, 2, , n此時(shí)，殘差平方和 。令整理，得 ，故有 。22tttXYe022ttttXXYetttYXX22tttXYXTuesday, 7 Oct. 2008CUFE 式（3.14）和式（3.15）定義了最小二乘估計(jì)量 和 。從具體的一組觀測(cè)值用這兩個(gè)公式便可求出截距和斜率的一對(duì)估計(jì)值。 一般而言，好的估計(jì)量

5、所產(chǎn)生的估計(jì)值將相當(dāng)接近參數(shù)的真實(shí)值。Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE 和和 的均值的均值估計(jì)值的線性性質(zhì) 所謂線性是指估計(jì)值 和 是觀測(cè)值的線性函數(shù)。 Tuesday, 7 Oct. 2008CUFE估計(jì)值的無偏性 所謂無偏性是指估計(jì)值 ， 的期望值等于總體回歸模型參數(shù) ， 的值。亦即 ， 。證明： 通過計(jì)算可知)(E)(E)()(iiYwEE)()(iiiiiiiiwXwwEXwE 1, 0iiiXww 和和 的均值的均值Tuesday, 7 Oct. 2008CUFE)()()()(iiiiEwEwEE， 其中),. 3 ,

6、 2 , 1( , 0)(niEi 所以有 )(E 同理可證 ) (E 和和 的均值的均值Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE13579111315024681002tettXY0246810121405101522YYettYYtTuesday, 7 Oct. 2008CUFE2YYtYYt024681 01 21 41 61 82 0051 01 52 0XYYYtttYYXYYY tYtYtXXYtYYYYtttYYYY Tuesday, 7 Oct. 2008CUFE YYYYY

7、YtttttteYYttttteYYeYYYY2222ttXYXY XXYYtt3.20tttteXXeYY2202ttteXeX0te0tteX222ttteYYYY3.21Tuesday, 7 Oct. 2008CUFE222ttteYYYYTuesday, 7 Oct. 2008CUFE2YYt12222YYeYYYYtttt222221YYeYYYYRttttTuesday, 7 Oct. 2008CUFE02te22YYettTuesday, 7 Oct. 2008CUFE22YYYYrtt2222222222tttttttttyxxyxyxyxtttxXXYY 22ttttyxyx

8、r2222ttttttttYYnXXnYXYXnTuesday, 7 Oct. 2008CUFEttyxTuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE最小二乘估計(jì) 和 的顯著性檢驗(yàn)與置信區(qū)間 所謂顯著性檢驗(yàn)實(shí)際上就是檢驗(yàn)估計(jì)值與總體參數(shù)值差別大小的方法。也就是數(shù)理統(tǒng)計(jì)中“假設(shè)檢驗(yàn)”方法的一種實(shí)際應(yīng)用。這里再一次指出，參數(shù)估計(jì)之所以要進(jìn)行檢驗(yàn)，是因?yàn)檫@里的 和 是隨機(jī)變量。 假設(shè) 服從正態(tài)分布，又因 和 是 的線性函數(shù)，所以也是服從正態(tài)分布的。只要計(jì)算出 和 的方差，我們就可得到tYtYTuesday, 7 Oct. 2008CUFE 在上面的分

9、布函數(shù)中，除了 和 不可能知道外，我們必須解決未知數(shù) 估計(jì)值，才可能繼續(xù)進(jìn)行顯著性檢驗(yàn)。 ),(222iixnXN ),(22ixN 2Tuesday, 7 Oct. 2008CUFE建立隨機(jī)變量方差 的估計(jì)值 采用一定的辦法是可以解決 估計(jì)值的，下面給出其推理過程，并證明其估計(jì)值 是一個(gè)無偏估計(jì)。222tTuesday, 7 Oct. 2008CUFE2Tuesday, 7 Oct. 2008CUFE下面我們分別計(jì)算上式右邊每一項(xiàng)的期望值： 2222)var()()(iixxE 其中 22)var(ix 222)(1)(iiinEE2) 1( n iiiiiiiiiiixxExxxxExE2

10、22)()()()( 2222iixx （ 注意其中222)(iiiiiiiiiixxxXxxYx 2iiixx ） Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE最小二乘估計(jì)值 ， 的顯著性檢驗(yàn) 顯著性檢驗(yàn)實(shí)際上是檢驗(yàn) ， 與 ， 之間的差距和可靠性。具體的檢驗(yàn)方法就是“假設(shè)檢驗(yàn)”的方法。 一般假設(shè)檢驗(yàn)中用來進(jìn)行檢驗(yàn)的統(tǒng)計(jì)量（實(shí)際上就是一種隨機(jī)變量）主要有二個(gè)，即Z統(tǒng)計(jì)量和T統(tǒng)計(jì)量。 （1）應(yīng)用Z統(tǒng)計(jì)量的條件是： 已知 而無論樣本的大小，或者未知 但樣本足夠的大（n至少大于30）。 22Tues

11、day, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE2）應(yīng)用 T 統(tǒng)計(jì)量的條件：當(dāng)方差2未知，且樣本小于 30 時(shí)。 已知),(222iixnXN ),(22ixN 則我們有 222iixnXT= t（n-k） 22IXT=t（n-k） 這里的 n 是樣本的個(gè)數(shù)，k 是模型中變量的個(gè)數(shù)，n-k 是自由度。 Tuesday, 7 Oct. 2008CUFE 在“假設(shè)檢驗(yàn)”的實(shí)際應(yīng)用中，一個(gè)十分重要的問題是如何確定總體意義上的 ， 的值。我們知道“總體”概念說到底只是一個(gè)設(shè)想，一個(gè)信念而已。我們不可能知道 ， 的具體值，但我們又要依據(jù)具體值才能判斷或檢驗(yàn)，是否是

12、可接受的或誤差不大。 我們只能用假設(shè)、或者具體地說是用理論假說的數(shù)量結(jié)論來替代 ， 的具體值，也就是“假設(shè)檢驗(yàn)”方法中作出“零假設(shè)”的主要依據(jù)； 這樣我們就可看到，所謂“假設(shè)檢驗(yàn)”中原來希望檢驗(yàn) ， 與 ， 之間差異的想法或思路，已經(jīng)轉(zhuǎn)變?yōu)闄z驗(yàn)是否與理論假說或其他主觀判斷和經(jīng)驗(yàn)相符。 Tuesday, 7 Oct. 2008CUFE 3、總體參數(shù) ， 置信區(qū)間的估計(jì) 為了確定 ， 是怎樣接近真實(shí)總體的參數(shù) ， ，我們期望構(gòu)造一個(gè)區(qū)間來具體加以說明，亦即建立一個(gè)圍繞估計(jì)值 ， 的一定限制范圍，來推斷總體參數(shù) ， 在一定置信度下落在此區(qū)間。 所謂置信度（或稱置信水平）實(shí)際上與顯著性水平的意義類似，

13、只是數(shù)量的大小相反而已。Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE 預(yù)測(cè)的概念根據(jù)最小二乘法我們從樣本模型 iiieXY 找到了它的回歸直線 iiXY 我們已對(duì) ，作了檢驗(yàn)并通過后，應(yīng)該可以根據(jù)上式 來進(jìn)行預(yù)測(cè)了，亦即對(duì)于0X，可得到0Y，亦即 00XY 我們要具體考察0Y性質(zhì)，實(shí)際上主要是分析它的誤差性質(zhì)， Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008C

14、UFE（2）如果把0Y看作真正總體0Y或000XY的 預(yù)測(cè)估計(jì)值，其性質(zhì)和結(jié)果又會(huì)什么變化呢？下面我們來 具體看看這種情況下0Y的期望值和方差： 對(duì)于給定的0X，有 000XY 00XY 則 0000)() (XYY 取其期望值，則有 0)()() ()(0000EXEEYYE Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE 預(yù)測(cè)誤差的方差=抽樣誤差的方差+隨機(jī)誤差項(xiàng)的方差 這個(gè)結(jié)論表明，人為降低預(yù)測(cè)誤差只能在抽樣誤差的方差方面作 出努力，而其存在的隨機(jī)誤差是無法避免或改變的。 通過上面的討論和計(jì)算，我們就可以進(jìn)一步對(duì)0Y進(jìn)行顯著性檢驗(yàn) 和計(jì)算

15、其置信區(qū)間。下面只介紹T統(tǒng)計(jì)量檢驗(yàn)的情形，對(duì)于0Y構(gòu)造的 T統(tǒng)計(jì)量為 )(0000YYYYT t（n-k） 具有n-k個(gè)自由度 具體的檢驗(yàn)過程和置信區(qū)間的推導(dǎo)過程這里就省略了。 Tuesday, 7 Oct. 2008CUFE 0 X0 X Ynt112X2202)(11xXXntTuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct.

16、 2008CUFE釋釋“學(xué)學(xué)”學(xué)學(xué)繁體字繁體字簡(jiǎn)化字簡(jiǎn)化字說文說文小篆小篆Tuesday, 7 Oct. 2008CUFE說文說文卜部卜部“卜，灼卜，灼剝龜也。剝龜也?！倍斡癫米ⅲ憾斡癫米ⅲ骸白苿冋?，謂炙而裂灼剝者，謂炙而裂之。之?！薄肮咆懓阌械湣比尾芳?這是一塊完整卜甲。這是一塊完整卜甲。商代時(shí)所用龜甲，多商代時(shí)所用龜甲，多數(shù)用腹甲，少數(shù)也有數(shù)用腹甲，少數(shù)也有用背甲。還有甲橋刻用背甲。還有甲橋刻辭，甲尾刻辭。通過辭，甲尾刻辭。通過這片卜甲，可以了解這片卜甲，可以了解甲骨文的選料、制作、甲骨文的選料、制作、記敘等內(nèi)容。記敘等內(nèi)容。釋釋“學(xué)學(xué)”Tuesday, 7 Oct. 2008CUFE釋

17、釋“教育教育”（一）釋“教”“教，上所施，下所效也。教，上所施，下所效也?！保ㄕf文解字說文解字）小篆小篆“教教”字字Tuesday, 7 Oct. 2008CUFE釋釋“教育教育”甲骨文“學(xué)”字甲骨文“教”字Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETues

18、day, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct.

19、2008CUFETuesday, 7 Oct. 2008CUFE平穩(wěn)時(shí)間序列非平穩(wěn)時(shí)間序列季節(jié)性時(shí)間序列Tuesday, 7 Oct. 2008CUFE一個(gè)預(yù)測(cè)模型的好壞應(yīng)根據(jù)下述原一個(gè)預(yù)測(cè)模型的好壞應(yīng)根據(jù)下述原則進(jìn)行評(píng)價(jià)和選擇：則進(jìn)行評(píng)價(jià)和選擇：模型的選擇與數(shù)據(jù)模式是否相符，例如模型的選擇與數(shù)據(jù)模式是否相符，例如是否有趨勢(shì)，是否是季節(jié)性的等等；是否有趨勢(shì)，是否是季節(jié)性的等等；所選擇的模型是否與預(yù)測(cè)目的相符；所選擇的模型是否與預(yù)測(cè)目的相符；1.1. 預(yù)測(cè)精度是否滿足要求，預(yù)測(cè)精度一般預(yù)測(cè)精度是否滿足要求，預(yù)測(cè)精度一般可用均方差、相對(duì)誤差及其平均值表示；可用均方差、相對(duì)誤差及其平均值表示；Tue

20、sday, 7 Oct. 2008CUFE一個(gè)預(yù)測(cè)模型的好壞應(yīng)根據(jù)下述原一個(gè)預(yù)測(cè)模型的好壞應(yīng)根據(jù)下述原則進(jìn)行評(píng)價(jià)和選擇：則進(jìn)行評(píng)價(jià)和選擇： 預(yù)測(cè)期限與選擇的方法是否相符，長(zhǎng)期預(yù)測(cè)期限與選擇的方法是否相符，長(zhǎng)期預(yù)測(cè)一般選擇定性方法，短期預(yù)測(cè)一般預(yù)測(cè)一般選擇定性方法，短期預(yù)測(cè)一般選擇定量方法，短期預(yù)測(cè)多用指數(shù)平滑選擇定量方法，短期預(yù)測(cè)多用指數(shù)平滑法，回歸分析多用于中、長(zhǎng)期預(yù)測(cè)；法，回歸分析多用于中、長(zhǎng)期預(yù)測(cè)； 預(yù)測(cè)費(fèi)用，指數(shù)平滑法費(fèi)用最低，回歸預(yù)測(cè)費(fèi)用，指數(shù)平滑法費(fèi)用最低，回歸分析次之，多元回歸最高；分析次之，多元回歸最高；4.4.應(yīng)用模型的難易程度應(yīng)用模型的難易程度Tuesday, 7 Oct.

21、 2008CUFETuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE同方差異方差1異方差2異方差3Tuesday, 7 Oct. 2008CUFE limEn 0limVarn E2112nttnttXXxlimnP 022txVarTuesday, 7 Oct. 2008CUFEtttttukxux2nt, 2 , 1Tuesday, 7 Oct. 2008CUFETuesday, 7 Oct. 2008CUFE( , )f xTuesday, 7 Oct. 2008CUFE44610(4)(1)P XCpp0.10.30.40.50.8pppp

22、pTuesday, 7 Oct. 2008CUFEppppp44610(1)LC pp0dLdppTuesday, 7 Oct. 2008CUFE二、正態(tài)分布參數(shù)的極大似然估計(jì)二、正態(tài)分布參數(shù)的極大似然估計(jì) 給定一個(gè)取自正態(tài)分布的隨機(jī)樣本X1，X2,Xn，我們希望估計(jì)總體均值和總體方差。我們有該樣本的似然 L= P(樣本值為X1,X2,Xn)22()21( )2ixiP xe2221222212()()()22222() (). ()111()().()222()1() exp22nnXXXinP XP XP XeeXeTuesday, 7 Oct. 2008CUFE令 我們可求得：我們有而2

23、ln0ln0LLu22()iiXXnXXn2222( )(1)()EnEnn這表明 22是的無偏估計(jì)量，而是的有偏估計(jì)量。Tuesday, 7 Oct. 2008CUFE三、雙變量線性回歸模型的極大似然估計(jì)三、雙變量線性回歸模型的極大似然估計(jì)模型：假設(shè)（與最小二乘法相同）：tttYXu22()0,(),()0,ttijttE uE uE u uijXu為非隨機(jī)的，服從正態(tài)分布。由假設(shè)我們有因而 2(,)tNXtY22()21( )2ttYXtP Ye Tuesday, 7 Oct. 2008CUFE故對(duì)于Y1,Y2,Yn，有12( ) (). ()nLP Y P YP Y22()21()2tt

24、YXne 當(dāng)L被看作是參數(shù) 的函數(shù)時(shí)，稱為似然函數(shù)，表示為 ，極大似然法要求我們選擇使似然函數(shù)達(dá)到最大的參數(shù)估計(jì)值。在很多情況下，極大化似然函數(shù)的對(duì)數(shù)要比極大化似然函數(shù)本身方便一些，并且結(jié)果相同，因?yàn)槎咴谙嗤狞c(diǎn)獲得最大值，因此我們寫出 的對(duì)數(shù)：2（ ， ，）2L（ ， ，）2L（ ， ，）Tuesday, 7 Oct. 2008CUFE222()lnln(2 )ln()222ttYXnnL 令2lnlnln0,0,0()LLL 得：222()ttttttttYnXX YXXYXn不難看出，前兩式與用普通最小二乘法得出的正規(guī)方程相同，故 。但最后一式表明， 的極大似然估計(jì)量與最小二乘估計(jì)量不同。 , 2Tuesday, 7 Oct. 2008CUFE最小二乘估計(jì)量 是一個(gè)無偏估計(jì)量。而 這表明 是一個(gè)有偏估計(jì)量。不難看出，當(dāng)樣本容量趨向無窮時(shí)，即 是一個(gè)漸近無偏估計(jì)量。222()22ttteYXnn22222(2)2()()tenEEnnn22()ttYX