第2章 回歸概述

1第二章

經(jīng)典單方程計(jì)量經(jīng)濟(jì)學(xué)模型：

一元線(xiàn)性回歸模型

線(xiàn)性回歸的基本思想：

雙變量模型2線(xiàn)性回歸的基本思想：雙變量模型回歸分析概述參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ皖A(yù)測(cè)回歸分析構(gòu)成計(jì)量經(jīng)濟(jì)學(xué)的方法論基礎(chǔ)3線(xiàn)性回歸的基本思想：雙變量模型

本節(jié)課的內(nèi)容回歸分析的含義總體回歸函數(shù)樣本回歸函數(shù)總體回歸模型回歸分析的目的樣本回歸模型隨機(jī)誤差項(xiàng)的性質(zhì)二、參數(shù)估計(jì)一、回歸分析概述最小二乘原理OLS下如何進(jìn)行參數(shù)估計(jì)4一、回歸分析的含義變量間的關(guān)系回歸分析的含義回歸分析的主要內(nèi)容線(xiàn)性回歸分析的“特殊”含義從雙變量到多變量的線(xiàn)性回歸5變量間的關(guān)系6確定性關(guān)系或函數(shù)關(guān)系統(tǒng)計(jì)依賴(lài)或相關(guān)關(guān)系經(jīng)濟(jì)變量之間的關(guān)系相關(guān)分析回歸分析線(xiàn)性關(guān)系非線(xiàn)性關(guān)系變量間的關(guān)系7相關(guān)分析(correlationanalysis):對(duì)稱(chēng)地對(duì)待任何（兩個(gè)）變量，兩個(gè)變量都被看作是隨機(jī)的回歸分析

(regressionanalysis):對(duì)變量的處理方法存在不對(duì)稱(chēng)性，即區(qū)分應(yīng)變量（被解釋變量）和自變量（解釋變量）：前者是隨機(jī)變量，后者不是回歸分析/相關(guān)分析研究一個(gè)變量對(duì)另一個(gè)（些）變量的統(tǒng)計(jì)依賴(lài)關(guān)系，但它們并不意味著一定有因果關(guān)系被解釋變量（因變量）解釋變量（自變量）回歸分析情況下隨機(jī)變量非隨機(jī)變量因果關(guān)系的判定或推斷必須建立在經(jīng)實(shí)踐檢驗(yàn)的相關(guān)理論基礎(chǔ)之上8是用于研究一個(gè)變量與另一個(gè)（些）變量的具體依賴(lài)關(guān)系的計(jì)算方法和理論。被解釋變量（因變量）Y解釋變量（自變量）X1、X2、……目的：在于通過(guò)自變量的已知或設(shè)定值，去估計(jì)和（或）預(yù)測(cè)因變量的（總體）均值。估計(jì)預(yù)測(cè)農(nóng)作物的產(chǎn)量示例：回歸分析(regressionanalysis)的含義9“線(xiàn)性”回歸的特殊含義變量線(xiàn)性參數(shù)線(xiàn)性應(yīng)變量的條件均值是自變量的線(xiàn)性函數(shù)應(yīng)變量的條件均值是參數(shù)的線(xiàn)性函數(shù)，變量之間并不一定是線(xiàn)性的線(xiàn)性回歸是指參數(shù)線(xiàn)性的回歸（即參數(shù)僅以一次方的形式出現(xiàn)在模型中），而解釋變量并不一定是線(xiàn)性的。2023/10/15計(jì)量經(jīng)濟(jì)學(xué)講義10“線(xiàn)性”的含義“線(xiàn)性”可作為兩種解釋?zhuān)簩?duì)變量的線(xiàn)性和對(duì)參數(shù)的線(xiàn)性。本課“線(xiàn)性”回歸一詞總是指對(duì)參數(shù)

為線(xiàn)性的一種回歸（即參數(shù)只以它的1次方出現(xiàn)）。2023/10/15計(jì)量經(jīng)濟(jì)學(xué)講義11線(xiàn)性回歸的特殊含義:2023/10/15計(jì)量經(jīng)濟(jì)學(xué)講義126.6:“線(xiàn)性”特殊含義：一解釋變量的線(xiàn)性:是被解釋變量y與解釋變量x之間為線(xiàn)性關(guān)系，即解釋變量x僅以一次方的形式出現(xiàn)在模型之中。用數(shù)學(xué)語(yǔ)言表示為：二是被解釋變量x與參數(shù)之間為線(xiàn)性關(guān)系，即參數(shù)僅以一次方的形式出現(xiàn)在模型之中。用數(shù)學(xué)語(yǔ)言表示為：在經(jīng)濟(jì)計(jì)量學(xué)中，我們更關(guān)心被解釋變量y與參數(shù)之間的線(xiàn)性關(guān)系。因?yàn)橹灰唤忉屪兞縴與參數(shù)之間2023/10/15計(jì)量經(jīng)濟(jì)學(xué)講義13為線(xiàn)性關(guān)系，即使被解釋變量y與解釋變量x之間不為線(xiàn)性關(guān)系，我們也可以通過(guò)變量替換方便地將其化為線(xiàn)性。例如，模型就屬于被解釋變量y與解釋變量x之間不為線(xiàn)性關(guān)系的情形，如果我們令，此時(shí)非線(xiàn)性模型就變成線(xiàn)性模型了。三、一元線(xiàn)性回歸模型中隨機(jī)項(xiàng)的假定在給定樣本觀(guān)測(cè)值（樣本值），1,2,3,…,n后，為了估計(jì)（2.1.5）式的參數(shù)和，必須對(duì)隨機(jī)項(xiàng)做出某些合理的假定。這些假定通常稱(chēng)為古典假設(shè)。

2023/10/15計(jì)量經(jīng)濟(jì)學(xué)講義14“線(xiàn)性”的含義Y=

1+

2X+u是線(xiàn)性的！lnY=

1+

2lnX+u也是線(xiàn)性的！Y=

1ln(

2X+u）不是線(xiàn)性的！15從雙變量回歸到多元線(xiàn)性回歸16（1）根據(jù)自變量的取值，估計(jì)應(yīng)變量的均值。即根據(jù)樣本觀(guān)察值對(duì)經(jīng)濟(jì)計(jì)量模型參數(shù)進(jìn)行估計(jì)，求得回歸方程；（2）對(duì)回歸方程、參數(shù)估計(jì)值進(jìn)行顯著性檢驗(yàn)；（3）根據(jù)樣本外自變量的取值，預(yù)測(cè)應(yīng)變量的均值。即利用回歸方程進(jìn)行分析、評(píng)價(jià)及預(yù)測(cè)。

回歸分析的主要內(nèi)容估計(jì)檢驗(yàn)預(yù)測(cè)17例2.1：背景介紹

SAT是ScholasticAptitudeTest，是美國(guó)高中生的所謂“高考”，在高中的最后兩年，大部分美國(guó)學(xué)生都要參加這一考試，但能否讀四年制大學(xué)并不取決于一個(gè)SAT分?jǐn)?shù)。SAT由美國(guó)的CollegeBoard舉辦，在美國(guó)領(lǐng)土上每年舉辦7次，其它地方每年6次?？荚囉糜⒄Z(yǔ)。SAT包括三種測(cè)試:1、CriticalReading：閱讀；2、Math：數(shù)學(xué)；3、Writing：寫(xiě)作。二、總體回歸函數(shù)18例2.1：假定我們感興趣的是學(xué)生的家庭年收入與其數(shù)學(xué)分?jǐn)?shù)有怎樣的關(guān)系。家庭年收入X數(shù)學(xué)分?jǐn)?shù)Y70000~80000美元20000~30000美元30000~40000美元40000~50000美元<10000美元50000~60000美元60000~70000美元10000~20000美元80000~90000美元>100000美元收入變量X分為10組19一個(gè)家庭年收入5000美元的學(xué)生，其數(shù)學(xué)分?jǐn)?shù)為460，X=5000，Y1=460;另一家庭年收入為5000美元的學(xué)生，其數(shù)學(xué)分?jǐn)?shù)為470，X=5000，Y1=470……。這10個(gè)家庭收入為5000美元的學(xué)生，其數(shù)學(xué)平均分?jǐn)?shù)為452。20Y1|X=5000=460；Y2|X=5000=470；Y3|X=5000=460；Y4|X=5000=420；Y5|X=5000=440；Y6|X=5000=500；Y7|X=5000=420；Y8|X=5000=410；Y9|X=5000=450；Y10|X=5000=490E(Y|X1=5000)=452同理：E(Y|X2=15000)=475同理：E(Y|X3=25000)=478同理：E(Y|X4=25000)=478同理：E(Y|X5=35000)=488……………同理：E(Y|X10=150000)=552（家庭收入、數(shù)學(xué)分?jǐn)?shù)的條件均值）（家庭收入，數(shù)學(xué)分?jǐn)?shù)值）做散點(diǎn)圖21圖2-1家庭年收入與數(shù)學(xué)S.A.T分?jǐn)?shù)學(xué)分?jǐn)?shù)值數(shù)學(xué)分?jǐn)?shù)的條件均值總體回歸線(xiàn)：條件均值的連線(xiàn)22由于圖2-1的總體回歸線(xiàn)近似線(xiàn)性，因此可表達(dá)為一線(xiàn)性函數(shù)：其中，

0，

1是未知參數(shù)，稱(chēng)為回歸系數(shù)（regressioncoefficients）?？傮w回歸函數(shù)

1是斜率，它表示X每變動(dòng)一個(gè)單位，Y（條件）均值的變化率。例：如果1=0.001，表示家庭收入每增加1千美元，預(yù)期數(shù)學(xué)平均分會(huì)提高1分。確定性非隨機(jī)總體回歸函數(shù)23這意味著Y依賴(lài)于X，也稱(chēng)為Y對(duì)X的回歸。即給定X的條件下，Y分布的均值；或者說(shuō)，總體回歸線(xiàn)穿過(guò)Y的條件期望值。因此，嚴(yán)格地說(shuō)，回歸分析是條件回歸分析，關(guān)注的是在給定自變量取值條件下應(yīng)變量的變化。24三、總體回歸模型（總體回歸函數(shù)的統(tǒng)計(jì)或隨機(jī)設(shè)定）如何解釋個(gè)體學(xué)生分?jǐn)?shù)與收入的關(guān)系呢？個(gè)體數(shù)學(xué)分?jǐn)?shù)=這一組的平均分+（-）某個(gè)值隨機(jī)誤差項(xiàng)總體回歸函數(shù)的統(tǒng)計(jì)或隨機(jī)設(shè)定總體回歸模型如何理解該式？是一隨機(jī)變量，其值無(wú)法先驗(yàn)確定，通常用概率分布描述隨機(jī)變量25系統(tǒng)或確定性成分非系統(tǒng)或確定性隨機(jī)成分系統(tǒng)或確定性成分（452）非系統(tǒng)或隨機(jī)成分（18）（528）（-28）26表示在給定收入水平X下，該組學(xué)生的數(shù)學(xué)平均分。表示由于誤差項(xiàng)的存在，個(gè)人數(shù)學(xué)分?jǐn)?shù)在均值附近是如何變動(dòng)的。確定或非隨機(jī)總體回歸函數(shù)（總體回歸函數(shù)）隨機(jī)或統(tǒng)計(jì)總體回歸函數(shù)（總體回歸模型）27總體回歸函數(shù)說(shuō)明在給定的收入水平Xi下，該組的數(shù)學(xué)平均分。但對(duì)該組某一個(gè)別的學(xué)生，其數(shù)學(xué)分?jǐn)?shù)可能與該組平均分?jǐn)?shù)有偏差。稱(chēng)

i為觀(guān)察值Yi圍繞它的期望值E(Y|Xi)的離差（deviation），是一個(gè)不可觀(guān)測(cè)的隨機(jī)變量，又稱(chēng)為隨機(jī)干擾項(xiàng)（stochasticdisturbance）或隨機(jī)誤差項(xiàng)（stochasticerror）。記四、隨機(jī)誤差項(xiàng)281）在解釋變量中被忽略的因素的影響；如個(gè)人健康狀況、居住區(qū)域、學(xué)校開(kāi)設(shè)的數(shù)學(xué)課程等因素。2）變量觀(guān)測(cè)值的觀(guān)測(cè)誤差的影響；3）即使模型中包含了所有解釋變量，但其內(nèi)在隨機(jī)性不可避免，這是做任何努力都無(wú)法解釋的。因?yàn)?，人?lèi)的行為存在內(nèi)在隨機(jī)性；4）其它隨機(jī)因素的影響。奧卡姆剃刀原則。即模型是現(xiàn)實(shí)的簡(jiǎn)化，描述應(yīng)盡可能簡(jiǎn)單，只要不遺漏重要的信息。隨機(jī)誤差項(xiàng)主要包括下列因素的影響：29如何得到總體回歸函數(shù)中呢？五、樣本回歸函數(shù)（SRF）如果已知表2-1的全體數(shù)據(jù)，則很容易得到總體回歸線(xiàn)如果僅僅有來(lái)自總體的一個(gè)樣本，則可根據(jù)樣本信息估計(jì)總體回歸函數(shù)30五、樣本回歸函數(shù)（SRF）31實(shí)際中很少能獲得整個(gè)總體的數(shù)據(jù)，通常，僅僅有來(lái)自總體的某一個(gè)樣本。問(wèn)題：能從一次抽樣中獲得總體的近似的信息嗎？五、樣本回歸函數(shù)（SRF）32根據(jù)表2-2、表2-3的數(shù)據(jù)做散點(diǎn)圖（scatterdiagram)：樣本回歸線(xiàn)K個(gè)不同的樣本可得到K條不同的樣本回歸線(xiàn)33

記樣本回歸線(xiàn)的函數(shù)形式為：稱(chēng)為樣本回歸函數(shù)（sampleregressionfunction，SRF）五、樣本回歸函數(shù)（SRF）34

這里將樣本回歸線(xiàn)看成總體回歸線(xiàn)的近似替代則

注意：五、樣本回歸函數(shù)（SRF）35同樣地，樣本回歸函數(shù)也有如下的隨機(jī)形式：

由于方程中引入了隨機(jī)項(xiàng)，成為計(jì)量經(jīng)濟(jì)模型，因此也稱(chēng)為樣本回歸模型（sampleregressionmodel）。

六、樣本回歸函數(shù)的隨機(jī)形式/樣本回歸模型36

根據(jù)樣本回歸函數(shù)SRF即，根據(jù)

估計(jì)七、回歸分析的目的PRFSRF估