第三章計(jì)量經(jīng)濟(jì)學(xué)-一元線(xiàn)性.ppt

1、第二章 復(fù)習(xí),什么是方差？標(biāo)準(zhǔn)差？ 移動(dòng)平均有什么作用？一般什么情況下使用？移動(dòng)跨度由什么來(lái)決定？ 什么是卡方分布？正態(tài)分布？T分布？F分布？它們的形狀各有哪些特征？ 參數(shù)檢驗(yàn)時(shí)一般用什么分布？為什么？ 模型總體檢驗(yàn)時(shí)用什么分布？,第三章 一元線(xiàn)性回歸模型 第一節(jié) 回歸的基本概念 一、相關(guān),函數(shù)關(guān)系：兩個(gè)變量之間存在完全確定性關(guān)系。 如 價(jià)格 銷(xiāo)售量 = 銷(xiāo)售收入 相關(guān)關(guān)系：兩個(gè)變量之間存在非確定性依存關(guān)系。 如 需求量 與價(jià)格 之間的關(guān)系 Y = b0 + b1X + u 因變量 自變量 被解釋變量 解釋變量,不線(xiàn)性相關(guān)并不意味著不相關(guān)； 有相關(guān)關(guān)系并不意味著一定有因果關(guān)系； 回歸分析/相關(guān)

2、分析研究一個(gè)變量對(duì)另一個(gè)（些）變量的統(tǒng)計(jì)依賴(lài)關(guān)系，但它們并不意味著一定有因果關(guān)系。 相關(guān)分析對(duì)稱(chēng)地對(duì)待任何（兩個(gè)）變量，兩個(gè)變量都被看作是隨機(jī)的。回歸分析對(duì)變量的處理方法存在不對(duì)稱(chēng)性，即區(qū)分應(yīng)變量（被解釋變量）和自變量（解釋變量）：前者是隨機(jī)變量，后者不是。,注意：,二、回歸,1889年F.Gallton和他的朋友K.Pearson收集了上千個(gè)家庭的身高、臂長(zhǎng)和腿長(zhǎng)的記錄 企圖尋找出兒子們身高與父親們身高之間關(guān)系的具體表現(xiàn)形式 下圖是根據(jù)1078個(gè)家庭的調(diào)查所作的散點(diǎn)圖（略圖）,父親身高,兒子身高,“回歸”一詞的由來(lái),從圖上雖可看出，個(gè)子高的父親確有生出個(gè)子高的兒子的傾向，同樣地，個(gè)子矮的父親

3、確有生出個(gè)子矮的兒子的傾向。得到的具體規(guī)律如下： 如此以來(lái)，高的越來(lái)越高，矮的越來(lái)越矮。他百思不得其解，同時(shí)又發(fā)現(xiàn)某些人種的平均身高是相當(dāng)穩(wěn)定的。最后得到結(jié)論：兒子們的身高回復(fù)于全體男子的平均身高，即“回歸”見(jiàn)1889年F.Gallton的論文普用回歸定律。 后人將此種方法普遍用于尋找變量之間的規(guī)律。,回歸現(xiàn)象與規(guī)模建立,.,.,X1,X2,E(Y|X) = b0 + b1X,Y,f(Y|X),（1）由于不確定因素的影響，對(duì)同一收入水平X，不同家庭的消費(fèi)支出不完全相同； （2）但由于調(diào)查的完備性，給定收入水平X的消費(fèi)支出Y的分布是確定的，即以X的給定值為條件的Y的條件分布（Conditiona

4、l distribution）是已知的， 如： P(Y=561|X=800）=1/4。,因此，給定收入X的值Xi，可得消費(fèi)支出Y的條件均值（conditional mean）或條件期望（conditional expectation）： E(Y|X=Xi),該例中：E(Y | X=800)=561,分析：,描出散點(diǎn)圖發(fā)現(xiàn)：隨著收入的增加，消費(fèi)“平均地說(shuō)”也在增加，且Y的條件均值均落在一根正斜率的直線(xiàn)上。這條直線(xiàn)稱(chēng)為總體回歸線(xiàn)。,三、隨機(jī)擾動(dòng)項(xiàng) u 產(chǎn)生的原因,Y = bo + b1 X + u 1. 客觀現(xiàn)象的隨機(jī)性質(zhì) 2. 模型中省略的變量 3. 測(cè)量與歸并誤差 4. 數(shù)學(xué)模型形式設(shè)定造成的

5、誤差,四、總體回歸方程和樣本回歸方程 Population regression function Sample regression function,樣本回歸方程 Yi= b0 + b1 Xi,總體回歸方程 Yi= b0 + b1 Xi,回歸分析的主要目的：根據(jù)樣本回歸函數(shù)SRF，估計(jì)總體回歸函數(shù)PRF。,注意：這里PRF可能永遠(yuǎn)無(wú)法知道。,即，根據(jù),估計(jì),第二節(jié) 參數(shù)的最小二乘估計(jì),一、線(xiàn)性回歸模型的基本假定,1.零均值假定：隨機(jī)擾動(dòng)項(xiàng)可正可負(fù)，有相互抵消的趨勢(shì) E(ui)=0 2.同方差假定：各次觀察值中ui具有相同的方差 Var(ui)=2 高斯馬爾柯夫假定 3.無(wú)序列相關(guān)假定：隨機(jī)

6、擾動(dòng)項(xiàng)相互獨(dú)立 Cov(ui,uj)=0 高斯馬爾柯夫假定 4.解釋變量與隨機(jī)擾動(dòng)項(xiàng)不相關(guān)假定： Cov(ui,Xi)=0 5.解釋變量之間不存在線(xiàn)性相關(guān)假定 6.隨機(jī)擾動(dòng)項(xiàng)服從正態(tài)分布,異方差情況,.,X,X1,X2,Y,f(Y|X),X3,.,.,E(Y|X) = b0 + b1X,經(jīng)典回歸其他假設(shè),參數(shù)與變量是線(xiàn)性關(guān)系； X具有確定性和變異性和方差穩(wěn)定性，且觀察次數(shù)大于參數(shù)個(gè)數(shù)； 正確設(shè)定回歸模型。,參數(shù)線(xiàn)性函數(shù),需要注意的是，在計(jì)量經(jīng)濟(jì)學(xué)中，“線(xiàn)性”指的是估計(jì)參數(shù)可以表達(dá)為樣本觀察值和誤差項(xiàng)的線(xiàn)性函數(shù)，而并不要求回歸方程中變量之間的關(guān)系一定為線(xiàn)性的。 很多變量非線(xiàn)性函數(shù)可以變換為參數(shù)線(xiàn)

7、性函數(shù)。 例：CD函數(shù) 對(duì)該函數(shù)兩邊取對(duì)數(shù)得到：LnY=0+1LnX1+2LnX2+u 即： Y*=*0+1X1*+2X2*+u 比較：,不同數(shù)學(xué)函數(shù)的性質(zhì),使用不同函數(shù)形式的經(jīng)驗(yàn)準(zhǔn)則,經(jīng)常使用對(duì)數(shù)形式的變量 必須為正值的價(jià)值指標(biāo)（GDP，價(jià)格） 數(shù)量非常大的統(tǒng)計(jì)指標(biāo) 數(shù)量級(jí)變化大的統(tǒng)計(jì)指標(biāo)（我國(guó)外貿(mào)、投資) 按時(shí)間呈現(xiàn)接近等比變化的時(shí)間序列 經(jīng)常使用原始形式(level form)的變量 按時(shí)間呈現(xiàn)等差變化的時(shí)間序列（時(shí)間趨勢(shì)變量） 比例（一、二、三產(chǎn)業(yè)占GDP比例，恩格爾系數(shù)）,總結(jié),以上假設(shè)也稱(chēng)為線(xiàn)性回歸模型的經(jīng)典假設(shè)或高斯（Gauss）假設(shè)，滿(mǎn)足該假設(shè)的線(xiàn)性回歸模型，也稱(chēng)為經(jīng)典線(xiàn)性回歸

8、模型（Classical Linear Regression Model, CLRM）。,二、普通最小二乘法（OLS）,一元線(xiàn)性回歸模型：只有一個(gè)解釋變量,i=1,2,n,Y為被解釋變量，X為解釋變量，0與1為待估參數(shù)， 為隨機(jī)干擾項(xiàng),普通最小二乘法是一種參數(shù)估計(jì)方法，確定估計(jì)參數(shù)的準(zhǔn)則是使全部觀察值的殘差平方和最小，即 ei2 min, 由此得出選擇回歸參數(shù) b0 , b1 的最小二乘估計(jì)式。,Y,X,X1,X2,X3,X4,X5,X6,e1,e2,e3,e4,e5,e6,殘差平方和,使偏導(dǎo)數(shù)為零,解得,記 X，Y的平均數(shù)（請(qǐng)同學(xué)們自己推導(dǎo)并記憶，見(jiàn)教材P38）,則得,三、例題示范,三、例題

9、示范,計(jì)算結(jié)果的解釋?zhuān)?回歸參數(shù)的數(shù)學(xué)意義： 導(dǎo)數(shù) 回歸參數(shù)的經(jīng)濟(jì)學(xué)意義： 邊際變化率,第三節(jié) 最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì),一、線(xiàn)性性 線(xiàn)性特性是指估計(jì)式 bo 和 b1 是Yi 的線(xiàn)性函數(shù)。,二、無(wú)偏性 無(wú)偏性指估計(jì)量 bo 和 b1 的均值等于總體回歸參數(shù)bo 和 b1,E(b1 ) = b1 E(bo) = bo,三、有效性（最小方差性） 最小方差性是指估計(jì)量 bo 和 b1 具有最小方差的性質(zhì)，又叫有效性。,高斯馬爾可夫定理 最小二乘估計(jì)量與用其他方法求得的所有線(xiàn)性無(wú)偏估計(jì)量相比，具有最小的方差。 在小樣本情況下，一個(gè)估計(jì)量如果它是線(xiàn)性的，同時(shí)又是有效的（即無(wú)偏的，又具有最小方差）那它就

10、是最佳線(xiàn)性無(wú)偏估計(jì)量 BLUE： Best Linear Unbiased Property of an Estimator,其中，ci=ki+di，di為不全為零的常數(shù)則容易證明現(xiàn)有b的方差最小,四、一致性（大樣本）,一致性(Consistency)：隨著樣本的增大，估計(jì)參數(shù)收斂于真實(shí)參數(shù)；,的概率密度,的概率密度,的概率密度,的概率密度,(a) 無(wú)偏性,(b) 有效性,(c) 一致性,(d) 最小平均偏差方差,無(wú)偏估計(jì),有偏估計(jì),有效估計(jì),非有效估計(jì),大樣本,小樣本,中等樣本,有偏但有效的估計(jì),無(wú)偏但非有效的估計(jì),第四節(jié) 樣本決定系數(shù)及回歸直線(xiàn) 擬合優(yōu)度的檢驗(yàn),一、總離差平方和分解 回歸直

11、線(xiàn) = + X = 被解釋了的部分 Yi = ei 未被解釋的部分 Yi = (Yi ) + ( ) 越大，ei 越小說(shuō)明回歸直線(xiàn)與 樣本點(diǎn)擬合得好。,Y,Y,i,i,Y,Y,O,X,i,X,i,e,=,來(lái)自殘差,(,Y,i,Y,)=,總離差,來(lái)自回歸,(Yi - Y)2 = (Yi - Yi) + (Yi - Y)2 = (Yi - Yi)2 + (Yi - Y)2 + 2 (Yi - Yi) (Yi - Y) yi2 = ei2 + yi2 TSS = RSS + ESS Total sum of squares explained sum of squares residual sum

12、of squares,二、樣本決定系數(shù),= 0.977353,R2 = ,回歸平方和 總離差平方和,二、樣本決定系數(shù)（判定系數(shù)）,三、隨機(jī)擾動(dòng)項(xiàng)方差 2 的估計(jì),由于隨機(jī)項(xiàng) u 不可觀測(cè)，只能用殘差 e 估計(jì) ei2 = yi2 - b1 xi yi = 1889538 - 0.511123 3613114.4 = 42792.53,殘差平方和,樣本方差,b1 的樣本標(biāo)準(zhǔn)差,b0 的樣本標(biāo)準(zhǔn)差,四、假設(shè)檢驗(yàn),某一給定的觀測(cè)或發(fā)現(xiàn)是否與某一聲稱(chēng)的假設(shè)（stated hypothesis ）相符？此處用“相符”一詞表示觀測(cè)的值與 假設(shè)的值“足夠相近”，因而我們不拒絕所聲稱(chēng)的假設(shè)。 原假設(shè) （Nul

13、l hypothesis ）：一種信以為真的、意在 維護(hù)的或理論上的假設(shè)，并用 H0 表示 備擇假設(shè)(alternative hypothesis):為與之對(duì)立的假設(shè), 記為 H1（是研究者擬驗(yàn)證的假設(shè)）,第一類(lèi)錯(cuò)誤：拒絕真實(shí)； 第二類(lèi)錯(cuò)誤：接受錯(cuò)誤。,模型中樣本值可以自由變動(dòng)的個(gè)數(shù)，稱(chēng)為自由度 自由度 = 樣本個(gè)數(shù) 樣本數(shù)據(jù)受約束條件（方程）的個(gè)數(shù),自由度：,五、參數(shù)顯著性檢驗(yàn)（ t 檢驗(yàn)）,H0：b1 = 0； H1: b1 0；,),2,(,/,2,2,-,=,=,n,t,x,S(b1),T,i,s,b1,所以有，,a,s,a,a,-,=,-,1,),/,Pr (,2,2,2,2,t,x

14、,t,i,從而，,2,2,a,a,t,t,+,-,檢驗(yàn),的估計(jì)值是否在此區(qū)間，,b1,b1,b1,b1,b1,S(b1),S(b1),b1,如果在則接受原假設(shè)，否則拒絕原假設(shè)。,比較|T | 與 ta的大小,2,|T | ta 接受 H0,2,|T | ta 拒絕 H0,2,對(duì) bo 的顯著性 t 檢驗(yàn) Ho: bo = 0; H1: bo 0,對(duì) b1 的顯著性 t 檢驗(yàn) Ho: b1 = 0; H1: b1 0,給定顯著性水平 a = 0.05, 查自由度 n - 2 = 8 的 t 分布表， 得 ta = 2.306,2,T0; T1 2.306 拒絕原假設(shè)， 接受備擇假設(shè),六、回歸方程

15、的顯著性檢驗(yàn)（ F 檢驗(yàn)）,H0：b0= b1 = 0； H1: bi 不全為 0；,離差名稱(chēng),平方和,自由度,均方差,回歸平方和,剩余平方和,總體平方和,k,n k-1,n - 1,方 差 分 析 表,對(duì)方程的顯著性 F 檢驗(yàn) H0：b0= b1 = 0； H1: bi 不全為 0；,F 5.32 拒絕原假設(shè)， 接受備擇假設(shè),七、預(yù)測(cè),2、區(qū)間預(yù)測(cè) 總體均值的預(yù)測(cè)區(qū)間 總體個(gè)別值的預(yù)測(cè)區(qū)間,2、區(qū)間預(yù)測(cè) 總體均值的預(yù)測(cè)區(qū)間 總體個(gè)別值的預(yù)測(cè)區(qū)間,七、預(yù)測(cè),Estimation Command: = LS XFZCP C GDPP Estimation Equation: = XFZCP =

16、C(1) + C(2)*GDPP Substituted Coefficients: = XFZCP = 201.1201474 + 0.3861820026*GDPP,P64案例,預(yù)測(cè)：假定x9=11 1、點(diǎn)預(yù)測(cè),2、區(qū)間預(yù)測(cè),均值預(yù)測(cè),（57.56-1.89，57.56+1.89） 即（55.67，59.45）,個(gè)別值預(yù)測(cè),（57.56-4.33，57.56+4.33） 即（53.23，61.89）,第五節(jié) 參數(shù)估計(jì)的最大似然法(ML),最大似然法(Maximum Likelihood,簡(jiǎn)稱(chēng)ML)，也稱(chēng)最大似然法，是不同于最小二乘法的另一種參數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來(lái)的其它估計(jì)方法的基礎(chǔ)。 基本原理： 對(duì)于最大似然法，當(dāng)從模型總體隨機(jī)抽取n組樣本觀測(cè)值后，最合理的參數(shù)估計(jì)量應(yīng)該使得從模型中抽取該n組樣本觀測(cè)值的概率最大。,在滿(mǎn)足基本假設(shè)條件下，對(duì)一元線(xiàn)性回歸模型：,隨機(jī)抽取n組樣本觀測(cè)值（Xi, Yi）（i=1,2,n）。,那么Yi服從如下的正態(tài)分布：,于是，Y的概率函數(shù)為,（i=1,2,n）,假如模型的參數(shù)估計(jì)量已經(jīng)求得，