元線性回歸模型.ppt

第2章 一元線性回歸模型,模型的建立及其假定條件 最小二乘估計(jì)（OLS） 最小二乘估計(jì)量的特性 參數(shù)估計(jì)量的分布 的估計(jì) 擬合優(yōu)度的測(cè)量 回歸參數(shù)的顯著性檢驗(yàn)與置信區(qū)間 yF 的點(diǎn)預(yù)測(cè)與區(qū)間預(yù)測(cè) 案例分析 EViews操作,1. 模型的建立及假定條件,0 + 1 xt,ut (隨機(jī)誤差項(xiàng)),糧食產(chǎn)量 yt (被解釋變量),種植面積xt (解釋變量),t=1,2,T. T=200,0 和1稱(chēng)為參數(shù),yt,= 0 + 1 xt + ut,一元線性回歸模型： yt = 0 + 1 xt + ut,回歸模型的隨機(jī)誤差項(xiàng)中一般包括如下幾項(xiàng)內(nèi)容，（1）非重要解釋變量的省略，（2）數(shù)學(xué)模型形式欠妥，（3）歸并誤差（糧食的歸并）（4）測(cè)量誤差等。 回歸模型存在兩個(gè)特點(diǎn)。 （1）回歸函數(shù)（這里是直線）不能百分之百地再現(xiàn)所研究的經(jīng)濟(jì)過(guò)程。 （2）也正是由于這些假定與抽象，才使我們能夠透過(guò)復(fù)雜的經(jīng)濟(jì)現(xiàn)象，深刻認(rèn)識(shí)到該經(jīng)濟(jì)過(guò)程的本質(zhì)。,1. 模型的建立及假定條件,模型解釋變量和誤差項(xiàng)ut(t=1,2,T)的假定條件如下: (1) ut 是隨機(jī)變量，ut 的取值服從概率分布。 (2) E(ut) = 0。 (3) ut 具有同方差性。 D(ut) = Eut - E(ut) 2 = E(ut)2 = 2。 (4) ut 非自相關(guān)。 Cov(ui, uj) = E(ui - E(ui) ) ( uj - E(uj) ) = E(uiuj) = 0，(i j )。 (5) ut 為正態(tài)分布。,1. 模型的建立及假定條件,以上假定條件可作如下表達(dá)。 ut i.i.d. N (0, 2) t=1,2,T (6) xt是非隨機(jī)的，即xt的取值是確定的。,一元線性回歸模型： yt = 0 + 1 xt + ut 在假定（1）（2）（6）成立條件下有 E(yt) = E(0+1 xt +ut) = 0+1 xt,1. 模型的建立及假定條件,2.最小二乘估計(jì),E(yt) = 0 + 1 xt,糧食產(chǎn)量 yt,種植面積xt,yt= 0 + 1 xt + ut,真實(shí)的統(tǒng)計(jì)模型,真實(shí)的回歸直線,通常真實(shí)的回歸直線 是觀測(cè)不到的，即參數(shù) 和 是未知的。,我們需要對(duì)它進(jìn)行估計(jì)，即參數(shù)估計(jì)。,，即參數(shù)估計(jì)量。,2. 最小二乘估計(jì),估計(jì)的統(tǒng)計(jì)模型,估計(jì)的回歸直線,如何確定紅色直線的位置？,使殘差之和最??？ 互相抵消，不能用于實(shí)際計(jì)算。 使殘差絕對(duì)值之和最小? 絕對(duì)值的計(jì)算比較麻煩。,使殘差平方和最??！ 稱(chēng)為最小二乘法 (Ordinary Least Square, OLS),直線在點(diǎn)中間!,正規(guī)方程一 正規(guī)方程二,，即點(diǎn) 在回歸直線上。,兩個(gè)參數(shù)估計(jì)量都是隨機(jī)變量！ (對(duì)x和y重復(fù)抽樣進(jìn)行計(jì)算，估計(jì)量值不同),（C F Gauss, 1777-1855）,C F Gauss 1809年提出OLS估計(jì)方法。,誰(shuí)提出的OLS估計(jì)方法？,思考：參數(shù)估計(jì)量是隨機(jī)變量，服從一定分布。 除OLS估計(jì)量外，還有沒(méi)有其他的估計(jì)量？ 如何評(píng)價(jià)你的隨機(jī)變量？,（3）最小方差性: OLS得到的0, 1是所有線性無(wú)偏估計(jì)量中方差最小的。,3. 最小二乘估計(jì)量的特性：高斯-馬爾科夫定理,滿(mǎn)足上述假設(shè)條件的OLS估計(jì)量是最佳無(wú)偏線性估計(jì)量(BLUE),4參數(shù)估計(jì)量 的分布,同樣可以證明,的分布,ut N(0, 2) yt服從正態(tài)分布 服從正態(tài)分布,yt = 0 + 1 xt + ut,5 的估計(jì),(或稱(chēng)為樣本方差),用殘差的方差來(lái)估計(jì),又稱(chēng)為誤差均方，是隨機(jī)變量！,6擬合優(yōu)度的測(cè)量 擬合優(yōu)度是指回歸直線對(duì)觀測(cè)值的擬合程度。,TSS = ESS + RSS,總體平方和回歸平方和殘差平方和,線性關(guān)系是否恰當(dāng)？,y的變差,被x所解釋的變差,未被x所解釋的變差,證明,其中,度量擬合優(yōu)度的統(tǒng)計(jì)量：可決系數(shù)（確定系數(shù)）,R2的取值范圍是 0，1。 對(duì)于一組數(shù)據(jù)，TSS是不變的，所以RSS（），ESS（）。 RSS：指殘差平方和（sum of squared residuals） ESS：指回歸平方和（explained sum of squares）,7回歸參數(shù)估計(jì)量的顯著性檢驗(yàn),的分布,先假設(shè) 再構(gòu)造統(tǒng)計(jì)量試圖推翻，同樣的方法也可以應(yīng)用于檢驗(yàn) 等于其他值的原假設(shè)，見(jiàn)書(shū)53頁(yè),8回歸參數(shù)的置信區(qū)間,(1-)%的置信區(qū)間是,未知，構(gòu)造t 統(tǒng)計(jì)量求解,例題2.1 人均鮮蛋需求量y與人均可支配收入x關(guān)系,OLS估計(jì)結(jié)果：,樣本容量 1988年-1998年 (file: li-2-1),Coefficient:參數(shù)估計(jì)量,(file: li-2-1),參數(shù)估計(jì)量的樣本標(biāo)準(zhǔn)差,回歸函數(shù)的標(biāo)準(zhǔn)誤差,例題2.1 人均鮮蛋需求量y與人均可支配收入x關(guān)系,估計(jì)量標(biāo)準(zhǔn)差：,注意RSS與S.E.的關(guān)系,可決系數(shù):,(file: li-2-1),S.D. dependent var: 被解釋變量標(biāo)準(zhǔn)差,例題2.1 人均鮮蛋需求量y與人均可支配收入x關(guān)系,顯著性檢驗(yàn):,H0：1 = 0； H1：1 0。在H0成立條件下，,H0：0 = 0； H1：0 0。在H0成立條件下，,Prob=P | t-Statistic |臨界值 即接受原假設(shè)的概率。,檢驗(yàn)結(jié)果： 回歸參數(shù)顯著不為零。,例題2.1 人均鮮蛋需求量y與人均可支配收入x關(guān)系,1的置信區(qū)間： 0的置信區(qū)間：,(file: li-2-1),例題2.1 人均鮮蛋需求量y與人均可支配收入x關(guān)系,OLS回歸模型的標(biāo)準(zhǔn)格式：,（7.7） （4.3） R2 = 0.67，T=11，（19881998）,(file: li-2-1),參數(shù)顯著性檢驗(yàn)的t值,真實(shí)值,擬合值,殘差,S.E.,-S.E.,分析殘差的正態(tài)分布性,(file: li-2-1),分析殘差,Actual表示yt的實(shí)際觀測(cè)值，F(xiàn)itted表示yt的擬合值,，Residual表示殘差。,殘差圖中的兩條虛線與中心線的距離表示殘差的一個(gè)標(biāo)準(zhǔn)差，即s.e.。通過(guò)殘差圖可以看到，大部分殘差值都落在了正、負(fù)一個(gè)標(biāo)準(zhǔn)差之內(nèi)。,方程估計(jì)窗口中點(diǎn)擊veiwactual,fitted,residual,9yF 的點(diǎn)預(yù)測(cè)與區(qū)間預(yù)測(cè),是一個(gè)隨機(jī)變量，且是無(wú)偏預(yù)測(cè)量，即,假定樣本外也服從回歸直線。,稱(chēng)為預(yù)測(cè)誤差，其期望為0，方差,利用回歸模型預(yù)測(cè)時(shí)，解釋變量的值最好不要離開(kāi)樣本范圍太遠(yuǎn)。原因是： 根據(jù)預(yù)測(cè)公式離樣本平均值越遠(yuǎn)，預(yù)測(cè)誤差越大。,Y1999的點(diǎn)估計(jì)值：Y1999 = 10.77 + 0.005069 1863 = 20.21 Y2000的點(diǎn)估計(jì)值：Y2000 = 10.77 + 0.005069 1983 = 20.82,(file: li-2-1),Y1999的置信區(qū)間：20.20892.261.4417 16.9507，23.4671 Y2000的置信區(qū)間：20.81712.261.5297 17.3600，24.2742,例題2.1 人均鮮蛋需求量y與人均可支配收入x關(guān)系,補(bǔ)充案例1：用回歸模型預(yù)測(cè)木材剩余物（file:b1c3）,伊春林區(qū)位于黑龍江省東北部，有森林面積219萬(wàn)公頃，木材蓄積量為2.3億m3。森林覆蓋率為62.5%，是我國(guó)主要的木材工業(yè)基地之一。1999年伊春林區(qū)木材采伐量為532萬(wàn)m3。按此速度44年之后，1999年的蓄積量將被采伐一空。 為緩解森林資源危機(jī)，并解決部分職工就業(yè)問(wèn)題，除了做好木材的深加工外，還要充分利用木材剩余物生產(chǎn)林業(yè)產(chǎn)品，如紙漿、紙袋、紙板等。因此預(yù)測(cè)林區(qū)的年木材剩余物是安排木材剩余物加工生產(chǎn)的一個(gè)關(guān)鍵環(huán)節(jié)。,1999年16個(gè)林業(yè)局,黑龍江省伊春林區(qū),觀測(cè)點(diǎn)近似服從線性關(guān)系。 建立一元線性回歸模型如下： yt = 0 + 1 xt + ut,年剩余物yt和年木材采伐量xt散點(diǎn)圖,分析EViews輸出結(jié)果。注意：S.D.和s.e.的區(qū)別。s.e.和SSR的關(guān)系。,= -0.7629 + 0.4043 xt (-0.6) (12.1) R2 = 0.91, T = 16 上述模型的經(jīng)濟(jì)解釋是，對(duì)于伊春林區(qū)各林業(yè)局平均每采伐1 m3木材， 將平均產(chǎn)生0.4 m3的剩余物。,假設(shè)已知xF=20,F,F,F,0.05/2,假設(shè)已知,假設(shè)已知,10. EViews操作, 怎樣建立EViews新工作文件。file new workfile 選擇數(shù)據(jù)類(lèi)型unstructured(undated)表示橫截面數(shù)據(jù)；dated表示時(shí)間序列數(shù)據(jù)。啟始期(Start date)；終止期(End date)。 怎樣用EViews通過(guò)鍵盤(pán)輸入，復(fù)制、粘貼功能輸入數(shù)據(jù)。object new object series 注意：（1）變量命名時(shí)，字符不得超過(guò)16個(gè)。 （2）給變量命名時(shí)，避免使用下列名字：ABS，ACOS ， AR， ASIN，C，CON，CNORM， COEF，COS，D，DLOG， DNORM，ELSE，ENDIF，EXP，LOG，LOGIT，LPT1， LPT2，MA，NA，NRND，PDL，RESID，RND，SAR， SIN，SMA，SQR，THEN。 畫(huà)散點(diǎn)圖：quick graph scatter x y,怎樣用EViews預(yù)測(cè),以補(bǔ)充案例1為例，給定xt = 20，求yF=？EViews預(yù)測(cè)步驟如下。 （1）點(diǎn)擊Procs鍵選Change workfile range功能。在彈出的對(duì)話(huà)框的End data選擇框處改為17。點(diǎn)擊OK鍵。 （2）雙擊工作文件的Sample:1 17區(qū)域，在彈出的對(duì)話(huà)框的Sample range pairs選擇框處把16改為1 17。 （3）雙擊工作文件窗口中的x序列，打開(kāi)x數(shù)據(jù)窗口。點(diǎn)擊Edit+/-鍵，使x數(shù)據(jù)窗口處于可編輯狀態(tài)。在t =17的x的觀測(cè)值位置輸入20。相當(dāng)于給定x=20。 （4）打開(kāi)估計(jì)式eq01窗口，點(diǎn)擊Forecast鍵。yf表示yt的預(yù)測(cè)值，若在S.E. 選擇框處填入yfse則表示輸出yt的預(yù)測(cè)標(biāo)準(zhǔn)差，點(diǎn)擊OK鍵，工作文件窗口中已經(jīng)出現(xiàn)一個(gè)yf序列。雙擊yf序列，可以看到。y17 = 7.322668。,OLS估計(jì)的操作步驟。 在已建立Eviews數(shù)據(jù)文件的基礎(chǔ)上，進(jìn)行OLS估計(jì)的操作步驟如下：打開(kāi)工作文件，從主菜單上點(diǎn)擊Quick鍵，選Estimate Equation 功能。在出現(xiàn)的對(duì)話(huà)框中輸入y c x。點(diǎn)擊Ok鍵。,11相關(guān)理論與相關(guān)系數(shù),相關(guān)（correlation） ：指兩個(gè)或兩個(gè)以上變量間相互關(guān)系的程度或強(qiáng)度。 分類(lèi)：按強(qiáng)度分 完全相關(guān)：變量間存在函數(shù)關(guān)系。 高度相關(guān)（強(qiáng)相關(guān)）：變量間近似存在函數(shù)關(guān)系。 弱相關(guān)：變量間有關(guān)系但不明顯。 零相關(guān)：變量間不存在任何關(guān)系。,按變量個(gè)數(shù)分 簡(jiǎn)單相關(guān)：指兩個(gè)變量間相關(guān)。 按形式分：線性相關(guān), 非線性相關(guān) 按符號(hào)分：正相關(guān), 負(fù)相關(guān), 零相關(guān) 復(fù)相關(guān)（多重相關(guān)和偏相關(guān)）： 指3個(gè)或3個(gè)以上變量間的相關(guān)。,11相關(guān)系數(shù),非線性相關(guān) 負(fù)相關(guān) 零相關(guān),完全相關(guān) 高度相關(guān)、線性相關(guān)、正相關(guān) 弱相關(guān),11.2 簡(jiǎn)單線性相關(guān)的度量,簡(jiǎn)單線性相關(guān)系數(shù)，簡(jiǎn)稱(chēng)相關(guān)系數(shù)（correlation coefficient） 。 度量?jī)蓚€(gè)變量間的線性相關(guān)強(qiáng)度，用 表示。 的隨機(jī)變量表達(dá)式是,11.3 相關(guān)系數(shù)的取值范圍,圖1 正相關(guān) 圖2 負(fù)相關(guān),圖3 r = 0.92 圖4 r = 0.99,散點(diǎn)圖與相關(guān)系數(shù) 值的對(duì)應(yīng)關(guān)系,11.4 線性相關(guān)系數(shù)的局限性,(1) 只適用于考察變量間的線性相關(guān)關(guān)系。變量無(wú)關(guān)變量獨(dú)立(線性無(wú)關(guān))。 (2) 相關(guān)系數(shù)的計(jì)算是一個(gè)數(shù)學(xué)過(guò)程,但不能揭示變量間關(guān)系的實(shí)質(zhì)。 (3) 一般說(shuō)二變量相關(guān)時(shí)，可能屬于如下一種關(guān)系。 單向因果關(guān)系。如施肥量與農(nóng)作物產(chǎn)量；對(duì)金屬的加熱時(shí)間與溫度值。 雙向因果關(guān)系。如工業(yè)生產(chǎn)與農(nóng)業(yè)生產(chǎn)；商品供給量與商品價(jià)格。 另有隱含因素影響二變量變化。 虛假相關(guān)。,(1997-2001，file: 5correlation1),11.5 簡(jiǎn)單相關(guān)系數(shù)與擬和優(yōu)度,擬和優(yōu)度R2簡(jiǎn)單相關(guān)系數(shù)的平方r