應(yīng)用回歸分析人大版前四章課后習(xí)題答案詳解

應(yīng)用回歸分析（1-4章習(xí)題詳解）

（21世紀(jì)統(tǒng)計(jì)學(xué)系列教材，第二（三）版，何曉群,

劉文卿編著中國(guó)人民大學(xué)出版社）

目錄

1回歸分析概述...................................................................6

1.1變量間統(tǒng)計(jì)關(guān)系和函數(shù)關(guān)系的區(qū)別是什么？................................6

1.2回歸分析與相關(guān)分析的區(qū)別與聯(lián)系是什么？................................7

1.3回歸模型中隨機(jī)誤差項(xiàng)￡的意義是什么？..................................7

1.4線性回歸模型的基本假設(shè)是什么？.........................................7

1.5回歸模型的設(shè)置理論根據(jù)是什么？在回歸變量設(shè)置中應(yīng)該注意哪些問(wèn)題？....8

1.6收集，整理數(shù)據(jù)包括哪些內(nèi)容？...........................................8

1.7構(gòu)造回歸理論模型的基本根據(jù)是什么？....................................9

1.8為什么要對(duì)回歸模型進(jìn)行檢驗(yàn)？...........................................9

1.9回歸模型有哪幾個(gè)方面的應(yīng)用？..........................................10

1.10為什么強(qiáng)調(diào)運(yùn)用回歸分析研究經(jīng)濟(jì)問(wèn)題要定性分析和定量分析相結(jié)合？......10

2一元線性回歸.................................................................10

2.1一元線性回歸模型有哪些基本假定？......................................10

2.2考慮過(guò)原點(diǎn)的線性回歸模型yr力*+=誤差昂,心,..￡,仍滿

足基本假定，求尸?的最小二乘估計(jì)。.........................................11

2.3證明￡x,e=o..............................................................................................ii

/=1t=l

2.4回歸方程E（），）=/3+的參數(shù)AA的最小二乘估計(jì)與最大似然估計(jì)在什

么條件下等價(jià)？給出理由？...................................................12

2.5證明p是p的無(wú)偏估計(jì)。............................................12

一2

2.6證明丫2「（尸；）=（工+“/_2）/成立。...............................13

2.7證明平方和分解式SST=SSR+SSE......................................................................................13

2.8驗(yàn)證三種檢驗(yàn)的關(guān)系，即證：...........................................14

—2

2.9驗(yàn)證式子：var（e）=（1-工一（二［-））..........................................................15

1n2

2.10用第9題證明是0?的無(wú)偏估計(jì)。...........16

2,F

2.11驗(yàn)證決定系數(shù)廠與F之間的關(guān)系式：廠-=---.....................17

'F+n-2

2.12如果把自變量觀測(cè)值都乘以2,回歸參數(shù)的最小二乘估計(jì)尸;和尸;會(huì)發(fā)生什么

變化？如果把自變量觀測(cè)值都加上2,回歸參數(shù)的最小二乘估計(jì)尸;和尸;會(huì)發(fā)生什么

變化？.....................................................................18

2.13如果回歸方程：3=0。+萬(wàn);x相應(yīng)的相關(guān)系數(shù)r很大，則用它預(yù)測(cè)時(shí)預(yù)測(cè)誤差

一定較小，這一結(jié)論能成立嗎？對(duì)你的回答說(shuō)明理由。.........................20

2

2.14為了調(diào)查某廣告對(duì)銷售收入的影響，某商店記錄了5個(gè)月的銷售收入y（萬(wàn)元）和

廣告費(fèi)用x（萬(wàn)元）..........................................................20

表2.6..........................................................................20

1）利用SPSS軟件，散點(diǎn)圖為：..........................................21

2）由圖易知：x與y之間大致呈現(xiàn)線性關(guān)系。.............................22

3）最小二乘估計(jì)得到的回歸方程為：.....................................22

4）求回歸標(biāo)準(zhǔn)誤差2；.................................................23

5）給出尸。與尸;的置信度為95%的區(qū)間估計(jì)；...........................23

6）x與y的決定系數(shù)；..................................................24

7）由SPSS軟件可以得到回歸方程作方差分析為：.........................24

8）對(duì)回歸系數(shù)）?顯著性的檢驗(yàn)..........................................24

9）做相關(guān)系數(shù)的顯著性檢驗(yàn).............................................24

10）對(duì)回歸方程作殘差圖并作相應(yīng)的分析；................................25

11）對(duì)當(dāng)廣告費(fèi)用為4.2萬(wàn)元時(shí)，銷售收入將達(dá)到多少，并給出置信度95%的置信

區(qū)間。.................................................................25

2.15一家保險(xiǎn)公司十分關(guān)心其總公司營(yíng)業(yè)部加班的程度，決定認(rèn)真調(diào)查一次現(xiàn)狀，經(jīng)

過(guò)10周時(shí)間，收集了每周加班工作時(shí)間的數(shù)據(jù)和簽發(fā)的新保單數(shù)目，x為每周簽發(fā)的

新保單數(shù)目，Y為每周加班工作時(shí)間（小時(shí)）...................................26

1）畫(huà)散點(diǎn)圖；..........................................................26

2）x與y之間是否大致呈線性關(guān)系？.....................................27

3）用最小二乘估計(jì)求出回歸方程；.......................................27

A

4）求回歸標(biāo)準(zhǔn)誤差0；.................................................27

5）給出口。與尸?的置信度為95%的區(qū)間估計(jì)；...........................28

6）計(jì)算x與y的決定系數(shù)；.............................................28

7）對(duì)回歸方程作方差分析；.............................................28

8）對(duì)回歸系數(shù)）?顯著性的檢驗(yàn)；........................................29

9）做相關(guān)系數(shù)的顯著性檢驗(yàn)；...........................................29

10）對(duì)回歸方程作殘差圖并作相應(yīng)的分析；................................29

11）該公司預(yù)計(jì)下一周簽發(fā)新保單工。=100°張，需要加班的時(shí)間是多少？……30

12）給出＞。的置信水平為95%精確預(yù)測(cè)區(qū)間和近似預(yù)測(cè)區(qū)間；..............30

13）給出E（丫。）置信水平95%的區(qū)間估計(jì)。..............................30

2.16,表2.8是1985年美國(guó)50個(gè)州和哥倫比業(yè)特區(qū)公立學(xué)校中教師的人均年工資y

（美元）和學(xué)生的人均經(jīng)費(fèi)收入x（美元）。....................................30

1）繪制y對(duì)x的散點(diǎn)圖，可以用直線回歸描述兩者之間的關(guān)系嗎？.........31

2）建立y對(duì)x的線性回歸；.............................................32

3

3）用線性回歸的Plots功能繪制標(biāo)準(zhǔn)殘差的直方圖和正態(tài)概率圖，檢驗(yàn)誤差項(xiàng)的

正態(tài)性假設(shè)。...........................................................32

3多元線性回歸..................................................................34

3.1寫(xiě)出多元線性回歸模型的矩陣表示形式，并給出多元線性回歸模型的基本假設(shè)。

............................................................................34

3.2討論樣本容量n與自變量個(gè)數(shù)p的關(guān)系，它們對(duì)模型的參數(shù)估計(jì)有何影響？……35

a=----SSE2

3.3證明n-p-\是誤差項(xiàng)b的無(wú)偏估計(jì)。.......................35

2

3.4一個(gè)回歸方程的復(fù)相關(guān)系數(shù)R=0.99,樣本決定系數(shù)R=0.9801我們能判斷這個(gè)回

歸方程就很理想嗎？........................................................35

3.5如何正確理解回歸方程顯著性檢驗(yàn)拒絕Ho,接受Ho?...................36

3.6數(shù)據(jù)中心化和標(biāo)準(zhǔn)化在回歸分析中的意義是什么？.........................36

八*用A

3.7驗(yàn)證（3.5）式?...................................36

八2一八3匕3

r12,3

3.8利用（3.60）式證明（3.61）式成立，即..........37

3.9證明y與自變量電的偏決定系數(shù)與（3.42）偏F檢驗(yàn)值廠，是等價(jià)的。.....37

R=--------------------

3.10驗(yàn)證決定系數(shù)R2與F值之間的關(guān)系式：F+Oz-p-l）p............38

3.11研究貨運(yùn)總量v（萬(wàn)噸）與工業(yè)總產(chǎn)值..................................38

1）計(jì)算出y,x1,x2,x3的相關(guān)系數(shù)矩陣.................................39

2）求y關(guān)于x1,x2,x3的三元線性回歸方程............................40

3）對(duì)所求的的方程作擬合優(yōu)度檢驗(yàn).......................................41

4）對(duì)回歸方程做顯著性檢驗(yàn).............................................41

5）對(duì)每個(gè)回歸系數(shù)做顯著性檢驗(yàn).........................................42

6）將x3剔除后，進(jìn)行回歸分析得........................................42

7）有上述系數(shù)表可知，常量的95%置信區(qū)間為（-821.547,-97.700）.......43

8）求標(biāo)準(zhǔn)化回歸方程...................................................43

9）求當(dāng)Xoi=75,XO2=42,%03=土1時(shí)的〉。，給定置信水平為95%,用SPSS

軟件計(jì)算精確置信區(qū)間，用手工計(jì)算近似預(yù)測(cè)區(qū)間；.......................44

10）結(jié)合回歸方程對(duì)問(wèn)題作一些基本分析。................................44

4違背基本假設(shè)的情況...........................................................45

4.1試舉例說(shuō)明產(chǎn)生異方差的原因。.........................................45

4.2異方差帶來(lái)的后果有哪些？............................................45

4.3簡(jiǎn)述用加權(quán)最小二乘法消除一元線性回歸中異方差性的思想與方法。......45

4.4簡(jiǎn)述用加權(quán)最小二乘法消除多元線性回歸中異方差性的思想與方法。.......46

4

4.5（4.5）式一元加權(quán)最小二乘回歸系數(shù)估計(jì)公式。............................47

4.6驗(yàn)證（4.8）式多元加權(quán)最小二乘回歸系數(shù)估計(jì)公式。......................47

4.7有同學(xué)認(rèn)為當(dāng)數(shù)據(jù)存在異方差時(shí),加權(quán)最小二乘回歸方程與普通最小二乘回歸方程

之間必然有很大的差異，異方差越嚴(yán)重，兩者之間的差異就越大。你是否同意這位同學(xué)

的觀點(diǎn)？說(shuō)明原因。........................................................48

4.8對(duì)例4.3的數(shù)據(jù)，用公式‘加=匹弓”計(jì)算出加權(quán)變換殘差e*,繪制加權(quán)變換殘

差圖，根據(jù)繪制出的圖形說(shuō)明加權(quán)最小二乘估計(jì)的效果。......................48

4.9表4.12是用電高峰期每小時(shí)用電量y與每月總用電量x的數(shù)據(jù)。...........49

1）用普通最小二乘法建立y與x的回歸方程，并畫(huà)出殘差散點(diǎn)圖；.........50

2）診斷該問(wèn)題是否存在異方差...........................................51

3）如果存在異方差，用幕指數(shù)型的權(quán)函數(shù)建立加權(quán)最小二乘回歸方程......52

4）用方差穩(wěn)定變換V=6消除異方差....................................53

4.10試舉一可能產(chǎn)生隨機(jī)誤差項(xiàng)序列相關(guān)的經(jīng)濟(jì)例子。........................55

4.11序列相關(guān)性帶來(lái)的嚴(yán)重后果是什么？.....................................55

4.12結(jié)DW檢驗(yàn)的優(yōu)缺點(diǎn)。...................................................56

4.13表4.13為某軟件公司月銷售額數(shù)據(jù)，其中，x為總公司的月銷售額（萬(wàn)元）；y

為某分公司的月銷售額（萬(wàn)元）。..............................................56

1）用普通最小二乘法建立y關(guān)于x的回歸方程.............................57

2）用殘差圖及DW檢驗(yàn)診斷序列的相關(guān)性..................................57

3）用迭代法處理序列相關(guān)，并建立回歸方程...............................58

4）用一階差分法處理數(shù)據(jù)，建立回歸方程.................................60

5）比較普通最小二乘法所得回歸方程和迭代法，一階差分法所建立回歸方程的優(yōu)

良性....................................................................61

4.14某樂(lè)隊(duì)經(jīng)理研究其樂(lè)隊(duì)CD盤(pán)的銷售額（y）,兩個(gè)有關(guān)的影響變量是每周演出場(chǎng)次

............................................................................63

1）用普通最小二乘法建立y與1和的回歸方程，用殘差圖及DW檢驗(yàn)診斷序

列的自相性.............................................................64

2）用迭代法處理序列相關(guān)，建立回歸方程.................................66

3）用一階差分法處理序列相關(guān)，建立回歸方程.............................66

4）用最大似然法處理序列相關(guān)，建立回歸方程.............................67

5）用科克倫-奧克特迭代法處理序列相關(guān)，建立回歸方程...................68

6）用普萊斯-溫斯登迭代法處理序列相關(guān)，建立回歸方程...................68

7）比較以上各方法所見(jiàn)回歸方程的優(yōu)良性。...............................69

4.15說(shuō)明引起異常值的原因和消除異常值的方法。.............................70

5附注..........................................................................71

5

1回歸分析概述

1.1變量間統(tǒng)計(jì)關(guān)系和函數(shù)關(guān)系的區(qū)別是什么？

答：變量間的統(tǒng)計(jì)關(guān)系指的是：在推斷統(tǒng)計(jì)中，我們把變量間具有密切關(guān)聯(lián)而又

不能由一個(gè)或某一些變量唯一確定另外一個(gè)變量的關(guān)系成為變量間的統(tǒng)計(jì)關(guān)系。

而函數(shù)關(guān)系指的是一個(gè)變量的變化能完全確定另一個(gè)變量的變化。

1.2回歸分析與相關(guān)分析的區(qū)別與聯(lián)系是什么？

答：區(qū)別：回歸分析和相關(guān)分析相互結(jié)合，相互滲透但又有不同。他們之間的

區(qū)別見(jiàn)下表：設(shè)X,Y為變量，

回歸分析相關(guān)分析

Y是因變量（被解釋變量），X是自變X,Y地位平等

量（解釋變量）

Y是隨機(jī)變量，X可以是隨機(jī)變量也可X,Y都是隨機(jī)變量

以是普通變量

回歸分析不僅可以揭示變量X對(duì)變量Y相關(guān)分析的研究主要是為刻畫(huà)兩類變

的影響大小，還可以由回歸方程進(jìn)行預(yù)量間線性相關(guān)的密切程度

測(cè)與控制。

聯(lián)系：回歸分析和相關(guān)分析都是相關(guān)關(guān)系（統(tǒng)計(jì)關(guān)系），即：兩個(gè)變量間雖然有

密切的聯(lián)系但他們的密切程度并沒(méi)有到由一個(gè)可以完全確定另一個(gè)的程度?；貧w

分析和相關(guān)分析都是研究變量間關(guān)系的統(tǒng)計(jì)學(xué)課題。

1.3回歸模型中隨機(jī)誤差項(xiàng)￡的意義是什么？

答：回歸模型的一般形式為：y=/（的,無(wú)，…，汨,）+￡其中隨機(jī)變量y稱為被解釋

變量（因變量）；為,無(wú)，…與成為解釋變量（自變量）。為一

般變量落，無(wú)，…無(wú)，的確定性關(guān)系，為隨機(jī)誤差。

回歸模型中隨機(jī)誤差項(xiàng)￡的意義是：正是因?yàn)殡S機(jī)誤差項(xiàng)￡的引入，才將變量之

間的關(guān)系描述為一個(gè)隨機(jī)方程，使得我們可以借助隨機(jī)數(shù)學(xué)方法研究y與

為，％2,…%的關(guān)系。

1.4線性回歸模型的基本假設(shè)是什么？

答：線性回歸模型的基本假設(shè)為：

1）解釋變量為J2，…，匹，是確定性變量，不是隨機(jī)變量，樣本容量的個(gè)數(shù)應(yīng)大于

解釋變量的個(gè)數(shù)。

2）隨機(jī)誤差項(xiàng)具有0均值和等方差，即

<cov（g,巳）=b，（i=j）這個(gè)假定常稱為高斯-馬爾科夫條件。

cov（^.,￡-.）=o,（j=j）i,j=1,2,...,M

E（&）=0,即假設(shè)觀測(cè)值沒(méi)有系統(tǒng)誤差，隨機(jī)誤差&的平均值為零。隨機(jī)誤差

項(xiàng)2的協(xié)方差為零表明隨機(jī)誤差項(xiàng)在不同的樣本點(diǎn)之間是不相關(guān)的（在正態(tài)假

定下即為獨(dú)立的），不存在序列相關(guān)，并且有相同的精度。

3）,正態(tài)分布的假定條件為：

2

Zj~N（O，b），1=1,2,...,〃

8，&，“&相互獨(dú)立

4）通常為了便于數(shù)學(xué)上的處理，還要求n>p,即樣本容量的個(gè)數(shù)要多于解釋變量

的個(gè)數(shù)。

1.5回歸模型的設(shè)置理論根據(jù)是什么？在回歸變量設(shè)置中應(yīng)該注意

哪些問(wèn)題？

答：回歸模型的設(shè)置理論依據(jù)是：要根據(jù)所研究問(wèn)題的目的設(shè)置因變量y,然后

再選取與y有統(tǒng)計(jì)關(guān)系的一些變量作為自變量。

變量設(shè)置中應(yīng)注意的問(wèn)題：1）變量的正確選擇關(guān)鍵在于能否正確把握所研究的

經(jīng)濟(jì)活動(dòng)的經(jīng)濟(jì)學(xué)內(nèi)涵。即藥酒研究者對(duì)所研究的經(jīng)濟(jì)問(wèn)題及背景要有足夠的了

解。2）對(duì)于一些從經(jīng)濟(jì)關(guān)系角度考慮非常重要的需要引進(jìn)，但在實(shí)際中并沒(méi)有

這樣的統(tǒng)計(jì)數(shù)據(jù)的變量，應(yīng)該考慮用相近的變量代替，或者由其他兒個(gè)指標(biāo)復(fù)合

成一個(gè)新指標(biāo)。3）在選擇變量時(shí)要注意與一些專門領(lǐng)域的專家合作。4）一個(gè)回

歸模型中并不是所涉及的解釋變量越多越好。

1.6收集，整理數(shù)據(jù)包括哪些內(nèi)容？

答：1）回歸模型的建立是基于回歸變量的樣本統(tǒng)計(jì)數(shù)據(jù)。當(dāng)確定好回歸模型的

8

變量之后，就要對(duì)這些變量收集，整理統(tǒng)計(jì)數(shù)據(jù)。

2）數(shù)據(jù)的收集是建立經(jīng)濟(jì)問(wèn)題回歸模型的重要一環(huán)，是一項(xiàng)基礎(chǔ)性工作，樣本

數(shù)據(jù)的質(zhì)量如何，對(duì)回歸模型的水平有至關(guān)重要的影響。

3）常用的樣本數(shù)據(jù)分為時(shí)間序列數(shù)據(jù)和橫截面數(shù)據(jù)。

①時(shí)間序列數(shù)據(jù)是按時(shí)間順序排列的統(tǒng)計(jì)數(shù)據(jù)。研究宏觀經(jīng)濟(jì)問(wèn)題，這方面的時(shí)

間序列數(shù)據(jù)來(lái)自國(guó)家統(tǒng)計(jì)局或一些專業(yè)部委的統(tǒng)計(jì)年鑒。如果研究微觀經(jīng)濟(jì)現(xiàn)

象，如研究某企業(yè)的產(chǎn)值與能耗，那么數(shù)據(jù)就要在這個(gè)企業(yè)的計(jì)劃統(tǒng)計(jì)科獲取。

對(duì)于收集到的時(shí)間序列資料要特別注意數(shù)據(jù)的可比性與數(shù)據(jù)的統(tǒng)計(jì)口徑問(wèn)題。對(duì)

于沒(méi)有可比性和統(tǒng)計(jì)口徑計(jì)算不一致的統(tǒng)計(jì)數(shù)據(jù)要作認(rèn)真調(diào)整，這個(gè)調(diào)整過(guò)程就

是一個(gè)數(shù)據(jù)整理過(guò)程。

由于許多經(jīng)濟(jì)變量的前后期之間總是有關(guān)聯(lián)的，因此時(shí)間序列數(shù)據(jù)容易產(chǎn)生模型

中隨機(jī)誤差項(xiàng)的序列相關(guān)。對(duì)于具有隨機(jī)誤差項(xiàng)序列相關(guān)的情況，就要通過(guò)對(duì)數(shù)

據(jù)的某種計(jì)算整理來(lái)消除序列相關(guān)性，最常用的處理方法是差分法。

②橫截面數(shù)據(jù)是在同一時(shí)間截面上的統(tǒng)計(jì)數(shù)據(jù)。由于一個(gè)回歸模型往往涉及眾多

解釋變量，如果其中某一因素或一些因素隨著解釋變量觀測(cè)值的變化而對(duì)被解釋

變量產(chǎn)生不同影響，就產(chǎn)生異方差。因此當(dāng)用截面數(shù)據(jù)作樣本時(shí)，容易產(chǎn)生異方

差。對(duì)于具有異方差性的建模問(wèn)題，數(shù)據(jù)整理就是注意消除異方差性，這常與模

型參數(shù)估計(jì)方法結(jié)合起來(lái)考慮。

③不論是時(shí)間序列數(shù)據(jù)還是橫截面數(shù)據(jù)的手機(jī)，樣本容量的多少一般要與設(shè)置的

解釋變量數(shù)目相配套。

4）統(tǒng)計(jì)數(shù)據(jù)的整理中不僅要把一些變量數(shù)據(jù)進(jìn)行折算，差分，甚至把數(shù)據(jù)對(duì)數(shù)

化，標(biāo)準(zhǔn)化等，有時(shí)還須注意剔除個(gè)別特別大或特別小的“野值”，有時(shí)需要利

用差值的方法把空缺的數(shù)據(jù)補(bǔ)齊。

1.7構(gòu)造回歸理論模型的基本根據(jù)是什么？

答：1）經(jīng)濟(jì)回歸模型的建立，通常要依據(jù)經(jīng)濟(jì)理論和一些數(shù)理經(jīng)濟(jì)學(xué)結(jié)果。例

如研究的模型有某些具體的函數(shù)形式。

2）對(duì)于根據(jù)所獲信息無(wú)法確定模型的形式時(shí)，此時(shí)采用不同的形式進(jìn)行計(jì)算機(jī)模

擬，對(duì)于不同的模擬結(jié)果，選擇較好的一個(gè)作為理論模型。

1.8為什么要對(duì)回歸模型進(jìn)行檢驗(yàn)？

9

答：當(dāng)模型的未知參數(shù)估計(jì)出來(lái)后，便初步建立了一個(gè)回歸模型，建立回歸模

型的目的是為了應(yīng)用它來(lái)研究經(jīng)濟(jì)問(wèn)題，但不能馬上就用這個(gè)模型去作預(yù)測(cè)，控

制和分析，因?yàn)檫@個(gè)模型是否真正解釋了被解釋變量與解釋變量之間的關(guān)系，必

須通過(guò)對(duì)模型的檢驗(yàn)才能決定。

1.9回歸模型有哪幾個(gè)方面的應(yīng)用？

答：歸分析的應(yīng)用非常廣泛，例如在經(jīng)濟(jì)領(lǐng)域有廣泛應(yīng)用。1）矩陣?yán)碚摵陀?jì)算

機(jī)技術(shù)的發(fā)展為回歸分析模型在經(jīng)濟(jì)研究中的應(yīng)用提供了極大的方便。2）模型技

術(shù)在經(jīng)濟(jì)問(wèn)題研究中的應(yīng)用也在盛行起來(lái)。3）近年來(lái)，新的研究方法不斷出現(xiàn)，

如非參數(shù)統(tǒng)計(jì)，自助法，刀切法，經(jīng)驗(yàn)貝葉斯估計(jì)等方法都對(duì)法回歸分析起著滲

透和促進(jìn)作用。

由此回歸模型技術(shù)隨著它本身的不斷完善和發(fā)展以及應(yīng)用領(lǐng)域的不斷擴(kuò)大，將在

統(tǒng)計(jì)學(xué)中占有更重要的位置，也必將為人類社會(huì)的發(fā)展起著它獨(dú)到的作用。

1.10為什么強(qiáng)調(diào)運(yùn)用回歸分析研究經(jīng)濟(jì)問(wèn)題要定性分析和定量分析

相結(jié)合？

答：因?yàn)閿?shù)理統(tǒng)計(jì)方法只是從事物外在的數(shù)量表面上去研究問(wèn)題，不涉及事物質(zhì)

的規(guī)定性。單純的表面上的數(shù)量關(guān)系是否反映事物的本質(zhì)？這本質(zhì)研究如何？必

須依靠專門學(xué)科的研究才能下定論。所以，在經(jīng)濟(jì)問(wèn)題的研究中，我們不能僅憑

樣本數(shù)據(jù)估計(jì)的結(jié)果就不加分析的說(shuō)長(zhǎng)道短，必須把參數(shù)估計(jì)的結(jié)果和具體經(jīng)濟(jì)

問(wèn)題以及現(xiàn)實(shí)情況緊密結(jié)合，這樣才能保證回歸模型在經(jīng)濟(jì)問(wèn)題研究中的正確運(yùn)

用。

2一元線性回歸

2.1一元線性回歸模型有哪些基本假定？

答：1）解釋變量為是確定性變量，不是隨機(jī)變量。

2）隨機(jī)誤差項(xiàng)具有0均值和等方差，即

10

'E（&）=0,i=l,2,...,〃

-cov（g,￡j）=b，a=））這個(gè)假定常稱為高斯-馬爾科夫條件。

、cov（g,￡）=0,（i=j）z,j=1,2,...,n

E（&）=0,即假設(shè)觀測(cè)值沒(méi)有系統(tǒng)誤差，隨機(jī)誤差&的平均值為零。隨機(jī)誤差

項(xiàng)&的協(xié)方差為零表明隨機(jī)誤差項(xiàng)在不同的樣本點(diǎn)之間是不相關(guān)的（在正態(tài)假

定下即為獨(dú)立的），不存在序列相關(guān)，并且有相同的精度。

3）,正態(tài)分布的假定條件為：

口?刈。,/），i=l,2,…,〃

￡I，6*2,…相互獨(dú)立

2.2考慮過(guò)原點(diǎn)的線性回歸模型y=旦*y+￡,,=1,2,...〃誤差

&，&，…&，仍滿足基本假定，求B、的最小二乘估計(jì)。

答：由題知離差平方和為：Q=Q（力）=X（y廠四*xj，則力的最小二乘估

/=!

計(jì)即是使得：。（夕：）=呼11。（笈）有：

A獸y*蘢

■3"；）=-2喏（y廠短兀解得：仇一善）

2.3證明￡匕=。，￡xe=o.

/=1i=l

心y,力力幻=。

證明：由正規(guī)方程：｛7以及殘差：

〔￡（乂-尸；-夕；短升=°

1=1

由以上等式解得：￡&=。，￡乂匕=0?

/=1/=1

11

2.4回歸方程次〉）=6+力］的參數(shù)國(guó),力的最小二乘估計(jì)與最大似

然估計(jì)在什么條件下等價(jià)？給出理由？

答：回歸方程E（y）=力,+力工的參數(shù)方。,力的最小二乘估計(jì)與最大似然估計(jì)

在2~N（o，b）的條件下等價(jià)。

證明：設(shè)獲得的n組樣本觀測(cè)值為：（M，y）,…,（x“,y“）則有：

y=p+力％+力=1,2,...〃則求譏平、的最小二乘估計(jì)就是滿足使

。（民，刃這（y］20—達(dá)到最小時(shí)的尸；，尸；。即對(duì)

?=1

。（四￡）=t（y］夕o-萬(wàn)而求極小值。

/=1

對(duì)于極大似然估計(jì)，當(dāng)&~N（0，b"）時(shí)，y~+/?］打0"2）

1（丫廠。

y的分布密度為:00-01*

.—?（y廠力0一0工。一

似然函數(shù)為一嫉力,.=口/=（2?02）2e-一萬(wàn)一

/=1%

對(duì)數(shù)似然函數(shù)為

1=1吐（萬(wàn)0,",/）=三皿2萬(wàn)/）一占￡（%一60-萬(wàn)內(nèi)）

22b,=|

要求尸。，力的極大似然估計(jì)，即求/的極大值，等價(jià)于對(duì)尸

求極大值。

由以上可知，在假設(shè)g?N（0,f）時(shí)，氏,力的最小二乘估計(jì)與最大似然估計(jì)

等價(jià)。

2.5證明我是氏的無(wú)偏估計(jì)。

12

A1Z5

/J=豆—121乂

lXXJCXT

證明：氏,目的最小二乘估計(jì)分別為：〃_

iZ(X「x)

因?yàn)閄,為非隨機(jī)變量，y=0。+)4%j+&，i=l，2,…〃,

E(G=QE(y)=0o+0]x.,i=1,2,...,n

解得：4月；)=四則：

E(瓦)=E1y_0；x)=E(y)-xE(p)=民

得證。

一2

2.6證明var(尸)=(+“X_)0■成工。

〃

證明:因?yàn)閄為非隨機(jī)變量，y=B。+0訪+￡『=',2,…〃，則，var(y)=(Jo

var(區(qū))=var(￡(:(工[%))y)

Z=1IAX

-2—2__

空(二+0立—1.

I〃Ixx〃乙

-2

_(〃+4_2)cr

沁r)

2.7證明平方和分解式SST=SSR+SSE.

證明：

13

s"4（%——y）2，

n2_2__

4（（%—靖）+（靖—y）+2（y-y）（y：-＞））

唔37）苜（靖%+雪產(chǎn)）（-

n2n—2

2（%-＞；）+“D

=SSE+SSR

2.8驗(yàn)證三種檢驗(yàn)的關(guān)系，即證：

t=￡Jk=^L

1-尸

F_ssR,n

~SSE/(n-2)

證明:

(1)

14

_D\lxx_P\xx

~A2-1~

cry：

〃-2-e匕,

(〃-2)由Z

SST-SSR

(〃-2)四1

Li工；

(〃—2)夕z,九

,A2.I

因?yàn)?

由以上可證:

(2)

rSSR/\_(n-2)SSR

~SSE/(n-2)~-SSE

(”2)/j〃xx

iyyfjixx

IxxfjL

-^(lyy-lJ*2xx)

2

=t

——2

2.9驗(yàn)證式子：var(e,)=(l二-G^~~—^~)(y

XX

15

證明:

D（e）=o（y-y）

，

=D（y-y-^+/3]'X-y））

因?yàn)?$=8+px,D（X+r）=z）（x）+￡＞（y）+cov（x,y）

上式為：

D（e）=。（y~y）+D（夕：（x/x））-2cov（y-y/；（x/x））

2_2

=。一一友）+（y-*）彳-2cov（y-y,左（y-x））

CXX

因?yàn)椋?/p>

一2

cov（y—y,尸]（無(wú)-x））=

IXX

——2

代入得證:var（?）=（1」-（為尸））（f

nIXX

i”2

2.10用第9題證明：^嘰力方⑵—靖）是b的無(wú)偏估計(jì)。

16

證明：

.1n2

=E(SSE)=EQSST-SSR)

下面分別計(jì)算E(SST)和E(SSR)

n—2

E(SST)=E(=(y廠y))

2—2

y；~nE(y)

Z=1

—2——2

E(y)=D(y)+(玖y))

=*為+府

E(SST)=(〃-1)4+夕Z

n—2

E(SSR)=Eg(y1_y))

=//(￡：)

2

=1小券+仇)

CXX

將E(SST)和E(SSR)代入E(SSE)

得證：

0=口久一%)

2.11驗(yàn)證決定系數(shù)/,與F之間的關(guān)系式：d=」一

以上表達(dá)式說(shuō)明,與F之間是等價(jià)的，那么我們?yōu)槭裁匆謩e引入這兩個(gè)統(tǒng)計(jì)

量，而不是只使用其中一個(gè)？

17

2_SSR

T~SSE+SSR

SSR(〃—2)

"SSR(n-2)+SSE(n-2)

、丁口口SSR(n-2)/SSE

址明：=--------：——:--------

SSR(n-2)/SSE+(n-2)

SSR/1

SSE/n-2

SSR/l"

-4-H-2

SSE/n-2

F

F+n-2

2

(2)雖然廠與F之間是等價(jià)的，但我們不能只使用其中的一個(gè)，因?yàn)檫@兩個(gè)統(tǒng)

計(jì)量研究的對(duì)象和目的均有所不同。

1)統(tǒng)計(jì)量F是用來(lái)進(jìn)行F檢驗(yàn)，即對(duì)線性回歸方程顯著性的一種檢驗(yàn)，即其研究

的是引起總平方和SST的兩個(gè)因素SSR和SSE所占必中的多少，也就是如果回歸

平方和SSR越大回歸的效果越好，回歸方程便更顯著，F(xiàn)的數(shù)值大于1.

2)決定系數(shù)，=型是研究的總體的離差平方和SST中回歸平方和SSR所占的

比重，即如果尸=型接近于1,說(shuō)明因變量不確定性的絕大部分能由回歸方程

解釋，回歸方程擬合優(yōu)度就越好。另外決定系數(shù)尸=0里的數(shù)值在0與1之間。

2.12如果把自變量觀測(cè)值都乘以2,回歸參數(shù)的最小二乘估計(jì)

尸；和尸；會(huì)發(fā)生什么變化？如果把自變量觀測(cè)值都加上2,回歸參數(shù)

的最小二乘估計(jì)色和尸;會(huì)發(fā)生什么變化？

答：設(shè)開(kāi)始時(shí)的n組觀測(cè)值為：離差平方和為：

。(尸。力)4(丁廠總-尸1方)

a2

萬(wàn)。，力的最小二乘估計(jì)就是滿足使。(尸。，力)=Z(y—尸()一四加)一達(dá)到最小

/=1

18

時(shí)的區(qū)￡。即對(duì)。（四0）=￡（%一為一戶w）2求極小值。

/=1

裁依吻）=-2“「優(yōu)十.二0

即：*出=B、）=-22?！竷?yōu)-優(yōu)X）Xi=。

解得：

以=5

IXX

1）當(dāng)自變量的觀測(cè)值均乘以2時(shí)，此時(shí)的觀測(cè)值為：（2x「y）,...,（2x“，y“）離

差平方和即為：

。（四，笈）=￡。廠40一2四加）2此時(shí)的回歸參數(shù)戊，

滿足:量呢=P>-2"「緇—2砧J=0

修出=。：）=-2*2g廠瑞-2萬(wàn);Xi）Xi=0

解得：

孰"呼

2）當(dāng)自變量的觀測(cè)值都加上2時(shí)，即此時(shí)的觀測(cè)值為：

（（玉+2），X），…，（（七,+2），y“）離差平方和為：

19

。（民，?）=￡（%-A）-四（七+2））2此時(shí)的回歸參數(shù)值，依

i=\

滿足：^（氏=P＞苔（y廠緇一/（七+2））2=0

簫（乃產(chǎn)"）=-2*22（＞廠緇—2為①+2））（玉+2）=。

解得：

陪-吁2）

C（x+2）（x+2）

2.13如果回歸方程：，=及+/產(chǎn)相應(yīng)的相關(guān)系數(shù)r很大，則用它預(yù)測(cè)

時(shí)預(yù)測(cè)誤差一定較小，這一結(jié)論能成立嗎？對(duì)你的回答說(shuō)明理由。

答：這一結(jié)論不一定能成立。原因如有：

1）當(dāng)樣本量較小時(shí)，與前面在講述相關(guān)系數(shù)時(shí)所強(qiáng)調(diào)的一樣，此時(shí)即使得到一

個(gè)大的決定系數(shù)，但是這個(gè)大的決定系數(shù)很可能是虛假現(xiàn)象。為此，可以結(jié)合樣

本量和自變量個(gè)數(shù)對(duì)決定系數(shù)做調(diào)整，計(jì)算調(diào)整的決定系數(shù)。

2）即使樣本量并不小，決定系數(shù)很大，例如是0.9,也并不能肯定自變量和因

變量之間的關(guān)系是線性的，這是因?yàn)橛锌赡芮€回歸的效果更好。尤其是當(dāng)自變

量的取值范圍很窄時(shí)，線性回歸的效果通常是較好的，這樣的回歸方程是不能用

于外推預(yù)測(cè)的。模型失擬檢驗(yàn)來(lái)判定因變量與自變量之間的真實(shí)函數(shù)關(guān)系，到底

是線性關(guān)系還是曲線關(guān)系，如果是曲線關(guān)系到底是哪一種曲線關(guān)系，這是可以用

殘差分析方法來(lái)判斷回歸方程的正確性。

3）反之，當(dāng)算出一個(gè)很小的決定系數(shù)尸，例如J』時(shí)，與相關(guān)系數(shù)的顯著性

檢驗(yàn)相似，這時(shí)如果樣本量n不大，就會(huì)得到線性回歸不顯著的檢驗(yàn)結(jié)論，而在

樣本容量n很大時(shí)，檢驗(yàn)結(jié)果仍然會(huì)得出線性回歸顯著的結(jié)論，不論檢驗(yàn)結(jié)果是

否顯著，這時(shí)都應(yīng)該嘗試改進(jìn)回歸的效果，例如增加自變量，改用曲線回歸等。

2.14為了調(diào)查某廣告對(duì)銷售收入的影響，某商店記錄了5個(gè)月的銷

售收入y（萬(wàn)元）和廣告費(fèi)用x（萬(wàn)元），數(shù)據(jù)見(jiàn)表2.6,

表2.6

20

月12345

份

X12345

y10102020

40

1）畫(huà)散點(diǎn)圖；

2）x與y之間是否大致呈線性關(guān)系？

3）用最小二乘估計(jì)求出回歸方程；

4）求回歸標(biāo)準(zhǔn)誤差

5）給出尸；與尸；的置信度為95%的區(qū)間估計(jì)；

6）計(jì)算x與y的決定系數(shù)；

7）對(duì)回歸方程作方差分析；

8）對(duì)回歸系數(shù)才顯著性的檢驗(yàn)；

9）做相關(guān)系數(shù)的顯著性檢驗(yàn)；

10）對(duì)回歸方程作殘差圖并作相應(yīng)的分析；

11）對(duì)當(dāng)廣告費(fèi)用為4.2萬(wàn)元時(shí)，銷售收入將達(dá)到多少，并給出置信度95%的置

信區(qū)間。

答：

1）利用SPSS軟件，散點(diǎn)圖為：

21

X

2）由圖易知：x與y之間大致呈現(xiàn)線性關(guān)系。

3）最小二乘估計(jì)得到的回歸方程為：

由：

系數(shù).

非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)系數(shù)B的95.0%置信區(qū)間

模型B標(biāo)準(zhǔn)誤差試用版tSig.下限上限

1（常量）-1.0006.351-.157.885-21.21119.211

X7.0001.915.9043.656.035.90613.094

a.因變量:y

可以得到回歸方程為：y=-l+7x

另外：設(shè)回歸方程為y=bo+P\x

AZx，一〃xy

。,=號(hào)----"

22

0o=y~/?]X=20—7x3=—1

同樣.?.可得回歸方程為y=T+7x

4）求回歸標(biāo)準(zhǔn)誤差cr；

模型匯總b

模型RR方調(diào)整R方標(biāo)準(zhǔn)估計(jì)的誤差

1.904」.817.7566.05530

a.預(yù)測(cè)變量:（常量）,X。

b.因變量:y

由以上可以知道：回歸標(biāo)準(zhǔn)誤差b=6.00530,1=6.00530*6.00530=36.0636,

另外：

A21nA2

。=—；￡（?一必）

n-2M

(-1+7x1))2+(10-(-1+7x2)>+(20-(-1+7x3))2

§[+(20-(-1+7x4)>+(40-(-1+7x5))2

=#16+9+0+49+36]

=110/3

同樣可得。

5）給出戊與尸;的置信度為95%的區(qū)間估計(jì);

系數(shù),

模型非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)系數(shù)B的95.0%置信區(qū)間

B標(biāo)準(zhǔn)誤差試用版tSig.卜限上限

1（常量）-1.0006.351-.157.885-21.21119.211

X7.0001.915.9043.656.035.90613.094

a.因變量:y

由以上可以知道：給出尸:與尸:的置信度為95%的區(qū)間估計(jì)分別為：（0.906,

13.094)(-21.211,19.211)

23

6）x與y的決定系數(shù);

模型匯總"

更改統(tǒng)計(jì)量

模型R方更改F更改dfldf2Sig.F更改

1.81713.36413.035

由SPSS軟件，可以知道x與y的決定系數(shù)為：d=0817

7）由SPSS軟件可以得到回歸方程作方差分析為：

Anovab

模型平方和df均方FSig.

1回歸490.0001490.00013364.035,

殘差110.000336.66