第三節(jié) 線性回歸的顯著性檢驗(yàn)及回歸預(yù)測(cè)

1、第三節(jié)第三節(jié) 線性回歸的顯著性線性回歸的顯著性檢驗(yàn)及回歸預(yù)測(cè)檢驗(yàn)及回歸預(yù)測(cè) 在回歸分析中在回歸分析中, ,要檢驗(yàn)因變量要檢驗(yàn)因變量Y Y與自變量與自變量X X之間到底有無真正的線性關(guān)系之間到底有無真正的線性關(guān)系, ,可以通過可以通過回歸系數(shù)的顯著性檢驗(yàn)回歸系數(shù)的顯著性檢驗(yàn)(t (t檢驗(yàn)檢驗(yàn)) )或回歸方程或回歸方程的顯著性檢驗(yàn)的顯著性檢驗(yàn)(F(F檢驗(yàn)檢驗(yàn)) )來判斷來判斷. .1一、回歸系數(shù)的顯著性檢驗(yàn)一、回歸系數(shù)的顯著性檢驗(yàn) 回歸系數(shù)顯著性檢驗(yàn)的目的是通過檢驗(yàn)回回歸系數(shù)顯著性檢驗(yàn)的目的是通過檢驗(yàn)回歸系數(shù)歸系數(shù) 的值與的值與0 0是否有顯著性差異，來判斷是否有顯著性差異，來判斷Y Y與與X X

2、之間是否有顯著的線性關(guān)系之間是否有顯著的線性關(guān)系. .若若 =0,=0,則總體則總體回歸方程中不含回歸方程中不含X X項(xiàng)項(xiàng)( (即即Y Y不隨不隨X X變動(dòng)而變動(dòng)變動(dòng)而變動(dòng)), ),因因此此, ,變量變量Y Y與與X X之間并不存在線性關(guān)系之間并不存在線性關(guān)系; ;若若 0, 0,說說明變量明變量Y Y與與X X之間存在顯著的線性關(guān)系之間存在顯著的線性關(guān)系. . 提出原假設(shè)與備擇假設(shè)：提出原假設(shè)與備擇假設(shè)：01:0;:0HH 3 構(gòu)造檢驗(yàn)統(tǒng)計(jì)量構(gòu)造檢驗(yàn)統(tǒng)計(jì)量根據(jù)已知條件實(shí)際計(jì)算統(tǒng)計(jì)量根據(jù)已知條件實(shí)際計(jì)算統(tǒng)計(jì)量t t的值；的值； (2)( )btt nS b 比較比較與中的計(jì)算結(jié)果與中的計(jì)算結(jié)果

3、, ,得到結(jié)論得到結(jié)論. .21( )()eiS bSbxx 其其中中，為為 的的樣樣本本方方差差，2222()()iixixxxnSxn 2(2)tn 給定顯著性水平給定顯著性水平 , ,這是這是t t分布的雙側(cè)檢驗(yàn)分布的雙側(cè)檢驗(yàn), ,查查表計(jì)算出臨界值表計(jì)算出臨界值 , ,得出拒絕域得出拒絕域; ;回歸系數(shù)的檢驗(yàn)回歸系數(shù)的檢驗(yàn) ( (例題分析例題分析) )對(duì)例題的回歸系數(shù)進(jìn)行顯著性檢驗(yàn)對(duì)例題的回歸系數(shù)進(jìn)行顯著性檢驗(yàn)( ( 0.05)0.05)提出假設(shè)提出假設(shè)1. 1.計(jì)算檢驗(yàn)的統(tǒng)計(jì)量計(jì)算檢驗(yàn)的統(tǒng)計(jì)量01:0;:0HH 20.7961112.4572645()eibtSxx 0.796116

4、.65480.0478 20.0253.(2)(14)2.144816.6548,tntYX 所所以以拒拒絕絕原原假假設(shè)設(shè), ,表表示示 與與 之之間間存存在在顯顯著著的的線線性性關(guān)關(guān)系系, ,即即能能源源消消耗耗量量與與工工業(yè)業(yè)總總產(chǎn)產(chǎn)值值之之間間存存在在顯顯著著的的線線性性相相關(guān)關(guān)關(guān)關(guān)系系. .5二二. .回歸方程的顯著性檢驗(yàn)回歸方程的顯著性檢驗(yàn)( (方差分析方差分析(F(F檢驗(yàn)檢驗(yàn)) ) 檢驗(yàn)兩變量是否線性相關(guān)的另一種方法是方差分檢驗(yàn)兩變量是否線性相關(guān)的另一種方法是方差分析析, ,它是建立在對(duì)總離差平方和如下分解的基礎(chǔ)上：它是建立在對(duì)總離差平方和如下分解的基礎(chǔ)上： 22222222,()

5、0,iiciciiyiiiiExyiiRExyiiiiERyyyyyySSyynSyynxySSSSbnSSSbx ynSSSSSSbnSbxx yaxSS SSSSaybx 即即：依依賴賴：,n-1,2,1.ERERERERESS SSSSffffffffnfff 三三個(gè)個(gè)平平方方和和的的自自由由度度分分別別記記為為則則它它們們之之間間也也有有等等式式成成立立：且且：則則注注意意： 提出原假設(shè)與備擇假設(shè)：提出原假設(shè)與備擇假設(shè)：01:0;:0HH 構(gòu)造檢驗(yàn)統(tǒng)計(jì)量構(gòu)造檢驗(yàn)統(tǒng)計(jì)量22222(1),(2.),REiSSSSn 構(gòu)構(gòu)造造分分布布統(tǒng)統(tǒng)計(jì)計(jì)量量：7221(1,2)(2)(2).RREESS

6、SSFFnSSSSnini 構(gòu)構(gòu)造造統(tǒng)統(tǒng)F F分分布布計(jì)計(jì)量量：給定顯著性水平給定顯著性水平 , ,查表計(jì)算出臨界值查表計(jì)算出臨界值 , ,得出拒絕域得出拒絕域(1,2)Fn (1,2),).Fn 根據(jù)已知條件實(shí)際計(jì)算統(tǒng)計(jì)量根據(jù)已知條件實(shí)際計(jì)算統(tǒng)計(jì)量F F的值；的值； 比較比較與中的計(jì)算結(jié)果與中的計(jì)算結(jié)果, ,得到結(jié)論得到結(jié)論. .8方差分析方差分析把總離差平方和及其自由度進(jìn)行分把總離差平方和及其自由度進(jìn)行分解解, ,利用利用F F統(tǒng)計(jì)量檢驗(yàn)兩變量間線性相關(guān)顯著性的統(tǒng)計(jì)量檢驗(yàn)兩變量間線性相關(guān)顯著性的方法稱為方差分析方法稱為方差分析. .方差分析的結(jié)果歸納如下：方差分析的結(jié)果歸納如下：離差來源離

7、差來源平方和平方和自由度自由度F F值值回回 歸歸剩剩 余余1 1n-2n-2 總計(jì)總計(jì)n-1n-1一一元元線線性性回回歸歸的的方方差差分分析析表表 2RciSSyy 2EiciSSyy 2iSSyy (2)RESSFSSn 線性關(guān)系的檢驗(yàn)線性關(guān)系的檢驗(yàn)( (例題分析例題分析) ) 提出假設(shè)提出假設(shè)計(jì)算檢驗(yàn)統(tǒng)計(jì)量計(jì)算檢驗(yàn)統(tǒng)計(jì)量F F01:0;:0HH 222()26175(625)161760.9375()37887(916 625) 162105.750.7961 2105.751676.387684.54991676.3876277.5808(2)84.5499 14iixyiiiiRxy

8、ERRESSyynnSx yxynSSbnSSSSSSSSSFSSn 10 確定顯著性水平確定顯著性水平 =0.05=0.05，并根據(jù)分子自由，并根據(jù)分子自由度度1 1和分母自由度和分母自由度1414找出臨界值找出臨界值F F =4.60=4.60 作出決策：若作出決策：若F F F F , , 拒絕拒絕H H0 0，認(rèn)為能源，認(rèn)為能源消耗量與工業(yè)總產(chǎn)值兩變量間的線性相關(guān)消耗量與工業(yè)總產(chǎn)值兩變量間的線性相關(guān)關(guān)系是顯著的關(guān)系是顯著的. .離差來源離差來源平方和平方和自由度自由度F F值值回回 歸歸剩剩 余余1 11414 總計(jì)總計(jì)15151676.3876RSS 84.5499ESS 2105.

9、75SS 277.5808F 三、利用回歸方程進(jìn)行估計(jì)和預(yù)測(cè)三、利用回歸方程進(jìn)行估計(jì)和預(yù)測(cè)點(diǎn)估計(jì)點(diǎn)估計(jì) 對(duì)于自變量對(duì)于自變量x x的一個(gè)給定值的一個(gè)給定值x x0 0, ,根據(jù)回歸根據(jù)回歸方程得到因變量方程得到因變量 y y 的一個(gè)估計(jì)值的一個(gè)估計(jì)值cy點(diǎn)估計(jì)值有點(diǎn)估計(jì)值有 y y 的的平均值平均值的點(diǎn)估計(jì)的點(diǎn)估計(jì)ny y 的的個(gè)別值個(gè)別值的點(diǎn)估計(jì)的點(diǎn)估計(jì) 在點(diǎn)估計(jì)條件下，平均值的點(diǎn)估計(jì)和個(gè)別在點(diǎn)估計(jì)條件下，平均值的點(diǎn)估計(jì)和個(gè)別值的的點(diǎn)估計(jì)是一樣的，但在區(qū)間估計(jì)中值的的點(diǎn)估計(jì)是一樣的，但在區(qū)間估計(jì)中則不同則不同 y y 的平均值的點(diǎn)估計(jì)的平均值的點(diǎn)估計(jì) 利用估計(jì)的回歸方程利用估計(jì)的回歸方程,

10、,對(duì)于自變量對(duì)于自變量x x 的的一一 個(gè)給定值個(gè)給定值x x0, 0,求出因變量求出因變量y y的平均值的的平均值的一個(gè)估計(jì)值一個(gè)估計(jì)值E E( (y y0 0) , ) ,就是平均值的點(diǎn)估計(jì)就是平均值的點(diǎn)估計(jì) 在能源消耗量與工業(yè)總產(chǎn)值的例子中，在能源消耗量與工業(yè)總產(chǎn)值的例子中，假如我們要估計(jì)能源消耗量為假如我們要估計(jì)能源消耗量為7878十萬噸十萬噸的平均工業(yè)總產(chǎn)值，那么將的平均工業(yè)總產(chǎn)值，那么將7878十萬噸代十萬噸代入估計(jì)的回歸方程，就得到了工業(yè)總產(chǎn)入估計(jì)的回歸方程，就得到了工業(yè)總產(chǎn)值的點(diǎn)估計(jì)：值的點(diǎn)估計(jì)：0()6.51420.7961 7855.5816()E y 億億元元y y 的個(gè)

11、別值的點(diǎn)估計(jì)的個(gè)別值的點(diǎn)估計(jì) 利用估計(jì)的回歸方程利用估計(jì)的回歸方程, ,對(duì)于自變量對(duì)于自變量x x的的一個(gè)給定值一個(gè)給定值x x0 0, ,求出因變量求出因變量y y的一個(gè)個(gè)別的一個(gè)個(gè)別值的估計(jì)值值的估計(jì)值 , ,就是個(gè)別值的點(diǎn)估計(jì)就是個(gè)別值的點(diǎn)估計(jì). .例如，如果我們只是想知道能源消耗量為例如，如果我們只是想知道能源消耗量為8080萬噸的工業(yè)總產(chǎn)值是多少，則屬于個(gè)別萬噸的工業(yè)總產(chǎn)值是多少，則屬于個(gè)別值的點(diǎn)估計(jì)值的點(diǎn)估計(jì) 。根據(jù)估計(jì)的回歸方程得。根據(jù)估計(jì)的回歸方程得cy6.51420.7961 8057.1738()cy 億億元元區(qū)間估計(jì)區(qū)間估計(jì)區(qū)間估計(jì)區(qū)間估計(jì)點(diǎn)估計(jì)不能給出估計(jì)的精度，點(diǎn)估計(jì)

12、值與點(diǎn)估計(jì)不能給出估計(jì)的精度，點(diǎn)估計(jì)值與實(shí)際值之間是有誤差的，因此需要進(jìn)行區(qū)實(shí)際值之間是有誤差的，因此需要進(jìn)行區(qū)間估計(jì)間估計(jì)對(duì)于自變量對(duì)于自變量 x x 的一個(gè)給定值的一個(gè)給定值 x x0 0，根據(jù)回歸，根據(jù)回歸方程得到因變量方程得到因變量 y y 的一個(gè)估計(jì)區(qū)間的一個(gè)估計(jì)區(qū)間區(qū)間估計(jì)有兩種類型區(qū)間估計(jì)有兩種類型 置信區(qū)間估計(jì)置信區(qū)間估計(jì)(confidence interval estimate)(confidence interval estimate) 預(yù)測(cè)區(qū)間估計(jì)預(yù)測(cè)區(qū)間估計(jì)(prediction (prediction interval estimate)置信區(qū)間估計(jì)置信區(qū)間估計(jì) 利用

13、估計(jì)的回歸方程，對(duì)于自變量利用估計(jì)的回歸方程，對(duì)于自變量 x x 的一個(gè)給定值的一個(gè)給定值 x x0 0 ，求出因變量，求出因變量 y y 的平的平均值的估計(jì)區(qū)間均值的估計(jì)區(qū)間 ，這一估計(jì)區(qū)間稱為，這一估計(jì)區(qū)間稱為置信區(qū)間置信區(qū)間(confidence interval)(confidence interval) E E( (y y0 0) ) 在在1- 1- 置信水平下的置信區(qū)間為置信水平下的置信區(qū)間為式中：式中：s se e為回歸估計(jì)標(biāo)準(zhǔn)差為回歸估計(jì)標(biāo)準(zhǔn)差 202211(2)ceniixxytnsnxx 置信區(qū)間估計(jì)置信區(qū)間估計(jì)( (例題分析例題分析) )【例例】求出工業(yè)總產(chǎn)值的點(diǎn)估計(jì)為求

14、出工業(yè)總產(chǎn)值的點(diǎn)估計(jì)為100100億元時(shí)，億元時(shí)，工業(yè)總產(chǎn)值工業(yè)總產(chǎn)值95%95%置信水平下的置信區(qū)間置信水平下的置信區(qū)間. . 解：解：根據(jù)前面的計(jì)算結(jié)果根據(jù)前面的計(jì)算結(jié)果, ,已知已知n n=16=16， s se e=2.457=2.457，t t (16-2)=2.1448(16-2)=2.1448 置信區(qū)間為置信區(qū)間為工業(yè)總產(chǎn)值的點(diǎn)估計(jì)為工業(yè)總產(chǎn)值的點(diǎn)估計(jì)為100100億元時(shí)，工業(yè)總產(chǎn)值億元時(shí)，工業(yè)總產(chǎn)值100cy 21(7357.25)1002.14482.457162645 097.9167()102.0833E y 預(yù)測(cè)區(qū)間估計(jì)預(yù)測(cè)區(qū)間估計(jì) 利用估計(jì)的回歸方程，對(duì)于自變量利用估

15、計(jì)的回歸方程，對(duì)于自變量 x x 的一的一個(gè)給定值個(gè)給定值 x x0 0 ，求出因變量，求出因變量 y y 的一個(gè)個(gè)別的一個(gè)個(gè)別值的估計(jì)區(qū)間，這一區(qū)間稱為值的估計(jì)區(qū)間，這一區(qū)間稱為預(yù)測(cè)區(qū)間預(yù)測(cè)區(qū)間(prediction interval) (prediction interval) y y0 0在在1- 1- 置信水平下的預(yù)測(cè)區(qū)間為置信水平下的預(yù)測(cè)區(qū)間為 202211(2)1ceniixxytnSnxx 置信區(qū)間、預(yù)測(cè)區(qū)間、回歸方程cyabx0b x0 x影響區(qū)間寬度的因素置信水平置信水平 (1 - (1 - ) ) 區(qū)間寬度隨置信水平的增大而增大區(qū)間寬度隨置信水平的增大而增大數(shù)據(jù)的離散程度數(shù)

16、據(jù)的離散程度S Se e 區(qū)間寬度隨離程度的增大而增大區(qū)間寬度隨離程度的增大而增大3. 3.樣本容量樣本容量 區(qū)間寬度隨樣本容量的增大而減小區(qū)間寬度隨樣本容量的增大而減小4. 4.用于預(yù)測(cè)的用于預(yù)測(cè)的 x x0 0與與 x x的差異程度的差異程度 區(qū)間寬度隨區(qū)間寬度隨x x0 0與與 x x 的差異程度的增大的差異程度的增大而增大而增大預(yù)測(cè)區(qū)間估計(jì)預(yù)測(cè)區(qū)間估計(jì)( (例題分析例題分析) )【例例】求出能源消耗量為求出能源消耗量為7373十萬噸時(shí)十萬噸時(shí), ,工業(yè)總產(chǎn)值工業(yè)總產(chǎn)值 95% 95% 置信水平下的置信區(qū)間置信水平下的置信區(qū)間 解：解：根據(jù)前面的計(jì)算結(jié)果根據(jù)前面的計(jì)算結(jié)果, ,已知已知 n n=16=16， s se e= =2.4572.457， t t (14)=2.1448(14)=2.1448 置信區(qū)間為置信區(qū)間為能源消耗量為能源消耗