數(shù)理統(tǒng)計(jì)CH_回歸分析(2)ppt課件

1、本章內(nèi)容本章內(nèi)容7 回歸分析7.2.3 回歸預(yù)測Response Estimate by Linear Regression Model7.2 一元線性回歸7.2.3 回歸預(yù)測(1)預(yù)測問題20.0001310.9954pR當(dāng)回歸方程檢驗(yàn)顯著并有較大的決定系數(shù)時(shí)可將其用于回歸預(yù)測給定x，求y的估計(jì)值和置信區(qū)間稱作回歸預(yù)測7.2.3 回歸預(yù)測(2)響應(yīng)y的點(diǎn)預(yù)測 000000011xxyabxyybxbxyb xxxx yyxxnSSxxxxynSSxxx ybSS0 xyxy0試驗(yàn)觀測記作 和預(yù)測變量記作 和點(diǎn)預(yù)測公式7.2.3 回歸預(yù)測(3)點(diǎn)預(yù)測的期望和方差 0020202111xxxxx

2、xxVar yVarynSSxxxxVar ynSSxxnSS000E yE abxabx 2Var y7.2.3 回歸預(yù)測(4)響應(yīng)統(tǒng)計(jì)量分布202001 ,xxxyN abxnSS 000020yabxeE yabxVar yVar e200,yN abx202001 0, 1xxxyyNnSS響應(yīng)預(yù)測的分布響應(yīng)預(yù)測差的分布引用獨(dú)立性響應(yīng)模型2000200201111xEExxxyynSSTSSEdfyyt dfxxMSEnSS7.2.3 回歸預(yù)測(5)響應(yīng)的區(qū)間預(yù)測2Edfn22ESSEdf7.2.3 回歸預(yù)測(5)響應(yīng)的區(qū)間預(yù)測00220111ExyyPtdfxxMSEnSS 響應(yīng)區(qū)間

3、估計(jì)響應(yīng)預(yù)測差的置信區(qū)間和置信度7.2.3 回歸預(yù)測0002020001111,ExP yLyyLxxLtdfMSEnSSyyL yL 響應(yīng) 的置信區(qū)間為(5)響應(yīng)的區(qū)間預(yù)測響應(yīng)區(qū)間估計(jì)響應(yīng)的置信區(qū)間和置信度7.2.3 回歸預(yù)測(6)回歸預(yù)測案例22020000054.1360.0533.1824105.0610.670921148.11180.346;；響應(yīng)點(diǎn)預(yù)測：響應(yīng)區(qū)間預(yù)測：EEExExnxdftdfMSESSE dfSSxxLtdfMSEnSSyxyyL yL 響應(yīng)的點(diǎn)預(yù)測和區(qū)間預(yù)測7.2.3 回歸預(yù)測(6)回歸預(yù)測案例響應(yīng)的點(diǎn)預(yù)測和區(qū)間預(yù)測x0y0估計(jì) L y0_CL y0_CU2.

4、0112.5810 41.6143 70.9667154.19532.8176.8578 38.1417 138.7161214.99953.6241.1346 36.1312 205.0034277.26584.4305.4114 35.8297 269.5817341.24115.2369.6882 37.2787 332.4095406.96696.0433.9650 40.2897 393.6753474.25476.8498.2418 44.5472 453.6946542.7890y0的點(diǎn)預(yù)測和區(qū)間預(yù)測的點(diǎn)預(yù)測和區(qū)間預(yù)測7.2.3 回歸預(yù)測(6)回歸預(yù)測案例試驗(yàn)范圍內(nèi)響應(yīng)預(yù)測x0=

5、2:0.2:6.47.2.3 回歸預(yù)測(6)回歸預(yù)測案例禁止試驗(yàn)范圍外對響應(yīng)進(jìn)行預(yù)測x0=0:0.5:257.2 一元線性回歸7.2.4 可線性化非線性回歸 Linear Regression by Transformed Nonlinear Models7.2.4 可線性化非線性回歸(1)問題的提出0RFModelErrorSSRSSE1n-2SSR/1SSE/(n-2)MSR/MSEpTotalSST n-1The ANOVA Table7.2.4 可線性化非線性回歸(2)非線性模型線性回歸步驟7.2.4 可線性化非線性回歸(3)可線性化非線性回歸案例XY23456789101112131

6、415166.428.209.589.509.7010.009.939.9910.4910.5910.6010.8010.6010.9010.767.2.4 可線性化非線性回歸(4)案例雙曲線回歸根據(jù)試驗(yàn)觀測散點(diǎn)圖的特征選雙曲線模型1baYX11yYyabxxX線性化變換XYxy23456789101112131415166.428.209.589.509.7010.009.939.9910.4910.5910.6010.8010.6010.9010.760.50000.33330.25000.20000.16670.14290.12500.11110.10000.09090.08330.07

7、690.07140.06670.06250.15580.12200.10440.10530.10310.10000.10070.10010.09530.09440.09430.09260.09430.09170.092911,yxYX7.2.4 可線性化非線性回歸(4)案例雙曲線回歸試驗(yàn)觀測的線性化變換7.2.4 可線性化非線性回歸(4)案例雙曲線回歸XYxy23456789101112131415166.428.209.589.509.7010.009.939.9910.4910.5910.6010.8010.6010.9010.760.50000.33330.25000.20000.166

8、70.14290.12500.11110.10000.09090.08330.07690.07140.06670.06250.15580.12200.10440.10530.10310.10000.10070.10010.09530.09440.09430.09260.09430.09170.0929n=15Total x*y=0.27265T= x2.38071.5469T2/n0.37785 0.15953 x20.58433 0.16333線性回歸數(shù)據(jù)計(jì)算SSx=0.58433-0.37785=0.20648, n=15SP=0.27265-2.38071.5469/15=0.02714

9、b=SP/SSx=0.02714/0.20648=0.13144a=1.5469/15-b2.3807/15=0.08227SST=SSy=0.16333-0.15953=0.00380SSR=SP2/SSx=0.027142/0.20648=0.00357SSE=SST-SSR=0.0038-0.00357=0.000237.2.4 可線性化非線性回歸(4)案例雙曲線回歸線性回歸估計(jì)和平方和計(jì)算R2=SSR/SST=0.00357/0.0038=0.9395SourceSSdfMSF valuePrFModelError0.003570.000231130.003571.7692e-5201

10、.78 FModelError0.254570.010931130.254578.4077e-4302.78FModelErrorSSRSSEmn-m-1SSR/mSSE/(n-m-1)MSR/MSETotalSSTn-1模型檢驗(yàn)方差分析表7.3 多元線性回歸(6)回歸模型檢驗(yàn)21RSSR SSTSSE SST 0111:0:,mmHH不全為零(7)回歸參數(shù)檢驗(yàn)12,ETjjjjTjjjjdfjNX XSTDERRX XMSEpP TSTDERR 7.3 多元線性回歸01:01,2:01,2jjHjmHjm；7.3 多元線性回歸(8)Hald水泥問題回歸分析X1X2X3X4Y72666078.

11、5129155274.31156820104.3113184787.675263395.91155922109.2371176102.7131224472.5254182293.12147426115.9140233483.81166912113.31068812109.478.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.4y7.3 多元線性回歸(8)Hald水泥問題回歸分析X1X2X3X4Y72666078.5129155274.31156820104.3113184787.675263395.91155922109.23711

12、76102.7131224472.5254182293.12147426115.9140233483.81166912113.31068812109.41726660112915521 11568201 113184717526331 11559221371176113122441254182212147426114023341 11669121 1068812X7.3 多元線性回歸(8)Hald水泥問題回歸分析SourceSSdfMSF valuePrFModel 2667.904666.975111.4794.7562e-007Error47.8685.983Total2715.76 12

13、Hald水泥問題模型檢驗(yàn)方差分析表水泥問題模型檢驗(yàn)方差分析表20.9824SSRRSST回歸模型顯著性檢驗(yàn)7.3 多元線性回歸(8)Hald水泥問題回歸分析SourceSSdfMSF valueF0.05(4,8)Model 2667.904666.975111.4793.8379Error47.8685.983Total2715.76 12Hald水泥問題模型檢驗(yàn)方差分析表水泥問題模型檢驗(yàn)方差分析表20.9824SSRRSST回歸模型顯著性檢驗(yàn)7.3 多元線性回歸(8)Hald水泥問題回歸分析parameter estimate t value Pr|t|62.4054 0.891 0.39

14、9111.55112.083 0.070820.51020.705 0.500930.10190.135 0.89594-0.1441 -0.203 0.8441Hald水泥問題參數(shù)估計(jì)和檢驗(yàn)水泥問題參數(shù)估計(jì)和檢驗(yàn)回歸參數(shù)顯著性檢驗(yàn) 模型檢驗(yàn)的方差分析結(jié)果表明，線性模型零假設(shè)在0.0001水平上被拒絕，且決定系數(shù)達(dá)0.9824，說明響應(yīng)變量與自變量間存在很強(qiáng)的線性關(guān)系，響應(yīng)觀測值與回歸預(yù)測值之間的殘差較小。因而，回歸模型擬合良好并具有較高的預(yù)測精度。7.3 多元線性回歸(8)Hald水泥問題回歸分析 回歸參數(shù)的t檢驗(yàn)結(jié)果表明，回歸系數(shù)零假設(shè)在0.05水平上均被接受，即回歸系數(shù)都不顯著，這與響應(yīng)

15、變量與自變量間存在很強(qiáng)線性關(guān)系的結(jié)論矛盾，說明自變量之間存在較強(qiáng)的線性相關(guān)。因而，需要選用其它回歸方法來改進(jìn)回歸分析的結(jié)果。7.3 多元線性回歸(8)Hald水泥問題回歸分析7 回歸分析7.4 回歸注意事項(xiàng)Taking Notice to Something在實(shí)際中應(yīng)用回歸方程應(yīng)謹(jǐn)慎：(1)禁止回歸方程外推；(2)試驗(yàn)實(shí)施和應(yīng)用場合的非處理因素(條件)應(yīng)大致相當(dāng)；(3)禁止回歸方程逆向使用；(4)x和y均為隨機(jī)變量時(shí)，只有部分回歸公式仍適用。7.4 回歸注意事項(xiàng)(1)回歸方程的應(yīng)用7.4 回歸注意事項(xiàng)xy10 xy1自變量x增加或減少1個(gè)單位則y平均增加或減少1個(gè)單位的說法應(yīng)謹(jǐn)慎！(2)回歸系

16、數(shù)的應(yīng)用 回歸方程是在一定的自變量觀測范圍回歸方程是在一定的自變量觀測范圍內(nèi)建立的，在自變量觀測范圍之外使用回內(nèi)建立的，在自變量觀測范圍之外使用回歸方程，稱作回歸的外推；如果在自變量歸方程，稱作回歸的外推；如果在自變量觀測范圍之內(nèi)使用，就叫做內(nèi)插。內(nèi)插使觀測范圍之內(nèi)使用，就叫做內(nèi)插。內(nèi)插使用上一般沒什么問題，但外推使用有可能用上一般沒什么問題，但外推使用有可能存在很大的偏差，故一般不主張對回歸方存在很大的偏差，故一般不主張對回歸方程做外推使用，沒把握就不要使用。程做外推使用，沒把握就不要使用。 7.4 回歸注意事項(xiàng)(3)禁止回歸方程外推7.4 回歸注意事項(xiàng)(3)禁止回歸方程外推 用x從4到16

17、的試驗(yàn)觀測得一條決定系數(shù)達(dá)0.9508的回歸直線，由此預(yù)測x=24 處的響應(yīng) y 會導(dǎo)致很大偏差，而且y與x為線性關(guān)系的結(jié)論也是錯(cuò)誤的。7.4 回歸注意事項(xiàng)(3)禁止回歸方程外推 用x從2到16的試驗(yàn)觀測得到一條決定系數(shù)0.9582的指數(shù)回歸曲線，由此做出y與x是指數(shù)關(guān)系的結(jié)論較恰當(dāng)。 禁止超越x 的試驗(yàn)范圍解釋回歸系數(shù)，超范圍解釋可能造成與實(shí)際的嚴(yán)重偏離。例如，產(chǎn)量y的平均值大致隨施肥量x的增加呈線性增長。但超出一定范圍，如施肥量過大，則進(jìn)一步增加施肥量不僅不能促進(jìn)增產(chǎn)，反而可能產(chǎn)生肥害導(dǎo)致減產(chǎn)。7.4 回歸注意事項(xiàng)合理解釋回歸系數(shù)(3)禁止回歸方程外推 注意試驗(yàn)實(shí)施與應(yīng)用場合的非處理因素應(yīng)

18、大致相當(dāng)(背景條件一致性)，否則在x試驗(yàn)范圍內(nèi)解釋回歸系數(shù)仍可能出問題。例如，在貧瘠土壤上實(shí)施試驗(yàn)并建立產(chǎn)量與施肥量的回歸方程，若給定施肥量并用該回歸方程預(yù)測肥沃田地的產(chǎn)量就會產(chǎn)生錯(cuò)誤結(jié)論。7.4 回歸注意事項(xiàng)(4)試驗(yàn)和應(yīng)用的條件一致性7.4 回歸注意事項(xiàng)(5)禁止回歸方程逆向使用 由x做自變量和y做因變量得到的回歸方程導(dǎo)出y做自變量和x做因變量的回歸方程，再去應(yīng)用稱作逆向使用。例如，如果你想要通過身高x來預(yù)測體重y，則選x做自變量和y做因變量，估計(jì)出回歸方程；如果你想要通過體重y預(yù)測身高x，則你并不能直接利用上述回歸方程，而必須從頭做起，取y做自變量和x做因變量，估計(jì)一個(gè)新的回歸方程。7.4 回歸注意事項(xiàng)(5