回歸分析理論與matlab實現(xiàn)

1、2022/9/181數(shù)學(xué)建?；貧w分析實驗?zāi)康膶嶒瀮?nèi)容2、掌握用數(shù)學(xué)軟件求解回歸分析問題。1、直觀了解回歸分析基本內(nèi)容。1、回歸分析的基本理論。3、實驗作業(yè)。2、用數(shù)學(xué)軟件求解回歸分析問題。2022/9/183一元線性回歸多元線性回歸回歸分析數(shù)學(xué)模型及定義*模型參數(shù)估計*檢驗、預(yù)測與控制可線性化的一元非線性回歸（曲線回歸）數(shù)學(xué)模型及定義*模型參數(shù)估計*多元線性回歸中的檢驗與預(yù)測逐步回歸分析2022/9/184一、數(shù)學(xué)模型例1 測16名成年女子的身高與腿長所得數(shù)據(jù)如下：以身高x為橫坐標(biāo)，以腿長y為縱坐標(biāo)將這些數(shù)據(jù)點（xI，yi）在平面直角坐標(biāo)系上標(biāo)出.散點圖解答2022/9/185一元線性回歸分析

2、的主要任務(wù)是：返回2022/9/186二、模型參數(shù)估計1、回歸系數(shù)的最小二乘估計2022/9/187，. 2022/9/1882022/9/189三、檢驗、預(yù)測與控制1、回歸方程的顯著性檢驗2022/9/1810（）F檢驗法 （）t檢驗法2022/9/1811（）r檢驗法2022/9/18122、回歸系數(shù)的置信區(qū)間2022/9/18133、預(yù)測與控制（1）預(yù)測2022/9/1814四、可線性化的一元非線性回歸 （曲線回歸）例2 出鋼時所用的盛鋼水的鋼包，由于鋼水對耐火材料的侵蝕， 容積不斷增大.我們希望知道使用次數(shù)與增大的容積之間的關(guān) 系.對一鋼包作試驗，測得的數(shù)據(jù)列于下表：解答2022/9/

3、1815散點圖此即非線性回歸或曲線回歸 問題（需要配曲線）配曲線的一般方法是：2022/9/1816通常選擇的六類曲線如下：2022/9/1817一、數(shù)學(xué)模型及定義2022/9/1818二、模型參數(shù)估計解得估計值 2022/9/18192022/9/1820三、多元線性回歸中的檢驗與預(yù)測 （）F檢驗法（）r檢驗法(殘差平方和）2022/9/18212、預(yù)測（1）點預(yù)測（2）區(qū)間預(yù)測2022/9/1822四、逐步回歸分析（4）“有進(jìn)有出”的逐步回歸分析。（1）從所有可能的因子（變量）組合的回歸方程中選擇最優(yōu)者；（2）從包含全部變量的回歸方程中逐次剔除不顯著因子；（3）從一個變量開始，把變量逐個引

4、入方程；選擇“最優(yōu)”的回歸方程有以下幾種方法： “最優(yōu)”的回歸方程就是包含所有對Y有影響的變量, 而不包含對Y影響不顯著的變量回歸方程。 以第四種方法，即逐步回歸分析法在篩選變量方面較為理想.2022/9/1823 這個過程反復(fù)進(jìn)行，直至既無不顯著的變量從回歸方程中剔除，又無顯著變量可引入回歸方程時為止。逐步回歸分析法的思想： 從一個自變量開始，視自變量Y作用的顯著程度，從大到地依次逐個引入回歸方程。 當(dāng)引入的自變量由于后面變量的引入而變得不顯著時，要將其剔除掉。 引入一個自變量或從回歸方程中剔除一個自變量，為逐步回歸的一步。 對于每一步都要進(jìn)行Y值檢驗，以確保每次引入新的顯著性變量前回歸方程

5、中只包含對Y作用顯著的變量。2022/9/1824統(tǒng)計工具箱中的回歸分析命令1、多元線性回歸2、多項式回歸3、非線性回歸4、逐步回歸2022/9/1825多元線性回歸 b=regress( Y, X )1、確定回歸系數(shù)的點估計值：2022/9/18263、畫出殘差及其置信區(qū)間： rcoplot（r，rint）2、求回歸系數(shù)的點估計和區(qū)間估計、并檢驗回歸模型： b, bint,r,rint,stats=regress(Y,X,alpha)回歸系數(shù)的區(qū)間估計殘差用于檢驗回歸模型的統(tǒng)計量，有三個數(shù)值：相關(guān)系數(shù)r2、F值、與F對應(yīng)的概率p置信區(qū)間 顯著性水平（缺省時為0.05）2022/9/1827例

6、1解：1、輸入數(shù)據(jù)： x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164; X=ones(16,1) x; Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2、回歸分析及檢驗： b,bint,r,rint,stats=regress(Y,X) b,bint,stats題目2022/9/18283、殘差分析，作殘差圖： rcoplot(r,rint) 從殘差圖可以看出，除第二個數(shù)據(jù)外，其余數(shù)據(jù)的殘差離零點均較近，且殘差的置信區(qū)間均包含零點，這說明回歸模型 y=-

7、16.073+0.7194x能較好的符合原始數(shù)據(jù)，而第二個數(shù)據(jù)可視為異常點. 4、預(yù)測及作圖：z=b(1)+b(2)*x plot(x,Y,k+,x,z,r)2022/9/1829多 項 式 回 歸 （一）一元多項式回歸 （1）確定多項式系數(shù)的命令：p，S=polyfit（x，y，m）（2）一元多項式回歸命令：polytool（x，y，m）1、回歸：y=a1xm+a2xm-1+amx+am+12、預(yù)測和預(yù)測誤差估計：（1）Y=polyval（p，x）求polyfit所得的回歸多項式在x處 的預(yù) 測值Y； （2）Y，DELTA=polyconf（p，x，S，alpha）求polyfit所得 的回

8、歸多項式在x處的預(yù)測值Y及預(yù)測值的顯著性為1- alpha的置信區(qū)間Y DELTA；alpha缺省時為0.5.2022/9/1830法一 直接作二次多項式回歸： t=1/30:1/30:14/30; s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; p,S=polyfit(t,s,2)得回歸模型為 ：2022/9/1831法二化為多元線性回歸：t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13

9、61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(14,1) t (t.2);b,bint,r,rint,stats=regress(s,T);b,stats得回歸模型為 ：Y=polyconf(p,t,S) plot(t,s,k+,t,Y,r)預(yù)測及作圖2022/9/1832（二）多元二項式回歸命令：rstool（x，y，model, alpha）nm矩陣顯著性水平（缺省時為0.05）n維列向量2022/9/1833 例3 設(shè)某商品的需求量與消費者的平均收入、商品價格的統(tǒng)計數(shù) 據(jù)如下，建立回歸模型，預(yù)測平均收入為1000、價格為6時 的商

10、品需求量.法一 直接用多元二項式回歸：x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2; rstool(x,y,purequadratic)2022/9/1834 在畫面左下方的下拉式菜單中選”export”, 則beta、rmse和residuals都傳送到Matlab工作區(qū)中.在左邊圖形下方的方框中輸入1000，右邊圖形下方的方框中輸入6。 則畫面左邊的“Predicted Y”下方的數(shù)據(jù)變?yōu)?8.47981，即預(yù)

11、測出平均收入為1000、價格為6時的商品需求量為88.4791.2022/9/1835在Matlab工作區(qū)中輸入命令： beta, rmse2022/9/1836結(jié)果為: b = 110.5313 0.1464 -26.5709 -0.0001 1.8475 stats = 0.9702 40.6656 0.0005法二將 化為多元線性回歸：2022/9/1837非線性回 歸 （1）確定回歸系數(shù)的命令： beta，r，J=nlinfit（x，y，model, beta0）（2）非線性回歸命令：nlintool（x，y，model, beta0，alpha）1、回歸：殘差Jacobian矩陣回歸

12、系數(shù)的初值是事先用m-文件定義的非線性函數(shù)估計出的回歸系數(shù)輸入數(shù)據(jù)x、y分別為 矩陣和n維列向量，對一元非線性回歸，x為n維列向量。2、預(yù)測和預(yù)測誤差估計：Y，DELTA=nlpredci（model, x，beta，r，J）求nlinfit 或nlintool所得的回歸函數(shù)在x處的預(yù)測值Y及預(yù)測值的顯著性為1-alpha的置信區(qū)間Y DELTA.2022/9/1838例 4 對第一節(jié)例2，求解如下：2、輸入數(shù)據(jù)（注意，上面M文件只存非線性函數(shù)下面輸入內(nèi)容可在命令窗口進(jìn)行） x=2:16; y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10

13、.60 10.80 10.60 10.90 10.76; beta0=8 2;3、求回歸系數(shù)： beta,r ,J=nlinfit(x,y,volum,beta0)； beta得結(jié)果：beta = 11.6036 -1.0641即得回歸模型為：題目2022/9/1839逐 步 回 歸逐步回歸的命令是： stepwise（x，y，inmodel，alpha） 運行stepwise命令時產(chǎn)生三個圖形窗口：Stepwise Plot，Stepwise Table，Stepwise History. 在Stepwise Plot窗口，顯示出各項的回歸系數(shù)及其置信區(qū)間. Stepwise Table 窗

14、口中列出了一個統(tǒng)計表，包括回歸系數(shù)及其置信區(qū)間，以及模型的統(tǒng)計量剩余標(biāo)準(zhǔn)差（RMSE）、相關(guān)系數(shù)（R-square）、F值、與F對應(yīng)的概率P.矩陣的列數(shù)的指標(biāo)，給出初始模型中包括的子集（缺省時設(shè)定為全部自變量）顯著性水平（缺省時為0.5）自變量數(shù)據(jù), 階矩陣因變量數(shù)據(jù)， 階矩陣2022/9/1840例6 水泥凝固時放出的熱量y與水泥中4種化學(xué)成分x1、x2、x3、 x4 有關(guān)，今測得一組數(shù)據(jù)如下，試用逐步回歸法確定一個 線性模 型.1、數(shù)據(jù)輸入：x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 6

15、8;x3=6 15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4;2022/9/18412、逐步回歸：（1）運行stepwise(x,y)，有2022/9/1842（2） x4進(jìn)入方程，點擊NEXT STEP, x1進(jìn)入，點擊NEXT STEP，最后有 2022/9/1843（3）對變量y和x1、x4作線性回歸： X=ones(13,1) x1 x4; b=regress(y,X)得結(jié)果：b = 103.097 1.44 -0.614故最終模型為：y=103.097+1.44x1-0.614x22022/9/1844作 業(yè)1、考察溫度x對產(chǎn)量y的影響，測得下列10