回歸分析總結(jié)

1、回歸分析總結(jié)作者:日期:第十二章多元回歸分析在許多實(shí)際問(wèn)題中，影響因變量的因素有一個(gè)時(shí)，我們用一元回歸分析解決問(wèn)題，但是影響因變量的因素往往有多個(gè)，此時(shí)問(wèn)題就上升到了一個(gè)因變量同多個(gè)自變量的多元回歸問(wèn) 題。當(dāng)因變量與自變量之間為線性關(guān)系時(shí)，我們稱之為多元線性回歸。多元性性回歸分析的原理同一元線性回歸基本相同，但計(jì)算上要復(fù)雜得多。主要知識(shí)點(diǎn)：建立的回歸模型中回歸系數(shù)和誤差項(xiàng)分別代表的含義：回歸系數(shù) .(i 0,1,2 k)表示當(dāng)其他 k 1個(gè)自變量不變時(shí)，第i個(gè)自變量一個(gè)單位因變量y的平均變動(dòng)量;誤差項(xiàng) 表示不能由各個(gè)自變量與y之間的線性關(guān)系所解釋的變異性。利用軟件用最小二乘法對(duì)參數(shù)進(jìn)行估計(jì)的方

2、法及步驟：在Ex cel中使用“工具”“數(shù)據(jù)分析”“回歸” 輸入數(shù)據(jù)區(qū)域“確定”，即可得到各參數(shù)的估計(jì)值，此時(shí)便可以寫出回歸方程。 擬合優(yōu)度的檢驗(yàn)方法：方法一：多重判定系數(shù)2 SSR 1 SSE R SST SSTR2表示在因變量y的總變差中被估計(jì)的回歸方程所解釋的比例;故R越大越好。方法二:估計(jì)標(biāo)準(zhǔn)誤差SeS表示根據(jù)所建立的回歸方程，用自變量來(lái)預(yù)測(cè)因變量時(shí)， 平均預(yù)測(cè)誤差的大??；故S越小越好，越小說(shuō)明波動(dòng)性越小。 用軟件進(jìn)行線性關(guān)系檢驗(yàn)的方法：“數(shù)據(jù)分析”“回歸”方差分析一在Exc e 1中，在“工具”欄中有“ Signif 1 cance F”值(即P值)，當(dāng)p時(shí),拒絕原假設(shè)；當(dāng)p 時(shí),

3、接受原假設(shè)?；貧w系數(shù)的檢驗(yàn)：檢驗(yàn)單個(gè)自變量對(duì)因變量的影響是否顯著 ，檢驗(yàn)步驟同線性關(guān)系的檢驗(yàn) 檢驗(yàn)過(guò) 程中可能會(huì)因?yàn)椤岸嘀毓簿€性”問(wèn)題導(dǎo)致某些自變量無(wú)法通過(guò)檢驗(yàn)。檢驗(yàn)步驟:第1步：提出假設(shè)。對(duì)于任意參數(shù).(i 1,2 k)有iH。： iHi:第2步：計(jì)算檢驗(yàn)的統(tǒng)計(jì)量t。第3步：做出統(tǒng)計(jì)決策。t 2，則拒絕原假設(shè)；若給定顯著性水平，根據(jù)自由度=n-k 1查t分布表，得t /2的值。若|tt /2，則不拒絕原假設(shè)。多重共線性：自變量之間的相關(guān)性；產(chǎn)生原因：檢驗(yàn)方法：方法一:檢驗(yàn)?zāi)Ｐ椭懈鲗?duì)自變量之間是否顯著相關(guān)，若顯著相關(guān)則暗示 存在多重共線性；方法二：當(dāng)模型的線性關(guān)系檢驗(yàn)（F檢驗(yàn)）顯著時(shí)，幾乎所有

4、回歸系數(shù)i的t檢驗(yàn)卻不顯著；方法三:當(dāng)回歸系數(shù)的正負(fù)號(hào)與預(yù)期的相反時(shí)也預(yù)示著多重共線性的 存在；問(wèn)題的處理：方法一:將一個(gè)或多個(gè)相關(guān)的自變量從模型中剔除，使保留的自 變量盡可能不相關(guān)；方法二:如果要在模型中保留所有的自變量，那就應(yīng)該：i避免根據(jù)t統(tǒng)計(jì)量對(duì)單個(gè)參數(shù)進(jìn)行檢驗(yàn)。ii對(duì)因變量y值得推斷（估計(jì)或預(yù)測(cè)）限定在自變量 樣本值的范圍內(nèi)。利用回歸方程進(jìn)行預(yù)測(cè)：利用給定的k個(gè)自變量,求出因變量y的平均值的預(yù)測(cè)區(qū)間和個(gè)別值的預(yù)測(cè) 區(qū)間。變量選擇：原理:對(duì)統(tǒng)計(jì)量進(jìn)行顯著性檢驗(yàn)，將一個(gè)或一個(gè)以上的自變量引入模型，如 果增加一個(gè)自變量會(huì)使得殘差平方和（SSE）明顯減少，貝»該自變量留在模型中,

5、否則剔除。主要方法:1）向前選擇2）向后剔除3）逐步回歸kXkkXk本章知識(shí)結(jié)構(gòu)如下：/ 1、建立回歸模型y 01x12X2回歸方程y 01X12X22、利用最小二乘法對(duì)參數(shù)進(jìn)行估計(jì)參數(shù)包括（方法一：多重判定系數(shù)Se1方法二：估計(jì)標(biāo)準(zhǔn)誤差 提出假設(shè)計(jì)算統(tǒng)計(jì)量FSSR K多 元 回 歸 分 析SS&( n k 1) F(k，n k 1)作出決策f，f，p，a)b)向前選擇 向后剔除 逐步回歸a）計(jì)算各對(duì)自變量之間的相關(guān)系數(shù)，并對(duì)各相關(guān) 系數(shù)進(jìn)行顯著性檢驗(yàn)；b）當(dāng)模型的線性關(guān)系進(jìn)行F檢驗(yàn)顯著時(shí)，幾乎所 有回歸系數(shù) j的t檢驗(yàn)卻不顯著；c）回歸系數(shù)與預(yù)期的的相反；磷是有害的元素之一，要求含磷

6、越低越好，經(jīng)過(guò)試 eO含量有本章例題 對(duì)于絕大多數(shù)的鋼種而言驗(yàn)技術(shù)人員發(fā)現(xiàn)，高磷鋼的效率與高磷鋼的出鋼量及高磷鋼中的F 關(guān)系，所測(cè)數(shù)據(jù)如下表：用Excel進(jìn)行回歸，回答下面的問(wèn)題：（1）（2）（3）（4）（5）試驗(yàn)序號(hào)出鋼量（x1）斑。含量（X2）1效率(y)187.91 3.282 . 021 01.413.584 . 03109 .820.080.0493.01 4. 288 .6588.016. 481.56115. 314.283. 5756. 914.973. 08103 .41 3. 088.091 0 1 .014.991.41080.312. 98 1 .01196.514.

7、678.0121 10.615. 38 6.513102 .918. 283.4設(shè)高磷鋼的效率為y、高磷鋼的出鋼量為X、高磷鋼中的FeO含量為x2寫出估計(jì)的回歸方程。在高磷鋼的效率的總變差中，被估計(jì)的回歸方程所解釋的比例是多少 檢驗(yàn)回歸方程的線性關(guān)系是否顯著（0.05）。檢驗(yàn)各回歸系數(shù)是否顯著（0.05）。Mu ItipleR0. 6 88844R Square0.474506Adj us te dR S q ua0 .369407re標(biāo)準(zhǔn)誤差3 .8464 81觀測(cè)值1 3方差分析d fSS回歸統(tǒng)計(jì)MS解:用Exc el進(jìn)行回歸分析輸出如下所示:S i g n i ficanc e F回歸分

8、析殘差10總計(jì)1213 3 .5981147.9542281. 552 366. 7990714.7 9 54 2檢驗(yàn)所建立的回歸方程是否存在多重共線性。4 5 14849 O.O 4° 07 2I nterce pt75. 143 78出鋼量0.21548 5FeO含量-0 .84321P- valLower 9Upp e r 9 5%下限ue5 %95.0%1. 29E-0554. 09 6.28 354. 003797 703790. 0 161240 .04 90 . 3 80. 043 1 416 5 593140.1 5 51 8-2.0 60.3 7 8-2 . 0 6

9、15167 455 1 69. 4877360.0 7 45780.381655上限95. 0%0.378 7459 6.28 3770. 5 48418Coec標(biāo)準(zhǔn)誤差(1) 由此可得到高磷鋼的效率與高磷鋼的出鋼量及高磷鋼中的FeO含量的回歸方程：y 75.14378 0.215485為 0.84321x2其中回歸系數(shù)0.215485表示，在FeO含量不變時(shí)，高磷鋼的效率每增加1一個(gè)單位，高磷鋼的出鋼量將增加0.2 1 54 8 5個(gè)單位。0.84321表示，在高磷鋼的出鋼量不變時(shí)，高磷鋼的效率每增加一個(gè)單位，F(xiàn)eO含量要降低0.843 21個(gè)單位。2(2) 在回歸統(tǒng)計(jì)一欄中有 R =0.4

10、745 0 6,所以在高磷鋼的效率的總變差中，被估 計(jì)的回歸方程所解釋的比例是 47. 75%。(3) 在方差分析一欄中有 Sig n if i cance F (即 P 值)=0. 0 40072,在 0.05 的顯著性水平下，有PV ，故拒絕原假設(shè)，說(shuō)明高磷鋼的效率與高磷鋼的出鋼 量和高磷鋼中的FeO含量之間存在顯著性的線性關(guān)系。(4 )由回歸分析輸出的結(jié)果中的P -value(即P值)一欄可以看出，只有出鋼量對(duì) 應(yīng)的回歸系數(shù)通過(guò)了檢驗(yàn)。說(shuō)明在影響高磷鋼的效率的兩個(gè)變量中，只有出鋼量的影響是顯著的，而高磷鋼中的FeO含量則對(duì)高磷鋼的效率沒(méi)有顯著性影響。出鋼量FeO含量10. 256003(5)出鋼量F