3.2 殘差分析PPT精品文檔

1、.1第三章第三章 統(tǒng)計(jì)案例統(tǒng)計(jì)案例回歸分析的基本思想及其初步應(yīng)用回歸分析的基本思想及其初步應(yīng)用.21、求回歸直線方程的步驟：、求回歸直線方程的步驟：1111(2),nniiiixxyynn求均值（3）代入公式）代入公式1122211()(),(),.(1)nniiiiiinniiiixx yyxnxybxxxnxa y bxy （4）寫(xiě)出直線方程為）寫(xiě)出直線方程為y=bx+a,即為所求的回歸直線方程。即為所求的回歸直線方程。（1）畫(huà)散點(diǎn)圖）畫(huà)散點(diǎn)圖.3例例1 從某大學(xué)中隨機(jī)選取從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重?cái)?shù)據(jù)如表名女大學(xué)生，其身高和體重?cái)?shù)據(jù)如表1-1所示。所示。編號(hào)123456

2、78身高身高/cm 165 165 157 170 175 165 155 170體重體重/kg4857505464614359求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為172cm的女大學(xué)生的體重。的女大學(xué)生的體重。3 3、從散點(diǎn)圖還看到，樣本點(diǎn)散布在某一條直線的附近，而不是、從散點(diǎn)圖還看到，樣本點(diǎn)散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數(shù)在一條直線上，所以不能用一次函數(shù)y=bx+ay=bx+a描述它們關(guān)系。描述它們關(guān)系。思考思考產(chǎn)生隨機(jī)誤差項(xiàng)產(chǎn)生隨機(jī)誤差項(xiàng)e e的原因是什么？的原因是什么

3、？ 我們可以用下面的我們可以用下面的線性回歸模型線性回歸模型來(lái)表示：來(lái)表示：y=bx+a+ey=bx+a+e，其中，其中a a和和b b為模型的未知參數(shù)，為模型的未知參數(shù)，e e稱(chēng)為隨機(jī)誤差稱(chēng)為隨機(jī)誤差。.4思考思考產(chǎn)生隨機(jī)誤差項(xiàng)產(chǎn)生隨機(jī)誤差項(xiàng)e的原因是什么？的原因是什么？隨機(jī)誤差隨機(jī)誤差e e的來(lái)源的來(lái)源( (可以推廣到一般）：可以推廣到一般）：1、其它因素的影響：影響身高 y 的因素不只是體重 x，可能 還包括遺傳基因、飲食習(xí)慣、生長(zhǎng)環(huán)境等因素；2、用線性回歸模型近似真實(shí)模型所引起的誤差；3、身高 y 的觀測(cè)誤差。.55943616454505748體重/kg170155165175170

4、157165165身高/cm87654321編號(hào) 假設(shè)隨機(jī)誤差對(duì)體重沒(méi)有影響，也就是說(shuō)，體重僅受身高的影響，那么散假設(shè)隨機(jī)誤差對(duì)體重沒(méi)有影響，也就是說(shuō)，體重僅受身高的影響，那么散點(diǎn)圖中所有的點(diǎn)將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點(diǎn)并沒(méi)有完全落點(diǎn)圖中所有的點(diǎn)將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點(diǎn)并沒(méi)有完全落在回歸直線上。在回歸直線上。這些點(diǎn)散布在回歸直線附近，所以一定是隨機(jī)誤差把這些點(diǎn)從這些點(diǎn)散布在回歸直線附近，所以一定是隨機(jī)誤差把這些點(diǎn)從回歸直線上回歸直線上“推推”開(kāi)了開(kāi)了。在例在例1中，殘差平方和約為中，殘差平方和約為128.361。 因此，數(shù)據(jù)點(diǎn)和它在回歸直線上相應(yīng)位置的差異因此，

5、數(shù)據(jù)點(diǎn)和它在回歸直線上相應(yīng)位置的差異 是隨機(jī)誤差的效應(yīng)，是隨機(jī)誤差的效應(yīng)，稱(chēng)稱(chēng) 為為殘差殘差。)iiyy(iiieyy=例如，編號(hào)為例如，編號(hào)為6的女大學(xué)生，計(jì)算殘差為：的女大學(xué)生，計(jì)算殘差為：61 (0.849 16585.712)6.627對(duì)每名女大學(xué)生計(jì)算這個(gè)差異，然后分別將所得的值平方后加起來(lái)，用數(shù)學(xué)符號(hào)對(duì)每名女大學(xué)生計(jì)算這個(gè)差異，然后分別將所得的值平方后加起來(lái)，用數(shù)學(xué)符號(hào)21()niiiyy稱(chēng)為稱(chēng)為殘差平方和殘差平方和，表示為：表示為：類(lèi)似于方差的定義類(lèi)似于方差的定義.6表表1-4列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)

6、據(jù)。 在研究?jī)蓚€(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來(lái)粗略判斷它們是否線在研究?jī)蓚€(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來(lái)粗略判斷它們是否線性相關(guān)，是否可以用回歸模型來(lái)擬合數(shù)據(jù)。性相關(guān)，是否可以用回歸模型來(lái)擬合數(shù)據(jù)。殘差分析與殘差圖的定義：殘差分析與殘差圖的定義： 然后，我們可以通過(guò)殘差然后，我們可以通過(guò)殘差 來(lái)判斷模型擬合的效果，判斷原始來(lái)判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱(chēng)為殘差分析這方面的分析工作稱(chēng)為殘差分析。12,ne ee 編號(hào)編號(hào)12345678身高身高/cm165165157170175165155170體重體重/kg4857505

7、464614359殘差殘差-6.3732.6272.419-4.6181.1376.627-2.8830.382 我們可以利用圖形來(lái)分析殘差特性，作圖時(shí)縱坐標(biāo)為殘差，橫坐標(biāo)可以選為我們可以利用圖形來(lái)分析殘差特性，作圖時(shí)縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣本編號(hào)，或身高數(shù)據(jù)，或體重估計(jì)值等，這樣作出的圖形稱(chēng)為樣本編號(hào)，或身高數(shù)據(jù)，或體重估計(jì)值等，這樣作出的圖形稱(chēng)為殘差圖殘差圖。.7殘差圖的制作及作用。殘差圖的制作及作用。坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸為心的帶形區(qū)

8、域橫軸為心的帶形區(qū)域；對(duì)于遠(yuǎn)離橫軸的點(diǎn)，要特別注意對(duì)于遠(yuǎn)離橫軸的點(diǎn)，要特別注意。身高與體重殘差圖異常點(diǎn) 錯(cuò)誤數(shù)據(jù) 模型問(wèn)題 幾點(diǎn)說(shuō)明：幾點(diǎn)說(shuō)明： 第一個(gè)樣本點(diǎn)和第第一個(gè)樣本點(diǎn)和第6個(gè)樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過(guò)程中是否有人為個(gè)樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過(guò)程中是否有人為的錯(cuò)誤。如果數(shù)據(jù)采集有錯(cuò)誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)的錯(cuò)誤。如果數(shù)據(jù)采集有錯(cuò)誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒(méi)有錯(cuò)誤，則需要尋找其他的原因。據(jù)；如果數(shù)據(jù)采集沒(méi)有錯(cuò)誤，則需要尋找其他的原因。 另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說(shuō)明選用的模型計(jì)較合適，這另外

9、，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說(shuō)明選用的模型計(jì)較合適，這樣的帶狀區(qū)域的寬度越窄，說(shuō)明模型擬合精度越高，回歸方程的預(yù)報(bào)精度越高。樣的帶狀區(qū)域的寬度越窄，說(shuō)明模型擬合精度越高，回歸方程的預(yù)報(bào)精度越高。.8我們可以用我們可以用相關(guān)指數(shù)相關(guān)指數(shù)R2來(lái)刻畫(huà)回歸的效果，其計(jì)算公式是來(lái)刻畫(huà)回歸的效果，其計(jì)算公式是22121()1()1niiiniiyyRyy殘 差 平 方 和?？?偏 差 平 方 和 R2越接近越接近1，表示回歸的效果越好（因?yàn)?，表示回歸的效果越好（因?yàn)镽2越接近越接近1，表示解析變量和預(yù)報(bào)變量的線性相關(guān)性越強(qiáng)）。表示解析變量和預(yù)報(bào)變量的線性相關(guān)性越強(qiáng)）。 如果某組數(shù)據(jù)可能采取幾種

10、不同回歸方程進(jìn)行回歸如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過(guò)比較分析，則可以通過(guò)比較R2的值來(lái)做出選擇，即的值來(lái)做出選擇，即選取選取R2較大的模型作為這組數(shù)據(jù)的模型較大的模型作為這組數(shù)據(jù)的模型?？偟膩?lái)說(shuō)：總的來(lái)說(shuō)：相關(guān)指數(shù)相關(guān)指數(shù)R2是度量模型是度量模型擬合效果擬合效果的一種指標(biāo)。的一種指標(biāo)。在線性模型中，它在線性模型中，它代表自變量刻畫(huà)預(yù)報(bào)變量的能力代表自變量刻畫(huà)預(yù)報(bào)變量的能力。.9例例 關(guān)于關(guān)于x與與y有如下數(shù)據(jù)：有如下數(shù)據(jù)： 有如下的兩個(gè)線性模型：有如下的兩個(gè)線性模型：（1） ；（；（2） 試比較哪一個(gè)擬合效果更好。試比較哪一個(gè)擬合效果更好。x24568y304060

11、50706.517.5yx717.yx22121()1()niiiniiyyRyy 21()niiiyy第一個(gè)好第一個(gè)好.10一般地，建立回歸模型的基本步驟為：一般地，建立回歸模型的基本步驟為：（1）確定研究對(duì)象，明確哪個(gè)變量是解析變量，哪個(gè)變量是預(yù)）確定研究對(duì)象，明確哪個(gè)變量是解析變量，哪個(gè)變量是預(yù)報(bào)變量。報(bào)變量。（2）畫(huà)出確定好的解析變量和預(yù)報(bào)變量的散點(diǎn)圖，觀察它們之）畫(huà)出確定好的解析變量和預(yù)報(bào)變量的散點(diǎn)圖，觀察它們之間的關(guān)系（如是否存在線性關(guān)系等）。間的關(guān)系（如是否存在線性關(guān)系等）。（3）由經(jīng)驗(yàn)確定回歸方程的類(lèi)型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，）由經(jīng)驗(yàn)確定回歸方程的類(lèi)型（如我們觀察到數(shù)據(jù)呈

12、線性關(guān)系，則選用線性回歸方程則選用線性回歸方程y=bx+a）.（4）按一定規(guī)則估計(jì)回歸方程中的參數(shù)（如最小二乘法）。）按一定規(guī)則估計(jì)回歸方程中的參數(shù)（如最小二乘法）。（5）得出結(jié)果后分析殘差圖是否有異常（個(gè)別數(shù)據(jù)對(duì)應(yīng)殘差）得出結(jié)果后分析殘差圖是否有異常（個(gè)別數(shù)據(jù)對(duì)應(yīng)殘差過(guò)大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性，等等），過(guò)存在異常，過(guò)大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性，等等），過(guò)存在異常，則檢查數(shù)據(jù)是否有誤，或模型是則檢查數(shù)據(jù)是否有誤，或模型是 否合適等。否合適等。.11案例案例2 一只紅鈴蟲(chóng)的產(chǎn)卵數(shù)一只紅鈴蟲(chóng)的產(chǎn)卵數(shù)y和溫度和溫度x有關(guān)。現(xiàn)有關(guān)?，F(xiàn)收集了收集了7組觀測(cè)數(shù)據(jù)列于表中：組觀測(cè)數(shù)據(jù)列于表中：（1 1

13、）試建立產(chǎn)卵數(shù)）試建立產(chǎn)卵數(shù)y與溫度與溫度x之間的回歸方程；并之間的回歸方程；并預(yù)測(cè)溫度為預(yù)測(cè)溫度為2828o oC C時(shí)產(chǎn)卵數(shù)目。時(shí)產(chǎn)卵數(shù)目。（2 2）你所建立的模型中溫度在多大程度上解釋了）你所建立的模型中溫度在多大程度上解釋了產(chǎn)卵數(shù)的變化？產(chǎn)卵數(shù)的變化？ 溫度溫度xoC21232527293235產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個(gè)個(gè)711212466115325.12選變量選變量 解：選取氣溫為解析變量解：選取氣溫為解析變量x，產(chǎn)卵數(shù)，產(chǎn)卵數(shù) 為預(yù)報(bào)變量為預(yù)報(bào)變量y。畫(huà)散點(diǎn)圖畫(huà)散點(diǎn)圖假設(shè)線性回歸方程為假設(shè)線性回歸方程為 ：=bx+a選選 模模 型型分析和預(yù)測(cè)分析和預(yù)測(cè)當(dāng)當(dāng)x=28時(shí)，時(shí)，y =19.87

14、28-463.73 93估計(jì)參數(shù)估計(jì)參數(shù)由計(jì)算器得：線性回歸方程為由計(jì)算器得：線性回歸方程為y= =19.8719.87x-463.73-463.73 相關(guān)指數(shù)相關(guān)指數(shù)R2 2= =r2 20.8640.8642 2=0.7464=0.7464所以，一次函數(shù)模型中溫度解釋了所以，一次函數(shù)模型中溫度解釋了74.64%的產(chǎn)卵數(shù)變化。的產(chǎn)卵數(shù)變化。探索新知探索新知050100150200250300350036912151821242730333639方案1當(dāng)當(dāng)x=28時(shí)，時(shí)，y =19.8728-463.73 93線性模型線性模型.13奇怪？奇怪？9366 ?模型不好？模型不好？.14 y=bx2

15、+a 變換變換 y=bt+a非線性關(guān)系非線性關(guān)系 線性關(guān)系線性關(guān)系方案2問(wèn)題問(wèn)題選用選用y=bx2+a ，還是還是y=bx2+cx+a ？問(wèn)題問(wèn)題3 產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫問(wèn)題問(wèn)題2如何求如何求a、b ？合作探究合作探究 t=x2二次函數(shù)模型二次函數(shù)模型.15方案2解答平方變換平方變換：令令t=x2，產(chǎn)卵數(shù)，產(chǎn)卵數(shù)y和溫度和溫度x之間二次函數(shù)模型之間二次函數(shù)模型y=bx2+a就轉(zhuǎn)化為產(chǎn)卵數(shù)就轉(zhuǎn)化為產(chǎn)卵數(shù)y和溫度的平方和溫度的平方t之間線性回歸模型之間線性回歸模型y=bt+a溫度溫度21232527293235溫度的平方溫度的平方t44152962572984110241225產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個(gè)個(gè)

16、711212466115325作散點(diǎn)圖，并由計(jì)算器得：作散點(diǎn)圖，并由計(jì)算器得：y y和和t t之間的線性回歸方程為之間的線性回歸方程為y=y=0.3670.367t t-202.54-202.54，相關(guān)指數(shù)，相關(guān)指數(shù)R R2 2= =r r2 20.8960.8962 2=0.802=0.802將將t=xt=x2 2代入線性回歸方程得：代入線性回歸方程得： y=y=0.3670.367x x2 2 -202.54 -202.54當(dāng)當(dāng)x x=28=28時(shí)時(shí)，y y=0.367=0.36728282 2- -202.5485202.5485，且，且R R2 2=0.802=0.802，所以，二次函

17、數(shù)模型中溫度解所以，二次函數(shù)模型中溫度解釋了釋了80.2%80.2%的產(chǎn)卵數(shù)變化。的產(chǎn)卵數(shù)變化。t.16問(wèn)題問(wèn)題 變換變換 y=bx+a非線性關(guān)系非線性關(guān)系 線性關(guān)系線性關(guān)系2110c xyc問(wèn)題問(wèn)題如何選取指數(shù)函數(shù)的底如何選取指數(shù)函數(shù)的底?產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫指數(shù)函數(shù)模型指數(shù)函數(shù)模型方案3合作探究合作探究對(duì)數(shù)對(duì)數(shù).17方案3解答溫度溫度xoC21232527293235z=lgy0.851.041.321.381.822.062.51產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個(gè)個(gè)711212466115325xz當(dāng)當(dāng)x=28x=28o oC C 時(shí)，時(shí)，y 44 y 44 ，指數(shù)回歸，指數(shù)回歸模型中溫度解釋了模型中溫

18、度解釋了98.5%98.5%的產(chǎn)卵數(shù)的的產(chǎn)卵數(shù)的變化變化由計(jì)算器得：由計(jì)算器得：z z關(guān)于關(guān)于x x的線性回歸方程的線性回歸方程為為z=0.118z=0.118x x-1.665 -1.665 ，相關(guān)指數(shù)相關(guān)指數(shù)R R2 2= =r r2 20.99250.99252 2=0.985=0.9850.118x-1.665 10y 對(duì)數(shù)變換：在對(duì)數(shù)變換：在 中兩邊取常用對(duì)數(shù)得中兩邊取常用對(duì)數(shù)得令令 ，則，則 就轉(zhuǎn)換為就轉(zhuǎn)換為z z=bx+a=bx+a22111221lglg( 10 )lglg10lglg10lgc xc xycccc xc xc2110c xyc12lg,lg,zy ac bc2110c xyc.18最好的模型是哪個(gè)最好的模型是哪個(gè)? 產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫線性模型線性模型二次函數(shù)模型二次函數(shù)模型指數(shù)函數(shù)模型指數(shù)函數(shù)模型.19比一比比一比函數(shù)模型函數(shù)模型相關(guān)指數(shù)相關(guān)指數(shù)R2線性回歸模型線性回歸模型0.7464二次函數(shù)模型二次函數(shù)模型0.802指數(shù)函數(shù)模型指數(shù)函數(shù)模型0.985最好的模型是哪個(gè)最好的模型是哪個(gè)?.20總總 結(jié)結(jié)1122( ,),(,),.,(,),nnx yxyxy 對(duì)于給定的樣本點(diǎn)對(duì)于給定的樣本點(diǎn)兩個(gè)含有未知參數(shù)的模型：兩個(gè)含有未知參數(shù)的模型：(1)(2)( , )( , ),yf x ayg x b和其中其