數(shù)學(xué)：31回歸分析的基本思想及其初步應(yīng)用-新人教A版選修2-3ppt課件

1、其初步應(yīng)用其初步應(yīng)用回歸分析的基本思想及回歸分析的基本思想及1.3統(tǒng)計(jì)案例統(tǒng)計(jì)案例第三章第三章教學(xué)目標(biāo)教學(xué)目標(biāo)v通過典型案例的探究，進(jìn)一步了解回歸分析的基本思想、方法及初步應(yīng)用.v教學(xué)重點(diǎn)：通過探究使學(xué)生體會有些非線性模型通過變換可以轉(zhuǎn)化為線性回歸模型，了解在解決實(shí)際問題的過程中尋找更好的模型的方法，了解可用殘差分析的方法，比較兩種模型的擬合效果.v教學(xué)難點(diǎn)：了解常用函數(shù)的圖象特點(diǎn)，選擇不同的模型建模，并通過比較相關(guān)指數(shù)對不同的模型進(jìn)行比較.,3.)analysisregression(.,行行預(yù)預(yù)報(bào)報(bào)并并用用回回歸歸直直線線方方程程進(jìn)進(jìn)直直線線方方程程求求回回歸歸點(diǎn)點(diǎn)圖圖其其步步驟驟為為畫畫

2、散散進(jìn)進(jìn)行行了了研研究究的的方方法法系系的的變變量量利利用用回回歸歸分分析析性性相相關(guān)關(guān)關(guān)關(guān)我我們們對對兩兩個(gè)個(gè)具具有有線線中中數(shù)數(shù)學(xué)學(xué)在在方方法法析析的的一一種種常常用用分分系系的的兩兩個(gè)個(gè)變變量量進(jìn)進(jìn)行行統(tǒng)統(tǒng)計(jì)計(jì)是是對對具具有有相相關(guān)關(guān)關(guān)關(guān)析析回回歸歸分分定定性性關(guān)關(guān)系系而而相相關(guān)關(guān)關(guān)關(guān)系系是是一一種種非非確確性性關(guān)關(guān)系系函函數(shù)數(shù)關(guān)關(guān)系系是是一一種種確確定定我我們們知知道道:,y,x,y,x,y,xnn2211二乘估計(jì)公式分別為二乘估計(jì)公式分別為截距和斜率的最小截距和斜率的最小我們知道其回歸方程的我們知道其回歸方程的關(guān)系的數(shù)據(jù)關(guān)系的數(shù)據(jù)對于一組具有線性相關(guān)對于一組具有線性相關(guān)探究探究 1x

3、bya 2,xxyyxxbn1i2in1iii?.y, x.yy,xn1xn1iin1ii公公式式嗎嗎你你能能推推導(dǎo)導(dǎo)出出這這兩兩個(gè)個(gè)計(jì)計(jì)算算稱稱為為其其中中樣樣本本點(diǎn)點(diǎn)的的中中心心.心心回回歸歸直直線線過過樣樣本本點(diǎn)點(diǎn)的的中中., xy, Qba ,n1i2ii的值取最小值時(shí)分別是使和斜率截距從已經(jīng)學(xué)過的知識知道 n1i2iixyxyxy, Q由于2n1iii2iixyxyxyxy2xyxy,xynxyxyxy2xyxy2n1iiin1i2iixyxyxyn1iii注意到n1iiixyxyxyn1in1iiixynxyxy, 0 xynxnynxy2n1i2iixynxyxy, Q所以2n1

4、i2iin1in1ii2i2xynyyyyxx2xx2n1i2in1iiin1i2i2xxyyxxxxxyn.yyxxyyxxn1i2in1i2i2n1iii即有均為當(dāng)且僅當(dāng)前兩項(xiàng)的值取最小值因此要使數(shù)而前兩項(xiàng)為非負(fù)無關(guān)后兩項(xiàng)和在上式中, 0,Q, ,.xy,xxyyxxn1i2in1iii.公式這正是我們所要推導(dǎo)的.,基基本本思思想想及及其其應(yīng)應(yīng)用用進(jìn)進(jìn)一一步步學(xué)學(xué)習(xí)習(xí)回回歸歸分分析析的的下下面面我我們們通通過過案案例例.13,81所所示示重重?cái)?shù)數(shù)據(jù)據(jù)如如表表其其身身高高和和體體名名女女大大學(xué)學(xué)生生從從某某大大學(xué)學(xué)中中隨隨機(jī)機(jī)選選取取例例5943616454505748kg/17015516

5、5175170157165165cm/87654321體體重重身身高高編編號號.cm172,的的女女大大學(xué)學(xué)生生的的體體重重并并預(yù)預(yù)報(bào)報(bào)一一名名身身高高為為歸歸方方程程身身高高預(yù)預(yù)報(bào)報(bào)她她的的體體重重的的回回求求根根據(jù)據(jù)一一名名女女大大學(xué)學(xué)生生的的: ) 11.3(.y,x,圖圖作散點(diǎn)體重為因變量真實(shí)取身高為自變量因此選據(jù)身高預(yù)報(bào)體重由于問題中要求根解11.3圖圖xy.,11.3畫它們之間的關(guān)系刻性回歸方程以用線因此可線性相關(guān)關(guān)系較好的重有比高和體身樣本點(diǎn)呈條狀分布中可以看出從圖 12 ,85.712,0.849.0.84985.712.abyx 根據(jù)探究中的公式和可以得到于是得到回歸方程.k

6、g316.60712.85172849.0y,cm172,預(yù)報(bào)其體重為由回歸方程可以的女大學(xué)生對身高為所以11.3圖圖xy?,?kg316.60cm172其原因是什么其原因是什么不是不是如果如果嗎嗎是是女大學(xué)生的體重一定女大學(xué)生的體重一定的的身高身高探究探究.21.3.kg316.60kg316.60cm172,位置說明了這一點(diǎn)本點(diǎn)和回歸直線的相互中的樣圖以認(rèn)為她的體重接近于但一般可是大學(xué)生的體重不一定的女身高顯然21.3圖圖 3, eabxy:,回歸模型來表示可用下面的線性所以身高和體重的關(guān)系線的附近而只是散布在某一條直線由于所有的樣本點(diǎn)不共.y,x,yx,exy,稱稱為為預(yù)預(yù)報(bào)報(bào)變變量量把

7、把稱稱為為解解釋釋變變量量因因此此我我們們把把的的變變化化只只能能解解釋釋部部分分即即共共同同確確定定素素和和隨隨機(jī)機(jī)因因的的值值由由在在回回歸歸模模型型中中與與函函數(shù)數(shù)關(guān)關(guān)系系不不同同 2,.,0,0.:abeybxaeE eD e這里 和 為模型的未知參數(shù) 是 與y之間的誤差通常 為隨機(jī)變量 稱為 它的均值方差這樣線性回歸模型的完整表達(dá)式為隨隨機(jī)機(jī)誤誤差差 .eD, 0eE,eabxy2 4 24,.eybxay在線性回歸模型中 隨機(jī)誤差 的方差越小通過回歸直線預(yù)報(bào)真實(shí)值 的精度越高隨機(jī)誤差是引起預(yù)報(bào).,yy 取取決決于于隨隨機(jī)機(jī)誤誤差差的的方方差差其其大大小小之之間間的的誤誤差差的的原原

8、因因之之一一與與真真實(shí)實(shí)值值值值 .yy ,ba,ba 21,另另一一個(gè)個(gè)原原因因之之間間誤誤差差的的與與真真實(shí)實(shí)值值這這種種誤誤差差是是引引起起預(yù)預(yù)報(bào)報(bào)值值之之間間也也存存在在誤誤差差和和它它們們與與真真實(shí)實(shí)值值的的估估計(jì)計(jì)值值為為截截距距和和斜斜率率和和中中和和由由于于公公式式另另一一方方面面?e的的原原因因是是什什么么產(chǎn)產(chǎn)生生隨隨機(jī)機(jī)誤誤差差項(xiàng)項(xiàng)思思考考.e.,.,的的產(chǎn)產(chǎn)生生差差項(xiàng)項(xiàng)誤誤機(jī)機(jī)隨隨所所有有這這些些因因素素都都會會導(dǎo)導(dǎo)致致是是一一種種近近似似的的模模型型型型往往往往只只我我們們選選用用的的線線性性模模另另外外動(dòng)動(dòng)、度度量量誤誤差差等等食食習(xí)習(xí)慣慣、是是否否喜喜歡歡運(yùn)運(yùn)例例如

9、如飲飲許許多多其其他他因因素素的的影影響響還還受受身身高高的的影影響響外外一一個(gè)個(gè)人人的的體體重重值值除除了了受受實(shí)實(shí)際際上上,?ey探究 在線性回歸模型中 是用y預(yù)報(bào)真實(shí)值 的誤差 它是一個(gè)不可觀測的量 那么應(yīng)該怎樣研究隨機(jī)誤差 如何衡量預(yù)報(bào)的精度., 0,.,2隨隨機(jī)機(jī)誤誤差差的的大大小小來來衡衡量量因因此此可可以以用用方方差差而而隨隨機(jī)機(jī)誤誤差差的的均均值值為為于于均均值值程程度度的的數(shù)數(shù)字字特特征征差差是是反反映映隨隨機(jī)機(jī)變變量量集集中中方方平平均均水水平平的的數(shù)數(shù)字字特特征征值值是是反反映映隨隨機(jī)機(jī)變變量量取取值值均均畫畫它它的的一一些些總總體體特特征征機(jī)機(jī)變變量量的的數(shù)數(shù)字字特特征

10、征來來刻刻因因此此可可以以通通過過這這個(gè)個(gè)隨隨量量因因?yàn)闉殡S隨機(jī)機(jī)誤誤差差是是隨隨機(jī)機(jī)變變 .e,y,ye43?e.,2的的樣樣本本變變量量因因此此也也就就無無法法得得到到隨隨機(jī)機(jī)分分離離出出來來中中我我們們無無法法精精確確地地把把它它從從中中隱隱含含在在預(yù)預(yù)報(bào)報(bào)變變量量中中的的或或由由于于模模型型的的樣樣本本呢呢到到隨隨機(jī)機(jī)變變量量如如何何得得來來估估計(jì)計(jì)總總體體方方差差的的想想法法是是通通過過樣樣本本方方差差一一個(gè)個(gè)自自然然的的值值需需要要估估計(jì)計(jì)為為了了衡衡量量預(yù)預(yù)報(bào)報(bào)的的精精度度 , a xby ,21.2歸方程可以建立回和公式根據(jù)截距和斜率的估計(jì)樣本的估計(jì)值來估計(jì)解決問題的途徑是通過

11、 .ey ye , yye.y5y 的估計(jì)量是所以由于隨機(jī)誤差的估計(jì)值中是因此. n, 2 , 1i , abxyyye,y,x,y,x,y,xiiiiinn2211 相應(yīng)它們的隨機(jī)誤差為相應(yīng)它們的隨機(jī)誤差為而言而言對于樣本點(diǎn)對于樣本點(diǎn), n, 2 , 1i , a xbyy ye iiiii 其估計(jì)值為其估計(jì)值為,().iiiexyr e s id u a l稱 為 相 應(yīng) 于 點(diǎn)的殘 差.23相相應(yīng)應(yīng)的的殘殘差差數(shù)數(shù)據(jù)據(jù)重重的的原原始始數(shù)數(shù)據(jù)據(jù)以以及及列列出出女女大大學(xué)學(xué)生生身身高高和和體體表表382.0883.2627.6137.1618.4419.2627.2373.6e 594361

12、6454505748kg/170155165175170157165165cm/87654321殘殘差差體體重重身身高高編編號號編編號號殘差殘差31.3圖圖.31.3.,.殘殘差差圖圖坐坐標(biāo)標(biāo)的的樣樣本本編編號號為為橫橫是是以以圖圖這這樣樣作作出出的的圖圖形形為為等等或或體體重重估估計(jì)計(jì)值值高高數(shù)數(shù)據(jù)據(jù)或或身身可可選選為為樣樣本本編編號號橫橫坐坐標(biāo)標(biāo)縱縱坐坐標(biāo)標(biāo)為為殘殘差差作作圖圖時(shí)時(shí)分分析析殘殘差差特特性性我我們們可可以以利利用用圖圖形形來來殘殘差差圖圖編編號號殘差殘差31.3圖圖.,.,;,.,61,31.3越越高高回回歸歸方方程程的的預(yù)預(yù)報(bào)報(bào)精精確確度度擬擬合合精精度度越越高高說說明明模

13、模型型區(qū)區(qū)域域的的寬寬度度越越窄窄均均勻勻地地落落在在水水平平的的帶帶狀狀殘殘差差點(diǎn)點(diǎn)比比較較另另外外則則需需要要尋尋找找其其他他的的原原因因沒沒有有錯(cuò)錯(cuò)誤誤如如果果數(shù)數(shù)據(jù)據(jù)采采集集合合數(shù)數(shù)據(jù)據(jù)歸歸模模型型擬擬性性回回利利用用線線然然后后再再重重新新予予以以糾糾正正就就果果數(shù)數(shù)據(jù)據(jù)采采集集有有錯(cuò)錯(cuò)誤誤如如是是否否有有人人為為的的錯(cuò)錯(cuò)誤誤點(diǎn)點(diǎn)的的過過程程中中兩兩個(gè)個(gè)樣樣本本需需要要確確認(rèn)認(rèn)在在采采集集這這大大個(gè)個(gè)樣樣本本點(diǎn)點(diǎn)的的殘殘差差比比較較個(gè)個(gè)樣樣本本點(diǎn)點(diǎn)和和第第第第出出中中可可以以看看從從圖圖.yyy y1R:,R,n1i2in1i2ii22其計(jì)算公式是其計(jì)算公式是來刻畫回歸的效果來刻畫回

14、歸的效果我們還可以用相關(guān)指數(shù)我們還可以用相關(guān)指數(shù)另外另外.rR,2的的平平方方系系數(shù)數(shù)恰恰好好等等于于相相關(guān)關(guān)線線性性模模型型中中在在含含有有一一個(gè)個(gè)解解釋釋變變量量的的如果對某組數(shù)據(jù)如果對某組數(shù)據(jù)關(guān)性越強(qiáng)關(guān)性越強(qiáng)量和預(yù)報(bào)變量的線性相量和預(yù)報(bào)變量的線性相表示解釋變表示解釋變越接近于越接近于因?yàn)橐驗(yàn)楸硎净貧w的效果越好表示回歸的效果越好接近于接近于越越化的貢獻(xiàn)率化的貢獻(xiàn)率釋變量對于預(yù)報(bào)變量變釋變量對于預(yù)報(bào)變量變表示解表示解在線性回歸模型中在線性回歸模型中模型的擬合效果越好模型的擬合效果越好也就是說也就是說意味著殘差平方和越小意味著殘差平方和越小取值越大取值越大顯然顯然. ), 1R(, 1R.R,

15、.,R,2222.R,R,22據(jù)據(jù)的的模模型型大大的的模模型型作作為為這這組組數(shù)數(shù)選選擇擇可可以以通通過過比比較較幾幾個(gè)個(gè)也也回回歸歸分分析析種種不不同同的的回回歸歸方方程程進(jìn)進(jìn)行行取取幾幾可可能能性性采采.%64, %64,64.0R,12高引起的高引起的是由身是由身女大學(xué)生體重差異有女大學(xué)生體重差異有或者說或者說體重變化體重變化的的女大學(xué)生身高解釋了女大學(xué)生身高解釋了表明表明中中在例在例:,需要注意下列問題用身高預(yù)報(bào)體重時(shí).,.,.1系木的高與直徑之間的關(guān)描述北方干旱地區(qū)的樹方程的高與直徑之間的回歸在南方多雨地區(qū)的樹木不能用生長同樣之間的關(guān)系女運(yùn)動(dòng)員的身高和體重描述和體重之間的回歸方程不能

16、用女大學(xué)生的身高例如所研究的樣本的總體回歸方程只適用于我們.,8020,.2之間的關(guān)系描述現(xiàn)在的身高和體重方程建立的回歸年代的身高體重?cái)?shù)據(jù)所世紀(jì)能用不例如一般都有時(shí)間性我們所建立的回歸方程.),ycm70 x,cm170,cm155x,(,.3顯然不合適值時(shí)的程計(jì)算而用這個(gè)方的樣本的取值范圍為解釋變量即在回歸方程中重之間的關(guān)系就不恰當(dāng)幼兒時(shí)期的身高和體那么用它來描述一個(gè)人立的建大學(xué)生身高和體重?cái)?shù)據(jù)我們的回歸方程是由女例如歸方程的適用范圍樣本取值范圍會影響回.,.4值的平均值它是預(yù)報(bào)變量的可能取事實(shí)上精確值的的預(yù)報(bào)值就是預(yù)報(bào)變量不能期望回歸方程得到:,驟為驟為建立回歸模型的基本步建立回歸模型的基

17、本步一般地一般地 ;,1量量是是預(yù)預(yù)報(bào)報(bào)變變量量哪哪個(gè)個(gè)變變量量明明確確哪哪個(gè)個(gè)變變量量是是解解釋釋變變確確定定研研究究對對象象 ;,2如如是是否否存存在在線線性性關(guān)關(guān)系系等等觀觀察察它它們們之之間間的的關(guān)關(guān)系系散散點(diǎn)點(diǎn)圖圖釋釋主主變變量量和和預(yù)預(yù)報(bào)報(bào)變變量量的的畫畫出出確確定定好好的的解解 );abxy,(3則選用線性回歸方程則選用線性回歸方程線性關(guān)系線性關(guān)系如我們觀察到數(shù)據(jù)呈如我們觀察到數(shù)據(jù)呈型型由經(jīng)驗(yàn)確定回歸方程類由經(jīng)驗(yàn)確定回歸方程類 );(4乘法乘法如最小二如最小二程中的參數(shù)程中的參數(shù)按一定規(guī)則估計(jì)回歸方按一定規(guī)則估計(jì)回歸方 .,),(5或或模模型型是是否否合合適適等等則則檢檢查查數(shù)數(shù)

18、據(jù)據(jù)是是否否有有誤誤在在異異常常若若存存律律性性等等等等或或殘殘差差呈呈現(xiàn)現(xiàn)不不隨隨機(jī)機(jī)的的規(guī)規(guī)應(yīng)應(yīng)殘殘差差過過大大個(gè)個(gè)別別數(shù)數(shù)據(jù)據(jù)對對是是否否有有異異常常得得出出結(jié)結(jié)果果后后分分析析殘殘差差圖圖.xy,337.xy2之之間間的的回回歸歸方方程程與與試試建建立立中中觀觀察察數(shù)數(shù)據(jù)據(jù)列列于于表表組組現(xiàn)現(xiàn)收收集集了了有有關(guān)關(guān)和和溫溫度度一一只只紅紅鈴鈴蟲蟲的的產(chǎn)產(chǎn)卵卵數(shù)數(shù)例例33表表325115662421117/y35322927252321C/0個(gè)個(gè)產(chǎn)產(chǎn)卵卵數(shù)數(shù)溫溫度度41.3圖圖溫溫度度產(chǎn)卵數(shù)產(chǎn)卵數(shù).41.3據(jù)作散點(diǎn)圖根據(jù)收集的數(shù)解所以不能相關(guān)關(guān)系線性個(gè)變量不呈線因此兩帶狀區(qū)域內(nèi)某個(gè)布在有分

19、并沒樣本點(diǎn)在散點(diǎn)圖中,.cc,ecy,.21xc12是待定參數(shù)和其中的周圍指數(shù)函數(shù)曲線某一條可以發(fā)現(xiàn)樣本點(diǎn)分布在根據(jù)已有的函數(shù)知識系立兩個(gè)變量之間的關(guān)建來直接利用線性回歸方程 .xy,.)cb,clna(abxz, ylnz.cc,2121了間的非線性回歸方程之和型來建立就可以利用線性回歸模這樣的周圍直線換后樣本點(diǎn)應(yīng)該分布在則變令系變?yōu)榫€性關(guān)過對數(shù)變換把指數(shù)關(guān)系我們可以通和參數(shù)問題變?yōu)槿绾喂烙?jì)待定現(xiàn)在 .,abxy線線性性回回歸歸方方程程我我們們稱稱之之為為非非時(shí)時(shí)當(dāng)當(dāng)回回歸歸方方程程不不是是形形如如圖的樣本數(shù)據(jù)表的數(shù)據(jù)可以得到變換后由表, 4333.,51.3.4351.3用線性回歸方程來擬

20、合因此可以一條直線的附近變換后的樣本點(diǎn)分布在看出中可以從圖中數(shù)據(jù)的散點(diǎn)圖給出了表784.5745.4190.4178.3045.3398.2946.1z35322927252321x43表產(chǎn)卵數(shù)的對數(shù)溫度51.3圖圖.843.3x272.0z 43到線性回歸方程中的數(shù)據(jù)得由表回歸方程為數(shù)對溫度的非線性因此紅鈴蟲的產(chǎn)卵 10.2723.8435xye.xy,ty,xt,.cc,cxcy41.3,243423非線性回歸方程之間的與從而得到之間的線性回歸方程與立然后建即令變換因此可以對溫度變量做數(shù)為待定參和其中的附近次曲線中樣本點(diǎn)集中在某二可以認(rèn)為圖另一方面.61.3,53是相應(yīng)的散點(diǎn)圖圖應(yīng)的溫度的

21、平方是紅鈴蟲的產(chǎn)卵數(shù)和對表325115662421117y12251024841729625529441t53表.xycxcy,ty,61.3423下面介紹具體方法下面介紹具體方法到到還可以通過殘差分析得還可以通過殘差分析得這個(gè)結(jié)論這個(gè)結(jié)論之間的關(guān)系之間的關(guān)系與與來擬合來擬合二次曲線二次曲線即不宜用即不宜用合它合它回歸方程來擬回歸方程來擬此不宜用線性此不宜用線性因因直線的周圍直線的周圍不分布在一條不分布在一條的散點(diǎn)圖并的散點(diǎn)圖并與與可以看出可以看出中中從圖從圖溫度的平方數(shù)卵產(chǎn)61.3圖圖中用線性回歸模型擬合表的二次回歸方程關(guān)于下面建立的指數(shù)回歸方程關(guān)于前面已經(jīng)建立了方程歸需要建立兩個(gè)相應(yīng)的回殘

22、差為比較兩個(gè)不同模型的52.xy,xy., 222,0.367202.54,0.367202.54.6ytytyxyx的數(shù)據(jù) 得到關(guān)于的線性回歸方程即關(guān)于的二次回歸方程為 的殘差計(jì)算公式分別為和則回歸方程列的數(shù)據(jù)行第第表示表用的擬合效果和個(gè)回歸方程可以通過殘差來比較兩76,1i153x.76i ; 7 , 2 , 1i ,eyy ye 843.3x272.0i1ii1i .7 , 2 , 1i ,54.202x367.0yy ye 2ii2ii2i 36.56,56.表給出了原始數(shù)據(jù)及相應(yīng)的兩個(gè)回歸方程的 殘差從表中的數(shù)據(jù)可以看出模型的殘差的絕對值顯然比模型的殘差的絕對值小因此模型的擬合效果比模型的擬合效果好 965.77268.58107.4041003835.5397.19693.47e 928.32153.14889.8149.9760.1617.0518.0e 325115662421117y35322927252321x2163表 2,.,.3667.8 .67 .22在一般情況下比較兩個(gè)模型的殘差比較困難原因是在某些樣本點(diǎn)上一個(gè)模型的殘 差的絕對值比另一個(gè)模型的小 而另一些樣本點(diǎn)的情況則相反這時(shí)可以用R 來比較兩個(gè)模型的擬 合效果，R 越大模型的擬合效果越好