選修1-2-11回歸分析的基本思想及其初步應(yīng)用課件

第一章統(tǒng)計案例1.1回歸分析的基本思想及其初步應(yīng)用第一章統(tǒng)計案例1.1回歸分析的基本思想及其初步應(yīng)用1a.比《數(shù)學(xué)3》中“回歸”增加的內(nèi)容數(shù)學(xué)３——統(tǒng)計畫散點圖了解最小二乘法的思想求回歸直線方程y＝bx＋a用回歸直線方程解決應(yīng)用問題選修１-２——統(tǒng)計案例引入線性回歸模型y＝bx＋a＋e了解模型中隨機(jī)誤差項e產(chǎn)生的原因了解相關(guān)指數(shù)R2

和模型擬合的效果之間的關(guān)系了解殘差圖的作用利用線性回歸模型解決一類非線性回歸問題正確理解分析方法與結(jié)果a.比《數(shù)學(xué)3》中“回歸”增加的內(nèi)容數(shù)學(xué)３——統(tǒng)計選修１-2問題1：正方形的面積y與正方形的邊長x之間的函數(shù)關(guān)系是y=x2確定性關(guān)系問題2：某水田水稻產(chǎn)量y與施肥量x之間是否-------有一個確定性的關(guān)系？例如：在7塊并排、形狀大小相同的試驗田上進(jìn)行施肥量對水稻產(chǎn)量影響的試驗，得到如下所示的一組數(shù)據(jù)：施化肥量x15202530354045水稻產(chǎn)量y330345365405445450455復(fù)習(xí):變量之間的兩種關(guān)系問題1：正方形的面積y與正方形的邊長x之間y=x2確定31020304050500450400350300·······發(fā)現(xiàn)：圖中各點，大致分布在某條直線附近。xy施化肥量水稻產(chǎn)量施化肥量x15202530354045水稻產(chǎn)量y330345365405445450455散點圖10203040505004自變量取值一定時，因變量的取值帶有一定隨機(jī)性的兩個變量之間的關(guān)系叫做相關(guān)關(guān)系。1、定義：1）：相關(guān)關(guān)系是一種不確定性關(guān)系；注對具有相關(guān)關(guān)系的兩個變量進(jìn)行統(tǒng)計分析的方法叫回歸分析。2）：自變量取值一定時，因變量的取值帶有一定隨機(jī)性的兩個變量之間的52、現(xiàn)實生活中存在著大量的相關(guān)關(guān)系。

如：人的身高與年齡；產(chǎn)品的成本與生產(chǎn)數(shù)量；商品的銷售額與廣告費；家庭的支出與收入。等等2、現(xiàn)實生活中存在著大量的相關(guān)關(guān)系。6例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表1-1所示。求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。案例1：女大學(xué)生的身高與體重解：1、選取身高為自變量x，體重為因變量y，作散點圖：2、由散點圖知道身高和體重有比較好的線性相關(guān)關(guān)系，因此可以用線性回歸方程刻畫它們之間的關(guān)系。3、從散點圖還看到，樣本點散布在某一條直線的附近，有比較好的線性相關(guān)關(guān)系。

可以用線性回歸直線來y=bx+a來近似刻畫它們之間的關(guān)系。例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表17例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表1-1所示。5943616454505748體重/kg170155165175170157165165身高/cm87654321編號求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。根據(jù)最小二乘法估計和就是未知參數(shù)a和b的最好估計，例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表18制表78合計654321i制表78合計654321i9所以回歸方程是所以，對于身高為172cm的女大學(xué)生，由回歸方程可以預(yù)報其體重為探究：身高為172cm的女大學(xué)生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表1-1所示。5943616454505748體重/kg170155165175170157165165身高/cm87654321編號求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。所以回歸方程是所以，對于身高為172cm的女大學(xué)生，由回歸方10探究P4：身高為172cm的女大學(xué)生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？答：身高為172cm的女大學(xué)生的體重不一定是60.316kg，但一般可以認(rèn)為她的體重在60.316kg左右。60.136kg不是每個身高為172cm的女大學(xué)生的體重的預(yù)測值，而是所有身高為172cm的女大學(xué)生平均體重的預(yù)測值。探究P4：答：身高為172cm的女大學(xué)生的體重不一定是60.111.用相關(guān)系數(shù)r來衡量2.公式：求出線性相關(guān)方程后，說明身高x每增加一個單位,體重y就增加0.849個單位,這表明體重與身高具有正的線性相關(guān)關(guān)系.如何描述它們之間線性相關(guān)關(guān)系的強弱呢?1.用相關(guān)系數(shù)r來衡量2.公式：求出線性相關(guān)方程后，12例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表1-1所示。求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。案例1：女大學(xué)生的身高與體重解：1、選取身高為自變量x，體重為因變量y，作散點圖：2、由散點圖知道身高和體重有比較好的線性相關(guān)關(guān)系，因此可以用線性回歸方程刻畫它們之間的關(guān)系。3、從散點圖還看到，樣本點散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數(shù)y=bx+a描述它們關(guān)系。

我們可以用下面的線性回歸模型來表示：y=bx+a+e，其中a和b為模型的未知參數(shù)，e稱為隨機(jī)誤差。例1從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如表113函數(shù)模型與回歸模型之間的差別函數(shù)模型：回歸模型：可以提供選擇模型的準(zhǔn)則函數(shù)模型與回歸模型之間的差別函數(shù)模型：回歸模型：可以提供14思考產(chǎn)生隨機(jī)誤差項e的原因是什么？隨機(jī)誤差e的來源(可以推廣到一般）：1、其它因素的影響：影響體重y的因素不只是身高x，可能還包括遺傳基因、飲食習(xí)慣、生長環(huán)境等因素；2、用線性回歸模型近似真實模型所引起的誤差；3、身高x

的觀測誤差。思考隨機(jī)誤差e的來源(可以推廣到一般）：15函數(shù)模型與回歸模型之間的差別函數(shù)模型：回歸模型：

線性回歸模型y=bx+a+e增加了隨機(jī)誤差項e，因變量y的值由自變量x和隨機(jī)誤差項e共同確定，即自變量x只能解析部分y的變化。

在統(tǒng)計中，我們也把自變量x稱為解析變量，因變量y稱為預(yù)報變量。函數(shù)模型與回歸模型之間的差別函數(shù)模型：回歸模型：16對回歸模型進(jìn)行統(tǒng)計檢驗對回歸模型進(jìn)行統(tǒng)計檢驗175943616454505748體重/kg170155165175170157165165身高/cm87654321編號

那么，在這個總的效應(yīng)（總偏差平方和）中，有多少來自于解析變量（身高）？有多少來自于隨機(jī)誤差？

假設(shè)隨機(jī)誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散點圖中所有的點將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點并沒有完全落在回歸直線上。這些點散布在回歸直線附近，所以一定是隨機(jī)誤差把這些點從回歸直線上“推”開了。

因此，數(shù)據(jù)點和它在回歸直線上相應(yīng)位置的差異

是隨機(jī)誤差的效應(yīng)，稱為殘差。5943616454505748體重/k如，編號為6的女大學(xué)生，計算隨機(jī)誤差的效應(yīng)（殘差）為：對每名女大學(xué)生計算這個差異，然后分別將所得的值平方后加起來，用數(shù)學(xué)符號表示為：稱為殘差平方和，它代表了隨機(jī)誤差的效應(yīng)。例如，編號為6的女大學(xué)生，計算隨機(jī)誤差的效應(yīng)（殘差）為：對每19我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是

顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。

在線性回歸模型中，R2表示解析變量對預(yù)報變量變化的貢獻(xiàn)率。

R2越接近1，表示回歸的效果越好（因為R2越接近1，表示解析變量和預(yù)報變量的線性相關(guān)性越強）。我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是20

如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過比較R2的值來做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型?？偟膩碚f：相關(guān)指數(shù)R2是度量模型擬合效果的一種指標(biāo)。在線性模型中，它代表自變量刻畫預(yù)報變量的能力。如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析21我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是

在例I中可以看出，R2≈0.64即，解析變量對總效應(yīng)約貢獻(xiàn)了64%，可以敘述為“身高解析了64%的體重變化”，而隨機(jī)誤差貢獻(xiàn)了剩余的36%。所以，身高對體重的效應(yīng)比隨機(jī)誤差的效應(yīng)大得多。我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是22選修1-2-123

在研究兩個變量間的關(guān)系時，首先要根據(jù)散點圖來粗略判斷它們是否線性相關(guān)，是否可以用回歸模型來擬合數(shù)據(jù)。殘差分析與殘差圖的定義：

然后，我們可以通過殘差來判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析。在研究兩個變量間的關(guān)系時，首先要根據(jù)散點圖來粗略24

我們可以利用圖形來分析殘差特性，作圖時縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣本編號，或身高數(shù)據(jù)，或體重估計值等，這樣作出的圖形稱為殘差圖。表1-4列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。使用公式計算殘差我們可以利用圖形來分析殘差特性，作圖時縱坐標(biāo)為殘25殘差圖的制作及作用。坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點應(yīng)該分布在以橫軸為心的帶形區(qū)域；對于遠(yuǎn)離橫軸的點，要特別注意。身高與體重殘差圖異常點

錯誤數(shù)據(jù)模型問題

幾點說明：第一個樣本點和第6個樣本點的殘差比較大，需要確認(rèn)在采集過程中是否有人為的錯誤。如果數(shù)據(jù)采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒有錯誤，則需要尋找其他的原因。另外，殘差點比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型比較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報精度越高。殘差圖的制作及作用。身高與體重殘差圖異常點錯誤數(shù)據(jù)26用身高預(yù)報體重時，需要注意下列問題：1、回歸方程只適用于我們所研究的樣本的總體；2、我們所建立的回歸方程一般都有時間性；3、樣本采集的范圍會影響回歸方程的適用范圍；4、不能期望回歸方程得到的預(yù)報值就是預(yù)報變量的精確值。事實上，它是預(yù)報變量的可能取值的平均值?！@些問題也使用于其他問題。用身高預(yù)報體重時，需要注意下列問題：1、回歸方程只適用于我們27一般地，建立回歸模型的基本步驟為：（1）確定研究對象，明確哪個變量是解析變量，哪個變量是預(yù)報變量。（2）畫出確定好的解析變量和預(yù)報變量的散點圖，觀察它們之間的關(guān)系（如是否存在線性關(guān)系等）。（3）由經(jīng)驗確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，則選用線性回歸方程y=bx+a）.（4）按一定規(guī)則估計回歸方程中的參數(shù)（如最小二乘法）。（5）得出結(jié)果后分析殘差圖是否有異常（個別數(shù)據(jù)對應(yīng)殘差過大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性，等等），過存在異常，則檢查數(shù)據(jù)是否有誤，或模型是否合適等。一般地，建立回歸模型的基本步驟為：（1）確定研究對象，明確哪28什么是回歸分析？

（內(nèi)容）從一組樣本數(shù)據(jù)出發(fā)，確定變量之間的數(shù)學(xué)關(guān)系式對這些關(guān)系式的可信程度進(jìn)行各種統(tǒng)計檢驗，并從影響某一特定變量的諸多變量中找出哪些變量的影響顯著，哪些不顯著利用所求的關(guān)系式，根據(jù)一個或幾個變量的取值來預(yù)測或控制另一個特定變量的取值，并給出這種預(yù)測或控制的精確程度什么是回歸分析？

（內(nèi)容）從一組樣本數(shù)據(jù)出發(fā)，確定變量之間的29回歸分析與相關(guān)分析的區(qū)別相關(guān)分析中，變量x

變量y處于平等的地位；回歸分析中，變量y稱為因變量，處在被解釋的地位，x稱為自變量，用于預(yù)測因變量的變化相關(guān)分析中所涉及的變量x和y都是隨機(jī)變量；回歸分析中，因變量y是隨機(jī)變量，自變量x

可以是隨機(jī)變量，也可以是非隨機(jī)的確定變量相關(guān)分析主要是描述兩個變量之間線性關(guān)系的密切程度；回歸分析不僅可以揭示變量x對變量y的影響大小，還可以由回歸方程進(jìn)行預(yù)測和控制

回歸分析與相關(guān)分析的區(qū)別相關(guān)分析中，變量x變量y處于30練:某種產(chǎn)品的廣告費支出x與銷售額y之間有如表所示數(shù)據(jù):(1)求x,y之間的相關(guān)系數(shù);(2)求線性回歸方程;練:某種產(chǎn)品的廣告費支出x與銷售額y之間有如表所示數(shù)據(jù):(131離差平方和的分解

（三個平方和的意義）總偏差平方和(SST)反映因變量的n個觀察值與其均值的總離差回歸平方和(SSR)反映自變量x的變化對因變量y取值變化的影響，或者說，是由于x與y之間的線性關(guān)系引起的y的取值變化，也稱為可解釋的平方和殘差平方和(SSE)反映除x以外的其他因素對y取值的影響，也稱為不可解釋的平方和或剩余平方和離差平方和的分解

（三個平方和的意義）總偏差平方和(SST32樣本決定系數(shù)

（判定系數(shù)r2

）回歸平方和占總離差平方和的比例反映回歸直線的擬合程度取值范圍在[0,1]之間

r21，說明回歸方程擬合的越好；r20，說明回歸方程擬合的越差判定系數(shù)等于相關(guān)系數(shù)的平方，即r2＝(r)2樣本決定系數(shù)

（判定系數(shù)r2）回歸平方和占總離差平方和332、現(xiàn)實生活中存在著大量的相關(guān)關(guān)系。

如：人的身高與年齡；產(chǎn)品的成本與生產(chǎn)數(shù)量；商品的銷售額與廣告費；家庭的支出與收入。等等探索：水稻產(chǎn)量y與施肥量x之間大致有何規(guī)律？2、現(xiàn)實生活中存在著大量的相關(guān)關(guān)系。探索：水稻產(chǎn)量y與施肥量341020304050500450400350300·······發(fā)現(xiàn)：圖中各點，大致分布在某條直線附近。探索2：在這些點附近可畫直線不止一條，哪條直線最能代表x與y之間的關(guān)系呢？xy施化肥量水稻產(chǎn)量施化