數(shù)學(xué)教材梳理：回歸分析的基本思想及其初步應(yīng)用

學(xué)必求其心得，業(yè)必貴于專(zhuān)精學(xué)必求其心得，業(yè)必貴于專(zhuān)精學(xué)必求其心得，業(yè)必貴于專(zhuān)精庖丁巧解牛知識(shí)·巧學(xué)一、回歸直線方程對(duì)于一組具有線性相關(guān)關(guān)系的數(shù)據(jù)（x1,y1）,（x2，y2),…,（xn，yn)，其回歸方程的截距和斜率的最小二乘估計(jì)公式分別為：=,=?；貧w直線方程中的=稱(chēng)為樣本點(diǎn)的中心.回歸直線過(guò)樣本點(diǎn)的中心。二、相關(guān)系數(shù)及相關(guān)檢驗(yàn)給定（xi,yi)(i=1,2,…,n），只要x1,x2，…，xn不全相等，就能求出一條回歸直線,因此它有無(wú)意義就是個(gè)大問(wèn)題.由于根據(jù)散點(diǎn)圖看數(shù)據(jù)是否大致在一直線附近主觀性太強(qiáng),可利用下面量化的檢驗(yàn)法.當(dāng)xi不全相等，yi也不全相等時(shí)，r=。叫做變量ｙ與ｘ之間的樣本相關(guān)系數(shù)（簡(jiǎn)稱(chēng)相關(guān)數(shù)），｜ｒ｜≤1.當(dāng)ｒ＞0時(shí)，表明兩個(gè)變量正相關(guān)；當(dāng)ｒ＜0時(shí)，表明兩個(gè)變量負(fù)相關(guān)。ｒ的絕對(duì)值越接近1,表明兩個(gè)變量的線性相關(guān)性越強(qiáng);ｒ的絕對(duì)值越接近0時(shí),表明兩個(gè)變量之間幾乎不存在線性相關(guān)關(guān)系.通常，當(dāng)ｒ的絕對(duì)值大于0.75時(shí)認(rèn)為兩個(gè)變量有很強(qiáng)的線性相關(guān)關(guān)系.聯(lián)想發(fā)散注意此處空半格當(dāng)｜ｒ|與1接近到什么程度才表明Y與ｘ之間具有線性相關(guān)關(guān)系呢?為明確這一點(diǎn)，常通過(guò)相關(guān)性檢驗(yàn)的方法，其步驟如下：(1）作統(tǒng)計(jì)假設(shè)：ｘ與Y不具有線性相關(guān)關(guān)系；(2)根據(jù)小概率0.05與ｎ—2在附表中查出ｒ的一個(gè)臨界值r0.05;（3）根據(jù)樣本相關(guān)系數(shù)計(jì)算公式算出ｒ的值；(4）作統(tǒng)計(jì)推斷,如果｜ｒ｜＞r0.05，表明有95％的把握認(rèn)為ｘ與y之間具有線性相關(guān)關(guān)系.如果｜ｒ|≤r0。05,我們沒(méi)有理由拒絕原來(lái)的假設(shè),這時(shí)尋找回歸直線方程是毫無(wú)意義的.三、回歸分析1。隨機(jī)誤差在線性回歸模型y=bx+a+e中，a和b為模型的未知參數(shù),e是y與=bx+a之間的誤差,通常ｅ為隨機(jī)變量,稱(chēng)為隨機(jī)誤差。它的均值E（ｅ)＝0,方差D（e）=σ2>0.線性回歸模型的完整表達(dá)形式為在此模型中，隨機(jī)誤差ｒ的方差σ2越小，通過(guò)回歸直線=bx+a預(yù)報(bào)真實(shí)值ｙ的精度越高。深化升華注意此處空半格引起隨機(jī)誤差ｅ的原因:（1）在實(shí)際中，隨機(jī)變量ｙ除了受隨機(jī)變量ｘ的影響之外，還受其他變量的影響；(2)由于前面相關(guān)關(guān)系公式中的和為截距和斜率的估計(jì)值，它們與真實(shí)值a和b之間也存在誤差。2.方差分析對(duì)于樣本點(diǎn)(x1，y1),（x2，y2),…（xn,yn）而言,相應(yīng)于它們的隨機(jī)誤差為ei=yi—=yi—bxi-a（i=1，2，…,n），其估計(jì)值為=yi-=yi-xi—（i=1,2，…，n)，稱(chēng)為相應(yīng)于點(diǎn)(xi，yi）的殘差.類(lèi)比樣本方差估計(jì)總體方差的思想，可以用2=Q（，)（ｎ＞2）作為的估計(jì)量，其中和由公式給出，Q（，）稱(chēng)為殘差平方和.可以用衡量回歸直線方程的預(yù)報(bào)精度。通常越小,預(yù)報(bào)精度越高。要點(diǎn)提示注意此處空半格因?yàn)殡S機(jī)誤差是隨機(jī)變量，因此可以通過(guò)這個(gè)隨機(jī)變量的數(shù)字特征來(lái)刻畫(huà)它的一些總體特征.均值是反映隨機(jī)變量取值平均水平的數(shù)字特征，方差是反映隨機(jī)變量集中于均值程度的數(shù)字特征，而隨機(jī)變量的均值為0,因此可以用方差σ2來(lái)衡量隨機(jī)誤差的大小.3.殘差分析在研究?jī)蓚€(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來(lái)粗略判斷它們是否線性相關(guān)，是否可以用線性回歸模型來(lái)擬合數(shù)據(jù)。然后,可以通過(guò)殘差，來(lái)判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)。這方面的分析工作稱(chēng)為殘差分析.其中殘差是數(shù)據(jù)點(diǎn)yi和它在回歸線上相應(yīng)位置之間的差異,即=yi-.4。相關(guān)指數(shù)R2用相關(guān)指數(shù)R2來(lái)刻畫(huà)回歸的效果,其計(jì)算公式是：R2=顯然R2取值越大，意味著殘差平方和越小,也就是說(shuō)模型的擬合效果越好。深化升華注意此處空半格在線性回歸模型中，R2表示解釋變量對(duì)于預(yù)報(bào)變量變化的貢獻(xiàn)率.R2越接近于1,表示回歸的效果越好(因?yàn)镽2越接近于1，表示解釋變量和預(yù)報(bào)變量的相關(guān)性越強(qiáng))。如果對(duì)某組數(shù)據(jù)可能采取幾種不同的回歸方程進(jìn)行回歸分析.也可以通過(guò)比較幾個(gè)R2，選擇其值大的模型。四、建立回歸模型的基本步驟（1）確定研究對(duì)象，明確哪個(gè)變量是解釋變量，哪個(gè)變量是預(yù)報(bào)變量；（2）畫(huà)出確定好的解釋變量和預(yù)報(bào)變量的散點(diǎn)圖,觀察它們之間的關(guān)系(如是否存在線性關(guān)系等)；（3)由經(jīng)驗(yàn)確定回歸方程的類(lèi)型(如我們觀察到數(shù)據(jù)呈線性關(guān)系,則選用線性回歸方程y=bx+a)；（4）按一定規(guī)則估計(jì)回歸方程中的參數(shù)（如最小二乘法）；（5)得出結(jié)果后分析殘差圖是否有異常（個(gè)別數(shù)據(jù)對(duì)應(yīng)殘差過(guò)大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性等)，若存在異常，則檢查數(shù)據(jù)是否有誤，或模型是否合適等。問(wèn)題·探究問(wèn)題1兩個(gè)變量具有線性相關(guān)關(guān)系和兩個(gè)變量具有函數(shù)關(guān)系相同嗎？你對(duì)二者關(guān)系是如何理解的?思路：相關(guān)關(guān)系與函數(shù)關(guān)系不同，因?yàn)楹瘮?shù)關(guān)系是一種確定性的關(guān)系，而相關(guān)關(guān)系是一種非確定性關(guān)系.相關(guān)關(guān)系包括兩種情況：一是兩個(gè)變量中,一個(gè)變量為可控制變量，另一個(gè)變量為隨機(jī)變量.二是兩個(gè)變量均為隨機(jī)變量.而函數(shù)關(guān)系可以看成是兩個(gè)非隨機(jī)變量之間的關(guān)系.另一方面，函數(shù)關(guān)系是一種因果關(guān)系，而相關(guān)關(guān)系不一定是因果關(guān)系，也可以是伴隨關(guān)系。探究：對(duì)兩個(gè)變量的關(guān)系來(lái)說(shuō)，在相關(guān)關(guān)系中,例如，在水稻產(chǎn)量與施肥量的關(guān)系中,施肥量是可控制變量，而水稻的產(chǎn)量是隨機(jī)變量；在研究一個(gè)學(xué)生的數(shù)學(xué)成績(jī)與物理成績(jī)的關(guān)系時(shí)，這兩個(gè)變量都是不可控制的隨機(jī)變量。而正方形的面積S與邊長(zhǎng)ｘ之間的關(guān)系是一種函數(shù)關(guān)系，這兩個(gè)變量就不是隨機(jī)變量.由于相關(guān)關(guān)系的不確定性,我們經(jīng)常運(yùn)用統(tǒng)計(jì)分析的方法，即回歸分析法來(lái)進(jìn)行研究。問(wèn)題2回歸分析是對(duì)具有相關(guān)關(guān)系的兩個(gè)變量進(jìn)行統(tǒng)計(jì)分析的一種常用方法。相關(guān)關(guān)系又分線性相關(guān)關(guān)系和非線性相關(guān)關(guān)系，如何利用回歸分析的方法對(duì)兩個(gè)具有線性相關(guān)關(guān)系的變量進(jìn)行研究呢？思路：利用回歸分析的方法對(duì)兩個(gè)具有線性相關(guān)關(guān)系的變量進(jìn)行研究可以按如下步驟進(jìn)行：①畫(huà)出兩個(gè)變量的散點(diǎn)圖；②求回歸直線方程；③用回歸直線方程進(jìn)行預(yù)報(bào).其中求回歸直線方程是關(guān)鍵.而對(duì)于線性回歸模型y=bx+a來(lái)說(shuō)，估計(jì)模型中的未知參數(shù)a和b最好的方法就是最小二乘法估計(jì)和，其計(jì)算公式為=—，=.探究：上述問(wèn)題研究是具有線性相關(guān)關(guān)系的變量的線性回歸。那么如何用回歸分析的方法對(duì)非線性回歸問(wèn)題進(jìn)行統(tǒng)計(jì)分析呢？我們可以對(duì)其分為兩類(lèi).若問(wèn)題中已給出經(jīng)驗(yàn)公式，這時(shí)可以將解釋變量進(jìn)行交換（換元)，將變量的非線性關(guān)系轉(zhuǎn)化為線性關(guān)系，將問(wèn)題化為線性回歸分析問(wèn)題來(lái)解決。若問(wèn)題中沒(méi)有給出經(jīng)驗(yàn)公式,需要我們畫(huà)出已知數(shù)據(jù)的散點(diǎn)圖,通過(guò)與各種函數(shù)（如指數(shù)函數(shù)、對(duì)數(shù)函數(shù)、冪函數(shù)等）的圖象作比較，選擇一種與這些散點(diǎn)擬合得最好的函數(shù),然后采用適當(dāng)?shù)淖兞孔儞Q，將問(wèn)題化為線性回歸分析問(wèn)題來(lái)解決。典題·熱題例1假設(shè)關(guān)于某設(shè)備的使用年限ｘ和所支出的維修費(fèi)用ｙ(萬(wàn)元）,有如下的統(tǒng)計(jì)資料：使用年限ｘ23456維修費(fèi)用ｙ2。23.85。56.57.0若由資料知ｙ對(duì)ｘ呈線性相關(guān)關(guān)系.（1）線性回歸方程的回歸系數(shù),；（2）預(yù)報(bào)使用年限為10年時(shí)的維修費(fèi)用是多少？思路分析：因?yàn)椋鶎?duì)ｘ呈線性相關(guān)關(guān)系，所以可以用一元線性相關(guān)的方法解決問(wèn)題.(1）利用公式=-.來(lái)計(jì)算回歸系數(shù).有時(shí)為了方便常制表對(duì)應(yīng)寫(xiě)出xiyi,xi2，以利于求和。(2）獲得回歸直線方程后，取ｘ＝10,即可求值.解：（1）由題意求得=4,=5,=1xi2=90，=112。3，于是==1。23,==5-1.23×4=0.08。（2）回歸直線方程是=1。23x+0.08,當(dāng)ｘ＝10（年）時(shí)，=1.23×10+0。08=12.38（萬(wàn)元）,即估計(jì)使用10年時(shí)維修費(fèi)用是12。38萬(wàn)元。深化升華注意此處空半格知道ｘ與ｙ呈線性相關(guān)關(guān)系，就無(wú)需進(jìn)行相關(guān)性檢驗(yàn)，否則應(yīng)首先進(jìn)行相關(guān)性檢驗(yàn).如果本身兩個(gè)變量不具有相關(guān)關(guān)系,或者說(shuō)，它們之間相關(guān)關(guān)系不顯著，即使求出了回歸方程也是毫無(wú)意義的，而且估計(jì)和預(yù)測(cè)的量也是不可信的.例2為了了解某一地區(qū)母親身高ｘ與女兒身高Y的相關(guān)關(guān)系，隨機(jī)測(cè)得10對(duì)母女的身高如下表所示：母親身高ｘ（ｃｍ）159160160163159154159158159157女兒身高y（ｃｍ）158159160161161155162157162156試對(duì)ｘ與y進(jìn)行一元線性回歸分析，并預(yù)報(bào)當(dāng)母親身高為161ｃｍ時(shí)女兒的身高為多少？圖3—1—1思路分析:為了尋找兩個(gè)隨機(jī)變量間的線性關(guān)系，一般先做散點(diǎn)圖.把這10對(duì)數(shù)據(jù)畫(huà)出散點(diǎn)圖，如圖3-1—1所示，其中點(diǎn)（159,162）表示一對(duì)母女的身高數(shù)據(jù).由圖可以看出，ｘ與y之間有近似的線性相關(guān)關(guān)系，據(jù)此用回歸直線方程解決問(wèn)題.解：由以上分析先對(duì)ｘ與y作相關(guān)性檢驗(yàn).(1）作統(tǒng)計(jì)假設(shè)：ｘ與y不具有線性相關(guān)關(guān)系.（2)由小概率0。05與ｎ-2＝8在附表中查得r0。05=0。632。（3）=(159+160+…+157）=158。8，=（158+159+…+156）=159。1，=（1592+1602+…+1572）—10×158.82=47.6，—10xy=(159×158+160×159+…+157×156)-10×158.8×159.1=37。2，∑yi2-10y2=(1582+1592+…+1562）—10×159。12=56。9,所以r=≈0。71。（4)｜r｜=0.71>0。632，即｜r｜〉r0.05，從而有95％的把握認(rèn)為ｘ與y之間具有線性相關(guān)關(guān)系，求回歸直線方程是有意義的.回歸系數(shù)=≈0。78,=159.1—0.782×158。8≈34.92.所以y對(duì)ｘ的回歸直線方程是=34。92+0.78x。因此，當(dāng)母親身高為161ｃｍ時(shí)，女兒的身高的預(yù)報(bào)值為=34.92+0。78×160=160。5ｃｍ。這就是說(shuō)，當(dāng)母親身高為161ｃｍ時(shí)女兒的身高大致也接近161ｃｍ.方法歸納注意此處空半格線性回歸分析的步驟方法為：①首先作出統(tǒng)計(jì)假設(shè)；②求出線性相關(guān)系數(shù)；③由相關(guān)系數(shù)確定回歸直線方程是否有意義;④寫(xiě)出線性回歸方程，解決有關(guān)問(wèn)題.例3某工業(yè)部門(mén)進(jìn)行了一項(xiàng)研究，分析該部門(mén)的產(chǎn)量與生產(chǎn)費(fèi)用之間的關(guān)系，從這個(gè)工業(yè)部門(mén)內(nèi)隨機(jī)提選了10個(gè)企業(yè)作樣本，有如下資料：產(chǎn)量x（千件）40424855657988100120140生產(chǎn)費(fèi)用y（千元）150140160170150162185165190185完成下列要求：（1）計(jì)算ｘ與ｙ的相關(guān)系數(shù)；（2)對(duì)這兩個(gè)變量之間是否線性相關(guān)進(jìn)行相關(guān)性檢驗(yàn)；（3）設(shè)回歸直線方程為=bx+a，求系數(shù)a,b.思路分析:（1）使用樣本相關(guān)系數(shù)計(jì)算公式r=即可完成；（2）由小概率0.05與ｒ-2＝8在附表中查得r0。05的大小，以檢驗(yàn)所得結(jié)果,來(lái)說(shuō)明ｙ與ｘ之間的線性相關(guān)是否顯著；（3）用公式代入即可求出.解：（1)根據(jù)題意制表如下：i12345678910合計(jì)xi40424855657988100120140777yi1501401601701501621851651901851657xi2160017642304302542256241774410000144001960070903yi222500196002560028900225002624434225272253610034225277119xiyi600058807680935097501279