8.最小二乘估計(jì)

1、8 最小二乘估計(jì) 在上節(jié)課的討論中，我們知道，人體脂肪含量在上節(jié)課的討論中，我們知道，人體脂肪含量和年齡之間近似存在著線性關(guān)系，這種和年齡之間近似存在著線性關(guān)系，這種線性關(guān)系可線性關(guān)系可以有以有多種方法來(lái)進(jìn)行刻畫多種方法來(lái)進(jìn)行刻畫. .但是這些方法都缺少數(shù)學(xué)但是這些方法都缺少數(shù)學(xué)思想依據(jù)思想依據(jù). .問題問題1 1. .用什么樣的線性關(guān)系刻畫會(huì)更好一些？用什么樣的線性關(guān)系刻畫會(huì)更好一些？想法：想法：保證這條直線與所有點(diǎn)都接近（也就是距離保證這條直線與所有點(diǎn)都接近（也就是距離最?。┳钚。? .最小二乘法就是基于這種想法最小二乘法就是基于這種想法. .本節(jié)課我們來(lái)進(jìn)行本節(jié)課我們來(lái)進(jìn)行詳細(xì)學(xué)習(xí)！詳細(xì)

2、學(xué)習(xí)！1.1.了解最小二乘法的思想了解最小二乘法的思想. .2.2. 能根據(jù)給出的線性回歸方程系數(shù)公式建立線性能根據(jù)給出的線性回歸方程系數(shù)公式建立線性回歸方程回歸方程. .( (重點(diǎn)重點(diǎn)) )3.3.會(huì)用線性回歸方程對(duì)總體進(jìn)行估計(jì)會(huì)用線性回歸方程對(duì)總體進(jìn)行估計(jì). .( (難點(diǎn)）難點(diǎn)）思考思考1.1.用什么樣的方法刻畫點(diǎn)與直線的距離會(huì)更方用什么樣的方法刻畫點(diǎn)與直線的距離會(huì)更方便有效？設(shè)直線方程為便有效？設(shè)直線方程為y=y=a+bxa+bx，樣本點(diǎn)，樣本點(diǎn)A A（x xi，y yi）方法一方法一: :點(diǎn)到直線的距離公式點(diǎn)到直線的距離公式方法二方法二: :12baybxdii2iibxayyiiy,

3、xiibxa,xbxayxA A0 0顯然方法二能有效地表示點(diǎn)顯然方法二能有效地表示點(diǎn)A A與直線與直線y=y=a+bxa+bx的距離，而的距離，而且比方法一計(jì)算更方便，所以我們用它來(lái)表示二者之且比方法一計(jì)算更方便，所以我們用它來(lái)表示二者之間的接近程度間的接近程度. .思考思考2.2.怎樣刻畫多個(gè)點(diǎn)與直線的接近程度？怎樣刻畫多個(gè)點(diǎn)與直線的接近程度？ 例如有例如有5 5個(gè)樣本點(diǎn)，其坐標(biāo)分別為（個(gè)樣本點(diǎn)，其坐標(biāo)分別為（x x1 1，y y1 1），（），（x x2 2，y y2 2），（），（x x3 3，y y3 3），（），（x x4 4，y y4 4），（），（x x5 5，y y5 5），

4、與直線），與直線y=y=a+bxa+bx的接近程度：的接近程度：255244233222211bxaybxaybxaybxaybxay提示：提示：若有若有n n個(gè)樣本點(diǎn)：（個(gè)樣本點(diǎn)：（x x1 1，y y1 1）, , , ,（x xn n，y yn n），可以用下），可以用下面的表達(dá)式來(lái)刻畫這些點(diǎn)與直線面的表達(dá)式來(lái)刻畫這些點(diǎn)與直線y ya+bxa+bx的接近程度的接近程度: :2211nny(abx )y(abx ) 使上式達(dá)到最小值的直線使上式達(dá)到最小值的直線y=y=a+bxa+bx就是所要求的直線，就是所要求的直線，這種方法稱為這種方法稱為最小二乘法最小二乘法. .先來(lái)討論先來(lái)討論3 3

5、個(gè)樣本點(diǎn)的情況個(gè)樣本點(diǎn)的情況2211nny(abx )y(abx )思考思考3 3：怎樣使怎樣使達(dá)到最小值？達(dá)到最小值？利用配方法可得利用配方法可得22221122333-2-)( -)(-)(-)aa y bxy bxy bxy bx（同樣使用配方法可以得到，當(dāng)同樣使用配方法可以得到，當(dāng)從而得到直線從而得到直線y=y=+bx+bx的系數(shù)的系數(shù) ，b b，且稱直線，且稱直線y=y=+bx+bx為這為這3 3個(gè)樣本點(diǎn)的線性回歸方程個(gè)樣本點(diǎn)的線性回歸方程. .用同樣的方法我們可以推導(dǎo)出用同樣的方法我們可以推導(dǎo)出n n個(gè)點(diǎn)的線性回歸方個(gè)點(diǎn)的線性回歸方程的系數(shù)：程的系數(shù)：niii 1n22ii 1x

6、ynx yxnx牢記公牢記公式式特別提醒：特別提醒：在回歸直線方程中，在回歸直線方程中，b b是回歸直線方程是回歸直線方程的斜率，的斜率，a a是截距；是截距；b b的含義容易理解成增加的單的含義容易理解成增加的單位數(shù)，而實(shí)際上，它代表位數(shù)，而實(shí)際上，它代表x x每增加一個(gè)單位，每增加一個(gè)單位，y y的的平均增加單位數(shù)平均增加單位數(shù). .一般地說(shuō)，當(dāng)回歸系數(shù)一般地說(shuō)，當(dāng)回歸系數(shù)b b0 0時(shí)，時(shí)，說(shuō)明兩個(gè)變量呈正相關(guān)關(guān)系，它的意義是：當(dāng)說(shuō)明兩個(gè)變量呈正相關(guān)關(guān)系，它的意義是：當(dāng)x x每每增加一個(gè)單位時(shí)，增加一個(gè)單位時(shí)，y y就增加就增加b b個(gè)單位；當(dāng)個(gè)單位；當(dāng)b b0 0時(shí)，時(shí)，說(shuō)明兩個(gè)變量呈

7、負(fù)相關(guān)關(guān)系，它的意義是：當(dāng)說(shuō)明兩個(gè)變量呈負(fù)相關(guān)關(guān)系，它的意義是：當(dāng)x x每每增加一個(gè)單位時(shí)，增加一個(gè)單位時(shí)，y y就減少就減少b b個(gè)單位個(gè)單位. .思考思考4:4:如果樣本點(diǎn)只有兩個(gè)，用最小二乘法得如果樣本點(diǎn)只有兩個(gè)，用最小二乘法得到的直線與用兩點(diǎn)式求出的直線一致嗎？到的直線與用兩點(diǎn)式求出的直線一致嗎？提示提示: :是一致的是一致的. .與用兩點(diǎn)式相同與用兩點(diǎn)式相同. .例例1 1 在上一節(jié)練習(xí)中，從散點(diǎn)圖可以看出，某小賣在上一節(jié)練習(xí)中，從散點(diǎn)圖可以看出，某小賣部部6 6天賣出熱茶的杯數(shù)（天賣出熱茶的杯數(shù)（y）與當(dāng)天氣溫（）與當(dāng)天氣溫（x）之間是）之間是線性相關(guān)的線性相關(guān)的. .數(shù)據(jù)如下表數(shù)

8、據(jù)如下表: :氣溫（氣溫（xi） 26261818131310104 4-1-1杯數(shù)（杯數(shù)（yi）杯）杯202024243434383850506464(1)(1)試用最小二乘法求出線性回歸方程試用最小二乘法求出線性回歸方程. .(2)(2)如果某天的氣溫是如果某天的氣溫是33，請(qǐng)預(yù)測(cè)這天可能會(huì)賣，請(qǐng)預(yù)測(cè)這天可能會(huì)賣出熱茶多少杯出熱茶多少杯. . 解解：（1 1）由散點(diǎn)圖可以看出，兩個(gè)變量）由散點(diǎn)圖可以看出，兩個(gè)變量是線性相關(guān)的是線性相關(guān)的. .648. 1-557.57557.57648. 1612866191031153353353353115335xyabyx于是，線性回歸方程為于是，線

9、性回歸方程為所以所以由表格可得：由表格可得：，35115xy =33351151 910633b1.64835351 286633a57.557由表格得：，所以（2 2）由上面的最小二乘法估計(jì)得出的線性回歸方）由上面的最小二乘法估計(jì)得出的線性回歸方程知，當(dāng)某天的氣溫是程知，當(dāng)某天的氣溫是33時(shí)，賣出熱茶的杯數(shù)時(shí)，賣出熱茶的杯數(shù)估計(jì)為：估計(jì)為：57.557-1.64857.557-1.648(-3)63(-3)63(杯）杯）. . 1.1.利用最小二乘法估計(jì)時(shí)，首先要作出數(shù)據(jù)的散點(diǎn)圖，利用最小二乘法估計(jì)時(shí)，首先要作出數(shù)據(jù)的散點(diǎn)圖，利用散點(diǎn)圖觀察數(shù)據(jù)是否具有線性關(guān)系利用散點(diǎn)圖觀察數(shù)據(jù)是否具有線性關(guān)

10、系. .2.2.散點(diǎn)圖呈現(xiàn)線性關(guān)系時(shí)，利用最小二乘法公式求出散點(diǎn)圖呈現(xiàn)線性關(guān)系時(shí)，利用最小二乘法公式求出方程方程. .3.3.直線擬合只是擬合的方式之一，散點(diǎn)圖呈現(xiàn)其他的直線擬合只是擬合的方式之一，散點(diǎn)圖呈現(xiàn)其他的規(guī)律時(shí)，我們也可以利用其他的曲線進(jìn)行擬合規(guī)律時(shí)，我們也可以利用其他的曲線進(jìn)行擬合. .【說(shuō)明說(shuō)明】例例2 2 下面是兩個(gè)變量的一組數(shù)據(jù)：下面是兩個(gè)變量的一組數(shù)據(jù)：x x1 12 23 34 45 56 67 78 8y y1 14 49 916162525363649496464請(qǐng)用最小二乘法求出這兩個(gè)變量之間的線性回歸方程請(qǐng)用最小二乘法求出這兩個(gè)變量之間的線性回歸方程. .解解5

11、.25, 5 . 4yx根據(jù)上表數(shù)據(jù)，可以計(jì)算出：根據(jù)上表數(shù)據(jù)，可以計(jì)算出：其他數(shù)據(jù)如下表其他數(shù)據(jù)如下表i i1 11 11 11 11 12 22 24 44 48 83 33 39 99 927274 44 41616161664645 55 5252525251251256 66 6363636362162167 77 7494949493433438 88 864646464512512合計(jì)合計(jì)36362042042042041 2961 296iiyxiy2ixix，思考：哪一個(gè)對(duì)呢？思考：哪一個(gè)對(duì)呢？y=-15+9x.y=-15+9x.所以，利用最小二乘法估計(jì)時(shí)，要先作出數(shù)據(jù)的散所

12、以，利用最小二乘法估計(jì)時(shí)，要先作出數(shù)據(jù)的散點(diǎn)圖點(diǎn)圖. .如果散點(diǎn)圖呈現(xiàn)一定的規(guī)律性如果散點(diǎn)圖呈現(xiàn)一定的規(guī)律性, ,我們?cè)俑鶕?jù)這我們?cè)俑鶕?jù)這個(gè)規(guī)律性進(jìn)行擬合個(gè)規(guī)律性進(jìn)行擬合. .如果散點(diǎn)圖呈現(xiàn)出線性關(guān)系如果散點(diǎn)圖呈現(xiàn)出線性關(guān)系, ,我我們可以用最小二乘法估計(jì)出線性回歸方程們可以用最小二乘法估計(jì)出線性回歸方程; ;如果散如果散點(diǎn)圖呈現(xiàn)出其他的曲線關(guān)系點(diǎn)圖呈現(xiàn)出其他的曲線關(guān)系, ,我們就要利用其他的我們就要利用其他的工具進(jìn)行擬合工具進(jìn)行擬合. .x0 01 12 23 3y1 13 35 57 7D D1.1.已知已知x x，y y之間的一組數(shù)據(jù)如下表，則之間的一組數(shù)據(jù)如下表，則y y與與x x的線

13、性的線性回歸方程回歸方程y=y=a+bxa+bx必經(jīng)過點(diǎn)必經(jīng)過點(diǎn) ( )( )A.A.（2 2，2 2） B.B.（1.51.5，0 0）C.C.（1 1，2 2） D.D.（1.51.5，4 4）A AA A4.4.某連鎖經(jīng)營(yíng)公司所屬某連鎖經(jīng)營(yíng)公司所屬5 5個(gè)零售店某月的銷售額和個(gè)零售店某月的銷售額和利潤(rùn)額資料如下表：利潤(rùn)額資料如下表：（1 1）畫出銷售額和利潤(rùn)額的散點(diǎn)圖）畫出銷售額和利潤(rùn)額的散點(diǎn)圖. .（2 2）若銷售額和利潤(rùn)額具有相關(guān)關(guān)系，計(jì)算利潤(rùn)）若銷售額和利潤(rùn)額具有相關(guān)關(guān)系，計(jì)算利潤(rùn)額額y y對(duì)銷售額對(duì)銷售額x x的線性回歸方程的線性回歸方程. .商店名稱商店名稱A AB BC CD DE E銷售額（銷售額（x x）/ /千萬(wàn)元千萬(wàn)元3 35 56 67 79 9利潤(rùn)額（利潤(rùn)額（y y）/ /百萬(wàn)元百萬(wàn)元2 23 33 34 45 5i ix xi iy yi ix xi i2 2x xi iy yi i1 13 32 29 96 62 25 53 3252515153 36 63 3363618184 47 74 4494928285 59 95 581814545合計(jì)合計(jì)