回歸直線方程最小二乘法

1、回歸直線方程最小二乘法第1頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二回歸直線概念：散點(diǎn)圖中心的分布從整體上看大致是一條直線附近，該直線稱為回歸直線 求出回歸直線的方程我們就可以比較清楚地了解年齡與體內(nèi)脂肪含量之間的相關(guān)性由此可以預(yù)測(cè)相應(yīng)年齡段的脂肪含量那我們又該如何具體求這個(gè)回歸方程呢？第2頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二方法匯總？1.畫一條直線2.測(cè)量出各點(diǎn)與它的距離3.移動(dòng)直線，到達(dá)某一位置使距離的和最小，測(cè)量出此時(shí)直線的斜率與截距，得到回歸方程。1.選取兩點(diǎn)作直線ps：使直線兩側(cè) 的點(diǎn)的個(gè)數(shù)基本相同。1.在散點(diǎn)圖中多取幾組點(diǎn)，確定出幾條直線的方程2.

2、分別求出各條直線的斜率、截距的平均數(shù)3.將這兩個(gè)平均數(shù)當(dāng)成回歸方程的斜率與截距。法一法四法二法三？第3頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二 上面三種方法都有一定的道理，但總讓人感到可靠性不強(qiáng). 回歸直線與散點(diǎn)圖中各點(diǎn)的位置用數(shù)學(xué)的方法來刻畫應(yīng)具有怎樣的關(guān)系？ 第4頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二方法匯總1.畫一條直線2.測(cè)量出各點(diǎn)與它的距離3.移動(dòng)直線，到達(dá)某一位置使距離的和最小，測(cè)量出此時(shí)直線的斜率與截距，得到回歸方程。1.選取兩點(diǎn)作直線ps：使直線兩側(cè) 的點(diǎn)的個(gè)數(shù)基本相同。1.在散點(diǎn)圖中多取幾組點(diǎn)，確定出幾條直線的方程2.分別求出各條直線的斜率、

3、截距的平均數(shù)3.將這兩個(gè)平均數(shù)當(dāng)成回歸方程的斜率與截距。最小二乘法法一法四法二法三第5頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二求回歸方程的關(guān)鍵如何使用數(shù)學(xué)方法來刻畫“從整體上看，各點(diǎn)到此直線的距離最小”。假設(shè)兩個(gè)具有線性相關(guān)關(guān)系的變量的一組數(shù)據(jù):(x1, y1),(x2, y2),. (xn, yn)下面討論如何表達(dá)這些點(diǎn)與一條直線y=bx+a之間的距離。第6頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二最小二乘法的公式的探索過程如下：1.設(shè)已經(jīng)得到具有線性相關(guān)關(guān)系的變量的一組數(shù)據(jù)： （x1，y1），（x2，y2），（xn，yn）2.設(shè)所求的回歸直線方程為Y=bx+a

4、，其中a，b是待定的系數(shù)。當(dāng)變量x取x1，x2，xn時(shí)，可以得到 Yi=bxi+a（i=1，2，n）3.它與實(shí)際收集得到的yi之間偏差是 yi-Yi=yi-(bxi+a)（i=1，2，n）（x1，y1）（x2，y2）（xi ，yi ）yi-Yiy x這樣，用這n個(gè)偏差的和來刻畫“各點(diǎn)與此直線的整體偏差”是比較合適的。第7頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二因此用 表示各點(diǎn)到直線y=bx+a的“整體距離” (x1 ,y1)(x2 ,y2)(xi ,yi)yi-(bxi+a)第8頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二(x1,y1)(x2，y2)(xi，yi)(

5、xn，yn) 由于絕對(duì)值使得計(jì)算不方便，在實(shí)際應(yīng)用中人們更喜歡用第9頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二(x1,y1)(x2，y2)(xi，yi)(xn，yn)這樣，問題就歸結(jié)為：當(dāng)a，b取什么值時(shí)Q最?。考袋c(diǎn)到直線 的“整體距離”最小.第10頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二這樣通過求此式的最小值而得到回歸直線的方法，即使得樣本數(shù)據(jù)的點(diǎn)到回歸直線的距離的平方和最小的方法叫做最小二乘法.根據(jù)有關(guān)數(shù)學(xué)原理推導(dǎo)，a，b的值由下列公式給出第11頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二（yi-Yi）的最小值ni=1|yi-Yi|的最小值ni=1

6、（yi-Yi）2的最小值ni=1Q=(y1-bx1-a) 2+(y2-bx2-a) 2+(yn-bxn-a) 2當(dāng)a，b取什么值時(shí)，Q的值最小，即總體偏差最小第12頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二求線性回歸方程的步驟：(1)求平均數(shù) ；(2)計(jì)算 與 yi 的乘積,再求 ；(3)計(jì)算 ；(4)將上述有關(guān)結(jié)果代入公式，寫出回歸 直線方程.xi13第13頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二年齡2327394145495053545657586061脂肪9.517.821.225.927.526.328.229.630.231.430.833.535.23

7、4.6根據(jù)最小二乘法公式，利用計(jì)算機(jī)可以求出其回歸直線方程散點(diǎn)圖回歸直線第14頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二思考：將表中的年齡作為x代入回歸方程，看看得出的數(shù)值與真實(shí)數(shù)值之間的關(guān)系，從中你體會(huì)到了什么？ x=27時(shí)，y=15.099%x=37時(shí)，y=20.901%可利用回歸方程預(yù)測(cè)不同年齡段的體內(nèi)脂肪含量的百分比。存在樣本點(diǎn)不在直線上年齡2327394145495053545657586061脂肪9.517.821.225.927.526.328.229.630.231.430.833.535.234.6第15頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二（2012山東臨沂二模，20,12）假設(shè)關(guān)于某設(shè)備的使用年限x和所有支出的維修費(fèi)用y（萬元），有如下表的統(tǒng)計(jì)資料：使用年限x23456維修費(fèi)用y2.23.85.56.57.0若由資料可知y對(duì)x呈線性相關(guān)關(guān)系，試求：（1）線性回歸直線方程（2）估計(jì)使用年限為10年時(shí)，維修費(fèi)用是多少？y=1.23x+0.08 ；y=12.38第16頁，共18頁，2022年，5月20日，9點(diǎn)26分，星期二 回歸直線方程特點(diǎn)存在樣本點(diǎn)不在直線上的樣本點(diǎn)只能表示線性相關(guān)關(guān)系回歸直線方程的特點(diǎn)過定點(diǎn)（