3一元線(xiàn)性回歸PPT教學(xué)課件

1、變量之間的關(guān)系大致有兩種:1.: 確定性關(guān)系2. ：非確定性關(guān)系社會(huì)經(jīng)濟(jì)領(lǐng)域中, 投入與產(chǎn)出;價(jià)格與需求的關(guān)系等.例如: 人的身高與體重; 人的年齡與血壓;第1頁(yè)/共63頁(yè)x: 普通變量, Y : 隨機(jī)變量,),(),(),(2211nnyxyxyx， 對(duì)Y 獨(dú)立觀(guān)察得到,21nxxx當(dāng)x 取定一組不完全相同的值),(),(),(2211nnYxYxYx， 對(duì)應(yīng)的樣本值用樣本來(lái)估計(jì)Y 關(guān)于x 的回歸函數(shù)(x).第2頁(yè)/共63頁(yè)例1 為研究某化學(xué)反應(yīng)過(guò)程中,溫度x ()對(duì)產(chǎn)品得率Y(%) 的影響,測(cè)得數(shù)據(jù)如下： x () 100 110120 130 140150160 170 180 190Y

2、 (%) 45 51 54 61 66 70 74 78 85 89散點(diǎn)圖020406080100050100150200系列1第3頁(yè)/共63頁(yè)),(2 bxaNY ), 0(2 N稱(chēng)為,b 稱(chēng)為.其中未知參數(shù)a,b 和 都不依賴(lài)于x, 2 bxax )( ),(bxaY 假設(shè)對(duì)x 的每一個(gè)值有, bxaYY 有兩部分組成:x 的線(xiàn)性函數(shù)bxa 隨機(jī)誤差), 0(2 N記第4頁(yè)/共63頁(yè)作獨(dú)立試驗(yàn),得到樣本,21nxxx當(dāng)x 取一組不全相同的值),(),(),(2211nnYxYxYx， ,iiibxaY ), 0(2 Nin ,21相互獨(dú)立,),(2 iibxaNY ni, 2 , 1 nY

3、YY,21，相互獨(dú)立,它們的聯(lián)合密度是 221)(21exp21iinibxayL 第5頁(yè)/共63頁(yè) niiibxaybaQ12)(),( niiinbxay122)(21exp21 用最大似然估計(jì)法估計(jì)a,b.L最大,只需下式最小, 0)(21 niiibxayaQ0)(21 iniiixbxaybQ第6頁(yè)/共63頁(yè) niiiniiniiniiniiyxbxaxybxna112111 正規(guī)方程組: niiniiniixxxn12112112 niiniixxn系數(shù)行列式0)(12 niixxn有唯一解,第7頁(yè)/共63頁(yè) niiniiniiniiniiniiniiixnbynaxxnyxyxn

4、b1121121111 niiniiixxyyxx121)()(,11 niixnx niiyny11 xby bxax )( ,)( xbax 回歸函數(shù) 的估計(jì) 稱(chēng)為,簡(jiǎn)稱(chēng),其圖形稱(chēng)為.xbay )(xxbyy 第8頁(yè)/共63頁(yè) niixxxxS12)( niiixyyyxxS1)( niiyyyyS12)(21121 niiniixnx niiniiniiiyxnyx111121121 niiniiyny xbyaSSbxxxy 第9頁(yè)/共63頁(yè)例2 例1中為研究某化學(xué)反應(yīng)過(guò)程中,溫度x ()對(duì)產(chǎn)品得率Y(%) 的影響,測(cè)得數(shù)據(jù)如下： x () 100 110120 130 1401501

5、60 170 180 190Y (%) 45 51 54 61 66 70 74 78 85 89計(jì)算,1450101 iix 673,101 iiy,2185001012 iix,101570101 iiiyx.472251012 iiy第10頁(yè)/共63頁(yè),825014501012185002 21121 niiniixxxnxS niiniiniiixyyxnyxS1111,39856731450101101570 xxxySSb 48303. 082503985 xbya 73935. 248303. 01450101673101 回歸直線(xiàn)方程:,48303. 073935. 2xy )

6、,145(48303. 03 .67 xy或第11頁(yè)/共63頁(yè) niiieyyQ12)( niiixbay12)()()(22 EbxaYE 22)()( ED,ixxixbayyi 記iiyy ix稱(chēng) 為 處的殘差.殘差平方和iixbax)( 是 與 處的觀(guān)察值 的偏差的平方和.ixiy第12頁(yè)/共63頁(yè) niiieyyQ12)(21)(xxbyyinii niininiiiixxbyyxxbyy12211)()()(2)(xxxyyySbSbS2)(2 Qe的分解：,xxxySSb ;xyyyeSbSQ Qe的一個(gè)分解式:第13頁(yè)/共63頁(yè) niiixYYYxxS1)(,)(12 niiY

7、YYYSxYYYeSbSQ ),2(22 nQe , 22 nQEe ,)2(2 nQEe2的無(wú)偏估計(jì)量:22 nQe xYYYSbSn21 記可證明:第14頁(yè)/共63頁(yè)例3 求例2中2的無(wú)偏估計(jì).21121 niiniiyyynyS, 1 .1932673101472252 ,3985 xyS,48303. 0 bxyyyeSbSQ ,23. 7 22 nQe 90. 0823. 7 第15頁(yè)/共63頁(yè), 0:0 bH, 0:1 bH提出假設(shè)),2()2(2222 nQne , ),(2xxSbNb 可以證明,),2()2()2(222 ntnnSbbxx b與Qe獨(dú)立,),2( ntSbb

8、xx 2 第16頁(yè)/共63頁(yè)當(dāng)H0為真時(shí), 0 b),2( ntSbtxx , 0)( bbE拒絕域:)2(2 ntSbtxx 第17頁(yè)/共63頁(yè)例4 檢驗(yàn)例2中的回歸效果是否顯著,=0.05,48303. 0 b, 9 . 02 ,8250 xxS,3060. 2)8(025. 0 t, 0:0 bH, 0:1 bH),2( ntSbtxx 25.46 xxSbt ,3060. 2 拒絕 , 0:0 bH認(rèn)為回歸效果是顯著的.第18頁(yè)/共63頁(yè)),2( ntSbbxx xxSntb )2(2b 的置信水平為1-的置信區(qū)間為 825090. 03060. 2048303. 0=(0.45894

9、,0.50712)例2中b 的置信水平為0.95的置信區(qū)間為第19頁(yè)/共63頁(yè)點(diǎn)估計(jì)：,0時(shí)時(shí)當(dāng)當(dāng)xx 000)( xbaxy 00 xbaY 相應(yīng)的估計(jì)量:可以證明,)(00bxaYE (0,1)(1)( 2000NSxxnbxaYxx ),2()2(2222 nQne 0YeQ與 獨(dú)立,第20頁(yè)/共63頁(yè))2()2()(1)( 222000 nnSxxnbxaYxx 2)( nt2)()(1)( 2000 ntSxxnbxaYxx 00)(bxax 置信水平為1-的置信區(qū)間 xxSxxnntY2020)(1)2( xxSxxnntxba2020)(1)2( 或第21頁(yè)/共63頁(yè),000 b

10、xaY), 0(20 N點(diǎn)預(yù)測(cè)：000)( xbaxY 22000)(11, 0 xxSxxnNYY)1 , 0()(11200NSxxnYYxx eQYY,00相互獨(dú)立,第22頁(yè)/共63頁(yè))2()2()(11 222000 nnSxxnYYxx 2)( nt2)()(11 2000 ntSxxnYYxx Y0的置信水平為1-的預(yù)測(cè)區(qū)間 xxSxxnntY2020)(11)2( 第23頁(yè)/共63頁(yè) xxSxxnntxba2020)(11)2( 1* 該區(qū)間以 為中心,長(zhǎng)度為0YxxSxxnnt202)(11)2(2 是x0的函數(shù);或 0 xx x2* 在 處區(qū)間長(zhǎng)度最短, x0越遠(yuǎn)離 ,則長(zhǎng)度

11、就越長(zhǎng),隨n的增加,長(zhǎng)度縮短;第24頁(yè)/共63頁(yè)2y1yyxy xoxxbay )()(1xyxv )()(2xyxv 3* 置信區(qū)間的上限與下限的曲線(xiàn)對(duì)稱(chēng)地落在回歸直線(xiàn)的兩側(cè),成喇叭型.第25頁(yè)/共63頁(yè)例5 例2中(1)*求回歸函數(shù)(x)在x =125處的值(125) 的置信水平為0.95的置信區(qū)間,求在x =125處Y 的新觀(guān)察值Y0置信水平為0.95的預(yù)測(cè)區(qū)間;(2) 求在x = x0處Y 的新觀(guān)察值Y0置信水平為0.95的預(yù)測(cè)區(qū)間;,48303. 0 b, 9 . 02 ,8250 xxS,3060. 2)8(025. 0 t,73935. 2 a,145 x 12512504830

12、3. 073935. 2 xxxYY=57.64第26頁(yè)/共63頁(yè)xxSxxnnt202)(1)2( 8250)145125(1019 . 03060. 22 =0.84回歸函數(shù)(x)在x =125處的值(125) 的置信水平為0.95的置信區(qū)間為(57.640.84)=(56.80,58.48)第27頁(yè)/共63頁(yè)在x =125處得率Y0 的置信水平為0.95的預(yù)測(cè)區(qū)間(57.642.34)=(55.3059.98)(2) 求在x = x0 處得率Y0 的置信水平為0.95的預(yù)測(cè)區(qū)間: 8250)145(1011)8( 20025. 00 xtYxx xxSxxnnt202)(11)2( 82

13、50)145125(10119 . 03060. 22 =2.34第28頁(yè)/共63頁(yè) 變量之間的相關(guān)關(guān)系在實(shí)際中往往不一定是線(xiàn)性的，直接求解回歸曲線(xiàn)往往比較困難,對(duì)一些特殊類(lèi)型，可通過(guò)適當(dāng)?shù)淖兞刻鎿Q化為線(xiàn)性回歸問(wèn)題來(lái)處理.通常需要用回歸曲線(xiàn)來(lái)描述.第29頁(yè)/共63頁(yè)常見(jiàn)的曲線(xiàn)方程及其圖形如下：1. 雙曲線(xiàn)型xbay 1原方程：變換方法：xxyy1 ,1 變換后方程：xbay y0 a0 boa1xyox0 a0 b第30頁(yè)/共63頁(yè)2. 指數(shù)曲線(xiàn)型（之一）原方程：變換方法：變換后方程：bxcey cayyln ,ln bxay 0 boxyoyx0 b第31頁(yè)/共63頁(yè)原方程：變換方法：變換后

14、方程：xbcey caxxyyln,1 ,ln xbay （之二）yox0 b0 byox第32頁(yè)/共63頁(yè)3. 冪函數(shù)型原方程：變換方法：變換后方程：bcxy caxxyyln,ln ,ln xbay yox1 b1 b10 boyx1 b1 b01 b第33頁(yè)/共63頁(yè)4. 對(duì)數(shù)曲線(xiàn)型原方程：變換方法：變換后方程：xbayln xxln xbay yxo0 boyx0 b第34頁(yè)/共63頁(yè)5. S 曲線(xiàn)型原方程：變換方法：變換后方程：xbeay 1xexyy ,1xbay a10, 0 bayxo第35頁(yè)/共63頁(yè)例6:為了解百貨商店銷(xiāo)售額x與流通費(fèi)率(這是反映商業(yè)活動(dòng)的一個(gè)質(zhì)量指標(biāo),指每

15、元商品流轉(zhuǎn)額所分?jǐn)偟牧魍ㄙM(fèi)用)y 之間的關(guān)系,收集了九個(gè)商店的有關(guān)數(shù)據(jù)見(jiàn)下表： i 銷(xiāo)售額（銷(xiāo)售額（x :萬(wàn)元）萬(wàn)元）流通費(fèi)率（流通費(fèi)率（y:%）1 1.5 7.12 4.5 4.83 7.5 3.6410.5 3.1513.5 2.7616.5 2.5719.5 2.4822.5 2.3925.5 2.2第36頁(yè)/共63頁(yè)解：(1) x 與y 的： 觀(guān)察上述散點(diǎn)圖可以發(fā)現(xiàn),這九個(gè)點(diǎn)大致在一條曲線(xiàn)附近,因而宜用曲線(xiàn)去擬合這批數(shù)據(jù),即建立回歸曲線(xiàn)方程.024680102030系列1第37頁(yè)/共63頁(yè) 回歸曲線(xiàn)的形式確定,應(yīng)盡可能地采用專(zhuān)業(yè)知識(shí),此外也可以與典型的函數(shù)圖象對(duì)照使用.此時(shí)可能有多種選

16、擇方案,對(duì)本例來(lái)講可選用(2) 確定回歸曲線(xiàn)類(lèi)型bxay (3) 對(duì)原始數(shù)據(jù)作相應(yīng)的變量替換，yvxuln ,ln 令令變換后的第38頁(yè)/共63頁(yè) 1 1.5 7.0 0.4055 1.9459 7.1665 0.1665 2 4.5 4.8 1.5041 1.5686 4.4885 0.3115 3 7.5 3.6 2.0149 1.2809 3.6109 0.0109 4 10.5 3.1 2.3514 1.1314 3.1288 0.0228 5 13.5 2.7 2.6027 0.9933 2.8112 0.1112 6 16.5 2.5 2.8034 0.9163 2.5809 0.

17、0809 7 19.5 2.4 2.9704 0.8755 2.4037 0.0037 8 22.5 2.3 3.1135 0.8329 2.2616 0.0384 9 25.5 2.2 3.2387 0.7885 2.1442 0.0558iixiyiixuln iiyvln iy iiyy 變換后的數(shù)據(jù)及擬合值與殘差值第39頁(yè)/共63頁(yè)(4) 計(jì)算過(guò)程如下：,0046.2191 iiu9 n,3333.1091 iiv,3338. 2 u,1481. 1 v 912912.21iiivu 9120215.49)(1iiun,6551.55912 iiu1163.24)( )(19191 i

18、iiivun,6336. 6 uuS,8251. 2 uvS第40頁(yè)/共63頁(yè),4259. 0 uuuvSSb,1421. 2 ubva, 4259. 01421. 2 uv 在上述方程中用原變量代入，有：xyln4259. 01421. 2ln 4259. 05173. 8 xy第41頁(yè)/共63頁(yè),1492. 0)(912 iiieyyQ,20)(912 iiyyyyS291492. 0 1460. 0 可見(jiàn),回歸效果還是較好的.,4259. 0 b),2( ntSbtxx ,3646. 2)7(025. 0 t79.67 xxSbt ,540 xxS第42頁(yè)/共63頁(yè)回歸分析中應(yīng)注意的問(wèn)題

19、:1. 定性分析與定量分析相結(jié)合;2. 檢驗(yàn)假設(shè)的條件是否符合(可利用殘差圖);3. 回歸方程一般不宜外推,實(shí)際工作中往往需要外推,必須在理論上分析其是否可行.4. 關(guān)于時(shí)間序列資料的回歸.第43頁(yè)/共63頁(yè) 1.在線(xiàn)性模型 中，x 是什么變量？Y是什么變量？對(duì)固定的x，Y 服從什么分布？), 0(,2 NbxaY 2. 一元線(xiàn)性回歸系數(shù) 與樣本相關(guān)系數(shù) R 有什么關(guān)系？b第44頁(yè)/共63頁(yè) 1. x是普通變量,Y 是隨機(jī)變量,),(2 bxaNY . 2yyxxxySSSR yyxxxxxxxySSSSS1 yyxxxxxySSSS yyxxSSb 第45頁(yè)/共63頁(yè)), 1()2(2 N)

20、1 , 0()4(N), 0()3(2 N bxay2.在一元線(xiàn)性回歸模型 中,假定隨機(jī)變量服從（ ）(1) 兩點(diǎn)分布(1) 0 (2) 6 (3) 2 (4) 6xay4 , 3 x)(, 6 ay則則1.已知一元線(xiàn)性回歸直線(xiàn)方程 ,且第46頁(yè)/共63頁(yè)3. 在一元線(xiàn)性回歸中,式子( )是正確的.21)()4( niiiyyyyS21)()3(yyQSniieyy 21)()1( niieyyQ21)()2( niiixyyxS4. 在線(xiàn)性模型 的相關(guān)性檢驗(yàn)中,如果原 假設(shè) 沒(méi)有被否定,則表明( ) bxay0:0 bH)(xfy (4) 不存在一條曲線(xiàn) 能近似地描述兩變量間的關(guān)系.(1)

21、兩個(gè)變量之間沒(méi)有任何相關(guān)關(guān)系；(2) 兩個(gè)變量之間不存在顯著的線(xiàn)性相關(guān)關(guān)系；(3) 兩個(gè)變量之間存在顯著的線(xiàn)性相關(guān)關(guān)系；第47頁(yè)/共63頁(yè)5. 對(duì)下表所給的數(shù)據(jù),建立水稻產(chǎn)量 y 對(duì)化肥用量 x 的回歸直線(xiàn).45549045404454053530365345252033015iiyx6. 考察硫酸銅在水中的溶解度 y 與溫度 x 的關(guān)系時(shí),作了9次試驗(yàn)得數(shù)據(jù)如下,8 .54488070403 .3360502 .291 .2640302 .215 .172010140yx求 y 對(duì) x 的線(xiàn)性回歸方程.第48頁(yè)/共63頁(yè)7.某商品的價(jià)格與供給量的觀(guān)察數(shù)據(jù)見(jiàn)下表： x(元元) 2 3 4 5

22、6 8101214 16Y(噸噸)152025303545608080110(1) 求 y 對(duì) x 的線(xiàn)性回歸方程;(2) 作相關(guān)性檢驗(yàn).8. 求下表中營(yíng)業(yè)稅稅收總額Y對(duì)某商品零售總額x的線(xiàn)性回歸方程;并作回歸效果的顯著性檢驗(yàn);當(dāng)x =300時(shí),對(duì)營(yíng)業(yè)稅稅收總額作出預(yù)測(cè).第49頁(yè)/共63頁(yè)序號(hào)序號(hào) 社會(huì)商品零售額社會(huì)商品零售額 稅收總額稅收總額 1 142.08 3.93 2 177.30 5.96 3 204.68 7.85 4 242.88 9.82 5 316.24 12.50 6 341.99 15.55 7 332.69 15.79 8 389.29 16.39 9 453.40 1

23、8.45第50頁(yè)/共63頁(yè)9. 隨機(jī)地抽取50位婦女為樣本,調(diào)查其年齡x與 膽固醇濃度y 的關(guān)系.現(xiàn)得到樣本信息：一元回歸平方和 2 .50,40,1625. 7,73. 5 yxSQSxyeyy試求y對(duì)x的線(xiàn)性回歸方程.10. 某化工廠(chǎng)生產(chǎn)一種油漆,其含雜質(zhì)率 與攪拌速 度x有關(guān),現(xiàn)抽取12桶,檢驗(yàn)結(jié)果經(jīng)計(jì)算得， (%)y,31 x,14 y.260,121 xyeyySQS試求y對(duì)x的線(xiàn)性回歸方程.第51頁(yè)/共63頁(yè)11.為研究一化學(xué)過(guò)程中,溫度 對(duì)產(chǎn)品得率y(%)的影響,觀(guān)測(cè)到10對(duì)數(shù)據(jù),經(jīng)計(jì)算得， )(0Cx1932,3985,8250, 3 .67,145 yyxyxxSSSyx能否

24、據(jù)此斷定x與y 間存在顯著的線(xiàn)性關(guān)系？(1)求y 關(guān)于x 的線(xiàn)性回歸方程 ；(2)對(duì)所建立線(xiàn)性回歸方程進(jìn)行相關(guān)性檢驗(yàn);(3)當(dāng)銷(xiāo)售額95元時(shí),利潤(rùn)的95%的預(yù)測(cè)區(qū)間.xbay 05. 0 12.某種商品的銷(xiāo)售額x(元)與利潤(rùn)y(元)的統(tǒng)計(jì)數(shù)據(jù)如下：銷(xiāo)售額 54.5 61.0 67.5 74.0 80.5 87.0利 潤(rùn) 6.54 7.22 8.55 9.61 10.53 11.46第52頁(yè)/共63頁(yè)13. 設(shè)x,y分別表示我國(guó)農(nóng)民人均年純收入與人均年消費(fèi)支出（單位：元）,統(tǒng)計(jì)了1978至1987年十年數(shù)據(jù)后計(jì)算得 ,2950101 iix,2400101 iiy,9770001012 iix,

25、806000101 iiiyx求y對(duì)x的線(xiàn)性回歸方程. 假設(shè)1988年農(nóng)民人均收入為550元,預(yù)測(cè)1988年的農(nóng)民人均消費(fèi)支出是多少？ 第53頁(yè)/共63頁(yè)14.工廠(chǎng)在若干年內(nèi)收集的資料說(shuō)明,一批產(chǎn)品的成本 y(元)與生產(chǎn)件數(shù) x(千件) 的關(guān)系：xbby10 x千件千件 1 2 3 5 10 20 30 50 100 200Y 元元10.15 5.52 4.08 2.85 2.11 1.62 1.41 1.30 1.21 1.15(1) 求y 關(guān)于x 的回歸方程； (2) 對(duì)所建立回歸方程進(jìn)行顯著性檢驗(yàn)； (3) 當(dāng)產(chǎn)量為100時(shí),成本 y 的置信度95%的預(yù)測(cè)區(qū)間.第54頁(yè)/共63頁(yè)1. 4；2. 3; 3. 3; 4. 2;xySSxyxx321. 537.245,3725,700. 5 xySSxyxx5 . 05 .11,3019,6000. 6 7. 散點(diǎn)圖02040608010012005101520系列1第55頁(yè)/共63頁(yè), 0 8101 iix, 500101 iiy, 8501012 iix,5350101 iiiyx, 339001012 iiy, 8101101 iix, 50101101 iiyy )( 1012 iixxxxS 1010122 iixx 101)( iiixyyyxxS 10110iiiyxyx1350508105350 210881