第一節(jié)一元線性回歸分析

第一節(jié)一元線性回歸分析一、一元線性回歸模型二、未知參數(shù)的估計(jì)三、參數(shù)估計(jì)量的分布第6.1節(jié)一元線性回歸分析四、參數(shù)的顯著性檢驗(yàn)五、預(yù)測變量之間的關(guān)系確定性關(guān)系相關(guān)關(guān)系確定性關(guān)系身高和體重相關(guān)關(guān)系相關(guān)關(guān)系的特征是:變量之間的關(guān)系很難用一種精確的方法表示出來.0、回歸分析的基本思想確定性關(guān)系和相關(guān)關(guān)系的聯(lián)系由于存在測量誤差等原因,確定性關(guān)系在實(shí)際問題中往往通過相關(guān)關(guān)系表示出來;另一方面,當(dāng)對(duì)事物內(nèi)部規(guī)律了解得更加深刻時(shí),相關(guān)關(guān)系也有可能轉(zhuǎn)化為確定性關(guān)系.回歸分析——處理變量之間的相關(guān)關(guān)系的一種數(shù)學(xué)方法,它是最常用的數(shù)理統(tǒng)計(jì)方法.線性回歸分析非線性回歸分析回歸分析一元線性回歸分析多元線性回歸分析問題的分析一、一元線性回歸的數(shù)學(xué)模型回歸分析的任務(wù)——根據(jù)試驗(yàn)數(shù)據(jù)估計(jì)回歸函數(shù);討論回歸函數(shù)中參數(shù)的點(diǎn)估計(jì)、區(qū)間估計(jì);對(duì)回歸函數(shù)中的參數(shù)或者回歸函數(shù)本身進(jìn)行假設(shè)檢驗(yàn);利用回歸函數(shù)進(jìn)行預(yù)測與控制等等.回歸問題的一般提法求解步驟1.推測回歸函數(shù)的形式方法一根據(jù)專業(yè)知識(shí)或者經(jīng)驗(yàn)公式確定;方法二作散點(diǎn)圖觀察.例1為研究某一化學(xué)反應(yīng)過程中,溫度x(oC)對(duì)產(chǎn)品得率Y(%)的影響,測得數(shù)據(jù)如下.溫度x(oC)得率Y(%)10011012013014015016017018019045515461667074788589用MATLAB畫出散點(diǎn)圖x=100:10:190;y=[45,51,54,61,66,70,74,78,85,89];plot(x,y,'.r')一元線性回歸問題2.建立回歸模型一元線性回歸模型二、未知參數(shù)的估計(jì)1.(,)的最小二乘估計(jì)使得下式成立的(,)的估計(jì)稱為其最小二乘估計(jì).求Q的最小值可以利用微分法正規(guī)方程組由于則方程組的解為2.(,)的最大似然估計(jì)注參數(shù)的最小二乘估計(jì)和最大似然估計(jì)等價(jià).得到參數(shù)的估計(jì)后，我們就可以得到回歸方程它稱為殘差平方和因而例2(p193例6.2)656367646862706668676971686668656966686571676870解將觀測值代入正規(guī)方程求解得這個(gè)例子表明：高個(gè)子的先代會(huì)有高個(gè)子的后代，但后代的增高并不與先代的增高等量。例如父親身高超過祖父身高6in,則兒子的身高超過父親的身高大約為3in稱這種現(xiàn)象為向平常高度的回歸，回歸一詞即來源于此.這種提法最早是由高登提出的，一直沿用至今.當(dāng)時(shí)高登、皮爾遜、LEE研究了1078個(gè)家庭，得到的回歸方程為：三、參數(shù)估計(jì)的分布為了對(duì)參數(shù)估計(jì)量進(jìn)行檢驗(yàn)，需要討論它們的分布

定理6.1證明參見下一節(jié)多元回歸理論四、參數(shù)的顯著性檢驗(yàn)根據(jù)前三小節(jié)的理論，給定一組觀測值，就可以得其相應(yīng)的回歸方程。但是二者是否具有此種相關(guān)關(guān)系，需要進(jìn)行必要的檢驗(yàn).通常檢驗(yàn)一元線性回歸模型是否成立，需要檢驗(yàn)：(1)給定x時(shí)，Y服從正態(tài)分布且方差相等；(2)對(duì)于給定的范圍，Y是x的線性函數(shù)；(3)回歸效果不顯著的原因分析

檢驗(yàn)例2中的回歸效果是否顯著,取顯著性水平為0.05.解例3(p197例6.3)又因?yàn)槲?、預(yù)測例4(p198例6.4)(續(xù)例6.2)解(1)(2)同理可得四、小結(jié)1.回歸分析的任務(wù)2.一元線性回歸的步驟