心理與教育統(tǒng)計(jì)學(xué)課件張厚粲版ch12回歸分析

1、第十二章 回歸分析第一節(jié) 線性回歸模型的建立方法 回歸分析是探討變量間數(shù)量關(guān)系的一種常用統(tǒng)計(jì)方法。它通過(guò)建立變量間的數(shù)學(xué)模型對(duì)變量進(jìn)行預(yù)測(cè)和控制。 用一定模型來(lái)表述變量相關(guān)關(guān)系的方法就稱為回歸分析。1一、回歸分析與相關(guān)分析的關(guān)系回歸分析和相關(guān)分析均為研究及度量?jī)蓚€(gè)或兩個(gè)以上變量之間關(guān)系的方法。從廣義說(shuō)，相關(guān)分析包括回歸分析，但嚴(yán)格地講，二者有區(qū)別。回歸分析是以數(shù)學(xué)方式表示數(shù)量間的關(guān)系，而相關(guān)分析則是檢驗(yàn)或度量這些關(guān)系的密切程度，兩者相輔相成。如果通過(guò)相關(guān)分析顯示出變量間的關(guān)系非常密切，則通過(guò)所求得的回歸模型可獲得相當(dāng)準(zhǔn)確的推算值。根據(jù)不同目的，可以從不同角度去分析變量間的關(guān)系。確定變量之間是否

2、存在著關(guān)系，這是回歸與相關(guān)分析的共同起點(diǎn)。當(dāng)旨在分析變量之間關(guān)系的密切程度時(shí)，一般使用相關(guān)系數(shù)，這個(gè)過(guò)程叫相關(guān)分析。倘若研究的目的是確定變量之間數(shù)量關(guān)系的可能形式，找出表達(dá)它們之間依存關(guān)系的合適數(shù)學(xué)模型，并用這個(gè)數(shù)學(xué)模型來(lái)表示這種關(guān)系形式，則叫做回歸分析。2二、回歸模型與回歸系數(shù)3三、回歸模型建立方法建立回歸模型實(shí)際上就是根據(jù)已知兩變量的數(shù)據(jù)求回歸方程。如果兩個(gè)變量之間存在著線性關(guān)系，則兩個(gè)變量間的關(guān)系就可以擬合直線模型。建立一元線性回歸方程 ，關(guān)鍵在于求a和b。（一）平均數(shù)方法（二）最小二乘法 所謂最小二乘法，就是如果散點(diǎn)圖中每一點(diǎn)沿Y軸方向到直線的距離（即 ）的平方和最小，簡(jiǎn)單講就是使誤差

3、的平方和最小，則在所有直線中這條直線的代表性就是最好的，它的表達(dá)式就是所要求的回歸方程。4三、回歸模型建立方法5例：一元線性回歸方程的計(jì)算例1 假定我們把某一試驗(yàn)進(jìn)行了5次，得到的數(shù)據(jù)如下表所示，試求該一元線性回歸方程。序號(hào)12345X1525.83036.644.4Y39.442.941.043.149.26解:列出回歸方程計(jì)算表(見下表)7計(jì)算a和b8四、回歸系數(shù)與相關(guān)系數(shù)的關(guān)系9五、線性回歸的基本假設(shè)1.線性關(guān)系假設(shè)2.正態(tài)性假設(shè)指回歸分析中的Y服從正態(tài)分布。3.獨(dú)立性假設(shè)包含兩個(gè)意思：與某一個(gè)X值對(duì)應(yīng)的一組Y值和與另一個(gè)X值對(duì)應(yīng)的一組Y值之間沒有關(guān)系，彼此獨(dú)立。誤差項(xiàng)獨(dú)立，不同的X所產(chǎn)

4、生的誤差之間應(yīng)相互獨(dú)立，無(wú)自相關(guān)。4.誤差等分散性假設(shè)特定X水平的誤差，除了應(yīng)呈隨機(jī)化的常態(tài)分配，其變異量也應(yīng)相等，稱為誤差等分散性。10第二節(jié) 回歸模型的檢驗(yàn)與估計(jì)一、回歸模型的有效性檢驗(yàn)回歸模型的有效性檢驗(yàn)，就是對(duì)求得的回歸方程進(jìn)行顯著性檢驗(yàn)，看是否真實(shí)地反映了變量間的線性關(guān)系。11二、回歸方程的有效性檢驗(yàn)的原理： 觀測(cè)值 之間的參差不齊是由以下兩方面原因造成的： Y對(duì)X有依存關(guān)系,由于X取值的不同,Y值應(yīng)不同,這個(gè)差異反映了回歸的效果。 隨機(jī)誤差的影響。（如試驗(yàn)誤差、測(cè)量誤差） 為區(qū)分這兩種誤差，則需把Yi間的差異按以上兩個(gè)來(lái)源進(jìn)行分解：12證明：13上式中： 是誤差平方和，也是剩余平方

5、和，它是隨機(jī)誤差的反映； 是回歸平方和。考查回歸效果是否顯著，則是考查SST的兩個(gè)部分SSR和SSE中，哪個(gè)是主要的。即需要進(jìn)行F檢驗(yàn)。若FF臨,則說(shuō)明回歸平方和顯著大于誤差平方和，即回歸方程有意義。若檢驗(yàn)不顯著時(shí)，可能有以下原因：除X外,還有其它重要因素影響Y的取值;Y對(duì)X不是線性關(guān)系;Y與X無(wú)明顯依存關(guān)系;X變動(dòng)的范圍太小,以至它對(duì)Y的調(diào)節(jié)作用沒能表現(xiàn)出來(lái). 14三、回歸有效性檢驗(yàn)的應(yīng)用（例3）例3 檢驗(yàn)例1的回歸方程Y=0.29X+34.32的顯著性解:計(jì)算離差平方和:做F檢驗(yàn):15四、回歸系數(shù)的顯著性檢驗(yàn)16五、測(cè)定系數(shù) 一元線性回歸方程經(jīng)方差分析 后被判定為具有有效性，只能說(shuō)明這個(gè)回歸方程有別于無(wú)價(jià)值的方程，沒有指出這個(gè)方程有效性程度的高低。則需求其測(cè)定系數(shù)來(lái)刻化回歸方程的有效性的高低。測(cè)定系數(shù)的公式為： 可見， 反映了回歸平方和在總離差平方和中占的比重，該比重越大，誤差平方和在總離差平方和中占的分量就越小。在回歸分析中，我們自然希望由自變量所決定的離差平方和（回歸平方和）在總離差中所占的比例越大越好。因此，可以把 作為回歸有效性高低的指標(biāo)。17證明：見張厚粲教材P37718第三節(jié) 一元線性回歸分析的預(yù)測(cè)預(yù)測(cè)分為點(diǎn)預(yù)測(cè)（點(diǎn)估計(jì)）