第八章相關(guān)于回歸分析

1、 第九章 相關(guān)與回歸分析 第一節(jié) 簡(jiǎn)單線(xiàn)性相關(guān)分析一、相關(guān)關(guān)系的概念和種類(lèi)（一）概念：指的是現(xiàn)象之間確實(shí)存在著的，但關(guān)系數(shù)值不固定的相互依存關(guān)系。 現(xiàn)象之間的數(shù)量關(guān)系一般可分為兩種類(lèi)型：1、函數(shù)關(guān)系：現(xiàn)象之間存在著嚴(yán)格的依存關(guān)系。2、相關(guān)關(guān)系 相關(guān)關(guān)系有兩個(gè)特點(diǎn)：（1）現(xiàn)象之間確實(shí)存在著的數(shù)量上的相互依存關(guān)系。（2）現(xiàn)象之間數(shù)量關(guān)系是不確定的、不嚴(yán)格的。（二）種類(lèi)：1、單相關(guān)和復(fù)相關(guān)（1）單相關(guān)：兩個(gè)因素之間的相關(guān)關(guān)系稱(chēng)為單相關(guān)。又你簡(jiǎn)單相關(guān)。（2）復(fù)相關(guān)：兩個(gè)以上因素之間的相關(guān)關(guān)系稱(chēng)為復(fù)相關(guān)，也稱(chēng)多元相關(guān)。2、線(xiàn)性相關(guān)和非線(xiàn)性相關(guān)（1）線(xiàn)性相關(guān)（直線(xiàn)相關(guān)）：當(dāng)一個(gè)變量變動(dòng)時(shí)，另一個(gè)變量也相應(yīng)

2、地發(fā)生一致均等的變動(dòng)。（2）非線(xiàn)性相關(guān)（曲線(xiàn)相關(guān)）：當(dāng)一個(gè)變量變動(dòng)時(shí)，另一個(gè)變量也相應(yīng)地發(fā)生變動(dòng)，但這種變動(dòng)是不均等的。3、完全相關(guān)、不完全相關(guān)和不相關(guān)（1）完全相關(guān)：一個(gè)變量的值完全由另一個(gè)或一組變量的值所決定，即函數(shù)關(guān)系。 所以函數(shù)關(guān)系是相關(guān)關(guān)系的一種特殊情況。（2）不相關(guān)：一個(gè)變量的值完全不受另一個(gè)或另一組變量的影響，則變量之間不相關(guān)。（3）不完全相關(guān)：介于不相關(guān)和完全相關(guān)之間的相關(guān)。大多數(shù)相關(guān)關(guān)系都屬于不完全相關(guān)。不相關(guān)和完全相關(guān)是相關(guān)關(guān)系的特例。4、正相關(guān)和負(fù)相關(guān)（1）正相關(guān)：同向變動(dòng)的相關(guān)為正相關(guān)。（2）負(fù)相關(guān)：反向變動(dòng)的相關(guān)為負(fù)相關(guān)。（三）相關(guān)分析的內(nèi)容 對(duì)客觀現(xiàn)象具有的相關(guān)關(guān)系

3、進(jìn)行分析研究就稱(chēng)為相關(guān)分析。分析所用的方法則稱(chēng)為相關(guān)分析法。 相關(guān)分析的主要內(nèi)容：1、確定現(xiàn)象之間有無(wú)關(guān)系。2、確定相關(guān)關(guān)系的表現(xiàn)形式。3、確定相關(guān)關(guān)系的密切程度。 繪制相關(guān)圖和計(jì)算相關(guān)系數(shù)。 以上幾點(diǎn)是狹義相關(guān)分析的內(nèi)容。廣義的相關(guān)分析，除了狹義分析的內(nèi)容外，還包括：4、測(cè)定兩個(gè)變量之間的一般關(guān)系值。建立它們之間的數(shù)學(xué)模型（通常稱(chēng)經(jīng)驗(yàn)公式），這是進(jìn)行判斷、推算、預(yù)測(cè)的根據(jù)。5、測(cè)定因變量估計(jì)值和實(shí)際值之間的差異，用來(lái)反映因變量估計(jì)值的可靠性。 第二節(jié) 相關(guān)圖和相關(guān)表一、判斷現(xiàn)象之間有無(wú)相關(guān)關(guān)系1、定性分析。2、編制相關(guān)表和繪制相關(guān)圖 相關(guān)表就是將具有相關(guān)關(guān)系的資料平行排置在一個(gè)表格上，以觀察

4、它們之間相互關(guān)系的統(tǒng)計(jì)表。 相關(guān)圖就是根據(jù)相關(guān)表的資料而繪制的散點(diǎn)圖，即相關(guān)點(diǎn)圖。二、簡(jiǎn)單線(xiàn)性相關(guān)圖表1、固定簡(jiǎn)單線(xiàn)性相關(guān)圖表兩個(gè)變量，y為隨機(jī)變量，x為非隨機(jī)變量。例： 某種機(jī)床的使用年限和它的維修費(fèi)之間有相關(guān)關(guān)系，根據(jù)資料列出相關(guān)表：2、隨機(jī)簡(jiǎn)單線(xiàn)性相關(guān)圖表 x、y都為隨機(jī)變量，將觀測(cè)值（x,y）分組之后，按順序排列，x從小到大排，y從大到小排，形成一個(gè)棋盤(pán)式平衡表，就叫隨機(jī)簡(jiǎn)單線(xiàn)性相關(guān)表。例： 第三節(jié) 相關(guān)系數(shù)一、相關(guān)系數(shù)：測(cè)量?jī)蓚€(gè)變量之間線(xiàn)性相關(guān)關(guān)系密切程度和方向的統(tǒng)計(jì)分析指標(biāo)。公式：相關(guān)系數(shù)的取值范圍： 相關(guān)系數(shù)的絕對(duì)值越接近于0，x與y之間線(xiàn)性相關(guān)程度越小，反之，相關(guān)系數(shù)的絕對(duì)值越

5、接近于1，x與y之間線(xiàn)性相關(guān)程度越大。當(dāng)相關(guān)系數(shù)的絕對(duì)值等于1時(shí)，22222)()()()(1)(1)(1yyxxyyxxrsssyynxxnyyxxnryxxy11r表明兩個(gè)現(xiàn)象完全線(xiàn)性相關(guān)；當(dāng)相關(guān)系數(shù)等于0時(shí)，表明兩個(gè)現(xiàn)象沒(méi)有線(xiàn)性相關(guān)關(guān)系。 一般可對(duì)相關(guān)系數(shù)作如下判斷： r的絕對(duì)值在0.3以下為無(wú)直線(xiàn)相關(guān); 在0.3以上為有直線(xiàn)相關(guān), 0.3-0.5低度相關(guān);0.5-0.8為顯著相關(guān);0.8以上為高度相關(guān)。按上面進(jìn)行判斷，原始數(shù)據(jù)要比較多，若資料少，起點(diǎn)值要提高。對(duì)相關(guān)系數(shù)的解釋?zhuān)?積差法相關(guān)系數(shù)在計(jì)算過(guò)程中要使用兩個(gè)數(shù)列的平均值，計(jì)算既麻煩又影響準(zhǔn)確性。例：在實(shí)際問(wèn)題中，運(yùn)用以下公式：此

6、公式是由“積差法”相關(guān)系數(shù)計(jì)算公式推導(dǎo)而出。例：仍用前面的例子說(shuō)明計(jì)算過(guò)程。 如果x、y均為隨機(jī)變量，就要用分組的頻數(shù)作權(quán)數(shù)加權(quán)。 2222)()(yynxxnyxxynr計(jì)算相關(guān)系數(shù)的公式為： 第四節(jié) 簡(jiǎn)單線(xiàn)性回歸分析一、概念： 回歸這個(gè)概念是英國(guó)生物學(xué)家葛爾頓提出的，他在研究父母身高與了女身高時(shí)發(fā)現(xiàn)了一個(gè)有趣的現(xiàn)象。 回歸就被用來(lái)泛指變量之間的一般數(shù)量關(guān)系。為了測(cè)定現(xiàn)象之間數(shù)量變化上的一般關(guān)系而使用數(shù)學(xué)模型的方法，就為回歸分析。 2222)()(jjjjjiiiiijjiiijjiijfyfyffxfxffyfxfyxfr二、種類(lèi)： 最基本的分類(lèi)：（一）一元回歸和多元回歸1、一元回歸：兩個(gè)

7、變量之間的回歸分析。2、多元回歸：三個(gè)或三個(gè)以上變量的回歸分析。（二）線(xiàn)性回歸和非線(xiàn)性回歸三、簡(jiǎn)單線(xiàn)性回歸分析（一）配合回歸直線(xiàn)1、配合直線(xiàn)的前提條件第一，現(xiàn)象之間確實(shí)存在著數(shù)量上的相互依存關(guān)系；第二，現(xiàn)象之間存在著直線(xiàn)相關(guān)關(guān)系；第三，要有一定數(shù)量的自變量與因變量的對(duì)應(yīng)資料；2、怎樣的直線(xiàn)才是最合理的關(guān)于最小平方法3、直線(xiàn)回歸方程的建立： a為當(dāng)x=0等于時(shí)，y的估計(jì)值；b為自變量每變動(dòng)一個(gè)單位時(shí)，因變量的平均變動(dòng)值，也叫回歸系數(shù)。222)(xxnyxxynbxbyaxbxaxyxbnay 仍用上述資料為例建立線(xiàn)性回歸方程。 在兩個(gè)現(xiàn)象互為根據(jù)的條件下，若是線(xiàn)性變動(dòng)趨勢(shì)，則配合兩條回歸直線(xiàn)，建

8、立兩個(gè)回歸直線(xiàn)方程。“y依x”回歸方程：yc=a+bx“x依y”回歸方程：xc=c+dy注意： 一個(gè)回歸線(xiàn)只能作一種推算，不能反過(guò)來(lái)進(jìn)行另一種推算。只能用給定的自變量來(lái)推斷因變量，而不能反推。直線(xiàn)相關(guān)分析的特點(diǎn)：1、兩個(gè)變量是對(duì)等的；2、只能算出一個(gè)相關(guān)系數(shù)；3、相關(guān)系數(shù)有正負(fù)號(hào)，表示正相關(guān)和負(fù)相關(guān)；4、計(jì)算相關(guān)系數(shù)對(duì)資料的要求是，相關(guān)的兩個(gè)變量都是隨機(jī)的。簡(jiǎn)單直線(xiàn)回歸分析的特點(diǎn)：1、兩個(gè)變量之間不是對(duì)等；2、回歸方程是據(jù)以利用自變量的給定值來(lái)推算和估計(jì)因變量的值，反映的是變量值之間的具體的變動(dòng)關(guān)系，不是抽象的系數(shù)；3、在X、Y兩個(gè)變量中，從方程式看，存在著兩個(gè)回歸方程；4、直線(xiàn)回歸方程中的回

9、歸系數(shù)有正負(fù)號(hào)，正回歸系數(shù)表明兩變量之間是同方向的變動(dòng)，負(fù)回歸系數(shù)表明兩變量之間反方向變動(dòng)。5、 配合回歸方程對(duì)資料的要求是，它要求因變量是隨機(jī)的，而自變量是給定的。 第五節(jié) 估計(jì)標(biāo)準(zhǔn)誤差一、概念： 就是用來(lái)說(shuō)明回歸方程推斷結(jié)果準(zhǔn)確性程度的統(tǒng)計(jì)分析指標(biāo)。它是所有觀察值對(duì)估計(jì)值的平均離差。二、作用：第一、衡量回歸直線(xiàn)代表性大小的重要尺度。第二、估計(jì)標(biāo)準(zhǔn)誤差可以從另一個(gè)測(cè)面反映變量之間的相關(guān)關(guān)系的密切程度。估計(jì)標(biāo)準(zhǔn)誤差小，說(shuō)明各相關(guān)點(diǎn)回歸直線(xiàn)近而集中，即離散程度小，反映現(xiàn)象之間相關(guān)關(guān)系密切，若估計(jì)標(biāo)準(zhǔn)誤差等于0，則說(shuō)明所有的相關(guān)點(diǎn)全落在回歸直線(xiàn)上。估計(jì)標(biāo)準(zhǔn)誤差大，說(shuō)明各相關(guān)點(diǎn)距離回歸直線(xiàn)遠(yuǎn)而分散，

10、即離散程度大，反映現(xiàn)象之間的相關(guān)關(guān)系不密切。第三，在抽樣調(diào)查情況下，它是計(jì)算回歸抽樣誤差的一個(gè)根據(jù)。就象總體方差是計(jì)算抽樣誤差的根據(jù)一樣。計(jì)算回歸抽樣誤差時(shí)應(yīng)該使用總體的估計(jì)標(biāo)準(zhǔn)誤差，但這個(gè)材料常常是沒(méi)有的，要用樣本的估計(jì)標(biāo)準(zhǔn)誤差來(lái)代替。三、估計(jì)標(biāo)準(zhǔn)誤差的計(jì)算（一）離差平方和的分解 估計(jì)值yc與對(duì)應(yīng)的觀察值y之間有一定離差，稱(chēng)估計(jì)誤差，為了說(shuō)明估計(jì)誤差，需要從變差的分析開(kāi)始。 觀察值y取值的大小是上下波動(dòng)的，y取值的這種波動(dòng)現(xiàn)象稱(chēng)為變差。這種變差的產(chǎn)生原因由兩個(gè)方面引起的：（1）受自變量變動(dòng)的影響，即x取值的不同。（2）其它因素（包括觀察和實(shí)驗(yàn)中產(chǎn)生的誤差）的影響。 為了分析這個(gè)兩個(gè)方面的影響

11、，需要對(duì)總的變差進(jìn)行分解。 對(duì)每個(gè)觀察值來(lái)說(shuō)，變差的大小可以通過(guò)觀察值y與平均數(shù) 的離差y - 來(lái)表示，而這個(gè)離差可分解為：yy222)()()()()(yyyyyynyyyyyyCCcc點(diǎn)求和將上式兩邊平方對(duì)所有 全部n次觀察值的總變差，可以通過(guò)離差的平方和 表示，簡(jiǎn)稱(chēng)y的總變差。上式中可以看出，總變差可以分解為兩個(gè)部分：通常用：T、R、Q分別表示總變差（總離差平方和）、回歸變差（回歸離差平方和）、剩余變差（剩余離差平方和）。2)(yy222)()()(yyTyyRyyQcc 根據(jù)直線(xiàn)方程yc=a+bx，可以把 看做是由于x變動(dòng)所引起的，因此回歸變差反映了在y的總變差中由于x與y的直線(xiàn)回歸關(guān)

12、系而引起y的變動(dòng)部分。 剩余離差平方和，是每個(gè)觀察點(diǎn)距回歸直線(xiàn)離差的平方和。根據(jù)最小平方法的原理，這個(gè)量是所有直線(xiàn)中與觀察點(diǎn)距離平方和最小的一個(gè),它反映的是除了x對(duì)y的直線(xiàn)影響外的一切因素(包括x對(duì)y的非線(xiàn)性關(guān)系及觀察誤差)對(duì)y的影響部分,也就是總變差中減去回歸變差后的部分,所以也稱(chēng)殘差平方和,或稱(chēng)隨機(jī)因素變差。 所以，T中R的比重越大，Q的比重越小，則說(shuō)明線(xiàn)性回歸擬合越好，反之，擬合越差。yyc 于是，有下列式子： r2為相關(guān)程度判定系數(shù),r為相關(guān)系數(shù)。通常R、Q用以下公式計(jì)算：TRrTRr2RTyyQynyyyTxnxbxxbyyRcc2222222222)()(1)(1)()( b為回歸系數(shù)。 通過(guò)對(duì)離差平方和的分解，正確的解釋了總變差中的各項(xiàng)因素及其影響程度，而且對(duì)于進(jìn)一步檢驗(yàn)回歸方程的顯著性，以及計(jì)算相關(guān)系數(shù)等都有很重要的意義。（二）估計(jì)標(biāo)準(zhǔn)誤差的計(jì)算公式1、2、根據(jù)a、b求估計(jì)標(biāo)準(zhǔn)誤差 2)(2nyyscyx四、相關(guān)系數(shù)和估計(jì)標(biāo)準(zhǔn)誤差的關(guān)系 從對(duì)估計(jì)標(biāo)準(zhǔn)誤差的作用分析及估計(jì)標(biāo)準(zhǔn)誤差的計(jì)算過(guò)程看，估計(jì)標(biāo)準(zhǔn)誤差和相關(guān)系數(shù)兩個(gè)指標(biāo)有著十分密切的聯(lián)系。 估計(jì)標(biāo)準(zhǔn)誤差小，相關(guān)系數(shù)的絕