第8章方差分析及回歸分析課件

《概率論與數(shù)理統(tǒng)計(jì)》教程方差分析與回歸分析第八章數(shù)計(jì)學(xué)院數(shù)學(xué)教研室本章目錄§8.1

單因素方差分析§8.2

雙因素方差分析§8.3

一元線性回歸分析工業(yè)生產(chǎn)中產(chǎn)品質(zhì)量的影響因素：原材料、設(shè)備、技術(shù)及員工素質(zhì)等；工作中影響個(gè)人收入的影響因素：除學(xué)歷、專業(yè)、工作時(shí)間、性別等方面外，還有個(gè)人能力、經(jīng)歷及機(jī)遇等偶然因素.

在這眾多因素中，每一個(gè)因素的改變都可能影響最終的結(jié)果，各因素的影響有大有小。故在實(shí)際問題中，就有必要找出對(duì)事件最終結(jié)果有顯著影響的那些因素.如何分析這些諸多因素中哪些因素對(duì)結(jié)果會(huì)產(chǎn)生顯著影響？——這是方差分析的主要任務(wù)！§8.1

單因素方差分析基本概念：試驗(yàn)指標(biāo)：在試驗(yàn)中要考察的指標(biāo)，如產(chǎn)品的質(zhì)量等。因素：影響試驗(yàn)指標(biāo)的條件。包括可控因素和不可控因素。單因素試驗(yàn)：在一項(xiàng)試驗(yàn)中只有一個(gè)因素在改變的試驗(yàn)。多因素試驗(yàn)：在一項(xiàng)試驗(yàn)中多于一個(gè)因素在改變的試驗(yàn)。水平：因素所處的狀態(tài)。隨機(jī)誤差：同一水平下，樣本各觀察值之間的差異，稱為隨機(jī)誤差。這種差異可以看成是隨機(jī)因素的影響。系統(tǒng)誤差：不同水平下，各觀察值之間的差異。這種差異可能是由于行業(yè)本身所造成的，稱為系統(tǒng)誤差?！?.1

單因素方差分析一、單因素方差分析問題的提法§8.1

單因素方差分析試驗(yàn)指標(biāo)：薄板的厚度因素：機(jī)器水平：三臺(tái)不同的機(jī)器即為三個(gè)不同的水平單因素試驗(yàn)試驗(yàn)?zāi)康模嚎疾鞕C(jī)器這一因素對(duì)薄板的厚度有無顯著的差異§8.1

單因素方差分析試驗(yàn)指標(biāo)：電路響應(yīng)時(shí)間因素：電路類型水平：四種不同的電路即為四個(gè)不同的水平單因素試驗(yàn)試驗(yàn)?zāi)康模嚎疾祀娐奉愋瓦@一因素對(duì)響應(yīng)時(shí)間有無顯著影響§8.1

單因素方差分析試驗(yàn)指標(biāo)：射程因素：燃料（A)、推進(jìn)器（B）水平：因素A有4個(gè)水平，因素B有3個(gè)水平雙因素試驗(yàn)試驗(yàn)?zāi)康模嚎疾焱七M(jìn)器和燃料這兩個(gè)因素對(duì)射程是否有顯著影響§8.1

單因素方差分析以例1討論單因素方差分析的方法：在因素的每個(gè)水平下進(jìn)行獨(dú)立試驗(yàn)，其結(jié)果就是一個(gè)樣本,表中數(shù)據(jù)可看成來自三個(gè)不同總體的樣本值，本題需要檢驗(yàn)假設(shè)：§8.1

單因素方差分析§8.1

單因素方差分析假設(shè)：未知，不同水平

下的樣本之間相互獨(dú)立.由假設(shè)，有隨機(jī)誤差記則有單因素試驗(yàn)方差分析的數(shù)學(xué)模型§8.1

單因素方差分析方差分析的任務(wù)：為便于討論，記（）引入記號(hào)（）的效應(yīng)總平均（1.1）因?yàn)椤?.1

單因素方差分析記水平Ai下的樣本均值；總偏差平方和：總的樣本均值.組內(nèi)偏差平方和：組間偏差平方和：（誤差平方和）反映了全部試驗(yàn)數(shù)據(jù)之間的差異反映了水平Aj

內(nèi)由隨機(jī)誤差而引起的波動(dòng)由水平Aj的效應(yīng)的差異以及隨機(jī)誤差引起總離差平方和分解式：…（1.5）§8.1

單因素方差分析二、平方和的分解（總變差）（效應(yīng)平方和）§8.1

單因素方差分析三、SE,SA的統(tǒng)計(jì)特性各項(xiàng)間相互獨(dú)立1、SE的統(tǒng)計(jì)特性§8.1

單因素方差分析四、假設(shè)檢驗(yàn)問題的拒絕域2、SA的統(tǒng)計(jì)特性§8.1

單因素方差分析§8.1

單因素方差分析§8.1

單因素方差分析§8.1

單因素方差分析§8.1

單因素方差分析【例5】工程師測(cè)量了四種不同類型外殼的彩色顯像管的傳導(dǎo)率，得傳導(dǎo)率的觀察值如下表：顯像管型號(hào)傳導(dǎo)率值A(chǔ)1（類型1）143141150146A2（類型2）152144137143A3（類型3）134136133129A4（類型4）129128134129問：外殼類型對(duì)傳導(dǎo)率是否有顯著影響？§8.1

單因素方差分析解：設(shè)水平Ai下的總體為檢驗(yàn)假設(shè)：

VS不全相等已知：§8.1

單因素方差分析方差來源平方和自由度F值臨界值因素A總和試驗(yàn)誤差方差分析表因?yàn)楣示芙^原假設(shè)H0，即認(rèn)為因子是顯著的?！?.1

單因素方差分析本章目錄§8.1

單因素方差分析§8.2

雙因素方差分析§8.3

一元線性回歸分析一、問題的提出實(shí)際應(yīng)用中，影響試驗(yàn)結(jié)果的因素往往不止一個(gè)，為此需要討論多因素方差分析問題。（在此只討論雙因素方差分析）：因素A因素BB1B2A1A220605090因素A因素BB1B2A1A2201005080表1表2從表1看出:因素A與因素B各自單獨(dú)地對(duì)試驗(yàn)結(jié)果產(chǎn)生影響，相互之間無影響；從表2看出:因素A與因素B之間的搭配對(duì)試驗(yàn)結(jié)果產(chǎn)生影響（稱為交互作用）。為簡(jiǎn)單起見，只討論A、B無交互作用下的雙因素方差分析問題，此時(shí)對(duì)A、B的每一種搭配只進(jìn)行一次試驗(yàn)?！?.2

雙因素方差分析假定要考察兩個(gè)因素A、B對(duì)某項(xiàng)指標(biāo)值的影響，因素A取s個(gè)水平A1,A2,…,As，因素B取r個(gè)水平B1,B2,…,Br，在A、B的每對(duì)組合水平（Ai,Bj）上作一次試驗(yàn)，試驗(yàn)結(jié)果為Xij,i=1,…,s；j=1,…,r。所有Xij獨(dú)立，數(shù)據(jù)列于下表：要考察因素A、B是否指標(biāo)值產(chǎn)生顯著性影響？§8.2

雙因素方差分析設(shè)搭配（Ai,Bj)下的試驗(yàn)結(jié)果為Xij，假定則問題歸結(jié)為檢驗(yàn)假設(shè)：§8.2

雙因素方差分析類似于單因素方差分析的方法，在檢驗(yàn)之前，必須把因素A，因素B及隨機(jī)誤差引起的數(shù)據(jù)波動(dòng)從總波動(dòng)中分離出來：記：于是§8.2

雙因素方差分析SA是由因素A的不同效應(yīng)和隨機(jī)誤差引起的偏差;SB是由因素B的不同效應(yīng)和隨機(jī)誤差引起的偏差;Se表示由隨機(jī)誤差引起的偏差.定理:（1）ST,SA,SB相互獨(dú)立，且（2）當(dāng)H0A成立時(shí)，當(dāng)H0B成立時(shí)，因此，可用比較SA與SE的值來檢驗(yàn)假設(shè)H0A,用比較SB與SE的值來檢驗(yàn)假設(shè)H0B.§8.2

雙因素方差分析可以證明：（1）ST,SA,SB相互獨(dú)立，且（2）當(dāng)H0A成立時(shí)，當(dāng)H0B成立時(shí)，當(dāng)H0A成立時(shí)，有當(dāng)H0B成立時(shí)，有H0A的拒絕域?yàn)镠0B的拒絕域?yàn)榻o定顯著性水平，則有§8.2

雙因素方差分析B1B2…BSA1x11x12…x1sA2x21x22…x2s……………Arxr1xr2…xrs因素A因素B……………數(shù)據(jù)計(jì)算表§8.2

雙因素方差分析方差來源平方和自由度F值臨界值因素A總和試驗(yàn)誤差方差分析表拒絕域?yàn)椋阂蛩谺§8.2

雙因素方差分析【例1】為了研究不同地點(diǎn)，不同季節(jié)大氣飄塵含量的差異性，對(duì)地點(diǎn)（A）取三個(gè)不同水平，對(duì)季節(jié)（B）取四個(gè)不同水平，在不同組合（Ai,Bj）下各測(cè)得一次大氣飄塵含量（mg/m2)，結(jié)果列于表11.8，試求研究地點(diǎn)間的差異及季節(jié)間的差異對(duì)大氣飄塵含量有無影響?顯像管型號(hào)因素B冬季春季夏季秋季A11.1500.6140.4750.667A21.2000.6200.4200.880A30.9400.3790.2000.540§8.2

雙因素方差分析解：方差來源平方和自由度F值臨界值因素A總和試驗(yàn)誤差方差分析表因素B§8.2

雙因素方差分析本章目錄§8.1

單因素方差分析§8.2

雙因素方差分析§8.3

一元線性回歸分析§8.3

一元線性回歸8.3.1問題的提法確定性關(guān)系，

不確定性關(guān)系，

如V=IR，S=vt變量間的關(guān)系

如樹干直徑與樹高變量間的不確定關(guān)系（即由度量上的誤差與其他不可控的隨機(jī)因素導(dǎo)致的這種關(guān)系）稱為相關(guān)關(guān)系。（一元）線性回歸就是這種關(guān)系中的最簡(jiǎn)單的一種?；貧w分析就是尋找這類不確定的變量之間的數(shù)學(xué)關(guān)系式并進(jìn)行統(tǒng)計(jì)推斷的一種方法。相關(guān)關(guān)系顯然，函數(shù)關(guān)系是相關(guān)關(guān)系的特例.【父與子的身高關(guān)系】（單位：英寸）（單位：厘米）19世紀(jì)，英國(guó)生物學(xué)家、統(tǒng)計(jì)學(xué)家高爾頓(F.Galton)在研究父與子的身高關(guān)系時(shí)，提出了“回歸”一詞,并得到如下回歸方程：通過方程發(fā)現(xiàn)：父親身高每每增加一個(gè)單位，兒子身高平均增加0.516個(gè)單位；父親身高小于177cm時(shí)，兒子是身高高于父輩平均身高；反之，兒子身高低于父輩平均身高。父子兩代的平均身高有向中心回歸的的趨勢(shì)——回歸分析因此而提出?！?.3

一元線性回歸8.3.1問題的提法散點(diǎn)圖與一元線性回歸模型§8.3

一元線性回歸8.3.1問題的提法設(shè)x是一可控制的變量（普通變量），是與x

有關(guān)的隨機(jī)變量，如何確定這兩者的關(guān)系呢？甲醛濃度x18202224262830縮醛化度26.8628.3528.7528.8729.7530.0030.36【例1】在維尼綸的生產(chǎn)過程中經(jīng)常使用甲醛濃度x來控制縮醛化度

，試驗(yàn)結(jié)果如下：隨機(jī)誤差

一般假定與x無關(guān)獨(dú)立同分布于與x具有如下關(guān)系：………………..(1)

對(duì)于每一個(gè)觀察點(diǎn)(xi,yi)，滿足….(2)

(1)、(2)稱為一元（正態(tài)）線性回歸模型，a、b稱為回歸系數(shù)，建立在一元線性回歸模型基礎(chǔ)上的統(tǒng)計(jì)分析稱為一元線性回歸分析?！?.3

一元線性回歸8.3.1問題的提法一元線性回歸分析的研究?jī)?nèi)容因?yàn)橛泟t……………(1)

……(3)

（3）式稱為一元線性回歸方程，其圖形稱為回歸直線。（反映了的“平均”或“主要部分”）一元線性回歸分析的主要內(nèi)容有：（1）對(duì)參數(shù)a,b進(jìn)行點(diǎn)估計(jì)，估計(jì)量稱為樣本回歸系數(shù)或經(jīng)驗(yàn)回歸系數(shù)，于是有………………(4)

（4）式稱為經(jīng)驗(yàn)直線回歸方程，其圖形稱為經(jīng)驗(yàn)回歸直線?！?.3

一元線性回歸8.3.1問題的提法（2）檢驗(yàn)與x之間是否線性相關(guān)。如果不線性相關(guān)，所建立的回歸直線方程也就失去了應(yīng)用價(jià)值。（3）如何利用所取得的線性關(guān)系，通過x來對(duì)進(jìn)行預(yù)測(cè)或由來控制x的范圍。注：（1）實(shí)際問題中，x可能是一個(gè)隨機(jī)變量，但由于假定其可控制，故認(rèn)為x是非隨機(jī)變量。（2）較一元線性回歸模型更為一般的回歸模型為：常見的是多元線性回歸模型：§8.3

一元線性回歸8.3.1問題的提法§8.3

一元線性回歸8.3.2回歸系數(shù)a,b的最小二乘估計(jì)求a,b的估計(jì)量實(shí)際上就是要確定一條經(jīng)驗(yàn)回歸直線用它來近似表示和x的關(guān)系。··為便于研究，引入越小越好最小二乘法就是求得使達(dá)到最小值：注1：一元線性回歸分析中的最小二乘法估計(jì)量即是極大似然法估計(jì)量，但前者比后者更方便——不必知道隨機(jī)變量的概率分布。注2：為的無偏估計(jì)量。其中§8.3

一元線性回歸8.3.2回歸系數(shù)a,b的最小二乘估計(jì)§8.3

一元線性回歸8.3.3相關(guān)性檢驗(yàn)如果與x不具有近似的線性相關(guān)性（即b=0），則經(jīng)驗(yàn)回歸方程就失去了其應(yīng)用價(jià)值，為此必須對(duì)與x之間是否具有線性相關(guān)關(guān)系進(jìn)行檢驗(yàn)。原假設(shè)：檢驗(yàn)方法：(1)F檢驗(yàn)法;(2)相關(guān)系數(shù)檢驗(yàn)法;(3)T檢驗(yàn)法.數(shù)據(jù)間的總波動(dòng)偏差平方和的分解式：由x的線性作用引起的波動(dòng)x的線性作用外其他因素引起的波動(dòng)總偏差平方和回歸平方和殘差平方和.......1、F

檢驗(yàn)法檢驗(yàn)函數(shù)：拒絕域：若方程的線性相關(guān)程度較高，則總波動(dòng)應(yīng)主要由線性作用所引起，因此U較大，Q相對(duì)較??；反之，如果方程不具有線性關(guān)系或程度較低，則總波動(dòng)應(yīng)由其他因素所引起，即U較小，Q較大。雙邊？左單邊？右單邊？右單邊其中由確定由x的線性作用引起的波動(dòng)x的線性作用外其他因素引起的波動(dòng)回歸平方和殘差平方和§8.3

一元線性回歸8.3.3相關(guān)性檢驗(yàn)說明：（1）（2）越接近1，線性相關(guān)性越強(qiáng)（即方程越顯著）.對(duì)給定的檢驗(yàn)水平，利用附表9，按自由度n-2，查表確定若，則拒絕H0，即認(rèn)為回歸方程是顯著的。2、相關(guān)系數(shù)檢驗(yàn)法記該值越大，方程的線性相關(guān)性越顯著檢驗(yàn)函數(shù)：拒絕域：§11.3

一元線性回歸11.3.3相關(guān)性檢驗(yàn)不應(yīng)該太大即3、T

檢驗(yàn)法可以證明檢驗(yàn)函數(shù)：拒絕域：H0為真檢驗(yàn)方法：(1)F檢驗(yàn)法;(2)相關(guān)系數(shù)檢驗(yàn)法;(3)T檢驗(yàn)法.以上三種檢驗(yàn)方法效果一致，但（