統(tǒng)計(jì)學(xué)第6章方差分析法

第6章方差分析AnalysisofVariance（ANOVA)2/2/20231版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組學(xué)習(xí)目標(biāo)掌握方差分析中的基本概念；掌握方差分析的基本思想和原理；掌握單因素方差分析的方法及應(yīng)用；初步了解多重比較方法的應(yīng)用；2/2/20232版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組學(xué)習(xí)內(nèi)容第一節(jié)方差分析簡(jiǎn)介常用術(shù)語(yǔ)

基本假定第二節(jié)單因素方差分析

分析模型

基本思想

分析步驟

多重比較2/2/20233版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.1方差分析簡(jiǎn)介7.1.1方差分析中的基本概念7.1.2方差分析中的基本假設(shè)與檢驗(yàn)2/2/20234版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組失業(yè)保險(xiǎn)案例：為什么要進(jìn)行方差分析？

為了減小失業(yè)保險(xiǎn)支出、促進(jìn)就業(yè)，政府試圖為失業(yè)者提供再就業(yè)獎(jiǎng)勵(lì)：如果失業(yè)者可以在限定的時(shí)間內(nèi)重新就業(yè)，他將可以獲得一定數(shù)額的獎(jiǎng)金。政策會(huì)有效嗎？2/2/20235版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組試驗(yàn)數(shù)據(jù)不同獎(jiǎng)金水平失業(yè)者的再就業(yè)時(shí)間（天）

無(wú)獎(jiǎng)金低獎(jiǎng)金中獎(jiǎng)金高獎(jiǎng)金928696781001089275859390768888778789897973907571839478828280727568787981722/2/20236版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組要研究的問(wèn)題總體1，μ1（獎(jiǎng)金=1）總體2，μ2（獎(jiǎng)金=2）總體3，μ3（獎(jiǎng)金=3）樣本1樣本2樣本3樣本4總體4，μ4（獎(jiǎng)金=4）2/2/20237版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組各個(gè)總體的均值相等嗎？Xf(X)1

2

3

4

Xf(X)3

1

2

4

2/2/20238版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組失業(yè)保險(xiǎn)案例：實(shí)驗(yàn)結(jié)果……1=無(wú)獎(jiǎng)金2=低獎(jiǎng)金3=中獎(jiǎng)金4=高獎(jiǎng)金。根據(jù)實(shí)驗(yàn)結(jié)果，可以認(rèn)為各總體的平均失業(yè)時(shí)間相同嗎？2/2/20239版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組研究方法：兩樣本的t檢驗(yàn)？如果采用t檢驗(yàn)法對(duì)多個(gè)總體均值進(jìn)行差異顯著性檢驗(yàn)，會(huì)出現(xiàn)如下問(wèn)題：全部檢驗(yàn)過(guò)程煩瑣，做法不經(jīng)濟(jì)無(wú)統(tǒng)一的總體方差估計(jì)，檢驗(yàn)的精度降低犯第一類錯(cuò)誤的概率增大，檢驗(yàn)的可靠性降低2/2/202310版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組方差分析可以用來(lái)比較多個(gè)均值方差分析（Analysisofvariance，ANOVA）的主要目的是通過(guò)對(duì)方差的比較來(lái)同時(shí)檢驗(yàn)多個(gè)均值之間差異的顯著性。可以看作t檢驗(yàn)的擴(kuò)展，只比較兩個(gè)均值時(shí)與t檢驗(yàn)等價(jià)。20世紀(jì)20年代由英國(guó)統(tǒng)計(jì)學(xué)家費(fèi)喧（R.A.Fisher）最早提出的，開(kāi)始應(yīng)用于生物和農(nóng)業(yè)田間試驗(yàn)，以后在許多學(xué)科中得到了廣泛應(yīng)用。2/2/202311版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組ANOVA(analysisofvariance)由于方差分析法是通過(guò)比較有關(guān)方差的大小而得到結(jié)論的，所以在統(tǒng)計(jì)中，常常把運(yùn)用方差分析法的活動(dòng)稱為方差分析。方差分析的內(nèi)容很廣泛，既涉及到實(shí)驗(yàn)設(shè)計(jì)的模式，又關(guān)乎數(shù)據(jù)分析模型中因素效應(yīng)的性質(zhì)。本章在完全隨機(jī)試驗(yàn)設(shè)計(jì)下，討論固定效應(yīng)模型方差分析的基本原理與方法，重點(diǎn)介紹單因素方差分析及兩因素方差分析的內(nèi)容。2/2/202312版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.1.1方差分析中的幾個(gè)基本概念因變量：我們實(shí)際測(cè)量的、作為結(jié)果的變量，例如失業(yè)持續(xù)時(shí)間。因變量也稱試驗(yàn)指標(biāo)，其不同的取值常稱為觀察值或試驗(yàn)數(shù)據(jù)。自變量：作為原因的、把觀測(cè)結(jié)果分成幾個(gè)組以進(jìn)行比較的變量例如獎(jiǎng)金水平。在方差分析中，自變量也被稱為因素(factor)。因素的不同表現(xiàn)，即每個(gè)自變量的不同取值稱為因素的水平。2/2/202313版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.1.1方差分析中的幾個(gè)基本概念方差分析主要用來(lái)研究一個(gè)定量因變量與一個(gè)或多個(gè)定性自變量的關(guān)系只有一個(gè)自變量的方差分析稱為單因素方差分析。研究多個(gè)因素對(duì)因變量的影響的方差分析稱為多因素方差分析，其中最簡(jiǎn)單的情況是雙因素方差分析。2/2/202314為便于理解，在單因素方差分析中，將因素的任何一個(gè)水平（處理）看作是一個(gè)總體，該水平（處理）下試驗(yàn)得到的數(shù)據(jù)可看成是從總體中抽出的一個(gè)樣本，處理的重復(fù)數(shù)即為樣本容量。7.1.1：固定效應(yīng)與隨機(jī)效應(yīng)模型2/2/202315版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組若因素的每一個(gè)水平（處理）均做試驗(yàn)，相當(dāng)于對(duì)該因素進(jìn)行了全面調(diào)查。此種情形下，方差分析目的在于：對(duì)比較尋優(yōu)，即確定因素的顯著影響水平，且該顯著影響水平僅在中有效，在外無(wú)效，一句話，試驗(yàn)數(shù)據(jù)不能對(duì)因素做推斷，這屬于固定效應(yīng)模型方差分析范疇。固定效應(yīng)模型：因素的所有水平都是由實(shí)驗(yàn)者審慎安排而不是隨機(jī)選擇的。7.1.1：固定效應(yīng)模型2/2/202316版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組若只對(duì)因素的部分水平（處理）做試驗(yàn)，相當(dāng)于對(duì)進(jìn)行了抽樣調(diào)查，此種情形下，方差分析目的在于：對(duì)因素的總體變量所服從的分布進(jìn)行差異性檢驗(yàn)和參數(shù)估計(jì)，即樣本推斷總體，這屬于隨機(jī)效應(yīng)模型方差分析范疇。隨機(jī)效應(yīng)模型：因素的水平是從多個(gè)可能的水平中隨機(jī)選擇的。固定效應(yīng)和隨機(jī)效應(yīng)模型在假設(shè)的設(shè)置和參數(shù)估計(jì)上有所差異，本章研究的都是固定效應(yīng)模型。7.1.1：隨機(jī)效應(yīng)模型2/2/202317版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組方差分析與回歸分析的聯(lián)系*回歸分析主要用來(lái)研究定量自變量和定量因變量之間的關(guān)系（第八章學(xué)習(xí)）?；貧w分析中方差分析常常用來(lái)檢驗(yàn)回歸方程的整體顯著性。回歸模型中也可以包含定性自變量。這時(shí)回歸模型與方差分析模型是等價(jià)的。2/2/202318版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.1.2：方差分析中的基本假設(shè)（1）在各個(gè)總體中因變量都服從正態(tài)分布；（2）在各個(gè)總體中因變量的方差都相等；（3）各個(gè)觀測(cè)值之間是相互獨(dú)立的。2/2/202319版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組（1）正態(tài)性的檢驗(yàn)各組數(shù)據(jù)的直方圖Q-Q圖，K-S檢驗(yàn)*2/2/202320版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組（2）等方差性的檢驗(yàn)經(jīng)驗(yàn)方法：計(jì)算各組數(shù)據(jù)的標(biāo)準(zhǔn)差，如果最大值與最小值的比例小于2:1，則可認(rèn)為是同方差的。

本例中，最大值和最小值的比例等于1.83<2。Levene檢驗(yàn)*獎(jiǎng)金水平均值N標(biāo)準(zhǔn)差188.4496.82285.33911.02382.5698.38477.1196.012/2/202321版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組方差分析對(duì)前兩個(gè)假設(shè)條件是穩(wěn)健的，允許一定程度的偏離。獨(dú)立性的假設(shè)條件一般可以通過(guò)對(duì)數(shù)據(jù)搜集過(guò)程的控制來(lái)保證。如果確實(shí)嚴(yán)重偏離了前兩個(gè)假設(shè)條件，則需要先對(duì)數(shù)據(jù)進(jìn)行數(shù)學(xué)變換，也可以使用非參數(shù)的方法來(lái)比較各組的均值。(3)其它說(shuō)明2/2/202322版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.1單因素方差分析模型7.2.2方差分析的基本原理7.2.3單因素方差分析的步驟7.2.4方差分析中的多重比較7.2.單因素方差分析2/2/202323版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.1單因素方差分析模型2/2/202324版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組單因素方差分析的數(shù)據(jù)結(jié)構(gòu)2/2/202325版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組同一試驗(yàn)條件下的數(shù)據(jù)變異-----隨機(jī)因素影響不同試驗(yàn)條件下，試驗(yàn)數(shù)據(jù)變異-----隨機(jī)因素和可能存在的系統(tǒng)性因素即試驗(yàn)因素共同影響試驗(yàn)數(shù)據(jù)變異原因（誤差來(lái)源）分析2/2/202326版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組實(shí)驗(yàn)數(shù)據(jù)誤差類型隨機(jī)誤差因素的同一水平(總體)下，樣本各觀察值之間的差異比如，同一獎(jiǎng)金水平下不同不同人的失業(yè)時(shí)間是不同的這種差異可以看成是隨機(jī)因素影響的結(jié)果，稱為隨機(jī)誤差

系統(tǒng)誤差因素的不同水平(不同總體)下，各觀察值之間的差異比如，不同獎(jiǎng)金水平之間的失業(yè)時(shí)間之間的差異這種差異可能是由于抽樣的隨機(jī)性所造成的，也可能是由于獎(jiǎng)金本身所造成的，后者所形成的誤差是由系統(tǒng)性因素造成的，稱為系統(tǒng)誤差2/2/202327版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組方差分析的實(shí)質(zhì)與分析目的方差分析的實(shí)質(zhì)：觀測(cè)值變異原因的數(shù)量分析。方差分析的目的：系統(tǒng)中是否存在顯著性影響因素2/2/202328版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.1單因素方差分析模型（1）單因素方差分析:模型中有一個(gè)自變量（因素）和一個(gè)因變量。在失業(yè)保險(xiǎn)實(shí)驗(yàn)中，假設(shè)張三在高獎(jiǎng)金組，則

張三的失業(yè)時(shí)間

=高獎(jiǎng)金組的平均失業(yè)時(shí)間+隨機(jī)因素帶來(lái)的影響

=總平均失業(yè)時(shí)間

+高獎(jiǎng)金組平均值與總平均值之差

+隨機(jī)因素帶來(lái)的影響

2/2/202329版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.1單因素方差分析模型（2）2/2/202330版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.2方差分析的基本原理2/2/202331版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組總變差（離差平方和）的分解數(shù)據(jù)的誤差用離差平方和(sumofsquares)描述。組內(nèi)離差平方和(withingroups)因素的同一水平(同一個(gè)總體)下樣本數(shù)據(jù)的變異比如，同一獎(jiǎng)金水平下失業(yè)時(shí)間的差異組內(nèi)離差平方和只包含隨機(jī)誤差組間離差平方和(betweengroups)因素的不同水平(不同總體)下各樣本之間的變異比如，四個(gè)獎(jiǎng)金水平之間失業(yè)時(shí)間的差異組間離差平方和既包括隨機(jī)誤差，也包括系統(tǒng)誤差2/2/202332版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組總變差（離差平方和）分解的圖示組間變異總變異組內(nèi)變異2/2/202333版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組SST＝SSA＋SSE

總變差因素A及隨機(jī)因素導(dǎo)致的變差隨機(jī)因素導(dǎo)致的變差組間離差平方和組內(nèi)離差平方和2/2/202334版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組2/2/202335版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組離差平方和的自由度與均方三個(gè)平方和的自由度分別是SST的自由度為nk-1，nk為全部觀察值的個(gè)數(shù)SSA的自由度為k-1，其中k為因素水平的個(gè)數(shù)SSE的自由度為nk-k各離差平方和的大小與觀察值的多少有關(guān)，為了消除觀察值多少對(duì)離差平方和大小的影響，需要將其平均，這就是均方，也稱為方差。均方的計(jì)算方法是用離差平方和除以相應(yīng)的自由度。2/2/202336版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組組間離差平方和組內(nèi)離差平方和組間方差組內(nèi)方差受因素A和隨機(jī)

因素的影響只受隨機(jī)

因素的影響2/2/202337版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組F比值如果因素A的不同水平對(duì)結(jié)果沒(méi)有影響，那么在組間方差中只包含有隨機(jī)誤差，兩個(gè)方差的比值會(huì)接近1如果不同水平對(duì)結(jié)果有影響，組間方差就會(huì)大于組內(nèi)方差，組間方差與組內(nèi)方差的比值就會(huì)大于1當(dāng)這個(gè)比值大到某種程度時(shí)，就可以說(shuō)不同水平之間存在顯著差異，或者說(shuō)因素A對(duì)結(jié)果有顯著影響。組間方差組內(nèi)方差F=2/2/202338版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組F比的分布F分布曲線2/2/202339版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組F分布與拒絕域如果均值相等，F(xiàn)=MSA/MSE1a

F分布顯著水平下的臨界點(diǎn)F(k-1,nk-k)0拒絕H0不能拒絕H0F2/2/202340版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.2：方差分析的基本思想將k個(gè)水平（處理）的觀測(cè)值作為一個(gè)整體看待，利用方差的可分解性，把觀測(cè)值總變異的離差平方和及自由度分解為相應(yīng)于不同變異來(lái)源的離差平方和及自由度，進(jìn)而獲得不同變異來(lái)源總體方差估計(jì)值；通過(guò)計(jì)算這些總體方差估計(jì)值的適當(dāng)比值，即F比值，并以此比值的大小來(lái)判斷各樣本所屬總體平均數(shù)是否相等。目的是檢查所討論因素是否作為系統(tǒng)性因素來(lái)影響試驗(yàn)結(jié)果。2/2/202341版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.3：方差分析的步驟1.檢驗(yàn)數(shù)據(jù)是否符合方差分析的假設(shè)條件。2.提出零假設(shè)和備擇假設(shè)：零假設(shè)：各總體的均值之間沒(méi)有顯著差異，即

備擇假設(shè)：至少有兩個(gè)均值不相等，即2/2/202342版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.3：方差分析的步驟3.根據(jù)樣本計(jì)算F統(tǒng)計(jì)量的值。方差分析表變差來(lái)源離差平方和SS自由度df均方MSF值組間SSAk-1MSAMSA/MSE組內(nèi)SSEnk-kMSE總變異SSTnk-12/2/202343版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.3：方差分析的步驟4.確定決策規(guī)則并根據(jù)實(shí)際值與臨界值的

比較，或者p-值與α的比較得出檢驗(yàn)結(jié)論。

在零假設(shè)成立時(shí)組間方差與組內(nèi)方差的比值服從服從自由度為(k-1,nk-k)的F分布臨界值拒絕域p-值α實(shí)際值

F檢驗(yàn)的臨界值和拒絕域

2/2/202344版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組失業(yè)保險(xiǎn)的例子（1）在失業(yè)保險(xiǎn)實(shí)驗(yàn)中，設(shè)顯著性水平α=0.05，試分析獎(jiǎng)金水平對(duì)失業(yè)時(shí)間的影響是否顯著。不同獎(jiǎng)金水平失業(yè)者的再就業(yè)時(shí)間（天）

無(wú)獎(jiǎng)金低獎(jiǎng)金中獎(jiǎng)金高獎(jiǎng)金928696781001089275859390768888778789897973907571839478828280727568787981722/2/202345版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組失業(yè)保險(xiǎn)的例子（2）1、根據(jù)前面的分析，數(shù)據(jù)符合方差分析的假設(shè)條件。2、提出零假設(shè)和備擇假設(shè)：H0：μ1＝μ2＝μ3＝μ4，H1：μ1、μ2、μ3、μ4不全相等。2/2/202346版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組失業(yè)保險(xiǎn)的例子（3）3、計(jì)算F統(tǒng)計(jì)量的實(shí)際值。

手工計(jì)算可以按照方差分析表的內(nèi)容逐步計(jì)算。由于計(jì)算量大，實(shí)際應(yīng)用中一般要借助于統(tǒng)計(jì)軟件。下面是Excel計(jì)算的方差分析表。變差來(lái)源SS自由度MSFp-值F臨界值組間624.973208.323.040.04332.90組內(nèi)2195.333268.60總變差2820.3135

2/2/202347版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組失業(yè)保險(xiǎn)的例子（4）4、樣本的F值為3.04。由于

因此我們應(yīng)拒絕零假設(shè)，從而得出獎(jiǎng)金水平對(duì)再就業(yè)時(shí)間有顯著影響的結(jié)論。類似的，由于，可以得出同樣的結(jié)論。2.90.04330.053.042/2/202348版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組例2熱帶雨林（1）各水平下的樣本容量不同時(shí)單因素方差分析的方法也完全適用，只是公式的形式稍有不同，在使用軟件進(jìn)行分析時(shí)幾乎看不出這種差別。

一份研究伐木業(yè)對(duì)熱帶雨林影響的統(tǒng)計(jì)研究報(bào)告指出，“環(huán)保主義者對(duì)于林木采伐、開(kāi)墾和焚燒導(dǎo)致的熱帶雨林的破壞幾近絕望”。這項(xiàng)研究比較了類似地塊上樹(shù)木的數(shù)量，這些地塊有的從未采伐過(guò)，有的1年前采伐過(guò)，有的8年前采伐過(guò)。根據(jù)數(shù)據(jù)，采伐對(duì)樹(shù)木數(shù)量有顯著影響嗎？顯著性水平α=0.05。

2/2/202349版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組例2熱帶雨林（2）1、正態(tài)性檢驗(yàn)：直方圖從未采伐過(guò)1年前采伐過(guò)8年前采伐過(guò)2712182212429152221915192018331819161722201412241412272281719192/2/202350版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組例2熱帶雨林（3）同方差性檢驗(yàn)：最大值與最小值之比等于33.19/4.81=1.34，明顯小于4，因此可以認(rèn)為是等方差的。

組計(jì)數(shù)求和平均方差從未采伐過(guò)1228523.7525.661年前采伐過(guò)1216914.0824.818年前采伐過(guò)914215.7833.192/2/202351版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組例2熱帶雨林（4）2、提出零假設(shè)和備擇假設(shè)零假設(shè)：雨林采伐對(duì)林木數(shù)量沒(méi)有顯著影響（各組均值相等）；備擇假設(shè)：雨林采伐對(duì)是有顯著影響（各組均值不全相等）。2/2/202352版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組例2熱帶雨林（5）3、方差分析表4、結(jié)論。F值=11.43>3.32，p-值=0.0002<0.05，因此檢驗(yàn)的結(jié)論是采伐對(duì)林木數(shù)量有顯著影響。變差源SSdfMSFP-valueFcrit組間625.162312.5811.430.00023.32組內(nèi)820.723027.36總計(jì)1445.8832

2/2/202353版權(quán)所有BY統(tǒng)計(jì)學(xué)課程組7.2.4方差分析中的多重比較在方差分析中，不拒絕零假設(shè)H0，表示拒絕總體均數(shù)相等的證據(jù)不足，分析終止；當(dāng)零假設(shè)H0被拒絕時(shí)，我們可以確定至少有兩個(gè)總體的均值有顯著差異。但要進(jìn)一步檢驗(yàn)?zāi)男┚抵g有顯著差異還需要采用多重比較的方法進(jìn)行分析。這在方差分析中稱為事后檢驗(yàn)(PostHoctest)。多重比較是同時(shí)對(duì)各個(gè)總體均值進(jìn)行的兩兩比較。方法很多，如Fisher最小顯著差異（LeastSignificantDifference，LSD）方法、Tukey的誠(chéng)實(shí)顯著差異（HSD）方法或Bonferroni的方法