方差分析與協(xié)方差分析

關(guān)于方差分析與協(xié)方差分析在針對連續(xù)變量的統(tǒng)計推斷方法中，最常用的有t檢驗和方差分析兩種四種不同的顏色包裝對飲料銷售量的影響（四個水平，分類變量）兩兩t檢驗？第2頁,共56頁，2024年2月25日，星期天不能做t檢驗如果有K(K≥3)個平均數(shù)，若用兩兩比較的方法來檢驗，則需作K(K-1)/2次檢驗，不但程序繁瑣，而且相當(dāng)于從t分布中隨機(jī)抽取多個t值，其落在大于臨界值的范圍內(nèi)的概率大大增加，犯Ⅰ類錯誤的概率大大增加：如6次檢驗H0的概率是0.95時的誤差為：1-0.956=0.265。第3頁,共56頁，2024年2月25日，星期天方差分析概念第一類因素：可以控制的控制因素第二類因素：不能控制的隨機(jī)因素受前兩類因素影響的事物為觀察變量方差分析目的：分析控制變量的不同水平是否對觀察變量產(chǎn)生了顯著影響，檢驗各個水平下觀察變量的均值是否相等第4頁,共56頁，2024年2月25日，星期天

方差分析分類之一單變量方差分析：一個觀察變量單因方差分析中的控制變量只有一個多因素方差分析中的控制變量有多個多變量方差分析：多個觀察變量第5頁,共56頁，2024年2月25日，星期天

方差分析分類之二一般方差分析：因變量是定量變量，自變量是定類數(shù)據(jù)協(xié)方差分析：將很難控制的因素作為協(xié)變量，在排除協(xié)變量影響的條件下，分析控制變量對觀察變量的影響，從而更加準(zhǔn)確地對控制變量進(jìn)行評價。協(xié)變量一定要是連續(xù)數(shù)值型。非定量方差分析：因變量為定序變量第6頁,共56頁，2024年2月25日，星期天

統(tǒng)計技術(shù)分類圖定量因變量一個自變量多個自變量二分變量多分變量T檢驗單因子方差分析定類定類和定距定距N因子方差分析協(xié)方差分析回歸分析一個因變量多個因變量多變量方差分析因變量非定量因變量非定量方差分析第7頁,共56頁，2024年2月25日，星期天

方差分析原理目的：通過方差的比較來檢驗各個水平下的觀察值的均值是否相等觀察值差異：觀察值存在差異，差異的產(chǎn)生來自兩個方面。系統(tǒng)性差異：由控制變量的不同水平造成的，例如飲料的不同顏色帶來不同的銷售量隨機(jī)性差異：由于抽選樣本的隨機(jī)性而產(chǎn)生的差異，例如，相同顏色的飲料在不同的商場銷售量也不相同。第8頁,共56頁，2024年2月25日，星期天9方差分析的基本思想(單因素)組間變異總變異組內(nèi)變異組內(nèi)只包含隨機(jī)誤差組間既包括隨機(jī)誤差，也包括系統(tǒng)誤差第9頁,共56頁，2024年2月25日，星期天●●●●●●●●●●●●●●●●●●●●●●●●●●●●●●組間變異＞組內(nèi)變異AB第10頁,共56頁，2024年2月25日，星期天●●●●●●組間變異＜組內(nèi)變異●●●●●●●●●●●●●●●●●●●●●●●●AB第11頁,共56頁，2024年2月25日，星期天單因素方差分析邏輯與步驟

(One-WayANOVA)前提假設(shè)模型與假設(shè)平方和的分解與F檢驗多重比較(事后檢驗)關(guān)聯(lián)強(qiáng)度與效應(yīng)值第12頁,共56頁，2024年2月25日，星期天方差分析的前提條件(1)每個水平下的因變量應(yīng)當(dāng)服從正態(tài)分布。方差分析對分布假設(shè)有穩(wěn)健性(robust)，即正態(tài)性不滿足時，統(tǒng)計結(jié)果變化不大，因此一般并不要求檢驗總體的正態(tài)性。(2)變異可加性。各因素對離差平方和的影響可以分割成幾個可以加在一起的部分。（多因素）(3)獨(dú)立性。觀察對象是來自所研究因素的各個水平之下的獨(dú)立隨機(jī)抽樣第13頁,共56頁，2024年2月25日，星期天(4)方差齊性(homogeneityofvariance)，也稱變異的同質(zhì)性，各個水平下的總體具有相同的方差。這是方差分析一個很重要的前提，因此在進(jìn)行方差分析之前，應(yīng)當(dāng)進(jìn)行方差齊性檢驗。Bartlett檢驗法LeveneF檢驗最大方差與最小方差之比<3，初步認(rèn)為方差齊同。第14頁,共56頁，2024年2月25日，星期天方差不齊若方差齊性的假定不滿足，可考慮如下策略：

a.檢查某些表現(xiàn)“特殊”的觀測值，看能否將其剔除，用剩下的數(shù)據(jù)進(jìn)行方差分析。

b.使用無方差齊性假設(shè)的多重比較方法。

c.數(shù)據(jù)變換，用變換(平方根變換、對數(shù)變換等)后的數(shù)據(jù)進(jìn)行方差分析。正態(tài)性轉(zhuǎn)換。d.非參數(shù)檢驗第15頁,共56頁，2024年2月25日，星期天模型與假設(shè)模型表達(dá)式（單因素）Y=μ+a+e建立假設(shè)，確定檢驗水準(zhǔn)k組總體均數(shù)不全相等。第16頁,共56頁，2024年2月25日，星期天方差分析表

組間變異體現(xiàn)了因素A的效應(yīng)，組內(nèi)變異則被視作誤差。來源平方和自由度均方F值P值組間組內(nèi)總和確定P值，做出統(tǒng)計推斷第17頁,共56頁，2024年2月25日，星期天如果均值相等，F(xiàn)=MSA/MSE1a

F分布F

(k-1,n-k)0拒絕H0不能拒絕H0F第18頁,共56頁，2024年2月25日，星期天事后比較

(posteriori/posthoccomparison)F檢驗顯著說明各組均值并不相同(至少兩組不同)，但不能回答到底哪幾組不同。通過對各組均值之間的配對比較來進(jìn)一步檢驗到底哪些均值之間存在差異。方法眾多，不下20種。第19頁,共56頁，2024年2月25日，星期天LSD法：最靈敏，會犯假陽性錯誤；Sidak法：比LSD法保守；Bonferroni法：比Sidak法更為保守一些；常用Scheffe法：多用于進(jìn)行比較的兩組間樣本含量不等時；Dunnet法：常用于多個試驗組與一個對照組的比較；S-N-K法：尋找同質(zhì)亞組的方法；Turkey法：最遲鈍，要求各組樣本含量相同；Duncan法：與Sidak法類似。均數(shù)兩兩比較方法第20頁,共56頁，2024年2月25日，星期天關(guān)聯(lián)強(qiáng)度(strengthofassociation)與效應(yīng)值(effectsize)的度量實(shí)驗處理引致的效應(yīng)的大小或者數(shù)據(jù)的變異有多少部分是由實(shí)驗處理造成的。Eta平方凈(偏)Eta平方Omega平方Cohen'sf（具體內(nèi)容見附錄）第21頁,共56頁，2024年2月25日，星期天雙因素（無交互作用）試驗的方差分析表方差來源因素A總和平方和自由度均方和F值F值臨介值因素B誤差注意

各因素離差平方和的自由度為水平數(shù)減一，總平方和的自由度為試驗總次數(shù)減一。第22頁,共56頁，2024年2月25日，星期天雙因素（有重復(fù)）試驗方差分析表方差來源因素A總和平方和自由度均方和F值F值臨介值因素B誤差這里第23頁,共56頁，2024年2月25日，星期天方差分析的應(yīng)用范圍：

（一）單因素多個樣本均數(shù)的比較: 1.完全隨機(jī)設(shè)計：只安排一種處理因素，不安排任何配伍因素。

2.隨機(jī)化區(qū)組設(shè)計：只安排一種處理因素，安排一種配伍因素。

3.拉丁方設(shè)計：只安排一種處理因素，安排兩種配伍因素。

第24頁,共56頁，2024年2月25日，星期天（二）多因素樣本均數(shù)間的比較：1.析因設(shè)計：安排兩種或兩種以上處理因素，分析處理因素間的交互作用2.裂區(qū)設(shè)計：安排兩種或兩種以上處理因素，分析處理因素間的交互作用3.交叉設(shè)計：安排兩種或兩種以上處理因素，分析處理因素間的交互作用（三）多個樣本均數(shù)向量間的比較多元方差分析：結(jié)果變量有兩個以上，需要綜合評價。（四）回歸方程的假設(shè)檢驗

第25頁,共56頁，2024年2月25日，星期天協(xié)方差分析第26頁,共56頁，2024年2月25日，星期天27概念：將方差分析和回歸分析結(jié)合起來的一種統(tǒng)計分析方法

當(dāng)試驗指標(biāo)（Y）的變異既受一個或幾個分類變量，也受一個或幾個連續(xù)變量的影響，可采用協(xié)方差分析方差分析：一個或幾個因子（分類變量）對變量Y（連續(xù)變量）的影響回歸分析：一個或幾個變量（連續(xù)變量）對變量Y（連續(xù)變量）的影響第27頁,共56頁，2024年2月25日，星期天28目的消除連續(xù)變量對Y的影響，使方差分析的檢驗功效更高，結(jié)果更可靠連續(xù)變量可能會增大Y的組間差異，導(dǎo)致錯誤結(jié)論連續(xù)變量可能會增大Y的組內(nèi)變異，降低檢驗功效消除分類變量的影響，使回歸分析的結(jié)果更可靠第28頁,共56頁，2024年2月25日，星期天

20名男性籃球運(yùn)動員和20名大學(xué)生的肺活量（cm3）比較籃球運(yùn)動員肺活量Y大學(xué)生肺活量Y4700345052004100┇┇48004000協(xié)方差分析基本思想第29頁,共56頁，2024年2月25日，星期天協(xié)方差分析基本思想籃球運(yùn)動員大學(xué)生身高X肺活量Y身高X肺活量Y1854700168345017552001704100┇┇┇┇17448001694000

20名男性籃球運(yùn)動員和20名大學(xué)生的肺活量（cm3）比較協(xié)變量第30頁,共56頁，2024年2月25日，星期天協(xié)方差分析基本思想比較肺活量時，要消除身高的影響。方法1：抽樣時，選身高相近的。方法2：從統(tǒng)計分析技巧上平衡數(shù)據(jù)。校正了身高的影響后（回歸分析），再比較兩組肺活量的均數(shù)有無差異（方差分析）。第31頁,共56頁，2024年2月25日，星期天協(xié)方差分析基本思想在方差分析中，用來校正因變量的數(shù)值型變量稱為協(xié)變量（covariable）。含有協(xié)變量的方差分析稱為協(xié)方差分析。協(xié)方差分析可提高方差分析的準(zhǔn)確度。觀察指標(biāo)（Y）的總變異：SS總＝SS協(xié)變量＋SS處理＋SS誤差第32頁,共56頁，2024年2月25日，星期天33協(xié)方差分析的基本思想

其實(shí)質(zhì)就是從Y的總離均差平方和中扣除協(xié)變量X對Y的回歸平方和，對剩余（殘差）平方和作進(jìn)一步分解后再進(jìn)行方差分析，以更好的評價處理的效應(yīng)。

SS總＝SS回＋SS殘

SS總＝SS協(xié)變量＋SS處理＋SS誤差

SS修正＋SS組內(nèi)殘差第33頁,共56頁，2024年2月25日，星期天大學(xué)生籃球運(yùn)動員圖1協(xié)方差分析示意圖調(diào)整均數(shù)第34頁,共56頁，2024年2月25日，星期天協(xié)方差分析步驟完全隨機(jī)設(shè)計的協(xié)方差分析應(yīng)用條件檢驗回歸分析求調(diào)整均數(shù)對調(diào)整均數(shù)作方差分析第35頁,共56頁，2024年2月25日，星期天協(xié)方差分析的假設(shè)

協(xié)方差分析的基本假設(shè)與方差分析相同，包括變量的正態(tài)性、觀測值獨(dú)立、方差齊性等，此外還有三個重要的假設(shè)：因變量與協(xié)方差之間線性關(guān)系；所測量的協(xié)變量不應(yīng)有誤差，如果選用的是多項的量表，應(yīng)有高的內(nèi)部一致性信度或重測信度，α系數(shù)最好大于0.80。這一假設(shè)若被違反會造成犯一類錯誤的概率上升，降低統(tǒng)計檢驗力?！敖M內(nèi)回歸系數(shù)同質(zhì)性”（homogeneityofwithinrgression），各實(shí)驗處理組中一舉協(xié)變量（X）預(yù)測因變量（Y）的回歸線的回歸系數(shù)要相等，即斜率相等，各條回歸線平行。如果斜率不等則不宜直接進(jìn)行協(xié)方差分析。第36頁,共56頁，2024年2月25日，星期天37協(xié)方差分析的模型和假定回歸分析：協(xié)方差分析：模型協(xié)變量Co-variable方差分析：第37頁,共56頁，2024年2月25日，星期天第38頁,共56頁，2024年2月25日，星期天第39頁,共56頁，2024年2月25日，星期天Thanks!第40頁,共56頁，2024年2月25日，星期天問題：為什么一個比較均數(shù)差異的方法竟稱為方差分析？

這種命名是因為在檢驗均數(shù)間差異是否具有統(tǒng)計學(xué)意義的過程中，我們實(shí)際上是通過比較方差而得到的。與t檢驗直接比較兩組的平均數(shù)的做法不同，方差分析把“平均數(shù)之間差異是否顯著”的問題轉(zhuǎn)化為“平均數(shù)組間變異是否顯著”的問題，通過“組間變異”與“組內(nèi)變異”的對比，進(jìn)行F檢驗，從整體上同時比較多組的平均數(shù)之間是否存在顯著差異。第41頁,共56頁，2024年2月25日，星期天LSD(費(fèi)舍最小顯著差異法,Fisher’sleastsignificantdifference)

該方法是對檢驗兩總體均值是否相等的t檢驗方法的總體方差估計加以修正(用MSE代替)而得到的。特點(diǎn)檢驗敏感性高，即水平間的均值只要存在一定程度的微小差異就可能被檢驗出來。但該方法沒有控制范第一類錯誤的概率。第42頁,共56頁，2024年2月25日，星期天S-N-K(Student-Newman-Keuls,q檢驗)

首先把各組均值排序，用每一比較的兩個均值在排序序列種相差的等級數(shù)來確定不同的q臨界值。兩均值的rank之差是一種有效劃分相似性子集的方法，該方法適用于各水平下觀測值個數(shù)相等的情況。第43頁,共56頁，2024年2月25日，星期天Tukey法(honestysignificantdifferent,HSD)

與SNK法類似，不同之處在于不論各組均值的大小次序，均使用同一臨界值。組數(shù)它采用q統(tǒng)計量，適用于各水平下觀測值個數(shù)相等的情況。與LSD方法比較，較好的控制了范第一類錯誤的概率。第44頁,共56頁，2024年2月25日，星期天Bonferroni校正(以t分布作為檢驗分布,對檢驗水準(zhǔn)進(jìn)行調(diào)整)與LSD方法基本相同。不同的是它控制了范第一類錯誤的概率。在每次兩兩組的檢驗中，它將顯著水平除以兩兩檢驗的總次數(shù)。

在比較的次數(shù)較多時，該方法就不太適合。第45頁,共56頁，2024年2月25日，星期天

Dunnett方法

是一種唯一用于多個處理組和一個對照組比較的方法。第46頁,共56頁，2024年2月25日，星期天SPSS提供的常用多重比較檢驗方法1、Tambane’sT2:

基于t檢驗的保守的多重比較方法。不滿足方差齊性多重檢驗方法2、Dunnett’sT3:

基于學(xué)生化極大模的多重比較方法。3、Games-Howell:

非參數(shù)多重比較方法。4、Dunnett’sC:基于學(xué)生化極差的多重比較方法，是一種可信區(qū)間的方法。第47頁,共56頁，2024年2月25日，星期天Eta平方(Eta-Squared,η2)，又稱關(guān)聯(lián)強(qiáng)度(correlationratio)，因變量的變異被自變量解釋的百分比。凈Eta平方(partialEta-Squared,ηp2)，多因素ANOVA中，扣除了其他自變量后某自變量的效應(yīng)。

判斷標(biāo)準(zhǔn)：0.01，??；0.06，中；0.14，大第48頁,共56頁，2024年2月25日，星期天Omega平方(Omegasquared,ω2)

當(dāng)F顯著時，ω2將會是正值，若為負(fù)，則要解釋為0。當(dāng)樣本很大而使MSw變得很小，F(xiàn)很容易達(dá)到顯著，此時若ω2很小，即使在統(tǒng)計上有意義，實(shí)際應(yīng)用上仍然沒意義。

判斷標(biāo)準(zhǔn)：0.01，??；0.06，中；0.14，大第49頁,共56頁，2024年2月25日，星期天Cohen'sf

f

<0.25，低；0.40>f≥0.25，中；f≥0.40，高

第50頁,共56頁，2024年2月25日，星期天修正均數(shù)的計算：修正均數(shù)間的多重比較：S2y.x為組內(nèi)剩余方差第51頁,共56頁，2024年2月25日，星期天52SS總＝SS回＋SS總殘第52頁,共56頁，2024年2月25日，星期天常用試驗設(shè)計

1.完全隨機(jī)設(shè)計(