沖刺背誦方差分析

1、方差分析 (ysis of Variance)考慮以下情境:一位者感影響兒童閱讀能力的.者認為兒童的和每次閱讀時間可能是重要的影響。者設(shè)計了以下實驗：選取三個組的兒童: 3 歲, 8 歲, 和 14 歲.將每個組的兒童隨機分配到三個閱讀條件. 組 1 閱讀時間為 5 分鐘; 組 2 為 15 分鐘; 對于組3 為 30 分鐘.兩個之后測試了這些兒童的閱讀能力。閱讀時間5 分鐘 15 分鐘 30 分鐘3 歲8 歲14 歲這個有 3 X 3 樣本 (即 9 個). 如何分析數(shù)據(jù)?t-檢驗和 z-檢驗不能用于多于 2 組的數(shù)據(jù). 處理這類數(shù)據(jù)需要用 一種新的推論統(tǒng)計程序:方差分析 (ANOVA).A

2、NOVA 能夠處理數(shù)據(jù)的類型： 在上例中有兩個自變量 (稱為):和閱讀時間. 兩個都是組間(獨立樣本) 變量. ANOVA 亦可用于分析包含組內(nèi) (重復(fù)測量)的設(shè)計，同時包含組間和組內(nèi)的混合設(shè)計(e.g. 假設(shè)上例中用同一些兒童作縱向。是組內(nèi)變量,閱讀時間是組間變量).在方差分析中,就是自變量.包含一個自變量的稱為單設(shè)計（single-factordesign）. 具有多于一個自變量稱為設(shè)計（factorialdesign）.的個別處理條件稱為的水平.上述稱為設(shè)計, 兩個組間,每一個有 3 個水平 (稱為 3 X 3 組間設(shè)計).最基本的 ANOVA.集中單, 獨立測量的設(shè)計.1. ANOVA

3、 的邏輯與假設(shè)檢驗的邏輯是同樣的, 只是具體內(nèi)容有變化ANOVA 的邏輯ANOVA 的符號.ANOVA 的過程和例題事后檢驗陳述 H0 (和 H1 ?) ，確定標(biāo)準(zhǔn): = ?ANOVA 檢驗總是 單尾step1:step2:step3:檢驗的df (有兩個 df)step4:查表找出臨界 F 統(tǒng)計量step5:對于樣本，計算 F 統(tǒng)計量step6:比較 F 統(tǒng)計量 和臨界 F 統(tǒng)計量step7:對于 H0 作出結(jié)論單, 獨立測量設(shè)計的例子：檢驗三個不同的學(xué)習(xí)方法的效應(yīng)。將學(xué)生隨機分配到 3 個處理組方法A：讓學(xué)生只讀, 不去上課.方法B：上課,記筆記，不讀.方法C：不讀，不去上課, 只看別人的

4、筆記陳述假設(shè)和設(shè)定標(biāo)準(zhǔn) (選擇 )Step1:H0: 1 = 2 = 3H1:其中一個組與另一個（或）的組均值不同。備擇假設(shè)可能的形式很多：1 不等于 2= 311132=不等于= 2不等于 323不等于不等于因此，只需給出虛無假設(shè)就夠了step2:ANOVA 檢驗總是單尾. 因為不存在負的方差. F 分布表也只有單側(cè)的 Alpha.（F 分布圖）step3:找出檢驗的 df. 注意要考慮幾個 df (step4:從表找出臨界 F 統(tǒng)計量分子的 df分母的 df12345116140522004999216540322556252305764218.5198.4919.0099.0019.16

5、99.1719.2599.2519.3099.30310.1334.129.5530.929.2829.469.1228.719.0128.24:與 t 分布表類似, F 分布表也是描述一族 F 分布.需要用到兩個 df,用一個找出正確的行另一個找出正確的列.上面一行對應(yīng)于 下面一行對應(yīng)于 = 0.01.=0.05,step5: 計算樣本 的 F 統(tǒng)計量觀測值概念的水平的：ANOVA 非常類似 兩個獨立樣本的 t 檢驗tobs= 得到的樣本均值間差異期望的機會差異對于ANOVA 檢驗統(tǒng)計量 (稱為 F 比率)類似F =樣本均值間方差 (差異)期望的機會(誤差)方差(差異)為什么用方差?因為有多

6、于兩個組.如何計算一個分數(shù)來描述差異間分布?差異不能夠分割,但是方差能夠分割。這就是ANOVA -方差分析名字的由來.首先考慮方差的來源.什么造成樣本的不同(處理間變異) ？處理/組效應(yīng) - 處理造成的差異差異效應(yīng) -差異變異隨機誤差每一個樣本內(nèi)部的變異 (處理內(nèi)變異)差異效應(yīng)隨機誤差F 比率 可以表達為:F 比率=樣本均值間的方差 (差異)期望的機會 (誤差)方差(差異)F 比率=處理間方差處理內(nèi)方差F 比率= 處理效應(yīng) +差異 + 隨機誤差差異 + 隨機誤差注意:有時分母叫做誤差部分，其量度了由于機會造成的方差如果 H0 為真,處理效應(yīng)的值應(yīng)該如何?H0: 123=如果沒有差異, 效應(yīng)方差

7、 = 0如果效應(yīng)方差 = 0, F 比率值?F 比率 = 0 +差異 + 隨機誤差 = 1 = 1.0差異 + 隨機誤差 1如果H0為假， F 比率應(yīng)該大于 1.step 6: 比較 F 統(tǒng)計量的觀測值與臨界 F 統(tǒng)計量如果 F 統(tǒng)計量的觀測值 (Fobs) 在統(tǒng)計上顯著地大于1.0 則H02. ANOVA 的符號K = 處理條件(或組)的數(shù)目n = 每一個組的數(shù)目(如果它們相等)ni = 第i 組的數(shù)目(如果 它們不等)niN = 總的樣本容量Ti = XijXijG =總的和G-bar = G / N = 總的均值(Xij2i)SSi= 每一個組的和方 =-在上例中：X2 = 106G =

8、 30 = 總的和N = 15 = 總的樣本容量G-bar = 30/15 = 2 = 總的均值K = 3 =處理條件 (或組) 的數(shù)目3. ANOVA 的過程和例題F 比率 = 處理間方差處理內(nèi)方差需要找出兩個方差.最基本公式 s2 = SS/df. SS 和 = X - (G /N)22= 106 - (302/15) =106 - 60 = 46SS 和需要將其分解為組間變異和組內(nèi)變異.SS 和=SS 組間+SS 組內(nèi)如何得到 SS 組內(nèi)? 將每一個組 SS 相加= SS 每一個 處理內(nèi)部 =SSiSSwithin= 6 + 6 + 4 = 16如何得到 SS 組間?方法方法 A只讀方法

9、 B只作筆記方法 C借別人筆記0410T1 = 5T2 = 20T3 = 5SS1 = 6SS2 = 6SS3 = 4n1 = 5n2 = 5n3 = 51 = 12 = 43 = 1快捷的方法是:SS 和- SS 組內(nèi)若數(shù)據(jù)足夠，不用這種方法,因為:無法檢查計算錯誤未涉及 SS 組間 是如何組成.直接計算SS 組間的兩個公式:定義公式和計算公式SS 和 = SS 組間 + SS 組內(nèi) = 16 + 30 = 46s2= SS/df.已計算出 SS, 找出 df:共有兩個 (或三個)度, 一個組間方差 df,一個組內(nèi)方差 df(以及一個總的df).df 和 = N - 1df 組內(nèi) = = N

10、 - Kdf 組間=K - 1df 和 = df 組內(nèi) + df 組間在例子中:df 組內(nèi) = 15- 3= 12df 組間=3 -1 =2df 和= 15- 1= 14, = 12 + 2現(xiàn)在計算方差. 這里稱為均方.方差 = 均方 = MS = SS/dfMS 組間= SS 組間/df 組內(nèi)- 上例中 = 30/2 = 15注意: 有時MS 組間稱為誤差的均方.MS 組內(nèi) = MS 誤差 =誤差的均方 = SS 組內(nèi)/df 組內(nèi)- 上例中 = 16/12 = 1.33F 比率 = 處理間方差 = MS 組間處理內(nèi)方差MSw 組間上例中的 F 比率是: 15/1.33 = 11.28定義公式

11、計算公式SS 間 = ni(- G-bar)2SS 間 = (T2/ni) - G2/N= 5(1 - 2) 2 + 5(4 - 2) 2 + 5(1 - 2)2= 5 + 20 + 5= 30= 52/5 + 202/5 + 52/5 - 302/15= 5 + 80 + 5 - 60= 30將結(jié)果總結(jié)到方差分析表中：SSdfMS來源處理間301621215.01.33F = 11.28處理內(nèi)總的4614查F 表確定Fcrit對假設(shè)作出結(jié)論df 組間=分子的 dfdf 組內(nèi)=分母的 df (誤差)-上例中:df 組內(nèi)=12;df 組間=2如果選擇 =.05, Fcrit = 3.88如果選擇

12、 =.01, Fcrit = 6.93H0 (1 = 2 = 3).F 比率的觀測值 11.28 大于 Fcrit.,所以結(jié)果F(df 組間,df 組內(nèi))= Fobs, p ?分子的 df分母的 df12345116140522004999216540322556252305764218.5198.4919.0099.0019.1699.1719.2599.2519.3099.30310.1334.129.5530.929.2829.469.1228.719.0128.24:124.759.333.886.933.495.953.265.413.115.06134.679.073.806.70

13、3.415.743.185.203.024.86:單方差分析發(fā)現(xiàn)學(xué)習(xí)方法有顯著的效應(yīng), F(2,12) = 11.28, p 0.01.注意:電腦的結(jié)果輸出 會給出實際 p-值. 假設(shè)檢驗的邏輯 是必須事前預(yù)設(shè) Alpha 水平. 如果選擇了 .01, 就必須 將其用于所有的檢驗.所以,如果有兩個實驗, 電腦程序得到實驗 1 的 p值 = .001,實驗 2 的 p -值 = .01. 它們都在統(tǒng)計上顯著. 假設(shè)檢驗是 yes/no 決策. 上例中,結(jié)論 都是 YES.實驗 1 的結(jié)果并不比實驗 2更顯著.4.事后檢驗（t hoc tests）ANOVA 的結(jié)果是檢驗H0: 1 = 2 = 3

14、 ,這是一個兩點 (/不) 決策. 并未提供哪個備擇假設(shè)得到支持. 也就是說, 只知道一些組與其它組不同, 但并知道差別在哪些組之間.所以從 ANOVA 得到顯著差異的結(jié)果 (H0)后,一定要做作 some 事后檢驗. 事后檢驗 使我們能夠比較各組, 發(fā)現(xiàn)差異產(chǎn)生在什么地方.事后檢驗就是比較每一個處理組與另一個處理組, 一次比較兩個. 這稱為成對比較.12, 1 與 3,2 與 3.在上例中, 可以比較與以及這樣的做法有沒有問題？每一個比較 都是一個單獨的假設(shè)檢驗, 每一個都有犯 I 類錯誤的風(fēng)險. 所以,比較對數(shù)越多,作結(jié)論的風(fēng)險越大。即容易發(fā)現(xiàn)實際不存在的差異。 這稱為實驗導(dǎo)致的（expe

15、rimentwise）alpha 水平 (或族系（familywise） 誤差)EW = 1 - (1- a)cc = 比較對數(shù)如果選擇 = 0.05 作 3 對比較- a)c = 1 - (.95)3 = 1 - .857 = .143對于上述例子,EW = 1 - (1I 類錯誤的機會增加到 14.7%而不再是 5%，多數(shù)事后檢驗設(shè)計中都控制了實驗導(dǎo)致誤差.這里介紹兩個事后檢驗: Tukeys HSD 檢驗 (honestly 差異顯著性) 檢驗和 Scheff 檢驗.a)Tukeys HSD 檢驗可以計算出單一的值確定處理均值間的最小差異，考查此差異在統(tǒng)計上是否顯著.此檢驗要求各組有相等

16、的樣本容量.HSD = q * sqrt（MS 組內(nèi)/n）q 值 可以從表中查出(附表 6). 需要用到 K 和df 組內(nèi),以及EW在上例中 (用EW = .05):HSD = q * sqrt（MS 組內(nèi)/n）=(3.77) sqrt（1.33/5） = (3.77)(.516) = 1.94H0: 12比較 1:=2 -1 = 4.0 - 1.0 = 3.0HSD = 1.94 0.0，不能H0H0: 23比較 3:=2 -3 = 4.0 - 1.0 = 3.0HSD = 1.94 3.88,比較 2: H0: 1H0= 3SS 組間=+- = 0MS 組間=0/2 = 0MS 組內(nèi)=16/12 = 1.33F 比率 = MS 間 =