方差分析與實驗設(shè)計.ppt

August 1, 2010,警惕過多地假設(shè)檢驗。你對數(shù)據(jù)越 苛求，數(shù)據(jù)會越多地向你供認，但 在威逼下得到的供詞，在科學(xué)詢查 的法庭上是不容許的。 Stephen M.Stigler,統(tǒng)計名言,第 7 章 方差分析與實驗設(shè)計,7.1 方差分析的基本原理 7.2 單因子方差分析 7.3 雙因子方差分析 7.4 實驗設(shè)計初步,August 1, 2010,不同運動隊的平均成績之間是否有顯著差異？,奧運會女子團體射箭比賽，每個對有3名運動員。進入最后決賽的運動隊需要進行4組射擊，每個隊員進行兩次射擊。這樣，每個組共射出6箭，4組共射出24箭 在2008年8月10日進行的第29屆北京奧運會女子團體射箭比賽中，獲得前3名的運動隊最后決賽的成績?nèi)缦卤硭?August 1, 2010,不同運動隊的平均成績之間是否有顯著差異？,每個隊伍的24箭成績可以看作是該隊伍射箭成績的一個隨機樣本。獲得金牌、銀牌和銅牌的隊伍之間的射箭成績是否有顯著差異呢？ 如果采用第6章介紹的假設(shè)檢驗方法，用分布做兩兩的比較，則需要做次比較。這樣做不僅繁瑣，而且每次檢驗犯第類錯誤的概率都是，作多次檢驗會使犯第類錯誤的概率相應(yīng)地增加，檢驗完成時，犯第類錯誤的概率會大于。同時，隨著檢驗的次數(shù)的增加，偶然因素導(dǎo)致差別的可能性也會增加 采用方差分析方法很容易解決這樣的問題，它是同時考慮所有的樣本數(shù)據(jù)，一次檢驗即可判斷多個總體的均值是否相同，這不僅排除了犯錯誤的累積概率，也提高了檢驗的效率方差分析方法就很容易解決這樣的問題，它是同時考慮所有的樣本數(shù)據(jù)，一次檢驗即可判斷多個總體的均值是否相同，這不僅排除了犯錯誤的累積概率，也提高了檢驗的效率,7.1 方差分析的基本原理 7.1.1 什么是方差分析？ 7.1.2 從誤差分析入手 7.1.3 在什么樣的前提下分析？,第 7 章 方差分析與實驗設(shè)計,7.1.1 什么是方差分析？,7.1 方差分析的基本原理,August 1, 2010,什么是方差分析(ANOVA)? (analysis of variance),方差分析的基本原理是在20世紀(jì)20年代由英國統(tǒng)計學(xué)家Ronald A.Fisher在進行實驗設(shè)計時為解釋實驗數(shù)據(jù)而首先引入的 檢驗多個總體均值是否相等 通過分析數(shù)據(jù)的誤差判斷各總體均值是否相等 研究分類型自變量對數(shù)值型因變量的影響 一個或多個分類型自變量 兩個或多個 (k 個) 處理水平或分類 一個數(shù)值型因變量 有單因子方差分析和雙因子方差分析 單因子方差分析：涉及一個分類的自變量 雙因子方差分析：涉及兩個分類的自變量,August 1, 2010,什么是方差分析? (例題分析),【 例 】確定超市的位置和競爭者的數(shù)量對銷售額是否有顯著影響，獲得的年銷售額數(shù)據(jù)(單位：萬元)如下表,因子,水平或處理,樣本數(shù)據(jù),August 1, 2010,什么是方差分析? (例題分析),如果只考慮“超市位置”對銷售額是否有顯著影響，實際上也就是要判斷不同位置超市的銷售額均值是否相同 若它們的均值相同，意味著“超市位置”對銷售額沒有顯著影響；若均值不全相同，則意味著“超市位置”對銷售額有顯著影響 “超市位置”就是分類自變量，“銷售額”則是數(shù)值因變量。“超市位置”是要檢驗的對象，稱為因子(factor)，商業(yè)區(qū)、居民小區(qū)、寫字樓是因子的3個取值，稱為水平(level)或處理(treatment)。每個因子水平下得到的銷售額為樣本觀測值 方差分析要解決的問題就是判斷超市的位置對銷售額是否有顯著影響。設(shè)商業(yè)區(qū)、居民小區(qū)和寫字樓3個位置超市的銷售額均值是否相同,7.1.2 從誤差分析入手,7.1 方差分析的基本原理,August 1, 2010,方差分析的基本原理 (誤差分解),總誤差(total error) 反映全部觀測數(shù)據(jù)的誤差稱 所抽取的全部36家超市的銷售額之間差異 隨機誤差(random error)組內(nèi)誤差(within-group error) 由于抽樣的隨機性造成的誤差 反映樣本內(nèi)部數(shù)據(jù)之間的隨機誤差 處理誤差(treatment error)組間誤差(between-group error) 不同的處理影響所造成的誤差 反映樣本之間數(shù)據(jù)的差異,August 1, 2010,方差分析的基本原理 (誤差分解),數(shù)據(jù)的誤差用平方和(sum of squares)表示，記為SS 總平方和(sum of squares for total)記為SST 反映全部數(shù)據(jù)總誤差大小的平方和 抽取的全部36家超市銷售額之間的誤差平方和 組內(nèi)平方和(within-group sum of squares)記為SS組內(nèi) 反映組內(nèi)誤差大小的平方和 比如，每個位置超市銷售額的誤差平方和 只包含隨機誤差 組間平方和(between-group sum of squares)記為SS組間 反映組間誤差大小的平方和 比如，同位置超市銷售額之間的誤差平方和 既包括隨機誤差，也包括處理誤差,August 1, 2010,方差分析的基本原理 (誤差分解),誤差平方和的分解及其關(guān)系,總誤差,總平方和 (SST),隨機誤差,處理誤差,組內(nèi)平方和 (SS組內(nèi)),組間平方和 (SS組間),=,=,+,+,August 1, 2010,方差分析的基本原理 (誤差分析),誤差的大小用均方(mean square)來表示，也稱為方差(variance) 平方和除以相應(yīng)的自由度 總平方和(SST)的自由度為n-1；組內(nèi)平方和(SS組內(nèi))的自由度為n-k ；組間平方和(SS組間)的自由度為k-1 組內(nèi)平方和除以相應(yīng)的自由度結(jié)果稱為組內(nèi)方差(within-group variance)；組間平方和除以相應(yīng)的自由度結(jié)果稱為組間方差(between-group variance),August 1, 2010,方差分析的基本原理 (誤差分析),判斷原假設(shè)是否成立，就是判斷組間方差與組內(nèi)方差是否有顯著差異 若原假設(shè)成立，組間均方與組內(nèi)均方的數(shù)值就應(yīng)該很接近，它們的比值就會接近1 若原假設(shè)不成立，組間均方會大于組內(nèi)均方，它們之間的比值就會大于1 當(dāng)這個比值大到某種程度時，就可以說不同水平之間存在著顯著差異，即自變量對因變量有影響,7.1.3 在什么樣的前提下分析？,7.1 方差分析的基本原理,August 1, 2010,方差分析的基本假定,正態(tài)性(normality)。每個總體都應(yīng)服從正態(tài)分布，即對于因子的每一個水平，其觀測值是來自正態(tài)分布總體的簡單隨機樣本 在例7.1中，要求每個位置超市的銷售額必須服從正態(tài)分布 檢驗總體是否服從正態(tài)分布的方法有很多，包括對樣本數(shù)據(jù)作直方圖、莖葉圖、箱線圖、正態(tài)概率圖做描述性判斷，也可以進行非參數(shù)檢驗等 方差齊性(homogeneity variance)。各個總體的方差必須相同，對于分類變量的k個水平，有12=22=k2 在例7.1中，要求不同位置超市的銷售額的方差都相同 獨立性(independence)。每個樣本數(shù)據(jù)是來自因子各水平的獨立樣本(該假定不滿足對結(jié)果影響較大) 在例7.1中，3個樣本數(shù)據(jù)是來自不同位置超市的3個獨立樣本,August 1, 2010,方差分析中基本假定, 如果原假設(shè)成立，即H0 ：m1=m2=m3 不同位置超市的平均銷售額相等 意味著每個樣本都來自均值為、方差為 2的同一正態(tài)總體,X,f(X),1 2 3 4,August 1, 2010,方差分析中基本假定,若備擇假設(shè)成立，即H1 ：mi (i=1,2,3)不全相等 至少有一個總體的均值是不同的 3個樣本分別來自均值不同的3個正態(tài)總體,X,f(X),1 2 3,7.2 單因子方差分析 7.2.1 檢驗步驟 7.2.2 關(guān)系有多強？ 7.2.3 哪些均值之間有顯著差異？,第 7 章 方差分析與實驗設(shè)計,7.2.1 檢驗步驟,7.2 單因子方差分析,August 1, 2010,單因子方差分析 (one-way analysis of variance),只考慮一個分類型自變量影響的方差分析 比如，在例7.1中，只考慮超市位置一個因子對銷售額度影響，或者只考慮競爭者數(shù)量對銷售額的影響，都屬于單因子方差分析 分析步驟包括 提出假設(shè) 構(gòu)造檢驗統(tǒng)計量 做出決策,August 1, 2010,提出假設(shè),一般提法 H0 ：m1 = m2 = mk 自變量對因變量沒有顯著影響 H1 ：m1 ，m2 ， ，mk不全相等 自變量對因變量有顯著影響 注意：拒絕原假設(shè)，只表明至少有兩個總體的均值不相等，并不意味著所有的均值都不相等,August 1, 2010,構(gòu)造檢驗的統(tǒng)計量F,將組間方差MS組間除以組內(nèi)方差MS組內(nèi)即得到所需要的檢驗統(tǒng)計量F 當(dāng)H0為真時，二者的比值服從分子自由度為k-1、分母自由度為 n-k 的 F 分布，即,組間平方和,組內(nèi)平方和,August 1, 2010,做出決策, 將統(tǒng)計量的值F與給定的顯著性水平的臨界值F進行比較(或計算出統(tǒng)計量的P值)，做出決策 若PF ，不拒絕原假設(shè)H0 ，無證據(jù)表明所檢驗的因子對觀察值有顯著影響,August 1, 2010,作出決策 (F分布與拒絕域),如果均值相等，F(xiàn)=MS組間/MS組內(nèi)1,August 1, 2010,單因子方差分析 (例題分析),【例】檢驗超市位置對銷售額是否有顯著影響 (=0.05),August 1, 2010,單因子方差分析 (例題分析),提出假設(shè)。設(shè)不同位置超市銷售額的均值分別為1(商業(yè)區(qū))、 2(居民小區(qū))和3 (寫字樓) ，提出的假設(shè)為 H0 ：1 2 3 H1 ：1 , 2 , 3 不全相等 檢驗方差分析的前提 進行分析并做出決策,August 1, 2010,單因子方差分析 (方差分析假定的判斷),箱線圖分析,好像不一樣？,August 1, 2010,單因子方差分析 (方差分析假定的判斷),概率圖分析,August 1, 2010,用Excel進行方差分析,第1步：選擇“工具 ”下拉菜單 第2步：選擇【數(shù)據(jù)分析】選項 第3步：在分析工具中選擇【單因子方差分析】 ， 然后選擇【確定】 第4步：當(dāng)對話框出現(xiàn)時 在【輸入?yún)^(qū)域 】方框內(nèi)鍵入數(shù)據(jù)單元格區(qū)域 在【】方框內(nèi)鍵入0.05(可根據(jù)需要確定) 在【輸出選項 】中選擇輸出區(qū)域, 用Excel進行方差分析,August 1, 2010,單因子方差分析 (例題分析),拒絕H0,August 1, 2010,方差分析表,單因子方差分析,7.2.2 關(guān)系有多強？,7.2 單因子方差分析,August 1, 2010,關(guān)系強度的測量,拒絕原假設(shè)表明因子(自變量)與觀測值之間有顯著關(guān)系 組間平方和(SS組間)度量了自變量(超市位置)對因變量(銷售額)的影響效應(yīng) 當(dāng)組間平方和比組內(nèi)平方和(SSE)大，而且大到一定程度時，就意味著兩個變量之間的關(guān)系顯著，大得越多，表明它們之間的關(guān)系就越強。反之，就意味著兩個變量之間的關(guān)系不顯著，小得越多，表明它們之間的關(guān)系就越弱,August 1, 2010,關(guān)系強度的測量,變量間關(guān)系的強度用自變量平方和(SS組間) 占總平方和(SST)的比例大小來反映 自變量平方和占總平方和的比例記為R2 ,即 其平方根R可以用來測量兩個變量之間的關(guān)系強度,例題分析：R2=44.74%，R=0.6689。表明超市位置(自變量)對銷售額(因變量)的影響效應(yīng)占總效應(yīng)的44.74%。盡管并不高，但超市位置對銷售額的影響都已經(jīng)達到了統(tǒng)計上顯著的程度。R表明超市位置與銷售額之間已達到中等以上的相關(guān),7.2.2 哪些均值之間有顯著差異？,7.2 單因子方差分析,August 1, 2010,多重比較的意義,在拒絕原假設(shè)的條件下，通過對總體均值之間的配對比較來進一步檢驗到底哪些均值之間存在差異 比較方法有多種，若Fisher提出的最小顯著差異方法，簡寫為LSD,August 1, 2010,多重比較的LSD方法,提出假設(shè) H0: mi=mj (第i個總體的均值等于第j個總體的均值) H1: mimj (第i個總體的均值不等于第j個總體的均值) 計算檢驗的統(tǒng)計量: 計算LSD 決策：若 ，拒絕H0,August 1, 2010,多重比較的LSD方法 (例題分析),第1步：提出假設(shè) 檢驗1： 檢驗2： 檢驗3：,第2步：計算檢驗統(tǒng)計量 檢驗1： 檢驗2： 檢驗3：,August 1, 2010,多重比較的LSD方法 (例題分析),第3步：計算LSD 第4步：做出決策,不拒絕H0，沒有證據(jù)表明商業(yè)區(qū)和居民小區(qū)的超市銷售額之間有顯著差異,拒絕H0，商業(yè)區(qū)和寫字樓的超市銷售額之間有顯著差異,拒絕H0，居民小區(qū)和寫字樓的超市銷售額之間有顯著差異,August 1, 2010,用SPSS進行方差分析和多重比較, 在用SPSS中進行方差分析時，需要把多個樣本的觀測值作為一個變量輸入(本例為“投訴次數(shù)”)，然后設(shè)計另一個變量用于標(biāo)記每個觀測值所屬的樣本(本例為“行業(yè)”，1表示零售業(yè)，2表示旅游業(yè)，3表示航空公司，4表示家電制造業(yè)) 第1步：選擇【Analyze】 【Compare Means】 【One-Way-ANOVA】進入主對話框 第2步：因變量(投訴次數(shù))選入【Dependent List】，將自變量(行業(yè))選入【Factor)】 第3步 (需要多重比較時)點擊【Post-Hoc】從中選擇一種方法，如LSD； (需要均值圖時)在【Options】下選中【Means plot】，(需要相關(guān)統(tǒng)計量時) 選擇【Descriptive】，點擊【Continue】回到主對話框。點擊【OK】,用SPSS進行方差分析,August 1, 2010,用SPSS進行方差分析和多重比較,方差齊性表檢驗,方差分析表,August 1, 2010,用SPSS進行方差分析和多重比較,多重比較,August 1, 2010,用SPSS進行方差分析和多重比較,帶誤差線(Error Bar)的均值圖(Means Plots),總體均值95%的置信區(qū)間,7.3 雙因子方差分析 7.3.1 不考慮交互作用 7.3.3 考慮交互作用,第 7 章 方差分析與實驗設(shè)計,7.3.1 不考慮交互作用,7.3 雙因子方差分析,August 1, 2010,雙因子方差分析 (two-way analysis of variance),分析兩個因子(行因子Row和列因子Column)對實驗結(jié)果的影響 如果兩個因子對實驗結(jié)果的影響是相互獨立的，分別判斷行因子和列因子對實驗數(shù)據(jù)的影響，這時的雙因子方差分析稱為無交互作用的雙因子方差分析或無重復(fù)雙因子方差分析(Two-factor without replication) 如果除了行因子和列因子對實驗數(shù)據(jù)的單獨影響外，兩個因子的搭配還會對結(jié)果產(chǎn)生一種新的影響，這時的雙因子方差分析稱為有交互作用的雙因子方差分析或可重復(fù)雙因子方差分析 (Two-factor with replication ),August 1, 2010,雙因子方差分析的基本假定,每個總體都服從正態(tài)分布 對于因子的每一個水平，其觀察值是來自正態(tài)分布總體的簡單隨機樣本 各個總體的方差必須相同 對于各組觀察數(shù)據(jù)，是從具有相同方差的總體中抽取的 觀察值是獨立的,August 1, 2010,雙因子方差分析 (例題分析),【例】有4個品牌的彩電在5個地區(qū)銷售，為分析彩電的品牌(品牌因子)和銷售地區(qū)(地區(qū)因子)對銷售量的影響，對每顯著個品牌在各地區(qū)的銷售量取得以下數(shù)據(jù)。試分析品牌和銷售地區(qū)對彩電的銷售量是否有顯著影響？(=0.05),August 1, 2010,分析步驟 (提出假設(shè)),提出假設(shè) 對行因子提出的假設(shè)為 H0：m1 = m2 = = mi = = mk (mi為第i個水平的均值) H1：mi (i =1,2, , k) 不全相等 對列因子提出的假設(shè)為 H0： m1 = m2 = = mj = = mr (mj為第j個水平的均值) H1： mj (j =1,2,r) 不全相等,August 1, 2010,雙因子方差分析 (例題分析), 提出假設(shè) 對品牌因子提出的假設(shè)為 H0：m1=m2=m3=m4 (品牌對銷售量無顯著影響) H1：mi (i =1,2, , 4) 不全相等 (有顯著影響) 對地區(qū)因子提出的假設(shè)為 H0：m1=m2=m3=m4=m5 (地區(qū)對銷售量無顯著影響) H1：mj (j =1,2,5) 不全相等 (有顯著影響),August 1, 2010,分析步驟 (構(gòu)造檢驗的統(tǒng)計量),計算平方和(SS) 總誤差平方和 行因子誤差平方和 列因子誤差平方和 隨機誤差項平方和,August 1, 2010,分析步驟 (構(gòu)造檢驗的統(tǒng)計量), 總誤差平方和(SST )、行因子平方和 (SS行)、列因子平方和(SS列) 、誤差項平方和(SS殘差) 之間的關(guān)系,SST = SS行 +SS列+SS殘差,August 1, 2010,分析步驟 (構(gòu)造檢驗的統(tǒng)計量),計算均方(MS) 誤差平方和除以相應(yīng)的自由度 三個平方和的自由度分別是 總誤差平方和SST的自由度為 kr-1 行因子平方和SSR的自由度為 k-1 列因子平方和SSC的自由度為 r-1 誤差項平方和SSE的自由度為 (k-1)(r-1),August 1, 2010,分析步驟 (構(gòu)造檢驗的統(tǒng)計量),計算均方(MS) 行因子的均方，記為MS行，計算公式為 列因子的均方，記為MS列，計算公式為 誤差項的均方，記為MS殘差 ，計算公式為,August 1, 2010,分析步驟 (構(gòu)造檢驗的統(tǒng)計量),計算檢驗統(tǒng)計量( F ) 檢驗行因子的統(tǒng)計量 檢驗列因子的統(tǒng)計量,August 1, 2010,分析步驟 (做出決策), 計算出統(tǒng)計量的P值與給定的顯著性水平比較， 若PR ，拒絕原假設(shè)H0 ，表明均值之間的差異是顯著的，即所檢驗的行因子對觀察值有顯著影響 若PC ，拒絕原假設(shè)H0 ，表明均值之間有顯著差異，即所檢驗的列因子對觀察值有顯著影響, 用Excel進行無重復(fù)雙因子分析,August 1, 2010,雙因子方差分析 (關(guān)系強度的測量),行平方和(SS行)度量了品牌這個自變量對因變量(銷售量)的影響效應(yīng) 列平方和(SS列)度量了地區(qū)這個自變量對因變量(銷售量)的影響效應(yīng) 這兩個平方和加在一起則度量了兩個自變量對因變量的聯(lián)合效應(yīng) 聯(lián)合效應(yīng)與總平方和的比值定義為R2 其平方根R反映了這兩個自變量合起來與因變量之間的關(guān)系強度,August 1, 2010,雙因子方差分析 (關(guān)系強度的測量),例題分析 品牌因子和地區(qū)因子合起來總共解釋了銷售量差異的83.94% 其他因子(殘差變量)只解釋了銷售量差異的16.06% R=0.9162，表明品牌和地區(qū)兩個因子合起來與銷售量之間有較強的關(guān)系,7.3.2 考慮交互作用,7.3 雙因子方差分析,August 1, 2010,可重復(fù)雙因子分析 (提出假設(shè)),提出假設(shè) 對行因子提出的假設(shè)為 H0：m1 = m2 = = mi = = mk (mi為第i個水平的均值) H1：mi (i =1,2, , k) 不全相等 對列因子提出的假設(shè)為 H0： m1 = m2 = = mj = = mr (mj為第j個水平的均值) H1： mj (j =1,2,r) 不全相等 對交互作用的假設(shè)為 H0：不無交互作用 H1： 有交互作用,August 1, 2010,可重復(fù)雙因子分析 (平方和的計算),總平方和： 行變量平方和： 列變量平方和： 交互作用平方和： 誤差項平方和：,SST=SS行+SS列+SS交互+SS殘差,August 1, 2010,可重復(fù)雙因子分析 (構(gòu)造檢驗統(tǒng)計量),檢驗行因子的統(tǒng)計量 檢驗列因子的統(tǒng)計量 檢驗交互作用的統(tǒng)計量,計算出統(tǒng)計量的P值，若P，拒絕原假設(shè),August 1, 2010,可重復(fù)雙因子分析 (例題分析),【例】檢驗超市位置、競爭者數(shù)量及其交互作用對銷售額是否有顯著影響(=0.05),August 1, 2010,可重復(fù)雙因子分析 (Excel檢驗步驟),第1步：選擇“工具”下拉菜單，并選擇【數(shù)據(jù)分析】選項 第2步：在分析工具中選擇【方差分析：可重復(fù)雙因子分 析】，然后選擇【確定】 第3步：當(dāng)對話框出現(xiàn)時 在【輸入?yún)^(qū)域】方框內(nèi)鍵入數(shù)據(jù)區(qū)域(A1：C11) 在【】方框內(nèi)鍵入0.05(可根據(jù)需要確定) 在【每一樣本的行數(shù)】方框內(nèi)鍵入重復(fù)實驗次數(shù)(5) 在【輸出區(qū)域】中選擇輸出區(qū)域 選擇【確定】, 用Excel進行可重復(fù)雙因子分析,7.4 實驗設(shè)計初步 7.4.1 完全隨機化設(shè)計 7.4.2 隨機化區(qū)組設(shè)計 7.4.3 因子設(shè)計,第 7 章 方差分析與實驗設(shè)計,August 1, 2010,實驗設(shè)計與方差分析,7.4.1 完全隨機化設(shè)計,7.4 實驗設(shè)計初步,August 1, 2010,完全隨機化設(shè)計 (completely randomized design),“處理”被隨機地指派給實驗單元的一種設(shè)計 “處理”是指可控制的因子的各個水平 “實驗單元(experiment unit)”是接受“處理”的對象或?qū)嶓w 在實驗性研究中，感興趣的變量是明確規(guī)定的，因此，研究中的一個或多個因子可以被控制，使得數(shù)據(jù)可以按照因子如何影響變量來獲取 對完全隨機化設(shè)計的數(shù)據(jù)采用單因子方差分析,August 1, 2010,完全隨機化設(shè)計 (例題分析),這里的“小麥品種”就是實驗因子或因子，品種1、品種2