第二章因子試驗(yàn)設(shè)計(jì)-《試驗(yàn)設(shè)計(jì)與建模》課件

第二章因子試驗(yàn)設(shè)計(jì)1第二章因子試驗(yàn)設(shè)計(jì)12.1單因素試驗(yàn)例

2.1:

在某一個(gè)工業(yè)試驗(yàn)中，限定其它試驗(yàn)條件，只考慮溫度這個(gè)因素對(duì)產(chǎn)品產(chǎn)量的影響，并記為A。選定5個(gè)水平，分別為A1=60oC、A2=70oC、A3=80oC、A4=90oC、A5=100oC。在每個(gè)水平處試驗(yàn)的重復(fù)次數(shù)都為3。結(jié)果如表2.1所示，其總均值為68:2。22.1單因素試驗(yàn)例2.1:在某一個(gè)工業(yè)試驗(yàn)中，限定其它圖2.1.單因素試驗(yàn)的散點(diǎn)圖3圖2.1.單因素試驗(yàn)的散點(diǎn)圖337=40+(-3)=68.2-28.2+(-3)主效應(yīng)隨機(jī)誤差總均值37=40-340=40-043=40+340=68.2-28.277=68.2+8.892=68.2+23.881=68.2+12.880=68.2-18.2表

2.2:

單因素試驗(yàn)437=40+(-3)=68.2-28.2+2.1.1線性可加模型(2.1)52.1.1線性可加模型(2.1)5模型的估計(jì)A.

最小二乘估計(jì)可表示為線性模型：模型:6模型的估計(jì)A.最小二乘估計(jì)可表示為線性模型：模型:67788我們可用

我們也可把模型表示為線性模型其中

和

與前面一樣，但9我們可用我們也可把模型表示為線性模型其中和因此，由線性回歸理論可知10因此，由線性回歸理論可知10由(1.22)式，估計(jì)值的協(xié)方差矩陣為由此可得有效估計(jì)11由(1.22)式，估計(jì)值

B.極大似然估計(jì)

考慮線性模型則似然函數(shù)為

12

B.極大似然估計(jì)

考慮線性模型則似然函數(shù)為121313上式分別對(duì)μ1,…,μk,

σ2求導(dǎo)并令其為零可得由此可解得μi

和σ2

的極大似然估計(jì)(MLE)為14上式分別對(duì)μ1,…,μk,σ2求導(dǎo)并令其為零可得則極大似然

為

根據(jù)的MLE,

的無偏估計(jì)為15則極大似然由此可知,

的MLE

為且

為連續(xù)函數(shù)，則

的MLE為而極大似然估計(jì)方法具有如下的性質(zhì):16由此可知,的MLE為且2.1.2方差分析這個(gè)檢驗(yàn)與檢驗(yàn)假設(shè)(1.26)式本質(zhì)上是一樣的，通過公式(1.29)~(1.34)我們可以計(jì)算諸平方和和F統(tǒng)計(jì)量。下面我們給出推導(dǎo)ANOVA的詳細(xì)過程。172.1.2方差分析這個(gè)檢驗(yàn)與檢驗(yàn)假設(shè)(1.26)式本質(zhì)上對(duì)于每個(gè)響應(yīng)值yij，可以做如下的分解式中由于對(duì)(2.13)式兩邊平方后再對(duì)所有的i和j求和，可得到18對(duì)于每個(gè)響應(yīng)值yij，可以做如下的分解式中由于對(duì)(2.1它正是平方和分解的(1.32)式，也是方差分析表2.3的基礎(chǔ)。19它正是平方和分解的(1.32)式，也是方差分析表2.3的一般的，

LRC由下面三個(gè)步驟獲得:

Step1.似然函數(shù)下面進(jìn)一步說明表2.3中的F檢驗(yàn)是似然比準(zhǔn)則(LRC)檢驗(yàn)。20一般的，LRC由下面三個(gè)步驟獲得:Step1Step2.兩個(gè)域Step3.LRC統(tǒng)計(jì)量為21Step2.兩個(gè)域Step3.LRC統(tǒng)計(jì)量為21可知類似的，我們有則22可知類似的，我們有則22對(duì)于兩個(gè)統(tǒng)計(jì)量,t1

和

t2,

假如其中一個(gè)統(tǒng)計(jì)量由另一個(gè)統(tǒng)計(jì)量通過單調(diào)函數(shù)得到，則稱這兩個(gè)統(tǒng)計(jì)量等價(jià)，記為。由于23對(duì)于兩個(gè)統(tǒng)計(jì)量,t1和t2,假如其中一個(gè)統(tǒng)計(jì)量由另2424對(duì)于例2.1

中數(shù)據(jù)：25對(duì)于例2.1中數(shù)據(jù)：25SSESSR0平方和分解26平方和分解26MSR=5696.4/4=1424.1MSE=54/10=5.4=0,假如各水平之間沒有差別

(ai=0).

27MSR=5696.4/4=1424.127F-distribution(a=0.01)結(jié)論:在檢驗(yàn)水平0.01下，有證據(jù)拒絕原假設(shè)，即水平之間存在顯著差別。28F-distribution(a=0.01)結(jié)論:282.1.3多重比較或更一般地:我們需要知道到底哪些水平的響應(yīng)值顯著不同？例如考慮以下檢驗(yàn)：292.1.3多重比較或更一般地:我們需要知道到底哪些水平的響為

最小顯著差別，

其中

MSE

為隨機(jī)誤差方差的估計(jì)值。為了檢驗(yàn)單因素試驗(yàn)的第i個(gè)水平和第j個(gè)水平的主效應(yīng)是否有顯著的差別，我們可以用t統(tǒng)計(jì)量檢驗(yàn)稱30為最小顯著差別，其中MSE為隨機(jī)誤差方差的估計(jì)值。由

LSD

可知除了(15.4&17.4)和(9.8&10.8)，其余都顯著.則拒絕原假設(shè)，即水平i和水平j(luò)存在顯著差異.若************例：設(shè)不同水平下的均值:

9.8,15.4,17.6,21.6,10.831由LSD可知除了(15.4&17.4)和(9.A.Bonferroni

法LSD檢驗(yàn)適合兩兩水平的檢驗(yàn)。然而，假設(shè)已經(jīng)檢驗(yàn)了m組兩兩水平的主效應(yīng)的差別，而且每組的檢驗(yàn)水平都是

α

。則當(dāng)m>1時(shí)，這m組兩兩水平中最少有一組存在顯著差別的概率會(huì)超過檢驗(yàn)水平

α

，該概率稱為試驗(yàn)誤差率。而且m越大，試驗(yàn)誤差率越大，即第一類錯(cuò)誤越大。Bonferroni法：對(duì)于檢驗(yàn)拒絕原假設(shè),若其中

m=k(k-1)/2，k

為水平個(gè)數(shù)。

多重比較32A.Bonferroni法LSD檢驗(yàn)適合兩兩水平的檢對(duì)于例

2.1,

k=5,m=10,設(shè)檢驗(yàn)門限值即A1vsA2,A1vsA3,A1vsA4,A2vsA5,A3vsA5,A4vsA5之間有顯著差別.

表2.5.Bonferroni法的多重比較33對(duì)于例2.1,k=5,m=10,設(shè)B.Tukey法

當(dāng),TukeyT檢驗(yàn)統(tǒng)計(jì)量為其中是自由度為k

和

n-k(n=n1+…nk)的學(xué)生化范圍分布(studentizedrangedistribution)的上α分位點(diǎn)。例如則34B.Tukey法當(dāng)2.1.4單因素試驗(yàn)的回歸模型問題:

該二次模型是否很好的擬合數(shù)據(jù)？352.1.4單因素試驗(yàn)的回歸模型問題:該二次模型是否很好的重復(fù)試驗(yàn)重復(fù)試驗(yàn)純誤差方差估計(jì)：殘差平方和分解36重復(fù)試驗(yàn)重復(fù)試驗(yàn)純誤差方差估計(jì)：36對(duì)于有重復(fù)試驗(yàn)的數(shù)據(jù)，我們可用失擬檢驗(yàn)法判斷當(dāng)前模型是否合適。37對(duì)于有重復(fù)試驗(yàn)的數(shù)據(jù)，我們可用失擬檢驗(yàn)法判斷當(dāng)前模型是否合適SSPESSLof由此可得

s2

的兩個(gè)無偏估計(jì):sPE

2

和

sLof2：SSPE

和SSLOF

遵從自由度分別為n?k和k?p的卡方分布38由此可得s2的兩個(gè)無偏估計(jì):sPE2和sLo如果這兩個(gè)估計(jì)存在顯著差別,

意味著存在失擬。因此第一步需要檢驗(yàn)失擬是否顯著:當(dāng)前模型很好當(dāng)前模型不可用若

Flof

被接受39如果這兩個(gè)估計(jì)存在顯著差別,意味著存在失擬。因此第一步需要模型可用但需改進(jìn)當(dāng)前模型不可用若

Flof

被拒絕40模型可用但需改進(jìn)當(dāng)前模型不可用若Flof被拒絕40失擬檢驗(yàn)總流程圖步驟1.做失擬檢驗(yàn)(如表2.6

所示)

接受H0：轉(zhuǎn)步驟2；

拒絕H0：轉(zhuǎn)步驟3；

步驟2.把失擬項(xiàng)和純誤差項(xiàng)的自由度及平方和各自相加，稱為誤差項(xiàng)，計(jì)算該項(xiàng)均方，做F檢驗(yàn)(如表2.3

所示)

接受H0：當(dāng)前模型不可用；

拒絕H0：當(dāng)前模型很好；步驟3.計(jì)算F=MSR/MSPE，做F檢驗(yàn)(如表2.7

所示)

接受H0：當(dāng)前模型不可用；

拒絕H0：當(dāng)前模型可用但不是很好，需改進(jìn)；41失擬檢驗(yàn)總流程圖步驟1.做失擬檢驗(yàn)(如表2.6所示)41例2.1(續(xù))對(duì)于二次模型的檢驗(yàn)42例2.1(續(xù))對(duì)于二次模型的檢驗(yàn)422.1.5單因素的隨機(jī)效應(yīng)固定效應(yīng)和隨機(jī)效應(yīng)的區(qū)分：當(dāng)因素的水平是完全可以控制的時(shí)候是固定效應(yīng)；否則為隨機(jī)效應(yīng)。

當(dāng)試驗(yàn)的個(gè)體是隨機(jī)選擇時(shí)，對(duì)應(yīng)于隨機(jī)效應(yīng)；當(dāng)個(gè)體是人為地指定時(shí)，對(duì)應(yīng)于固定效應(yīng)。隨機(jī)效應(yīng)：因素的水平固定以后，它的效應(yīng)值不是一個(gè)固定的數(shù)，而是一個(gè)隨機(jī)變量。

例：配煤、高等教育評(píng)估432.1.5單因素的隨機(jī)效應(yīng)固定效應(yīng)和隨機(jī)效應(yīng)的區(qū)分：隨機(jī)隨機(jī)效應(yīng)的線性模型：式中，μ,σA2,σ2

未知。不難求得檢驗(yàn)因素A是否對(duì)響應(yīng)有顯著影響，即原假設(shè)為H0

:σA2

=044隨機(jī)效應(yīng)的線性模型：式中，μ,σA2,σ2未知。不難求隨機(jī)效應(yīng)的應(yīng)用重復(fù)性：同一樣本，在同一試驗(yàn)室，由同一檢驗(yàn)員用同一儀器，獨(dú)立做兩次試驗(yàn)，其結(jié)果y1和y2的差別應(yīng)保證P(|y1

?y2|<rα)=1?α，這里rα稱為重復(fù)數(shù)。再現(xiàn)性：同一樣本，在不同的實(shí)驗(yàn)室，由不同的檢驗(yàn)員，用同一類型的儀器所獲得的結(jié)果y1

和y2

的差別應(yīng)保證P(|y1

?y2|<Rα)=1?α，這里Rα稱為再現(xiàn)數(shù)?？捎糜跍y(cè)量精度標(biāo)準(zhǔn)的制定45隨機(jī)效應(yīng)的應(yīng)用重復(fù)性：同一樣本，在同一試驗(yàn)室，由同一檢驗(yàn)員用2.2模型未知的單因素試驗(yàn)和建?；瘮?shù)法，近鄰多項(xiàng)式估計(jì)，樣條法，局部加權(quán)散點(diǎn)光滑法，小波，等等若試驗(yàn)者對(duì)模型無先驗(yàn)知識(shí)，要通過試驗(yàn)來估計(jì)模型。此時(shí)，可采用非參數(shù)回歸模型(1.10)，其建模方法有：462.2模型未知的單因素試驗(yàn)和建模基函數(shù)法，若試驗(yàn)者對(duì)模型無評(píng)判標(biāo)準(zhǔn)由數(shù)據(jù)(x1,y1),···,(xn,yn)給出真模型m(·)的一個(gè)近似估計(jì)。均方誤差(MSE)整體均方誤差(MISE)w(·)是一權(quán)函數(shù)，即，w≥0且∫w(x)dx=1。估計(jì)偏差估計(jì)方差式中

X=(x1,···,xn)47評(píng)判標(biāo)準(zhǔn)由數(shù)據(jù)(x1,y1),···,(xn2.2.1基函數(shù)法多項(xiàng)式基：

{1,x,x2,···,xp}，中心化多項(xiàng)式基：正交多項(xiàng)式基：當(dāng)T=[?0.5,0.5]時(shí)g(x)=β0B0(x)+β1B1(x)+···+βpBp(x)其中Bi(x)為基函數(shù)，p

可取有限或無限。482.2.1基函數(shù)法多項(xiàng)式基：{1,x,x2,··傅里葉(Fourier)基：1,cos(2πx),sin(2πx),cos(4πx),sin(4πx),···,cos(2pπx),sin(2pπx).樣條基：在多項(xiàng)式基或中心多項(xiàng)式基中，增加小波函數(shù)基式中κ1,···,κl

為T上的l個(gè)選擇的點(diǎn)，稱為節(jié)點(diǎn)，函數(shù)49傅里葉(Fourier)基：式中κ1,···,κl多項(xiàng)式基樣條基傅里葉基函數(shù)例2.2考慮一個(gè)試驗(yàn)次數(shù)為10的計(jì)算機(jī)試驗(yàn)，其真實(shí)模型為f(x)=2xcos(5πx).在xi

=0,1/9,···,1處試驗(yàn)得到無偏差的數(shù)據(jù){(xi,yi),i=1,···,10}?？紤]以下基函數(shù)擬合數(shù)據(jù)：50多項(xiàng)式基例2.2考慮一個(gè)試驗(yàn)次數(shù)為10的計(jì)算機(jī)試驗(yàn)，其真51512.2.2近鄰多項(xiàng)式估計(jì)y=m(x)+ε,(1.10)考慮非參數(shù)模型：設(shè)m(·)在x=x0

處存在p+1階導(dǎo)數(shù)，現(xiàn)通過樣本(x1,y1),···,(xn,yn)估計(jì)m(x0),m’(x0),···,m(p)(x0).求β0,···,βp

使下式最小化，即式中K(·)是核函數(shù)，h是窗寬，Kh(·)=K(·/h)/h。522.2.2近鄰多項(xiàng)式估計(jì)y=m(x)+ε,53532.2.3樣條估計(jì)多項(xiàng)式樣條:

選定某些節(jié)點(diǎn)，在相鄰的節(jié)點(diǎn)內(nèi)用某一多項(xiàng)式逼近，并使得整個(gè)估計(jì)曲線在節(jié)點(diǎn)處具有一定的可導(dǎo)性。如，三次樣條。光滑樣條避免過擬合的現(xiàn)象發(fā)生542.2.3樣條估計(jì)多項(xiàng)式樣條:54例2.2(續(xù))圖2.6.例2.2的真實(shí)模型及在各樣條估計(jì)方法下的擬模型：(a)三階多項(xiàng)式樣條及不同權(quán)重w的光滑樣條；(b)B樣條55例2.2(續(xù))圖2.6.例2.2的真實(shí)模型及在各樣條2.3雙因素試驗(yàn)因素的種類：定量，定性，或一定量一定性因素間的關(guān)系：交叉設(shè)計(jì),套設(shè)計(jì)因素間有無交互作用有無區(qū)組因素的效應(yīng)考慮雙因素A和B，它們分別有I和J個(gè)水平，記為A1,A2,···,AI

和B1,B2,···,BJ。2.3.1雙因素試驗(yàn)的分類562.3雙因素試驗(yàn)因素的種類：定量，定性，或一定量一定性考慮2.3.2線性可加模型(2.54)572.3.2線性可加模型(2.54)57例2.6:某工業(yè)試驗(yàn)在一個(gè)工業(yè)試驗(yàn)中，有兩個(gè)因素A和B。因素A的三水平數(shù)為A1=5，A2=10，A3=15，而因素B的兩水平數(shù)為B1=7，B2=13。每個(gè)水平組合都做兩次試驗(yàn)，其結(jié)果如表2.10所示。此時(shí)，I=3,J=2,R=2。表

2.10:58例2.6:某工業(yè)試驗(yàn)在一個(gè)工業(yè)試驗(yàn)中，有兩個(gè)因素A和表

2.10(續(xù)):表

2.10(續(xù)):59表2.10(續(xù)):表2.10(續(xù)):59例

2.5:交互效應(yīng)60例2.5:交互效應(yīng)6060圖

2.9:表

2.10(續(xù)):因素A因素B6160圖2.9:表2.10(續(xù)):因素A因素B61各效應(yīng)的估計(jì)則可得估計(jì)62各效應(yīng)的估計(jì)則可得估計(jì)622.3.3方差分析平方和分解632.3.3方差分析平方和分解63自由度:因素

A和B:各自的水平數(shù)-1;交互效應(yīng):df(factorA)×df(factorB)

誤差:(重復(fù)數(shù)

-1)×(因素

A

的水平數(shù))×(因素

B的水平數(shù))自由度:因素

A:3-1=2;

因素

B:2-1=1; 交互效應(yīng):2×1=2誤差:3×2×(2-1)=6 總和:2+1+2+6=11SSA=2*2*[(56-40.33)2+(39.25-40.33)2+(25.75-40.33)2]=1837.17SSB=2*3*[(52-40.33)2+(28.67-40.33)2]=1633.33SSE=0.52+0.52+0.52+0.52+12+12+1.52+1.52+02+02+0.52+0.52=8SST=(60.5-40.33)2+(59.5-40.33)2+(52.5-40.33)2+…+(6-40.33)2=3943.67SSA×B=SST-SSA-SSB-SSE=465.17均方:

MS=SS/df

MSA=1837.17/2=918.58;

MSB=1633.33/1=1633.33; MSA×B=465.17/2=232.58; MSE=8.0/6=1.33.F-值

:

因素

A:MSA/MSE=918.58/1.33=688.94

因素

B:MSB/MSE=1633.33/1.33=1225.00

交互效應(yīng):MSA×B/MSE=232.58/1.33=174.44F分布的門限值

(a=0.01):

F2,6,0.01=10.92; F1,6,0.01=13.75;比較

688.94,174.44和

F2,6,0.01,465.17與

F1,6,0.01

易知,都大于門限值,故

p-值都小于0.01.結(jié)論:

因素A和因素B的主效應(yīng)和交互效應(yīng)都顯著.最佳的水平組合為

A=5且

B=7%.64自由度:自由度:SSA=2*2*[(56-40.33

因素和響應(yīng)都是連續(xù)的沒有交互效應(yīng)存在交互效應(yīng)

2.3.4兩因素的回歸模型例2.6(續(xù))65因素和響應(yīng)都是連續(xù)的沒有交互效應(yīng)存在交互效應(yīng)2.A.單因素試驗(yàn)2.3.5隨機(jī)效應(yīng)66A.單因素試驗(yàn)2.3.5隨機(jī)效應(yīng)66隨機(jī)效應(yīng)模型:獨(dú)立2.當(dāng)水平值從總體中選取時(shí),效應(yīng)為隨機(jī)的.設(shè)1.當(dāng)水平值可以完全控制時(shí),其效應(yīng)為固定的,否則為隨機(jī)的;67隨機(jī)效應(yīng)模型:獨(dú)立2.當(dāng)水平值從總體中選取時(shí),效應(yīng)為隨AB(1) 固定(2) 固定,為隨機(jī)(3) 隨機(jī),

固定(4) 都是隨機(jī)的E(MSA)E(MSB)E(MSAxB)E(MSE)A,B固定

A,B隨機(jī)

A隨機(jī),B固定

B.兩因素試驗(yàn)情形68AB(1) 固定(2) 固定,為在方差分析中，這三種模型在平方和、均方的計(jì)算是完全一樣的，唯一不同F(xiàn)檢驗(yàn)的方法表2.14.兩因素的方差分析表69在方差分析中，這三種模型在平方和、均方的計(jì)算是完全一樣的，唯例2.7.水稻種植試驗(yàn)中，比較三個(gè)品種的產(chǎn)量是否存在區(qū)別。現(xiàn)取五個(gè)不同土壤條件的地區(qū)，每個(gè)地區(qū)各選三塊面積和形狀都非常接近的試驗(yàn)田，每一塊試驗(yàn)田安排一個(gè)品種。如何安排試驗(yàn)這15個(gè)試驗(yàn)？例2.8.

有四個(gè)玉米品種，在一塊長(zhǎng)方形的試驗(yàn)田上進(jìn)行試驗(yàn)，將其按橫向和豎向各四等分，共分為16個(gè)長(zhǎng)方塊，每個(gè)品種占4塊。若這塊試驗(yàn)田的土壤肥沃程度和其他條件沿橫豎兩個(gè)方向都有差異。如何安排這16個(gè)試驗(yàn)？例2.10.若比較四個(gè)水稻品種的產(chǎn)量是否存在區(qū)別。現(xiàn)取四個(gè)不同土壤條件的地區(qū)各選三塊面積和水土條件都非常接近的試驗(yàn)田，每一塊試驗(yàn)田安排一個(gè)品種。如何安排試驗(yàn)這12個(gè)試驗(yàn)？2.4區(qū)組設(shè)計(jì)70例2.7.2.4區(qū)組設(shè)計(jì)702.4.1完全隨機(jī)區(qū)組設(shè)計(jì)712.4.1完全隨機(jī)區(qū)組設(shè)計(jì)712.4.2拉丁方設(shè)計(jì)其中722.4.2拉丁方設(shè)計(jì)其中72五參數(shù)

其中q為因素水平數(shù)，t為每區(qū)組所含試驗(yàn)單元數(shù)且常稱為區(qū)組大小，b為區(qū)組數(shù)，r為每個(gè)水平的試驗(yàn)次數(shù)，λ為任一對(duì)水平在同一區(qū)組內(nèi)同時(shí)出現(xiàn)的次數(shù)。要求滿足如下條件：2.4.3平衡不完全隨機(jī)區(qū)組設(shè)計(jì)73五參數(shù)2.4.3平衡不完全隨機(jī)區(qū)組設(shè)計(jì)73模型由于區(qū)組的不完全，該模型的估計(jì)及相應(yīng)的ANOVA表與完全隨機(jī)區(qū)組設(shè)計(jì)和拉丁方設(shè)計(jì)有所不同74模型由于區(qū)組的不完全，該模型的估計(jì)及相應(yīng)的AN例2.11對(duì)一容器灌注碳酸飲料，由于灌注時(shí)會(huì)起泡，響應(yīng)值為溢出的飲料容量(立方厘米)。考慮三個(gè)因素并各取三個(gè)水平，即，輸液管的設(shè)計(jì)類型(A)：A1=1，A2=2，A3=3；灌注速度(B,轉(zhuǎn)/分)：B1=100，B2=120，B3=140；和操作壓力(C,psi):C1=10，C2=15，C3=20。2.5全面試驗(yàn)與其部分實(shí)施如何安排該試驗(yàn)？75例2.112.5全面試驗(yàn)與其部分實(shí)施如何安排該試驗(yàn)？752.5.1全面試驗(yàn)表2.19.三因素三水平的全面試驗(yàn)762.5.1全面試驗(yàn)表2.19.三因素三水平的全面試驗(yàn)72.5.2單因素試驗(yàn)輪換法固定其它因素B，C的水平，然后用重復(fù)試驗(yàn)分別比較A的三個(gè)水平的響應(yīng)值，設(shè)A3

的響應(yīng)值最佳讓因素A固定為A3

并固定C為某一水平，比較B的三個(gè)水平，假設(shè)B2

達(dá)到最佳。后固定因素A和B分別為A3

和B2，比較因素C的三個(gè)水平，經(jīng)過重復(fù)試驗(yàn)后得出組合A3B2C2

最好的結(jié)論。將一個(gè)多因素試驗(yàn)化為多個(gè)單因素試驗(yàn)效果不佳,不宜推薦772.5.2單因素試驗(yàn)輪換法固定其它因素B，C的水平，然后2.5.3部分因子設(shè)計(jì)稀疏原則：在因子試驗(yàn)中，重要效應(yīng)的個(gè)數(shù)不會(huì)太多有序原則：主效應(yīng)比交互效應(yīng)重要；低價(jià)交互效應(yīng)比高階交互效應(yīng)重要，而同階效應(yīng)重要性一樣在全部水平組合中，選出一部分有代表的試驗(yàn)點(diǎn)作試驗(yàn)。選取代表點(diǎn)的兩個(gè)原則：常見的方法有正交設(shè)計(jì)和均勻設(shè)計(jì)782.5.3部分因子設(shè)計(jì)在全部水平組合中，選出一部分有代表的正交設(shè)計(jì)要求任一因素的諸水平作相同數(shù)目的試驗(yàn)；任兩個(gè)因素的水平組合作相同數(shù)目的試驗(yàn)。79正交設(shè)計(jì)要求79均勻設(shè)計(jì)要求任一因素的諸水平作相同數(shù)目的試驗(yàn)；所選的試驗(yàn)點(diǎn)在試驗(yàn)范圍內(nèi)分布均勻。80均勻設(shè)計(jì)要求80第二章因子試驗(yàn)設(shè)計(jì)81第二章因子試驗(yàn)設(shè)計(jì)12.1單因素試驗(yàn)例

2.1:

在某一個(gè)工業(yè)試驗(yàn)中，限定其它試驗(yàn)條件，只考慮溫度這個(gè)因素對(duì)產(chǎn)品產(chǎn)量的影響，并記為A。選定5個(gè)水平，分別為A1=60oC、A2=70oC、A3=80oC、A4=90oC、A5=100oC。在每個(gè)水平處試驗(yàn)的重復(fù)次數(shù)都為3。結(jié)果如表2.1所示，其總均值為68:2。822.1單因素試驗(yàn)例2.1:在某一個(gè)工業(yè)試驗(yàn)中，限定其它圖2.1.單因素試驗(yàn)的散點(diǎn)圖83圖2.1.單因素試驗(yàn)的散點(diǎn)圖337=40+(-3)=68.2-28.2+(-3)主效應(yīng)隨機(jī)誤差總均值37=40-340=40-043=40+340=68.2-28.277=68.2+8.892=68.2+23.881=68.2+12.880=68.2-18.2表

2.2:

單因素試驗(yàn)8437=40+(-3)=68.2-28.2+2.1.1線性可加模型(2.1)852.1.1線性可加模型(2.1)5模型的估計(jì)A.

最小二乘估計(jì)可表示為線性模型：模型:86模型的估計(jì)A.最小二乘估計(jì)可表示為線性模型：模型:6877888我們可用

我們也可把模型表示為線性模型其中

和

與前面一樣，但89我們可用我們也可把模型表示為線性模型其中和因此，由線性回歸理論可知90因此，由線性回歸理論可知10由(1.22)式，估計(jì)值的協(xié)方差矩陣為由此可得有效估計(jì)91由(1.22)式，估計(jì)值

B.極大似然估計(jì)

考慮線性模型則似然函數(shù)為

92

B.極大似然估計(jì)

考慮線性模型則似然函數(shù)為129313上式分別對(duì)μ1,…,μk,

σ2求導(dǎo)并令其為零可得由此可解得μi

和σ2

的極大似然估計(jì)(MLE)為94上式分別對(duì)μ1,…,μk,σ2求導(dǎo)并令其為零可得則極大似然

為

根據(jù)的MLE,

的無偏估計(jì)為95則極大似然由此可知,

的MLE

為且

為連續(xù)函數(shù)，則

的MLE為而極大似然估計(jì)方法具有如下的性質(zhì):96由此可知,的MLE為且2.1.2方差分析這個(gè)檢驗(yàn)與檢驗(yàn)假設(shè)(1.26)式本質(zhì)上是一樣的，通過公式(1.29)~(1.34)我們可以計(jì)算諸平方和和F統(tǒng)計(jì)量。下面我們給出推導(dǎo)ANOVA的詳細(xì)過程。972.1.2方差分析這個(gè)檢驗(yàn)與檢驗(yàn)假設(shè)(1.26)式本質(zhì)上對(duì)于每個(gè)響應(yīng)值yij，可以做如下的分解式中由于對(duì)(2.13)式兩邊平方后再對(duì)所有的i和j求和，可得到98對(duì)于每個(gè)響應(yīng)值yij，可以做如下的分解式中由于對(duì)(2.1它正是平方和分解的(1.32)式，也是方差分析表2.3的基礎(chǔ)。99它正是平方和分解的(1.32)式，也是方差分析表2.3的一般的，

LRC由下面三個(gè)步驟獲得:

Step1.似然函數(shù)下面進(jìn)一步說明表2.3中的F檢驗(yàn)是似然比準(zhǔn)則(LRC)檢驗(yàn)。100一般的，LRC由下面三個(gè)步驟獲得:Step1Step2.兩個(gè)域Step3.LRC統(tǒng)計(jì)量為101Step2.兩個(gè)域Step3.LRC統(tǒng)計(jì)量為21可知類似的，我們有則102可知類似的，我們有則22對(duì)于兩個(gè)統(tǒng)計(jì)量,t1

和

t2,

假如其中一個(gè)統(tǒng)計(jì)量由另一個(gè)統(tǒng)計(jì)量通過單調(diào)函數(shù)得到，則稱這兩個(gè)統(tǒng)計(jì)量等價(jià)，記為。由于103對(duì)于兩個(gè)統(tǒng)計(jì)量,t1和t2,假如其中一個(gè)統(tǒng)計(jì)量由另10424對(duì)于例2.1

中數(shù)據(jù)：105對(duì)于例2.1中數(shù)據(jù)：25SSESSR0平方和分解106平方和分解26MSR=5696.4/4=1424.1MSE=54/10=5.4=0,假如各水平之間沒有差別

(ai=0).

107MSR=5696.4/4=1424.127F-distribution(a=0.01)結(jié)論:在檢驗(yàn)水平0.01下，有證據(jù)拒絕原假設(shè)，即水平之間存在顯著差別。108F-distribution(a=0.01)結(jié)論:282.1.3多重比較或更一般地:我們需要知道到底哪些水平的響應(yīng)值顯著不同？例如考慮以下檢驗(yàn)：1092.1.3多重比較或更一般地:我們需要知道到底哪些水平的響為

最小顯著差別，

其中

MSE

為隨機(jī)誤差方差的估計(jì)值。為了檢驗(yàn)單因素試驗(yàn)的第i個(gè)水平和第j個(gè)水平的主效應(yīng)是否有顯著的差別，我們可以用t統(tǒng)計(jì)量檢驗(yàn)稱110為最小顯著差別，其中MSE為隨機(jī)誤差方差的估計(jì)值。由

LSD

可知除了(15.4&17.4)和(9.8&10.8)，其余都顯著.則拒絕原假設(shè)，即水平i和水平j(luò)存在顯著差異.若************例：設(shè)不同水平下的均值:

9.8,15.4,17.6,21.6,10.8111由LSD可知除了(15.4&17.4)和(9.A.Bonferroni

法LSD檢驗(yàn)適合兩兩水平的檢驗(yàn)。然而，假設(shè)已經(jīng)檢驗(yàn)了m組兩兩水平的主效應(yīng)的差別，而且每組的檢驗(yàn)水平都是

α

。則當(dāng)m>1時(shí)，這m組兩兩水平中最少有一組存在顯著差別的概率會(huì)超過檢驗(yàn)水平

α

，該概率稱為試驗(yàn)誤差率。而且m越大，試驗(yàn)誤差率越大，即第一類錯(cuò)誤越大。Bonferroni法：對(duì)于檢驗(yàn)拒絕原假設(shè),若其中

m=k(k-1)/2，k

為水平個(gè)數(shù)。

多重比較112A.Bonferroni法LSD檢驗(yàn)適合兩兩水平的檢對(duì)于例

2.1,

k=5,m=10,設(shè)檢驗(yàn)門限值即A1vsA2,A1vsA3,A1vsA4,A2vsA5,A3vsA5,A4vsA5之間有顯著差別.

表2.5.Bonferroni法的多重比較113對(duì)于例2.1,k=5,m=10,設(shè)B.Tukey法

當(dāng),TukeyT檢驗(yàn)統(tǒng)計(jì)量為其中是自由度為k

和

n-k(n=n1+…nk)的學(xué)生化范圍分布(studentizedrangedistribution)的上α分位點(diǎn)。例如則114B.Tukey法當(dāng)2.1.4單因素試驗(yàn)的回歸模型問題:

該二次模型是否很好的擬合數(shù)據(jù)？1152.1.4單因素試驗(yàn)的回歸模型問題:該二次模型是否很好的重復(fù)試驗(yàn)重復(fù)試驗(yàn)純誤差方差估計(jì)：殘差平方和分解116重復(fù)試驗(yàn)重復(fù)試驗(yàn)純誤差方差估計(jì)：36對(duì)于有重復(fù)試驗(yàn)的數(shù)據(jù)，我們可用失擬檢驗(yàn)法判斷當(dāng)前模型是否合適。117對(duì)于有重復(fù)試驗(yàn)的數(shù)據(jù)，我們可用失擬檢驗(yàn)法判斷當(dāng)前模型是否合適SSPESSLof由此可得

s2

的兩個(gè)無偏估計(jì):sPE

2

和

sLof2：SSPE

和SSLOF

遵從自由度分別為n?k和k?p的卡方分布118由此可得s2的兩個(gè)無偏估計(jì):sPE2和sLo如果這兩個(gè)估計(jì)存在顯著差別,

意味著存在失擬。因此第一步需要檢驗(yàn)失擬是否顯著:當(dāng)前模型很好當(dāng)前模型不可用若

Flof

被接受119如果這兩個(gè)估計(jì)存在顯著差別,意味著存在失擬。因此第一步需要模型可用但需改進(jìn)當(dāng)前模型不可用若

Flof

被拒絕120模型可用但需改進(jìn)當(dāng)前模型不可用若Flof被拒絕40失擬檢驗(yàn)總流程圖步驟1.做失擬檢驗(yàn)(如表2.6

所示)

接受H0：轉(zhuǎn)步驟2；

拒絕H0：轉(zhuǎn)步驟3；

步驟2.把失擬項(xiàng)和純誤差項(xiàng)的自由度及平方和各自相加，稱為誤差項(xiàng)，計(jì)算該項(xiàng)均方，做F檢驗(yàn)(如表2.3

所示)

接受H0：當(dāng)前模型不可用；

拒絕H0：當(dāng)前模型很好；步驟3.計(jì)算F=MSR/MSPE，做F檢驗(yàn)(如表2.7

所示)

接受H0：當(dāng)前模型不可用；

拒絕H0：當(dāng)前模型可用但不是很好，需改進(jìn)；121失擬檢驗(yàn)總流程圖步驟1.做失擬檢驗(yàn)(如表2.6所示)41例2.1(續(xù))對(duì)于二次模型的檢驗(yàn)122例2.1(續(xù))對(duì)于二次模型的檢驗(yàn)422.1.5單因素的隨機(jī)效應(yīng)固定效應(yīng)和隨機(jī)效應(yīng)的區(qū)分：當(dāng)因素的水平是完全可以控制的時(shí)候是固定效應(yīng)；否則為隨機(jī)效應(yīng)。

當(dāng)試驗(yàn)的個(gè)體是隨機(jī)選擇時(shí)，對(duì)應(yīng)于隨機(jī)效應(yīng)；當(dāng)個(gè)體是人為地指定時(shí)，對(duì)應(yīng)于固定效應(yīng)。隨機(jī)效應(yīng)：因素的水平固定以后，它的效應(yīng)值不是一個(gè)固定的數(shù)，而是一個(gè)隨機(jī)變量。

例：配煤、高等教育評(píng)估1232.1.5單因素的隨機(jī)效應(yīng)固定效應(yīng)和隨機(jī)效應(yīng)的區(qū)分：隨機(jī)隨機(jī)效應(yīng)的線性模型：式中，μ,σA2,σ2

未知。不難求得檢驗(yàn)因素A是否對(duì)響應(yīng)有顯著影響，即原假設(shè)為H0

:σA2

=0124隨機(jī)效應(yīng)的線性模型：式中，μ,σA2,σ2未知。不難求隨機(jī)效應(yīng)的應(yīng)用重復(fù)性：同一樣本，在同一試驗(yàn)室，由同一檢驗(yàn)員用同一儀器，獨(dú)立做兩次試驗(yàn)，其結(jié)果y1和y2的差別應(yīng)保證P(|y1

?y2|<rα)=1?α，這里rα稱為重復(fù)數(shù)。再現(xiàn)性：同一樣本，在不同的實(shí)驗(yàn)室，由不同的檢驗(yàn)員，用同一類型的儀器所獲得的結(jié)果y1

和y2

的差別應(yīng)保證P(|y1

?y2|<Rα)=1?α，這里Rα稱為再現(xiàn)數(shù)?？捎糜跍y(cè)量精度標(biāo)準(zhǔn)的制定125隨機(jī)效應(yīng)的應(yīng)用重復(fù)性：同一樣本，在同一試驗(yàn)室，由同一檢驗(yàn)員用2.2模型未知的單因素試驗(yàn)和建模基函數(shù)法，近鄰多項(xiàng)式估計(jì)，樣條法，局部加權(quán)散點(diǎn)光滑法，小波，等等若試驗(yàn)者對(duì)模型無先驗(yàn)知識(shí)，要通過試驗(yàn)來估計(jì)模型。此時(shí)，可采用非參數(shù)回歸模型(1.10)，其建模方法有：1262.2模型未知的單因素試驗(yàn)和建模基函數(shù)法，若試驗(yàn)者對(duì)模型無評(píng)判標(biāo)準(zhǔn)由數(shù)據(jù)(x1,y1),···,(xn,yn)給出真模型m(·)的一個(gè)近似估計(jì)。均方誤差(MSE)整體均方誤差(MISE)w(·)是一權(quán)函數(shù)，即，w≥0且∫w(x)dx=1。估計(jì)偏差估計(jì)方差式中

X=(x1,···,xn)127評(píng)判標(biāo)準(zhǔn)由數(shù)據(jù)(x1,y1),···,(xn2.2.1基函數(shù)法多項(xiàng)式基：

{1,x,x2,···,xp}，中心化多項(xiàng)式基：正交多項(xiàng)式基：當(dāng)T=[?0.5,0.5]時(shí)g(x)=β0B0(x)+β1B1(x)+···+βpBp(x)其中Bi(x)為基函數(shù)，p

可取有限或無限。1282.2.1基函數(shù)法多項(xiàng)式基：{1,x,x2,··傅里葉(Fourier)基：1,cos(2πx),sin(2πx),cos(4πx),sin(4πx),···,cos(2pπx),sin(2pπx).樣條基：在多項(xiàng)式基或中心多項(xiàng)式基中，增加小波函數(shù)基式中κ1,···,κl

為T上的l個(gè)選擇的點(diǎn)，稱為節(jié)點(diǎn)，函數(shù)129傅里葉(Fourier)基：式中κ1,···,κl多項(xiàng)式基樣條基傅里葉基函數(shù)例2.2考慮一個(gè)試驗(yàn)次數(shù)為10的計(jì)算機(jī)試驗(yàn)，其真實(shí)模型為f(x)=2xcos(5πx).在xi

=0,1/9,···,1處試驗(yàn)得到無偏差的數(shù)據(jù){(xi,yi),i=1,···,10}?？紤]以下基函數(shù)擬合數(shù)據(jù)：130多項(xiàng)式基例2.2考慮一個(gè)試驗(yàn)次數(shù)為10的計(jì)算機(jī)試驗(yàn)，其真131512.2.2近鄰多項(xiàng)式估計(jì)y=m(x)+ε,(1.10)考慮非參數(shù)模型：設(shè)m(·)在x=x0

處存在p+1階導(dǎo)數(shù)，現(xiàn)通過樣本(x1,y1),···,(xn,yn)估計(jì)m(x0),m’(x0),···,m(p)(x0).求β0,···,βp

使下式最小化，即式中K(·)是核函數(shù)，h是窗寬，Kh(·)=K(·/h)/h。1322.2.2近鄰多項(xiàng)式估計(jì)y=m(x)+ε,133532.2.3樣條估計(jì)多項(xiàng)式樣條:

選定某些節(jié)點(diǎn)，在相鄰的節(jié)點(diǎn)內(nèi)用某一多項(xiàng)式逼近，并使得整個(gè)估計(jì)曲線在節(jié)點(diǎn)處具有一定的可導(dǎo)性。如，三次樣條。光滑樣條避免過擬合的現(xiàn)象發(fā)生1342.2.3樣條估計(jì)多項(xiàng)式樣條:54例2.2(續(xù))圖2.6.例2.2的真實(shí)模型及在各樣條估計(jì)方法下的擬模型：(a)三階多項(xiàng)式樣條及不同權(quán)重w的光滑樣條；(b)B樣條135例2.2(續(xù))圖2.6.例2.2的真實(shí)模型及在各樣條2.3雙因素試驗(yàn)因素的種類：定量，定性，或一定量一定性因素間的關(guān)系：交叉設(shè)計(jì),套設(shè)計(jì)因素間有無交互作用有無區(qū)組因素的效應(yīng)考慮雙因素A和B，它們分別有I和J個(gè)水平，記為A1,A2,···,AI

和B1,B2,···,BJ。2.3.1雙因素試驗(yàn)的分類1362.3雙因素試驗(yàn)因素的種類：定量，定性，或一定量一定性考慮2.3.2線性可加模型(2.54)1372.3.2線性可加模型(2.54)57例2.6:某工業(yè)試驗(yàn)在一個(gè)工業(yè)試驗(yàn)中，有兩個(gè)因素A和B。因素A的三水平數(shù)為A1=5，A2=10，A3=15，而因素B的兩水平數(shù)為B1=7，B2=13。每個(gè)水平組合都做兩次試驗(yàn)，其結(jié)果如表2.10所示。此時(shí)，I=3,J=2,R=2。表

2.10:138例2.6:某工業(yè)試驗(yàn)在一個(gè)工業(yè)試驗(yàn)中，有兩個(gè)因素A和表

2.10(續(xù)):表

2.10(續(xù)):139表2.10(續(xù)):表2.10(續(xù)):59例

2.5:交互效應(yīng)140例2.5:交互效應(yīng)6060圖

2.9:表

2.10(續(xù)):因素A因素B14160圖2.9:表2.10(續(xù)):因素A因素B61各效應(yīng)的估計(jì)則可得估計(jì)142各效應(yīng)的估計(jì)則可得估計(jì)622.3.3方差分析平方和分解1432.3.3方差分析平方和分解63自由度:因素

A和B:各自的水平數(shù)-1;交互效應(yīng):df(factorA)×df(factorB)

誤差:(重復(fù)數(shù)

-1)×(因素

A

的水平數(shù))×(因素

B的水平數(shù))自由度:因素

A:3-1=2;

因素

B:2-1=1; 交互效應(yīng):2×1=2誤差:3×2×(2-1)=6 總和:2+1+2+6=11SSA=2*2*[(56-40.33)2+(39.25-40.33)2+(25.75-40.33)2]=1837.17SSB=2*3*[(52-40.33)2+(28.67-40.33)2]=1633.33SSE=0.52+0.52+0.52+0.52+12+12+1.52+1.52+02+02+0.52+0.52=8SST=(60.5-40.33)2+(59.5-40.33)2+(52.5-40.33)2+…+(6-40.33)2=3943.67SSA×B=SST-SSA-SSB-SSE=465.17均方:

MS=SS/df

MSA=1837.17/2=918.58;

MSB=1633.33/1=1633.33; MSA×B=465.17/2=232.58; MSE=8.0/6=1.33.F-值

:

因素

A:MSA/MSE=918.58/1.33=688.94

因素

B:MSB/MSE=1633.33/1.33=1225.00

交互效應(yīng):MSA×B/MSE=232.58/1.33=174.44F分布的門限值

(a=0.01):

F2,6,0.01=10.92; F1,6,0.01=13.75;比較

688.94,174.44和

F2,6,0.01,465.17與

F1,6,0.01

易知,都大于門限值,故

p-值都小于0.01.結(jié)論:

因素A和因素B的主效應(yīng)和交互效應(yīng)都顯著.最佳的水平組合為

A=5且

B=7%.144自由度:自由度:SSA=2*2*[(56-40.33

因素和響應(yīng)都是連續(xù)的沒有交互效應(yīng)存在交互效應(yīng)

2.3.4兩因素的回歸模型例2.