試驗設(shè)計和建模

試驗設(shè)計和建模周永道四川大學數(shù)學學院試驗設(shè)計和分析教材:方開泰、劉民千、周永道(2011)，試驗設(shè)計和建模。期末最終成績構(gòu)成:

期末考試:

70%

作業(yè):10%

隨堂測試:

10%

小課題:10%軟件:MATLAB，SPSS

參考書方開泰、馬長興，正交與均勻試驗設(shè)計，科學出版社，2001.DouglasC.Montgomery.DesignandAnalysisofExperiments,6thEdition，中國郵電出版社,2007.Hamada,M.andWu,JeffC.F.,Experiments:Planning,Analysis,andParameterDesignOptimization,Wiley,2000.Cornell,J.A.ExperimentswithMixtures,3ndEd.,Wiley,2002.Fang,K.T.,Li,R.andSudjianto,A.DesignandModelingforComputerExperiments,Chapman&Hall/CRCPress,London,2005.第一章試驗設(shè)計的基本概念1.1科學試驗1.1.1試驗的重要性科學試驗是人們認識自然、了解自然的重要手段。許多重要的科學規(guī)律都通過科學試驗發(fā)現(xiàn)和證實。隨著科學和技術(shù)的發(fā)展，試驗涉及的因素越來越多，它們之間的關(guān)系更加復雜，光憑經(jīng)驗已不能達到預期要求，于是產(chǎn)生了試驗設(shè)計這門學科。設(shè)計一個試驗涉及到試驗目的、試驗方案、技術(shù)保證、分析數(shù)據(jù)以及有關(guān)組織管理等。這些環(huán)節(jié)有的是屬于管理科學，有的是需要數(shù)學和統(tǒng)計學的方法來設(shè)計試驗方案，后者稱為統(tǒng)計試驗設(shè)計,它是統(tǒng)計學的一個重要分支。統(tǒng)計試驗設(shè)計是統(tǒng)計學的重要分支，它能大量節(jié)省試驗的次數(shù)。能將試驗數(shù)據(jù)從隨機誤差的煙幕中去偽存真，抓住事物的規(guī)律。所以``一個精心設(shè)計的試驗是認識世界的有效方法'‘(AtkinsonandDonev(1992))。奠定了現(xiàn)代遺傳理論的基礎(chǔ)例1.1 孟德爾豌豆實驗例1.2 化工試驗在某化工產(chǎn)品的合成工藝中，考慮反應溫度(A)、壓力(B)和催化劑用量(C)，并選擇了試驗范圍分別為：溫度(A):80oC~120oC；壓力(B):4~6大氣壓；催化劑用量(C):0.5%~1.5%；我們需要選擇這三個因素的最佳組合，以達到高產(chǎn)的目的。許多產(chǎn)品都是混合多種成分在一起形成的。面粉水糖蔬菜汁

椰子汁鹽發(fā)酵粉乳酸鈣

咖啡粉香料色素面包怎樣確定各種成分的比例呢？經(jīng)驗試驗混料試驗例1.3加工面包試驗例1.4 環(huán)保試驗在水及食物中的某些化學元素，吃多了對人體是有害的，為了研究這些元素對人體健康的影響。48,275,138Cadmium(Cd)鎘

Copper(Cu)銅Zinc(ZN)鋅Nickel(Ni)鎳Chromium(Cr)鉻Lead(Pb)鉛因素0~200~200~200~200~200~20

0.01,0.05,0.1,0.2,0.4,0.8,1,2,4,5,8,10,12,14,16,18,200.01,0.05,0.1,0.2,0.4,0.8,1,2,4,5,8,10,12,14,16,18,200.01,0.05,0.1,0.2,0.4,0.8,1,2,4,5,8,10,12,14,16,18,200.01,0.05,0.1,0.2,0.4,0.8,1,2,4,5,8,10,12,14,16,18,200.01,0.05,0.1,0.2,0.4,0.8,1,2,4,5,8,10,12,14,16,18,200.01,0.05,0.1,0.2,0.4,0.8,1,2,4,5,8,10,12,14,16,18,20范圍和水平試驗設(shè)計的目的

增加產(chǎn)量提高質(zhì)量降低成本縮短研究時間科學試驗是人類了解自然的手段，通過試驗來了解因素和指標（響應）之間的關(guān)系，希望一個好的試驗設(shè)計是用最少的試驗次數(shù)獲得最多的有用信息。試驗設(shè)計的目的水平組合的比較建模參數(shù)估計證實猜想優(yōu)化篩選發(fā)現(xiàn)規(guī)律等等…

Experimentsareperformedbyinvestigatorsinvirtuallyallfieldsofinquiry,usuallytodiscoversomethingaboutaparticularprocessorsystem.

Scientificexperimentsareofessentialimportanceinpeople’ssurvivingandexploringofnature.AwelldesignedexperimentisanefficientmethodoflearningabouttheworldMakeityourmottodayandnight.Experiment!Anditwillleadyoutothelight.Experiment!TheUsefulnessofExperimentalDesign多因素統(tǒng)計模型未知響應曲面多峰當代科學試驗的復雜性非線性響應曲面無解析表達多峰非線性模型瞎子摸象1.1.2試驗的重要元素讓我們首先通過一個例子來介紹一些重要元素

例

在一個化工試驗中,試驗者希望通過如下的可控變量來增加產(chǎn)量:

x1: 原料品種 {m1,m2,m3}

x2: 加酸量 (ml)[10,28]

x3:

反應時間

(時)[0.5,3.5]

因素(因子)

在試驗中可控的并用于考察對試驗結(jié)果(y)的變量稱為因素

或因子(factor)。如反應溫度、壓力、催化劑品種、施化肥量、水稻品種等。

因素可以是定量

的,也可以是定性

的。

水平（level)

因素變化的范圍稱為試驗區(qū)域,在本例中,試驗區(qū)域為:

{m1,m2,m3}x[10,28]x[0.5,3.5].

原料品種: m1,m2,m3 加酸量: 10,19,28 反應時間: 0.5,1.5,2.5,3.5水平組合

因素諸水平的組合稱為 水平組合(level-combination),

如{m2,10,2.5},{m1,28,0.5}。水平組合在文獻中又稱為處理組合

。

一個因子設(shè)計(Factorialdesign)

是一組水平組合。

處理,響應

在試驗環(huán)境下對確定的水平組合所作的試驗稱為一個處理(trial或run)

。

試驗的結(jié)果稱為響應(response),

響應可以是定性的,也可是定量的。

不可控的諸微小因素之總和,稱為隨機誤差。

同樣條件下的兩次試驗結(jié)果可能不同。隨機誤差存在于一切試驗之中。

隨機誤差(randomerror)隨機誤差隨機誤差可假定遵從正態(tài)分布

。

方差

給出隨機誤差大之度量 。令

為重復試驗之響應值

這里,為真值,

獨立同分布,遵從

。

和的無偏估計為

AA1A2y均值=190.5/6=31.75自由度:5NOISE隨機誤差:

部份因子設(shè)計設(shè)有s

個因素,它們分別取

個水平。則全部水平組合有

一個水平組合可視為s維空間的一個點,稱為試驗點。個。

例如,一個六因素,五水平的全面試驗至少需要 次試驗。

全面試驗若所有的水平組合都作相同重復數(shù)的試驗,稱為全面試驗

。在農(nóng)業(yè)、生物等試驗中，很難做到試驗條件完全一樣。區(qū)組的概念成為古典試驗設(shè)計中非常有用的工具，同一區(qū)組的試驗有十分近似的試驗環(huán)境。區(qū)組設(shè)計可以避免或減少系統(tǒng)誤差的干擾，從而大大提高試驗結(jié)論的可靠性。在體育比賽中，區(qū)組及有關(guān)設(shè)計已在普遍使用。

區(qū)組試驗的環(huán)境隨著時間的推移，可能有趨勢型的變化，如室溫漸高、濕度漸小、電壓波動加劇等。為了使試驗的結(jié)論更加可靠，隨機化是用來減少試驗誤差的重要手段。常用的是對試驗次序隨機化，哪個試驗先做，哪個試驗后做，隨機決定。若試驗有區(qū)組，要根據(jù)試驗的具體情形采取所有試驗的完全隨機化，或僅區(qū)組內(nèi)的試驗隨機化。

隨機化同一個試驗重復兩次或多次是減少試驗誤差干擾的一種方法，在傳統(tǒng)的計算方法中經(jīng)常使用。若y1,…,ym是同一個試驗條件下的響應，且yi獨立同分布，方差為，則均值均值的方差

重復傳統(tǒng)試驗的三個基本原則：

重復性、隨機化、分區(qū)組針對不同的試驗，試驗者要選擇合適的試驗方法，建立相應的統(tǒng)計模型

統(tǒng)計模型試驗的組織和管理一支專業(yè)隊伍明確的試驗目標科學的試驗方案試驗中，處理可控與不可控因素A.試驗實現(xiàn)方式：1.1.3試驗的類型傳統(tǒng)的試驗實驗室試驗工業(yè)試驗計算機試驗計算機模擬計算尋找近似模型B.因素約束條件無約束試驗

諸因素可以自由的選擇試驗的值，不受其它因素約束，試驗區(qū)域是一個超矩形

混料試驗

因素之間的取值會相互影響，例如或單因素試驗水平數(shù)可以適當多取，而且可以考慮做重復試驗多因素試驗各因素的水平數(shù)一般不能取得很大二水平試驗多水平試驗C.因素個數(shù)D.響應個數(shù)單響應試驗每次試驗只觀察一個響應值。如產(chǎn)量多響應試驗每次試驗觀察多個響應值。如鞋子橡膠底的試驗響應：強度、彈性和最大彎曲次數(shù)等等多媒體試驗試驗有無窮多個的響應。例如，響應是人的指紋、化學或生物中指紋曲線、聲音的曲線、圖像的顏色及深淺，等等E.試驗輪次單一試驗一次試驗達到要求序貫試驗優(yōu)選法響應曲面分析均勻序貫試驗單區(qū)組試驗每次試驗在相同或十分近似的條件下進行區(qū)組試驗目的是使得組內(nèi)的差異比組間差異小常見的區(qū)組有以日、月、年、批次、雙胞胎，等等F.試驗分組例1.5.(自由落體運動)

若不計空氣阻力，自由落體運動的初始速度為零，記下落時間為x(秒)(s)，下落距離y(米)(m)，人們發(fā)現(xiàn)它們之間有如下規(guī)律g為重力加速度。設(shè)想試驗者對關(guān)系(1.3)一無所知，希望通過試驗來揭示y和x之間的關(guān)系1.2統(tǒng)計模型

(1.3)試驗結(jié)果可用二次回歸模型擬合試驗設(shè)計的統(tǒng)計模型

方差分析模型

因子設(shè)計，正交設(shè)計參數(shù)回歸模型

最優(yōu)設(shè)計非參數(shù)回歸模型

均勻設(shè)計穩(wěn)健回歸模型例1.6：威布爾生長曲線方差分析模型在[0,10]中取若干個點作試驗，設(shè)

x1,…,xq

為試驗點，n1,…,nq

為其重復數(shù)，其統(tǒng)計模型為用統(tǒng)計方法估計

{μ1,…,μq}或{μ,a1,…,aq},以及σ2二水平試驗在西方被廣泛推薦二水平不足以揭示非線性關(guān)系多水平試驗值得推薦二水平試驗的不足試驗范圍對，但水平不合適試驗范圍及水平都對，但不能揭示A和Y之間更復雜的關(guān)系試驗范圍錯只能預報四個水平處的響應值，進一步采用回歸模型是有益的。因子設(shè)計試驗設(shè)計的統(tǒng)計模型

方差分析模型

因子設(shè)計，正交設(shè)計參數(shù)回歸模型

最優(yōu)設(shè)計非參數(shù)回歸模型

均勻設(shè)計穩(wěn)健回歸模型根據(jù)專業(yè)知識,可選用適當?shù)幕貧w模型,比如用二次模型回歸模型其中函數(shù)

f1,…,fm已知,但參數(shù)b1,…,bm未知?；蛉文Ｐ透话愕?給定試驗次數(shù)n，希望能獲得最精確的回歸系數(shù)b0,b1,…的估計。缺點：對模型的變化缺乏穩(wěn)健性。Kiefer,J.C.(1958),AnnMath.Stat.Kiefer,J.C.(1959),JRSS,B,withdiscussionAtkinson,A.C.andDonev,A.N.(1992),OptimalExperimentalDesigns,ClavendonPress,Oxford三次回歸模型的D-最優(yōu)設(shè)計及其擬合如果采用4次多項式模型,效果會顯著地改進。試驗設(shè)計的統(tǒng)計模型

方差分析模型

因子設(shè)計，正交設(shè)計參數(shù)回歸模型

最優(yōu)設(shè)計非參數(shù)回歸模型

均勻設(shè)計穩(wěn)健回歸模型式中函數(shù)形式g(x)未知。希望通過試驗求得g(x)一個近似模型。這時，一個自然的想法是將試驗點在[0,2]上均勻散布，即均勻設(shè)計。

若試驗者對模型未知，這時將面對非參數(shù)回歸模型非參數(shù)回歸模型均勻設(shè)計及其擬合多項式回歸

均勻設(shè)計是一種試驗設(shè)計方法。它可以用較少的試驗次數(shù)，安排多因素、多水平的析因試驗，當試驗者對析因試驗的統(tǒng)計模型未知時，均勻設(shè)計是最好的設(shè)計方法。均勻設(shè)計也是仿真試驗設(shè)計和穩(wěn)健設(shè)計的重要方法。均勻設(shè)計試驗設(shè)計的統(tǒng)計模型

方差分析模型

因子設(shè)計，正交設(shè)計參數(shù)回歸模型

最優(yōu)設(shè)計非參數(shù)回歸模型

均勻設(shè)計穩(wěn)健回歸模型穩(wěn)健回歸模型常用于部分模型已知的情形此時，可用一些穩(wěn)健設(shè)計或均勻設(shè)計.其中f(x)

為已知函數(shù)，h(x)

為偏離真實函數(shù)的部分。穩(wěn)健回歸模型即

f(x)

為參數(shù)的線性函數(shù)?；貧w模型:{yi,xi1,xi2,,xi,p-1, i=1,,n}y=b0+b1x1+b2x2++bp-1x

p-1+eE(e)=0, Var(e)=s2

未知或

yi=b0+b1xi1+b2xi2++bp-1xi,p-1+eiei,…,en

i.i.d.E(ei)=0,Var(ei)=s2.或更一般的,yi=b1g1(xi)+b2g2(xi)++bpgp(xi)

+eiei,…,en

i.i.d.E(ei)=0,Var(ei)=s2.xi=(

xi1,xi2,,xi,p-1)’,i=1,,n1.3回歸分析簡介

一般回歸模型的矩陣表示: y=Gb+e E(e)=0, Cov(e)=s2In其中

y:n1,G:np,b:p1,e:n1其元素i.i.d.(1.14)線性模型(1.14)包括很多有用的模型:線性模型通過原點的線性模型二次模型中心化二次模型y=b0+b1x1+b2x2++bp-1x

p-1+ey=b1x1+b2x2++bp-1x

p-1+e(1.16)對于模型(1.14)

(a)估計模型(1.14)的最小二乘估計為性質(zhì):其中M=G’G

為信息矩陣,或有時稱

M=G’G/n為信息矩陣.s2的估計的矩陣表達形式E(y)=Xb

Cov(y)=s2In0為無偏估計.對于線性模型(1.16),在實際中常檢驗下面的假設(shè):(k=p-1)A.檢驗模型是否有意義.H0:b1==bk=0

VS

H1:某bj

0,1jkB.檢驗某個變量xj

是否對模型有顯著貢獻.H0:bj=0VS

H1:bj

0(b)假設(shè)檢驗C.

更一般的假設(shè)H0:Cb=f

VS

H1:Cb

f情形A和B都是情形C的特殊情形 y=Xb+