正交多項(xiàng)式回歸設(shè)計(jì)

第八章

正交多項(xiàng)式回歸

８.１正交多項(xiàng)式回歸

正交多項(xiàng)式回歸設(shè)計(jì)是將正交試驗(yàn)法與多項(xiàng)式回歸分析結(jié)合起來(lái),使之兼有兩者的優(yōu)點(diǎn),是一種很好的試驗(yàn)設(shè)計(jì)方法。在第七章中已說(shuō)明求多項(xiàng)式回歸都可以化成多元線性回歸問(wèn)題計(jì)算,但我們知道當(dāng)變量數(shù)目(因素)比較大時(shí),多元線性回歸的計(jì)算是很繁雜的。我們將介紹一種利用正交多項(xiàng)式來(lái)配回歸的方法,這種方法計(jì)算比較簡(jiǎn)單,而且都是表格化的,但它僅適用于自變量(因素)取等間隔數(shù)值的情況。

設(shè)自變量(因素)X是可控制的,因素水平取值的間距并非都為ｈ＝１,但是,可有意識(shí)地安排它取某間隔的數(shù)值.任何一組等距點(diǎn)ｘ１＝ａ＋ｈ，ｘ２＝ａ＋２ｈ……ｘt＝ａ＋ｔｈ……ｘｎ＝ａ＋ｎｈ，都可以通過(guò)下式化為一組標(biāo)準(zhǔn)等距點(diǎn)(即ｈ＝１的一組點(diǎn)),1,2……ｔ……ｎ(即ｈ＝１的一組點(diǎn))。式中ｈ——因素水平間的間距在數(shù)學(xué)分析中講到,相當(dāng)廣泛一類(lèi)曲線可以用多項(xiàng)式去逼近,把這個(gè)思想用到回歸分析上,就產(chǎn)生了多項(xiàng)式回歸。設(shè)對(duì)應(yīng)于ｘｉ＝ｔ的實(shí)驗(yàn)結(jié)果為ｙｔ，〔ｔ＝１，２……ｎ〕。對(duì)這一組響應(yīng)值(觀測(cè)值)我們配一個(gè)ｋ次多項(xiàng)式。y=a0+a1x+a2ｘ２+….+akxk(8-2)(8-1)設(shè)Ψ１〔ｘ〕，Ψ２〔ｘ〕，…，Ψｋ〔ｘ〕分別是ｘ的一次,二次及ｋ次多項(xiàng)式,那么(８-２〕也可以用Ψｉ〔ｘ〕來(lái)表示。(8-3)將Ψｉ〔ｘ〕看作是新變量,那么(８-３〕式就是一個(gè)ｋ次線性回歸方程,其回歸系數(shù)ｂｉ由下面正規(guī)方程定:ｌ１１ｂ１＋ｌ１２ｂ２＋…＋ｌ１ｋｂｋ＝ｌ１ｙｌ２１ｂ１＋ｌ２２ｂ２＋…＋ｌ２ｋｂｋ＝ｌ２ｙ(8-4)……ｌｋ１ｂ１＋ｌｋ２ｂ２＋…＋ｌｋｋｂｋ＝ｌｋｙ又(8-5)其中:(8-6)i,j=1,2…ki=1,2…k(8-7)為了簡(jiǎn)化計(jì)算,我們選擇這樣的Ψｉ〔ｘ〕,使

i=1,2…ki≠j(8-8)于是Lij=

0i≠ji=j(8-9)(8-10)(8-11)

而正規(guī)方程〔８-４〕就簡(jiǎn)化為:(8-12)于是Ψｉ〔ｘ〕的回歸系數(shù)ｂｉ立即可以求得(8-13)

而常數(shù)項(xiàng)ｂ０根據(jù)〔８-５〕和〔８-９〕式也有更簡(jiǎn)單的表達(dá)式: 〔８-８〕式的兩條性質(zhì)稱(chēng)為正交性,可以驗(yàn)證下面的一組多項(xiàng)式滿足正交性:這一組多項(xiàng)式稱(chēng)為正交多項(xiàng)式。式中ｘ的取值ｘ１、ｘ２…ｘｔ…ｘｎ一組為標(biāo)準(zhǔn)等距點(diǎn),多項(xiàng)式中ｎ為因素取值的個(gè)數(shù)(即水平數(shù)),假設(shè)不是可用(８-１)式化為標(biāo)準(zhǔn)等距點(diǎn),由于Ψｉ〔ｘ〕，ｉ＝１，２…ｎ的值不一定都為整數(shù),因此為方便起見(jiàn),通常引進(jìn)適當(dāng)?shù)南禂?shù)λｉ，使(8-15)

在幾個(gè)整數(shù)點(diǎn)上的值都為整數(shù)。對(duì)給定的ｎ(水平數(shù)),相應(yīng)的λｉ及Φｉ〔ｘ〕在1,2,…,ｎ各整數(shù)點(diǎn)的數(shù)值及都已制成表(見(jiàn)附錄中正交多項(xiàng)式表),實(shí)際計(jì)算可以充分利用這些表進(jìn)行。

利用正交多項(xiàng)式回歸的實(shí)際計(jì)算可按下面的步驟進(jìn)行。

(1)根據(jù)ｎ(因素的水平數(shù)),查相應(yīng)的正交多項(xiàng)式表,設(shè)需配一個(gè)ｋ次多項(xiàng)式(一般ｋ≤5即可).

因?yàn)椋顐€(gè)水平至多只能配ｎ－1階的多項(xiàng)式,故對(duì)于ｎ≤5只列出ｎ－１階正交多項(xiàng)式的數(shù)值,

例如ｎ＝４只列出了Φ１、Φ２、Φ３首先計(jì)算

(8-16)(8-17)從而〔8－18〕

i=1,2,….k(8-19)那么回歸方程為(8-20)

(2)計(jì)算各個(gè)Φｉ的系數(shù)ｂｉ后,就可以按第七章講的多元線性回歸的程序作方差分析,ｙ的總平方和ｌｙｙ仍按通常的公式計(jì)算,即(8-21)而回歸平方和

(8-22)在用交多項(xiàng)式配回歸中,每次多項(xiàng)式Φｉ〔ｘ〕的系數(shù)ｂｉ及相應(yīng)的只與ｙｔ及Φｉ〔ｘｔ〕有關(guān),而不隨其它各次多項(xiàng)式的增減而變化,在整個(gè)回歸中多配一項(xiàng)Φｉ〔ｘ〕就使回歸平方和增加一項(xiàng)ｂｉＢｉ,因此可以把(8-23)看作第ｉ次多項(xiàng)式Φｉ〔ｘ〕的效應(yīng),而回歸平方和那么是各次效應(yīng)的和。正交多項(xiàng)式配多項(xiàng)式方差分析表見(jiàn)(表８-１〕

表８-１正交多項(xiàng)式配多項(xiàng)式方差分析表

方差來(lái)源平方和自由度均方F

回歸U剩余11n-k-11…總計(jì)lyyn-1表８-１正交多項(xiàng)式配多項(xiàng)式方差分析表

方差來(lái)源平方和自由度均方F

回歸進(jìn)行F檢驗(yàn),Ｆｉ的自由度為(1,ｎ－ｋ－１〕,對(duì)于那些不顯著的高次項(xiàng)可以把它們從回歸方程取消。而如果檢驗(yàn)的結(jié)果都顯著,同時(shí)所配多項(xiàng)式的精度不夠滿意的話那么可繼續(xù)增添更高次的項(xiàng)。

例８-１為了考察維尼綸纖維在縮醛化工序中甲醛濃度ｘ與纖維醛化度ｙ的定量關(guān)系,對(duì)7種不同的甲醛濃度各進(jìn)行了假設(shè)干次實(shí)驗(yàn),測(cè)出各種濃度的平均縮醛化度如下:

甲醛濃度(ｇ／ｌ)１８２０２２２４２６２８３０

縮醛化度ｙ〔Ｔ〕２６.９２８.３２８.７２８.９２９.６３０.０３０.４

對(duì)上面的7組數(shù)據(jù)配一個(gè)直到4次多項(xiàng)式的回歸方程。8.３正交多項(xiàng)式回歸設(shè)計(jì)和回歸方程的建立一、回歸方程的建立如果我們用正交表安排試驗(yàn),將因素水平的間距取為相等,那么可用正交多項(xiàng)式回歸來(lái)處理正交試驗(yàn)的結(jié)果,定量地描述響應(yīng)值與各因素之間的關(guān)系。

各因素的總效應(yīng)函數(shù)可表示為各因素效應(yīng)之和y=b0+P(A)+P(B)+P(C)+…(8-30)式中P〔Ａ〕、P〔Ｂ〕、P〔Ｃ〕…分別為因素A、B、C等效應(yīng)函數(shù)。各個(gè)因素的效應(yīng)函數(shù)可按正交多項(xiàng)式展開(kāi):(8-31)式中各項(xiàng)回歸系數(shù)ｂｋ和常數(shù)項(xiàng)ｂ０可分別由〔８-３２〕式和(８-３３〕式計(jì)算。i=1,2…k(8-32)(8-33)式中ｙｔ＝ｙｔ１＋ｙｔ２＋…＋ｙｔｒ，ｔ＝１，２，…，ｎ。ｒ?yàn)橥灰蛩厮较碌闹貜?fù)試驗(yàn)次數(shù)。求得ｂｋ和ｂ０之后,即可建立回歸方程.例８－２用石墨爐子吸收法測(cè)定糧食中微量鎳時(shí),枯燥溫度Tｄ，枯燥時(shí)間ｔｄ,灰化溫度Tａ,灰化時(shí)間ｔａ；原子化溫度Ｔａｔ原子化時(shí)間ｔａｔ會(huì)對(duì)測(cè)定有影響。為了觀察它對(duì)吸光度的影響,探求最正確測(cè)定條件,選用正交表L１６４４×２３〕來(lái)安排試驗(yàn),為了進(jìn)行正交多項(xiàng)式回歸分析,各因素水平變化滿足等距的要求,試驗(yàn)的具體安排與實(shí)驗(yàn)結(jié)果列于表８－５。８.3正交拉丁多元回歸設(shè)計(jì)介紹用正交拉丁方安排試驗(yàn),在作多元回歸時(shí),同樣滿足正交多項(xiàng)式回歸的正交條件,即在正規(guī)方程中系數(shù)ｌｉｊ＝０,所以使回歸分析較易進(jìn)行,可以大大簡(jiǎn)化計(jì)算,所以正交拉丁方多元回歸設(shè)計(jì)就是將正交拉丁方試驗(yàn)設(shè)計(jì)與多元回歸分析結(jié)合起來(lái)的一種很好的試驗(yàn)方法。一、拉丁方與正交拉丁方例:某試驗(yàn)需考察A、B、C、D四個(gè)因素,各個(gè)因素均取三個(gè)水平,現(xiàn)需通過(guò)試驗(yàn)找出最正確條件。如果采用全面試驗(yàn)法,即每個(gè)因素的各個(gè)水平的所有組合都做試驗(yàn),要做３４＝８１次,試驗(yàn)次數(shù)太多,能否做一局部試驗(yàn),又能得出好的結(jié)果呢?先考慮A、B兩個(gè)因素,全面試驗(yàn),要作九次.如果同時(shí)還要考慮因素C,而試驗(yàn)次數(shù)又不增加,應(yīng)該怎樣安排呢?當(dāng)三個(gè)因素時(shí),要反映情況比較全面,必須任意兩個(gè)因素間的不同水平各碰一次,可采用如下的安排(表8－10〕這9個(gè)試驗(yàn)是全面試驗(yàn)３３＝２７個(gè)試驗(yàn)的很好代表上面的試驗(yàn)設(shè)計(jì)可以簡(jiǎn)化為表８－１１上表的右下角為：我們可以看到,在每一行,每一列中,1、2、3正好各出現(xiàn)一次,具有這樣的性質(zhì)的方塊叫拉丁方。這是由于排這種方塊常用拉丁字母,所以產(chǎn)生了拉丁方的名稱(chēng)。假設(shè)還要考慮因素D,能否保持上述的要求,而試驗(yàn)次數(shù)不增加呢?這是可能的〔圖8－12〕

D的三個(gè)水平組成的是另一個(gè)拉丁方,它和A、B之間的搭配是均勻的,D和C之間的搭配也是均勻的,D的每個(gè)水平和C的三個(gè)水平各碰一次,這樣設(shè)計(jì),9次試驗(yàn)就能很好地代表3４＝81次試驗(yàn)。

我們將C和D的兩拉丁方迭在一起,見(jiàn)表(８－１３〕，發(fā)現(xiàn)1、2、3和(1)、(2)、(3)各碰一次既無(wú)重復(fù),又無(wú)遺漏,具有這種性質(zhì)的兩個(gè)拉丁方叫正交拉丁方。例如下面表８－１４的三拉丁方就是兩兩正交的。

二、正交拉丁方試驗(yàn)與正交表設(shè)計(jì)試驗(yàn)

正交表是正交拉丁方的自然推廣。用正交拉丁方安排試驗(yàn),通常是排成表格的形式。如前面表８１２的設(shè)計(jì),我們把它編上試驗(yàn)號(hào)碼(見(jiàn)表８－１５),用①，②,③……表示,把它寫(xiě)成表格就成為一張L９〔３４〕正交表(見(jiàn)表８－１６)。這里需要說(shuō)明一下正交表與正交拉丁方的關(guān)系及其相互比較,正交表并不都是從正交拉丁方轉(zhuǎn)變來(lái)的,而是后者的自然推廣。

在正交表或正交拉丁方中,任意兩列之間都具有搭配均勻的性質(zhì)(即都是具有正交性),這是它們的共同點(diǎn)。

不同點(diǎn)：

〔1〕拉丁方安排,要求行數(shù)與列數(shù)必須相等,組成正方形,即實(shí)驗(yàn)次數(shù)等于整數(shù)的平方(但并不是各個(gè)整數(shù)都有正交拉丁方,如６×６的正交拉丁方就不存在),而正交表并不一定。

〔2〕正交表除了能對(duì)因素的主效應(yīng)進(jìn)行考察外,有時(shí)還能方便地考察各因素之間的交互作用,并給出交互效應(yīng)的大小估計(jì),而正交拉丁通常只是用來(lái)考察因素的主效應(yīng)。

三、正交拉丁方試驗(yàn)的分析前面講到正交拉丁方是正交表試驗(yàn)的一種特殊情況,由3階正交拉丁方可化成L９〔３４〕。同理四階正交拉丁方可化成L１６〔４５〕，五階正交拉丁方試驗(yàn)可化成L２５〔５６〕。所以正交拉丁方試驗(yàn)的分析就按正交表的分析,沒(méi)有任何新東西。需要指出的是,正交拉丁方寫(xiě)起來(lái)占篇幅較小,在分析時(shí)有人不愿意化成正交表的形式,還用正交拉丁方的形式。四、正交拉丁方多元回歸設(shè)計(jì)與正交多項(xiàng)式回歸設(shè)計(jì)一樣,正交拉丁方試驗(yàn)設(shè)計(jì)與多元回歸(或正交多項(xiàng)式回歸)分析結(jié)合起來(lái)。通過(guò)對(duì)試驗(yàn)結(jié)果的方差分析,估計(jì)諸因素影響的相對(duì)大小,又能定量地了解響應(yīng)值與諸因素之間的關(guān)系,即確定響應(yīng)值與諸因素之間的相對(duì)關(guān)系,它也是一種較好的試驗(yàn)設(shè)計(jì)方法。例８-４縮醛化工藝是維尼綸生產(chǎn)的最后一道化學(xué)工序,目的是提高維尼綸的耐熱水性,醛化過(guò)程的好壞,用一個(gè)叫縮醛化度的指標(biāo)來(lái)衡量,縮醛化度越高,纖維耐熱水性越好,由于影響縮醛化度的因素很多,又加上一些偶然因素的干擾,要了解它們之間蘊(yùn)含的內(nèi)在規(guī)律就比較困難。由北京維尼綸廠與中科院數(shù)學(xué)研究所概率統(tǒng)計(jì)室統(tǒng)計(jì)組聯(lián)合攻關(guān),采用正交拉丁方多元回歸設(shè)計(jì)方法進(jìn)行試驗(yàn),處理數(shù)據(jù)初步揭示了縮醛化工藝的內(nèi)在規(guī)律,并指導(dǎo)生產(chǎn)、摸索降低原料消耗的途徑提供了數(shù)據(jù)。

1．試驗(yàn)安排

選用７×７的正交拉丁方,共做了７×７＝４９次試驗(yàn),其各因素水平安排如表８-１７中2．實(shí)驗(yàn)結(jié)果分析方差分析

表8－18正交拉丁方試驗(yàn)設(shè)計(jì)及試驗(yàn)結(jié)果表(2)多元回歸分析我們希望求得這些因素與縮醛化度之間的定量關(guān)系(相關(guān)關(guān)系),所以通過(guò)多元回歸分析來(lái)建立這種相關(guān)關(guān)系,通過(guò)初步分析,各個(gè)因素對(duì)縮醛化度的關(guān)系,有直線的趨勢(shì),所以我們考慮多元線性回歸。EPS=0.6969R-Sq=97.9%

R-Sq(adj)=96.6%

AnalysisofVariance

Source

DF

SS

MS

F

P

Regression

10

366.460

36.646

75.44

0.000ResidualError

167.7720.486

Total

26374.232

運(yùn)用minitab軟件對(duì)正交實(shí)驗(yàn)27次實(shí)驗(yàn)結(jié)果進(jìn)行多元回歸。其擬合結(jié)果經(jīng)過(guò)實(shí)驗(yàn)驗(yàn)證，PI誤差控制在4.78％以下，EP誤差控制在5.63％以下。運(yùn)用該擬合方程可以對(duì)生產(chǎn)進(jìn)行預(yù)報(bào)和控制。

數(shù)理統(tǒng)計(jì)－實(shí)驗(yàn)結(jié)論化學(xué)沉銅實(shí)驗(yàn)運(yùn)用正交設(shè)計(jì)實(shí)驗(yàn)法并結(jié)合沉銅層的透光級(jí)別，找到沉銅溶液的最正確配比和工藝參數(shù)。因素

水平

XB350－A（ml·L-1）（A）

XB350－B（ml·L-1）（B）

t（min）（C）

T（℃）（D）1A1(70)

B1(70)

C1(20)

D1(20)

2A2(80)

B2(80)

C2(25)

D2(25)

3A3(90)

B3(90)

C3(30)

D3(30)

化學(xué)沉銅實(shí)驗(yàn)－實(shí)驗(yàn)結(jié)論 通過(guò)分析如上面所示的背光圖，本著節(jié)約本錢(qián)的原那么及易于操作的原那么，得到的最正確組合為：A3B2C2D3BX350－A90ml·L-1；

溫度T25℃；BX350－B80ml·L-1；

時(shí)間t30min

經(jīng)在生產(chǎn)中應(yīng)用，沉銅合格率普遍提高10％，由原來(lái)的88％提高到98％。

熱應(yīng)力力檢驗(yàn)

熱應(yīng)力實(shí)驗(yàn)是用于測(cè)試板子承受焊接環(huán)境的實(shí)驗(yàn)，同時(shí)也主要為了檢驗(yàn)金屬化孔銅的粘附質(zhì)量。將測(cè)試樣本放入260攝氏度的焊錫池中按照實(shí)驗(yàn)要求浸泡10s、20s、30s；做金相切片。Samsung剛撓四層結(jié)合板的批量試制 SAMSUNG4層剛撓結(jié)合板是由兩層硬板中間夾一層雙面軟板構(gòu)成的典型的夾心式結(jié)構(gòu)的剛撓板。成品圖片全面實(shí)驗(yàn)