第五章 聚類分析

第五章6 5、聚類預(yù)報法。是利用聚類方法處理預(yù)報問題的方法。主要應(yīng)用于處理一些出現(xiàn)異常（二）按照分析對象不同，可以分為QRQR型聚類R型聚類的結(jié)果，可以選擇最佳的變量組合進行回歸分析或者Qr2。rr2 kr2k為該類中變量的r2x作為該類的典型變量。X

x1p x2p

xn

xnp則

xijx

i

j1,21其 x

j1,2

x

min max

i j1,20，1之間。xxijx

i

j1,21其 x

j1,2 1 n

ijx

21

xiji j1,2pnp個變量，故每個樣品都可以行分類時，通常采用距離來表示樣品之間的親疏程度。因此需定義樣品之間的距離，即第jdij①dij

對于一切i,j②dij

當且僅當ij③

d

對于一切i,④dijdik

對于一切i,j第ij qdijqxikx qq1

dij1xikxjk

q2dij

xikx

qdijmaxxikx1k

i,j由明氏距離公式可知，當各變量的單位不同或雖單位相同但各變量的測量值相差很大的數(shù)據(jù)計算距離。

0時，可以定義第ijxikxikx

ikxi,j馬氏距離第ijd2

XXS1XX XX分別為第ijp個指標所組成的向量， nn1k

x

xj

i,j1,2,距離，第i個樣品與第j個樣品之間的斜交空間距離定義為，1

p d

m2xikxjkxilxjlrkl k1l rklxkxl3設(shè)Cijxiyi之間的相似系數(shù)，則Cij

1xiaxjC

對一切i,j成立對一切i,j成立

1xiyi

xiyi之間關(guān)系越疏遠。聚類時，關(guān)系密切的變量應(yīng)歸于一類，反之關(guān)系疏遠的變pxixj的夾角為ijcos

xki k 2 2xkixkjk k 它是ij兩個指標向量在原點處的夾角的余弦，當i=j時，夾角為0，故夾角余rijxixj

x

xj

k n

2n

2k

k

x 當i=jrij=1；當ijrij的取值在-1~1之1，表示兩變量之間的相關(guān)程度越大。S1S2Spx1x2xpxixj3xikxjk

1

k①rgk k

,xjk②rck 1k

xjkminxik,xjk③

xikxikxk

i,j第二節(jié)系統(tǒng)聚類分析(HierachicalC1usterAnalysis)是在樣品距離的基礎(chǔ)上，定義類與類之間的系統(tǒng)聚類分析的基本思想是，把np維（p個指標）p個類和其余n2個樣品之間的距離，這樣一直持續(xù)下去，并類過程中，每一步所做的并31，8種。即最短距離法、最長距離法、中間距離法、dijxixjDij表示類Gi與Gj之間距離中最近者。即類Gp與GqDpq定義為；Dpq

xiGp,xj

1、計算樣品之間的距離，得到nD0，這時每一個樣品自成Dpqdij，顯然該距離矩陣是一個對稱矩陣；2D0Dpq，則將對應(yīng)的兩個樣品Gp與Gq一個新類，記為類Gr，即

3、計算新類Gr與其他類Gk（kr）D1。其中新類Gr與其他類Gk（k

xrGr,xj

dij

dijxiGp,xj =minD,D

xiGq,xj D3……這樣一直下去，直到所有的樣品都歸為一類為止。5表 515dij（采用絕對值距離5.2距離矩陣表（D02、D0D121，于是我們將G1與G2記為G6G1G2。計算新類G6

3D1D342，于是我們將G3與G4同樣計算新類G7

5.4距離矩陣表（D24D2D573，將G5與G75.5距離矩陣表（D35、最后將G6和G85個樣品分為G1G2、G3G4和G5三類；也可以把5G1G25.1相反的，類與類之間的距離定義為兩類之間所有樣品間距離最大者，即類Gp與Gq

Dpq

xiGp,xj

D0D121，于是我們將G1與G2合并成新的一類，記為G6G1G2。計算新類G6與當前各類的距離：

3、D1D342，于是我們將G3與G4計算新類G7

5.7距離矩陣表（D24D2D575，將G5與G7計算類G8D68maxd56d765、最后將G6和G85.25.2為G1G2和G3G4G5兩類。樣品之間最遠距離，而是采用介于兩者之間的中間距離，即當類Gp與Gq GGG，任一類 DD D DipDiqDpqDpqDir，具體如圖5.3圖 具體分類過程與前面最短和最長距離分類方法步驟相同，只是在定義的距離為中間距離。設(shè)Gp與Gq合并為一新類Gr

GG，它們各含有

nn x、xx

1nxnx。任一類Gx

p q 它與GrDir

D2npD2nqD2npnqD

設(shè)Gp與Gq合并為一新類

GG，它們各含有nnn

nn 樣品。任一類Gknk d2 d n riGk, dij dijnknriG, q

2 由于類平均法公式中沒有反映Gp與GqDpq的影響，所以又給出可變類平均法。此法定義兩類之間的距離同上，只是將任一類Gk與GrDir定義改為：D2np1

nq1

使分辨能力提高，一般選取此法定義兩類之間的距離同上，只是將任一類Gk與GrDirD21D2D2D 其中是可變的且1，一般選取nk類，表示為G1，G2Gkxit表示第Gt類中的第i表示類Gtxt表示Gt則Gt

i

xtkS

kS

x

xt

t1i

WardnD2表示類G與G

任一類G與新類GG,G D2ninpD2ninqD2 r nr nr式有不同的定義，所以可得到不同的遞推公式。1969年維希特提出了統(tǒng)一的公式，這為編設(shè)G與G合并為一新類

GG，任一類G與新類GG,G D2D2

D2

D2 p

q

其中系數(shù)p、q、表 pqpqpqnnrpqnnrnnpq110pq0 ninpni ninini DkkD1D2DADBDD0。如果DA0DB0D2A表示將DA的每個元素進行平方，則DABD2AD2B則DAB0DADBABDAB0AB使空間擴BA使空間收縮。1準則B，確定的類中，各類所包含的元素都不要過分地多；準則C準則5.9圖 根據(jù)數(shù)據(jù)情況將全部樣品人為地憑經(jīng)驗分成k用密度法選擇凝聚點。這里的密度是指以每個樣品為球心，以某個正數(shù)d作為半徑D，然后選出密度次之的樣品點，并且它與D，則將其作為第二凝聚點，否則該樣品點被取消。這樣，按密度4、用前k4xij表示已標準化后的第ijjMAmaxSUMMIminSUMKxiK1SUMiMIMAk，則將第i個樣品歸入到第k類中去（1kK。x1x2,xnn個樣品點，初始KG1,G2GKx1x2,xnn1n2nK。用lixixi與GjDijD2

x

xj

,,

iliSSjjS1S2,SK分別是類G1G2GK ilii1li

xt

,,

ilinil=D2ili1j1li ilD2silji1i1li

j3 AxAxAxA兩x=

xAx

0，則可用特征函數(shù)表述即為：x=

xAx

0Ax0.8。0、1兩值推廣到模糊集合A為模糊集合，簡稱模糊集。A的程度很低。模糊集轉(zhuǎn)換為普通集的方法AX上的任一模糊集，對任意01，記（01A是一個具有游移邊界的集合，它隨值的變小而增大，即當12,A1A2

AXA

1 0 1對于給定置信水平=0.6

A0.6=

1（1）AB＝maxAx（2）AB＝minAxAc11的矩陣。ABnppm階的模糊矩陣，則模糊矩陣乘積運算C=A·Bnm階矩陣，其元素為： Cij=k

，

0

A=

B=

= XYX分類關(guān)系。RXXYR滿足反身性、對稱R為一分類關(guān)系。這里，R；RRX上的一個分類關(guān)系的充分必要條件是

1

（3R模糊分類關(guān)系。RX上的一個模糊分類關(guān)系的充分必要條件是對每一個當模糊分類關(guān)系確定之后，對于給定的01，便可以相應(yīng)地得到一個普通的分R，也就是說可以決定一個水平的分類。根據(jù)一定的來確定其分類關(guān)系，進而來實現(xiàn)分類的。例設(shè)X=x1x2x3x4x5

R

1RX （1）當=1R1

0 0 1x1x2x3x4 （2）當=0.8R0.8

0 0 1x1、x2,x3和x4 （3）當=0.6R0.6

0 1 1（4）當=0.4111 =111

1

15.13圖 動態(tài)聚類譜系由動態(tài)聚類譜系圖可知，選取不同的值可對樣品進行不同的分類，得到合理的分類。1根據(jù)實際情況確定xx,xp

x1p x2p

2

xn

xnp

1r R，不一定具有傳遞性，為了獲得模糊RR2R3Rn這樣經(jīng)過有限次自乘（褶積計算）RnRRnRn。RR2R4R8R2n。=1值的降低，由細到粗逐漸合并類，最后得 Zahnpn個樣品點間形成的一切可能的聯(lián)接圖中，存在著一（MST（MSTMST上相互以較短的邊長相聯(lián)結(jié)，而不MST上則被較長的邊所分開。長邊的定