聚類分析-模糊聚類分析

1、模糊聚類分析 設(shè)設(shè)R = (rij)mn，若，若0rij1，則稱，則稱R為模糊矩陣為模糊矩陣. 當(dāng)當(dāng)rij只取只取0或或1時(shí)，稱時(shí)，稱R為布爾為布爾(Boole)矩陣矩陣. 當(dāng)模糊當(dāng)模糊方陣方陣R = (rij)nn的對(duì)角線上的元素的對(duì)角線上的元素rii都為都為1時(shí)，稱時(shí)，稱R為模糊自反矩陣為模糊自反矩陣. 設(shè)設(shè)A=(aij)mn,B=(bij)mn都是模糊矩陣，定義都是模糊矩陣，定義相等：相等：A = B aij = bij；包含：包含：AB aijbij；并：并：AB = (aijbij)mn；交：交：AB = (aijbij)mn；余：余：Ac = (1- aij)mn.0.10.30.

2、20.1,0.20.10.30.20.20.30.10.10.90.7,0.30.20.20.10.80.9cABABABA例 設(shè)，則 設(shè)設(shè)A = (aik)ms，B = (bkj)sn，稱模糊矩陣，稱模糊矩陣A B = (cij)mn，為為A 與與B 的合成，其中的合成，其中cij = (aikbkj) | 1ks .模糊方陣的冪模糊方陣的冪 定義：若定義：若A為為 n 階方陣，定義階方陣，定義A2 = A A，A3 = A2 A，Ak = Ak-1 A.7 . 04 . 03 . 03 . 07 . 04 . 03 . 01 . 07 . 04 . 03 . 03 . 07 . 04 .

3、03 . 01 . 03 定義定義 設(shè)設(shè)A = (aij)mn, 稱稱AT = (aijT )nm為為A的轉(zhuǎn)置的轉(zhuǎn)置矩陣，其中矩陣，其中aijT = aji.轉(zhuǎn)置運(yùn)算的性質(zhì)：轉(zhuǎn)置運(yùn)算的性質(zhì)：性質(zhì)性質(zhì)1：( AT )T = A；性質(zhì)性質(zhì)2：( AB )T = ATBT， ( AB )T = ATBT；性質(zhì)性質(zhì)3：( A B )T = BT AT；( An )T =( AT )n ；性質(zhì)性質(zhì)4：( Ac )T = ( AT )c ；性質(zhì)性質(zhì)5：AB AT BT . 設(shè)設(shè)A = (aij)mn,對(duì)任意的對(duì)任意的 0, 1，稱，稱A = (aij( )mn,為模糊矩陣為模糊矩陣A的的 - 截矩陣截矩陣

4、, 其中其中 當(dāng)當(dāng)aij 時(shí)，時(shí)，aij( ) =1； 當(dāng)當(dāng)aij 時(shí)，時(shí)，aij( ) =0. 顯然，顯然，A的的 - 截矩陣為布爾矩陣截矩陣為布爾矩陣. 1110110010110011,18 . 03 . 008 . 011 . 02 . 03 . 01 . 015 . 002 . 05 . 013 . 0AA 與模糊子集是經(jīng)典集合的推廣一樣，模糊關(guān)與模糊子集是經(jīng)典集合的推廣一樣，模糊關(guān)系是普通關(guān)系的推廣系是普通關(guān)系的推廣. . 設(shè)有論域設(shè)有論域X，Y，X Y 的一個(gè)模糊子集的一個(gè)模糊子集 R 稱稱為從為從 X 到到 Y 的的模糊關(guān)系模糊關(guān)系. 模糊子集模糊子集 R 的隸屬函數(shù)為映射的隸

5、屬函數(shù)為映射R : X Y 0,1.并稱隸屬度并稱隸屬度R (x , y ) 為為 (x , y )關(guān)于模糊關(guān)系關(guān)于模糊關(guān)系 R 的的相關(guān)程度相關(guān)程度. 特別地，當(dāng)特別地，當(dāng) X =Y 時(shí)，時(shí)，稱之為稱之為 X 上各元素之上各元素之間的間的模糊關(guān)系模糊關(guān)系. 由于由于模糊關(guān)系模糊關(guān)系 R就是就是X Y 的一個(gè)模糊子集，的一個(gè)模糊子集，因此模糊關(guān)系同樣具有模糊子集因此模糊關(guān)系同樣具有模糊子集的運(yùn)算及性質(zhì)的運(yùn)算及性質(zhì).設(shè)設(shè)R，R1，R2均為從均為從 X 到到 Y 的的模糊關(guān)系模糊關(guān)系.相等相等：R1= R2 R1(x, y) = R2(x, y)；包含包含： R1 R2 R1(x, y)R2(x,

6、 y)；并并： R1R2 的隸屬函數(shù)為的隸屬函數(shù)為 (R1R2 )(x, y) = R1(x, y)R2(x, y)；交交： R1R2 的隸屬函數(shù)為的隸屬函數(shù)為(R1R2 )(x, y) = R1(x, y)R2(x, y)；余余：Rc 的隸屬函數(shù)為的隸屬函數(shù)為Rc (x, y) = 1- - R(x, y). (R1R2 )(x, y)表示表示(x, y)對(duì)模糊關(guān)系對(duì)模糊關(guān)系“R1或者或者R2”的相關(guān)程度，的相關(guān)程度， (R1R2 )(x, y)表示表示(x, y)對(duì)模糊對(duì)模糊關(guān)系關(guān)系“R1且且R2”的相關(guān)程度，的相關(guān)程度，Rc (x, y)表示表示(x, y)對(duì)對(duì)模糊關(guān)系模糊關(guān)系“非非R”

7、的相關(guān)程度的相關(guān)程度. 對(duì)于有限論域?qū)τ谟邢拚撚?X = x1, x2, , xm和和Y = y1, y2, , yn，則，則X 到到Y(jié) 模糊關(guān)系模糊關(guān)系R可用可用mn 階模糊階模糊矩陣表示，即矩陣表示，即R = (rij)mn，其中其中rij = R (xi , yj )0, 1表示表示(xi , yj )關(guān)于模糊關(guān)系關(guān)于模糊關(guān)系R 的相關(guān)程度的相關(guān)程度. . 又若又若R為布爾矩陣時(shí)為布爾矩陣時(shí), ,則關(guān)系則關(guān)系R為普通關(guān)系為普通關(guān)系, ,即即xi 與與 yj 之間要么有關(guān)系之間要么有關(guān)系(rij = 1), ,要么沒有關(guān)系要么沒有關(guān)系( rij = 0 ). 設(shè)設(shè) R1 是是 X 到到 Y

8、 的關(guān)系的關(guān)系, R2 是是 Y 到到 Z 的關(guān)系的關(guān)系, 則則R1與與 R2的合成的合成 R1 R2是是 X 到到 Z 上的一個(gè)關(guān)系上的一個(gè)關(guān)系.(R1 R2) (x, z) = R1 (x, y)R2 (y, z)| yY 當(dāng)論域?yàn)橛邢迺r(shí)，模糊關(guān)系的合成化為模糊當(dāng)論域?yàn)橛邢迺r(shí)，模糊關(guān)系的合成化為模糊矩陣的合成矩陣的合成. 設(shè)設(shè)X = x1, x2, , xm,Y = y1 , y2 , , ys, Z= z1, z2, , zn, ,且且X 到到Y(jié) 的的模糊模糊關(guān)系關(guān)系R1 = (aik)ms ，Y 到到Z 的的模糊模糊關(guān)系關(guān)系R2 = (bkj)sn ，則，則X 到到Z 的的模糊模糊關(guān)系

9、可表示為關(guān)系可表示為模糊模糊矩陣的合成：矩陣的合成：R1 R2 = (cij)mn 其中其中cij = (aikbkj) | 1ks. 若模糊關(guān)系若模糊關(guān)系R是是X上各元素之間的上各元素之間的模糊關(guān)系，且模糊關(guān)系，且滿足：滿足： (1)自反性：自反性：R(x, x) =1； (2)對(duì)稱性：對(duì)稱性：R(x, y) =R(y, x)； (3)傳遞性：傳遞性：R2 R, 則稱則稱模糊關(guān)系模糊關(guān)系R是是X上的一個(gè)上的一個(gè)模糊等價(jià)關(guān)系模糊等價(jià)關(guān)系. 當(dāng)論域當(dāng)論域X = x1, x2, , xn為有限時(shí)為有限時(shí), X 上的一個(gè)上的一個(gè)模糊等價(jià)關(guān)系模糊等價(jià)關(guān)系R就是模糊等價(jià)矩陣就是模糊等價(jià)矩陣, 即即R滿足

10、：滿足：I R ( rii =1 )RT=R( rij= rji)R2R.R2R ( (rikrkj) | 1kn rij) . R R R 12345 ,10.40.80.50.50.410.40.40.40.80.410.50.50.50.40.510.60.50.40.50.61Uu u u u uR 例設(shè) 210.40.80.50.50.410.40.40.40.80.410.50.50.50.40.510.60.50.40.50.61RR RR( ,)1( ,1,2,3,4,5)ijijuuR u ui j元素 與歸為一類的充要條件是 110.40.80.50.5100000.410

11、.40.40.4010000.80.410.50.5001000.50.40.510.6000100.50.40.50.6100001RR0.810.40.80.50.5101000.410.40.40.4010000.80.410.50.5101000.50.40.510.6000100.50.40.50.6100001RR12345: , , , , 5uuuuu相應(yīng)的分類共分為 類13245: , 4u uuuu相應(yīng)的分類共分為 類12345 , , uuuuu當(dāng) =1時(shí)，得到的分類為；13245 , , , u uuuu當(dāng) =0.8時(shí)，得到的分類為；13245 , , ,u uuu u

12、當(dāng) =0.6時(shí)，得到的分類為；13452 , u u u uu當(dāng) =0.5時(shí)，得到的分類為；12345 ,u u u u u當(dāng) =0.4時(shí)，得到的分類為； 若模糊關(guān)系若模糊關(guān)系 R 是是 X 上各元素之間的上各元素之間的模糊關(guān)系，模糊關(guān)系，且滿足：且滿足： (1) 自反性：自反性：R( x , x ) = 1； (2) 對(duì)稱性：對(duì)稱性：R( x , y ) = R( y , x ) ； 則稱則稱模糊關(guān)系模糊關(guān)系 R 是是 X 上的一個(gè)上的一個(gè)模糊相似關(guān)系模糊相似關(guān)系. 當(dāng)論域當(dāng)論域X = x1, x2, , xn為有限時(shí)，為有限時(shí)，X 上的一上的一個(gè)個(gè)模糊相似關(guān)系模糊相似關(guān)系 R 就是模糊相似

13、矩陣，即就是模糊相似矩陣，即R滿足：滿足： (1) 自反性：自反性：I R ( rii =1 )； (2) 對(duì)稱性：對(duì)稱性：RT = R ( rij = rji ). 定理定理1 若若R 是模糊相似矩陣，則對(duì)任意的自然是模糊相似矩陣，則對(duì)任意的自然數(shù)數(shù) k，Rk 也是模糊相似矩陣也是模糊相似矩陣. 定理定理2 若若R 是是n階模糊相似矩陣，則存在一個(gè)階模糊相似矩陣，則存在一個(gè)最小自然數(shù)最小自然數(shù) k (kn )，對(duì)于一切大于，對(duì)于一切大于k 的自然數(shù)的自然數(shù) l，恒有恒有Rl = Rk，即，即Rk 是模糊等價(jià)矩陣是模糊等價(jià)矩陣(R2k = Rk ). 此此時(shí)稱時(shí)稱Rk為為R的傳遞閉包，記作的傳

14、遞閉包，記作 t ( R ) = Rk . 上述定理表明，任一個(gè)模糊相似矩陣可誘導(dǎo)出上述定理表明，任一個(gè)模糊相似矩陣可誘導(dǎo)出一個(gè)模糊等價(jià)矩陣一個(gè)模糊等價(jià)矩陣.平方法求傳遞閉包平方法求傳遞閉包 t (R)：RR2R4R8R1610.10.2 0.110.30.20.31( )RRt R例設(shè)容易驗(yàn)證， 是模糊相似矩陣，用平方法求其傳遞閉包210.10.210.10.210.20.20.110.30.110.30.210.30.20.310.20.310.20.31R RR 22210.20.210.20.210.20.20.210.30.210.30.210.30.20.310.20.310.20

15、.31RRR 210.20.2( )0.210.30.20.31t RR故傳遞閉包（1）數(shù)據(jù)標(biāo)準(zhǔn)化）數(shù)據(jù)標(biāo)準(zhǔn)化 設(shè)論域設(shè)論域X = x1, x2, , xn為被分類對(duì)象為被分類對(duì)象,每個(gè)對(duì)每個(gè)對(duì)象又由象又由m個(gè)指標(biāo)表示其形狀個(gè)指標(biāo)表示其形狀:xi = xi1, xi2, , xim, i = 1, 2, , n于是于是,得到原始數(shù)據(jù)矩陣為得到原始數(shù)據(jù)矩陣為nmnnmmxxxxxxxxx.212222111211),.,2 , 1,.,2 , 1(mjnisxxxjjijij其中其中21111,()1nnjijjijjiixxsxxnnb 平移平移 極差變換極差變換1|min1|max1|min

16、nixnixnixxxijijijijija 相似系數(shù)法相似系數(shù)法 -夾角余弦法夾角余弦法mkjkmkikmkjkikijxxxxr12121mkjjkmkiikmkjjkiikijxxxxxxxxr12121)()(| |其中其中1111,mmiikjjkkkxxxxmmrij = 1 c d (xi, xj )其中其中c為適當(dāng)選取的參數(shù)為適當(dāng)選取的參數(shù).海明距離海明距離mkjkikjixxxxd1|),(歐氏距離歐氏距離mkjkikjixxxxd12)(),(切比雪夫距離切比雪夫距離d (xi, xj ) = | xik- - xjk | , 1km 左圖給出了左圖給出了9只只Af和和6只

17、只Apf蠓的觸角長和翼長蠓的觸角長和翼長數(shù)據(jù)數(shù)據(jù), , 其中其中“”表示表示Apf, ,“”表示表示Af. .根據(jù)觸角根據(jù)觸角長和翼長來識(shí)別一個(gè)標(biāo)本是長和翼長來識(shí)別一個(gè)標(biāo)本是Af還是還是Apf是重要的是重要的. . 給定一只給定一只Af族族或或Apf族的蠓族的蠓, ,如何如何正確地區(qū)分它屬于正確地區(qū)分它屬于哪一族？哪一族？ 將你的方法用將你的方法用于觸角長和翼長分于觸角長和翼長分別為別為(1.24,1.80), (1.28,1.84),(1.40,2.04)三個(gè)標(biāo)本三個(gè)標(biāo)本. .模糊判別方法模糊判別方法 先將已知蠓重新進(jìn)行分類先將已知蠓重新進(jìn)行分類. . 當(dāng)當(dāng) = 0.919時(shí)時(shí),分為分為3類

18、類1, 2, 3, 6, 4, 5, 7, 8, 9,10, 11, 12, 13, 14, 15,三類的中心向量分別為三類的中心向量分別為(1.395, 1.770),(1.560, 2.080),(1.227, 1.927).用平移極差變換用平移極差變換227. 108. 2227. 1xx將它們分別變?yōu)閷⑺鼈兎謩e變?yōu)锳1 = (0.200, 0.637) (Af 蠓蠓),A2 = (0.390, 1.000) (Af 蠓蠓),A3 = (0.000, 0.821) (Apf 蠓蠓),再將三只待識(shí)別的蠓用上述變換分別變?yōu)樵賹⑷淮R(shí)別的蠓用上述變換分別變?yōu)锽1= (0.015, 0.672),B2 = (0.062, 0.719),B3 = (0.203, 0.953 ). .采用貼近度采用貼近度 3 (A, B) =nkkkxBxAn1| )()(|11計(jì)算得：計(jì)算得： 3(A1, B1) = 0. 89, 3(A2, B1) = 0.65, 3(A3, B1) = 0.92.