模式識(shí)別第4章模糊模式識(shí)別

1、第4章 模糊模式識(shí)別方法1 1965年，美國(guó)加利福尼亞大學(xué)L.A. Zadeh教授首次發(fā)表“Fuzzy Sets”重要論文，提出了著名的模糊集理論，是對(duì)傳統(tǒng)集合理論的推廣。 傳統(tǒng)集合理論：元素或者屬于一個(gè)集合，或者不屬于一個(gè)集合 模糊集理論：每一個(gè)元素都是以一定的程度屬于某個(gè)集合，也可以同時(shí)以不同的程度屬于幾個(gè)集合。-模糊性: “高矮”、“胖瘦”、“年青”、“年老”2模糊技術(shù)應(yīng)用 將模糊技術(shù)應(yīng)用于各個(gè)不同的領(lǐng)域，就產(chǎn)生了一些新的學(xué)科分支 和人工神經(jīng)網(wǎng)絡(luò)相結(jié)合，就產(chǎn)生了所謂模糊神經(jīng)網(wǎng)絡(luò)。 應(yīng)用到自動(dòng)控制中，就產(chǎn)生了模糊控制技術(shù)和系統(tǒng) 應(yīng)用到模式識(shí)別領(lǐng)域來，自然就是模糊模式識(shí)別應(yīng)用到模式識(shí)別領(lǐng)域來

2、，自然就是模糊模式識(shí)別。 從20世紀(jì)80年代以來，在很多傳統(tǒng)的控制問題中，模糊控制技術(shù)的應(yīng)用取得了很好的效果。 地鐵的模糊控制系統(tǒng) 洗衣機(jī)、電飯鍋等的模糊控制3模糊模式識(shí)別 模式識(shí)別從一開始就是模糊技術(shù)應(yīng)用研究的一個(gè)活躍領(lǐng)域： 一方面，人們針對(duì)一些模糊式識(shí)別問題設(shè)計(jì)了相應(yīng)的模糊模式識(shí)別系統(tǒng)； 另一方面，對(duì)傳統(tǒng)模式識(shí)別中的一些方法，用模糊數(shù)學(xué)進(jìn)行了很多改進(jìn)。44.1 模糊集的基本知識(shí) 1、隸屬度函數(shù)、隸屬度函數(shù) 對(duì)象x隸屬于集合A的程度的函數(shù)，記作：A(x) , 0 A(x) 1 A(x)=1 ， 相當(dāng)于傳統(tǒng)集合的 x A A(x)=0 ， 相當(dāng)于傳統(tǒng)集合的確定集（脆集合）確定集（脆集合）模糊集

3、模糊集xA56常見的隸屬度函數(shù)形式 臺(tái)階型 三角形 梯形 高斯函數(shù)型6 在空間（論域） X=x上的隸屬度函數(shù)就定義了一個(gè)模糊集合A。表示為 A= (A(x) ,x) 或： A=A(x)/x x：稱為模糊集A的元素2、模糊集的定義7例：例：“開水開水”這一概念的模糊集與確定集這一概念的模糊集與確定集 確定集（點(diǎn)）確定集（點(diǎn)）放寬標(biāo)準(zhǔn)的確定集放寬標(biāo)準(zhǔn)的確定集模糊集模糊集83、模糊集的支持集（臺(tái)）v模糊集模糊集A的支持集的支持集S(A)：X= x 中能使A(x)0的元素集合：S(A)= x, xX，A(x) 0v支持點(diǎn)：支持點(diǎn)：支持集中的元素。v模糊獨(dú)點(diǎn)集：模糊獨(dú)點(diǎn)集：它的臺(tái)只含元素x1，而(x1)

4、=1，則記為：A 1/x1v若A是有限的臺(tái)(x1,x2,xn) , 而(xi)=i (i為隸屬函數(shù),xi為元素)， 則：A=i/xi910例：在論域X中確定一個(gè)模糊子集A，它表示“園塊”這一模糊概念。（如圖）X=(a,b,c,d,e, f）(a)=1, (b)=0.9, (c)=0.4, (d)=0.2(e)= (f)=010.90.40.2AAabcd共有四個(gè)臺(tái)，可得abcdefE水平集l若A為X=x中的模糊集，則A =x| A(x)稱為模糊集A的水平集， 01：控制聚類結(jié)果的模糊程度的常數(shù)iC2i1 yeiJym62C2j1()nbejiijiJxxm1()1,1,2,.,Cjijxin

5、在不同的隸屬度定義方法下最小化式Je的損失函數(shù)，就得到不同的模糊聚類方法 在上述約束下求Je的極小值: 令Je對(duì)mi和j(xi)的偏導(dǎo)數(shù)為0，可得必要條件：63j2 1/(1)2 1/(1)1( ),1,2,.,( )1/ | 1,2,.,( ),1,2,.,1/ | nbjiiinbjiibijjicbikkxxmjcxxminxjcxm算法步驟 設(shè)定聚類數(shù)目C和參數(shù)b初始化各個(gè)聚類中心mi重復(fù)下面的運(yùn)算用當(dāng)前的聚類中心計(jì)算隸屬度函數(shù)： j(xi)用當(dāng)前的隸屬度函數(shù)更新計(jì)算各類聚類中心: mi當(dāng) j(xi)變化很小時(shí)，算法收斂，迭代終止。l算法收斂時(shí)：得到各類的聚類中心，各個(gè)樣本對(duì)于各類的隸

6、屬度值，從而完成了模糊聚類劃分。l如果需要，可以將模糊聚類結(jié)果進(jìn)行去模糊化，即用一定的規(guī)則把模糊聚類劃分轉(zhuǎn)化為確定性分類。644.4.3 改進(jìn)的模糊C均值算法 模糊C均值算法：引入了的歸一化條件， 存在的問題：若樣本集不理想，可能導(dǎo)致結(jié)果不好。 例如：如果某個(gè)野值樣本遠(yuǎn)離各類的聚類中心，本來它嚴(yán)格屬于各類的隸屬度都很小，但由于歸一化條件的要求，將會(huì)使它對(duì)各類都有較大的隸屬度（比如兩類倩況下各類的隸屬度都是0.5)，這種野值的存在將影響迭代的最終結(jié)果。 1()1,1,2,.,Cjijxin65改進(jìn) 放松的歸一化條件： 算法與模糊C均值算法相同 ，而隸屬度和均值按下式計(jì)算： C1()njijixn

7、66j2 1/(1)2 1/(1)11( ),1,2,.,( )1/ | 1,2,.,( ),1,2,.,1/ | nbjiiinbjiibijjicnbikkixxmjcxnxminxjcxm隸屬度 改進(jìn)的模糊C均值算法得到的隸屬度值可能會(huì)大于1，因此并不是通常意義上的隸屬度函數(shù)。 必要時(shí)可以把最終得到的隸屬度函數(shù)進(jìn)行歸一化處理，這時(shí)已不會(huì)影響聚類結(jié)果。 如果結(jié)果要求進(jìn)行去模糊化則可以直接用這里得到的隸屬度函數(shù)進(jìn)行。67改進(jìn)的模糊C均值方法的優(yōu)缺點(diǎn)比模糊c均值方法有更好的魯棒性：有更好的魯棒性： 有野值存在的情況下得到較好的聚類結(jié)果 聚類結(jié)果對(duì)預(yù)先確定的聚類數(shù)目不十分敏感對(duì)聚類中心的初值十分

8、敏感（對(duì)聚類中心的初值十分敏感（與確定性C均值算法、模糊C均值算法一樣）。 為了得到較好的結(jié)果，可用確定性C均值方法或普通模糊C均值方法的結(jié)果作為初值。如果在迭代過程中出現(xiàn)某個(gè)聚類中心距離某個(gè)樣本非常如果在迭代過程中出現(xiàn)某個(gè)聚類中心距離某個(gè)樣本非常近，則最后可能會(huì)得到只包含這一個(gè)樣本的聚類。近，則最后可能會(huì)得到只包含這一個(gè)樣本的聚類。 為防止出現(xiàn)這種清況，可以對(duì)隸屬度計(jì)算式中的距離運(yùn)算加一個(gè)非線性處理，比如使距離最小不會(huì)小于某個(gè)值。68C均值、模糊C均值和改進(jìn)的模糊C均值方法的對(duì)比實(shí)驗(yàn) 69 三種不同數(shù)據(jù)分布情況下，三種不同數(shù)據(jù)分布情況下，C均值（均值（“-”）、模糊）、模糊C均值均值（“”）

9、和改進(jìn)的模糊）和改進(jìn)的模糊C均值均值（“.”）聚類結(jié)果的比較）聚類結(jié)果的比較 （a）兩類分開較遠(yuǎn)，3種方法效果相同； （b）兩類比較靠近，有部分重迭，改進(jìn)的模糊C均值的聚類中心不準(zhǔn)。 （c）兩類重迭，C均值和模糊C均值改算法將樣本錯(cuò)誤地分成兩類，而改進(jìn)的模糊C均值方法的只給出一個(gè)聚類中心，比較合理。70給定聚類數(shù)目給定聚類數(shù)目(3類類)與實(shí)際數(shù)目（與實(shí)際數(shù)目（4類）不符時(shí)各種方法聚類結(jié)果的比較類）不符時(shí)各種方法聚類結(jié)果的比較（a）正確聚類 ;（b） C均值;（c）模糊C均值；（d）改進(jìn)的模糊C均值結(jié)論：結(jié)論： C均值和模糊C均值的聚類結(jié)果錯(cuò)誤，而改進(jìn)的模糊C均值能正確給出4個(gè)聚類中心的3個(gè)。4.4.4 模糊K近鄰分類器 當(dāng)樣本稀疏時(shí)，僅考慮K個(gè)近鄰樣本的多少，而不考慮他們的距離差別是不合理的。 模糊K近鄰：通過引入隸屬度函數(shù)來克服。 若得到K個(gè)近鄰，