模式識(shí)別第十二章

模式識(shí)別第十二章12.2模糊集的基本知識(shí)模糊集（FussySet）：由隸屬度函數(shù)uA(x)描述或定義的。其自變量是所有可能屬于集合A的對(duì)象。隸屬度函數(shù)：

表征元素x隸屬于集合A的程度，用uA(x)表示

第2頁(yè),共40頁(yè)，星期六，2024年，5月uA(x)取值：[0，1]（完全不屬于A）（完全屬于A）uA(x)越接近1，表示x屬于A的程度越高，uA(x)越接近0,則x屬于A的程度越低。模糊集可表示為：或：第3頁(yè),共40頁(yè)，星期六，2024年，5月空間X中，的樣本集合稱為模糊集A的支持集S(A),支持集中的元素稱作A的元素。顯然確定集可看作模糊集的特例的情況第4頁(yè),共40頁(yè)，星期六，2024年，5月例1．5個(gè)學(xué)生，其中男生3人，女生2人。A1、A2分別表示男女生集合，則顯然，A1、A2分界分明。但當(dāng)構(gòu)成一個(gè)表示“有才干的學(xué)生”的集合時(shí)，傳統(tǒng)集合難以應(yīng)用，這是可對(duì)每個(gè)元素確定一個(gè)數(shù)，表示隸屬程度第5頁(yè),共40頁(yè)，星期六，2024年，5月例2．有1、2、3、4、5五個(gè)數(shù)，用模糊集表示“大的數(shù)”和“小的數(shù)”，適當(dāng)選取隸屬度，則有例3：用水的溫度表示“開水”第6頁(yè),共40頁(yè)，星期六，2024年，5月用模糊集表示更合理，更接近日常理解傳統(tǒng)集合（確定集合）模糊集第7頁(yè),共40頁(yè)，星期六，2024年，5月

（模糊集的不確定性是人腦對(duì)客觀事物的一種主觀反映，人的心理過(guò)程就是其隸屬函數(shù)形成的基本過(guò)程。）確定隸屬度函數(shù)的方法：（非常重要）1）根據(jù)個(gè)人經(jīng)驗(yàn)和認(rèn)識(shí)（專家確定法）：

比較適合于元素離散、有限的情況2）選用典型函數(shù)：

已有公認(rèn)的對(duì)客觀事物真實(shí)而本質(zhì)化的“指標(biāo)”，可直接采用這些指標(biāo)描述問(wèn)題的不確定性例：S形、形隸屬函數(shù)

p278第8頁(yè),共40頁(yè)，星期六，2024年，5月可采用常見的模糊分布：

矩形分布、

分布、正態(tài)分布、梯形分布、三角分布等第9頁(yè),共40頁(yè)，星期六，2024年，5月3）根據(jù)統(tǒng)計(jì)特性得到的經(jīng)驗(yàn)曲線：

應(yīng)用較廣泛的方法模糊集運(yùn)算：1）相等：2）包含：B是A的子集3）并隸屬函數(shù)：第10頁(yè),共40頁(yè)，星期六，2024年，5月隸屬函數(shù)：也定義為：第11頁(yè),共40頁(yè)，星期六，2024年，5月A的補(bǔ)：A‘的隸屬函數(shù)：圖12.3：模糊函數(shù)的基本運(yùn)算第12頁(yè),共40頁(yè)，星期六，2024年，5月12.2模糊特征和模糊分類

一、特征模糊化（即特征的變換）

將原特征

模糊特征；明確分類

模糊分類由于類別（本質(zhì)）和特征（表象）之間可能存在較復(fù)雜的非線性關(guān)系，直接利用特征分類識(shí)別，必然效果不佳或方法復(fù)雜。為使關(guān)系更直接、簡(jiǎn)單，可將原來(lái)特征值域分成若干部分，并且使各部分特征含義做更本質(zhì)的變換，于是特征模糊化。第13頁(yè),共40頁(yè)，星期六，2024年，5月例：將[-4，＋4]間的連續(xù)變化量轉(zhuǎn)化為模糊量：正大、正小，零、負(fù)小、負(fù)大首先可將[＋4，-4]離散化，＋4對(duì)應(yīng)“正大”的隸屬度為1。隸屬函數(shù)若采用三角函數(shù)，則可得不同模糊量的隸屬度-4-3-2-101234正大0000000.30.61.0正小00000.30.61.00.60.3零000.30.61.00.60.300負(fù)小0.30.610.60.30000負(fù)大1.00.60.3000000第14頁(yè),共40頁(yè)，星期六，2024年，5月當(dāng)讀入精確量3.2時(shí)，可歸入最近的離散值3，則有

將精確量轉(zhuǎn)化為模糊量。第15頁(yè),共40頁(yè)，星期六，2024年，5月特征模糊化：用這些新的模糊特征代替原來(lái)的特征進(jìn)行模式識(shí)別。例：針對(duì)人的體重分類特征：體重可分為：偏輕，中等，偏重三個(gè)模糊特征按照一定的模糊規(guī)律，把原來(lái)的一個(gè)或多個(gè)特征分為多個(gè)模糊變量，同時(shí)配以一定的隸屬函數(shù)，使其每個(gè)模糊變量表達(dá)原來(lái)特征的某一局部特性，這些新特征能更好反映目標(biāo)的本質(zhì)，提高分類器性能。第16頁(yè),共40頁(yè)，星期六，2024年，5月可選用圖12.4的函數(shù)表示隸屬函數(shù)如：x=75kg,u中等＝0.5,u偏重＝0.5x=72kg,u中等＝0.8,u偏重＝0.2第17頁(yè),共40頁(yè)，星期六，2024年，5月缺點(diǎn)：特征維數(shù)增加體重(1維)

輕、中、重（3維）優(yōu)點(diǎn)：準(zhǔn)確性增加盡管特征數(shù)增多了，卻可使分類結(jié)果與特征之間的關(guān)系線性化，達(dá)到更好的分類效果。原特征變?yōu)槟：卣?，能更好反映?wèn)題的本質(zhì)第18頁(yè),共40頁(yè)，星期六，2024年，5月二、結(jié)果的模糊化

分類是把樣本集合分成若干子集，用模糊子集代替，得到模糊的分類結(jié)果，即分類結(jié)果模糊化。樣本不再是明確的屬于每個(gè)確定的類別，而是以不同程度屬于各個(gè)類別，即：以一定的隸屬度屬于各個(gè)類別。因此更真實(shí)，具有更多信息。第19頁(yè),共40頁(yè)，星期六，2024年，5月例：針對(duì)某一區(qū)域則隸屬程度為：模糊子集A為：表示圓塊這一模糊概念第20頁(yè),共40頁(yè)，星期六，2024年，5月優(yōu)點(diǎn)：1）分類結(jié)果比較真實(shí)的反映了分類的不確定性，利于決策；2）當(dāng)分類是多級(jí)時(shí)，有利于下一級(jí)分類（因?yàn)槟：姆诸惤Y(jié)果保留了更多的信息）第21頁(yè),共40頁(yè)，星期六，2024年，5月模糊分類的三個(gè)主要步驟：1、特征提取：

將原來(lái)普通意義上的特征值變?yōu)槟：卣?，即從樣本?/p>

中，提取各種模糊特征量；2、建立x屬于A的隸屬度函數(shù)：建立一個(gè)明確算法以產(chǎn)生隸屬函數(shù)uA，uA的確定沒有普遍的原則，帶有主觀性、經(jīng)驗(yàn)性?；蚪⒃刂g的模糊相似關(guān)系，并確定這個(gè)關(guān)系的隸屬函數(shù)，即相關(guān)程度；第22頁(yè),共40頁(yè)，星期六，2024年，5月3、確定歸屬準(zhǔn)則進(jìn)行分類識(shí)別模糊分類：使用模糊技術(shù)分類，其結(jié)果不再使一個(gè)樣本明確地屬于某一類或不屬于某一類，而是以一定的隸屬度屬于各個(gè)類別，結(jié)果更真實(shí)，具有更多的信息。識(shí)別基本方法：最小距離原則（擇近原則）；最大隸屬原則。去模糊化：在此基礎(chǔ)上，再按某種歸屬原則對(duì)x進(jìn)行判決，指出屬哪一類。第23頁(yè),共40頁(yè)，星期六，2024年，5月12.5模糊聚類方法

FCM算法就是在迭代尋優(yōu)過(guò)程中，不斷更新各類中心及隸屬度的值，直到下列準(zhǔn)則函數(shù)最小化模糊C均值算法（FCM）設(shè)樣本集：欲分成c類為每個(gè)聚類中心表示第i個(gè)樣本對(duì)于第j類的隸屬函數(shù)第24頁(yè),共40頁(yè)，星期六，2024年，5月定義準(zhǔn)則函數(shù)：即：要求每一個(gè)樣本xi屬于各類的程度總和為1——與隸屬函數(shù)有關(guān)的聚類準(zhǔn)則函數(shù)其中b>1，可控制聚類結(jié)果的模糊程度（權(quán)重）問(wèn)題：怎樣確定mi和？約束條件第25頁(yè),共40頁(yè)，星期六，2024年，5月利用拉格朗日乘子法，求Jf

的極值，得：第26頁(yè),共40頁(yè)，星期六，2024年，5月4、比較更新前后的準(zhǔn)則函數(shù)，以確定更新是否保持。若Jf變化較大，重復(fù)3、4的過(guò)程，直到Jf不變?yōu)橹?。FCM算法步驟：1、確定聚類數(shù)目c和參數(shù)b2、初始化各聚類中心mi

，即代表點(diǎn)。（很敏感）3、用迭代算法，更新mi以及

(i)用當(dāng)前的聚類中心，計(jì)算新的隸屬函數(shù)

(ii)用當(dāng)前新的隸屬函數(shù)更新各類的聚類中心第27頁(yè),共40頁(yè)，星期六，2024年，5月當(dāng)算法收斂后，得到各類的聚類中心和樣本屬于各類的隸屬度值，完成了模糊聚類劃分。即每個(gè)樣本以一定的隸屬度屬于各個(gè)類別。去模糊化：模糊結(jié)果轉(zhuǎn)化為確定性分類方法1：擇近原則方法2：最大隸屬原則第28頁(yè),共40頁(yè)，星期六，2024年，5月——所有樣本對(duì)各類的隸屬度總和為n改進(jìn)的模糊C均值法：對(duì)于野值點(diǎn)樣本，屬于各類的隸屬度都應(yīng)該很小，但由于的歸一化要求，即，使其對(duì)各類都有較大的隸屬度（例兩類uA(x)=0.5），因此野值點(diǎn)將影響迭代的最終結(jié)果，為此放松歸一化條件：第29頁(yè),共40頁(yè)，星期六，2024年，5月計(jì)算

的公式不變，而

計(jì)算式則為對(duì)mi初值仍十分敏感，可采用確定性C均值法或普通的模糊C均值法的結(jié)果作為初值?！倪M(jìn)的FCM第30頁(yè),共40頁(yè)，星期六，2024年，5月其中：Ai表示一個(gè)模糊樣本類wi分類結(jié)果的確定性：（去模糊化）1）擇近原則2）最大隸屬原則對(duì)于給定的x，若有隸屬度為：則判x歸屬于Ai所代表的類，即例：若x屬于體重偏輕類Ai，有對(duì)應(yīng)的某種疾病類。作為該病的一個(gè)判別指標(biāo)。第31頁(yè),共40頁(yè)，星期六，2024年，5月3）閾值原則：規(guī)定一個(gè)閾值

[0,1]

，作為停止條件則判令：若a<

，則拒判若a>

，則比較

與

的大小若有k個(gè)即：例：若A1、A2分別代表身高為高、中等，當(dāng)則x是中高個(gè)第32頁(yè),共40頁(yè)，星期六，2024年，5月解釋圖12.5a)第一種數(shù)據(jù)分布：三種方法效果相同b）第二種數(shù)據(jù)分布：分類有一定重疊，改進(jìn)的模糊C均值法效果好些c）第三種數(shù)據(jù)分布：兩類完全重疊。圖中看出，改進(jìn)的模糊C均值法能合理給出比預(yù)設(shè)數(shù)目少的聚類三種方法比較第33頁(yè),共40頁(yè)，星期六，2024年，5月解釋圖12.6實(shí)際的c=4,設(shè)定的c＝3可見改進(jìn)的模糊C均值法能正確給出3個(gè)聚類中心第34頁(yè),共40頁(yè)，星期六，2024年，5月12.4特征的模糊評(píng)價(jià)

——如何評(píng)價(jià)所得到的特征用模糊集的模糊程度評(píng)價(jià)特征對(duì)于分類性能的表現(xiàn)1、模糊程度的度量

度量一個(gè)模糊集的模糊程度很重要，可從總體上反映各元素屬于或不屬于一個(gè)集合的明確性。uA(x)越接近1或0越不模糊，越接近0.5越模糊（1）距離模糊度：刻畫了一個(gè)模糊集的整體模糊程度。第35頁(yè),共40頁(yè)，星期六，2024年，5月其中n是集合A中，uA(x)>0的點(diǎn)的個(gè)數(shù)，即支持點(diǎn)數(shù)目。是包含A中uA(x)>0.5的支持點(diǎn)是A與

之間的距離k是一個(gè)調(diào)節(jié)參數(shù)，使r(A)值在0～1之間，隨采用的距離方式不同而變化定義：第36頁(yè),共40頁(yè)，星期六，2024年，5月例：若采用廣義漢明距離（k＝1）---稱為線性模糊度若采用歐氏距離（k＝2）有第37頁(yè),共40頁(yè)，星期六，2024年，5月