模式識別理論及應用

1、武漢大學電子信息學院32451模式識別與神經(jīng)網(wǎng)絡第七章 非監(jiān)督學習方法3監(jiān)督學習推廣u非監(jiān)督學習第七章 非監(jiān)督學習方法4第七章 非監(jiān)督學習方法5第七章 非監(jiān)督學習方法6一維空間中的單峰子集分離第七章 非監(jiān)督學習方法7yxx=uTy 樣本協(xié)方差矩陣第七章 非監(jiān)督學習方法8第七章 非監(jiān)督學習方法9yuuuTy第七章 非監(jiān)督學習方法101argm ax()LktJk第七章 非監(jiān)督學習方法11211(|)(|)()ccijijJfKfKpd xxxx1(|)(,)iiiKfKKNxxx x第七章 非監(jiān)督學習方法12argm ax(|),kikjijfKKxx第七章 非監(jiān)督學習方法13u相似性度量 樣本

2、樣本聚類(,)ijKx(,)() ()Tijijijx xxxxx第七章 非監(jiān)督學習方法14最小誤差平方和準則1(,)iciiKJ yx m第七章 非監(jiān)督學習方法15代表點11(,)()()iiccTiiiiKiKJ xxx mxmxm第七章 非監(jiān)督學習方法161.初始化：選擇c個代表點p1, p2, ,pc2.建立c個空聚類列表： K1, K2, ,Kc3.按照最小距離法則逐個對樣本x進行分類：4.計算J及用各聚類列表計算聚類均值，并用來作為各聚類新的代表點（更新代表點）5.若J不變或代表點未發(fā)生變化，則停止。否則轉2。argm in(,), add(,)ijijKx px1(,)iciiK

3、J xx p第七章 非監(jiān)督學習方法18第七章 非監(jiān)督學習方法19逐個樣本修正法成批樣本修正法argm in(,),ijijy py第七章 非監(jiān)督學習方法20(,)iKx第七章 非監(jiān)督學習方法21argm in(,), add(,)ijijKLxx1(,)iciiKJK yx第七章 非監(jiān)督學習方法2211 / 2/ 211()exp()()2(2)TiiiidjKxxmxm111(,)()()log22TiiiijK xxmxm第七章 非監(jiān)督學習方法23u近鄰函數(shù)11NNwijijLa 第七章 非監(jiān)督學習方法24,m in()kiljijklKKayym axm axm axm axm axm

4、axm axm axm axm axm axm axm axm ax()(),ijiijjijiijjijiijiijjijijjijiijjijijijiijjaaifaaaifaabaifaaaaifaa第七章 非監(jiān)督學習方法25bijijLb1. 計算距離矩陣2. 用距離矩陣計算近鄰矩陣3. 計算近鄰函數(shù)矩陣4. 在L 中，每個點與其最近鄰連接，形成初始的劃分5. 對每兩個類計算rij 和aimax，ajmax ，只要rij 小于aimax、ajmax中的任何一個，就合并兩類（建立連接）。重復至沒有新的連接發(fā)生為止wbJLL第七章 非監(jiān)督學習方法26第七章 非監(jiān)督學習方法27y1y2y3y4y5y61009080706050401-水平 -2-水平 -3-水平 -4-水平 -5-水平 -6-水平 -第七章 非監(jiān)督學習方法28(,)m in(,)ijijKKKKxyx