計算機科學(xué)理論模式識別課件c1.ppt

模式識別 Pattern Recognition,余 莉 電話： 76434（O）,61430（M） E-mail：（民網(wǎng)） liliyugfkd.mtn（軍網(wǎng)）,課程對象,信息工程專業(yè)本科生的專業(yè)課 學(xué)院碩士研究生的學(xué)位課 學(xué)院博士研究生的必修課之一,學(xué)習(xí)方法,著重理解 基本概念 基本方法 算法原理 注重理論與實踐緊密結(jié)合,基本要求,基本：完成課程學(xué)習(xí)，通過考試，獲得學(xué)分。 提高：能夠?qū)⑺鶎W(xué)知識和內(nèi)容用于課題研究，解決實際問題。 飛躍：通過模式識別的學(xué)習(xí)，改進思維方式，為將來的工作打好基礎(chǔ)，終身受益。,課程內(nèi)容及安排,第一章 引論 (2學(xué)時) 第二章 聚類分析 (4學(xué)時) 第三章 判別域代數(shù)界面方程法 (4學(xué)時) 第四章 統(tǒng)計判決 (4學(xué)時) 第五章 統(tǒng)計決策中的學(xué)習(xí)與估計（4學(xué)時) 第六章 最近鄰方法 （2學(xué)時) 第七章 特征提取與選擇 (2學(xué)時) 復(fù)習(xí) (2學(xué)時) 實驗 上機實驗 (8學(xué)時) 作業(yè) 每章課后布置習(xí)題 考核 筆試(70%)+實驗(20%)+作業(yè)(10%),教材及參考教材,教材 孫即祥，現(xiàn)代模式識別，國防科技大學(xué)出版社，2002.1 參考教材 J.P.Marques de Sa,模式識別-原理、方法及應(yīng)用，清華大學(xué)出版社，2002.11 邊肇祺等，模式識別（第二版）清華大學(xué)出版社 2000.1 Sergios Theodoridis, 李晶皎等譯，模式識別（第三版），電子工業(yè)出版社，2006,第一章 引 論,1.1 模式和模式識別,1.1.1 模式和模式識別的概念 識別是人類的基本行為 模式識別（Pattern Recognition）使用計算機來辨別事物。機器識別，計算機識別，機器自動識別。,1. 2 模式識別系統(tǒng),概 念,樣本（Sample)：一個具體的研究（客觀）對象。如某人寫的一個漢字，一幅圖片等。 模式（Pattern）：對客體（研究對象）特征的描述（定量的或結(jié)構(gòu)的描述），是取自客觀世界的某一樣本的測量值的集合（或綜合）。 模式類（Class）：具有某些共同特性的模式的集合。,特征矢量： 設(shè)一個研究對象的 個特征量測量值分別 為 ,我們將它們作為一個整體來 考慮,讓它們構(gòu)成一個 維特征矢量 。 特征空間: 各種不同取值的特征矢量的全體構(gòu)成了 維特征空間。 注：特征矢量就是特征空間中的一個點。,(顏色（綠/紅）,似圓度),顏色（綠/紅）,似圓度,模式識別：確定一個樣本的類別屬性（模式類）的過程，即把某一樣本歸屬于多個類型中的某個類型。模式分類的過程。,1.1.2 機器與人類識別事物原理的比較,人類：具有抽象抽象概念的能力 總結(jié)規(guī)律，抽象出概念 機器：缺乏抽象能力 基本方法是計算,1.1.3 模式識別技術(shù)的應(yīng)用領(lǐng)域,生物學(xué) 自動細胞學(xué)、染色體特性研究、遺傳研究 天文學(xué) 天文望遠鏡圖像分析、自動光譜學(xué) 經(jīng)濟學(xué) 股票交易預(yù)測、企業(yè)行為分析 醫(yī)學(xué) 心電圖分析、腦電圖分析、醫(yī)學(xué)圖像分析,文字識別（Character Recognition） OCR（Optical Character Recognition） 智能交通（Intelligent Traffic） 車牌、車型 語音識別（Speech recognition） 翻譯機，身份識別等 目標識別 ATR（Automaic Target Recognition）,（1）確定患者的病癥：測量體溫、血壓，化驗血沉，詢問臨床表現(xiàn)（模式采集）； （2）醫(yī)生運用醫(yī)學(xué)知識和個人經(jīng)驗（分類判決規(guī)則），根據(jù)主要病癥（特征提取/選擇），作出診斷（分類判決）：該患者（模式樣本）患了何種疾?。Ｊ筋悾?。,例子1：診斷,1. 2 模式識別系統(tǒng),1. 2 模式識別系統(tǒng),數(shù)據(jù)采集 特征提取,正確率 測試,數(shù)據(jù)采集 特征提取,改進分類識別規(guī)則,二次特征 提取與選擇,分類 識別,改進采集 提取方法,二次特征提取與選擇,改進特征提取與選擇,制定改進分類識別規(guī)則,待識 對象,訓(xùn)練 樣本,人工 干預(yù),識別結(jié)果,例子2：蘋果和香蕉的分類,顏色（綠/紅）,似圓度,1. 2 模式識別系統(tǒng),18,紙幣識別器對紙幣按面額進行分類 面額,例子3：紙幣識別系統(tǒng),5元 10元 20元 50元 100元,19,長度(mm) 寬度(mm) 5元 136 63 10元 141 70 20元 146 70 50元 151 70 100元 156 77,例子3：紙幣識別系統(tǒng),20,磁性 金屬條位置(大約) 5元 有 54/82 10元 有 54/87 20元 有 57/89 50元 有 60/91 100元 有 63/93,例子3：紙幣識別系統(tǒng),21,數(shù)據(jù)采集、特征提?。?長度、寬度、磁性、磁性的位置等等,特征選擇： 長度、位置,分類識別： 確定紙幣的面額,例子3：紙幣識別系統(tǒng),各類空間（Space)的概念,對象空間,模式空間,特征空間,類型空間,模式采集：從客觀世界（對象空間）到模式空間的過程稱為模式采集。,特征提取和特征選擇：由模式空間到特征空間的變換和選擇。,類型判別：特征空間到類型空間所作的操作。,1. 3 特征矢量和特征空間,所有樣本觀測數(shù)據(jù)構(gòu)成的空間,1. 3 特征矢量和特征空間,1. 4 模式識別方法,統(tǒng)計判決 句法結(jié)構(gòu) 模糊判決 邏輯推理 神經(jīng)網(wǎng)絡(luò),（1）統(tǒng)計判決,理論基礎(chǔ)：概率論，數(shù)理統(tǒng)計 模式描述方法：特征向量 主要方法 幾何分類：線性分類，非線性分類 統(tǒng)計分類：Bayes決策 無教師的分類：聚類分析 主要優(yōu)點 1）比較成熟 2）能考慮干擾噪聲等影響 3）識別模式基元能力強 主要缺點 1）對結(jié)構(gòu)復(fù)雜的模式抽取特征困難 2）不能反映模式的結(jié)構(gòu)特征，難以描述模式的性質(zhì) 3）難以從整體角度考慮識別問題,（2）句法結(jié)構(gòu),理論基礎(chǔ)：形式語言，自動機技術(shù) 模式描述方法：符號串，樹，圖 模式判定：是一種語言，用一個文法表示一個類， m類就有m個文法，然后判定未知模式遵循哪一個文法。 主要優(yōu)點 1）識別方便，可以從簡單的基元開始，由簡至繁。 2）能反映模式的結(jié)構(gòu)特征，能描述模式的性質(zhì)。 3）對圖象畸變的抗干擾能力較強。 主要缺點 當存在干擾及噪聲時，抽取特征基元困難，且易失誤。,（3）模糊判決,理論基礎(chǔ)：模糊數(shù)學(xué) 模式描述方法：模糊集合 A=(a,a), (b,b),. (n,n), 模式判定：是一種集合運算。用隸屬度將模糊集合劃分為若干子集， m類就有m個子集，然后根據(jù)擇近原則分類。 主要優(yōu)點 由于隸屬度函數(shù)作為樣本與模板間相似程度的度量，故往往能反映整體的與主體的特征，從而允許樣本有相當程度的干擾與畸變。 主要缺點 準確合理的隸屬度函數(shù)往往難以建立，故限制了它的應(yīng)用。,（4）邏輯推理,理論基礎(chǔ)：演繹邏輯，布爾代數(shù) 模式描述方法：字符串表示的事實 模式判定：是一種布爾運算。從事實出發(fā)運用一系列規(guī)則，推理得到不同結(jié)果，m個類就有m個結(jié)果。 主要優(yōu)點 已建立了關(guān)于知識表示及組織，目標搜索及匹配的完整體系。對需要眾多規(guī)則的推理達到識別目標確認的問題，有很好的效果。 缺點 當樣本有缺損，背景不清晰，規(guī)則不明確甚至有歧義時，效果不好。,（5）神經(jīng)網(wǎng)絡(luò),理論基礎(chǔ)：神經(jīng)生理學(xué)，心理學(xué)