ch1模式與模式識別概論.ppt

第一章 概論,模 式 識 別,Pattern Recognition,,1 模式及模式識別的概念 2 模式識別系統(tǒng) 3 模式識別的應(yīng)用 4 模式識別的方法,第一章 模式識別概論,1.1 模式及模式識別的概念,模式識別(Pattern Recognition)：確定一個樣本的類別屬性（模式）的過程，即把某一樣本歸屬于多個類型中的某個類型.,樣本（Sample)：所研究對象的一個個體， 如患者的細胞、一個漢字、一幅圖片、一段視頻等.,模式( Pattern)：對研究對象所具有的特征和信息的描述，對某類事物的抽象也成為該類的模式 .,人類具有很強的模式識別能力，時刻在完成某種模式識別的任務(wù)。 模式識別是從樣本到類別的映射。,1.1 模式及模式識別的概念,1929年 G. Tauschek發(fā)明閱讀機 ，能夠閱讀0-9的數(shù)字。 30年代 Fisher提出統(tǒng)計分類理論，奠定了統(tǒng)計模式識別的基礎(chǔ)。 50年代 Noam Chemsky 提出形式化語言理論，傅京蓀 提出句法結(jié)構(gòu)模式識別。 60年代 L.A.Zadeh提出了模糊集理論，模糊模式識別方法得以發(fā)展和應(yīng)用。 80年代以Hopfield網(wǎng)、BP網(wǎng)為代表的神經(jīng)網(wǎng)絡(luò)模型使人工神經(jīng)元網(wǎng)絡(luò)復(fù)活，并在模式識別得到廣泛的應(yīng)用。 90年代小樣本學(xué)習(xí)理論，支持向量機受到了很大的重視。,模式識別簡史,1、數(shù)據(jù)獲取 2、預(yù)處理 3、特征抽取 4、分類器設(shè)計,1.2 模式識別系統(tǒng),1.2 模式識別系統(tǒng),分 類 過 程,學(xué) 習(xí) 過 程,在傳送帶上用光學(xué)傳感器件對魚按品種分類 鱸魚(Seabass) 品種 鮭魚(Salmon),模式識別過程實例,識別過程,數(shù)據(jù)獲取：架設(shè)一個攝像機，采集一些樣本圖像，獲取樣本數(shù)據(jù) 預(yù)處理：去噪聲，用一個分割操作把魚和魚之間以及魚和背景之間分開,識別過程,特征提取和選擇：對單個魚的信息進行特征選擇，從而通過測量某些特征來減少信息量 長度 亮度 寬度 魚翅的數(shù)量和形狀 嘴的位置 分類決策：把特征送入決策分類器,識別過程,識別過程,識別過程,識別過程,識別過程,1.數(shù)據(jù)獲取,為了使計算機能夠?qū)腕w進行分類識別，必須將客體用計算機所能接受的形式表示，通常從客體獲得的信息有下列三種類型 二維圖像，如文字、指紋、照片等； 一維波形，如語音、機械振動波、心電團等； 物理參量或邏輯值，如體溫、各種實驗數(shù)據(jù)等。 通過測量、采樣和量化，可以用矩陣或向量表示二維圖象或一維波形，這就是信息獲取過程。,2預(yù)處理,預(yù)處理的目的是去除噪聲，加強有用的信息，并對種種因素造成的退化現(xiàn)象進行復(fù)原。,某人聲音有雜音,清晰聲音,圖像預(yù)處理,語音信號預(yù)處理,模糊圖像,清晰圖像,3特征提取,為了有效地實現(xiàn)分類識別，要對原始數(shù)據(jù)進行選擇或變換，得到最能反應(yīng)分類本質(zhì)的待征，構(gòu)成特征向量。,人臉幾何特征 人臉部件規(guī)一化的點間距離和比率特征點 如眼角、嘴角、鼻尖等 人臉的顏色特征 黃皮膚、黑眼睛 統(tǒng)計特征 臉形模板和圖象灰度的自相關(guān)性,4分類器設(shè)計,為了把待識模式分配到各自的模式類中去，必須設(shè)計出分類判別規(guī)則。 基本作法是：用一定數(shù)量的樣本(稱為訓(xùn)練樣本集)確定出一套分類判別規(guī)則，使得按這套分類判別規(guī)則對待識模式進行分類所造成的錯誤識別率最小或引起約損失最小。 分類器按已確定的分類判別規(guī)則對待識模式進行分類判別，輸出分類結(jié)果。,監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí),監(jiān)督學(xué)習(xí),監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí),劃分的類別已知，且訓(xùn)練樣本已知類別信息,非監(jiān)督學(xué)習(xí),半監(jiān)督學(xué)習(xí),沒有類別標簽， 通常利用聚類方法完成 樣本的分類,部分樣本有類別標簽， 目標與有監(jiān)督分 類一致,應(yīng)用領(lǐng)域,1.3 模式識別的應(yīng)用,文本分類 文本圖像分析 工業(yè)自動化 數(shù)據(jù)挖掘 多媒體數(shù)據(jù)庫檢索 生物特征識別 語音識別 生物信息學(xué) 遙感 ,1.3 模式識別的應(yīng)用, 準確性 速度 存儲量 價格,指紋識別,1.3 模式識別的應(yīng)用,語音信號處理與識別,語音識別 說話人識別 語種識別 口音識別,1.3 模式識別的應(yīng)用,人臉圖像識別, 人臉檢測和定位 人臉識別 虹膜識別,應(yīng)用： 圖象壓縮 視頻監(jiān)視 基于內(nèi)容的圖象檢索,醫(yī)學(xué)信號的處理、識別和分類： 細胞正常與異常判斷，染色體分類，心電腦電圖，測謊儀,1.3 模式識別的應(yīng)用,應(yīng)用領(lǐng)域,1.3 模式識別的應(yīng)用,1. 模板匹配識別方法 2. 句法識別方法 3. 統(tǒng)計識別方法 4. 人工神經(jīng)網(wǎng)絡(luò)方法,1.4 模式識別方法,模版匹配,首先對每個類別建立一個或多個模版 輸入樣本和數(shù)據(jù)庫中每個類別的模版進行比較，求相關(guān)或距離 根據(jù)相關(guān)性或距離大小進行決策 優(yōu)點：直接、簡單 缺點：適應(yīng)性差,方法,句法模式,許多復(fù)雜的模式可以分解為簡單的子模式，這些子模式組成所謂 “基元” 每個模式都可以由基元根據(jù)一定的關(guān)系來組成 基元可以認為是語言中的詞語，每個模式都可以認為是一個句子，關(guān)系可以認為是語法 模式的相似性由句子的相似性來決定 優(yōu)點：適合結(jié)構(gòu)性強的模式 缺點：抗噪聲能力差，計算復(fù)雜度高,方法,句法模式,方法,統(tǒng)計方法,根據(jù)訓(xùn)練樣本，建立決策邊界 統(tǒng)計決策理論根據(jù)每一類總體的概率分布決定決策邊界 判別式分析方法給出帶參數(shù)的決策邊界，根據(jù)某種準則，由訓(xùn)練樣本決定“最優(yōu)”的參數(shù) 本課程的重點內(nèi)容,方法,神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)是受人腦組織的生理學(xué)啟發(fā)而創(chuàng)立的。 由一系列互相聯(lián)系的、相同的單元（神經(jīng)元）組成。相互間的聯(lián)系可以在不同的神經(jīng)元之間傳遞增強或抑制信號。 增強或抑制是通過調(diào)整神