模式識別概述

模式識別

PatternClassification

第一章:模式識別概述一個例子通過光學(xué)感知手段，將傳送帶上的魚進行自動分類

鱸魚

魚類

鮭魚3AppliedPatternRecognitionCSE616問題分析架設(shè)一臺攝影像機，拍攝若干樣品的圖像提取用于區(qū)分兩類魚的有效特征(feature)長度光澤度寬度鰭的數(shù)目和形狀嘴的位置，等等…….上述參數(shù)即是我們對兩類魚進行分類的備選特征4AppliedPatternRecognitionCSE616

預(yù)處理（preprocessing）去除干擾，圖像增強采用圖像分割技術(shù)將不同的魚分離開來，或者將魚同背景分開特征提取（featureextraction）將每條魚的數(shù)據(jù)送入特征提取器，通過測量特定的“特征”或“屬性”來簡化原始數(shù)據(jù)類將特征送入分類器，以便進行分類

5AppliedPatternRecognitionCSE616鮭魚鮭魚鱸魚6AppliedPatternRecognitionCSE616分類（Classification）根據(jù)先驗知識：鱸魚長度一般要比鮭魚大選擇長度（length）作為可能的分類特征獲取足夠多的樣本（訓(xùn)練樣本）進行統(tǒng)計（直方圖）確定合適的長度臨界值L*

作為分類標(biāo)準(zhǔn)7AppliedPatternRecognitionCSE616鮭魚鱸魚分類標(biāo)準(zhǔn)8AppliedPatternRecognitionCSE616單一的特征判據(jù)（長度）不足以完全正確分類無論怎樣確定臨界值，都有無法僅憑長度就把兩類魚截然分開9AppliedPatternRecognitionCSE616選擇光澤度（lightness）作為分類特征獲取足夠多的樣本（訓(xùn)練樣本）進行統(tǒng)計（直方圖）確定合適的光澤度臨界值x*作為分類標(biāo)準(zhǔn)以光澤度為分類特征，兩類魚的分離性更好！10AppliedPatternRecognitionCSE616分類標(biāo)準(zhǔn)鮭魚鱸魚11AppliedPatternRecognitionCSE616判別邊界與判別代價

無論采用哪一種特征進行分類都有代價：誤判上述判別邊界假設(shè)將鮭魚誤判為鱸魚和將鱸魚誤判為鮭魚的代價相等（對稱代價）非對稱代價：調(diào)整判別邊界的位置決策論12AppliedPatternRecognitionCSE616鮭魚鱸魚調(diào)整判別邊界，減小判別代價13AppliedPatternRecognitionCSE616為獲取更好的分類效果，組合運用多個特征

選取光澤度（lightness）和寬度（width）作為分類特征魚 xT=[x1,x2]特征向量：xT=[x1,x2]LightnessWidth14AppliedPatternRecognitionCSE616鮭魚鱸魚判別標(biāo)準(zhǔn)：判別邊界組合特征優(yōu)于單一特征15AppliedPatternRecognitionCSE616需要考慮的問題：特征越多分類性能越好嗎？什么樣的特征才是好的特征？特征的相關(guān)性與冗余？16AppliedPatternRecognitionCSE616如何獲取判別邊界：判別模型？

什么樣的判別邊界才是最優(yōu)的：模型優(yōu)化？

17AppliedPatternRecognitionCSE616復(fù)雜的模型鮭魚鱸魚18AppliedPatternRecognitionCSE616復(fù)雜的模型可保證對所有訓(xùn)練樣本正確分類過于復(fù)雜的模型將導(dǎo)致復(fù)雜的判別曲線新模式推廣能力差19AppliedPatternRecognitionCSE616分類系統(tǒng)的目標(biāo)是對未知的樣本正確分類，而不僅僅是對訓(xùn)練樣本分類必須在模型復(fù)雜度和推廣能力之間進行折中考慮最優(yōu)模型20AppliedPatternRecognitionCSE616鮭魚鱸魚優(yōu)化的判別邊界21AppliedPatternRecognitionCSE616什么是模式識別？定義利用機器（計算機）模仿人腦對現(xiàn)實世界各種事物進行描述、分類、判斷和識別的過程。目標(biāo)用計算機實現(xiàn)具有感知、識別、理解、自學(xué)習(xí)和自適應(yīng)能力的靈活和智能的計算機器。22AppliedPatternRecognitionCSE616模式識別的產(chǎn)生與發(fā)展起源于20世紀(jì)40年代研究初期，模式識別被看作動物所具有的自然生理現(xiàn)象，很多人認(rèn)為不值得研究。當(dāng)人們試圖使計算機去具有人腦的識別能力后，模式識別的難度和重要性才得以重視。23AppliedPatternRecognitionCSE616模式識別的產(chǎn)生與發(fā)展隨著計算機技術(shù)的發(fā)展，60年代后模式識別迅速發(fā)展為一門相對獨立的新興交叉學(xué)科明確的問題定義、嚴(yán)格的數(shù)學(xué)基礎(chǔ)、堅實的理論框架、豐富的理論和應(yīng)用成果、廣闊的應(yīng)用前景24AppliedPatternRecognitionCSE616模式識別的相關(guān)學(xué)科模式識別人工智能計算機視覺機器學(xué)習(xí)認(rèn)知科學(xué)心理生物學(xué)25AppliedPatternRecognitionCSE616模式識別的應(yīng)用語音識別與理解（Speechrecognition）語音識別說話人識別語種識別語音情感識別特定人、非特定人母語、非母語孤立音、連續(xù)音26AppliedPatternRecognitionCSE616模式識別的應(yīng)用字符識別（CharacterRecognition）手寫體印刷體漢字、英文、阿拉伯?dāng)?shù)字27AppliedPatternRecognitionCSE616模式識別的應(yīng)用生物特征識別指紋識別掌紋識別人臉識別虹膜識別28AppliedPatternRecognitionCSE616模式識別的應(yīng)用生物醫(yī)學(xué)信號識別心電圖、心音、多普勒生物信號、染色體、DNA序列圖像檢索軍事目標(biāo)跟蹤與識別遙感圖像處理29AppliedPatternRecognitionCSE616研究模式識別的意義通過模式識別的研究和應(yīng)用，提高和擴展計算機的應(yīng)用能力和領(lǐng)域，促進人工智能的應(yīng)用與發(fā)展促進人們對人腦識別過程的理解和認(rèn)識30AppliedPatternRecognitionCSE616模式識別存在的問題模式識別是一門快速發(fā)展的新興學(xué)科，涉及到多學(xué)科、多領(lǐng)域的復(fù)雜問題和生物認(rèn)知系統(tǒng)相比，現(xiàn)有人工模式識別系統(tǒng)的適應(yīng)和識別能力還遠(yuǎn)遠(yuǎn)不能令人滿意模式識別的許多理論和基本方法方面的問題還遠(yuǎn)沒有得到解決新問題層出不窮傳統(tǒng)方法均存在一定的局限性31AppliedPatternRecognitionCSE616模式識別的理論基礎(chǔ)概率論與數(shù)理統(tǒng)計隨機過程線性代數(shù)優(yōu)化方法形式語言學(xué)32AppliedPatternRecognitionCSE616模式識別的基本方法模式識別方法經(jīng)典方法現(xiàn)代方法統(tǒng)計決策方法句法方法神經(jīng)網(wǎng)絡(luò)方法模糊模式識別33AppliedPatternRecognitionCSE616模式識別的基本方法統(tǒng)計決策法基于模式的定量描述與統(tǒng)計規(guī)律的識別方法，是模式識別最經(jīng)典、最成熟的方法，目前廣泛應(yīng)用于模式識別的各個領(lǐng)域原理：樣本觀測值特征概率統(tǒng)計決策準(zhǔn)則分類34AppliedPatternRecognitionCSE616模式識別的基本方法統(tǒng)計方法鮭魚鱸魚決策標(biāo)準(zhǔn)：判別邊界35AppliedPatternRecognitionCSE616模式識別的基本方法句法方法基于模式的空間結(jié)構(gòu)特征的定性描述與形式語言學(xué)的方法，廣泛應(yīng)用于字符識別、圖像識別等領(lǐng)域原理：樣本基元字符串形式語言文法分類36AppliedPatternRecognitionCSE616模式識別的基本方法句法方法定義基元：37AppliedPatternRecognitionCSE616模式識別的基本方法模糊模式識別基于模糊數(shù)學(xué)和統(tǒng)計分析的識別方法，在不能明確描述模式特征和結(jié)構(gòu)的復(fù)雜模式識別問題中得到了成功應(yīng)用根據(jù)隸屬度和模糊文法進行分類