模式識別緒論西安電子科技大學

第1章緒論1.1模式識別的基本概念1.2模式識別系統(tǒng)1.3模式識別的基本方法1.1模式識別的基本概念

人們在日常生活中,幾乎時時在進行類識別活動。對于視覺而言,眼睛收集外界信息傳至大腦,由大腦對所接收的視覺信息進行識別和理解。視覺信息識別是低層次的類識別,例如,當我們看見一只貓時,很容易識別出貓這一動物的類別。而高層次的視覺理解,是通過分析直觀的觀測結果得到更深層次的信息,這對人的知識和素質(zhì)有很強的依賴性。例如,在二戰(zhàn)時期,一名高素質(zhì)的情報人員根據(jù)看到的一只經(jīng)常出來曬太陽的波斯貓推斷出敵方高級指揮所的位置,從而為己方提供了非常有價值的情報信息。對于聽覺而言,人耳將聲音信息傳至大腦,由大腦對所接收的聲音信息進行識別和理解,獲得聲音所屬的語言種類(語種識別)、聲音所對應的說話人(說話人識別)以及聲音所包含的關鍵詞(關鍵詞識別)等。除此之外,人還具有對觸覺、味覺、嗅覺等信息的類識別能力,且也具有低級和高級兩個層次。模式識別的目的就是利用計算機實現(xiàn)人的類識別能力,是對兩個不同層次的識別能力的模擬。對信息的理解往往含有推理過程,需要專家系統(tǒng)、知識工程等相關學科的支持。本書講述的模式識別理論主要是指對人的低級類識別能力的模擬,具體地說,就是實現(xiàn)“觀察對象是什么”的判斷,其中觀察對象就是模式。模式是指具有某種特定性質(zhì)的觀察對象。特定性質(zhì)指的是可以用來區(qū)別觀察對象是否相同或是否相似而選擇的特性。觀察對象存在于現(xiàn)實世界,可以是視覺、聽覺、觸覺、味覺、嗅覺等所能感知的任何物質(zhì)。例如,一個數(shù)字、一句話、一張照片等都是觀察對象,都可以成為模式識別中的識別對象。廣義地說,存在于時間和空間中可觀察的事物,如果可以區(qū)別它們是否相同或是否相似,都可以稱為模式。根據(jù)模式的特性,將具有相似特性的模式的集合表達為模式類。模式識別就是根據(jù)模式的特性,將其判入某一類。模式識別是一種智能活動,包含分析和判斷兩個過程。分析的過程在于確定用于劃分模式類的特征及其表達方法;判斷的過程則體現(xiàn)在依據(jù)待識別對象的特性,將其判屬于某一個模式類。模式識別作為一門學科,屬于機器智能,故屬于人工智能的范疇。模式識別理論的發(fā)展和廣泛應用,極大地推動了人工智能的發(fā)展和應用。1.2模式識別系統(tǒng)模式識別的本質(zhì)就是根據(jù)模式的特性表達和模式類的劃分方法,利用計算機將模式判屬特定的類。因此,模式識別需要解決5個問題:模式的數(shù)字化表達、模式特性的選擇、特性表達方法的確定、模式類的表達和判決方法的確定。一般地,模式識別系統(tǒng)由信息獲取、預處理、特征提取和選擇、分類判決等4個部分組成,如圖1-1所示。圖1-1模式識別系統(tǒng)的組成框圖1.信息獲取

對于人腦識別而言,人腦通過感覺器官獲取模式信息。對于機器識別來說,由于計算機只能處理數(shù)字信號,計算機獲取模式信息意味著實現(xiàn)觀察對象的數(shù)字化表達,因此,需要借助于各種傳感器設備,將視覺、聽覺、觸覺、味覺、嗅覺等信息轉(zhuǎn)化為電信號,再通過模/數(shù)(A/D)轉(zhuǎn)換裝置將電信號轉(zhuǎn)換成數(shù)字化信息。信息獲取過程如圖1-2所示。圖1-2信息獲取示意圖不同性質(zhì)的信息需要不同的傳感器設備,有的傳感器和A/D轉(zhuǎn)換設備是融為一體的,有的則是分離的。例如,對于視覺信息,可以先采用攝像機完成光電轉(zhuǎn)換,再采用圖像采集卡完成A/D轉(zhuǎn)換;也可以采用數(shù)字化攝像機(CCD)、數(shù)碼相機直接獲得數(shù)字信息。數(shù)字圖像(或視頻)是視覺信息的數(shù)字化表達。對于聽覺信息,可以先采用話筒完成聲電轉(zhuǎn)換,再采用聲卡完成A/D轉(zhuǎn)換;也可以采用數(shù)字錄音機直接獲得數(shù)字信息。數(shù)字語音是聽覺信息的數(shù)字化表達。2.預處理在得到模式的數(shù)字化表達后,往往需要對它進行預處理,以便去除或減少噪聲的影響,突出有用信息。對于圖像信息,采用數(shù)字圖像處理技術作為其預處理技術,常用的方法有幾何校正、圖像增強、圖像還原等。對于語音信息,采用數(shù)字語音處理技術作為其預處理技術。作為一種一維信號,除了它和人耳特性有關的一些特殊方法外,也可以用一般的信號處理方法進行處理。對于電信號,一般可以用信號處理的方法進行處理,包括統(tǒng)計信號處理、自適應信號處理和譜分析等技術,其目的在于抑制噪聲或?qū)⑿盘栟D(zhuǎn)換成更便于識別的形式。3.特征提取和選擇

在模式識別中,需要先建立模式類,對于給定的模式,識別就是將其判屬于某一個模式類的過程。模式和模式類能進行從屬關系判決的前提條件是,模式和模式類中的元素具有相似的性質(zhì)(或稱特性)。為此,需要對模式信息進行特性分析。特性分析包含兩個方面:一個是分類特性的選擇;另一個是特性表達方法的選擇。分類特性的選擇是模式識別系統(tǒng)設計中非常重要而又關鍵的一步,與識別目的具有很大的相關性,且往往對領域?qū)＜矣休^強的依賴性。例如,在遙感圖像軍事目標識別中,需要結合軍事專家的知識和判圖專家的判讀分析經(jīng)驗,形成對目標的特性描述,如描述一個艦船目標,可選用艦船長度、寬度、高度等特性。特征是用于描述模式性質(zhì)(特性)的一種定量的概念,通過對模式的分析得到一組特征,稱這個過程為特征形成。特征一般有兩種表達方法:一種是將特征表達為數(shù)值;另一種是將特征表達為基元。(1)當將特征表達為數(shù)值時,一個模式的d個特征值就構成了一個特征向量,記為x,即其中,x的每個分量xi(i=1,2,…,d)對應一個特征。(2)當特征表達為基元時,一個模式表述為一個句子,記為x,即其中，xi(i=1,2,…,d)為基元，反映構成模式的基本要素。通常用于描述模式性質(zhì)的特征很多,需要從一組特征中挑選出一些最有效的特征以降低特征空間維數(shù),即特征選擇。特征提取是指采用映射(或變換)實現(xiàn)由模式測量空間向特征空間的轉(zhuǎn)變,或者將特征空間的維數(shù)從高維變成低維。例如,現(xiàn)有的遙感成像光譜儀波段數(shù)達數(shù)百個之多,如果直接用原始數(shù)據(jù)進行地物分類,會因數(shù)據(jù)量太大而導致計算復雜,且分類效果不一定好,可通過映射或變換的方法,由原始數(shù)據(jù)空間變換到特征空間,得到最能反映模式本質(zhì)的特征,同時降低空間維數(shù)。4.分類判決模式類是指具有相似特性的模式的集合,模式和模式類的關系就是元素和集合的關系。模式的分類過程,事實上就是判定表征觀察對象的元素和指定集合的從屬關系的過程。當元素只和某個集合具有從屬關系時,就將該對象判屬于該集合對應的類;當元素和多個集合具有從屬關系時,既可以任選一類進行判決,也可以拒絕判決;當元素和任何一個集合都不具有從屬關系時,不作分類判決,即拒絕判決。基于機器學習的模式識別系統(tǒng)由兩個過程組成,即設計和實現(xiàn)。設計是用一定數(shù)量的樣本進行分類器的設計,這些樣本的所屬類別已知,稱為訓練樣本。實現(xiàn)是用所設計的分類器對待識別模式進行分類判決。1.3模式識別的基本方法模式識別的本質(zhì)在于實現(xiàn)元素(表征觀察對象)和集合(表征模式類)的從屬關系的判定過程。根據(jù)是否有已知所屬類別的訓練樣本,可將模式識別分為監(jiān)督模式識別和非監(jiān)督模式識別。根據(jù)模式識別的基本方法,可將模式識別分為統(tǒng)計模式識別、結構模式識別、模糊模式識別、神經(jīng)網(wǎng)絡模式識別和多分類器融合等。本節(jié)簡要介紹模式識別的基本方法。1.統(tǒng)計模式識別統(tǒng)計模式識別把觀察對象表達為一個隨機向量(即特征向量),將模式類表達為由有窮或無窮個具有相似數(shù)值特性的模式組成的集合。識別是從模式中提取一組特性的度量,構成特征向量來表示模式,然后通過劃分特征空間的方式進行分類。統(tǒng)計模式識別適用于用較少特征就能描述觀察對象的場合。統(tǒng)計分類判決對模式類的統(tǒng)計特性具有非常強的依賴性,有時還要考慮人的主觀感受。例如,在構造判別函數(shù)時,使用的最優(yōu)準則既可以是主觀的,也可以是客觀的;特征的權分配體現(xiàn)人的主觀重視程度。如圖1-3所示,統(tǒng)計模式識別系統(tǒng)主要由信息獲取、預處理、特征提取和選擇以及分類器4個部分組成,其中,分類器包括分類器設計和分類決策。圖1-3統(tǒng)計模式識別系統(tǒng)的組成框圖2.結構模式識別對于較復雜的模式,要對其充分描述需要很多數(shù)值特征,以至過于復雜。結構模式識別采用一些比較簡單的子模式組成多級結構,來描述一個復雜模式。先將模式分解為若干個子模式,子模式又分解為更簡單的子模式,依次分解,直至在某個研究水平上不再需要細分。最后一級最簡單的子模式稱為模式基元,要求基元的識別比識別模式本身容易得多。結構模式識別把觀察對象表達為一個由基元組成的句子;將模式類表達為由有限或無限個具有相似結構特性的模式組成的集合?；獦嫵赡Ｊ剿裱囊?guī)則即為文法,或稱句法。與統(tǒng)計模式識別類似,用已知類別的訓練樣本進行學習,產(chǎn)生該類或至少是這些樣本的文法,這個學習和訓練過程稱為文法推斷。因此,結構模式識別又稱為句法模式識別。結構模式識別系統(tǒng)的組成框圖如圖1-4所示。其中,模式表達包括兩部分:模式分割和基元及關系的識別。對于一個模式,經(jīng)過預處理并對模式分解提取基元后,得到表征模式的句子,然后進行句法分析,判斷它是否能被代表某個模式類的文法所接受,最終給出模式結構描述和識別結果。圖1-4結構模式識別系統(tǒng)的組成框圖在實際應用中,統(tǒng)計方法和句法分析往往相互配合、互相補充。一般地,采用統(tǒng)計方法完成基元的識別,再用句法分析來表達模式的結構信息。3.模糊模式識別

模式識別的實質(zhì)就是判定觀察對象(元素)和模式類(集合)之間的從屬關系。傳統(tǒng)的集合論中,元素和集合的關系是非常絕對的,要么屬于,要么不屬于,兩者必居其一,而且二者僅居其一,絕不模棱兩可。基于傳統(tǒng)的集合論的判決方式稱為硬判決,其中,待識別的對象只能是屬于多類中的某一類。模糊集合論采用隸屬度來描述元素屬于一個集合的程度,用來解決信息的不確定性問題。模糊模式識別是以模糊集合論為基礎,對應的判決方式是一種軟判決,識別結果是觀察對象屬于每一類的隸屬度。根據(jù)需要,利用某種原則可以把模糊模式識別的軟判決結果轉(zhuǎn)化為硬判決。此時,隸屬度成了用于判決的一個二次特征。4.神經(jīng)網(wǎng)絡模式識別人工神經(jīng)網(wǎng)絡,簡稱神經(jīng)網(wǎng)絡,是由大量簡單的處理單元廣泛互連而成的復雜網(wǎng)絡,是在現(xiàn)代生物學研究人腦組織所取得的成果基礎上提出的,用以模擬人類大腦神經(jīng)網(wǎng)絡結構和行為。模式識別的研究目標是利用計算機實現(xiàn)人類的識別能力,而人對外界感知的主要生理基礎就是神經(jīng)系統(tǒng)。因此,根據(jù)人腦生理結構構造而成的人工神經(jīng)網(wǎng)絡系統(tǒng)具有用于模式識別的理論和結構基礎。事實上,模式識別是人工神經(jīng)網(wǎng)絡最成功的應用領域之一。神經(jīng)網(wǎng)絡模式識別主要利用人工神經(jīng)網(wǎng)絡的學習、記憶和歸納功能,先根據(jù)訓練樣本,訓練分類器,再利用分類器對待識別對象進行分類決策。5