第1章模式識別緒論西安電子科技大學(xué)

第1章緒論1.1方式識別的根本概念1.2方式識別系統(tǒng)1.3方式識別的根本方法1.1方式識別的根本概念人們在日常生活中,幾乎時時在進(jìn)展類識別活動。對于視覺而言,眼睛搜集外界信息傳至大腦,由大腦對所接納的視覺信息進(jìn)展識別和了解。視覺信息識別是低層次的類識別,例如,當(dāng)我們看見一只貓時,很容易識別出貓這一動物的類別。而高層次的視覺了解,是經(jīng)過分析直觀的觀測結(jié)果得到更深層次的信息,這對人的知識和素質(zhì)有很強(qiáng)的依賴性。例如,在二戰(zhàn)時期,一名高素質(zhì)的情報人員根據(jù)看到的一只經(jīng)常出來曬太陽的波斯貓推斷出敵方高級指揮所的位置,從而為己方提供了非常有價值的情報信息。對于聽覺而言,人耳將聲音信息傳至大腦,由大腦對所接納的聲音信息進(jìn)展識別和了解,獲得聲音所屬的言語種類(語種識別)、聲音所對應(yīng)的說話人(說話人識別)以及聲音所包含的關(guān)鍵詞(關(guān)鍵詞識別)等。除此之外,人還具有對觸覺、味覺、嗅覺等信息的類識別才干,且也具有低級和高級兩個層次。方式識別的目的就是利用計算機(jī)實現(xiàn)人的類識別才干,是對兩個不同層次的識別才干的模擬。對信息的了解往往含有推理過程,需求專家系統(tǒng)、知識工程等相關(guān)學(xué)科的支持。本書講述的方式識別實際主要是指對人的低級類識別才干的模擬,詳細(xì)地說,就是實現(xiàn)“察看對象是什么〞的判別,其中察看對象就是方式。方式是指具有某種特定性質(zhì)的察看對象。特定性質(zhì)指的是可以用來區(qū)別察看對象能否一樣或能否類似而選擇的特性。察看對象存在于現(xiàn)實世界,可以是視覺、聽覺、觸覺、味覺、嗅覺等所能感知的任何物質(zhì)。例如,一個數(shù)字、一句話、一張照片等都是察看對象,都可以成為方式識別中的識別對象。廣義地說,存在于時間和空間中可察看的事物,假設(shè)可以區(qū)別它們能否一樣或能否類似,都可以稱為方式。根據(jù)方式的特性,將具有類似特性的方式的集合表達(dá)為方式類。方式識別就是根據(jù)方式的特性,將其判入某一類。方式識別是一種智能活動,包含分析和判別兩個過程。分析的過程在于確定用于劃分方式類的特征及其表達(dá)方法;判別的過程那么表達(dá)在根據(jù)待識別對象的特性,將其判屬于某一個方式類。方式識別作為一門學(xué)科,屬于機(jī)器智能,故屬于人工智能的范疇。方式識別實際的開展和廣泛運(yùn)用,極大地推進(jìn)了人工智能的開展和運(yùn)用。1.2方式識別系統(tǒng)方式識別的本質(zhì)就是根據(jù)方式的特性表達(dá)和方式類的劃分方法,利用計算機(jī)將方式判屬特定的類。因此,方式識別需求處理5個問題:方式的數(shù)字化表達(dá)、方式特性的選擇、特性表達(dá)方法確實定、方式類的表達(dá)和判決方法確實定。普通地,方式識別系統(tǒng)由信息獲取、預(yù)處置、特征提取和選擇、分類判決等4個部分組成,如圖1-1所示。圖1-1方式識別系統(tǒng)的組成框圖1.信息獲取對于人腦識別而言,人腦經(jīng)過覺得器官獲取方式信息。對于機(jī)器識別來說,由于計算機(jī)只能處置數(shù)字信號,計算機(jī)獲取方式信息意味著實現(xiàn)察看對象的數(shù)字化表達(dá),因此,需求借助于各種傳感器設(shè)備,將視覺、聽覺、觸覺、味覺、嗅覺等信息轉(zhuǎn)化為電信號,再經(jīng)過模/數(shù)(A/D)轉(zhuǎn)換安裝將電信號轉(zhuǎn)換成數(shù)字化信息。信息獲取過程如圖1-2所示。圖1-2信息獲取表示圖不同性質(zhì)的信息需求不同的傳感器設(shè)備,有的傳感器和A/D轉(zhuǎn)換設(shè)備是融為一體的,有的那么是分別的。例如,對于視覺信息,可以先采用攝像機(jī)完成光電轉(zhuǎn)換,再采用圖像采集卡完成A/D轉(zhuǎn)換;也可以采用數(shù)字化攝像機(jī)(CCD)、數(shù)碼相機(jī)直接獲得數(shù)字信息。數(shù)字圖像(或視頻)是視覺信息的數(shù)字化表達(dá)。對于聽覺信息,可以先采用話筒完成聲電轉(zhuǎn)換,再采用聲卡完成A/D轉(zhuǎn)換;也可以采用數(shù)字錄音機(jī)直接獲得數(shù)字信息。數(shù)字語音是聽覺信息的數(shù)字化表達(dá)。2.預(yù)處置在得到方式的數(shù)字化表達(dá)后,往往需求對它進(jìn)展預(yù)處置,以便去除或減少噪聲的影響,突出有用信息。對于圖像信息,采用數(shù)字圖像處置技術(shù)作為其預(yù)處置技術(shù),常用的方法有幾何校正、圖像加強(qiáng)、圖像復(fù)原等。對于語音信息,采用數(shù)字語音處置技術(shù)作為其預(yù)處置技術(shù)。作為一種一維信號,除了它和人耳特性有關(guān)的一些特殊方法外,也可以用普通的信號處置方法進(jìn)展處置。對于電信號,普通可以用信號處置的方法進(jìn)展處置,包括統(tǒng)計信號處置、自順應(yīng)信號處置和譜分析等技術(shù),其目的在于抑制噪聲或?qū)⑿盘栟D(zhuǎn)換成更便于識別的方式。3.特征提取和選擇在方式識別中,需求先建立方式類,對于給定的方式,識別就是將其判屬于某一個方式類的過程。方式和方式類能進(jìn)展從屬關(guān)系判決的前提條件是,方式和方式類中的元素具有類似的性質(zhì)(或稱特性)。為此,需求對方式信息進(jìn)展特性分析。特性分析包含兩個方面:一個是分類特性的選擇;另一個是特性表達(dá)方法的選擇。分類特性的選擇是方式識別系統(tǒng)設(shè)計中非常重要而又關(guān)鍵的一步,與識別目的具有很大的相關(guān)性,且往往對領(lǐng)域?qū)＜矣休^強(qiáng)的依賴性。例如,在遙感圖像軍事目的識別中,需求結(jié)合軍事專家的知識和判圖專家的判讀分析閱歷,構(gòu)成對目的的特性描畫,如描畫一個艦船目的,可選用艦船長度、寬度、高度等特性。特征是用于描畫方式性質(zhì)(特性)的一種定量的概念,經(jīng)過對方式的分析得到一組特征,稱這個過程為特征構(gòu)成。特征普通有兩種表達(dá)方法:一種是將特征表達(dá)為數(shù)值;另一種是將特征表達(dá)為基元。(1)當(dāng)將特征表達(dá)為數(shù)值時,一個方式的d個特征值就構(gòu)成了一個特征向量,記為x,即其中,x的每個分量xi(i=1,2,…,d)對應(yīng)一個特征。(2)當(dāng)特征表達(dá)為基元時,一個方式表述為一個句子,記為x,即其中，xi(i=1,2,…,d)為基元，反映構(gòu)成方式的根本要素。通常用于描畫方式性質(zhì)的特征很多,需求從一組特征中挑選出一些最有效的特征以降低特征空間維數(shù),即特征選擇。特征提取是指采用映射(或變換)實現(xiàn)由方式丈量空間向特征空間的轉(zhuǎn)變,或者將特征空間的維數(shù)從高維變成低維。例如,現(xiàn)有的遙感成像光譜儀波段數(shù)達(dá)數(shù)百個之多,假設(shè)直接用原始數(shù)據(jù)進(jìn)展地物分類,會因數(shù)據(jù)量太大而導(dǎo)致計算復(fù)雜,且分類效果不一定好,可經(jīng)過映射或變換的方法,由原始數(shù)據(jù)空間變換到特征空間,得到最能反映方式本質(zhì)的特征,同時降低空間維數(shù)。4.分類判決方式類是指具有類似特性的方式的集合,方式和方式類的關(guān)系就是元素和集合的關(guān)系。方式的分類過程,現(xiàn)實上就是斷定表征察看對象的元素和指定集合的從屬關(guān)系的過程。當(dāng)元素只和某個集合具有從屬關(guān)系時,就將該對象判屬于該集合對應(yīng)的類;當(dāng)元素和多個集合具有從屬關(guān)系時,既可以任選一類進(jìn)展判決,也可以回絕判決;當(dāng)元素和任何一個集合都不具有從屬關(guān)系時,不作分類判決,即回絕判決?；跈C(jī)器學(xué)習(xí)的方式識別系統(tǒng)由兩個過程組成,即設(shè)計和實現(xiàn)。設(shè)計是用一定數(shù)量的樣本進(jìn)展分類器的設(shè)計,這些樣本的所屬類別知,稱為訓(xùn)練樣本。實現(xiàn)是用所設(shè)計的分類器對待識別方式進(jìn)展分類判決。1.3方式識別的根本方法方式識別的本質(zhì)在于實現(xiàn)元素(表征察看對象)和集合(表征方式類)的從屬關(guān)系的斷定過程。根據(jù)能否有知所屬類別的訓(xùn)練樣本,可將方式識別分為監(jiān)視方式識別和非監(jiān)視方式識別。根據(jù)方式識別的根本方法,可將方式識別分為統(tǒng)計方式識別、構(gòu)造方式識別、模糊方式識別、神經(jīng)網(wǎng)絡(luò)方式識別和多分類器交融等。本節(jié)簡要引見方式識別的根本方法。1.統(tǒng)計方式識別統(tǒng)計方式識別把察看對象表達(dá)為一個隨機(jī)向量(即特征向量),將方式類表達(dá)為由有窮或無窮個具有類似數(shù)值特性的方式組成的集合。識別是從方式中提取一組特性的度量,構(gòu)成特征向量來表示方式,然后經(jīng)過劃分特征空間的方式進(jìn)展分類。統(tǒng)計方式識別適用于用較少特征就能描畫察看對象的場所。統(tǒng)計分類判決對方式類的統(tǒng)計特性具有非常強(qiáng)的依賴性,有時還要思索人的客觀感受。例如,在構(gòu)造判別函數(shù)時,運(yùn)用的最優(yōu)準(zhǔn)那么既可以是客觀的,也可以是客觀的;特征的權(quán)分配表達(dá)人的客觀注重程度。如圖1-3所示,統(tǒng)計方式識別系統(tǒng)主要由信息獲取、預(yù)處置、特征提取和選擇以及分類器4個部分組成,其中,分類器包括分類器設(shè)計和分類決策。圖1-3統(tǒng)計方式識別系統(tǒng)的組成框圖2.構(gòu)造方式識別對于較復(fù)雜的方式,要對其充分描畫需求很多數(shù)值特征,以致過于復(fù)雜。構(gòu)造方式識別采用一些比較簡單的子方式組成多級構(gòu)造,來描畫一個復(fù)雜方式。先將方式分解為假設(shè)干個子方式,子方式又分解為更簡單的子方式,依次分解,直至在某個研討程度上不再需求細(xì)分。最后一級最簡單的子方式稱為方式基元,要求基元的識別比識別方式本身容易得多。構(gòu)造方式識別把察看對象表達(dá)為一個由基元組成的句子;將方式類表達(dá)為由有限或無限個具有類似構(gòu)造特性的方式組成的集合?；獦?gòu)成方式所遵照的規(guī)那么即為文法,或稱句法。與統(tǒng)計方式識別類似,用知類別的訓(xùn)練樣本進(jìn)展學(xué)習(xí),產(chǎn)生該類或至少是這些樣本的文法,這個學(xué)習(xí)和訓(xùn)練過程稱為文法推斷。因此,構(gòu)造方式識別又稱為句法方式識別。構(gòu)造方式識別系統(tǒng)的組成框圖如圖1-4所示。其中,方式表達(dá)包括兩部分:方式分割和基元及關(guān)系的識別。對于一個方式,經(jīng)過預(yù)處置并對方式分解提取基元后,得到表征方式的句子,然后進(jìn)展句法分析,判別它能否能被代表某個方式類的文法所接受,最終給出方式構(gòu)造描畫和識別結(jié)果。圖1-4構(gòu)造方式識別系統(tǒng)的組成框圖在實踐運(yùn)用中,統(tǒng)計方法和句法分析往往相互配合、相互補(bǔ)充。普通地,采用統(tǒng)計方法完成基元的識別,再用句法分析來表達(dá)方式的構(gòu)造信息。3.模糊方式識別方式識別的本質(zhì)就是斷定察看對象(元素)和方式類(集合)之間的從屬關(guān)系。傳統(tǒng)的集合論中,元素和集合的關(guān)系是非常絕對的,要么屬于,要么不屬于,兩者必居其一,而且二者僅居其一,絕不模棱兩可?；趥鹘y(tǒng)的集合論的判決方式稱為硬判決,其中,待識別的對象只能是屬于多類中的某一類。模糊集合論采用隸屬度來描畫元素屬于一個集合的程度,用來處理信息的不確定性問題。模糊方式識別是以模糊集合論為根底,對應(yīng)的判決方式是一種軟判決,識別結(jié)果是察看對象屬于每一類的隸屬度。根據(jù)需求,利用某種原那么可以把模糊方式識別的軟判決結(jié)果轉(zhuǎn)化為硬判決。此時,隸屬度成了用于判決的一個二次特征。4.神經(jīng)網(wǎng)絡(luò)方式識別人工神經(jīng)網(wǎng)絡(luò),簡稱神經(jīng)網(wǎng)絡(luò),是由大量簡單的處置單元廣泛互連而成的復(fù)雜網(wǎng)絡(luò),是在現(xiàn)代生物學(xué)研討人腦組織所獲得的成果根底上提出的,用以模擬人類大腦神經(jīng)網(wǎng)絡(luò)構(gòu)造和行為。方式識別的研討目的是利用計算機(jī)實現(xiàn)人類的識別才干,而人對外界感知的主要生理根底就是神經(jīng)系統(tǒng)。因此,根據(jù)人腦生理構(gòu)造構(gòu)造而成的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有用于方式識別的實際和構(gòu)造根底?，F(xiàn)實上,方式識別是人工神經(jīng)網(wǎng)絡(luò)最勝利的運(yùn)用領(lǐng)域之一。神經(jīng)網(wǎng)絡(luò)方式識別主要利用人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)、記憶和歸納功能,先根據(jù)訓(xùn)練樣本,訓(xùn)練分類器,再利用分類器對待識別對象進(jìn)展分類決策。5