模式識(shí)別的基本理論

1、模式識(shí)別的基本理論蝙蝠的雷達(dá)系統(tǒng)、螳螂的視覺(jué)的靈敏度都是非常高的。這些動(dòng)物通過(guò)這些特 異的功能來(lái)識(shí)別各式各樣的東西并賴以生存。 識(shí)別也是人類的一項(xiàng)基本技能。當(dāng) 人們看到某事物或現(xiàn)象時(shí)，人們會(huì)先收集該事物或現(xiàn)象的信息，然后將其與頭腦 中已有的相關(guān)信息相比較，如果找到一個(gè)相同或相似的匹配，人們就可以將該事 物或現(xiàn)象識(shí)別出來(lái)。隨著計(jì)算機(jī)的出現(xiàn)以及人工智能的興起， 將人類的識(shí)別技能 賦予計(jì)算機(jī)成為一項(xiàng)新興課題。4.1模式識(shí)別的概述模式識(shí)別（Pattern Recognition）!人類的一項(xiàng)基本智能，在日常生活中，人們 經(jīng)常在進(jìn)行“模式識(shí)別”。隨著20世紀(jì)40年代計(jì)算機(jī)的出現(xiàn)以及50年代人工智能 的興

2、起，人們當(dāng)然也希望能用計(jì)算機(jī)來(lái)代替或擴(kuò)展人類的部分腦力勞動(dòng)。（計(jì)算機(jī)）模式識(shí)別在20世紀(jì)60年代初迅速發(fā)展并成為一門新學(xué)科。模式識(shí)別與統(tǒng)計(jì)學(xué)、心理學(xué)、語(yǔ)言學(xué)、計(jì)算機(jī)科學(xué)、生物學(xué)、控制論等都有 關(guān)系。它與人工智能、圖像處理的研究有交義關(guān)系。例如自適應(yīng)或自組織的模式 識(shí)別系統(tǒng)包含了人工智能的學(xué)習(xí)機(jī)制； 人工智能研究的景物理解、自然語(yǔ)言理解 也包含模式識(shí)別問(wèn)題。乂如模式識(shí)別中的預(yù)處理和特征抽取環(huán)節(jié)應(yīng)用圖像處理的 技術(shù)；圖像處理中的圖像分析也應(yīng)用模式識(shí)別的技術(shù)。模式識(shí)別是人工智能最早的研究領(lǐng)域之一， 它的狹義研究目標(biāo)是為計(jì)算機(jī)配 置各種感覺(jué)器官，以便直接接受外界的各種信息，如圖形識(shí)別、語(yǔ)言識(shí)別等。它

3、的研究目標(biāo)可以包括對(duì)于許多復(fù)雜事物的分類，如故障診斷、氣象分型等。但模式識(shí)別乂不是簡(jiǎn)單的分類學(xué)，它的目標(biāo)包括對(duì)于系統(tǒng)的描述、理解與綜合，是通 過(guò)大量信息對(duì)復(fù)雜過(guò)程進(jìn)行學(xué)習(xí)、判斷和尋找規(guī)律。模式識(shí)別的應(yīng)用幾乎遍及各 個(gè)學(xué)科領(lǐng)域，同時(shí)模式識(shí)別也廣泛地應(yīng)用于石油工業(yè)領(lǐng)域。此章通過(guò)保護(hù)儲(chǔ)集層 鉆井液體系的優(yōu)選，介紹模式識(shí)別方法在保護(hù)油氣儲(chǔ)集層技術(shù)中的應(yīng)用邱。從模式識(shí)別用于對(duì)復(fù)雜類事物的分類來(lái)講。模式識(shí)別就是已知某類事物有若 十標(biāo)準(zhǔn)類別（模式），現(xiàn)判斷某一具體對(duì)象屆于哪一個(gè)模式。這里所說(shuō)的模式是指標(biāo)準(zhǔn)樣本、式樣、樣品、圖形、癥狀等。模式識(shí)別與傳統(tǒng)的數(shù)學(xué)觀點(diǎn)不同，它 暫不去追求精確地?cái)?shù)學(xué)模型，而是在專家經(jīng)

4、驗(yàn)和已有認(rèn)識(shí)的基礎(chǔ)上， 從所得的大 量數(shù)據(jù)和歷史出發(fā)，利用數(shù)學(xué)方法來(lái)完成識(shí)別過(guò)程。它是一門基于概念基礎(chǔ)上的 判斷學(xué)科。4.2模式識(shí)別的基本概念4.2.1模式與模式識(shí)別一般認(rèn)為，模式是通過(guò)對(duì)具體的事物進(jìn)行觀測(cè)所得到的具有時(shí)間與空間分布 的信息，模式所屆的類別或同一類中的模式的總體稱為模式類，其中個(gè)別具體的模式往往稱為樣本。模式識(shí)別就是研究通過(guò)計(jì)算機(jī)自動(dòng)的（或人為進(jìn)行少量干預(yù)） 將待識(shí)別的模式分配到各個(gè)模式類中的技術(shù)。分類器設(shè)計(jì),分類結(jié)果（識(shí)別結(jié)果）圖4-1模式識(shí)別的基本框架模式識(shí)別是指對(duì)表征事物或現(xiàn)象的各種形式的（數(shù)值的、文字的和邏輯關(guān)系 的）信息進(jìn)行處理和分析，以對(duì)事物或現(xiàn)象進(jìn)行描述、辨認(rèn)、分

5、類和解釋的過(guò)程， 是信息科學(xué)和人工智能的重要組成部分。 它的研究主要集中在兩方面，一是研究 生物體（包括人）是如何感知對(duì)象的，二是在給定的任務(wù)下，如何用計(jì)算機(jī)實(shí)現(xiàn)模 式識(shí)別的理論和方法。前者是生理學(xué)家的研究?jī)?nèi)容，屆丁認(rèn)知科學(xué)的范疇；后者 通過(guò)數(shù)學(xué)家、信息學(xué)專家和計(jì)算機(jī)科學(xué)工作者近幾十年的努力,已經(jīng)取得了系統(tǒng) 的研究成果。4.2.2模式識(shí)別的特點(diǎn)從模式識(shí)別的起源、目的、方法、應(yīng)用、現(xiàn)狀及發(fā)展和它同其他領(lǐng)域的關(guān)系來(lái)考察，可以把他的特點(diǎn)概括的描述如下：（1）模式識(shí)別是用機(jī)器模仿大腦的識(shí)別過(guò)程的， 設(shè)計(jì)很大的數(shù)據(jù)集合，并自 動(dòng)的以高速度作出決策。（2）模式識(shí)別不象純數(shù)學(xué)，而是抽象加上實(shí)驗(yàn)的一個(gè)領(lǐng)域。它

6、的這個(gè)性質(zhì)常 常導(dǎo)致不平凡的和比較有成效的應(yīng)用， 而應(yīng)用乂促進(jìn)進(jìn)一步的研究和發(fā)展。 由丁 它和應(yīng)用的關(guān)系密切，應(yīng)此它乂被認(rèn)為是一門工程學(xué)科。（3）學(xué)習(xí)（自適應(yīng)性）是模式識(shí)別的一個(gè)重要的過(guò)程和標(biāo)志。 但是，編制學(xué)習(xí) 程序比較困難，而有效地消除這種程序中的錯(cuò)誤更難，因?yàn)檫@種程序是有智能的。（4）同人的能力相比，現(xiàn)有模式識(shí)別的能力仍然是相當(dāng)薄弱的（對(duì)圖案和顏 色的識(shí)別除外），機(jī)器通常不能對(duì)付大多數(shù)困難問(wèn)題。采用交互識(shí)別法可以在較大程度上克服這一困難，當(dāng)機(jī)器不能做出一個(gè)可靠的決策時(shí)， 它可以求助丁操作 人。4.2.3模式識(shí)別的主要方法模式識(shí)別方法大致可以分為4類：統(tǒng)計(jì)決策法、結(jié)構(gòu)模式識(shí)別方法、模糊模

7、式識(shí)別方法與基丁人工智能方法。其中基丁人工智能的方法本文主要介紹人工神 經(jīng)網(wǎng)絡(luò)模式識(shí)別方法15。前兩種方法發(fā)展得比較早，理論相對(duì)也比較成熟，在早 期的模式識(shí)別中應(yīng)用較多。后兩種方法目前的應(yīng)用較多，由丁模糊方法更合乎邏 輯、神經(jīng)網(wǎng)絡(luò)方法具有較強(qiáng)的解決復(fù)雜模式識(shí)別的能力，因此日益得到人們的重視。(1) 統(tǒng)計(jì)決策法統(tǒng)計(jì)決策法以概率論和數(shù)理統(tǒng)計(jì)為基礎(chǔ)， 它包括參數(shù)方法和非參數(shù)方法。參 數(shù)方法主要以Bayes決策準(zhǔn)則為指導(dǎo)。其中 最小錯(cuò)誤率和最小風(fēng)險(xiǎn)貝葉斯決策 是 最常用的兩種決策方法。假定特征對(duì)丁給定類的影響?yīng)毩⒍∑渌卣鳎?在決策分 類的類另U N已知與各類別的先驗(yàn)概率P(ui)及類條件概率密度P(

8、X8i)已知的情況 下，對(duì)丁一特征欠量X根據(jù)公式計(jì)算待檢模式在各類中發(fā)生的后驗(yàn)概率 P(i«Xi), 后驗(yàn)概率最大的類別即為該模式所屆類別。在這樣的條件下，模式識(shí)別問(wèn)題轉(zhuǎn)化 為一個(gè)后驗(yàn)概率的計(jì)算問(wèn)題。在貝葉斯決策的基礎(chǔ)上，根據(jù)各種錯(cuò)誤決策造成損 失的不同，人們提出基丁貝葉斯風(fēng)險(xiǎn)的決策，即計(jì)算給定特征欠量X在各種決策中的條件風(fēng)險(xiǎn)大小，找出其中風(fēng)險(xiǎn)最小的決策。參數(shù)估計(jì)方法的理論基礎(chǔ)是樣 本數(shù)目趨近丁無(wú)窮大時(shí)的漸進(jìn)理論。在樣本數(shù) 目很大時(shí)，參數(shù)估計(jì)的結(jié)果才趨近丁真實(shí)的模型。然而實(shí)際樣本數(shù)目總是有限的， 很難滿足這一要求。另外參數(shù)估計(jì)的另一個(gè)前提條件是特征獨(dú)立性，這一點(diǎn)有時(shí) 和實(shí)際差別較大。

9、(2) 結(jié)構(gòu)模式識(shí)別結(jié)構(gòu)模式識(shí)別是利用模式的結(jié)構(gòu)描述與句法描述之間的相似性對(duì)模式進(jìn)行 分類。每個(gè)模式由它的各個(gè)子部分(稱為子模式或模式基元)的組合來(lái)表示。對(duì)模 式的識(shí)別常以句法分析的方式進(jìn)行，即依據(jù)給定的一組句法規(guī)則來(lái)剖析模式的結(jié) 構(gòu)。當(dāng)模式中每一個(gè)基元被辨認(rèn)后，識(shí)別過(guò)程就可通過(guò)執(zhí)行語(yǔ)法分析來(lái)實(shí)現(xiàn)。 選 擇合適的基元是結(jié)構(gòu)模式識(shí)別的關(guān)鍵。結(jié)構(gòu)模式識(shí)別主要用丁文字識(shí)別、遙感圖形的識(shí)別與分析、紋理圖像的分析 中。該方法的特點(diǎn)是識(shí)別方便，能夠反映模式的結(jié)構(gòu)特征，能描述模式的性質(zhì)， 對(duì)圖像畸變的抗干擾能力較強(qiáng)。如何選擇基元是本方法的一個(gè)關(guān)鍵問(wèn)題，尤其是 當(dāng)存在干擾及噪聲時(shí)，抽取基元更困難，且易失誤。(

10、3) 模糊模式識(shí)別1965年Zade砒出了他著名的模糊集理論，使人們認(rèn)識(shí)事物的傳統(tǒng)二值0, 1 邏輯轉(zhuǎn)化為（0, 1）區(qū)間上的邏輯，這種刻畫(huà)事物的方法改變了人們以往單純地 通過(guò)事物內(nèi)涵來(lái)描述其特征的片面方式，并提供了能綜合事物內(nèi)涵與外延性態(tài)的 合理數(shù)學(xué)模型一隸屆度函數(shù)。對(duì)于A、B兩類問(wèn)題，傳統(tǒng)二值邏輯認(rèn)為樣本C要么 屆于A,要么屆于B，但是模糊邏輯認(rèn)為C既屆于A, 乂屆于B,二者的區(qū)別在于 C在這兩類中的隸屆度不同。所謂模糊模式識(shí)別就是解決模式識(shí)別問(wèn)題時(shí)引入模 糊邏輯的方法或思想。同一般的模式識(shí)別方法相比較，模糊模式識(shí)別具有客體信 息表達(dá)更加合理，信息利用充分，各種算法簡(jiǎn)單靈巧，識(shí)別穩(wěn)定性好，

11、推理能力 強(qiáng)的特點(diǎn)。模糊模式識(shí)別的關(guān)鍵在隸屆度函數(shù)的建立,目前主要的方法有模糊統(tǒng)計(jì)法、 模糊分布法、二元對(duì)比排序法、相對(duì)比較法和專家評(píng)分法等。雖然這些方法具有 一定的客觀規(guī)律性與科學(xué)性，但同時(shí)也包含一定的主觀因素，準(zhǔn)確合理的隸屆度 函數(shù)很難得到，如何在模糊模式識(shí)別方法中建立比較合理的隸屆度函數(shù)是需要進(jìn) 一步解決的問(wèn)題。（4）人工神經(jīng)網(wǎng)絡(luò)模式識(shí)別早在20世紀(jì)50年代，研究人員就開(kāi)始模擬動(dòng)物神經(jīng)系統(tǒng)的某些功能，他們采用軟件或硬件的辦法，建立了許多以大量處理單元為結(jié)點(diǎn)，處理單元問(wèn)實(shí)現(xiàn)（加權(quán)值的）互聯(lián)的拓?fù)渚W(wǎng)絡(luò)，進(jìn)行模擬，稱之為人工神經(jīng)網(wǎng)絡(luò) 16。這種方法可以看 作是對(duì)原始特征空間進(jìn)行非線性變換，產(chǎn)生

12、一個(gè)新的樣本空間，使得變換后的特 征線性可分。同傳統(tǒng)統(tǒng)計(jì)方法相比，其分類器是與概率分布無(wú)關(guān)的。 人工神經(jīng)網(wǎng) 絡(luò)的主要特點(diǎn)在于其具有信息處理的并行性、自組織和自適應(yīng)性、具有很強(qiáng)的學(xué) 習(xí)能力和聯(lián)想功能以及容錯(cuò)性能等，在解決一些復(fù)雜的模式識(shí)別問(wèn)題中顯示出其 獨(dú)特的優(yōu)勢(shì)。人工神經(jīng)網(wǎng)絡(luò)是一種復(fù)雜的非線性映射方法，其物理意義比較難解釋，在理 論上還存在一系列亟待解決的問(wèn)題。例如在設(shè)計(jì)上，網(wǎng)絡(luò)層數(shù)的確定和節(jié)點(diǎn)個(gè)數(shù) 的選取帶有很大的經(jīng)驗(yàn)性和盲目性，缺乏理論指導(dǎo)，網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)仍是一個(gè)尚 未解決的問(wèn)題。在算法復(fù)雜度方面，神經(jīng)網(wǎng)絡(luò)計(jì)算復(fù)雜度大，在特征維數(shù)比較高 時(shí)，樣本訓(xùn)練時(shí)問(wèn)比較長(zhǎng)；在算法穩(wěn)定性方面，學(xué)習(xí)過(guò)程中

13、容易陷入局部極小， 并且存在欠學(xué)習(xí)與過(guò)學(xué)習(xí)的現(xiàn)象范化能力不容易控制。這些也是制約人工神經(jīng)網(wǎng) 絡(luò)進(jìn)一步發(fā)展的關(guān)鍵問(wèn)題。4.3模糊識(shí)別算法4.3.1模糊模式識(shí)別基本原理設(shè)U是給定的待識(shí)別對(duì)象的全體的集合，U中的每一對(duì)象u有p個(gè)特性指標(biāo)ui,U2 , Up。每個(gè)特性指標(biāo)所刻畫(huà)的是對(duì)象U的某個(gè)方面的特征，丁是由p個(gè)特性指標(biāo)確定的每一個(gè)對(duì)象U ,可記成u =(Ui ,U2.,Up)(4-1)上式稱為特性向量。設(shè)識(shí)別對(duì)象集合U可分為n個(gè)類別，且每一類別均是U上的一個(gè)模糊集，記 作:Ai,A2,扁，則稱為它們?yōu)槟：Ｊ?。模糊模式識(shí)別的宗旨是把對(duì)象 U =(U1,U2Up)劃歸一個(gè)與其相似的類別 Ai中。對(duì)丁

14、鉆井液體系優(yōu)選來(lái)說(shuō)，模糊模式識(shí)別的宗旨是根據(jù)具體的特性參數(shù)得到 相應(yīng)的鉆井液體系。當(dāng)一個(gè)識(shí)別算法作用丁對(duì)象U時(shí)，產(chǎn)生一組隸HA(U),PA2(U),.,PAn(U)。它們 分別表示對(duì)象U隸屆丁類別Ai,A2, An的程度。然后我們可以按某種隸屆原則(通 常為最大隸屆原則)對(duì)對(duì)象U進(jìn)行判斷，指出它歸屆丁哪一類別。4.3.2模糊識(shí)別的一般步驟(1) 識(shí)別對(duì)象的特性指標(biāo)提取(特征提取)。在影響識(shí)別對(duì)象u的各因素中，抽取與模式識(shí)別問(wèn)題有顯著關(guān)系的特性指標(biāo) 并測(cè)出對(duì)象U各特性指標(biāo)的具體數(shù)據(jù)，然后寫(xiě)出對(duì)象 U的特性向量14u =(Ui ,U2.,Up)(4-2)(2) 特征選擇使特征數(shù)目從多變少，淘汰掉一些特征，保留一些其主要作用的特征的過(guò)程 稱為特征選擇。(3) 確定標(biāo)準(zhǔn)模式標(biāo)準(zhǔn)模式是反映領(lǐng)域問(wèn)題全部分類的樣本。標(biāo)準(zhǔn)模式能覆蓋問(wèn)題的全部分類，每一種標(biāo)準(zhǔn)模式可以有許多樣本， 所有這些樣本都代表這一標(biāo)準(zhǔn)模式。具體待識(shí)別樣本只要能夠與某一樣式中的一個(gè)樣本最接近，就可以確定屆丁這一模 式。(4) 構(gòu)造模糊模式的隸屆函數(shù)隸屆函數(shù)的確定在模糊數(shù)學(xué)應(yīng)用中占有中有重要地位，因此恰如其分地定量 刻劃模糊性事物是利用模糊數(shù)學(xué)去解決各種實(shí)際問(wèn)題的關(guān)鍵。(5) 完成由具體模式到類別的映射過(guò)程。4.3.3模糊模型識(shí)別原則(1)最大隸