模式識別基本詞匯名詞解釋課件

1、模式識別基本詞匯名詞解釋模式識別基本詞匯模式識別基本詞匯名詞解釋基本詞匯樣本：對任一個具體的事物，在這門課中都稱為一個樣本，它是一類事物的一個具體體現(xiàn)，它與模式這個概念聯(lián)用，則模式表示一類事物的統(tǒng)稱，而樣本則是該類事物的一個具體體現(xiàn)。 模式：英語是pattern，表示一類事物，廣義地說，模式是一些供模仿用的、完美無缺的標(biāo)本。本課程把所見到的具體事物稱為模式。模式識別基本詞匯名詞解釋基本詞匯模式類：這個詞與模式聯(lián)合使用，此時模式表示具體的事物，而模式類則是對這一類事物的概念性描述。將模式歸屬的類別稱為模式類。模式識別：是研究用計算機(jī)來實現(xiàn)人類模式識別能力的一門學(xué)科。是讓計算機(jī)實現(xiàn)事物的分類。模式

2、識別基本詞匯名詞解釋基本詞匯分類器：用來識別具體事物的類別的系統(tǒng)稱為分類器。模式識別系統(tǒng)：用來實現(xiàn)對所見事物（樣本）確定其類別的系統(tǒng)，也稱為分類器 模式識別基本詞匯名詞解釋基本詞匯特征：一個事件（樣本）有若干屬性稱為特征，對屬性要進(jìn)行度量，一般有兩種方法，一種是定量的，一種是定性表示。在本門課中一般偏重定量的表示。 特征向量：對一個具體事物（樣本）往往可用其多個屬性來描述，將這些特征有序地排列起來，就成為一個向量。這種向量就稱為特征向量。每個屬性稱為它的一個分量，或一個元素。模式識別基本詞匯名詞解釋基本詞匯維數(shù)：一個向量具有的分量數(shù)目。列向量：將一個向量的分量排列成一列表示。 行向量：將一個向

3、量的分量排列成一行表示。模式識別基本詞匯名詞解釋基本詞匯轉(zhuǎn)置：將一個列向量寫成行向量的形式的方法就是轉(zhuǎn)置。如定義X為列向量，則XT就是該向量的行向量表示。轉(zhuǎn)置的概念與矩陣中轉(zhuǎn)置的概念一樣。特征空間：一種事物的每個屬性值都是在一定范圍內(nèi)變化，所討論問題的特征向量可能取值范圍的全體就是特征空間。 模式識別基本詞匯名詞解釋基本詞匯分類決策：根據(jù)一個事物（樣本）的屬性確定其類別，稱為分類決策。 分類決策方法：對一事物進(jìn)行分類決策所用的具體方法。模式識別基本詞匯名詞解釋基本詞匯學(xué)習(xí)：讓一個機(jī)器有分類決策能力，就需要找到具體的分類決策方法，確定分類決策方法的過程統(tǒng)稱為學(xué)習(xí)，就像人認(rèn)識事物的本領(lǐng)的獲取與提高

4、都是通過學(xué)習(xí)得到的。在本門課中將學(xué)習(xí)分成有監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)兩種不同的方法。 模式識別基本詞匯名詞解釋基本詞匯訓(xùn)練：一般將有監(jiān)督學(xué)習(xí)的學(xué)習(xí)方法稱之為訓(xùn)練。訓(xùn)練（樣本）集：在訓(xùn)練過程中使用的樣本集，該樣本集中的每個樣本的類別已知。 模式識別基本詞匯名詞解釋基本詞匯有監(jiān)督學(xué)習(xí)方法：從不同類的訓(xùn)練集數(shù)據(jù)中體現(xiàn)出的規(guī)律性進(jìn)行分析，從而確定分類決策方法，這種學(xué)習(xí)方法是在訓(xùn)練集指導(dǎo)下進(jìn)行的，就像有教師來指導(dǎo)學(xué)習(xí)一樣，稱為有監(jiān)督學(xué)習(xí)方法。與之相對的是無監(jiān)督學(xué)習(xí)方法。模式識別基本詞匯名詞解釋基本詞匯無監(jiān)督學(xué)習(xí)方法：在一組數(shù)據(jù)集中尋找其規(guī)律性的過程稱為無監(jiān)督學(xué)習(xí)方法。例如分析數(shù)據(jù)集中的自然劃分（聚類）；分析數(shù)

5、據(jù)集體現(xiàn)的規(guī)律性，并用某種數(shù)學(xué)形式表示（數(shù)據(jù)似合）；分析數(shù)據(jù)集中各種分量（描述量，特征）之間的相關(guān)性（數(shù)據(jù)挖掘，知識獲取）等，這種學(xué)習(xí)沒有訓(xùn)練樣本集作指導(dǎo)，這是與有監(jiān)督學(xué)習(xí)方法的不同點。 模式識別基本詞匯名詞解釋基本詞匯先驗概率：預(yù)先已知的或者可以估計的模式識別系統(tǒng)位于某種類型的概率。類條件概率密度函數(shù)：系統(tǒng)位于某種類型條件下模式樣本X出現(xiàn)的概率密度分布函數(shù)。后驗概率：系統(tǒng)在某個具體的模式樣本X條件下位于某種類型的概率。貝葉斯公式：兩個事物X與w聯(lián)合出現(xiàn)的概率稱為聯(lián)合概率。利用該公式可以計算后驗概率。模式識別基本詞匯名詞解釋基本詞匯貝葉斯決策理論：根據(jù)先驗概率、類概率分布密度函數(shù)以及后驗概率這

6、些量來實現(xiàn)分類決策的方法，稱為貝葉斯決策理論。由于這些量之間符合貝葉斯公式，因此稱為貝葉斯決策理論?；谧钚″e誤率的貝葉斯決策：根據(jù)一個事物后驗概率最大作為分類依據(jù)的決策，稱為基于最小錯誤率的貝葉斯決策。從統(tǒng)計上講，即從平均錯誤率角度看，分類錯誤率為最小，因此稱為基于最小錯誤率的貝葉斯決策。模式識別基本詞匯名詞解釋基本詞匯風(fēng)險決策：對事物進(jìn)行分類或做某種決策,都有可能產(chǎn)生錯誤，不同性質(zhì)的錯誤就會帶來各種不同程度的損失，因而作決策是有風(fēng)險的。考慮到?jīng)Q策后果(風(fēng)險)的決策是風(fēng)險決策。 基于最小風(fēng)險的貝葉斯決策：如果樣本X的實際類別為1，而作決策為2 ，則可以定義此時作2決策的風(fēng)險為(2 | 1)，

7、由此可以確定對樣本X做2決策的期望損失，比較做不同決策的期望損失，選擇期望損失最小的決策后最終決策。就是基于最小風(fēng)險的貝葉斯決策。 模式識別基本詞匯名詞解釋基本詞匯判別函數(shù)：是一組與各類別有關(guān)的函數(shù)，對每一個樣本可以計算出這組函數(shù)的所有函數(shù)值，然后依據(jù)這些函數(shù)值的極值(最大或最小)做分類決策。 決策域與決策面：根據(jù)判別函數(shù)組中哪一個判別函數(shù)值為極值為準(zhǔn)則可將特征空間劃分成不同的區(qū)域，稱為決策域，相鄰決策域的邊界是決策分界面或稱決策面。 模式識別基本詞匯名詞解釋基本詞匯參數(shù)估計：使用貝葉斯決策要知道先驗概率，類分布密度函數(shù)等統(tǒng)計參數(shù)，為此，要從訓(xùn)練樣本集中估計出這些統(tǒng)計參數(shù)，這就是參數(shù)估計。 非

8、參數(shù)估計：在分布密度函數(shù)形式也不確定條件下，估計統(tǒng)計參數(shù)，稱為非參數(shù)估計。 非參數(shù)分類器：不以統(tǒng)計參數(shù)為分類決策依據(jù)的分類決策方法稱為非參數(shù)分類器, 線性分類器、非線性分類器以及近鄰分類器都屬于這種分類器，它們不需要統(tǒng)計參數(shù)。 模式識別基本詞匯名詞解釋基本詞匯線性分類器：判別函數(shù)為線性函數(shù)的分類器是線性分類器，此時決策分界面的方程是線性方程。 非線性分類器：是非參數(shù)分類器的一種，其中判別函數(shù)或決策面方程是某種特定的非線性函數(shù)，如二次函數(shù)，多項式函數(shù)等。 分段線性分類器：相鄰決策域的界面用分段線性函數(shù)表示的分類器。模式識別基本詞匯名詞解釋基本詞匯感知準(zhǔn)則函數(shù)：是線性分類器的另一種著名設(shè)計方法。該種方法通過迭代優(yōu)化確定最佳分界面。其特點是利用錯分類信息對當(dāng)前的分界面進(jìn)行修正。 感知器：使用感知準(zhǔn)則函數(shù)設(shè)計的分類器稱為感知器，它是人工神經(jīng)網(wǎng)絡(luò)中最簡單的一種，是人工神經(jīng)網(wǎng)絡(luò)前期研究的成果。 模式識別基