判別分析課件資料

1、判別分析Discriminant analysis 在生產(chǎn)、科研和日常生活中經(jīng)常需要根據(jù)觀測到的數(shù)據(jù)資料對(duì)所研究的對(duì)象進(jìn)行分類。例如經(jīng)濟(jì)學(xué)中根據(jù)人均國民收入、人均工農(nóng)業(yè)產(chǎn)值、人均消費(fèi)水平等多種指標(biāo)來判定一個(gè)國家的經(jīng)濟(jì)發(fā)展程度所屬類型；在農(nóng)林害蟲預(yù)報(bào)中、根據(jù)以往的蟲情，多種氣象因子來判別一個(gè)月后的蟲情是大發(fā)生、中發(fā)生或正常；在體育運(yùn)動(dòng)中，判別某游泳運(yùn)動(dòng)員的“苗子”是適合練蛙泳，仰泳，還是自由泳等；在醫(yī)療診斷中，根據(jù)某人多種體檢指標(biāo)（如體溫，血壓，白血球等）來判別此人是有病還是無病?？傊?，實(shí)際問題中需要判別的問題幾乎到處可見。 判別分析(discriminant analysis)就是根據(jù)判別對(duì)象

2、若干個(gè)指標(biāo)的觀測結(jié)果，判定其應(yīng)屬于哪一類的統(tǒng)計(jì)學(xué)方法。判別分析與聚類分析不同，判別分析是在已知研究對(duì)象分成若干類型并已取得各種類型的一批已知樣品的觀測數(shù)據(jù)，在此基礎(chǔ)上根據(jù)某些準(zhǔn)則建立判別式，然后對(duì)未知類型的樣品進(jìn)行判別分類。對(duì)于聚類分析來說，一批給定樣品要?jiǎng)澐值念愋褪孪炔⒉恢?，正需要通過聚類分析來確定類型。正因?yàn)槿绱?，判別分析和聚類分析往往聯(lián)合起來使用，例如判別分析要求先知道各類總體情況才能判別新樣品的歸類，當(dāng)總體分類不清楚時(shí)，可以先用聚類分析對(duì)原來的一批樣品進(jìn)行分類，然后再用判別分析建立判別式對(duì)新樣品進(jìn)行判別。聚類與判別聚類(clustering)分成幾類？每個(gè)樣品屬于哪一類？判別(dis

3、criminate)已知分成幾類。(有師分類)根據(jù)訓(xùn)練樣品建立判別函數(shù)根據(jù)判別函數(shù)對(duì)待判樣品進(jìn)行歸類分類判別組數(shù)：兩組判別和多組判別數(shù)學(xué)模型：線性判別和非線性判別所處理變量：逐步判別和序貫判別判別準(zhǔn)則：馬氏距離準(zhǔn)則、Fisher準(zhǔn)則、平均損失最小準(zhǔn)則、最小平方準(zhǔn)則、最大似然準(zhǔn)則、最大概率準(zhǔn)則等不同方法：距離判別法、Fisher判別法、Bayes判別法、逐步判別法等距離判別法距離判別按就近原則歸類判別準(zhǔn)則(discriminate criterion)可寫成：X G1，如果D(X,G1)D(X,G2)X 待判，如果D(X,G1)=D(X,G2)如果距離定義采用歐式距離，則需計(jì)算出：然后比較D(X

4、,G1)和D(X,G2)的大小，按照距離最近準(zhǔn)則判別歸類。由于馬氏距離在多元統(tǒng)計(jì)分析中經(jīng)常用到，在這里詳細(xì)討論下針對(duì)馬氏距離的判別方法。此時(shí)判別準(zhǔn)則可分以下兩種情況給出。設(shè)和協(xié)差陣。分別為G1,G2的均值向量如果距離定義采用馬氏距離即其中線性判別函數(shù)為是X的二次函數(shù)。判別效果的評(píng)價(jià)誤判概率可以通過前瞻性或回顧性兩種方式估計(jì)。 回顧性誤判概率估計(jì)是指用建立判別函數(shù)的樣本回代判別。回顧性誤判概率估計(jì)往往低估誤判概率，從而夸大判別效果。 一般，建立判別函數(shù)前將樣本隨機(jī)分成兩部分，分別占總樣本含量的85%和15%。前者用于建立判別函數(shù)，稱為訓(xùn)練樣本；后者用于考核判別函數(shù)的判別效果。稱為驗(yàn)證樣本。用驗(yàn)證樣本計(jì)算誤判概率作為前瞻性誤判概率的估計(jì)，比較客觀。另外一種值得推薦的誤判概率的估計(jì)方法刀切法或稱交叉核實(shí)法。具體步驟為：1、順序剔除一個(gè)樣品，用余下的N-1個(gè)樣品建立判別