距離判別法及其應(yīng)用

1、距離判別法及其應(yīng)用一、什么是距離判別（一）定義距離判別分析方法是判別樣品所屬類別的一應(yīng)用性很強(qiáng)的多因素決策 方法，根據(jù)已掌握的、歷史上每個(gè)類別的若干樣本數(shù)據(jù)信息，總結(jié)出客觀 事物分類的規(guī)律性，建立判別準(zhǔn)則，當(dāng)遇到新的樣本點(diǎn)，只需根據(jù)總結(jié)得 出的判別公式和判別準(zhǔn)則，就能判別該樣本點(diǎn)所屬的類別。距離判別分析的基本思想是：樣本和哪個(gè)總體的距離最近，就判它屬 于哪個(gè)總體。（二）作用判別個(gè)體所屬類型。例如在經(jīng)濟(jì)學(xué)中，可根據(jù)各國(guó)的人均國(guó)人民收入、 人均工農(nóng)業(yè)產(chǎn)值和人均消費(fèi)水平等多種指標(biāo)來(lái)判定一個(gè)國(guó)家經(jīng)濟(jì)發(fā)展程度 的怕屬類型醫(yī)學(xué)上根據(jù)口才的體溫、白血球數(shù)目以及其他病理指標(biāo)來(lái)判斷 患者所患何病等。二、距離判別

2、分析原理（一）歐氏距離歐氏距離（Euclidean distance ）是一個(gè)通常采用的距離定義,最多的 應(yīng)用是對(duì)距離的測(cè)度。大多情況下，人們談到距離的時(shí)候，都會(huì)很自然的 想到歐氏距離。從數(shù)學(xué)的角度來(lái)講，它是在m維空間中兩個(gè)點(diǎn)之間的真實(shí) 距離。在二維空間中其公式為：，（內(nèi)-）2+（%一%）2推廣到n維空間其公式為:/=1（二）馬氏距離在判別分析中，考慮到歐氏距離沒(méi)有考慮總體分布的分散性信息，印 度統(tǒng)計(jì)學(xué)家馬哈諾必斯（Mahalanobis ）于1936年提出了馬氏距離的概 念。設(shè)總體G = X1,X2，.,Xj7為m維總體（考察m個(gè)指標(biāo)），樣本 X=項(xiàng)，七J。令n = 4x,）（i = L2，

3、m）,則總體均值向量為 =4,，"'總體G的協(xié)方差矩陣為:£ = COV （G） = £（G - ）（G -。設(shè)X , Y是從總體G中抽取的兩個(gè)樣本，則X與Y之間的平方馬氏距 離為：j2（x,y）=（x-y）7s-1（x-y）樣本X與總體G的馬氏距離的平方定義為： 42（x,g）=（x-）H（x-）1 .兩總體距離判別。設(shè)有兩總體G和Gz的均值分別為從和2，協(xié) 方差矩陣分別為Z和,22>0）, X,網(wǎng)是一個(gè)新樣本，判斷其 屬于哪個(gè)總體。定義X,向到G和G?的距離為（x，G）和"（XQ）, 則按如下判別規(guī)則進(jìn)行判斷：X eG ,若d2（x，G

4、）W/（xG）x eG2，若?。▁,G2）< ?。╔，G） X.（1）當(dāng)X = 時(shí)，該判別式可進(jìn)行如下簡(jiǎn)化：/(X，G)-d2(x,G2)= (X4)>T(X2/2一«=-2,_”1卜(2) z )=-2A，(X /) i其中"= W(i+2), A = 2-(一2)注意到實(shí)數(shù)的轉(zhuǎn)置等于實(shí)數(shù)自身，故有(X -(2)傘仙 -2)x -警)令W(X) = A/(X從)，則判別規(guī)則就成為： X e。，若W(X)2OX G2 ,若W(X) < 0在實(shí)際問(wèn)題中，由于總體的均值、協(xié)方差矩陣通常是未知的，數(shù)據(jù)資 料來(lái)自兩個(gè)總體的訓(xùn)練樣本，于是用樣本的均值、樣本的協(xié)方差矩

5、陣代替 總體的均值與協(xié)方差。由于實(shí)際問(wèn)題中只能得到兩個(gè)樣本的協(xié)方差矩陣S一邑，因此當(dāng)兩個(gè) 總體協(xié)方差矩陣相等時(shí)如何確定總體的協(xié)方差矩陣S(i 1)S +(n2 -1)523 =/11 + 一 2其中nl,n2分別為兩個(gè)樣本的容量。(2)當(dāng)時(shí),W(X) = d2(X,Gl)-d2(X,G2)=(X從 yz(x 從)一(X 2)X(X2)判別規(guī)則為:X,若W（X）N。Vx g2 ,若w（x） 0例設(shè)有兩個(gè)二元總體G1和G2 ,從中分別抽取樣本計(jì)算得到又= 5 又 =3£ = 5。8 2.1一一1-21一（27.6）假設(shè)=、2，試用距離判別法建立判別函數(shù)和規(guī)則。樣品X = （6,0）7應(yīng)屬

6、于哪個(gè)總體。解：02（x，g）=（x”T（x從）(6,0) - (5,1)58 2.1Y112.1 7.6,'(6,0)、< (54)= (h-l)5.8 2.1Y12.1 7.6；= 0.4436602D2(X,G?)=(X_2)= L673809由于。2(x,G>O2(x，g)所以X屬于G-2 .多總體的距離判別。設(shè)有g(shù)個(gè)m維總體5, G2，Gr ,均值 向量分別為1 , 2,協(xié)方差矩陣分別為, S2，J , 則樣本X到各組的平方馬氏距離是：2（x,G,）= （X/%）,2, 判別規(guī)則為：X ，若2（X，G）=戲5/（x,Gj）三、距離判別法的應(yīng)用距離判別法可以應(yīng)用于醫(yī)

7、學(xué)、建設(shè)、環(huán)境、城鎮(zhèn)規(guī)劃等多個(gè)領(lǐng)域的工 程項(xiàng)目中。如距離判別法在類風(fēng)濕性關(guān)節(jié)炎中醫(yī)證候診斷中的應(yīng)用，距離 判別法相似礦區(qū)突水水源識(shí)別中的應(yīng)用，在大氣環(huán)境質(zhì)量現(xiàn)狀評(píng)價(jià)中的應(yīng) 用以及在城鎮(zhèn)土地定級(jí)中的應(yīng)用等。在實(shí)際工程中，經(jīng)常采用多總體的距離判斷。設(shè)有g(shù)個(gè)m維總體G , G?，Gg ,均值向量分別為從，弓,3，協(xié)方差矩陣分別為,，Eg ,任意給定一個(gè)m維樣本X =玉,乙7。假設(shè)Zi = S2 =.= Eg = £ ,則新樣本到各億和G,的馬氏距離平方差為/（1, G/）屋 « g,.）=2x -1 （從 + 勺）S'1 （"勺），令% （x）=|x +勺）7 2T（4 -勺）。利用各總體的訓(xùn)練樣本對(duì)從和心（i=l , 2 ,g ）進(jìn)行估計(jì)。設(shè)染，心）,，K?為來(lái)自總體為的訓(xùn)練樣本（k=l, 2 一.，g ）,令"«= 土與"產(chǎn)（k=l , 2，g）臬=£（靖）*）（春女叫,