模式識(shí)別期末試題

1、第第2頁(yè)共26頁(yè)第第 頁(yè)共26頁(yè)判別邊界仍是一條直線，但不垂直于均值的連線。3.工=S=c2112g(x)i(X|LX)t(X|LX)ii-2c2+lnP(o)ig(X)i(xtx一2|LXX+|LXt|LX)iii2c2+lnP(o)ig(X)=wtx+wiii01w=一i02c2卩屮+lnP(o)iii1x2o2卩屮+1x2o2卩屮+lnP(e)jjjwt(xx)=00ppij;屮.+p.)022ijppijP(e)-ln(pp)2P(e)ijj判決平面：g(x)=g(x)ijg(x)=wtx+wTOC o 1-5 h ziii0卩屮+lnP)iii卩t卩t卩+lnP(e)=_j_iiiO

2、2判別邊界是一條直線，且垂直于均值的連線。二十四、設(shè)兩個(gè)家庭，每家3-5人，選每個(gè)人的一張照片，共8張，混放在一起，將照片家庭分開。rij家庭分開。rij12345678112013001400.80150.500.201600.800.40170.40.20.200.801800.50.2000.801兩兩對(duì)照，得出描述其“相似程度”的模糊關(guān)系矩陣。要求按相似程度聚類，希望把二個(gè)模式識(shí)別期末復(fù)習(xí)1似然比決策準(zhǔn)則為：若l(1似然比決策準(zhǔn)則為：若l(x)=。負(fù)對(duì)數(shù)似然比為h(x)=-ln(x),當(dāng)p(xw廠態(tài)分布時(shí)：試推導(dǎo)出h(x)，并指出其決策面規(guī)則；分析這種情況下的決策面類型。J-(x-A1

3、XY-1(x-片)j；p(xw)P(w)p(x)P()，則xGW；若l(x)=七，則xGw；若l(x)=P(w)11p(xw)p(w)2，貝yxgwp(xw)P(w)221即若h(x)lnP(w)一lnP(w)，則xgw121122由上式所決定的決策面為超平面。2設(shè)在一維特征空間中兩類樣本服從正態(tài)分布，=Q2=1，A,=0，A2=3，兩類先驗(yàn)概率之比丄=e1212P(w2)，試求按基于最小錯(cuò)誤率貝葉斯決策原則的決策分界面的x值。解：由于按基于最小錯(cuò)誤率的貝葉斯決策，則分界面上的點(diǎn)服從P(X|1)P(X|1)P(o1)=p(x|2)P(o2)np(xl叫)P(O1)=p(X|2)np(x1.)e

4、=p(x|o2)P(2)212nexp2x2+1=exp2(x3)2nx2+1=1(x3)2nx=2263對(duì)兩類問題，若損失函數(shù)；人=X22=0，人2豐0，九21豐0，試求基于最小風(fēng)險(xiǎn)貝葉斯決策分界面處的兩類錯(cuò)誤率P(e)=1-Pgjx)、P(e)|=1P(o2|x)與人2、九21的關(guān)系2解：由于在基于最小風(fēng)險(xiǎn)貝葉斯決策分界面處有R(aX)=X11P(x)+九12P(2|x)=九12P(2|x)R(a2Ix)=九21P(x)+九22P(2Ix)=九21P(1Ix)R(JX)=R(a2Ix)n九2P(2Ix)=九21P(1lx)題中，P(e)=1P(Jx)=P(2|x),P(e)=1P(2|x)

5、=P(1|x)故xe12xe21P(e)尢12xeo21P(e)|1=人2xe1224設(shè)一個(gè)二維空間中的兩類樣本服從正態(tài)分布，其參數(shù)分別為片=(1,211xeo10)T,z1=而在兩類問，卩2=(-1，0)T,先驗(yàn)概率P(,先驗(yàn)概率P(O)=P(o2)。試證明其基于最小錯(cuò)誤率的貝葉斯決策分界面方程為一圓,并求其方程。證明：先驗(yàn)概率相等條件下，基于最小錯(cuò)誤率貝葉斯決策的分界面上兩類條件概率密度函數(shù)相等。因此有：-1(X片)T牛1(x_片)2ln反上I(X巴片工21(X_巴)一2】n反21(X1)2+%2=2(X+1)2+1x2+In4化簡(jiǎn)為(x13)2+%2=8+2ln4，是一個(gè)圓的方程5對(duì)兩類

6、問題，若損失函數(shù)；人=X22=0，人2工0，九21工0，試求基于最小風(fēng)險(xiǎn)貝葉斯決策分界面處的兩類錯(cuò)誤率P(e)=1Pg|x)、P(e)=1P(2|x)與人2、的關(guān)系。xe1xe2122112解：由于在基于最小風(fēng)險(xiǎn)貝葉斯決策分界面處有R(axR(ax)=X11P(x)+九12P(2|x)=X12P(2|x)R(a2Ix)=九21P(Jx)+九22P(2Ix)=九21P(x)、R(ajx)=R(a2Ix)n九2P(2Ix)=九21P(1lx)而在兩兀冋P(e)|1xeo2題中，P(e)=1P(x)=P(2lx),P(e)=1P(2lx)=Pglx)故xe12xe221P(e)6(1)指出從X到超平

7、面g(X)=WTX+w0=0的距離丫=器)=-1xe122是在g(Xq)=0的約束條件下，使|xXq|qq達(dá)到極小的解；X在超平面上的投影是XX-訴W。對(duì)于二維線性判別函數(shù)g(X)=2x1+x22，將判別函數(shù)寫成g(X)=WtX+w0的形式，并畫出g(X)=0的幾何圖形；同時(shí)將其影射成增廣齊次線性判別函數(shù)g(X)=ATY。為什么說近鄰法的分類器是線性分類器，試以以下樣本數(shù)據(jù)集說明，并畫出用近鄰法得到的分類器。第一類樣本：(1，0)，(0，1)；第二類樣本：(0，1),(1,0)。解：(1)g(Xq)=0表明X在超平面g(X)=WTX+w0=0上，當(dāng)IXX1|達(dá)到極小時(shí)，X應(yīng)是X在超0平面g(X

8、)=WTX+w0=0上的投影。那么X=X+YWpW|xxl|的極小解。qX=Xy-WIIng(X)=WTX+Yw_pl|W|+w=WTX+w+y0p0WTW=vWTWWIWIIy=舗則X在超平面上的投影是x廠x-歸(2)這里W=yWi則y=篙即WII，w0=2；若將其影射成增廣齊次線性判別函數(shù)g(X)=ATY則A=(2(12，Y=X1、1,Xr丿7考(3)近鄰法分類器的每條分界線必然由兩個(gè)分別屬于兩類的樣本點(diǎn)決定，故一定是線性的。這些分界面拼接起來，2；302其它X1的樣本的分類器。20其它在這種情況下，求Bayes錯(cuò)誤率；求按最近鄰法決策的漸近平均錯(cuò)誤率。p(xi叩彳302其T23和p(x|2)=(1)(2)解：丄丄x丄33其它1,P(|x)=1,0,P(o.|x)二p(X叩叫p(x|w.)P(w.)i=10,其它P(2Ix)=2，十X-3-1,2X13p(x)=p(x|.)P)p(x)=2iii=l340,0 x丄3丄x2332x13其它1,1P(w|x)=2m丿