利用粒子群優(yōu)化的人臉特征提取識別算法_溫浩_圖文

1、第44卷第4期2010年4月西安交通大學學報JO URNA L OF XI AN JIAO TONG UN IVE RSITYVol .444A pr .2010收稿日期:2009-09-02.作者簡介:溫浩(1979-,男,博士生;郭崇慧(聯(lián)系人,男,教授,博士生導師.基金項目:國家自然科學基金資助項目(60802075.利用粒子群優(yōu)化的人臉特征提取識別算法溫浩1,郭崇慧2(1.西安電子科技大學綜合業(yè)務網(wǎng)理論及關鍵技術國家重點實驗室,710071,西安;2.大連理工大學系統(tǒng)工程研究所,116024,遼寧大連摘要:針對如何提高人臉圖像識別率問題,提出了利用粒子群優(yōu)化(PSO 的人臉特征提取識別

2、算法.采用小波變換和張量主成分分析(PCA 方法對人臉圖像進行特征提取,利用PSO 對提取的特征進行加權處理,根據(jù)特征的每一維元素的聚類正確率進行優(yōu)化選擇,從而達到對人臉提取關鍵性特征的目的.實驗結果表明,所提算法能減小光照、表情和姿態(tài)變化的影響,在英國曼徹斯特科技大學人臉數(shù)據(jù)庫上的識別率比張量PCA 方法提高了12.75%.關鍵詞:小波變換;張量主成分分析;粒子群優(yōu)化;人臉識別中圖分類號:TP391.41文獻標志碼:A 文章編號:0253-987X (201004-0048-04Face Recognition with Features Extraction Based onParticl

3、e Swarm OptimizationW EN H ao 1,G UO Cho ng hui 2(1.S tate Key Lab oratory of Integrated S ervice Netw orks ,Xidian University ,Xi an 710071,China ;2.In stitu te ofSys tems Engineering ,Dalian University of T ech nology ,Dalian ,Liaoning 116024,Chin a A bstract :A face recognitio n algo rithm w ith

4、optim al features extraction based o n particle sw arm optimization (PSO is propo sed to enhance the reco gnition rate .Features of each face image are e xtracted by using the w avele t transfo rmation and the tenso r principal component analy sis (PCA algorithm .Weig hts of the features elements ar

5、e then determined using PSO according to the right clustering rate o f each element ,so that the o bject to extract the key features o f the faces can be realized .Ex perimental re sults on the UM IS T database show that the impact of changes in ex -pression ,lig ht and posture can be reduced by the

6、 proposed alg orithm ,and that the recog nition ratio is increased by 12.75%co mpared w ith tenso r PCA .Keywords :w avelet transfo rm s ;tensor principal co mpo nent analy sis ;particle sw arm optimiza -tion ;face recog nition人臉識別是模式識別領域的一個研究熱點1-2,并且具有廣泛的應用前景.如何提取人臉圖像的特征是人臉識別的關鍵因素.常用的人臉特征提取方法是基于統(tǒng)計特

7、征的2,其經(jīng)典算法是主成分分析(PCA 方法3.文獻4-5針對PCA 提出了二維PCA (2DPCA 方法,近年來又出現(xiàn)了其他基于PCA 的改進方法,其中張量PCA (Tensor PCA 是一種效果較好的方法6-7,文獻6還證明了2DPCA 是張量PCA 的一種特例.如果直接對人臉圖像進行特征提取,會受到光照不均、表情變化等因素的干擾,人臉圖像的維數(shù)較高,還需做降維預處理.小波變換具有良好的局部時(空頻分析特性,具有下二采樣性質(zhì)8,能夠消除圖像中的干擾,進行降維維護,所以被廣泛應用于人臉圖像的特征提取9-10.研究發(fā)現(xiàn),對所提特征的每一維元素賦予適當?shù)臋嘀?亦即進行優(yōu)化選擇,會進一步提高識別

8、率,然而需要優(yōu)化的權值較多,權值的數(shù)值變化規(guī)律難以用數(shù)學模型準確描述.如果采用人工試湊法或網(wǎng)格搜索法確定權值,計算量會很大,而且很難逼近最優(yōu)解11.粒子群優(yōu)化算法(PSO是一種全局搜索方法,它需要調(diào)節(jié)的參數(shù)少,無需考慮數(shù)據(jù)的維數(shù)和搜索模型的形式,能獲得最優(yōu)解11.因此,本文提出基于PSO的有效人臉特征提取方法,即首先用小波和張量PCA提取人臉圖像特征,然后用PSO對已提取的特征進行處理,以確定權值,從而達到人臉識別的目的.1人臉圖像特征提取原始人臉圖像存在著光照、表情、飾物變化等因素的干擾10,而且圖像的維數(shù)比較高,要進行預處理,以降低圖像的維數(shù)、消除干擾,因此需選用小波變換作為預處理工具.圖

9、像經(jīng)過小波變換后得到4個子圖:低頻(LL子圖、垂直方向高頻(LH子圖、水平方向高頻(H L子圖和對角方向高頻(H H子圖.每個子圖的長寬為原圖的1/2.后續(xù)的若干層小波變換都是基于上一層的LL子圖進行的.圖1給出了一個人的2幅人臉圖像的原圖和其一層小波變換的子圖.(a第1幅人臉原圖(b圖1a的L L子圖(c第2幅人臉原圖(d圖1c的L L子圖圖1一個人臉2幅圖像及其上一層小波變換子圖從圖1可以看出,這2幅原圖有明顯的飾物差別和細微的表情差異,但在LL子圖中這些差別不明顯.LL子圖對原始圖像的預處理效果比較好,所以本文只對LL子圖做進一步的特征提取.為了得到有效的特征,可采用張量PCA方法提取L

10、L子圖的特征.張量PCA方法能夠提取出圖像的低維張量子空間特征,而在特征提取過程中卻未破壞圖像的幾何空間結構,所以能獲得比PCA方法和2DPCA 方法更好的特征提取效果6.對于灰度圖像的特征提取,張量PCA方法的基本思想可概括為:求解n個大小均為X iR CH的圖像(C和H分別表示圖像X i的長和寬投影矩陣U 和V(UR Cl,VR Hm,并通過投影矩陣對X i進行計算,得到一個新的二階張量Y i=U T X i VR lm(1 Y iR lm(l和m分別表示矩陣Y i的行數(shù)和列數(shù).設Y i的均值Y M=1nY i,則Y i和Y M滿足maxni=1Y i-Y M=ni=1U T X i V-

11、1nni=1U T X i V(2其中U、V的最佳解為U*、V*,U*、V*可通過迭代計算得到(文獻6,12-13給出了U*、V*的求解過程.設X TR i i=1,n為經(jīng)過預處理的訓練樣本圖像集,n為訓練樣本數(shù);X TE j j=1,m為經(jīng)過預處理的測試樣本圖像集,m為測試樣本數(shù).據(jù)此,本文張量PCA方法的特征提取過程可概括為:根據(jù)X TR i i=1,n,得到投影矩陣U*、V*;按照式(1對X TR i i=1,n中的每一幅圖像進行計算,得到訓練樣本特征矩陣集合Y TR i i=1,n;對X TE j j=1,m,利用U*、V*按照式(1進行相應計算,得到測試樣本特征矩陣集合Y TE j

12、j= 1,m.2基于PSO的特征優(yōu)化選擇經(jīng)過特征提取后得到的特征中的每一維元素在識別中所起的作用有所不同,對這些元素賦予適當?shù)臋嘀悼梢赃M一步提高識別率.由于權值的個數(shù)與任意特征矩陣中的元素個數(shù)相同,所以權值可以矩陣形式記為W,而W的最優(yōu)解為W*.W中的元素個數(shù)很多,W和W*之間也沒有確切的數(shù)學模型來描述,所以利用傳統(tǒng)的人工試湊法和網(wǎng)格搜索法很難找到最優(yōu)解,為此本文采用粒子群優(yōu)化算法(PSO來獲得W*.PSO算法確定W*的基本思想為:設m個粒子Z1,Z2,Z m在與W的維數(shù)相同的空間中進行搜索,每個粒子Z i的位置為W的一個解,即Z i的位置是和W的維數(shù)相同的矩陣;根據(jù)每個粒子的位置來確定該粒子

13、的適應度函數(shù)值.粒子適應度函數(shù)值的確定方法如下:首先用Y TR i i=1,n的每一49第4期溫浩,等:利用粒子群優(yōu)化的人臉特征提取識別算法 個元素和對應Z i 位置的每一維元素相乘,記為W Y TR i (“”表示矩陣W 的每一維元素和Y TR i 中的每一維元素相乘,W Y TR i 的維數(shù)與Y TR i 的維數(shù)相同;然后對此時的W Y TR i 進行聚類,得到訓練樣本的聚類正確率.其實,粒子Z i 的適應度函數(shù)值就是聚類正確率,每個粒子在自身求解過程中得到的最好適應度所對應的粒子的位置為局部最優(yōu)解(記為p id ,所有粒子在局部最優(yōu)解中的最高適應度值所對應的解為全局最優(yōu)解(記為p d ,

14、每個粒子的運動速度為V 1,V 2,V m (V i 也是與W 的維數(shù)相同的矩陣.傳統(tǒng)的粒子群算法一般通過迭代來調(diào)整每個粒子的速度和位置,即v id (t +1=wv id (t +1r 1(p id -z id (t +2r 2(p d -z id (t (3z id (t +1=z id (t +v id (t +1(4式中:v id (t +1為第i 個粒子的速度在t +1次迭代中的第d 維的元素值;z id (t +1為第i 個粒子的位置在t +1次迭代中第d 維的元素值;w 為慣性權重;1、2為常數(shù);r 1、r 2為01之間的隨機數(shù).為防止PSO 算法出現(xiàn)早熟或陷入局部極小化,本文參

15、照文獻14給出PSO 粒子速度更新公式,即v id (t +1=wv id (t +1r 1(p b -p id (t +2r 2(p g -p id (t +3r 3(p a -p id (t (5w =w max -tw max -w min8(6式(5中:p a 項為粒子當前局部最優(yōu)解的平均值14,利用它可防止PSO 算法出現(xiàn)早熟或陷入局部極小化;p b 為粒子當前局部最優(yōu)解.本文設置w max 為1,w min 為0,這樣可以使粒子初始時在較大的數(shù)值范圍進行搜索,接近最優(yōu)解時在較小的數(shù)值范圍進行搜索.根據(jù)經(jīng)驗,13為2,r 1r 2為01的隨機數(shù).w 的范圍為0,1,如果w 的某一維值

16、在迭代過程中大于1或小于0,則置為1或0.當所有粒子迭代完成后,或者其位置不再發(fā)生變化,此時得到的p g 即為所求的最優(yōu)解W *.最優(yōu)權值W *確定后,Y TR i i =1,n 的每一維值和對應權值相乘便得到W *Y TR i ,同樣利用Y TE j j =1,m 可得到W *Y TE j .訓練樣本圖像特征矩陣與測試樣本圖像特征矩陣之間的距離為D =dis (W *Y TE j ,W *Y TR i (7其中dis (算子的計算方法如下.假設X RC H,Y RC H ,則有dis (X ,Y =C i =1H j =1(x ij -y ij 21/2(8根據(jù)式(8采用最近鄰方法便可進行圖

17、像特征識別.3實驗結果與分析本文在ORL 、UM IS T 和自建庫上進行了對比實驗,對比的算法包括:本文算法(算法1、張量PCA 算法(算法2、結合小波變換和張量的PCA 算法(算法3.實驗環(huán)境:IBM R51e 筆記本電腦.編程語言:M A TLABORL 庫上的實驗結果與分析ORL 庫是英國劍橋大學制作的,其中包含40個人,每人10幅11292像素的人臉圖像,每張圖像有表情、姿態(tài)、光照和角度的變化.本文從每個人中隨機選取5幅或8幅圖像組成訓練樣本集,余下的圖像作為測試樣本集.實驗進行了10次,最后的識別率為10次實驗結果的平均值,如表1所示.表1ORL 庫上不同算法的識別率

18、比較算法訓練樣本數(shù)特征維數(shù)識別率/%算7399.63算法258425793.3097.25算法35851115793.7598.83由表1可見,本文算法的識別率大于其他2種相關算法,算法3的識別率高于算法2的識別率.可見,對圖像進行小波變換能起到良好的預處理效果,而在此基礎上進行PSO 調(diào)節(jié)權值可進一步提高識別率.當訓練樣本為5時,本文方法的識別率達到了96.73%;當訓練樣本為8時,本文方法的識別率接近100%.3.2UMIST 庫上的實驗結果與分析UMIST 庫由英國曼徹斯特科技大學制作,該庫包含20個人的信息.本文把每個人中的前20幅圖像歸一化為11292像素進

19、行實驗,并隨機選取前20幅圖像中的10幅或16幅進行訓練,剩余的圖像作為測試所用,最終的識別率為10次實驗結果的平均值,如表2所示.可以看出,表2中的識別率比表1中的低,尤其是在訓練樣本數(shù)較少的情況下.這是因為:UM IS T 庫中的圖像角度變化非常大,每個人的前10幅圖像可以看作是人臉正面圖像,而后10幅圖像可以看作是人臉側面圖像.從表2還可以看出,算法1在10個訓練樣本時的識別率仍然比其他2種算法高,比50西安交通大學學報第44卷算法2提高了12.78%,比算法3提高了8.28%,可見本文算法能較好地抗角度變化的干擾.3.3自建庫上的實驗結果與分析自建庫是筆者從所在的實驗室采集制作的,共1

20、1個人,每個人有6幅520400像素的人臉圖像,每張圖像的表情、角度和飾物都有變化.本文采用2折交叉驗證算法進行實驗,結果如表3所示.表2UM IS T庫上不同算法的實驗結果方法訓練樣本數(shù)特征維數(shù)識別率/%算法1101615210588.5399.50算法210168312375.7595.02算法310164621080.2596.70表3自建庫上不同算法的實驗結果方法訓練樣本數(shù)特征維數(shù)識別率/%算法1344987.87算法2351081.80算法337983.33從表3可以看出,在自建庫上算法的識別率較低.這是因為:自建庫中人臉圖像的表情、姿勢、角度、飾物變化很大,而且訓練樣本數(shù)比較少.但

21、是,算法1的識別率仍然比其他2種算法高,相對于算法2、算法3識別率分別提高了7.07%和4.54%.4結束語人臉識別是模式識別學科中的研究熱點.如何有效地對人臉圖像進行特征提取是人臉識別的關鍵.本文提出了一種新的人臉識別方法,其結合了小波變換、PSO算法、張量PCA算法,對人臉圖像能夠提取出可有效識別的關鍵特征.在ORL庫、UM IS T庫和自建庫上的實驗表明,本文算法獲得了比較高的識別率,特別是在UM IS T庫上,識別率比算法2提高了12.75%.參考文獻:1CH EL LA PP A R,W LSO N C L,SRO HEY S.H umanand machine recog niti

22、o n o f faces:a surveyJ.P rocI EEE,1995,83(5:705-740.2劉青山,盧漢青,馬頌德.綜述人臉識別中的子空間方法J.自動化學報,2003,29(16:900-911.LI U Qing shan,L U H anqing,M A So ng de.A surv ey:subspace analy sis fo r face recog nitio nJ.Acta A uto-ma tica Sinica,2003,29(16:900-911.3高全學,潘泉,梁彥,等.基于描述特征的人臉識別研究J.自動化學報,2006,32(3:386-391.G

23、A O Q uanxue,P AN Q ua n,LIA N G Y an,et al.Facerecog nitio n based on ex pressive fea tur esJ.Acta Au-tomatica Sinica,2006,32(3:386-391.4YA NG Jian,ZH A NG D,A LEJAN D F,et al.T wo-dime nsio nal PCA:a new approach to appeara nce-ba sedface re pre sentatio n and recog nitio nJ.IEEE T ranson P attern

24、 A naly sis and M achine Inte lligence,2004,26(1:131-137.5YA N G Jian,LI U Cheng jun.Ho rizontal and ve rtical2DP CA-based discriminate analy sis fo r face ve rificationon a la rge-scale databaseJIEEE T ra ns o n I nfo rma-tion Fo rensics and Security,2007,2(4:781-792. 6XU Do ng,Y AN Shuicheng,Z HA

25、NG Lei.Concur rentsubspace analy sisCP ro ceedings o f the2005IEEECo mputer So ciety Co nference o n Co mputer Visio n a ndPat te rn Reco gnition.Piscataw ay,N J,U SA:IEEE,2005:203-208.7Z H AN G Xinsheng,G A O Xinbo,WA N G Y ing.M i-c rocalcification clusters detection w ith tenso r subspacelear nin

26、g and twin SV M sCI EEE P ro ceedings o fthe7th Wo rld Cong ress on Inte lligent Co ntro l and Au-tomatio n.Piscataw ay,N J,U SA:I EEE,2008:1758-1763.8M A L LA T S G.A theor y for multiresolution sig nal de-co mpo sitio n the wavelet represe ntationJ.IEEET r ans on Pat te rn Analy sis and M achine I

27、 ntellig ence,1989,11(7:674-693.9ZH A NG G uo yun,PENG Shiy u,LI Ho ng min.Combi-natio n of dual-tree co mplex wav elet and SV M for facerecog nitio nCIEEE P roceeding s o f the7th Inter na-tional Co nfere nce o n M achine Lear ning and Cyber net-ics.Piscataw ay,N J,U SA:IEEE,2008:2815-2819.10Z HO U

28、 Xiaofei,SH I Yong.A ffine subspace nea restpo ints classificatio n algo rithm fo r wave let face reco gni-tionCIEEE W or ld Co ng re ss o n Co mputer Scienceand Infor mation Enginee ring.Piscataway,N J,US A:IEEE,2009:684-688.11EBERHA RT R C,K EN NEY J.A new optimizerusing particle swar m theoryCP r

29、o ceeding o f the6th I nter national Sympo sium on M icr o M achine a ndHuman Scie nce.Pisca taw ay,N J,US A:I EEE,1995:39-43.(下轉第118頁51第4期溫浩,等:利用粒子群優(yōu)化的人臉特征提取識別算法除眼電偽差效果比較好的方法進一步去除眼電偽差干擾,這也是今后的研究內(nèi)容之一.參考文獻:1G RA T T O N G,CO L ES M G,DO NC HIN E.A newmethod for off-line remo val o f o cular ar tifact

30、J.Elec-tro encephalog raphy&Clinica l N euro physio lo gy,1983,55(4:486-484.2高軍峰,鄭崇勛,王沛.基于獨立成分分析和流形學習的眼電偽差去除J.西安交通大學學報,2010,44(2:113-118.G AO Junfeng,Z H EN G Cho ngx un,W AN G Pei.ICAand manifo ld-based ocular a rtifacts remov alJ.Jour-nal of Xian Jiaoto ng Univ ersity,2010,44(2:113-118.3U R RES T

31、A RAZ U E,I RIA RT E J,A LEG RE M,e t al.Independent co mpo nent analy sis remo ving artifacts inictal recor ding sJ.Epilepsia,2004,45(9:1071-1078.4A M A RI S,CICH OCK I A,Y AN G H H.A newlea rning alg orithm for blind sig nal separa tionM.Cambridge,M A,U SA:M I T P ress,1996:757-763.5M A K EIG S,BE

32、L L A J,JU N G T P,et al.Independ-ent compone nt analy sis o f electr oencepha lg raphic dataM.Cambridg e,M A,U SA:M IT P ress,1996:145-151.6V ERG U LT A,CL ERCQ W D,P A LM I NI A,et al.Impro ving the interpreta tion o f icta l scalp EEG:BSS-CCA algo rithm fo r muscle artifac t removalJ.Epi-lepsia,2

33、007,48(5:950-958.7周仲興,明東,朱譽環(huán),等.基于擴展Infor max ICA的站起想象動作腦電特征提取J.儀器儀表學報,2009,30(3:459-464.Z HO U Zho ng xing,M IN G Do ng,Z H U Y uhuan,etal.EEG feature ex traction fo r imag inary standing upbased o n ex tended Info rmax independent componentanalysisJ.Chinese Journal o f Scientific Instrume nt,2009,3

34、0(3:459-464.8S HA O Shiy un,S HEN Kaiquan,ON G C J,et al.Au-to matic EEG ar tifact remova l:a w eighted suppo rt vec-to r machine appro ach w ith e rro r co r rectionJ.IEEET ransactions o n Bio medical Eng ineering,2009,56(2:336-344.9JUN G T P,M A K EIG S,H UM PH RIES C et al.Re-mo ving e lectroe ncephalo