基于PCA和BP神經(jīng)網(wǎng)絡(luò)的人臉識別方法

PCABP神經(jīng)網(wǎng)絡(luò)的人臉識別方法摘要：基于PCA和BP神經(jīng)網(wǎng)絡(luò)的人臉識別方法是針對PCA方法中存在的問題和它對未訓(xùn)練過的樣本識別率低的缺點而提出的實驗證明，使用該方法在識別率上有一定的提高。關(guān)鍵詞：人類識別、BP神經(jīng)網(wǎng)絡(luò)、PCA、特征提取引言人臉識別特指利用分析比較人臉視覺特征信息進行身份鑒別的計算機技術(shù)。態(tài)曝光補償，人臉追蹤偵測，自動調(diào)整影像放大；它屬于生物特征識別技術(shù)，是（一般特指人系統(tǒng)較之指紋識別系統(tǒng)、DNA鑒定等更具方便性，因為它取樣方便，可以不接觸目標就進行識別，從而開發(fā)研究的實際意義更大。并且與指紋圖像不同的是，人臉圖像受很多因素的干擾:人臉表情的多樣性;以及外在的成像過程中的光照，人臉識別特指利用分析比較人臉視覺特征信息進行身份鑒別的計算機技術(shù)。態(tài)曝光補償，人臉追蹤偵測，自動調(diào)整影像放大；它屬于生物特征識別技術(shù)，是（一般特指人系統(tǒng)較之指紋識別系統(tǒng)、DNA鑒定等更具方便性，因為它取樣方便，可以不接觸目標就進行識別，從而開發(fā)研究的實際意義更大。并且與指紋圖像不同的是，人臉圖像受很多因素的干擾:人臉表情的多樣性;以及外在的成像過程中的光照，圖像尺寸，旋轉(zhuǎn)，姿勢變化等。使得同一個人，在不同的環(huán)境下拍攝所得到的人件下實現(xiàn)人臉圖像的識別，也就更具有挑戰(zhàn)性。（PCAFisherTurkPentland提出的特征臉(EigenFace)PCA方法。PCA是PCA和BP神經(jīng)網(wǎng)絡(luò)的人臉識別方法。11、系統(tǒng)設(shè)計的基本原理PCA的基本原理（PCA的基本原理（PrincipalComponentAnalysis（PrincipalComponentAnalysisPCA）nmnn以抓住事物主要方面進行重點分析呢？如果事物的主要方面剛好體現(xiàn)在幾個主要變量上，我們只需要將這幾個變量分離出來，進行詳細分析。但是，在一般情表示事物的主要方面，PCA就是這樣一種分析方法。舉一個例子來說，對于一個訓(xùn)練集，100個對象模板，特征是10維，那么100*10的矩陣，作為樣本。求這個樣本的協(xié)方差矩陣，得到一個個10*10的協(xié)方差矩陣，然后求出這個協(xié)方差矩陣的特征值和特征向量，應(yīng)該10個特征值和特征向量，我們根據(jù)特征值的大小，取前四個特征值所對應(yīng)的10*410*4100*4的新的降維之后的樣本矩陣，每個特征的維數(shù)下降了。當(dāng)給定一個測試的特征集之后，比如樣本矩陣，每個特征的維數(shù)下降了。當(dāng)給定一個測試的特征集之后，比如1*1010*41*4的特征，用這個特征去分類。這個特征去分類。PCA便可以將高維特征的維數(shù)下降到指定的維數(shù)。BP神經(jīng)網(wǎng)絡(luò)基本原理（2BP神經(jīng)網(wǎng)絡(luò)基本原理BP（BackPropagation）網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)BP（BackPropagation）網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)BP-BP（input(hidelayer)和輸出層(outputlayer)。理機具有存儲和應(yīng)用經(jīng)驗知識的自然特性，它與人腦的相似之處概括為兩個方來存儲獲取的知識信息。BP測當(dāng)中都有著廣泛的應(yīng)用。圖1單層前饋網(wǎng)絡(luò) 圖2多層前饋網(wǎng)絡(luò)2、系統(tǒng)設(shè)計思路PCA+最鄰近分類器來演示一個簡單的人臉識別系統(tǒng)。PCA+ORL人臉數(shù)據(jù)庫計算其識別率。PCA+BPORLPCA維數(shù)，BP網(wǎng)絡(luò)各參數(shù)對人臉識別率的影響。PCA人PCA和神經(jīng)網(wǎng)絡(luò)相結(jié)合的人臉識別方法。該方法首PCAPCA方法提取的特征最后，將提取出的最終人臉特征輸入神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練和識別。開始開始樣本矩陣求出協(xié)方差矩陣計算特征值序選出滿足q個特征值計算對應(yīng)特征向量投影矩陣初始化給定輸入向量和期望輸出求隱層輸出層單元輸出期望輸出與實eE滿足要求？yesyes初始化給定輸入向量和期望輸出求隱層輸出層單元輸出期望輸出與實eE滿足要求？yesyes全部e滿足Endno計算隱層單元誤差求誤差梯度更新權(quán)值（1）基本流程：1)將原始人臉圖像集A（1）基本流程：1)將原始人臉圖像集A中的每幅圖像進行尺寸歸一化處理，得到歸一化后的人臉圖像集；2)PCA方法計算特征子空間以及每張人臉在特征子空間中的投影系數(shù)。其中特征子空間由按特征值大小進行降序排列的特征向量組成；3)按照重要度選擇特征子空間中屬性重要度大的特征主分量；4)4)將選擇出的重要度大的特征主分量輸入BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，直到神經(jīng)網(wǎng)絡(luò)收斂或滿足停止訓(xùn)練的條件；5)經(jīng)網(wǎng)絡(luò)收斂或滿足停止訓(xùn)練的條件；5)識別過程。人臉空間的建立NNPI表示。協(xié)方差矩陣C的正交特征向量就是組成人臉空間的基向量，即特征臉。λ1≥λ2≥...≥λr,uk。這樣每一幅u1,u2,...,ur應(yīng)于子空間中的一點。同樣，子空間的任意一點也對應(yīng)于一幅圖像。特征向量的選取Ω仍然很大，而事實上，根據(jù)應(yīng)用的要求，并非所有的特征向BP神經(jīng)網(wǎng)絡(luò)的算法BP學(xué)習(xí)算法實際包含了兩類信號不同方向的傳播過程，一類是施加輸入信號由輸入層經(jīng)隱層到輸出層，產(chǎn)生輸出響應(yīng)的“輸入模式正向傳播”過程；另一值收斂（即實際輸出逐漸逼近希望輸出）而結(jié)束學(xué)習(xí)過程。BP學(xué)習(xí)算法具體編程步驟：1.初始化；BP學(xué)習(xí)算法實際包含了兩類信號不同方向的傳播過程，一類是施加輸入信號由輸入層經(jīng)隱層到輸出層，產(chǎn)生輸出響應(yīng)的“輸入模式正向傳播”過程；另一值收斂（即實際輸出逐漸逼近希望輸出）而結(jié)束學(xué)習(xí)過程。BP學(xué)習(xí)算法具體編程步驟：1.初始化；2.提供訓(xùn)練樣本；3.輸入模式正向傳播過程計算；4.誤差的逆?zhèn)鞑ミ^程計算；5.5.各層網(wǎng)絡(luò)權(quán)值和閾值的修正計算；6.返回提供訓(xùn)練樣本步驟重新計算直到全局誤差E，或者達到最大學(xué)習(xí)6.返回提供訓(xùn)練樣本步驟重新計算直到全局誤差E，或者達到最大學(xué)習(xí)次數(shù)結(jié)束學(xué)習(xí)；3、實驗結(jié)果及分析1）PCA+最鄰近分類器人臉識別系統(tǒng)實驗中選取的圖像經(jīng)過簡單的分類器識別后，都能進行正確的識別。在使2張放入訓(xùn)練數(shù)據(jù)庫，1張用來測試。ORL4004010張頭像（每個人每張頭像或表情不同，或傾斜度不同。設(shè)計中，每個人選取前52002000.88。PCA+BP神經(jīng)網(wǎng)絡(luò)識別系統(tǒng)ORL400張人臉中選取一部分作為訓(xùn)練樣PCA降維，形成特征臉子空間；再將剩余的人臉作為檢測集，將其投影到特征臉子空間；采用BP檢測集進行識別率測試1、BP神經(jīng)網(wǎng)絡(luò)識別中存在的問題BPBP網(wǎng)絡(luò)訓(xùn)練函數(shù)的選取BP網(wǎng)絡(luò)學(xué)習(xí)速率，迭代次數(shù)，誤差，梯度的設(shè)定PCA主成分比例的選取BP網(wǎng)絡(luò)隱層節(jié)點數(shù)的選取訓(xùn)練集和測試集容量的選取2、網(wǎng)絡(luò)訓(xùn)練函數(shù)的選取BP且還不一定能達到要求的精度，這會大大影響識別率。經(jīng)過多次訓(xùn)練函數(shù)的嘗試，最終選擇帶有動量相的自適應(yīng)學(xué)習(xí)率的訓(xùn)練函數(shù)traingdx。下面表格顯示出了三種訓(xùn)練函數(shù)在訓(xùn)練速度上的對比：從上表可以看出：BP算法，由于學(xué)習(xí)速率固定，網(wǎng)絡(luò)的訓(xùn)練速練函數(shù)采用帶動量相的自適應(yīng)學(xué)習(xí)速率的算法較為合適。10s鐘左右，大大提供了識別速率。3、BP網(wǎng)絡(luò)性能參數(shù)的設(shè)定traingdx010000，發(fā)現(xiàn)每次促使訓(xùn)練停止的為默認的截止梯度。此時的網(wǎng)絡(luò)誤差已足夠小。4、維數(shù)、隱層節(jié)點數(shù)的選取ORL9（共360張10張頭像作為測試集（40張；BPtraingd，截止010000PCA、0.8、0.930:10:150別率得到下表從上表數(shù)據(jù)得出：0.80.9當(dāng)PCA0.80.9之間。不同維數(shù)下相同的隱層節(jié)點數(shù)不具有可比性。ORL8（共320張2張頭像作為測試集80張PCA0.70.830:10:150下進行網(wǎng)絡(luò)訓(xùn)練，并通過測試集計算識別率得到下表：ORL7（共280張3（120張PCA0.70.830:10:150下進行網(wǎng)絡(luò)訓(xùn)練，并通過測試集計算識別率得到下表：ORL5（共200張5（200張PCA，隱層節(jié)點數(shù)為30:10:150下進行網(wǎng)絡(luò)訓(xùn)練，并通過測試集計算識別率得到下表：5、訓(xùn)練集和測試集容量的選取2524人臉的識別率變化不大，集0.80.9524，這說明識別率與5中也觀察到：PCA這說明了，在某些條件下，PCA主成分的比例還是會影響到識別率的大小。總結(jié)PCA特征提取，并且會采用最鄰近分類器（歐氏距離BP神經(jīng)網(wǎng)絡(luò)分類器進行人臉的模PCA+BP在不斷測試過程中，我們得出：固定的學(xué)習(xí)速率會影響網(wǎng)絡(luò)的訓(xùn)練速度在網(wǎng)絡(luò)訓(xùn)練速度較慢時，截止誤差，迭代次數(shù)都會影響識別率相同數(shù)據(jù)下，采用帶動量相的自適應(yīng)學(xué)習(xí)率訓(xùn)練函數(shù)大大加快網(wǎng)絡(luò)訓(xùn)練速度PCA能從數(shù)據(jù)中分析出它們在某些情況下影響識別率，因此，設(shè)計時，它們的選取必須結(jié)合數(shù)據(jù)來試湊出最佳的識別方案遇到的問題及后續(xù)研究：設(shè)計過程中，不論參數(shù)如何調(diào)整，都不能達到百分之百的識別率。在算法原理、程序都無誤的前提下，只能是遇到方法的瓶頸。后續(xù)工作中，可以從改進算法上進行入手，也可以從其他算法上進行識別率的對比研究。致謝PCABPmatlab我們模式識別的課程進行了鞏固。參考文獻.PCA20074月蔣遂平.2003年12月司馬江龍，鄧長壽.BP報（自然科學(xué)版）.2011鄭明偉.基于PCA和BPft9月附錄一：組構(gòu)成及分工組長：馬偃亳組員：杜鵬飛鄭博邢凱麗盧亞南張超李亞萍李莎莎孫源呈朱妍雯王苗苗張曉參路亞緹分工：查找文獻、資料：張超，路亞緹文獻、資料篩選：孫源呈，張曉參人臉數(shù)據(jù)庫搜索及人臉圖像采集：王苗苗程序編制及調(diào)試：邢凱麗，馬偃亳數(shù)據(jù)采集及結(jié)果分析：盧亞南，杜鵬飛ppt制作：李亞萍，鄭博課程設(shè)計報告：朱妍雯，李莎莎附錄二：程序代碼：PCA+最鄰近分類器用于簡單人臉識別的演示程序：（1）主程序：example.mclearallclccloseall%YoucancustomizeandfixinitialdirectorypathsTrainDatabasePath=uigetdir('C:\Users\Administrator\Desktop\identify\PCA_basedFaceRecognitionSystem','Selecttrainingdatabasepath');TestDatabasePath=uigetdir('C:\Users\Administrator\Desktop\identify\PCA_basedFaceRecognitionSystem','Selecttestdatabasepath');prompt={'Entertestimagename(anumberbetween1to10):'};dlg_title='InputofPCA-BasedFaceRecognitionSystem';num_lines=1;def={'1'};TestImage=inputdlg(prompt,dlg_title,num_lines,def);TestImage=strcat(TestDatabasePath,'\',char(TestImage),'.jpg');im=imread(TestImage);T=CreateDatabase(TrainDatabasePath);[m,A,Eigenfaces]=EigenfaceCore(T);OutputName=Recognition(TestImage,m,A,Eigenfaces);SelectedImage=strcat(TrainDatabasePath,'\',OutputName);SelectedImage=imread(SelectedImage);imshow(im)title('TestImage');figure,imshow(SelectedImage);title('EquivalentImage');str=strcat('Matchedimageis:',OutputName);disp(str)(2)將人臉圖像讀入構(gòu)成人臉矩陣數(shù)據(jù)庫：functionT=CreateDatabase(TrainDatabasePath)TrainFiles=dir(TrainDatabasePath);Train_Number=0;fori=1:size(TrainFiles,1)ifnot(strcmp(TrainFiles(i).name,'.')|strcmp(TrainFiles(i).name,'..')|strcmp(TrainFiles(i).name,'Thumbs.db'))Train_Number=Train_Number+NumberofallimagesinthetrainingdatabaseendendT=[];fori=1:Train_Number%Ihavechosenthenameofeachimageindatabasesasacorresponding%number.However,itisnotmandatory!str=int2str(i);str=strcat('\',str,'.jpg');str=strcat(TrainDatabasePath,str);img=imread(str);img=rgb2gray(img);[irowicol]=size(img);reshape(img',irow*icol,1); %Reshaping2Dimagesinto1DimagevectorsT=[Ttemp];%'T'growsaftereachturnend形成特征臉子空間：function[m,A,Eigenfaces]=EigenfaceCore(T)m=mean(T,2);Train_Number=size(T,2);A=[];fori=1:Train_Numbertemp=double(T(:,i))-ComputingthedifferenceimageforeachimageinthetrainingsetAi=Ti-mA=[Atemp];%MergingallcenteredimagesendL=A'*A;%ListhesurrogateofcovariancematrixC=A*A'.[VD]=eig(L);%DiagonalelementsofDaretheeigenvaluesforbothL=A'*AandC=A*A'.L_eig_vec=[];fori=1:size(V,2)if(D(i,i)>1)L_eig_vec=[L_eig_vecV(:,i)];endendEigenfaces=A*L_eig_vec;識別程序：functionOutputName=Recognition(TestImage,m,A,Eigenfaces)ProjectedImages=[];Train_Number=size(Eigenfaces,2);fori=1:Train_Numbertemp=Eigenfaces'*A(:,i);%ProjectionofcenteredimagesintofacespaceProjectedImages=[ProjectedImagestemp];endInputImage=imread(TestImage);temp=InputImage(:,:,1);[irowicol]=size(temp);InImage=reshape(temp',irow*icol,1);Difference=double(InImage)-m;%CenteredtestimageProjectedTestImage=Eigenfaces'*Difference;%TestimagefeaturevectorEuc_dist=[];fori=1:Train_Numberq=ProjectedImages(:,i);temp=(norm(ProjectedTestImage-q))^2;Euc_dist=[Euc_disttemp];end[Euc_dist_min,Recognized_index]=min(Euc_dist);OutputName=strcat(int2str(Recognized_index),'.jpg');PCA+最鄰近分類器計算人臉識別率：functionFaceRec()allsamples=[];fori=1:40forj=1:5a=imread(strcat('C:\Users\Administrator\Desktop\identify\ORL\s',num2str(i),'\',num2str(j),'.bmp'));b=a(1:112*92);b=double(b);allsamples=[allsamples;b];endendsamplemean=mean(allsamples);fori=1:200xmean(i,:)=allsamples(i,:)-samplemean;endsigma=xmean*xmean';[vd]=eig(sigma);d1=diag(d);dsort=flipud(d1);vsort=fliplr(v);dsum=sum(dsort);dsum_extract=0;p=0;while(dsum_extract/dsum<0.9)p=p+1;dsum_extract=sum(dsort(1:p));endi=1;allcoor=allsamples*base;?accu=0;fori=1:40forj=6:10a=imread(strcat('C:\Users\Administrator\Desktop\è?á3ê?±e\è?á3êy?Y?a\ORL\s',num2str(i),'\',num2str(j),'.bmp'));b=a(1:10304);b=double(b);fork=1:200mdist(k)=norm(tcoor-allcoor(k,:));end[dist,index2]=sort(mdist);class1=floor((index2(1)-1)/5)+1;class2=floor((index2(2)-1)/5)+1;class3=floor((index2(3)-1)/5)+1;ifclass1~=class2&&class2~=class3class=class1;elseifclass1==class2class=class1;elseifclass2==class3class=class2;endifclass==iaccu=accu+1;endendendaccuracy=accu/200PCA+BP神經(jīng)網(wǎng)絡(luò)計算人臉識別率functionrenlian2()%%%%%%%%%%%%%%%%%%%%%%%%%%clc;clear;allsamples=[];n1=40;n2=10;testnum=3;fori=1:n1forj=1:(n2-testnum)a=imread(strcat('C:\Users\Administrator\Desktop\è?á3ê?±e\è?á3êy?Y?a\ORL\s',num2str(i),'\',num2str(j),'.bmp'));b=a(1:112*92);b=double(b)/255;allsamples=[allsamples;b];endendsamplemean=mean(allsamples);fori=1:(n1*(n2-testnum))xmean(i,:)=allsamples(i,:)-samplemean;endallsamples1=[];fori=1:n1forj=(n2-testnum+1):n2a=imread(strcat('C:\Users\Administrator\Desktop\è?á3ê?±e\è?á3êy?