結(jié)合PCA的Adaboost算法用于人臉識別.doc

結(jié)合PCA的Adaboost算法用于人臉識別 摘 要: 人臉識別是一種生物特征識別技術(shù),是進(jìn)入21世紀(jì)以來,計算機技術(shù)在社會生活領(lǐng)域中的一項熱門應(yīng)用。其被廣泛應(yīng)用于數(shù)碼相機、攝像機的人臉自動對焦技術(shù)、視頻監(jiān)控中的身份識別、門禁系統(tǒng)的身份識別和各種人工智能控制系統(tǒng)的識別應(yīng)用。相信在未來的一段時間內(nèi),應(yīng)用人臉識別的地方會越來越多,而各種識別算法也將更先進(jìn)和便捷?；贏daboost算法的人臉檢測正是眾多算法中運用最為廣泛的算法。本文采用主成分分析方法(PCA)對訓(xùn)練集、測試集和待測圖片做了降維處理。并分析了影響此算法的主要因素關(guān)鍵詞：人臉識別；主成分分析方法；Adaboost算法；一Adaboost算法介紹 Adaboost算法并不是一個專門針對人臉檢測的算法,在2001年Viola和Jones最先將此算法應(yīng)用于人臉檢測。其后在人臉檢測中才被越來越多的人使用。算法最終可以將一個弱分類器(分類能力與隨機檢測差不多),提升為一個強分類器(分類結(jié)果要比弱分類器好很多)。算法根據(jù)一定的策略調(diào)整各樣本抽樣權(quán)重,并按給定權(quán)重累加這些弱分類器,從而得到各弱分類器票擬累加的強分類器。在傳統(tǒng)的算法中,通常就用這個得到的強分類器對待測圖片進(jìn)行人臉檢測。 Adaboost算法的具體步驟如下: 1.給定一個人臉訓(xùn)練樣本庫并規(guī)定算法的最大循環(huán)次數(shù)T,即算法終止條件。 2.將樣本庫中的各訓(xùn)練樣本給予一樣的抽樣權(quán)重。 3.迭代過程: (1)在此訓(xùn)練樣本上訓(xùn)練一個弱分類器對各個樣本進(jìn)行分類?, (2)計算此弱分類器對所有樣本的分類誤差率(分錯的樣本與分對的樣本的比值); (3)根據(jù)它的誤差率賦以此分類器一個權(quán)重,大體是誤差越大權(quán)重就越小; 對于此次分錯的樣本則增大它的抽樣權(quán)重,分對的樣本則減小它的抽樣權(quán)重。 (5)所有樣本的抽樣權(quán)重更新一遍后,再針對新樣本數(shù)據(jù)訓(xùn)練新的弱分類器對各個樣本進(jìn)行分類,回到步驟(2) 4.經(jīng)T次循環(huán)后,得到T個弱分類器,按迭代過程中分別賦予的權(quán)重疊加,最終得到強分類器。 算法思路如流程圖所示： 在整個Adaboost算法中,弱分類器的能力得到了不斷的加強。一開始時,由于各樣本抽樣權(quán)重相同。弱分類器分對的概率很低,而在循環(huán)的過程中,訓(xùn)練樣本庫中的負(fù)樣本抽樣權(quán)重被加大突出,使得弱分類器更多的接觸到這些樣本,從而提升了對負(fù)樣本的識別率。同時,弱分類器也在根據(jù)自身的分類誤差得到了相應(yīng)的票擬權(quán)重。.這樣將會大大的突出那些分類正確率比較高的弱分類器,最后經(jīng)過T次循環(huán)得到的多個對應(yīng)著自身相應(yīng)權(quán)重的弱分類器,最終的強分類器就是由這樣的多個弱分類器加起來形成的。在傳統(tǒng)的基于Adaboost算法的人臉檢測中,將根據(jù)這個強分類器來對含有人臉的圖片進(jìn)行人臉檢測。二PCA算法原理 主成分分析算法(PCA)是一種經(jīng)典的統(tǒng)計方法。人臉檢測的算法中,第一步首先要將人臉圖像轉(zhuǎn)化成相應(yīng)的數(shù)據(jù)矩陣,從而轉(zhuǎn)換成對應(yīng)的向量表示,但此向量不僅維數(shù)高而且數(shù)據(jù)上還存在著較大的冗余性,十分不利于計算機的計算。所以如何將高維向量降低為低維向量,并且又不失去原圖的太多信息,從而方便計算機進(jìn)行處理是一個首要問題,本文正是采取了 PCA算法對圖片進(jìn)行了降維處理。 K-L變換是PCA算法的核心內(nèi)容。從理論上看,各式各樣的人臉圖像都可以映射到低維線性空間中,并且他們是可以區(qū)分開的。一般而言,一組人臉圖像在轉(zhuǎn)化成相應(yīng)矩陣后維數(shù)是比較高的,而K-L變換算法可以找到一個與之密切相關(guān)但維數(shù)又比較低的矩陣,只要按照特征值從大到小保留此矩陣的部分?jǐn)?shù)據(jù),那么這個矩陣數(shù)據(jù)就可以叫做這組人臉圖像的特征子空間,也可以叫特征臉子空間。一幅人臉圖像轉(zhuǎn)換成向量表示后,PCA算法再將此向量投影到之前得到的特征子空間上,從而原有的高向量就得到了降維處理,此時這幅圖像就相當(dāng)于此特征子空間上的一個點。 選取M幅人臉圖像,分別記為x1x2xm使用K-L變換得到一個用來表示原始的人臉空間的低維子空間。 記：x=1Mi=1mxi 由本式可以得到一個新的向量集合：A=A1，A2Am集合A的均值為零,其協(xié)方差矩陣(即總體散布矩陣)為:C=cos（A）=1MAAT 式中的矩陣按特征值的大小保留部分正交基,將其用計算機還原成圖像顯示出來,可見他們都呈現(xiàn)了人臉的大致形狀,所以他們也被稱為特征臉子空間。三結(jié)合PCA的Adaboost算法用于人臉檢測 1，PCA算法降維 為減少計算量和方便MATLAB實現(xiàn),本文采取PCA算法提取人臉庫和待測圖片的PCA特征向量。具體步驟如下: （1）讀入MIT人臉庫中的樣本 (2)將讀入樣本轉(zhuǎn)換為向量集合后通過K-L變換得出特征臉子空間 (3)將人臉庫和待測圖片都投影到此特征臉子空間上即可得到它們的PCA特征向 此處的MATLAB代碼實現(xiàn)如下: %輸入: % A :訓(xùn)練樣本 % numvecs:要求降低到的特征維數(shù) %輸出: % Vectors:特征向量 %Values:特征值 % Psi:訓(xùn)練樣本均值 function Vectors,Values, Psi = pc_evectors(A,numvecs) nexamp = size (A, 2); %返回A矩陣第二列元素個數(shù) Psi = mean (A,),: for i = 1:nexamp A(:, i) 二 A(:,i) - Psi: end L = A,*A ; Vectors, Values =eig(L); % eig:求特征值和特征向量 Vectors, Values = sortem (Vectors, Values) ; % 對特征值按降序排序 Vectors = A*Vectors: Values = diag(Values): Values = Values / (nexanip-l); numgood = 0: for i - 1:nexamp Vectors(:,i) = Vectors(:, i)/norm(Vectors(:, i) ; % 向量 Vectors(:, i) 的歐氏(Euclidean)長度 if Values (i) numgood) fprintf (1, Warninginumvecs is%d; only %d exist, n, numvecs, num_good): numvecs = num_good: end: Vectors = Vectors (:, 1:numvecs): 2，弱分類器的設(shè)計 得到人臉庫和待測圖片在特征子空間的投影后,需要獲取一種分類方法對待測圖片進(jìn)行分類。這種分類方法的準(zhǔn)確性只要不低于隨機檢測的結(jié)果就可以了。本文通過判斷投影到特征子空間的各樣本和測試數(shù)據(jù)間的向量距離來設(shè)計弱分類器。計算待測樣本與多個已知類型的樣本的距離,從而得到一個最近的距離,則判斷與最近距離相連接的這個已知樣本的類型與待測樣本是同一類的,這是一種典型的按空間來分類的方法。弱分類器設(shè)計好后既可以對樣本進(jìn)行簡單分類,后面再通過Adaboost算法的迭代處理,可以把此弱分類器提升為強分類器,從而實現(xiàn)對人臉的檢測。 3，檢測過程 整個檢測步驟描述如下: (1)通過PCA算法訓(xùn)練人臉庫中的樣本得到特征子空間 (2)將各樣本投影到此特征空間上,得到各樣本降維的PCA向量 (3)通過Adaboost算法訓(xùn)練此樣本數(shù)據(jù)得出若干弱分類加權(quán)和的強分類器 (4)將測試圖片投影到特征空間上 (5)通過強分類器對投影的測試圖片進(jìn)行檢測并輸出判決結(jié)果MATLAB實現(xiàn)流程及部分實現(xiàn)代碼如下： function trainX, Y = samplecreation(varargin) M=vararginl; Eac h=varar g i n2; nuTn2=varargin 3; R=varargin4; kk=0: for i=l:2000 kk=kk+l: a=iinread(strcat (,D:faces, num2str(kk),. bmp,): if size (a, 3)1 a=rgb2gray(a): end b=reshape (a, 1, R): p_train(kk, :)=b;end for i=l:2000 kk=kk+l; a=imread(strcat( D:nonfacesV,num2str(i),. bmp,): if size (a, 3) 1 a=rgb2gray(a): end b=reshape(a, 1, R): p_train(kk, :)=b: end (2)獲取PCA特征向量,得到降維后圖像特征向量 (3)通過學(xué)習(xí)法則,構(gòu)建弱分類器 (4)獲取訓(xùn)練樣本、訓(xùn)練樣本標(biāo)簽。 (5)獲取測試樣本、測試樣本標(biāo)簽 (6)調(diào)用AdaBoost算法得到各弱分類器和其權(quán)值矩陣 (7)進(jìn)行強分類器判決 (8)標(biāo)記正負(fù)樣本 (9)畫圖顯示 利用Adaboost算法訓(xùn)練得到的強分類器可以對圖像進(jìn)行人臉檢測,但是由于待檢測的圖像和有PCA提取特征訓(xùn)練得到的分類器的尺寸往往是不一樣的,這就要求在檢測過程中需要改變圖像的尺寸,本算法采用以下方法改變尺寸。 把待檢測的人臉圖像按比例縮小而保持特征檢測窗口不變,用PCA提取特征窗口掃描檢測圖像,檢測出人臉子窗口。然后返回同時將檢測到的窗口那比例放大,畫出人臉的具體位置。 本算法的影響因素:PCA提取特征的數(shù)目、正負(fù)樣本的個數(shù)、Adaboost算法的循環(huán)次數(shù)和待測圖片人臉圖像的縮放大小。這幾個因素都將影晌最終的檢測效果。 4，總結(jié) 本文首先對Adaboost算法的原理和應(yīng)用做了詳細(xì)的說明,給出了算法步驟和算法流程圖,特別說明了該算法是如何通過多次迭代把若干個弱分類器提升為強分類器的算