PCA算法基礎(chǔ)知識

1、PCA算法基礎(chǔ)知識主成分分析簡介 Principal Component Analysis（PCA） 主成分分析(Principal Component Analysis, 簡稱PCA)是一種常用的基于變量協(xié)方差矩陣對信息進行處理、壓縮和抽提的有效方法?；赑CA算法的人臉識別 PCA方法由于其在降維和特征提取方面的有效性，在人臉識別領(lǐng)域得到了廣泛 的應(yīng)用。 PCA方法的基本原理是:利用K-L變換抽取人臉的主要成分，構(gòu)成特征臉空間，識別時將測試圖像投影到此空間，得到一組投影系數(shù)，通過與各個人臉圖像比較進行識別。 利用特征臉法進行人臉識別的過程由訓(xùn)練階段和識別階段兩個階段組成 其具體步驟如下：

2、訓(xùn)練階段第一步：假設(shè)訓(xùn)練集有200個樣本，由灰度圖組成，每個樣本大小為M*N寫出訓(xùn)練樣本矩陣：其中向量xi為由第i個圖像的每一列向量堆疊成一列的MN維列向量,即把矩陣向量化,如下圖所示：訓(xùn)練階段 如：第i個圖像矩陣為 則xi為訓(xùn)練階段 第二步：計算平均臉 計算訓(xùn)練圖片的平均臉：訓(xùn)練階段 第三步：計算差值臉 計算每一張人臉與平均臉的差值訓(xùn)練階段 第四步：構(gòu)建協(xié)方差矩陣訓(xùn)練階段 第五步：求協(xié)方差矩陣的特征值和特征向量，構(gòu)造特征臉空間 協(xié)方差矩陣的維數(shù)為MN*MN，考慮其維數(shù)較大，計算量比較大，所以采用奇異值分解(SingularValue Decomposition ,SVD)定理，通過求解 的特

3、征值和特征向量來獲得 的特征值和特征向量。訓(xùn)練階段 求出 的特征值 及其正交歸一化特征向量 根據(jù)特征值的貢獻率選取前p個最大特征向量及其對應(yīng)的特征向量 貢獻率是指選取的特征值的和與占所有特征值的和比，即：AATiii訓(xùn)練階段 一般取 即使訓(xùn)練樣本在前p個特征向量集上的投影有99%的能量 求出原協(xié)方差矩陣的特征向量 則“特征臉”空間為： 訓(xùn)練階段 第六步 將每一幅人臉與平均臉的差值臉矢量投影到“特征臉”空間，即識別階段 第一步：將待識別的人臉圖像 與平均臉的差值臉投影到特征空間，得到其特征向量表示：識別階段 第二步：定義閾值識別階段 第三步：采用歐式距離來計算 與每個人臉的距離識別階段 為了區(qū)分

4、人臉和非人臉，還需要計算原始圖像 與由特征臉空間重建的圖像 之間的距離 其中：識別階段 根據(jù)以下規(guī)則對人臉進行分類： 1)若 ，則輸入圖像不是人臉圖像； 2)若 ，且 ， 則輸入圖像包含未知人臉； 3)若 ，且 ， 則輸入圖像為庫中第k個人的人臉。2D-PCA 2D-PCA是在基本PCA算法上的改進，主要不同是協(xié)方差矩陣構(gòu)造方法不同，選取前P個最大特征值和特征向量也有所不同。訓(xùn)練階段 1設(shè)訓(xùn)練樣本集合為： 其中： i表示第i個人，即類別數(shù)， j表示第i個人的第j幅圖像 N表示識別的人數(shù)， K表示每個人包含K幅圖像， M表示樣本總數(shù)且M=NK訓(xùn)練階段 2 計算所有訓(xùn)練樣本的平均圖像訓(xùn)練階段 3計算樣本的協(xié)方差矩陣：訓(xùn)練階段 4求出協(xié)方差矩陣的特征值，選取其中最大特征值 對應(yīng)的正交特征向量 作為投影空間。 用投影矩陣Y的總離散度作為準則函數(shù)J (U)來衡量投影空間U的優(yōu)劣： 訓(xùn)練階段 Su是投影矩陣Y的協(xié)方差矩陣， 是 的跡，且： 選取的特征向量為訓(xùn)練階段 5 訓(xùn)練樣本 向 空間投影得到： 識別階段 1測試樣本 向 空間投影后得到樣本W(wǎng)的特征矩陣 和主成分分量 ：識別階段 2根據(jù)測試樣本投影特征矩陣與所有訓(xùn)練樣本投影特征矩陣之間