卷積神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別中的應(yīng)用

1、卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展及其特點(diǎn)卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展及其特點(diǎn)卷積神經(jīng)網(wǎng)絡(luò)模型卷積神經(jīng)網(wǎng)絡(luò)模型卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于人卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于人臉識(shí)別臉識(shí)別1.1.HubelHubel和和WieselWiesel在研究貓腦皮層中用于局部敏感方向選擇的神在研究貓腦皮層中用于局部敏感方向選擇的神經(jīng)元時(shí)，發(fā)現(xiàn)其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)可以有效降低反饋神經(jīng)網(wǎng)絡(luò)經(jīng)元時(shí)，發(fā)現(xiàn)其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)可以有效降低反饋神經(jīng)網(wǎng)絡(luò)的復(fù)雜性。的復(fù)雜性。2.2.FukushimaFukushima提出了第一個(gè)基于神經(jīng)元之間的局部連接型和層次提出了第一個(gè)基于神經(jīng)元之間的局部連接型和層次結(jié)構(gòu)組織的用于轉(zhuǎn)化圖像的網(wǎng)絡(luò)結(jié)構(gòu)組織

2、的用于轉(zhuǎn)化圖像的網(wǎng)絡(luò)NeocognitionNeocognition. .3.3.根據(jù)根據(jù)FukushimaFukushima的觀點(diǎn)，的觀點(diǎn)，LeCunLeCun提出了以提出了以LeNetLeNet為代表的卷積神為代表的卷積神經(jīng)網(wǎng)絡(luò)。經(jīng)網(wǎng)絡(luò)。 卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展 卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn)1.1.卷積神經(jīng)網(wǎng)絡(luò)是一類特別設(shè)計(jì)用來處理二維數(shù)據(jù)的多層神經(jīng)卷積神經(jīng)網(wǎng)絡(luò)是一類特別設(shè)計(jì)用來處理二維數(shù)據(jù)的多層神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)。2.2.卷積神經(jīng)網(wǎng)絡(luò)被認(rèn)為是第一個(gè)真正成功的采用多層層次結(jié)構(gòu)卷積神經(jīng)網(wǎng)絡(luò)被認(rèn)為是第一個(gè)真正成功的采用多層層次結(jié)構(gòu)網(wǎng)絡(luò)的具有魯棒性的深度學(xué)習(xí)方法。網(wǎng)絡(luò)的具有魯棒性的深度學(xué)習(xí)方法。3.3.用卷積神經(jīng)

3、網(wǎng)絡(luò)做圖像處理時(shí)，原始圖像不需要太多的預(yù)處用卷積神經(jīng)網(wǎng)絡(luò)做圖像處理時(shí)，原始圖像不需要太多的預(yù)處理就可以較好地學(xué)習(xí)到圖像的不變性特征。理就可以較好地學(xué)習(xí)到圖像的不變性特征。4.4.權(quán)值共享、局部感受野和權(quán)值共享、局部感受野和子采樣子采樣是卷積神經(jīng)網(wǎng)絡(luò)不同于其它是卷積神經(jīng)網(wǎng)絡(luò)不同于其它神經(jīng)網(wǎng)絡(luò)的三個(gè)主要神經(jīng)網(wǎng)絡(luò)的三個(gè)主要特征。特征。卷積神經(jīng)網(wǎng)絡(luò)模型1.輸入圖像通過濾波器和可加偏置進(jìn)行卷積得到C1層；2.對(duì)C1層的特征圖進(jìn)行下采樣得到S2層；3.對(duì)S2層的特征圖進(jìn)行卷積得到C3層；4.對(duì)C3層的特征圖進(jìn)行下采樣得到S4層；5.S4層的特征圖光柵化后變成的向量輸入到傳統(tǒng)的全連接神經(jīng)網(wǎng)絡(luò)進(jìn)行進(jìn)一步分類，

4、得到輸出；輸入輸入C1S2C3S4NN卷積和下采樣（降采樣）過程X*input卷積過程池化過程：取某個(gè)特定區(qū)域的最大值或平均值1 11 11 10 00 0011100011100110011001 10 01 10101011 11 11 1011001圖像卷積特征5 52 24 49 9386161839138取平均值94卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程第一階段：前向傳播過程第二階段：反向傳播過程1. 從樣本集中取一個(gè)樣本輸入到網(wǎng)絡(luò)中；2. 計(jì)算相應(yīng)的實(shí)際輸出；在這個(gè)階段，輸入的信息經(jīng)過逐層變換，傳輸?shù)捷敵鰧印Ｖ饕乔跋虻奶卣魈崛　?. 計(jì)算實(shí)際輸出與期望輸出的差；2. 按極小化誤差的方法反向傳播，

5、調(diào)整權(quán)值矩陣；反向傳播就是誤差的反向反饋和權(quán)值的更新。網(wǎng)絡(luò)訓(xùn)練流程圖圖像輸入卷積和采樣過程全連接層輸出層是否符合期望輸出結(jié)果參數(shù)初始化前向反饋?zhàn)儞Q、計(jì)算增強(qiáng)、邏輯回歸是前向傳播否誤差反饋權(quán)值更新反向傳播nOlivetti Faces是紐約大學(xué)的一個(gè)比較小的人臉庫n包含40個(gè)人的人臉圖片，每個(gè)人10張人臉樣本，共400份樣本程序所參考的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)：LeNet-5l 兩個(gè)“卷積+子采樣層”LeNetConvPoolLayerl 全連接層相當(dāng)于MLP（多層感知機(jī)）中的隱含層HiddenLayerl 輸出層采用邏輯回歸LogisticRegressioninput+layer0(LeNetCon

6、vPoolLayer)+layer1(LeNetConvPoolLayer)+layer2(HiddenLayer)+layer3(LogisticRegression)程序模塊介紹1. 加載圖像數(shù)據(jù)函數(shù)： load_data(dataset_path)2. 卷積+采樣層：class LeNetConvPoolLayer(object)3. 全連接層（隱藏層）： class HiddenLayer(object)4. 分類器，即CNN最后一層： class LogisticRegression(object)5. 保存訓(xùn)練參數(shù)函數(shù)： save_params(param1,param2,param3,param4)learning_rate = 0.05/學(xué)習(xí)速率batch_size = 40 /一次輸入CNN的樣本數(shù)n_epochs = 100/最