【基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識(shí)別分析案例1300字】VIP

基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識(shí)別分析案例目錄TOC\o"1-3"\h\u10742基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識(shí)別分析案例 1316011.1MNIST手寫數(shù)字?jǐn)?shù)據(jù)集 1175201.2網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)設(shè)置 2196021.2.1網(wǎng)絡(luò)模型結(jié)構(gòu) 2308441.2.2參數(shù)設(shè)置 278691.2.3手寫數(shù)字識(shí)別代碼及注釋 323551.3實(shí)驗(yàn)結(jié)果及分析 31.1MNIST手寫數(shù)字?jǐn)?shù)據(jù)集MNIST數(shù)據(jù)存儲(chǔ)是一個(gè)5英寸的簽名數(shù)據(jù)集，內(nèi)容是一張0到9阿拉伯?dāng)?shù)字的灰度圖。MNIST數(shù)據(jù)存儲(chǔ)在6萬到1萬張測試圖片之間。學(xué)科和考試是相互獨(dú)立的，即不是同一個(gè)人寫的。MNIST數(shù)據(jù)中放置的所有圖像都經(jīng)過尺寸標(biāo)準(zhǔn)化和中心化，每張圖像組合成28×28灰度圖像，像素值范圍為0到255。部分?jǐn)?shù)字圖像如下圖所示。從圖中可以看出，不同的數(shù)字非常相似，相同的數(shù)字差異很大。有些數(shù)字寫錯(cuò)了，擬人的眼睛很難知道。圖4MNIST數(shù)據(jù)集1.2網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)設(shè)置1.2.1網(wǎng)絡(luò)模型結(jié)構(gòu)在手寫審查任務(wù)中，LeNet-5網(wǎng)絡(luò)是已知的網(wǎng)絡(luò)結(jié)構(gòu)，其網(wǎng)絡(luò)結(jié)構(gòu)如下圖所示。網(wǎng)絡(luò)結(jié)構(gòu)包括輸入層、三連接層、二連接層、全連接和輸出層。輸入數(shù)據(jù)輸入層為32×32，第一層101為旋轉(zhuǎn)層。它使用6卷積核5-5。輸入數(shù)據(jù)經(jīng)過卷積C1層的運(yùn)算后，得到28×286個(gè)特征。圖片。然后，將S2的第一層放在一起，將前一層的電影框內(nèi)為6×14幀。C3層為第二個(gè)卷積層，使用了16個(gè)5-5卷積核，從S2層得到的特征圖對(duì)16個(gè)10×10圖再次進(jìn)行卷積運(yùn)算。屏幕S4是收集的第二層，面板5-5和16是在下降采樣后獲得的。C5第三層旋轉(zhuǎn)。120寸5×5的核心后，得到120的1×1的幀數(shù)。卷積層本質(zhì)上是一個(gè)全連接的過程。然后F6層全連接，C5層的featuremap全連接到84維向量特征，最后再次通過全連接將84維乘客復(fù)制到輸出維向量。其中10維是因?yàn)榉诸愵悇e數(shù)為10。結(jié)果輸出方法采用“on-of-c”，性能向量最大部分對(duì)應(yīng)的位置來自分類網(wǎng)絡(luò)。例如，向量“1000000000”表示屬于第一個(gè)類別的模型，即類別號(hào)“2”；。圖5LeNet-5網(wǎng)絡(luò)結(jié)構(gòu)1.2.2參數(shù)設(shè)置我們使用CAFé2庫來訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)，所有網(wǎng)絡(luò)結(jié)構(gòu)如表所示。我們使用隨機(jī)梯度下降(SGD)在單個(gè)GPU上安裝網(wǎng)絡(luò)模型。訓(xùn)練批量大小設(shè)置為64，測試質(zhì)量設(shè)置為100，動(dòng)量設(shè)置為0.9，并設(shè)置失真權(quán)重。是0.0005。一開始的學(xué)習(xí)器率設(shè)置為0.01，數(shù)據(jù)設(shè)計(jì)逐漸遞減。該模型總共重復(fù)10,000次，在500次迭代中每一次測試一次，最后與最終測試一起被選為網(wǎng)絡(luò)確認(rèn)。1.2.3手寫數(shù)字識(shí)別代碼及注釋部分主要代碼及注釋：functionnet=cnnbp(net,y)n=numel(net.layers);%網(wǎng)絡(luò)層數(shù)%5net.e=net.o-y;%計(jì)算網(wǎng)絡(luò)運(yùn)算輸出與實(shí)際分類之間的偏差，size為[1050]%lossfunctionnet.L=1/2*sum(net.e(:).^2)/size(net.e,2);%方差損失函數(shù)，為了方便求導(dǎo)取了1/2。將一個(gè)batch內(nèi)的所有圖像偏差一起計(jì)算并取均值1.3實(shí)驗(yàn)結(jié)果及分析根據(jù)上面的設(shè)置，在一個(gè)GPU下訓(xùn)練了五個(gè)網(wǎng)絡(luò)結(jié)構(gòu)，每個(gè)網(wǎng)絡(luò)的平均訓(xùn)練時(shí)間約為4分鐘。確認(rèn)率可以從他們的網(wǎng)絡(luò)獲得，如下表所示。結(jié)果發(fā)現(xiàn)，使用更寬的網(wǎng)絡(luò)結(jié)構(gòu)和更高的整體網(wǎng)絡(luò)能力，使用5-5核比使用3×3核更好，在全連接設(shè)備后增加一個(gè)dropout層也好過沒有。使用輟學(xué)。下面討論個(gè)別培訓(xùn)問題。每個(gè)網(wǎng)絡(luò)訓(xùn)練過程的價(jià)值損失與迭代次數(shù)的關(guān)系以及見證人準(zhǔn)確率與迭代次數(shù)的關(guān)系分別說明。表1網(wǎng)絡(luò)訓(xùn)練準(zhǔn)確率與迭代次數(shù)的關(guān)系網(wǎng)絡(luò)類型準(zhǔn)確率LeNet-599.05%LeNet-A99.14%LeNet-B99.23%LeNet-C99.16%LeNet-D99.27%LeNet-E99.35%檢查準(zhǔn)確率和迭代次數(shù)之間的關(guān)系，如圖所示?？梢园l(fā)現(xiàn)，LeNet-D和LeNet-E網(wǎng)絡(luò)的識(shí)別率高于其他三個(gè)網(wǎng)絡(luò)，說明網(wǎng)絡(luò)深度和dropout策略對(duì)識(shí)別率的影響更大。較高的網(wǎng)絡(luò)積累和輟學(xué)率有助于策略