人工智能基礎(chǔ) 課件 5.1~5.15 圖像識(shí)別

圖像識(shí)別學(xué)習(xí)目標(biāo)—5.1—知識(shí)目標(biāo)了解深度學(xué)習(xí)的含義了解卷積神經(jīng)網(wǎng)絡(luò)的基本原理理解卷積的意義了解著名的卷積神經(jīng)網(wǎng)絡(luò)模型項(xiàng)目引導(dǎo)—5.2—前面例子中，小明使用帶有若干特征的數(shù)據(jù)，采用邏輯回歸等方法解決了客戶流失等問題。但是如果涉及的是一個(gè)圖像識(shí)別問題，如簡(jiǎn)單的手寫數(shù)字識(shí)別問題（圖5-2），應(yīng)該如何做才能知道每一張圖片中是什么數(shù)字呢？5.2.1問題引導(dǎo)（1）假設(shè)把每一個(gè)像素看作一個(gè)特征，而且可以使用邏輯回歸進(jìn)行手寫數(shù)字識(shí)別運(yùn)算，那么可以使用同樣方法進(jìn)行各類圖片識(shí)別嗎？如果圖像像素?cái)?shù)量很大則有什么問題嗎？（2）如果不想將每一個(gè)像素看作一個(gè)特征，你可以根據(jù)要分類的圖片設(shè)計(jì)特征嗎？以手寫數(shù)字識(shí)別為例，試試設(shè)計(jì)你設(shè)計(jì)的特征。試一試5.2.1問題引導(dǎo)5.2.2初步分析如果將圖片的每一個(gè)像素看作一個(gè)特征，則特征的數(shù)量太多，計(jì)算機(jī)資源消耗會(huì)較大。而如果要我們?nèi)斯とふ覉D像特征，則費(fèi)時(shí)費(fèi)力還不一定好。既然機(jī)器學(xué)習(xí)可以學(xué)習(xí)目標(biāo)分類方法，那么機(jī)器學(xué)習(xí)能學(xué)習(xí)特征嗎？再將這些學(xué)習(xí)到的特征進(jìn)行邏輯回歸，這樣可以嗎？知識(shí)準(zhǔn)備—5.3—“神經(jīng)網(wǎng)絡(luò)”算法可以做到自動(dòng)學(xué)習(xí)特征并用于分類等任務(wù)。現(xiàn)代的“人工神經(jīng)網(wǎng)絡(luò)”受生物神經(jīng)的啟發(fā)逐步發(fā)展而來，生物神經(jīng)網(wǎng)絡(luò)中最基本的組織是神經(jīng)元，如所示的是一個(gè)人大腦中的神經(jīng)元，我們的大腦由大量的神經(jīng)元連接而成。5.3.1神經(jīng)網(wǎng)絡(luò)對(duì)于神經(jīng)網(wǎng)絡(luò)算法，如圖所示，我們可以將數(shù)個(gè)邏輯回歸一層一層地疊加起來，每一層都學(xué)習(xí)一些特征，最終學(xué)習(xí)出合適的特征，并通過最后一層邏輯回歸達(dá)到分類的目的。5.3.1神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)如果進(jìn)一步增加深度，就是深度神經(jīng)網(wǎng)絡(luò)，用這種網(wǎng)絡(luò)進(jìn)行的機(jī)器學(xué)習(xí)就是深度學(xué)習(xí)。如圖所示，深度神經(jīng)網(wǎng)絡(luò)可以分為輸入層、隱藏層和輸出層。5.3.2深度學(xué)習(xí)深入分析1—5.4—如圖所示，僅僅一個(gè)32像素的輸入，3層隱藏層就需要很多的連接，進(jìn)而產(chǎn)生很多的參數(shù)，這會(huì)導(dǎo)致計(jì)算效率的極大降低。為了處理這個(gè)問題，我們可以使用卷積神經(jīng)網(wǎng)絡(luò)（CNN）進(jìn)行圖像識(shí)別。

卷積神經(jīng)網(wǎng)絡(luò)—5.6—圖像識(shí)別是指利用計(jì)算機(jī)對(duì)圖像進(jìn)行處理、分析和理解，以識(shí)別各種不同模式的目標(biāo)和對(duì)象的技術(shù)。現(xiàn)階段圖像識(shí)別技術(shù)一般分為人臉識(shí)別與商品識(shí)別，人臉識(shí)別主要運(yùn)用在安全檢查、身份核驗(yàn)與移動(dòng)支付中；商品識(shí)別主要運(yùn)用在商品流通過程中，特別是無人貨架、智能零售柜等無人零售領(lǐng)域。5.6.1圖像識(shí)別如果神經(jīng)網(wǎng)絡(luò)的每層按照如圖所示的三個(gè)維度組織：寬度、高度和深度，一層中的神經(jīng)元不連接到下一層中的所有神經(jīng)元，而僅連接到它的一小部分區(qū)域，最終的輸出將被減少到一個(gè)沿著深度方向的概率值向量，這種形式的神經(jīng)網(wǎng)絡(luò)就是卷積神經(jīng)網(wǎng)絡(luò)（ConvolutionalNeuralNetworks，CNN）。5.6.2卷積神經(jīng)網(wǎng)絡(luò)（CNN）深入分析2—5.7—圖像識(shí)別問題的第一個(gè)特點(diǎn)就是圖像具有局部相關(guān)性。5.7.1圖像識(shí)別的特點(diǎn)圖像具有空間不變性，具體來說就是圖像在有限位移、尺度、形狀變化后，仍然可以分辨。5.7.2使用卷積神經(jīng)網(wǎng)絡(luò)為什么有效卷積神經(jīng)網(wǎng)絡(luò)可以通過以下4個(gè)手段保持了局部相關(guān)性和空間不變性：局部連接權(quán)值共享池化操作多層次結(jié)構(gòu)5.7.2使用卷積神經(jīng)網(wǎng)絡(luò)為什么有效卷積神經(jīng)網(wǎng)絡(luò)使用隱藏層進(jìn)行特征提取，通過執(zhí)行一系列的數(shù)學(xué)運(yùn)算來檢測(cè)特征。遷移學(xué)習(xí)—5.8—遷移學(xué)習(xí)（TransferLearning）顧名思義就是將訓(xùn)練好的模型（預(yù)訓(xùn)練模型）參數(shù)遷移到新的模型來優(yōu)化新模型訓(xùn)練。

這里介紹幾個(gè)著名的卷積神經(jīng)網(wǎng)絡(luò)模型，以上項(xiàng)目很可能就是基于這些模型中的某個(gè)模型做的遷移學(xué)習(xí)。LeNet-5LeNet-5是YannLeCun在1998年設(shè)計(jì)的用于手寫數(shù)字識(shí)別的卷積神經(jīng)網(wǎng)絡(luò)，當(dāng)年美國(guó)大多數(shù)銀行就是用它來識(shí)別支票上面的手寫數(shù)字的，它是早期卷積神經(jīng)網(wǎng)絡(luò)中最有代表性的實(shí)驗(yàn)系統(tǒng)之一。

AlexNet（見圖5-37）于2012年由AlexKrizhevsky、IlyaSutskever和GeoffreyHinton等人提出，并在2012ILSVRC（ImageNetLarge-ScaleVisualRecognitionChallenge）中取得了最佳的成績(jī)。AlexNet這個(gè)網(wǎng)絡(luò)于2014年被牛津大學(xué)的KarenSimonyan和AndrewZisserman提出，主要特點(diǎn)是“簡(jiǎn)潔，有深度”。有深度，是因?yàn)閂ggNet有19層，遠(yuǎn)遠(yuǎn)超過了它的前輩；而簡(jiǎn)潔，則是在于它的結(jié)構(gòu)上，一律采用步幅為1的3×3濾波器，以及步幅為2的2×2最大池化。VggNetGoogLeNet是2014年ChristianSzegedy提出的一種全新的深度學(xué)習(xí)結(jié)構(gòu),GoogLeNet的提出從另一種角度來提升訓(xùn)練結(jié)果：它能更高效地利用計(jì)算資源，在相同的計(jì)算量下能提取到更多的特征，從而提升訓(xùn)練結(jié)果GoogLeNetCNN面臨的一個(gè)問題就是，隨著層數(shù)的增加，CNN的效果會(huì)遇到瓶頸，甚至?xí)辉龇唇怠＿@往往是梯度爆炸或者梯度消失引起的。ResNet就是為了解決這個(gè)問題而提出的，因而能幫助我們訓(xùn)練更深的網(wǎng)絡(luò)。如圖所示，它引入了一個(gè)殘差塊來解決上述問題。ResNet本章小結(jié)—5.9—本章以邏輯回歸為起點(diǎn)，引入神經(jīng)網(wǎng)絡(luò)。本章的重點(diǎn)是神經(jīng)網(wǎng)絡(luò)在深度學(xué)習(xí)領(lǐng)域的應(yīng)用，如圖像識(shí)別中的應(yīng)用。通過卷積神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，讀者能夠大致理解其原理，可以調(diào)用人工智能相關(guān)企業(yè)的人工智能開發(fā)接口進(jìn)行簡(jiǎn)單的圖像識(shí)別應(yīng)用。讀者能夠理解各個(gè)技術(shù)