2.5神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)教學(xué)設(shè)計(jì)人教-中圖版高中信息技術(shù)選擇性必修4

第2章人工智能技術(shù)基本原理2.5神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)教學(xué)設(shè)計(jì)教學(xué)背景信息科技是現(xiàn)代科學(xué)技術(shù)領(lǐng)域的重要部分，主要研究以數(shù)字形式表達(dá)的信息及其應(yīng)用中的科學(xué)原理、思維方法、處理過(guò)程和工程實(shí)現(xiàn)。當(dāng)代高速發(fā)展的信息科技對(duì)全球經(jīng)濟(jì)、社會(huì)和文化發(fā)展起著越來(lái)越重要的作用。義務(wù)教育信息科技課程具有基礎(chǔ)性、實(shí)踐性和綜合性，為高中階段信息技術(shù)課程的學(xué)習(xí)奠定基礎(chǔ)。信息科技課程旨在培養(yǎng)科學(xué)精神和科技倫理，提升自主可控意識(shí)，培育社會(huì)主義核心價(jià)值觀，樹(shù)立總體國(guó)家安全觀，提升數(shù)字素養(yǎng)與技能。教材分析本節(jié)課的教學(xué)內(nèi)容選自人教/地圖出版社選擇性必修4人工智能初步第2章人工智能技術(shù)基本原理2.5神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)。智能已成為人們生活的一部分，它到底隱藏著多少人工智能的神奇“魔術(shù)”？智能助理和智能聊天等應(yīng)用，正顛覆著我們與的交互方式；新聞資訊、在線購(gòu)物等熱門應(yīng)用總在推送著適合我們的內(nèi)容；圖像識(shí)別智能應(yīng)用能夠識(shí)別圖像或現(xiàn)實(shí)中的人、風(fēng)景、地點(diǎn)，可幫助我們快速組織和檢索圖像;圖像處理軟件能對(duì)圖像進(jìn)行美化，打造個(gè)性化圖像；當(dāng)人們開(kāi)車出行時(shí)，可以使用導(dǎo)航軟件規(guī)劃最佳路線......中的智能應(yīng)用涉及許多人工智能技術(shù)，各類應(yīng)用的智能表現(xiàn)離不開(kāi)“機(jī)器學(xué)習(xí)”。機(jī)器學(xué)習(xí)與人類學(xué)習(xí)不同，它需要收集大量數(shù)據(jù)或積累大量經(jīng)驗(yàn)。本章的核心是機(jī)器學(xué)習(xí)，涉及回歸、分類和聚類等算法，以及神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)等概念和理論。在本章的學(xué)習(xí)中，我們將以“智能技術(shù)初體驗(yàn)”為主題，開(kāi)展項(xiàng)目活動(dòng)，探索應(yīng)用中的人工智能技術(shù)，領(lǐng)略技術(shù)背后人工智能算法的魅力，進(jìn)而學(xué)習(xí)人工智能技術(shù)的基本原理。教學(xué)目標(biāo)1.通過(guò)案例剖析，了解人工神經(jīng)網(wǎng)絡(luò)的基本原理。2.了解卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)的基本原理及應(yīng)用場(chǎng)景。3.初步認(rèn)識(shí)深度學(xué)習(xí)（深度神經(jīng)網(wǎng)絡(luò)），了解常見(jiàn)的人工智能開(kāi)源軟硬件平臺(tái)。教學(xué)重點(diǎn)與難點(diǎn)教學(xué)重點(diǎn):通過(guò)案例剖析，了解人工神經(jīng)網(wǎng)絡(luò)的基本原理。教學(xué)難點(diǎn):初步認(rèn)識(shí)深度學(xué)習(xí)（深度神經(jīng)網(wǎng)絡(luò)），了解常見(jiàn)的人工智能開(kāi)源軟硬件平臺(tái)。教學(xué)方法與教學(xué)手段案例分析法、講授法、任務(wù)驅(qū)動(dòng)法。教學(xué)過(guò)程問(wèn)題導(dǎo)入體驗(yàn)探索圖像識(shí)別技術(shù)長(zhǎng)期以來(lái)，圖像識(shí)別技術(shù)一直是人工智能研究領(lǐng)域的難題。近年來(lái)，隨著算力的提升、物聯(lián)網(wǎng)與大數(shù)據(jù)的出現(xiàn)、機(jī)器學(xué)習(xí)算法的快速發(fā)展，科學(xué)家們終于找到了有效的方法來(lái)實(shí)現(xiàn)圖像識(shí)別，這就是基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)。很多以人工智能技術(shù)應(yīng)用為主要發(fā)展目標(biāo)的公司，如百度、阿里巴巴、騰訊和微軟等，都推出了基于深度學(xué)習(xí)算法的圖像搜索引擎，為人們的生產(chǎn)和生活提供了便利。例如，遇到不知名的植物時(shí)，只需用對(duì)其拍照，上傳到智能搜索引擎，就可以獲得相關(guān)的參考信息，如圖2.5.1（參見(jiàn)教材P60）所示。思考：1.圖像識(shí)別技術(shù)在生活中的應(yīng)用越來(lái)越廣泛。試了解還有哪些相關(guān)品使用了這項(xiàng)技術(shù)，分享給組內(nèi)的同學(xué)。2.小組同學(xué)設(shè)想并討論，科研人員是如何“教會(huì)”計(jì)算機(jī)讀懂并識(shí)別圖像內(nèi)容的？又是如何“教會(huì)”計(jì)算機(jī)對(duì)圖像進(jìn)行分類歸納的？人工神經(jīng)網(wǎng)絡(luò)當(dāng)前，新一代人工智能領(lǐng)域中最重要研究?jī)?nèi)容之一就是基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)。人工神經(jīng)網(wǎng)絡(luò)（ArtificialNeuralNetwork，ANN）是相對(duì)生物神經(jīng)網(wǎng)絡(luò)（BiologicalNeuralNetwork，BNN）而言的，受生物神經(jīng)網(wǎng)絡(luò)的啟發(fā)而生。生物神經(jīng)網(wǎng)絡(luò)最基本的結(jié)構(gòu)和功能單位是神經(jīng)元。神經(jīng)元的樹(shù)突較短且分支多，其作用是接收其他細(xì)胞傳遞過(guò)來(lái)的電信號(hào)；軸突則較長(zhǎng)且分支少，用于將電信號(hào)傳遞給其他細(xì)胞，如圖2.5.2（參見(jiàn)教材P61）所示。成千上萬(wàn)個(gè)神經(jīng)元相互連接，共同組成復(fù)雜的生物神經(jīng)網(wǎng)絡(luò)。人類大腦皮層中約有140多億個(gè)神經(jīng)元，在接收外部信號(hào)過(guò)程中，腦細(xì)胞會(huì)不斷地調(diào)整神經(jīng)元的興奮閾值，宏觀上表現(xiàn)為學(xué)習(xí)、思考和判斷等高級(jí)思維活動(dòng)。人工神經(jīng)網(wǎng)絡(luò)的基本原理1943年，心理學(xué)家沃倫·麥卡洛克（WarrenMcCulloch）和數(shù)學(xué)家沃爾特·皮茨（WalterPitts）合作提出MP神經(jīng)元模型。MP神經(jīng)元模型是按照生物神經(jīng)元的結(jié)構(gòu)和工作原理構(gòu)造出來(lái)的一個(gè)抽象和簡(jiǎn)化了的計(jì)算模型，如圖2.5.3（參見(jiàn)教材P61）所示。圖2.5.3（參見(jiàn)教材P61）所示的模型也稱為感知機(jī)，是只有一層的人工神經(jīng)元模型。輸入層被稱為第零層，因?yàn)樗皇蔷彌_輸入。存在的唯一一層神經(jīng)元形成輸出層。輸出層的每個(gè)神經(jīng)元都有自己的權(quán)重和閾值。感知機(jī)只需通過(guò)適當(dāng)?shù)卣{(diào)整參數(shù)便可執(zhí)行類似與、或、非的邏輯操作，但感知機(jī)有明顯的局限性，比如無(wú)法解決非線性問(wèn)題。人工神經(jīng)網(wǎng)絡(luò)的相關(guān)概念多層感知機(jī)（即多層人工神經(jīng)網(wǎng)絡(luò)）在感知機(jī)的基礎(chǔ)上，增加了若干隱藏層，通過(guò)前向傳播算法將輸入信息進(jìn)行前向傳播，在學(xué)習(xí)過(guò)程中利用反向傳播學(xué)習(xí)算法將誤差進(jìn)行前向傳播，以調(diào)整每一層的連接參數(shù)。圖2.5.7（參見(jiàn)教材P63）所示的是具有一層隱藏層的多層感知機(jī)，感知機(jī)每層中所有的神經(jīng)元都與上層所有神經(jīng)元相連。這種連接方式也稱為全連接人工神經(jīng)網(wǎng)絡(luò)。欲理解人工神經(jīng)網(wǎng)絡(luò)（以下簡(jiǎn)稱神經(jīng)網(wǎng)絡(luò)或神經(jīng)網(wǎng)絡(luò)模型）具體的訓(xùn)練和工作過(guò)程，需要先了解前向傳播、激活函數(shù)、損失函數(shù)、誤差反向傳播以及優(yōu)化器與梯度下降等概念。人工神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程神經(jīng)網(wǎng)絡(luò)模型的計(jì)算和優(yōu)化過(guò)程需要應(yīng)用線性代數(shù)、微積分和統(tǒng)計(jì)學(xué)等交叉學(xué)科知識(shí)，若要從底層開(kāi)始神經(jīng)網(wǎng)絡(luò)模型程序的開(kāi)發(fā)難度很大，通常會(huì)基于某個(gè)開(kāi)源的神經(jīng)網(wǎng)絡(luò)模型框架來(lái)開(kāi)展。Keras是一個(gè)基于Python編程語(yǔ)言編寫的開(kāi)源神經(jīng)網(wǎng)絡(luò)庫(kù)，可以快速實(shí)現(xiàn)包括神經(jīng)網(wǎng)絡(luò)模型的搭建、編譯、訓(xùn)練、評(píng)估和測(cè)試等工作。下面通過(guò)具體的Keras應(yīng)用案例來(lái)初步體驗(yàn)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、評(píng)估和測(cè)試等過(guò)程。閱讀拓展欠擬合與過(guò)擬合欠擬合指由于模型的復(fù)雜度不夠或者訓(xùn)練樣本過(guò)少、訓(xùn)練參數(shù)不正確等原因，導(dǎo)致模型無(wú)法有效地提取訓(xùn)練集中的特征。比如單層感知機(jī)由于層數(shù)太少、模型簡(jiǎn)單，導(dǎo)致無(wú)法處理“異或”問(wèn)題。過(guò)擬合指模型經(jīng)過(guò)訓(xùn)練集訓(xùn)練后，過(guò)度地記錄了訓(xùn)練集中的特征，使得模型對(duì)新數(shù)據(jù)的預(yù)測(cè)能力不足?？梢岳斫鉃閷W(xué)生通過(guò)“死記硬背”的方式學(xué)習(xí)，做過(guò)的習(xí)題可以輕松答對(duì)，而沒(méi)有做過(guò)的習(xí)題就難以應(yīng)付。過(guò)擬合也稱為泛化能力不足。卷積神經(jīng)網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò)采用全連接神經(jīng)網(wǎng)絡(luò)處理復(fù)雜、大樣本數(shù)據(jù)時(shí)，由于訓(xùn)練參數(shù)過(guò)多會(huì)導(dǎo)致模型收斂緩慢、梯度消失等問(wèn)題。在處理圖像識(shí)別和序列數(shù)據(jù)等問(wèn)題的過(guò)程中，科學(xué)家陸續(xù)提出了卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)來(lái)解決相關(guān)問(wèn)題。卷積神經(jīng)網(wǎng)絡(luò)來(lái)自生物科學(xué)的實(shí)驗(yàn)表明，視覺(jué)皮層的細(xì)胞對(duì)視野中的某些局部特征非常敏感，這與數(shù)學(xué)中的卷積運(yùn)算非常相似。受此啟發(fā)，科學(xué)家引入了卷積神經(jīng)網(wǎng)絡(luò)的方法，用來(lái)處理圖像識(shí)別等問(wèn)題。數(shù)學(xué)運(yùn)算中的卷積指兩個(gè)變量在某范圍內(nèi)相乘后求和的結(jié)果。在圖像處理領(lǐng)域，一般采用二維卷積。假設(shè)有數(shù)組A和數(shù)組K，經(jīng)過(guò)卷積運(yùn)算后可得到數(shù)組B，如圖2.5.14（參見(jiàn)教材P70）所示。圖2.5.14（參見(jiàn)教材P70）中，由數(shù)組A最左上方的9個(gè)數(shù)據(jù)與數(shù)組K對(duì)應(yīng)位置的9個(gè)數(shù)據(jù)相乘，然后求和，得到數(shù)組B最左上方的數(shù)據(jù)3。數(shù)組A相當(dāng)于圖像的像素?cái)?shù)據(jù)，數(shù)組K為卷積核，數(shù)組B是圖像通過(guò)卷積核進(jìn)行卷積運(yùn)算后得到的。在實(shí)際應(yīng)用中，由于卷積運(yùn)算后數(shù)據(jù)個(gè)數(shù)會(huì)減少，為了保持圖像的尺寸不變，一般在卷積前會(huì)對(duì)輸入圖像的邊緣像素用0填充，如圖2.5.15（參見(jiàn)教材P71）所示。圖像的卷積過(guò)程就是對(duì)圖像進(jìn)行特征篩選的過(guò)程。不同的卷積核數(shù)值可以檢測(cè)到圖像內(nèi)不同的輪廓特征，從而得到不同的特征圖像。卷積神經(jīng)網(wǎng)絡(luò)（ConvolutionalNeuralNetworks，CNN）是一種帶有卷積結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)。由于圖像的空間聯(lián)系往往是局部的，因此每個(gè)神經(jīng)元不需要對(duì)全部的圖像進(jìn)行處理，只需對(duì)局部特征進(jìn)行處理，然后在更高層將這些局部神經(jīng)元連接起來(lái)綜合處理。在卷積神經(jīng)網(wǎng)絡(luò)中，不同神經(jīng)元之間的參數(shù)（卷積核）可以共享。因此，使用卷積神經(jīng)網(wǎng)絡(luò)可以有效地減少神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練參數(shù)，并且使圖像位移、縮放和非線性變形等具有一定的穩(wěn)定性。卷積神經(jīng)網(wǎng)絡(luò)有一個(gè)重要的特征是池化（Pooling），也稱為降采樣或下采樣，池化可以在保留圖像顯著特征的前提下減少數(shù)據(jù)處理量。一般池化方法有最大值池化（MaxPooling）和平均值池化（MeanPooling），最大值池化過(guò)程如圖2.5.16（參見(jiàn)教材P71）所示。卷積神經(jīng)網(wǎng)絡(luò)識(shí)別圖像的過(guò)程是將輸入的圖像進(jìn)行多次卷積、池化，在多次卷積、池化的過(guò)程中圖像的尺寸會(huì)越來(lái)越小，特征越來(lái)越明顯，最后輸入全連接網(wǎng)絡(luò)完成預(yù)測(cè)或者分類任務(wù)，如圖2.5.17（參見(jiàn)教材P71）所示。閱讀拓展詞嵌入文本處理的過(guò)程中，對(duì)單詞進(jìn)行獨(dú)熱編碼不太符合現(xiàn)實(shí)情況。例如，一篇1000個(gè)單詞的文章，經(jīng)過(guò)獨(dú)熱編碼后每個(gè)單詞就要用一個(gè)長(zhǎng)度為1000的數(shù)組來(lái)表述，這會(huì)造成計(jì)算和儲(chǔ)存空間的浪費(fèi)。且獨(dú)熱編碼無(wú)法準(zhǔn)確表達(dá)不同詞之間的相似度，比如“get”和“got”相差一個(gè)字母，但意思是相似的，只是時(shí)態(tài)不一樣而已；而“big”和“pig”也相差一個(gè)字母，但意義完全不同。詞嵌入（WordEmbedding）可以解決上述的類似問(wèn)題，將每個(gè)詞表示成若干長(zhǎng)度的數(shù)組（多維向量），并通過(guò)計(jì)算兩個(gè)向量之間的余弦相似度，使這些向量能較好地表達(dá)不同詞之間的相似和類比關(guān)系。在Keras中，通過(guò)添加Embedding層，可以將輸入數(shù)據(jù)轉(zhuǎn)化為詞向量。深度學(xué)習(xí)及軟硬件平臺(tái)深度學(xué)習(xí)（DeepLearning，DL）廣泛應(yīng)用于人工智能研究領(lǐng)域的方方面面，不僅用于分類和回歸，還在降維、聚類、語(yǔ)音識(shí)別和圖像識(shí)別等方面有許多應(yīng)用。深度學(xué)習(xí)開(kāi)源框架對(duì)計(jì)算機(jī)算力的要求很高，傳統(tǒng)的CPU計(jì)算在超大規(guī)模的神經(jīng)網(wǎng)絡(luò)以及海量的訓(xùn)練數(shù)據(jù)前會(huì)顯得力不從心，因此深度學(xué)習(xí)除了需要優(yōu)異的軟件框架之外，還需要合適的硬件平臺(tái)。深度學(xué)習(xí)深度學(xué)習(xí)也稱深度神經(jīng)網(wǎng)絡(luò)（DeepNeuralNetworks，DNN），指具有多個(gè)隱含層的神經(jīng)網(wǎng)絡(luò)。廣義上，含多隱層的多層感知器、卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)等都屬于深度學(xué)習(xí)。深度神經(jīng)網(wǎng)絡(luò)包含大量的網(wǎng)絡(luò)參數(shù)，因此具有更強(qiáng)大的擬合能力，使得神經(jīng)網(wǎng)絡(luò)更具有實(shí)用性。2012年，深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)首度出現(xiàn)，當(dāng)時(shí)的神經(jīng)網(wǎng)絡(luò)層數(shù)尚且只有個(gè)位數(shù)。此后，對(duì)于深度神經(jīng)網(wǎng)絡(luò)的研究不斷深入，應(yīng)用逐漸廣泛。2016年，神經(jīng)網(wǎng)絡(luò)層達(dá)到1207層。隨著卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的不斷發(fā)展，神經(jīng)網(wǎng)絡(luò)對(duì)圖像和序列數(shù)據(jù)特征具有越來(lái)越強(qiáng)的特征感知和擬合能力，深度學(xué)習(xí)已經(jīng)成為人工智能研究領(lǐng)域最具活力的研究?jī)?nèi)容之一。預(yù)訓(xùn)練模型一味地增加神經(jīng)網(wǎng)絡(luò)的深度也會(huì)遇到問(wèn)題。過(guò)多的神經(jīng)網(wǎng)絡(luò)參數(shù)會(huì)使訓(xùn)練時(shí)間緩慢，一個(gè)復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練過(guò)程可能耗時(shí)幾天甚至幾周。因此，在具體應(yīng)用過(guò)程中，通過(guò)引入預(yù)訓(xùn)練模型來(lái)進(jìn)行模型結(jié)構(gòu)及參數(shù)的初始化。所謂預(yù)訓(xùn)練模型，是指在通用的數(shù)據(jù)集上訓(xùn)練并優(yōu)化后的模型，如在ImageNet數(shù)據(jù)集上訓(xùn)練出的VGG16、VGG19等。如圖2.5.21（參見(jiàn)教材P77）所示的是VGG16網(wǎng)絡(luò)結(jié)構(gòu)示意圖。使用VGG16進(jìn)行模型訓(xùn)練時(shí)，可以加載卷積層的預(yù)訓(xùn)練參數(shù)并鎖定，只訓(xùn)練神經(jīng)網(wǎng)絡(luò)最后用于具體分類的全連接層，從而大大減少模型的訓(xùn)練參數(shù)，加快訓(xùn)練速度。殘差神經(jīng)網(wǎng)絡(luò)過(guò)多的神經(jīng)網(wǎng)絡(luò)還容易導(dǎo)致誤差反向傳播過(guò)程中的梯度消失問(wèn)題，使得神經(jīng)網(wǎng)絡(luò)模型很難收斂。殘差神經(jīng)網(wǎng)絡(luò)能很好地解決這個(gè)問(wèn)題，其神經(jīng)網(wǎng)絡(luò)模型如圖2.5.23（參見(jiàn)教材P78）所示。軟硬件平臺(tái)目前，各種開(kāi)源框架的出現(xiàn)，降低了深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)與應(yīng)用的門檻，可以使更多的人參與到深度學(xué)習(xí)的研究與優(yōu)化中。深度學(xué)習(xí)除了需要優(yōu)異的軟件框架之外，還需要合適的硬件平臺(tái)。人工智能加速硬件按照承擔(dān)的任務(wù)可分為訓(xùn)練芯片和推理芯片，按照應(yīng)用場(chǎng)景可分為云端芯片和終端芯片。訓(xùn)練芯片用于神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練與開(kāi)發(fā)，“學(xué)習(xí)”出具有特定功能的神經(jīng)網(wǎng)絡(luò)模型。推理芯片使用已訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型，對(duì)新輸入的數(shù)據(jù)進(jìn)行計(jì)算、“推理”，得到各種有價(jià)值的結(jié)論。云端芯片部署在公有云、私有云或者混合云上，不但可以用于訓(xùn)練，也可以用于推理。終端芯片一般應(yīng)用于移動(dòng)終端或嵌入式開(kāi)發(fā)，具備體積小、集成度高、功耗低和性能相對(duì)低等特點(diǎn)，主要用于推理。常見(jiàn)人工智能芯片主要包括GPU、NPU（NeuralnetworkProcessingUnit，神經(jīng)網(wǎng)絡(luò)處理器）、TPU（TensorProcessingUnit，張量處理器）、FPGA（FieldProgrammableGateArray，現(xiàn)場(chǎng)可編程邏輯門陣列）、ASIC（ApplicationSpecificIntegratedCircuit，專用集成電路)以及類腦芯片。在人工智能新時(shí)代，各種智能芯片各自發(fā)揮著優(yōu)勢(shì)。本地硬件本地硬件主要用于神經(jīng)網(wǎng)絡(luò)的計(jì)算，一般通過(guò)GPU或FPGA等的并行計(jì)算能力來(lái)實(shí)現(xiàn)。其中，GPU的特點(diǎn)是單指令、多數(shù)據(jù)處理、在內(nèi)部有數(shù)量眾多的計(jì)算單元，當(dāng)需要處理大量類型統(tǒng)一的數(shù)據(jù)時(shí)，GPU的并行計(jì)算特性可以極大提高運(yùn)算速度。云計(jì)算平臺(tái)隨著網(wǎng)絡(luò)技術(shù)的發(fā)展，云計(jì)算平臺(tái)日益成熟，成本逐漸降低，目前已能為企業(yè)和個(gè)人提供較好的人工智能解決方案。國(guó)內(nèi)比較著名的云計(jì)算平臺(tái)有騰訊云、阿里云、百度云和網(wǎng)易云等。云計(jì)算平臺(tái)既適用于神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練，也適用于利用神經(jīng)網(wǎng)絡(luò)模型推理或預(yù)測(cè)出結(jié)果。終端專用神經(jīng)網(wǎng)絡(luò)芯片終端專用神經(jīng)網(wǎng)絡(luò)芯片是為了實(shí)現(xiàn)特定要求而定制的，具有神經(jīng)網(wǎng)絡(luò)模型計(jì)算加速功能的芯片，在體積、功耗和成本等方面都具有優(yōu)勢(shì)，適合應(yīng)用在嵌入式系統(tǒng)中完成特定的人工智能任務(wù)。實(shí)驗(yàn)和項(xiàng)目式教學(xué)用人工智能硬件加速平臺(tái)一般采用基于GPU、NPU等芯片的嵌入式開(kāi)發(fā)驗(yàn)證系統(tǒng)，常見(jiàn)的有AI掌控板、KhadasVIM3和JetsonNano等，如圖2.5.24（參見(jiàn)教材P80）所示。技術(shù)支持深度學(xué)習(xí)開(kāi)源框架目前，常見(jiàn)的深度學(xué)習(xí)開(kāi)源框架有Theano、TensorFlow、Caffe2、CNTK、PyTorch、飛槳和Keras等。Theano：一個(gè)具有較大影響力的Python深度學(xué)習(xí)框架，目前已經(jīng)停止開(kāi)發(fā)。TensorFlow：2015年推出的一個(gè)具有影響力的深度學(xué)習(xí)框架，擁有豐富的社區(qū)資源。Caffe2：一個(gè)代碼簡(jiǎn)潔易用，性能優(yōu)異的深度學(xué)習(xí)框架，但缺乏靈活性。CNTK：微軟開(kāi)發(fā)的深度學(xué)習(xí)框架，擅長(zhǎng)進(jìn)行語(yǔ)音處理。PyTorch：基于Torch的一個(gè)簡(jiǎn)潔的開(kāi)發(fā)框架，目前有趕上TensorFlow的趨勢(shì)。飛槳：由百度開(kāi)發(fā)的深度學(xué)習(xí)框架，目前正處于成長(zhǎng)期。Keras：適合初學(xué)者接觸深度學(xué)習(xí)的工具，與其他平臺(tái)框架不同，Keras更像一個(gè)深度學(xué)習(xí)的編程接口。目前Keras可以構(gòu)建在Theano、TensorFlow及CNTK之上。在TensorFlow2.0以后，Keras已經(jīng)被集成進(jìn)了TensorFlow中，成為TensorFlow的一部分。項(xiàng)目實(shí)施“剪刀、石頭、布”游戲中的手勢(shì)識(shí)別一、項(xiàng)目活動(dòng)結(jié)合本節(jié)所學(xué)內(nèi)容，利用卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)手勢(shì)識(shí)別。以小組為單位，采集圖像樣本數(shù)據(jù)并對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，搭建卷積神經(jīng)網(wǎng)絡(luò)模型，對(duì)模型進(jìn)行訓(xùn)練并觀察、評(píng)估訓(xùn)練結(jié)果。二、項(xiàng)目檢查1.圖像樣本數(shù)據(jù)采集：確定采集方案，并對(duì)方案進(jìn)行簡(jiǎn)單介紹；完成樣本數(shù)量統(tǒng)計(jì)，填寫表2.5.3。表2.5.3手勢(shì)及樣本數(shù)量手勢(shì)剪刀石頭布樣本數(shù)量2.圖像數(shù)