TensorFlow2深度學習實戰(zhàn)全書電子教案完整版課件

1、1深度學習應用技術目錄深度簡介學習2TensorFlow簡介3湯曉鷗教授、王曉剛及其研究團隊開發(fā)了一個名為DeepID（深分證）的深度學習模型，在LFW（Labeled Faces in the Wild）數(shù)據(jù)庫，即人臉識別上獲得了99.15%的識別率，超過目前非深度學習算法以及人類的識別率。深度學習技術在語音識別領域中更是取得了突破性的進展，在2009年杰弗里辛頓（Geoffrey Hinton）和鄧力（Deng Li）將深度神經(jīng)網(wǎng)絡用于聲學模型建模，用于替代高斯混合模型，使用了深度神經(jīng)網(wǎng)絡后，語音識別的詞錯誤率相對高斯混合模型降低了30%，同時發(fā)現(xiàn)了在訓練數(shù)據(jù)足夠的情況下，并不一定需要進行

2、預訓練。深度學習簡介深度學習方法是具有多層次特征描述的特征學習，通過一些簡單但非線性的模塊將每一層特征描述（從未加工的數(shù)據(jù)開始）轉(zhuǎn)化為更高一層的、更為抽象一些的特征描述。深度學習的關鍵在于這些層次的特征不是由人工設計的，而是使用一種通用的學習步驟從數(shù)據(jù)中學習獲取的。深度學習特指基于深層神經(jīng)網(wǎng)絡實現(xiàn)的模型或算法，其解決的核心問題之一就是自動地將簡單的特征組合成更加復雜的特征，并使用這些組合特征解決問題。深度學習是機器學習的一個分支，它除了可以學習特征和任務之間的關聯(lián)之外，還能自動從簡單特征中提取更加復雜的特征?，F(xiàn)代的深度學習已經(jīng)超越了神經(jīng)科學觀點，它可以更廣泛地適用于各種并不是由神經(jīng)網(wǎng)絡啟發(fā)而來

3、的機器學習框架。深度學習定義深度學習算法已經(jīng)廣泛應用到人們生活的角角落落，如手機中的語音助手、汽車上的智能輔助駕駛、人臉支付等。深度學習在物體檢測、視覺定位、物體測量、物體分揀、圖像分割、圖像標題生成、圖像風格變換、圖像生成、情感分析、無人駕駛、機器翻譯、文本到語音轉(zhuǎn)換、手寫文字轉(zhuǎn)錄、圖像分類等方面均有應用。深度學習常見應用物體檢測就是從圖像中確定物體的位置，并對物體進行分類。根據(jù)騎行圖像對騎行者進行檢測，如下圖所示。深度學習常見應用1. 物體檢測物體檢測是機器視覺工業(yè)領域最主要的應用之一，幾乎所有產(chǎn)品都需要檢測。人工檢測存在著較多的弊端，如準確率低，長時間工作準確性更是無法保障，而且檢測速度

4、慢，容易影響整個生產(chǎn)過程的效率。物體檢測比物體識別更難。原因在于物體檢測需要從圖像中確定物體的位置，有時還有可能存在多個物體。對于這樣的問題，人們提出了多個基于卷積神經(jīng)網(wǎng)絡（Convolutional Neural Networks，CNN）的方法，這些方法有著非常優(yōu)秀的性能。在使用卷積神經(jīng)網(wǎng)絡進行物體檢測的方法中，有一種叫作R-CNN的方法，R-CNN是較早運用在物體檢測上的，方法較為成熟，且運用R-CNN算法可以提高訓練和測試的速度，同時提高檢測精度，R-CNN由圖像輸入層、候選特征提取層、卷積神經(jīng)網(wǎng)絡計算特征層和分類區(qū)域?qū)咏M成。深度學習常見應用視覺定位要求機器視覺能夠快速準確地找到被測零

5、件并確認其位置。在半導體封裝領域，設備需要根據(jù)機器視覺取得芯片位置信息、調(diào)整拾取頭、準確拾取芯片并進行綁定。如下圖所示。深度學習常見應用2. 視覺定位在日常生活中，物體測量通常是對物體的質(zhì)量、長度、高度、體積等進行測量。在機器視覺工業(yè)應用中，最大的特點就是使用非接觸光學進行測量。如右圖所示。深度學習常見應用3. 物體測量物體分揀是建立在識別、檢測之后的一個環(huán)節(jié)，通過機器視覺對圖像中的目標進行檢測和識別，實現(xiàn)自動分揀，在工業(yè)應用領域常用于食品分揀、零件表面瑕疵自動分揀、棉花纖維分揀等。同時，物體分揀在物流、倉庫中的運用更為廣泛，在分揀過程中，機器通過按照物品種類、物品大小、出入庫的先后順序等方法

6、對物體進行分揀。如右圖所示。深度學習常見應用4. 物體分揀圖像分割就是將圖像分成若干個特定的、具有獨特性質(zhì)的區(qū)域并提出感興趣目標的技術和過程，它是由圖像處理到圖像分析的關鍵步驟?，F(xiàn)有的圖像分割方法主要分為4類。基于閾值的分割方法?；趨^(qū)域的分割方法?；谶吘壍姆指罘椒ɑ谔囟ɡ碚摰姆指罘椒āＩ疃葘W習常見應用5. 圖像分割從數(shù)學角度來看，圖像分割是將數(shù)字圖像劃分成互不相交的區(qū)域的過程。圖像分割的過程也是一個標記過程，即把屬于同一區(qū)域的像素賦予相同的編號。對街道車輛圖像進行分割的結(jié)果，如下圖所示。深度學習常見應用給出一個圖像，會自動生成介紹這個圖像的文字，這種處理文字的方法也叫神經(jīng)圖像標題（Neu

7、ral Image Caption，NIC）模型。由深層的卷積神經(jīng)網(wǎng)絡和自然語言處理的循環(huán)神經(jīng)網(wǎng)絡（Recurrent Neural Network，RNN）構(gòu)成。卷積神經(jīng)網(wǎng)絡提取圖像特征，RNN生成文本。輸入右圖的圖像，可以生成諸如“一個男人和一個女孩坐在地上吃”或“一個男人和一個小女孩正坐在人行道上吃，附近一個藍色的袋子”或“一個男人穿著一件黑色的襯衫和一個穿著橙色禮服的小女孩分享一種享受”等標題。深度學習常見應用6. 圖像標題生成圖像風格的變換是利用了卷積神經(jīng)網(wǎng)絡可以提取高層特征的效果，不在像素級別進行損失函數(shù)的計算，而是將原圖像和生成圖像都輸入至一個已經(jīng)訓練好的神經(jīng)網(wǎng)絡里，在得到的某種

8、特征表示上計算歐式距離（內(nèi)容損失函數(shù)）。得到的圖像與原圖內(nèi)容相似，但像素級別不一定相似，且所得圖像更具魯棒性。輸入兩個圖像，計算機會生成一個新的圖像。兩個輸入圖像中，一個稱為“內(nèi)容圖像”如右上圖所示，另外一個稱為“風格圖像”如右下圖所示。深度學習常見應用7. 圖像風格轉(zhuǎn)換如果將梵高的繪畫風格應用于內(nèi)容圖像上，那么深度學習會按照要求繪制出新風格，其輸出圖像如右圖所示。深度學習常見應用有一種新的研究，能實現(xiàn)在生成圖像的過程中不需要另外輸入任何圖像，只要前期使用大量的真實圖像讓網(wǎng)絡進行學習，即可由網(wǎng)絡自動畫出新的圖像。目前常見的生成模型有VAE系列、GAN系列等。其中GAN系列算法近年來取得了巨大的

9、進展，最新GAN模型產(chǎn)生的圖片效果達到了肉眼難辨真?zhèn)蔚某潭取Ｉ疃葘W習常見應用8. 圖像生成下面左圖是為計算機提供的真實圖像，計算機根據(jù)真實圖像生成的假圖像下面右圖所示。深度學習常見應用情感分析最核心的問題就是從一段文字中判斷作者對主體的評價是好評還是差評。針對通用場景下帶有主觀描述的中文文本，利用深度學習算法自動判斷該文本的情感極性類別并給出相應的置信度，情感極性分為積極、消極、中性或更多維的情緒，情感分析的例子如右圖所示。深度學習常見應用9. 情感分析無人駕駛被認為是強化學習短期內(nèi)能技術落地的一個應用方向，很多公司投入大量資源在無人駕駛上，如百度、Uber、谷歌無人車等，其中百度的無人巴士“

10、阿波龍”已經(jīng)在北京、武漢等地展開試運營，自動無人駕駛的行車視野如下圖所示。利用深度學習算法主要用傳感器來指揮操縱車輛，創(chuàng)造一個完全智能調(diào)度的移動出行網(wǎng)絡。深度學習常見應用10. 無人駕駛常用的機器翻譯模型有Seq2Seq、BERT、GPT、GPT-2等，其中OpenAI提出的GPT-2模型參數(shù)量高達15億個，甚至發(fā)布之初以技術安全考慮為由拒絕開源GPT-2模型。目前深度學習在機器翻譯領域也取得了很大的進步。如科大訊飛的翻譯機支持多語種離線翻譯（英語、日語、韓語、西班牙語、法語等），拍照翻譯，更厲害的是，四川話、河南話、東北話、山東話等也能順利翻譯。除了日常的對話外，在行業(yè)領域的翻譯更是威猛，如

11、外貿(mào)、能源、法律、體育、電力、醫(yī)療、金融、計算機等，都在支持的范圍內(nèi)。深度學習常見應用11. 機器翻譯科大訊飛翻譯機下面左圖所示，其實時翻譯記錄如下面右圖所示。深度學習常見應用從文本中生成人造的語言，通常被稱為文本轉(zhuǎn)語音（TTS），它有許多的應用，如語音驅(qū)動的設備、導航系統(tǒng)和視力障礙者設備中不可缺少的工具。從根本上說，TTS能讓人在不需要視覺交互的情況下與技術進行互動。百度研究院發(fā)布的Deep Voice是一個文本到語音轉(zhuǎn)換系統(tǒng)，完全由深度神經(jīng)網(wǎng)絡構(gòu)建。文本到語音的轉(zhuǎn)換將自然語言的文本很自然流暢的變?yōu)檎Z音，也因此出現(xiàn)了語音小說，免去了讀者閱讀的麻煩。深度學習常見應用12. 文本到語音轉(zhuǎn)換自動識

12、別用戶手寫體文字，并將其直接轉(zhuǎn)化為計算機可以識別的文字。對用戶手寫字體字形進行提取，其中包括利用文本行的水平投影進行行切分，以及利用文本行的垂直投影進行字切分。將提取的用戶手寫體字形特征向量與計算機的字形特征向量進行匹配，并建立用戶手寫體與計算機字體的對應關系，生成計算機可識別的文字。深度學習常見應用13. 手寫文字轉(zhuǎn)錄圖像分類的核心是從給定的分類集合中，給圖像分配一個標簽的任務。實際上，圖像分類是分析一個輸入圖像并返回一個將圖像分類的標簽。標簽總是來自預定義的可能類別集。利用深度學習算法可以實現(xiàn)對貓的圖像進行分類，如右圖所示。深度學習常見應用14. 圖像分類1深度學習應用技術目錄深度簡介學習

13、2TensorFlow簡介3深度學習最早興起于圖像識別，但是在短短幾年時間內(nèi)，深度學習已經(jīng)被推廣到了機器學習的各個領域。如今，深度學習在很多應用領域都有非常出色的表現(xiàn)，如在語音識別、圖像識別、游戲、搜索引擎、機器人、生物信息處理、化學、網(wǎng)絡廣告投放、醫(yī)學自動診斷和金融等各大領域均有應用。深度學習應用技術計算機視覺是深度學習技術最早取得突破性成就的領域。從2012年到2015年間，通過對深度學習算法的不斷研究，在ImageNet數(shù)據(jù)集上實現(xiàn)圖像分類的錯誤率以較大的速度遞減，這說明深度學習完全打破了傳統(tǒng)機器學習算法在圖像分類上的瓶頸，使得圖像分類問題得到了更好的解決。在ImageNet數(shù)據(jù)集上，深

14、度學習不僅突破了圖像分類的技術瓶頸，同時也突破了物體識別的技術瓶頸，物體識別的難度比圖像分類更高。在物體識別問題中，人臉識別是應用非常廣泛的技術，它既可以應用于娛樂行業(yè)，又可以應用于安防、風控行業(yè)。在計算機視覺領域，光學字符識別（Optical Character Recognition，OCR）也是使用深度學習較早的領域之一。光學字符識別在工業(yè)屆的應用也十分廣泛。除此之外，谷歌圖書通過文字識別技術將掃描的圖書數(shù)字化，從而實現(xiàn)圖書內(nèi)容的搜索功能。深度學習應用技術1. 深度學習與計算機視覺自然語言處理（Natural Language Processing，NLP）是計算機科學中令人興奮的領域，

15、涉及人類交流。它包含機器理解，解釋和生成人類語言的方法。在八十年代初期，語法階段開始了，語言學家發(fā)展了不同的語法結(jié)構(gòu)，并開始將與用戶意圖的短語關聯(lián)起來，開發(fā)出許多自然語言處理工具，如SYSTRAN、METEO等，在翻譯、信息檢索中被大量使用。九十年代是統(tǒng)計語言處理的時代，在大多數(shù)基于NLP的系統(tǒng)中，使用了許多新的收集數(shù)據(jù)的方法，例如使用語料庫進行語言處理或使用基于概率和分類的方法處理語言數(shù)據(jù)。2000年初期，在自然語言學習會議上，出現(xiàn)了許多有趣的NLP研究，例如分塊、命名實體識別和依賴解析等。隨后提出的許多基于遞歸神經(jīng)網(wǎng)絡和長短時記憶模型被廣泛使用。深度學習與應用技術2. 深度學習與自然語言處

16、理此后出現(xiàn)的多任務學習技術使得機器可以同時學習多個任務通過學習大量數(shù)據(jù)集獲得的效率，使得密集的表示形式能夠捕獲各種語義和關系，從而可以完成諸如機器翻譯之類的各種任務，并能夠以無監(jiān)督的方式實現(xiàn)“轉(zhuǎn)移學習”。 隨后出現(xiàn)的基于序列學習的通用神經(jīng)框架，由編碼器神經(jīng)網(wǎng)絡處理輸入序列，解碼器神經(jīng)網(wǎng)絡根據(jù)輸入序列狀態(tài)和當前輸出狀態(tài)來預測輸出。其在機器翻譯和問題解答方面都取得了不錯的應用效果。深度學習與應用技術深度學習在語音識別領域取得的成績也是突破性的。2009年深度學習算法被引入語音識別領域，并對該領域產(chǎn)生了巨大的影響。在工業(yè)界，包括谷歌、蘋果、微軟、IBM、百度等在內(nèi)的大型IT公司開始提供的語音相關產(chǎn)品

17、。到2012年，基于深度學習的語音識別模型已取代混合高斯模型，并成功將谷歌語音識別的錯誤率降低了20%，這個改進幅度超過了過去很多年的總和?；谏疃葘W習的語音識別被應用到了各個領域，其中最熟悉的是蘋果公司推出的Siri系統(tǒng)就存在語言識別功能，Siri系統(tǒng)可以對用戶的語音輸入進行識別并完成相應的操作功能，這也在很大程度上方便用戶使用。除此之外，另外一個成功應用語音識別的系統(tǒng)是微軟的同聲傳譯系統(tǒng)。在沒有深度學習之前，要完成同聲傳譯系統(tǒng)中的任意一個部分都是非常困難的。而隨著深度學習的發(fā)展，語音識別、機器翻譯以及語音合成都實現(xiàn)了巨大的技術突破。如今，微軟研發(fā)的同聲傳譯系統(tǒng)已經(jīng)被成功地應用到Skype網(wǎng)

18、絡電話中。深度學習應用技術3. 深度學習語言識別為了更好地理解深度學習（DL）和機器學習（ML）的關系，繪制它們之間的包含關系，如下圖所示。深度學習（DL）是機器學習（ML）的一個子領域，它除了可以學習特征和任務之間的關聯(lián)以外，還能自動從簡單特征中提取更加復雜的特征。深度學習與應用技術4. 深度學習與機器學習機器學習（ML）是人工智能（AI）的一個子領域，在過去10年變得很流行。與人工智能一樣，機器學習不是一種替代，而是對傳統(tǒng)程序方法的補充。機器學習是根據(jù)輸入與輸出編寫算法 ，最終獲得一套規(guī)則 ，而傳統(tǒng)程序是根據(jù)輸入，編寫一套規(guī)則，從而獲得理想的輸出 。傳統(tǒng)程序和機器學習的流程對比，如下圖所示

19、。深度學習與應用技術大多數(shù)機器學習在結(jié)構(gòu)化數(shù)據(jù)（例如銷售預測，推薦系統(tǒng)和營銷個性化）上表現(xiàn)良好。影響機器學習效果的一個重要環(huán)節(jié)是特征工程，數(shù)據(jù)科學家需要花費大量時間來構(gòu)建合適的特征，從而使機器學習算法能夠正常執(zhí)行且取得滿意的效果。諸如計算機視覺特征工程等高維度問題，使用典型的機器學習技術（例如線性回歸，隨機森林等）來解決就非常具有挑戰(zhàn)性。若該圖像的維度達到非常多個，如果使用傳統(tǒng)機器學習技術進行處理，其特征工程的計算成本會令人望而生卻。機器學習的一個特殊分支稱為深度學習，傳統(tǒng)的機器學習算法，通過手寫特征提取的方法來訓練算法，而深度學習算法能夠?qū)崿F(xiàn)以自動的方式提取特征進行訓練。隨著GPU、大數(shù)據(jù)以

20、及諸如Torch、TensorFlow、Caffe和PyTorch之類的深度學習框架興起，深度學習的使用在過去幾年中得到了極大的發(fā)展。使用深度學習可以實現(xiàn)一些很流行的應用，如圖像分類、語音識別、機器翻譯和自動駕駛的無人車。在將普通的、沒有顯示文字的圖像賦予計算機時，計算機會通過對象檢測和詞典的幫助，獲得圖像的標題。深度學習與應用技術人工智能（Artificial intelligence，AI）是計算機科學的一個分支，它企圖了解智能的本質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應的智能機器，對模擬、延伸和擴展人的智能的理論、方法和技術進行研究與開發(fā)，是一門技術科學。人工智能目前分為弱人工

21、智能和強人工智能和超人工智能。弱人工智能：弱人工智能（Artificial Narrow Intelligence，ANI），只專注于完成某個特定的任務，例如語音識別、圖像識別和翻譯等是由于弱人工智能只能處理較為單一的問題，且發(fā)展程度并沒有達到模擬人腦思維的程度，所以弱人工智能仍然屬于“工具”的范疇，與傳統(tǒng)的“產(chǎn)品”在本質(zhì)上并無區(qū)別。深度學習與應用技術5. 深度學習與人工智能強人工智能：強人工智能（Artificial General lnteligence，AGI），屬于人類級別的人工智能。在各方面都能和人類比肩，它能夠進行思考、計劃、解決問題、抽象思維、理解復雜理念、快速學習和從經(jīng)驗中學習

22、等操作，并且和人類一樣得心應手。超人工智能：超人工智能（Artificial Super intelligence，ASI），在幾乎所有領域都比最聰明的人類大腦都聰明許多，包括科學創(chuàng)新、通識和社交技能。在超人工智能階段，人工智能已經(jīng)跨過“奇點”，其計算和思維能力已經(jīng)遠超人腦。此時的人工智能已經(jīng)不是人類可以理解和想象。簡而言之，機器學習是實現(xiàn)人工智能的一種方法，而深度學習是實現(xiàn)機器學習的一種技術?？梢哉f，人工 智能的根本在于智能，而機器學習則是部署支持人工智能的計算方法，深度學習是實現(xiàn)機器學習的一種方式。深度學習與應用技術1深度學習應用技術目錄深度簡介學習2TensorFlow簡介32015年，

23、Google宣布推出全新的機器學習開源工具TensorFlow，是基于深度學習基礎框架DistBelief構(gòu)建而成，主要用于機器學習和深度神經(jīng)網(wǎng)絡，一經(jīng)推出就獲得了較大的成功，并迅速成為用戶使用最多的深度學習框架，此外，深度學習框架還有Caffe、Keras、PaddlePaddle等。目前深度學習框架主要有TensorFlow、Caffe、Keras、PaddlePaddle、Torch、CNTK等。這些深度學習框架被應用于計算機視覺、自然語言處理、語音識別、機器學習等多個領域。TensorFlow簡介Caffe（Convolutional Architecture for Fast Fea

24、ture Embedding）是一個高效的深度學習框架，支持命令行、 Python和MATLAB接口，既支持在CPU上運行，又可以在GPU上運行。Caffe的一大優(yōu)勢是擁有大量的訓練好的經(jīng)典模型，如AlexNet、VGG，以及其他state-of-the-art的模型，如ResNet。因為Caffe知名度較高，所以被廣泛地應用于前沿的工業(yè)界和學術界，許多提供源碼的深度學習的論文都是使用Caffe作為實現(xiàn)模型的工具。Caffe在計算機視覺領域中的應用尤其多，可以用于人臉識別、圖片分類、位置檢測、目標追蹤等。雖然Caffe主要面向?qū)W術圈和研究者。Caffe的優(yōu)點概括起來為全平臺支持和性能優(yōu)異，不足

25、之處為相關說明文檔尚不完善。由于Caffe開發(fā)時間較早，在業(yè)界的知名度較高，所以，在2017年Facebook推出了Caffe的升級版本Caffe2，目前Caffe2已經(jīng)融入PyTorch庫中。各深度學習框架對比1. CaffeKeras是由Python編寫而成，并使用TensorFlow、Theano以及CNTK作為后端，是深度學習框架中最容易使用的一個。Keras在代碼結(jié)構(gòu)上由面向?qū)ο蠓椒ň帉?，完全模塊化并具有可擴展性，其運行機制和說明文檔有將用戶體驗和使用難度納入考慮，并試圖簡化復雜算法的實現(xiàn)難度。Keras支持現(xiàn)代人工智能領域的主流算法，包括前饋結(jié)構(gòu)和遞歸結(jié)構(gòu)的神經(jīng)網(wǎng)絡，也可以通過封裝

26、參與構(gòu)建統(tǒng)計學習模型。對于常見應用來說，使用Keras開發(fā)效率非常高，但Keras做了層層封裝，導致用戶無法學到深層次深度學習的內(nèi)容，大部分時間主要是調(diào)用各種接口。簡而言之，Keras入門門檻低，但靈活性不足，使用有限。各深度學習框架對比2. KerasTorch是一個科學的計算框架，基于較冷門的編程語言Lua開發(fā)。Torch在構(gòu)建算法的過程中具有較大的靈活性和較快的速度，同時使其構(gòu)建過程極為簡單。Torch的核心是易于使用流行神經(jīng)網(wǎng)絡和優(yōu)化庫，同時在實現(xiàn)復雜的神經(jīng)網(wǎng)絡拓撲結(jié)構(gòu)方面具有較大的靈活性。用戶可以構(gòu)建神經(jīng)網(wǎng)絡的任意圖，并以有效的方式在CPU和GPU上將它們并行化。Torch在CPU上

27、的計算會使用OpenMP、SSE進行優(yōu)化，GPU上使用CUDA、cutorch、cunn、cuDNN進行優(yōu)化，同時還有cuda-convnet的wrapper。Torch還有很多第三方的擴展可以支持RNN，使得Torch基本支持所有主流的網(wǎng)絡。Torch中新的Layer依然需要用戶自己實現(xiàn)，可以使用C+或CUDA來定義。各深度學習框架對比3. TorchCNTK是微軟開發(fā)的深度學習框架，目前已經(jīng)發(fā)展成一個通用的、跨平臺的深度學習系統(tǒng)，在語音識別領域的使用尤其廣泛。CNTK擁有豐富的神經(jīng)網(wǎng)絡組件，使得用戶不需要編寫底層的C+或CUDA，就能通過組合這些組件設計新的、復雜的Layer。同樣，CNT

28、K也支持CPU和GPU兩種開發(fā)模式。CNTK以計算圖的形式描述結(jié)構(gòu)，葉子節(jié)點代表輸入或者網(wǎng)絡參數(shù)，其他節(jié)點代表計算步驟。CNTK同時也擁有較高的靈活度，通過配置文件定義網(wǎng)絡結(jié)構(gòu)，通過命令行程序執(zhí)行訓練，支持構(gòu)建任意的計算圖，支持AdaGrad、RmsProp等優(yōu)化方法。各深度學習框架對比4. CNTK各類框架的特點如下表所示。各深度學習框架對比框架機構(gòu)支持語言優(yōu)點缺點CaffeBVLCPython/c+通用性CNTK好，非常穩(wěn)健，非常快速性能優(yōu)異，幾乎全平臺支持不夠靈活，安裝比較困難，需要解決大量的依賴包KerasfcholletPython語法明晰，文檔友好，使用簡單，入門最容易不夠靈活，用

29、戶絕大多數(shù)時間是在調(diào)用接口，很難學到真正深度學習的內(nèi)容TorchFacebookLua擁有大量訓練好的模型，語法簡單易懂系統(tǒng)移植性較差，依賴的外部庫較多，數(shù)據(jù)格式比較麻煩，需要通過mat等格式中轉(zhuǎn)轉(zhuǎn)換；使用較為冷門的語言LuaCNTKMicrosoftC+通用、跨平臺，支持多機，多GPU分布式訓練，訓練效率高，部署簡單，性能突出，擅長語音方面相關研究目前不支持ARM構(gòu)架，限制了其在移動設備上的發(fā)揮，社區(qū)不夠活躍TensorFlowGooglePython/C+/Go設計的神經(jīng)網(wǎng)絡代碼簡潔，分布式深度學習算法的執(zhí)行效率高，部署模型便利，迭代更新速度快，社區(qū)活躍程度高非常底層，需要編寫大量的代碼，

30、入門比較困難。必須一遍又一遍重新發(fā)明輪子（封裝好的組件、庫），過于復雜的系統(tǒng)設計TensorFlow被廣泛應用于各種機器學習算法的編程實現(xiàn)，由谷歌人工智能團隊開發(fā)和維護，擁有包括TensorFlow Hub、TensorFlow Extended、TensorFlow Probability、TensorFlow Lite、TensorFlow Research Cloud等在內(nèi)的多個項目以及各類應用程序接口，具體介紹如下。TensorFlow是一個采用數(shù)據(jù)流圖，用于數(shù)值計算的開源軟件庫，如右圖所示，節(jié)點在圖中表示數(shù)學操作，圖中的線則表示在節(jié)點間相互聯(lián)系的多維數(shù)據(jù)數(shù)組，即張量。TensorFl

31、ow可用于機器學習和深度神經(jīng)網(wǎng)絡方面的研究，但這個系統(tǒng)的通用性使其也可廣泛用于其他計算領域。TensorFlow生態(tài)TensorFlow Hub是一個允許用戶發(fā)布、共享和使用TensorFlow模塊的庫開發(fā)項目。用戶可以將TensorFlow數(shù)據(jù)流圖或其部分使用Hub進行封裝并移植到其他問題中再次利用，TensorFlow Hub頁面列出了由谷歌和DeepMind提供的封裝模型，其主題包括字符嵌入、視頻分類和圖像處理。TensorFlow生態(tài)1. TensorFlow HubTensorFlow Extended（TFX）是谷歌基于TensorFlow開發(fā)的產(chǎn)品級機器學習平臺，其目標是對產(chǎn)品開

32、發(fā)中的模型實現(xiàn)、分析驗證和業(yè)務化操作進行整合，在實時數(shù)據(jù)下完成機器學習產(chǎn)品的標準化生產(chǎn)。TFX包括三個算法庫，分別是TensorFlow Data Validation、TensorFlow Transform和TensorFlow Model Analysis。其中TensorFlow Data Validation對機器學習數(shù)據(jù)進行統(tǒng)計描述和驗證、TensorFlow Transform對模型數(shù)據(jù)進行預處理、TensorFlow Model Analysis對機器學習模型進行分析，提供表現(xiàn)評分，另有TensorFlow Serving作為模型業(yè)務化的高性能系統(tǒng)，提供模型接口和管理。Tens

33、orFlow生態(tài)2. TensorFlow ExtendedTensorFlow Probability（TFP）是在TensorFlow Python API基礎上開發(fā)的統(tǒng)計學算法庫，其目標是方便用戶將概率模型和深度學習模型相結(jié)合使用。TFP包括大量概率分布的生成器、支持構(gòu)建深度網(wǎng)絡的概率層、提供變分貝葉斯推斷和馬爾可夫鏈蒙特卡羅方法以及一些特殊的優(yōu)化器，包括Nelder-Mead算法（一種求解多元函數(shù)局部最小值的算法）、BFGS算法（BroydenFletcherGoldfarbShanno，一種求解無約束非線性優(yōu)化問題的迭代算法） 和SGLD（Stochastic Gradient La

34、ngevin Dynamics，隨機梯度郎之萬動力學采樣方法）。TensorFlow生態(tài)3. TensorFlow ProbabilityTensorFlow Lite是為移動和嵌入式設備運行機器學習代碼的問題提供解決方案。TensorFlow Lite包含優(yōu)化算法以提升Android、iOS等系統(tǒng)下機器學習模型的相應時間并降低文件大小。谷歌內(nèi)部的許多移動端產(chǎn)品，包括谷歌相冊、谷歌郵箱客戶端、谷歌鍵盤等都使用TensorFlow Lite部署了人工智能算法。TensorFlow生態(tài)4. TensorFlow Lite在眾多深度學習框架中，TensorFlow的活躍程度遠超于其他框架，是如今使用

35、較為頻繁的深度學習框架之一，TensorFlow的特性主要包含以下幾種。多環(huán)境支持多語言支持自動求微分TensorFlow特性TensorFlow可以在CPU、GPU和TPU上運行，以及臺式計算機、服務器、移動端、云端服務器等各個終端上運行，同時能夠很好地運行在移動端，如安置設備、iOS、樹莓派等。TensorFlow特性1.多環(huán)境支持TensorFlow有一個合理的C+使用界面，也有一個易用的Python使用界面來構(gòu)建和執(zhí)行graphs，可以直接編寫Python/C+程序，也可以通過交互式的ipython界面來實現(xiàn)。TensorFlow提供了Python、C+、Java接口來構(gòu)建用戶的程序，

36、而核心部分是用C+實現(xiàn)的。TensorFlow特性2.多語言支持基于梯度的機器學習算法會受益于TensorFlow自動求微分的能力，使用TensorFlow只需要定義預測模型的結(jié)構(gòu)，將這個結(jié)構(gòu)和目標函數(shù)結(jié)合在一起，并添加數(shù)據(jù)，TensorFlow將自動完成相關微分導數(shù)的計算。TensorFlow特性3.自動求微分2019年，Google推出TensorFlow 2正式版本，以動態(tài)圖優(yōu)先模式運行，從而能夠避免TensorFlow 1（主要用于處理靜態(tài)計算圖）版本的許多缺陷（如頻繁變動的接口使得系統(tǒng)向后兼容性大打折扣，也間接出現(xiàn)了BUG、功能設計重復多余、符號式編碼開發(fā)和調(diào)試非常困難等），獲得業(yè)界

37、的廣泛認可。TensorFlow 2可以在程序調(diào)試階段使用動態(tài)圖，快速建立模型、調(diào)試程序；在部署階段，采用靜態(tài)圖機制，從而提高模型的性能、部署能力以及執(zhí)行效率。在TensorFlow 2中，計算圖在性能方面很強大，用戶可以使用裝飾器tf.function，以便將功能塊作為單個圖運行，這是通過TensorFlow 2強大的Autograph功能完成的，使得用戶可以優(yōu)化功能并增加可移植性。TensorFlow 2是一個與TensorFlow 1.x使用體驗完全不同的框架，TensorFlow 2不兼容TensorFlow 1.x的代碼，同時在編程風格、函數(shù)接口設計等上也大相徑庭，TensorFlo

38、w 1.x的代碼需要依賴人工的方式遷移，自動化遷移方式并不靠譜。TensorFlow 2將包含許多API的變更，相比于TensorFlow 1，TensorFlow 2主要有以下幾點變化。TensorFlow的改進許多API在TensorFlow 2中已經(jīng)消失或移動，使API更加一致（統(tǒng)一RNN，統(tǒng)一優(yōu)化器），并通過Eager Execution執(zhí)行更好地與Python運行時集成。例如，刪除tf.app、tf.flags等，轉(zhuǎn)而支持現(xiàn)在開源的absl-py，重新安置tf.contrib中的項目，并清理主要的tf.*命名空間，將不常用的函數(shù)移動到像tf.math這樣的子包中。TensorFlow

39、的改進1. API清理在TensorFlow 1.x中，代碼的編寫分為兩個部分：構(gòu)建靜態(tài)計算圖和創(chuàng)建一個Session去執(zhí)行計算圖，使得代碼編寫較為麻煩。在TensorFlow 2默認Eager Execution模式 下不需要創(chuàng)建Session來運行靜態(tài)計算圖，也不需要創(chuàng)建Session查看代碼結(jié)果。Eager Execution 的一個值得注意的地方是不再需要tf.control_dependencies()，因為所有代碼按順序執(zhí)行（在tf.function中，帶有副作用的代碼按寫入的順序執(zhí)行）。TensorFlow的改進2. Eager Execution模式TensorFlow 1.x

40、嚴重依賴于隱式全局命名空間。當調(diào)用tf.Variable()時，它會被放入默認圖形中?；謴蛅f.Variable()，需要先知道變量的創(chuàng)建名稱，如果用戶無法控制變量的創(chuàng)建，那么將很難做到。最終各種機制激增，試圖幫助用戶再次找到其的變量，并尋找框架來查找用戶創(chuàng)建的變量：變量范圍、全局集合、輔助方法。如tf.get_global_step()、tf.global_variables_initializer()、優(yōu)化器隱式計算所有可訓練變量的梯度等，在TensorFlow 2中取消了所有這些機制（Variables 2.0 RFC），支持默認機制：跟蹤變量。TensorFlow的改進3. 全局變量s

41、ession.run()調(diào)用幾乎就像一個函數(shù)調(diào)用：指定輸入和要調(diào)用的函數(shù)，然后返回一組輸出。在TensorFlow 2中，可以使用tf.function()來裝飾Python函數(shù)以將其標記為JIT編譯，以便TensorFlow將其作為單個圖形運行（Functions 2.0 RFC）。這種機制允許TensorFlow 2獲得圖形模式的好處，如可以優(yōu)化功能（節(jié)點修剪，內(nèi)核融合等），該功能可以導出/重新導入（SavedModel 2.0 RFC），允許用戶重用和共享模塊化TensorFlow功能。TensorFlow的改進4.功能本章主要介紹深度學習的基本定義以及其應用領域，包括物體檢測、視覺定位

42、、物體測量、物體分揀、圖像分割、圖像的生成等應用領域。分別介紹了深度學習與計算機視覺、自然語言處理、語言識別、機器學習和人工智能間的關系。介紹了常用的深度學習基本框架。以及TensorFlow的生態(tài)和特征小結(jié)TensorFlow 2快速入門1訓練一個線性模型目錄TensorFlow 2環(huán)境搭建2TensorFlow 2 深度學習通用流程3TensorFlow 2和其他Python庫的安裝方法一樣，使用“pip install tensorflow”命令即可安裝。注意安裝TensorFlow 2時，需要根據(jù)電腦是否具有相應GPU來確定是安裝性能較強的GPU版本還是性能一般的CPU版本。Tenso

43、rFlow 2環(huán)境搭建TensorFlow CPU版本的安裝較為簡單，可以直接通過命令進行安裝。但是，為了處理各種不同的數(shù)據(jù)類型，同時，在邏輯判斷時，會引入大量的分支跳轉(zhuǎn)和中斷等處理，這些都使得CPU的內(nèi)部結(jié)構(gòu)異常復雜，在計算量大時，CPU的計算功能也相對較弱。國內(nèi)使用pip命令安裝庫時，可能會出現(xiàn)下載速度緩慢甚至網(wǎng)絡連接斷開的情況，配置國內(nèi)源可以提高pip下載的速度，只需要在pip install命令后面帶上“- i 源地址”參數(shù)即可。例如，使用清華源安裝pandas庫，首先打開Anaconda Prompt，輸入如下命令即可自動下載并安裝pandas庫。安裝TensorFlow CPU版本

44、常用的方法有以下3種。搭建TensorFlow CPU環(huán)境用戶在默認情況下下載TensorFlow速度較慢或使用其他鏡像源沒有TensorFlow對應版本時，可以更換默認源后，再進行庫的下載安裝，步驟如下。打開Anaconda Prompt，輸入如下執(zhí)行命令，更換默認源為清華源。執(zhí)行pip命令下載安裝TensorFlow CPU版本。更換默認源并安裝TensorFlow CPU的安裝界面如下圖所示。搭建TensorFlow CPU環(huán)境1. 方法一較為簡單的，也是最為常用的方法是，用戶可以直接使用pip install命令并帶上“- i 源地址”參數(shù)進行TensorFlow下載安裝。打開Anac

45、onda Prompt，執(zhí)行pip命令進行下載安裝。直接在pip install命令后加“- i 源地址”對TensorFlow CPU進行安裝的界面如下圖所示。搭建TensorFlow CPU環(huán)境2. 方法二在安裝TensorFlow時，可能會出現(xiàn)“Cannot uninstall wrapt.It is a distuils installed.”這樣的錯誤，需要先更新wrapt版本，再安裝下載TensorFlow，步驟如下。打開Anaconda Prompt。執(zhí)行pip install命令更新wrapt為最新版本。執(zhí)行pip install命令加“- i 源地址”下載安裝TensorFl

46、ow CPU版本。搭建TensorFlow CPU環(huán)境3. 方法三更新wrapt版本，并安裝TensorFlow CPU的安裝界面如下圖所示。搭建TensorFlow CPU環(huán)境安裝TensorFlow完成后可以驗證其是否安裝成功，具體驗證步驟如下。打開CMD，輸入“ipython”執(zhí)行命令，進入ipython交互式終端。在ipython交互式終端中輸入代碼“import tensorflow as tf”。若運行成功，表示TensorFlow CPU安裝成功，如下圖所示。搭建TensorFlow CPU環(huán)境目前常見的深度學習框架都是基于NVIDIA的GPU顯卡進行加速運算，因此需要安裝NVI

47、DIA提供的GPU加速庫CUDA程序。在安裝CUDA之前，需確認計算機是否具有支持CUDA程序的NVIDIA顯卡設備。如果計算機沒有NVIDIA顯卡，如部分計算機顯卡生產(chǎn)商是AMD或Intel，那么會無法安裝CUDA程序。在安裝TensorFlow GPU版本前，需要檢查tensorflow-gpu版本、CUDA驅(qū)動版本、cuDNN驅(qū)動版本與Python版本是否匹配，如果不匹配，那么可能會導致TensorFlow安裝失敗。以Windows 10系統(tǒng)為例，安裝TensorFlow GPU版本的步驟如下。搭建TensorFlow GPU環(huán)境打開CUDA程序的官網(wǎng)下載CUDA 10.0版本，依次選擇

48、“Windows”平臺“x86_64”架構(gòu)“10”系統(tǒng)“exe(local) ”本地安裝包，最后單擊“Download (2.1GB)”按鈕即可下載CUDA安裝軟件，如下圖所示。搭建TensorFlow GPU環(huán)境1. 安裝CUDA下載完成后，打開安裝軟件，同意NVIDIA軟件許可協(xié)議并繼續(xù)，選擇“自定義（高級）”選項，如下圖所示，單擊“下一步”按鈕進入自定義安裝選項。搭建TensorFlow GPU環(huán)境在這里需要安裝和取消不需要安裝的程序組件，在CUDA節(jié)點下，取消勾選“Visual Studio Integration”選項，如下圖所示，單擊“下一步”按鈕即可正常安裝。搭建TensorFl

49、ow GPU環(huán)境在CUDA軟件安裝完成后，打開文件瀏覽器，在“我的電腦”上右鍵單擊選擇“屬性”，選擇“高級系統(tǒng)屬性”“環(huán)境變量”，在系統(tǒng)變量中檢查中是否存在“CUDA_PATH”變量和“CUDA_PATH_V10_0”兩個變量，如下圖所示，如果存在，那么接下來測試CUDA是否安裝成功，如果不存在，那么需要重新安裝CUDA。搭建TensorFlow GPU環(huán)境測試CUDA軟件是否安裝成功。打開CMD命令行，輸入“nvcc -V”即可打印當前的CUDA等的版本信息，如下圖所示，即表明CUDA安裝成功。搭建TensorFlow GPU環(huán)境CUDA并不是針對神經(jīng)網(wǎng)絡專門的GPU加速庫，它面向各種需要并

50、進行計算的應用設計。針對于神經(jīng)網(wǎng)絡應用加速，需要額外安裝cuDNN庫，需要注意的是，cuDNN庫并不是運行程序，只需要下載cuDNN文件并解壓，配置cuDNN的環(huán)境變量即可。搭建TensorFlow GPU環(huán)境2.安裝cuDNN打開cuDNN官方下載網(wǎng)址，單擊下載cuDNN文件，由于NVIDIA公司規(guī)定，下載cuDNN需要先登錄，因此讀者需要登錄才能下載。登錄后，進入cuDNN下載界面，選擇與CUDA 10.0匹配的cuDNN版本，并單擊“cuDNN Library for Windows 10”鏈接即可下載cuDNN文件，如下圖所示。需要注意的是，cuDNN的版本號必須和CUDA的版本號相匹

51、配。搭建TensorFlow GPU環(huán)境下載cuDNN文件完成后，解壓并進入“cudnn-10.0-windows10-x64-v”文件夾，將名為“cuda”的文件夾重命名為“cudnn”，并復制該文件夾至CUDA的安裝路徑C:Program FilesNVIDIA GPU Computing ToolkitCUDAv10.0，如下圖所示，此時可能會彈出需要管理員權(quán)限的對話框，選擇繼續(xù)即可。搭建TensorFlow GPU環(huán)境完成cuDNN安裝后，為了使系統(tǒng)能夠感知到cuDNN文件的位置，需要額外配置其環(huán)境變量。根據(jù)上小節(jié)打開“環(huán)境變量”對話框，在“系統(tǒng)變量”一欄中選中“Path”環(huán)境變量，單

52、擊“編輯”按鈕，打開“編輯環(huán)境變量”對話框。單擊“新建”按鈕，輸入cuDNN的安裝路徑“C:Program FilesNVIDIA GPU Computing ToolkitCUDAv10.0cudnnbin”，并通過“上移”按鈕將變量置頂。搭建TensorFlow GPU環(huán)境完成配置后的環(huán)境變量應該包括以下如下圖所示的前3個。注意，具體路徑可能和實際路徑略有不同，讀者應根據(jù)實際情況而定。搭建TensorFlow GPU環(huán)境打開Anaconda Prompt，使用清華源下載安裝TensorFlow GPU版本，執(zhí)行pip install命令進行安裝。命令安裝tensorflow-gpu如下圖所

53、示。TensorFlow 2環(huán)境搭建3. 安裝TensorFlow GPU版本在CMD命令行中，輸入“ipython”進入ipython交互式終端，輸入“import tensorflow as tf”命令。如果沒有錯誤產(chǎn)生，那么繼續(xù)輸入“tf.test.is_gpu_available()”命令測試GPU是否可用如果為True，那么說明TensorFlow GPU安裝成功；如果為False，那么說明安裝失敗，如下圖所示。搭建TensorFlow GPU環(huán)境4.驗證TensorFlow GPU是否安裝成功1訓練一個線性模型目錄TensorFlow 2環(huán)境搭建2TensorFlow 2 深度學習

54、通用流程3在接觸TensorFlow前，讀者可能學習過眾多的庫，如NumPy庫、pandas庫、scikit-learn庫等，在機器學習中，類似于鳶尾花分類這樣的模型，常用scikit-learn庫對模型進行構(gòu)建。在已有scikit-learn庫模型構(gòu)建的情況下，可進一步運用TensorFlow 2實現(xiàn)深度神經(jīng)網(wǎng)絡的搭建與應用，即深度學習的實現(xiàn)。本節(jié)將通過用TensorFlow 2訓練一個簡單線性模型，來展示TensorFlow 2的工作機制和基本流程。訓練一個線性模型現(xiàn)存在一份擁有100個樣本的數(shù)據(jù)集，需根據(jù)這100個樣本數(shù)據(jù)構(gòu)建一個線性模型，找出合適的 W和b，使得y=wx+b。數(shù)據(jù)的基本

55、形式如下表所示。問題描述xy00.8521031226630921995.57730497520.85329925866562364845.64059120940.7006920155.751730037在運用TensorFlow 2訓練線性模型之前，需要了解TensorFlow 2的基本數(shù)據(jù)類型。在TensorFlow 2程序中，所有的數(shù)據(jù)類型都通過張量的形式來表示。張量是具有統(tǒng)一數(shù)據(jù)類型的n維數(shù)組或列表。所有張量都是不可變的，不能更新張量的內(nèi)容，只能創(chuàng)建新的張量。例如，創(chuàng)建一個張量b=1,2,2,3，其中張量b的階數(shù)為2，數(shù)據(jù)類型為整型。

56、關于張量的階、維度和數(shù)據(jù)類型的基本介紹如下。TensorFlow 2 基本數(shù)據(jù)類型從功能的角度上看，張量可以被簡單理解為多維數(shù)組，其中零階張量表示標量（scalar），即為一個數(shù)；第一階張量為向量（vector），即為一個一維數(shù)組；第n階張量可以理解為一個n維數(shù)組。但張量在TensorFlow中的實現(xiàn)并不是直接采用數(shù)組的形式，而是對TensorFlow中的運算結(jié)果進行引用。在張量中并沒有真正保存數(shù)字，它保存的是得到這些數(shù)字的計算過程。在TensorFlow 2中，常用階來表示張量的維數(shù)，如下表所示。TensorFlow 2 基本數(shù)據(jù)類型1. 階在TensorFlow 2中，常用階來表示張量的維

57、數(shù)，如下表所示。TensorFlow 2 基本數(shù)據(jù)類型階數(shù)字實例Python實例0標量（只有大小）s = 4831向量（有大小和方向）v = 1.1, 2.2, 3.32矩陣（數(shù)據(jù)表）m = 1, 2, 3, 4, 5, 6, 7, 8, 933階（數(shù)據(jù)立體）t = 2, 4, 6, 8, 10, 12, 14, 16, 18nn階 在張量中，維度這個屬性描述了一個張量的維度信息，是張量一個很重要的屬性。在TensorFlow 2中，描述張量維度的3種記號分別是階、形狀和維數(shù)，三者之間的關系如下表所示。TensorFlow 2 基本數(shù)據(jù)類型2. 維度階形狀雛形實例0 0-D一個0維張量，一個標

58、量1D01-D一個1維張量的形式52D0, D12-D一個2維張量的形式1, 1, 1, 2, 2, 2, 3, 3, 33D0, D1, D23-D一個3維張量的形式1, 2, 3, 4, 5, 6, 7, 8, 9nD0, D1, . Dnn-D一個n維張量的形式D0, D1, . Dn除維度外，張量還有一個數(shù)據(jù)類型屬性，可以為張量指定任意一個類型，每一個張量都有一個唯一的類型，其數(shù)據(jù)類型如右表所示。TensorFlow 2 基本數(shù)據(jù)類型3. 數(shù)據(jù)類型數(shù)據(jù)類型Python類型描述DT_FLOATtf.float3232位浮點數(shù)DT_DOUBLEtf.float6464位浮點數(shù)DT_INT6

59、46464位有符號整型DT_INT323232位有符號整型DT_INT161616位有符號整型DT_INT888位有符號整型DT_UINT8tf.uint88位無符號整型DT_STRINGtf.string可變長度的字節(jié)數(shù)組，每一個張量元素都是一個字節(jié)數(shù)組DT_BOOLtf.bool布爾型DT_COMPLEX64plex64由兩個32位浮點數(shù)組成的復數(shù)、實數(shù)和虛數(shù)DT_QINT32tf.qint32用于量化Ops的32位有符號整型DT_QINT8tf.qint8用于量化Ops的8位有符號整型DT_QUINT8tf.quint8用于量化Ops的8位無符號整型在解決 線性問題中，構(gòu)建、訓練網(wǎng)絡并對

60、模型進行模型評估。將樣本劃分為訓練集和測試集，由于樣本數(shù)據(jù)只有 、 兩個，所以在構(gòu)建Sequential網(wǎng)絡時只需設置一個輸入和一個輸出，訓練構(gòu)建好的網(wǎng)絡并對測試集進行預測，最后計算測試集的均方誤差并進行模型評價。通過該線性問題只需用戶感受運用TensorFlow 2解決問題的基本思路，如構(gòu)建網(wǎng)絡、訓練網(wǎng)絡和性能度量等相關知識將在上一小節(jié)進行介紹。構(gòu)建網(wǎng)絡Sequential網(wǎng)絡結(jié)構(gòu)圖如下圖所示，輸入樣本數(shù)據(jù)為 ， ，輸入層有兩個輸入，隱含層包含4個神經(jīng)元，最后輸出的數(shù)量依舊為2，并通過激活函數(shù)對結(jié)果進行轉(zhuǎn)換。構(gòu)建網(wǎng)絡通過pandas庫的read_csv函數(shù)讀取100個樣本的數(shù)據(jù)，分別取出樣本