人工智能行業(yè)AI專題報(bào)告：AI助力人類進(jìn)入新世界

1、目 錄 HYPERLINK l _TOC_250010 AI 站在科技浪潮之巔 1 HYPERLINK l _TOC_250009 AI 的發(fā)展歷程 1 HYPERLINK l _TOC_250008 AI 是中國彎道超車的好機(jī)會(huì) 3 HYPERLINK l _TOC_250007 AI 技術(shù)梳理 5 HYPERLINK l _TOC_250006 機(jī)器學(xué)習(xí)（Machine Learning） 5 HYPERLINK l _TOC_250005 深度學(xué)習(xí)（Deep Learning） 7 HYPERLINK l _TOC_250004 計(jì)算機(jī)視覺 10 HYPERLINK l _TOC_250

2、003 AI 商業(yè)生態(tài)梳理 11 HYPERLINK l _TOC_250002 技術(shù)、硬件全球生態(tài) 11 HYPERLINK l _TOC_250001 政府和全球巨頭生態(tài)建設(shè)火熱進(jìn)行中 13 HYPERLINK l _TOC_250000 風(fēng)險(xiǎn)提示 14圖 目 錄圖 1：每隔五年全球市值前五公司的變遷 1圖 2：ImageNet 圖像識(shí)別錯(cuò)誤率的變化 1圖 3：不同學(xué)派的比較：符號(hào)主義與連接主義 2圖 4：人工智能的論文產(chǎn)出 4圖 5：人工智能技術(shù)梳理 5圖 6：監(jiān)督學(xué)習(xí)的基本流程 6圖 7：非監(jiān)督學(xué)習(xí)的基本流程 6圖 8：半監(jiān)督學(xué)習(xí)的基本流程 6圖 9：強(qiáng)化學(xué)習(xí)的基本流程 6圖 10：深

3、度學(xué)習(xí)的重要進(jìn)展 7圖 11：DenseNet 示意圖 8圖 12：MobileNet 示意圖 8圖 13：基于卷積神經(jīng)網(wǎng)絡(luò)的鳥類識(shí)別（圖像識(shí)別） 8圖 14：使用 CNN 提取噴流圖特征（物理學(xué)） 8圖 15：AutoEncoder 示意圖 9圖 16：Pre-training 訓(xùn)練神經(jīng)網(wǎng)絡(luò)的初始權(quán)重 9圖 17：生成對(duì)抗網(wǎng)絡(luò)（SinGAN）生成的圖像樣本 10圖 18：編碼器模塊（DeepLabv3+）的網(wǎng)絡(luò)結(jié)構(gòu) 11圖 19：增強(qiáng)型自動(dòng)編碼器（AAE）的訓(xùn)練過程 11圖 20：微軟的 AI 布局 13圖 21：IBM 的 AI 布局 13圖 22：谷歌的 AI 布局 14圖 23：百度的

4、 AI 布局 14圖 24：騰訊的 AI 布局 14圖 25：阿里巴巴的 AI 布局 14表 目 錄表 1：人工智能發(fā)展歷史 3表 2：AI 全球技術(shù)生態(tài) 11AI 站在科技浪潮之巔隨著美國對(duì)華為的制裁升級(jí)，國內(nèi)對(duì)于高科技的關(guān)注與日俱增。我國處于經(jīng)濟(jì)轉(zhuǎn)型的關(guān)鍵時(shí)間點(diǎn)已經(jīng)是毋庸置疑，而整個(gè)社會(huì)從傳統(tǒng)行業(yè)轉(zhuǎn)向科技驅(qū)動(dòng)還需要長久的努力。時(shí)至今日，我們對(duì)于技術(shù)的未來需要有更深層次的理解，所謂科技興國，在人文上必然需要理性、理想和理念的價(jià)值觀來支撐。本篇立足于從技術(shù)上對(duì) AI 進(jìn)行解讀，這也是下一次科技浪潮的必然趨勢(shì)。18 世紀(jì)以來，人類經(jīng)歷了三次工業(yè)革命，分別以機(jī)械、電氣和信息技術(shù)為核心驅(qū)動(dòng)力。今天以

5、 AI 為驅(qū)動(dòng)的第四次工業(yè)革命已經(jīng)來臨。我國一直在高速地追趕發(fā)達(dá)國家，每次革命都提供了更多的變化和機(jī)會(huì)，也會(huì)涌現(xiàn)出來新的科技巨頭。人工智能近年來以驚人的速度發(fā)展，局部智能水平已經(jīng)超越人類，比如圖像識(shí)別領(lǐng)域，ImageNet 圖像識(shí)別錯(cuò)誤率已經(jīng)降低至 2%以下，明顯超過了人類水平。圖 1：每隔五年全球市值前五公司的變遷圖 2：ImageNet 圖像識(shí)別錯(cuò)誤率的變化數(shù)據(jù)來源：人工智能全球格局，西南證券整理數(shù)據(jù)來源：人工智能全球格局，西南證券整理在物理、化學(xué)、材料等基礎(chǔ)領(lǐng)域的研究中充滿了大數(shù)據(jù)，而在實(shí)際工程中，利用 AI 提高生產(chǎn)率、降低成本從而提高全球競(jìng)爭(zhēng)力是各個(gè)企業(yè)的目標(biāo)。如果說幾年前，企業(yè)大量

6、投資從而達(dá)到降本增效的目的還比較模糊，畢竟所有人都追求“增量”，但是顯然這兩年所有企業(yè)家都知道要“增效”。AI 的本質(zhì)，仍然是為了在客觀世界中和管理實(shí)踐中增加確定性，這或許是我們所有人都應(yīng)該具備的思維。AI 的發(fā)展歷程人工智能（Artificial Intelligence）指由人類制造出來的機(jī)器所展現(xiàn)出來的智能，試圖通過計(jì)算機(jī)來模擬人的思維過程和行為。目前這一領(lǐng)域主要包括計(jì)算機(jī)視覺、自然語言處理、跨媒體分析推理、智適應(yīng)學(xué)習(xí)、群體智能、自主無人系統(tǒng)、智能芯片和腦機(jī)接口等關(guān)鍵技術(shù)，將為人類的生產(chǎn)生活帶來革命性的轉(zhuǎn)變。從歷史上看， 人工智能主要包括符號(hào)主義（Symbolicism）、連接主義（Co

7、nnectionism）和行為主義（Actionism）三大學(xué)派：“符號(hào)主義”又稱心理學(xué)派(Psychologism)，原理為符號(hào)操作系統(tǒng)假設(shè)和有限合理性原理。其基本思想是應(yīng)用邏輯推理法則從公理出發(fā)推演整個(gè)理論體系，在人工智能走向工程應(yīng)用和實(shí)現(xiàn)理論聯(lián)系實(shí)際具有特別重要的意義。代表人物包括 Newell、Simon 和 Nilsson 等，主要成果有啟發(fā)式程序邏輯理論家（LT）、專家系統(tǒng)、知識(shí)工程理論技術(shù)等?！斑B接主義”又稱仿生學(xué)派(Physiologism)，原理為神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間的連接機(jī)制與學(xué)習(xí)算法。認(rèn)為人工智能源于仿生學(xué)，從神經(jīng)元開始研究神經(jīng)網(wǎng)絡(luò)模型和腦模型，開辟了人工智能的又一發(fā)展道

8、路。代表人物包括 McCulloch、Hopfield 和 Rumelhart 等，主要成果有腦模型（MP）、感知機(jī)、多層網(wǎng)絡(luò)中的反向傳播算法（BP）和人工神經(jīng)網(wǎng)絡(luò)（ANN）等?！靶袨橹髁x”又稱控制論學(xué)派(Cyberneticsism)，原理為控制論及感知-動(dòng)作型控制系統(tǒng)。認(rèn)為智能取決于感知、行為以及對(duì)外界環(huán)境的自適應(yīng)能力，把神經(jīng)系統(tǒng)的工作原理與信息理論、控制理論、邏輯以及計(jì)算機(jī)聯(lián)系起來。行為主義 20 世紀(jì)末才興起，主要關(guān)注智能控制和智能機(jī)器人系統(tǒng)，代表性成果為 Brooks 的“控制論動(dòng)物”六足行走機(jī)器人，是一個(gè)基于感知-動(dòng)作模式模擬昆蟲行為的控制系統(tǒng)。圖 3：不同學(xué)派的比較：符號(hào)主義與連

9、接主義數(shù)據(jù)來源：量子位，西南證券整理圖靈（Turing）最早提出了著名的“圖靈測(cè)試”和“圖靈機(jī)”概念，并在 1950 年預(yù)言了創(chuàng)造智能機(jī)器的可能性。自 1956 年達(dá)特茅斯會(huì)議第一次提出人工智能的概念以來，人工智能的發(fā)展經(jīng)歷了三次浪潮：第一次浪潮（1956-1974）：算法雛形初現(xiàn)第一次浪潮的主要成就是算法、方法論及早期人工智能系統(tǒng)。其中最為杰出的代表就是貝爾曼公式（增強(qiáng)學(xué)習(xí)的雛形）和感知機(jī)（深度學(xué)習(xí)的雛形）。早期人工智能系統(tǒng)主要是用機(jī)器證明的辦法去證明和推理一些知識(shí)，第一次浪潮中實(shí)現(xiàn)效果最好的就是定理證明。這一時(shí)期出了很多人工智能系統(tǒng)，如 STUDENT（1964 年）、ELIZA（1966

10、 年），前者能夠?qū)崿F(xiàn)應(yīng)用題的證明，后者可以實(shí)現(xiàn)簡單的人機(jī)對(duì)話。但隨著計(jì)算能力的不足、社會(huì)資本的退出、政府資助的下降，人工智能迎來第一次寒冬。第二次浪潮（1974-2006）：專業(yè)化發(fā)展較第一次浪潮而言，第二次浪潮朝著更為專業(yè)化的方向發(fā)展，側(cè)重于借用領(lǐng)域?qū)＜业闹R(shí)來武裝自己。這一時(shí)期的主要成就是人工智能計(jì)算機(jī)、多層神經(jīng)網(wǎng)絡(luò)和 BP 反向傳播等方算法的突破及語音識(shí)別和語言翻譯等領(lǐng)域。第二次浪潮更專注于解決實(shí)際問題，不再專注于理論知識(shí)的證明。由于人工智能應(yīng)用的范疇依舊有限，人工智能的浪潮在 90 年代開始逐漸消退。第三次浪潮（2006-至今）：基于互聯(lián)網(wǎng)大數(shù)據(jù)的深度學(xué)習(xí)與前兩次浪潮不同，第三次浪潮依

11、靠的是計(jì)算機(jī)性能的提升和海量數(shù)據(jù)的不斷積累，其核心是深度學(xué)習(xí)的突破。2016 年的 AlphaGo 和 2017 年的 AlphaGo Master 這兩個(gè)智能程序的勝出，促使著人工智能逐漸成為當(dāng)下炙手可熱的研究領(lǐng)域。依靠算法、大數(shù)據(jù)、計(jì)算力的作用，人工智能迎來第三次浪潮。此外，深度學(xué)習(xí)在語音識(shí)別、圖像識(shí)別、自然語言理解等領(lǐng)域均取得了突破性進(jìn)展，再加上海量數(shù)據(jù)提供測(cè)試樣本和強(qiáng)大計(jì)算能力的支持，人工智能開始向前高速發(fā)展。表 1：人工智能發(fā)展歷史時(shí)間里程碑事件1956達(dá)特茅斯會(huì)議標(biāo)志 AI 正式誕生1957羅布森拉特發(fā)明感知機(jī)1960通用問題求解系統(tǒng) GPS 系統(tǒng)1968DENDRAL 專家系統(tǒng)問

12、世1969感知機(jī)局限性被指出，連接主義人工智能跌入谷底1983經(jīng)典的 NP 難度的旅行商問題被循環(huán)神經(jīng)網(wǎng)絡(luò)解決，連接主義再次崛起1986BP 算法被發(fā)明20 世紀(jì) 90 年代統(tǒng)計(jì)學(xué)習(xí)登場(chǎng)，代表性技術(shù)是支持向量機(jī)（SVM）2006深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)提出2016AlphaGo 的勝出是重要里程碑?dāng)?shù)據(jù)來源：人工智能的前生、今世與未來，西南證券整理AI 是中國彎道超車的好機(jī)會(huì)眾所周知，國內(nèi)科技企業(yè)往往都是先從低端產(chǎn)品做起來，再逐步往上游延伸。比如先從 OEM 做到系統(tǒng)集成，然后再做上游關(guān)鍵零部件，最后積累實(shí)力才涉及更基礎(chǔ)的研發(fā)。AI 的浪潮中，最核心的就是算法，大家都在算法上角逐，使得基礎(chǔ)研究到技術(shù)開發(fā)

13、到系統(tǒng)集成扁平化，研究比一般的企業(yè)更加貼近市場(chǎng)，這會(huì)帶來全新的變化：企業(yè)創(chuàng)始人和核心管理團(tuán)隊(duì)都必須是技術(shù)大牛，企業(yè)的文化更加高效，從而極大降低管理成本。在基礎(chǔ)研究領(lǐng)域中，國內(nèi) AI 的水平在迅速提升，中美是最有可能引領(lǐng)該潮流的兩個(gè)國家，AI 是中國彎道超車的好機(jī)會(huì)。過去二十年間，全球眾多國家和地區(qū)廣泛地參與到人工智能領(lǐng)域的基礎(chǔ)性研究中，其中中國和美國的論文產(chǎn)出位于全球的第一、二位，且是位于第三位的英國產(chǎn)出量的倍以上。英國、日本、德國、印度、法國、加拿大、意大利、西班牙、韓國、臺(tái)灣、澳大利亞構(gòu)成了該領(lǐng)域論文產(chǎn)出的第二梯隊(duì)。圖 4：人工智能的論文產(chǎn)出400000 36958835000030000

14、0250000200000150000100000500000327034965369411285587751287226161782614665858252175461384588434028275522559625138234992277019481 數(shù)據(jù)來源：2018 人工智能發(fā)展報(bào)告，西南證券整理雖然論文多，但是國際人工智能杰出人才集中投入于美、英、德、法等少數(shù)發(fā)達(dá)國家，排名前十的國家 AI 人才投入占據(jù)總量的 63.6%。美國在人工智能杰出人才投入量上依舊遙遙領(lǐng)先，占據(jù)世界總體的 25%，。中國排名第六，杰出人才占比過低。此外高強(qiáng)度人才投入的企業(yè)集中在美國，中國僅有華為一家企業(yè)進(jìn)入前

15、 20。國際人工智能人才投入主要以計(jì)算機(jī)軟硬件開發(fā)企業(yè)為主體，美國相關(guān)行業(yè)發(fā)軔于 19 世紀(jì)末，IBM、微軟、谷歌等公司皆為行業(yè)巨頭，在世界范圍內(nèi)擁有廣泛的影響能力，成為集聚人工智能領(lǐng)域人才的企業(yè)前三甲，英特爾、通用電氣、惠普、霍尼韋爾、思科、高通、蘋果等美國知名企業(yè)也榜上有名。德國的西門子、SAP、軟件、博世三家企業(yè)入駐前 20，主要以大型制造企業(yè)為主。AI 技術(shù)梳理人工智能的技術(shù)在近年得到長足的發(fā)展，主要還是圍繞著深度學(xué)習(xí)、機(jī)器視覺兩大塊。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的升級(jí)，流行的卷積神經(jīng)網(wǎng)絡(luò)，GAN 等都屬于深度學(xué)習(xí)。圖 5：人工智能技術(shù)梳理數(shù)據(jù)來源：西南證券機(jī)器學(xué)習(xí)（Machine Learni

16、ng）機(jī)器學(xué)習(xí)（ML）是人工智能的重要子領(lǐng)域，與數(shù)據(jù)挖掘（DM）和知識(shí)發(fā)現(xiàn)（KDD）領(lǐng)域相交叉它他的處理系統(tǒng)和算法主要是通過找出數(shù)據(jù)里隱藏的模式進(jìn)而做出預(yù)測(cè)的識(shí)別模式。機(jī)器學(xué)習(xí)是一門多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計(jì)學(xué)、逼近論、凸分析、算法復(fù)雜度理論等多門學(xué)科。專門研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身的性能從發(fā)展歷史來看，1950 年圖靈測(cè)試和 1952 年塞繆爾開發(fā)跳棋程序?qū)儆跈C(jī)器學(xué)習(xí)的奠基時(shí)期的。經(jīng)歷過六七十年代發(fā)展停滯的瓶頸時(shí)期后，神經(jīng)網(wǎng)絡(luò)反向傳播算法（BP）、多參數(shù)線性規(guī)劃（MLP）、決策樹、回歸樹、ID4 和 CART 算

17、法在八十年代相繼提出，機(jī)器學(xué)習(xí)開始重振。機(jī)器學(xué)習(xí)的常見算法有決策樹、樸素貝葉斯、支持向量機(jī)、隨機(jī)森林、人工神經(jīng)網(wǎng)絡(luò)、 Boosting 與 Bagging、關(guān)聯(lián)規(guī)則、期望最大化、期望最大化等十大算法?？梢园凑沼?xùn)練樣本提供的信息以及反饋方式分為監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)。監(jiān)督學(xué)習(xí)（Supervised Learning）的數(shù)據(jù)集是有標(biāo)簽的，目標(biāo)是通過建模樣本的特征和標(biāo)簽之間的關(guān)系。根據(jù)標(biāo)簽類型可以分為分類問題和回歸問題兩類，分類問題用來預(yù)測(cè)某一樣?xùn)|西所屬的類別（離散的），回歸問題用來預(yù)測(cè)某一樣本所對(duì)應(yīng)的實(shí)數(shù)輸出（連續(xù)的）。大部分模型如線性分類器、支持向量機(jī)等都屬于監(jiān)督學(xué)習(xí)，常見算

18、法包括 k-近鄰算法（kNN）、決策樹（DT）和樸素貝葉斯等。無監(jiān)督學(xué)習(xí)（Unsupervised Learning）的數(shù)據(jù)集是完全沒有標(biāo)簽的，依據(jù)相似樣本在數(shù)據(jù)空間中一般距離較近這一假設(shè)分類，可以解決的問題可以分為關(guān)聯(lián)分析、聚類問題和維度約減。關(guān)聯(lián)分析是指發(fā)現(xiàn)不同事物之間同時(shí)出現(xiàn)的概率，聚類問題是指將相似的樣本劃分為一個(gè)簇，維度約減是指減少數(shù)據(jù)維度的同時(shí)保證不丟失有意義的信息。常見算法包括DBSCAN 算法、最大期望算法（EM）、主成分分析（PCA）、k-均值算法和稀疏自編碼等。圖 6：監(jiān)督學(xué)習(xí)的基本流程圖 7：非監(jiān)督學(xué)習(xí)的基本流程數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理數(shù)據(jù)來源：

19、2019 人工智能發(fā)展報(bào)告，西南證券整理半監(jiān)督學(xué)習(xí)（Semi-Supervised Learning）是監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)相結(jié)合的一種學(xué)習(xí)方法，數(shù)據(jù)集量大但標(biāo)簽少。常見的半監(jiān)督學(xué)習(xí)方式包括直推學(xué)習(xí)和歸納學(xué)習(xí)，直推學(xué)習(xí)可以用沒有標(biāo)記的測(cè)試數(shù)據(jù)進(jìn)行訓(xùn)練，而歸納學(xué)習(xí)不使用沒有標(biāo)簽的數(shù)據(jù)做測(cè)試集強(qiáng)化學(xué)習(xí)（Reinforcement Learning）從動(dòng)物學(xué)習(xí)、參數(shù)擾動(dòng)自適應(yīng)控制等理論發(fā)展而來，目標(biāo)是在每個(gè)離散狀態(tài)發(fā)現(xiàn)最優(yōu)策略以使期望的折扣獎(jiǎng)賞和最大。強(qiáng)化學(xué)習(xí)在機(jī)器人學(xué)科中被廣泛應(yīng)用，如果 Agent 的某個(gè)行為策略導(dǎo)致環(huán)境正的獎(jiǎng)賞（強(qiáng)化信號(hào)），那么 Agent以后產(chǎn)生這個(gè)行為策略的趨勢(shì)便會(huì)加強(qiáng)，通

20、過這種方式改進(jìn)行動(dòng)方案以適應(yīng)環(huán)境。圖 8：半監(jiān)督學(xué)習(xí)的基本流程圖 9：強(qiáng)化學(xué)習(xí)的基本流程數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理深度學(xué)習(xí)（Deep Learning）深度學(xué)習(xí)（DL）是近三十年來機(jī)器學(xué)習(xí)領(lǐng)域發(fā)展最快的一個(gè)重要分支，也是實(shí)現(xiàn)人工智能的必經(jīng)之路。深度學(xué)習(xí)是一類模式分析的統(tǒng)稱，含多個(gè)隱藏層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)，其最終目標(biāo)是讓機(jī)器能夠像人一樣具有分析學(xué)習(xí)能力，能夠識(shí)別文字、圖像和聲音等數(shù)據(jù)。深度學(xué)習(xí)源于人工神經(jīng)網(wǎng)絡(luò)的研究，最早可以追溯到 1958 年的感知機(jī)，通過組合低層特征形成高層特征來發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。

21、深度學(xué)習(xí)主要有以計(jì)算機(jī)視覺和卷積網(wǎng)絡(luò)為主、以生成模型為主、序列模型和增強(qiáng)學(xué)習(xí)四條發(fā)展脈絡(luò)，本節(jié)重點(diǎn)介紹卷積神經(jīng)網(wǎng)絡(luò)、AutoEncoder、增強(qiáng)學(xué)習(xí)和生成對(duì)抗網(wǎng)絡(luò)。圖 10：深度學(xué)習(xí)的重要進(jìn)展數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)的代表算法之一。卷積神經(jīng)網(wǎng)絡(luò)（CNN）最早的雛形是由 LeCun 在 Fukushima 的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上應(yīng)用 BP 算法進(jìn)行訓(xùn)練實(shí)現(xiàn)的。2012 年 Hinton 引入深層結(jié)構(gòu)和 Dropout 方法提出了 AlexNet，顛覆了圖像識(shí)別領(lǐng)域。在這個(gè)基礎(chǔ)上， 2013 年 LeCun 提出的 DropConnect 和 201

22、4 年顏水成提出的 NIN 引發(fā)了大家對(duì) CNN 結(jié)構(gòu)的大膽創(chuàng)新，兩個(gè)新的構(gòu)架 Inception 和 VGG 把網(wǎng)絡(luò)加深到 20 層。2015 年任少卿提出 ResNet 將 CNN 深化到 152 層、1202 層等，后來 Residual-Attention、DenseNet、SENet、 MobileNet 也各有貢獻(xiàn)。圖 11：DenseNet 示意圖圖 12：MobileNet 示意圖數(shù)據(jù)來源：CSDN，SIGAI，西南證券整理數(shù)據(jù)來源：CSDN，SIGAI，西南證券整理卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)主要由輸入層、隱含層以及輸出層三個(gè)部分組成，其中隱含層又包括了由卷積核和卷積層參數(shù)并通過激勵(lì)函

23、數(shù)表達(dá)的卷積層、池化層、Inception 模塊和全連接層。以 LeNet-5 為例，3 類常見構(gòu)筑在隱含層中的順序通常為：輸入-卷積層-池化層-全連接層-輸出。卷積神經(jīng)網(wǎng)絡(luò)的連接性可以提高網(wǎng)絡(luò)結(jié)構(gòu)的穩(wěn)定性和泛化能力，避免過度擬合，同時(shí)，稀疏連接減少了權(quán)重參數(shù)的總量，有利于神經(jīng)網(wǎng)絡(luò)的快速學(xué)習(xí)，和在計(jì)算時(shí)減少內(nèi)存開銷。卷積神經(jīng)網(wǎng)絡(luò)的表征學(xué)習(xí)能力可以識(shí)別位于空間不同位置的相近特征。一個(gè)成功的卷積神經(jīng)網(wǎng)絡(luò)中，傳遞至全連接層的特征圖會(huì)包含與學(xué)習(xí)目標(biāo)相同的特征，例如圖像分類中各個(gè)類別的完整圖像。卷積神經(jīng)網(wǎng)絡(luò)主要應(yīng)用于計(jì)算機(jī)視覺、自然語言處理及其他領(lǐng)域，在計(jì)算機(jī)視覺領(lǐng)域中，該算法又主要運(yùn)用于圖像識(shí)別、物體

24、識(shí)別、行為認(rèn)知、姿態(tài)估計(jì)、神經(jīng)風(fēng)格遷移等方面，在自然語言處理領(lǐng)域中，該算法主要運(yùn)用于語音處理，在其他領(lǐng)域中，該算法對(duì)物理學(xué)、遙感科學(xué)、大氣科學(xué)等學(xué)科均有貢獻(xiàn)。圖 13：基于卷積神經(jīng)網(wǎng)絡(luò)的鳥類識(shí)別（圖像識(shí)別）圖 14：使用 CNN 提取噴流圖特征（物理學(xué)）數(shù)據(jù)來源：Bird species categorization using pose normalized deep convolutional nets，西南證券整理數(shù)據(jù)來源：Jet-imagesdeep learning edition，西南證券整理AutoEncoder（AE）的基本思想是利用神經(jīng)網(wǎng)絡(luò)來做無監(jiān)督學(xué)習(xí)。Autoencode

25、r是一種無監(jiān)督的學(xué)習(xí)算法， 主要用于數(shù)據(jù)的降維或者特征的抽取， 在深度學(xué)習(xí)中， autoencoder 可用于在訓(xùn)練階段開始前，確定權(quán)重矩陣 WW 的初始值。encode 和 decode兩個(gè)過程可以理解成互為反函數(shù)，在 encode 過程不斷降維，在 decode 過程提高維度。當(dāng) AutoEncoder 過程中用卷積操作提取特征，相當(dāng)于 encode 過程為一個(gè)深度卷積神經(jīng)網(wǎng)絡(luò)，好多層的卷積池化，那么 decode 過程就需要進(jìn)行反卷積和反池化。它的特點(diǎn)是編碼器會(huì)創(chuàng)建一個(gè)隱藏層（或多個(gè)隱藏層）包含了輸入數(shù)據(jù)含義的低維向量。然后有一個(gè)解碼器，會(huì)通過隱藏層的低維向量重建輸入數(shù)據(jù)。神經(jīng)網(wǎng)絡(luò)中的權(quán)

26、重矩陣 WW 可看作是對(duì)輸入的數(shù)據(jù)進(jìn)行特征轉(zhuǎn)換，即先將數(shù)據(jù)編碼為另一種形式，然后在此基礎(chǔ)上進(jìn)行一系列學(xué)習(xí)。圖 15：AutoEncoder 示意圖圖 16：Pre-training 訓(xùn)練神經(jīng)網(wǎng)絡(luò)的初始權(quán)重?cái)?shù)據(jù)來源：CNDS，圖靈的貓，西南證券整理數(shù)據(jù)來源：CNDS，圖靈的貓，西南證券整理增強(qiáng)學(xué)習(xí)。增強(qiáng)學(xué)習(xí)是機(jī)器學(xué)習(xí)的一種。機(jī)器學(xué)習(xí)主要分監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、增強(qiáng)學(xué)習(xí)。增強(qiáng)學(xué)習(xí)讓計(jì)算機(jī)自己去學(xué)著做事情，如果做的好就獎(jiǎng)勵(lì)，做的不好就給與一定懲罰。生成對(duì)抗網(wǎng)絡(luò)是一個(gè)以生成模型為基礎(chǔ)的模型，其傳統(tǒng)模型為預(yù)測(cè)聯(lián)合概率分布 P（x，y）。最早出現(xiàn)于 1986 年的玻爾茲曼機(jī)的模型，并在 200

27、6 年被重新定義，并且將其堆疊成為 Deep Belief Network，使用逐層貪婪或者 wake-sleep 的方法訓(xùn)練。生成對(duì)抗網(wǎng)絡(luò)是 Ian Goodfellow 在 2014 年提出的一種新模型。最初，是為了通過神經(jīng)網(wǎng)絡(luò)來生成數(shù)據(jù)。因此，Ian 被稱為生成對(duì)抗網(wǎng)絡(luò)之父。生成對(duì)抗網(wǎng)絡(luò)由兩部分組成，分別是生成器和判別器。在訓(xùn)練的過程中，需要兩者很好的配合。生成器慢慢達(dá)到一個(gè)更好狀態(tài)，而判別器也越來越精確，兩者不斷博弈，相互促進(jìn)，最終判別器無法識(shí)別生成器。計(jì)算機(jī)視覺計(jì)算機(jī)的視覺感知是為了讓計(jì)算機(jī)具備人的視覺，可以自動(dòng)提取圖像、視頻等視覺數(shù)據(jù)中蘊(yùn)含的層次化語義概念及多語義概念間的時(shí)空關(guān)聯(lián)等

28、。它的主要任務(wù)就是通過對(duì)采集的圖片或視頻進(jìn)行處理以獲得相應(yīng)場(chǎng)景的三維信息。其原理是用各種成像系統(tǒng)代替視覺器官作為輸入敏感手段，由計(jì)算機(jī)來代替大腦完成處理和解釋。視覺感知的最終研究目標(biāo)就是使計(jì)算機(jī)能象人那樣通過視覺觀察和理解世界，具有自主適應(yīng)環(huán)境的能力。主要應(yīng)用于控制過程、導(dǎo)航、檢測(cè)事件、組織信息、造型對(duì)象或環(huán)境、相互作用及自動(dòng)檢測(cè)等，其中最突出的應(yīng)用領(lǐng)域是醫(yī)療計(jì)算機(jī)視覺和醫(yī)學(xué)圖像處理。目前視覺感知存在著識(shí)別、運(yùn)動(dòng)、場(chǎng)景重建及圖像恢復(fù)四個(gè)問題。在識(shí)別方面，到目前為止，還沒有某個(gè)單一的方法能夠廣泛的對(duì)各種情況進(jìn)行判定：在任意環(huán)境中識(shí)別任意物體?，F(xiàn)有技術(shù)能夠也只能夠很好地解決特定目標(biāo)的識(shí)別，比如簡單

29、幾何圖形識(shí)別，人臉識(shí)別，印刷或手寫文件識(shí)別或者車輛識(shí)別。而且這些識(shí)別需要在特定的環(huán)境中，具有指定的光照，背景和目標(biāo)姿態(tài)要求。視覺感知主要是通過各種系統(tǒng)來實(shí)現(xiàn)，有些是獨(dú)立工作的，用于解決具體的測(cè)量或檢測(cè)問題；也有些作為某個(gè)大型復(fù)雜系統(tǒng)的組成部分出現(xiàn)，比如和機(jī)械控制系統(tǒng)，數(shù)據(jù)庫系統(tǒng)，人機(jī)接口設(shè)備協(xié)同工作。而每個(gè)系統(tǒng)都具備圖像獲取、預(yù)處理、特征提取、檢測(cè)分割及高級(jí)處理等五項(xiàng)重要功能。圖 17：生成對(duì)抗網(wǎng)絡(luò)（SinGAN）生成的圖像樣本數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理計(jì)算機(jī)視覺經(jīng)歷了馬爾計(jì)算視覺、多視幾何與分層三維重建、基于學(xué)習(xí)的視覺三個(gè)階段。本世紀(jì)初基于學(xué)習(xí)的視覺研究主要是以流形學(xué)

30、習(xí)為代表的子空間法，當(dāng)前主要是以深度學(xué)習(xí)為代表的視覺方法：SinGAN 生成框架由具有層級(jí)結(jié)構(gòu)的 patch-GANs（馬爾可夫判別器）組成，能夠處理包含復(fù)雜結(jié)構(gòu)和紋理的普通自然圖像的神經(jīng)網(wǎng)絡(luò)。DeepLabv3+通過添加一個(gè)簡單有效的解碼器模塊來優(yōu)化對(duì)象邊界的分割結(jié)果，將深度分離卷積應(yīng)用于 ASPP，通過空洞卷積提取稠密特征。AAE 與最先進(jìn)的深度學(xué)習(xí)方法相比，具有更好的準(zhǔn)確性和更高的效率。圖 18：編碼器模塊（DeepLabv3+）的網(wǎng)絡(luò)結(jié)構(gòu)圖 19：增強(qiáng)型自動(dòng)編碼器（AAE）的訓(xùn)練過程數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理數(shù)據(jù)來源：2019 人工智能發(fā)展報(bào)告，西南證券整理雖然

31、技術(shù)看起來眼花繚亂，但究其本質(zhì)，AI 其實(shí)是一種新的思維方式，是對(duì)人的意識(shí)、思維進(jìn)行模擬，它滲透到社會(huì)的各個(gè)層面。提升效率的正面因素是帶來生產(chǎn)率的提升，而思維和其技術(shù)越來越隱藏于背后，使得外界難以一窺究竟?？梢韵胍?，不具備 AI 思維的企業(yè)是沒有未來的，不具備 AI 思維的人才是沒有高度的。在可見的未來，AI 將會(huì)極大改變社會(huì)生態(tài)和人才的分布，我們也會(huì)更加深刻地理解，人才是最關(guān)鍵的這個(gè)詞的真正的力量。AI 商業(yè)生態(tài)梳理從投資的角度，或許沒有辦法對(duì)技術(shù)有多深刻的掌握和理解，由于技術(shù)、算法都是高速迭代，從技術(shù)本身進(jìn)行判斷是非常困難的，其商業(yè)本質(zhì)和選擇的賽道會(huì)更容判斷。所以下面一章，我們會(huì)從商業(yè)的角

32、度進(jìn)行梳理。AI 最令人激動(dòng)的方面之一是實(shí)際應(yīng)用比比皆是。深度學(xué)習(xí)推動(dòng)了計(jì)算機(jī)視覺的發(fā)展，而自然語言處理等技術(shù)正在極大地提高蘋果的 Siri，亞馬遜的 Alexa 和 Google 的照片識(shí)別質(zhì)量。在將大數(shù)據(jù)集與足夠強(qiáng)大的技術(shù)結(jié)合在一起的情況下，就可以創(chuàng)造價(jià)值并獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。對(duì) AI 的關(guān)注應(yīng)該是持續(xù)的，雖然各行各業(yè)都用 AI 提升自己的效率和技術(shù)水平，現(xiàn)階段在服務(wù)、培訓(xùn)、數(shù)據(jù)、硬件等方面的投入在持續(xù)增加。技術(shù)、硬件全球生態(tài)現(xiàn)階段，各公司會(huì)根據(jù)自身的條件和資源學(xué)習(xí)或者掌握 AI 技術(shù)，機(jī)器學(xué)習(xí)嚴(yán)重依賴于云平臺(tái)供應(yīng)商提供的開源技術(shù)和服務(wù)。下表是全球機(jī)器學(xué)習(xí)浪潮中的 AI 技術(shù)生態(tài)和相關(guān)的公司。表

33、 2：AI 全球技術(shù)生態(tài)框架服務(wù)-客戶當(dāng)前時(shí)代（hybrid）人工智能分析工具決策支持系統(tǒng)、報(bào)告、統(tǒng)計(jì)IBM,SAP,SAS,SPSS商業(yè)智能、報(bào)告、統(tǒng)計(jì) Congnos, Business Objects, Crystal System, Microstrategy,SAS商業(yè)智能、數(shù)據(jù)可視化、統(tǒng)計(jì) IBM, SAS,SAP, Microsoft Tableau, Olik Domo, Looker,Amazon, Salesforce可視化、機(jī)器學(xué)習(xí)服務(wù)和框架 Tableau, IBM, NVIDIA, SASSkymind, Databricks,Amazon,GoogleMicroso

34、ft, Alibaba, Baidu框架服務(wù)-客戶當(dāng)前時(shí)代（hybrid）人工智能程序語言COBOL、Pascal、ALGOL IBM,Borland Software,Burroughs,NCR,DECJAVA、Net、SQLSun Microsystems, MicrosoftJava、Net、Jabascript Rudy, SQLOracle, MicrosoftPython、R、SQL Microsoft數(shù)據(jù)處理層次數(shù)據(jù)庫IBM, DEC, Unisys關(guān)系數(shù)據(jù)庫IBM, Oracle, Microsoft Informix, Sybase, Teradata MySQL關(guān)系數(shù)據(jù)庫

35、非關(guān)系數(shù)據(jù)庫分布式計(jì)算Oracle, Microsoft,SAP,IBM, TeradataMongoDB, DataStax Cloudera, Hortnworks Amazon, Google神經(jīng)網(wǎng)絡(luò) 流水式處理 非關(guān)系數(shù)據(jù)庫分布式計(jì)算 關(guān)系數(shù)據(jù)庫IBM、Databricks, Cloudera Oracle, Hortnworks Amazon, Google, MicrosoftQubole, Alibaba, Baidu數(shù)據(jù)整合有限數(shù)據(jù)移動(dòng)IBM加載/數(shù)據(jù)集成消息傳遞 應(yīng)用集成Prism, Informatica, Ab Initio, Ascential, TIBCO, BEA,

36、 Microsoft依賴數(shù)據(jù),企業(yè)應(yīng)用集成流媒體消息傳遞IBM, Oracle, Informatica Talend, Confluent, Cloudera, HortonworksMicrosoft, Amazon,Google流媒體、制備、消息傳遞IBM,Talend, Confluent, Cloudera Hortonworks, Databricks， Skymind, Amazon, Google, Microsoft, Alibaba, Baidu儲(chǔ)存大型主機(jī)DEC,IBM儲(chǔ)存區(qū)域網(wǎng) 網(wǎng)絡(luò)連接存儲(chǔ)EMC, NetAPP, IBM儲(chǔ)存區(qū)域網(wǎng) 網(wǎng)絡(luò)連接存儲(chǔ)分布式計(jì)算 云對(duì)象存儲(chǔ)D

37、ell, NetApp, IBM Cloudera, Hortonworks MapR Amazon, Google,Microsoft, Baidu分布式計(jì)算云對(duì)象存儲(chǔ)IBM, Dell, Cloudera, Hortonworks, MapR,Amazon,Google, Microsoft, Baidu, Alibaba計(jì)算機(jī)DEC,IBM,NCRBurroghsUnix Severce x86 IBM,Dell,HP云計(jì)算設(shè)備 HP,Dell,Lenovo,Huawei Cisco, Amazon,Google,Microsoft云計(jì)算設(shè)備 IBM,HP,Dell,Lenovo Hua

38、wei,Cisco Amazon,Google,MicrosoftBaidu,Alibaba組件HDD, CPUIBM,Fairchild DEC,CDC,EMCHDD, CPUIBM, Intel, AMD, Western, Digital, Seagate,Sandisk, TMSHDD, SDD,CPUIntel, ARM Holdings, Western Digital, SeagateHDD, SDD,CPU,GPU,FPGAIntel, ARM Holdings, Western Digital, Seagate,NVIDIA,Xilinx, Google數(shù)據(jù)來源：AI,Machine LearningGoldman Sach，西南證券整理政府和全球巨頭生態(tài)建設(shè)火熱進(jìn)行中AI 技術(shù)目前已經(jīng)滲透進(jìn)各個(gè)行業(yè)，每個(gè)行業(yè)屬性不同，其技術(shù)發(fā)展水平和使用場(chǎng)景不同。目前產(chǎn)品成熟度較高的為智能家居。從人工智能技術(shù)目前在各個(gè)行業(yè)的使用率情況來看，安防和金融行業(yè)的人工智能技術(shù)使用率最高，其他行業(yè)如零售、交通、教育、醫(yī)療、制造、健康使用率較低。在政府和大型公司的領(lǐng)跑下，越來越多的 AI 開放平臺(tái)開始涌現(xiàn)出來。2017-2018 年，科技部等多部門確定了五大國家新一代人工智能開放創(chuàng)新平臺(tái)：分別依托百度、阿里云、騰訊、科大訊飛公司、商湯集團(tuán)，建設(shè)自動(dòng)駕