人工智能知識(shí)概述教學(xué)

人工智能知識(shí)概述人工智能簡(jiǎn)述01深度學(xué)習(xí)算法02知識(shí)圖譜03人工智能將引領(lǐng)人類(lèi)第四次工業(yè)革命–智能化時(shí)間18世紀(jì)末工業(yè)1.0創(chuàng)造了機(jī)器工廠(chǎng)的“蒸汽時(shí)代”20世紀(jì)初電力廣泛應(yīng)用蒸汽機(jī)信息物聯(lián)系統(tǒng)1970年代初今天工業(yè)2.0將人類(lèi)帶入分工明確、大批量生產(chǎn)的流水線(xiàn)模式和“電氣時(shí)代”工業(yè)3.0應(yīng)用電子信息技術(shù)，進(jìn)一步提高生產(chǎn)自動(dòng)化水平自動(dòng)化、信息化工業(yè)4.0開(kāi)始應(yīng)用信息物理融合系統(tǒng)（CPS）復(fù)雜度悄悄來(lái)臨互聯(lián)網(wǎng)時(shí)代正在終結(jié)人工智能機(jī)器人交通工具（即無(wú)人機(jī)、無(wú)人駕駛等）VR（虛擬現(xiàn)實(shí)）AI將催生“無(wú)用階層”嗎？人工/腦力勞動(dòng)：翻譯、記者...人工/體力勞動(dòng)：保安、保姆...什么是人工智能(AI)?全面實(shí)施戰(zhàn)略性新興產(chǎn)業(yè)發(fā)展規(guī)劃，加快人工智能等技術(shù)的研發(fā)和轉(zhuǎn)化，做大做強(qiáng)產(chǎn)業(yè)集群把發(fā)展智能制造作為主攻方向，推進(jìn)國(guó)家智能制造示范區(qū)、制造業(yè)創(chuàng)新中心建設(shè)人工智能：國(guó)家戰(zhàn)略(2017年政府工作報(bào)告)人工智能（ArtificialIntelligence），英文縮寫(xiě)為AI。它是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門(mén)新的技術(shù)科學(xué)。它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類(lèi)智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專(zhuān)家系統(tǒng)等。人工智能是對(duì)人的意識(shí)、思維的信息過(guò)程的模擬。人工智能不是人的智能，但能像人那樣思考、也可能超過(guò)人的智能。什么是人工智能？人工智能有那些類(lèi)型？弱人工智能，包含基礎(chǔ)的、特定場(chǎng)景下角色型的任務(wù)，如Siri等聊天機(jī)器人和AlphaGo等下棋機(jī)器人；通用人工智能，包含人類(lèi)水平的任務(wù)，涉及機(jī)器的持續(xù)學(xué)習(xí)；強(qiáng)人工智能，指比人類(lèi)更聰明的機(jī)器；195619741980198719932006AI的誕生1956達(dá)特矛斯會(huì)議，“人工智能”正式誕生孕育期電子計(jì)算機(jī)機(jī)器翻譯與NLP圖靈測(cè)試計(jì)算機(jī)下棋早期神經(jīng)網(wǎng)絡(luò)搜索式推理聊天機(jī)器人樂(lè)觀(guān)思潮所有的AI程序都只是“玩具”運(yùn)算能力計(jì)算復(fù)雜性常識(shí)與推理專(zhuān)家系統(tǒng)知識(shí)工程五代機(jī)神經(jīng)網(wǎng)絡(luò)重生未達(dá)預(yù)期削減投入摩爾定律統(tǒng)計(jì)機(jī)器學(xué)習(xí)AI廣泛應(yīng)用大數(shù)據(jù)計(jì)算能力應(yīng)用增多深度學(xué)習(xí)人工智能2016人工智能發(fā)展歷程手機(jī)中的AI人工智能相關(guān)技術(shù)剛剛越過(guò)曲線(xiàn)高峰（處于狂熱期），是推動(dòng)透明化身臨其境體驗(yàn)技術(shù)發(fā)展的主要?jiǎng)恿ι婕巴该骰砼R其境體驗(yàn)的人本技術(shù)（如智能工作空間、互聯(lián)家庭、增強(qiáng)現(xiàn)實(shí)、虛擬現(xiàn)實(shí)、腦機(jī)接口）是拉動(dòng)另外兩大趨勢(shì)的前沿技術(shù)數(shù)字平臺(tái)在曲線(xiàn)上處于快速上升期，其中的量子計(jì)算和區(qū)塊鏈將在今后5—10年帶來(lái)變革性的影響AI處于什么階段？AIRoadmap國(guó)人為什么要關(guān)注AI？為什么人類(lèi)能成為地球的主宰？基因：人和大猩猩的基因，有98.4%都是完全一樣的，只有1.6%有區(qū)別“符號(hào)語(yǔ)言”（口頭語(yǔ)言和書(shū)面文字）：傳遞、保存、共享知識(shí)“集體知識(shí)”：人類(lèi)的大腦可以相互共享信息，交換知識(shí)人類(lèi)個(gè)體比其他動(dòng)物沒(méi)有多大優(yōu)勢(shì)，掌握了符號(hào)語(yǔ)言，人類(lèi)社會(huì)的結(jié)構(gòu)發(fā)生了突變，有了一個(gè)連接在一起的集體大腦。這種物種之間相互關(guān)聯(lián)、相互作用的方式，才是我們和其他物種的真正區(qū)別腦容量：歷史上的“尼安德特人”和我們的祖先腦容量是一樣的。但后來(lái)尼安德特人就沒(méi)留下來(lái)，只有我們這一支留下來(lái)了《時(shí)間地圖：大歷史導(dǎo)論》知識(shí)和創(chuàng)新是推動(dòng)人類(lèi)發(fā)展的動(dòng)力AI學(xué)科結(jié)構(gòu)AI的幾大門(mén)派符號(hào)學(xué)派聯(lián)結(jié)學(xué)派行為學(xué)派神經(jīng)網(wǎng)絡(luò)知識(shí)表示機(jī)器人模擬人的心智模擬腦的結(jié)構(gòu)模擬人的行為聰明的AI有學(xué)識(shí)的AI深度學(xué)習(xí)知識(shí)圖譜感知識(shí)別判斷思考語(yǔ)言推理貝葉斯學(xué)派進(jìn)化學(xué)派類(lèi)推學(xué)派人工智能產(chǎn)業(yè)生態(tài)的三層基本架構(gòu)基礎(chǔ)資源層：主要是計(jì)算平臺(tái)和數(shù)據(jù)中心，屬于計(jì)算智能；技術(shù)層：通過(guò)機(jī)器學(xué)習(xí)建模，開(kāi)發(fā)面向不同領(lǐng)域的算法和技術(shù)，包含感知智能和認(rèn)知智能；應(yīng)用層：主要實(shí)現(xiàn)人工智能在不同場(chǎng)景下的應(yīng)用?；A(chǔ)資源支撐AI生態(tài)逐步形成：基礎(chǔ)資源+技術(shù)+應(yīng)用人工智能系統(tǒng)的技術(shù)架構(gòu)智能終端智能云平臺(tái)人工智能簡(jiǎn)述01深度學(xué)習(xí)算法02知識(shí)圖譜03推理期知識(shí)期機(jī)器學(xué)習(xí)期人工智能的三個(gè)研究階段1950s1970s1980s基于符號(hào)知識(shí)表示通過(guò)演繹推理技術(shù)基于符號(hào)知識(shí)表示通過(guò)獲取和利用領(lǐng)域知識(shí)建立專(zhuān)家系統(tǒng)神經(jīng)網(wǎng)絡(luò)第二個(gè)高潮NP(non-deterministicpolynomial-time)難題中獲重大進(jìn)展助力大量現(xiàn)實(shí)問(wèn)題神經(jīng)網(wǎng)絡(luò)第一個(gè)高潮期神經(jīng)網(wǎng)絡(luò)以深度學(xué)習(xí)之名再次崛起大幅提升感知智能準(zhǔn)確率201790s中期統(tǒng)計(jì)學(xué)習(xí)登場(chǎng)并占據(jù)主流，支持向量機(jī)、核方法為代表性技術(shù)提出支持向量、VC維等概念統(tǒng)計(jì)學(xué)的研究成果經(jīng)由機(jī)器學(xué)習(xí)研究，形成有效的學(xué)習(xí)算法聯(lián)結(jié)學(xué)派對(duì)大腦進(jìn)行逆向分析靈感來(lái)自于神經(jīng)科學(xué)和物理學(xué)產(chǎn)生的是“黑箱”模型神經(jīng)網(wǎng)絡(luò)可歸置此類(lèi)符號(hào)學(xué)派將學(xué)習(xí)看作逆向演繹并從哲學(xué)、心理學(xué)、邏輯學(xué)中尋求洞見(jiàn)代表包括決策樹(shù)和基于邏輯的學(xué)習(xí)機(jī)器學(xué)習(xí)&深度學(xué)習(xí)從以“推理”為重點(diǎn)到以“知識(shí)”為重點(diǎn)，再到以“學(xué)習(xí)”為重點(diǎn)機(jī)器可以自動(dòng)“學(xué)習(xí)”的算法，即從數(shù)據(jù)中自動(dòng)分析獲得規(guī)律，并利用規(guī)律對(duì)未知數(shù)據(jù)進(jìn)行預(yù)測(cè)的算法。目前，機(jī)器學(xué)習(xí)=“分類(lèi)”人工智能>機(jī)器學(xué)習(xí)>深度學(xué)習(xí)深度學(xué)習(xí)是使用包含復(fù)雜結(jié)構(gòu)或由多重非線(xiàn)性變換構(gòu)成的多個(gè)處理層對(duì)數(shù)據(jù)進(jìn)行高層抽象的算法深度學(xué)習(xí)是一種基于對(duì)數(shù)據(jù)進(jìn)行表征學(xué)習(xí)的方法。觀(guān)測(cè)值（例如一幅圖像）可以使用多種方式來(lái)表示，如每個(gè)像素強(qiáng)度值的向量，或者更抽象地表示成一系列邊、特定形狀的區(qū)域等。而使用某些特定的表示方法更容易從實(shí)例中學(xué)習(xí)任務(wù)（例如，人臉識(shí)別或面部表情識(shí)別）。深度學(xué)習(xí)的好處是用非監(jiān)督式或半監(jiān)督式的特征學(xué)習(xí)和分層特征提取高效算法來(lái)替代手工獲取特征用數(shù)據(jù)優(yōu)化計(jì)算機(jī)程序的模型參數(shù)通過(guò)經(jīng)驗(yàn)自動(dòng)改進(jìn)的計(jì)算機(jī)算法深度學(xué)習(xí)算法簡(jiǎn)介：機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)的基本定理模型的出錯(cuò)率∝推論：模型復(fù)雜-》大樣本

樣本小-》簡(jiǎn)化模型

Classlabel(Classification)Vector(Estimation)機(jī)器學(xué)習(xí)實(shí)施過(guò)程特征提取特征1樣本數(shù)據(jù)樣本數(shù)據(jù)樣本數(shù)據(jù)…n預(yù)處理特征樣本集原始樣本集機(jī)器學(xué)習(xí)算法訓(xùn)練預(yù)測(cè)輸出驗(yàn)證集評(píng)價(jià)目標(biāo)特征1…n目標(biāo)特征1…n目標(biāo)特征1…n訓(xùn)練集目標(biāo)特征1…n目標(biāo)特征1…n目標(biāo)特征1…n驗(yàn)證集目標(biāo)特征1…n目標(biāo)特征1…n目標(biāo)預(yù)測(cè)目標(biāo)預(yù)測(cè)目標(biāo)預(yù)測(cè)目標(biāo)改進(jìn)特征提取特征提取特征1樣本數(shù)據(jù)樣本數(shù)據(jù)樣本數(shù)據(jù)…n特征樣本集原始樣本集目標(biāo)特征1…n目標(biāo)特征1…n目標(biāo)統(tǒng)計(jì)分析變換特征運(yùn)算特征選取是成敗的關(guān)鍵人腦是通過(guò)分級(jí)的、多層網(wǎng)絡(luò)模型來(lái)識(shí)別減少數(shù)據(jù)量，保留物體的有用信息低層信息預(yù)處理特征提取識(shí)別分類(lèi)對(duì)效果影響極大手動(dòng)化特征工程非常耗時(shí)圖像識(shí)別的一般流程人腦識(shí)別圖像的過(guò)程第一個(gè)模型是一個(gè)線(xiàn)性模型，低度擬合，不能很好地適應(yīng)訓(xùn)練集；第三個(gè)模型是一個(gè)四次方的模型，過(guò)度擬合，雖然能非常好地適應(yīng)我們的訓(xùn)練集，但在新輸入變量進(jìn)行預(yù)測(cè)時(shí)可能會(huì)效果不好；中間的模型似乎最合適經(jīng)過(guò)算法預(yù)測(cè)的結(jié)果是一個(gè)連續(xù)的值，我們稱(chēng)這樣的問(wèn)題為回歸問(wèn)題。算法能夠?qū)W會(huì)如何將數(shù)據(jù)分類(lèi)到不同的類(lèi)里，我們稱(chēng)這樣的問(wèn)題為分類(lèi)問(wèn)題。深度學(xué)習(xí)算法簡(jiǎn)介：數(shù)學(xué)基礎(chǔ)當(dāng)感知器用于兩類(lèi)模式的分類(lèi)時(shí)，相當(dāng)于在高維樣本空間中，用一個(gè)超平面將兩類(lèi)樣本分開(kāi)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程就是神經(jīng)網(wǎng)絡(luò)參數(shù)的設(shè)定過(guò)程一個(gè)神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)確定之后，需要對(duì)一系列參數(shù)（權(quán)重、閾值等）進(jìn)行有效的設(shè)定。這個(gè)過(guò)程叫做學(xué)習(xí)或訓(xùn)練過(guò)程，此時(shí)的方法叫學(xué)習(xí)算法是一個(gè)由線(xiàn)性閾值元件組成的單層（或多層）神經(jīng)元的神經(jīng)網(wǎng)絡(luò)當(dāng)輸入的加權(quán)和大于或等于閾值時(shí)，輸出為1，否則為0模型假定神經(jīng)元中間的耦合程度（即加權(quán)系數(shù)W）可變，這樣，該模型可以學(xué)習(xí)深度學(xué)習(xí)算法簡(jiǎn)介：感知器監(jiān)督學(xué)習(xí)通過(guò)已有的訓(xùn)練樣本（即已知數(shù)據(jù)以及其對(duì)應(yīng)的輸出）訓(xùn)練得到一個(gè)最優(yōu)模型（這個(gè)模型屬于某個(gè)函數(shù)的集合，最優(yōu)則表示在某個(gè)評(píng)價(jià)準(zhǔn)則下是最佳的），再利用這個(gè)模型將所有的輸入映射為相應(yīng)的輸出，對(duì)輸出進(jìn)行簡(jiǎn)單的判斷從而實(shí)現(xiàn)分類(lèi)的目的，從而也就具有了對(duì)未知數(shù)據(jù)進(jìn)行分類(lèi)的能力各種神經(jīng)網(wǎng)絡(luò)類(lèi)型LogisticRBMAutoEncoderSparseCodingConvolutional（卷積）強(qiáng)化學(xué)習(xí)類(lèi)似人類(lèi)與環(huán)境交互的方式，智能系統(tǒng)從環(huán)境到行為映射的學(xué)習(xí)，以使獎(jiǎng)勵(lì)信號(hào)函數(shù)值最大。環(huán)境對(duì)產(chǎn)生動(dòng)作的好壞通過(guò)獎(jiǎng)勵(lì)信號(hào)作評(píng)價(jià)，而不是告訴強(qiáng)化學(xué)習(xí)系統(tǒng)如何去產(chǎn)生正確的動(dòng)作。強(qiáng)化學(xué)習(xí)不能立即得到標(biāo)記，而只能得到一個(gè)反饋，因此可以說(shuō)強(qiáng)化學(xué)習(xí)是一種具有“延遲標(biāo)記信息”的監(jiān)督學(xué)習(xí)典型案例：AlphaGo深度學(xué)習(xí)的訓(xùn)練方法2006年，GeoffreyHinton在《科學(xué)》上發(fā)表論文提出深度學(xué)習(xí)主要觀(guān)點(diǎn)：多隱層的人工神經(jīng)網(wǎng)絡(luò)具有優(yōu)異的特征學(xué)習(xí)能力，學(xué)習(xí)得到的特征對(duì)數(shù)據(jù)有更本質(zhì)的刻畫(huà)，從而有利于可視化或分類(lèi)深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練上的難度，可以通過(guò)“逐層初始化”（layer-wisepre-training）來(lái)有效克服，逐層初始化可通過(guò)無(wú)監(jiān)督學(xué)習(xí)實(shí)現(xiàn)的在著名的ImageNet問(wèn)題上將錯(cuò)誤率從26％降低到了15％，并且輸入沒(méi)有用到其他任何人工特征，僅僅是圖像的像素遷移學(xué)習(xí)將從擁有大數(shù)據(jù)的源領(lǐng)域上學(xué)習(xí)到的東西應(yīng)用到僅有小數(shù)據(jù)的目標(biāo)領(lǐng)域上去，實(shí)現(xiàn)個(gè)性化遷移，即舉一反三、觸類(lèi)旁通。典型案例：斯坦福學(xué)者使用衛(wèi)星圖像獲取的燈光信息來(lái)分析非洲大陸的貧窮情況深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法LeNet-5：卷積神經(jīng)網(wǎng)絡(luò)手寫(xiě)數(shù)字識(shí)別的應(yīng)用卷積過(guò)程包括：用一個(gè)可訓(xùn)練的濾波器fx去卷積一個(gè)輸入的圖像，然后加一個(gè)偏置bx，得到卷積層Cx。子采樣過(guò)程包括：每鄰域四個(gè)像素求和變?yōu)橐粋€(gè)像素，加權(quán)再增加偏置，通過(guò)一個(gè)激活函數(shù)，產(chǎn)生一個(gè)縮小四倍的特征映射圖C1層：輸入圖片大?。?32*32卷積窗大?。?5*5卷積窗種類(lèi)： 6輸出特征圖數(shù)量：6輸出特征圖大?。?8*28 (32-5+1)神經(jīng)元數(shù)量： 4707[(28*28)*6)]連接數(shù)： 12304[(5*5+1)*6]*(28*28)可訓(xùn)練參數(shù)： 156[(5*5+1)*6]局部感受-卷積FeatureMap池化原理：根據(jù)圖像局部相關(guān)的原理，圖像某個(gè)鄰域內(nèi)只需要一個(gè)像素點(diǎn)就能表達(dá)整個(gè)區(qū)域的信息常見(jiàn)的方法：最大值池化（max-pooling）L2池化（L2pooling）均值池化（MeanPooling）LeNet-5YannLecun,1989年用美國(guó)郵政系統(tǒng)提供的近萬(wàn)個(gè)手寫(xiě)數(shù)字的樣本來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)系統(tǒng)，在獨(dú)立的測(cè)試樣本中,錯(cuò)誤率只有5%進(jìn)一步運(yùn)用CNN，開(kāi)發(fā)出LeNet-5用于讀取銀行支票上的手寫(xiě)數(shù)字，這個(gè)支票識(shí)別系統(tǒng)在九十年代末占據(jù)了美國(guó)接近20%的市場(chǎng)深度學(xué)習(xí)的訓(xùn)練方法HintoninImageNet比賽140萬(wàn)圖像， 1000類(lèi)圖庫(kù)1000萬(wàn)圖像20000類(lèi)7層CNN準(zhǔn)確率74%->85%深度學(xué)習(xí)的成功應(yīng)用AlphaGo戰(zhàn)勝李世乭圖像識(shí)別全面超越人類(lèi)語(yǔ)音識(shí)別接近人類(lèi)將聲學(xué)模型中混合高斯模型替換為DNN模型獲得30%+相對(duì)提升TeslaAutopilot投入商用GoogleTranslate投入商用它把原文例如中文詞先翻成一個(gè)詞向量，變成一個(gè)數(shù)字向量。它對(duì)這個(gè)詞向量再編輯，變成一個(gè)語(yǔ)義表示的方式。再把它翻譯成它的目標(biāo)語(yǔ)言，例如英文。人工智能簡(jiǎn)述01深度學(xué)習(xí)算法02知識(shí)圖譜03知識(shí)圖譜(KnowledgeGraph)知識(shí)圖譜旨在描述真實(shí)世界中存在的各種實(shí)體或概念及其關(guān)系，一般用三元組表示知識(shí)圖譜亦可被看作是一張巨大的圖，節(jié)點(diǎn)表示實(shí)體或概念，邊則由屬性或關(guān)系構(gòu)成中國(guó)國(guó)家美國(guó)日本英國(guó)北京9,634,057平方公里13.5404億2069.3萬(wàn)北緯38°56'東經(jīng)116°20'3.1525億華盛頓9,629,091平方公里北緯38°53′西經(jīng)77°02'178平方公里16410平方公里1.26億377835平方公里東京2188平方公里東經(jīng)140°50'北緯35°44'……面積人口首都緯度經(jīng)度面積人口知識(shí)圖譜構(gòu)建Web字典,術(shù)語(yǔ)表,百科,書(shū)本知識(shí)獲取++已有知識(shí)庫(kù)知識(shí)融合知識(shí)驗(yàn)證知識(shí)圖譜名稱(chēng)規(guī)模Yago1千萬(wàn)實(shí)體，35萬(wàn)類(lèi)別，1.8億事實(shí)，100種屬性，100語(yǔ)言Dbpedia4千萬(wàn)實(shí)體，250類(lèi)別，5億事實(shí)，6000種屬性，F(xiàn)reebase2千5百萬(wàn)實(shí)體，2000主題，1億事實(shí)，4000種屬性谷歌知識(shí)圖譜5億實(shí)體名字，35億條事實(shí)NELL3百萬(wàn)實(shí)體名字，300類(lèi)別500屬性，100萬(wàn)事實(shí)1千5百萬(wàn)學(xué)習(xí)規(guī)則基于人工規(guī)則的語(yǔ)義理解神話(huà)是孫楠和誰(shuí)合唱的？文法解析知識(shí)庫(kù)查詢(xún)SPARQL查詢(xún)語(yǔ)句生成答案生成孫楠和韓紅合唱了神話(huà)韓紅歌手6萬(wàn)歌曲260萬(wàn)專(zhuān)輯44萬(wàn)標(biāo)簽2000類(lèi)param:singer孫楠#param:song神話(huà)#predicate:chorusWith神話(huà)是孫楠和誰(shuí)合唱的