第1章-深度學(xué)習(xí)概述

DEEPLEARNING深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用1.1

人工智能的思想、流派與發(fā)展起落1.2什么是深度學(xué)習(xí)1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)1.4深度學(xué)習(xí)的應(yīng)用場(chǎng)景of312習(xí)題1.1人工智能的思想、流派與發(fā)展起落第一章深度學(xué)習(xí)的來源與應(yīng)用of313

人工智能，也稱機(jī)器智能。最初于1956年的Dartmouth學(xué)會(huì)上提出，是計(jì)算機(jī)科學(xué)、控制論、信息論、神經(jīng)生理學(xué)、心理學(xué)、語(yǔ)言學(xué)等多種學(xué)科互相滲透而發(fā)展起來的一門綜合性學(xué)科。以現(xiàn)代科技詮釋和模擬人類智能，以延伸人類智能的科學(xué)，就是“人工智能”(AI：ArtificialIntelligence)。1．人工智能的思想1.1人工智能的思想、流派與發(fā)展起落第一章深度學(xué)習(xí)的來源與應(yīng)用of3141符號(hào)主義(symbolicism)源于數(shù)理邏輯，認(rèn)為智能產(chǎn)生于大腦的抽象思維、主觀意識(shí)過程，例如數(shù)學(xué)推導(dǎo)、概念化的知識(shí)表示、模型語(yǔ)義推理。2連接主義(connectionism)源于仿生學(xué)，認(rèn)為智能產(chǎn)生于大腦神經(jīng)元之間的相互作用及信息往來的學(xué)習(xí)與統(tǒng)計(jì)過程，例如視覺聽覺等基于大腦皮層神經(jīng)網(wǎng)絡(luò)的下意識(shí)的感知處理。3行為主義(actionism)源于心理學(xué)與控制論。認(rèn)為智能是產(chǎn)生于主體與環(huán)境的交互過程?；诳捎^測(cè)的具體的行為活動(dòng)，以控制論及感知-動(dòng)作型控制系統(tǒng)為基礎(chǔ)，摒棄了內(nèi)省的思維過程，而把智能的研究建立在可觀測(cè)的具體的行為活動(dòng)基礎(chǔ)上。

半個(gè)世紀(jì)以來，人們對(duì)人類獲得知識(shí)的方式總結(jié)為：邏輯演繹、歸納總結(jié)、生物進(jìn)化，對(duì)應(yīng)地發(fā)展出了人工智能的三大流派：符號(hào)主義、連接主義、行為主義。2．人工智能的三大流派1.1人工智能的思想、流派與發(fā)展起落第一章深度學(xué)習(xí)的來源與應(yīng)用of315

人工智能未來十年發(fā)展趨勢(shì)將在促進(jìn)全息時(shí)代、新硬件、新語(yǔ)言、新算法和人類認(rèn)知突破等方面產(chǎn)生積極作用，并且使弱人工智能趨于完美，使機(jī)器人和人的混合體有機(jī)融合。人工智能革命必將踏上從弱人工智能起步，通過強(qiáng)人工智能飛躍，最終迎來超人工智能時(shí)代的旅途。這段旅途之后，世界將變得完全不一樣。3．人工智能發(fā)展的未來弱人工智能單個(gè)方面的人工智能。目前，主流科研集中在弱人工智能上。并且一般認(rèn)為這一研究領(lǐng)域已經(jīng)取得可觀的成就。強(qiáng)人工智能不僅能真正推理和解決問題的智能機(jī)器，還具有知覺的或自我意識(shí)。分為類人的人工智能和非類人的人工智能。超人工智能超越人類智慧并且將人類智慧延展的智能體系，各方面都可以比人類強(qiáng)。第一章深度學(xué)習(xí)的來源與應(yīng)用1.2什么是深度學(xué)習(xí)1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)1.4深度學(xué)習(xí)的應(yīng)用場(chǎng)景of316習(xí)題1.1人工智能的思想、流派與發(fā)展起落1.2什么是深度學(xué)習(xí)？第一章深度學(xué)習(xí)的來源與應(yīng)用of3171．算法的重要性---從宇宙的形成說開去

四種作用力（算法）作用于物質(zhì)（大數(shù)據(jù)）即可形成整個(gè)宇宙

算法與大數(shù)據(jù)相比同樣重要！1.2什么是深度學(xué)習(xí)？第一章深度學(xué)習(xí)的來源與應(yīng)用of3182．深度學(xué)習(xí)的基本思想

深度學(xué)習(xí)的本質(zhì)就是一個(gè)深層神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí)的基本思想就是對(duì)堆疊多個(gè)層，將上一層的輸出作為下一層的輸入，逐步實(shí)現(xiàn)對(duì)輸入信息的分級(jí)表達(dá)，讓程序從中自動(dòng)學(xué)習(xí)深入、抽象的特征。尤其值得注意的是“深度學(xué)習(xí)減少了人為干預(yù)，而這恰恰保留了數(shù)據(jù)客觀性，因此可以提取出更加準(zhǔn)確的特征”。深度學(xué)習(xí)的訓(xùn)練過程：第一章深度學(xué)習(xí)的來源與應(yīng)用1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)1.4深度學(xué)習(xí)的應(yīng)用場(chǎng)景全國(guó)高校標(biāo)準(zhǔn)教材《云計(jì)算》姊妹篇，剖析深度學(xué)習(xí)核心技術(shù)和實(shí)戰(zhàn)應(yīng)用of319習(xí)題1.1人工智能的思想、流派與發(fā)展起落1.2什么是深度學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31101.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3111

機(jī)器學(xué)習(xí)是一種從數(shù)據(jù)（訓(xùn)練集、驗(yàn)證集）中自動(dòng)分析（訓(xùn)練）獲得規(guī)律，并利用規(guī)律對(duì)未知數(shù)據(jù)（測(cè)試集）進(jìn)行處理（應(yīng)用于行動(dòng)）的過程。也就是說機(jī)器學(xué)習(xí)是“應(yīng)用計(jì)算機(jī)將數(shù)據(jù)轉(zhuǎn)換為可行動(dòng)的知識(shí)的過程”。1．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31121．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31131．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31141．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31151．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31161．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31171．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31181．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31191．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31201．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31211．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31221．什么是機(jī)器學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of31232．機(jī)器學(xué)習(xí)的種類---根據(jù)學(xué)習(xí)程度區(qū)分1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3124

根據(jù)所處理的數(shù)據(jù)種類的不同，機(jī)器學(xué)習(xí)可分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。監(jiān)督學(xué)習(xí)類似于跟著導(dǎo)師學(xué)習(xí)，學(xué)習(xí)過程中有指導(dǎo)監(jiān)督，導(dǎo)師預(yù)先準(zhǔn)備好驗(yàn)證集來糾正學(xué)習(xí)中的錯(cuò)誤；無監(jiān)督學(xué)習(xí)類似于一般的自學(xué)，學(xué)習(xí)全靠自己的悟性和直覺，沒有導(dǎo)師提供驗(yàn)證集；強(qiáng)化學(xué)習(xí)是一種以己為師、自求自得的學(xué)習(xí)，通過環(huán)境和自我激勵(lì)的方式不斷學(xué)習(xí)、調(diào)整、產(chǎn)生驗(yàn)證集并自我糾錯(cuò)的迭代過程。2．機(jī)器學(xué)習(xí)的種類---根據(jù)處理數(shù)據(jù)的方法區(qū)分1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3125

機(jī)器學(xué)習(xí)的任務(wù)主要有回歸、分類、聚類、異常檢測(cè)、機(jī)器翻譯、去噪、密度估計(jì)等。3．機(jī)器學(xué)習(xí)的主要任務(wù)回歸1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3126

機(jī)器學(xué)習(xí)的任務(wù)主要有回歸、分類、聚類、異常檢測(cè)、機(jī)器翻譯、去噪、密度估計(jì)等。3．機(jī)器學(xué)習(xí)的主要任務(wù)分類1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3127

機(jī)器學(xué)習(xí)的任務(wù)主要有回歸、分類、聚類、異常檢測(cè)、機(jī)器翻譯、去噪、密度估計(jì)等。3．機(jī)器學(xué)習(xí)的主要任務(wù)聚類1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3128

機(jī)器學(xué)習(xí)通常是從獲得數(shù)據(jù)開始，經(jīng)過預(yù)處理、特征提取、特征選擇，再到推理、預(yù)測(cè)或者識(shí)別的過程。其中最后一部分是機(jī)器學(xué)習(xí)完成任務(wù)，中間的三部分是特征表達(dá)。尋求特征是系統(tǒng)最主要的計(jì)算和測(cè)試工作，因?yàn)樗鼘?duì)最終算法的準(zhǔn)確性起到?jīng)Q定性作用，然而該步驟必須依賴人工干預(yù)，這將會(huì)大幅降低工作效率，并引起主觀偏差。4．機(jī)器學(xué)習(xí)存在的問題與深度學(xué)習(xí)的提出1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)第一章深度學(xué)習(xí)的來源與應(yīng)用of3129

深度學(xué)習(xí)是人工神經(jīng)網(wǎng)絡(luò)的分支，其本質(zhì)上就是一個(gè)深度神經(jīng)網(wǎng)絡(luò)。增加層數(shù)和神經(jīng)元數(shù)量，讓系統(tǒng)運(yùn)行大量的數(shù)據(jù)，并進(jìn)行深度訓(xùn)練學(xué)習(xí)，這時(shí)神經(jīng)網(wǎng)絡(luò)就可以自己“教”自己，搞清人和貓分別到底是怎樣的4．機(jī)器學(xué)習(xí)存在的問題與深度學(xué)習(xí)的提出第一章深度學(xué)習(xí)的來源與應(yīng)用1.4深度學(xué)習(xí)的應(yīng)用場(chǎng)景of3130習(xí)題1.1人工智能的思想、流派與發(fā)展起落1.2什么是深度學(xué)習(xí)？1.3機(jī)器學(xué)習(xí)與深度學(xué)習(xí)1.4深度學(xué)習(xí)的應(yīng)用場(chǎng)景第一章深度學(xué)習(xí)的來源與應(yīng)用of3131

深度學(xué)習(xí)適合目標(biāo)函數(shù)復(fù)雜且數(shù)據(jù)集較大的問題，也適合涉及多層次和抽象的問題。1．深度學(xué)習(xí)的應(yīng)用場(chǎng)合和概念層次習(xí)題：1．人工智能的目標(biāo)是什么？研究?jī)?nèi)容主要有