中央財經大學《金融科技學》教材課件PPT第7章 人工智能、深度學習與自然語言處理

1、金融科技學第七章 人工智能、深度學習與自然語言處理本講導讀人工智能基本原理二一自然語言處理提要三第7章 人工智能、深度學習與自然語言處理深度學習發(fā)展概況四本講小結五本講導讀明確學習目標01熟悉本講結構與主要內容02梳理本講與其他各講的聯(lián)系03推薦參考文獻0401明確學習目標一、本講導讀從理論上梳理人工智能的定義、分類、發(fā)展歷史深度學習的基本概念與主要應用形式自然語言處理的核心內涵與關鍵應用步驟了解相關技術在金融實務中的應用通過了解歷史，對于技術的興衰迭代形成冷靜認知一、本講導讀本講需要了解的基本概念人工智能圖靈測試符號主義專家系統(tǒng)連接主義神經網(wǎng)絡感知器行為主義蟻群算法深度學習預訓練卷積神經網(wǎng)絡

2、自編碼器對抗神經網(wǎng)絡自然語言處理分詞詞根化單熱編碼器TF-IDF主題模式LDA詞向量模型BERT自然語言處理的概念人工智能的定義與分類一、本講導讀人工智能、深度學習與自然語言處理深度學習發(fā)展概況人工智能基本原理自然語言處理提要人工智能學派深度學習的定義與奇點突破自然語言處理的應用深度學習的分類與應用02熟悉本講結構與主要內容6商業(yè)實踐中的相關概念03梳理本講與其他各講的聯(lián)系一、本講導讀隨著現(xiàn)代通訊技術、區(qū)塊鏈技術、人工智能技術等前沿科技的發(fā)展，支付清算模式會有變革性的進步（對應第一章、第八章）金融科技企業(yè)利用互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算、人工智能等技術優(yōu)化運營，降低了經營成本（對應第三、九、十、十一

3、章）借助于大數(shù)據(jù)技術特別是深度學習技術，保險公司可以精準的預測一輛車的出險概率（對應第十一章）自然語言處理等有關的信息主要通過爬蟲技術獲取（對應第六章）智慧網(wǎng)點、智能投顧等新業(yè)務模式是基于自然語言處理技術而出現(xiàn)的（對應第九、十章）704推薦參考文獻一、本講導讀羅素, 諾維格, 殷建平. 人工智能: 一種現(xiàn)代的方法M. 清華大學出版社, 2013.Goodfellow I, Bengio Y, Courville A. Deep learningM. MIT press, 2016.約阿夫戈爾德貝格. 基于深度學習的自然語言處理M. 機械工業(yè)出版社, 2018.王靖一，Bilibili在線課程金

4、融科技工具箱. /video/BV1DE411y7nz人工智能基本原理本講導讀一二自然語言處理提要三第7章 人工智能、深度學習與自然語言處理深度學習發(fā)展概況四本講小結五人工智能基本原理人工智能的定義與分類01商業(yè)實踐中的相關概念02人工智能學派0301人工智能的定義人工智能是指是研究理解和模擬人類智能、智能行為及其規(guī)律的一門學科。圖靈測試：如果一臺機器表現(xiàn)出的智能，讓人無法分辨其與人的差別，便可以認為這臺機器達到了人工智能。-被測試的有一個人，另一個是聲稱自己有人類智力的機器；-各自位于兩間房子中；-測試人通過一些裝置(如鍵盤)向被測試者問一些問題；-問過一些問題后，如果測試人能夠正確地分出誰

5、是人誰是機器，那機器就沒有通過圖靈測試；如果測試人沒有分出誰是機器誰是人，那這個機器就是有人類智能的。二、人工智能基本原理01人工智能的概念分類弱人工智能：專注某一領域強人工智能：能夠勝任人類所有工作超人工智能：超越人類存在突破的奇點：圖靈測試二、人工智能基本原理01圖靈測試的局限性圖靈測試：一個看起來不遠實則遙遠的節(jié)點人工智能已經快速發(fā)展并取得巨大成功人工智能并非全知全能，而是更加便宜二、人工智能基本原理02商業(yè)定義與辨析人工智能與大數(shù)據(jù)人工智能與機器學習、深度學習 二、人工智能基本原理03人工智能的主要學派符號主義學派：自動定理證明與專家系統(tǒng)二、人工智能基本原理03人工智能的主要學派行為主

6、義學派二、人工智能基本原理03人工智能的主要學派連接主義學派神經網(wǎng)絡與反向傳播算法二、人工智能基本原理03反向傳播算法與沉寂為什么神經網(wǎng)絡沉寂多年？結構復雜且沒有明確的數(shù)學指導難以確定網(wǎng)絡的形態(tài)模型復雜度極高，參數(shù)過多數(shù)據(jù)是否足夠訓練能否進行有效的正則化，防止過擬合模型最優(yōu)化困難且沒有數(shù)學保證極高的計算復雜度要求二、人工智能基本原理3.人工智能發(fā)展簡史二、人工智能基本原理本講導讀一深度學習的發(fā)展概況三自然語言處理提要第7章 人工智能、深度學習與自然語言處理二人工智能的基本原理四本講小結五深度學習的發(fā)展情況深度學習的定義與奇點突破01深度學習的分類與應用021序幕：預訓練神經網(wǎng)絡的能力來源于對數(shù)

7、據(jù)每一個細分組合的窮盡這些能力來源于寬而深的隱藏層思考一件事兒，為什么我敢給你們講深度學習而不敢給一群小嬰兒講深度學習？當人類進行學習的時候，好像并不是從最后（最新）反向傳播到最開始。所以，何為教育？三、深度學習的發(fā)展概況1序幕：預訓練-形象化例子三、深度學習的發(fā)展概況1序幕：預訓練實現(xiàn)Hinton & Salakhutdinov (2006)第一次引入預訓練的概念Bengio et al. (2007). Greedy layer-wise training of deep networks. In NIPs 正式提出預訓練三、深度學習的發(fā)展概況2深度學習的主要分類：卷積神經網(wǎng)絡卷積神經網(wǎng)絡

8、（CNN）三、深度學習的發(fā)展概況2深度學習的主要分類：卷積神經網(wǎng)絡應用三、深度學習的發(fā)展概況2循環(huán)神經網(wǎng)絡與LSTM：處理序列三、深度學習的發(fā)展概況2強化學習三、深度學習的發(fā)展概況2強化學習應用一、本講導讀深度學習的發(fā)展概況三本講導讀一自然語言處理提要四第7章 人工智能、深度學習與自然語言處理二人工智能的基本原理本講小結五自然語言處理提要自然語言處理的概念01自然語言處理的應用021.自然語言處理的概念建立人和機器之間的“自然語言”通信它研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法。從人到機器對語言進行各種統(tǒng)計描述對語言進行有監(jiān)督算法的描述（情緒判斷、作者識別eg）對語言進行

9、無監(jiān)督算法的描述（主題模型、詞嵌入）從機器到人讓機器能夠像人那樣理解語言讓機器可以輔助語言讓機器可以生成語言（圖靈測試）四、自然語言處理提要1.自然語言處理要解決的問題從人到機器對語言進行各種統(tǒng)計描述對語言進行有監(jiān)督算法的描述（情緒判斷、作者識別eg）對語言進行無監(jiān)督算法的描述（主題模型、詞嵌入）詞句文章如何正確的表示一個詞是否每個詞都要表示多個詞是否合一詞和詞之間的關系如何表述我們是怎樣理解一個句子的（語法派vs語感派）如何讓計算機理解一個句子 （分類）句子之間的獨立性與聯(lián)合性如何理解一篇文章一個文章歸屬的主題文章間的聯(lián)系與區(qū)別四、自然語言處理提要1.能解決我們的問題核心：從非結構化數(shù)據(jù)到結

10、構化數(shù)據(jù)可以參見沈艷、陳赟、黃卓（2020）分類問題：不同情緒（預期）、不同不確定性核心：知道有哪些工具知道有哪些channel知道如何正確地用聚類問題：不同主題特征提取問題：將語言信息的特征正確抽取出來 (nVIX)四、自然語言處理提要2.應用：主題歸類四、自然語言處理提要2.應用：情感判別四、自然語言處理提要2.應用：關鍵詞提取四、自然語言處理提要2.應用：人工智能客服四、自然語言處理提要深度學習的發(fā)展概況三本講導讀一本講小結五第7章 人工智能、深度學習與自然語言處理二人工智能的基本原理自然語言處理提要四01本講小節(jié)五、本講小結1、本講介紹了人工智能的定義及概念分類；接著，介紹了人工智能在商業(yè)實踐中的相關概念，對人工智能與大數(shù)據(jù)、人工智能與機器學習、深度學習等易混淆的概念進行了辨析；介紹了三個人工智能學