《深度學習與應用》教學大綱

《深度學習與應用》教學大綱適用范圍：202X版本科人才培養(yǎng)方案課程代碼：22140241課程性質：專業(yè)必修課學分：3學分學時：48學時（理論40學時，實驗8學時）先修課程：人工智能導論、人工智能程序設計、數(shù)據(jù)結構與算法分析、機器學習后修課程：人工智能綜合創(chuàng)新適用專業(yè)：人工智能專業(yè)開課單位：智能工程學院一、課程說明《深度學習與應用》是人工智能專業(yè)中的一門專業(yè)必修課程。該課程以深度學習框架為基礎，介紹了機器學習的基礎知識與常用方法，以實例的方式學習機器學習操作的原理及其在深度學習框架下的實踐步驟。主要內容包括深度學習基礎知識、深度學習框架及其對比、機器學習基礎知識、深度學習框架（以PyTorch為例）基礎、Logistic回歸、多層感知器、卷積神經網絡與計算機視覺、神經網絡與自然語言處理。并通過8個深度學習實例的學習，幫助學生更好的掌握深度學習知識，做到理論與實踐相結合，方法與應用相結合。本課程除要求學生掌握以上深度學習知識，更重要的是要求學生掌握理論與實踐結合的學習方式，為更深入地學習打下良好的基礎。二、課程目標通過本課程的學習，使學生達到如下目標：課程目標1:能夠理解深度學習的基本原理及組成結構、基本概念、特征、及主要功能；掌握常用算法；掌握深度學習軟件的基本操作和基本配置。課程目標2:能夠運用深度學習的基本原理、控制管理方法和實現(xiàn)機制，熟練使用深度學習軟件，能夠解決一些簡單的應用問題。了解深度學習算法設計技巧，并分析深度學習算法的復雜性，優(yōu)選深度學習復雜工程問題的解決方案，培養(yǎng)學生科學、嚴謹?shù)膭?chuàng)造性思維和研究性思維。課程目標3：能夠基于科學原理，通過文獻研究等方法系統(tǒng)分析人工智能及相關應用領域復雜工程問題，明確研究對象的基本特征和關鍵環(huán)節(jié)，并選擇合適研究路線；培養(yǎng)學生積極思考、嚴謹創(chuàng)新的科學態(tài)度和解決實際問題的能力，塑造學生刻苦鉆研的使命感和愛國情懷，培養(yǎng)科學探索的工程素養(yǎng)。三、課程目標與畢業(yè)要求《深度學習與應用》課程教學目標對人工智能專業(yè)畢業(yè)要求的支撐見表1。表1課程教學目標與畢業(yè)要求關系畢業(yè)要求指標點課程目標支撐強度1.工程知識1.2系統(tǒng)掌握人工智能及相關應用領域的工程基礎和專業(yè)知識，包括算法、硬件、軟件平臺及系統(tǒng)等，了解解決工程問題的基本方法。課程目標1:能夠理解深度學習的基本原理及組成結構、基本概念、特征、及主要功能；掌握常用算法；掌握深度學習軟件的基本操作和基本配置。H3.設計/開發(fā)解決方案3.1掌握人工智能及相關應用領域的系統(tǒng)集成、算法優(yōu)化、軟件設計的基本設計理論和設計方法，能夠根據(jù)需求確定設計目標研究、確定技術方案。課程目標2:能夠運用深度學習的基本原理、控制管理方法和實現(xiàn)機制，熟練使用深度學習軟件，能夠解決一些簡單的應用問題。了解深度學習算法設計技巧，并分析深度學習算法的復雜性，優(yōu)選深度學習復雜工程問題的解決方案，培養(yǎng)學生科學、嚴謹?shù)膭?chuàng)造性思維和研究性思維。H4.研究4.1能夠基于科學原理，通過文獻研究等方法系統(tǒng)分析人工智能及相關應用領域復雜工程問題，明確研究對象的基本特征和關鍵環(huán)節(jié)，并選擇合適研究路線。課程目標3：能夠基于科學原理，通過文獻研究等方法系統(tǒng)分析人工智能及相關應用領域復雜工程問題，明確研究對象的基本特征和關鍵環(huán)節(jié)，并選擇合適研究路線；培養(yǎng)學生積極思考、嚴謹創(chuàng)新的科學態(tài)度和解決實際問題的能力，塑造學生刻苦鉆研的使命感和愛國情懷，培養(yǎng)科學探索的工程素養(yǎng)。H注：表中“H（高）、M（中）”表示課程與相關畢業(yè)要求的關聯(lián)度。四、教學內容、基本要求與學時分配1.理論部分理論部分的教學內容、基本要求與學時分配見表2。表2教學內容、基本要求與學時分配教學內容教學要求，教學重點難點理論學時實驗學時對應的課程目標1.深度學習簡介1.1現(xiàn)代深度學習和卷積神經網絡的基礎知識1.2強化學習的概念、算法和應用。思政1：中國人工智能發(fā)展歷程教學要求：了解計算機視覺的定義、基本任務和傳統(tǒng)方法；了解仿生學與深度學習的關聯(lián)；了解現(xiàn)代深度學習和卷積神經網絡的基礎知識；了解自然語言處理的基本問題和發(fā)展趨勢；了解在自然語言處理中傳統(tǒng)方法與神經網絡方法的比較；了解強化學習的概念、算法和應用。難點：現(xiàn)代深度學習和卷積神經網絡的基礎知識，強化學習算法和應用41，22.深學習框架及其對比度2.1深度學習框架2.2Caffe、TensorFlow、PyTorch的特點和用途思政2：李曉挺-深度學習領域的領軍人物教學要求：了解目前流行的深度學習框架Caffe、TensorFlow、PyTorch；了解Caffe的用途、特點和層及網絡的概念；了解數(shù)據(jù)流圖；了解TensorFlow的用途、特點和計算形式。了解PyTorch的用途、特點和相對于其他框架的優(yōu)勢；了解Caffe、TensorFlow、PyTorch三者的比較。重點：Caffe、TensorFlow、PyTorch的用途和特點難點：Caffe、TensorFlow、PyTorch的用途和特點401，33.PyTorch深度學習基礎3.1NumPy的ndarray對象和Tensor對象3.2PyTorch的Reduction操作3.3PyTorch的Reduction操作3.4PyTorch的自動微分Autograd思政3：王海峰-中國AI領軍人物教學要求：了解NumPy的ndarray對象和Tensor對象；掌握Tensor對象的創(chuàng)建及其運算方式；掌握Tensor的索引、切片、變換、拼接和拆分；了解PyTorch的Reduction操作；了解PyTorch的自動微分Autograd。重點：Tensor對象的創(chuàng)建及其運算方式；Tensor的索引、切片、變換、拼接和拆分難點：Tensor對象的創(chuàng)建及其運算方式；Tensor的索引、切片、變換、拼接和拆分822，34.回歸模型4.1回歸模型簡介4.2線性回歸模型和平均平方誤差函數(shù)4.3Logistic回歸模型4.4PyTorch實現(xiàn)Logistic回歸思政4：中國人工智能發(fā)展歷程教學要求：了解回歸和回歸模型；了解線性回歸的概念；了解線性回歸模型和平均平方誤差函數(shù)；了解Logistic回歸模型；掌握用PyTorch實現(xiàn)Logistic回歸的方式，包括使用MultivariateNormal構造多元高斯分布、調用Linear實現(xiàn)線性模型、Sigmoid激活函數(shù)、BCELoss損失函數(shù)和使用optim包構建優(yōu)化器等相關知識；掌握將Logistic回歸模型可視化的方法。重點：PyTorch實現(xiàn)Logistic回歸的方式、Logistic回歸模型可視化的方法。難點：PyTorch實現(xiàn)Logistic回歸的方式、Logistic回歸模型可視化的方法。821，3多層感知器5.1多層感知器5.2BP神經網絡及BP（后向傳播）神經網絡思政5：華為昇騰910-全球十大AI芯片教學要求：了解神經元、輸入、連接權值向量、偏置、激活函數(shù)、輸出、神經網絡、輸入層、輸出層、隱藏層、訓練、監(jiān)督訓練、非監(jiān)督訓練的概念；了解感知器的概念，包括單層感知器和多層感知器；了解BP（后向傳播）神經網絡、梯度下降算法和后向傳播算法；了解Dropout正則化技術；了解批標準化的實現(xiàn)方式和使用方法。重點：BP（后向傳播）神經網絡、Dropout正則化技術難點：BP（后向傳播）神經網絡、Dropout正則化技術。421，2，36.卷積神經網絡和計算機視覺6.1卷積神經網絡6.2經典網絡結構教學要求：了解卷積神經網絡的基本思想，包括全局連接、局部連接、參數(shù)共享；了解卷積操作，包括卷積、卷積層和卷積核的基本概念；了解卷積中使用多個卷積核、多通道卷積和邊界填充等操作；了解池化和常見的池化類型；了解卷積神經網絡；了解VGG、InceptionNet、ResNet等經典網絡結構；了解使用PyTorch進行手寫數(shù)字識別的過程。重點：經典卷積神經網絡結構難點：經典卷積神經網絡結構401，2，37.神經網絡與自然語言處理7.1基于多層感知器的架構7.2自然語言處理基于卷積神經網絡的架構思政6：深度學習前沿技術教學要求：了解語言建模的基本形式；了解自然語言處理基于多層感知器的架構；了解自然語言處理基于循環(huán)神經網絡的架構，包括循環(huán)單元、通過時間后向傳播、帶有門限的循環(huán)單元、循環(huán)神經網絡語言模型和神經機器翻譯的相關知識；了解自然語言處理基于卷積神經網絡的架構；了解自然語言處理基于Transformer的架構，包括多頭注意力、非參位置編碼、編碼器單元與解碼器單元的相關知識；了解表示學習與預訓練技術。難點：基于多層感知器的架構、自然語言處理基于卷積神經網絡的架構821，2，3合計4082.實驗部分實驗部分的教學內容、基本要求與學時分配見表3。表3實驗項目、實驗內容與學時實驗項目實驗內容和要求實驗學時對應的課程目標1.配置PyTorch開發(fā)環(huán)境實驗內容：利用python、pycharm、anaconda和Jupyter實現(xiàn)PyTorch語言編程環(huán)境的配置。實驗要求：掌握PyTorch編程的配置；能夠利用pycharm、anaconda和Jupyter實現(xiàn)PyTorch語言編程環(huán)境的配置。21,22.PyTorch實現(xiàn)Logistic回歸實驗內容：編程實現(xiàn)用PyTorch實現(xiàn)Logistic回歸的方式，包括使用MultivariateNormal構造多元高斯分布、調用Linear實現(xiàn)線性模型、Sigmoid激活函數(shù)、BCELoss損失函數(shù)和使用optim包構建優(yōu)化器。實驗要求：掌握基于PyTorch的Logistic回歸。21,23.Pytorch實現(xiàn)BP前饋神經網絡及BP后向傳播神經網絡實驗內容：了解感知器的概念，包括單層感知器和多層感知器；掌握基于Pytorch深度學習框架編程實現(xiàn)輸入層、輸出層、隱藏層、BP前饋神經網絡和P后向傳播神經網絡；了解BP（后向傳播）神經網絡、梯度下降算法和后向傳播算法；。實驗要求：理解并編程實現(xiàn)基于Pytorch深度學習框架的BP前饋神經網絡及BP后向傳播神經網絡。21,34.基于Transformer的架構實現(xiàn)自然語言處理匯中包括多頭注意力、非參位置編碼、編碼器單元與解碼器單元。實驗內容：了解表示學習與預訓練技術；了解自然語言處理基于卷積神經網絡的架構；編程實現(xiàn)自然語言處理基于Transformer的架構，包括多頭注意力、非參位置編碼、編碼器單元與解碼器單元的相關知識實驗要求：基于Transformer架構的自然語言處理準確率不低于80%。21,2,3合計8五、教學方法及手段課程教學采用理實一體化教學方式，通過設定教學任務和教學目標，讓師生雙方邊教、邊學、邊做，全程構建素質和技能培養(yǎng)框架，豐富課堂教學和實踐教學環(huán)節(jié)，提高教學質量。結合理論講授、課堂討論、實驗、作業(yè)，配合多媒體課件、慕課、學習通等資源等共同課完成堂授課內容。采用E-mail、釘釘、微信等交流工具，加強和學生之間的交流和溝通。在實驗前學生應復習和掌握與本實驗有關的教學內容、認真閱讀實驗指導書，了解實驗原理；在實驗中要嚴格遵守實驗紀律，按操作規(guī)程使用儀器，需要學生記錄實驗數(shù)據(jù)和截圖實驗運行畫面；實驗結束后，按規(guī)定對儀器進行維護保養(yǎng)；每完成一項實驗，分析處理實驗數(shù)據(jù)，解讀收發(fā)數(shù)據(jù)的信息，回答思考題內容，認真完成一份實驗報告。六、課程資源1.推薦教材：主要責任者.文獻題名[M].出版地:出版者,出版年.（1）呂云翔，劉卓然.PyTorch深度學習實戰(zhàn)：微課視頻版[M].北京:清華大學出版社,2021年.（2）王志立.Python深度學習[M].北京:清華大學出版社,2021年.（3）周中元.深度學習原理與應用[M].北京:電子工業(yè)出版社,2021年.2.參考書：主要責任者.文獻題名[M].出版地:出版者,出版年.（1）千鋒教育高教產品研發(fā)部.Python快樂編程人工智能—深度學習基礎[M].北京:清華大學出版社,2020年.（2）呂云翔，劉卓然.Python深度學習實戰(zhàn)—基于Pytorch[M].北京:人民郵電出版社,2021年.（3）IanGoodfellow，YoshuaBengio，AaronCourville.DeepLearning[M].北京:人民郵電出版社,2021年.3.期刊：主要責任者.文獻題名[J].刊名,年,卷(期):起止頁碼.（1）邵美萍.基于深度學習的人工智能文本處理系統(tǒng)設計[J].電子技術,2022,51(06):190-191.4.網絡資源：主要責任者.題名:其他題目信息[文獻類型標識/文獻載體標識].出版地:出版者,出版年(更新或修改日期)[引用日期].獲取或訪問路徑．（1）DeepLearning,/（2）Paperswithcode,/sota（3）Mlhub123,/七、課程考核對課程目標的支撐課程成績由過程性考核成績和期末考核（大作業(yè)）成績兩部分構成，具體考核/評價細則及對課程目標的支撐關系見表4。表4課程考核對課程目標的支撐考核環(huán)節(jié)占比考核/評價細則課程目標123過程性考核課堂表現(xiàn)10（1）根據(jù)課堂出勤情況和課堂回答問題情況進行考核，滿分100分。（2）以平時考核成績乘以其在總評成績中所占的比例計入課程總評成績。√√√442實驗20（1）根據(jù)實驗完成情況和實驗報告撰寫情況進行考核，滿分100分。（2）以平時考核成績乘以其在總評成績中所占的比例計入課程總評成績。√√√884作業(yè)10（1）主要考核學生對各章節(jié)知識點的復習、理解和掌握程度，滿分100分；（2）每次作業(yè)單獨評分，取各次成績的平均值作為此環(huán)節(jié)的最終成績。（3）以作業(yè)成績乘以其在總評成績中所占的比例計入課程總評成績?！獭獭?42期末考核60（1）期末考核（大作業(yè)）成績100分，以期末考核（大作業(yè)）成績乘以其在總評成績中所占的比例計入課程總評成績。（2）考核詳情見期末考核（大作業(yè)）任務要求及評價標準?！獭獭?52510合計：100分414118八、考核與成績評定1.考核方式及成績評定考核方式：本課程主要以課堂表現(xiàn)、實驗、作業(yè)、期末考核（大作業(yè)）等方式對學生進行考核評價?？己嘶疽螅嚎己丝偝煽冇善谀┛己耍ù笞鳂I(yè)）成績和過程性評價成績組成。其中：期末考核（大作業(yè)）成績?yōu)?00分（權重60%）；課堂表現(xiàn)、作業(yè)、實驗等過程性評價成績?yōu)?00分（權重40%）。2.過程性考核成績的標準過程性考核方式重點考核內容、評價標準、所占比重見表5。表5過程性考核方式評價標準考核方式所占比重(%)100>x≥9090>x≥8080>x≥7070>x≥60x<60課堂表現(xiàn)