《神經網絡與深度學習》課程教學大綱

《神經網絡與深度學習》教學大綱一、課程基本信息課程名稱神經網絡與深度學習NeuralNetworksAndIn-depthLearning課程編碼SCC321621030開課院部理學院課程團隊數據科學團隊學分3.0課內學時52講授40實驗0上機12實踐0課外學時52適用專業(yè)數據科學與大數據技術授課語言中文先修課程課程簡介（限選）課程性質：本課程是數據科學與大數據技術專業(yè)的選修課。主要教學內容：神經網絡與深度學習促進了人工智能在計算機視覺、語音識別、自然語言處理等領域的突破，成為實現人工智能的重要技術之一。本課程將講解神經網絡及深度學習的基本概念、主要結構、核心方法和關鍵應用。主要內容包括：機器學習和神經網絡的基本概念和算法，深度學習的主流結構及多種不同的激活函數，深度學習的應用實例。課程教學目標：通過本課程的學習，使學生掌握神經網絡及深度學習中主要網絡結構，并能夠以神經網絡為工具解決相關實際問題。Coursenature:Thiscourseisanelectivecourseforthemajorofdatascienceandbigdatatechnology.Mainteachingcontents:neuralnetworkanddeeplearninghavepromotedthebreakthroughofartificialintelligenceincomputervision,speechrecognition,naturallanguageprocessingandotherfields,andbecomeoneoftheimportanttechnologiestorealizeartificialintelligence.Thiscoursewillexplainthebasicconcepts,mainstructures,coremethodsandkeyapplicationsofneuralnetworksanddeeplearning.Themaincontentsinclude:basicconceptsandalgorithmsofmachinelearningandneuralnetworks,mainstreamstructuresofdeeplearning,variousactivationfunctions,andapplicationexamplesofdeeplearning.Teachingobjectiveofthecourse:Throughthestudyofthiscourse,studentscanmasterthemainnetworkstructureofneuralnetworkanddeeplearning,andcanuseneuralnetworkasatooltosolverelevantpracticalproblems.負責人大綱執(zhí)筆人審核人二、課程目標序號代號課程目標OBE畢業(yè)要求指標點任務自選1M1目標1：了解神經網絡及深度學習的發(fā)展和基本概念，培養(yǎng)學生計算思維和研究方法以及發(fā)現、辨析和解釋科學計算與數據科學領域基本現象的能力。是3.12M2目標2：理解并掌握神經網絡及深度學習關鍵技術，了解目前常用（深度）神經網絡，了解學科發(fā)展前沿，培養(yǎng)學生自我更新知識的能力。是3.43M3目標3：掌握信息數據分析的基本方法，具備數據分析能力。通過課程項目的實踐應用，掌握神經網絡實現技術，并應用神經網絡及深度學習解決實際問題。是5.24M4目標4：能保證課程正常秩序（政治層面、課堂保障層面，非學生能力層面）否三、課程內容序號章節(jié)號標題課程內容/重難點支撐課程目標課內學時教學方式課外學時課外環(huán)節(jié)1第1章第1章引言本章重點難點：神經網絡；深度學習。/////21.11.1機器學習與深度學習什么是機器學習；什么是深度學習；機器學習與深度學習的關系。M10.5講授0.5作業(yè)31.21.2神經網絡的歷史神經網絡；神經網絡發(fā)展歷史。M10.5講授0.5作業(yè)41.31.3深度學習從神經網絡到深度學習；為什么使用深度學習；什么是深度學習。M11講授1作業(yè)5第2章第2章神經網絡本章重點難點：感知機；誤差反向傳播算法；三層神經網絡的實現。/////62.12.1神經網絡概述常用神經網絡模型概述。M11講授1作業(yè)72.22.2M-P模型M-P模型；M-P模型結構及運算；M-P模型的應用。M1,M21講授1作業(yè)82.32.3感知機感知機模型；感知機模型結構；感知機的訓練；多層感知機；感知機模型的應用。M1,M21講授1作業(yè)92.42.4誤差反向傳播算法梯度下降法；正向傳播；反向傳播；權值調整。M1,M22講授2作業(yè)102.52.5損失函數和激活函數損失函數；常用損失函數；激活函數；常用激活函數。M1,M21講授1作業(yè)112.1-2.5上機上機M2,M32上機2撰寫實驗報告12第3章第3章全連接神經網絡本章重點和難點：全連接神經網絡設計；訓練數據預處理；損失函數和激活函數；網絡調優(yōu)和超參數設置。/////133.13.1基于梯度的學習損失函數；神經網絡的梯度；梯度下降。M1,M22講授2作業(yè)143.23.2三層全連接神經網絡設計萬能逼近定理；輸出單元的設計；隱藏單元。M1,M22講授2作業(yè)153.33.3反向傳播算法計算圖；鏈式法則；反向傳播；激活函數層的實現；誤差反向傳播算法。M1,M22講授2作業(yè)163.43.4三層全連接神經網絡實現三層BP神經網絡實現M1,M22講授2作業(yè)173.1-3.4上機上機M2,M32上機2撰寫實驗報告18第4章第4章深度學習技術及平臺概述本章重點和難點：深度學習技術；深度學習平臺。/////194.14.1深度學習技術深度學習技術的發(fā)展；常用深度學習技術。M12講授2作業(yè)204.24.2深度學習平臺常用深度學習開發(fā)平臺；深度學習開發(fā)框架比較。M12講授2作業(yè)214.34.3開發(fā)平臺示例Tensorflow使用簡介；Pytorch使用簡介M12講授2作業(yè)224.1-4.3上機上機M2,M32上機2撰寫實驗報告23第5章第5章卷積神經網絡（CNN）本章重點和難點：卷積運算原理；卷積神經網絡設計。/////245.15.1卷積神經網絡的結構卷積神經網絡的歷史；卷積神經網絡的概念；卷積神經網絡的結構。M1,M21講授1作業(yè)255.25.2卷積層卷積層的設計動機；卷積層的局部連接；卷積層的3個核心概念。M1,M22講授2作業(yè)265.35.3池化層池化層的設計；池化層的實現。M1,M22講授2作業(yè)275.45.4全連接層全連接層實現。M1,M22講授2作業(yè)285.55.5卷積神經網絡實現基于Tensorflow的卷積神經網絡實現。M1,M22講授2作業(yè)295.1-5.5上機上機M2,M32上機2撰寫實驗報告30第6章第6章深度神經網絡本章重點和難點：自編碼器設計；循環(huán)神經網絡設計；LSTM網絡設計。/////316.16.1自編碼器（AutoEncoder）自編碼器設計；自編碼器的應用。M1,M22講授2作業(yè)326.26.2循環(huán)神經網絡（RNN）循環(huán)神經網絡概述；循環(huán)神經網絡結構；循環(huán)神經網絡的訓練及應用。M1,M22講授2作業(yè)336.36.3長短時記憶網絡（LSTM）為什么需要LSTM；LSTM網絡結構；LSTM訓練流程；雙向LSTM。M1,M22講授2作業(yè)346.1-6.3上機上機M2,M32上機2撰寫實驗報告35第7章第7章深度學習拓展本章重點和難點：深度。/////367.17.1加深網絡向更深的網絡出發(fā)；提高識別精度；加深層的動機。M12講授2作業(yè)377.27.2深度學習的高速化深度學習面臨的問題；基于GPU的高速化；分布式學習；運算精度的位數縮減。M12講授2作業(yè)387.1-7.2上機上機M2,M32上機2撰寫實驗報告四、考核方式序號考核環(huán)節(jié)操作細節(jié)總評占比1平時作業(yè)1.每周布置2~3道題目，平均每次課1道題以上。2.成績采用百分制，根據作業(yè)完成準確性、是否按時上交、是否獨立完成評分。3.培養(yǎng)學生計算思維和應用神經網絡及深度學習解決實際問題的能力40%2平時表現1.課堂表現。2.考勤3.遵守課堂紀律10%3課程實踐報告1.本課程要求利用指定編程語言和相關平臺設計實現相關神經網絡和深度學習，在指定的測試數據集上實現模型訓練和預測，并解決實際問題2.根據模型建立情況和最終結果評分。50%五、評分細則序號課程目標考核環(huán)節(jié)大致占比評分等級1M1平時作業(yè)40%A-獨立思考、按時完成，解題思路清晰、格式合理、90%的作業(yè)評價為A,A+B-獨立思考、按時完成，步驟比較完整、80%的作業(yè)評價為A,A+C-獨立思考、按時完成，格式比較合理、70%的作業(yè)評價為A,A+D-作業(yè)抄襲，未能按時完成，缺交作業(yè)2M1平時表現10%A積極回答問題，精神狀態(tài)飽滿，能夠遵守課堂紀律B精神狀態(tài)良好，問題回答較好，能夠遵守課堂紀律C較少參與課堂互動，不能夠遵守課堂紀律D不參與課堂互動，不能夠遵守課堂紀律3M1課程實踐報告50%A-模型構造與實際問題相符，高質量完成指定模型訓練和評估任務。B-模型構造與實際問題基本相符，基本完成指定模型訓練和評估任務。C-模型構造與實際問題基本相符，完成指定模型訓練和評估任務時存在一定缺陷。D-未完成指定模型訓練和評估任務。4M2平時作業(yè)40%A-獨立思考、按時完成，解題思路清晰、格式合理、90%的作業(yè)評價為A,A+B-獨立思考、按時完成，步驟比較完整、80%的作業(yè)評價為A,A+C-獨立思考、按時完成，格式比較合理、70%的作業(yè)評價為A,A+D-作業(yè)抄襲，未能按時完成，缺交作業(yè)5M2平時表現10%A積極回答問題，精神狀態(tài)飽滿，能夠遵守課堂紀律B精神狀態(tài)良好，問題回答較好，能夠遵守課堂紀律C較少參與課堂互動，不能夠遵守課堂紀律D不參與課堂互動，不能夠遵守課堂紀律6M2課程實踐報告50%A-模型構造與實際問題相符，高質量完成指定模型訓練和評估任務。B-模型構造與實際問題基本相符，基本完成指定模型訓練和評估任務。C-模型構造與實際問題基本相符，完成指定模型訓練和評估任務時存在一定缺陷。D-未完成指定模型訓練和評估任務。7M3平時作業(yè)40%A-獨立思考、按時完成，解題思路清晰、格式合理、90%的作業(yè)評價為A,A+B-獨立思考、按時完成，步驟比較完整、80%的作業(yè)評價為A,A+C-獨立思考、按時完成，格式比較合理、70%的作業(yè)評價為A,A+D-作業(yè)抄襲，未能按時完成，缺交作業(yè)8M3平時表現10%A積極回答問題，精神狀態(tài)飽滿，能夠遵守課堂紀律B精神狀態(tài)良好，問題回答較好，能夠遵守課堂紀律C較少參與課堂互動，不能夠遵守課堂紀律D不參與課堂互動，不能夠遵守課堂紀律9M3課程實踐報告50%A-模型構造與實際問題相符，高質量完成指定模型訓練和評估任務。B-模型構造與實際問題基本相符，基本完成指定模型訓練和評估任務。C-模型構造與實際問題基本相符，完成指定模型訓練和評估任務時存在一定缺陷。D-未完成指定模型訓練和評估任務。10M4平時表現100%A積極回答問題，精神狀態(tài)飽滿，能夠遵守課堂紀律B精神狀態(tài)良好，問題回答較好，能夠遵守課堂紀律C較少參與課堂互動，不能夠遵守課堂紀律D不參與課堂互動，不能夠遵守課堂紀律評分等級說明：[A,B,C,D]=[90-100,80-89,70-79,0-69];六、教材與參考資料序號教學參考資料明細1圖書|《神經網絡設計（原書