模式識別與機器學習-教學大綱、授課計劃 李映

《模式識別與機器學習》教學大綱課程信息課程名稱：模式識別與機器學習課程類別：素質選修課/專業(yè)基礎課課程性質：選修/必修計劃學時：64計劃學分：4先修課程：無選用教材：《模式識別與機器學習》李映主編，電子工業(yè)出版社，2023.6。適用專業(yè)：本課程可作為計算機科學領域機器學習和模式識別專業(yè)方向高年級本科生和研究生的教材，也可供相關技術人員參考。課程負責人：二、課程簡介本課程介紹模式識別和機器學習技術的主要方面，包括貝葉斯統(tǒng)計決策、概率密度函數的估計、線性分類與回歸模型、其他分類方法、無監(jiān)督學習和聚類、核方法和支持向量機、神經網絡和深度學習、特征選擇與提取等。三、課程教學要求序號專業(yè)畢業(yè)要求課程教學要求關聯(lián)程度1工程知識第1章緒論介紹模式識別的基本概念和模式識別系統(tǒng)、機器學習的主要方法以及隨機變量及分布，使讀者全面了解模式識別與機器學習的相關知識。第2章貝葉斯統(tǒng)計決策分析最小錯誤率判別規(guī)則、最小風險判別規(guī)則、最大似然比判別規(guī)則、Neyman-Pearson判別規(guī)則、最小最大判別規(guī)則等經典統(tǒng)計決策理論，以及分類器設計、正態(tài)分布時的貝葉斯分類方法。第3章概率密度函數的估計介紹最大似然估計、貝葉斯估計、EM估計等參數估計方法，以及Parzen窗和k近鄰估計等非參數估計方法。第4章線性分類與回歸模型介紹線性判別函數和決策面、廣義線性判別函數、最小均方誤差判別等經典線性分類方法，以及線性回歸模型和正則化方法。第5章其他分類方法講述近鄰法、邏輯斯蒂歸、決策樹與隨機森林。第6章無監(jiān)督學習和聚類介紹無監(jiān)督混合模型估計，以及動態(tài)聚類、層次聚類、譜聚類、模糊聚類、相似性傳播聚類等無監(jiān)督聚類方法。第7章核方法和支持向量機介紹核學習機的基本思想，以及線性和非線性支持向量分類機與回歸機。第8章神經網絡和深度學習討論感知器、多層神經網絡、自組織映射神經網絡等經典神經網絡模型，簡要介紹包括堆棧式自編碼網絡、深度置信網絡、卷積神經網絡、循環(huán)神經網絡、生成對抗網絡、擴散模型和Transformer模型等深度學習模型。第9章特征選擇與提取介紹特征選擇的一般流程和過濾式、封裝式、入式、集成式等典型特征選擇方法，線性判別分析、主成分分析等線性特征提取方法，以及核的線性判別分析、核的主成分分析、流行學習等非線性特征提取方法。H2問題分析模式識別是從工程角度發(fā)展起來的，機器學習是從計算機科學的角度發(fā)展起來的。近年來，作為人工智能領域的核心技術和理論，它們之間的滲透越來越明顯。前些年，模式識別和機器學習基本上是作為兩門獨立的課程為高年級本科生和研究生開設的，所用的教材也是獨立的。近年來，隨著教學課程體系改革，有些高校整合了這兩門課程，新設了“模式識別和機器學習”課程，但國內將這兩門課程合并的配套教材相對較少。H3設計/開發(fā)解決方案本課程從2014年開始講授本科生的“模式識別與機器學習”，將這兩門課程合并。既重視基礎理論和經典方法的介紹，又兼顧前沿知識和最新模型的融入，力圖反映該領域的核心知識體系和新發(fā)展趨勢；每章的內容盡可能做到豐富完整，并附有習題或上機實踐題。M4研究L5使用現代工具L6工程與社會學會將相應技術應用于實際生產和社會服務中，為社會做出貢獻。M7環(huán)境和可持續(xù)發(fā)展L8職業(yè)規(guī)范L9個人和團隊學會個人發(fā)展和團隊合作，提高個人和團隊的綜合素質。H10溝通學會進行有效的溝通和表達，與客戶、同事和上級保持良好的溝通和協(xié)作。H11項目管理L12終身學習1.學會進行自我學習和自我提升，不斷提高自身的專業(yè)水平和創(chuàng)新能力。2.學會進行終身學習和職業(yè)發(fā)展規(guī)劃，不斷拓展職業(yè)領域和發(fā)展空間。H注：“課程教學要求”欄中內容為針對該課程適用專業(yè)的專業(yè)畢業(yè)要求與相關教學要求的具體描述。“關聯(lián)程度”欄中字母表示二者關聯(lián)程度。關聯(lián)程度按高關聯(lián)、中關聯(lián)、低關聯(lián)三檔分別表示為“H”“M”或“L”?！罢n程教學要求”及“關聯(lián)程度”中的空白欄表示該課程與所對應的專業(yè)畢業(yè)要求條目不相關。四、課程教學內容章節(jié)名稱主要內容重難點關鍵詞學時類型1緒論引言模式識別的基本概念模式識別系統(tǒng)機器學習的主要方法概逐分布習題1.了解模式空間、特征空間和類空間；2.掌握識別系統(tǒng)的功能包括模式采集、特征提取/選擇、分類等；3.了解機器學習的主要方法；4.掌握概率分布的相關內容。4理論2貝葉斯統(tǒng)計決策引言最小錯誤率判別規(guī)則最小風險判別規(guī)則最大似然比判別規(guī)則Neyman-Pearson判別規(guī)則最小最大判別規(guī)則分類器設計正態(tài)分布中的貝葉斯分類方法小結1.了解紹貝葉斯分類方法中的一般性判別規(guī)則；2.抽象出隨機模式的判別函數和決策面方程，給出兩種分類器結構；3.了解并學會使用統(tǒng)計決策規(guī)則；4.了解正態(tài)分布中的貝葉斯分類方法。12理論3概率密度函數的估計引言最大似然估計貝葉斯估計與貝葉斯學文EM估計方法非參數估計方法小結掌握Parzen窗法和近鄰法。器的能力。4理論4線性分類與回歸模型引言線性判別函數和決策面廣義線性判別函數最小均方誤差判別線性回歸模型正則化線性回歸小結了解并掌握線性判別函數和決策面、廣義線性判別函數最小均方誤差判別、線性回歸模型以及正則化線性回歸的相關知識。6理論5其他分類方法引言近鄰法邏輯斯蒂回歸決策樹與隨機森林小結掌握近鄰法、邏輯斯蒂回歸、決策樹與隨機森林相關內容。4理論6無監(jiān)督學習和聚類引言混合模型的估計動態(tài)聚類管法層次聚類算法譜聚米模糊聚類方法相似性傳播聚類小結1.了解混合模型的估計相關內容；2.掌握動態(tài)聚類管法、層次聚類算法；3.了解譜聚米、模糊聚類方法和相似性傳播聚類相關內容。8理論7核方法和支持向量機引言核學習機支持向量機支持向量回歸機小結1.了解支持向量機的分類及相關函數；2.了解支持向量回歸機的相關函數。6理論8神經網絡和深度學習引言感知器多層前向神經網絡自組織特征映射神經網絡深度學習小結1.了解感知器的概念、訓練算法及收斂性；2.掌握感知器準則函數及梯度法；3.了解多層多層前向神經網絡組成等內容；4.了解自組織特征映射神經網絡的相關內容；5.了解深度學習組成、結構、相關編碼等內容。12理論9特征選擇與提取引言特征選擇的一般流程特征選怪方決線性特征提取方法非線性特征提取方法小結1.了解特征選擇的一般流程；2.掌握特征選擇的各種方法；3.掌握線性的判別分析、主成分分析；4.掌握線性特征和非線性特征的提取方法。8理論五、考核要求及成績評定序號成績類別考核方式考核要求權重（%）備注1期末成績期末考試考試50百分制，60分為及格2平時成績課后作業(yè)9次40優(yōu)、良、中、及格、不及格3平時表現出勤情況10兩次未參加課程則無法獲得學分注：此表中內容為該課程的全部考核方式及其相關信息。六、學生學習建議學習方法建議1.通過開展課堂討論、實踐活動，增強的團隊交流能力，學會如何與他人合作、溝通、協(xié)調等等。2.了解行業(yè)企業(yè)技術標準，注重學習新技術、新工藝和新方法，根據教材中穿插設置的相關實例，對已有技術持續(xù)進行更新。3.閱讀推薦的書籍、文獻和資料，擴展自己的知識面和視野，提高自己的綜合素質和能力。學生課外閱讀參考資料《模式識別與機器學習》李映主編，電子工業(yè)出版社，2023.6。七、課程改革與建設本課程既重視基礎理論和經典方法的介紹，又兼顧前沿知識和最新模型的融入，力圖反映該領域的核心知識體系和新發(fā)展趨勢；每章的內容盡可能做到豐富完整，并附有習題或上機實踐題，便于學生鞏固所學的知識。平時對學生的考核內容包括出勤情況、學生的課后作業(yè)、課堂討論等方面，占期末總評的50%。期末考試成績占期末總評的50%。制訂人簽字：教研室主任簽字：院部負責人簽字：修訂時間：年月日教學日歷（20xx～20xx學年第x學期）開課學院開課專業(yè)講授學時64課程名稱模式識別與機器學習授課教師實踐/實驗學時0授課年級授課班級總學時64使用教材《模式識別與機器學習》參考書目《模式識別與機器學習》校歷周次授課內容分章節(jié)題目第1周第1章緒論（4學時）1.1引言（0.5學時）1.2模式識別的基本概念（0.5學時）1.3模式識別系統(tǒng)（1學時）1.4機器學習的主要方法（1學時）1.5概率分布（0.5學時）1.6習題（0.5學時）第2周第2章貝葉斯統(tǒng)計決策（4學時）2.1引言（1學時）2.2最小錯誤率判別規(guī)則（1學時）2.3最小風險判別規(guī)則（1學時）2.4最大似然比判別規(guī)則（1學時）第3周第2章貝葉斯統(tǒng)計決策（4學時）2.4最大似然比判別規(guī)則（1學時）2.5Neyman-Pearson判別規(guī)則（2學時）2.6最小最大判別規(guī)則（1學時）第4周第2章貝葉斯統(tǒng)計決策（4學時）2.6最小最大判別規(guī)則（1學時）2.7分類器設計（1學時）2.8正態(tài)分布中的貝葉斯分類方法（1學時）2.9小結（1學時）第5周第3章概率密度函數的估計（4學時）3.1引言（0.5學時）3.2最大似然估計（0.5學時）3.3貝葉斯估計與貝葉斯學文（1學時）3.4EM估計方法（1學時）3.5非參數估計方法（0.5學時）3.6小結（0.5學時）第6周第4章線性分類與回歸模型（4學時）4.1引言（0.5學時）4.2線性判別函數和決策面（1學時）4.3廣義線性判別函數（1學時）4.4最小均方誤差判別（1學時）4.5線性回歸模型（0.5學時）第7周第4章線性分類與回歸模型（2學時）4.5線性回歸模型（0.5學時）4.6正則化線性回歸（1學時）4.7小結（0.5學時）（0.5學時）第5章其他分類方法（2學時）5.1近鄰法（1學時）5.2邏輯斯蒂回歸（1學時）第8周第5章其他分類方法（2學時）5.3決策樹與隨機森林（1學時）5.4小結（1學時）第6章無監(jiān)督學習和聚類（2學時）6.1引言（1學時）6.2混合模型的估計（1學時）第9周第6章無監(jiān)督學習和聚類（4學時）6.3動態(tài)聚類管法（1學時）6.4層次聚類算法（1學時）6.5譜聚米（1學時）6.6模糊聚類方法（1學時）第10周第6章無監(jiān)督學習和聚類（2學時）6.7相似性傳播聚類（1學時）6.8小結（1學時）第7章核方法和支持向量機（2學時）7.1引言（1學時）7.2核學習機（1學時）第11周第7章核方法和支持向量機（4學時）7.3支持向量機（2學時）7.4支持向量回歸機類（1學時）7.5小結（1學時）第12周第8章神經網絡和深度學習（4學時）8.1引言（1學時）8.2感知器（2學時）8.3多層前向神經網絡（1學時）第13周第8