研究生《模式識別與機(jī)器學(xué)習(xí)》教學(xué)大綱-學(xué)位課

PAGEPAGE1《模式識別與機(jī)器學(xué)習(xí)》教學(xué)大綱Pattern

Recognition

andMachineLearning第一部分

大綱說明1.課程代碼：2.課程性質(zhì)：學(xué)位必修課3.學(xué)時(shí)/學(xué)分：40/34.課程目標(biāo)：模式識別與機(jī)器學(xué)習(xí)研究計(jì)算機(jī)識別物體的機(jī)理，該課程的學(xué)習(xí)將為數(shù)據(jù)分析與處理以及人工智能等領(lǐng)域的學(xué)習(xí)打下基礎(chǔ)。本課程主要分為兩大部分，第一部分主要介紹模式識別，包括模式識別的基本概念、基本原理、典型方法、實(shí)用技術(shù)以及有關(guān)研究的新成果，其目的是使學(xué)生掌握模式識別的基本概念和基本原理，了解模式識別在圖像分析、語音識別和音頻分類等領(lǐng)域的具體應(yīng)用、存在的問題和發(fā)展前景。第二部分主要介紹機(jī)器學(xué)習(xí)，包括多項(xiàng)式回歸、正則方程、邏輯回歸、神經(jīng)網(wǎng)絡(luò)、深度置信網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)等，通過教學(xué)使學(xué)生掌握機(jī)器學(xué)習(xí)的基礎(chǔ)理論，以及無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)等；熟悉常見機(jī)器學(xué)習(xí)的常用算法，以及算法的主要思想和運(yùn)用方法，并通過編程實(shí)踐和典型應(yīng)用實(shí)例加深了解。5.教學(xué)方式：課堂講授、自學(xué)與討論、課堂上機(jī)與實(shí)例項(xiàng)目相結(jié)合6.考核方式：考試7.先修課程：概率論、數(shù)字信號處理8.本課程的學(xué)時(shí)分配表序號教學(xué)內(nèi)容理論學(xué)時(shí)實(shí)驗(yàn)課時(shí)課堂討論學(xué)時(shí)課外自學(xué)學(xué)時(shí)1上篇第一章：緒論212第二章：基于貝葉斯決策理論的分類器213第三章：分類器314第四章：特征選擇與特征生成525第五章：監(jiān)督模式識別216第六章：聚類算法227第七章：模式識別的具體應(yīng)用218第八章：模式識別前沿技術(shù)介紹和討論229下篇第一章：機(jī)器學(xué)習(xí)概論2110第二章：線性回歸11211第三章：邏輯回歸11212第四章：聚類和降維11213第五章：支持向量機(jī)11214第六章：神經(jīng)網(wǎng)絡(luò)11215第七章：深度置信網(wǎng)絡(luò)11216第八章：卷積神經(jīng)網(wǎng)絡(luò)11217第九章：機(jī)器學(xué)習(xí)系統(tǒng)11218第十章：應(yīng)用實(shí)例1119.教材及教學(xué)參考資料：（一）教材：《模式識別》第4版，SergiosT等編，電子工業(yè)出版社邊肇祺，張學(xué)工等編著，《機(jī)器學(xué)習(xí)》，PeterFlach.人民郵電出版社,2016.（二）教學(xué)參考資料：[1]《模式分類》(英文版·第2版)，

RichardO等編，機(jī)械工業(yè)出版社[2]《模式識別導(dǎo)論》，范九倫等編，西安電子科技大學(xué)出版社[3]《模式識別》第2版，邊肇祺等編，清華大學(xué)出版社[4]《神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)（英文版·第3版）》.HaykinS.機(jī)械工業(yè)出版社[5]《DeepLearning》.IanGoodfellow,YoshuaBengioandAaronCourville.MITPress第二部分教學(xué)內(nèi)容和教學(xué)要求上篇模式識別第一章緒論教學(xué)內(nèi)容：1.1模式與模式識別1.2模式識別的主要方法1.3監(jiān)督模式識別與非監(jiān)督模式識別1.4模式識別系統(tǒng)舉例1.5模式識別系統(tǒng)的典型構(gòu)成教學(xué)要求：了解模式識別的相關(guān)常識與概念，以及一些常用的研究方法。第二章基于貝葉斯決策理論的分類器教學(xué)內(nèi)容：2.1最大似然估計(jì)2.2貝葉斯決策理論2.3正太分布的貝葉斯分類2.4最近鄰規(guī)則教學(xué)要求：充分理解最大似然估計(jì)、貝葉斯估計(jì)的理論。第三章分類器教學(xué)內(nèi)容：3.1線性判別函數(shù)3.2最小平方誤差判別3.3最小二乘法3.4支持向量機(jī)3.5隱馬爾科夫模型，高斯混合概率模型教學(xué)要求：理解線性判別函數(shù)的基本概念并掌握其性質(zhì)，理解最小平方誤差判別、最小二乘法和支持向量機(jī)；熟練掌握隱馬爾科夫模型、高斯混合概率模型的基礎(chǔ)理論，掌握他們的工作機(jī)理以及對應(yīng)模型在模式識別過程中的優(yōu)缺點(diǎn)。第四章特征選擇與特征生成教學(xué)內(nèi)容：4.1特征提取方法4.2特征選擇的原則與方法4.3奇異值分解4.4主成分分析4.5非負(fù)矩陣因子分解教學(xué)要求：熟練掌握特征提取與選擇的基本概念、掌握類別可分性測度的方法，了解特征選擇的準(zhǔn)則，掌握特征選擇的方法；熟練掌握特征生成的基本方法、掌握SVD、PCA、NMF、DCT、DTWT的基本原理。第五章監(jiān)督模式識別教學(xué)內(nèi)容：5.1誤差計(jì)算方法5.2數(shù)據(jù)集影響5.3半監(jiān)督學(xué)習(xí)教學(xué)要求：了解模型的方法，掌握不同誤差算法在識別過程中的應(yīng)用。第六章聚類算法教學(xué)內(nèi)容：6.1聚類算法的分類6.2順序聚類算法6.3合并算法6.4分裂算法教學(xué)要求：了解各種聚類算法的基本概念、理解常用聚類算法的工作原理。第七章模式識別的具體應(yīng)用教學(xué)內(nèi)容：7.1音頻識別7.2數(shù)字圖像識別教學(xué)要求：根據(jù)模式識別在音頻和圖像處理領(lǐng)域的應(yīng)用，了解并掌握課程內(nèi)容在實(shí)際領(lǐng)域的應(yīng)用和具體實(shí)現(xiàn)方式。第八章模式識別前沿技術(shù)介紹和討論教學(xué)內(nèi)容：以當(dāng)前模式識別技術(shù)的最新發(fā)展為背景，選定幾個(gè)研究熱點(diǎn)，對其實(shí)現(xiàn)的關(guān)鍵技術(shù)、應(yīng)用現(xiàn)狀及面臨的問題進(jìn)行分組專題報(bào)告及課堂討論。教學(xué)要求：對選定的模式識別領(lǐng)域進(jìn)行了解、講述技術(shù)的原理、應(yīng)用現(xiàn)狀、討論在現(xiàn)領(lǐng)域的研究熱點(diǎn)及面臨的問題和可能的解決方案。下篇機(jī)器學(xué)習(xí)第1章機(jī)器學(xué)習(xí)概論教學(xué)內(nèi)容：1.1引言1.2監(jiān)督學(xué)習(xí)1.3非監(jiān)督學(xué)習(xí)教學(xué)要求：了解機(jī)器學(xué)習(xí)的基本概念，掌握監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)的分類和應(yīng)用。第2章線性回歸教學(xué)內(nèi)容：2.1單變量回歸2.2多變量回歸2.3代價(jià)函數(shù)教學(xué)要求：了解線性回歸的基本概念，掌握單變量回歸、多變量回歸的模型構(gòu)建及代價(jià)函數(shù)表達(dá)。熟悉模型的使用及代價(jià)函數(shù)的求解方法。第3章邏輯回歸教學(xué)內(nèi)容：3.1建模方法3.2多類分類3.3代價(jià)函數(shù)教學(xué)要求：了解邏輯回歸的基本概念，掌握邏輯回歸的應(yīng)用，多類分類方法的建模及代價(jià)函數(shù)的表達(dá)。熟悉模型的使用及代價(jià)函數(shù)的求解方法。第4章聚類和降維教學(xué)內(nèi)容：4.1聚類4.2降維4.3主成分分析教學(xué)要求：了解聚類、降維和主成分分析的基本概念。掌握K-均值算法、數(shù)據(jù)壓縮、數(shù)據(jù)可視化以及主成分分析的應(yīng)用。熟悉掌握聚類、降維和主成分分析運(yùn)用的方法。第5章支持向量機(jī)教學(xué)內(nèi)容：5.1優(yōu)化目標(biāo)5.2判定邊界5.3核函數(shù)教學(xué)要求：了解復(fù)雜的非線性問題的定義，及支持向量機(jī)的基本概念。通過對邏輯回歸在解決復(fù)雜非線性問題的局限性分析，熟悉支持向量機(jī)的優(yōu)化目標(biāo)、判定邊界及核函數(shù)的使用。第6章神經(jīng)網(wǎng)絡(luò)教學(xué)內(nèi)容：6.1神經(jīng)網(wǎng)絡(luò)概述6.2模型表達(dá)6.3代價(jià)函數(shù)教學(xué)要求：了解神經(jīng)網(wǎng)絡(luò)的基本概念，以及神經(jīng)網(wǎng)絡(luò)的模型表達(dá)。熟悉正向傳播、方向傳播和梯度檢驗(yàn)的應(yīng)用。第7章深度置信網(wǎng)絡(luò)教學(xué)內(nèi)容：7.1RBM7.2DBN7.3訓(xùn)練算法教學(xué)要求：了解RBM、DBN的基本概念和關(guān)系。熟悉DBN網(wǎng)絡(luò)的應(yīng)用和訓(xùn)練方法。第8章卷積神經(jīng)網(wǎng)絡(luò)教學(xué)內(nèi)容：8.1卷積8.2池化8.3訓(xùn)練算法教學(xué)要求：了解人類視覺系統(tǒng)的構(gòu)成及卷積池化的基本概念和關(guān)系。熟悉CNN網(wǎng)絡(luò)的應(yīng)用和訓(xùn)練方法第9章機(jī)器學(xué)習(xí)系統(tǒng)教學(xué)內(nèi)容：9.1系統(tǒng)設(shè)計(jì)9.2誤差分析9.3設(shè)計(jì)舉例教學(xué)要求：了解機(jī)器學(xué)習(xí)系統(tǒng)設(shè)計(jì)的基本