機器學習教學大綱

《機器學習》課程教學大綱課程代碼：課程英文名稱：MachineLearning課程總課時：40講課：32試驗：8上機：0合用專業(yè)：信息與計算科學大綱編寫（修訂）時間：.11 一、大綱使用闡明（一）課程的地位及教學目的機器學習是信息與計算科學專業(yè)的一門專業(yè)選修課。建設(shè)信息安全保障體系是信息安全保障工作的重要任務(wù)，信息安全保密是信息安全保障中的關(guān)鍵問題之一。伴隨互聯(lián)網(wǎng)和電子商務(wù)等技術(shù)的不停發(fā)展和應用，信息安全與保密成了影響計算機應用的重要問題。本課程教學目的就是讓信息與計算科學專業(yè)的學生掌握常見的機器學習算法，包括算法的重要思想和基本環(huán)節(jié)，并通過編程練習和經(jīng)典應用實例加深理解；同步對機器學習的一般理論，如假設(shè)空間、采樣理論、計算學習理論，以及無監(jiān)督學習和強化學習有所理解。（二）知識、能力及技能方面的基本規(guī)定1.基本知識：機器學習總論，監(jiān)督學習，非監(jiān)督學習，記錄學習，計算學習，貝葉斯學習，數(shù)據(jù)壓縮學習。2.基本能力和措施：通過本科程的學習，培養(yǎng)學生的學習能力，創(chuàng)新能力，把知識與實際應用相結(jié)合的能力。3.基本技能:能根據(jù)實際問題的需要選擇并實現(xiàn)對應的算法。（三）實行闡明1．教學措施：課堂講授中要重點對基本概念、基本措施和解題思緒的講解；采用啟發(fā)式教學，培養(yǎng)學生思索問題、分析問題和處理問題的能力；引導和鼓勵學生通過實踐和自學獲取知識，培養(yǎng)學生的自學能力；增長討論課，調(diào)動學生學習的主觀能動性。講課要聯(lián)絡(luò)實際并重視培養(yǎng)學生的動手能力和創(chuàng)新思維。2．教學手段：本課程提議采用課堂講授、討論、多媒體教學相結(jié)合的教學形式，以保證在有限的課時內(nèi)，全面、高質(zhì)量地完畢課程教學任務(wù)。3．教師在講課過程中可以根據(jù)實際狀況酌情安排各部分的課時，課時分派表僅供參照。（四）對先修課的規(guī)定本課程的教學必須在完畢先修課程之后進行。本課程重要的先修課程有計算機程序設(shè)計、概率論與數(shù)理記錄等。（五）對習題課、實踐環(huán)節(jié)的規(guī)定1．本課程規(guī)定學生能學會多種技術(shù)的原理，對多種機器學習問題進行分析和提出對應處理方案。因此作業(yè)以小論文方式最佳，也可以預留針某種機器學習問題的題目，讓學生查閱資料在課堂上討論、發(fā)言。2．課后作業(yè)要少而精，內(nèi)容要多樣化，作業(yè)題內(nèi)容必須包括基本概念、基本理論及設(shè)計計算方面的內(nèi)容，作業(yè)要能起到鞏固理論，掌握計算措施和技巧，提高分析問題、處理問題能力，熟悉原則、規(guī)范等的作用，對作業(yè)中的重點、難點，課上應做必要的提醒，并合適安排課內(nèi)講評作業(yè)。學生必須獨立、準時完畢課外習題和作業(yè)，作業(yè)的完畢狀況應作為評估課程成績的一部分。3．每個學生要完畢大綱中規(guī)定的上機試驗，通過上機環(huán)節(jié)，學生應掌握經(jīng)典機器學習措施的計算機實現(xiàn)措施，獲得試驗操作的基本訓練。4．安排大作業(yè)，大作業(yè)成績作為平時成績的一部分。（六）課程考核方式1．考核方式：考察。2．考核目的：在考核學生對機器學習基本知識、基本原理和措施的基礎(chǔ)上，重點考核學生的分析能力和設(shè)計能力。3．成績構(gòu)成：本課程的總成績重要由三部分構(gòu)成：平時成績（包括作業(yè)狀況、出勤狀況等）占20%，試驗成績占20%，期末考試成績占60%。平時成績由任課教師視詳細狀況按百分制給出；試驗成績由試驗老師參照有關(guān)規(guī)定按百分制給出，試驗無成績或試驗不及格，取消期末考試資格，總成績直接以不及格計。（七）參照書目 《機器學習》，周志華編，清華大學出版社，《PatternRecognitionandMachineLearning》Bishop,C.M.,SpringScienceBusinessMedia,LLC，《人工智能》，陸汝鈴編，科學出版社，1996《記錄學習發(fā)法》，李航編，清華大學出版社，二、中文摘要本課程是信息與計算科學專業(yè)學生選修的一門實踐性較強的技術(shù)專業(yè)課程。課程通過對機器學習理論內(nèi)容的講授，使學生掌握機器學習的基本知識、原理和措施。課程重要內(nèi)容包括信息安全的基本概念和基本技術(shù)、常見的古典密碼體制、對稱密碼體制、公鑰密碼體制及其他多種應用安全的基本原理。本課程將為有關(guān)畢業(yè)設(shè)計奠定重要的基礎(chǔ)。三、課程課時分派表序號教學內(nèi)容課時講課試驗上機1緒論441.1機器學習的一般原理與有關(guān)概念21.2學習問題的原則描述與選擇目的函數(shù)22概念學習和一般到特殊序442.1概念學習的定義和基本措施22.2假設(shè)的一般到特殊序23決策樹學習8623.1決策樹學習的基本原理23.2決策樹學習的基本算法23.3決策樹學習的表達法2試驗24人工神經(jīng)網(wǎng)絡(luò)8624.1神經(jīng)網(wǎng)絡(luò)的基本原理和表達措施24.2感知器的基本原理和訓練法則24.3反向傳播算法（BP）和訓練法則2試驗25貝葉斯學習8625.1貝葉斯公式的基本原理、先驗概率，后驗概率的概念25.2MAP假設(shè)和一致學習器25.3應用

貝葉斯最優(yōu)分類器原理和算法2試驗26基于實例的學習6426.1k-近鄰法算法及實現(xiàn)

26.2距離加權(quán)近來鄰算法

2試驗27深度學習簡介22合計40328四、教學內(nèi)容及基本規(guī)定第1部分緒論總課時(單位：課時):4講課:4試驗:0上機:0第1.1部分機器學習的一般原理與有關(guān)概念（講課2課時）詳細內(nèi)容:1) 理解機器學習的發(fā)展歷程。2) 理解機器學習的一般原理。3) 掌握機器學習的有關(guān)概念。第1.2部分學習問題的原則描述與選擇目的函數(shù)（講課2課時）詳細內(nèi)容:1) 學習問題的原則描述。2) 掌握選擇目的函數(shù)的表達

選擇函數(shù)迫近算法

。重點:機器學習的基本概念與基本原理，目的函數(shù)的選擇。難點:機器學習的基本概念與基本原理。習題:可以上網(wǎng)查閱有關(guān)知識，寫一篇有關(guān)機器學習的小論文。第2部分概念學習和一般到特殊序總課時(單位：課時):4講課:4試驗:0上機:0第2.1部分概念學習的定義和基本措施（講課2課時）詳細內(nèi)容:掌握

概念學習的任務(wù)和基本術(shù)語（實例，目的概念，訓練樣例，正例，反例，假設(shè)）理解

歸納學習的措施。第2.2部分假設(shè)的一般到特殊序（講課2課時）詳細內(nèi)容:1) 理解

Find-S算法：尋找極大特殊假設(shè)。

2) 掌握變型空間和候選消除算法

學習成果的評價。重點:概念學習的任務(wù)和基本術(shù)語（實例，目的概念，訓練樣例，正例，反例，假設(shè)）、變型空間和候選消除算法

學習成果的評價。難點:變型空間和候選消除算法

學習成果的評價。習題:變型空間和候選消除算法

學習成果的評價。第3部分決策樹學習總課時(單位：課時):8講課:6試驗:2上機:0第3.1部分決策樹學習的基本原理（講課2課時）詳細內(nèi)容：掌握選擇度量原則的基本原理。第3.2部分決策樹學習的基本算法課2時）詳細內(nèi)容:掌握

基本的決策樹學習算法第3.3部分決策樹學習的表達法（課2時）詳細內(nèi)容:學習中的假設(shè)空間搜索

決策樹學習的歸納偏置

與決策樹學習的常見問題(過度擬合,

持續(xù)值屬性等)和常用的處理措施（修剪，定義新的離散值屬性等）重點:決策樹學習的基本原理、算法與表達法及上機實現(xiàn)。難點:決策樹學習的基本原理、算法與表達法及上機實現(xiàn)。習題:決策樹的基本流程、劃分選擇、剪枝處理。實驗:編程實現(xiàn)決策樹的剪枝問題。（2課時）第4部分人工神經(jīng)網(wǎng)絡(luò)總課時(單位：課時):8講課:6試驗:2上機:0第4.1部分神經(jīng)網(wǎng)絡(luò)的基本原理和表達措施（講課2課時）詳細內(nèi)容：1) 理解神經(jīng)網(wǎng)絡(luò)基本概念。2) 掌握神經(jīng)網(wǎng)絡(luò)的基本原理和表達措施。第4.2部分感知器的基本原理和訓練法則（講課2課時）詳細內(nèi)容：理解感知器的基本原理和訓練法則。第4.3部分反向傳播算法（BP）和訓練法則（講課2課時）詳細內(nèi)容：掌握反向傳播算法（BP）和訓練法則，并理解局部最小與全局最小。重點:感知器的基本原理和訓練法則，反向傳播算法（BP）和訓練法則并上機實現(xiàn)。難點:反向傳播算法（BP）和訓練法則并上機實現(xiàn)。習題:查閱有關(guān)資料，撰寫小論文。實驗:編程實現(xiàn)反向傳播算法（BP）和訓練法則（2課時）第5部分貝葉斯學習總課時(單位：課時):8講課:6試驗:2上機:0第5.1部分貝葉斯公式的基本原理、先驗概率，后驗概率的概念（講課2課時）詳細內(nèi)容:

貝葉斯公式的基本原理、先驗概率，后驗概率的概念。

Brute-Force貝葉斯概念學習的基本原理和貝葉斯法則的應用第5.2部分MAP假設(shè)和一致學習器（講課2課時）詳細內(nèi)容:掌握MAP假設(shè)和一致學習器的使用方法。第5.3部分應用

貝葉斯最優(yōu)分類器原理和算法（講課2課時）詳細內(nèi)容:掌握樸素貝葉斯分類器與半樸素貝葉斯分類器，理解貝葉斯網(wǎng)絡(luò)的優(yōu)缺陷。重點:Brute-Force貝葉斯概念學習的基本原理和貝葉斯法則的應用；貝葉斯最優(yōu)分類器原理和算法。難點:貝葉斯最優(yōu)分類器原理和算法及其實現(xiàn)。習題:樸素貝葉斯分類器與半樸素貝葉斯分類器。實驗:可以對貝葉斯分類器進行編程實現(xiàn)。（2課時）第6部分基于實例的學習總課時(單位：課時):6講課:4試驗:2上機:0第6.1部分k-近鄰法算法及實現(xiàn)（講課2課時）詳細內(nèi)容:掌握k-近鄰法算法的基本原理與詳細實現(xiàn)。第6.2部分距離加權(quán)近來鄰算法（講課2課時）詳細內(nèi)容:掌握距離加權(quán)近來鄰算法的基本原理與詳細實現(xiàn)。重點:k-近鄰法算法的基本原理與詳細實現(xiàn)，距離加權(quán)近來鄰算法的基本原理與詳細實現(xiàn)。難點:k-近鄰法算法的基本原理與詳細實現(xiàn)，距離加權(quán)近來鄰算法的基本原理