機器學(xué)習(xí) 教學(xué)設(shè)計

第七章 機器學(xué)習(xí)有關(guān)知識及其主要的幾種學(xué)習(xí)方法，并介紹了知識發(fā)現(xiàn)的相關(guān)內(nèi)容。教學(xué)重點：機器學(xué)習(xí)的基本結(jié)構(gòu)、類比學(xué)習(xí)、神經(jīng)學(xué)習(xí)、知識發(fā)現(xiàn)教學(xué)難點：學(xué)習(xí)系統(tǒng)的結(jié)構(gòu)，知識發(fā)現(xiàn)的處理過程，例來加以說明，注意難易結(jié)合，將課程講述得較為淺顯易懂。學(xué)習(xí)，一般了解機械學(xué)習(xí)。機器學(xué)習(xí)的定義和發(fā)展歷史教學(xué)內(nèi)容：本小節(jié)主要介紹了機器學(xué)習(xí)的定義以及其發(fā)展的過程，為后面的進一步學(xué)習(xí)打下基礎(chǔ)。教學(xué)重點：機器學(xué)習(xí)的定義教學(xué)難點：對定義的準(zhǔn)確把握和理解為具體的感受和體會。教學(xué)要求：重點掌握機器學(xué)習(xí)的定義，了解機器學(xué)習(xí)的發(fā)展史。機器學(xué)習(xí)的定義機器學(xué)習(xí)的基本概念：系統(tǒng)在下一次執(zhí)行同樣任務(wù)或類似任務(wù)時，會比現(xiàn)在做得更好或效率更高。機器學(xué)習(xí)的定義研究機器獲取新知識和新技能，并識別現(xiàn)有知識的學(xué)問。舉例：列舉1959年美國的塞繆爾設(shè)計的一下棋程序，由這一事件引出關(guān)于機器學(xué)習(xí)的概念的相關(guān)討論。提問：討論關(guān)于機器學(xué)習(xí)的各種概念的提出以及其區(qū)別。機器學(xué)習(xí)的發(fā)展史機器學(xué)習(xí)是人工智能應(yīng)用研究較為重要的分支，它的發(fā)展過程大體上可分為4個時期：5060的學(xué)習(xí)，即“無知”學(xué)習(xí)；其研究目標(biāo)是各類自組織系統(tǒng)和自適應(yīng)系統(tǒng)；指導(dǎo)本階段研究的理論基礎(chǔ)是早40年代就開始研究的神經(jīng)網(wǎng)絡(luò)模型。在這個時期，我國研制了數(shù)字識別學(xué)習(xí)機。6070年代中葉，被稱為機器學(xué)習(xí)的冷靜時期。本階段的研究目標(biāo)是模擬人對機器學(xué)習(xí)的研究不可能取得實質(zhì)進展。器學(xué)習(xí)在現(xiàn)實生活中的具體運用及其影響。第三階段從70年代中葉至80年代中葉，稱為復(fù)興時期。在這個時期，人們從學(xué)習(xí)單個概念擴展到學(xué)習(xí)多個概念，探索不同的學(xué)習(xí)策略和各種學(xué)習(xí)方法。本階段已開始把學(xué)習(xí)系統(tǒng)與各種應(yīng)用結(jié)合起來，國科學(xué)院自動化研究所進行質(zhì)譜分析和模式文法推斷研究表明我國的機器學(xué)習(xí)研究得到恢復(fù)1980器學(xué)習(xí)在現(xiàn)實生活中的具體運用及其影響。機器學(xué)習(xí)的最新階段始于1986年一方面由于神經(jīng) 網(wǎng)絡(luò)研究的重新興起，另一方面，對實驗研究和應(yīng)用研究得到前所未有 的重視我的機器學(xué)習(xí)研究開始進入穩(wěn)步發(fā)展和逐漸繁榮的新時期。機器學(xué)習(xí)的主要策略與基本結(jié)構(gòu)習(xí)的機制有了基本的認識。教學(xué)重點：機器學(xué)習(xí)的基本結(jié)構(gòu)。教學(xué)難點：機器學(xué)習(xí)基本結(jié)構(gòu)的內(nèi)在聯(lián)系。埋下伏筆。詳細講述機器學(xué)習(xí)的基本結(jié)構(gòu)，通過圖示讓更為形象的說明。計的因素。機器學(xué)習(xí)的主要策略4種——機械學(xué)習(xí)、示教學(xué)習(xí)、類比學(xué)習(xí)和示例學(xué)習(xí)。學(xué)習(xí)中所用的推理越多，系統(tǒng)的能力越強。機械學(xué)習(xí)就是記憶，是最簡單的學(xué)習(xí)策略。這種學(xué)習(xí)策略不需要任何推理過程。討論：通過對比四種主要策略，討論其各自的優(yōu)缺點以及其適用的環(huán)境。討論：通過對比四種主要策略，討論其各自的優(yōu)缺點以及其適用的環(huán)境。類比學(xué)習(xí)系統(tǒng)只能得到完成類似任務(wù)的有關(guān)因此，他比 上述兩學(xué)習(xí)策略需要更多的推理。采用示例學(xué)習(xí)策略的計算機系統(tǒng)，事先完全沒有完成任 務(wù)的任規(guī)律性的信息，因此需要推理是最多的。機器學(xué)習(xí)系統(tǒng)的基本結(jié)構(gòu)基本結(jié)構(gòu)圖表示學(xué)習(xí)系統(tǒng)的基本結(jié)構(gòu)：環(huán)境環(huán)境學(xué)習(xí)知識庫執(zhí)行圖學(xué)習(xí)系統(tǒng)的基本結(jié)構(gòu)通過對這個簡單模型的討論，總結(jié)出設(shè)計學(xué)習(xí)舉例：以人為例，說明機器學(xué)系統(tǒng)應(yīng)當(dāng)注意的某些總的原則：習(xí)和人學(xué)習(xí)一樣，有著其自身環(huán)境向系統(tǒng)的學(xué)習(xí)部分提供某些信息，學(xué)習(xí)部的規(guī)律和基本過程。而且，其分利用這些信息修改知識庫，以增進系統(tǒng)執(zhí)行部分完學(xué)習(xí)過程也有著共性。成任務(wù)的效能，執(zhí)行部分根據(jù)知識庫完成任務(wù)，同時把獲得的信息提問：能否就機器學(xué)習(xí)的基本反饋給學(xué)習(xí)部分。在具體的應(yīng)用中，環(huán)境，知識庫和執(zhí)行部分決定結(jié)構(gòu)，舉出相關(guān)的例子，并參了具體的工作內(nèi)容，學(xué)習(xí)部分所需要解決的問題完全由上述3部分照其基本結(jié)構(gòu)對其進行分析。確定。影響學(xué)習(xí)系統(tǒng)設(shè)計的重要因素糟粕”的原則，同時謹記“實踐是檢驗真理的唯一標(biāo)準(zhǔn)4個方面：1 表達能力強。所選擇的表示方式能很容易地表達有關(guān)的知識。2 易于推理。為了使學(xué)習(xí)系統(tǒng)的計算代價比較低，希望知識表示方式能使推理較為容易。3 要加到知識庫中。舉例：可舉特征向量的例子來說明表達能力和推理的問題。4 舉例：可舉特征向量的例子來說明表達能力和推理的問題。學(xué)習(xí)系統(tǒng)不能在全然沒有任何知識的情況下憑空獲取知識， 每一個學(xué)習(xí)系統(tǒng)都要求具有某些知識理解環(huán)境提供的信息，分析比較，做出 假設(shè)，檢驗并修改這些假設(shè)。因此，更確切地說，學(xué)習(xí)系統(tǒng)是對現(xiàn)有知識的進。機械學(xué)習(xí)

擴展和改本小節(jié)詳細介紹了機械學(xué)習(xí)，對機械學(xué)習(xí)模式和一種數(shù)據(jù)化簡模式以及機械學(xué)習(xí)的主要缺礎(chǔ)。教學(xué)重點：機械學(xué)習(xí)的模式和其數(shù)據(jù)化簡模式教學(xué)難點：基本原理教學(xué)方法：多結(jié)合日常生活中常有的學(xué)習(xí)過程，和機械學(xué)習(xí)參照，讓學(xué)生更容易接受。教學(xué)要求：重點掌握機械學(xué)習(xí)模式，了解機械學(xué)習(xí)的數(shù)據(jù)化簡模式以及機械學(xué)習(xí)的優(yōu)缺點。舉例：可用嬰兒剛開始學(xué)東西時所才用的學(xué)習(xí)方式和成人的思維方式比較。舉例：可用嬰兒剛開始學(xué)東西時所才用的學(xué)習(xí)方式和成人的思維方式比較。機械學(xué)習(xí)是最簡單的機器學(xué)習(xí)方法。機械學(xué)習(xí)就是記憶， 即把新的知識存儲起來，供需要時檢索調(diào)用，而不需要計算和推理。機械 學(xué)習(xí)又是最基本的學(xué)習(xí)過程。任何學(xué)習(xí)系統(tǒng)都必須記住它們獲取的知識。 在機械學(xué)習(xí)系統(tǒng)中，知識的獲取是以較為穩(wěn)定和直接的方式進行的，不需 要系統(tǒng)進過多的加工。2、數(shù)據(jù)化簡Lenat,HayesRoth，和Klahr等人于1979年關(guān)于機械學(xué)習(xí)提出一種有趣的觀點。他們指出，可以把算法和理論存儲計算算法和理論存儲計算推導(dǎo)歸納機械記憶搜索規(guī)則圖數(shù)據(jù)化簡級別圖3、主要問題對于機械學(xué)習(xí)，需要注意3個重要的問題：存儲組織，穩(wěn)定性和存儲與計算之間的權(quán)衡。盡可能地快，是機械學(xué)習(xí)中的重要問題。環(huán)境的穩(wěn)定性與存儲信息的適用性問題：機械學(xué)習(xí)系統(tǒng)必須系統(tǒng)的效率。

保證所保存它不能降低機械學(xué)習(xí)中存在的主要問題以及對學(xué)機械學(xué)習(xí)中存在的主要問題以及對學(xué)紹，后半部分介紹了幾種常見的歸納學(xué)習(xí)的方法。教學(xué)重點：歸納學(xué)習(xí)的定義和其學(xué)習(xí)模式教學(xué)難點：歸納學(xué)習(xí)的基本原理系統(tǒng)的認識。教學(xué)要求：重點掌握歸納學(xué)習(xí)的定義及其模式，了解歸納學(xué)習(xí)的幾種常見方法。歸納學(xué)習(xí)的定義歸納理行為。它是一種從個別到一般的推理。歸納學(xué)習(xí)（inductionlearning）導(dǎo)，可把它分為示例學(xué)習(xí)和觀察與發(fā)現(xiàn)學(xué)習(xí)。前者屬于有師學(xué)習(xí)，后者屬于無師學(xué)習(xí)。歸納學(xué)習(xí)的模式和規(guī)則歸納學(xué)習(xí)的一般模式為：給定：(1)觀察陳述（事實）F假定的初始（可能為空(3)假設(shè)和約束，其中包括能夠刻畫所求歸納斷言的性質(zhì)的優(yōu)先準(zhǔn)則。求：歸納斷言（假設(shè)HFFH的邏輯推理，則有：H|>F（讀作H特殊化為F）或F|<H （FH）HFFH真的，而是保假的。歸納學(xué)習(xí)系統(tǒng)的模型如圖所示。圖歸納學(xué)習(xí)系統(tǒng)模型解釋過程實例空間 規(guī)則空間規(guī)劃工程實驗規(guī)劃過程通過對實例空間的搜索完成實例選擇，并將這的活躍實例提交解釋過程。解釋過程對實例加以適當(dāng)轉(zhuǎn)換，把活變換為規(guī)則空間中的特定概念，以引導(dǎo)規(guī)則空間的搜索。

些選中躍實例歸納學(xué)習(xí)方法1、示例學(xué)習(xí)示例學(xué)習(xí)（learningfromexamples）又稱為實例學(xué)習(xí)，它是通過環(huán)境中若干與某概念有關(guān)的例子，經(jīng)歸納得出一般性概念的一種學(xué)習(xí)方法。在這種學(xué)習(xí)方法中，外部環(huán)境提供的是一組例子（正例和反例，有反例。通過書上的例子引出示例學(xué)習(xí)的通過書上的例子引出示例學(xué)習(xí)的觀察發(fā)現(xiàn)學(xué)習(xí)又稱為描述性概括，其目標(biāo)是確定一個定律或 理論的一般性描述，刻畫觀察集，指定某類對象的性質(zhì)。觀察發(fā)現(xiàn)學(xué)習(xí)可分 為觀察學(xué)習(xí)與機器發(fā)現(xiàn)兩種。前者用于對事例進行聚類，形成概念描述；后規(guī)律，產(chǎn)生定律或規(guī)則。類比學(xué)習(xí)

者用于發(fā)現(xiàn)教學(xué)內(nèi)容：最后研究類比學(xué)習(xí)的過程和研究類型。教學(xué)重點：類比推理，類比學(xué)習(xí)的學(xué)習(xí)過程教學(xué)難點：類比推理的步驟力于接受知識。教學(xué)要求：重點掌握類比推理的定義，了解類比學(xué)習(xí)的過程。類比推理和類比學(xué)習(xí)形式求解決當(dāng)前的問題，或者建立起目標(biāo)域中已有命題間的聯(lián)系，形成新知識。其推理過程如下：回憶與聯(lián)想遇到新情況或新問題時，首先通過回憶與聯(lián)想在S經(jīng)處理過的，有現(xiàn)成的解決方法及相關(guān)的知識。選擇舉例：舉出現(xiàn)實中的具體實例，按推理過程對其步驟進行一步步的細分。舉例：舉出現(xiàn)實中的具體實例，按推理過程對其步驟進行一步步的細分。建立對應(yīng)映射在S與T的相似情況之間建立相似元素的對應(yīng)關(guān)系，并建立起相 應(yīng)的映射。轉(zhuǎn)換在上一步建立的映射下，把S中的有關(guān)知識引到T中來，從而建 立起求解前問題的方法或者學(xué)習(xí)到關(guān)于T的新知識。類比學(xué)習(xí)過程與研究類型類比學(xué)習(xí)主要包括如下四個過程：輸入一組已知條件（已解決問題）和一組未完全確定的條件（新問題。對輸入的兩組條件，根據(jù)其描述，按某種相似性的定義尋找兩者可類比的對應(yīng)關(guān)系。問題所需的新知識。只能作為參考性知識，置于數(shù)據(jù)庫中。解釋學(xué)習(xí)教學(xué)內(nèi)容：本小節(jié)對兩種基本的學(xué)習(xí)進行了介紹，對相關(guān)知識能有所了解，對以后的學(xué)習(xí)有很大的幫助。教學(xué)重點：解釋學(xué)習(xí)的過程和算法，神經(jīng)學(xué)習(xí)的相關(guān)知識教學(xué)難點：解釋學(xué)習(xí)的過程和算法教學(xué)方法：由于本節(jié)知識只做一般了解，所以只需對相關(guān)概念做個簡介即可。教學(xué)要求：了解解釋學(xué)習(xí)的過程及神經(jīng)學(xué)習(xí)的概念。解釋學(xué)習(xí)過程和算法解釋學(xué)習(xí)一般包括下列3個步驟：利用基于解釋的方法對訓(xùn)練例子進行分析與解釋。對例子的結(jié)構(gòu)進行概括性解釋。從解釋結(jié)構(gòu)中識別出訓(xùn)練例子的特性，獲取一般控制知識。操作準(zhǔn)則目標(biāo)概念新規(guī)則訓(xùn)練例子知識庫1986年米切爾（Mitchell）等人為基于解釋的學(xué)習(xí)提出了一個統(tǒng)一的算法EBG操作準(zhǔn)則目標(biāo)概念新規(guī)則訓(xùn)練例子知識庫圖EBG問題思考：引導(dǎo)學(xué)生自學(xué)本小節(jié)的某些知識，結(jié)合書上的示例對數(shù)學(xué)推理有一定了解。EBG求解問題的形式可描述于下思考：引導(dǎo)學(xué)生自學(xué)本小節(jié)的某些知識，結(jié)合書上的示例對數(shù)學(xué)推理有一定了解。給定：TC；TE；DT；OC。求解：訓(xùn)練實例的一般化概括，使之滿足：目標(biāo)概念的充分概括描述TC；OC。解釋學(xué)習(xí)舉例例子：通過解釋學(xué)習(xí)獲得一個物體(x)可安全放置到另一個物體(y)上的概念。神經(jīng)學(xué)習(xí)教學(xué)內(nèi)容：討論基于神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的基本原理。教學(xué)重點：基于反向傳播網(wǎng)絡(luò)的學(xué)習(xí)，基于Hopfield教學(xué)難點：上述兩種神經(jīng)學(xué)習(xí)的算法。教學(xué)方法：課堂講授為主。教學(xué)要求：掌握上述神經(jīng)學(xué)習(xí)的結(jié)構(gòu)，了解神經(jīng)學(xué)習(xí)的算法?；诜聪騻鞑ゾW(wǎng)絡(luò)的學(xué)習(xí)反向傳播算法是一種計算單個權(quán)值變化引起網(wǎng)絡(luò)性能變化值的較為簡單的方法。由于BP算法過程包含從輸出節(jié)點開始，反向地向第一隱含層(即最接近輸入層的隱含層)傳播由總誤差引起的權(quán)值修正，所以稱為“反向傳播”。反向傳播特性與所求解問題的性質(zhì)和所作細節(jié)選擇有極為密切的關(guān)系?；贖opfield網(wǎng)絡(luò)的學(xué)習(xí)反饋神經(jīng)網(wǎng)絡(luò)，它是一種動態(tài)反饋系統(tǒng)，比前饋網(wǎng)絡(luò)具有更強的計算能力。HopfieldHopfield而且能夠執(zhí)行線性和非線性規(guī)劃等優(yōu)化求解任務(wù)。知識發(fā)現(xiàn)教學(xué)內(nèi)容：知識發(fā)現(xiàn)的發(fā)展過程和定義，知識發(fā)現(xiàn)的處理過程，知識發(fā)現(xiàn)的方法和應(yīng)用。教學(xué)重點：知識發(fā)現(xiàn)的處理過程，知識發(fā)現(xiàn)的方法。教學(xué)難點：知識發(fā)現(xiàn)的方法教學(xué)方法：通過實例激發(fā)學(xué)生對知識發(fā)現(xiàn)的學(xué)習(xí)興趣，進而重點講解知識發(fā)現(xiàn)的過程和方法。教學(xué)要求：重點掌握知識發(fā)現(xiàn)的過程，了解知識發(fā)現(xiàn)的方法，了解知識發(fā)現(xiàn)的應(yīng)用。知識發(fā)現(xiàn)的發(fā)展和定義知識發(fā)現(xiàn)的產(chǎn)生和發(fā)展1989811KDDKDD產(chǎn)品和應(yīng)用系統(tǒng)，引起企業(yè)界的關(guān)注。定義：式的高級處理過程。數(shù)據(jù)集：是指一個有關(guān)事實F的原材料。新穎：經(jīng)過知識發(fā)現(xiàn)提取出的模式必須是新穎的。潛在有用：提取出的模式應(yīng)該是有意義的，這可以通過某些函數(shù)的值來衡量。從而幫助人們更好地了解數(shù)據(jù)庫中所包含的信息。知識發(fā)現(xiàn)的處理過程1、數(shù)據(jù)選擇。根據(jù)用戶的需求從數(shù)據(jù)庫中提取與KDD相關(guān)的數(shù)據(jù)。2、數(shù)據(jù)預(yù)處理。主要是對上述數(shù)據(jù)進行再加工，檢查數(shù)據(jù)的完整性及數(shù)據(jù)的一致性，對丟失的數(shù)據(jù)利用統(tǒng)計方法進行填補，形成發(fā)掘數(shù)據(jù)庫。3、數(shù)據(jù)變換。即從發(fā)掘數(shù)據(jù)庫里選擇數(shù)據(jù)。4.數(shù)據(jù)挖掘。根據(jù)用戶要求，確定KDD的目標(biāo)是發(fā)現(xiàn)何種類型的知識。5、知識評價。這一過程主要用于對所獲得的舉例：參照上述的處理過程，舉出具體實例，詳細講述每步的過程。規(guī)則進行價值評定，以決定所得的規(guī)則是否存入基礎(chǔ)知識上述KDD舉例：參照上述的處理過程，舉出具體實例，詳細講述每步的過程。預(yù)處理（數(shù)據(jù)挖掘前的準(zhǔn)備工作后的處理工作。簡單介紹幾種新的對數(shù)據(jù)發(fā)掘的改進過程。

庫。即數(shù)據(jù)挖掘（知識發(fā)現(xiàn)的方法知識發(fā)現(xiàn)的方法有統(tǒng)計方法、機器學(xué)習(xí)、神經(jīng)計算和可視化方法等。1、統(tǒng)計方法統(tǒng)計方法是從事物的外在數(shù)量上的表現(xiàn)去推斷該事物可能的規(guī)律性。2、機器學(xué)習(xí)方法可能用于機器發(fā)現(xiàn)的機器學(xué)習(xí)方法有：規(guī)則歸納。規(guī)則反映數(shù)據(jù)項中某些屬性或數(shù)據(jù)集中某些數(shù)據(jù)項之間的統(tǒng)計相關(guān)性。決策樹。決策樹的每一個非終葉節(jié)點表示所考慮的數(shù)據(jù)項的測試或決策。范例推理。范例推理是直接使用過去的經(jīng)驗或解法來求解給定的問題。貝葉斯信念網(wǎng)絡(luò)。貝葉斯信