人工智能原理及MATLAB實(shí)現(xiàn) 教案 第1、2章 概述、機(jī)器學(xué)習(xí)

《人工智能算法》課程教案教學(xué)目的、要求：1.掌握人工智能的定義，了解人工智能的發(fā)展史2.掌握人工智能的技術(shù)特征3.了解計算模擬、研究與應(yīng)用領(lǐng)域4.掌握人工智能的知識獲取教學(xué)重點(diǎn)及難點(diǎn)：重點(diǎn)：人工智能的技術(shù)特征難點(diǎn)：人工智能的知識獲取教學(xué)基本內(nèi)容教學(xué)過程設(shè)計§1概述§1.1人工智能的定義與發(fā)展由于不同科學(xué)或?qū)W科背景的學(xué)者對人工智能有不同的理解，所以提出了許多不同的觀點(diǎn)。1978年帕特里克·溫斯頓（P.Winston）：“人工智能是研究使計算機(jī)更靈活有用，了解使智能的實(shí)現(xiàn)成為可能的原理。因此，人工智能研究結(jié)果不僅是使計算機(jī)模擬智能，而且是了解如何幫助人們變得更有智能”。1981年巴爾（A.Barr）和愛德華·費(fèi)根鮑姆（E.Feihenbum）：“人工智能是計算機(jī)科學(xué)的一個分支，它關(guān)心的是設(shè)計智能計算機(jī)系統(tǒng)，該系統(tǒng)具有通常與人的行為相聯(lián)系的智能特征，如了解語言、學(xué)習(xí)、推理、問題求解等?！?983年伊萊恩·里奇（ElaineRich）：“人工智能是研究怎樣讓計算機(jī)模擬人腦從事推理、規(guī)劃、設(shè)計、思考、學(xué)習(xí)等思維活動，解決至今認(rèn)為需要由專家才能處理的復(fù)雜問題?！?987年邁克爾·杰納西雷斯（M.Genesereth）和約翰·尼爾森（J.Nilsson）：“人工智能是研究智能行為的科學(xué)，它的最終目的是建立關(guān)于自然智能實(shí)體行為的理論和指導(dǎo)創(chuàng)建具有智能行為的人工制品。這樣一來，人工智能有兩個分支，一個為科學(xué)人工智能，另一個為工程人工智能?！苯陙?，許多人工智能和智能系統(tǒng)研究者認(rèn)為：人工智能（學(xué)科）是智能科學(xué)中涉及研究、設(shè)計及應(yīng)用智能機(jī)器和智能系統(tǒng)的一個分支，而智能科學(xué)是一門與計算機(jī)科學(xué)并行的學(xué)科。知識表示、知識利用和知識獲取是人工智能的三個基本問題?！?.2人工智能的技術(shù)特征人工智能作為一門科學(xué)，具有其獨(dú)特的技術(shù)特征，主要表現(xiàn)以下幾個方面。利用搜索、利用知識、利用抽象、利用推理、利用學(xué)習(xí)、遵循有限合理性原則?！?.3人類智能的計算機(jī)模擬計算機(jī)對人腦的模擬是先從數(shù)值計算開始。然而人類最主要的智力活動并不是在數(shù)值計算，而是在邏輯推理。由于邏輯推理與人類智能都是物理符號系統(tǒng)，所以可以編寫計算機(jī)程序去模擬人的許多智能功能，如下棋、證明定理、翻譯語言等?！?.4人工智能的研究與應(yīng)用領(lǐng)域人工智能在自然語言處理、自動定理證明、智能檢索、機(jī)器學(xué)習(xí)、專家系統(tǒng)、計算智能、人工智能方法、模式識別、視覺系統(tǒng)等領(lǐng)域都有廣泛的研究與應(yīng)用?！?.5人工智能之知識獲取機(jī)器獲取知識的方法和途徑可分為三類。人工移植。人工移植是依靠人工智能系統(tǒng)的設(shè)計師、知識工程師、程序員、專家或用戶，通過系統(tǒng)設(shè)計、程序編制及人機(jī)交互或輔助工具，將人的知識移植到機(jī)器的知識庫中，使機(jī)器獲取知識。機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)就是人工智能系統(tǒng)在運(yùn)行過程中，機(jī)器通過學(xué)習(xí)，獲取知識，進(jìn)行知識積累，對知識庫進(jìn)行增刪、修改、擴(kuò)充與更新。機(jī)器感知。所謂機(jī)器感知是人工智能系統(tǒng)在調(diào)試或運(yùn)行過程中，通過機(jī)器視覺、機(jī)器聽覺、機(jī)器觸覺等途徑，直接感知外部世界，輸入自然信息，獲取感性和理性知識。3min引入：通過對現(xiàn)實(shí)生活人工智能應(yīng)用實(shí)例引入。內(nèi)容設(shè)計思路：對課堂內(nèi)容進(jìn)行分析，引導(dǎo)學(xué)生了解內(nèi)容之間的相互聯(lián)系，并指出本節(jié)課的重點(diǎn)難點(diǎn)以及教學(xué)目的。核心是給學(xué)員講清楚技術(shù)特征10min強(qiáng)調(diào)：引導(dǎo)學(xué)生思考模擬的原理，觸類旁通。分析：技術(shù)特征與應(yīng)用領(lǐng)域的關(guān)系。注意過渡：動畫演示：課堂互動：對先修的基礎(chǔ)知識進(jìn)行提問、回顧、引導(dǎo)。20min舉例分析：分析要點(diǎn)：。對人工智能知識獲取的原則進(jìn)行分析。讓學(xué)生進(jìn)行總結(jié)：深刻理解人工智能作業(yè)、討論題、思考題：機(jī)器學(xué)習(xí)結(jié)合你的研究領(lǐng)域有何種應(yīng)用？教學(xué)反思：《人工智能算法》課程教案教學(xué)目的、要求：1.了解機(jī)器學(xué)習(xí)的概述2.掌握機(jī)器學(xué)習(xí)的主要策略和基本結(jié)構(gòu)3.了解機(jī)器學(xué)習(xí)算法4.掌握貝葉斯網(wǎng)絡(luò)算法教學(xué)重點(diǎn)及難點(diǎn)：重點(diǎn)：機(jī)器學(xué)習(xí)的主要策略和基本結(jié)構(gòu)難點(diǎn)：機(jī)器學(xué)習(xí)算法的原理教學(xué)基本內(nèi)容教學(xué)過程設(shè)計§2機(jī)器學(xué)習(xí)§2.1機(jī)器學(xué)習(xí)概述學(xué)習(xí)是人類具有的一種重要智能行為。通過學(xué)習(xí)人類不斷取得科學(xué)與工程上的突破，同時也不斷提高自身的智力水平。人類一直試圖讓機(jī)器具有智能，也就是人工智能。當(dāng)機(jī)器具備了學(xué)習(xí)能力（機(jī)器學(xué)習(xí)），能自動獲取知識時就完全與人類似。§2.2人工智能的技術(shù)特征不同的分類標(biāo)準(zhǔn)對機(jī)器學(xué)習(xí)方法有不同的分類。（1）按任務(wù)類型機(jī)器學(xué)習(xí)模型可以分為回歸模型、分類模型和結(jié)構(gòu)化學(xué)習(xí)模型。（2）按方法的角度分機(jī)器學(xué)習(xí)可以分為線性模型和非線性模型。（3）按學(xué)習(xí)理論分機(jī)器學(xué)習(xí)模型可以分為有監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、遷移學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。§2.3機(jī)器學(xué)習(xí)的主要策略與基本結(jié)構(gòu)§2.3.1機(jī)器學(xué)習(xí)的主要策略學(xué)習(xí)是一項(xiàng)復(fù)雜的智能活動，學(xué)習(xí)過程與推理過程緊密相連。根據(jù)學(xué)習(xí)中使用推理的多少，機(jī)器學(xué)習(xí)的策略可以分為機(jī)械學(xué)習(xí)、示教學(xué)習(xí)、類比學(xué)習(xí)和示例學(xué)習(xí)。學(xué)習(xí)中所用的推理越多，系統(tǒng)的能力就越強(qiáng)。§2.3.2機(jī)器學(xué)習(xí)的基本結(jié)構(gòu)影響學(xué)習(xí)系統(tǒng)設(shè)計的最主要因素是環(huán)境向系統(tǒng)提供的信息的質(zhì)量。知識庫是影響學(xué)習(xí)系統(tǒng)設(shè)計的第二個因素。知識的表達(dá)有多種形式，例如特征向量、一階邏輯語句、產(chǎn)生式規(guī)則、語義網(wǎng)絡(luò)和框架等。這些表示方式各有特點(diǎn)，在選擇表示方式時要兼顧以下四個方面：（1）表達(dá)能力強(qiáng)，即表達(dá)方式能很容易表達(dá)有關(guān)的知識。（2）易于推理，即表達(dá)方式能使推理較為容易。（3）容易修改知識庫。（4）知識易于擴(kuò)展。§2.4機(jī)器學(xué)習(xí)算法機(jī)器學(xué)習(xí)是一些算法的總稱，這些算法企圖從大量歷史數(shù)據(jù)中挖掘出其中隱含的規(guī)律，并用于預(yù)測或分類。更具體的說，機(jī)器學(xué)習(xí)可以看作是尋找一個函數(shù)，輸入是樣本數(shù)據(jù)，輸出是期望的結(jié)果，只是這個函數(shù)過于復(fù)雜，以至于沒有明確的數(shù)學(xué)表達(dá)式。機(jī)器學(xué)習(xí)的目標(biāo)是使尋找到的函數(shù)能不僅在訓(xùn)練樣本上表現(xiàn)很好，而且也能很好地適用于新樣本，即很好的泛化能力。機(jī)器學(xué)習(xí)的基本步驟如下：①選擇一個適合的模型。②判斷一個函數(shù)的好壞。③找到最好的函數(shù)。④檢驗(yàn)?！?.4.1決策樹算法決策樹利用特殊的樹形的決策模型來進(jìn)行輔助決策，是模式識別中進(jìn)行分類的一種有效的方法。利用樹分形器可以把一個復(fù)雜的多類問題轉(zhuǎn)化為若干個簡單分類問題來解決。決策樹是一種單分類器的分類技術(shù)，也是機(jī)器學(xué)習(xí)中的一種經(jīng)典算法。一棵決策樹的內(nèi)部結(jié)點(diǎn)是屬性或者屬性的集合，而葉結(jié)點(diǎn)就是學(xué)習(xí)劃分的類別或結(jié)論，內(nèi)部結(jié)點(diǎn)的屬性稱為測試屬性或分裂屬性。決策樹基本算法ID3算法C4.5算法CART算法決策樹的評價標(biāo)準(zhǔn)對于一個決策樹算法，可以用以下一些性能或指標(biāo)進(jìn)行評價。正確性、過學(xué)習(xí)、有效性、交叉有效性、余一有效性、復(fù)雜度?！?.4.2貝葉斯網(wǎng)絡(luò)算法貝葉斯理論是一種研究不確定性的推理方法。不確定性常用貝葉斯概率表示，它是一種主觀概率。通常的經(jīng)典概率代表事件的物理特性，是不隨人的意識變化的客觀存在，而貝葉斯概率則是人的認(rèn)識，是個人主觀的估計，隨個人的主觀認(rèn)識的變化而變化。如在投擲硬幣的實(shí)驗(yàn)中，貝葉斯概率是指個人相信硬幣會正面向上的程度。使用p(X=x|A)或者p(x|A)表示給定知識A下的情形下對事件X=x的相信程度，即貝葉斯概率，它同時也是X的分布或分布密度。常用三種不同的方式來構(gòu)造貝葉斯網(wǎng)絡(luò)。（1）由鄰域?qū)＜掖_定貝葉斯網(wǎng)絡(luò)的變量（有時也稱為影響因子），然后通過專家的知識來確定貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)，并指定它的分布參數(shù)。（2）由領(lǐng)域?qū)＜掖_定貝葉斯網(wǎng)絡(luò)的特點(diǎn)，通過大量的訓(xùn)練數(shù)據(jù)，來學(xué)習(xí)貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)與參數(shù)。機(jī)器學(xué)習(xí)的不斷發(fā)展，使得這種方法更加普及。（3）由領(lǐng)域?qū)＜掖_定貝葉斯網(wǎng)絡(luò)的特點(diǎn)，通過專家的知識來指定網(wǎng)絡(luò)的結(jié)構(gòu)，再通過機(jī)器學(xué)習(xí)的方法從數(shù)據(jù)中學(xué)習(xí)網(wǎng)絡(luò)的參數(shù)?！?.4.3支持向量機(jī)算法與神經(jīng)網(wǎng)絡(luò)相比，SVM有堅實(shí)的統(tǒng)計學(xué)基礎(chǔ)，它具有以下的優(yōu)點(diǎn)：（1）以結(jié)構(gòu)風(fēng)險最小原理為基礎(chǔ)，減少推廣錯誤的上界，具有很好的推廣性能，解決了神經(jīng)網(wǎng)絡(luò)的過擬合問題。（2）問題的求解等價于線性約束的凸二次規(guī)劃問題，具有全局最優(yōu)解，解決了神經(jīng)網(wǎng)絡(luò)的局部極小問題。（3）把原問題映射到高維空間，通過在高維空間構(gòu)造線性分類函數(shù)來實(shí)現(xiàn)原問題的劃分，引入核函數(shù)，解決了維數(shù)災(zāi)難問題?！?.4.4K近鄰分類算法近鄰法是在數(shù)據(jù)挖掘中使用最早的技術(shù)之一。其基本思想是為了預(yù)測一個記錄中的預(yù)測值，或在歷史數(shù)據(jù)庫中尋找有相似預(yù)測值的記錄，可以使用未分類記錄中最接近的記錄值作為預(yù)測值，也即相互之間接近的對象會有相似的預(yù)測值?！?.4.5模糊聚類算法模糊聚類預(yù)測模型就是用模糊數(shù)學(xué)的方法對樣本進(jìn)行分類，用聚類分析來實(shí)現(xiàn)預(yù)測。其基本思想是：把由待預(yù)測量和影響待預(yù)測量的環(huán)境因素的歷史值所構(gòu)成的樣本按一定的方法進(jìn)行分類，形成各類的環(huán)境因素特征和待預(yù)測量變化模式，這樣在待預(yù)測時段的環(huán)境狀態(tài)為已知點(diǎn)時，通過該環(huán)境與各歷史環(huán)境特征的比較，判斷出待預(yù)測量的環(huán)境與哪個歷史類最為接近，進(jìn)而找出受環(huán)境影響的待預(yù)測量也與該歷史類所對應(yīng)的預(yù)測變量同變化模式，從而達(dá)到預(yù)測的目的?！?.4.6隨機(jī)森林算法隨機(jī)森林的構(gòu)建過程主要分為三步，即生成森林、決策分類和算法的產(chǎn)生?！?.4.7集成學(xué)習(xí)集成學(xué)習(xí)模型是機(jī)器學(xué)習(xí)的一種經(jīng)典算法，屬于監(jiān)督學(xué)習(xí)的一種模式。主要形式是通過將幾個弱學(xué)習(xí)器串行結(jié)合形成強(qiáng)學(xué)習(xí)器而進(jìn)行使用，能夠很好的平衡模型的偏差和方差，學(xué)習(xí)訓(xùn)練效果好，應(yīng)用的領(lǐng)域也比較廣泛，因此這類模型在這幾年里得到迅速發(fā)展?！?.4.8期望最大化（EM）算法期望最大化算法是1977年提出的，它是一類通過迭代計算進(jìn)行極大似然估計的優(yōu)化算法，算法的每次迭代都包含一個期望步驟（ExpectationStep）和一個最大化步驟（MaximizationStep）。該算法的目的是解決不完全數(shù)據(jù)的極大似然估計問題。不完全數(shù)據(jù)是指含有隱變量的數(shù)據(jù)和缺失數(shù)據(jù)。當(dāng)要對含有隱變量的數(shù)據(jù)或缺失數(shù)據(jù)進(jìn)行極大似然估計時，傳統(tǒng)的極大似然估計方法已經(jīng)不能發(fā)揮作用，而使用EM算法可以很好的解決該問題。3min引入：通過對科研領(lǐng)域的機(jī)器學(xué)習(xí)的實(shí)際應(yīng)用引入。內(nèi)容設(shè)計思路：對課堂內(nèi)容進(jìn)行分析，引導(dǎo)學(xué)生了解機(jī)器學(xué)習(xí)結(jié)構(gòu)之間的相互聯(lián)系，并指出本節(jié)課的重點(diǎn)難點(diǎn)以及教學(xué)目的。核心是給學(xué)員講清楚機(jī)器學(xué)習(xí)的基本步驟10min強(qiáng)調(diào)：引導(dǎo)學(xué)生思考機(jī)器學(xué)習(xí)的原理，觸類旁通。分析：重點(diǎn)分析決策樹算法的原理。注意過渡：動畫演示：20min舉例分析：分析：重點(diǎn)分析貝葉斯網(wǎng)絡(luò)算法的原理。分析要點(diǎn)：貝葉斯算法的數(shù)學(xué)邏輯。讓學(xué)生進(jìn)行總結(jié)：深刻理解