第五講從感知器算法到機器學習

第五講從感知器算法到機器學習第1頁，課件共15頁，創(chuàng)作于2023年2月§5.1人工神經元的構造依據(jù)兩態(tài)工作:興奮----抑制閾值作用:超過閾值才興奮多輸入/單輸出:獲得其他神經元的眾多輸入,由軸突輸出?？臻g/時間疊加：激勵/響應關系的互動作用與交互疊加?？伤苄赃B接：突觸部分的連接強度可以調節(jié)。第2頁，課件共15頁，創(chuàng)作于2023年2月第3頁，課件共15頁，創(chuàng)作于2023年2月第4頁，課件共15頁，創(chuàng)作于2023年2月第5頁，課件共15頁，創(chuàng)作于2023年2月§5.2M-P模型1943年，McCulloch和Pitts提出了一種神經元模型：其中輸入向量為：權值向量為：神經元的輸入/輸出關系為：第6頁，課件共15頁，創(chuàng)作于2023年2月§5.3構造人工神經網(wǎng)絡的基本要素（1）神經元的激勵函數(shù)（輸入/輸出特性）（2）網(wǎng)絡的拓撲結構（3）確定權值的方法——學習算法第7頁，課件共15頁，創(chuàng)作于2023年2月§5.4感知器算法原理（1）歷史背景

1958年,FrankRosenblatt提出了感知機(Perceptron)。史稱第一個機器學習模型。標志著對學習過程進行數(shù)學研究的開端。（2）單個神經元的的感知機利用McCulloch和Pitts神經元模型，選激勵函數(shù)為：令則第8頁，課件共15頁，創(chuàng)作于2023年2月（3）感知器學習算法（學習規(guī)則）

Step1，隨機初始化權值和域值

Step2，在樣本集合或中任選一個類屬已知的樣本作為感知器的輸入，計算其實際輸出

Step3，對Step2中所得輸出結果進行甄別檢驗，若分類正確，則不需要進行權值調整，若分類出錯，則按Step4中的算式進行權值調整。（可見，感知過程是一個有錯必改的過程。）

第9頁，課件共15頁，創(chuàng)作于2023年2月Step4，設n0為當前迭代次數(shù)，則權值調整算式為

其中為類屬標志的期望輸出，為學習率。Step5，重新從已知類屬的樣本集合或中選取另一樣本進行學習，即重復Step2至Step

5，直到對于所有i=1，2，…,(n+1),恒有

則學習過程結束，權值調整完畢。

第10頁，課件共15頁，創(chuàng)作于2023年2月§5.5感知器分類的示例第11頁，課件共15頁，創(chuàng)作于2023年2月練習題設有4個訓練樣本分屬兩個不同的類別:試用感知器算法求出其分類判決函數(shù).第12頁，課件共15頁，創(chuàng)作于2023年2月§5.6局限性和功能的擴展感知器學習算法的局限性

只能勝任線性分類,不具備直接的非線性分類功能。進一步的功能擴展

1）加入隱層；

2）尋求新的更有效的學習算法。第13頁，課件共15頁，創(chuàng)作于2023年2月§5.6機器學習的一般原理和方法（1）機器學習的原理圖（2）關鍵性問題

1）學習的策略和算法；

2）樣本數(shù)據(jù)的完備性；

3）先驗知識的利用。完。第14頁，課件共15頁，創(chuàng)作于2023年2月§5.8可以涉獵的參考書[1]TomM.Mitchell,機器學習，(曾華軍,張銀奎譯),機械工業(yè)出版社，2003年[2]TomM.Mitchell,MachineLearning，McGraw-HillInternationalEditions，China