第五講從感知器算法到機器學(xué)習(xí)演示文稿

第五講從感知器算法到機器學(xué)習(xí)演示文稿現(xiàn)在是1頁\一共有13頁\編輯于星期五優(yōu)選第五講從感知器算法到機器學(xué)習(xí)現(xiàn)在是2頁\一共有13頁\編輯于星期五現(xiàn)在是3頁\一共有13頁\編輯于星期五現(xiàn)在是4頁\一共有13頁\編輯于星期五現(xiàn)在是5頁\一共有13頁\編輯于星期五§5.2M-P模型1943年，McCulloch和Pitts提出了一種神經(jīng)元模型：其中輸入向量為：權(quán)值向量為：神經(jīng)元的輸入/輸出關(guān)系為：現(xiàn)在是6頁\一共有13頁\編輯于星期五§5.3構(gòu)造人工神經(jīng)網(wǎng)絡(luò)的基本要素（1）神經(jīng)元的激勵函數(shù)（輸入/輸出特性）（2）網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)（3）確定權(quán)值的方法——學(xué)習(xí)算法現(xiàn)在是7頁\一共有13頁\編輯于星期五§5.4感知器算法原理（1）歷史背景

1958年,FrankRosenblatt提出了感知機(Perceptron)。史稱第一個機器學(xué)習(xí)模型。標(biāo)志著對學(xué)習(xí)過程進行數(shù)學(xué)研究的開端。（2）單個神經(jīng)元的的感知機利用McCulloch和Pitts神經(jīng)元模型，選激勵函數(shù)為：令則現(xiàn)在是8頁\一共有13頁\編輯于星期五（3）感知器學(xué)習(xí)算法（學(xué)習(xí)規(guī)則）

Step1，隨機初始化權(quán)值和域值

Step2，在樣本集合或中任選一個類屬已知的樣本作為感知器的輸入，計算其實際輸出

Step3，對Step2中所得輸出結(jié)果進行甄別檢驗，若分類正確，則不需要進行權(quán)值調(diào)整，若分類出錯，則按Step4中的算式進行權(quán)值調(diào)整。（可見，感知過程是一個有錯必改的過程。）

現(xiàn)在是9頁\一共有13頁\編輯于星期五Step4，設(shè)n0為當(dāng)前迭代次數(shù)，則權(quán)值調(diào)整算式為

其中為類屬標(biāo)志的期望輸出，為學(xué)習(xí)率。Step5，重新從已知類屬的樣本集合或中選取另一樣本進行學(xué)習(xí)，即重復(fù)Step2至Step

5，直到對于所有i=1，2，…,(n+1),恒有

則學(xué)習(xí)過程結(jié)束，權(quán)值調(diào)整完畢。

現(xiàn)在是10頁\一共有13頁\編輯于星期五§5.5感知器分類的示例現(xiàn)在是11頁\一共有13頁\編輯于星期五練習(xí)題設(shè)有4個訓(xùn)練樣本分屬兩個不同的類別:試用感知器算法求出其分類判決函數(shù).現(xiàn)在是12頁\一共有13頁\編輯于星期五§5.6局限性和功能的擴展感知器學(xué)習(xí)算法的局限性

只能勝任線性分類,不具備直接的非線性分類功能。進一步的功能擴