神經(jīng)網(wǎng)絡(luò)-第三章課件

神經(jīng)網(wǎng)絡(luò)原理3.自適應(yīng)線性元件由Widrow和Hoff提出，主要用于線性逼近一個函數(shù)式，因而能用于模式聯(lián)想、信號處理濾波、預(yù)測、模型識別和控制等。線性激活函數(shù),可以輸出任意值比感知器具有更快的收斂速度和精度W-H學(xué)習(xí)規(guī)則(LMS)3.1自適應(yīng)線形神經(jīng)元

模型和結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)

Adaline：一個自適應(yīng)線性神經(jīng)元模型

3.1自適應(yīng)線形神經(jīng)元

模型和結(jié)構(gòu)

主要特點：神經(jīng)元的激活函數(shù)為線性函數(shù)：ai=f(ni)=ni注意：

多層線性網(wǎng)絡(luò)與單層線性網(wǎng)絡(luò)的映射能力相同MALAB構(gòu)造函數(shù):

newlin()newlind()3.2W-H學(xué)習(xí)規(guī)則

W-H學(xué)習(xí)規(guī)則(δ規(guī)則,LMS算法)：由Widrow和Hoff提出的修正權(quán)矢量的學(xué)習(xí)規(guī)則。誤差函數(shù):E(W,B)=1/2SUM[T-A]2=1/2SUM[T-WP-B]2考慮多組輸入輸出對3.2W-H學(xué)習(xí)規(guī)則修正值:復(fù)習(xí):梯度下降法(最速下降法)MATLAB工具函數(shù):maxlinlr()learnwh()purelin()或3.4例題與分析例3.2模式聯(lián)想：設(shè)輸入和目標(biāo)輸出為

▲共16個線性方程，有準(zhǔn)確解。但利用其他方法麻煩?！鴮嶋H中，只需要找到一定精度的近似解?！Y(jié)論：利用自適應(yīng)網(wǎng)絡(luò)在一定精度下快速逼近線性映射。，3.4例題與分析例3.3設(shè)計訓(xùn)練一個線性網(wǎng)絡(luò)實現(xiàn)下列輸入到輸出的變換：P=[123;456],T=[0.51-1]。▲演示線性相關(guān)出現(xiàn)的情況。本例中系數(shù)矩陣為奇異的?！鴑ewlind.m對奇異矩陣效果一般；對非線性問題，給出最小均方解，但效果不太理想。▲本例中利用newlin.m計算，誤差較newlind.m小。3.4例題與分析例3.4在例3.1的輸入/輸出中增加兩組元素，為P=[101.53.0-1.2],T=[0.51.13.0-1.0]?！纠龣z驗自適應(yīng)網(wǎng)絡(luò)的線性逼近能力。▲方程數(shù)大于未知數(shù)個數(shù)，無準(zhǔn)確解?！Y(jié)論：本例用自適應(yīng)線性網(wǎng)絡(luò)解決不太適合。例3.5查看學(xué)習(xí)率與訓(xùn)練收斂及收斂速度的關(guān)系3.6單步延遲線及其自適應(yīng)

濾波的實現(xiàn)

自適應(yīng)濾波是字適應(yīng)網(wǎng)絡(luò)的主要應(yīng)用領(lǐng)域之一，常用于數(shù)字信號處理領(lǐng)域中。單步延遲線3.6單步延遲線及其自適應(yīng)

濾波的實現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)3.6單步延遲線及其自適應(yīng)

濾波的實現(xiàn)

自適應(yīng)線性濾波器的網(wǎng)絡(luò)輸入/輸出關(guān)系：其中，初始輸入3.6單步延遲線及其自適應(yīng)

濾波的實現(xiàn)例3.6假定一個輸入按輸入順序排列，其數(shù)值分別為3，4，5和6。該輸入量自身產(chǎn)生兩次延時，其延時量的初始輸入值分別為1和2。用一個自適應(yīng)線性網(wǎng)絡(luò)對其濾波所獲得的權(quán)矩陣為[789]。試計算在給定的輸入值下該網(wǎng)絡(luò)的輸出值。3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用

1.線性化建模

▲參數(shù)辨識：系統(tǒng)的模型完全有幾個參數(shù)決定，根據(jù)數(shù)據(jù)來求解系統(tǒng)內(nèi)的各個參數(shù)。▲系統(tǒng)建模：通過實驗所測得的輸入/輸出數(shù)據(jù)求解系統(tǒng)的最佳匹配模型。實際物理系統(tǒng)的輸入/輸出關(guān)系式：線性化建模就是將上述關(guān)系利用線性關(guān)系近似代替3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用▲神經(jīng)網(wǎng)絡(luò)系統(tǒng)建模設(shè)計原理圖3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用▲神經(jīng)網(wǎng)絡(luò)預(yù)測模型原理圖

3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用3.消除噪聲

設(shè)有效信號為c(k)，噪聲信號為v(k)，混合信號m(k),引擎噪聲n(k)，誤差e(k)m(k)=v(k)+c(k)e(k)=m(k)-a(k)=v(k)+c(k)-a(k)n(k)作