基于matlab的濾波器設(shè)計(jì)課案_第1頁
基于matlab的濾波器設(shè)計(jì)課案_第2頁
基于matlab的濾波器設(shè)計(jì)課案_第3頁
基于matlab的濾波器設(shè)計(jì)課案_第4頁
基于matlab的濾波器設(shè)計(jì)課案_第5頁
已閱讀5頁,還剩9頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、第三章ECG檢測(cè)方法本章將主要介紹本文所采用的ECG信號(hào)的檢測(cè)方法的基本原理。首先要對(duì)ECG信號(hào)進(jìn)行預(yù)處理:采用濾波技術(shù)消除各種噪聲,采用Tompkins算法檢測(cè)出QRS波的峰值,并對(duì)周期性的ECG信號(hào)進(jìn)行分割。然后介紹采用 AR建模技術(shù) 提取ECG信號(hào)的特征的基本原理,以及如何采用相關(guān)系數(shù)及信噪比兩個(gè)指標(biāo)來 確定建模階次P,最后介紹本文采用的BP神經(jīng)網(wǎng)絡(luò)分類法和基于二次判別函數(shù) 分類方法的基本原理及相關(guān)的計(jì)算公式。3. 1信號(hào)的預(yù)處理本文中所使用的ECG信號(hào)取自MIT-BIH數(shù)據(jù)庫(kù):NSR言號(hào)取自“ MIT-BIH arrhythmia database ”,其采樣頻率是 360Hz; VT

2、信號(hào)和VF信號(hào)取自“ MIT-BIH Ventricular Arrhythmia database”,其采樣頻率是 250Hn信號(hào)的頻率都統(tǒng)一轉(zhuǎn)化為360Hz在提取信號(hào)特征之前,需要對(duì) ECG信號(hào)進(jìn)行預(yù)處理:采用濾波技 術(shù)消除實(shí)時(shí)測(cè)量時(shí)可能存在的噪音,采用Tompkins算法檢測(cè)出QRS波的峰值,并對(duì)周期性的ECG信號(hào)進(jìn)行分割,選取有效的窗口數(shù)據(jù)。1. 信號(hào)的濾波在實(shí)時(shí)測(cè)量得到的ECG信號(hào)通常帶有噪音,噪聲的來源是多種多樣的,病 人的呼吸,電極的移動(dòng),電源的工頻干擾,肌肉收縮引起的高頻噪音等,這些 噪音和干擾會(huì)對(duì)ECG信號(hào)檢測(cè)準(zhǔn)確性帶來很大的影響。所以首先要消除這些噪 音,才能進(jìn)行進(jìn)一步的分

3、析。據(jù)有關(guān)資料顯示,電源引起的噪音頻率約(50-60HZ), 呼吸引起的噪音頻率約0.2Hz左右,電極移動(dòng)引起的低頻噪音約 0.3HZ肌肉收縮 引起的高頻噪音。本文采用帶通濾波器(BPF)(由一個(gè)低通濾波器和一個(gè)高通 濾波器)組成,對(duì)ECG信號(hào)進(jìn)行濾波。其上下邊帶截止頻率是 1Hz和50Hz, 能有效地消除各種噪音24 o低通濾波器(LFP)的系統(tǒng)函數(shù)如下:L(z)6 121 2zZ1 T1 2zZ(3-1)2. QRS波峰值檢測(cè)本文中的ECG信號(hào)QRS波的檢測(cè)算法最初由 Pan Tompkins提出,Hamilton 和Tompkins對(duì)該算法進(jìn)行了進(jìn)一步的研究,QRS波檢測(cè)包括QRS波峰值

4、位置、 寬度、面積的檢測(cè)。在本文中,只須檢測(cè)出QRS波的峰值點(diǎn)位置,為下一步ECG 信號(hào)的分割作準(zhǔn)備,QRS波峰值檢測(cè)的各個(gè)步驟的系統(tǒng)框圖如下24:圖3-1 QRS波檢測(cè)系統(tǒng)框圖ECG信號(hào)通過一個(gè)帶通濾波器(由一個(gè)低通濾波器和一個(gè)高通濾波器串聯(lián) 組成)。再進(jìn)行微(差)分、平方、滑動(dòng)窗口平均、最后通過自適應(yīng)閾值的檢波 方法,檢測(cè)到QRS波的峰值。采樣的心電信號(hào)經(jīng)過數(shù)字帶通濾波器,將 QRS波 與T波、U波等進(jìn)行分離;微分后再平方,平方過程可突出微分后的頻響曲 線的斜率,并有助于減少由于 T波具有更多高頻分量而引起的誤差;再做移動(dòng) 窗口(150ms積分,積分所得的結(jié)果既包含 QRS波群的斜率,又包

5、含QRS波群 的寬度的信息,然后應(yīng)用兩種閾值進(jìn)行檢測(cè),一是濾波后信號(hào)的閾值,另一是由 窗口積分后的閾值。閾值的大小隨信號(hào)的波動(dòng)不斷調(diào)整, 這樣可提高檢測(cè)的可靠 性,特別可以防止噪聲引起的誤差。1)濾波檢測(cè)QRS波的峰值之前首先要確定 QRS波的頻率范圍,QRS復(fù)合波的頻率 一般在5-15 Hz,所以我們用一帶通濾波器(用一個(gè)上限頻率為15 Hz的低通濾波 器與一個(gè)下限頻率為5 Hz的高通濾波器串聯(lián)構(gòu)成)將 QRS波與T波、U波等分 離開來。低通濾波器(LFP)的系統(tǒng)函數(shù)如下:H(z)(1 z6)2(1 z1)2(3-2)29低通濾波器的輸入、輸出關(guān)系還可以用差分方程表示為:y(nT) 2y(

6、nT T) y( nT 2T) x( nT) 2x(nT6T) x(nT 12T)(3-3)式中x(nT):是低通濾波器的輸入信號(hào),y(nT)是低通濾波器的輸出信號(hào) 一階低通濾波器的傳遞函數(shù)由下式給出:Hlp(z)Y(z) 1 ZX(z) 1 Z 1(3-4)LPF的差分方程表示為:y(nT)y(nT T) x(nT) x(nT 32T)(3-5)高通濾波器(HFP)的傳遞函數(shù)如下:H HP ( Z )P(Z )X (Z)16H ip (Z )(3-6)32高通濾波器(HFP)的常系數(shù)線性差分方程表示為:p(nT) x(nT 16T) (1/32)y(nT T) x(nT) x(nT 32T)

7、 (3_7)式中x(nT)是HPF的輸入信號(hào),p(nT)是HPF的輸出信號(hào),y(nT)是LPF的輸出2) 求導(dǎo)數(shù)經(jīng)過濾波后,我們要開始檢測(cè) QRS波的峰值,首先對(duì)信號(hào)求導(dǎo)數(shù),求導(dǎo)數(shù) 的作用是求出波形各部分的斜率。求導(dǎo)過程的傳遞函數(shù)如下:H (z) 0.1(2 z 1 z y(nT) x( nT)式中x(nT)是平方運(yùn)算的輸入,y(nT)是平方運(yùn)算的輸出。4)峰值的檢測(cè)峰值的檢測(cè)通過一個(gè)自適應(yīng)的閾值,當(dāng)信號(hào)在某一個(gè)固定時(shí)間間期內(nèi)變化 時(shí),峰值是一個(gè)確定的值,通過下述算法,閾值不斷調(diào)整以檢測(cè)峰值,峰值檢測(cè) 到后,還要鑒定一下是信號(hào)峰值還是噪音的峰值。移動(dòng)窗口積分可用下式表示: 2z y( nT)

8、1/Nx( nT (N 1)T x(nT (N 2)T) . x(nT)( 3-9)式中:N是窗口中的信號(hào)樣本點(diǎn)數(shù),x(nT)是積分運(yùn)算的輸入,y(nT)是積分運(yùn)算 的輸出。窗口的大小以及N的選擇很關(guān)鍵,窗口選得太大,會(huì)將 T波也包含進(jìn)來, 窗口選得太小,就不能涵蓋 QRS波的全部信息,可能會(huì)檢測(cè)到多個(gè)峰值。3. 信號(hào)的分割正常情況下,人類的心跳率大約是每分種 60至100次。既RR間期為0.6-1.0)(3-7)求導(dǎo)運(yùn)算也可由下面的公式得到:y (nT ) (1/8)2x( nT ) x( nT T ) x(nT 2T ) 2x( nT 4T)( 3_8)式中x(nT)是求導(dǎo)函數(shù)的輸入,y(

9、nT)是求導(dǎo)函數(shù)的輸出。3) 平方運(yùn)算(3-8)求導(dǎo)后是進(jìn)行平方運(yùn)算,將求導(dǎo)的結(jié)果進(jìn)行平方,使斜率的差值進(jìn)一步擴(kuò)大, 便于找出峰值點(diǎn)。秒,對(duì)于心律失常病癥的診斷而言,最有參考價(jià)值的是QRS波,其次是P波和U波,T波及它們之前的間期值,而在每個(gè)周期內(nèi)心電信號(hào)的最前面一部分和最后 一部分對(duì)診斷的價(jià)值不大,而且VT和VF的RR間期比NSR勺R(shí)R間期更要短得多。 因此每個(gè)ECG羊本選取300個(gè)采樣點(diǎn),即數(shù)據(jù)窗口為0.9(信號(hào)頻率為360Hz)秒, 其中,100個(gè)采樣點(diǎn)在ECG峰值R以前,200個(gè)采樣點(diǎn)在ECG峰值R以后。已經(jīng) 包含了一個(gè)心率周期內(nèi)所有有用的 ECG言息。32信號(hào)的特征提取如上一章所述,

10、ECG信號(hào)的特征提取有多種現(xiàn)存的方法。在本文中,用一 個(gè)空間預(yù)測(cè)模型(AR )對(duì)ECG信號(hào)進(jìn)行建模25.26。(3-10)AR模型的基本表達(dá)式為:A(q)Y(t) e(t)AR建模的差分方程可表示為:y(n) a(2)y( n 1)a(3)y( n 2) a(p 1) y( n p) e(n) (3-11)式中:y(n)是被測(cè)信號(hào),a(i) AR模型的常系數(shù),e(n)是高斯白噪聲,p是AR模 型的階數(shù)。因此,y(n)表示為t時(shí)刻以前的P階輸出的線性組合和誤差的疊加。這意味 著t時(shí)刻的輸出依賴于以前信號(hào)的輸入?,F(xiàn)在問題是要在合適的 P階數(shù)下求出 a(i)。1.建模階次確定在整個(gè)建模過程中,首先要

11、確定模型階次p,不同的階次,有不同的a值。如何來衡量模型的階次選擇是否合適,而且如果模型階次選得太小,建模誤差會(huì)很大,如果模型階次過大,會(huì)導(dǎo)致運(yùn)算量過大,影響分類的時(shí)間。本文引用以下 二個(gè)準(zhǔn)則來確定模型階次P12。1)自相關(guān)系數(shù)p:(3-12)N(v(i)m)(i) m)N (v(i) m)2 N (i)p 1i p 1i p 1 2m)2其中,v(i)和(i)分別為ECG信號(hào)i時(shí)刻的原始值和預(yù)測(cè)值;m和m分別為ECG 信號(hào)原始值和預(yù)測(cè)值的均值;N為數(shù)據(jù)窗口長(zhǎng)度;p為模型的階數(shù)。2)信噪比SNR10 logN2y ii iN.2y iy ii i(3-13)因此,用上述方法確定階次P以后,就可

12、以用下面的方法求出相應(yīng)的 AR建 模系數(shù)。2.參數(shù)估計(jì)算法給定N個(gè)ECG信號(hào)樣本,進(jìn)行AR建模,求出合適的a(i),使建模誤差最 小,如何判斷誤差是否達(dá)到最小值,本文采用使誤差平方和達(dá)到最小的方法。對(duì)于有限的N個(gè)樣本,誤差平方和E,用下式表示:N 1Ee(n)2n 0(y( n)n 0ak y(nk 1k)2(3-14)E的最小值出現(xiàn)對(duì)E的導(dǎo)數(shù)為0的這一點(diǎn)。從上面方程式可以看出,對(duì)于每 個(gè)不同的確定的ak.,E的解是唯一的,但是太大的正或負(fù)的 齊,,值,E可能會(huì)非 常大,因此。E承應(yīng)達(dá)到最小,因此上式可以變換為:N 1PN 1(3-15)y( n)y(nj)aky(nk)y( n j)n 0k

13、 1n 0用?j,k組成協(xié)方差矩陣?則:N 1(3-16)j,ky(n j)y( n k)n 0上述等式可以表示為矩陣形式,如下所示:1,0 1,11,21,2 1,pa1(3-17)2,0 2,12,22.32,Pa23,03,13,23,33, Pa3apP,0p,1P,2P,3.p, p參數(shù)矢量可由下式得到:a 1 0(3-18)以上過程,可以通過 MATLAB仿真實(shí)現(xiàn)。3.3信號(hào)的分類本文中,心律失常的心電信號(hào)通過 AR建模系數(shù)進(jìn)行信號(hào)特征的提取,并以 AR建模系數(shù)進(jìn)行心律失常的分類,同樣如上一章所述分類的方法有多種,本文 主要采用BP神經(jīng)網(wǎng)絡(luò)(ANN )的分類方法,及基于線性分類器的

14、分類法23 o1. BP神經(jīng)網(wǎng)絡(luò)分類法1)神經(jīng)元及其特性連接機(jī)制結(jié)構(gòu)的基本處理單元與神經(jīng)生理學(xué)類比往往稱為神經(jīng)元。每個(gè)構(gòu)造起網(wǎng)絡(luò)的神經(jīng)元模型模擬一個(gè)生物神經(jīng)元,人工神經(jīng)網(wǎng)絡(luò)由神經(jīng)元模型構(gòu)成; 這種由許多神經(jīng)元組成的信息處理網(wǎng)絡(luò)具有并行分布結(jié)構(gòu)。每個(gè)神經(jīng)元具有單一輸出, 并且能夠與其它神經(jīng)元連接;存在許多(多重)輸出連接方法,每種連接方法對(duì) 應(yīng)一個(gè)連接權(quán)系數(shù)。嚴(yán)格地說,人工神經(jīng)網(wǎng)絡(luò)是一種具有下列特性的有向圖(如圖3-2所示):(1)對(duì)于每個(gè)節(jié)點(diǎn)i存在一個(gè)狀態(tài)變量Xi; (2)從節(jié)點(diǎn)j至節(jié)點(diǎn)i,存 在一個(gè)連接權(quán)系統(tǒng)數(shù)wij;(3)對(duì)于每個(gè)節(jié)點(diǎn)i,存在一個(gè)閾值i ;(4)對(duì)于每個(gè)節(jié)點(diǎn)i,定義一個(gè)換函

15、數(shù)fi(Xi,Wji,i);如圖3-2所示。該神經(jīng)元單元由多個(gè)輸入,i=1,2,.,n和一個(gè)輸出y組成。中間狀態(tài)由輸入信號(hào)的權(quán)和表示,而輸出可表示為:片=丁 (工叫內(nèi)和!-1(3-19)圖3-2神經(jīng)元模型式(3-19)中,j為神經(jīng)元單元的偏置(閾值),wji為連接權(quán)系數(shù)(對(duì)于激發(fā)狀態(tài), wji取正值,對(duì)于抑制狀態(tài),wji取負(fù)值),n為輸入信號(hào)數(shù)目,yj為神經(jīng)元輸出, t為時(shí)間,f(_)為輸出變換函數(shù),有時(shí)叫做激發(fā)或激勵(lì)函數(shù),往往采用0和1二值函數(shù)或S形函數(shù),見圖1.2,這三種函數(shù)都是連續(xù)和非線性的。一種二值函數(shù) 如圖3-3(a)所示。一種常規(guī)的S形函數(shù)見圖3-3(b),常用雙曲正切函數(shù)(見圖3

16、-3(c) 來取代常規(guī)S形函數(shù),因?yàn)镾形函數(shù)的輸出均為正值,而雙曲正切函數(shù)的輸出值 可為正或負(fù)。雙曲正切函數(shù)如下式所示:(3-20)神經(jīng)元中的某些變換(激發(fā))人工神經(jīng)網(wǎng)絡(luò)有兩種基本結(jié)構(gòu):遞歸網(wǎng)絡(luò)(如圖3-4所示)和前饋網(wǎng)絡(luò)(如圖3-5所示)。遞歸網(wǎng)絡(luò)又叫做反饋網(wǎng)絡(luò),在遞歸網(wǎng)絡(luò)中,多個(gè)神經(jīng)元互連以組織 一個(gè)互連神經(jīng)網(wǎng)絡(luò)。有些神經(jīng)元的輸出被反饋至同層或前層神經(jīng)元。因此,信號(hào) 能夠從正向和反向流通。Hopfield網(wǎng)絡(luò),Elmman網(wǎng)絡(luò)和Jordan網(wǎng)絡(luò)是遞歸網(wǎng)絡(luò) 有代表性的例子。前饋網(wǎng)絡(luò)具有遞階分層結(jié)構(gòu),由一些同層神經(jīng)元間不存在互連 的層級(jí)組成。從輸入層至輸出層的信號(hào)通過單向連接流通;神經(jīng)元從一層

17、連接至下一層,不存在同層神經(jīng)元間的連接,如圖 3-4所示。圖中,實(shí)線指明實(shí)際信號(hào) 流通而虛線表示反向傳播。前饋網(wǎng)絡(luò)的例子有多層感知器(MLP)、BP神經(jīng)網(wǎng)絡(luò)、學(xué)習(xí)矢量量化(LVQ)網(wǎng)絡(luò)、小腦模型聯(lián)接控制(CMAC)網(wǎng)絡(luò)和數(shù)據(jù)處理方法 (GMDH)網(wǎng)絡(luò)等。圖3-4遞歸(反饋)網(wǎng)絡(luò)圖3-5前饋(多層)網(wǎng)絡(luò)圖3-4中,Vi表示節(jié)點(diǎn)的狀態(tài),Xi為節(jié)點(diǎn)的輸入(初始)值,Xi為收斂后的輸出值,i=1,2,., n。神經(jīng)網(wǎng)絡(luò)主要通過兩種學(xué)習(xí)算法進(jìn)行訓(xùn)練,即指導(dǎo)式(有導(dǎo)師)學(xué)習(xí)算法 和非指導(dǎo)式(無導(dǎo)師)學(xué)習(xí)算法。此外,還存在第三種學(xué)習(xí)算法,即強(qiáng)化學(xué)習(xí)算 法;可把它看做有師學(xué)習(xí)的一種特例。有導(dǎo)師學(xué)習(xí)、有導(dǎo)師學(xué)習(xí)

18、算法能夠根據(jù)期望的和實(shí)際的網(wǎng)絡(luò)輸出(對(duì)應(yīng)于給定輸入)間的差來調(diào)整神經(jīng)元間連接的強(qiáng)度 或權(quán)。因此,有導(dǎo)師學(xué)習(xí)需要有個(gè)老師或?qū)焷硖峁┢谕蚰繕?biāo)輸出信號(hào)。有導(dǎo)師學(xué)習(xí)算法的例子包括d規(guī)則、誤差反向傳播(BP)算法以及LVQ算法等。2) BP神經(jīng)網(wǎng)絡(luò)在已出現(xiàn)的眾多神經(jīng)網(wǎng)絡(luò)模型中,BP神經(jīng)網(wǎng)絡(luò)模型是最典型也是應(yīng)用最為 廣泛和成功的網(wǎng)絡(luò)之一。尤其是它在函數(shù)逼近、模式識(shí)別和故障診斷的應(yīng)用中取 得了巨大的成功。然而,盡管BP神經(jīng)網(wǎng)絡(luò)的研究取得了激動(dòng)人心的成果,其應(yīng) 用也解決了一些實(shí)際問題,但還存在著不完善之處,如:初始權(quán)值的選擇問題、 局部極小值問題、網(wǎng)絡(luò)結(jié)構(gòu)問題等等。其中,神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)更是難點(diǎn),眾所周知,

19、神經(jīng)網(wǎng)絡(luò)應(yīng)用的前提就是要確定一個(gè)合適的網(wǎng)絡(luò)結(jié)構(gòu)模型, 這對(duì)網(wǎng)絡(luò)的性能(收 斂性、推廣能力等)有著重大的影響。典型的 BP網(wǎng)絡(luò)(如圖2-1所示)是三層 前向網(wǎng)絡(luò),由輸入層、隱含層和輸出層組成。圖3-6典型的BP網(wǎng)絡(luò)結(jié)構(gòu)圖一般情況下,神經(jīng)網(wǎng)絡(luò)的輸入層和輸出層的神經(jīng)元數(shù)目由問題本身的性質(zhì)決 定,隱層的層數(shù)和各隱層的節(jié)點(diǎn)數(shù)由設(shè)計(jì)者根據(jù)問題的性質(zhì)和對(duì)神經(jīng)網(wǎng)絡(luò)的性能 要求來決定。i輸入層和輸出層設(shè)計(jì)輸入層起緩沖存儲(chǔ)器的作用,把數(shù)據(jù)源加到網(wǎng)絡(luò)上。其節(jié)點(diǎn)數(shù)目取決于數(shù)據(jù) 源的維數(shù),即這些節(jié)點(diǎn)能夠代表每個(gè)數(shù)據(jù)源, 所以,最困難的設(shè)計(jì)判決是弄清楚 正確的數(shù)據(jù)源。如果數(shù)據(jù)源中有大量的未經(jīng)處理的或者虛假的信息數(shù)據(jù),那必

20、將會(huì)妨礙對(duì)網(wǎng)絡(luò)的正確訓(xùn)練,所以要剔除那些無效的數(shù)據(jù),確定出數(shù)據(jù)源的合適數(shù) 目,大體上需要經(jīng)過四步:(a) 確定與應(yīng)用有關(guān)的數(shù)據(jù);(b) 剔除那些在技術(shù)上和經(jīng)濟(jì)上不符合實(shí)際的數(shù)據(jù)源;(c) 剔除那些邊沿的或者不可靠的數(shù)據(jù)源;(d) 開發(fā)一個(gè)能組合或預(yù)處理數(shù)據(jù)的方法,使這些數(shù)據(jù)更具有實(shí)用意義。人工神經(jīng)網(wǎng)絡(luò)只能處理表示成數(shù)值的輸入數(shù)據(jù), 所以經(jīng)常需要將外部的信息 變換或編碼。輸入的神經(jīng)單元可以根據(jù)需要求解的問題和數(shù)據(jù)表示的方式而定。如果輸入的是模擬信號(hào)波形,那么輸入層可以根據(jù)波形的采樣點(diǎn)數(shù)決定輸入單元的維數(shù), 也可以用一個(gè)單元輸入,這時(shí)輸入樣本為采樣的時(shí)間序列。 如果輸入為圖像,則 輸入單元可以為圖

21、像的象素,也可以是經(jīng)過處理后的圖像特征。輸出層的維數(shù)根據(jù)使用者的要求來確定。如果 BP網(wǎng)絡(luò)用作分類器,其類別 為m個(gè),有兩種方法確定輸出神經(jīng)元的個(gè)數(shù):(a)輸出層有m個(gè)神經(jīng)元,其訓(xùn)練樣本集中xP屬于第j類,要求其輸出為y(o,o, o,1,o,o, o)T即第j個(gè)神經(jīng)元的輸出為1,其余輸出為0(b)輸出神經(jīng)元還可根據(jù)類別進(jìn)行編碼,即 m類的輸出只要用|°g2m個(gè)輸出單元即可。ii .隱含層數(shù)和層內(nèi)節(jié)點(diǎn)數(shù)的選擇對(duì)于多層神經(jīng)網(wǎng)絡(luò)來說,首先要確定選用幾層隱含層。對(duì)于如何確定隱含層 數(shù)的問題,已有不少學(xué)者對(duì)此進(jìn)行了理論上的研究。Lippmann的研究指出,對(duì)于函數(shù)近似和數(shù)據(jù)分類問題,可能需要

22、兩個(gè)隱層來學(xué)習(xí)按段連續(xù)函數(shù)。Cyb enko證明了具有單隱層及任意固定的連續(xù) Sigmoid非線性函數(shù)的反傳MLP,可以以 任意精度逼近緊集上的任何連續(xù)函數(shù)。當(dāng)被用作具有硬限位(階躍)激勵(lì)函數(shù)的 二進(jìn)制取值神經(jīng)元網(wǎng)絡(luò)時(shí),具有兩個(gè)隱層的反傳MLP可以形成任意復(fù)雜的決策區(qū)域以區(qū)分不同的類別。隱含層起抽象的作用,即它能從輸入提取特征。增加隱 含層可增加人工神經(jīng)元網(wǎng)絡(luò)的處理能力, 但是必將使訓(xùn)練復(fù)雜化、訓(xùn)練樣本數(shù)目 增加和訓(xùn)練時(shí)間的增加。目前人們認(rèn)為二進(jìn)制分類或判決邊界問題, 一個(gè)隱含層 就足夠了。但是,如果要求輸出是輸入的任意連續(xù)函數(shù),那就要用兩個(gè)隱含層或者采用不同的激活函數(shù)。韋崗的研究成果表明,多

23、層前向網(wǎng)絡(luò)的函數(shù)逼近能力與 隱層數(shù)目及隱層神經(jīng)元特性函數(shù)的具體形式關(guān)系不大,而主要取決于網(wǎng)絡(luò)的隱層神經(jīng)元數(shù)目。所以,層內(nèi)節(jié)點(diǎn)數(shù)需要進(jìn)行恰當(dāng)?shù)倪x擇。一般情況下,隱層節(jié)點(diǎn)數(shù) 較多時(shí),網(wǎng)絡(luò)結(jié)構(gòu)比較復(fù)雜,學(xué)習(xí)時(shí)間長(zhǎng),能夠很好的學(xué)習(xí)訓(xùn)練樣本,輸出誤差 小,但推廣能力差;隱層節(jié)點(diǎn)數(shù)較少時(shí),網(wǎng)絡(luò)結(jié)構(gòu)比較簡(jiǎn)單,雖然有較好的泛化 能力,但完成對(duì)訓(xùn)練樣本的學(xué)習(xí)較為困難。因此存在一個(gè)最佳的隱單元數(shù),許多學(xué)者對(duì)此進(jìn)行了研究:Hecht-Nielsen提出隱含層節(jié)點(diǎn)數(shù)目為2N 1,Lippmann認(rèn)為最大隱含層節(jié)點(diǎn)的數(shù)目為 M 'N 1), Kuarycki認(rèn)為最大隱含層節(jié)點(diǎn)的數(shù)目為M13,A.J.Maren等

24、人認(rèn)為,對(duì)小型網(wǎng)絡(luò)來說,輸入節(jié)點(diǎn)數(shù)大于輸出節(jié)點(diǎn)數(shù)時(shí),最佳隱含層節(jié)點(diǎn)數(shù)等于m N,其中N為輸入的節(jié)點(diǎn)數(shù),M1為輸出層節(jié)點(diǎn)數(shù)??晒﹨⒖嫉墓浪愎竭€有:(1) J .n m a。其中,m為輸出神經(jīng)元數(shù),n為輸入神經(jīng)元數(shù),a為110之間的常數(shù)。(2) j log 2 n,其中n為輸入神經(jīng)元數(shù)。近年來,許多學(xué)者提出了變結(jié)構(gòu)動(dòng)態(tài)調(diào)整隱含層神經(jīng)元數(shù)目的方法,一種稱為增長(zhǎng)方法,即在開始時(shí)放入比較少的隱含單元,訓(xùn)練過程中,針對(duì)實(shí)際問題, 根據(jù)網(wǎng)絡(luò)性能要求逐步增加隱含單元個(gè)數(shù),直到滿足網(wǎng)絡(luò)性能要求。另一種稱為 修剪方法,即在開始時(shí)構(gòu)造一個(gè)含有冗余節(jié)點(diǎn)的網(wǎng)絡(luò), 然后在訓(xùn)練的過程中逐步 刪除那些不必要的節(jié)點(diǎn)和權(quán)值,一

25、直減少到不可收縮為止。這種方法對(duì)于硬件完 成的BP多層網(wǎng)有一定的好處,但是,也存在著計(jì)算量大,效率低等缺點(diǎn)。增加隱含層的節(jié)點(diǎn)數(shù)可以改善網(wǎng)絡(luò)與訓(xùn)練組匹配的精度(該精度近似比例于隱含層節(jié)點(diǎn)數(shù)的平方)。然而,為了改善網(wǎng)絡(luò)的概括推論能力,又要求適當(dāng)減少 隱含層的節(jié)點(diǎn)數(shù)。所以,對(duì)一特定的應(yīng)用網(wǎng)絡(luò),其隱含層的節(jié)點(diǎn)數(shù)應(yīng)該是按精確 度和概括性綜合統(tǒng)一考慮。iii.基本BP算法多層前向神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)采用誤差反向傳播算法(Back-Propagati on Algorithm ),簡(jiǎn)稱BP算法。BP算法是一種有導(dǎo)師的學(xué)習(xí)算法,其主要思想是把 學(xué)習(xí)過程分為四個(gè)部分:一是輸入模式從輸入層經(jīng)隱含層傳向輸出層的“模式順傳

26、播”過程;二是網(wǎng)絡(luò)的希望輸出與實(shí)際輸出之差的誤差信號(hào)由輸出層經(jīng)隱含層 向輸入層逐層修正連接權(quán)的“誤差逆?zhèn)鞑ァ边^程;三是由“模式順傳播”和“誤 差逆?zhèn)鞑ァ钡姆磸?fù)交替進(jìn)行的網(wǎng)絡(luò)“記憶訓(xùn)練”過程;四是網(wǎng)絡(luò)趨向收斂即網(wǎng)絡(luò) 的全局誤差趨向極小值的“學(xué)習(xí)收斂”過程。對(duì)于圖3-6所示的前向網(wǎng)絡(luò),設(shè)有P個(gè)輸入一輸出對(duì)(Xk,Tk)(k 1,2, ,P) 其中,Xk為第k個(gè)樣本輸入向量:Xk (xk1,xk2, ,xkM),M為輸入向量維數(shù); Tk為第k個(gè)樣本輸出向量(期望輸出):Tk (tk1 ,tk2, ,tkN ),N為輸出向量維數(shù)。 網(wǎng)絡(luò)的實(shí)際輸出向量為:Ok(ok1ok2okN)T ; ji為前一層第

27、i個(gè)神經(jīng)單元到kk1 k2kNJi后一層第j個(gè)神經(jīng)單元的權(quán)重由于BP網(wǎng)絡(luò)要求采用非線性的連續(xù)可導(dǎo)的激發(fā)函數(shù),這里采用Sigmoid函數(shù)作為激發(fā)函數(shù)。f(x)(3-21)當(dāng)神經(jīng)元為輸入層單元時(shí),ok Xk對(duì)于第k個(gè)樣本,第j個(gè)神經(jīng)單元的狀態(tài)定義為:Netkjji Oki。(3-22)i則第j個(gè)神經(jīng)單元的輸出為:Okjfj(Netkj)。(3-23)對(duì)于具有隱層的多層前向網(wǎng)絡(luò),當(dāng)神經(jīng)元激發(fā)函數(shù)采用Sigmoid函數(shù)作為激發(fā)函數(shù)時(shí),'Okjfj(Netkj)Okj(1Okj)Netq(3-24)故對(duì)輸出層單元:kj(tkjOkj ) Okj (1Okj )(3-25)對(duì)隱層單元:kj Okj

28、 (1 Okj )km mjm(3-26)權(quán)值調(diào)節(jié)為:ji (t1)kj oki(3-27)在實(shí)際的學(xué)習(xí)過程中,學(xué)習(xí)速率 對(duì)學(xué)習(xí)過程的影響很大,是按梯度搜索的步長(zhǎng)。 越大,權(quán)值的變化越劇烈。為了使學(xué)習(xí)速度足夠快而不易產(chǎn)生振湯,往往再加上一個(gè)勢(shì)態(tài)項(xiàng),即:ji (t1)kjOkiji (t)(3-28)式中,是一個(gè)常數(shù),它決定過去權(quán)重的變化對(duì)目前權(quán)值變化的影響。BP算法的具體步驟如下:(1) 置各權(quán)值或閾值的初始值:ji (0), j (0)為小的隨機(jī)數(shù)值。(2) 提供訓(xùn)練樣本:輸入矢量Xk,k 1,2, ,P ;期望輸出Tk,k 1,2, ,P ; 對(duì)每個(gè)輸入樣本進(jìn)行下面(3)到(5)的迭代。(

29、3) 計(jì)算網(wǎng)絡(luò)的實(shí)際輸出及因此單元的狀態(tài):Okj fj(jSj)(3-28)i按式(3-25)、(3-26)計(jì)算輸出層、隱層訓(xùn)練誤差。(5)按下式修正權(quán)值和閾值:ji (t 1) ji(t) jOki ji(t) ji (t 1)(3-29)j (t 1) j (t) j (t) j (t 1)(3-30)(6 )當(dāng)k每經(jīng)歷1至P后,判斷指標(biāo)是否滿足精度要求:E ;(:精度)(7)結(jié)束。BP 模型雖然具有很多優(yōu)點(diǎn),而且應(yīng)用也很廣泛,但它也存在一些不足,主 要有: (1)從數(shù)學(xué)上看,它是一個(gè)非線性優(yōu)化問題,不可避免地存在局部極小點(diǎn); (2)學(xué)習(xí)算法的收斂速度很慢; (3)網(wǎng)絡(luò)隱含層節(jié)點(diǎn)數(shù)的選取帶

30、有很大的盲目性和 經(jīng)驗(yàn)性,尚無理論上的指導(dǎo); (4)新加入的樣本要影響已學(xué)完的樣本。BP 網(wǎng)絡(luò)運(yùn)用的誤差反向傳播算法要求學(xué)習(xí)率要充分小,這樣才能使網(wǎng)絡(luò)的 誤差代價(jià)函數(shù)收斂到全局極小點(diǎn),然而較小的學(xué)習(xí)率使得 BP 算法的學(xué)習(xí)速度很 慢,網(wǎng)絡(luò)的收斂時(shí)間大為增加, 通常需要幾千次或更多次數(shù)的迭代才能收斂到全 局極小點(diǎn); 但是采用較大的學(xué)習(xí)率則會(huì)導(dǎo)致網(wǎng)絡(luò)在學(xué)習(xí)過程中出現(xiàn)麻痹現(xiàn)象 (這 是由于在訓(xùn)練過程中, 加權(quán)值調(diào)節(jié)得過大時(shí)可能迫使所有的或大部分的神經(jīng)元節(jié) 點(diǎn)的加權(quán)和輸出較大, 從而工作在 Sigmoid 激發(fā)函數(shù)的飽和區(qū), 此時(shí)激發(fā)函數(shù)的 導(dǎo)數(shù)f'(net)非常小,隨之加權(quán)修正量也非常小,若

31、當(dāng)激發(fā)函數(shù)的導(dǎo)數(shù)f'(net) 0時(shí),結(jié)果使得各層連接權(quán)的修正量趨于零,即 W 0 ,這就相當(dāng)于使調(diào)節(jié)過程 幾乎停頓下來)。從而使系統(tǒng)在局部極小點(diǎn)附近徘徊,無法收斂。由于 BP 算法自身存在的問題, 不少學(xué)者進(jìn)行了研究, 提出了一些改進(jìn)方法, 這些方法大都集中在如何提高收斂速度和盡可能避免陷入局部極小。包括牛頓 法、擬牛頓法、共軛梯度法、 LevenbergManquardt 法等。這些方法的主要不同 在于如何選擇下次的下降方向, 一旦確定了下降方向, 所有算法只需沿相應(yīng)直線 朝極小點(diǎn)前進(jìn)一步。 牛頓法主要是在最優(yōu)值附近產(chǎn)生一個(gè)理想的搜索方向。 李歧 強(qiáng)等由自適應(yīng) BP 算法和牛頓算法

32、導(dǎo)出了自適應(yīng)步長(zhǎng)和動(dòng)量解耦的偽牛頓算法, 徐嗣新等提出了前向網(wǎng)絡(luò)的分段學(xué)習(xí)算法,該算法結(jié)合了 BP 算法和牛頓算法, 從而提高收斂速度。由于牛頓法用到了 Hessia n矩陣,常常計(jì)算復(fù)雜性較大,這 是其不足之處。 LevenbergManquardt 法實(shí)際上是梯度下降法和牛頓法的結(jié)合。 它的優(yōu)點(diǎn)在于網(wǎng)絡(luò)權(quán)值數(shù)目較少時(shí)收斂非常迅速。 梯度下降法收斂較慢, 擬牛頓 法計(jì)算復(fù)雜, 而共軛梯度法則力圖避免兩者的缺點(diǎn)。 共軛梯度法的第一步是沿負(fù) 梯度方向進(jìn)行搜索, 然后再沿當(dāng)前搜索方向的共軛方向搜索, 從而可以迅速達(dá)到 最優(yōu)值。Charalambous提出了一種適合于BP學(xué)習(xí)的共軛梯度法,將該方法與一 種簡(jiǎn)單的不確定線性搜索相結(jié)合,可極大的提高收斂速度。BP 神經(jīng)網(wǎng)絡(luò)用于信號(hào)分類的基本思想如下:對(duì)于整個(gè)輸入樣本空間有 M 個(gè)明顯的分類,設(shè)想網(wǎng)絡(luò)的訓(xùn)練目標(biāo)是一個(gè)二 值函數(shù),則:dkj1當(dāng)輸入樣本x j屬于k時(shí)dkj0當(dāng)輸入樣本xj不屬于k時(shí)基于這種表示法,可用一個(gè)M維的輸出來表示類別 k,除了第K個(gè)輸出為 1,其它輸出均為0。本文中,ECG信號(hào)的分類只涉及3個(gè)信號(hào),輸出層采用三個(gè)神經(jīng)元,并采 用二進(jìn)制目標(biāo)編碼的方式:“100”為N

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論