基于神經(jīng)網(wǎng)絡(luò)ZISC的模式識(shí)別系統(tǒng)

1、神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)ZISC的模式識(shí)別系統(tǒng)摘要：首先介紹人工神經(jīng)網(wǎng)絡(luò)ANN實(shí)現(xiàn)技術(shù)的歷史、現(xiàn)狀和發(fā)展，著重分析RBF網(wǎng)絡(luò)的原理及其建立在超大規(guī)模集成電路基礎(chǔ)上的硬件神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)方法。然后，介紹一種新的硬件神經(jīng)網(wǎng)絡(luò)技術(shù)ZISC的工作原理和應(yīng)用。最后，以ZISC036芯片為例，實(shí)現(xiàn)一個(gè)模式識(shí)別系統(tǒng)。關(guān)鍵詞：人工神經(jīng)網(wǎng)絡(luò)ZISC超大規(guī)模集成電路徑向基函數(shù)模式識(shí)別引言：模式識(shí)別是人工智能經(jīng)常遇到的問題之一。其主要的應(yīng)用領(lǐng)域包括手寫字符識(shí)別、自然語言理解、語音信號(hào)識(shí)別、生物測(cè)量以及圖像識(shí)別等領(lǐng)域。這些領(lǐng)域的共同特點(diǎn)都是通過對(duì)對(duì)象進(jìn)行特征矢量抽取，再按事先由學(xué)習(xí)樣本建立的有代表性的識(shí)別字典，把特征矢量分別與字典

2、中的標(biāo)準(zhǔn)矢量匹配，根據(jù)不同的距離來完成對(duì)象的分類。以識(shí)別手寫數(shù)字為例，字典中有由學(xué)習(xí)樣本建立的10個(gè)標(biāo)準(zhǔn)矢量(代表00),把從識(shí)別對(duì)象中抽取的特征矢量分別與這10個(gè)標(biāo)準(zhǔn)矢量匹配，矢量間距離最短的就說明別對(duì)象與這個(gè)標(biāo)準(zhǔn)矢量的分類最接近，進(jìn)而識(shí)別出其表示的數(shù)字。當(dāng)前對(duì)人工神經(jīng)網(wǎng)絡(luò)ANN(ArtificialNeutronNetwork)的研究熱潮源自HopfieldJ.l和McclellandJ.等人于20世紀(jì)80年代發(fā)表的論文2,3。Hopfield提出了激活函數(shù)為非線性的反饋網(wǎng)絡(luò)，并將其成功地運(yùn)用于組合優(yōu)化問題；Mcclelland和Rumelhart用多層前饋網(wǎng)的反向傳播學(xué)習(xí)算法(BackP

3、ropagation)成功地解決了感知器不能解決的異或問題及其它的識(shí)別問題。他們的突破打消了此前人們由于簡(jiǎn)單線性神經(jīng)網(wǎng)絡(luò)感知功能的有限而產(chǎn)生的，使ANN成為了新的研究熱點(diǎn)。之后，新的網(wǎng)絡(luò)結(jié)構(gòu)和新的學(xué)習(xí)算法層出不窮，目前常見的都已達(dá)到幾十種。在這些神經(jīng)網(wǎng)絡(luò)中，徑向基函數(shù)RBF(RadialBasicFuction)網(wǎng)絡(luò)由于具有強(qiáng)大的矢量分類功能和快速的計(jì)算能力，在非線性函數(shù)逼近等方面，特別是模式識(shí)別領(lǐng)域，獲得了廣泛的應(yīng)用，從而成為當(dāng)前神經(jīng)網(wǎng)絡(luò)研究中的一個(gè)熱點(diǎn)4。理論模型要求發(fā)展神經(jīng)網(wǎng)絡(luò)型計(jì)算機(jī)來實(shí)現(xiàn)，但迄今為止，這方面的工作限于條件還主要集中在傳統(tǒng)計(jì)算機(jī)的軟件模擬實(shí)現(xiàn)上。大多數(shù)學(xué)者認(rèn)為，要使人工

4、神經(jīng)網(wǎng)絡(luò)更快、更有效地解決更大規(guī)模的總是，關(guān)鍵在于其超大規(guī)模集成電路(VLSI)硬件的實(shí)現(xiàn)，即把神經(jīng)元和連接制作在一塊芯片上(多為CMOS)構(gòu)成ANN。正是因?yàn)樯鲜龅脑?，其中神?jīng)網(wǎng)絡(luò)的VLSI設(shè)計(jì)方法近年來發(fā)展很快，硬件實(shí)現(xiàn)已成為ANN的一個(gè)重要分支5,6。以下介紹IBM的專利硬件RBF神經(jīng)網(wǎng)絡(luò)芯片技術(shù)ZISC(ZeroInstructionSetComputer)，并給出用ZISC設(shè)計(jì)和實(shí)現(xiàn)的一種模式識(shí)別系統(tǒng)。1用VLSI設(shè)計(jì)硬件神經(jīng)網(wǎng)絡(luò)的方法神經(jīng)網(wǎng)絡(luò)的IC實(shí)現(xiàn)是比較困難的，設(shè)計(jì)者必須把神經(jīng)系統(tǒng)模型的特性反映到受半導(dǎo)體工藝和IC設(shè)計(jì)規(guī)則制約的電路中去。用VLSI設(shè)計(jì)硬件神經(jīng)網(wǎng)絡(luò)的方法主要分

5、為數(shù)字技術(shù)、模擬技術(shù)和數(shù)模混合技術(shù)等，下面分別作簡(jiǎn)要介紹。1)用模擬技術(shù)實(shí)現(xiàn)硬件神經(jīng)網(wǎng)絡(luò)模擬神經(jīng)芯片通過單元器件的物理性質(zhì)來進(jìn)行計(jì)算，因而可以獲得很高的速度。神經(jīng)元的核函數(shù)計(jì)算功能一般由乘法器或運(yùn)算放大器來完成，而連接權(quán)值大多以電壓形式存儲(chǔ)在電容上或是以電荷形式存儲(chǔ)在浮點(diǎn)門上。利用模擬神經(jīng)芯片不僅可以制造多層前向感知器那樣的傳統(tǒng)結(jié)構(gòu)，還能從形態(tài)上進(jìn)行如硅視網(wǎng)膜這樣的生物仿真設(shè)計(jì)，從而更有效地模擬生物學(xué)功能。在解決實(shí)時(shí)感知類的問題中，模擬神經(jīng)芯片扮演著主要的角色。因?yàn)檫@些問題不要求精確的數(shù)學(xué)計(jì)算，而主要是對(duì)大量的信息流進(jìn)行集合和并行處理，這方面低精度的模擬技術(shù)從硅片面積、速度和功耗來看具有相當(dāng)大

6、的優(yōu)勢(shì)。但是模擬芯片的抗干擾性差，設(shè)計(jì)中需要考慮對(duì)環(huán)境因素變化引起的誤差進(jìn)行補(bǔ)償，非常麻煩；它的另一個(gè)缺點(diǎn)是，制造一個(gè)突觸必須考慮權(quán)值存儲(chǔ)的復(fù)雜性，同時(shí)要求放大器在很寬的范圍內(nèi)呈現(xiàn)線性5,6。（2）用數(shù)字技術(shù)實(shí)現(xiàn)硬件神經(jīng)網(wǎng)絡(luò)用高低電平來表示不同狀態(tài)的數(shù)字電路是信息工業(yè)中最常用的技術(shù)。數(shù)字神經(jīng)芯片有非常成熟的生產(chǎn)工藝，它的權(quán)值一般存儲(chǔ)在RAM或EPROM等數(shù)字存儲(chǔ)器中，由乘法器和加法器實(shí)現(xiàn)神經(jīng)元并行計(jì)算。對(duì)設(shè)計(jì)者來說，數(shù)字神經(jīng)芯片可以以很高的計(jì)算精度（達(dá)到32位或者更高）實(shí)現(xiàn)神經(jīng)元核函數(shù)。另外，用數(shù)字技術(shù)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)時(shí)，通?？梢圆捎脴?biāo)準(zhǔn)單元庫(kù)或可編程門陣列直接進(jìn)行電路設(shè)計(jì)，這樣可以大大減少設(shè)計(jì)時(shí)

7、間5,6。數(shù)字神經(jīng)芯片不僅具有容錯(cuò)性好、易于硬件實(shí)現(xiàn)及高精度、高速度的優(yōu)點(diǎn)。更重要的是有很多數(shù)字電路CAD的軟件可以作為設(shè)計(jì)工具使用。但要實(shí)現(xiàn)乘/加運(yùn)算，需要大量的運(yùn)算單元和存儲(chǔ)單元。因而對(duì)芯睡面積和功耗要求很高。為了適應(yīng)大面積的數(shù)字電路的要求，現(xiàn)在很多數(shù)字神經(jīng)芯片都采用了硅片集成技術(shù)（Wafer-ScaleIntegration）。2RBF網(wǎng)絡(luò)原理和它的硬件實(shí)現(xiàn)RBF網(wǎng)絡(luò)是一種有導(dǎo)師的三層前饋網(wǎng)絡(luò)。它最重要的特點(diǎn)是中間隱層神經(jīng)元的基函數(shù)只對(duì)輸入剩激起局部反應(yīng)，即只有當(dāng)輸入落在輸入空間的一個(gè)局部區(qū)域時(shí)，基函數(shù)才產(chǎn)生一個(gè)重要的非零響應(yīng)；而在其它情況下基函數(shù)輸出很小（可近似為零）。網(wǎng)絡(luò)結(jié)構(gòu)如圖1所

8、示。X圖1RBF網(wǎng)絡(luò)結(jié)構(gòu)(a)RB內(nèi)申經(jīng)元的作用輸入空隱層輸岀層(b)三層RBF網(wǎng)絡(luò)的結(jié)構(gòu)圖1(a)描述了隱層神經(jīng)元的作用，其中X=(xl,x2,，Xn)是輸入層的輸入矢量；C=(wl,w2,，Wn)是該隱層神經(jīng)元的中心矢量(每個(gè)隱層神經(jīng)元的中心徉量存儲(chǔ)在其與輸入各種神經(jīng)元之間的連接權(quán)中)，O代表寬度(半徑)；而1111表示n維空間中矢量之間的距離(這里的距離不一定是數(shù)學(xué)意義上的歐幾里得距離，在不同的情況下可以有種種含義)；f是隱層神經(jīng)元的基函數(shù)，目前用得比較多的是高斯分布函數(shù)。RBF網(wǎng)絡(luò)每個(gè)輸出層結(jié)點(diǎn)的輸出為其與各隱層神經(jīng)元輸出y的加權(quán)求和。按高斯分布函數(shù)的定義，隱層神經(jīng)元的輸出y與輸入矢量

9、x的函數(shù)關(guān)系應(yīng)服從正態(tài)分布，即當(dāng)X與中心矢量C的距離很矢時(shí)，y接近最大值；反之y值減小。如X與C的距離超過寬度O(即遠(yuǎn)離中心)時(shí)，輸出y可近似為零，相當(dāng)于對(duì)輸出層沒有貢獻(xiàn)。這就實(shí)現(xiàn)了局部感知。不難看出，RBF網(wǎng)絡(luò)用作矢量分類器時(shí)，輸入層神經(jīng)元個(gè)數(shù)由矢量空間的維數(shù)決定，隱層神經(jīng)元個(gè)數(shù)由模擬類別數(shù)決定，每個(gè)隱層神經(jīng)元的中心矢量(與輸入層各神經(jīng)元之間的連接權(quán))都代表一種模式類別。輸入矢量與哪個(gè)隱層神經(jīng)元的中心矢量距離近，哪個(gè)隱層神經(jīng)元的基函數(shù)輸出就大，相應(yīng)的模式類別對(duì)輸出層的貢獻(xiàn)就大；與哪個(gè)隱層神經(jīng)元的中心矢量距離遠(yuǎn)，哪個(gè)隱層神經(jīng)元的基函數(shù)輸出就小，甚至不激活，輸出0，相應(yīng)的模式類別當(dāng)然就不會(huì)影響R

10、BF網(wǎng)絡(luò)的輸出，矢量和模式類別的分類由此完成。相對(duì)于網(wǎng)絡(luò)結(jié)構(gòu)的簡(jiǎn)單，RBF網(wǎng)絡(luò)權(quán)值的訓(xùn)練方法要復(fù)雜一些。通常分為下面的兩個(gè)步驟。隱層和輸入層之間的權(quán)值采用無教師聚類方法訓(xùn)練，最常用的是KNN法(K-Nearest-Neighbor)。它的基本思想是先設(shè)定訓(xùn)練樣本的一個(gè)子集；再用模式分類算法LBG由這個(gè)子集形成N種類的模式，即把子集中的樣本歸類；然后，按順序處理子集外的訓(xùn)練樣本：對(duì)任一樣本X,找出K個(gè)與X距離最近的矢量(隨便找，只要近就行)計(jì)算這K個(gè)矢量分別屬于N個(gè)模式種類的數(shù)目，哪個(gè)模式種類包含的最近矢量最多，X就屬于哪個(gè)模式種類。將輸入的訓(xùn)練樣本聚類后，每個(gè)模式種類中所有樣本矢量的平均值就代

11、表該隱層神經(jīng)元和輸入層之間的權(quán)值(中心矢量)；而所有樣本矢量與中心矢量的平方差的平均值就代表寬度。這樣就做出了各個(gè)隱層神經(jīng)元的全部參數(shù)。因?yàn)檫@種方法只要求輸入訓(xùn)練樣本就可以進(jìn)行分類，無須知道訓(xùn)練樣本的理想輸出，因此被稱為無教師方法。輸出層和隱層之間的權(quán)值采用有教師聚類方法訓(xùn)練。簡(jiǎn)便實(shí)用的一種辦法是：在確定隱層和輸入層之間的權(quán)值之后，把訓(xùn)練樣本矢量和其理想輸出代入RBF網(wǎng)絡(luò)，從而推出各個(gè)輸出層神經(jīng)元和隱層之間的權(quán)值。RBF?申經(jīng)6ZISC036216個(gè)神經(jīng)元?jiǎng)ゴ鎯?chǔ)區(qū)們MB)存儲(chǔ)器7存儲(chǔ)區(qū)2(8MB)可以看出，需要分類的模式類別數(shù)的增加總可以通過不斷增加三層RBF網(wǎng)絡(luò)隱層神經(jīng)元數(shù)來實(shí)現(xiàn)，含義十分直

12、觀。由于其學(xué)習(xí)過程為兩步，且每一步的學(xué)習(xí)算法都十分有效，所以它的學(xué)習(xí)速度很快。RBF網(wǎng)絡(luò)主要適用于解決已知的大規(guī)模分類問題，比如圖像目標(biāo)跟蹤、面部和雙眼的生物圖像識(shí)別等。3ZISC技術(shù)及其在模式識(shí)別中的應(yīng)用雖然人們已經(jīng)在神經(jīng)網(wǎng)絡(luò)的硬件實(shí)現(xiàn)上做了大量的工作，并實(shí)現(xiàn)了許多不同的網(wǎng)絡(luò)結(jié)構(gòu)和算法；但是RBF網(wǎng)絡(luò)的硬件實(shí)現(xiàn)工作卻了了無幾。這說明幅度當(dāng)前的IC技術(shù)實(shí)現(xiàn)RBF網(wǎng)絡(luò)的功能對(duì)設(shè)計(jì)水平的要求是比較高的，因此，本文介紹的這種商業(yè)芯片ZISC就成為了模式識(shí)別系統(tǒng)的一種有價(jià)值的神經(jīng)網(wǎng)絡(luò)硬件平臺(tái)。不難看出，應(yīng)用這種神經(jīng)網(wǎng)絡(luò)芯片不需要操作系統(tǒng)和編程語言，主要的工作就是訓(xùn)練它和讓它學(xué)習(xí)。因此，用它開發(fā)面向消費(fèi)類的模式識(shí)別產(chǎn)品是一種簡(jiǎn)單且實(shí)用可行的方法，可以大大地縮短研發(fā)周期。本文給出了用六片ZISC036級(jí)連，通過印制電路板實(shí)現(xiàn)的通用模式識(shí)別系統(tǒng)。圖2為這個(gè)系統(tǒng)的總體框圖。用上述系統(tǒng)可以完成如圖像目標(biāo)跟蹤、圖像識(shí)別、數(shù)據(jù)挖掘等許多實(shí)時(shí)性要求很高的模式識(shí)別和分類功能。結(jié)語RBF神經(jīng)網(wǎng)絡(luò)的硬件實(shí)現(xiàn)是實(shí)現(xiàn)高速大規(guī)模模式分類的關(guān)鍵，而使用現(xiàn)有的比較成熟的商業(yè)芯片又無疑能簡(jiǎn)化模式識(shí)別系統(tǒng)的開發(fā)工作0IBM的ZISC采用數(shù)字電路技術(shù)實(shí)現(xiàn)了RBF神經(jīng)網(wǎng)絡(luò)芯片，用它作為核心，既能夠大幅度提高