BP人工神經(jīng)網(wǎng)絡(luò)模型的新改進(jìn)及其應(yīng)用_圖文

1、 4期 賀昌政等: B P 人工神經(jīng)網(wǎng)絡(luò)模型的新改進(jìn)及其應(yīng)用 559 溢出. 于是, 將輸入節(jié)點(diǎn)的數(shù)據(jù)也化為 ( - 1, 1 之間. 3 經(jīng)過(guò)該算法的學(xué)習(xí), 多次篩選, 得到最優(yōu)的 B P 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 871 ( 即輸入層節(jié) 點(diǎn)為 8 個(gè), 隱層節(jié)點(diǎn)為 7 個(gè), 輸出層節(jié)點(diǎn)為 1 個(gè). 同時(shí)得到模型的最優(yōu)連接權(quán)值 W , V 矩 陣 . 其預(yù)測(cè)和擬合的結(jié)果與 11 中自組織算法相比較的結(jié)果如表 412. 表 412改進(jìn)的 BP 算法與自組織模型擬合、 預(yù)測(cè)的對(duì)比 類(lèi)別 97. 5 97. 6 33. 18 32. 42 - 2. 09% 31. 51 - 5. 03% 97. 7 33.

2、37 32. 23 - 3. 41% 33. 21 0. 48% 97. 8 31. 88 32. 02 0. 44% 33. 81 6. 05% 98. 6 34. 2 34. 15 - 0. 15% 33. 95 - 0. 73% 98. 7 33. 87 34. 36 1. 45% 33. 10 - 2. 27% 98. 8 34. 38 34. 62 0. 70% 33. 95 - 1. 25% 數(shù)據(jù)擬合 預(yù)測(cè) 成都市消費(fèi)品零售 總額 ( 億元 改進(jìn)的 預(yù)測(cè)值 32. 61 32. 26 - 1. 07% 31. 47 - 3. 49% BP 算法 相對(duì)誤差 自組織 算法 預(yù)測(cè)值 相對(duì)

3、誤差 從表 412 顯然看出, 采用改進(jìn) B P 算法所得到的模型的擬合和預(yù)測(cè)精度較高, 最大相對(duì) 誤差不超過(guò) 3141% , 較自組織算法優(yōu)越! 不足之處是在計(jì)算機(jī)上運(yùn)行時(shí)間比較長(zhǎng). 412輸入待定的 BP 網(wǎng)絡(luò)的建模方法 如§313 中 3 款所述, 為結(jié)合自組織算法來(lái)確定輸入待定的 B P 網(wǎng)絡(luò)結(jié)構(gòu), 我們選取 §411 的自組織模型 ( 411 中的 v 1 , v 2 , v 3 , v 4 , v 5 , v 6 作為網(wǎng)絡(luò)的輸入 ( 6 個(gè) , 仍取 y 作為輸出節(jié) 點(diǎn) . 其余參數(shù)不變 ( 見(jiàn)§411 中的 21. 經(jīng)過(guò)學(xué)習(xí), 最后得到一個(gè) 641

4、的結(jié)構(gòu) . 如圖 411. 圖 411B P 網(wǎng)絡(luò)結(jié)構(gòu)圖 模型的連接權(quán)值矩陣為: © 1994-2008 China Academic Journal Electronic Publishing House. All rights reserved. 560 0. 866696 0. 564608 W = 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí) 32 卷 0. 409405 0. 761591 0. 157498 0. 658225 0. 225302 0. 682587 0. 996959 0. 945455 0. 682147 0. 962170 0. 545273 0. 329677 1. 1384

5、28 0. 384774 0. 283020 - 0. 022218 - 0. 354048 0. 058937 0. 808504 0. 552987 0. 823190 0. 557362 0. 938826 1. 391913 - 0. 126007 1. 059304 v = 0. 7142891. 040844- 1. 1461770. 958384- 1. 856958 其中, w j i 表示第 i 個(gè)輸入節(jié)點(diǎn)與第 j 個(gè)隱節(jié)點(diǎn)之間的連接權(quán)值; v k j 表示第 k 個(gè)輸出節(jié)點(diǎn)與第 . 其擬合和預(yù)測(cè)結(jié)果與自組織算法的比較見(jiàn)表 413. j 個(gè)隱節(jié)點(diǎn)之間的連接權(quán)值 由表 413

6、的結(jié)果可見(jiàn), 這種建模方法使網(wǎng)絡(luò)結(jié)構(gòu)更加合理, 擬合和預(yù)測(cè)精度也較自組織 算法及直接應(yīng)用的 B P 算法 ( 見(jiàn)§411 中 21 高. 并且該算法的運(yùn)行時(shí)間也較直接應(yīng)用 B P 算法運(yùn)行的時(shí)間短, 提高了算法的效率. 我們還注意到, 在自組織模型 ( 見(jiàn)§411 中, v 3 ( 人 民幣兌美元匯率 和 v 6 ( 廣義貨幣供應(yīng)量 M 2 的系數(shù)為負(fù), 即它們的值增大, 消費(fèi)品零售總 額 y 反而下降, 這與一般的消費(fèi)理論不相符合. 而在我們的 B P 模型中, v 3 和 v 6 對(duì)輸出的影 響都是正的 ( 即它們?cè)龃? y 也將增大. 這也正是該算法精度比較高的原因之

7、一. 表 413模型擬合、 預(yù)測(cè)的對(duì)比 類(lèi)別 97. 5 97. 6 33. 18 33. 62 1. 33% 31. 51 - 5. 03% 97. 7 33. 37 32. 89 - 1. 44% 33. 21 0. 48% 97. 8 31. 88 33. 31 4. 49% 33. 81 6. 05% 98. 6 34. 2 34. 39 0. 56% 33. 95 - 0. 73% 98. 7 33. 87 33. 57 0. 89% 33. 10 - 2. 27% 98. 8 34. 38 34. 42 - 0. 12% 33. 95 - 1. 25% 數(shù)據(jù)擬合 預(yù)測(cè) 成都市消費(fèi)品

8、零售 總額 ( 億元 改進(jìn)的 預(yù)測(cè)值 32. 61 32. 82 0. 64% 31. 47 - 3. 49% BP 算法 相對(duì)誤差 自組織 算法 預(yù)測(cè)值 相對(duì)誤差 5結(jié)束語(yǔ) 本文在對(duì)傳統(tǒng) B P 算法以及近期成果的綜合改進(jìn)的基礎(chǔ)上, 提出新的改進(jìn)算法, 增強(qiáng)了 B P 網(wǎng)絡(luò)的適應(yīng)性, 提高了學(xué)習(xí)的速率; 與自組織算法相結(jié)合來(lái)確定輸入節(jié)點(diǎn), 使網(wǎng)絡(luò)結(jié)構(gòu)更 加合理. 值得注意的是, 誤差函數(shù) E 只代表各學(xué)習(xí)樣本的理想輸出與實(shí)際輸出的誤差之和. . 因此, 在實(shí)際操作中, 并非 E 越小, 預(yù)測(cè)效果就一定越好 . E 較小時(shí), 預(yù)測(cè)誤差不一定也小 這就需要根據(jù)我們的建模目標(biāo), 在學(xué)習(xí)中對(duì)誤差函數(shù)

9、 E , 隱層節(jié)點(diǎn)選取方面進(jìn)行綜合平衡. 參考文獻(xiàn): 1 L I U Guang 2zhong, L I X iao 2feng, M ü ller Johann 2 A do lf. T he I m p rovem en t of BP A lgo rithm and Self 2ad ju stm en t of A rch itectu ral Param etersM . Berich te und Info rm ationen, 2000, 1. 2 R um elhart D E, M cC lelland J L. Parallel D istribu ted P

10、rocessing M . V o l . 12 M IT P ress, Cam b ridge, 1986. 3 H ech t 2 N ielsen R. T heo ry of the back p rop agation neu ral netw o rk C . P roc, of IJCNN , 1989, 1: 593603. 4 A lexander G Parlo s. A n accelerated learn ing algo rithm fo r m u ltip layer p ercep tron netw o rk s J . IEEE T ran s on N

11、 eu ral N etw o rk s, 1994, 5 (3 : 493497. 5 H agan M T , M enhajM B. T rain ing feed fo rw ard netw o rk s w ith M arquart algo rithm J . IEEE T ran s on N eu ral N etw o rk s, 1994, 5 (6 : 989993. 6 V og l T P , M ang is J K, etc. A ccelerated the convergence of the back p rop agation m ethod J .

12、B io Cybern, 1988, © 1994-2008 China Academic Journal Electronic Publishing House. All rights reserved. 4期 59 (9 : 256264. 賀昌政等: B P 人工神經(jīng)網(wǎng)絡(luò)模型的新改進(jìn)及其應(yīng)用 561 7 王文劍 1 一種確定網(wǎng)絡(luò)結(jié)構(gòu)的自適應(yīng)方法 C . 中國(guó)人工智能學(xué)會(huì)第八屆年會(huì)論文集, 19941 8 胡建軍等 1BP 網(wǎng)絡(luò)的權(quán)值誘導(dǎo)與層次訓(xùn)練算法 J . 計(jì)算機(jī)科學(xué), 1998, 25 (1 : 6063. 9 高大啟 1 有教師的線性基本函數(shù)前向三層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)研究 J

13、. 計(jì)算機(jī)學(xué)報(bào), 1998, 21 (1 : 8085. 10 H em a R ao, Ivakhnenko A lexey G. Inductive L earn ing A lg ro thm s fo r Com p lex System M odeling M . CRC P ress, Inc, 1994. 11 胡守仁, 余少波, 戴葵 1 神經(jīng)網(wǎng)絡(luò)導(dǎo)論 M . 北京: 國(guó)防科技大學(xué)出版社, 1993, 101 12 何耀華, 夏志忠 1BP 網(wǎng)絡(luò)的快速自適應(yīng)學(xué)習(xí)算法 J . 系統(tǒng)工程理論與實(shí)踐, 2000, 11 13 王文劍 1 一種輸入驅(qū)動(dòng)的 BP 網(wǎng)絡(luò)高效學(xué)習(xí)算法 J .

14、 系統(tǒng)工程理論與實(shí)踐, 2000, 11 14 劉增良 1 模糊技術(shù)與應(yīng)用叢書(shū) J . 1994, 180181. 15 李士勇 1 模糊控制、 神經(jīng)控制和智能控制論 M . 哈爾濱: 哈爾濱工業(yè)大學(xué)出版社, 9899. 16 賀昌政, 梁元第, 王纟委 1 數(shù)學(xué)建模導(dǎo)論 M . 成都科技大學(xué)出版社, 1997, 11 The New I m provem en t of BP Neura l Network and Its Appl ica tion H E Chang 2zheng, L I X iao 2feng, YU H a i (B u siness Schoo l, Sichua

15、n U n iversity, Chengdu 610064, Ch ina Abstract: In acco rdance w ith the sho rtcom ing tha t B P neu ra l netw o rk ex ists, there ha s m any . T h is p ap er ha s ca rried on the syn thetica l i k ind s of i m p rovem en t m ethod s m p rovem en t a t the a sp ect of a lgo rithm and the netw o rk structu re design. A pp lica tion to fo reca st of Chengdu con 2