利用神經(jīng)網(wǎng)絡(luò)生成評(píng)語

1、利用神經(jīng)網(wǎng)絡(luò)生成評(píng)語陳 燁（四川大學(xué)電氣信息學(xué)院 610065）內(nèi)容摘要 本文介紹了人工神經(jīng)網(wǎng)絡(luò)用于協(xié)助老師生成評(píng)語的方法。用這種方法，只需輸入學(xué)生的各項(xiàng)指數(shù)就能生成對(duì)學(xué)生的評(píng)價(jià)。由于神經(jīng)網(wǎng)絡(luò)具有較好的學(xué)習(xí)和推廣能力，生成的評(píng)語能夠較準(zhǔn)確的反映學(xué)生的表現(xiàn)。關(guān)鍵詞 人工神經(jīng)網(wǎng)絡(luò)，BP算法，評(píng)語Generating Remarks Using Neural NetworksChen Ye(School of Electrics Information, Sichuan University, Sichuan, 610065) Abstract A method of helping teacher

2、s to generate remarks using artificial neural networks is presented. Using this method to generate remarks of students, the only thing you need to do is to input the index of the students. Since the neural networks has good performance in studying and extending, the remarks generated by this method

3、can report the performance of the students accurately. Keywords Artificial Neural Networks, BP algorithm, remarks1 前言人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks, ANN）是在研究大腦工作原理的基礎(chǔ)上提出來的。它是生物神經(jīng)網(wǎng)絡(luò)（Biological Neural Networks, BNN）的一種簡(jiǎn)化模型。人工神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的學(xué)習(xí)和推廣能力參考文獻(xiàn)1 袁曾任. 人工神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用. 清華大學(xué)出版社：19992 閻平凡，張長(zhǎng)水. 人工神經(jīng)網(wǎng)絡(luò)與模擬進(jìn)化

4、計(jì)算. 清華大學(xué)出版社：20003 易繼鍇，侯媛彬. 智能控制技術(shù). 北京工業(yè)大學(xué)出版社：19994 Mike Gunderloy著. 張光霞，孫月琴，劉 釗 等譯.Visual Basic 開發(fā)指南ADO篇. 電子工業(yè)出版社：2000。它可以用硬件實(shí)現(xiàn)，也可以用軟件模擬。本文就是用軟件來模擬神經(jīng)網(wǎng)絡(luò)。迄今為止，已有十種以上的人工神經(jīng)網(wǎng)絡(luò)模型被提出并應(yīng)用到實(shí)踐中。其中，BP網(wǎng)絡(luò)是應(yīng)用的最廣泛的一種。它能夠在學(xué)習(xí)幾個(gè)樣本的基礎(chǔ)上進(jìn)行推廣，從而掌握這一類問題。經(jīng)過學(xué)習(xí)后，它就能根據(jù)已學(xué)習(xí)的內(nèi)容對(duì)外部的輸入做出正確的響應(yīng)。BP網(wǎng)絡(luò)屬于前饋網(wǎng)絡(luò)。它可看成是一從輸入到輸出的高度非線性映射。Hecht-N

5、ielsen于1987年證明了Kolmogorov定理。其內(nèi)容為：:給定任何一個(gè)連續(xù)函數(shù)f:UnRm,Y=f(X), 其中，Un0，1，f可以精確地用一個(gè)三層前饋網(wǎng)絡(luò)實(shí)現(xiàn)，該網(wǎng)絡(luò)的第一層（即輸入層）有n個(gè)神經(jīng)元,中間隱含層有2n+1個(gè)神經(jīng)元，第三層（即輸出層）有m個(gè)神經(jīng)元1。 由于BP網(wǎng)絡(luò)具有上述一些優(yōu)良特性，一些學(xué)者已成功地將基于BP算法的人工神經(jīng)網(wǎng)絡(luò)運(yùn)用解決倒立擺問題，直接根據(jù)地面信息預(yù)報(bào)天氣等。本文也將利用BP網(wǎng)絡(luò)的這些特點(diǎn)來達(dá)到智能生成評(píng)語的目的。下面將首先對(duì)評(píng)語的生成方法作一個(gè)簡(jiǎn)單介紹，接著介紹本文方法中用到的BP網(wǎng)絡(luò)模型，然后介紹這種方法所需的數(shù)據(jù)結(jié)構(gòu)，最后簡(jiǎn)要描述一下本文方法的工

6、作流程。2 評(píng)語生成方法人工寫評(píng)語時(shí)，總是由某個(gè)學(xué)生各個(gè)方面的各種表現(xiàn)推出這個(gè)學(xué)生在各方面能得到的評(píng)語。例如，一個(gè)學(xué)生在遵守紀(jì)律方面的表現(xiàn)為：遲到1次，曠課1次，上課講話2次。教師更具這幾個(gè)數(shù)據(jù)就會(huì)得出“不很遵守紀(jì)律”這樣的評(píng)語。這里，各種表現(xiàn)（如，遲到次數(shù)、曠課次數(shù)、上課講話次數(shù)等）與學(xué)生在各個(gè)方面能得到的評(píng)語（如，遵守紀(jì)律、不遵守紀(jì)律等）之間的關(guān)系通常是復(fù)雜的，是很難用一個(gè)簡(jiǎn)明的解析式來表達(dá)的。用計(jì)算機(jī)生成評(píng)語不可能通過尋求這個(gè)簡(jiǎn)明的解析式來生成評(píng)語。同時(shí)，也不能讓教師逐一輸入前面提到的那個(gè)復(fù)雜的關(guān)系。因此，本文選用神經(jīng)網(wǎng)絡(luò)來表示這個(gè)關(guān)系。這種方法不僅能減少教師的工作量，還能生成能夠準(zhǔn)確反

7、映學(xué)生情況的評(píng)語。3 BP網(wǎng)絡(luò)模型BP（Back Propagation）網(wǎng)絡(luò)是由P.Werbos, David Rumelhart等人提出的。它由多層神經(jīng)元通過一定的連接權(quán)連接起來，并采用BP算法作為訓(xùn)練算法。下面將作具體描述。3.1 BP網(wǎng)絡(luò)結(jié)構(gòu)BP網(wǎng)絡(luò)由若干個(gè)神經(jīng)元組成，這些神經(jīng)元可分為幾層，任何一個(gè)神經(jīng)元于同一層的神經(jīng)元之間無直接關(guān)系，而且各神經(jīng)元的輸出信號(hào)只能向前傳播，輸入信號(hào)只能由該神經(jīng)元后面的神經(jīng)元（或輸入節(jié)點(diǎn)）傳來。單個(gè)神經(jīng)元的結(jié)構(gòu)如圖1所示。它將多個(gè)輸入加權(quán)求和并減去閾值i，在激活函數(shù)f(·)的作用下，得到一個(gè)輸出。這個(gè)關(guān)系可表述為 （1） （2）其中，xj是輸入信

8、號(hào)，wij表示從神經(jīng)元i到神經(jīng)元j的連接權(quán)值，i為閾值，Oi為第i個(gè)神經(jīng)元的輸出。f(·)為激活函數(shù)。激活函數(shù)有多種類型，如閾值型、飽和型等。本文采用S型激活函數(shù)（本文中取1） （3）本文中用到的神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖2。這是一個(gè)三層網(wǎng)絡(luò)。輸入的數(shù)據(jù)通過輸入節(jié)點(diǎn)的神經(jīng)元經(jīng)過計(jì)算得出這一層中各神經(jīng)元的輸出。這一層的神經(jīng)元又計(jì)算出自己的輸出并傳給下一層。如此進(jìn)行直到計(jì)算出輸出節(jié)點(diǎn)的輸出為止。學(xué)生各方面的表現(xiàn)與評(píng)語內(nèi)容之間是一種非線性關(guān)系。因此根據(jù)Kolmogorov定理，為了保證該神經(jīng)網(wǎng)絡(luò)能成功地學(xué)習(xí)，根據(jù)該問題的特點(diǎn)，本文取BP網(wǎng)絡(luò)的輸出節(jié)點(diǎn)數(shù)為1，隱含層神經(jīng)元數(shù)為輸入層的2倍加上1，輸入

9、層的節(jié)點(diǎn)數(shù)與生成當(dāng)前評(píng)語所需的評(píng)價(jià)等級(jí)數(shù)目一致（后面將作具體闡述）。3.2 BP網(wǎng)絡(luò)的學(xué)習(xí)算法BP網(wǎng)絡(luò)在正常工作前必須經(jīng)過訓(xùn)練。訓(xùn)練時(shí)通常需要有多個(gè)訓(xùn)練樣本，以保證神經(jīng)網(wǎng)絡(luò)具有良好的推廣能力。訓(xùn)練所要求的樣本數(shù)可近似的表達(dá)為：若允許的訓(xùn)練誤差為,那么，訓(xùn)練樣本數(shù)應(yīng)大于連接權(quán)個(gè)數(shù)與的商。訓(xùn)練時(shí)，先將訓(xùn)練樣本的輸入部分從輸入神經(jīng)元輸入，然后根據(jù)公式（1）（3）依次計(jì)算各層的神經(jīng)元的輸出。最后從輸出節(jié)點(diǎn)開始按下式調(diào)整各連接權(quán)值 如果神經(jīng)元i是輸出單元i= （4） 如果神經(jīng)元i不是輸出單元其中， ci表示訓(xùn)練集中當(dāng)前輸入對(duì)應(yīng)的輸出的第i分量。由激活函數(shù)解析式可求出 （5）計(jì)算出個(gè)神經(jīng)元的i后，按下式調(diào)

10、節(jié)權(quán)值 （6）反復(fù)按照公式（4）、（5）、（6）調(diào)節(jié)權(quán)值直到均方誤差E足夠小。其中，E的定義如下 （7）其中，k表示訓(xùn)練樣本序號(hào)。3.3 BP網(wǎng)絡(luò)的使用BP網(wǎng)絡(luò)經(jīng)過學(xué)習(xí)后，就可以它來解決問題使用了。需要解決已訓(xùn)練的問題時(shí)，就將需要輸入信息從神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)輸入，根據(jù)公式（1）（3）從輸入節(jié)點(diǎn)開始計(jì)算各神經(jīng)元的輸出。最后，輸出節(jié)點(diǎn)的輸出即為所求問題的解。4 數(shù)據(jù)結(jié)構(gòu)本文根據(jù)算法的需要，將評(píng)語按以下方式來確定：評(píng)價(jià)角度1評(píng)價(jià)角度n評(píng)價(jià)點(diǎn)1評(píng)價(jià)等級(jí)1具體等級(jí)1評(píng)語等級(jí)1評(píng)語等級(jí)2具體內(nèi)容1具體內(nèi)容2表 1 評(píng)語確定方式由表1可知，整個(gè)數(shù)據(jù)結(jié)構(gòu)由n個(gè)評(píng)價(jià)角度（如，德、智、體等）組成，每一個(gè)評(píng)價(jià)角度又

11、由一定數(shù)量的評(píng)價(jià)點(diǎn)組成（如，“德”可由“是否遵守紀(jì)律”、“是否尊敬師長(zhǎng)”等組成），每一個(gè)評(píng)價(jià)點(diǎn)又由若干個(gè)評(píng)價(jià)等級(jí)組成（如，“是否遵守紀(jì)律”可由“上課隨便講話次數(shù)”、“遲到次數(shù)”、“曠課次數(shù)”等組成），每個(gè)評(píng)價(jià)等級(jí)還包含若干個(gè)具體等級(jí)（如，“曠課次數(shù)”可包括“一次”、“兩次”、“三次及以上”等具體等級(jí)）。當(dāng)某個(gè)評(píng)價(jià)點(diǎn)的每一個(gè)評(píng)價(jià)等級(jí)對(duì)應(yīng)的具體等級(jí)都已確定時(shí)，就通過神經(jīng)網(wǎng)絡(luò)計(jì)算出學(xué)生在該評(píng)價(jià)點(diǎn)上能得到的評(píng)語等級(jí)的序號(hào)（如，“是否遵守紀(jì)律”可包含“遵守紀(jì)律”、“不遵守紀(jì)律”等評(píng)語等級(jí)），然后根據(jù)這個(gè)序號(hào)，從對(duì)應(yīng)的評(píng)語內(nèi)容下的具體內(nèi)容（如，“不遵守紀(jì)律”可包含“不能遵守紀(jì)律”、“希望能遵守紀(jì)律”等具體

12、內(nèi)容）中任選一個(gè)寫入評(píng)語，這樣可保證評(píng)語語句的多樣性。從這里的敘述可看出對(duì)數(shù)據(jù)結(jié)構(gòu)進(jìn)行這樣的劃分是必要的。由于評(píng)價(jià)點(diǎn)與評(píng)價(jià)等級(jí)、具體等級(jí)、評(píng)語等級(jí)之間有這樣一個(gè)關(guān)系：對(duì)某一個(gè)學(xué)生進(jìn)行評(píng)價(jià)時(shí)，對(duì)某一個(gè)評(píng)價(jià)點(diǎn)，該學(xué)生所得到的評(píng)語由該學(xué)生在該評(píng)價(jià)點(diǎn)下的各個(gè)評(píng)價(jià)等級(jí)上所得到的具體等級(jí)確定。這個(gè)確定與被確定的關(guān)系就由神經(jīng)網(wǎng)絡(luò)來完成。因此每個(gè)評(píng)價(jià)點(diǎn)都對(duì)應(yīng)于一個(gè)神經(jīng)網(wǎng)絡(luò)。上面所述的幾個(gè)數(shù)據(jù)結(jié)構(gòu)將分為如下所示的幾個(gè)表來存儲(chǔ)：表 2 評(píng)價(jià)角度的存儲(chǔ)評(píng)價(jià)角度編號(hào)評(píng)價(jià)角度名是否已刪除長(zhǎng)整形字符串布爾型表 3 評(píng)價(jià)點(diǎn)的存儲(chǔ)評(píng)價(jià)點(diǎn)編號(hào)評(píng)價(jià)點(diǎn)名評(píng)價(jià)點(diǎn)所對(duì)應(yīng)的評(píng)價(jià)角度編號(hào)是否已刪除對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及權(quán)值長(zhǎng)整形字符串長(zhǎng)整形

13、布爾型字符串表 4 評(píng)價(jià)等級(jí)的存儲(chǔ)評(píng)價(jià)等級(jí)編號(hào)評(píng)價(jià)等級(jí)名評(píng)價(jià)等級(jí)對(duì)應(yīng)的評(píng)價(jià)點(diǎn)編號(hào)是否已刪除長(zhǎng)整形字符串長(zhǎng)整形布爾型表 5 具體等級(jí)的存儲(chǔ)具體等級(jí)編號(hào)具體等級(jí)內(nèi)容具體等級(jí)對(duì)應(yīng)的評(píng)價(jià)等級(jí)編號(hào)是否已刪除長(zhǎng)整形字符串長(zhǎng)整形布爾型表 6 評(píng)語等級(jí)的存儲(chǔ)評(píng)語等級(jí)編號(hào)評(píng)語等級(jí)的內(nèi)容評(píng)價(jià)等級(jí)對(duì)應(yīng)的評(píng)價(jià)點(diǎn)編號(hào)是否已刪除長(zhǎng)整形字符串長(zhǎng)整形布爾型表 7 具體內(nèi)容的存儲(chǔ)具體內(nèi)容編號(hào)具體內(nèi)容具體內(nèi)容對(duì)應(yīng)的評(píng)語等級(jí)編號(hào)是否已刪除長(zhǎng)整形字符串長(zhǎng)整形布爾型表27中，“是否已刪除”用于標(biāo)記已經(jīng)刪除的內(nèi)容。這是由于在進(jìn)行刪除其中某一項(xiàng)的操作時(shí)，如果直接刪除，就會(huì)使各種編號(hào)無法指向原來所指向的目標(biāo)，而這些表通常會(huì)很大，如果調(diào)整這些

14、編號(hào)，會(huì)花去很多時(shí)間，因此采用對(duì)已刪除項(xiàng)作上標(biāo)記的方法，當(dāng)添加項(xiàng)時(shí)，只需搜索一個(gè)作有標(biāo)記的項(xiàng)，將內(nèi)容填入該項(xiàng)即可。這種操作類似于現(xiàn)在大多數(shù)文件系統(tǒng)刪除或添加文件的方法。這是一種十分有效的方法。每個(gè)所評(píng)價(jià)點(diǎn)對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)以字符串的形式存儲(chǔ)在表3中。5 具體實(shí)現(xiàn)可用VB6編程實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)部分，通過ADO技術(shù)來實(shí)現(xiàn)數(shù)據(jù)庫(kù)部分5 宛延闿，定 海. 面向?qū)ο蠓治龊驮O(shè)計(jì).清華大學(xué)出版社：2001作者簡(jiǎn)歷：陳燁，男，1984年11月出生，現(xiàn)為四川大學(xué)電氣信息學(xué)院 2002級(jí)本科學(xué)生。目前已發(fā)表6篇論文中2篇發(fā)表在核心期刊上，3篇為會(huì)議論文，另有一篇即將發(fā)表。聯(lián)系地址：四川大學(xué)電氣信息學(xué)院 17號(hào)信箱聯(lián)系電話：（028）85407764E-mail: arrowcy。評(píng)語生成系統(tǒng)的結(jié)構(gòu)如圖3。該系統(tǒng)共分為四個(gè)模塊和一個(gè)數(shù)據(jù)庫(kù)。數(shù)據(jù)庫(kù)修改部分主要處理添加、刪除評(píng)價(jià)角度、評(píng)價(jià)點(diǎn)、評(píng)價(jià)等級(jí)、具體等級(jí)和評(píng)語內(nèi)容以及調(diào)整它們各自的內(nèi)容之間的順序。神經(jīng)網(wǎng)絡(luò)訓(xùn)練部分按照本文第2部分所述內(nèi)容根據(jù)用戶輸入的樣本對(duì)每一個(gè)評(píng)價(jià)點(diǎn)對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。學(xué)生信息輸入部分提供用戶輸入當(dāng)前所選擇學(xué)生各方面表現(xiàn)的接口。神經(jīng)網(wǎng)絡(luò)評(píng)語生成部分將根據(jù)其他幾個(gè)部分提供的信息，按照2.3中所述方法計(jì)算出當(dāng)前學(xué)生的每一個(gè)評(píng)價(jià)點(diǎn)對(duì)應(yīng)的評(píng)語內(nèi)容。6 結(jié)束語本文介紹了用神經(jīng)網(wǎng)絡(luò)的方法