人工智能及其應(yīng)用-計(jì)算智能1

1、第五章計(jì)算智能(1):神經(jīng)計(jì)算、模糊計(jì)算,信息科學(xué)與生命科學(xué)相互交叉、相互滲透和相互促進(jìn)是現(xiàn)代科學(xué)技術(shù)發(fā)展的一個(gè)顯著特點(diǎn)。生物信息學(xué)是兩者結(jié)合而形成的新的交叉科學(xué)。計(jì)算智能則是另一個(gè)有說(shuō)服力的示例。計(jì)算智能涉及神經(jīng)計(jì)算、模糊計(jì)算、進(jìn)化計(jì)算和人工生命等領(lǐng)域，它的研究和發(fā)展正反映了當(dāng)代科學(xué)技術(shù)多學(xué)科交叉與集成的重要發(fā)展趨勢(shì)。 人類所有發(fā)明幾乎都有它們的自然界配對(duì)物： 原子能的和平利用和軍事應(yīng)用與出現(xiàn)在星球上熱核爆炸相對(duì)應(yīng)； 各種電子脈沖系統(tǒng)則與人類神經(jīng)系統(tǒng)的脈沖調(diào)制相似； 蝙蝠的聲納和海豚的發(fā)聲起到一種神秘電話的作用，啟發(fā)人類發(fā)明了聲納傳感器和雷達(dá)； 鳥(niǎo)類的飛行行為激發(fā)人類發(fā)明了飛機(jī)，實(shí)現(xiàn)空中飛行

2、?？茖W(xué)家和工程師們應(yīng)用數(shù)學(xué)和科學(xué)來(lái)模仿自然，擴(kuò)展自然。人類智能已激勵(lì)出高級(jí)計(jì)算、學(xué)習(xí)方法和技術(shù)。,5.1概述,人類試圖通過(guò)人工方法模仿智能已有很長(zhǎng)歷史了。從公元世紀(jì)英雄亞歷山大里亞發(fā)明的氣動(dòng)動(dòng)物裝置開(kāi)始，到馮諾依曼的第一臺(tái)具有再生行為和方法的機(jī)器，再到維納的控制論，即關(guān)于動(dòng)物和機(jī)器中控制與通信的研究，都是人類人工模仿智能典型例證。現(xiàn)代人工智能領(lǐng)域則力圖抓住智能本質(zhì)。 神經(jīng)網(wǎng)絡(luò)歸納于人工智能可能不合適，而歸類于計(jì)算智能則更能說(shuō)明問(wèn)題的實(shí)質(zhì)。進(jìn)化計(jì)算、人工生命和模糊邏輯系統(tǒng)某些課題，也都?xì)w類于計(jì)算智能。 什么是計(jì)算智能、它與傳統(tǒng)的人工智能有何區(qū)別？,5.1概述,第一個(gè)對(duì)計(jì)算智能定義是由貝茲德克于1

3、992年提出的。他認(rèn)為，從嚴(yán)格的意義上講，計(jì)算智能取決于制造者提供的數(shù)值，而不依賴于知識(shí)；另一方面，人工智能則應(yīng)用知識(shí)精品。他認(rèn)為，人工神經(jīng)網(wǎng)絡(luò)應(yīng)當(dāng)稱為計(jì)算神經(jīng)網(wǎng)絡(luò)。 模式識(shí)別（PR）、生物神經(jīng)網(wǎng)絡(luò)（BNN）、人工神經(jīng)網(wǎng)絡(luò)（ANN）、計(jì)算神經(jīng)網(wǎng)絡(luò)（CNN）的關(guān)系： A-Artficial 表示人工的（非生物的），即人造的 B-Biological表示物理的+化學(xué)的+（？）=生物的 C-Compuational表示數(shù)學(xué)+計(jì)算機(jī),5.1概述,圖4.1 ABC交互關(guān)系圖,圖4.1 表示ABC及神經(jīng)網(wǎng)絡(luò)（NN）、模式識(shí)別（PR）和智能（I）之間的關(guān)系。它是由貝茲德克于1994年提出來(lái)的。圖的中間部分共

4、有9個(gè)節(jié)點(diǎn)，表示9個(gè)研究領(lǐng)域或科學(xué)。A、B、C三者對(duì)應(yīng)于三個(gè)不同的系統(tǒng)復(fù)雜性級(jí)別，其復(fù)雜性自左至右及自底向上逐步提高。節(jié)點(diǎn)間的距離衡量領(lǐng)域間的差異，如CNN與CPR間的差異要比BNN與BPR間差異小得多，CI與AI的差異要比AI與BI的差異小得多。圖中，符號(hào)-意味著“適當(dāng)?shù)淖蛹?。例如，?duì)于中層有ANN APR AI ，對(duì)于右列有CI AI BI等。在定義時(shí)，任何計(jì)算系統(tǒng)都是人工系統(tǒng)，但反命題不能成立。,意味著“適當(dāng)?shù)淖蛹?。例如，?duì)于中層有：,，對(duì)于右列有：,等。在定義時(shí)，任何計(jì)算系統(tǒng)都是人工系統(tǒng)，但反命題不能成立。,5.1概述,表5-1-1 ABC及其相關(guān)領(lǐng)域的定義,計(jì)算智能是一種智力方式

5、的低層認(rèn)知，它與人工智能的區(qū)別只是認(rèn)知層次從中層下降至低層而已。中層系統(tǒng)含有知識(shí)（精品），低層系統(tǒng)則沒(méi)有。,5.2神經(jīng)計(jì)算,若一個(gè)系統(tǒng)只涉及數(shù)值（低層）數(shù)據(jù)，含有模式識(shí)別部分，不應(yīng)用人工智能意義上的知識(shí)，而且能夠呈現(xiàn)出： （1）計(jì)算適應(yīng)性； （2）計(jì)算容錯(cuò); （3）接近人的速度; （4）誤碼差率與人相近，則系統(tǒng)就是計(jì)算智能系統(tǒng)。 若一個(gè)智能計(jì)算系統(tǒng)以非數(shù)值方式加上知識(shí)精品值，即成為人工智能系統(tǒng)。本節(jié)將首先介紹人工神經(jīng)網(wǎng)絡(luò)（neural nets）的由來(lái)、特性、結(jié)構(gòu)、模型和算法，然后討論神經(jīng)網(wǎng)絡(luò)的表示和推理。神經(jīng)計(jì)算是以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的計(jì)算。,5.2神經(jīng)計(jì)算,大量文獻(xiàn)從各種不同的角度來(lái)解釋生理神

6、經(jīng)網(wǎng)絡(luò)是如何工作的。 1 細(xì)胞觀點(diǎn)來(lái)解釋神經(jīng)元 ; 2 神經(jīng)傳遞器和神經(jīng)突觸及其附近的活動(dòng)細(xì)節(jié); 3 集中研究神經(jīng)元在處理和傳遞信息時(shí)是如何連接和跟蹤傳遞路徑的。4 從現(xiàn)代工程觀點(diǎn)得出不同的物體具有不同的傳輸路線和頻率調(diào)制的思想。 大多數(shù)想了解和復(fù)制神經(jīng)網(wǎng)絡(luò)功能的研究人員，只能把注意力集中到神經(jīng)元的少數(shù)幾個(gè)特性上。,5.2神經(jīng)計(jì)算,5.2.1人工神經(jīng)網(wǎng)絡(luò)研究的進(jìn)展（P111）,5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是由基本處理單元及其互聯(lián)方法決定的。 1. 神經(jīng)元及其特性 連接機(jī)制結(jié)構(gòu)的基本處理單元與神經(jīng)生理學(xué)類比往往稱為神經(jīng)元,每個(gè)構(gòu)造起網(wǎng)絡(luò)的神經(jīng)元模型模擬一個(gè)生物神

7、經(jīng)元,該神經(jīng)元單元由多個(gè)輸入xi, i=1,2,3n和一個(gè)輸出y組成，中間狀態(tài)由輸入信號(hào)的權(quán)和表示，而輸出為： 式中，j神經(jīng)單元的偏值，Wji為連接權(quán)系數(shù)（對(duì)于激發(fā)狀態(tài)， Wji取正值，對(duì)于抑制狀態(tài)， Wji取負(fù)值），n為輸入信號(hào)數(shù)目，yj為神經(jīng)元輸出，t為時(shí)間，f(_)為輸出變換函數(shù)，往往采用0和1這種二值函數(shù)或S形函數(shù)。,圖4.2 神經(jīng)元模型,5.2神經(jīng)計(jì)算,5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu) 人腦內(nèi)含有極其龐大的神經(jīng)元（有人估計(jì)約為一千幾百億個(gè)），它們互連組成神經(jīng)網(wǎng)絡(luò)，并執(zhí)行高級(jí)的問(wèn)題求解智能活動(dòng)。 人工神經(jīng)網(wǎng)絡(luò)由神經(jīng)元模型構(gòu)成，這種由許多神

8、經(jīng)元組成的信息處理網(wǎng)絡(luò)具有并行分布結(jié)構(gòu)。每個(gè)神經(jīng)元具有單一輸出，并且能夠與其他神經(jīng)元連接；存在許多（多重）輸出連接方法，每種連接方法對(duì)應(yīng)于一個(gè)連接權(quán)系數(shù)。 嚴(yán)格地說(shuō)，人工神經(jīng)網(wǎng)絡(luò)是一種具有下列特性的有向圖： 對(duì)于每個(gè)節(jié)點(diǎn)i存在一個(gè)狀態(tài)變量 ； 從節(jié)點(diǎn)j至節(jié)點(diǎn)i，存在一個(gè)連接權(quán)系統(tǒng)數(shù)； 對(duì)于每個(gè)節(jié)點(diǎn)i，存在一個(gè)閾值； 對(duì)于每個(gè)節(jié)點(diǎn)i，定義一個(gè)變換函數(shù)；對(duì)于最一般的情況，此函數(shù)形式為：,5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu) 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)基本上分為兩類，即遞歸（反饋）網(wǎng)絡(luò)和前饋網(wǎng)絡(luò)，簡(jiǎn)介如下： 遞歸網(wǎng)絡(luò) 在遞歸網(wǎng)絡(luò)中，多個(gè)網(wǎng)絡(luò)互連以組織一個(gè)互連網(wǎng)絡(luò)，

9、如圖54 所示，有些神經(jīng)元的輸出被反饋至同層或前層神經(jīng)元。因此，信號(hào)能夠從正向和反向流通。Hopfield網(wǎng)絡(luò)、Elmman網(wǎng)絡(luò)和Jordan網(wǎng)絡(luò)是遞歸網(wǎng)絡(luò)有代表性的例子。遞歸網(wǎng)絡(luò)又叫反饋網(wǎng)絡(luò)。,5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu) 在圖54 中， vi表示節(jié)點(diǎn)的狀態(tài)，xi為節(jié)點(diǎn)的輸入（初始）值，xi為收斂后的輸出值，I=1，2，n。,圖54 遞歸（反饋）網(wǎng)絡(luò),5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu) 前饋網(wǎng)絡(luò)P114 前饋網(wǎng)絡(luò)具有遞階分層結(jié)構(gòu)，由一 些同層神經(jīng)元間不存在互連的層級(jí)組成 。從輸入層至輸出層的信號(hào)

10、通過(guò)單向連 接流通；神經(jīng)元從一層連接至下一層， 不存在同層神經(jīng)元間連接，如5.5 所 示。圖中，實(shí)線指明實(shí)際信號(hào)流通，虛 線表示反向傳播。前饋網(wǎng)絡(luò)的例子有多 層感知器、學(xué)習(xí)矢量量化網(wǎng)絡(luò)、小腦模 型連接控制網(wǎng)絡(luò)和數(shù)據(jù)處理方法網(wǎng)絡(luò)。,圖5.5 前饋（多層）網(wǎng)絡(luò),輸入層隱層輸出層,5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu) （）人工神經(jīng)網(wǎng)絡(luò)的主要學(xué)習(xí)算法 神經(jīng)網(wǎng)絡(luò)主要通過(guò)兩種學(xué)習(xí)算法進(jìn)行訓(xùn)練，即指導(dǎo)式（有師）學(xué)習(xí)算法和非指導(dǎo)式（無(wú)師）學(xué)習(xí)算法。此外，還存在第三種學(xué)習(xí)算法，即強(qiáng)化學(xué)習(xí)算法；可把它看做有師學(xué)習(xí)的一種特例。 a.有師學(xué)習(xí) 有師學(xué)習(xí)算法能夠根據(jù)期望的和實(shí)

11、際的網(wǎng)絡(luò)輸出（對(duì)應(yīng)于給定輸入）之間的差來(lái)調(diào)整神經(jīng)元間連接的強(qiáng)度或權(quán)。因此，有師學(xué)習(xí)需要有老師或?qū)焷?lái)提供期望或目標(biāo)輸出信號(hào) 。有師學(xué)習(xí)算法的例子有反向傳播算法等。,5.2神經(jīng)計(jì)算,5.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu) （3）人工神經(jīng)網(wǎng)絡(luò)的主要學(xué)習(xí)算法 b.無(wú)師學(xué)習(xí) 無(wú)師學(xué)習(xí)算法不需要知道期望輸出。在訓(xùn)練過(guò)程中，只要向神經(jīng)網(wǎng)絡(luò)提供輸入模式，神經(jīng)網(wǎng)絡(luò)就能夠自動(dòng)地適應(yīng)連接權(quán)，以便按相似特征把輸入模式分組聚集。無(wú)師學(xué)習(xí)算法的例子有自適應(yīng)諧振理論等。 c.強(qiáng)化學(xué)習(xí) 如前所述，這種算法是有師學(xué)習(xí)算法的特例。它不需要教師給出目標(biāo)輸出。強(qiáng)化學(xué)習(xí)算法采用一個(gè)“評(píng)論員”來(lái)評(píng)價(jià)與給定輸入

12、相對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)輸出的優(yōu)度（質(zhì)量因數(shù)）。強(qiáng)化學(xué)習(xí)算法的一個(gè)例子是遺傳算法。,5.2神經(jīng)計(jì)算,5.2.3 典型人工神經(jīng)網(wǎng)絡(luò)模型 目前，在應(yīng)用和研究中采用的神經(jīng)網(wǎng)絡(luò)模型不下30種，其中較有代表性的有以下十幾種，這些網(wǎng)絡(luò)中的一部分在后面章節(jié)中將詳細(xì)進(jìn)行介紹，這里按字母序簡(jiǎn)述。,5.2神經(jīng)計(jì)算,5.2.3 典型人工神經(jīng)網(wǎng)絡(luò)模型 目前，在應(yīng)用和研究中采用的神經(jīng)網(wǎng)絡(luò)模型不下30種，其中較有代表性的有以下十幾種，這些網(wǎng)絡(luò)中的一部分在后面章節(jié)中將詳細(xì)進(jìn)行介紹，這里按字母序簡(jiǎn)述。,表4.2 人工神經(jīng)網(wǎng)絡(luò)的各種模型,5.2神經(jīng)計(jì)算,1、基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示 基于神經(jīng)網(wǎng)絡(luò)系統(tǒng)中知識(shí)的表示方法與傳統(tǒng)人工智能系統(tǒng)中所

13、用的方法(如產(chǎn)生式、框架、語(yǔ)義網(wǎng)絡(luò)等）完全不同，傳統(tǒng)人工智能系統(tǒng)中所用的方法是知識(shí)的顯式表示，而神經(jīng)網(wǎng)絡(luò)中的知識(shí)表示是一種隱式的表示方法。在這里，知識(shí)并不像在產(chǎn)生式系統(tǒng)中那樣獨(dú)立地表示每一條規(guī)則，而是將某一問(wèn)題的若干知識(shí)在同一網(wǎng)絡(luò)中表示。例如，在有些神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，知識(shí)是用神網(wǎng)絡(luò)所對(duì)應(yīng)有向權(quán)圖的鄰接矩陣及閾值向量表示的。如對(duì)圖4.6所示的異或邏輯的神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，其鄰接矩陣為：,圖4.6異或邏輯的神經(jīng)網(wǎng)絡(luò)表示,5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 1、基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示 如果用產(chǎn)生式規(guī)則描述，則該網(wǎng)絡(luò)代表下述達(dá)4條規(guī)則：,下面討論一個(gè)用于醫(yī)療診斷的例子。假設(shè)系統(tǒng)的診斷模型只有六種癥

14、狀、兩種疾病、三種治療方案。對(duì)網(wǎng)絡(luò)訓(xùn)練樣本是選擇一批合適的病人并從病歷中采集如下信息： （1）癥狀：對(duì)每一癥狀只采集有、無(wú)及沒(méi)有記錄這三種信息。 （2）疾?。簩?duì)每一疾病也只采集有、無(wú)及沒(méi)有記錄這三種信息。 （3）治療方案：對(duì)每一治療方案只采集是否采用這兩種信息。 其中，對(duì)“有”、“無(wú)”、“沒(méi)有記錄”分別用+1，-1，0表示。這樣對(duì)每一個(gè)病人就可以構(gòu)成一個(gè)訓(xùn)練樣本。,5.2神經(jīng)計(jì)算,1、基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示 下面討論一個(gè)用于醫(yī)療診斷的例子。假設(shè)系統(tǒng)的診斷模型只有六種癥狀、兩種疾病、三種治療方案。對(duì)網(wǎng)絡(luò)訓(xùn)練樣本是選擇一批合適的病人并從病歷中采集如下信息： （1）癥狀：對(duì)每一癥狀只采集有、無(wú)及沒(méi)有

15、記錄這三種信息。 （2）疾?。簩?duì)每一疾病也只采集有、無(wú)及沒(méi)有記錄這三種信息。 （3）治療方案：對(duì)每一治療方案只采集是否采用這兩種信息。其中，對(duì)“有”、“無(wú)”、“沒(méi)有記錄”分別用+1，-1，0表示。這樣對(duì)每一個(gè)病人就可以構(gòu)成一個(gè)訓(xùn)練樣本。,5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 1、基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示 假設(shè)根據(jù)癥狀、疾病及治療方案間的因果關(guān)系以及通過(guò)訓(xùn)練本對(duì)網(wǎng)絡(luò)的訓(xùn)練得到了如圖.所示的神經(jīng)網(wǎng)絡(luò)?；校?為癥狀； 為疾病名； 為治療方案；是附加層，這是由于學(xué)習(xí)算法的需要而增加的。在此網(wǎng)絡(luò)中， 是輸入層； 是輸出層；兩者之間以疾病名作為中間層。,圖4.7一個(gè)醫(yī)醫(yī)療診斷系統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型,

16、5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 1、基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示 下面對(duì)圖4.7加以進(jìn)一步說(shuō)明： a.這是一個(gè)帶有正負(fù)權(quán)值wij的前向網(wǎng)絡(luò)， wij由可構(gòu)成相應(yīng)的學(xué)習(xí)矩陣。當(dāng)ij時(shí)， wij =0；當(dāng)ij且節(jié)點(diǎn)i與節(jié)點(diǎn)之間不存在連接孤時(shí)， wij也為0；其余， wij為圖中連接弧上所標(biāo)出的數(shù)據(jù)。這個(gè)學(xué)習(xí)矩陣可用來(lái)表示相應(yīng)的神經(jīng)網(wǎng)絡(luò)。 b.神經(jīng)元取值為+1，0，-1，特性函數(shù)為一離散型的閾值函數(shù)，其計(jì)算公式為：,（4.5）,（4.6）,5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 1、基于神經(jīng)網(wǎng)絡(luò)的知識(shí)表示 其中，Xj表示節(jié)點(diǎn)j輸入的加權(quán)和；xj為節(jié)點(diǎn)j的輸出，為計(jì)算方便，式（4.5

17、）中增加了w0jx0項(xiàng)，x0的值為常數(shù)1，w0j的值標(biāo)在節(jié)點(diǎn)的圓圈中，它實(shí)際上是-j，即w0j = -j ， j是節(jié)點(diǎn)j的閾值。 c.圖中連接弧上標(biāo)出的wij值是根據(jù)一組訓(xùn)練樣本，通過(guò)某種學(xué)習(xí)算法（如BP算法）對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練得到的。這就是神經(jīng)網(wǎng)絡(luò)系統(tǒng)所進(jìn)行的知識(shí)獲取。 d.由全體wij的值及各種癥狀、疾病、治療方案名所構(gòu)成的集合形成了該疾病診治系統(tǒng)的知識(shí)庫(kù)。,5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2、基于神經(jīng)網(wǎng)絡(luò)的推理 基于神經(jīng)網(wǎng)絡(luò)的推理是通過(guò)網(wǎng)絡(luò)計(jì)算實(shí)現(xiàn)的。把用戶提供的初始證據(jù)用作網(wǎng)絡(luò)的輸入，通過(guò)網(wǎng)絡(luò)計(jì)算最終得到輸出結(jié)果。例如，對(duì)上面給出的診治疾病的例子，若用戶提供的證據(jù)是X1=1

18、（即病人X1有這個(gè)癥狀）,X2=X3=-1（即病人沒(méi)有X,X這兩個(gè)癥狀），,當(dāng)把它們輸入網(wǎng)絡(luò)后，就可算出X7=1,因?yàn)?0+21+（-2）（-1）+3（-1）=10 由此可知，該病人患的疾病是X7。若給出進(jìn)一步的證據(jù)，還可推出相應(yīng)的治療方案。,5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2、基于神經(jīng)網(wǎng)絡(luò)的推理 本例中，如果病人的癥狀是X1=X3=1 （即該病人有X1與X3這兩個(gè)癥狀），此時(shí)即使不指出是否有x2這個(gè)癥狀，也能推出該病人患的疾病是x7，因?yàn)闊o(wú)論病人是否還有其他癥狀，都不會(huì)使x7的輸入加權(quán)和為負(fù)值。由此可見(jiàn)，在用神經(jīng)進(jìn)行推理時(shí)，即使已知的信息不完全，照樣可以進(jìn)行推理。一般來(lái)說(shuō)，對(duì)

19、每一個(gè)神經(jīng)元xi的輸入加權(quán)和可分兩部分進(jìn)行計(jì)算，一部分為已知輸入的加權(quán)和，另一部分為未知輸入的加權(quán)和，即,當(dāng),時(shí)，未知部分將不會(huì)影響,的判別符號(hào)，從而可以根據(jù),的值來(lái)使用特性函數(shù)：,5.2神經(jīng)計(jì)算,5.2.4 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2、基于神經(jīng)網(wǎng)絡(luò)的推理 由上例可以看出網(wǎng)絡(luò)推理的大致過(guò)程。一般來(lái)說(shuō)，正向網(wǎng)絡(luò)推理的步聚如下： (1) 把已知數(shù)據(jù)輸入網(wǎng)絡(luò)輸入層的各個(gè)節(jié)點(diǎn)。 (2) 利用特性函數(shù)分別計(jì)算網(wǎng)絡(luò)中各層的輸出。計(jì)算中，前一層的輸出作為后一層有關(guān)節(jié)點(diǎn)的輸入，逐層進(jìn)行計(jì)算 ，直至計(jì)算出輸出層的輸出值為止。 (3)用閾值函數(shù)對(duì)輸出層的輸出進(jìn)行判定，從而得到輸出結(jié)果。,5.2神經(jīng)計(jì)算,5.2.4 人

20、工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 2、基于神經(jīng)網(wǎng)絡(luò)的推理 上述推理具有如下特征： a. 同一層的處理單元（神經(jīng)元）是完全并行的，但層間的信息傳遞是串行的。由于層中處理單元的數(shù)目要比網(wǎng)絡(luò)的層數(shù)多得多，因此它是一種并行推理。 b. 在網(wǎng)絡(luò)推理中不會(huì)出現(xiàn)傳統(tǒng)人工智能系統(tǒng)中推理的沖突問(wèn)題。 c. 網(wǎng)絡(luò)推理只與輸入及網(wǎng)絡(luò)自身的參數(shù)有關(guān)，而這些參數(shù)又是通過(guò)使用學(xué)習(xí)算法對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練得到的，因此它是一種自適應(yīng)推理。 以上僅討論了基于神經(jīng)網(wǎng)絡(luò)的正向推理。也可實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的逆向及雙向推理，它們要比正向推理復(fù)雜一些。,5.3 模糊計(jì)算,禿子是個(gè)我們很熟悉的名詞，但應(yīng)該怎樣定義它呢？按照經(jīng)典集合的觀點(diǎn)具有n根頭發(fā)的人是禿子，那么有

21、n+1根頭發(fā)的人就不是禿子，這顯然與事實(shí)不符。退一步說(shuō)，如果我們承認(rèn)頭發(fā)加減一根于此人是否是禿子無(wú)關(guān)，并且顯然沒(méi)有頭發(fā)的人是禿子，那么根據(jù)數(shù)學(xué)歸納法，我們可以得到結(jié)論：天下所有的人都是禿子。這是不是很荒謬呢？在人們的思維中還有著許多模糊的概念，例如年輕、很大、暖和等。對(duì)于此類模糊現(xiàn)象經(jīng)典集合似乎無(wú)能為力，為此“模糊集合”（Fuzzy sets）應(yīng)運(yùn)而生。1965年，美國(guó)的控制論專家L.A.Zadeh提出了模糊集合理論，一門(mén)以描述模糊現(xiàn)象擅長(zhǎng)的理論誕生了。,5.3 模糊計(jì)算,以經(jīng)典集合為基礎(chǔ)的數(shù)學(xué)只能描述精確現(xiàn)象，這是因?yàn)橐粋€(gè)元素隸屬于經(jīng)典集合只能有兩種情況，即：是或否。然而經(jīng)典集合的這種隸屬原

22、則顯然是有很大局限性的。所以經(jīng)典集合對(duì)于上述的禿子的定義無(wú)能為力。由此我們要描述模糊現(xiàn)象就不得不承認(rèn)隸屬于集合的情況時(shí)多值的，即不能僅用是或否來(lái)表達(dá)。L.A.Zadeh教授在他的第一篇論文“模糊集合”中引入了“隸屬函數(shù)”的概念，來(lái)描述差異的中間過(guò)渡，這是精確性對(duì)模糊性的一種逼近。 隸屬函數(shù)就是用一個(gè)0，1閉區(qū)間的函數(shù)，它被用來(lái)刻畫(huà)一個(gè)元素隸屬于一個(gè)模糊集合的程度，函數(shù)值越大，隸屬程度也越大。在模糊集合中，對(duì)于上述禿子的定義，我們不能說(shuō)某個(gè)人絕對(duì)是禿子或絕對(duì)不是，取而代之的是此人是禿子的程度有多大。這顯然更加符合人們的直觀概念。,5.3 模糊計(jì)算,美國(guó)西佛羅里達(dá)大學(xué)的詹姆斯教授曾舉過(guò)一個(gè)鮮明的例

23、子。假如你不幸在沙漠迷了路，而且?guī)滋鞗](méi)喝過(guò)水，這時(shí)你見(jiàn)到兩瓶水，其中一瓶貼有標(biāo)簽：“純凈水概率是0.91”，另一瓶標(biāo)著“純凈水的程度是0.91”。你選哪一瓶呢？ 相信會(huì)是后者。因?yàn)楹笳叩乃m然不太干凈，但肯定沒(méi)毒，這里的0.91表現(xiàn)的是水的純凈程度而非“是不是純凈水”，而前者則表明有9的可能不是純凈水。再比如“人到中年”，就是一個(gè)模糊事件，人們對(duì)“中年”的理解并不是精確的一個(gè)歲數(shù)。 從上邊的例子，可以看到模糊邏輯不是二者邏輯非此即彼的推理，它也不是傳統(tǒng)意義的多值邏輯，而是在承認(rèn)事物隸屬真值中間過(guò)渡性的同時(shí)，還認(rèn)為事物在形態(tài)和類屬方面具有亦此亦彼性、模棱兩可性模糊性。正因如此，模糊計(jì)算可以處理不

24、精確的模糊輸入信息，可以有效降低感官靈敏度和精確度的要求，而且所需要存儲(chǔ)空間少，能夠抓住信息處理的主要矛盾，保證信息處理的實(shí)時(shí)性、多功能性和滿意性。,5.3 模糊計(jì)算,美國(guó)加州大學(xué)L.A.Zadeh博士于1965年發(fā)表了關(guān)于模糊集的論文，首次提出了表達(dá)事物模糊性的重要概念隸屬函數(shù)。這篇論文把元素對(duì)集的隸屬度從原來(lái)的非0即1推廣到可以取區(qū)間【0，1】的任何值，這樣用隸屬度定量地描述論域中元素符合論域概念的程度，就實(shí)現(xiàn)了對(duì)普通集合的擴(kuò)展，從而可以用隸屬函數(shù)表示模糊集。模糊集理論構(gòu)成了模糊計(jì)算系統(tǒng)的基礎(chǔ)，人們?cè)诖嘶A(chǔ)上把人工智能中關(guān)于知識(shí)表示和推理的方法引入進(jìn)來(lái)，或者說(shuō)把模糊集理論用到知識(shí)工程中去就

25、形成了模糊邏輯和模糊推理;為了克服這些模糊系統(tǒng)知識(shí)獲取的不足及學(xué)習(xí)能力低下的缺點(diǎn)，又把神經(jīng)計(jì)算加入到這些模糊系統(tǒng)中，形成了模糊神經(jīng)系統(tǒng)。這些研究都成為人工智能研究的熱點(diǎn)，因?yàn)樗鼈儽憩F(xiàn)出了許多領(lǐng)域?qū)＜也啪哂械哪芰ΑＭ瑫r(shí)，這些模糊系統(tǒng)在計(jì)算形式上一般都以數(shù)值計(jì)算為主，也通常被人們歸為軟計(jì)算、智能計(jì)算的范疇。 模糊計(jì)算在應(yīng)用上可是一點(diǎn)都不含糊，其應(yīng)用范圍非常廣泛，它在家電產(chǎn)品中的應(yīng)用已被人們所接受，例如，模糊洗衣機(jī)、模糊冰箱、模糊相機(jī)等。另外，在專家系統(tǒng)、智能控制等許多系統(tǒng)中，模糊計(jì)算也都大顯身手。究其原因，就在于它的工作方式與人類的認(rèn)知過(guò)程是極為相似的。,5.3 模糊計(jì)算,20世紀(jì)初的數(shù)理邏輯把邏

26、輯的基礎(chǔ)歸于集合論，因此，有了一種新的集合論，就有了一種相應(yīng)的邏輯。經(jīng)典的邏輯是二值的，既非真即假；以模糊集合為基礎(chǔ)建立的模糊邏輯是多值的。傳統(tǒng)的二值邏輯在計(jì)算機(jī)科學(xué)種得到了很好的應(yīng)用，然而計(jì)算機(jī)如果只能處理確定的二值邏輯,那么它所表達(dá)出來(lái)的行為必然是呆板的。 例如讓計(jì)算機(jī)識(shí)別一個(gè)人的相貌，計(jì)算機(jī)會(huì)記住此人身體上的每一個(gè)細(xì)節(jié)，下次此人剪了頭發(fā)再讓機(jī)器來(lái)識(shí)別，對(duì)不起，機(jī)器就會(huì)翻臉不認(rèn)人了。以模糊集合為基礎(chǔ)的機(jī)器的識(shí)別方法就會(huì)很好地避免此類事情的發(fā)生。首先當(dāng)某人與機(jī)器見(jiàn)面時(shí)，計(jì)算機(jī)先建立一個(gè)模糊集合，下次見(jiàn)面時(shí)，計(jì)算機(jī)又建立一個(gè)模糊集合，然后兩個(gè)模糊集合進(jìn)行比較，從而對(duì)此人進(jìn)行識(shí)別。這樣的識(shí)別率顯

27、然高于前者。,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 首先，我們介紹模糊集合與模糊邏輯的若干定義。 設(shè)U為某些對(duì)象的集合，稱為論域，可以是連續(xù)的或離散的；u表示U的元素，記住U=u；例：U=1，2，3，4，5。 定義4.1 模糊集合（fuzzy sets） 論域U到0,1區(qū)間的任一映射F ，即F ：U 0,1，都確定U的一個(gè)模糊子集F ； F稱為F的隸屬函數(shù)（membership function）或隸屬度（grade of membership）。也就是說(shuō)， F 表示u屬于模糊子集F的程度或等級(jí)。在論域U中，可把模糊子集表示為元素u與其隸屬函數(shù)F （u）的序偶集合，記為：

28、F =(u, F (u)）|uU) 若U 為連續(xù)，則模糊集F 可記作： F = U F(u)/u 若U 為離散，則模糊集F 可記為： F= F （u1）/u1+ F （u2）/u2+.+ F （un）/un,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 U=1，2，3，4，5。,“比較小”=1.0/1+1.0/2+0.5/3+0.2/4+0.1/5 =（1.0，1.0，0.5，0.2，0.1）,“大”=0/1+0/2+0.4/3+0.5/4+1.0/5=（0，0，0.4，0.5，1.0）,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 設(shè)論域 U=V=1，2，3，4，5上

29、定義模糊子集的隸屬度函數(shù) ：A-臟= ,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 定義4.2( 模糊支集、交叉點(diǎn)及模糊單點(diǎn)) 如果模糊集是論域U中所有滿足F （u）0的元素u構(gòu)成的集合，則稱該集合為模糊集F的支集。當(dāng)u滿足F =1.0，則稱此模糊集為模糊單點(diǎn)。 定義4.3(模糊集的運(yùn)算) 設(shè)A和B為論域U中的兩個(gè)模糊集，其隸屬函數(shù)分別為uA 和uB，則對(duì)于所有 ，存在下列運(yùn)算： （1）A與B的并（邏輯或）記為 ，其隸屬函數(shù)定義為： （2） A與B的交（邏輯與）記為 ，其隸屬函數(shù)定義為： (3) A的補(bǔ)（邏輯非）記為 ，其傳遞函數(shù)定義為：,5.3 模糊計(jì)算,5.3.1 模糊集合、

30、模糊邏輯及其運(yùn)算 定義4.4（直積（笛卡兒乘積，代數(shù)積）若 分別為論域 中的模糊集合，則這些集合的直積是乘積空間 中一個(gè)模糊集合，其隸屬函數(shù)為： 定義4.5 (模糊關(guān)系) 若U，V是兩個(gè)非空模糊集合，則其直積 中的一個(gè)模糊子集R稱為從U到V的模糊關(guān)系，可表示為：,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 定義4.6（復(fù)合關(guān)系）若R和S分別為UV和VW中的模糊關(guān)系，則R和S的復(fù)合R。S是一個(gè)從U到W的模糊關(guān)系，記為 其隸屬函數(shù)為： 式中的*號(hào)可為三角范式內(nèi)的任意一種算子，包括模糊交、代數(shù)積、有界積和直積等。,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 定義4.7（正

31、態(tài)模糊集、凸模糊集和模糊數(shù)）以實(shí)數(shù)R為論域的模糊集F，若其 隸屬函數(shù)滿足： 則F為正態(tài)模糊集；若對(duì)于任意實(shí)數(shù)x，axb，有 則F為凸模糊集；若F既是正態(tài)的又是凸的，則稱F為一模糊數(shù)。,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 定義4.8(語(yǔ)言變量) 一個(gè)語(yǔ)言變量可定義為多元組（x,T(x),U,G,M）。其中， x為變量名； T(x)為x的詞集，即語(yǔ)言值名稱的集合； U 為論域； G 是產(chǎn)生語(yǔ)言值名稱的語(yǔ)法規(guī)則； M 是與各語(yǔ)言值含義有關(guān)的語(yǔ)法規(guī)則。語(yǔ)言變量的每個(gè)語(yǔ)言值對(duì)應(yīng)一個(gè)定義在論域 U 中的模糊數(shù)。語(yǔ)言變量基本詞集把模糊概念與精確值聯(lián)系起來(lái)，實(shí)現(xiàn)對(duì)定性概念 的定量化以及定

32、量數(shù)據(jù)的定性模糊化。 例如，某浴室鍋爐把水的溫度作為一個(gè)語(yǔ)言變量，其詞集T（溫度）可為： T（溫度）超高，很高，較高，適中，較低，很低，過(guò)低,5.3 模糊計(jì)算,5.3.1 模糊集合、模糊邏輯及其運(yùn)算 此外，還有模糊集的運(yùn)算、直積、模糊關(guān)系、復(fù)合關(guān)系、正態(tài)模糊集、凸模糊集和模糊數(shù)等定義，請(qǐng)參考教材page119-page120。常規(guī)集合的運(yùn)算特性對(duì)于模糊集合也同樣成立。,5.3 模糊計(jì)算,5.3.2 模糊邏輯推理 模糊邏輯推理是建立在模糊邏輯基礎(chǔ)上的，它是一種不確定性推理方法，是在二值邏輯三段論基礎(chǔ)上發(fā)展起來(lái)的。這種推理方法以模糊判斷為前提，動(dòng)用模糊語(yǔ)言規(guī)則，推導(dǎo)出一個(gè)近似的模糊判斷結(jié)論。模糊邏

33、輯推理方法尚在繼續(xù)研究與發(fā)展中，并已提出眾多方法，在此僅介紹Zadeh的推理方法。 在模糊邏輯和近似推理中，有兩種重要的模糊推理規(guī)則： 廣義取式(肯定前提)假言推理法（generalized modus ponens，簡(jiǎn)稱 GMP） 廣義拒式(否定結(jié)論)假言推理法(generalized modus tonens，簡(jiǎn)稱 GMT)， 分別簡(jiǎn)稱為廣義前向推理法和廣義后向推理法。,5.3 模糊計(jì)算,5.3.2 模糊邏輯推理 GMP推理規(guī)則可表示為： 前提1：x為 A 前提2：若x為A，則y為B 結(jié) 論：y為 B 上述兩式中的A，A,B和B為模糊集合，x和y為語(yǔ)言變量。 當(dāng)A=A且B=B時(shí)，GMP就退

34、化為“肯定前提的假言推理”，它與正向數(shù)據(jù)驅(qū)動(dòng)推理有密切關(guān)系，在模糊邏輯控制中非常有用。當(dāng) 時(shí)，GMT退化為“否定結(jié)論的假言推理”，它與反向目標(biāo)驅(qū)動(dòng)推理有密切關(guān)系，在專家系統(tǒng)（尤其是醫(yī)療診斷）中非常有用。 自從Zadeh在近似推理中引人復(fù)合推理規(guī)則以來(lái)，已提出數(shù)十種具有模糊變更的隱函數(shù)，它們基本上可以分為三類，即模糊合取、模糊析取和模糊蘊(yùn)涵。以合取、析取和蘊(yùn)涵等定義為基礎(chǔ)，利用三角范式和三角協(xié)范式，能夠生產(chǎn)模糊推理中常用的模糊蘊(yùn)涵關(guān)系。,GMT推理規(guī)則可表示為： 前提1：y為B 前提2：若x為A，則y為B 結(jié) 論：x為 A,5.3 模糊計(jì)算,5.3.2 模糊邏輯推理 定義4.10（三角范式）三角

35、范式*是從0，10，1到0，1的兩位函數(shù)，即*： ，它包括交、代數(shù)積、有界積和強(qiáng)積。對(duì)于所有 ，有： 交： 代數(shù)積： 有界積： 強(qiáng) 積：,5.3 模糊計(jì)算,5.3.2 模糊邏輯推理 定義4.11（三角協(xié)范式）三角協(xié)范式V是從0，10，1到0，1的兩位函數(shù)，即： ，它包括并、代數(shù)和、有界和和強(qiáng)和以及不相交和。對(duì)于所有 ，有： 并： 代數(shù)和： x+y=x+y-xy 有界和： 強(qiáng) 和： 不相交和： 三角范式用于定義近似推理中的合取，三角協(xié)范式則用于定義近似推理中的析取。,5.3 模糊計(jì)算,5.3.2 模糊邏輯推理 一個(gè)模糊控制規(guī)則： If x為A THEN y為B 用模糊隱函數(shù)表示為 其中，A和B分

36、別為論域U和V中的模糊集合，其隸屬函數(shù)分別為 和 。以 此假設(shè)為基礎(chǔ)，可以給出下列三個(gè)定義。 定義4.12（模糊合?。?duì)于所有 ，模糊合取為 式中，*為三角范式的一個(gè)算子。 定義4.13（模糊析?。?duì)于所有 ，模糊析取為 式中， 是三角范式的一個(gè)算子。,5.3 模糊計(jì)算,5.3.2 模糊邏輯推理 定義5.14（模糊蘊(yùn)涵）由所表示的模糊蘊(yùn)涵是定義在UX 上的一個(gè)特殊的模糊關(guān)系，其關(guān)系及隸屬函數(shù)為（參考教材page 123） （）模糊合取 （）模糊析取 （）基本蘊(yùn)涵 （）命題演算 （）GMP 推理 （）GMT 推理,5.3 模糊計(jì)算,5.3.3 模糊判決方法 通過(guò)模糊推理得到的結(jié)果是一個(gè)模糊集合或

37、者隸屬函數(shù)，但在實(shí)際使用中，特別是在模糊邏輯控制中，必須用一個(gè)確定的值才能去控制伺服機(jī)構(gòu)。在推理得到的模糊集合中取一個(gè)相對(duì)最能代表這個(gè)模糊集合的單值的過(guò)程就稱為解模糊或模糊判決（defuzzification）。 模糊判決可以采用不同的方法，用不同的方法所得到的結(jié)果也是不同的。理論上用重心法比較合理，但是計(jì)算比較復(fù)雜，因而在實(shí)時(shí)性要求較高的系統(tǒng)不采用這種方法。最簡(jiǎn)單的方法是最大隸屬度方法，這種方法取所有的模糊集合或者隸屬函數(shù)中隸屬度最大的那個(gè)值作為輸出，但是這種方法未考慮其他隸屬度較小的值的影響，代表性不好，所以它往往用于比較簡(jiǎn)單的系統(tǒng)。介于這兩者之間的還有幾種平均法：如 加權(quán)平均法、隸屬度限幅（a-cut）元素平均法等。下面介紹各種模糊判決