地球物理資料非線性反演方法講座五人工神經(jīng)網(wǎng)絡(luò)反演法

第５卷第３期工程燦球物理號赧Ｖ０１．５．Ｎｏ．３２００８年６月ＣＨＩＮＥＳＥＪＯＵＲＮＡＬ０ＦＥＮＧＩＮＥＥＲＩＮＧＧＥＯＰＨＹＳＩＣＳＪｕｎ．，２００８文章編號：１６７２—７９４０（２００８）０３—０２５５—１１地球物理資料非線性反演方法講座（五）人工神經(jīng)網(wǎng)絡(luò)反演法王家映（中國地質(zhì)大學(xué)地球物理與空間信息學(xué)院，武漢４３００７４）摘要：木文概要地介紹了近年來發(fā)展起來的一種強有力的地球物理資料非線性反演的方法——人工神經(jīng)元法（ＡＮＮ）。比較系統(tǒng)地介紹了ＡＮＮ的基本知識和兩種基于不同原理的ＡＮＮ反演方法?；谀Ｊ阶R別和基于最小方差的ＡＮＮ反演方法。列舉了這兩種方法在地球物理資料反演中的一些應(yīng)用實例、指出了該方法的存在問題和發(fā)展方向。關(guān)鍵詞：非線性反演方法；人工神經(jīng)元法；ＢＰ回傳網(wǎng)絡(luò)；Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)中圖分類號：Ｐ６３１文獻(xiàn)標(biāo)識碼：Ａ收稿日期：２００８一０３—１９ＬｅｃｔｕｒｅｏｎＮｏｎ—ＬｉｎｅａｒＩｎｖｅｒｓｅＭｅｔｈｏｄｓｉｎＧｅｏｐｈｙｓｉｃａｌＤａｔａ（５）ＴｈｅＡｒｔｉｆｉｃｉａｌＮｅｕｒａｌＮｅｔｗｏｒｋＭｅｔｈｏｄＷａｎｇＪｉａｙｉｎｇ（ＩｎｓｔｉｔｕｔｅｏｆＧｅｏｐｈｙｓｉｃｓ＆Ｇｅｏｍａｔｉｃｓ，ＣｈｉｎａＵｎｉｖｅｒｓｉｔｙｏｆＧｅｏｓｃｉｅｎｃｅｓ，Ｗｕｈａｎ４３００７４，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：Ｉｎ…ａｒｔｉｆｉｃｉａｌｔｈｉｓｐａｐｅｒｗｅｂｒｉｅｆｌｙｉｎｔｒｏｄｕｃｅｄｔｈｅｍｏｓｔｐｏｗｅｒｆｕｌｎｏｎｌｉｎｅａｒｉｎｖｅｒｓｅｍｅｔｈｏｄ一ｎｅｕｒａｌｎｅｔｗｏｒｋ。ｗｈｉｃｈｈａｓｂｅｅｎｄｅｖｅｌｏｐｅｄａｎｄｕｓｅｄｓｕｃｃｅｓｓｆｕｌｌｙｉｎｇｅｏ—ｐｈｙｓｉｃａｌｄａｔａｉｎｖｅｒｓｉｏｎｉｎｌａｓｔｔｗｏｄｅｃａｄｅｓ．ＷｅｎｏｔｏｎｌｙｉｎｔｒｏｄｕｃｅｄｓｏｍｅｂａｓｉｃｋｎｏｗｌｅｄｇｅｏｆＡＮＮ。ｂｕｔａｌｓｏａｎａｌｙｚｅｄｔｗｏｋｉｎｄｓｏｆｉｎｖｅｒｓｅｍｅｔｈｏｄｓ，ｆｏｕｎｄｅｄｉｎｐｕｂｌｉｃａｔｉｏｎｓ，ｂａｓｅｄｏｎｐａｔｔｅｒｎｒｅｃｏｇｎｉｔｉｏｎａｎｄｍｉｎｉｍｕｍｖａｒｉａｎｃｅ．Ｗｅａｌｓｏｄｅｓｃｒｉｂｅｄｔｈｅａｐｐｌｉｃａｔｉｏｎｏｆｔｈｅｔｗｏｍｅｔｈｏｄｓｉｎｇｅｏｐｈｙｓｉｃａｌｄａｔａ．Ｆｉｎａｌｌｙ，ｗｅｐｏｉｎｔｅｄｏｕｔｔｈｅｐｒｏｂｌｅｍｏｆｔｈｅｍｅｔｈｏｄｓａｎｄｆｕ—ｔｕｒｅｄｅｖｅｌｏｐｍｅｎｔ．Ｋｅｙｗｏｒｄｓ：ｎｏｎ—ｌｉｎｅａｒｉｎｖｅｒｓｅｍｅｔｈｏｄ；ａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗｏｒｋ；ＢＰｎｅｔｗｏｒｋｓ；Ｈｏｐｆｉｅｌｄｎｅｔｗｏｒｋｓ的信息，并由大腦分析，判斷，做出采取進(jìn)一步行１引言動的決定。大腦是人的神經(jīng)中樞，對人的思想和行動起作控制作用，因而很早就引起了人們的重‘天生物，人最靈’。靈就靈在人有一個結(jié)構(gòu)視，科學(xué)家們對它的結(jié)構(gòu)和原理進(jìn)行了長期的、深精密，機理奧妙，功能完善的大腦。正由于有了大入的研究，并在許多學(xué)科的理論研究和實際應(yīng)用腦，人才能通過視覺、聽覺、嗅覺、觸覺等接收外部方面，如模式識別、信號處理、決策判斷、組合優(yōu)化作者簡介：王家映（１９３７一），男，教授，博士生導(dǎo)師．主要研究方向為電磁法和地球物理反演理論。Ｅ—ｍａｉｌ：ｊ．Ｙ．ｗａｎｇ＠ｃｕｇ．ｅｄｕ．ｃｎ２５６工程地球物理學(xué)報（ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＥｎｇｉｎｅｅｒｉｎｇＧｅｏｐｈｙｓｉｃｓ）第５卷和工程應(yīng)用，都取得了重要的成果Ｌ１］。雖然，對大腦的研究至今已有近半個世紀(jì)的歷程，但是，由于實驗手段的局限性和人腦的特殊性，建立大腦模型，即人工神經(jīng)網(wǎng)絡(luò)（ＡｒｔｉｆｉｃｉａｌＮｅｕｒａｌＺＪＮｅｔｗｏｒｋ，ＡＮＮ，簡稱“神經(jīng)網(wǎng)絡(luò)”），仍然Ｘｊ迅≥圖１簡單人工神經(jīng)元的Ｍ－Ｐ模型Ｆｉｇ．１Ｍ—Ｐｓｔｒｕｃｔｕｒｅ是目前研究大腦神經(jīng)行之有效的方法和手段。實踐已經(jīng)證明，ＡＮＮ是一項具有廣闊前景，有著巨０ｆｎｅｕｒａｌｃｅｌｌ大理論價值和應(yīng)用價值的新理論、新技術(shù)。ＡＮＮ在地球物理學(xué)中的應(yīng)用，始于２０世紀(jì)的８０年代。開始階段，主要研究ＡＮＮ在模式識別上的應(yīng)用，如‘亮點’的識別，地震波初至的拾１（“）：』１（“≥ｏ’（３）１０（“＜Ｏ）可見Ｍ—Ｐ模型的特點是：①多輸入，單輸出；取，同相軸的追蹤，位場特征的識別，電磁法曲線的分類，儲層預(yù)測，烴源巖的測井評價［２￣７’１３￣３２１；②閥值作用；③輸入與輸出均為兩態(tài)，０和１（抑制、興奮）；④每個輸入通過權(quán)值來表征它對神經(jīng)元之耦合程度（若無耦合可?。悖?，ｉ一０）。２）連續(xù)神經(jīng)元模型（圖２）。＾“）貝Ｈ）近年來，用ＡＮＮ求取地震波速度，用于直流電阻率法，大地電磁法，測井資料的解釋和地震模型參數(shù)的反演方面也取得了驕人的成績Ｃｓ－ｌｚ］，發(fā)表了成百篇論文。可以說，今天ＡＮＮ已猶如天空升起的一個新星，受到地球物理學(xué)家的廣泛關(guān)注。２人工神經(jīng)網(wǎng)絡(luò)的基本知識人的大腦是由大量神經(jīng)元按一定的結(jié)構(gòu)連結(jié)而成的并行處理系統(tǒng)。而ＡＮＮ，是對人腦的某種ｌｌ。一Ｆ一“Ｊ“?！M、抽象和簡化。具有高度的非線性映射能力、自組織和自適應(yīng)能力、記憶聯(lián)想能力等，能夠進(jìn)行復(fù)雜的邏輯操作和非線性映射。它由三個基本要素組成：即神經(jīng)元，網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)規(guī)則［１矗２｜。２．１簡單神經(jīng)元模型（ａ）階躍函數(shù)（ｂ）分段線性函數(shù)貝Ⅳ）Ｉ月Ｈ）／。：歹≯一１一／／／Ｄ““神經(jīng)元是構(gòu)成神經(jīng)網(wǎng)絡(luò)的基本單位，也是神經(jīng)網(wǎng)絡(luò)的一個結(jié)點。它既是信息的儲存器，也是信息的處理器。它對外界信息實行加工、處理、聯(lián)想記憶、分類識別和儲存。儲存和處理方式不同，模型就不同。最常用的有Ｍ—Ｐ模型和連續(xù)模型。１）Ｍ—Ｐ神經(jīng)元模型。Ｍ—Ｐ模型是Ｍｃｃｕｌ－ｌｏｃｈ—ＰｉｔｔｓＦｉｇ．２（ｃ）Ｓ函數(shù)（ｄ）恒等函數(shù)圖２連續(xù)神經(jīng)元模型Ｍｏｄｅｌｓｏｆｃｏｎｔｉｎｕｏｕｓｎｅｕｒａｌｃｅｌｌ１９４３年提出來的，它是一個多輸入單反映神經(jīng)元狀態(tài)參數(shù)連續(xù)變化的情況，常用一階非線性微分方程來模擬生物神經(jīng)元膜電位隨時間變化的規(guī)律，即輸出的非線性系統(tǒng)（見圖１）。設(shè)某一神經(jīng)元的輸入為：工１＝Ｌ工ｌ，Ｘ２，…，ｚ。ｊ它們相應(yīng)的權(quán)值為：（１）．『ｒｄＴｕ（ｔ）一礎(chǔ)）＋騫峨∽～（４）ｌｙ（￡）＝ｆＥｕ（ｔ）３式中：ｒ為時間常數(shù)，口為靜止膜電位，，（“）為輸入輸出函數(shù)。它有４種可能形式，如圖２所示，即一ｆ∞丁＝［山１，∞２，…，叫。］若神經(jīng)元的閥值為口，則輸出Ｙ可表示為：Ｙ＝１（∑（ＥＪ』ｚｊ一口）＝１（∞７工一口）’Ｊ＝ｌ（２），１式中“１”表示單位函數(shù)，即①廠（“）一｛ｏ“乏ｏＵ≥０第３期王家映：地球物理資料非線性反演方法講座（五）人工神經(jīng)網(wǎng)絡(luò)反演法１２５７ｆ“≥Ｍｏ圖４是ＡＮＮ的幾種常見的互連模式。其中（５）②廠（“）２ｊ刪＋ｂ１０Ｕｌ≤“＜Ｕ０Ｕ＜“１（ａ）是雙層側(cè)抑制連接模式；（ｂ）是多層前向反饋連接模式；（ｃ）層內(nèi)有互連的多層前向傳播連接模式；（ｄ）多層全互連接合型連接模式。顯然，不同的連接模式就構(gòu)成不同的神經(jīng)網(wǎng)絡(luò)。２．３神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則③廠（“）?！焊桑槲矗槎?，（“）＝Ｕ２．２人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)是多個神經(jīng)元按一定的規(guī)則，通過權(quán)重聯(lián)結(jié)在一起的拓?fù)浣Y(jié)構(gòu)。不同的連接方式，構(gòu)成了不同的網(wǎng)絡(luò)結(jié)構(gòu)模型，如回傳（ＢａｃｋＰｒｏｐ－人類只有通過學(xué)習(xí)，才會獲得知識，增加才干。見多才能識廣。同樣，人工神經(jīng)網(wǎng)絡(luò)也是通過學(xué)習(xí)來調(diào)整網(wǎng)絡(luò)之間的權(quán)系數(shù)，達(dá)到‘獲取知識，增加才干，見多識廣’的目的的。因此，人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，實際上就是網(wǎng)絡(luò)連接權(quán)的調(diào)ａｇａｔｉｏｎ，ＢＰ）網(wǎng)絡(luò)、前饋（ｆｅｅｄ—ｆｏｒｗａｒｄ）神經(jīng)網(wǎng)絡(luò)（感知機）、自組織映射網(wǎng)絡(luò)（ＳＯＭ網(wǎng)絡(luò)），Ｈｏｐ—ｆｉｌｄ網(wǎng)絡(luò)，和隨機網(wǎng)絡(luò)等幾十種各不相同的模型。其中最常用的是ＢＰ網(wǎng)絡(luò)。整規(guī)則。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則有多種，但幾乎所有的學(xué)習(xí)規(guī)則都是由赫布（Ｈｅｂｂ）學(xué)習(xí)規(guī)則演變而來的。隱糸赧５ｋ?硼曰ｆ１／躐粼蠆≮輸入層１）赫布型學(xué)習(xí)規(guī)則（相關(guān)規(guī)則）；２）誤差修正型學(xué)習(xí)規(guī)則；３）隨機型學(xué)習(xí)規(guī)則；Ｖ？ｙ時黟》石ｎ中間層４）競爭型學(xué)習(xí)規(guī)則。飛＿ｆＦｉｇ．３∥不同的網(wǎng)絡(luò)結(jié)構(gòu)，有不同的學(xué)習(xí)規(guī)則，解決同一個問題也可以用不同的學(xué)習(xí)規(guī)則。在地球物理『、輸出層反演中最常用的是誤差修正型（含回傳（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ））學(xué)習(xí)。圖３簡單的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)ＳｔｒｕｃｔｕｒｅｏｆｓｉｍｐｌｅＡＮＮ由此看來，神經(jīng)網(wǎng)絡(luò)是一個高度復(fù)雜的非線性系統(tǒng)。雖然，每一個神經(jīng)元的結(jié)構(gòu)和功能都十分簡單，但由大量神經(jīng)元按一定規(guī)則所構(gòu)成、并按一定的學(xué)習(xí)規(guī)則‘訓(xùn)練’過后的神經(jīng)網(wǎng)絡(luò)系統(tǒng)卻有著十分強大的自適應(yīng)、非線性、并行性的信息處理功能，能完成常規(guī)的計算機所不能完成的復(fù)雜的任務(wù)。其主要特征如下：１）信息處理的高度并行性；常用的神經(jīng)網(wǎng)絡(luò)，一般由輸入層、中間層和輸出層組成，如圖３所示。中間層又稱隱層，隱層可以是一層也可以是多層。每層神經(jīng)元的個數(shù)，完全由輸入、輸出數(shù)據(jù)的大小、精度和問題的性質(zhì)而決定的。輸出層輸出層輸出層輸出層間層中間層輸入層（ａ）輸入層（ｂ）輸入層（ｃ）輸入層（ｄ）圖４人工神經(jīng)網(wǎng)絡(luò)的互連接構(gòu)Ｆｉｇ．４Ｃｏ－ａｄｊａｃｅｎｔｐａｔｔｅｒｎｏｆＡＮＮ２５８工程地球物理學(xué)報（ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＥｎｇｉｎｅｅｒｉｎｇＧｅｏｐｈｙｓｉｃｓ）第５卷２）信息處理和信息存儲合二為一；３）能接受和處理模擬的、模糊的和隨機的信息；４）具自組織和自學(xué)習(xí)能力；５）求的是滿意解而不是精確解。神經(jīng)網(wǎng)絡(luò)和常規(guī)計算機在處理對象和應(yīng)用領(lǐng)域也是有區(qū)別的。從處理對象上看，神經(jīng)網(wǎng)絡(luò)適合于處理連續(xù)的、模糊的、隨機的信息。從應(yīng)用領(lǐng)域看，神經(jīng)網(wǎng)絡(luò)則主要應(yīng)用于圖象處理，語音識別，模糊判識，自適應(yīng)控制，組合優(yōu)化等方面。３人工神經(jīng)網(wǎng)絡(luò)在地球物理資料反演中的應(yīng)用大家知道，地球物理反演實際上是將地球物理觀測數(shù)據(jù)映射為模型參數(shù)的一種運算。這種映射既可以用模式識別的方式實現(xiàn)、也可以用數(shù)字的方式定量的實現(xiàn)。人工神經(jīng)網(wǎng)絡(luò)在反演中的應(yīng)用，大多數(shù)是基于模式識別的原理，但近年來，也有學(xué)者從定量映射的角度將神經(jīng)網(wǎng)絡(luò)引入地球物理反演，并取得了成功。下面將要講的基于ＢＰ回傳理論和Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)而建立起來的反演模式，就是這兩者的代表。３．１回傳理論及其在地球物理資料反演中的應(yīng)用１１，３３１最基本ＢＰ網(wǎng)絡(luò)是如圖５所示的三層前饋網(wǎng)絡(luò)，即輸入層ＬＡ，隱含層ＬＢ和輸出層￡ｃ之間前向連接。通常ＢＰ網(wǎng)絡(luò)可以有多個隱含層，可以跨層連接，可以有單元自身的反饋連接，也可以有層內(nèi)單元橫向連接。ｋ卜Ｌｈ卜Ｌ圖５三層前饋網(wǎng)絡(luò)Ｆｉｇ．５Ｄｉａｇｒａｍｏｆｔｈｒｅｅｌａｙｅｒｓｆｅｅｄ—ｆｏｒｗａｒｄｎｅｔｗｏｒｋｓ設(shè)（Ａｔ，Ｇ）是第ｋ個輸入、輸出模式對（ｋ＝１，２，３，…，ｍ）。其中，ＡＩ＝（口｛，ａ｛，…，口：）代表輸入的觀測數(shù)據(jù)向量，Ｃ。＝（ｃ：，ｆ！，…，ｃ：）代表輸出的模型參數(shù)向量，Ｂ。＝（６｛，酏，…，醵）代表中間數(shù)據(jù)向量。ＬＡ中有ｒｔ個分量；而Ｌ。中有ｐ個分量；Ｌｃ中有譬個分量。從輸入層到中間層的連接權(quán)為＿Ｉ，＝［％］，ｉ＝１，２，…７ｚ；．『一１，２，…戶；從中間層到輸出層的連接權(quán)為∞＝［㈨］，ｉ＝１，２，…戶；歹一１，２，…ｑ。和常規(guī)反演一樣，基于ＢＰ回傳理論建立起來的反演方法，也要有目標(biāo)函數(shù)。此時的目標(biāo)函數(shù)定義為所有輸入模式對上輸出單元之希望輸出與實際輸出之誤差的平方和。１ＪＬＥ＝音≥：（“一ｙ。）２（６）‘正五其中Ｅ為均方差，是網(wǎng)絡(luò)的能量函數(shù)。Ｃ。為第ｋ個實際輸出，Ｙ。為第ｋ個期望輸出。和常規(guī)的反演不同，基于ＢＰ回傳理論，可將反演過程分為學(xué)習(xí)（訓(xùn)練）和反演（測試）兩個階段。先學(xué)習(xí)后反演。學(xué)習(xí)就是對網(wǎng)絡(luò)進(jìn)行訓(xùn)練。見多才能識廣就是這個道理。在ＢＰ回傳學(xué)習(xí)過程中，又有正傳和反傳之分。首先，由輸入（即觀測值）和預(yù)先給定的連結(jié)權(quán)計算實際輸出（即模型參數(shù)），此即正傳。如實際輸出和理論輸出一致，則學(xué)習(xí)終止；否則進(jìn)入第二階段，計算希望輸出（即希望的模型參數(shù)）與實際輸出之偏差，并將此偏差歸結(jié)為連接權(quán)的“過錯”，逐層向輸入層方向逆向傳播，將此偏差分?jǐn)偨o各層單元，并以此為依據(jù)調(diào)整相應(yīng)的連接權(quán)。如此反復(fù)，直至希望輸出與實際輸出之偏差符合要求為止，這就完成了一次學(xué)習(xí)訓(xùn)練。根據(jù)在訓(xùn)練的過程中誤差回傳的方式方法不同，回傳又可分為：在線（Ｏｎ—ｌｉｎｅ）回傳、批次（Ｂａｔｃｈ）回傳、ＤＢＤ（Ｄｅｌｔａ－－ｂａｒ—ｄｅｌｔａ）回傳、快速（Ｑｕｉｃｋ）回傳和彈性（Ｒｅｓｉｌｉｅｎｔ）回傳（ＲＰＲＯＰ）等。用于訓(xùn)練的輸入、輸出模式對（如，ＣＩ），是＝Ｉ，２，…，ｍ越多，網(wǎng)絡(luò)用于“測試”或反演的技能越高，效果越好?？梢姡诨貍骼碚?，反演所需的大部分時間耗費在學(xué)習(xí)上，只要學(xué)好了，反演就費時很少。上面我們討論了ＢＰ回傳學(xué)習(xí)的基本原理，下面我們再來研究利用ＢＰ回傳原理進(jìn)行地球物理資料反演的基本步驟和必須注意的幾個問題：１）結(jié)構(gòu)設(shè)計。確定輸入層、輸出層中神經(jīng)元第３期王家映：地球物理資料非線性反演方法講座（五）人工神經(jīng)網(wǎng)絡(luò)反演法２５９（節(jié)點）的數(shù)目和類型；隱層的層數(shù)、類型、內(nèi)部連接方式。一般采用三層模式：即輸入、隱層、和輸出三層。當(dāng)然，設(shè)計者也可以根據(jù)要解決的問題的復(fù)雜程度、精度要求，以及設(shè)計人員的經(jīng)驗提出網(wǎng)絡(luò)的設(shè)計。必須指出，在神經(jīng)網(wǎng)絡(luò)中，各神經(jīng)元均采用０，１編碼形式。所以模型的參數(shù)（如速度，厚度等）以及觀測數(shù)據(jù)（如振幅，時間等）都必須二進(jìn)制化。把通常使用的十進(jìn)制的數(shù)值，化為二進(jìn)制編碼；或者對它們歸一化，以最大的參數(shù)或觀測數(shù)據(jù)對相應(yīng)參數(shù)或觀測數(shù)據(jù)進(jìn)行歸一。使它們均處于［一１，１－］之間。在歸一化時，應(yīng)該注意各種物理量的量綱不同。２）訓(xùn)練。在ＢＰ神經(jīng)網(wǎng)絡(luò)中，每一個節(jié)點的傳遞函數(shù)和與其它節(jié)點的連接方式都是設(shè)計者預(yù)先規(guī)定的，但是連接任意兩個節(jié)點的連接權(quán)是未知的。就ＢＰ網(wǎng)絡(luò)而言，為使正傳得以實施，必須從任意連接權(quán)的假設(shè)開始。所謂學(xué)習(xí)或訓(xùn)練，就是根據(jù)期望輸出和實際輸出之誤差去調(diào)整輸入層和輸出層之間的各個連接權(quán)，以使期望輸出和實際輸出之間的差異達(dá)到最小。由于訓(xùn)練是使用模式對集的數(shù)據(jù)，訓(xùn)練結(jié)束后，必然有的模式對效果好，有的效果差。為了提高“反演”精度，有時還必須對網(wǎng)絡(luò)進(jìn)行再學(xué)習(xí)，或者在教師的指導(dǎo)、監(jiān)督下學(xué)習(xí)。３）檢查網(wǎng)絡(luò)的可信度。用含有誤差的數(shù)據(jù)輸人神經(jīng)網(wǎng)絡(luò)，檢查網(wǎng)絡(luò)的實際輸出和期望輸出之間的偏離，來估計可信度。４）推廣應(yīng)用，即反演。下面，我們將舉例說明ＢＰ網(wǎng)絡(luò)在地球物理資料反演中的應(yīng)用。例一、一維電測深曲線（ＶＥＳ）的反演ｎ４１。選擇幾層網(wǎng)絡(luò)，決定于所解決問題的復(fù)雜程度，和最終結(jié)果的要求精度。這里，對一維電測深曲線，我們選擇只有一個隱層，１８個結(jié)點的三層網(wǎng)絡(luò)，先用４０個６層電測深曲線作為樣本，對網(wǎng)絡(luò)進(jìn)行訓(xùn)練；訓(xùn)練好后，用１０個反演（即測試）樣本、對網(wǎng)絡(luò)進(jìn)行測試，最后用１７個實測樣本對網(wǎng)絡(luò)進(jìn)行反演。訓(xùn)練時，用批次回傳法進(jìn)行學(xué)習(xí)。圖６是迭代６３００次的均方差圖?？梢?，在迭代２０００次以后，誤差就變化不大了。圖７是４０個訓(xùn)練樣本，１０個測試樣本和１７條實測曲線的均方誤差圖。從圖７可以看出，在訓(xùn)練時，除此而外３７、３８、３９、４０、幾個樣本外，其它樣本的均方差大多數(shù)都小于０．０１５；而測試的誤差，１０個樣本都小于０．１２；對實測曲線的反演，誤差要大些，１７個樣本，誤差都在０．３左右。為了讓讀者定量的了解用ＡＮＮ的反演結(jié)果，筆者繪制了圖８，將ＡＮＮ和常規(guī)反演方法的結(jié)果作了一個比較。圖６批次回傳誤差收斂情況Ｆｉｇ．６Ａｃｏｎｖｅｒｇｉｎｇｍａｐｏｆｂａｔｃｈｆｅｅｄｂａｃｋｎｅｔｗｏｒｋｓ（ａ）０．０２５０．０２０ｇＯ．們５幽０．０１００．００５．．．１ＩＩ．．ｉ．Ｉ．０．０００ＩｌＩ．Ｉ．．．．．．．ｌＩｌ…ｌ…．１６ＩＩ１６２１２６３ｔ３６４０訓(xùn)練樣本（ｂ）０．３０Ｏ．２４９０．１８岫０．１２０．０６０．００一．Ｉ＿ｌｔＴｒＩ一－－ｒｒ反演樣本（ｅ）１．００Ｏ．８００．６０ｏ七０．４０【口一ＩＩＩ，ＩＩＩｉＩＩ，ｉ一幣Ｉ｝一２６０工程地球物理學(xué)報（ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＥｎｇｉｎｅｅｒｉｎｇＧｅｏｐｈｙｓｉｃｓ）第５卷—ＮＮ｜｜ｊ＝＝ｊ｜｜｜｜Ｉ：：＝＝～ｉ王＿一一＿■ＶＥＳｃｕｒｖｅｉｎｖｅｒｓｉｏｎｒａｎｘｅｎｔｉｏｎａｌｎＶｅｒＳＩＯⅡ＃．；；；；－●●●●－１：：：：羹：；ｉ；．．』：：ｋ：：：●●’●：：｝：：ｔｉ；ｊ，，Ｚ，：：’≮‘Ｘ．ｉ●＿，一一●７、‘—Ｌ——÷ｆ：饕：：：：：２ｔ?。暌唬海欤保埃牛欤澹悖簦颍铮洌澹螅澹穑幔颍幔簦椋铮睿恚欤希希保埃埃皥D８ＡＮＮ和常規(guī)反演方法反演結(jié)果對比ＡＣｏｍｐａｒｉｓｏｎＢｅｔｗｅｅｎＡＮＮａｎｄＣｏｎｖｅｎｔｉｏｎａｌＩｎｖｅｒｓｉｏｎｓＩｔｅｒａｔｉｏｎｓＩｔｅｒａｔｉｏｎｓＩｔｃｒａｔｉｏｎｓ圖９含不同隱層的神經(jīng)網(wǎng)絡(luò)訓(xùn)練均方誤差（ＭＳＥ）隨遮代次數(shù)的變化（ａ）單’隱層含４００個節(jié)點Ｉ（ｂ）雙隱含層分別含３００，２００個節(jié)點ｊ（ｃ）三隱含層分別含２００．１６０，２００個節(jié)點．Ｆｉｇ。９Ｔｒａｉｎｉｎｇｅｒｒｏｒｓ（ＭＳＥ）ＶＳｉｔｅｒａｔｉｏｎｓｆｏｒｎｅｕｒａｌｎｅｔｗｏｒｋｓｗｉｔｈｄｉｆｆｅｒｅｎｔｈｉｄｄｅｎｌａｙｅｒｓ．ｈｉｄｄｅｎｌａｙｅｒｗｉｔｈ４００（ａ）ｏｎｅＮｏｄｅｓ；（ｂ）ｔｗｏｈｉｄｄｅｎｌａｙｅｒｓｗｉｔｈ３００，２００ｎｏｄｅｓｒｅｓｐｅｃｔｉｖｅｌｙｒｅｓｐｅｃｔｉｖｅｌｙ’（ｃ）ｔｈｒｅｅｈｉｄｄｅｎｌａｙｅｒｗｉｔｈ２００，１６０．２００ｎｏｄｅｓ例二、用ＡＮＮ解釋二維高密度電法資料［１５。。網(wǎng)絡(luò)中間隱層分別為３００、２００，和２００、１６０、２００個結(jié)點。從圖９可以看出，三個隱層的網(wǎng)絡(luò)比單隱層和雙隱層網(wǎng)絡(luò)的均方誤差（ＭＳＥ）要小、效果好，所以文中選定三個隱層的網(wǎng)絡(luò)進(jìn)行訓(xùn)練。一般說來，隱層愈多，訓(xùn)練的效果愈好，當(dāng)然，所需訓(xùn)練時間也愈長。這里，對網(wǎng)絡(luò)進(jìn)行訓(xùn)練、測試的資料，均來源于二維有限單元的正演計算。文中計算了各種二維的塊體、層狀和斷層模型的高密度視電阻率法數(shù)據(jù)。測量用了４５個（極距２ｍ），單極一單極視電阻率數(shù)據(jù)為９００個，區(qū)域剖分為１１９ｘ１０的矩形網(wǎng)格，反演的參數(shù)為１０６２個。用于網(wǎng)絡(luò)訓(xùn)練有來自１５４個不同模型的數(shù)據(jù)集，測試集７個。測試數(shù)據(jù)均未參加訓(xùn)練。圖９（ａ）、（ｂ）、（ｃ）分別是一、二、三個隱層的網(wǎng)絡(luò)的訓(xùn)練誤差圖。相對一維而言，二維地電斷面要復(fù)雜一些，所以我們選用三層、四層和五層網(wǎng)絡(luò)進(jìn)行試驗。其中三層網(wǎng)絡(luò)中間隱層為４００個結(jié)點，四層和五層大量的試驗表明，ＲＰＲＯＰ訓(xùn)練算法好、收斂快、精度高，因此本文電阻率二維神經(jīng)網(wǎng)絡(luò)反演選擇ＲＰＲＯＰ訓(xùn)練算法。選擇了網(wǎng)絡(luò)及訓(xùn)練算法便可對網(wǎng)絡(luò)進(jìn)行訓(xùn)練，圖ｌＯ是網(wǎng)絡(luò)訓(xùn)練誤差隨迭代次數(shù)的變化，訓(xùn)練６６４次收斂至目標(biāo)精度誤差為６×１０～，運行耗時約２６ｍｉｎ（Ｐｅｎｔｉｕｍ４１．５ＧＰＣ）。第３期王家映：地球物理資料非線性反演方法講座（五）人工神經(jīng)網(wǎng)絡(luò)反演法２６１為了驗證網(wǎng)絡(luò)的訓(xùn)練效果，我們用了７個沒為進(jìn)一步說明神經(jīng)網(wǎng)絡(luò)反演電阻率數(shù)據(jù)的效有參加過訓(xùn)練的，二維模型數(shù)據(jù)樣本對之進(jìn)行檢果，用兩個模型合成數(shù)據(jù)對訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測驗，圖１１是檢驗的結(jié)果。在７個樣本中僅有一個試，并與傳統(tǒng)的最小二乘法反演（反演軟件的均方差達(dá)到０．０５２，其它均在此期間０．０２１以ＲＦＳ２ＤＩＮＶ）結(jié)果進(jìn)行對比。下，最小可達(dá)０．００３說明神經(jīng)網(wǎng)絡(luò)反演的訓(xùn)練效果良好。ｌＯｍ∞∞苫ｍ‘、ｏ圖１１７組測試樣本經(jīng)訓(xùn)練好的網(wǎng)絡(luò)測試后的均方誤差ＩｔｃｒａｔｌｏｎｓＦｉｇ．１１Ｍｅａｎｓｑｕａｒｅｅｒｒｏｒｓｏｆｔｈｅｔｒａｉｎｅｄ圖ｉ０電阻率二維反演網(wǎng)絡(luò)訓(xùn)練誤差ｎｅｔｗｏｒｋｆｏｒ７ｔｅｓｔｓｅｔｓ收斂結(jié)果目標(biāo)精度誤差為６×ｉ０．４Ｆｉｇ．１０Ｔｒａｉｎｉｎｇｅｒｒｏｒ（ＭＳＥ）ｏｆｎｅｕｒａｌｎｅｔｗｏｒｋｆｏｒ模型Ａ、圖１２（ａ）為地下存在一個高阻和一２一ＤｒｅｓｉｓｔｉｖｉｔｙｉｎｖｅｒｓｉｏｎＶＳｉｔｅｒａｔｉｏｎｓ個低阻異常體模型，大小均為ｌＯｍ×ｌＯｍ，頂部埋ｃｏｎｖｅｒｇｅｎｃｅｃｒｉｔｅｒｉｏｎｉｓ６×１０—４深５ｍ。用該模型的合成視電阻率數(shù)據(jù)作為測試圖１２地下存在一個高阻和一個低阻異常體模型示意圖及兩種方法反演結(jié)果（ａ）模型示意圖，（ｂ）神經(jīng)網(wǎng)絡(luò)反演結(jié)果＃（ｃ）傳統(tǒng)方法反演結(jié)果Ｆｉｇ．１２Ｓｕｂｓｕｒｆａｃｅｍｏｄｅｌｗｉｔｈｔｗｏｉｎ—ｈｏｍｏｇｅｎｅｉｔｉｅｓａｎｄｉｎｖｅｒｓｉｏｎｒｅｓｕｌｔｓｂｙｔＷＯｍｅｔｈｏｄｓ（ａ）ｍｏｄｅｌＩ（ｂ）ｒｅｓｕｌｔｏｆｎｅｕｒａｌｎｅｔｗｏｒｋｍｅｔｈｏｄ；（ｃ）ｒｅｓｕｌｔｏｆｔｒａｄｉｔｉｏｎａｌｍｅｔｈｏｄ２６２工程地球物理學(xué)報（ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＥｎｇｉｎｅｅｒｉｎｇＧｅｏｐｈｙｓｉｃｓ）第５卷圖１３組合模型示意圖及兩種方法反演結(jié)果（ａ）模型示意圖；（ｂ）神經(jīng)網(wǎng)絡(luò)反演結(jié)果，（ｃ）傳統(tǒng)方法反演結(jié)果Ｆｉｇ．１３ＳｕｂｓｕｒｆａｃｅｃｏｍｂｉｎｅｄｍｏｄｅｌａｎｄｉｎｖｅｒｓｉｏｎｒｅｓｕｌｔｓｂｙｔＷＯｍｅｔｈｏｄｓｍｅｔｈｏｄ；（ｃ）ｒｅｓｕｌｔｏｆｔｒａｄｉｔｉｏｎａｌｍｅｔｈｏｄ（ａ）ｍｏｄｅｌ；（ｂ）ｒｅｓｕｌｔｏｆｎｅｕｒａｌｎｅｔｗｏｒｋ集輸入，對網(wǎng)絡(luò)進(jìn)行測試，網(wǎng)絡(luò)輸出的反演結(jié)果如圖１２（ｂ）所示?？梢钥闯?，高、低阻異常體的位置、形態(tài)和電阻率值與實際模型非常接近，與傳統(tǒng)反演方法結(jié)果（圖１２（ｃ））比較，神經(jīng)網(wǎng)絡(luò)方法反演效果更好。模型Ｂ、圖１３（ａ）為一個６ｍ×６ｍ、頂部埋深５ｍ的低阻異常體和垂直斷層組合模型示意圖，斷層位于ｚ一４ｍ處，從ｚ一７ｍ延深到ｚ一１２ｍ。用神經(jīng)網(wǎng)絡(luò)方法和傳統(tǒng)最小一乘法反演該模型的合成數(shù)據(jù)，結(jié)果如圖１３（ｂ），１３（ｃ）。其中，圖１３（ｃ）對淺部低阻異常體的勾畫非常模糊，斷層結(jié)構(gòu)則反映為斜坡。而神經(jīng)網(wǎng)絡(luò)方法能得到較精細(xì)結(jié)構(gòu)，低阻異常體及斷層構(gòu)造反映明顯。這里需要特別提到的是，在神經(jīng)網(wǎng)絡(luò)訓(xùn)練集中沒有類似的組合模型，只有塊體、層狀模型和斷層模型。該模型的反演結(jié)果說明，通過足夠多簡單模型的數(shù)據(jù)集訓(xùn)練，網(wǎng)絡(luò)能夠反映更為復(fù)雜模型與其合成數(shù)據(jù)之間的非線性映射關(guān)系。這對實際數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)反演非常重要。因為實際地下結(jié)構(gòu)總是比想象的要復(fù)雜。將ＢＰ網(wǎng)絡(luò)應(yīng)用于反演的最大優(yōu)點是網(wǎng)絡(luò)一旦訓(xùn)練成功，就可以一勞永逸，既能解決各種復(fù)雜的非線性問題，又能有效地克服了常規(guī)反演方法之不足。為了確保學(xué)習(xí)過程既收斂也省時，有的學(xué)者［３叩將其它反演方法，如梯度法、吉洪洛夫的正則化算法、遺傳算法、模擬退火法等應(yīng)用于學(xué)習(xí)過程，較好的實現(xiàn)了全局尋優(yōu)。３Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)及其在地球物理資料反演中應(yīng)用１９８５年，霍普菲爾德（Ｊ．Ｊ．Ｈｏｐｆｉｅｌｄ）和塔克（Ｄ．Ｗ．Ｔａｎｋ）建立了互相連接型神經(jīng)網(wǎng)絡(luò)模型ｍ’１１。１５’１６］。在Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)中，每一個神經(jīng)元都和其它神經(jīng)元相連接，所以又稱為全互連接網(wǎng)，神經(jīng)元之間的連接權(quán)㈨滿足∞ｉ＝０∞目＝∞ｉ（ｉ＝１，２，…，Ｎ）（ｉ，Ｊ＝１，２，…，Ｎ）（７）式中：Ｎ是神經(jīng)元的個數(shù)。在離散Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)中，如圖１４所示，口，，和所有反演問題一樣，基于回傳理論的反演方法，也有收斂于局部極小的問題?？冢?，…，ｕＮ為神經(jīng)元ｉ的輸入，它們對第ｉ個神經(jīng)元的影響程度用連接權(quán)硼ｄ，硼＂…，硼ｗ來表征｝第３期王家映：地球物理資料非線性反演方法講座（五）人工神經(jīng)網(wǎng)絡(luò)反演法２６３用于一維、而且可以應(yīng)用于二維和三維，不僅可用于解決線性、而且可以解決非線性問題。能否將Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)的能量函數(shù)和地球物理最優(yōu)化問題的目標(biāo)函數(shù)聯(lián)系起來，找到地球物理反演問題中的模型（優(yōu)ｉ，ｉ一１，２，…，Ｎ）、核函數(shù)Ｇ（ｉ＝１，２，…，Ｍ，Ｊ一１，２，…，Ｎ）在神經(jīng)元穩(wěn)定輸出狀態(tài)下，和神經(jīng)元諸要素（如神經(jīng)元的輸入、輸出和它們之問的連接權(quán)等）之關(guān)系，是Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)能應(yīng)用于最優(yōu)化的關(guān)鍵。Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)的能否在地球物理反演中應(yīng)用圖１４離散型Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)中神經(jīng)元工作原理Ｆｉｇ．１４ＡＰｒｉｎｃｉｐｌｅＤｉａｇｒａｍｏｆＮｅｕｒａｌＣｅｌｌｆｏｒＤｉｇｉｔａｌＨｏｐｆｉｅｌｄＮｅｔｗｏｒｋ的另一重要問題是，如何將十進(jìn)制形式表達(dá)的地球物理的模型參數(shù)表示為適應(yīng)Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)運算的需要（比如說二進(jìn)制）的形式。為明了起見，而又不失一般性，下面，我們將以夙為神經(jīng)元的閾值，７．／，為其輸出，則有：Ｎ．前面幾章中講述的線性反演問題為例，對上述兩個，。、讓＝ｓｇｎ（∑硼＃口，一良）＝ｓｇｎ（Ｄｔ（ｆ））莓ｊ這里，Ｎ問題加以說明。設(shè)有目標(biāo)函數(shù)：ｊＩ一丟∑（鞏一∑甌優(yōu)，）２＿＾＝Ｉ’ｉ＝１Ｄｉ（￡）＝∑硼Ｆ口，一只帶閾值的二態(tài)非線性動力系統(tǒng)。且（９）篆；顯然，Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)是一個多輸入、單輸出、一一丟妻妻Ｉ－－妻甌Ｇ丘］優(yōu)ｍ?？郏卞^凈１一妻Ｉ－－萬１∑Ｍ皖優(yōu)ｉ＋∑Ｍ甌ｄ。ｌｎ∞ｍｉｖｉ（ｔ）５｛ｏ一Ｄｉ一｛姜０ＮＮｊ＝】ｉ≠ｊｉ＝１＋告∑斫（１３）定義Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)的能量函數(shù)為：Ｎ如果模型／ｎｉ（ｉ一１，２，…，Ｎ）是由０和１組成（１１）Ｅ＝一萬１∑∑叫Ⅱ口。口』＋∑只口。＿ｉ＝１的序列，將式（１１）和式（１３）Ｌ－ｔ；較，就可發(fā)現(xiàn)：如設(shè)，礬２ｍｉ則其變化量為：．－，ＮｚａＥｉ＝一蘭≥口ｊ＝△ｕｉ（一∑硼ｄ口』＋諺）（１２）ｄ口ｉ療＝一ｌ一告∑皖優(yōu)ｉ＋∑皖ｄ。Ｊ一＾＝１＾＝１、：：＝７’≠ｊ（ｉ一１，２，…，Ｎ）ｒＭ（１４）如設(shè)△口ｆ一讓（￡）一讓（￡一１）。這里?Ｏｉ（￡一１）為前一時刻之輸出，‘Ｕｉ（ｆ）為此時之輸出。由（８）式不難看出＇Ｏｉ只能為０或１。若血ｉ＜０，就意味著＂ｏｉｉｔ一１）＝１，而ｖｉ（￡）一０，由（１０）式可知，此時Ｄｉ］螄＝Ｌ一∑甌Ｇ。ｊ＾；１一Ｍ除常數(shù)項百１∑斫外，則二式完全相似。而常一ｋ＝１數(shù)項在微分的運算中是不起作用的。如果模型參數(shù)已是用０和１表示的隨機的或確定的二進(jìn)制序列，則可對（１３）式極小，直接求得＂ｖｉ，即／＇／，／ｉ。如果模型參數(shù)是十進(jìn)制表達(dá)式，則在反演之前，還必需將十進(jìn)制表達(dá)形式的模型參數(shù)加以改變，變?yōu)槎M(jìn)制表達(dá)式，即Ｕ≤０。因此，必然有△Ｅｉ＝加ｉ（一Ｄ；）≤０；若設(shè)Ａｖｉ＞Ｏ，就意味著讓（￡一１）＝０，而讓（￡）＝１。由（１０）式可知，此時Ｄ＞０，根據(jù)（１２）式必然有△Ｅｊ＜０。結(jié)論是，在Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)迭代過程中，總有△Ｅｉ≤０，網(wǎng)絡(luò)總會收斂到能量極小的狀態(tài)。換言之，計算能量總是不斷地隨第ｉ個神經(jīng)元狀態(tài)的變化而下降。同理，可對其它神經(jīng)元的狀態(tài)變化作類似的分析。研究表明，Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)可以成功的應(yīng)用于解決科學(xué)和工程中的最優(yōu)化問題。不僅可以ｍｉ＝∑２ＪＢｄ一２ｕＢ（ｉ＝１，２，…，Ｎ）（１５）式中：Ｂｉ＝０；Ｄ和【，是分別取決于模型參數(shù)的精度和大小的整數(shù)；而Ｂ在數(shù)值上等于１。方程２６４工程地球物理學(xué)報（ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＥｎｇｉｎｅｅｒｉｎｇＧｅｏｐｈｙｓｉｃｓ）第５卷（１５）式，可以看成模型ｍｉ（ｉ＝１，２，…，Ｎ）擁有Ｄ＋Ｕ＋１位字長的二進(jìn)制表達(dá)式。將（１５）式代人（１３）式，則得：．ＮＵＮＵ廣Ｍ１乒＝一告∑∑∑∑【．一∑２‘晌’Ｇ甌ｊ。ｉ＝１ｍ＝一ＤＪ一１ｐＤ＾＝１ＮＵ廠．Ｍ×既Ｂ，一∑∑【．一告∑（２”Ｇ茸）２Ｂ。ｆ＝１州＝一Ｄ＿Ｉ＝１＋∑（２”Ｇ茸）鞏＋∑∑（２批。Ｇ茸）ＭＭ＾ｆｔ；１±；１ｊ＝１?Ｂ１Ｊ×Ｂ。＋口（１６）式中口是與模型無關(guān)的常數(shù)項。比較（１６）式和（１１）式可以看出，除口以外，兩式具有相同的形式。如果設(shè)口婦＝Ｂ婦（１７）ＭＴ．ｊ。＝『．一∑２‘酬Ｇ，ｉＧ酊］（１８）ＬＩ＝ｌ一ＭＭ０。一一卜?！疲病埃敲隆＃疲ǎ玻矗谴＃┮裕?。Ｉ＝１ｈ＝１ＭＭ＋∑∑（２‘刪’甌Ｇ蚵）Ｂ］（１９）＾＝１ｊ＝１一式中，當(dāng)（ｉ，ｍ）＝（歹，刀）時，Ｌ加＝０。在這種條件下，（１１）式變?yōu)椋海危眨危眨乓灰粊G∑∑∑∑Ｔ叫?？阝毧诩印＃椋剑欤恚揭唬模辏剑保穑模危眨啤疲?。０。ｊ＝１ＰＤ（２０）到此為止，我們已詳細(xì)地論述了在地球物理反問題中應(yīng)用Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)的所遇到的兩個關(guān)鍵問題。下面，讓我們分析一下，利用Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)進(jìn)行線性反演的主要步驟。第一步，根據(jù)已知地質(zhì)、地球物理信息，確定地球物理模型參數(shù)（如厚度、速度、密度、電阻率等）之可能變化范圍，并根據(jù)初始模型參數(shù)的變化范圍和精度，確定表征它們的Ｕ，Ｂ，Ｂｉ，（ｉ＝１，２，…，Ｎ；．ｆ＝１，２，…，（Ｄ＋Ｎ））和Ｂ。第二步，根據(jù)初始模型計算的核函數(shù)甌（ｉ＝１，２，…，Ｍ；ｊ＝１，２，…。Ｎ）和上一步驟確定的Ｕ，Ｄ，Ｂ。按（１７）～（１９）式計算第ｉ個模型參數(shù)相應(yīng)的（Ｄ＋Ｕ）個神經(jīng)元之輸人口西（ｉ＝１，２，…，Ｎ，砣＝１，２，…，（己，＋Ｄ）），神經(jīng)元之間的連結(jié)權(quán)Ｔ面抽（ｉ，Ｊ＝１，２，…，Ｎ；ｍ，７＇／＝１，２，…，（【，＋Ｄ）），以及閾值％（ｉ＝１，２，…，Ｎ，ｍ＝１，２，…，（Ｕ＋Ｄ））等進(jìn)行Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)運算。計算每個模型參數(shù)，ｍｉ，（ｉ＝１，２，…，Ｎ）對應(yīng)的（Ｕ＋Ｄ）個神經(jīng)元之輸出‰（ｉ一１，２，…，Ｎ；ｍ一１，２，…，（Ｕ＋Ｄ））。第三步，根據(jù)計算的輸出口。，按（１７）式求出Ｂ。，再由已經(jīng)得到的Ｕ，Ｄ和Ｂ計算第ｉ個參數(shù)之值。第四步，按（１６）式計算擬合方差，Ｉ的值，如ｊｌ值小于給定的某一正數(shù)ｅ，則將第三步求得的模型參數(shù)作為反演結(jié)果，否則重復(fù)第一到第三步運算，直至符合要求為止。１ＤＭＴＡＮＮ反演圖１５ＣＯＰＲＯＤＩＭＴ資料ＡＮＮ反演法和其它三種方法效果之比較Ｆｉｇ．１５ＡｃｏｍｐａｒｉｓｏｎｍａｐｆｏｒｒｅｓｕｌｔｓｆｒｏｍＣＯＰＲＯＤ］ＭＴｄａｔａｉｎｖｅｒｓｉｏｎｂｙｕｓｉｎｇＡＮＮａｎｄｏｔｈｅｒｔｈｒｅｅｄｉｆｆｅｒｅｎｔｍｅｔｈｏｄｓ圖１５是用Ｈｏｐｆｉｅｌｄ神經(jīng)網(wǎng)絡(luò)反演ＣＯＰＲＯ—ＤＩＭＴ資料的結(jié)果［２７｜。圖中列出了四種一維反演方法（ＮｅｕｒａｌＮｅｔｗｏｒｋ法，ＭｉｎｉｍｕｍＣｒｏｓｓ—Ｅｎｔｒｏｐｙ（ＭＣＥ）法，Ｂｏｓｔｉｃｋ法和ＪｏｎｅｓａｎｄＨｕｔ—ｔｏｎ法）反演同一條ＭＴ曲線的對比結(jié)果?？梢?，ＡＮＮ法結(jié)果還是比較令人滿意的。用Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)進(jìn)行地球物理資料反演時，雖然它能確保收斂，但和常規(guī)反演一樣，也會遇到收斂于目標(biāo)函數(shù)局部極小的問題。因此，初始模型的選擇對反演結(jié)果關(guān)系很大，應(yīng)該盡量使初始模型逼近待求的真實模型，這樣既可以減少計算時間，又可避免陷入局部極小。當(dāng)然，也可以用按Ｙ．Ｚｈａｎｇ［２７］和Ｗａｎｇ［２８］引人正則化Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)的思路，克服了這一缺陷。Ｙ．Ｚｈａｎｇ和Ｗａｎｇ并將它應(yīng)用于地震反褶積和１ｄ、２ｄ，甚至ＭＴ資料的反演，取得了成功。由此可見，將Ｈｏｐｆｉｅｌｄ網(wǎng)絡(luò)用于最優(yōu)化還有著巨大的潛力。參考文獻(xiàn)：Ｄ３靳蕃，范俊波，譚永東．神經(jīng)網(wǎng)絡(luò)與神經(jīng)計算機原理應(yīng)用［Ｍ３．成都：西南交通大學(xué)出版杜。１９９７．第３期王家映：地球物理資料非線性反演方法講座（五）人工神經(jīng)網(wǎng)絡(luò)反演法２６５［２］楊斌．肖慈詢，王斌，等．基于神經(jīng)模糊系統(tǒng)的儲層參數(shù)反演口］．石油與天然氣地質(zhì)，２０００，２１（２）：１７３～１７６．［３］劉爭平，何永富．人工神經(jīng)網(wǎng)絡(luò)在測井解釋中的應(yīng)用［Ｊ］，地球物理學(xué)報，１９９５，３８（增刊）：３２３～３３０．［４］周輝，何椎登。徐世浙．人工神經(jīng)網(wǎng)絡(luò)菲線性地震波形反演［Ｊ］．石油物探，１９９７，３６（１）：６１～７０．［５］李創(chuàng)社，張彥鵬，李實，等．瞬變電磁勘探中的人工神經(jīng)網(wǎng)絡(luò)反演法．西安交通大學(xué)學(xué)報，２００１，３５（６）：６０４～６１５．ｒ－６］黃科，肖慈殉，張哨楠，等．基于神經(jīng)網(wǎng)絡(luò)的儲層識別處理技術(shù)及在塔河油田的應(yīng)用［Ｊ］．物探化探計算技術(shù)，２００６，２８（１）：１８～２１．［７］楊文采．評地球物理反演的發(fā)展趨向［Ｊ］．地學(xué)前緣，２００２，９（４）：３８９～３９６．［８］從爽．面向Ｍａｔｌａｂ工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用［Ｍ］．合肥：中國科學(xué)技術(shù)大學(xué)出版社，１９９６．［９］丁柱，楊長春，陶宏根，等．神經(jīng)網(wǎng)絡(luò)反演雙側(cè)向電阻率測井曲線的物理約束［Ｊ］．地球物理學(xué)迸展，２００２，１７（２）：３３１～３３６．［１０］張玉池，張兆京，溫佩琳．人工神經(jīng)網(wǎng)絡(luò)在地球物理勘探中的應(yīng)用概論［Ｊ］．礦產(chǎn)與地質(zhì)，１９９９，１３（６）：３２０～３２３．［１１］ＣａＭｅｒｏｎ－ＭａｃｉａｓＣ，ＳｅｎＭ，ＳｔｏｆｆａＰ．Ａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｏｒｐａｒａｍｅｔｅｒｅｓｔｉｍａｔｉｏｎｉｎｇｅｏ—ｐｈｙｓｉｃｓ［Ｊ３．ＧｅｏｐｈｙｓｉｃａｌＰｒｏｓｐｅｃｔｉｎｇ，２０００，４８（１）：２１～４７．［１２］ＺｈａｎｇＬｉｎ，ＰｏｕｌｌｏｎＭＭ，ＷａｎｇＴ．Ｂｏｒｅｈｏｌｅｅｌｅｃ—ｔｒｉｃａｌｒｅｓｉｓｔｉｖｉｔｙｍｏｄｅｌｉｎｇｕｓｉｎｇｎｅｕｒａｌｎｅｔｗｏｒｋ［Ｊ］．Ｇｅｏｐｈｙｓｉｃｓ，２００２，６７（６）：１７９０～１７９７．［１３］ＧａｄＥＩ—Ｑａｄｙ，ＫｅｉｓｕｋｅＵｓｈｉｊｉｍａ，ＩｎｖｅｒｓｉｏｎｏｆＤＣｒｅｓｉｓｔｉｖｉｔｙｄａｔａｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．ＧｅｏｐｈｙｓｉｃａｌＰｒｏｓｐｅｃｔｉｎｇ．２００１，４９（４）：４１７～４３０．［１４］徐海浪，吳小平．電阻率二維神經(jīng)網(wǎng)絡(luò)反演［Ｊ］．地球物理學(xué)報，２００６，４９（２）：５８４～５８９．［１５］ＨｕａｎｇＫ，ＬｉｕＷＨ，ＣｈａｎｇＩＣ．Ｈｏｐｆｉｅｌｄｍｏｄｅｌｏｆｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｏｒｄｅｔｅｃｔｉｏｎｏｆｂｒｉｇｈｔｓｐｏｔｓ［Ａ］．ＳＥＧ５９ＥｘｐａｎｄｅｄＡｂｓｔｒａｃｔｓ。１９８９。４４４～４４６。［１６］ＬｉｕＸ，ＸｕｅＰ，ＬｉＰ．Ｎｅｕｒａｌｎｅｔｗｏｒｋｍｅｔｈｏｄｆｏｒｔｒａｃｉｎｇｓｅｉｓｍｉｃｅｖｅｎｔｓ，ＳＥＧ５９ＥｘｐａｎｄｅｄＡｂｓｔｒａｃｔｓ［Ａ］．１９８９．７１６～７１８．［１７］ＭｃＣｏｒｍａｃｋＭＤ，Ｓｅｉｓｍｉｃｔｒａｃｅｅｄｉｔｉｎｇａｎｄｆｉｒｓｔｐｉｃｋｉｎｇｕｓｉｎｇｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ａ］．ＳＥＧ６０Ｅｘｐａｎｄ—ｅｄＡｂｓｔｒａｃｔｓ，１９９０．３２ｌ～３２４．［１８］ＶｅｅｚｈｉｎａｔｈａｎＪ，ＷａｇｎｒｅＤ．Ａｎｅｕｒａｌｎｅｔｗｏｒｋａｐ—ｐｒｏａｃｈｔｏｆｉｒｓｔ～ｂｒｅａｋｐｉｃｋｉｎｇ，ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩｎｔｅｒｎａｔｉｏｎａｌＪｏｉｎｔＣｏｎｆｅｒｅｎｃｅｏｎＮｅｕｒａｌＮｅｔｗｏｒｋｓ［Ａ］．ＳａｎＤｉｅｇｏＣＡ，１。１９９０．２３５～２４０．［１９３ＭｕｒａｔＭＥ，ＲｕｄｍａｎＡＪ．Ａｕｔｏｍａｔｅｄｆｉｒｓｔａｒｒｉｖａｌｐｉｃｋｉｎｇ：Ａｎｅｕｒａｌｎｅｔｗｏｒｋａｐｐｒｏａｃｈ［Ｊ］．Ｇｅｏｐｈｙｓｉ—ｃａｌＰｒｏｓｐｅｃｔｉｎｇ，１９９２，４０（６）：５８７～６０４．［２０］ＲｏｔｈＧ．ＴａｒａｎｔｏｌａＡ．Ｎｅｕｒａｌｎｅｔｗｏｒｋｓａｎｄｉｎｖｅｒ—ｓｉｏｎｏｆｓｅｉｓｍｉｃｄａｔａ［Ｊ］．ＪｏｕｒｎａｌｏｆＧｅｏｐｈｙｓｉｃａｌＲｅｓｅａｒｃｈ１９９４．９９，６７５３～６７６８．［２１］ＲｏｔｈＧ，ＴａｒａｎｔｏｌａＡ．Ｉｎｖｅｒｓｉｏｎｏｆｓｅｉｓｍｉｃｗａｖｅ—ｆｏｒｍｓｕｓｉｎｇｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ａ］．６２“ＳＥＧｍｅｅｔ—ｉｎｇ，ＮｅｗＯｒｌｅａｎｓ，ＵＳＡ，ＥｘｐａｎｄｅｄＡｂｓｔｒａｃｔｓ，１９９２．７８８～７９１．［２２］Ｃａｌｄｅｒｏｎ－－Ｍａｃｉａｓｃ，ｙｅｎＭＫＧｅｏｐｈｙｓｉｃａｌｉｎｔｅｒｐｒｅｔａ—ｔｉｏｎｂｙａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｓｙｓｔｅｍｓ；Ａｆｅａｓｉｂｉｌｉｔｙｓｔｕｄｙ［Ａ］．ｓｌⅪ６３ＥｘｐａｎｄｅｄＡｂｓｔｒａｃｔｓ，１９９３．２５４～２５７．［２３］ＭｉｃｈａｅｌｓＰ．Ｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋｒｅｐｒｅｓｅｎｔａ—ｔｉｏｎｏｆｉｎｅｌａｓｔｉｃｗａｖｅｅｑｕａｔｉｏｎａｎｄｆｕｌｌｗａｖｅｆｏｒｍｉｎ—ｖｅｒｓｉｏｎｗｉｔｈｏｕｔｌｏｃａｌｍｉｎｉｍａ［Ａ］．ＳＥＧ６４Ｅｘｐａｎｄ—ｅｄＡｂｓｔｒａｃｔｓ，１９９４．２２～２５．［２４］ＲｏｔｈＧ，ＴａｒａｎｔｏｌａＡ．Ｉｎｖｅｒｓｉｏｎｏｆｓｅｉｓｍｉｃｗａｖｅ—ｆｏｒｍｓｕｓｉｎｇｎｅｕｒａｌｎｃｔｗｏｒｋｓ［Ａ］．ＳＥＧ６４ＥｘｐａｎｄｅｄＡｂｓｔｒａｅｔｓ．１９９４．７８８～７９１．［２５］ＲｏｔｈｍａｎＤＨ．Ｎｏｎｌｉｎｅａｒｉｎｖｅｒｓｉｏｎ，ｓｔａｔｉｓｔｉｃａｌｍｅ—ｃｈａｎｉｃｓａｎｄｒｅｓｉｄｕａｌｓｔａｔｉｃｅｓｔｉｍａｔｉｏｎ［Ｊ］．Ｇｅｏｐｈｙｓ?ｉｃｓ．１９８５．５０，２７８４～２７９６．［２６］ＳａｍｂｉｒｄｇｅＭＳ，ＴａｒａｎｔｏｌａＡ，Ｋｅｎｎｅｔｔ．Ａｎａｈｅｒｎａ—ｔｉｖｅｓｔｒａｔｅｇｙｆｏｒｎｏｎ——ｌｉｎｅａｒｉｎｖｅｒｓｉｏｎｏｆｓｅｉｓｍｉｃｗａｖｅｆｏｒｍｓ［Ｊ］．ＧｅｏｐｈｙｓｉｃａｌＰｒｏｓｐｅｃｔｉｎｇ，１９９１，３９（６）：７２３～７３６．［２７］ＺｈａｎｇＹ，ＰａｕｌｓｏｎＫＶ．ＭａｇｎｅｔｏｔｅｌｌｕｒｉｃＩｎｖｅｒｓｉｏｎＵｓｉｎｇＲｅｇｕｌａｒｉｚｅｄＨｏｐｆｉｅｌｄＮｅｕｒａｌＮｅｔｗｏｒｋｓ［Ｊ］．ＧｅｏｐｈｙｓｉｃａｌＰｒｏｓｐｅｃｔｉｎｇ，１９９７，４５（５）：７２５～７４３．［２８］Ｌｉ—ＸｉｎＷａｎｇ，ＪｅｒｒｙＭ，Ｍｅｎｄｅｌ，ＡｄａｐｔｉｖｅＭｉｎｉ—ｍｕｍＰｒｅｄｉｃｔｉｏｎ——ｅｒｒｏｒＤｅｃｏｎｖｏｌｕｆｉｏｎａｎｄＳｏｕｒｃｅｗａｖｅｌｅｔｅｓｔｉｍａｔｉｏｎＵｓｉｎｇＨｏｐｆｉｅｌｄＮｅｕｒａｌＮｅｔｗｏｒｋｓ［Ｊ］，Ｇｅｏｐｈｙｓｉｃｓ，１９９２。５７（５）：６７０～６７９．［２９］陳守余，周梅春．人工神經(jīng)網(wǎng)絡(luò)——模擬實現(xiàn)與應(yīng)用［Ｍ］．武漢：中國地質(zhì)大學(xué)出版社，２０００．［３０］王家映．地球物理反演理論［Ｍ］．北京：高等教育出版社，２００２．［３１］王家映．地球物理資料非線性反演方法講座（一）地球物理反演問題概述［Ｊ］．工程地球物理學(xué)報，２００７，４（１）：１～３．［３２］王家映．地球物理資料非線性反演方法講座（二）蒙特卡羅法口］．工程地球物理學(xué)報，２００７，４（２）：８ｌ～８７．［３３］師學(xué)明，王家映．地球物理資料非線性反演方法講座（三）模擬退火法［Ｊ］＇工程地球物理學(xué)報，２００７，４（３）：１６５～１７４．［３４］師學(xué)明，王家映．地球物理資料非線性反演方法講座（四）遺傳算法．工程地球物理學(xué)報，２００８，５（２）：１２９～】４０．地球物理資料非線性反演方法講座(五)人工神經(jīng)網(wǎng)絡(luò)反演法作者：作者單位：刊名：英文刊名：年，卷(期)：被引用次數(shù)：王家映，WangJiaying中國地質(zhì)大學(xué),地球物理與空間信息學(xué)院,武漢,430074工程地球物理學(xué)報CHINESEJOURNALOFENGINEERINGGEOPHYSICS2008，5(3)0次參考文獻(xiàn)(34條)7.楊文采評地球物理反演的發(fā)展趨向[期刊論文]-地學(xué)前緣2002(04)8.從爽面向Matlab工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用199611.Cakleron-MaciasC.SenM.StoffaPArtificialneuralnetworksforp