神經(jīng)網(wǎng)的原理及在金融中的應(yīng)用

人工神經(jīng)網(wǎng)絡(luò)的金融應(yīng)用

——原理及應(yīng)用人工神經(jīng)網(wǎng)絡(luò)方法人工神經(jīng)網(wǎng)絡(luò)背景介紹人工神經(jīng)網(wǎng)絡(luò)原理金融應(yīng)用領(lǐng)域神經(jīng)網(wǎng)絡(luò)的實(shí)證分析人工神經(jīng)網(wǎng)絡(luò)背景介紹對人的腦神經(jīng)的抽象模擬人工神經(jīng)網(wǎng)絡(luò)的發(fā)展史人工神經(jīng)網(wǎng)絡(luò)應(yīng)用領(lǐng)域1從模擬人的腦神經(jīng)出發(fā)

人類大腦分為兩個(gè)半球（左半球-左腦；右半球-右腦）,左腦支配人體的右側(cè),右腦支配人體的左側(cè),

左右腦具有不同的功能。左半球傾向于按順序處理信息，右半球卻習(xí)慣同時(shí)處理信息。

基于邏輯思維，如電子計(jì)算機(jī)就是模擬人腦邏輯思維的人工智能系統(tǒng).

現(xiàn)行計(jì)算機(jī)運(yùn)算速度是人腦神經(jīng)元速度的幾百萬倍計(jì)算機(jī)在解決與形象思維和靈感思維相關(guān)的問題時(shí)，卻顯得無能為力。

人工神經(jīng)網(wǎng)絡(luò)則是探索人的形象思維，即針對右腦的認(rèn)知規(guī)律的研究產(chǎn)物。人工智能工程人類左腦功能人腦與“電腦”的信息處理能力差距：

記憶與聯(lián)想能力方面:人腦具有非凡的創(chuàng)造能力。良好的學(xué)習(xí)和認(rèn)知能力（剛生嬰兒大腦幾乎空白，但是在成長中通過對外界環(huán)境的感知及意識，知識和經(jīng)驗(yàn)與日俱增）。

信息綜合能力方面：人腦善于知識歸納，類比和概括，也可以是經(jīng)驗(yàn)地、模糊地甚至是直覺地做出判斷等。

信息處理速度方面：人腦中的信息處理是以神經(jīng)細(xì)胞為單位，而神經(jīng)細(xì)胞的傳遞速度只能達(dá)毫秒級，比計(jì)算機(jī)電子元件納秒級的計(jì)算速度慢得多。實(shí)際上數(shù)值處理方面確實(shí)如此。但在圖形聲音等類信息的處理方面則不同。如幾個(gè)月嬰兒從人群中一眼認(rèn)出母親，而計(jì)算機(jī)解決此類問題則需要一幅具有幾百萬個(gè)像素的逐點(diǎn)處理，并提取臉譜特征進(jìn)行識別，等等。人腦與電腦的信息處理機(jī)制不同

人腦中的神經(jīng)網(wǎng)絡(luò)是一種高度并行的非線性信息處理系統(tǒng)，雖然單個(gè)神經(jīng)信息處理速度為毫秒級，但大規(guī)模神經(jīng)細(xì)胞（人腦有約1.4×10１１個(gè)）的群體協(xié)同并行處理方式是高效的．而計(jì)算機(jī)采用的是有限集中的串行信息處理機(jī)制（基于馮．諾依曼工作原理VonNeumann）。即存儲(chǔ)器與處理器相互獨(dú)立，處理信息必須是形式化信息（用二進(jìn)制定義）。神經(jīng)元

形成神經(jīng)網(wǎng)絡(luò)

每個(gè)神經(jīng)元有數(shù)以千計(jì)的通道同其他神經(jīng)元互連，形成復(fù)雜的生物神經(jīng)網(wǎng)絡(luò)。生物神經(jīng)網(wǎng)絡(luò)以神經(jīng)元為基本信息處理單元，對信息進(jìn)行分布式存儲(chǔ)與加工。這處信息加工與存儲(chǔ)相結(jié)合的群體協(xié)同工作方式使得人腦呈現(xiàn)出神奇智能。為了模擬人腦形象思維方式，人們從模擬人腦生物神經(jīng)網(wǎng)絡(luò)的信息存儲(chǔ)加工處理機(jī)制入手，設(shè)計(jì)具有人類思維特點(diǎn)的智能機(jī)器，無疑是最有希望的途經(jīng)之一。ANN定義：ANN是以數(shù)學(xué)和物理方法以及信息處理的角度對人腦神經(jīng)網(wǎng)絡(luò)進(jìn)行抽象，并建立某種簡化模型。ANN是生物學(xué)上的真實(shí)人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)以及若干基本特性的某種理論抽象，簡化模擬而構(gòu)成的一種信息處理系統(tǒng)。ANN是采用物理可實(shí)現(xiàn)的系統(tǒng)來模仿人腦神經(jīng)細(xì)胞和結(jié)構(gòu)和功能的系統(tǒng)。

應(yīng)該明確:ANN遠(yuǎn)不是人腦生物神經(jīng)網(wǎng)絡(luò)的真實(shí)寫照，而只是對它的簡化，抽象與模擬。目前已提出上百種ANN模型，這些簡化模型的確能反映出人腦的許多基本特征。它們在模式識別、系統(tǒng)辨識、信號處理、自動(dòng)控制、組合優(yōu)化、預(yù)測估計(jì)、故障診斷、醫(yī)學(xué)與經(jīng)濟(jì)學(xué)等許多領(lǐng)域已成功地解決了許多用計(jì)算機(jī)等方法難解決的實(shí)際問題，表現(xiàn)出良好的智能特征和潛在的應(yīng)用前景。

人工神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)的研究，需要硬件制作技術(shù)的新突破，以便制作出ANN設(shè)備，據(jù)報(bào)道神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)已取得令人矚目的進(jìn)展。

ANN的研究內(nèi)容極具豐富，涉及的面寬而又有相當(dāng)深的理論有待進(jìn)一步研究（涉及多學(xué)科知識）。研究內(nèi)容大體上有基本理論、模型、算法、應(yīng)用和實(shí)現(xiàn)等五大方面，每方面都有很多問題尚未解決或完善解決，尚需用各種方法從各方面開展對ANN進(jìn)行更深入研究。2.人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡史

2.人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡史早期（啟蒙時(shí)期）

1943年,美國心理學(xué)家W.S.MeCuLLoch和數(shù)學(xué)家W.H.Pitts合作,在分析總結(jié)神經(jīng)元基本特性的基礎(chǔ)上，提出神經(jīng)元數(shù)學(xué)模型，簡稱MP模型。從腦科學(xué)研究來看，MP模型是第一個(gè)用數(shù)理語言描述人腦的信息處理過程的模型。后來此模型又有發(fā)展，至今沿用——人工神經(jīng)網(wǎng)絡(luò)之先驅(qū)。1957年,F.Rosenblatt設(shè)計(jì)制作了“感知機(jī)”（Perceptron），是一種三層神經(jīng)網(wǎng)絡(luò)。用于文字、聲音識別、聲納信號識別，及學(xué)習(xí)記憶問題研究。1962年,Widrow和Hoff等提出了自適應(yīng)線性元件網(wǎng)絡(luò)，簡稱Adline（AdaptiveLinearelemlnt），用硬件電路實(shí)現(xiàn)設(shè)計(jì)，用于自適應(yīng)信號處理，雷達(dá)無線控制等方面。低潮期：20世紀(jì)60年代末

人們對感知機(jī)興趣開始衰落，

即線性感知機(jī)功能有限，只能進(jìn)行線性分類和求解一階謂詞問題，不能進(jìn)行非線性分類和解決比較復(fù)雜的高階謂詞問題（如異或（XOR）等）。

學(xué)術(shù)界有地位和影響力的人的悲觀論調(diào)典型代表人物：Minsky和Papert（美麻省理工學(xué)院著名人工智能學(xué)者）（作了大量數(shù)學(xué)研究，在當(dāng)時(shí)技術(shù)條件下，他們在多層網(wǎng)絡(luò)的有效學(xué)習(xí)方法上遇到了極大困難），很多領(lǐng)域的專家紛紛放棄了這方面課題的研究，開始了神經(jīng)網(wǎng)絡(luò)發(fā)展史上長達(dá)10年的低潮期。集成電路和微電子技術(shù)的迅猛發(fā)展

70年代以來集成電路和微電子技術(shù)的迅猛發(fā)展，使傳統(tǒng)的VonNedmann型計(jì)算機(jī)進(jìn)入全盛期，基于邏輯符號處理方法的人工智能（AI）得到迅速發(fā)展并取得顯著成就）復(fù)興時(shí)期（新高潮期）（２０世紀(jì)80年代）

標(biāo)志是美國加州工學(xué)院物理學(xué)家JohnHopfield1982和1984年在美國科學(xué)院院刊上發(fā)表兩篇論文，提出了仿人腦的ANN模型。著名的Hopfield模型，獲得工程技術(shù)與學(xué)術(shù)界的重視。Hopfield的主要貢獻(xiàn)是：根據(jù)網(wǎng)絡(luò)的非線性微分方程，引用能量函數(shù)（Lyapunov函數(shù)——李雅普諾夫函數(shù)）的概念，使ANN的平衡穩(wěn)定狀態(tài)有了明確的判據(jù)方法；利用模擬電路的基本元件構(gòu)作了ANN的硬件原理模型，為硬件實(shí)現(xiàn)奠定了基礎(chǔ)。開拓了神經(jīng)網(wǎng)絡(luò)用于聯(lián)想記憶和優(yōu)化計(jì)算等方面的新途徑。

人們重認(rèn)識到ANN的威力，大批學(xué)者和研究人員圍繞Hopield新方法開展進(jìn)一步工作，使該學(xué)科研究升溫。1985年，TerrenceSejnowski和Hinton.Ackley提出Bottzmann（玻爾茲曼）機(jī)，首次采用多層網(wǎng)絡(luò)的學(xué)習(xí)算法，并用模擬退火過程來模擬外界環(huán)境。

1986年,Rumelhart和Mc.Clelland提出多層網(wǎng)絡(luò)的“逆推”（或稱“反傳”backpropation）學(xué)習(xí)算法，簡稱BP網(wǎng)絡(luò)。BP迄今為止，是用的比較廣泛和流行的最普通的網(wǎng)絡(luò)。新時(shí)期（熱潮期（80年代后期到現(xiàn)今））

1987年國際神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)成立（INNS）宣告神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)學(xué)科的誕生。掀起人類向生物學(xué)習(xí)，研究和開發(fā)及應(yīng)用神經(jīng)網(wǎng)絡(luò)的熱潮。

1991年IJCNN（國際聯(lián)合神經(jīng)網(wǎng)絡(luò)會(huì)議）主席D.Rumelhart在開幕詞中講到“神經(jīng)網(wǎng)絡(luò)的發(fā)展已進(jìn)入轉(zhuǎn)折點(diǎn)，它的范圍正在不斷擴(kuò)大，領(lǐng)域幾乎包括各個(gè)方面”。(1)理論上導(dǎo)求研究新進(jìn)展(2)人工神經(jīng)網(wǎng)絡(luò)技術(shù)與當(dāng)前技術(shù)相結(jié)合現(xiàn)在ANN技術(shù)正進(jìn)入和AI（人工智能），視覺與語聲識別系統(tǒng)，專家系統(tǒng)、機(jī)器人以及化學(xué)和醫(yī)學(xué)等的結(jié)合。目前各國發(fā)展重點(diǎn)是以應(yīng)用為導(dǎo)向，以發(fā)展高性能的混合計(jì)算機(jī)為目標(biāo)。

(3)應(yīng)用領(lǐng)域廣泛新時(shí)期特點(diǎn)我國ANN研究現(xiàn)狀

1988年，北京大學(xué)組織召開了第一次關(guān)于神經(jīng)網(wǎng)絡(luò)的討論會(huì)，一些知名學(xué)者在會(huì)上作了專題報(bào)告。

1989年，北京和廣州等地召開了神經(jīng)網(wǎng)絡(luò)及其應(yīng)用討論會(huì)和第一屆全國信號處理——神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會(huì)議。

1990年12月，由中國電子學(xué)會(huì)及計(jì)算機(jī)學(xué)會(huì)等八個(gè)學(xué)會(huì)聯(lián)合發(fā)起并組織了中國第一次神經(jīng)網(wǎng)絡(luò)會(huì)議，參加人數(shù)400余人，搜集到會(huì)議記錄中的論文358篇，內(nèi)容涉及生物、人工神經(jīng)網(wǎng)絡(luò)模型、理論、分析應(yīng)用及實(shí)現(xiàn)等各方面。

1991年12月由13個(gè)單位發(fā)起和組織召開第二次全國神經(jīng)網(wǎng)絡(luò)會(huì)議，錄用論文280篇。在南京成立中國神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)。

1992年中國神經(jīng)網(wǎng)絡(luò)委員會(huì)在北京承辦了世界性的國際神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)大會(huì)。經(jīng)過10幾年的發(fā)展，我國人工神經(jīng)網(wǎng)絡(luò)和研究和應(yīng)用正邁向新的高科技時(shí)代。3人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用領(lǐng)域主要介紹一下幾個(gè)主要應(yīng)用領(lǐng)域。信息領(lǐng)域信號處理：自適應(yīng)信號處理和非線性信號處理都可以。模式識別：可以處理靜態(tài)模式如固定圖象，固定能譜等，還可以處理動(dòng)態(tài)模式如視頻圖象，連續(xù)語音等。數(shù)據(jù)壓縮：自動(dòng)化領(lǐng)域系統(tǒng)辨識：如自動(dòng)控制中，被控對象的數(shù)學(xué)模型建立等問題。神經(jīng)控制器：控制器在實(shí)時(shí)控制系統(tǒng)中起著“大腦”的作用，神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)和自適應(yīng)等智能特點(diǎn)非常適合作控制器。近年神經(jīng)網(wǎng)絡(luò)控制器在工業(yè)、航空以及機(jī)器人等領(lǐng)域的控制系統(tǒng)中取得了可喜的應(yīng)用成果。智能檢測：檢測中對干擾量的處理、傳感器輸入輸出特性的非線性補(bǔ)償零點(diǎn)和量程的自動(dòng)校正以及自動(dòng)診斷等。

工程領(lǐng)域（1）汽車工程：利用神經(jīng)網(wǎng)絡(luò)的非線性映射能力，通過學(xué)習(xí)優(yōu)秀駕駛員的換擋經(jīng)驗(yàn)數(shù)據(jù)，可自動(dòng)提取最佳擋規(guī)律。神經(jīng)網(wǎng)絡(luò)在汽車的最佳剎車系統(tǒng)ABS的智能控制中應(yīng)用；神經(jīng)網(wǎng)絡(luò)在重載車柴油機(jī)燃燒系統(tǒng)方案優(yōu)化中的應(yīng)用等。

（2）軍事工程神經(jīng)網(wǎng)絡(luò)同紅外搜索與跟蹤系統(tǒng)配合實(shí)現(xiàn)發(fā)現(xiàn)和跟蹤飛行器；借助神經(jīng)網(wǎng)絡(luò)的語音分析與信號處理的經(jīng)驗(yàn)，對聲納信號進(jìn)行分析研究，對水下目標(biāo)的識別率可達(dá)90%；密碼學(xué)方面應(yīng)用如：語音開關(guān)、指紋開關(guān)。（3）化學(xué)工程

制藥配方、生物化學(xué)、化學(xué)工程等領(lǐng)域取得不少應(yīng)用成果。（4）水利工程水利發(fā)電過程辨識和控制、河流水質(zhì)分類、水資源規(guī)劃、供壩優(yōu)化設(shè)計(jì)、巖土類型識別、工程造價(jià)分析等。醫(yī)學(xué)領(lǐng)域（1）檢測數(shù)據(jù)分析

神經(jīng)網(wǎng)絡(luò)在許多醫(yī)學(xué)檢測設(shè)備中應(yīng)用普遍。如用ANN進(jìn)行多適腦電棘波的檢測，對早期癲癇病人進(jìn)行實(shí)時(shí)檢測預(yù)報(bào)。（2）生物活性研究ANN對生物學(xué)檢測數(shù)據(jù)進(jìn)行分析。如分子致癌性的ANN預(yù)測具有生物學(xué)檢測不具備的優(yōu)點(diǎn)。（3）醫(yī)療診斷設(shè)備的專家系統(tǒng)中有許多應(yīng)用。

以非線性并行分布或處理為基礎(chǔ)的ANN為專家系統(tǒng)的研究開辟了新途經(jīng)，特別在并行推理等問題取得了良好效果。經(jīng)濟(jì)領(lǐng)域（1）信貸分析，如：信用評估系統(tǒng)等。（2）市場預(yù)測，如：股票趨勢預(yù)測等等。人工神經(jīng)網(wǎng)絡(luò)原理ANN的結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則傳統(tǒng)統(tǒng)計(jì)模型與神經(jīng)網(wǎng)絡(luò)ANN模型的選擇ANN中的統(tǒng)計(jì)推斷構(gòu)建模型時(shí)需注意的兩個(gè)方面神經(jīng)網(wǎng)絡(luò)模型的種類

按照拓?fù)浣Y(jié)構(gòu)可以分為反饋神經(jīng)網(wǎng)絡(luò)模型和前向神經(jīng)網(wǎng)絡(luò)模型；按照性能可以分為連續(xù)型和離散型神經(jīng)網(wǎng)絡(luò)模型，確定型和隨機(jī)型神經(jīng)網(wǎng)絡(luò)模型；按照學(xué)習(xí)方式可以分為有教師學(xué)習(xí)和無教師學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)；按照連接突觸性質(zhì)可以分為一階線性關(guān)聯(lián)神經(jīng)網(wǎng)絡(luò)模型和高階非線性關(guān)聯(lián)神經(jīng)網(wǎng)絡(luò)模型。常見的人工神經(jīng)網(wǎng)絡(luò)模型，主要包括感知器（Perceptron）神經(jīng)網(wǎng)絡(luò)、線性神經(jīng)網(wǎng)絡(luò)、前饋神經(jīng)網(wǎng)絡(luò)、徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)、自組織競爭神經(jīng)網(wǎng)絡(luò)、回歸神經(jīng)網(wǎng)絡(luò)等。神經(jīng)網(wǎng)絡(luò)模擬了一個(gè)具有許多相對簡單的個(gè)體單元高度聯(lián)系、平行計(jì)算的結(jié)構(gòu)。個(gè)體單元編成三層：輸入層、中間層和輸出層。前饋網(wǎng)絡(luò)單方向?qū)⑤斎胗成涑奢敵?，即從輸入層到中間層再到輸出層。ANN的結(jié)構(gòu)其中F、G是傳遞函數(shù)可以解釋為代表所描述的三層前饋神經(jīng)網(wǎng)絡(luò)的非線性函數(shù)。

人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程，一般是，1、首先設(shè)定初時(shí)權(quán)值，如果無先驗(yàn)的知識，初時(shí)權(quán)值可設(shè)定為隨機(jī)值。2、接著輸入樣本數(shù)據(jù)進(jìn)行學(xué)習(xí)，參照評價(jià)標(biāo)準(zhǔn)進(jìn)行評判。3、如果達(dá)到要求，就停止學(xué)習(xí)，否則按照給定的學(xué)習(xí)法則調(diào)整權(quán)值，繼續(xù)進(jìn)行學(xué)習(xí)，直到取得滿意的結(jié)果為止。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，主要包括誤差傳播式學(xué)習(xí)、聯(lián)想學(xué)習(xí)、競爭性（Competitive）學(xué)習(xí)和基于知識的學(xué)習(xí)等。各種學(xué)習(xí)規(guī)則都是以Hebb規(guī)則為基礎(chǔ)的。ANN最廣泛的學(xué)習(xí)規(guī)則是誤差后向傳遞（errorbackpropagation），是二十世紀(jì)八十年代中期引發(fā)多層神經(jīng)網(wǎng)絡(luò)的興趣再度空前高漲的一個(gè)主要原因無監(jiān)督學(xué)習(xí)規(guī)則，赫布認(rèn)為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程最終是發(fā)生在神經(jīng)元之間的突觸部位，突觸的聯(lián)結(jié)強(qiáng)度隨著突觸前后神經(jīng)元的活動(dòng)而變化，變化的量與兩個(gè)神經(jīng)元的活性之和成正比。Hebb學(xué)習(xí)規(guī)則是一個(gè)無監(jiān)督學(xué)習(xí)規(guī)則，這種學(xué)習(xí)的結(jié)果是使網(wǎng)絡(luò)能夠提取訓(xùn)練集的統(tǒng)計(jì)特性，從而把輸入信息按照它們的相似性程度劃分為若干類。后傳法是一種遞歸梯度下降法，它通過向下移動(dòng)誤差曲線的梯度，使得系統(tǒng)的誤差平方和達(dá)到最小。多元線性回歸模型可以表示成一個(gè)簡單的二層前饋網(wǎng)絡(luò)，它具有線性傳遞函數(shù)F(a)=a傳統(tǒng)統(tǒng)計(jì)模型與神經(jīng)網(wǎng)絡(luò)如果輸出的滯后值作為網(wǎng)絡(luò)的輸入，就得到AR(d)時(shí)間序列方程

盡管ANN可以是通用的近似形式，但最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)卻不是自動(dòng)確定的。在任何金融應(yīng)用中，開發(fā)一個(gè)最優(yōu)網(wǎng)絡(luò)，需要ANN模型的選擇（1）識別相關(guān)的輸入和輸出；（2）選擇適當(dāng)?shù)木W(wǎng)絡(luò)結(jié)構(gòu)，包括隱蔽層和隱蔽層單元的必要個(gè)數(shù)；（3）使用適當(dāng)?shù)哪Ｐ驮u價(jià)準(zhǔn)則。網(wǎng)絡(luò)輸入和輸出變量的選擇及數(shù)據(jù)的質(zhì)量是ANN應(yīng)用成功的關(guān)鍵，在實(shí)踐中，通常用模型的自變量作為網(wǎng)絡(luò)的輸入，而用因變量作為網(wǎng)絡(luò)的輸出。ANN的輸入和輸出如果有超乎要求的更多的自變量包括在網(wǎng)絡(luò)的輸入中，則要用到降維方法。1、主成分分析2、因子分析3、逐步回歸方法為了將輸入和輸出中量綱的影響減至最小，同時(shí)又提高學(xué)習(xí)算法的有效性，通常對數(shù)據(jù)集進(jìn)行標(biāo)準(zhǔn)化處理.ANN的輸入和輸出數(shù)據(jù)的質(zhì)量以及數(shù)據(jù)集代表總體的適當(dāng)程度是非常重要的。培育和檢驗(yàn)一個(gè)ANN，具有足夠的數(shù)據(jù)也是很重要的。ANN的結(jié)構(gòu)確定隱蔽層和隱蔽層單元的必要個(gè)數(shù)輸入和輸出確定ANN的結(jié)構(gòu)由于二層ANN能力的局限性,經(jīng)常使用有至少一個(gè)中間層的網(wǎng)絡(luò)Cybenko（1988)至多兩個(gè)隱敝層一個(gè)隱敝層以任意準(zhǔn)的精度近似足以近似一組特殊的函數(shù)任何連續(xù)函數(shù)ANN的結(jié)構(gòu)隱蔽單元的個(gè)數(shù)k的選擇k值太小k值太大ANN不能按要求的準(zhǔn)確度近似y=f(x)過度擬合1、分析法，即用代數(shù)或統(tǒng)計(jì)分析來確定先驗(yàn)的隱蔽單元個(gè)數(shù)。2、結(jié)構(gòu)方法，根據(jù)需要一個(gè)接一個(gè)地構(gòu)筑隱蔽層單元；3、網(wǎng)絡(luò)修剪（networkpruning）法，以相反方向運(yùn)作，修剪網(wǎng)絡(luò)并去除掉“多余的”或靈敏度最低的連接。已經(jīng)提出了幾個(gè)經(jīng)驗(yàn)法則；例如，連接的個(gè)數(shù)不能少于0.1T，隱蔽單元的個(gè)數(shù)是（T-1）或log2T，這里T是樣本容量。ANN的評價(jià)準(zhǔn)則（1）均方誤差（MSE）和均方根誤差（RMSE）：（2）平均絕對誤差（MAE）和平均絕對百分誤差（MAPE）：（3）可決系數(shù)（）（4）Akaike信息準(zhǔn)則（AIC）：AIC調(diào)整MSE以說明模型的復(fù)雜性（5）7）Schwarz信息準(zhǔn)則（SIC），或貝葉斯信息準(zhǔn)則（BIC）：皮爾遜（Pearson）相關(guān)系數(shù)（ρ）Theil不等式系數(shù)（U）預(yù)測隨機(jī)復(fù)雜性（PSC）方向準(zhǔn)確度（DA）和混淆比率(confusionrate,CR）：ANN中的統(tǒng)計(jì)推斷很少有關(guān)于ANN應(yīng)用的實(shí)證研究報(bào)告了置信區(qū)間或進(jìn)行假設(shè)檢驗(yàn)，這是因?yàn)锳NN通常不具備古典的統(tǒng)計(jì)性質(zhì)。Lebaron和Weigend（1994）提出自助(bootstrap)方法確定神經(jīng)網(wǎng)絡(luò)的質(zhì)量可靠性計(jì)算量非常大提供了更穩(wěn)健的預(yù)測

構(gòu)建模型時(shí)需注意的兩個(gè)方面收斂性和局部極小值：對于多層網(wǎng)絡(luò)，誤差曲面可能含有多個(gè)不同的局部極小值，梯度下降可能陷入這些極小值中的任何一個(gè)。因些對于多層網(wǎng)絡(luò)，反向傳播算法僅能保證收斂到誤差E的某個(gè)局部極小值，不一定收斂到全局最小誤差。過度擬合問題：如果權(quán)值調(diào)整迭代次數(shù)足夠多，反向傳播算法經(jīng)常會(huì)產(chǎn)生過度復(fù)雜的決策面，擬合了訓(xùn)練數(shù)據(jù)中的噪聲和訓(xùn)練樣例中沒有代表性的特征。這個(gè)過度擬合問題與決策樹學(xué)習(xí)中的過度擬合問題相似。收斂性和局部極小值使用同樣的數(shù)據(jù)訓(xùn)練多個(gè)網(wǎng)絡(luò)，但用不同的隨機(jī)權(quán)值初始化每個(gè)網(wǎng)絡(luò)。如果不同的訓(xùn)練產(chǎn)生不同的局部極小值，那么分離的驗(yàn)證集合性能最好的那個(gè)網(wǎng)絡(luò)將被選中。保留所有的網(wǎng)絡(luò)，并且把它們當(dāng)作一個(gè)網(wǎng)絡(luò)“委員會(huì)”，它們的輸出是每個(gè)網(wǎng)絡(luò)輸出的平均值（可能加權(quán)）。過度擬合問題過度擬合問題幾種解決反向傳播中的過度擬合問題的方法：權(quán)值衰減（weightdecay）：它在每次迭代過程中以某個(gè)小因子降低每個(gè)權(quán)值。這等效于修改E的定義，加入一個(gè)與網(wǎng)絡(luò)權(quán)值的總量相應(yīng)的懲罰項(xiàng)。此方法的動(dòng)機(jī)在保持權(quán)值較小，從而使學(xué)習(xí)過程向著復(fù)雜決策面的反方向偏置。提供驗(yàn)證數(shù)據(jù)（validationdata）：確定權(quán)值調(diào)整迭代次數(shù)，使用在驗(yàn)證集合上產(chǎn)生最小誤差的迭代次數(shù)。過度擬合問題k-fold交叉驗(yàn)證(k-foldcross-validation)方法：進(jìn)行k次不同的交叉驗(yàn)證，每次使用數(shù)據(jù)的不同分割作為訓(xùn)練集合和驗(yàn)收證集合，然后對結(jié)果進(jìn)行平均。m個(gè)實(shí)例m/km/km/k訓(xùn)練集驗(yàn)證集k次試驗(yàn)每次試驗(yàn)得到一個(gè)最佳性能的迭代次數(shù)i人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)和優(yōu)越性：具有自學(xué)習(xí)功能；具有聯(lián)想存儲(chǔ)功能；具有高速尋找優(yōu)化解的能力。人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)：訓(xùn)練時(shí)間長；沒有最優(yōu)算法可以確保得到全局最小值；ANN的統(tǒng)計(jì)性質(zhì)通常難以獲得，因而不能進(jìn)行統(tǒng)計(jì)推斷；培育出的ANN模型難以解釋。金融應(yīng)用領(lǐng)域——期權(quán)定價(jià)、破產(chǎn)預(yù)測、匯率預(yù)測、股票市場ANN金融應(yīng)用領(lǐng)域:期權(quán)定價(jià)Hutchinson，Lo和Poggio（1994）完成了神經(jīng)網(wǎng)絡(luò)進(jìn)行期權(quán)定價(jià)的第一個(gè)著名的研究，揭示了神經(jīng)網(wǎng)絡(luò)定價(jià)公式的潛在價(jià)值。結(jié)果，網(wǎng)絡(luò)公式在樣本外期權(quán)定價(jià)和delta套期保值的應(yīng)用上被證實(shí)是成功的。而后，這個(gè)網(wǎng)絡(luò)被用來對1987年－1991年的S&P500期貨期權(quán)進(jìn)行定價(jià)和delta套期保值。結(jié)果顯示神經(jīng)網(wǎng)絡(luò)優(yōu)于Black-Scholes公式。C=S·N(d1)-X·exp(-r·T)·N(d2)其中:d1=[ln(S/X)+(r+σ^2/2)T]/(σ√T)d2=d1-σ·√TC—期權(quán)初始合理價(jià)格X—期權(quán)執(zhí)行價(jià)格S—所交易金融資產(chǎn)現(xiàn)價(jià)T—期權(quán)有效期r—連續(xù)復(fù)利計(jì)無風(fēng)險(xiǎn)利率σ—股票連續(xù)復(fù)利（對數(shù)）回報(bào)率的年度波動(dòng)率（標(biāo)準(zhǔn)差）N(d1)，N(d2）—正態(tài)分布變量的累積概率分布函數(shù)，ANN金融應(yīng)用領(lǐng)域:破產(chǎn)預(yù)測人們在破產(chǎn)預(yù)測方面已經(jīng)做了大量的研究工作，使用的標(biāo)準(zhǔn)工具是判別分析（DA）和logit模型，Tam和Kiang（1992）在用19個(gè)金融比率對1985年到1987年德克薩斯州銀行倒閉進(jìn)行預(yù)測時(shí)，將神經(jīng)網(wǎng)絡(luò)方法和線性判別分析、logit模型及其他方法進(jìn)行了比較。使用jackknife方法得到錯(cuò)判率的無偏估計(jì)。對原始的后傳算法進(jìn)行修正，使之包括銀行倒閉的先驗(yàn)概率和錯(cuò)判成本，在I型錯(cuò)誤和II型錯(cuò)誤之間均衡。實(shí)證研究結(jié)果顯示神經(jīng)網(wǎng)絡(luò)比其他可選擇方法具有更高的預(yù)測準(zhǔn)確度，而且有一個(gè)隱蔽層的神經(jīng)網(wǎng)絡(luò)優(yōu)于二層網(wǎng)絡(luò)。

匯率的不可預(yù)測性廣為人知。多數(shù)不可預(yù)測的結(jié)論是由線性時(shí)間序列方法得出的，因而匯率的線性不可預(yù)測性可能應(yīng)歸于線性模型的局限性。

自從1980年以來，已經(jīng)發(fā)現(xiàn)了非線性的證據(jù)。作為一種函數(shù)形式靈活的非線性模型，ANN可以提高預(yù)測的準(zhǔn)確度。ANN金融應(yīng)用領(lǐng)域:匯率預(yù)測Kuan和Liu（1995）研究神經(jīng)網(wǎng)絡(luò)在五種貨幣對美元匯率的樣本外預(yù)測能力，發(fā)現(xiàn)對日元和英鎊而言ANN被發(fā)現(xiàn)具有顯著的市場同步能力英鎊、加拿大元、德國馬克、日元和瑞士法郎加拿大元和德國馬克而言，所選的網(wǎng)絡(luò)僅有二流的表現(xiàn)Diebold和Nason（1990）ANN的匯率變化預(yù)測方向的預(yù)測很有用處，不便于進(jìn)行數(shù)量大小的預(yù)測由于ANN具有歸納、適應(yīng)和穩(wěn)健的性質(zhì)，大量的研究致力于將ANN用于預(yù)測股票收益。但迄今為止取得的成功還相當(dāng)有限。ANN金融應(yīng)用領(lǐng)域:股票市場預(yù)測Chuah（1993）紐約證券交易所股票指數(shù)收益率預(yù)測能力檢驗(yàn)顯示網(wǎng)絡(luò)的預(yù)測誤差和基準(zhǔn)線性模型沒有顯著的差異，而且網(wǎng)絡(luò)不具有市場同步能力Refenes，Zapranis和Francis（1995）研究表明在股票收益的多因素動(dòng)態(tài)模型，即APT的動(dòng)態(tài)形式中，神經(jīng)網(wǎng)絡(luò)是線性回歸的上好替代55雖然ANN在期權(quán)定價(jià)和分類問題上已經(jīng)取得了很大的成功，但ANN在匯率預(yù)測和股票市場預(yù)測方面的成果就沒有那么引人注目了。ANN金融方面應(yīng)用股票市場匯率預(yù)測期權(quán)定價(jià)破產(chǎn)預(yù)測神經(jīng)網(wǎng)絡(luò)的實(shí)證分析ANN的實(shí)例分析1.公司財(cái)務(wù)預(yù)警預(yù)測——分類問題2.上證指數(shù)的開盤指數(shù)預(yù)測——時(shí)間序列問題1.公司財(cái)務(wù)預(yù)警預(yù)測背景公司財(cái)務(wù)預(yù)警系統(tǒng)是為了防止公司財(cái)務(wù)系統(tǒng)偏離預(yù)期目標(biāo)而建立的報(bào)警系統(tǒng)，具有針對性和預(yù)測性等特點(diǎn)。它通過公司的各項(xiàng)財(cái)務(wù)指標(biāo)來綜合評價(jià)并預(yù)測公司財(cái)務(wù)狀況、發(fā)展趨勢和變化，為決策者科學(xué)決策提供支持。

財(cái)務(wù)危機(jī)預(yù)警指標(biāo)體系中的指標(biāo)包括盈利能力指標(biāo)、償還能力指標(biāo)、成長能力指標(biāo)、線性流量指標(biāo)等。ST制度針對的對象是出現(xiàn)財(cái)務(wù)狀況或其他狀況異常的上市公司，這類公司的股票交易會(huì)被進(jìn)行特別處理，簡稱前冠以“ST”，稱為ST股。數(shù)據(jù)來源

以2007年與2008年我國滬深兩市首次被ST的38家制造業(yè)上市公司對象，從中選取30家ST公司與30家正常的制造業(yè)公司作為訓(xùn)練樣本，剩下的的8家與8家正常的制造業(yè)公司作為測試樣本。1.公司財(cái)務(wù)預(yù)警預(yù)測數(shù)據(jù)集變量因變量：公司類型（分類變量：0表示正常，1表示ST）自變量：剩下的26個(gè)財(cái)務(wù)指標(biāo)（盈利能力、償還能力、成長能力流動(dòng)能力等）1.公司財(cái)務(wù)預(yù)警預(yù)測數(shù)據(jù)預(yù)處理：

變量中心標(biāo)準(zhǔn)化1.公司財(cái)務(wù)預(yù)警預(yù)測人工神經(jīng)網(wǎng)絡(luò)分類模型——R語言代碼實(shí)現(xiàn)函數(shù)nnet介紹：單層的前饋反向傳播神經(jīng)網(wǎng)絡(luò)算法nnet(formula,data,subset,size,rang,linout=F,decay,maxit=200)主要的參數(shù)說明:formula:公式data:數(shù)據(jù)集subset:給出數(shù)據(jù)集要訓(xùn)練的樣本下標(biāo)size:隱層結(jié)點(diǎn)數(shù)range:初始化隨機(jī)權(quán)重的范圍linout:值為F表示分類方法，值為T表示回歸方法decay,:值是遞減的(可以防止過擬合)maxit,最大迭代次數(shù);注：對于其他參數(shù)設(shè)置，參考R的help文檔1.公司財(cái)務(wù)預(yù)警預(yù)測人工神經(jīng)