第1講智能信息處理概述

1、智能信息處理概述智能信息處理概述周亞同Introduction on Intelligent Information Processing主要內(nèi)容主要內(nèi)容2 智能信息處理主要研究內(nèi)容智能信息處理主要研究內(nèi)容4 智能信息處理仿真平臺智能信息處理仿真平臺( (含演示含演示) ) 5 智能信息處理應(yīng)用實(shí)例智能信息處理應(yīng)用實(shí)例( (含演示含演示) )3 相關(guān)研究學(xué)科相關(guān)研究學(xué)科( (機(jī)器學(xué)習(xí)與模式識別機(jī)器學(xué)習(xí)與模式識別) ) 1 智能信息處理基本概念智能信息處理基本概念1 智能信息處理基本概念智能信息處理基本概念數(shù)據(jù)數(shù)據(jù)（Data）：是客觀事物屬性、數(shù)量、位置及其相互關(guān)系等的抽象表示； 實(shí)例：“131

2、4”信息信息（Information）：是數(shù)據(jù)所表示的內(nèi)在涵義；知識知識（Knowledge）：是以多種方式把一個(gè)或多個(gè)信息關(guān)聯(lián)在一起的結(jié)構(gòu)；智力智力（Wisdom）：運(yùn)用知識和經(jīng)驗(yàn)判斷和解決問題的能力；智能智能（Intelligence）：知識集合與智力的綜合稱為智能。智能可分為生物智能（生物智能（BI）和非生物智能非生物智能兩種，非生物智能包括人工智能人工智能(AI)和計(jì)算智能計(jì)算智能(CI)。 BI(Biological Intelligence)亦稱自然智能(NI)。由于BI是人類從自身的角度來闡述的，所以它表征人類智能活動(dòng)的一些特征。有目的性、綜合性和學(xué)習(xí)擴(kuò)展性 。AI是由非生物生命

3、方法產(chǎn)生的智能，它總是和符號、邏輯、規(guī)則、推理聯(lián)系起來。CI是由美國學(xué)者James Bezdek于1992年首先提出來的，它是生物智能的計(jì)算模擬，即用計(jì)算機(jī)模擬和再現(xiàn)人類的某些智能行為。 生物智能（生物智能（BI）、人工智能）、人工智能(AI)、計(jì)算智能、計(jì)算智能(CI)的區(qū)別的區(qū)別智能ABC分層模式2 智能信息處理主要研究內(nèi)容智能信息處理主要研究內(nèi)容什么是智能信息處理什么是智能信息處理 智能信息處理就是模擬人或其它生物處理信息的行為，建立處理復(fù)雜系統(tǒng)信息的理論、算法和系統(tǒng)的一些方法和技術(shù)。 智能信息處理的最大特點(diǎn)是不需要建立問題的精確描述，非常適合于處理那些因?yàn)殡y以建立有效的形式化模型，而用

4、傳統(tǒng)方法難以解決、甚至無法解決的問題，特別是對不確定性系統(tǒng)和不確定性現(xiàn)象等問題的處理具有獨(dú)特優(yōu)勢。 智能信息處理是現(xiàn)代信息科學(xué)中發(fā)展最快且應(yīng)用前景非常廣闊的一門嶄新的重要學(xué)科，是信息科學(xué)當(dāng)前熱門的研究焦點(diǎn)之一，在各個(gè)領(lǐng)域都取得了良好的應(yīng)用效果；智能信息處理主要研究內(nèi)容智能信息處理主要研究內(nèi)容 常見智能信息處理模型常見智能信息處理模型 人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò) 支持向量機(jī)、高斯過程模型支持向量機(jī)、高斯過程模型混合模型、概率圖模型、隱變量模型、顯著度框架、成分分析模型等 模糊數(shù)學(xué)與模糊智能模糊數(shù)學(xué)與模糊智能智能信息處理主要研究內(nèi)容（續(xù)）智能信息處理主要研究內(nèi)容（續(xù)） 遺傳算法與進(jìn)化計(jì)算遺傳算法與進(jìn)

5、化計(jì)算進(jìn)化計(jì)算(EC)遺傳算法 GA進(jìn)化規(guī)劃 EP進(jìn)化策略 ES群智能算法其他進(jìn)化算法 蟻群算法 Ant Colony Optimization (ACO) 粒子群算法 Particle Swarm Optimization (PSO) 魚群算法 Fish Swarm Optimization (FSO)免疫算法(Immune Algorithm) ;克隆選擇算法(Clonal Selection Algorithm) ；人工內(nèi)分沁系統(tǒng)(Artificial Endocrine System) ；荷爾蒙算法(Hormonal Algorithm) ；細(xì)菌趨藥性算法(Bacterial chem

6、otaxis algorithm) ；DNA計(jì)算(DNA Calculation) ；膜計(jì)算(membrane computing) ，等等。智能信息處理主要研究內(nèi)容（續(xù)）智能信息處理主要研究內(nèi)容（續(xù)） 混沌與分形混沌與分形 粗糙集粗糙集 量子計(jì)算量子計(jì)算最早由IBM的科學(xué)家R. Landauer及C. Bennett于70年代提出，是對于一個(gè)或多個(gè)量子比特 (qubit)或量子三元 (qutrit)以上進(jìn)行操作，以達(dá)到具有量子特性的演算功能?；煦缡乾F(xiàn)象的深化，而分形則是結(jié)構(gòu)的深化。這兩項(xiàng)發(fā)現(xiàn)使人類對自然規(guī)律和社會(huì)現(xiàn)象的認(rèn)識發(fā)生了革命性的變革，提高到一個(gè)新的階段。是一種刻劃不完整性和不確定性的

7、數(shù)學(xué)工具 ，能有效地分析和處理不精確、不一致、不完整等各種不完備信息，并從中發(fā)現(xiàn)隱含的知識，揭示潛在的規(guī)律。主要包括屬性約簡和規(guī)則提取兩個(gè)內(nèi)容。3 相關(guān)研究學(xué)科相關(guān)研究學(xué)科( (機(jī)器學(xué)習(xí)與模式識別機(jī)器學(xué)習(xí)與模式識別) ) 13機(jī)器學(xué)習(xí)與模式識別機(jī)器學(xué)習(xí)與模式識別q 直觀地定義讓機(jī)器擁有類似人類的學(xué)習(xí)能力；q 機(jī)器學(xué)習(xí)是人工智能的重要分支；q 模式識別可以看作是機(jī)器學(xué)習(xí)的特例。人工智能人工智能機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)模式模式識別識別q 如果在人工智能上有所突破，以至于機(jī)器能夠?qū)W習(xí)，那么它將價(jià)值10個(gè)微軟。 B.Gates，2004機(jī)器學(xué)習(xí)實(shí)例機(jī)器學(xué)習(xí)實(shí)例x例例1 1：判斷 是“紅心”還是“月亮”x例例2

8、 2：判斷 是數(shù)字“6”還是數(shù)字“9”xx機(jī)器學(xué)習(xí)實(shí)例機(jī)器學(xué)習(xí)實(shí)例( (續(xù)續(xù)) )例例3: 3: 判斷人臉表情七類表情5010015020025050100150200250？機(jī)器學(xué)習(xí)實(shí)例機(jī)器學(xué)習(xí)實(shí)例( (續(xù)續(xù)) )例例4: 4: 判斷音樂風(fēng)格歡快音樂悲傷音樂音樂片段（風(fēng)格未知）？機(jī)器學(xué)習(xí)在日常生活中的應(yīng)用機(jī)器學(xué)習(xí)在日常生活中的應(yīng)用例例1: 1: 手機(jī)的手寫輸入功能例例2: 2: 筆記本電腦上的指紋識別器例例3: 3: 語音識別系統(tǒng)大家下大家下午好午好機(jī)器學(xué)習(xí)可以在更廣闊的領(lǐng)域得到應(yīng)用機(jī)器學(xué)習(xí)可以在更廣闊的領(lǐng)域得到應(yīng)用數(shù)據(jù)挖掘圖象檢索視頻分析移動(dòng)通信生物信息學(xué)石油勘探語音識別智能機(jī)器人目標(biāo)跟蹤

9、漢字識別計(jì)算機(jī)視覺金融數(shù)據(jù)分析多通道用戶界面機(jī)器學(xué)習(xí)的理論基礎(chǔ)機(jī)器學(xué)習(xí)的理論基礎(chǔ)機(jī)器學(xué)習(xí)的發(fā)展歷史機(jī)器學(xué)習(xí)的發(fā)展歷史p起源: 上世紀(jì)50年代中葉 p 70年代中葉80年代中葉： 探索各種學(xué)習(xí)方法;p50年代中葉60年代中葉： 研究各種自適應(yīng)系統(tǒng)； 代表作: Samuel的下棋程序p60年代中葉70年代中葉： 模擬人類的概念學(xué)習(xí)過程; 代表作: Winston的結(jié)構(gòu)學(xué)習(xí)系統(tǒng) 機(jī)器學(xué)習(xí)的發(fā)展歷史機(jī)器學(xué)習(xí)的發(fā)展歷史( (續(xù)續(xù)) )p90年代中葉當(dāng)前： 分類器集成、海量樣本學(xué)習(xí)、增強(qiáng)學(xué)習(xí)、學(xué)習(xí)復(fù)雜隨機(jī)模型、核機(jī)器學(xué)習(xí)等; 吸引了越來越多的學(xué)者進(jìn)行機(jī)器學(xué)習(xí)研究;p1980年,在卡內(nèi)基-梅隆大學(xué)（CMU）

10、:召開了第一屆機(jī)器學(xué)習(xí)國際研討會(huì),標(biāo)志著機(jī)器學(xué)習(xí)研究在全世界興起。 p80年代中葉90年代中葉：主要研究人工神經(jīng)網(wǎng)絡(luò);q50年代中葉80年代中葉： 探究各種學(xué)習(xí)策略； q80年代中葉90年代中葉： 人工神經(jīng)網(wǎng)絡(luò)獨(dú)領(lǐng)風(fēng)騷； q90年代中葉當(dāng)前： 諸多研究熱點(diǎn)； 機(jī)器學(xué)習(xí)的研究熱點(diǎn)機(jī)器學(xué)習(xí)的研究熱點(diǎn)基于再生核的學(xué)習(xí);基于貝葉斯推理的學(xué)習(xí);海量樣本學(xué)習(xí);半監(jiān)督學(xué)習(xí);深度學(xué)習(xí);集成學(xué)習(xí);機(jī)器學(xué)習(xí)解決問題的流程機(jī)器學(xué)習(xí)解決問題的流程樣本采集預(yù)處理構(gòu)建學(xué)習(xí)模型用學(xué)習(xí)模型判決或預(yù)測結(jié)果解釋學(xué)習(xí)學(xué)以致用機(jī)器學(xué)習(xí)研究領(lǐng)域細(xì)分機(jī)器學(xué)習(xí)研究領(lǐng)域細(xì)分即人工神經(jīng)網(wǎng)絡(luò)（ANN）學(xué)習(xí)貝葉斯學(xué)習(xí)貝葉斯學(xué)習(xí)貝葉斯貝葉斯公式公式

11、DP|ww|DP wP后驗(yàn)后驗(yàn)似然似然（樣本信息）（樣本信息）先驗(yàn)先驗(yàn) |P DPPDP Dwww貝葉斯貝葉斯推理推理q 與貝葉斯學(xué)習(xí)有緊密聯(lián)系的一些概念： 貝葉斯決策 貝葉斯估計(jì)q貝葉斯學(xué)習(xí)：基于貝葉斯推理的學(xué)習(xí)貝葉斯學(xué)習(xí)的優(yōu)點(diǎn)貝葉斯學(xué)習(xí)的優(yōu)點(diǎn)q 可以將先驗(yàn)知識融入學(xué)習(xí)過程 ；q 推理可以遵循事先定義的概率規(guī)則逐步實(shí)施；q 用概率表示不確定性，并允許學(xué)習(xí)方法輸出置信度;q 可以得到與原學(xué)習(xí)方法對應(yīng)的概率化版本。 統(tǒng)計(jì)學(xué)習(xí)統(tǒng)計(jì)學(xué)習(xí)q基于有限觀測樣本，尋求樣本與其目標(biāo)值（targets）間未知的依賴關(guān)系。q 通俗地說: 從一些觀測樣本出發(fā)得出目前尚不能通過原理分析得到的規(guī)律，再利用這些規(guī)律去分析

12、客觀現(xiàn)象，對未來樣本或無法觀測的樣本進(jìn)行預(yù)測。 a c2Hw b1Hw1L2LD學(xué)習(xí)模型1學(xué)習(xí)模型2q 舉例：q已知： 學(xué)習(xí)樣本 及其相應(yīng)的目標(biāo)值12,Nx xx12, ,Nt tt使期望風(fēng)險(xiǎn)最小 ,RL t fPt d dtwxwxxq三類最基本的學(xué)習(xí)問題： 分類： ,0,1tfifL t ftfifx wx wx w 回歸： 密度估計(jì)：2,L t ftfx wx w,ln,L PP x wx w待研究系統(tǒng)輸入輸出輸出xt,f x w學(xué)習(xí)方法統(tǒng)計(jì)學(xué)習(xí)欲解決的問題統(tǒng)計(jì)學(xué)習(xí)欲解決的問題4 智能信息處理仿真平臺智能信息處理仿真平臺( (含演示含演示) ) 傳統(tǒng)的智能信息處理仿真平臺傳統(tǒng)的智能信息處

13、理仿真平臺Windows + MATLAB + WORD(4)如果從網(wǎng)上下載的程序需要Linux平臺才能運(yùn)行怎么辦?(3)很多智能信息處理程序是用Python , Java, Fortran編寫的.面臨的問題面臨的問題:(1) Matlab僅用于仿真,難于真正用于工程計(jì)算場合.(2) WORD排版雖然直觀,但排版效果并不滿意(如公式),且難于移植.(5)能否做到仿真寫作一體化; 能否方便地重現(xiàn)仿真過程?工欲善其事工欲善其事,必先利其器必先利其器!Python語言學(xué)習(xí)資源語言學(xué)習(xí)資源https:/ 源自于“公式翻譯”（英語：Formula Translation）的縮寫，是一種編程語言。它是世界

14、上最早出現(xiàn)的計(jì)算機(jī)高級程序設(shè)計(jì)語言，廣泛應(yīng)用于科學(xué)和工程計(jì)算領(lǐng)域。 編譯器編譯器gfortran查看命令查看命令:$ which gfortran 檢查是否安裝了gfortran$ gfortran v 查看gfortran的版本 編譯器編譯器gfortran編譯命令編譯命令:1、$ gfortran -o helloworld.o -c helloworld.for 生成目標(biāo)文件.o $ gfortran -c helloworld.for (等價(jià)于上一句)2、$ gfortran -o helloworld helloworld.o 生成可執(zhí)行文件http:/ 一種可以撰寫跨平臺應(yīng)用程序的

15、面向?qū)ο蟮某绦蛟O(shè)計(jì)語言。具有卓越的通用性、高效性、平臺移植性和安全性，廣泛應(yīng)用于PC、數(shù)據(jù)中心、游戲控制臺、科學(xué)超級計(jì)算機(jī)、移動(dòng)電話和互聯(lián)網(wǎng)，同時(shí)擁有全球最大的開發(fā)者專業(yè)社群。Java語言語言 常用命令常用命令： Javac aaa.java 編譯java源程序aaa Java aaa 執(zhí)行aaa Appletviewer bbb*.htm 運(yùn)行小運(yùn)用程序Linux操作系統(tǒng)操作系統(tǒng) Linux公社：www.LRedhat、Fedora（rpm體系，企業(yè)環(huán)境）Debian、Ubuntu（deb體系，桌面環(huán)境）（有關(guān)Linux教程、編程、軟件等的論壇）Linux是一套免費(fèi)使用和自由傳播的類Unix

16、操作系統(tǒng)，是一個(gè)基于POSIX和UNIX的多用戶、多任務(wù)、支持多線程和多CPU的操作系統(tǒng)。它能運(yùn)行主要UNIX工具軟件、應(yīng)用程序和網(wǎng)絡(luò)協(xié)議。 可安裝在各種計(jì)算機(jī)硬件設(shè)備中，比如手機(jī)、平板電腦、路由器、視頻游戲控制臺、臺式計(jì)算機(jī)、大型機(jī)和超級計(jì)算機(jī)。 Scons編譯工具編譯工具 Scons是一個(gè)Python寫的自動(dòng)化構(gòu)建工具，非常適合跨平臺的項(xiàng)目。從構(gòu)建這個(gè)角度看，它跟GNU make是同一類工具，其集成功能類似于autoconf/automake 。Scons也可看作是一個(gè)更簡便、更可靠、更高效的編譯軟件，它是用編程語言來實(shí)現(xiàn)編譯。Windows下也可安裝Scons，它提供了一個(gè)Windows

17、 installer。 Scons學(xué)習(xí)資源：學(xué)習(xí)資源：1、Scons 官網(wǎng)： /2、Steven Knight： /doc/2.3.0/HTML/scons-user/Scons常用命令：常用命令：1、$ scons 直接執(zhí)行編譯命令2、$ scons c 清除編譯命令生成的文件3、$ scons -tree=all或status 編譯時(shí)以樹形結(jié)構(gòu)展示 Latex排版工具排版工具 （1）MacTex /mactex/ （2）CTex （3）宏包下載： http:

18、//Latex學(xué)習(xí)資源學(xué)習(xí)資源: 是一種基于tex的排版系統(tǒng)，由美國計(jì)算機(jī)學(xué)家萊斯利蘭伯特（Leslie Lamport）在20世紀(jì)80年代初期開發(fā)，能生成很多具有書籍質(zhì)量的印刷品。對于生成復(fù)雜表格和數(shù)學(xué)公式，這一點(diǎn)表現(xiàn)得尤為突出。因此它非常適用于生成高印刷質(zhì)量的科技和數(shù)學(xué)類文檔。 很多國外期刊只接受Latex排版的論文.Madagascar仿真軟件仿真軟件 軟件網(wǎng)址軟件網(wǎng)址 一款用于多維數(shù)字信號處理(尤其適合多維地震信號處理)的開源軟件.為使用者提供方便且強(qiáng)大的編程環(huán)境，能做到仿真寫作一體化; 能方便地重現(xiàn)仿真過程.派遣研究生學(xué)習(xí)軟件使用Madagascar暑期學(xué)校5 智能信息處理應(yīng)用實(shí)例智能信息處理應(yīng)用實(shí)例( (含演示含演示) )在石油地震勘探中的應(yīng)用在石油地震勘探中的應(yīng)用地震信號處理地下地質(zhì)結(jié)構(gòu)檢波器炮點(diǎn)地面石油地震勘探原理石油地震勘探原理最終的三維剖面地震波野外勘探實(shí)景野外勘探實(shí)景:炮點(diǎn)激發(fā)地面沙漠激發(fā)叢林激發(fā)海上激發(fā)野外勘探實(shí)景野外勘探實(shí)景檢波器室內(nèi)地震信號處理室內(nèi)地震信號處理炮點(diǎn)激發(fā)地面石油地震勘探與其它學(xué)科的聯(lián)系石油地震勘探與其它學(xué)科的聯(lián)系石油地震勘探都是借助波波探測未知目標(biāo)都需要成像地震波雷達(dá)電磁波聲納聲波醫(yī)學(xué)CT放射線（波粒二象性）智能信息處理在石油勘探中的可能應(yīng)用智能信息處理在石油勘探中的可能應(yīng)用（1