人工智能（基礎版）高職人工智能基礎課程PPT完整全套教學課件

人工智能全套PPT課件目錄contents模塊1認識人工智能模塊2知識學習模塊3機器學習模塊4搜索策略模塊5自然語言的理解模塊6計算機視覺模塊7專家系統(tǒng)模塊8智能機器人模塊1認識人工智能1.1人工智能概述1.1.1人腦與計算機大戰(zhàn)2016年1月27日,國際頂尖期刊《自然》封面文章報道,谷歌(Google)公司開發(fā)的名為阿爾法(AlphaGo)圍棋的人工智能機器人,在沒有任何讓子的情況下,以5∶0完勝歐洲圍棋冠軍、職業(yè)二段選手樊麾。在圍棋人工智能領域,實現(xiàn)了一次史無前例的突破。AlphaGo是第一個擊敗人類職業(yè)圍棋選手、第一個戰(zhàn)勝世界圍棋冠軍的人工智能機器人。AlphaGo用到了很多新技術,如神經(jīng)網(wǎng)絡、深度學習、蒙特卡洛樹搜索(MonteCarlotreesearch,MCTS)等,使其實力有了實質(zhì)性的飛躍。在柯潔與AlphaGo的圍棋人機大戰(zhàn)三番棋結束后,AlphaGo團隊宣布AlphaGo將不再參加圍棋比賽。AlphaGo將進一步探索醫(yī)療領域,利用人工智能技術攻克現(xiàn)代醫(yī)學中的種種難題。1.1人工智能概述1.1.2人工智能學派1.符號主義符號主義(邏輯主義、心理學派、計算機學派)認為人工智能源于數(shù)理邏輯。數(shù)理邏輯從19世紀末得以迅速發(fā)展,到20世紀30年代開始用于描述智能行為。計算機出現(xiàn)后,又在計算機上實現(xiàn)了邏輯演繹系統(tǒng)。其有代表性的成果為啟發(fā)式程序LT邏輯理論家,它證明了38條數(shù)學定理,表明了可以應用計算機研究人的思維過程,模擬人類智能活動。符號主義如圖1-1所示。圖1-1符號主義1.1人工智能概述1.1.2人工智能學派2.連接主義連接主義認為人工智能源于仿生學,特別是對人腦模型的研究。它的代表性成果是1943年由生理學家麥卡洛克(McCulloch)和數(shù)理邏輯學家皮茨(Pitts)創(chuàng)立的腦模型,即MP模型,開創(chuàng)了用電子裝置模仿人腦結構和功能的新途徑。它從神經(jīng)元開始,進而研究神經(jīng)網(wǎng)絡模型和腦模型,開辟了人工智能的又一發(fā)展道路。圖1-2連接主義1986年,魯梅爾哈特(Rumelhart)等人提出多層網(wǎng)絡中的反向傳播(BP)算法。此后,連接主義勢頭大振,從模型到算法,從理論分析到工程實現(xiàn),為神經(jīng)網(wǎng)絡計算機走向市場打下基礎?，F(xiàn)在,對人工神經(jīng)網(wǎng)絡(ANN)的研究熱情仍然較高,但研究成果沒有像預想的那樣好。連接主義如圖1-2所示。1.1人工智能概述1.1.2人工智能學派3.行為主義行為主義的原理是控制論及感知-動作型控制系統(tǒng)。行為主義認為智能取決于感知和行動,提出智能行為的感知-動作模式。智能不需要知識、不需要表示、不需要推理;人工智能可以像人類智能一樣逐步進化;智能行為只能在現(xiàn)實世界中與周圍環(huán)境交互作用而表現(xiàn)出來。人工智能三大學派的優(yōu)勢和劣勢對比如表1-1所示。表1-1人工智能三大學派的對比分析1.1人工智能概述1.1.3人工智能的層次結構人工智能正在發(fā)展得無處不在,大多數(shù)人都在使用,如Baidu搜索、淘寶的推送以及各種新聞資訊的推送,蘋果Siri每周處理20億個自然語言請求,Android手機上20%的請求是由語音識別的?，F(xiàn)階段,神經(jīng)網(wǎng)絡芯片、深度學習算法、大數(shù)據(jù)及云計算,四個催化劑使人工智能開始迅速發(fā)展。人工智能的層次結構分為基礎層、技術層和應用層,如圖1-3所示。圖1-3人工智能的層次結構1.2人工智能的發(fā)展人工智能的研究可以追溯到亞里士多德(三段論),萊布尼茨(把形式邏輯符號化,使得人們可以對思維進行運算和推理,奠定了數(shù)理邏輯的基礎)、布爾(布爾代數(shù))、弗雷格、羅素、哥德爾等人在數(shù)理邏輯方面的工作,McCulloch和Pitts的人工神經(jīng)元模型,以及圖靈的智能計算等。阿蘭·圖靈對后世最大的理論貢獻之一就是圖靈機。如圖1-4所示。圖1-4圖靈機模型1.掣制硬件,人工智能的過去1.2人工智能的發(fā)展阿蘭·圖靈的另一個偉大理論貢獻是圖靈測試,至今仍然被當作人工智能水平的重要測試標準之一。圖靈測試是指人們通過設備和另外一個人聊天,可以是文字形式也可以是語音。如果30%的人認為是在和一個真人聊天,而對方實際是個機器,這個機器就通過了圖靈測試,它就是具有智能的。以現(xiàn)在的計算機人工智能技術來說,30%的比例定得有些低,近年來很多人工智能對話程序已經(jīng)能夠通過圖靈測試。但在當時受制于硬件設備,沒有機器能夠通過這樣的測試,圖靈測試也僅是作為一個預言出現(xiàn)。圖靈預言,在20世紀末,一定會有計算機通過“圖靈測試”,如圖1-5所示。圖1-5圖靈測試1.掣制硬件,人工智能的過去1.2人工智能的發(fā)展會議足足開了兩個月的時間,雖然大家沒有達成普遍的共識,但是為會議討論的內(nèi)容起了一個名字———人工智能。因此,1956年成為人工智能元年。圖1-6所示為達特茅斯會議照片。會議提出,學習或智能的任何特性都能夠被精確地加以描述,使得機器可以對其進行模擬。圖1-6達特茅斯會議照片1.掣制硬件,人工智能的過去1.2人工智能的發(fā)展大量成功的AI程序和新的研究方向不斷涌現(xiàn),研究學者認為具有完全智能的機器將在20年內(nèi)出現(xiàn)并給出了如下預言:1.掣制硬件,人工智能的過去(1)1958年,西蒙、紐厄爾:10年之內(nèi),數(shù)字計算機將成為國際象棋世界冠軍,將發(fā)現(xiàn)并證明一個重要的數(shù)學推理。(2)1965年,西蒙:20年內(nèi),機器將能完成人能做到的一切工作。(3)1967年,明斯基:一代之內(nèi),創(chuàng)造人工智能的問題將獲得實質(zhì)上的解決。(4)1970年,明斯基:在3~8年的時間里,我們將得到一臺具有人類平均智能的機器。1.2人工智能的發(fā)展計算機視覺、語音識別、自然語言處理(naturallanguageprocessing)的準確率都已不再停留在“過家家”的水平,應用場景也不再只是一個新奇的“玩具”,而是逐漸在真實的商業(yè)界扮演起重要的支持角色,它影響著人類生活的方方面面,如圖1-7所示。2.突破閾值,人工智能的現(xiàn)在圖1-7AI的應用場景(a)無人駕駛(b)智能家居(c)虛擬現(xiàn)實(d)智能機器人(e)智能投顧(f)智能醫(yī)療1.2人工智能的發(fā)展人工智能已經(jīng)發(fā)展了很長時間,它在未來的發(fā)展問題是該學科有關研究人員討論的重點,從現(xiàn)階段的發(fā)展情況來看,未來人工智能可能會朝著以下幾個方向發(fā)展:3.黃金時代,人工智能的未來(1)更好地為人類服務(2)與人類平等(3)毀滅人類1.3人工智能的研究領域1.3.1問題求解與博弈人工智能最早的應用實踐是求解難題(problemsolving)和下棋程序。下棋是一種博弈(gameplaying)問題。博弈問題還包括打牌、游戲和戰(zhàn)爭等競爭性智能活動,即使己方獲勝,敵方失敗。問題求解和博弈都是指通過搜索的方法尋找目標解的一個合適操作序列,并滿足問題的各種約束。它們面對的大多是良結構問題。但是這些良結構問題一般有巨大的搜索空間,導致雖然在理論上可以用窮舉法找到最優(yōu)解,但是由于現(xiàn)實時空約束而不可能得到最優(yōu)解。簡而言之,其核心研究就是搜索技術。1.3人工智能的研究領域1.3.1問題求解與博弈人工智能中的搜索系統(tǒng)一般由全局數(shù)據(jù)庫、算子集和控制策略三部分組成。(1)②③全局數(shù)據(jù)庫包含與具體任務有關的信息,用來反映問題的當前狀態(tài)、約束條件及預期目標。算子集,也就是操作規(guī)則集,用來對數(shù)據(jù)庫進行操作運算?？刂撇呗杂脕頉Q定下一步選用哪一個算子并在何處應用。1.3人工智能的研究領域1.3.2機器學習目前,機器學習領域的研究工作主要圍繞以下幾個方面進行:(1)面向任務的研究,研究和分析改進一組預定任務的執(zhí)行性能的學習系統(tǒng)。(2)認知模型的研究,研究人類學習過程并進行計算機模擬。(3)理論性分析的研究,從理論上探索各種可能的學習方法和獨立于應用領域的算法。1.3人工智能的研究領域1.3.3模式識別圖1-8所示為模式識別的一般過程,其中,虛線下部是學習訓練過程,虛線上部是識別過程。圖1-8模式識別的一般過程1.3人工智能的研究領域1.3.4自然語言處理自然語言處理是人工智能中一個看似簡單,但實際上十分困難的研究課題。它一方面是語言信息處理的一個分支,另一方面又是人工智能的核心領域之一。自然語言處理主要研究人類如何使用本民族所熟悉的語言(如漢語、英語、法語等)同計算機進行信息交流,探討人類自身的語言能力和思維活動本質(zhì)的技術。這在當前新技術革命浪潮中占有十分重要的地位。研究第五代計算機的主要目標之一,就是要使計算機具有理解和運用自然語言的功能。1.3人工智能的研究領域1.3.4自然語言處理具體來講,自然語言處理要達到以下三個目標:(1）(2）(3）目標計算機能正確理解人們用自然語言輸入的信息,并能正確回答輸入信息中的有關問題。對輸入的信息,計算機能產(chǎn)生相應的摘要,能用不同詞語復述所輸入信息的內(nèi)容。計算機能把用某種自然語言表示的信息自動地翻譯為另一種自然語言。1.3人工智能的研究領域1.3.5智能機器人智能機器人(intelligentrobots)是指能夠模擬人類行為的、可再編程序的多功能操作裝置。智能機器人是人工智能中視覺感知系統(tǒng)、問題求解系統(tǒng)、計劃產(chǎn)生系統(tǒng)等領域中技術的綜合應用成果。1.3人工智能的研究領域1.3.5智能機器人具體來講,智能機器人應該具有以下兩方面的功能:(1)模式識別。給機器人配備視覺、聽覺及觸覺傳感器,使其能夠識別外界環(huán)境中的各種信息,從而實現(xiàn)信息的輸入。(2)運動協(xié)調(diào)推理。機器人的運動協(xié)調(diào)推理功能是依賴于感覺驅動的。感覺是機器人接受外界的刺激,而運動則是機器人的行動。1.3人工智能的研究領域1.3.6專家系統(tǒng)領域專家系統(tǒng)通常由知識庫、推理機、綜合數(shù)據(jù)庫、解釋器、人機交互界面和知識獲取等部分構成。(1)知識庫用來存放專家提供的知識。構成(2)推理機針對當前問題的條件或已知信息,反復匹配知識庫中的規(guī)則,產(chǎn)生新的結論,以得到問題的求解結果。(3)綜合數(shù)據(jù)庫專門用于存儲推理過程中所需的原始數(shù)據(jù)、中間結果和最終結論,往往是作為暫時的存儲區(qū)。(4)解釋器能夠根據(jù)用戶的提問,對結論、求解過程做出說明,從而使專家系統(tǒng)更具有易用性。(5)人機交互界面是系統(tǒng)與用戶進行交流時的界面。(6)知識獲取是指采集知識并把知識輸入知識庫的過程。1.3人工智能的研究領域1.3.7人工神經(jīng)網(wǎng)絡人工神經(jīng)網(wǎng)絡(artificialneuralnetwork)簡稱神經(jīng)網(wǎng)絡(neuralnetwork),是以聯(lián)結主義研究人工智能的方法,以對人腦和自然神經(jīng)網(wǎng)絡的生理研究成果為基礎,抽象和模擬人腦的某些機理、機制,實現(xiàn)某方面的功能。人工神經(jīng)網(wǎng)絡是人工智能研究的主要途徑之一,也是機器學習中非常重要的一種學習方法。1.3人工智能的研究領域1.3.7人工神經(jīng)網(wǎng)絡人工神經(jīng)網(wǎng)絡還有很多其他方法無法代替的獨特優(yōu)點?？梢匀我獗平魏螐碗s的非線性關系。(1)(3)(5)(2)(4)具有自適應、自學習和自組織能力。所有信息都存儲于網(wǎng)絡內(nèi)的各神經(jīng)元,個別神經(jīng)元失效不會對整個系統(tǒng)造成致命影響。具有并行運算的本質(zhì),可以快速解決復雜問題,或者得到優(yōu)化解。具有聯(lián)想存儲功能。1.3人工智能的研究領域1.3.7人工神經(jīng)網(wǎng)絡現(xiàn)在,一般認為人工神經(jīng)網(wǎng)絡比較適用于特征提取、模式分類、聯(lián)想記憶、低層次感知和自適應控制等很難應用嚴格解析方法的場合。目前,人工神經(jīng)網(wǎng)絡研究主要集中在以下幾個方面:(1)(2)(4)(3)利用神經(jīng)生理與認知科學研究人類思維及智能機理。利用神經(jīng)基礎理論的研究成果,用數(shù)理方法探索功能更加完善、性能更加優(yōu)越的神經(jīng)數(shù)理理論,如神經(jīng)網(wǎng)絡動力學和非線性神經(jīng)場等。對人工神經(jīng)網(wǎng)絡的軟件模擬和硬件實現(xiàn)的研究。人工神經(jīng)網(wǎng)絡在各個領域(如模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合和機器人控制等)中應用的研究。1.4人工智能的應用領域1.人工智能技術在泛安防領域的應用據(jù)統(tǒng)計,安防領域視頻監(jiān)控占比近90%,中心側份額最大。出入口控制的主要產(chǎn)品(如人臉識別閘機、門禁等)門檻較低,與監(jiān)控人臉識別具備相通之處,因此絕大部分安防產(chǎn)品與解決方案提供商均涉足這部分業(yè)務,其市場較大。圖1-9所示為2018年AI+安防軟硬件細分市場占比圖。圖1-92018年AI+安防軟硬件細分市場占比1.4人工智能的應用領域2.人工智能技術在醫(yī)療健康領域的應用醫(yī)療健康是個慢行業(yè),中國AI醫(yī)學影像的商業(yè)化于2019年起步,到2022年市場規(guī)模達到9.7億元,在已定級醫(yī)院中總付費滲透率達5%,在三級醫(yī)院和二級醫(yī)院的總付費滲透率達到8%,期間若產(chǎn)品功能取得突破性進展則有更大發(fā)展空間。此前,AI醫(yī)學影像基本采用三甲醫(yī)院試用合作的模式,2019年后逐步推進產(chǎn)品收費。隨著分級診療的推進和市場對AI認知的提升,2020年年底至2021年部分產(chǎn)品獲得CFDA三類醫(yī)療器械認證,同年二級醫(yī)院客戶數(shù)量首次超過三級醫(yī)院。1.4人工智能的應用領域2.人工智能技術在醫(yī)療健康領域的應用目前主要有以下三種收費模式:(1)三種收費模式(2)(3)將AI醫(yī)學影像嵌入云HIS或云PACS中,打包售賣,由于現(xiàn)階段AI產(chǎn)品商業(yè)化存在產(chǎn)品功能還未完全直擊客戶痛點的情況,醫(yī)院客戶較多使用的是免費AI,與云服務結合可將AI作為收費模塊。將AI作為服務單獨提供,其優(yōu)勢在于相較于云服務,軟件開發(fā)形式更符合醫(yī)院采購習慣。與影像設備廠商合作提供具有AI功能的醫(yī)療影像設備,收取一定分成,這種形式較難提供完整的拍片-閱片智能解決方案,需要重新申報CFDA審批認證,目前落地較少。1.4人工智能的應用領域2.人工智能技術在醫(yī)療健康領域的應用目前市場中主要有AI企業(yè)、醫(yī)療信息化廠商、科技巨頭、醫(yī)療影像設備廠商等幾類廠商。如圖1-10所示是2019—2022年中國AI醫(yī)學影像市場規(guī)模。圖1-102019—2022年中國AI醫(yī)學影像市場規(guī)模1.4人工智能的應用領域3.人工智能技術在教育領域的應用經(jīng)過多年的發(fā)展,隨著用戶對在線教育的接受度不斷提升、在線付費意識逐漸養(yǎng)成以及線上學習體驗和效果的提升等因素影響,中國在線教育的市場規(guī)模與用戶數(shù)量已進入初步成熟階段。據(jù)統(tǒng)計,2018年中國在線教育市場規(guī)模達2517.6億元,付費用戶數(shù)量超過1.35億人,人工智能技術進入教育領域后,市場上涌現(xiàn)出大量專注于“AI+教育”的新型教育機構,在線教育企業(yè)也在已有業(yè)務線基礎上引入人工智能技術以提升教學效率、拓展商業(yè)模式。1.4人工智能的應用領域3.人工智能技術在教育領域的應用圖1-11所示為2018—2022年中國在線教育及AI相關業(yè)務規(guī)模情況。圖1-112018—2022年中國在線教育市場規(guī)模及AI相關業(yè)務規(guī)模情況1.4人工智能的應用領域4.人工智能技術在數(shù)字營銷領域的應用通過技術與營銷環(huán)節(jié)相結合,在提供更加充實的用戶特征以及創(chuàng)意內(nèi)容的同時,對投放的策略和形式進行優(yōu)化,提升引流、集客、轉化效果,圖1-12所示為AI+數(shù)字營銷的核心價值。圖1-12AI+數(shù)字營銷的核心價值1.4人工智能的應用領域5.人工智能技術在城市交通領域的應用2016年,應用人工智能技術的交通大腦出現(xiàn),使交通管控系統(tǒng)正式步入智能化時代。交通大腦實質(zhì)是囊括數(shù)據(jù)采集平臺、數(shù)據(jù)分析平臺、數(shù)據(jù)建模平臺和決策平臺的PaaS云服務。圖1-13所示為交通大腦應用流程圖。圖1-13交通大腦應用流程圖思考與練習1.人工智能的概念是什么?2.簡述人工智能的層次結構。3.簡述人工智能的三大學派及其對比。4.人工智能可以應用到哪些工程領域?模塊2知識學習2.1與機器對話Eliza是由系統(tǒng)工程師約瑟夫·魏澤堡和精神病學家肯尼斯·科爾比在20世紀60年代共同編寫的。在當時自然語言技術還沒有突破性進展的前提下,Eliza的出現(xiàn)是一件讓人“費解”的事情。圖2-1所示為Eliza與人類的聊天記錄,如果仔細分析Eliza與人聊天的內(nèi)容,就不難發(fā)現(xiàn)它的邏輯原理是非常簡單的,甚至可以說其中并沒有邏輯,它只是顛倒了對方所說的話的語序,然后回應給對話人。圖2-1Eliza與人類的聊天記錄2.1與機器對話2.1.1知識的概念培根說:知識就是力量。那么如何讓計算機像人一樣能夠擁有知識的力量是人工智能的本質(zhì)問題。要解決這個問題至少要弄清知識表示、知識管理、知識推理和知識獲取這些問題。知識是人類進行一切智能活動的基礎。哲學、心理學、語言學和教育學等都在對知識和知識的表示方法等問題進行研究。知識反映了客觀世界中事物之間的關系,不同事物或相同事物間的不同關系形成了不同的知識。2.1與機器對話2.1.2知識的特征和知識表示分類1.知識的特征(1)相對正確性。知識是人們對客觀世界認識的結晶,并且經(jīng)過了長期實踐的檢驗。因此,在一定的條件和環(huán)境下,知識一般是正確的,是可信任的。(2)不確定性。由于現(xiàn)實世界的復雜性,信息可能是精確的,也可能是不精確的,知識是有關信息關聯(lián)在一起形成的信息結構。(3)可表示性與可利用性。知識是可以用適當形式(如語言、文字、圖形和神經(jīng)元網(wǎng)絡等)表示出來的;正是由于它具有這一特性,它才能被存儲并得以傳播。2.1與機器對話2.1.2知識的特征和知識表示分類2.知識表示分類人工智能中的知識表示方法注重知識的運用,所以將知識表示方法粗略地分為過程性(procedure)知識表示和陳述性(declarative)知識表示兩大類。過程性知識一般是表示如何做的知識,是有關系統(tǒng)變化、問題求解過程的操作、演算和行為的知識。這種知識是隱含在程序中的,機器是無法從程序的編碼中抽取出來的。(1)過程性知識表示(2)陳述性知識表示陳述性知識描述系統(tǒng)的狀態(tài)、環(huán)境和條件,以及問題的概念、定義和事實。陳述性知識表示描述這種事實性知識,即描述客觀事物所涉及的對象以及對象之間的聯(lián)系。陳述性知識的表示與知識運用(推理)是分開處理的,這種知識是顯性地表示。2.2正確表示知識1.事實表示產(chǎn)生式中的事實表示有對象性質(zhì)與對象間關系兩種表示法。2.2.1產(chǎn)生式表示法(1)對象性質(zhì)表示對象性質(zhì)可用一個三元組表示:(對象,屬性,值)它表示指定對象具有指定性質(zhì)的某個指定值,如(牡丹花,顏色,紅)表示牡丹花是紅色的。(2)對象間關系表示對象間關系可用一個三元組表示:(關系,對象1,對象2)它表示指定兩個對象間所具有指定的某個關系,如(父子,王龍,王晨)表示王龍與王晨間是父子關系。一個給定問題的產(chǎn)生式系統(tǒng)可組成一個事實集合體,稱為綜合數(shù)據(jù)庫。2.2正確表示知識2.規(guī)則表示2.2.1產(chǎn)生式表示法規(guī)則是事實間因果聯(lián)系的動態(tài)表示。產(chǎn)生式規(guī)則的一般形式為If

P

then

Q其中前半部P確定了該規(guī)則可應用的先決條件,后半部Q描述了應用這條規(guī)則所采取的行動得出的結論。一條產(chǎn)生式規(guī)則滿足了應用的先決條件P之后,就可用規(guī)則進行操作,使其發(fā)生變化產(chǎn)生結果Q。一個給定問題的產(chǎn)生式系統(tǒng)可組成一個規(guī)則集合體,稱為規(guī)則庫。2.2正確表示知識3.產(chǎn)生式表示法與知識2.2.1產(chǎn)生式表示法第一層:產(chǎn)生式表示中的對象。它給出了知識中的對象。第二層:產(chǎn)生式表示中的事實。它給出了知識中的事實。第三層:產(chǎn)生式表示中的操作。它給出了知識中的規(guī)則。第四層:產(chǎn)生式表示中的知識可設置約束。它給出了元知識。2.2正確表示知識4.產(chǎn)生式表示法實例2.2.1產(chǎn)生式表示法在醫(yī)學專家系統(tǒng)中判定咽炎的產(chǎn)生式表示。在該醫(yī)學專家系統(tǒng)中有事實:A:(病人,咽部觀察,充血);B:(病人,咽部主訴,疼痛);C:(病人,白細胞數(shù),高);D:(病人,中性指標,高);E:(病人,體溫,高);F:(病人,病癥,急性咽炎);G:(病人,白細胞數(shù),>500);H:(病人,中性指標,>60);I:(病人,體溫,>37);J:(病人,白細胞數(shù),≤500);K:(病人,中性指標,≤60);L:(病人,體溫,≤37);M:(病人,白細胞數(shù),正常);N:(病人,中性指標,正常);P:(病人,體溫,正常);Q:(病人,病癥,慢性咽炎)。上面16個事實組成了綜合數(shù)據(jù)庫。2.2正確表示知識4.產(chǎn)生式表示法實例2.2.1產(chǎn)生式表示法它有如下產(chǎn)生式規(guī)則:If

A

and

B

and

C

and

D

and

E

then

FIf

G

then

CIf

H

then

DIf

I

then

EIf

J

then

MIf

K

then

NIf

L

then

PIf

A

and

B

and

M

and

N

and

P

then

Q這8個規(guī)則組成了規(guī)則庫。2.2正確表示知識5.產(chǎn)生式表示法的評價(1)知識表示的完整性?？梢杂卯a(chǎn)生式表示知識體系中的全部四部分。2.2.1產(chǎn)生式表示法①③④②可以用產(chǎn)生式中的對象表示知識中的對象;可以用產(chǎn)生式中的事實表示知識中的事實;可以用產(chǎn)生式中的規(guī)則表示知識中的規(guī)則;可以用產(chǎn)生式表示知識中的部分元知識。2.2正確表示知識5.產(chǎn)生式表示法的評價(2)表示規(guī)則簡單易用。2.2.1產(chǎn)生式表示法用產(chǎn)生式方法表示知識無論是對象、事實、規(guī)則都很簡單,因此易于掌握使用。2.2正確表示知識1.語義網(wǎng)絡的概念及結構語義網(wǎng)絡是知識的一種有向圖表示方法,如圖2-2所示。2.2.2語義網(wǎng)絡法圖2-2語義基元結構其中,A和B分別代表節(jié)點,而RAB則表示A和B之間的某種語義聯(lián)系。節(jié)點用來表示各種事物、概念、情況、屬性、狀態(tài)、動作等,節(jié)點上的標注用來區(qū)分各節(jié)點所表示的不同對象,每個節(jié)點可以帶有多個屬性,以表征其所代表的對象的特性?；∈怯蟹较虻?方向體現(xiàn)了節(jié)點間的主次關系,標識用來區(qū)分各種不同對象以及對象間各種不同語義聯(lián)系。2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系當把多個語義基元用相應的語義聯(lián)系關聯(lián)在一起時,就形成了一個語義網(wǎng)絡,如圖2-3所示。2.2.2語義網(wǎng)絡法圖2-3語義網(wǎng)絡結構2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系語義網(wǎng)絡表示法具有如下一些特點:2.2.2語義網(wǎng)絡法(1)結構性(2)聯(lián)想性(3)直觀性(4)非嚴格性(5)處理復雜性2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系最基本的語義關系包括以下幾種:(1)類屬關系。類屬關系是指具有共同屬性的不同事物間的分類關系、成員關系或實例關系,它體現(xiàn)的是“具體與抽象”“個體與集體”的層次分類。常用的類屬關系有以下幾種:2.2.2語義網(wǎng)絡法①AKO(A-Kind-of):表示一個事物是另一個事物的一種類型。②AMO(A-Member-of):表示一個事物是另一個事物的成員。③ISA(Is-a):表示一個事物是另一個事物的實例。2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(2)包含關系。包含關系也稱為聚集關系,是指具有組織或結構特征的“部分與整體”之間的關系,它和類屬關系最主要的區(qū)別是包含關系一般不具備屬性的繼承性。例如,“輪胎是汽車的一部分”,其語義網(wǎng)絡表示如圖2-4所示。2.2.2語義網(wǎng)絡法圖2-4包含關系實例2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(3)屬性關系。屬性關系是指事物和其屬性之間的關系。常用的屬性關系有以下幾種:Have:表示一個節(jié)點具有另一個節(jié)點所描述的屬性。Can:表示一個節(jié)點能做另一個節(jié)點的事情。例如,“鳥有翅膀”“電視機可以播放電視節(jié)目”,其對應的語義網(wǎng)絡表示如圖2-5所示。2.2.2語義網(wǎng)絡法圖2-5屬性關系實例2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(4)時間關系。時間關系是指不同事件在其發(fā)生時間方面的先后關系,節(jié)點間不具備屬性繼承性。常用的時間關系有以下幾種:Before:表示一個事件在一個事件之前發(fā)生。After:表示一個事件在一個事件之后發(fā)生。例如,“小王在小明之前畢業(yè)”“香港回歸之后,澳門也回歸了”,其對應的語義網(wǎng)絡表示如圖2-6所示。2.2.2語義網(wǎng)絡法圖2-6時間關系實例2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(5)位置關系。位置關系是指不同事物在位置方面的關系,節(jié)點間不具備屬性繼承性。常用的位置關系有以下幾種:Located-on:表示一個物體在另一個物體之上。Located-at:表示一個物體在某一位置。Located-under:表示一個物體在另一個物體之下。Located-inside:表示一個物體在另一個物體之中。Located-outside:表示一個物體在另一個物體之外。例如,“天津大學坐落于天津南開區(qū)”,其對應的語義網(wǎng)絡表示如圖2-7所示。2.2.2語義網(wǎng)絡法圖2-7位置關系實例2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(6)相近關系。相近關系又稱相似關系,是指不同事物在形狀、內(nèi)容等方面相似和接近。常用的相近關系有以下幾種:Similar-to:表示一個事物與另一個事物相似。Near-to:表示一個事物與另一個事物接近。例如,“狗長得像狼”,其對應的語義網(wǎng)絡表示如圖2-8所示。2.2.2語義網(wǎng)絡法圖2-8相似關系實例2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(7)因果關系。因果關系是指由于某一事件的發(fā)生而導致另一事物的發(fā)生,適合表示規(guī)則性知識。通常用If-then聯(lián)系表示兩個節(jié)點之間的因果關系,其含義是“如果……那么……”。例如,“如果下雨,小王開車上班”,其對應的語義網(wǎng)絡表示如圖2-9所示。2.2.2語義網(wǎng)絡法圖2-9因果關系實例2.2正確表示知識2.語義網(wǎng)絡的基本語義聯(lián)系(8)組成關系。組成關系是一種一對多的聯(lián)系,用于表示某一事物由其他一些事物構成,通常用Composed-of聯(lián)系表示。Composed-of聯(lián)系所連接的節(jié)點間不具備屬性繼承性。例如,“整數(shù)由正整數(shù)、負整數(shù)和零組成”,其對應的語義網(wǎng)絡如圖2-10所示。2.2.2語義網(wǎng)絡法圖2-10組成關系實例2.2正確表示知識3.語義網(wǎng)絡知識表示舉例【例2.1】把下列命題用一個語義網(wǎng)絡表示出來:(1)豬和羊都是動物。(2)豬和羊都是哺乳動物。(3)野豬是豬,但生長在森林中。(4)山羊是羊,頭上長著角。(5)綿羊是一種羊,它能生產(chǎn)羊毛。2.2.2語義網(wǎng)絡法解題分析:問題涉及的對象有豬、羊、動物、哺乳動物、野豬、山羊、綿羊、森林、羊毛、角等。然后分析它們之間的語義關系,“動物”和“哺乳動物”,“哺乳動物”和“豬”,“哺乳動物”和“羊”,“羊”和“山羊”及“綿羊”,“野豬”和“豬”之間的關系是“是一種”的關系,可用AKO來表示?！吧窖颉焙汀邦^上有角”之間是一種屬性關系,可用Have來描述;“綿羊”和“羊毛”之間是一種屬性關系,可用Have來描述;“野豬”和“森林”之間是位置關系,可用Located-at來表示。2.2正確表示知識3.語義網(wǎng)絡知識表示舉例【例2.1】其語義網(wǎng)絡表示如圖2-11所示。2.2.2語義網(wǎng)絡法圖2-11有關羊和豬的語義網(wǎng)絡2.2正確表示知識3.語義網(wǎng)絡知識表示舉例【例2.2】用能語義網(wǎng)絡表示下列知識:教師張明在本年度第二學期給計算機應用專業(yè)的學生講授“人工智能”這門課程。2.2.2語義網(wǎng)絡法解題分析:本題涉及的對象包括教師、張明、學生、計算機應用、人工智能、本年度第二學期等。然后確定各對象間的關系?！皬埫鳌迸c“教師”之間是一種類屬關系,可用ISA表示;“學生”和“計算機應用”之間是一種屬性關系,可以用Major表示。“張明”“學生”和“人工智能”則是通過“講課”這一動作聯(lián)系在一起的。從上面的分析可知,必須增加一個動作節(jié)點“講課”,“張明”是這一動作的主體,而“學生”和“人工智能”是這一動作的兩個客體?！氨灸甓鹊诙W期”則是這個動作的作用時間,屬于一種時間關系。因此,通過增加這個動作節(jié)點“講課”將網(wǎng)絡中的各節(jié)點聯(lián)系起來了。由“講課”節(jié)點引出的弧不僅指出了講課的主體和客體,還指出了講課的時間。2.2正確表示知識3.語義網(wǎng)絡知識表示舉例【例2.2】通過分析可得其對應的語義網(wǎng)絡表示如圖2-12所示。2.2.2語義網(wǎng)絡法圖2-12有關講課的語義網(wǎng)絡2.2正確表示知識1.框架理論2.2.3框架表示法框架理論的基本觀點是:人腦已存儲有大量的典型情景,當人面臨新的情景時,就從記憶中選擇(粗匹配)一個稱為框架的基礎知識結構,這個框架是以前記憶的一個知識空框,而其具體內(nèi)容依據(jù)新的情景而改變,對這一空框的細節(jié)進行加工修改和補充,形成對新情景的認識后又記憶于人腦中,以豐富人的知識。2.2正確表示知識2.框架結構框架是表示某一類情景的一種結構化的數(shù)據(jù)結構?？蚣苡擅枋鍪挛锏母鱾€方面的槽組成,每個槽可有若干個側面。在一個用框架表示的知識系統(tǒng)中,一般含有多個框架,為了區(qū)分不同的框架以及一個框架內(nèi)不同的槽和側面,需要分別賦予其不同的名字,分別稱為框架名、槽名及側面名。因此,一個框架通常由框架名、槽名、側面和值四部分組成,其一般結構如圖2-13所示。2.2.3框架表示法圖2-13框架的一般結構2.2正確表示知識2.框架結構例如,要用框架來描述“5G手機”這一概念,首先分析商品所具有的屬性,一個商品可能具有的屬性有商品名稱、生產(chǎn)日期、功能參數(shù)等,這里只考慮這幾個屬性。這幾個屬性可以定義為“5G手機”框架的槽,而“功能參數(shù)”這個屬性還可以從CPU型號、CPU核數(shù)、運行內(nèi)存和機身存儲這四個側面來加以描述。如果給各個槽和側面賦予具體的值,就得到了“5G手機”這一概念的一個實例框架,如圖2-14所示。2.2.3框架表示法圖2-14框架表示法實例2.2正確表示知識1.命題邏輯2.2.4邏輯表示法命題邏輯是數(shù)理邏輯的一種,數(shù)理邏輯是用形式化語言(邏輯符號語言)進行精確(沒有歧義)的描述,用數(shù)學的方式進行研究。人們最熟悉的是數(shù)學中的設未知數(shù)表示。在人工智能的發(fā)展史中,關于知識的表示方法曾存在兩種不同的觀點。一種觀點認為,知識主要是陳述性的。其表示方法應著重將其靜態(tài)特性,即事物的屬性及事物間的關系表示出來。這種觀點稱為陳述式或說明性表示方法。另一種觀點認為,知識主要是過程性的。2.2正確表示知識1.命題邏輯2.2.4邏輯表示法說明性表示方法是一種靜態(tài)表示知識的方法,其主要特征是把領域內(nèi)的過程性知識與控制性知識(問題求解策略)分離開。例如,在前面討論的產(chǎn)生式系統(tǒng)中,規(guī)則庫只是用來表示并存儲領域內(nèi)的過程性知識,而把控制性知識隱含在控制系統(tǒng)中,兩者是分離的。過程性表示方法著重于對知識的利用,它把與問題有關的知識以及如何運用這些知識求解問題的控制策略都表述為一個或多個求解問題的過程。每一個過程都是一段程序,用于完成對一個具體事件或情況的處理。2.2正確表示知識1.命題邏輯一般來說,一個過程規(guī)則包括激發(fā)條件、演繹操作、狀態(tài)轉換和返回四個部分。2.2.4邏輯表示法(1)激發(fā)條件。激發(fā)條件由兩部分組成,即推理方向和調(diào)用模式。(2)演繹操作。演繹操作由一系列子目標構成,當上面的激發(fā)條件被滿足時,將執(zhí)行這里列出的演繹操作,如GOAL(brother?x?y)、GOAL(fatherxz)。(3)狀態(tài)轉換操作。狀態(tài)轉換操作用于對數(shù)據(jù)庫進行增、刪、改,分別用INSERT、DELETE和MODIFY語句實現(xiàn)。(4)返回。在使用過程規(guī)則表示知識的系統(tǒng)中,求解問題的基本過程是:每當有一個新的目標時,就從可用的過程規(guī)則中選擇一個(設為R),并執(zhí)行過程規(guī)則R。2.2正確表示知識1.命題邏輯例如,設數(shù)據(jù)庫中有以下已知事實:(brother

張江海張江洋)(father

張江海

張小海)需要求解的問題是:找出兩個人u及v,其中u是v的叔父。該問題可表示為:GOAL(uncle?u?v)。規(guī)則庫中的規(guī)則為BR(uncle?y?z),其語句如下:2.2.4邏輯表示法2.2正確表示知識1.命題邏輯求解該問題的過程如下:2.2.4邏輯表示法(1)在過程規(guī)則庫中找出對于問題GOAL(uncle?u?v),其激發(fā)條件可被滿足的過程規(guī)則。顯然,BR(uncle?y?z)經(jīng)u/y,v/t變量代換后可以匹配,所以選用該規(guī)則。(2)執(zhí)行該規(guī)則的第一個語句GOAL(brother?x?y),此時y已被u代換,經(jīng)與已知事實brother(張江海張江洋)匹配,得x=張江海,u=張江洋。(3)執(zhí)行該規(guī)則過程的第二個語句GOAL(fatherxz),可得與已知事實father(張江海張小海)匹配,求得了變量v的值張小海。(4)執(zhí)行該過程規(guī)則的第四個語句INSERT(uncleyz)。此時y與z的值均已知,所以插入數(shù)據(jù)庫中的事實是uncle(張江洋張小海)。2.2正確表示知識1.命題邏輯這表明“張江洋是張小海的叔父”,從而求得了問題的解,如圖2-15所示。2.2.4邏輯表示法圖2-15過程性表示方法求解過程2.2正確表示知識2.謂詞邏輯2.2.4邏輯表示法在命題邏輯中,命題是具有真假意義的陳述句。從語法上分析,一個陳述句由主語和謂語組成。在謂詞邏輯中,為揭示命題內(nèi)部接口及不同命題的內(nèi)部結構關系,就按照這兩部分對命題進行分析,并且把主語稱為個體或客體,把謂語稱為謂詞。謂詞邏輯相當于數(shù)學中的函數(shù)表示。2.2正確表示知識2.2.5腳本表示法腳本通過一些原語作為槽名來表示對象的基本行為,描述某些事件的發(fā)生序列,有些類似于電影劇本。腳本表示的知識有強烈的因果結構,系統(tǒng)對事件的處理必須是一個動作完成之后才能完成另一個動作。整個過程的啟動取決于開場條件,只有滿足腳本的開場條件,腳本中的事件才有可能發(fā)生,而腳本的結果就是所有動作完成后的系統(tǒng)結果。2.2正確表示知識2.2.5腳本表示法腳本描述一般由以下幾部分組成:12345(1)進入條件:指出腳本所描述的事件可能發(fā)生的先決條件,即事件發(fā)生的前提條件。(2)角色:描述事件中可能出現(xiàn)的人物。(3)道具:描述事件中可能出現(xiàn)的相關物體。(4)場景:描述事件序列,可以有多個場景(場景可變化,劇情可變化)。(5)結局:給出在劇本所描述的事件發(fā)生以后通常所產(chǎn)生的結果。思考與練習1.什么是知識學習?2.簡述產(chǎn)生式表示法。3.簡述語義網(wǎng)絡表示法。4.簡述過程表示法。模塊3機器學習模塊3機器學習本模塊講述機器學習的定義和基本模型,機器學習與人類思維的對比,以及機器學習的分類和學習方法、機器學習的應用領域。通過本模塊的學習,讀者應達到以下學習目標:(1)了解機器學習的定義和基本模型;(2)了解機器學習的分類;(3)理解機器學習的方法;(4)了解機器學習的應用方向。3.1認識機器學習3.1.1機器學習的定義機器學習的核心是學習,但究竟什么是學習,至今都沒有一個統(tǒng)一的定義。來自神經(jīng)學、心理學、計算機科學等不同學科的研究人員,從不同角度對學習給出了不同的解釋。以下是關于學習比較有影響的定義:(1)西蒙(Simon,1983):學習就是系統(tǒng)中的適應性變化,這種變化使系統(tǒng)在重復同樣工作或類似工作時,能夠做得更好或效率更高。(2)明斯基(Minsky,1985):學習是人們頭腦里(心理上)有用的變化。(3)邁克爾斯基(Michalski,1986):學習是對經(jīng)歷描述的建立和修改。3.1認識機器學習3.1.1機器學習的定義機器學習的研究主要集中在三個方面展開:一二三一是認知模型的研究,目的是通過對人類學習機理的研究和模擬,從根本上解決機器學習方面存在的種種問題;二是理論學習的研究,目的是從理論上探索各種可能的學習方法,并建立起獨立于具體應用領域的學習算法;三是面向任務的研究,目的是根據(jù)特定任務的要求建立相應的學習系統(tǒng)。3.1認識機器學習3.1.1機器學習的定義人工智能是社會發(fā)展的重要推動力,而機器學習,尤其是深度學習技術是人工智能發(fā)展的核心,它們?nèi)咧g是包含與被包含的關系,如圖3-1所示。圖3-1人工智能、機器學習和深度學習三者之間的關系3.1認識機器學習3.1.2機器學習的基本模型機器學習的實現(xiàn)依賴于學習系統(tǒng),學習系統(tǒng)能夠利用過去與環(huán)境相互作用時得到的信息提高自身的性能。機器學習系統(tǒng)的基本結構如圖3-2所示。圖3-2機器學習系統(tǒng)的基本結構影響學習系統(tǒng)設計的最重要因素是環(huán)境向系統(tǒng)提供的信息。知識庫中存放的是執(zhí)行部分動作的一般原則,但環(huán)境向學習系統(tǒng)提供的信息是多種多樣的。如果信息的質(zhì)量比較高,與一般原則的差別比較小,學習部分就比較容易處理。3.1認識機器學習3.1.3機器學習與人類思考的類比把機器學習的過程與人類歸納歷史經(jīng)驗的過程做個比較,如圖3-3所示。圖3-3機器學習與人類歸納歷史經(jīng)驗的過程比較3.1認識機器學習3.1.4機器學習的分類(1)有監(jiān)督學習。有監(jiān)督學習是通過已有的訓練樣本(已知數(shù)據(jù)及其對應的輸出)進行訓練,從而得到一個最優(yōu)模型,再利用這個模型將所有新的數(shù)據(jù)樣本映射為相應的輸出結果,對輸出結果進行簡單的判斷從而實現(xiàn)分類的目的。(2)無監(jiān)督學習。無監(jiān)督學習是在用來學習的數(shù)據(jù)沒有任何類別信息以及給定目標值的情況下,通過學習尋求數(shù)據(jù)間的內(nèi)在關系和統(tǒng)計規(guī)律,從而獲得樣本數(shù)據(jù)的結構特征。(3)強化學習。強化學習也稱增強式學習,是一類通過交互來學習的機器學習算法。在強化學習中,智能體根據(jù)環(huán)境的狀態(tài)做出一個動作,并得到即時或延時的獎勵。智能體在與環(huán)境的交互中不斷學習并調(diào)整策略。1.按有無指導來分3.1認識機器學習3.1.4機器學習的分類2.按學習方法來分(1)機械式學習。機械式學習就是死記硬背式學習,是最簡單、最原始的學習方法。機械式學習通過簡單記憶和查詢達到學習目的。(2)指導式學習。指導式學習就是由外部環(huán)境向系統(tǒng)提供一般性的指示或建議,系統(tǒng)把它們具體地轉化為細節(jié)知識并送入知識庫中。(3)范例學習。范例學習也稱為基于實例的學習,是基于過去經(jīng)驗的一種學習方法,也可以看作一種類比學習。3.1認識機器學習3.1.4機器學習的分類3.按推理策略來分(1)演繹學習。演繹學習就是根據(jù)常規(guī)邏輯進行演繹推理的學習方法。演繹推理是從一般到個別的推理,其學習過程是一個特化過程。(2)歸納學習。歸納學習就是從一系列正例和反例中,通過歸納推理產(chǎn)生一般概念的學習方法。歸納學習的目標是生成合理的能解釋已知事實和預見新事實的一般性結論。歸納推理是從個別到一般的推理,其學習過程是一個泛化過程。(3)類比學習。類比學習就是通過對相似事物進行比較而得到結果的學習方法。類比學習依據(jù)從個別到個別的類比推理法。(4)解釋學習。解釋學習也稱為分析學習,是從完善的領域理論出發(fā)演繹出有助于有效地利用領域理論的規(guī)則。其學習目的是提高系統(tǒng)性能,而不是修改領域理論。3.2機器學習方法機器學習是在計算機系統(tǒng)的支持下,由大量樣本數(shù)據(jù)通過機器建模獲得學習模型作為結果的一個過程,可用下面的公式表示:樣本數(shù)據(jù)+機器建模=學習模型由上述公式可見,機器學習的兩大要素是樣本數(shù)據(jù)與機器建模。學習模型是由樣本數(shù)據(jù)通過機器建模而獲得的學習結果,它是一種知識模型。下面討論幾種常見的學習模型。3.2機器學習方法3.2.1決策樹學習決策樹也稱判定樹,它是由對象的若干屬性、屬性值和有關決策組成的一棵樹。其中的節(jié)點為屬性(一般為語音變量),分支為相應的屬性值(一般為語言值),從同一節(jié)點出發(fā)的各個分支之間是邏輯“或”關系,根節(jié)點為對象的某個屬性;從根節(jié)點到每一個葉子節(jié)點的所有節(jié)點和邊,按順序串連成一條分支路徑,位于同一條分支路徑上的各個“屬性-值”對之間是邏輯“與”關系,葉子節(jié)點為這個“與”關系的對應結果,即決策。1.決策樹的概念3.2機器學習方法3.2.1決策樹學習例如,圖3-4所示是一棵決策樹。其中,A、B、C代表屬性,ai、bj、ck代表屬性值,dl

代表對應的決策。處于同一層的屬性(圖3-4中的B、C)可能相同,也可能不同,所有葉子節(jié)點(圖3-4中的dl

,l=1,2,…,6)所表示的決策中也可能有相同者。圖3-4決策樹示意圖1.決策樹的概念3.2機器學習方法3.2.1決策樹學習下面用一個決策樹來判斷一個人的性別,如圖3-5所示。圖中只有一個屬性來決定這個人是男人還是女人,一個屬性往往決定的結果并不準確。例如,小孩沒有胡子,但是并不能認為小孩都是女人。如果想使判斷相對準確,需要再增加屬性(如喉結),如圖3-6所示。圖3-5用一個屬性判斷性別圖3-6用兩個屬性判斷性別1.決策樹的概念3.2機器學習方法3.2.1決策樹學習2.決策樹的學習決策樹是一種知識表示形式,構造決策樹可由人來完成,但也可以由機器從一些實例中總結、歸納出來,即由機器學習而得。機器學習決策樹也就是所說的決策樹學習。決策樹學習是一種歸納學習。由于一棵決策樹表示一組產(chǎn)生式規(guī)則,決策樹學習也是一種規(guī)則學習。需要注意的是,當規(guī)則是某概念的判定規(guī)則時,這種決策樹學習也就是一種概念學習。3.2機器學習方法3.2.1決策樹學習2.決策樹的學習決策樹學習的基本方法和步驟如下:(1)(2)(3)選取一個屬性,按這個屬性的不同取值對實例集進行分類,并以該屬性作為根節(jié)點,以這個屬性的各個取值作為根節(jié)點的分支來畫樹?？疾樗玫拿恳粋€子類,看其中實例的結論是否完全相同。如果完全相同,則以這個相同的結論作為相應分支路徑末端的葉子節(jié)點,否則,選取一個非父節(jié)點的屬性,按這個屬性的不同取值對該子集進行分類,并以該屬性作為節(jié)點,以這個屬性的各個取值作為節(jié)點的分支,繼續(xù)畫樹。如此繼續(xù),直到所分的子集全都滿足實例結論完全相同,而得到所有的葉子節(jié)點為止。這樣,一棵決策樹就生成了。3.2機器學習方法3.2.1決策樹學習3.ID3算法ID3算法是一個經(jīng)典的決策樹學習算法,由澳大利亞計算機科學家RQuinlan于1979年提出,全稱是iterativedichotomiser3。ID3算法的基本思想是,以信息熵為度量,用于決策樹節(jié)點的屬性選擇,每次優(yōu)先選取信息量最多的屬性,亦即能使熵值變成最小的屬性,以構造一棵熵值下降最快的決策樹,到葉子節(jié)點處的熵值為0。此時,每個子節(jié)點對應的實例集中的實例屬于同類。3.2機器學習方法3.2.2貝葉斯算法1.貝葉斯算法的概念貝葉斯算法要解決兩個重要問題:正向概率和逆向概率。正向概率是指假設袋子里面有N個白球,M個黑球,你伸手進去摸一把,摸出黑球的概率是多大。逆向概率是指如果事先不知道袋子里面黑、白球的比例,而是閉著眼睛摸出一個(或好幾個)球,觀察這些取出來的球的顏色之后,那么可以對袋子里面的黑、白球比例做出什么樣的推測。例如,校園中,男生占60%,女性占40%,男生喜歡打乒乓球,女生則一半喜歡打乒乓球一半喜歡游泳。正向概率:隨機選取一個學生,他(她)打乒乓球的概率和游泳的概率是多大。逆向概率:迎面走來一個拿著乒乓球拍的學生,你只看得見他(她)拿著乒乓球拍,而無法確定他(她)的性別,你能夠推斷出他(她)是女生的概率是多大嗎?3.2機器學習方法3.2.2貝葉斯算法1.貝葉斯算法的概念根據(jù)上面的例子,可以推出貝葉斯公式:P

(A|B)=P

(B|A)*P

(A)/P

(B)其中,P

(A|B)是在B

發(fā)生的情況下A發(fā)生的可能性。在貝葉斯定理中,每個名詞都有約定俗成的名稱:●P

(A)是A的先驗概率,之所以稱為“先驗”,是因為它不考慮任何B

方面的因素?！馪

(A|B)是已知B發(fā)生后A的條件概率,也由于得自B的取值而被稱為A

的后驗概率?！馪

(B|A)是已知A發(fā)生后B的條件概率,也由于得自A的取值而被稱為B

的后驗概率。●P

(B)是B

的先驗概率,也稱為標準化常量(normalizingconstant)。3.2機器學習方法3.2.2貝葉斯算法2.樸素貝葉斯算法的特點(1)樸素貝葉斯算法很直觀,計算量也不大,在很多領域有廣泛的應用,主要優(yōu)點如下:樸素貝葉斯模型發(fā)源于古典數(shù)學理論,有穩(wěn)定的分類效率。①標題文字對小規(guī)模的數(shù)據(jù)表現(xiàn)很好,能夠處理多分類任務,適合增量式訓練,尤其是數(shù)據(jù)量超出內(nèi)存時,可以一批批地增量訓練。②③對缺失數(shù)據(jù)不太敏感,算法也比較簡單,常用于文本分類。3.2機器學習方法3.2.2貝葉斯算法2.樸素貝葉斯算法的特點(2)樸素貝葉斯算法的主要缺點如下:①理論上樸素貝葉斯模型與其他分類方法相比具有最小的誤差率,但是實際上并非總是如此,這是因為樸素貝葉斯模型假設屬性之間相互獨立,這個假設在實際應用中往往是不成立的,在屬性個數(shù)比較多或屬性之間相關性較大時,分類效果不好。②需要知道先驗概率,且先驗概率很多時候取決于假設,假設的模型可以有很多種,因此在某些時候會由于假設的先驗模型的原因導致預測效果不佳。③由于是通過先驗和數(shù)據(jù)來決定后驗的概率從而決定分類的,分類決策存在一定的錯誤率。④對輸入數(shù)據(jù)的表達形式很敏感。3.2機器學習方法3.2.2貝葉斯算法3.貝葉斯算法的應用場景(2)樸素貝葉斯算法的主要缺點如下:(1)(2)(3)文本分類、垃圾文本過濾和情感判別。多分類實時預測。推薦系統(tǒng)。3.2機器學習方法3.2.3聚類算法1.K均值聚類算法K均值聚類算法也稱K-Means聚類算法,如圖3-7所示,是使用最普遍和最重要的聚類算法之一。K均值聚類算法主要基于數(shù)據(jù)點之間的均值和與聚類中心的聚類迭代而成。它主要的優(yōu)點是十分高效,只需要計算數(shù)據(jù)點與聚類中心的距離即可,其計算復雜度只有O(n),工作原理主要分為以下四步:1243(1)首先需要預先給定聚類的數(shù)目同時隨機初始化聚類中心,可以粗略地觀察數(shù)據(jù)并給出較為準確的聚類數(shù)目。(2)每一個數(shù)據(jù)點通過計算與聚類中心的距離來分類到最鄰近的一類中。(3)根據(jù)分類結果,利用分類后的數(shù)據(jù)點重新計算聚類中心。(4)重復步驟(2)和步驟(3),直到聚類中心不再變化。3.2機器學習方法3.2.3聚類算法1.K均值聚類算法圖3-7K均值聚類算法3.2機器學習方法3.2.3聚類算法2.均值漂移算法圖3-8均值漂移算法均值漂移算法是一種基于密度梯度上升的非參數(shù)方法,其基本思想是在數(shù)據(jù)集中選定一個點,然后以這個點為圓心,以r為半徑畫一個圓(二維下是圓),求出這個點到所有點的向量的平均值,而圓心與向量均值的和為新的圓心,然后迭代此過程,直到滿足一點的條件結束,如圖3-8所示。3.2機器學習方法3.2.3聚類算法2.均值漂移算法均值漂移算法的過程如下:(1)首先以隨機選取的點為圓心,以r為半徑作一個圓形的滑窗。其目標是找出數(shù)據(jù)點中密度最高點并作為中心。(2)在每個迭代后滑動窗口的中心將向著較高密度的方向移動。(3)連續(xù)移動,直到任何方向的移動都不能增加滑窗中點的數(shù)量,此時滑窗收斂。(4)將上述步驟在多個滑窗上進行以覆蓋所有的點。當多個滑窗收斂重疊時,其經(jīng)過的點將會通過其滑窗聚為一個類。3.2機器學習方法3.2.3聚類算法2.均值漂移算法圖與3-9中每一個黑點代表一個滑窗的中心,它們最終重疊在每一類的中心。圖3-9均值漂移算法的滑窗3.2機器學習方法3.2.3聚類算法3.基于密度的聚類算法基于密度的聚類經(jīng)典算法———DBSCAN算法(density-based

spatial

clustering

ofapplication

with

noise,具有噪聲的基于密度的空間聚類應用)是一種基于高密度連接區(qū)域的密度聚類算法,是一個比較有代表性的基于密度的聚類算法,但其原理與均值漂移算法大不相同,如圖3-10所示,其主要過程如下:圖3-10DBSCAN算法3.2機器學習方法3.2.3聚類算法4.利用高斯混合模型進行最大期望估計對于較復雜的分布K均值算法,將會產(chǎn)生圖3-11所示的較為離譜的聚類結果。圖3-11較復雜的分布K均值算法的聚類效果3.2機器學習方法3.2.3聚類算法4.利用高斯混合模型進行最大期望估計而高斯混合模型具有更高的靈活性,是通過假設數(shù)據(jù)點符合均值和標準差描述的高斯混合模型來實現(xiàn)的。圖3-12所示為以二維情況為例描述的利用最大期望優(yōu)化算法來獲取分布參數(shù)的過程。圖3-12利用最大期望優(yōu)化算法來獲取分布參數(shù)的過程3.2機器學習方法3.2.3聚類算法5.層次凝聚聚類算法層次凝聚聚類算法主要有自頂向下和自底向上兩種方式。其中,自底向上方式最初將每個點看作獨立的類別,隨后通過一步步地凝聚最后形成獨立的一大類,并包含所有的數(shù)據(jù)點。這會形成一個樹形結構,并在這一過程中形成聚類,如圖3-13所示。圖3-13層次凝聚聚類算法的樹形結構3.2機器學習方法3.2.4遷移學習對于人類來說,遷移學習(transferlearning,TL)就是掌握舉一反三的學習能力。例如,學會騎自行車后,學騎摩托車就很簡單了;在學會打羽毛球后,再學打網(wǎng)球也就沒那么難了。這就是舉一反三,在某個領域中所學習到的知識可以在另一個領域中有類似的知識供使用,這就是遷移學習的思想。3.2機器學習方法3.2.4遷移學習基于這種遷移學習的思想,可以建立起人工智能中遷移學習的理論,它可作為機器學習的一個部分用于知識的獲取。這里介紹這種理論中的基本概念,包括如下一些內(nèi)容:(1)源領域。在遷移學習中所需遷移知識所在的領域稱為源領域,如“自行車”領域、“中國象棋”領域等均為源領域。(2)目標領域。在遷移學習中所需遷移知識的目標所在的領域稱為目標領域,如“摩托車”領域、“國際象棋”領域及“圍棋”領域等均為目標領域。(3)遷移學習。在源領域中所學習到的知識往往在目標領域中也可學習到,此時實際上可以用某些變換、映射等手段從源領域中將知識轉移到目標領域從而達到減少目標領域中的學習成本,提高學習效果的作用,這種學習稱為遷移學習。3.2機器學習方法3.2.4遷移學習圖3-14所示為遷移學習的原理。圖3-14遷移學習的原理在遷移學習中,目標領域的學習方法主要分兩個步驟進行:首先從源領域中通過遷移學習將一部分類似的知識遷移至目標領域;然后以這些知識為起點,在目標領域中繼續(xù)學習,此時的學習已有了遷移的知識,因此學習就變得簡單、方便和容易了,圖3-15所示為遷移學習方法的兩個步驟。圖3-15遷移學習方法的兩個步驟3.2機器學習方法3.2.4遷移學習1.計算機視覺遷移學習已被廣泛地應用于計算機視覺的研究中,如圖片分類、風格遷移等。圖3-16展示了不同的遷移學習圖片分類任務。同一類圖片,不同的拍攝角度、光照和背景,都會造成特征分布發(fā)生改變。因此,使用遷移學習構建跨領域的魯棒分類器是十分重要的。圖3-16(a)中的手寫體數(shù)據(jù)分別來自經(jīng)典數(shù)據(jù)集MNIST和USPS,圖3-16(b)中的圖像數(shù)據(jù)則來自遷移學習公開數(shù)據(jù)集Office-Home。圖3-16遷移學習在視覺領域的應用(a)跨領域手寫體識別(b)跨領域圖像識別3.2機器學習方法3.2.4遷移學習2.自然語言處理自然語言處理領域也有著大量遷移學習的應用。以文本分類為例,由于文本數(shù)據(jù)有其領域特殊性,在一個領域上訓練的分類器,不能直接拿來作用到另一個領域上,這就需要用到遷移學習。圖3-17所示是一個由電子產(chǎn)品評論遷移到DVD評論的遷移學習任務。圖3-17遷移學習文本分類任務3.2機器學習方法3.2.4遷移學習3.普適計算與人機交互行為識別(activityrecognition)主要通過佩戴在用戶身體上的傳感器研究用戶的行為。行為數(shù)據(jù)是一種時間序列數(shù)據(jù),不同用戶、不同環(huán)境、不同位置、不同設備,都會導致時間序列數(shù)據(jù)的分布發(fā)生變化,此時,也需要進行遷移學習,如圖3-18所示。圖3-18遷移學習在普適計算與人機交互領域的應用(a)不同位置的傳感器信號差異;(b)室內(nèi)定位模型由于位置的變化導致的模型性能變化3.3深度學習與神經(jīng)網(wǎng)絡神經(jīng)網(wǎng)絡起源于對生物神經(jīng)元的研究,生物神經(jīng)元包括細胞體、樹突、軸突等部分。其中,樹突用于接受輸入信息,輸入信息經(jīng)過突觸處理,當達到一定條件時通過軸突傳出,此時神經(jīng)元處于激活狀態(tài);反之,沒有達到相應條件,則神經(jīng)元處于抑制狀態(tài),如圖3-19所示。圖3-19生物神經(jīng)元3.3深度學習與神經(jīng)網(wǎng)絡一般的神經(jīng)網(wǎng)絡包含輸入層、隱藏層和輸出層三個部分。圖3-20所示是含有一個隱藏層的人工神經(jīng)網(wǎng)絡,隱藏層的層數(shù)越多,隱藏層的節(jié)點數(shù)目越多,在非線性的激活函數(shù)下,神經(jīng)網(wǎng)絡就可以學習更深層次的特征。圖3-20人工神經(jīng)網(wǎng)絡3.3深度學習與神經(jīng)網(wǎng)絡了解神經(jīng)網(wǎng)絡,還需要了解以下幾個概念:(1)激活函數(shù)。激活函數(shù)是神經(jīng)網(wǎng)絡設計的核心單元,激活函數(shù)是用來加入非線性因素的,因為線性模型的表達能力不夠。激活函數(shù)需要滿足以下幾個條件:①非線性若激活函數(shù)是線性的,則不管引入多少隱藏層,其效果和單層感知機沒有任何差別。①可微性訓練網(wǎng)絡時使用的基于梯度的優(yōu)化方法需要激活函數(shù)必須可微。②單調(diào)性單調(diào)性保證了神經(jīng)網(wǎng)絡模型簡單。③3.3深度學習與神經(jīng)網(wǎng)絡了解神經(jīng)網(wǎng)絡,還需要了解以下幾個概念:(2)損失函數(shù)。損失函數(shù)(lossfunction)也稱代價函數(shù)(costfunction),是神經(jīng)網(wǎng)絡優(yōu)化的目標函數(shù),神經(jīng)網(wǎng)絡訓練或優(yōu)化的過程就是最小化損失函數(shù)的過程(損失函數(shù)值小了,對應預測的結果和真實結果的值就越接近)。(3)反向傳播(backpropagation,BP)算法。BP算法分為正向傳播和誤差的反向傳播兩個部分。正向傳播時,輸入樣本從輸入層進入網(wǎng)絡,經(jīng)隱藏層逐層傳遞至輸出層,若輸出層的實際輸出與期望輸出(導師信號)不同,則轉至誤差反向傳播;若輸出層的實際輸出與期望輸出(導師信號)相同,則結束學習算法。3.4機器學習的應用1.醫(yī)療診斷和計算機生物學機器學習將改善整個醫(yī)療保健價值鏈的成果并降低成本。它擁有改善診斷、減少錯誤和簡化藥物發(fā)現(xiàn)過程的潛力,而這一切都令人感到興奮?；颊邤?shù)據(jù)可被用于早期檢測疾病和個性化治療。制藥和生物科技公司可以使用計算方法快速、有效地發(fā)現(xiàn)比市場上現(xiàn)有藥品更為有效的新藥。我們的目的是根據(jù)人們的研究提出一組具有代表性的提議。3.4機器學習的應用2.供應鏈機器學習算法以及基于這種算法的模型,非常擅長在大型數(shù)據(jù)集中發(fā)現(xiàn)異常、模式和得出預測性見解。機器學習可以改善供應鏈的方方面面,包括需求預測、市場趨勢、貿(mào)易促銷和新產(chǎn)品。目前的公司很難評估不斷變化的市場模式和波動,為業(yè)務決策提供信息并準確預測,而機器學習將改變這一切。據(jù)全球最具權威的IT研究與顧問咨詢公司Gartner預測,到2023年,25%的供應鏈技術解決方案中將內(nèi)嵌智能算法和人工智能技術,或者將其作為增強型組件。3.4機器學習的應用3.制造業(yè)機器學習模型可以增強企業(yè)的幾乎所有方面,從市場營銷到銷售再到維護。在制造業(yè),物聯(lián)網(wǎng)的興起及其帶來的前所未有的海量數(shù)據(jù),為利用機器學習帶來了無數(shù)機會。工業(yè)機械的計算機化也在迅速地進行?；ヂ?lián)網(wǎng)數(shù)據(jù)中心(Internet

Data

Center,IDC)數(shù)據(jù)顯示,物聯(lián)網(wǎng)平臺的支出將從2019年的每年7450億美元上升到2023年的逾1萬億美元。3.4機器學習的應用4.金融風險與合規(guī)性機器學習方法具備分析大量數(shù)據(jù)的能力,同時提供深度的預測分析,可以提高金融機構中的風險管理能力和合規(guī)領域的分析能力。例如,檢測付費系統(tǒng)中復雜的非法交易模式以及更準確的信用風險建模。機器學習方法在金融服務領域的應用高度依賴于環(huán)境,金融機構并不總是提供用于培訓或分析的高質(zhì)量數(shù)據(jù)。更重要的是,幾種方法的分析預測能力可能以增加模型復雜性和缺乏解釋性洞察力為代價,這是需要改進的地方。3.4機器學習的應用5.改善語音通話在企業(yè)運轉中的作用盡管分析語音是業(yè)務工作流的關鍵組成部分,但分析語音的復雜性使其處于機器學習趨勢的邊緣。2013年的New

Voice

Media研究報告稱,由于呼叫中心的效率低下,企業(yè)每年約損失410億美元。而企業(yè)每年約有240萬內(nèi)部銷售參與數(shù)百萬小時的會話。因此,對語音通話進行自動化流程的改進對企業(yè)具有重要意義。當今,電信企業(yè)使用人工智能和機器學習(主要通過使用虛擬助手和聊天機器人)來改善其客戶服務。3.4機器學習的應用6.保險行業(yè)保險是一個龐大且范圍廣泛的類別,機器學習可以幫助保險公司以更低的成本提供更有針對性的產(chǎn)品。例如,汽車保險公司可以使用駕駛和其他行為數(shù)據(jù)單獨定價溢價,或者可以使用更好的欺詐檢測方法降低其總體成本結構。機器學習正在以多種方式改變著保險行業(yè)。(1)保險咨詢和客戶服務的改變(2)交易和索賠的改變(3)減少欺詐行為3.4機器學習的應用7.個性化教育傳統(tǒng)教育的一個主要限制是,盡管學生之間的理解水平和學習風格不同,教師卻必須為整個班級教授一個標準課程。如今,機器學習在教育領域已經(jīng)開始發(fā)揮作用,隨著機器學習的整合,教育和教學效率都有所提高,同時為教師和學生提供了可定制的學習體驗。3.4機器學習的應用8.自動駕駛汽車機器學習可以將汽車內(nèi)外傳感器的數(shù)據(jù)進行融合,借此評估駕駛員情況、進行駕駛場景分類,以此來實現(xiàn)自動駕駛功能。各大公司已經(jīng)廣泛采用機器學習尋找相應的解決方案。汽車中的電子控制單元已經(jīng)整合了傳感器數(shù)據(jù)處理,如何充分利用機器學習完成新的任務變得至關重要。百度Apollo無人駕駛小巴如圖3-21所示。圖3-21百度Apollo無人駕駛小巴思考與練習1.什么是機器學習?2.簡述機器學習的基本模型。3.簡述機器學習的分類。模塊4搜索策略模塊4搜索策略本模塊講述了問題求解中所采用的搜索策略,包括盲目搜索和啟發(fā)式搜索,對比了多種搜索策略的優(yōu)劣。通過本模塊的學習,讀者應達到以下學習目標:(1)了解搜索的基本概念及問題的表示方式;(2)了解與或樹的表示方式;(3)理解廣度優(yōu)先搜索策略和深度優(yōu)先搜索策略的搜索路徑;(4)理解博弈樹搜索策略及應用。4.1搜索策略的基本概念1.空間狀態(tài)法問題求解的空間狀態(tài)法可以描述為:若定義S

為被求解問題可能有的初始狀態(tài)的集合,F為求解過程中可使用的操作的集合,而G為目標狀態(tài)的集合,那么問題求解的過程則是在狀態(tài)空間中尋找從初始狀態(tài)X出發(fā),到達目標狀態(tài)Xs

的一個路徑,這就是問題求解的搜索路徑。一般情況下,問題求解過程由下面三個部分組成:(1)數(shù)據(jù)庫(2)操作規(guī)則(3)控制策略2.問題歸納法問題歸納法是不同于狀態(tài)空間法的另一種問題描述和求解的方法。問題歸納可用一個三元組(S0

,O

,P

)來描述,其中,S0

是初始問題,即要求解的問題。P是本原問題集,其中的每一個問題是不用證明而自然成立的,如公理、已知事實等,或已證明過的。O

是操作算子集,通過一個操作算子把一個問題轉化成若干個子問題。這種表示方法是由問題出發(fā),運用操作算子產(chǎn)生一些子問題,對子問題再運用操作算子產(chǎn)生子問題的子問題,這樣一直進行到產(chǎn)生的問題均為本原問題,則問題得解。4.1搜索策略的基本概念4.1.1認識AI中的搜索什么是AI中的搜索?根據(jù)問題的實際情況不斷尋找可利用的知識,構造出一條代價較少的推理路線,使問題得到圓滿解決的過程稱為搜索。搜索包括兩個方面,即找到從初始事實到問題最終答案的一條推理路徑和找到的這條路徑是在時間及空間上復雜度最小的路徑。搜索是沿著一定的搜索策略找到問題的最終可能答案的過程,它是人工智能中的一個核心技術,是推理不可分割的一部分,它直接關系到智能系統(tǒng)的性能和運行效率。4.1搜索策略的基本概念為了成功地設計和實現(xiàn)搜索算法,程序員必須能夠分析和預測它們的行為。需要回答的問題包括:(1)問題求解器保證可以找到解嗎?(2)問題求解器總是可以終止嗎?也就是說它是否可能陷入無限循環(huán)?(3)當找到解時,能保證這個解是最優(yōu)解嗎?(4)搜索過程的時間復雜度如何?內(nèi)存使用呢?(5)怎樣使解釋程序最有效地降低搜索復雜度?4.1.2狀態(tài)空間表示法4.1搜索策略的基本概念圖是由一系列節(jié)點和一系列連接節(jié)點的弧構成的。在問題求解的狀態(tài)空間模型中,圖的節(jié)點被用來表示問題求解過程中的離散狀態(tài),如邏輯推理的結果。圖的弧表示狀態(tài)之間的轉換。狀態(tài)空間可用三元組(S

,O

,G

)來描述,其中S

是狀態(tài)集合,每個元素表示一個狀態(tài)。狀態(tài)是某種事實的符號或數(shù)據(jù)。S0是S

的非空子集,是問題的初始狀態(tài)。G

也是S的非空子集,表示目標狀態(tài)集。它可以是若干具體的狀態(tài),也可以是對某些狀態(tài)性質(zhì)的描述。O

是操作子集,利用它將一個狀態(tài)轉化為另一個狀態(tài)。狀態(tài)空間的一個解是一個有限的操作序列,它使初始狀態(tài)轉化為目標狀態(tài):其中,O1…Ok

即狀態(tài)空間的一個解,但解不一定是唯一的。4.1.2狀態(tài)空間表示法4.1搜索策略的基本概念狀態(tài)空間可用有向圖表示,如圖4-1所示,其節(jié)點表示狀態(tài),節(jié)點間的弧表示操作過程。圖4-1有向圖4.1.2狀態(tài)空間表示法4.1搜索策略的基本概念用與或樹可以方便地把問題歸納為子問題替換集合。例如,假設問題A

既可通過問題C1

與C2

,也可通過問題C3

、C4

和C5

,或者由單獨求解問題C6

來解決,如圖4-2所示。圖中各節(jié)點表示要求解的問題或子問題。問題C1和C2構成后繼問題的一個集合,問題C3

、C4

和C5

構成另一后繼問題的集合;而問題C6

則為第三個集合。對應于某個給定集合的各節(jié)點,用一個連接它們的圓弧來標記。由節(jié)點及連接弧組成的圖稱為與或樹。還可以引進某些附加節(jié)點,以便使含有一個以上后繼問題的每個集合能夠聚集在它們各自的父輩節(jié)點之下。這樣圖4-2就變?yōu)閳D4-3所示的結構了,每個節(jié)點的后繼只包含一個連接弧。圖4-2與或樹4.1.3與或樹4.1搜索策略的基本概念圖4-3帶附加節(jié)點的與或樹4.2狀態(tài)空間的搜索策略4.2.1狀態(tài)空間的一般搜索過程1.搜索過程的思路狀態(tài)空間圖對問題的求解就相當于在有向圖上尋找一條從某節(jié)點(初始狀態(tài)節(jié)點)到