第節(jié)機器學習概述及其基本系統(tǒng)結構

各位同學可從教務處“網絡教學”登錄了用戶名：cs05密碼：cs05目前可用的資源教學文檔（課件）；討論版（教學內容和課后習題的帖子和回帖）。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構第6.1節(jié)機器學習的概述王慶江計算機科學與技術系qjwang@目前的AI系統(tǒng)多是基于演繹的，沒有歸納推理，故不能自動獲取和生成新知識；系統(tǒng)中的知識是事先輸入的，包含的錯誤也不能自動改正。自1956年AI創(chuàng)立至今，科研人員一直重視機器學習（Machinelearning）的研究。50年代，Samuel的跳棋程序可從經驗中學習，調整棋盤的評估函數；70年，Winston的學習系統(tǒng)可從積木世界里學習概念，如“橋梁”；80年代，機器學習逐漸成為AI的主要研究問題之一。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構機器的能力（智能）會超過人類嗎？對于不具備學習能力的機器，這是不可能的；反之，機器能力的提高可能是難以預測的。機器學習的不可預測問題能否設計出檢測AI系統(tǒng)能力的系統(tǒng)？檢測系統(tǒng)必須有與被檢測系統(tǒng)相當的或更強的學習能力；檢測系統(tǒng)本身的變化又如何了解和控制呢？2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構6.1.1機器學習的基本概念什么是機器學習？它是研究如何用機器來模擬人類學習活動的一門學科；Simon說，“學習是系統(tǒng)在不斷重復的工作中對本身能力的增強或改進，使系統(tǒng)下一次執(zhí)行同樣或類似任務時比現(xiàn)在做得更好或效率更高?！盡insky說，“學習是人腦（心理內部）中進行了有用的變化?！?008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構學習的基本形式知識獲取獲取新的知識，這是學習的本質。技能求精學習機制本身的提高。學習的目的是使系統(tǒng)性能得到改善。從不會做到會做；從會做到做得更好。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構機器學習的內涵隨著網絡技術發(fā)展而變得豐富在AI新興的數據挖掘和知識發(fā)現(xiàn)研究中，更多地涉及大規(guī)模海量數據；數據可以是文本、圖形圖像、語音視頻；數據可以是結構化的，也可以半結構化的；并存著分類、聚類、貝葉斯網絡推理、決策樹、遺傳算法等多種學習方法。機器學習的定義更模糊了，這也意味著機器學習正受到越來越多的關注。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構機器學習的任務獲得對輸入的數據進行分類的能力；概念區(qū)分、文字識別、醫(yī)療診斷等。獲得解決問題、行為計劃和行為控制的能力。下棋、平衡杠桿、駕車等。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構怎么評價學習能力？分類精度能否對輸入數據進行正確、精確的分類。解答的正確性和質量無論是分類系統(tǒng)還是解決問題的系統(tǒng)，都有正確性問題；質量包括可讀性、穩(wěn)定性等指標。學習速度很費時的學習方法在實踐中可能是不可用的。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構6.1.2機器學習的研究意義一個真正的智能系統(tǒng)應該有學習能力；通過歸納、演繹等推理豐富知識庫，使系統(tǒng)適應環(huán)境。大的智能系統(tǒng)比較注重靜態(tài)知識的學習；如醫(yī)療、勘探，有大規(guī)模數據庫和較完整的規(guī)則庫，應用領域明確，環(huán)境變化較??；而較忽視動態(tài)知識的學習。一些較小的智能系統(tǒng)注重動態(tài)知識的學習；很難手工創(chuàng)建較完整的數據庫；但可自動適應環(huán)境和定制自身。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構當前機器學習的研究時機比較成熟已經有機器學習的初步算法和理論基礎；互聯(lián)網可提供越來越充足的數據；計算機性能不斷提高，能運行高復雜度的算法。2008-2009學年第1學期機器學習概述及其基本系統(tǒng)結構若干兆難點蠢制約熊機器鄙學習津的發(fā)鞠展預測仗難脫離鞏實際梨環(huán)境紅的學秒習方卻法，怕在實召際中拳會有械怎樣籌的表振現(xiàn)？有學何習能損力的孔中醫(yī)鬼診斷豈系統(tǒng)川在實鄭際中省學到欄的新躍知識請是否招正確焰？歸納律推理講中問駱題保假者，歸輕納得吩到的齡知識跌不可流靠。判斷并難什么怪重要鄙、什區(qū)么應糊該學古習？20頃08腎-2害00謙9學年樹第1學期機器丟學習拒概述密及其歷基本愈系統(tǒng)抓結構6.菜1.跌3機器虎學習僚的發(fā)兄展史神經毀系統(tǒng)筆模型務階段樹；開始旁于50年代欲；主要枯研究母沒有泉知識川的學謠習，救試圖槐建立悅自組酬織、挖自適恢應系尺統(tǒng)；19讀57年的洗“感潔知器衫”是背這一宇時期爐最具繳代表貞性的可神經市網絡穿模型嶼；這段燒時期穴，還迅出現(xiàn)導了跳練棋程冤序、跨決策歲理論他。20臣08妨-2嚴00嚼9學年緣瑞第1學期機器淡學習褲概述槐及其箏基本旺系統(tǒng)順結構符號學概念寬獲取緊階段姥；開始護于70年左血右；試圖晚模擬文人類睬的概躲念學財習過宋程，關通過亮分析饅一些進概念毛的正被例和共反例翠，構鮮造概至念的秤符號啊表示增；表示釣形式襯可以訪是邏捎輯表賓達式武、決請策樹服、產通生式隔規(guī)則豎、語藝義網搏絡等鳳。例：Wi罷ns毀to疑n的AR刑CH系統(tǒng)諷；只能辦學習紗單概鋤念，押未能嘴投入侄實際糞應用書。20埋08叫-2亭00域9學年猾第1學期機器單學習沈概述責及其舍基本榮系統(tǒng)鈴結構知識晴加強旦和論稿域專涼用學守習階菌段開始每于70年代凝中期鉗；繼續(xù)綠沿符洞號主喜義路摔線研翠究；側重剪專業(yè)華的專阿用性傲，強銹調面喪向任即務的改學習鼓和任棚務對充學習朵過程遙的引淡導作宵用；例：D.煩J.Mo斥st企ow的指單導式離學習培，T.夜J.駱M夜it門ch民el波l的解才釋學坡習。20循08邀-2順00耕9學年忌第1學期機器占學習快概述斷及其色基本貧系統(tǒng)影結構近20年中呼的機千器學暑習歸納胞學習枕的絕閉對優(yōu)沫勢有峽所動殲搖；出現(xiàn)場了解豆釋學尋習；遺傳供式學情習有田了新汪的發(fā)共展；神經乳網絡頭學習穗又有樹了重話要進國展；隨著薄數據帆挖掘廳、知樸識發(fā)嫌現(xiàn)的界研究消蓬勃腐發(fā)展總，貝滴葉斯所網絡預、決饒策樹劫、神完經網乳絡得快到了請深入膜研究兄和應柏用。20喝08肚-2遠00宣9學年充第1學期機器踢學習沫概述滾及其任基本席系統(tǒng)模結構6.烘1.孝4機器詢學習敬的分窄類按學眾習風鴿格分墳類記憶醋學習令（死傳記硬功背學象習、請機械物學習目）基于脖記憶儲和檢篩索；直接蜓記錄粉問題哥有關者的信轎息，帖然后吹檢索旨并利霧用這真些存柏儲的睬信息樸來解羞決問非題；如從塵數據x，經片過某會種計爭算得清到結聽果y，則黎把(x伸,掩y)記錄僵下來疑，以圾后要寄再對x計算奧時，柴通過渠查詢浙直接祝得到y(tǒng)。20壯08剪-2咳00撫9學年輝第1學期機器覺學習渣概述微及其茶基本磁系統(tǒng)返結構按學赴習風載格分敏類演繹讓學習基于略演繹卵推理高；如果涉系統(tǒng)盲能證糧明A→烘B且B→咱C，則呀可得曉到A→指C，以居后直亂接使豪用規(guī)餡則A→蝦C。20經08收-2刮00鄉(xiāng)豐9學年獻第1學期機器此學習捆概述應及其廟基本箏系統(tǒng)館結構按學委習風前格分誼類歸納蕉學習這是急研究夏最多株的一劇種學皇習方斥法；給定喝關于閉某概司念的構一些點例子挑，從把中歸療納出校概念鉤的一瞎般描糠述；例：篩大馬崖有四瀉條腿星，小析馬有切四條烘腿，柔故馬蘋有四州條腿壘。但是冬，歸陵納是硬危險謝的推貼理；例：汁麻雀棟會飛扭，燕玩子會敞飛，熔故鳥蓄會飛屠。實例縱（示商例）史學習捧是典帥型的訊歸納饅學習叢方法壁。20鐵08隸-2僚00延9學年世第1學期機器垃學習展概述訂及其蕩基本蠟系統(tǒng)委結構按學元習風瞇格分貓類類比涉學習通過簽目標集對象羽與源梯對象括的相吳似性卵，用鞏源對張象的熟求解垃方法限來解貴決關有于目字標對貌象的停問題確；對未亞知或捷知之田甚少塊的領穩(wěn)域中伏的問號題，添用已止知的誦、熟吹悉的前領域丟中的貓方法拘解決炮。回憶嘗與聯(lián)僅想；建立拋對應期關系腳；驗證辭與歸慈納。20錘08潛-2洪00瓣9學年粥第1學期機器扎學習調概述都及其聾基本嗎系統(tǒng)壤結構按學趴習風猜格分鄰類基于敗解釋挨的學塑習從問糟題求糊解的叛一個資具體墾過程漂中抽努取出詳一般賢的原員理，個并使李其在遠類似獻情況斃下也意可利泉用；與實壓例學攝習不錢同，五解釋銹學習彈只分裝析一爽個或武幾個有例子甩，加境上給亂定的炒領域攤知識角，進努行保置真演繹，存厚儲有譜用結圈論，保經過遵知識歐求精被和編評輯，惑產生鉛適合蹦以后碌求類獸似問宰題的勝控制侵知識遵；盡量猾少用循歸納解，以星減少哥歸納燒帶來芬的不穩(wěn)可靠濁性。20催08廊-2宜00瓶9學年疊第1學期機器枕學習諷概述矛及其流基本膚系統(tǒng)喇結構按學翠習風看格分普類連接研學習主要希指神怎經網炎絡學正習；通過動實例消訓練殲，得銅到網球絡中曠的參數甚至結構，實咽現(xiàn)對曉輸入窯模式祥的分類等功枕能。20汪08防-2泊00皇9學年省第1學期機器燙學習因概述綿及其稈基本圓系統(tǒng)擔結構按實鋸現(xiàn)途駐徑分泊類符號炕學習連接望學習符號陷學習用計判算機拒能理老解（遇處理蔥）的豈符號急表示怪人類何的知上識；用學馬習程衫序實驢現(xiàn)學萄習過定程；輸入喝的是舟數據科、事基實等痛信息澤，產判生符巾號表似示的竹知識均（如六概念耍、規(guī)奴則等算）；基于棄符號百演算俯的知澡識推搖理和隱知識賤學習訪。20拔08痰-2非00是9學年聰第1學期機器舉學習樓概述達及其停基本悄系統(tǒng)魯結構連接往學習就是甘人工催神經泥網絡辦（Ar易ti會fi眉ci善al夾N著eu吩ra名l嫂Ne燃tw華or扇k，縮鐘寫AN甩N）學辟習；AN睡N是對景生物呈神經羅網絡咱的某捐種模蜂擬或徐仿真鞠；AN紀N學習紙是基縣于生訊物神棚經網搖絡理降論的娘機器餅學習江方法葬。20賞08浩-2手00穿9學年類第1學期機器備學習場概述艘及其稱基本且系統(tǒng)排結構符號胳學習慈和連痕接學跑習的真實現(xiàn)尋途徑統(tǒng)有什餃么區(qū)污別呢染？符號均學習班建立叢在符皮號理產論基緒礎上芹，預先有專熄家總罰結的唯大量量知識樹，對落知識旁的可自理解版性和吸可讀毅性非懂常重茶視；連接梢學習烏強調組對大量互事實即的反余復觀雹察，最祥多需笛要人換對事的實進招行分菌類與疏標注案，形壯成的嘩知識縫結構擁是人難以驅理解成的。20膽08需-2鏡00拼9學年辦第1學期機器耳學習巡壽概述邪及其蒙基本尸系統(tǒng)便結構按學補習方殺法分氣類有教潑師指口導的若，或決從樣與本中訴的學子習被稱歲作教歇師的結用戶已需將訪數據敗分類莊（標閘注）節(jié)；即使統(tǒng)沒有嶼先驗煉知識頭，只界要數紋據是刃可自決然分妙類的擠，仍序可采釋用有扎教師估指導捷類的遵學習踢算法蹦，如愈聚類膏算法苗；機器艷學習者的目喬的就收是建尿立從爹數據島到結孩果空均間的筋映射御函數蒜。無教湊師指封導的峽，或聰從環(huán)疲境中責的學徒習通常旁，準州備好善所有村數據田；系統(tǒng)卸從執(zhí)嗎行結序果的裝好壞你得到些反饋亡信息架，依呢此改辣進執(zhí)挑行過波程，瓦達到四學習杯目的寒。20費08甩-2葡00報9學年露第1學期機器造學習泳概述傍及其須基本失系統(tǒng)輪結構6.筍2機器究學習劇的基慮本系保統(tǒng)結從構Si香mo謎n認為略，學暴習就叔是系妨統(tǒng)在不斷慮重復的工先作中肝對本勞身能扯力的增強或改進，使診得系濫統(tǒng)在幕下執(zhí)注行同樣或類似任務買時，征會比果現(xiàn)在偏做得倆更好箏或效無率更它高。環(huán)境學習知識庫執(zhí)行學習系統(tǒng)的基本構成20場08始-2店00焰9學年嚇第1學期機器使學習脅概述頌及其角基本臂系統(tǒng)箏結構環(huán)境是系榆統(tǒng)的玩工作退對象杏，還援可包凈括外致界條宜件；代表閉外界佛信息丘來源趣；例：毀醫(yī)療霧系統(tǒng)帝中，役病人南當前么的癥念狀、較檢驗滅數據脆和病態(tài)歷。環(huán)境殲提供哈的信課息從健兩個點方面伶評價信息捎水平相對咳于執(zhí)濤行環(huán)讓節(jié)的億要求留而言毫，由食學習膽環(huán)節(jié)化消除槐差距鑼。信息廳質量實例孩示教擋是否職正確授、實決例次倉序是差否合悔理等筍。20遇08爸-2死00耽9學年辱第1學期機器欲學習畝概述品及其復基本焰系統(tǒng)踐結構知識清庫知識碌表示雞要合榆理；如特累征向撐量、母謂詞狀公式原、產印生式課、過觸程、LI漆SP函數叫、語掛義網欲絡、篇框架糾等；推理問方法勒的實紫現(xiàn)不案要太棒難；存儲扔的知拐識是躬否支甲持修雄改（程更新緒）。20磚08踏-2封00刷9學年綁第1學期機器份學習