2023學(xué)年完整公開課版人工智能

人工智能04－05春季陳昱北大計(jì)算機(jī)研究所chenyu◎825299988-5276基本信息周四10－12節(jié)，電教239先修課程：計(jì)算機(jī)科學(xué)中涉及編程、數(shù)據(jù)結(jié)構(gòu)和算法分析的課程；高等數(shù)學(xué)，包括微積分、線性代數(shù)和概率統(tǒng)計(jì)。課程網(wǎng)頁:/course/AI/index.html教材:人工智能—一種現(xiàn)代方法(第二版)作者:StuartRussellandPeterNorvig譯者:姜哲等出版商:人民郵電出版社教材網(wǎng)頁:/助教:李佳靜，82529988－5772，lijiajing@考核方式：平常作業(yè)40％，期末考試60％。2課程基本內(nèi)容覆蓋教材中1－11，13－21，23和26章。問題求解知識(shí)與推理規(guī)劃不確定知識(shí)與推理學(xué)習(xí)3第一章、序論什么是人工智能（AI）人工智能的基礎(chǔ)人工智能的歷史回顧和展望4什么是AIAI是普遍的研究領(lǐng)域和人類智能活動(dòng)的所有范疇都潛在相關(guān)人vs.理性人：經(jīng)驗(yàn)科學(xué)，涉及許多假設(shè)和實(shí)驗(yàn)證實(shí)理性：數(shù)學(xué)和工程相結(jié)合。一個(gè)系統(tǒng)如果能夠在它所知的范圍內(nèi)“正確行事”，它就是理性的。5像人一樣思考的系統(tǒng)像人一樣行動(dòng)的系統(tǒng)理性地思考的系統(tǒng)理性地行動(dòng)的系統(tǒng)像人一樣行動(dòng):圖靈測(cè)試圖靈預(yù)測(cè)，2000年之前計(jì)算機(jī)有30%的概率蒙騙一個(gè)普通人達(dá)5分鐘。然而，AI研究者相信研究智能的根本原則遠(yuǎn)比復(fù)制樣本更重要。6Source:lecturenotesbyDr.HweeTouNg,Singapore圖靈測(cè)試對(duì)計(jì)算機(jī)的要求自然語言處理知識(shí)表示自動(dòng)推理機(jī)器學(xué)習(xí)完全圖靈測(cè)試計(jì)算機(jī)視覺機(jī)器人技術(shù)7像人一樣思考：認(rèn)知模型方法確定人是怎樣思考的通過內(nèi)省通過心理測(cè)試（blackbox）通過計(jì)算機(jī)程序來表達(dá)關(guān)于思維的結(jié)論比較計(jì)算機(jī)輸入/輸出以及timingbehavior和人類行為，例子：GeneralProblemSolverbyNewell&Simon。認(rèn)知科學(xué)：把AI的計(jì)算機(jī)模型和心理學(xué)的實(shí)驗(yàn)相結(jié)合，試圖創(chuàng)立一種精確且可檢驗(yàn)的人類思維工作方式理論。8理性地思考：“思維法則”方法“正確思考”是不能辯駁的推理過程（Aristotle）三段論：前提正確結(jié)論正確描述世界上一切事物及其彼此之間關(guān)系的精確的命題符號(hào)（19世紀(jì)）求解任何用邏輯符號(hào)描述的可解問題的程序（1965）邏輯的方法的兩個(gè)障礙：難以獲得非形式化的知識(shí)并得到邏輯符號(hào)表示所需的形式化表達(dá)，尤其當(dāng)知識(shí)不可靠時(shí)。“原則上”可以解決一個(gè)問題與實(shí)際解決問題這兩者之間存在巨大的差異：如果推理步驟不合適，會(huì)耗盡計(jì)算機(jī)的資源。9理性地行動(dòng)：理性智能體方法智能體是某種能夠行動(dòng)的東西，區(qū)別于簡(jiǎn)單“程序”自主控制的操作感知環(huán)境持續(xù)能力適應(yīng)變化有能力承擔(dān)其它智能體的目標(biāo)通過自己的行動(dòng)獲得最佳結(jié)果做出正確的推論是理性智能體的部分功能，但不是理性的全部?jī)?nèi)容。圖靈測(cè)試中需要的所有技能都是為了做出理性行為10把AI的研究看成理性智能體的設(shè)計(jì)的好處比“思維法則”方法更為通用正確的推論只是實(shí)現(xiàn)理性的幾種可能機(jī)制之一比建立在人類行為或思維基礎(chǔ)上的方法更經(jīng)得起科學(xué)發(fā)展的檢驗(yàn)理性的標(biāo)準(zhǔn)有著清楚而普遍的定義人類的行為可以很好地適應(yīng)特定的環(huán)境，而且部分地取決于未知的進(jìn)化過程。11本課程的著眼點(diǎn)理性智能體的通用原則構(gòu)造理性智能體所需的組成部分在很長時(shí)間內(nèi)實(shí)現(xiàn)完美的理性在復(fù)雜的環(huán)境下是不可行的，但它是研究問題的出發(fā)點(diǎn)。有限理性：在沒有足夠的計(jì)算時(shí)間前提下采取正確的行動(dòng)。12第一章、序論什么是人工智能（AI）人工智能的基礎(chǔ)人工智能的歷史回顧和展望13AI的基礎(chǔ):為AI貢獻(xiàn)想法、觀點(diǎn)和技術(shù)的學(xué)科的簡(jiǎn)史哲學(xué)（公元前428年至今）數(shù)學(xué)（約800年至今）經(jīng)濟(jì)學(xué)（1776年至今）神經(jīng)科學(xué)（1861年至今）心理學(xué)（1879年至今）計(jì)算機(jī)工程（1940年至今）控制論（1948年至今）語言學(xué)（1957年至今）14哲學(xué)形式化規(guī)則能用來抽取合理的結(jié)論嗎？Aristotle的三段論：在初始前提的條件下機(jī)械地推導(dǎo)出結(jié)論。用機(jī)械裝置進(jìn)行推理RamonLull,LeonardodaVinci,WilhelmSchickard精神的意識(shí)是如何從物質(zhì)的大腦產(chǎn)生出來？Descartes給出了第一個(gè)關(guān)于意識(shí)和物質(zhì)之間的區(qū)別及由此引起的問題的清晰討論：二元論vs.唯物主義15描述意識(shí)的形式化、理性的部分二元論vs.唯物主義二元論意識(shí)的一部分是超脫于自然之外的，不受物理定律影響。動(dòng)物不擁有這種二元屬性，可以被當(dāng)作機(jī)器看待。唯物主義大腦依照物理定律運(yùn)轉(zhuǎn)而構(gòu)成意識(shí)自由意志是對(duì)出現(xiàn)在選擇過程中的可能選擇的感受方式16哲學(xué)（2）：知識(shí)從哪里來？Bacon“NovumOrganum”開啟經(jīng)驗(yàn)主義運(yùn)動(dòng)：“無物非先感而后知”Hume“ATreatiseofHumanNature”提出歸納原理:一般規(guī)則是通過揭示形成規(guī)則的元素之間的重復(fù)關(guān)聯(lián)而獲得邏輯實(shí)證主義學(xué)說所有的知識(shí)都可以用最終與（對(duì)應(yīng)于傳感器輸入的）觀察語句相聯(lián)系的邏輯理論來刻畫Carnap“TheLogicalStructureoftheWorld”定義一個(gè)用于從基本實(shí)驗(yàn)中抽取知識(shí)的計(jì)算過程17哲學(xué)（3）：知識(shí)是如何導(dǎo)致行動(dòng)的？對(duì)AI來說是至關(guān)重要的Aristotle:行動(dòng)是通過目標(biāo)與關(guān)于行動(dòng)結(jié)果的知識(shí)之間的邏輯聯(lián)系來判定的。2300年后Newell&Simon在GPS程序中實(shí)現(xiàn)Aristotle的算法（回歸規(guī)劃系統(tǒng)）當(dāng)多個(gè)行動(dòng)可以達(dá)到目標(biāo)時(shí)或根本無法到達(dá)目標(biāo)時(shí)，如何行事？Arnauld正確地表述了一個(gè)定量規(guī)則（17世紀(jì)）JohnMill“Utilitarianism”把理性決策規(guī)范的思想發(fā)揚(yáng)推廣到人類行為的各個(gè)層面(19世紀(jì)）1819哲學(xué)家們標(biāo)志出了AI的大部分思想，但實(shí)現(xiàn)成為一門規(guī)范科學(xué)的飛躍就要求在三個(gè)基礎(chǔ)領(lǐng)域完成一定程度的數(shù)學(xué)形式化：邏輯、計(jì)算和概率。數(shù)學(xué)什么是抽取合理結(jié)論的形式化規(guī)則？Boole邏輯（接近命題邏輯）Frege擴(kuò)展了Boole邏輯，使其包含對(duì)象和關(guān)系，創(chuàng)建了一階邏輯（當(dāng)今最基本的知識(shí)表示系統(tǒng)）代表作“Begriffschrift”（概念符號(hào)），1879Tarski引入一種參考理論，可以表示如何將邏輯對(duì)象和現(xiàn)實(shí)世界的對(duì)象聯(lián)系起來。20數(shù)學(xué)（2）：邏輯和計(jì)算的極限Euclid的計(jì)算最大公約數(shù)的算法是第一個(gè)不可忽視的算法把一般的數(shù)學(xué)推理形式化為邏輯演繹的努力（始于19世紀(jì)晚期）Hilbert著名的“23個(gè)問題”的最后一個(gè)問題是：是否存在一個(gè)算法可以判定任何涉及自然數(shù)的邏輯命題的真實(shí)性。Godel證明了確實(shí)存在真實(shí)的局限（不完備性定理，1931）在任何表達(dá)能力足以描述自然數(shù)的語言中，在不能通過任何算法建立它們的真值意義下，存在不可判定的真值語句。21邏輯和計(jì)算的極限（2）Turning試圖精確地刻畫哪些函數(shù)是能夠被計(jì)算的但，計(jì)算或有效過程的概念是無法給出形式化定義的。如果解決一個(gè)問題需要的時(shí)間隨實(shí)例的規(guī)模成指數(shù)級(jí)增長，該問題稱為不可操作的。NP-完全理論為認(rèn)識(shí)不可操作問題提供一種方法任何NP-完全問題類可歸約而成的問題類很可能是不可操作的22數(shù)學(xué)（3）：概率概率起源于對(duì)賭博問題可能結(jié)果的描述，成為所有需要定量的科學(xué)的無價(jià)之寶，幫助對(duì)付不確定的測(cè)量和不完備的理論。（Cardano，16世紀(jì)）Bayes提出了根據(jù)新證據(jù)更新概率的法則（18世紀(jì)）Bayes分析形成了大多數(shù)AI系統(tǒng)中不確定推理的現(xiàn)代方法的基礎(chǔ)23經(jīng)濟(jì)學(xué)我們?nèi)绾螞Q策以獲得最大效益？AdamSmith是第一個(gè)把經(jīng)濟(jì)學(xué)當(dāng)作科學(xué)來看待，認(rèn)為經(jīng)濟(jì)是個(gè)人代理之間的協(xié)調(diào)過程，這些代理追求自己的經(jīng)濟(jì)利益的最大化。對(duì)于“偏好的結(jié)果”（效用）的數(shù)學(xué)處理，由Walras完成形式化。決策理論把概率和效用結(jié)合起來，為在不確定條件下進(jìn)行決策提供了形式化和完整的框架。（適用于“宏觀”經(jīng)濟(jì)）“微觀”經(jīng)濟(jì)則更像博奕游戲在他人不合作情況下如何獲得最大效益？24經(jīng)濟(jì)學(xué)（２）當(dāng)行動(dòng)的收益不是立即體現(xiàn)的，而是一些按順序采用的行動(dòng)的結(jié)果時(shí)，如何制定理性的決策？屬于運(yùn)籌學(xué)問題的形式化馬爾可夫決策過程基于滿意度的模型制定“足夠好”的決策，而不是艱苦計(jì)算得到最優(yōu)化決策，能更好地描述人類行為。（Simon,1947)25神經(jīng)科學(xué)：大腦是如何處理信息的？26大腦的神經(jīng)元心理學(xué)：人類和動(dòng)物是如何思考的？研究方法：內(nèi)省vs.心理測(cè)量行為主義者只研究對(duì)動(dòng)物的感知和它所引發(fā)的行動(dòng)的度量，排斥精神的結(jié)構(gòu)，包括知識(shí)、信念、目標(biāo)和推理步驟。認(rèn)知心理學(xué)把大腦當(dāng)作信息處理裝置。基于知識(shí)的智能體的三個(gè)步驟：把刺激翻譯成內(nèi)部表示表示經(jīng)過認(rèn)知過程處理→新的表示表示被翻譯回到行動(dòng)計(jì)算機(jī)模型的發(fā)展導(dǎo)致認(rèn)知科學(xué)的創(chuàng)建普遍的觀點(diǎn)：“認(rèn)知理論就應(yīng)該像計(jì)算機(jī)程序”27計(jì)算機(jī)工程：如何制造能干的計(jì)算機(jī)？AI需要智能和人工制品，即計(jì)算機(jī)。AI對(duì)主流計(jì)算機(jī)科學(xué)的影響分時(shí)技術(shù)交互式翻譯器使用窗口和鼠標(biāo)的個(gè)人計(jì)算機(jī)面向?qū)ο蟮木幊獭?8控制論：人工制品怎樣才能在自己控制下運(yùn)轉(zhuǎn)現(xiàn)代控制論和AI的共同點(diǎn)：設(shè)計(jì)出能隨時(shí)間變化使目標(biāo)函數(shù)最大化的系統(tǒng)?？刂普摰闹饕ぞ呤俏⒎e分和線性代數(shù)其主要研究對(duì)象是用固定的連續(xù)變量集描述的（線性）系統(tǒng)AI的部分起因是尋求擺脫控制論的數(shù)學(xué)方法局限性的途徑不同的工具：邏輯推理和計(jì)算不同的問題：語言、視覺、規(guī)劃…29語言學(xué)：語言和思維是怎樣聯(lián)系起來的？現(xiàn)代語言學(xué)的誕生：Chomsky理論形式化，可以編程實(shí)現(xiàn)。知識(shí)表示的許多早期工作和語言緊密聯(lián)系30總結(jié)哲學(xué)：標(biāo)出了AI的大部分重要思想數(shù)學(xué)：使AI成為一門規(guī)范科學(xué)經(jīng)濟(jì)學(xué)：決策理論神經(jīng)科學(xué)：網(wǎng)絡(luò)，并行處理…心理學(xué)：認(rèn)知理論計(jì)算機(jī)工程：AI的“載體”控制論：反饋的思想語言學(xué)：知識(shí)表示、語法31為什么AI有必要成為一個(gè)單獨(dú)的領(lǐng)域？和控制論、運(yùn)籌學(xué)、決策理論的目標(biāo)類似為什么不是數(shù)學(xué)的一個(gè)分支？AI從一開始就承載著復(fù)制人的才能的思想方法論的不同AI屬于計(jì)算機(jī)科學(xué)的分支AI試圖建造在復(fù)雜和變化的環(huán)境中自動(dòng)發(fā)揮功能的機(jī)器32第一章、序論什么是人工智能（AI）人工智能的基礎(chǔ)人工智能的歷史回顧和展望33孕育期（1943－1955）McCulloch&Pitts提出人工神經(jīng)元模型基礎(chǔ)生理學(xué)知識(shí)和腦神經(jīng)元的功能對(duì)命題邏輯的形式化分析Turing的計(jì)算理論Turing第一個(gè)清晰地描繪出AI的完整圖景在“ComputingMachineryandIntelligence”中提出了圖靈測(cè)試、機(jī)器學(xué)習(xí)、遺傳算法和增量學(xué)習(xí)。34誕生：DartmouthCollege，1956Dartmouthworkshop，1956夏天與會(huì)者的背景：自動(dòng)機(jī)、神經(jīng)網(wǎng)絡(luò)和智能研究Impact：在隨后的20年中，AI被與會(huì)者和他們?cè)贛IT、CMU、Stanford及IBM的學(xué)生和同事所統(tǒng)治。35Look,Ma,nohand!(1952-69)GPS可能是第一個(gè)實(shí)現(xiàn)了“像人一樣思考”方法的程序Samuel‘scheckersprogram，通過學(xué)習(xí)達(dá)到了業(yè)余高手的級(jí)別，反駁了認(rèn)為計(jì)算機(jī)只能做人讓它做的事的觀念。（通過“強(qiáng)化學(xué)習(xí)”）McCarthy“ProgramswithCommonSense”描述了一個(gè)假設(shè)程序，AdviceTaker。它可被看作是第一個(gè)完整的AI系統(tǒng)，不同于其它的系統(tǒng)，它包含了世界的一般知識(shí)。SRI的Shakey機(jī)器人項(xiàng)目，第一次演示了邏輯推理和物理行為的完整集成。36現(xiàn)實(shí)的困難：1966－1973早期的程序很少包含或不包含關(guān)于它們的主題信息AI試圖解決的許多問題不可操作在計(jì)算復(fù)雜性理論發(fā)展起來之前，廣泛認(rèn)為由“微問題”到“大問題”只是需要更快的硬件和更大容量的內(nèi)存。但，程序原則上能找到解并不意味著它包含在實(shí)踐中找到它的機(jī)制。用于產(chǎn)生智能行為的基本結(jié)構(gòu)有著一些基本的限制例子:Atwo-inputperceptroncouldn’tbetrainedtorecognizewhenitstwoinputsweredifferent.37基于知識(shí)的系統(tǒng)：力量的鑰匙？AI研究的第一個(gè)十年中解決問題的方法可以稱為弱方法，即一種試圖通過串接基本的推理步驟來尋找完全的解的通用搜索機(jī)制。替代方法是使用更強(qiáng)有力、領(lǐng)域相關(guān)的知識(shí)。第一個(gè)成功的知識(shí)密集系統(tǒng)—DENDRAL主要應(yīng)用領(lǐng)域：醫(yī)學(xué)診斷、自然語言理解。表示和推理的語言：Prolog、PLANNER、Frame38AI的歷史（續(xù)）成為工業(yè)（1980至今）神經(jīng)網(wǎng)絡(luò)的回歸（1986至今）連接主義的智能系統(tǒng)模型vs.符號(hào)模型、邏輯方法成為科學(xué)（1987至今）建立在嚴(yán)格的定理或確鑿的實(shí)驗(yàn)基礎(chǔ)上顯示與現(xiàn)實(shí)世界的應(yīng)用的相關(guān)性例子：規(guī)范專家系統(tǒng)的思想—根據(jù)決策理論的法則理性地行動(dòng)，不試圖模仿人類專家的思考步驟。智能化智能體的出現(xiàn)（1995至今）研究者重新開始審視“完整智能體”問題39第一章、序論什么是人工智能（AI）人工智能的基礎(chǔ)人工智能的歷史回顧和展望40AI發(fā)展的兩條線索復(fù)制人的功能vs.理性關(guān)于世界的一般知識(shí)vs.某領(lǐng)域的專門知識(shí)41WhatisNext?ComputerNetworkasaGlobalBrainandKnowledgeBaseAnewparadigminAIresearch?Exampleof“AskMSR”:“WhenwasMarilynMonroeb