高級人工智能課件6

人工智能ArtificialIntelligence11/27/20221安徽大學計算機科學與技術學院人工智能ArtificialIntelligence11/第六章機器學習6.1機器學習的定義、研究意義與發(fā)展歷史6.2機器學習的主要策略與基本結構6.3–6.7幾種常用的學習方法6.8知識發(fā)現(xiàn)6.9小結11/27/20222安徽大學計算機科學與技術學院第六章機器學習6.1機器學習的定義、研究意義與發(fā)展6.1機器學習的定義和發(fā)展歷史6.1.1機器學習的定義機器學習的定義顧名思義,機器學習是研究如何使用機器來模擬人類學習活動的一門學科。稍為嚴格的提法是：機器學習是一門研究機器獲取新知識和新技能,并識別現(xiàn)有知識的學問。11/27/20223安徽大學計算機科學與技術學院6.1機器學習的定義和發(fā)展歷史6.1.1機器6.1.2 機器學習的發(fā)展史機器學習的發(fā)展分為4個時期第一階段是在50年代中葉到60年代中葉，屬于熱烈時期。無知識、自組織、自適應、修改參數(shù)第二階段在60年代中葉至70年代中葉，被稱為機器學習的冷靜時期。消解，歸納學習第三階段從70年代中葉至80年代中葉，稱為復興時期。示例學習機器學習的最新階段始于1986年。網(wǎng)絡、遺傳、挖掘11/27/20224安徽大學計算機科學與技術學院6.1.2 機器學習的發(fā)展史機器學習的發(fā)展分為4個時期11/機器學習進入新階段的表現(xiàn)機器學習已成為新的邊緣學科并在高校形成課程。綜合各種學習方法

機器學習與人工智能問題的統(tǒng)一性觀點正在形成。各種學習方法的應用范圍不斷擴大。數(shù)據(jù)挖掘和知識發(fā)現(xiàn)的研究已形成熱潮。與機器學習有關的學術活動空前活躍。

11/27/20225安徽大學計算機科學與技術學院機器學習進入新階段的表現(xiàn)11/27/20225安徽大學計算6.2機器學習的主要策略和基本結構6.2.1機器學習的主要策略按照學習中使用推理的多少，機器學習所采用的策略大體上可分為4種———機械學習、通過傳授學習、類比學習和通過事例學習。機械學習傳授學習類比學習系統(tǒng)通過事例學習11/27/20226安徽大學計算機科學與技術學院6.2機器學習的主要策略和基本結構6.2.16.2.2機器學習系統(tǒng)的基本結構

1.學習系統(tǒng)的基本結構

學習執(zhí)行圖6.1學習系統(tǒng)的基本結構環(huán)境知識庫11/27/20227安徽大學計算機科學與技術學院6.2.2機器學習系統(tǒng)的基本結構學習執(zhí)行圖6.12.影響學習系統(tǒng)設計的要素影響學習系統(tǒng)設計的最重要因素是環(huán)境向系統(tǒng)提供的信息，或者更具體地說是信息的質量。知識庫是影響學習系統(tǒng)設計的第二個因素。知識的表示有特征向量、一階邏輯語句、產生式規(guī)則、語義網(wǎng)絡和框架等多種形式。11/27/20228安徽大學計算機科學與技術學院2.影響學習系統(tǒng)設計的要素11/27/20228安徽大學計6.3機械學習1.機械學習模式機械學習是最簡單的學習方法。機械學習就是記憶，即把新的知識存儲起來，供需要時檢索調用，而不需要計算和推理。它是一種最基本的學習過程。(X1,X2,…,Xn)→(Y1,Y2,…,Yp)((X1,X2,…,Xn),

(Y1,Y2,…,Yp))11/27/20229安徽大學計算機科學與技術學院6.3機械學習(X1,X2,…,Xn)→(Y1,Y2,存儲計算推導歸納算法與理論機械記憶搜索規(guī)則圖6.2數(shù)據(jù)化簡級別圖

Lenat，Hayes-Roth，和Klahr等人于1979年關于機械學習提出一種有趣的觀點，見圖6.2。11/27/202210安徽大學計算機科學與技術學院存儲計算推導歸納算法與理論機械記憶搜索規(guī)則圖6.2數(shù)據(jù)化簡

2.機械學習的主要問題存儲組織信息：要采用適當?shù)拇鎯Ψ绞?，使檢索速度盡可能地快。環(huán)境的穩(wěn)定性與存儲信息的適用性問題：機械學習系統(tǒng)必須保證所保存的信息適應于外界環(huán)境變化的需要。存儲與計算之間的權衡：對于機械學習來說很重要的一點是它不能降低系統(tǒng)的效率。11/27/202211安徽大學計算機科學與技術學院2.機械學習的主要問題11/27/202211安徽大

6.4歸納學習歸納學習（inductionlearning）是應用歸納推理進行學習的一種方法。根據(jù)歸納學習有無教師指導，可把它分為示例學習和觀察與發(fā)現(xiàn)學習。6.4.1歸納學習的模式和規(guī)則1.歸納學習的模式

解釋過程實例空間規(guī)則空間規(guī)劃過程11/27/202212安徽大學計算機科學與技術學院6.4歸納學習歸納學習（inductionlea

6.4歸納學習2.歸納概括規(guī)則 變型(版本)空間(VersionSpace)

取消部分條件(去合取)Suit(C,clubs)Rank(C,7)→草花Suit(C,clubs)

→草花放松條件(加析取)Suit(C1,clubs)Rank(C1,7)→草花(Suit(C1,clubs)Rank(C1,7))

(Suit(C2,clubs)Rank(C2,8))

→草花11/27/202213安徽大學計算機科學與技術學院6.4歸納學習2.歸納概括規(guī)則 變型(版本)空間

6.4歸納學習2.歸納概括規(guī)則 變型空間(VersionSpace)

沿概念樹上塑(個別到一般)Suit(C1,clubs)Rank(C1,9)→草花 ………………Suit(Cn,clubs)Rank(Cn,3)→草花Suit(Cm,clubs)Rank(Cm,J)→草花Suit(C,clubs)Rank(C,[L=S])

→草花形成閉合區(qū)域Youth(P1,18)

→青年； Youth(P2,25)

→青年Youth(P,[18，25])

→青年將常量轉換為變量Suit(C,clubs)Rank(C,7)→草花Suit(C,clubs)Rank(C,x)→草花11/27/202214安徽大學計算機科學與技術學院6.4歸納學習2.歸納概括規(guī)則 變型空間(Ver

6.4歸納學習6.4.2歸納學習方法規(guī)則空間空描述訓練示例較一般較具體假設集合GSP251規(guī)則空間的結構假設(概念)空間的結構11/27/202215安徽大學計算機科學與技術學院6.4歸納學習6.4.2歸納學習方法規(guī)則空間空6.5類比學習6.5.1類比推理和類比學習方式類比學習（learningbyanalogy）就是通過類比，即通過對相似事物加以比較所進行的一種學習。其推理過程如下：回憶與聯(lián)想---選擇---建立對應關系---轉換

11/27/202216安徽大學計算機科學與技術學院6.5類比學習6.5.1類比推理和類比學習方式11/6.5類比學習6.5.1類比推理和類比學習方式aS(源域),bT(目標域)，P,Q為性質 P(a)∧Q(a),P(a)≌P(b)┣Q(b)回憶與聯(lián)想：找出P(a)→Q(a)選擇：找出一般規(guī)律P(x)→Q(x),xS建立對應關系:P(x)→Q(x),xT轉換:P(b),P(x)→Q(x)┣Q(b)11/27/202217安徽大學計算機科學與技術學院6.5類比學習6.5.1類比推理和類比學習方式11/6.5.2類比學習過程與研究類型類比學習主要包括如下四個過程：輸入一組已知條件和一組未完全確定的條件。對兩組出入條件尋找其可類比的對應關系。根據(jù)相似轉換的方法，進行映射。對類推得到的知識進行校驗。11/27/202218安徽大學計算機科學與技術學院6.5.2類比學習過程與研究類型類比學習主要包括如下四個類比學習的研究可分為兩大類：(1)問題求解型的類比學習

(2)預測推定型的類比學習。它又分為兩種方式：一是傳統(tǒng)的類比法:解決問題與以前相似的比較。另一是因果關系型的類比：找出事物的其他屬性；A’,A→B┣A’→B’11/27/202219安徽大學計算機科學與技術學院類比學習的研究可分為兩大類：11/27/202219安徽大學6.6解釋學習6.6.1解釋學習過程和算法1986年米切爾（Mitchell）等人為基于解釋的學習提出了一個統(tǒng)一的算法EBG：訓練例子操作準則知識庫新規(guī)則目標概念11/27/202220安徽大學計算機科學與技術學院6.6解釋學習6.6.1解釋學習過程和算法EBG求解問題的形式可描述于下:給定：(1)目標概念描述TC(TargetConcept)

；(2)訓練實例TE(TrainingExample)

；(3)領域知識DT(DomainTheory)；(4)操作準則OC(OperationalityCriterion)

。求解：訓練實例的一般化概括，使之滿足：(1)目標概念的充分概括描述TC；(2)操作準則OC。11/27/202221安徽大學計算機科學與技術學院EBG求解問題的形式可描述于下:給定：11/27/202226.6.2解釋學習舉例例6.2已知：物體x、y，使safe-to-stack(x,y)有： safe-to-stack(x,y)→~fragile(y)∨lighter(x,y) 事實： on(a,b); isa(a,brick); isa(b,endtable); volume(a,1); density(a,1); weight(b,5); times(1,1,1); less(1,5)……安全準則：

lighter(x,y)→safe-to-stack(x,y) weight(P1,W1)∧weight(P2,W2)∧less(W1,W2)→lighter(P1,P2) volume(P,V)∧density(P,D)∧times(V,D,W)→weight(P,W) isa(P,endtable)∧weight(endtable,5)→weight(P,5)11/27/202222安徽大學計算機科學與技術學院6.6.2解釋學習舉例例6.2已知：物體x、y，使ssafe-to-stack解釋的證明樹safe-to-stack(a,b)lighter(a,b)weight(b,w2)times(V,D,w1)less(w1,w2)weight(a,w1)less(1,5)volume(a,V)isa(b,endtable)density(a,D)weight(b,w2)volume(a,1)density(a,1)times(1,1,1)weight(b,5)volume(X,V)∧density(X,D)∧times(V,D,W1)∧isa(Y,endtable)∧weight(Y,W2)∧less(W1,W2)→safe-to-stack(X,Y)5/w21/w1,5/w21/w11/D1/V11/27/202223安徽大學計算機科學與技術學院safe-to-stack解釋的證明樹safe-to-sta6.7神經學習6.7.1基于反向傳播網(wǎng)絡的學習

反向傳播（back-propagation,BP）算法是一種計算單個權值變化引起網(wǎng)絡性能變化值的較為簡單的方法。BP算法過程包含從輸出節(jié)點開始，反向地向第一隱含層傳播由總誤差引起的權值修正。11/27/202224安徽大學計算機科學與技術學院6.7神經學習11/27/202224安徽大學計算機科6.7.2基于Hopfield網(wǎng)絡的學習反饋神經網(wǎng)絡，它是一種動態(tài)反饋系統(tǒng)，比前饋網(wǎng)絡具有更強的計算能力。Hopfield網(wǎng)絡是一種具有正反相輸出的帶反饋人工神經元。11/27/202225安徽大學計算機科學與技術學院6.7.2基于Hopfield網(wǎng)絡的學習11/27/206.8知識發(fā)現(xiàn)6.8.1知識發(fā)現(xiàn)的發(fā)展和定義知識發(fā)現(xiàn)的產生和發(fā)展

知識發(fā)現(xiàn)最早是于1989年8月在第11屆國際人工智能聯(lián)合會議的專題討論會上提出。知識發(fā)現(xiàn)的定義

數(shù)據(jù)庫中的知識發(fā)現(xiàn)是從大量數(shù)據(jù)中辨識出有效的、新穎的、潛在有用的、并可被理解的模式的高級處理過程。11/27/202226安徽大學計算機科學與技術學院6.8知識發(fā)現(xiàn)11/27/202226安徽大學6.8.2知識發(fā)現(xiàn)的處理過程

1.數(shù)據(jù)選擇。根據(jù)用戶的需求從數(shù)據(jù)庫中提取與KDD相關的數(shù)據(jù)。2.數(shù)據(jù)預處理。主要是對上述數(shù)據(jù)進行再加工，檢查數(shù)據(jù)的完整性及數(shù)據(jù)的一致性，對丟失的數(shù)據(jù)利用統(tǒng)計方法進行填補，形成發(fā)掘數(shù)據(jù)庫。

11/27/202227安徽大學計算機科學與技術學院6.8.2知識發(fā)現(xiàn)的處理過程1.數(shù)據(jù)選擇。根據(jù)用戶3.數(shù)據(jù)變換。即從發(fā)掘數(shù)據(jù)庫里選擇數(shù)據(jù)4.數(shù)據(jù)挖掘。根據(jù)用戶要求，確定KDD的目標是發(fā)現(xiàn)何種類型的知識。5.知識評價。這一過程主要用于對所獲得的規(guī)則進行價值評定，以決定所得的規(guī)則是否存入基礎知識庫。

11/27/202228安徽大學計算機科學與技術學院3.數(shù)據(jù)變換。即從發(fā)掘數(shù)據(jù)庫里選擇數(shù)據(jù)4.數(shù)據(jù)挖掘。根據(jù)用6.8.3知識發(fā)現(xiàn)的方法

1.統(tǒng)計方法：統(tǒng)計方法是從事物的外在數(shù)量上的表現(xiàn)去推斷該事物可能的規(guī)律性。2.機器學習方法

3.神經計算方法4.可視化方法：可視化（visualization）就是把數(shù)據(jù)、信息和知識轉化為可視的表示形式的過程。

11/27/202229安徽大學計算機科學與技術學院6.8.3知識發(fā)現(xiàn)的方法1.統(tǒng)計方法：統(tǒng)計方法是從事物6.8.4知識發(fā)現(xiàn)的應用

知識發(fā)現(xiàn)已在許多領域得到應用?，F(xiàn)在，知識發(fā)現(xiàn)已在銀行業(yè)、保險業(yè)、零售業(yè)、醫(yī)療保健、工程和制造業(yè)、科學研究、衛(wèi)星觀察和娛樂業(yè)等行業(yè)和部門得到成功應用，為人們的科學決策提供很大幫助。

11/27/202230安徽大學計算機科學與技術學院6.8.4知識發(fā)現(xiàn)的應用知識發(fā)現(xiàn)已在許多領域得到應用。6.9小結

本章只對機器學習作個入門介紹。機器學習在過去十多年中獲得較大發(fā)展。今后機器學習將在理論概念、計算機理、綜合技術和推廣應用等方面開展新的研究。其中，對結構模型、計算理論、算法和混合學習的開發(fā)尤為重要。在這些方面，有許多事要做，有許多新問題需要人們去解決。

11/27/202231安徽大學計算機科學與技術學院6.9小結本章只對機器學習作個入門介紹。11/人工智能ArtificialIntelligence11/27/202232安徽大學計算機科學與技術學院人工智能ArtificialIntelligence11/第六章機器學習6.1機器學習的定義、研究意義與發(fā)展歷史6.2機器學習的主要策略與基本結構6.3–6.7幾種常用的學習方法6.8知識發(fā)現(xiàn)6.9小結11/27/202233安徽大學計算機科學與技術學院第六章機器學習6.1機器學習的定義、研究意義與發(fā)展6.1機器學習的定義和發(fā)展歷史6.1.1機器學習的定義機器學習的定義顧名思義,機器學習是研究如何使用機器來模擬人類學習活動的一門學科。稍為嚴格的提法是：機器學習是一門研究機器獲取新知識和新技能,并識別現(xiàn)有知識的學問。11/27/202234安徽大學計算機科學與技術學院6.1機器學習的定義和發(fā)展歷史6.1.1機器6.1.2 機器學習的發(fā)展史機器學習的發(fā)展分為4個時期第一階段是在50年代中葉到60年代中葉，屬于熱烈時期。無知識、自組織、自適應、修改參數(shù)第二階段在60年代中葉至70年代中葉，被稱為機器學習的冷靜時期。消解，歸納學習第三階段從70年代中葉至80年代中葉，稱為復興時期。示例學習機器學習的最新階段始于1986年。網(wǎng)絡、遺傳、挖掘11/27/202235安徽大學計算機科學與技術學院6.1.2 機器學習的發(fā)展史機器學習的發(fā)展分為4個時期11/機器學習進入新階段的表現(xiàn)機器學習已成為新的邊緣學科并在高校形成課程。綜合各種學習方法

機器學習與人工智能問題的統(tǒng)一性觀點正在形成。各種學習方法的應用范圍不斷擴大。數(shù)據(jù)挖掘和知識發(fā)現(xiàn)的研究已形成熱潮。與機器學習有關的學術活動空前活躍。

11/27/202236安徽大學計算機科學與技術學院機器學習進入新階段的表現(xiàn)11/27/20225安徽大學計算6.2機器學習的主要策略和基本結構6.2.1機器學習的主要策略按照學習中使用推理的多少，機器學習所采用的策略大體上可分為4種———機械學習、通過傳授學習、類比學習和通過事例學習。機械學習傳授學習類比學習系統(tǒng)通過事例學習11/27/202237安徽大學計算機科學與技術學院6.2機器學習的主要策略和基本結構6.2.16.2.2機器學習系統(tǒng)的基本結構

1.學習系統(tǒng)的基本結構

學習執(zhí)行圖6.1學習系統(tǒng)的基本結構環(huán)境知識庫11/27/202238安徽大學計算機科學與技術學院6.2.2機器學習系統(tǒng)的基本結構學習執(zhí)行圖6.12.影響學習系統(tǒng)設計的要素影響學習系統(tǒng)設計的最重要因素是環(huán)境向系統(tǒng)提供的信息，或者更具體地說是信息的質量。知識庫是影響學習系統(tǒng)設計的第二個因素。知識的表示有特征向量、一階邏輯語句、產生式規(guī)則、語義網(wǎng)絡和框架等多種形式。11/27/202239安徽大學計算機科學與技術學院2.影響學習系統(tǒng)設計的要素11/27/20228安徽大學計6.3機械學習1.機械學習模式機械學習是最簡單的學習方法。機械學習就是記憶，即把新的知識存儲起來，供需要時檢索調用，而不需要計算和推理。它是一種最基本的學習過程。(X1,X2,…,Xn)→(Y1,Y2,…,Yp)((X1,X2,…,Xn),

(Y1,Y2,…,Yp))11/27/202240安徽大學計算機科學與技術學院6.3機械學習(X1,X2,…,Xn)→(Y1,Y2,存儲計算推導歸納算法與理論機械記憶搜索規(guī)則圖6.2數(shù)據(jù)化簡級別圖

Lenat，Hayes-Roth，和Klahr等人于1979年關于機械學習提出一種有趣的觀點，見圖6.2。11/27/202241安徽大學計算機科學與技術學院存儲計算推導歸納算法與理論機械記憶搜索規(guī)則圖6.2數(shù)據(jù)化簡

2.機械學習的主要問題存儲組織信息：要采用適當?shù)拇鎯Ψ绞?，使檢索速度盡可能地快。環(huán)境的穩(wěn)定性與存儲信息的適用性問題：機械學習系統(tǒng)必須保證所保存的信息適應于外界環(huán)境變化的需要。存儲與計算之間的權衡：對于機械學習來說很重要的一點是它不能降低系統(tǒng)的效率。11/27/202242安徽大學計算機科學與技術學院2.機械學習的主要問題11/27/202211安徽大

6.4歸納學習歸納學習（inductionlearning）是應用歸納推理進行學習的一種方法。根據(jù)歸納學習有無教師指導，可把它分為示例學習和觀察與發(fā)現(xiàn)學習。6.4.1歸納學習的模式和規(guī)則1.歸納學習的模式

解釋過程實例空間規(guī)則空間規(guī)劃過程11/27/202243安徽大學計算機科學與技術學院6.4歸納學習歸納學習（inductionlea

6.4歸納學習2.歸納概括規(guī)則 變型(版本)空間(VersionSpace)

取消部分條件(去合取)Suit(C,clubs)Rank(C,7)→草花Suit(C,clubs)

→草花放松條件(加析取)Suit(C1,clubs)Rank(C1,7)→草花(Suit(C1,clubs)Rank(C1,7))

(Suit(C2,clubs)Rank(C2,8))

→草花11/27/202244安徽大學計算機科學與技術學院6.4歸納學習2.歸納概括規(guī)則 變型(版本)空間

6.4歸納學習2.歸納概括規(guī)則 變型空間(VersionSpace)

沿概念樹上塑(個別到一般)Suit(C1,clubs)Rank(C1,9)→草花 ………………Suit(Cn,clubs)Rank(Cn,3)→草花Suit(Cm,clubs)Rank(Cm,J)→草花Suit(C,clubs)Rank(C,[L=S])

→草花形成閉合區(qū)域Youth(P1,18)

→青年； Youth(P2,25)

→青年Youth(P,[18，25])

→青年將常量轉換為變量Suit(C,clubs)Rank(C,7)→草花Suit(C,clubs)Rank(C,x)→草花11/27/202245安徽大學計算機科學與技術學院6.4歸納學習2.歸納概括規(guī)則 變型空間(Ver

6.4歸納學習6.4.2歸納學習方法規(guī)則空間空描述訓練示例較一般較具體假設集合GSP251規(guī)則空間的結構假設(概念)空間的結構11/27/202246安徽大學計算機科學與技術學院6.4歸納學習6.4.2歸納學習方法規(guī)則空間空6.5類比學習6.5.1類比推理和類比學習方式類比學習（learningbyanalogy）就是通過類比，即通過對相似事物加以比較所進行的一種學習。其推理過程如下：回憶與聯(lián)想---選擇---建立對應關系---轉換

11/27/202247安徽大學計算機科學與技術學院6.5類比學習6.5.1類比推理和類比學習方式11/6.5類比學習6.5.1類比推理和類比學習方式aS(源域),bT(目標域)，P,Q為性質 P(a)∧Q(a),P(a)≌P(b)┣Q(b)回憶與聯(lián)想：找出P(a)→Q(a)選擇：找出一般規(guī)律P(x)→Q(x),xS建立對應關系:P(x)→Q(x),xT轉換:P(b),P(x)→Q(x)┣Q(b)11/27/202248安徽大學計算機科學與技術學院6.5類比學習6.5.1類比推理和類比學習方式11/6.5.2類比學習過程與研究類型類比學習主要包括如下四個過程：輸入一組已知條件和一組未完全確定的條件。對兩組出入條件尋找其可類比的對應關系。根據(jù)相似轉換的方法，進行映射。對類推得到的知識進行校驗。11/27/202249安徽大學計算機科學與技術學院6.5.2類比學習過程與研究類型類比學習主要包括如下四個類比學習的研究可分為兩大類：(1)問題求解型的類比學習

(2)預測推定型的類比學習。它又分為兩種方式：一是傳統(tǒng)的類比法:解決問題與以前相似的比較。另一是因果關系型的類比：找出事物的其他屬性；A’,A→B┣A’→B’11/27/202250安徽大學計算機科學與技術學院類比學習的研究可分為兩大類：11/27/202219安徽大學6.6解釋學習6.6.1解釋學習過程和算法1986年米切爾（Mitchell）等人為基于解釋的學習提出了一個統(tǒng)一的算法EBG：訓練例子操作準則知識庫新規(guī)則目標概念11/27/202251安徽大學計算機科學與技術學院6.6解釋學習6.6.1解釋學習過程和算法EBG求解問題的形式可描述于下:給定：(1)目標概念描述TC(TargetConcept)

；(2)訓練實例TE(TrainingExample)

；(3)領域知識DT(DomainTheory)；(4)操作準則OC(OperationalityCriterion)

。求解：訓練實例的一般化概括，使之滿足：(1)目標概念的充分概括描述TC；(2)操作準則OC。11/27/202252安徽大學計算機科學與技術學院EBG求解問題的形式可描述于下:給定：11/27/202226.6.2解釋學習舉例例6.2已知：物體x、y，使safe-to-stack(x,y)有： safe-to-stack(x,y)→~fragile(y)∨lighter(x,y) 事實： on(a,b); isa(a,brick); isa(b,endtable); volume(a,1); density(a,1); weight(b,5); times(1,1,1); less(1,5)……安全準則：

lighter(x,y)→safe-to-stack(x,y) weight(P1,W1)∧weight(P2,W2)∧less(W1,W2)→lighter(P1,P2) volume(P,V)∧density(P,D)∧times(V,D,W)→weight(P,W) isa(P,endtable)∧weight(endtable,5)→weight(P,5)11/27/202253安徽大學計算機科學與技術學院6.6.2解釋學習舉例例6.2已知：物體x、y，使ssafe-to-stack解釋的證明樹safe-to-stack(a,b)lighter(a,b)weight(b,w2)times(V,D,w1)less(w1,w2)weight(a,w1)less(1,5)volume(a,V)isa(b,endtable)density(a,D)weight(b,w2)volume(a,1)density(a,1)times(1,1,1)weight(b,5)volume(X,V)∧density(X,D)∧times(V,D,W1)∧isa(Y,endtable)∧weight(Y,W2)∧less(W1,W2)→safe-to-stack(X,Y)5/w21/w1,5/w21/w11/D1/V11/27/202254安徽大學計算機科學與技術學院safe-to-stack解釋的證明樹safe-to-sta6.7神經學習6.7.1基于反向傳播網(wǎng)絡的學習

反向傳播（back-propagation,BP）算法是一種計算單個權值變化引起網(wǎng)絡性能變化值的較為簡單的方法。BP算法過程包含從輸出節(jié)點開始，反向地向第一隱含層傳播由總誤差引起的權值修正。11/2