人工智能原理及其應(yīng)用(王萬森)第3版-課后習(xí)題復(fù)習(xí)資料

第S(+,+,-)(+,-,-)xS(+,+,-)(+,-,-)x1=Tx2=F擴(kuò)展x2后得到的完整決策樹(+,+)(-)(-,-)(+)x2=Tx2=Fx2=Tx2=F6.8閱歷風(fēng)險函數(shù)和期望風(fēng)險函數(shù)的區(qū)分是什么？解：閱歷風(fēng)險是局部的，基于訓(xùn)練集全部樣本點損失函數(shù)最小化的。閱歷風(fēng)險函數(shù)是現(xiàn)實的，可求的；期望風(fēng)險是全局的，是基于全部樣本點的損失函數(shù)最小化的。期望風(fēng)險函數(shù)是志向化的，不可求的。6.9什么是VC維？它是如何影響學(xué)習(xí)性能的？解：VC維用來表示指示函數(shù)集H能夠打散一個樣本集S的實力，其值定義為能被H打散的X的最大有限子集的大小。VC維越大，其容量越大，學(xué)習(xí)實力越強。6.10對一維空間R，假設(shè)給定的樣本空間S為R上的兩個實數(shù)點，提示函數(shù)H為實數(shù)軸上的區(qū)間集合，問H能打散S嗎？解：能6.11什么是最優(yōu)分類超平面？求解最優(yōu)分類超平面的基本思想是什么？解：P190，1916.12什么是支持向量？什么是支持向量機解：支持向量機是一種基于支持向量構(gòu)造分類判別函數(shù)的學(xué)習(xí)機器，其核心是核函數(shù)因此其結(jié)構(gòu)困難度主要由支持向量的數(shù)目確定，并非由輸入空間的維樹確定。6.13什么是核函數(shù)？核函數(shù)有幾種主要類型？解：核函數(shù)是一種可以采納非線性映射方式，將低維空間的非線性可分問題映射到高維空間進(jìn)行線性求解的基函數(shù)。多項式核函數(shù)，徑向基核函數(shù)，S型核函數(shù)聯(lián)結(jié)學(xué)習(xí)參考答案7.1什么是聯(lián)結(jié)學(xué)習(xí)？聯(lián)結(jié)學(xué)習(xí)的生理學(xué)基礎(chǔ)是什么？解：鏈接學(xué)習(xí)也稱神經(jīng)學(xué)習(xí)，它是一種基于人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法生理學(xué)基礎(chǔ)：人腦神經(jīng)網(wǎng)絡(luò)的可塑性人腦學(xué)習(xí)探討的不同學(xué)派7.2神經(jīng)學(xué)習(xí)規(guī)則有哪幾種？它們的基本思想是什么？解：Hebb學(xué)習(xí)規(guī)則糾錯學(xué)習(xí)規(guī)則競爭學(xué)習(xí)規(guī)則隨機學(xué)習(xí)規(guī)則7.3假設(shè)ω（0）=0.2，ω（0）=0.4，θ（0）=0.3，η=0.4，請用單層感知器完成邏輯或運算的學(xué)習(xí)過程解：依據(jù)“或”運算的邏輯關(guān)系，可將問題轉(zhuǎn)換為：輸入向量：X1=[0,0,1,1]X2=[0,1,0,1]輸出向量：Y=[0,1,1,1]由題意可知，初始連接權(quán)值,閾值，以及增益因子的取值分別為：w1(0)=0.2,w2(0)=0.4,θ(0)=0.3，η=0.4即其輸入向量X(0)和連接權(quán)值向量W(0)可分別表示為：X(0)=(-1,x1(0),x2(0))W(0)=(θ(0),w1(0),w2(0))依據(jù)單層感知起學(xué)習(xí)算法，其學(xué)習(xí)過程如下：設(shè)感知器的兩個輸入為x1(0)=0和x2(0)=0，其期望輸出為d(0)=0，實際輸出為：y(0)=f(w1(0)x1(0)+w2(0)x2(0)-θ(0))=f(0.2*0+0.4*0-0.3)=f(-0.3)=0實際輸出及期望輸出相同，不須要調(diào)整權(quán)值。再取下一組輸入：x1(0)=0和x2(0)=1，其期望輸出為d(0)=1，實際輸出為：y(0)=f(w1(0)x1(0)+w2(0)x2(0)-θ(0))=f(0.2*0+0.4*1-0.3)=f(0.1)=1實際輸出及期望輸出相同，不須要調(diào)整權(quán)值。再取下一組輸入：x1(0)=1和x2(0)=0，其期望輸出為d(0)=1，實際輸出為：y(0)=f(w1(0)x1(0)+w2(0)x2(0)-θ(0))=f(0.2*1+0.4*0-0.3)=f(-0.1)=0實際輸出及期望輸出不同，須要調(diào)整權(quán)值，其調(diào)整如下：θ(1)=θ(0)+η(d(0)-y(0))*(-1)=0.3+0.4*(1-0)*(-1)=-0.1w1(1)=w1(0)+η(d(0)-y(0))x1(0)=0.2+0.4*(1-0)*1=0.6w2(1)=w2(0)+η(d(0)-y(0))x2(0)=0.4+0.4*(1-0)*0=0.4再取下一組輸入：x1(1)=1和x2(1)=1，其期望輸出為d(1)=1，實際輸出為：y(1)=f(w1(1)x1(1)+w2(1)x2(1)-θ(1))=f(0.6*1+0.4*1+0.1)=f(1.1)=1實際輸出及期望輸出相同，不須要調(diào)整權(quán)值。再取下一組輸入：x1(1)=0和x2(1)=0，其期望輸出為d(0)=0，實際輸出為：y(1)=f(w1(1)x1(1)+w2(1)x2(1)-θ(1))=f(0.6*0+0.4*0+0.1)=f(0.1)=1實際輸出及期望輸出不同，須要調(diào)整權(quán)值，其調(diào)整如下：θ(2)=θ(1)+η(d(1)-y(1))*(-1)=-0.1+0.4*(0-1)*(-1)=0.3w1(2)=w1(1)+η(d(1)-y(1))x1(1)=0.6+0.4*(0-1)*0=0.6w2(2)=w2(1)+η(d(1)-y(1))x2(1)=0.4+0.4*(0-1)*0=0.4再取下一組輸入：x1(2)=0和x2(2)=1，其期望輸出為d(2)=1，實際輸出為：y(2)=f(w1(2)x1(2)+w2(2)x2(2)-θ(2))=f(0.6*0+0.4*1-0.3)=f(0.1)=1實際輸出及期望輸出相同，不須要調(diào)整權(quán)值。再取下一組輸入：x1(2)=1和x2(2)=0，其期望輸出為d(2)=1，實際輸出為：y(2)=f(w1(2)x1(2)+w2(2)x2(2)-θ(2))=f(0.6*1+0.4*0-0.3)=f(0.3)=1實際輸出及期望輸出相同，不須要調(diào)整權(quán)值。再取下一組輸入：x1(2)=1和x2(2)=1，其期望輸出為d(2)=1，實際輸出為：y(2)=f(w1(2)x1(2)+w2(2)x2(2)-θ(2))=f(0.6*1+0.4*1-0.3)=f(0.7)=1實際輸出及期望輸出相同，不須要調(diào)整權(quán)值。至此，學(xué)習(xí)過程結(jié)束。最終的得到的閾值和連接權(quán)值分別為：θ(2)=0.3w1(2)=0.6w2(2)=0.4不仿驗證如下：對輸入：“00”有y=f(0.6*0+0.4*0-0.3)=f(-0.3)=0對輸入：“01”有y=f(0.6*0+0.4*1-0.3)=f(0.1)=1對輸入：“10”有y=f(0.6*1+0.4*0-0.3)=f(0.3)=1對輸入：“11”有y=f(0.6*1+0.4*1-0.3)=f(0.7)=17.4簡述BP算法的基本思想見PPT7.5對“異或”問題，請采納BP網(wǎng)絡(luò)學(xué)習(xí)算法，完成其學(xué)習(xí)過程(建議通過編寫相應(yīng)的BP網(wǎng)絡(luò)學(xué)習(xí)程序來實現(xiàn)）略7.6如圖所示是一個有4個節(jié)點的Hopfield網(wǎng)絡(luò)，若給定初始狀態(tài)為={1，0，1，0}2.8請計算該狀態(tài)的網(wǎng)絡(luò)能量。2.8-3.25.2-3.25.2-2.64.5-1.12.5-2.64.5-1.12.5-1.6-7.6-1.6-7.6-5.5-5.5解：θ=5