機(jī)器學(xué)習(xí)課件 6 0m ppt版演示文稿6

1、第三章 概念學(xué)習(xí)和一般到特殊序3.1 簡介定義：概念學(xué)習(xí)是指從有關(guān)某個布爾函數(shù)的輸入輸出訓(xùn)練樣例中推斷出該布爾函數(shù)。3.2 概念學(xué)習(xí)任務(wù)ExampleSkyAirTempHumiditWindWaterForecastEnjoySp ort1SunnyWarmNormalStrongWarmSameYes2SunnyWarmHighStrongWarmSameYes3RainyColdHighStrongWarmChangeNo4SunnyWarmHighStrongCoolChangeYes表 3.1目標(biāo)概念EnjoySport的正例和反例概念學(xué)習(xí)任務(wù)能被描述為：實(shí)例的集合、實(shí)例集合上的目標(biāo)

2、函數(shù)、候選假設(shè)的集合以及訓(xùn)練例的集合。歸納學(xué)習(xí)假設(shè)：任一假設(shè)如果在足夠大的訓(xùn)練樣例集中很好 地逼近目標(biāo)函數(shù)，它也能在未見實(shí)例中很好地逼近目標(biāo)函數(shù)。3.3 作為搜索的概念學(xué)習(xí)EnjoySport的實(shí)例空間： 322 2 2 2=96假設(shè)空間：5 4 4444=51201+4 33 3 3 3=973假設(shè)的一般到特殊序定義：令hj和hk為在X上定義的布爾函數(shù)。稱hj more_general_than_or_equal_to hk（記作hjg hk），當(dāng)且僅當(dāng)(xX)(h k (x)=1) (h j (x)=1)已知：實(shí)例集X:可能的日子由下面的屬性描述： Sky（可能取值為Sunny,Cloud

3、y和Rain) AirTemp( 可 取 值 為 Warm 和 Cold) Humidity(可取值為Normal和High) Wind(可取值為Strong和Weak)Water(可取值為Warm和Cool) Forecast(可取值為Same和Change)f假設(shè)集H: 每個假設(shè)描述為6個屬性Sky,AirTemp,Humidity,Wind,Water和Forecast的值約 束的合取。約束可以為“？”（表示接受任意值）， “f” （表示拒絕所有值），或一特定值目標(biāo)概念c: EnjoySport: X0,1訓(xùn)練樣例集D:目標(biāo)函數(shù)的正例和反例（見表2-1) 求解：H中的一假設(shè)h,使對于X中

4、任意x, h(x)=c(x)實(shí)例集 X假設(shè)集 Hh1h3h2特殊一般3.4 FIND-S:尋找極大特殊假設(shè)表3.3FIND-S算法1. 將h初始化為H中最特殊假設(shè)2. 對每個正例x對h的每個屬性約束ai 如果x滿足ai那么不做任何處理否則將h中ai替換為x滿足的另一個更一般約束3. 輸出假設(shè)hh第一個例子:h 第二個例子:h 第二個例子:h 表列表后消除算法列表后消除算法1. 變型空間VersionSpace包含H中所有假設(shè)的列表2. 對每個訓(xùn)練例從變型空間中移出所有h(x) c(x)的假設(shè)h3. 輸出VersionSpace中的假設(shè)列表,S:G:將G集合初始化為H中極大一般假設(shè)將S集合初始化

5、為H中極大特殊假設(shè)對每個訓(xùn)練例d,進(jìn)行以下操作：如果是一正例從G中移去所有與d不一致的假設(shè)對S中每個與d不一致的假設(shè)s從s中移去s把s的所有的極小泛化式h加入到S中，其中h滿足h與d一致，而且G的某個成員比一般從S中移去所有這樣的假設(shè)：它比S中另一假設(shè)更一般如果是一個反例從S中移去所有與d不一致的假設(shè)對G中每個與d不一致的假設(shè)g從G中移去g把g的所有的極小特殊化式h加入到G中，其中h滿足h與d一致，而且S的某個成員比h更特殊從G中移去所有這樣的假設(shè)：它比中另一假設(shè)更特殊,S0:S1:S2:G0,G1,G2:S2,S3: G3:G2:S3:S4: G4: G3: , InstanceSkyAirTempHumiditWindWaterForecastEnjoySpASunnyWarmNormalStrongCoolChange?BRainyColdNormalLightWarmSame?CSunnyWarmNormalLightWarmSame?DSunnyColdNormalStrongWarmSame?ExampleSkyAirTempHumiditWindWaterForecassEnjoySp1SunnyWarmNorma