




全文預(yù)覽已結(jié)束
VIP免費下載
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
決策樹實驗一、實驗原理 決策樹是一個類似于流程圖的樹結(jié)構(gòu),其中每個內(nèi)部結(jié)點表示在一個屬性上的測試,每個分支代表一個測試輸入,而每個樹葉結(jié)點代表類或類分布。數(shù)的最頂層結(jié)點是根結(jié)點。一棵典型的決策樹如圖1所示。它表示概念buys_computer,它預(yù)測顧客是否可能購買計算機。內(nèi)部結(jié)點用矩形表示,而樹葉結(jié)點用橢圓表示。為了對未知的樣本分類,樣本的屬性值在決策樹上測試。決策樹從根到葉結(jié)點的一條路徑就對應(yīng)著一條合取規(guī)則,因此決策樹容易轉(zhuǎn)化成分類規(guī)則。 圖1ID3算法: 決策樹中每一個非葉結(jié)點對應(yīng)著一個非類別屬性,樹枝代表這個屬性的值。一個葉結(jié)點代表從樹根到葉結(jié)點之間的路徑對應(yīng)的記錄所屬的類別屬性值。 每一個非葉結(jié)點都將與屬性中具有最大信息量的非類別屬性相關(guān)聯(lián)。 采用信息增益來選擇能夠最好地將樣本分類的屬性。信息增益基于信息論中熵的概念。ID3總是選擇具有最高信息增益(或最大熵壓縮)的屬性作為當前結(jié)點的測試屬性。該屬性使得對結(jié)果劃分中的樣本分類所需的信息量最小,并反映劃分的最小隨機性或“不純性”。二、算法偽代碼算法Decision_Tree(data,AttributeName)輸入由離散值屬性描述的訓練樣本集data;候選屬性集合AttributeName。輸出一棵決策樹。(1) 創(chuàng)建節(jié)點N;(2) If samples 都在同一類C中then(3) 返回N作為葉節(jié)點,以類C標記;(4) If attribute_list為空then(5) 返回N作為葉節(jié)點,以samples 中最普遍的類標記;/多數(shù)表決(6) 選擇attribute_list 中具有最高信息增益的屬性test_attribute;(7) 以test_attribute 標記節(jié)點N;(8) For each test_attribute 的已知值v /劃分 samples(9) 由節(jié)點N分出一個對應(yīng)test_attribute=v的分支;(10令Sv為 samples中 test_attribute=v 的樣本集合;/一個劃分塊(11)If Sv為空 then(12)加上一個葉節(jié)點,以samples中最普遍的類標記;(13)Else 加入一個由Decision_Tree(Sv,attribute_list-test_attribute)返回節(jié)點值。三、實驗數(shù)據(jù)預(yù)處理Age:30歲以下標記為“1”;30歲以上50歲以下標記為“2”;50歲以上標記為“3”。Sex:FEMAL-“1”;MALE-“2”Region:INNER CITY-“1”;TOWN-“2”; RURAL-“3”; SUBURBAN-“4”Income:50002萬-“1”;2萬4萬-“2”;4萬以上-“3”MarriedChildrenCarMortgagePep:以上五個條件,若為“是”標記為“1”,若為“否”標記為“2”。Age sex region income married children car mortgage pep1 2 1 1 2 1 1 2 21 2 1 1 2 2 2 2 12 1 4 1 2 1 2 2 12 1 1 1 1 2 2 2 21 2 1 1 1 2 2 2 21 2 1 1 2 1 2 1 12 1 2 1 1 2 1 1 22 1 1 1 2 1 1 2 12 1 3 1 2 2 1 2 12 1 2 2 2 1 2 2 22 2 1 2 2 2 2 1 12 1 2 2 1 1 2 1 12 2 1 2 1 2 2 1 21 1 1 2 1 2 2 2 13 2 1 2 1 1 1 2 21 1 1 2 1 1 1 2 11 1 3 2 2 2 1 2 13 1 2 2 1 2 2 2 13 2 3 3 1 1 1 2 13 2 2 3 1 2 1 1 23 1 3 3 1 1 2 2 13 2 1 3 1 2 1 2 23 2 1 3 1 1 1 1 13 1 1 3 1 2 1 1 23 1 3 3 1 2 2 2 23 2 4 3 1 2 2 1 13 1 3 3 2 2 1 1 2 4、 實驗主函數(shù)function mainclc;DataSet=1 2 1 1 2 1 1 2 21 2 1 1 2 2 2 2 12 1 4 1 2 1 2 2 12 1 1 1 1 2 2 2 21 2 1 1 1 2 2 2 21 2 1 1 2 1 2 1 12 1 2 1 1 2 1 1 22 1 1 1 2 1 1 2 12 1 3 1 2 2 1 2 12 1 2 2 2 1 2 2 22 2 1 2 2 2 2 1 12 1 2 2 1 1 2 1 12 2 1 2 1 2 2 1 21 1 1 2 1 2 2 2 13 2 1 2 1 1 1 2 21 1 1 2 1 1 1 2 11 1 3 2 2 2 1 2 13 1 2 2 1 2 2 2 13 2 3 3 1 1 1 2 13 2 2 3 1 2 1 1 23 1 3 3 1 1 2 2 13 2 1 3 1 2 1 2 23 2 1 3 1 1 1 1 13 1 1 3 1 2 1 1 23 1 3 3 1 2 2 2 23 2 4 3 1 2 2 1 13 1 3 3 2 2 1 1 2 ;AttributName=11 12 13 14 15 16 17 18 19;Tree RulesMatrix=DecisionTree(DataSet,AttributName)End五、實驗結(jié)果The Decision Tree: (The Root):Attribut |_1_Attribut | |_1_Attribut | | |_1_Attribut | | | |_1_leaf 1 | | | |_2_leaf 2 | | |_2_leaf 2 | | |_3_Attribut | | |_1_Attribut | | | |_1_leaf 1 | | | |_2_leaf 2 | | | |_3_leaf 1 | | |_2_leaf 2 | |_2_Attribut | |_1_Attribut | | |_1_leaf 2 | | |_2_leaf 1 | |_2_leaf 1 |_2_Attribut | |_1_leaf 2 | |_2_Attribut | | |_1_leaf 1 | | |_2_leaf 2 | |_3_leaf 2 |_3_Attribut | |_1_leaf 2 | |_2_Attribut | |_1_leaf 1 | |_2_Attribut | |_1_leaf 1 | |_2_leaf 2 |_4_leaf 1Tree = Attribut: 3 Child: 1x4 structRulesMatrix = 1 1 1 0 1 0 0 0 1 1 2 1 0 1 0 0 0 2 2 0 1 0 1 0 0 0 2 3 0 1 1 1 1 0 0 1 3 0 1 2 1 1 0 0 2 3 0 1 3 1 1 0 0 1 3 0 1 0 1 2 0 0 2 1 0 1 0 2 0 1 0 2 2 0 1 0 2 0 1 0 1 0 0 1 0 2 0 2 0 1 0 0 2 1 0 0 0 0 2 0 0 2 2 1 0 0 0 1 0 0 2 2 2 0 0 0 2 0 0 2 3 0 0 0
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 維修電工技師試題及答案
- 網(wǎng)店裝修操作試題及答案
- 外科臨床試題及答案
- 2025年辦公軟件供應(yīng)商協(xié)議
- 2025年銀行業(yè)務(wù)人員培訓與發(fā)展協(xié)議
- 2025年權(quán)益轉(zhuǎn)讓策劃補充協(xié)議范本
- 2025年農(nóng)村經(jīng)濟合作社股份互轉(zhuǎn)協(xié)議
- 2025年酒店預(yù)訂服務(wù)合作協(xié)議
- 2025年合作策劃協(xié)議書官方范本
- 合同管理的全流程管控策略
- 考評員考試題及答案
- 2024年湖南省普通高中學業(yè)水平合格性考試地理試題(原卷版)
- 2025春季學期國開電大本科《理工英語3》一平臺在線形考綜合測試(形考任務(wù))試題及答案
- 細致解讀wps考試內(nèi)容的試題及答案
- 數(shù)據(jù)可視化與Python試題及答案
- 2025年兒童心理發(fā)展考試試題及答案
- 身股股權(quán)協(xié)議書
- 臺球股東合同協(xié)議書
- 新版《醫(yī)療器械經(jīng)營質(zhì)量管理規(guī)范》培訓課件
- 2025年湖南興湘科技創(chuàng)新有限公司招聘6人筆試參考題庫附帶答案詳解
- 2025屆山東省濱州地區(qū)物理八下期末學業(yè)水平測試模擬試題含解析
評論
0/150
提交評論