決策樹算法的研究與改進_第1頁
決策樹算法的研究與改進_第2頁
決策樹算法的研究與改進_第3頁
決策樹算法的研究與改進_第4頁
決策樹算法的研究與改進_第5頁
已閱讀5頁，還剩14頁未讀， 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請進行舉報或認領

文檔簡介

在決策樹算法中，最為關(guān)鍵的兩個步驟是特征選擇和樹的剪枝?；蚧嶂笖?shù)(GiniIndex)等指標來評估特征的重要性。分為預剪枝(Pre-pruning)和后剪枝(Post-pruning)兩種。預剪Forest)和梯度提升決策樹(GradientBoostingDecisionTree)具體來說，在CIFAR-10數(shù)據(jù)集上，我們的改進算法在保持較高準確率的同時，運行時間比傳統(tǒng)算法減少了約30%。這充分證明了我針對C5算法的過擬合問題，我們引入了剪枝策略。剪枝策略可為若干個離散的區(qū)間，并根據(jù)區(qū)間的值將數(shù)據(jù)映射到相應的類別我們探討了改進后算法的應用。我們將改進后的C5算法應用于本文針對C5算法存在的問題進行了改進，并探討了改進后算法等場景中，提高分類器的性能。未來我們將進一步研究C5算法的優(yōu)類別(對于分類問題)或一個具體數(shù)值(對于回歸問題)。決策樹算決策樹方法最早產(chǎn)生于上世紀60年代，到70年代末。由JRossQuinlan提出了ID3算法，此算法的目的在于減少樹的深度。但是忽決策樹算法構(gòu)造決策樹來發(fā)現(xiàn)數(shù)據(jù)中蘊涵的分類規(guī)則.如何構(gòu)造程，主要是用新的樣本數(shù)據(jù)集(稱為測試數(shù)據(jù)集)中的數(shù)據(jù)校驗決策決策樹(decisiontree)是一種基本的分類與回歸方法。決策樹因為從所有可能的決策樹中選取最優(yōu)決策樹是NP完全問題，所下對訓練數(shù)據(jù)有足夠分類能力的特征。(例如把名字不作為一個特征進行選擇)InternationalConferenceonDataMining)在2006年12月評選4)根據(jù)當前決策結(jié)點屬性取值的不同，將訓練樣本數(shù)據(jù)集tlI②沒有剩余屬性可以用來進一步劃分樣本.在這種情況下.使用③如果某一分枝tc,沒有滿足該分支中已有分類的樣本，則以邏輯判斷，如形式為a=aj的邏輯判斷，其中a是屬性，aj是該屬性可缺少的環(huán)節(jié)。尋找一棵最優(yōu)決策樹，主要應解決以下3個最優(yōu)化問(1)決策樹生成：基于訓練數(shù)據(jù)集生成決策樹，生成的決策樹(2)決策樹剪枝：用驗證數(shù)據(jù)集對己生成的樹進行剪枝并選擇 19

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間，僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理，對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論