決策樹(shù)方法在數(shù)據(jù)挖掘中的應(yīng)用ppt課件

1、 KnowledgeSEEKER是一個(gè)由Angoss公司開(kāi)發(fā)的基于決策樹(shù)的數(shù)據(jù)分析程序。該程序具有相當(dāng)完好的分類(lèi)樹(shù)分析功能。 KnowledgeSEEKER采用了兩種著名的決策樹(shù)分析算法：CHAID和CART算法。CHAID算法可以用來(lái)對(duì)于分類(lèi)性數(shù)據(jù)進(jìn)展發(fā)掘。CART算法那么可以對(duì)延續(xù)型因變量進(jìn)展處置。Angoss公司在加強(qiáng)這些算法的用戶友好性方面作了大量的任務(wù)。優(yōu)點(diǎn)：呼應(yīng)快，模型，文檔易于了解，決策樹(shù)分析直觀，性能良好缺陷：決策樹(shù)不能編輯打印，缺乏數(shù)據(jù)預(yù)處置階段的函數(shù)，沒(méi)有例如代碼運(yùn)用行業(yè)案例：Frost National銀行CRM收益率、客戶稱(chēng)心度、產(chǎn)品效果SASI公司利用其開(kāi)發(fā)行業(yè)數(shù)據(jù)發(fā)

2、掘運(yùn)用軟件零售行業(yè)Montreal銀行客戶分片、越區(qū)銷(xiāo)售模型、市場(chǎng)站的預(yù)備、抵押支付的預(yù)測(cè)、信譽(yù)風(fēng)險(xiǎn)的分析 運(yùn)用的樣例數(shù)據(jù)集是從一個(gè)團(tuán)體安康檢查中有關(guān)高血壓的研討工程中得到的。Angoss公司已將這一數(shù)據(jù)集包括在產(chǎn)品演示中。 有關(guān)高血壓研討方面的數(shù)據(jù)表中給出數(shù)據(jù)集中各個(gè)數(shù)據(jù)列的取值范圍及其含義闡明數(shù)據(jù)預(yù)處置：需求標(biāo)注的區(qū)域：Hypertension域中可以出現(xiàn)整數(shù)值1，2，3，這幾個(gè)值將分別被標(biāo)注為低，正常，高。TypeOfMilk域中包含整數(shù)值15，將分別標(biāo)注為純牛奶、2%，脫脂牛奶，奶粉及根本不喝牛奶處置導(dǎo)出型的數(shù)據(jù)域 字段Age中包含的值1，2，3分別表示3250歲、5162歲及6373

3、歲。然而，字段Age中通常包含的都是某個(gè)人的實(shí)踐年齡而非整數(shù)值1，2，3，因此，字段Age中的值是在數(shù)據(jù)發(fā)掘開(kāi)場(chǎng)之前就曾經(jīng)導(dǎo)出了，即按照實(shí)踐年齡的范圍3250歲、5162歲及6373歲對(duì)該字段選擇適當(dāng)?shù)闹怠?、定義發(fā)掘目的 在開(kāi)場(chǎng)運(yùn)用KnowledgeSEEKER之前，有必要定義出發(fā)掘的目的。在給定的數(shù)據(jù)集的例子中展現(xiàn)了哪些飲食要素會(huì)對(duì)人的血壓高低有關(guān)鍵性的影響。其發(fā)掘的目的可以明確地描畫(huà)為：分析出飲食要素對(duì)血壓偏低、正常及偏高所產(chǎn)生的影響。2、啟動(dòng)3、設(shè)置因變量 一開(kāi)場(chǎng)，字段Hypertension就曾經(jīng)被自動(dòng)設(shè)置為因變量。稍后，還將改動(dòng)因變量的設(shè)置。翻開(kāi)bpress數(shù)據(jù)集之后將出現(xiàn)如下圖的

4、屏幕 圖中的根結(jié)點(diǎn)對(duì)應(yīng)的是因變量。在根節(jié)點(diǎn)中血壓曾經(jīng)分別被分為3類(lèi)：偏低、正常和偏高。我們?nèi)缃褚私獾氖茄獕浩?、正常和偏高的人都分別具有哪些特征。從圖中可以看出：研討對(duì)象中有18%的人即66個(gè)人血壓偏低研討對(duì)象中有60%的人即217個(gè)人血壓正常研討對(duì)象中有21%的人即77個(gè)人血壓偏高 目前KnowledgeSEEKER曾經(jīng)構(gòu)造出模型樹(shù)的下一層分支。當(dāng)然，模型樹(shù)還可以自動(dòng)生成出多層分支。 圖中的模型樹(shù)的下一層分支闡明上一層的雙親節(jié)點(diǎn)是按年齡age進(jìn)展分叉的。年齡只是影響血壓的一個(gè)變量，但是在目前這個(gè)例子中，年齡似乎是導(dǎo)致一個(gè)人的血壓能否偏高的最重要要素。 如下圖，研討對(duì)象按年齡分為以下3組：

5、3250歲，5162歲，6373歲 它們分別對(duì)應(yīng)于模型樹(shù)的三個(gè)葉節(jié)點(diǎn)。 此外，還可以用除Age以外的其他字段為模型樹(shù)創(chuàng)建新的葉節(jié)點(diǎn)。在模型樹(shù)上經(jīng)過(guò)指定其它字段以創(chuàng)建新的葉節(jié)點(diǎn)稱(chēng)為分叉。對(duì)于當(dāng)前這個(gè)數(shù)據(jù)集，系統(tǒng)會(huì)自動(dòng)發(fā)現(xiàn)12個(gè)分叉。1、察看其分叉 察看其分叉將使我們可以看到除年齡以外對(duì)血壓還有影響的其他重要變量的作用。KnowledgeSEEKER可以計(jì)算出一切變量對(duì)血壓影響的大小并將使它們按順序陳列起來(lái)。用另一個(gè)變量直接在根節(jié)點(diǎn)下面構(gòu)造葉節(jié)點(diǎn)即可進(jìn)入模型樹(shù)的另一個(gè)分叉。這樣，我們就可以很容易地察看到其他數(shù)據(jù)元素對(duì)血壓的影響。 對(duì)于自動(dòng)生成的每一個(gè)分叉所作的概述將為我們思索下一步的研討方向提供有

6、益的線索。很明顯，上面所獲得的信息中有一些符合我們的預(yù)先估計(jì)。例如，一個(gè)人年齡越大，患高血壓的能夠性也就越高；一個(gè)人參與體育活動(dòng)越多，換高血壓的能夠性也就越低。這些都是我們預(yù)先估計(jì)到的。然而，我們從數(shù)據(jù)集中也發(fā)現(xiàn)了一些預(yù)先沒(méi)有估計(jì)到的結(jié)果，如人的身高與其高血壓之間的關(guān)系就是我們預(yù)先沒(méi)有估計(jì)到的。2、進(jìn)入特定分叉3、擴(kuò)展模型樹(shù) 以smoking為分叉變量構(gòu)造的模型樹(shù)目前還只需一層。我們可以對(duì)這棵模型樹(shù)作進(jìn)一步擴(kuò)展。在模型樹(shù)的第二層中選擇經(jīng)常吸煙者相對(duì)應(yīng)的節(jié)點(diǎn)，然后，在Grow下拉菜單中選擇Find Split，既可以看到如下圖的屏幕。 KnowledgeSEEKER發(fā)現(xiàn)對(duì)于描畫(huà)經(jīng)常吸煙者特征最為

7、有效的分組變量就是年齡。也就是說(shuō)，對(duì)于經(jīng)常吸煙的人而言，年齡將是確定其能否患高血壓的最關(guān)鍵的目的，數(shù)聽(tīng)闡明年齡在6373歲之間經(jīng)常吸煙的人當(dāng)中有56.7%患有高血壓，而年齡在3251歲之間且經(jīng)常吸煙的人當(dāng)中患有高血壓的比例僅為4.8%。 為進(jìn)一步描畫(huà)經(jīng)常吸煙者的特征，KnowledgeSEEKER總共發(fā)現(xiàn)了6個(gè)分叉變量，分別是Age，Height，PorkLastWeek，DrinkPattern，Gender以及SaltConsumption。其中以年齡最為有效。4、強(qiáng)迫分叉 有時(shí)我們還想察看一下那些沒(méi)有自動(dòng)發(fā)現(xiàn)的變量的作用。例如，我們能夠想知道PoultryLastWeek對(duì)人們患有高血壓

8、有什么影響。為此，我們可以在模型樹(shù)上作強(qiáng)迫分叉。5、對(duì)模型進(jìn)展驗(yàn)證 當(dāng)我們從一個(gè)數(shù)據(jù)集中發(fā)現(xiàn)某些結(jié)果之后，總是希望可以用另外一個(gè)數(shù)據(jù)計(jì)再對(duì)其進(jìn)展驗(yàn)證。Angoss將那些用于驗(yàn)證的數(shù)據(jù)集又稱(chēng)為測(cè)試分區(qū)Test Partition。 KnowledgeSEEKER允許我們用另一個(gè)數(shù)據(jù)集即測(cè)試分區(qū)對(duì)新發(fā)現(xiàn)的結(jié)果進(jìn)展驗(yàn)證。6、重新定義發(fā)掘?qū)ο?前面所作的演示都是有關(guān)“高血壓這一研討對(duì)象的，即都是以Hypertension為模型樹(shù)的因變量。假設(shè)我們想要改動(dòng)所研討的內(nèi)容例如，想要研討飲酒數(shù)量不同的人之間的差別，那么就需求重新定義研討對(duì)象。 改動(dòng)模型樹(shù)的根節(jié)點(diǎn)為DrinkPattern，即新的模型樹(shù)的根節(jié)點(diǎn)

9、對(duì)應(yīng)的因變量為DrinkPattern，其中可以含有以下值：Regular經(jīng)常飲酒Occasional偶爾飲酒Former以前曾經(jīng)飲酒Never從不飲酒 同前面一樣，可以對(duì)這棵以DrinkPattern為因變量的模型樹(shù)作進(jìn)一步的擴(kuò)展。雖然這期間運(yùn)用KnowledgeSEEKER的任務(wù)方式與前面是一樣的，但所要研討的內(nèi)容與前面完全不同了。即如今要研討的是人們的飲酒方式及其影響，而前面的研討對(duì)象是高血壓。7、模型樹(shù)的自動(dòng)擴(kuò)展 前面所演示的都是如何一個(gè)一個(gè)節(jié)點(diǎn)地?cái)U(kuò)展模型樹(shù)。此外，還可以讓系統(tǒng)對(duì)模型樹(shù)作自動(dòng)擴(kuò)展。8、數(shù)據(jù)分布 KnowledgeSEEKER提供了假設(shè)干種方法以便我們可以對(duì)正在發(fā)掘的數(shù)據(jù)的形狀進(jìn)展察看。首先，我們可以經(jīng)過(guò)KnowledgeSEEKER對(duì)正在發(fā)掘的原始數(shù)據(jù)進(jìn)展詳細(xì)察看。 另外，還可以經(jīng)過(guò)KnowledgeSEEKER對(duì)數(shù)據(jù)幾種不同數(shù)據(jù)項(xiàng)的交叉列