數(shù)據(jù)挖掘weka數(shù)據(jù)分類(lèi)實(shí)驗(yàn)報(bào)告1

1、數(shù)據(jù)挖掘weka數(shù)據(jù)分類(lèi)實(shí)驗(yàn)報(bào)告一、實(shí)驗(yàn)?zāi)康氖褂脭?shù)據(jù)挖掘中的分類(lèi)算法，對(duì)數(shù)據(jù)集進(jìn)行分類(lèi)訓(xùn)練并測(cè)試。應(yīng)用不同的分類(lèi)算法，比較他們之間的不同。與此同時(shí)了解weka平臺(tái)的基本功能與使用方法。二、實(shí)驗(yàn)環(huán)境實(shí)驗(yàn)采用weka 平臺(tái)，數(shù)據(jù)使用weka安裝目錄下data文件夾下的默認(rèn)數(shù)據(jù)集。weka是懷卡托智能分析系統(tǒng)的縮寫(xiě)，該系統(tǒng)由新西蘭懷卡托大學(xué)開(kāi)發(fā)。weka使用java 寫(xiě)成的，并且限制在gnu通用公共證書(shū)的條件下發(fā)布。它可以運(yùn)行于幾乎所有操作平臺(tái)，是一款免費(fèi)的，非商業(yè)化的機(jī)器學(xué)習(xí)以及數(shù)據(jù)挖掘軟件。weka提供了一個(gè)統(tǒng)一界面，可結(jié)合預(yù)處理以及后處理方法，將許多不同的學(xué)習(xí)算法應(yīng)用于任何所給的數(shù)據(jù)集，并評(píng)估

2、由不同的學(xué)習(xí)方案所得出的結(jié)果。三、數(shù)據(jù)預(yù)處理weka平臺(tái)支持arff格式和csv格式的數(shù)據(jù)。由于本次使用平臺(tái)自帶的arff格式數(shù)據(jù)，所以不存在格式轉(zhuǎn)換的過(guò)程。實(shí)驗(yàn)所用的arff格式數(shù)據(jù)集如圖1所示圖1 arff格式數(shù)據(jù)集對(duì)于iris數(shù)據(jù)集，它包含了150個(gè)實(shí)例（每個(gè)分類(lèi)包含50個(gè)實(shí)例），共有sepal length、 sepal width、petal length、petal width和class五種屬性。期中前四種屬性為數(shù)值類(lèi)型，class屬性為分類(lèi)屬性，表示實(shí)例所對(duì)應(yīng)的的類(lèi)別。該數(shù)據(jù)集中的全部實(shí)例共可分為三類(lèi)：iris setosa、iris versicolour和iris virg

3、inica。 實(shí)驗(yàn)數(shù)據(jù)集中所有的數(shù)據(jù)都是實(shí)驗(yàn)所需的，因此不存在屬性篩選的問(wèn)題。若所采用的數(shù)據(jù)集中存在大量的與實(shí)驗(yàn)無(wú)關(guān)的屬性，則需要使用weka平臺(tái)的filter(過(guò)濾器)實(shí)現(xiàn)屬性的篩選。實(shí)驗(yàn)所需的訓(xùn)練集和測(cè)試集均為。四、實(shí)驗(yàn)過(guò)程及結(jié)果應(yīng)用iris數(shù)據(jù)集，分別采用libsvm、決策樹(shù)分類(lèi)器和樸素貝葉斯分類(lèi)器進(jìn)行測(cè)試和評(píng)價(jià)，分別在訓(xùn)練數(shù)據(jù)上訓(xùn)練出分類(lèi)模型，找出各個(gè)模型最優(yōu)的參數(shù)值，并對(duì)三個(gè)模型進(jìn)行全面評(píng)價(jià)比較，得到一個(gè)最好的分類(lèi)模型以及該模型所有設(shè)置的最優(yōu)參數(shù)。最后使用這些參數(shù)以及訓(xùn)練集和校驗(yàn)集數(shù)據(jù)一起構(gòu)造出一個(gè)最優(yōu)分類(lèi)器，并利用該分類(lèi)器對(duì)測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)。1、libsvm分類(lèi)weka 平臺(tái)內(nèi)部沒(méi)

4、有集成libsvm分類(lèi)器，要使用該分類(lèi)器，需要下載并導(dǎo)入到weka中。用“explorer”打開(kāi)數(shù)據(jù)集“”，并在explorer中將功能面板切換到“classify”。點(diǎn)“choose”按鈕選擇“functions，選擇libsvm分類(lèi)算法。在test options 面板中選擇cross-validatioin folds=10，即十折交叉驗(yàn)證。然后點(diǎn)擊“start”按鈕： 結(jié)果分析：使用該參數(shù)指定的libsvm訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為%，其中150個(gè)實(shí)例中的145個(gè)被正確分類(lèi)，5個(gè)被錯(cuò)誤分類(lèi)。根據(jù)混淆矩陣，被錯(cuò)誤分類(lèi)實(shí)例的為：2個(gè)b類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到c；3個(gè)c類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到b。該算法p

5、=，r=，roc面積為。將模型應(yīng)用于測(cè)試集：使用libsvm分類(lèi)算法測(cè)試數(shù)據(jù)集得出的結(jié)果 分類(lèi)誤差：結(jié)果分析：準(zhǔn)確率為%，只有兩個(gè)實(shí)例被錯(cuò)誤分類(lèi)。p=，r=，roc面積為 2、決策樹(shù)分類(lèi)器 依然使用十折交叉驗(yàn)證，訓(xùn)練集和測(cè)試集相同。使用決策樹(shù)分類(lèi)算法訓(xùn)練數(shù)據(jù)集得出的結(jié)果參數(shù)：-c -m 2 結(jié)果分析： 使用該參數(shù)指定的決策樹(shù)分類(lèi)器訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為96%，其中150個(gè)實(shí)例中的144個(gè)被正確分類(lèi)，6個(gè)被錯(cuò)誤分類(lèi)。根據(jù)混淆矩陣，被錯(cuò)誤分類(lèi)實(shí)例的為：2個(gè)b類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到c,1個(gè)b類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到a；3個(gè)c類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到b。該算法p=，r=，roc面積為。將模型應(yīng)用于測(cè)試集：使用分類(lèi)算

6、法測(cè)試數(shù)據(jù)集得出的結(jié)果分類(lèi)誤差： 結(jié)果分析：準(zhǔn)確率為98%，有3個(gè)實(shí)例被錯(cuò)誤分類(lèi)。p=，r=，roc面積為3、樸素貝葉斯分類(lèi)器使用樸素貝葉斯分類(lèi)算法訓(xùn)練數(shù)據(jù)集得出的結(jié)果參數(shù)：無(wú) 結(jié)果分析： 使用樸素貝葉斯分類(lèi)器訓(xùn)練數(shù)據(jù)集，得到準(zhǔn)確率為%，其中150個(gè)實(shí)例中的143個(gè)被正確分類(lèi)，7個(gè)被錯(cuò)誤分類(lèi)。根據(jù)混淆矩陣，被錯(cuò)誤分類(lèi)實(shí)例的為：4個(gè)b類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到c；3個(gè)c類(lèi)實(shí)例被錯(cuò)誤分類(lèi)到b。該算法p=，r=，roc面積為。將模型應(yīng)用于測(cè)試集：使用樸素貝葉斯分類(lèi)算法測(cè)試數(shù)據(jù)集得出的結(jié)果分類(lèi)誤差： 結(jié)果分析：準(zhǔn)確率為96%，有6個(gè)實(shí)例被錯(cuò)誤分類(lèi)。p=，r=，roc面積為4、三種分類(lèi)算法比較：libsvm決策樹(shù)樸素貝葉斯校驗(yàn)準(zhǔn)確率%98%96%訓(xùn)練混淆矩陣校驗(yàn)混淆矩陣標(biāo)準(zhǔn)誤差比較結(jié)果分析：libsvm算法相比決策樹(shù)算法、樸素貝葉斯算法具有更好的分類(lèi)性能。五、實(shí)驗(yàn)總結(jié)通