說明五種數(shù)據(jù)挖掘技術(shù)數(shù)據(jù)挖掘技術(shù)與用戶知識獲取

說明五種數(shù)據(jù)挖掘技術(shù)數(shù)據(jù)挖掘技術(shù)與用戶知識獲取1數(shù)據(jù)挖掘技術(shù)概述隨著信息技術(shù)的迅速發(fā)展，數(shù)據(jù)庫的規(guī)模不斷擴大，從而產(chǎn)生了大量的數(shù)據(jù)。為給決策者提供一個統(tǒng)一的全局視角，在許多領(lǐng)域建立了數(shù)據(jù)倉庫。但大量的數(shù)據(jù)往往使人們無法辨別隱藏在其中的能對決策提供支持的信息，而傳統(tǒng)的查詢、報表工具無法滿足挖掘這些信息的需求。因此，需要一種新的數(shù)據(jù)分析技術(shù)處理大量數(shù)據(jù)，并從中抽取有價值的潛在知識，數(shù)據(jù)挖掘(DataMining)技術(shù)由此應(yīng)運而生。數(shù)據(jù)挖掘技術(shù)也正是伴隨著數(shù)據(jù)倉庫技術(shù)的發(fā)展而逐步完善起來的。數(shù)據(jù)挖掘是指從數(shù)據(jù)集合中自動抽取隱藏在數(shù)據(jù)中的那些有用信息的非平凡過程，這些信息的表現(xiàn)形式為：規(guī)則、概念、規(guī)律及模式等。它可幫助決策者分析歷史數(shù)據(jù)及當(dāng)前數(shù)據(jù)，并從中發(fā)現(xiàn)隱藏的關(guān)系和模式，進(jìn)而預(yù)測未來可能發(fā)生的行為。數(shù)據(jù)挖掘的過程也叫知識發(fā)現(xiàn)的過程，它是一門涉及面很廣的交叉性新興學(xué)科，涉及到數(shù)據(jù)庫、人工智能、數(shù)理統(tǒng)計、可視化、并行計算等領(lǐng)域。數(shù)據(jù)挖掘是一種新的信息處理技術(shù)，其主要特點是對數(shù)據(jù)庫中的大量數(shù)據(jù)進(jìn)行抽取、轉(zhuǎn)換、分析和其他模型化處理，并從中提取輔助決策的關(guān)鍵性數(shù)據(jù)。數(shù)據(jù)挖掘是KDD（KnowledgeDiscoveryinDatabase）中的重要技術(shù)，它并不是用規(guī)范的數(shù)據(jù)庫查詢語言（如SQL）進(jìn)行查詢，而是對查詢的內(nèi)容進(jìn)行模式的總結(jié)和內(nèi)在規(guī)律的搜索。傳統(tǒng)的查詢和報表處理只是得到事件發(fā)生的結(jié)果，并沒有深入研究發(fā)生的原因，而數(shù)據(jù)挖掘則主要了解發(fā)生的原因，并且以一定的置信度對未來進(jìn)行預(yù)測，用來為決策行為提供有利的支持。2數(shù)據(jù)挖掘的常用技術(shù)機器學(xué)習(xí)、數(shù)理統(tǒng)計等方法是數(shù)據(jù)挖掘進(jìn)行知識學(xué)習(xí)的重要方法。數(shù)據(jù)挖掘算法的好壞將直接影響到所發(fā)現(xiàn)知識的好壞，目前對數(shù)據(jù)挖掘的研究也主要集中在算法及其應(yīng)用方面。統(tǒng)計方法應(yīng)用于數(shù)據(jù)挖掘主要是進(jìn)行數(shù)據(jù)評估；機器學(xué)習(xí)是人工智能的另一個分支，也稱為歸納推理，它通過學(xué)習(xí)訓(xùn)練數(shù)據(jù)集，發(fā)現(xiàn)模型的參數(shù)，并找出數(shù)據(jù)中隱含的規(guī)則。其中關(guān)聯(lián)分析法、人工神經(jīng)元網(wǎng)絡(luò)、決策樹和遺傳算法在數(shù)據(jù)挖掘中的應(yīng)用很廣泛。1）關(guān)聯(lián)分析法。從關(guān)系數(shù)據(jù)庫中提取關(guān)聯(lián)規(guī)則是幾種主要的數(shù)據(jù)挖掘方法之一。挖掘關(guān)聯(lián)是通過搜索系統(tǒng)中的所有事物，并從中找到出現(xiàn)條件概率較高的模式。關(guān)聯(lián)實際上就是數(shù)據(jù)對象之間相關(guān)性的確定，用關(guān)聯(lián)找出所有能將一組數(shù)據(jù)項和另一組數(shù)據(jù)項相聯(lián)系的規(guī)則，這種規(guī)則的建立并不是確定的關(guān)系，而是一個具有一定置信度的可能值，即事件發(fā)生的概率。關(guān)聯(lián)分析法直觀、易理解，但對于關(guān)聯(lián)度不高或相關(guān)性復(fù)雜的情況不太有效。2）人工神經(jīng)元網(wǎng)絡(luò)（ANN），是數(shù)據(jù)挖掘中應(yīng)用最廣泛的技術(shù)。神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)挖掘方法是通過模仿人的神經(jīng)系統(tǒng)來反復(fù)訓(xùn)練學(xué)習(xí)數(shù)據(jù)集，從待分析的數(shù)據(jù)集中發(fā)現(xiàn)用于預(yù)測和分類的模式。神經(jīng)元網(wǎng)絡(luò)對于復(fù)雜情況仍能得到精確的預(yù)測結(jié)果，而且可以處理類別和連續(xù)變量，但神經(jīng)元網(wǎng)絡(luò)不適合處理高維變量，其最大的缺點是不透明性，因為其無法解釋結(jié)果是如何產(chǎn)生的，及其在推理過程中所用的規(guī)則。神經(jīng)元網(wǎng)絡(luò)適合于結(jié)果比可理解性更重要的分類和預(yù)測的復(fù)雜情況，可用于聚類、分類和序列模式。3）決策樹（DT）是一種樹型結(jié)構(gòu)的預(yù)測模型，其中樹的非終端節(jié)點表示屬性，葉節(jié)點表示所屬的不同類別。根據(jù)訓(xùn)練數(shù)據(jù)集中數(shù)據(jù)的不同取值建立樹的分支，形成決策樹。與神經(jīng)元網(wǎng)絡(luò)最大的不同在于其決策制定的過程是可見的，可以解釋結(jié)果是如何產(chǎn)生的。決策樹一般產(chǎn)生直觀、易理解的規(guī)則，而且分類不需太多計算時間，適于對記錄分類或結(jié)果的預(yù)測，尤其適用于當(dāng)目標(biāo)是生成易理解、可翻譯成SQL或自然語言的規(guī)則時。決策樹也可用于聚類、分類及序列模式，其應(yīng)用的典型例子是CART（回歸決策樹）方法。4）遺傳算法（GA）是一種基于生物進(jìn)化理論的優(yōu)化技術(shù)。其基本觀點是“適者生存”原理，用于數(shù)據(jù)挖掘中則常把任務(wù)表示為一種搜索問題，利用遺傳算法強大的搜索能力找到最優(yōu)解。實際上遺傳算法是模仿生物進(jìn)化的過程，反復(fù)進(jìn)行選擇、交叉和突變等遺傳操作，直至滿足最優(yōu)解。遺傳算法可處理許多數(shù)據(jù)類型，同時可并行處理各種數(shù)據(jù)，常用于優(yōu)化神經(jīng)元網(wǎng)絡(luò)，解決其他技術(shù)難以解決的問題，但需要的參數(shù)太多，對許多問題編碼困難，一般計算量大。3數(shù)據(jù)挖掘技術(shù)在用戶知識獲取中的應(yīng)用網(wǎng)絡(luò)的發(fā)展為用戶提供了多種新的信息服務(wù)，因特網(wǎng)以其豐富的內(nèi)容、強大的功能以及簡單的操作，在各種信息服務(wù)方式中脫穎而出，成為未來信息服務(wù)的主要方向。但當(dāng)前因特網(wǎng)信息服務(wù)中更多的是單向、被動的服務(wù)模式，而網(wǎng)上用戶信息需求的挖掘，可以改進(jìn)因特網(wǎng)與用戶的交互，使因特網(wǎng)與用戶真正融為一體，不再是操作與被操作的關(guān)系。數(shù)據(jù)挖掘技術(shù)的應(yīng)用，使因特網(wǎng)能根據(jù)用戶的需求采取更主動、更有針對性的服務(wù)。并且可以建立一種個性化的信息服務(wù)系統(tǒng)，針對不同用戶的信息需求，提供不同的信息服務(wù)。而個性化服務(wù)系統(tǒng)的建立，則依賴于用戶信息需求的挖掘。3.1用戶知識概述用戶知識包括用戶的身份、目標(biāo)、興趣、系統(tǒng)經(jīng)驗和用戶背景知識等。它可通過用戶模型來描述，用戶模型可以模型化用戶的特點、背景知識和經(jīng)驗，使用特定知識獲取方法識別和描述用戶的各種特征。用戶模型可提高人機交互能力，解釋和評價系統(tǒng)的執(zhí)行，使系統(tǒng)發(fā)揮主動作用；改進(jìn)整個系統(tǒng)的執(zhí)行性能，如幫助識別用戶的信息需求；增強系統(tǒng)的靈活性，適用于各類用戶。3.2用戶知識獲取方法用戶知識獲取有3種基本方式：通過觀察獲取信息，即觀察用戶與系統(tǒng)交互中的行為、使用的系統(tǒng)命令和參數(shù)；從觀察到的事實進(jìn)行推理，獲得未知的信息；從已知實例集合，執(zhí)行基于實例的推理，激發(fā)原型庫中的模型，推導(dǎo)出當(dāng)前用戶的初始模型。隨著數(shù)據(jù)挖掘技術(shù)的應(yīng)用，有以下幾種常用的知識獲取方法。3.2.1用戶知識的關(guān)聯(lián)分析對用戶數(shù)據(jù)的挖掘有兩方面的內(nèi)容：一是如何提取用戶的信息需求；二是獲得用戶需求的數(shù)據(jù)后，如何利用數(shù)據(jù)挖掘技術(shù)對這些數(shù)據(jù)進(jìn)行處理，以獲取潛在知識及為