數(shù)據(jù)挖掘 第12章--離群點(diǎn)檢測(cè)：離群點(diǎn)和離群點(diǎn)分析

1、數(shù)據(jù)挖掘與商務(wù)智能范勤勤范勤勤物流研究中心物流研究中心1 離群點(diǎn)和離群點(diǎn)分析8什么是離群點(diǎn)？什么是離群點(diǎn)？ 假定使用一個(gè)給定的統(tǒng)計(jì)過(guò)程來(lái)產(chǎn)生數(shù)據(jù)對(duì)象集，離群點(diǎn)是一個(gè)數(shù)據(jù)對(duì)象，它顯著不同于其他數(shù)據(jù)對(duì)象，好像它是被不同的機(jī)制產(chǎn)生的一樣。離群點(diǎn)特點(diǎn) 離群點(diǎn)不同于噪聲數(shù)據(jù)（噪聲在數(shù)據(jù)分析中不是令人感興趣的）。 離群點(diǎn)是有趣的，因?yàn)閼岩僧a(chǎn)生它們的機(jī)制不同于產(chǎn)生其他數(shù)據(jù)的機(jī)制 離群點(diǎn)檢測(cè)還與演變數(shù)據(jù)集上的新穎性檢測(cè)（novelty detection）相關(guān)3離群點(diǎn)8離群點(diǎn)的類型全局離群點(diǎn)（也稱點(diǎn)異常） 定義：在給定的數(shù)據(jù)集中，顯著地偏離數(shù)據(jù)集中的其余對(duì)象 為了檢測(cè)它，關(guān)鍵問(wèn)題是針對(duì)所考慮到應(yīng)用，找到一個(gè)合

2、適的偏離度量 在許多應(yīng)用中，全局離群點(diǎn)檢測(cè)都是重要的4全局離群點(diǎn)8離群點(diǎn)的類型情境（或條件）離群點(diǎn) 定義：在給定的數(shù)據(jù)集中，關(guān)于對(duì)象的特定情境，它顯著地偏離其他對(duì)象 示例：“今天的溫度為280C。這是一個(gè)異常（離群點(diǎn)）嗎？”如果是多倫多的冬天，則這是一個(gè)離群點(diǎn)；如果是多倫多的夏天，則這是正常的 一般地，在情境離群點(diǎn)檢測(cè)中，所考慮數(shù)據(jù)對(duì)象的屬性劃分為兩組： 情境屬性：數(shù)據(jù)對(duì)象的情境屬性定義對(duì)象的情境 行為屬性：定義對(duì)象的特征，并用來(lái)評(píng)估對(duì)象關(guān)于它所處的情境是否是離群點(diǎn) 全局離群點(diǎn)檢測(cè)可以看做情境離群點(diǎn)檢測(cè)到特例，其中情境屬性集為空58離群點(diǎn)的類型集體離群點(diǎn) 定義：在給定的數(shù)據(jù)中，這些對(duì)象作為整體顯著偏離整個(gè)數(shù)據(jù)集 與全局或情境離群點(diǎn)檢測(cè)不同，在集體離群點(diǎn)檢測(cè)中，不僅必須考慮個(gè)體對(duì)象的行為，而且要考慮對(duì)象組群的行為，比如短期內(nèi)，一小群當(dāng)事人的股票交易。6集體離群點(diǎn)8離群點(diǎn)檢測(cè)的挑戰(zhàn)正常對(duì)象和離群點(diǎn)的有效建模 離群點(diǎn)檢測(cè)的質(zhì)量高度依賴于正常（非離群點(diǎn)）對(duì)象和離群點(diǎn)的建模 正常數(shù)據(jù)與異常數(shù)據(jù)（離群點(diǎn)）之間的邊界通常并不清晰在離群點(diǎn)檢測(cè)中處理噪聲 低質(zhì)量的數(shù)據(jù)和噪聲的存在給離群點(diǎn)檢測(cè)帶來(lái)了巨大的挑戰(zhàn)針對(duì)應(yīng)用的離群點(diǎn)檢測(cè) 離群點(diǎn)檢測(cè)高度依賴于應(yīng)用類型，使得不可能開(kāi)發(fā)通用的離群點(diǎn)檢測(cè)方法可理解性 在許多應(yīng)用中，用戶可能不僅要檢測(cè)離群點(diǎn)，而且要知道被檢測(cè)到的點(diǎn)為何是離群點(diǎn)。78離群點(diǎn)檢測(cè)方法