聚類分析-KmeansandKmedoids聚類課件

聚類分析—kmeansandkmedoids聚類2023-11-26目錄聚類分析概述k-means聚類算法k-medoids聚類算法聚類分析評估與優(yōu)化k-means與k-medoids的對比與選擇聚類分析在數(shù)據(jù)挖掘中的應(yīng)用01聚類分析概述0102定義與目的目的在于使同一類內(nèi)的對象相互之間更相似，不同類之間的對象盡可能不同。聚類分析是一種無監(jiān)督學(xué)習(xí)方法，通過對數(shù)據(jù)對象的分組，將相似的對象歸為同一類，不同類的對象盡量區(qū)別開。包括k-means、層次聚類、DBSCAN等，這類方法主要基于數(shù)據(jù)點之間的距離進行聚類?；诰嚯x的聚類如OPTICS、DENCLUE等，這類方法主要基于數(shù)據(jù)點之間的密度進行聚類?；诿芏鹊木垲惾鏏GNES、DIANA等，這類方法主要基于數(shù)據(jù)點之間的層次關(guān)系進行聚類?；趯哟蔚木垲惾鏗DBSCAN，這類方法主要基于數(shù)據(jù)點之間的密度和距離進行聚類。基于密度的聚類聚類分析的分類社交網(wǎng)絡(luò)分析通過聚類分析，可以發(fā)現(xiàn)社交網(wǎng)絡(luò)中的社區(qū)結(jié)構(gòu)、用戶群體等有用信息。生物信息學(xué)聚類分析可用于基因分類、疾病診斷等任務(wù)。文本挖掘通過聚類分析，可以將文本數(shù)據(jù)按照主題進行分類，用于信息檢索、文本挖掘等任務(wù)。數(shù)據(jù)挖掘通過聚類分析，可以發(fā)現(xiàn)數(shù)據(jù)中的異常值、離群點、趨勢等有用信息。圖像處理聚類分析可用于圖像分割、圖像壓縮等任務(wù)。聚類分析的應(yīng)用場景02k-means聚類算法k-means算法將數(shù)據(jù)點劃分為k個簇，以最小化每個簇內(nèi)數(shù)據(jù)點與簇中心（質(zhì)心）之間的距離之和?；诰嚯x的聚類算法首先隨機選擇k個數(shù)據(jù)點作為初始質(zhì)心，然后不斷迭代優(yōu)化簇劃分和質(zhì)心位置，直到滿足收斂條件。隨機初始化質(zhì)心k-means算法的基本思想1.隨機初始化質(zhì)心2.將每個數(shù)據(jù)點分配到最近的質(zhì)心，形成k個簇3.重新計算每個簇的質(zhì)心4.重復(fù)步驟2和3，直到滿足收斂條件（例如，質(zhì)心的移動距離小于預(yù)設(shè)閾值）01020304k-means算法的步驟流程優(yōu)點簡單直觀，易于理解和實現(xiàn)對于大規(guī)模數(shù)據(jù)集具有良好的擴展性k-means算法的優(yōu)缺點可以處理不同尺度的特征，因為距離度量對特征的尺度變化是穩(wěn)健的k-means算法的優(yōu)缺點缺點對初始質(zhì)心的選擇敏感，不同的初始質(zhì)心可能會導(dǎo)致不同的聚類結(jié)果可能陷入局部最優(yōu)解，無法得到全局最優(yōu)解k-means算法的優(yōu)缺點k-means算法的優(yōu)缺點不適用于非凸形狀的簇，因為基于距離的方法假設(shè)簇是凸形的對噪聲和異常值敏感，因為基于距離的方法容易受到這些因素的影響03k-medoids聚類算法01k-medoids算法是一種基于對象間的距離進行聚類的方法，與k-means算法類似，但使用的是真實的對象數(shù)據(jù)點，而不是數(shù)據(jù)點的均值。02k-medoids算法選擇k個中心點，其中每個中心點都是從數(shù)據(jù)集中選擇的一個真實對象。然后，根據(jù)這些中心點將數(shù)據(jù)集劃分為k個簇。03在k-medoids算法中，每個對象只能屬于一個簇，并且每個簇只有一個中心點。與k-means算法不同的是，k-medoids算法的中心點是真實的數(shù)據(jù)對象，而不是它們的均值。k-medoids算法的基本思想從數(shù)據(jù)集中隨機選擇k個對象作為初始中心點。1.初始化2.劃分簇3.更新中心點4.重復(fù)步驟2和3將數(shù)據(jù)集中的每個對象分配給最近的中心點，從而形成k個簇。對于每個簇，選擇該簇中與其他對象距離之和最小的對象作為新的中心點。直到中心點的位置不再變化或達到預(yù)設(shè)的最大迭代次數(shù)為止。k-medoids算法的步驟流程032.對于非球狀的數(shù)據(jù)分布和異常值具有較強的魯棒性。01優(yōu)點021.使用真實數(shù)據(jù)點作為中心點，能夠更好地反映數(shù)據(jù)集的特性。k-medoids算法的優(yōu)缺點能夠處理不同尺度的數(shù)據(jù)，因為距離度量是相對的。k-medoids算法的優(yōu)缺點011.相對于k-means算法，計算復(fù)雜度較高，因為需要計算每個對象與每個中心點之間的距離。2.初始中心點的選擇對聚類結(jié)果有影響，不同的初始選擇可能會導(dǎo)致不同的聚類結(jié)果。3.對噪聲和異常值較為敏感，可能會受到其影響導(dǎo)致聚類結(jié)果的不穩(wěn)定。缺點020304k-medoids算法的優(yōu)缺點04聚類分析評估與優(yōu)化基于聚類結(jié)果與外部標準（如真實標簽）的比較，評估聚類性能。外部評估通過聚類內(nèi)部的某種度量（如輪廓系數(shù)）來評估聚類性能。內(nèi)部評估結(jié)合外部和內(nèi)部評估方法，以綜合評價聚類性能?；旌显u估聚類分析評估方法選擇合適的初始化方法（如K-means），以得到更好的初始聚類中心。初始化策略通過增加迭代次數(shù)，以獲得更穩(wěn)定、更優(yōu)的聚類結(jié)果。迭代次數(shù)根據(jù)聚類過程的反饋，動態(tài)調(diào)整參數(shù)（如距離閾值、簇數(shù)等），以優(yōu)化聚類效果。動態(tài)調(diào)整參數(shù)結(jié)合多種聚類算法或與其他機器學(xué)習(xí)算法集成，以獲得更優(yōu)的聚類結(jié)果。集成方法聚類分析優(yōu)化策略05k-means與k-medoids的對比與選擇算法原理K-means是一種劃分方法，通過迭代尋找K個簇的中心點，以最小化每個樣本到其所屬簇中心的距離之和。K-medoids是一種基于對象的方法，選擇每個簇的真實數(shù)據(jù)對象作為代表對象，然后根據(jù)對象之間的距離進行聚類。計算復(fù)雜度K-means的計算復(fù)雜度相對較低，因為它只需要在數(shù)據(jù)空間中搜索，而K-medoids需要搜索所有可能的簇，因此計算復(fù)雜度較高。對異常值和空值的敏感性K-medoids對異常值和空值的敏感性較低，因為它以真實數(shù)據(jù)對象為基礎(chǔ)進行聚類。而K-means對異常值和空值的敏感性較高，因為異常值和空值可能會對中心點產(chǎn)生較大影響。k-means與k-medoids的對比數(shù)據(jù)類型01對于數(shù)值型數(shù)據(jù)，K-means和K-medoids都可以適用。對于分類數(shù)據(jù)，K-medoids可能更適合，因為它可以更好地處理類別間的差異。數(shù)據(jù)的分布02K-means假設(shè)數(shù)據(jù)符合凸分布，而K-medoids則沒有此假設(shè)。因此，對于不符合凸分布的數(shù)據(jù)，K-medoids可能更合適。聚類的目的03如果需要聚類的結(jié)果具有實際意義，即每個簇中的數(shù)據(jù)對象都有相似的屬性值，那么K-medoids可能更合適。如果只是需要將數(shù)據(jù)分成幾個不同的組，那么K-means可能更簡單、更有效。k-means與k-medoids的選擇06聚類分析在數(shù)據(jù)挖掘中的應(yīng)用通過聚類分析，將消費者群體細分成不同的組，根據(jù)其特征和行為模式，企業(yè)可以更準確地確定目標市場。確定目標市場通過對市場細分的數(shù)據(jù)進行分析，企業(yè)可以識別出消費者需求的變化和市場趨勢，從而及時調(diào)整產(chǎn)品和服務(wù)。識別市場趨勢根據(jù)不同的消費者群體和市場細分，企業(yè)可以制定更加精準和有效的營銷策略，提高市場占有率和盈利能力。制定營銷策略在市場細分中的應(yīng)用檢測異常數(shù)據(jù)聚類分析可以幫助企業(yè)快速檢測出數(shù)據(jù)中的異常值和離群點，從而避免因為異常數(shù)據(jù)對分析結(jié)果的影響。識別欺詐行為通過對交易數(shù)據(jù)的聚類分析，企業(yè)可以識別出異常交易行為，如大單交易、高頻交易等，從而有效防止欺詐行為的發(fā)生。預(yù)警系統(tǒng)基于聚類分析的異常檢測方法，企業(yè)可以構(gòu)建預(yù)警系統(tǒng)，對可能出現(xiàn)的風(fēng)險和問題進行提前預(yù)警，避免潛在的損失。在異常檢測中的應(yīng)用123通過聚類分析，將