聚類分析-KmeansandKmedoids聚類課件

聚類分析—kmeansandkmedoids聚類2023-11-26目錄聚類分析概述k-means聚類算法k-medoids聚類算法聚類分析評(píng)估與優(yōu)化k-means與k-medoids的對(duì)比與選擇聚類分析在數(shù)據(jù)挖掘中的應(yīng)用01聚類分析概述0102定義與目的目的在于使同一類內(nèi)的對(duì)象相互之間更相似，不同類之間的對(duì)象盡可能不同。聚類分析是一種無(wú)監(jiān)督學(xué)習(xí)方法，通過(guò)對(duì)數(shù)據(jù)對(duì)象的分組，將相似的對(duì)象歸為同一類，不同類的對(duì)象盡量區(qū)別開。包括k-means、層次聚類、DBSCAN等，這類方法主要基于數(shù)據(jù)點(diǎn)之間的距離進(jìn)行聚類?；诰嚯x的聚類如OPTICS、DENCLUE等，這類方法主要基于數(shù)據(jù)點(diǎn)之間的密度進(jìn)行聚類?；诿芏鹊木垲惾鏏GNES、DIANA等，這類方法主要基于數(shù)據(jù)點(diǎn)之間的層次關(guān)系進(jìn)行聚類?；趯哟蔚木垲惾鏗DBSCAN，這類方法主要基于數(shù)據(jù)點(diǎn)之間的密度和距離進(jìn)行聚類?；诿芏鹊木垲惥垲惙治龅姆诸惿缃痪W(wǎng)絡(luò)分析通過(guò)聚類分析，可以發(fā)現(xiàn)社交網(wǎng)絡(luò)中的社區(qū)結(jié)構(gòu)、用戶群體等有用信息。生物信息學(xué)聚類分析可用于基因分類、疾病診斷等任務(wù)。文本挖掘通過(guò)聚類分析，可以將文本數(shù)據(jù)按照主題進(jìn)行分類，用于信息檢索、文本挖掘等任務(wù)。數(shù)據(jù)挖掘通過(guò)聚類分析，可以發(fā)現(xiàn)數(shù)據(jù)中的異常值、離群點(diǎn)、趨勢(shì)等有用信息。圖像處理聚類分析可用于圖像分割、圖像壓縮等任務(wù)。聚類分析的應(yīng)用場(chǎng)景02k-means聚類算法k-means算法將數(shù)據(jù)點(diǎn)劃分為k個(gè)簇，以最小化每個(gè)簇內(nèi)數(shù)據(jù)點(diǎn)與簇中心（質(zhì)心）之間的距離之和?；诰嚯x的聚類算法首先隨機(jī)選擇k個(gè)數(shù)據(jù)點(diǎn)作為初始質(zhì)心，然后不斷迭代優(yōu)化簇劃分和質(zhì)心位置，直到滿足收斂條件。隨機(jī)初始化質(zhì)心k-means算法的基本思想1.隨機(jī)初始化質(zhì)心2.將每個(gè)數(shù)據(jù)點(diǎn)分配到最近的質(zhì)心，形成k個(gè)簇3.重新計(jì)算每個(gè)簇的質(zhì)心4.重復(fù)步驟2和3，直到滿足收斂條件（例如，質(zhì)心的移動(dòng)距離小于預(yù)設(shè)閾值）01020304k-means算法的步驟流程優(yōu)點(diǎn)簡(jiǎn)單直觀，易于理解和實(shí)現(xiàn)對(duì)于大規(guī)模數(shù)據(jù)集具有良好的擴(kuò)展性k-means算法的優(yōu)缺點(diǎn)可以處理不同尺度的特征，因?yàn)榫嚯x度量對(duì)特征的尺度變化是穩(wěn)健的k-means算法的優(yōu)缺點(diǎn)缺點(diǎn)對(duì)初始質(zhì)心的選擇敏感，不同的初始質(zhì)心可能會(huì)導(dǎo)致不同的聚類結(jié)果可能陷入局部最優(yōu)解，無(wú)法得到全局最優(yōu)解k-means算法的優(yōu)缺點(diǎn)k-means算法的優(yōu)缺點(diǎn)不適用于非凸形狀的簇，因?yàn)榛诰嚯x的方法假設(shè)簇是凸形的對(duì)噪聲和異常值敏感，因?yàn)榛诰嚯x的方法容易受到這些因素的影響03k-medoids聚類算法01k-medoids算法是一種基于對(duì)象間的距離進(jìn)行聚類的方法，與k-means算法類似，但使用的是真實(shí)的對(duì)象數(shù)據(jù)點(diǎn)，而不是數(shù)據(jù)點(diǎn)的均值。02k-medoids算法選擇k個(gè)中心點(diǎn)，其中每個(gè)中心點(diǎn)都是從數(shù)據(jù)集中選擇的一個(gè)真實(shí)對(duì)象。然后，根據(jù)這些中心點(diǎn)將數(shù)據(jù)集劃分為k個(gè)簇。03在k-medoids算法中，每個(gè)對(duì)象只能屬于一個(gè)簇，并且每個(gè)簇只有一個(gè)中心點(diǎn)。與k-means算法不同的是，k-medoids算法的中心點(diǎn)是真實(shí)的數(shù)據(jù)對(duì)象，而不是它們的均值。k-medoids算法的基本思想從數(shù)據(jù)集中隨機(jī)選擇k個(gè)對(duì)象作為初始中心點(diǎn)。1.初始化2.劃分簇3.更新中心點(diǎn)4.重復(fù)步驟2和3將數(shù)據(jù)集中的每個(gè)對(duì)象分配給最近的中心點(diǎn)，從而形成k個(gè)簇。對(duì)于每個(gè)簇，選擇該簇中與其他對(duì)象距離之和最小的對(duì)象作為新的中心點(diǎn)。直到中心點(diǎn)的位置不再變化或達(dá)到預(yù)設(shè)的最大迭代次數(shù)為止。k-medoids算法的步驟流程032.對(duì)于非球狀的數(shù)據(jù)分布和異常值具有較強(qiáng)的魯棒性。01優(yōu)點(diǎn)021.使用真實(shí)數(shù)據(jù)點(diǎn)作為中心點(diǎn)，能夠更好地反映數(shù)據(jù)集的特性。k-medoids算法的優(yōu)缺點(diǎn)能夠處理不同尺度的數(shù)據(jù)，因?yàn)榫嚯x度量是相對(duì)的。k-medoids算法的優(yōu)缺點(diǎn)011.相對(duì)于k-means算法，計(jì)算復(fù)雜度較高，因?yàn)樾枰?jì)算每個(gè)對(duì)象與每個(gè)中心點(diǎn)之間的距離。2.初始中心點(diǎn)的選擇對(duì)聚類結(jié)果有影響，不同的初始選擇可能會(huì)導(dǎo)致不同的聚類結(jié)果。3.對(duì)噪聲和異常值較為敏感，可能會(huì)受到其影響導(dǎo)致聚類結(jié)果的不穩(wěn)定。缺點(diǎn)020304k-medoids算法的優(yōu)缺點(diǎn)04聚類分析評(píng)估與優(yōu)化基于聚類結(jié)果與外部標(biāo)準(zhǔn)（如真實(shí)標(biāo)簽）的比較，評(píng)估聚類性能。外部評(píng)估通過(guò)聚類內(nèi)部的某種度量（如輪廓系數(shù)）來(lái)評(píng)估聚類性能。內(nèi)部評(píng)估結(jié)合外部和內(nèi)部評(píng)估方法，以綜合評(píng)價(jià)聚類性能?；旌显u(píng)估聚類分析評(píng)估方法選擇合適的初始化方法（如K-means），以得到更好的初始聚類中心。初始化策略通過(guò)增加迭代次數(shù)，以獲得更穩(wěn)定、更優(yōu)的聚類結(jié)果。迭代次數(shù)根據(jù)聚類過(guò)程的反饋，動(dòng)態(tài)調(diào)整參數(shù)（如距離閾值、簇?cái)?shù)等），以優(yōu)化聚類效果。動(dòng)態(tài)調(diào)整參數(shù)結(jié)合多種聚類算法或與其他機(jī)器學(xué)習(xí)算法集成，以獲得更優(yōu)的聚類結(jié)果。集成方法聚類分析優(yōu)化策略05k-means與k-medoids的對(duì)比與選擇算法原理K-means是一種劃分方法，通過(guò)迭代尋找K個(gè)簇的中心點(diǎn)，以最小化每個(gè)樣本到其所屬簇中心的距離之和。K-medoids是一種基于對(duì)象的方法，選擇每個(gè)簇的真實(shí)數(shù)據(jù)對(duì)象作為代表對(duì)象，然后根據(jù)對(duì)象之間的距離進(jìn)行聚類。計(jì)算復(fù)雜度K-means的計(jì)算復(fù)雜度相對(duì)較低，因?yàn)樗恍枰跀?shù)據(jù)空間中搜索，而K-medoids需要搜索所有可能的簇，因此計(jì)算復(fù)雜度較高。對(duì)異常值和空值的敏感性K-medoids對(duì)異常值和空值的敏感性較低，因?yàn)樗哉鎸?shí)數(shù)據(jù)對(duì)象為基礎(chǔ)進(jìn)行聚類。而K-means對(duì)異常值和空值的敏感性較高，因?yàn)楫惓Ｖ岛涂罩悼赡軙?huì)對(duì)中心點(diǎn)產(chǎn)生較大影響。k-means與k-medoids的對(duì)比數(shù)據(jù)類型01對(duì)于數(shù)值型數(shù)據(jù)，K-means和K-medoids都可以適用。對(duì)于分類數(shù)據(jù)，K-medoids可能更適合，因?yàn)樗梢愿玫靥幚眍悇e間的差異。數(shù)據(jù)的分布02K-means假設(shè)數(shù)據(jù)符合凸分布，而K-medoids則沒(méi)有此假設(shè)。因此，對(duì)于不符合凸分布的數(shù)據(jù)，K-medoids可能更合適。聚類的目的03如果需要聚類的結(jié)果具有實(shí)際意義，即每個(gè)簇中的數(shù)據(jù)對(duì)象都有相似的屬性值，那么K-medoids可能更合適。如果只是需要將數(shù)據(jù)分成幾個(gè)不同的組，那么K-means可能更簡(jiǎn)單、更有效。k-means與k-medoids的選擇06聚類分析在數(shù)據(jù)挖掘中的應(yīng)用通過(guò)聚類分析，將消費(fèi)者群體細(xì)分成不同的組，根據(jù)其特征和行為模式，企業(yè)可以更準(zhǔn)確地確定目標(biāo)市場(chǎng)。確定目標(biāo)市場(chǎng)通過(guò)對(duì)市場(chǎng)細(xì)分的數(shù)據(jù)進(jìn)行分析，企業(yè)可以識(shí)別出消費(fèi)者需求的變化和市場(chǎng)趨勢(shì)，從而及時(shí)調(diào)整產(chǎn)品和服務(wù)。識(shí)別市場(chǎng)趨勢(shì)根據(jù)不同的消費(fèi)者群體和市場(chǎng)細(xì)分，企業(yè)可以制定更加精準(zhǔn)和有效的營(yíng)銷策略，提高市場(chǎng)占有率和盈利能力。制定營(yíng)銷策略在市場(chǎng)細(xì)分中的應(yīng)用檢測(cè)異常數(shù)據(jù)聚類分析可以幫助企業(yè)快速檢測(cè)出數(shù)據(jù)中的異常值和離群點(diǎn)，從而避免因?yàn)楫惓?shù)據(jù)對(duì)分析結(jié)果的影響。識(shí)別欺詐行為通過(guò)對(duì)交易數(shù)據(jù)的聚類分析，企業(yè)可以識(shí)別出異常交易行為，如大單交易、高頻交易等，從而有效防止欺詐行為的發(fā)生。預(yù)警系統(tǒng)基于聚類分析的異常檢測(cè)方法，企業(yè)可以構(gòu)建預(yù)警系統(tǒng)，對(duì)可能出現(xiàn)的風(fēng)險(xiǎn)和問(wèn)題進(jìn)行提前預(yù)警，避免潛在的損失。在異常檢測(cè)中的應(yīng)用123通過(guò)聚類分析，將