《Python商業(yè)數(shù)據(jù)分析》方法：聚類分析

Python商業(yè)數(shù)據(jù)分析聚類分析學(xué)習(xí)目標(biāo)理解什么是聚類分析掌握不同數(shù)據(jù)類型的相似度測量方法掌握常見的聚類方法掌握類別數(shù)量的確定方法聚類過程輸入數(shù)據(jù)數(shù)據(jù)預(yù)處理聚類聚類結(jié)果檢驗(yàn)輸出聚類結(jié)果數(shù)據(jù)相似度計(jì)算聚類方法相似度計(jì)算方法，聚類方法，聚類結(jié)果檢驗(yàn)測度:聚類領(lǐng)域的三個(gè)主要研究方面測度相似度計(jì)算方法聚類方法設(shè)計(jì)11.1相似度測量方法

11.1相似度測量方法

11.1相似度測量方法給定以下兩個(gè)數(shù)據(jù)點(diǎn)，它們的每個(gè)屬性都是對稱的布爾屬性兩個(gè)數(shù)據(jù)點(diǎn)之間的距離為如果是非對稱的布爾屬性？x11110100x2011001011.1相似度測量方法

11.1相似度測量方法

11.1相似度測量方法

11.1相似度測量方法

11.2聚類算法Partitioningapproach（劃分式方法）構(gòu)建不同劃分，選擇劃分結(jié)果最好的k-means,k-medoids,CLARA,CLARANSHierarchicalapproach（層次式方法）構(gòu)建一個(gè)層次的樹狀結(jié)構(gòu)Diana,Agnes,BIRCH,CURE,

CAMELEONDensity-basedapproach（基于密度的方法）基于連接和密度函數(shù)DBSACN,OPTICS,DenClue11.2.1K-means聚類K-means聚類過程第一步：選擇k個(gè)點(diǎn)作為初始中心第二步：將數(shù)據(jù)劃分到最近的中心第三步：重新計(jì)算每個(gè)簇的中心第四步：重新計(jì)算數(shù)據(jù)到k個(gè)中心的聚類，將數(shù)據(jù)劃分到距離最近的中心第五步：重新回到步驟三，直至劃分結(jié)果不再變化11.2.1K-means聚類012345678910012345678910012345678910012345678910K=2隨機(jī)選擇k個(gè)點(diǎn)作為中心劃分?jǐn)?shù)據(jù)更新簇中心更新簇中心重新劃分重新劃分11.2.1K-means聚類優(yōu)點(diǎn)時(shí)間復(fù)雜度低，適用于大規(guī)模數(shù)據(jù)O(tkn),n:objects,k:clusters,t:iterationtimes適用于凸形分布的數(shù)據(jù)11.2.1K-means聚類局限對噪音數(shù)據(jù)敏感平均相似度去除那些比較遠(yuǎn)的數(shù)據(jù)點(diǎn)隨機(jī)采樣，先用采樣點(diǎn)聚類，分配其他數(shù)據(jù)剩下數(shù)據(jù)點(diǎn)分到最近的中心剩下的數(shù)據(jù)點(diǎn)進(jìn)行分類11.2.1K-means聚類局限傾向于將數(shù)據(jù)劃分為均勻分布局部最優(yōu)需要提前指定k11.2.1K-means聚類Kmeans代碼示例sklearn庫中的cluster模塊可以實(shí)現(xiàn)最常用的K-Means算法11.2.1K-means聚類Kmeans代碼示例類別0的顧客在牛奶、雜貨、洗滌劑和紙制品上的支出較多，批發(fā)商可以針對這類顧客設(shè)計(jì)不同的產(chǎn)品組合進(jìn)行捆綁銷售，提高這類顧客在其他品類商品上的消費(fèi)類別1的顧客在所有品類上的支出均高于其他兩類，屬于忠誠顧客，應(yīng)該重點(diǎn)維護(hù)客戶關(guān)系以防流失類別2的顧客在各個(gè)品類上的支出均較低，批發(fā)商可以針對這類低頻顧客推出促銷活動，以擴(kuò)大銷量11.2.2層次聚類自下而上的方法初始時(shí)假設(shè)每個(gè)數(shù)據(jù)單獨(dú)構(gòu)成一個(gè)簇，方法的每一步合并兩個(gè)簇自上而下的方法初始時(shí)所有數(shù)據(jù)構(gòu)成一個(gè)簇，方法的每一步分裂一個(gè)簇Step0Step1Step2Step3Step4bdceaabdecdeabcdeStep4Step3Step2Step1Step0agglomerativedivisive11.2.2層次聚類優(yōu)點(diǎn)不需要指定k不會將數(shù)據(jù)聚成均勻分布可通過一次聚類構(gòu)成樹狀分布，同時(shí)提供多粒度的聚類結(jié)果局限不能發(fā)現(xiàn)和修正聚類過程中的錯(cuò)誤時(shí)間復(fù)雜度高至少O(n2)，不適用于處理大規(guī)模數(shù)據(jù)11.2.2層次聚類層次聚類代碼示例sklearn庫中的cluster.AgglomerativeClustering()能實(shí)現(xiàn)AGNES算法11.2.2層次聚類代碼示例11.2.3基于密度的方法DBSCANEps:最大半徑MinPts:在最大半徑范圍內(nèi)所出現(xiàn)的最小領(lǐng)點(diǎn)個(gè)數(shù)NEps(p):{qbelongstoD|dist(p,q)≤Eps}CorePointq：|NEps(q)|≥MinPtsBorderPointp：|NEps(q)|≥MinPtsPbelongstoNEps(q),q是corepointOutlier11.2.3基于密度的方法DBSCAN聚類過程隨機(jī)選擇一個(gè)點(diǎn)p在給定Eps和MinPts的情況下，獲取所有從pdensity-reachable的點(diǎn)如果p是corepoint，一個(gè)簇構(gòu)建成功如果p是borderpoint，沒有點(diǎn)是從pdensity-reachable，DBSCAN方法掃描下一個(gè)數(shù)據(jù)點(diǎn)重復(fù)迭代上述過程，直至所有點(diǎn)都被方法掃描并處理11.2.3基于密度的方法優(yōu)點(diǎn)不需要提前指定類別個(gè)數(shù)可發(fā)現(xiàn)任意形狀的簇可處理噪音數(shù)據(jù)局限兩個(gè)參數(shù)需要指定：Eps,MinPts不適用于高維數(shù)據(jù)聚類：高維空間中數(shù)據(jù)較低維空間中數(shù)據(jù)分布要稀疏，其中數(shù)據(jù)間距離幾乎相等是普遍現(xiàn)象對于低維數(shù)據(jù)效果較好11.2.3基于密度的方法密度聚類代碼示例sklearn庫中的cluster模塊能夠?qū)崿F(xiàn)基于密度的聚類11.2.3基于密度的方法代碼示例MeanShift方法將數(shù)據(jù)集劃分為15類，除了類別0，其余類別的樣本量均較DBSCAN和OPTICS將大量樣本視為噪音（類別為-1）在該數(shù)據(jù)集上不適合使用基于密度的聚類方法。11.3類別數(shù)量的確定方法

11.3類別數(shù)量的確定方法

11.3類別數(shù)量的確定方法批發(fā)顧客數(shù)據(jù)集K-Means聚類手肘圖在??=5處有個(gè)較為明顯的拐點(diǎn)，因此在該數(shù)據(jù)集上K-Means算法的合適類別數(shù)量為5

11.3類別數(shù)量的確定方法

11.3類別數(shù)量的確定方法輪廓系數(shù)sklearn庫中的metrics模塊可以計(jì)算輪廓系數(shù)代碼示例11.3類別數(shù)量的確定方法

11.3類別數(shù)量的確定方法

11.3類別數(shù)量的確定方法Calinski-Harabasz準(zhǔn)則sklearn庫中的metrics模塊可以計(jì)算Calinski-Harabasz準(zhǔn)則得分代碼示例類別數(shù)量的確定方法在批