人工智能和機器學(xué)習(xí)之聚類算法：Agglomerative Clustering：Agglomerative聚類在文本挖掘中的應(yīng)用

人工智能和機器學(xué)習(xí)之聚類算法：AgglomerativeClustering：Agglomerative聚類在文本挖掘中的應(yīng)用1Agglomerative聚類算法概述Agglomerative聚類是一種自下而上的層次聚類算法，它從每個樣本作為一個獨立的聚類開始，然后逐步合并最相似的聚類，直到達(dá)到預(yù)定的聚類數(shù)目或滿足某個停止條件。這種算法特別適用于文本挖掘，因為它能夠處理不同大小和形狀的聚類，且不需要預(yù)先指定聚類的數(shù)目。1.1距離度量在Agglomerative聚類中，計算聚類間的相似度是關(guān)鍵步驟。常見的距離度量包括：歐氏距離：適用于數(shù)值型數(shù)據(jù)。余弦相似度：適用于高維空間，如文本向量。Jaccard相似度：適用于二元特征數(shù)據(jù)。1.2聚類合并策略Agglomerative聚類在合并聚類時有幾種策略：單鏈接：選擇兩個聚類中最近的點作為聚類間的距離。完全鏈接：選擇兩個聚類中最遠(yuǎn)的點作為聚類間的距離。平均鏈接：計算兩個聚類中所有點的平均距離作為聚類間的距離。1.3算法流程初始化：每個樣本作為一個獨立的聚類。計算距離：計算所有聚類對之間的距離。合并聚類：選擇距離最近的兩個聚類進(jìn)行合并。更新距離：重新計算合并后的聚類與其他聚類之間的距離。重復(fù)步驟3和4，直到達(dá)到預(yù)定的聚類數(shù)目或滿足停止條件。1.4代碼示例下面是一個使用Python和scikit-learn庫進(jìn)行Agglomerative聚類的示例：importnumpyasnp

fromsklearn.clusterimportAgglomerativeClustering

fromsklearn.feature_extraction.textimportTfidfVectorizer

#示例文本數(shù)據(jù)

documents=[

"我喜歡吃蘋果",

"蘋果是我最喜歡的水果",

"我更喜歡香蕉而不是蘋果",

"香蕉和蘋果都是水果",

"我只吃蘋果"

]

#將文本轉(zhuǎn)換為TF-IDF向量

vectorizer=TfidfVectorizer()

X=vectorizer.fit_transform(documents)

#初始化Agglomerative聚類模型

model=AgglomerativeClustering(n_clusters=2,affinity='cosine',linkage='average')

#進(jìn)行聚類

model.fit(X.toarray())

#輸出聚類結(jié)果

labels=model.labels_

fori,labelinenumerate(labels):

print(f"文檔{i+1}：{documents[i]}，聚類：{label+1}")1.4.1代碼解釋數(shù)據(jù)準(zhǔn)備：我們使用了一個包含中文文本的列表documents。特征提取：通過TfidfVectorizer將文本轉(zhuǎn)換為TF-IDF向量，這是一種常見的文本特征表示方法。模型初始化：創(chuàng)建AgglomerativeClustering模型，設(shè)置聚類數(shù)目為2，距離度量為余弦相似度，合并策略為平均鏈接。聚類執(zhí)行：調(diào)用fit方法對數(shù)據(jù)進(jìn)行聚類。結(jié)果輸出：打印每個文檔的聚類標(biāo)簽。2文本挖掘與聚類的關(guān)系文本挖掘（TextMining）是從大量文本數(shù)據(jù)中提取有價值信息的過程。Agglomerative聚類在文本挖掘中的應(yīng)用主要體現(xiàn)在以下幾個方面：文檔分類：通過聚類可以自動將文檔分為不同的主題類別。主題發(fā)現(xiàn)：聚類可以幫助發(fā)現(xiàn)文檔集中的潛在主題。相似文檔檢索：聚類結(jié)果可以用于快速檢索與給定文檔主題相似的其他文檔。文本摘要：通過聚類，可以識別出代表每個聚類主題的文檔，用于生成文本摘要。在文本挖掘中，Agglomerative聚類通常與詞頻統(tǒng)計、TF-IDF向量化、詞嵌入等技術(shù)結(jié)合使用，以提高聚類的準(zhǔn)確性和效果。2.1實際應(yīng)用案例假設(shè)我們有一組關(guān)于健康和科技的新聞文章，我們想要自動將這些文章分為兩個類別。使用Agglomerative聚類，我們可以首先將文本轉(zhuǎn)換為向量表示，然后應(yīng)用聚類算法，最后根據(jù)聚類結(jié)果對文章進(jìn)行分類。#示例新聞文章數(shù)據(jù)

news_articles=[

"最新的科技產(chǎn)品發(fā)布",

"健康飲食的重要性",

"科技如何改變我們的生活",

"運動對健康的好處",

"科技公司的最新動態(tài)",

"健康生活方式的建議"

]

#特征提取

X=vectorizer.fit_transform(news_articles)

#聚類

model=AgglomerativeClustering(n_clusters=2,affinity='cosine',linkage='average')

model.fit(X.toarray())

#輸出聚類結(jié)果

labels=model.labels_

fori,labelinenumerate(labels):

print(f"文章{i+1}：{news_articles[i]}，聚類：{label+1}")通過上述代碼，我們可以看到，Agglomerative聚類能夠有效地將文本數(shù)據(jù)分為兩個主題類別，即健康和科技。2.2總結(jié)Agglomerative聚類在文本挖掘中是一個強大的工具，它能夠幫助我們理解大量文本數(shù)據(jù)的結(jié)構(gòu)和主題分布。通過合理選擇距離度量和合并策略，可以提高聚類的準(zhǔn)確性和效果，從而在文檔分類、主題發(fā)現(xiàn)、相似文檔檢索和文本摘要等任務(wù)中發(fā)揮重要作用。3準(zhǔn)備工作3.1數(shù)據(jù)預(yù)處理：文本向量化數(shù)據(jù)預(yù)處理是任何機器學(xué)習(xí)項目的關(guān)鍵步驟，尤其在文本挖掘中，將文本數(shù)據(jù)轉(zhuǎn)換為數(shù)值向量是必不可少的。文本向量化的方法多種多樣，包括詞袋模型(BagofWords)，TF-IDF，詞嵌入(WordEmbeddings)等。這里，我們將使用TF-IDF方法，因為它能夠反映詞在文檔中的重要性。3.1.1示例代碼：使用TF-IDF進(jìn)行文本向量化fromsklearn.feature_extraction.textimportTfidfVectorizer

#示例文本數(shù)據(jù)

documents=[

"我喜歡吃蘋果和香蕉",

"他喜歡吃香蕉和橙子",

"她喜歡喝咖啡",

"他們都不喜歡吃蘋果"

]

#創(chuàng)建TF-IDF向量化器

vectorizer=TfidfVectorizer()

#將文本數(shù)據(jù)轉(zhuǎn)換為TF-IDF向量

tfidf_matrix=vectorizer.fit_transform(documents)

#輸出TF-IDF矩陣

print(tfidf_matrix.toarray())3.1.2解釋在上述代碼中，我們首先導(dǎo)入了TfidfVectorizer類，然后定義了一個包含四條中文文本的列表。TfidfVectorizer將文本轉(zhuǎn)換為TF-IDF矩陣，其中每一行代表一個文檔，每一列代表一個詞的TF-IDF值。TF-IDF值越高，表示該詞在文檔中的重要性越高。3.2選擇距離度量和鏈接類型在Agglomerative聚類中，選擇合適的距離度量和鏈接類型對于聚類結(jié)果至關(guān)重要。距離度量決定了如何計算不同文本向量之間的相似度，而鏈接類型則決定了如何合并最近的聚類。3.2.1距離度量常見的距離度量包括歐氏距離(EuclideanDistance)，曼哈頓距離(ManhattanDistance)，余弦相似度(CosineSimilarity)等。在文本數(shù)據(jù)中，余弦相似度通常是一個好的選擇，因為它能夠處理向量的長度差異，只關(guān)注向量的方向。3.2.2鏈接類型鏈接類型決定了如何計算兩個聚類之間的距離。常見的鏈接類型有：-單鏈接(SingleLinkage)：兩個聚類之間的距離定義為它們之間最近的兩個點的距離。-完全鏈接(CompleteLinkage)：兩個聚類之間的距離定義為它們之間最遠(yuǎn)的兩個點的距離。-平均鏈接(AverageLinkage)：兩個聚類之間的距離定義為它們之間所有點對的平均距離。-欄桿鏈接(WardLinkage)：最小化聚類內(nèi)部的方差。3.2.3示例代碼：使用AgglomerativeClustering進(jìn)行文本聚類fromsklearn.clusterimportAgglomerativeClustering

fromsklearn.metrics.pairwiseimportcosine_distances

#使用余弦距離作為距離度量

distances=cosine_distances(tfidf_matrix)

#創(chuàng)建AgglomerativeClustering模型，使用Ward鏈接類型

model=AgglomerativeClustering(n_clusters=2,affinity='precomputed',linkage='ward')

#對TF-IDF矩陣進(jìn)行聚類

clusters=model.fit_predict(distances)

#輸出聚類結(jié)果

print(clusters)3.2.4解釋在代碼示例中，我們首先計算了TF-IDF矩陣之間的余弦距離，然后創(chuàng)建了一個AgglomerativeClustering模型，設(shè)置了聚類數(shù)量為2，距離度量為預(yù)計算的余弦距離，鏈接類型為Ward。fit_predict方法將距離矩陣作為輸入，輸出每個文檔所屬的聚類標(biāo)簽。通過上述步驟，我們完成了文本數(shù)據(jù)的預(yù)處理和Agglomerative聚類，得到了初步的聚類結(jié)果。接下來，可以根據(jù)聚類結(jié)果進(jìn)一步分析文本數(shù)據(jù)的結(jié)構(gòu)和模式。4Agglomerative聚類過程4.1構(gòu)建距離矩陣在Agglomerative聚類中，構(gòu)建距離矩陣是算法的第一步。距離矩陣記錄了數(shù)據(jù)集中每對樣本之間的距離，這些距離可以是歐氏距離、曼哈頓距離或余弦相似度等。對于文本挖掘，我們通常使用余弦相似度，因為它能更好地反映文檔之間的相似性。4.1.1示例代碼fromsklearn.feature_extraction.textimportTfidfVectorizer

fromsklearn.metrics.pairwiseimportcosine_similarity

#文本數(shù)據(jù)樣例

documents=[

"我喜歡吃蘋果",

"蘋果是我最喜歡的水果",

"我更喜歡香蕉而不是蘋果",

"香蕉和蘋果都是水果",

"水果包括蘋果和香蕉"

]

#使用TF-IDF向量化文本

vectorizer=TfidfVectorizer()

tfidf_matrix=vectorizer.fit_transform(documents)

#計算余弦相似度

cosine_sim=cosine_similarity(tfidf_matrix,tfidf_matrix)

#打印距離矩陣

print(cosine_sim)4.1.2解釋上述代碼首先使用TfidfVectorizer將文本數(shù)據(jù)轉(zhuǎn)換為TF-IDF向量，然后通過cosine_similarity函數(shù)計算每對文檔之間的余弦相似度。得到的距離矩陣將用于后續(xù)的聚類過程。4.2遞歸合并簇Agglomerative聚類是一種層次聚類算法，它從每個樣本作為一個獨立簇開始，然后遞歸地合并最相似的簇，直到達(dá)到預(yù)定的簇數(shù)量或滿足停止條件。4.2.1示例代碼fromsklearn.clusterimportAgglomerativeClustering

#基于距離矩陣進(jìn)行Agglomerative聚類

#n_clusters為最終簇的數(shù)量

model=AgglomerativeClustering(n_clusters=2,affinity='precomputed',linkage='average')

clusters=model.fit_predict(cosine_sim)

#打印每個文檔所屬的簇

print(clusters)4.2.2解釋在代碼中，我們使用AgglomerativeClustering類創(chuàng)建模型，設(shè)置n_clusters為2，表示我們希望最終得到兩個簇。affinity參數(shù)設(shè)置為precomputed，因為我們已經(jīng)計算了距離矩陣。linkage參數(shù)設(shè)置為average，表示使用簇間平均距離作為合并依據(jù)。4.3確定最佳簇數(shù)量確定最佳簇數(shù)量是Agglomerative聚類中的一個重要步驟。常用的方法包括肘部法則和輪廓系數(shù)。4.3.1肘部法則示例代碼importmatplotlib.pyplotasplt

#不同簇數(shù)量下的聚類

inertias=[]

forkinrange(2,11):

model=AgglomerativeClustering(n_clusters=k,affinity='precomputed',linkage='average')

model.fit(cosine_sim)

#使用inertia_屬性是不適用的，因為AgglomerativeClustering沒有此屬性

#但我們可以通過計算簇內(nèi)平均距離來近似

cluster_distances=[]

foriinrange(k):

cluster_distances.append(cosine_sim[clusters==i].mean())

inertias.append(sum(cluster_distances))

#繪制肘部圖

plt.plot(range(2,11),inertias,marker='o')

plt.xlabel('簇數(shù)量')

plt.ylabel('簇內(nèi)平均距離')

plt.title('肘部法則')

plt.show()4.3.2輪廓系數(shù)示例代碼fromsklearn.metricsimportsilhouette_score

#不同簇數(shù)量下的輪廓系數(shù)

silhouette_scores=[]

forkinrange(2,11):

model=AgglomerativeClustering(n_clusters=k,affinity='precomputed',linkage='average')

clusters=model.fit_predict(cosine_sim)

silhouette_scores.append(silhouette_score(cosine_sim,clusters,metric='precomputed'))

#打印輪廓系數(shù)

print(silhouette_scores)4.3.3解釋肘部法則通過觀察簇內(nèi)平均距離隨簇數(shù)量增加的變化趨勢來確定最佳簇數(shù)量。輪廓系數(shù)則衡量簇的緊密度和分離度，一個較高的輪廓系數(shù)表示簇內(nèi)的樣本彼此更接近，而簇間距離更大，通常輪廓系數(shù)在-1到1之間，值越接近1表示聚類效果越好。通過上述代碼，我們可以分別使用肘部法則和輪廓系數(shù)來評估不同簇數(shù)量下的聚類效果，從而選擇最佳的簇數(shù)量。在實際應(yīng)用中，可能需要結(jié)合業(yè)務(wù)理解和數(shù)據(jù)特性來綜合判斷。5實戰(zhàn)案例5.1使用Agglomerative聚類分析新聞文章在文本挖掘中，Agglomerative聚類是一種層次聚類算法，它通過自下而上的方式將文本數(shù)據(jù)分組，最終形成一個樹狀的聚類結(jié)構(gòu)。這種算法特別適用于新聞文章的分類，因為它能夠揭示數(shù)據(jù)的內(nèi)在層次結(jié)構(gòu)，幫助我們理解不同文章之間的相似性和差異性。5.1.1數(shù)據(jù)準(zhǔn)備假設(shè)我們有以下新聞文章的標(biāo)題數(shù)據(jù)：titles=[

"科技巨頭發(fā)布最新智能手機",

"全球股市今日大幅上漲",

"科學(xué)家發(fā)現(xiàn)新星系",

"科技巨頭季度利潤超預(yù)期",

"全球股市受科技股影響下跌",

"新星系可能孕育生命",

"科技巨頭投資人工智能",

"全球股市分析：科技股領(lǐng)漲",

"科學(xué)家研究新星系的構(gòu)成",

"科技巨頭與政府合作開發(fā)新技術(shù)"

]5.1.2文本預(yù)處理在進(jìn)行聚類之前，我們需要對文本數(shù)據(jù)進(jìn)行預(yù)處理，包括分詞、去除停用詞、詞干提取等步驟。這里我們使用jieba庫進(jìn)行中文分詞，并使用sklearn的TfidfVectorizer來轉(zhuǎn)換文本數(shù)據(jù)。importjieba

fromsklearn.feature_extraction.textimportTfidfVectorizer

#定義一個分詞函數(shù)

deftokenize(text):

returnlist(jieba.cut(text))

#創(chuàng)建TfidfVectorizer實例

vectorizer=TfidfVectorizer(tokenizer=tokenize,stop_words='english')

#將文本數(shù)據(jù)轉(zhuǎn)換為TF-IDF矩陣

X=vectorizer.fit_transform(titles)5.1.3應(yīng)用Agglomerative聚類接下來，我們使用sklearn的AgglomerativeClustering類來對文本數(shù)據(jù)進(jìn)行聚類。fromsklearn.clusterimportAgglomerativeClustering

#創(chuàng)建AgglomerativeClustering實例

model=AgglomerativeClustering(n_clusters=3)

#對TF-IDF矩陣進(jìn)行聚類

model.fit(X)

#獲取每個文章的聚類標(biāo)簽

labels=model.labels_5.1.4結(jié)果分析聚類完成后，我們可以根據(jù)聚類標(biāo)簽來分析文章的分類情況。這里我們簡單地將文章標(biāo)題和它們的聚類標(biāo)簽打印出來。fortitle,labelinzip(titles,labels):

print(f"{title}->Cluster{label}")5.1.5代碼解釋數(shù)據(jù)準(zhǔn)備：我們定義了一個包含新聞標(biāo)題的列表titles。文本預(yù)處理：使用jieba庫進(jìn)行中文分詞，TfidfVectorizer將分詞后的文本轉(zhuǎn)換為TF-IDF矩陣。應(yīng)用Agglomerative聚類：通過AgglomerativeClustering類對TF-IDF矩陣進(jìn)行聚類，這里我們設(shè)定了3個聚類。結(jié)果分析：打印出每個標(biāo)題及其對應(yīng)的聚類標(biāo)簽，幫助我們理解聚類效果。5.2評估聚類效果和優(yōu)化參數(shù)評估聚類效果是確保模型準(zhǔn)確性和適用性的關(guān)鍵步驟。我們可以通過計算輪廓系數(shù)（SilhouetteCoefficient）來評估聚類的質(zhì)量，輪廓系數(shù)的值范圍在-1到1之間，值越接近1表示聚類效果越好。5.2.1計算輪廓系數(shù)fromsklearn.metricsimportsilhouette_score

#計算輪廓系數(shù)

silhouette_avg=silhouette_score(X,labels)

print(f"輪廓系數(shù)：{silhouette_avg}")5.2.2優(yōu)化聚類參數(shù)通過調(diào)整AgglomerativeClustering的參數(shù)，如n_clusters（聚類數(shù)量），我們可以優(yōu)化聚類效果。這里我們通過循環(huán)嘗試不同的聚類數(shù)量，并計算對應(yīng)的輪廓系數(shù)，選擇輪廓系數(shù)最高的聚類數(shù)量。#嘗試不同的聚類數(shù)量

best_n_clusters=2

best_silhouette=-1

forn_clustersinrange(2,11):

model=AgglomerativeClustering(n_clusters=n_clusters)

model.fit(X)

silhouette_avg=silhouette_score(X,model.labels_)

ifsilhouette_avg>best_silhouette:

best_silhouette=silhouette_avg

best_n_clusters=n_clusters

print(f"最佳聚類數(shù)量：{best_n_clusters},輪廓系數(shù)：{best_silhouette}")5.2.3代碼解釋計算輪廓系數(shù)：使用silhouette_score函數(shù)計算聚類后的輪廓系數(shù)。優(yōu)化聚類參數(shù)：通過循環(huán)調(diào)整n_clusters參數(shù)，找到輪廓系數(shù)最高的聚類數(shù)量，從而優(yōu)化聚類效果。通過上述步驟，我們不僅能夠應(yīng)用Agglomerative聚類算法對新聞文章進(jìn)行分類，還能夠評估和優(yōu)化聚類效果，確保算法的準(zhǔn)確性和實用性。6結(jié)果可視化與解釋6.1繪制聚類樹狀圖在文本挖掘中應(yīng)用Agglomerative聚類后，繪制聚類樹狀圖（Dendrogram）是一種直觀展示聚類過程和結(jié)果的方法。樹狀圖以樹形結(jié)構(gòu)表示數(shù)據(jù)點之間的聚類關(guān)系，從底部的每個數(shù)據(jù)點開始，逐漸向上合并，直到所有點被歸為一個簇。樹狀圖的分支長度反映了聚類過程中的距離，越長的分支意味著合并的簇之間的距離越大。6.1.1示例代碼importnumpyasnp

importmatplotlib.pyplotasplt

fromscipy.cluster.hierarchyimportdendrogram,linkage

fromsklearn.feature_extraction.textimportTfidfVectorizer

fromsklearn.clusterimportAgglomerativeClustering

#示例文本數(shù)據(jù)

documents=[

"我喜歡吃蘋果和香蕉",

"他喜歡吃香蕉和橙子",

"她喜歡喝咖啡",

"他們喜歡喝茶",

"我喜歡吃蘋果和橙子",

"他喜歡喝咖啡和茶"

]

#使用TF-IDF向量化文本

vectorizer=TfidfVectorizer()

X=vectorizer.fit_transform(documents)

#應(yīng)用Agglomerative聚類

model=AgglomerativeClustering(n_clusters=None,linkage='ward',distance_threshold=0)

model=model.fit(X.toarray())

#計算層次聚類的鏈接矩陣

Z=linkage(X.toarray(),'ward')

#繪制樹狀圖

plt.figure(figsize=(10,5))

plt.title("AgglomerativeClusteringDendrogram")

dendrogram(Z)

plt.xlabel("樣本索引")

plt.ylabel("距離")

plt.show()6.1.2代碼解釋數(shù)據(jù)準(zhǔn)備：我們使用了6個中文文本作為示例數(shù)據(jù)。特征提?。和ㄟ^TfidfVectorizer將文本轉(zhuǎn)換為TF-IDF特征向量，這是一種常見的文本特征表示方法。聚類模型：AgglomerativeClustering模型被初始化，這里我們沒有指定n_clusters，而是使用distance_threshold來控制聚類的合并，linkage='ward'確保了最小方差的聚類合并策略。計算鏈接矩陣：使用scipy的linkage函數(shù)計算層次聚類的鏈接矩陣，ward方法最小化簇內(nèi)方差。繪制樹狀圖：最后，使用dendrogram函數(shù)繪制樹狀圖，展示聚類過程。6.2分析聚類結(jié)果：主題提取Agglomerative聚類的結(jié)果可以通過分析每個簇的代表性文本或關(guān)鍵詞來提取主題。這一步驟通常涉及對每個簇內(nèi)的文本進(jìn)行進(jìn)一步的分析，如計算詞頻或TF-IDF值，以確定哪些詞最能描述該簇。6.2.1示例代碼fromcollectionsimportCounter

#獲取聚類標(biāo)簽

labels=model.labels_

#將文本與聚類標(biāo)簽配對

labeled_documents=list(zip(documents,labels))

#按標(biāo)簽分組

clustered_documents={}

fordoc,labelinlabeled_documents:

iflabelnotinclustered_documents:

clustered_documents[label]=[]

clustered_documents[label].append(doc)

#提取每個簇的主題

forlabel,docsinclustered_documents.items():

print(f"簇{label}的主題：")

#將簇內(nèi)的所有文本合并為一個大文本

combined_text="".join(docs)

#使用TF-IDF向量化合并后的文本

combined_vector=vectorizer.transform([combined_text])

#獲取TF-IDF值最高的詞

feature_names=vectorizer.get_feature_names_out()

tfidf_scores=combined_vector.toarray()[0]

top_words=[feature_names[i]foriinnp.argsort(tfidf_scores)[::-1][:5]]

print("關(guān)鍵詞：",top_words)

print("示例文本：",docs[0])

print()6.2.2代碼解釋獲取聚類標(biāo)簽：從模型中提取每個文本的聚類標(biāo)簽。文本與標(biāo)簽配對：創(chuàng)建一個列表，其中每個元素都是文本和其對應(yīng)標(biāo)簽的元組。按標(biāo)簽分組：使用字典將文本按其聚類標(biāo)簽分組。主題提?。簩τ诿總€簇，我們合并所有文本，然后使用TF-IDF向量化。通過計算TF-IDF值最高的詞，我們可以確定該簇的主題。這里我們選擇了每個簇中TF-IDF值最高的5個詞作為關(guān)鍵詞。通過上述步驟，我們可以直觀地看到每個簇的主題，以及代表該主題的關(guān)鍵詞和示例文本，這對于理解和解釋聚類結(jié)果非常有幫助。7Agglomerative聚類與層次聚類的其他方法比較在層次聚類中，Agglomerative聚類是一種自下而上的方法，它從每個樣本作為一個獨立的聚類開始，然后逐步合并最相似的聚類，直到達(dá)到預(yù)定的聚類數(shù)量或滿足某個停止條件。這種方法與Divisive聚類（自上而下的層次聚類）形成對比，后者從所有樣本屬于一個大聚類開始，然后逐步分割成更小的聚類。7.1Agglomerative聚類的步驟初始化：每個樣本都是一個獨立的聚類。重復(fù)：計算所有聚類之間的距離。合并距離最近的兩個聚類。直到：達(dá)到預(yù)定的聚類數(shù)量或滿足停止條件。7.2與層次聚類其他方法的比較7.2.1與Divisive聚類比較復(fù)雜度：Agglomerative聚類在最壞情況下的時間復(fù)雜度為O(n^3)，而Divisive聚類的時間復(fù)雜度通常更高，因為每次分割都需要重新計算所有樣本之間的距離?？山忉屝裕篈gglomerative聚類生成的樹狀圖（dendrogram）可以直觀地展示聚類的合并過程，有助于理解數(shù)據(jù)的層次結(jié)構(gòu)。靈活性：Agglomerative聚類允許在樹狀圖的任何點截斷以獲得不同數(shù)量的聚類，而Divisive聚類通常需要在開始時確定分割的數(shù)量。7.2.2與非層次聚類算法比較K-means：K-means是一種非層次聚類算法，它需要預(yù)先指定聚類數(shù)量。與Agglomerative聚類相比，K-means在大數(shù)據(jù)集上通常更快，但可能陷入局部最優(yōu)解，且不適用于非球形聚類。DBSCAN：DBSCAN是一種基于密度的聚類算法，它不需要預(yù)先指定聚類數(shù)量，可以發(fā)現(xiàn)任意形狀的聚類。與Agglomerative聚類相比，DBSCAN對噪聲點和異常值更敏感，但在參數(shù)選擇上需要更多的先驗知識。7.3Agglomerative聚類示例假設(shè)我們有一組文本數(shù)據(jù)，我們想要使用Aggl