應(yīng)用多元統(tǒng)計(jì)分析習(xí)題解答聚類分析

1、第五章聚類分析5.1 判別分析和聚類分析有何區(qū)別？答：即根據(jù)一定的判別準(zhǔn)則，判定一個(gè)樣本歸屬于哪一類。具體而言，設(shè)有n個(gè)樣本，對(duì)每個(gè)樣本測(cè)得p項(xiàng)指標(biāo)（變量）的數(shù)據(jù)，已知每個(gè)樣本屬于k個(gè)類別（或總體）中的某一類，通過(guò)找出一個(gè)最優(yōu)的劃分，使得不同類別的樣本盡可能地區(qū)別開(kāi)，并判別該樣本屬于 哪個(gè)總體。聚類分析是分析如何對(duì)樣品（或變量）進(jìn)行量化分類的問(wèn)題。在聚類之前，我 們并不知道總體，而是通過(guò)一次次的聚類，使相近的樣品（或變量）聚合形成總體。通俗 來(lái)講，判別分析是在已知有多少類及是什么類的情況下進(jìn)行分類，而聚類分析是在不知道 類的情況下進(jìn)行分類。5.2 試述系統(tǒng)聚類的基本思想。答：系統(tǒng)聚類的基本思想

2、是：距離相近的樣品（或變量）先聚成類，距離相遠(yuǎn)的后聚成類， 過(guò)程一直進(jìn)行下去，每個(gè)樣品（或變量）總能聚到合適的類中。5.3 對(duì)樣品和變量進(jìn)行聚類分析時(shí)，所構(gòu)造的統(tǒng)計(jì)量分別是什么？簡(jiǎn)要說(shuō)明為什么這樣構(gòu)造？答：對(duì)樣品進(jìn)行聚類分析時(shí)，用距離來(lái)測(cè)定樣品之間的相似程度。因?yàn)槲覀儼裯個(gè)樣本看作p維空間的n個(gè)點(diǎn)。點(diǎn)之間的距離即可代表樣品間的相似度。常用的距離為 ,、，P、，、， q、1/q（一）閔可夫斯基距離：dj（q） （ Xik Xjk ）q取不同值，分為（1）絕對(duì)距離（q 1）（2）歐氏距離（q 2）（3）切比雪夫距離（q ）（二）馬氏距離（三）蘭氏距離對(duì)變量的相似性，我們更多地要了解變量的變化趨勢(shì)或

3、變化方向，因此用相關(guān)性進(jìn)行衡量將變量看作p維空間的向量，一般用（一）夾角余弦（二）相關(guān)系數(shù)5.4 在進(jìn)行系統(tǒng)聚類時(shí)，不同類間距離計(jì)算方法有何區(qū)別？選擇距離公式應(yīng)遵循哪些原則？答：設(shè)dj表示樣品X與X之間距離，用D表示類G與G之間的距離。（1） .最短距離法（2）最長(zhǎng)距離法2 1 2Dkr八 Dkp12I - I 81 0 4122Dkq2D pq（3）中間距離法其中(4)重心法 (5)類平均法(6)可變類平均法Dkr (1)(npD2p nqDkq)Dpq其中？是可變的Fr? <1 nr(7)可變法_ 2 1_ 2 _ 2_ 2，. 一 Dkr .(Dkp Dkq)Dpq其中？是可變的且

4、？ <1(8)離差平方和法通常選擇距離公式應(yīng)注意遵循以下的基本原則：(1)要考慮所選擇的距離公式在實(shí)際應(yīng)用中有明確的意義。如歐氏距離就有非常明確的空間距離概念。馬氏距離有消除量綱影響的作用。(2)要綜合考慮對(duì)樣本觀測(cè)數(shù)據(jù)的預(yù)處理和將要采用的聚類分析方法。如在進(jìn)行聚類分析之前已經(jīng)對(duì)變量作了標(biāo)準(zhǔn)化處理，則通常就可采用歐氏距離。(3)要考慮研究對(duì)象的特點(diǎn)和計(jì)算量的大小。 樣品間距離公式的選擇是一個(gè)比較復(fù)雜且?guī)?有一定主觀性的問(wèn)題，我們應(yīng)根據(jù)研究對(duì)象的特點(diǎn)不同做出具體分折。實(shí)際中，聚類分析 前不妨試探性地多選擇幾個(gè)距離公式分別進(jìn)行聚類，然后對(duì)聚類分析的結(jié)果進(jìn)行對(duì)比分析，以確定最合適的距離測(cè)度方法

5、。5.5 試述K均值法與系統(tǒng)聚類法的異同答：相同：K均值法和系統(tǒng)聚類法一樣，都是以距離的遠(yuǎn)近親疏為標(biāo)準(zhǔn)進(jìn)行聚類的。不同：系統(tǒng)聚類對(duì)不同的類數(shù)產(chǎn)生一系列的聚類結(jié)果，而均值法只能產(chǎn)生指定類數(shù)的聚類結(jié)果。具體類數(shù)的確定，離不開(kāi)實(shí)踐經(jīng)驗(yàn)的積累；有時(shí)也可以借助系統(tǒng)聚類法以一部分樣品 為對(duì)象進(jìn)行聚類,其結(jié)果作為 均值法確定類數(shù)的參考。5.6 試述K均值法與系統(tǒng)聚類有何區(qū)別？試述有序聚類法的基本思想。答：K均值法的基本思想是將每一個(gè)樣品分配給最近中心（均值）的類中。系統(tǒng)聚類對(duì)不 同的類數(shù)產(chǎn)生一系列的聚類結(jié)果，而K均值法只能產(chǎn)生指定類數(shù)的聚類結(jié)果。具體類數(shù)的確定，有時(shí)也可以借助系統(tǒng)聚類法以一部分樣品為對(duì)象進(jìn)行

6、聚類，其結(jié)果作為K均值法確定類數(shù)的參考。有序聚類就是解決樣品的次序不能變動(dòng)時(shí)的聚類分析問(wèn)題。如果用X（i）,X（2）, ,X（n）表示n個(gè)有序的樣品，則每一類必須是這樣的形式，即 X（i）,X（）， ，X（j）,其中1 i n,且j n, 簡(jiǎn)記為Gi i,i 1, , j。在同一類中的樣品是次序相鄰的。一般的步驟是（1）計(jì)算直徑 D （i,j ） 。（2）計(jì)算最小分類損失函數(shù)Lp（l,k） 。（3）確定分類個(gè)數(shù)k。（4）最優(yōu)分 類。5.7 檢測(cè)某類產(chǎn)品的重量，抽了六個(gè)樣品， 每個(gè)樣品只測(cè)了一個(gè)指標(biāo)，分別為1, 2, 3,6, 9, 11.試用最短距離法，重心法進(jìn)行聚類分析。（1）用最短距離法進(jìn)

7、行聚類分析。采用絕對(duì)值距離，計(jì)算樣品間距離陣DylY1< 0羽10雷210315430487630男1098520Oj 2 " El = 1由上表易知Dyw中最小元素是于是將Gl , G2,G三聚為一類，記為S計(jì)算距離陣"Y.T再031 3 0瑞6 3 01-1. 8 5 20yiy中最小元素是必占=2于是將與，G6聚為一類，記為Ga計(jì)算樣本距離陣二130Dy2Y中最小元素是于是將明，聚為一類，記為Gg因此,(2)用重心法進(jìn)行聚類分析計(jì)算樣品間平方距離陣易知D'¥0Y中最小元素是于是將Gr ,仃2，Gm聚為一類，記為計(jì)算距離陣J1J身01616049

8、499081812540注：計(jì)算方法，其他以此類推?？凇㈤T中最小元素是 吸*4于是將G.,優(yōu)聚為一類，記為%計(jì)算樣本距離陣-Y.Y再016 16064 64160公司每股總資流動(dòng)每股凈資產(chǎn)凈利產(chǎn)周資產(chǎn)負(fù)負(fù)債凈資凈利潤(rùn)增總資產(chǎn)編號(hào)收益率潤(rùn)轉(zhuǎn)單債率比率產(chǎn)長(zhǎng)率增長(zhǎng)率111.090.210.0596.9870.531.86-44.0481.99211.960.590.7451.7890.734.957.0216.11300.030.03181.99100-2.98103.3321.18411.580.130.1746.0792.181.146.55-56.325-6.19-0.090.0343.382

9、.241.52-1713.5-3.366100.470.4868.4864.7-11.560.85710.490.110.3582.9899.871.02100.2330.32811.12-1.690.12132.14100-0.66-4454.39-62.7593.410.040.267.8698.511.25-11.25-11.43101.160.010.5443.71001.03-87.18-7.411130.220.160.487.3694.880.53729.41-9.97128.190.220.3830.311002.73-12.31-2.7713141595.79-5.216.5

10、50.5252.34 99.34 -5.420.350.9372.3184.052.14-24.18 -1.160.7956.2697.84.81-9816.52 -46.82115.95123.41-533.89-27.74解:令凈資產(chǎn)收益率為X1,每股凈利潤(rùn)X2,總資產(chǎn)周轉(zhuǎn)率為X3,資產(chǎn)負(fù)債率為X4,流動(dòng)負(fù) 債比率為X5,每股凈資產(chǎn)為X6,凈利潤(rùn)增長(zhǎng)率為X7,總資產(chǎn)增長(zhǎng)率為X8,用spss對(duì)公司 聚類分析的步驟如下：a）系統(tǒng)聚類法：1 .在 SPSS®口中選擇 Analyze-Classify -Hierachical Cluster ,調(diào)出系統(tǒng)聚類分 析主界面，并將變量X1-X

11、8移入Variables框中。在Cluster欄中選擇Cases單 選按鈕，即對(duì)樣品進(jìn)行聚類（若選擇Variables ,則對(duì)變量進(jìn)行聚類）。在Display 欄中選擇Statistics 和Plots復(fù)選框，這樣在結(jié)果輸出窗口中可以同時(shí)得到聚類 結(jié)果統(tǒng)計(jì)量和統(tǒng)計(jì)圖。圖5.1系統(tǒng)分析法主界面2 .點(diǎn)擊Statistics 按鈕，設(shè)置在結(jié)果輸出窗口中給出的聚類分析統(tǒng)計(jì)量。我們選擇 Agglomeration schedule 與 Cluster Membership 中的 Range of solution 2-4,如圖5.2所示，點(diǎn)擊Continue按鈕，返回主界面。（其中，Agglomera

12、tion schedule 表示在結(jié)果中給出聚類過(guò)程表，顯示系統(tǒng)聚類 的詳細(xì)步驟；Proximity matrix表示輸出各個(gè)體之間的距離矩陣；ClusterMembership 表示在結(jié)果中輸出一個(gè)表，表中顯示每個(gè)個(gè)體被分配到的類別，Rangeof solution 2-4 即將所有個(gè)體分為2 至 4 類。）3 . 點(diǎn)擊 Plots 按鈕，設(shè)置結(jié)果輸出窗口中給出的聚類分析統(tǒng)計(jì)圖。選中Dendrogram復(fù)選框和Icicle 欄中的None單選按鈕，如圖5.3,即只給出聚類樹(shù)形圖，而不給出冰柱圖。單擊Continue 按鈕，返回主界面。圖 5.2 Statistics 子對(duì)話框圖 5.3 Pl

13、ots 子對(duì)話框4 .點(diǎn)擊Method按鈕，設(shè)置系統(tǒng)聚類的方法選項(xiàng)。Cluster Method下拉列表用于指定聚類的方法，這里選擇Between-group inkage （組間平均數(shù)連接距離）；Measure欄用于選擇對(duì)距離和相似性的測(cè)度方法，選擇Squared Euclidean distance （歐氏距離）；單擊Continue 按鈕，返回主界面。圖5.4 Method子對(duì)話框圖5.5 Save子對(duì)話框5 .點(diǎn)擊Save按鈕，指定保存在數(shù)據(jù)文件中的用于表明聚類結(jié)果的新變量。None表示不保存任何新變量；Single solution 表示生成一個(gè)分類變量，在其后的矩形框中輸入要分成的

14、類數(shù)；Range of solutions表示生成多個(gè)分類變量。這里我們選擇Range of solutions ，并在后面的兩個(gè)矩形框中分別輸入2 和 4，即生成三個(gè)新的分類變量，分別表明將樣品分為2 類、 3 類和 4 類時(shí)的聚類結(jié)果, 如圖 5.5。點(diǎn)擊Continue ，返回主界面。6 .點(diǎn)擊。骸鈕，運(yùn)行系統(tǒng)聚類過(guò)程。聚類結(jié)果分析:2類，3類，4類時(shí)各個(gè)樣本所屬類別的情況，另外，從右邊的樹(shù)形圖也可以直觀地看到，若將15個(gè)公司分為2類，則 13獨(dú)自為一類，其余的為一類；若分為 3類，則公司8分離出來(lái)，自成一類。以此類推。表 5.1 各樣品所屬類別表圖 5.6 聚類樹(shù)形圖b） K均值法的步

15、驟如下：1. 在 SPSS®口中選擇 AnalyzefClassify -K-Means Cluster ,調(diào)出 K均值聚類分析主界面，并將變量X1-X8 移入 Variables 框中。在Method 框中選擇Iterateclassify ,即使用K-means算法不斷計(jì)算新的類中心，并替換舊的類中心（若選擇Classify only ，則根據(jù)初始類中心進(jìn)行聚類，在聚類過(guò)程中不改變類中心）。在Numberof Cluster 后面的矩形框中輸入想要把樣品聚成的類數(shù)，這里我們輸入3，即將 15個(gè)公司分為3類。（ Centers 按鈕，則用于設(shè)置迭代的初始類中心。如果不手工設(shè)置，則系

16、統(tǒng)會(huì)自動(dòng)設(shè)置初始類中心，這里我們不作設(shè)置。）圖 5.7 K 均值聚類分析主界面2. 點(diǎn)擊 Iterate 按鈕，對(duì)迭代參數(shù)進(jìn)行設(shè)置。Maximum Iterations 參數(shù)框用于設(shè)定K-means算法迭代的最大次數(shù)，輸入 10, Convergence Criterion參數(shù)框用于設(shè)定算法的收斂判據(jù)，輸入0，只要在迭代的過(guò)程中先滿足了其中的參數(shù)，則迭代過(guò)程就停止。單擊Continue ，返回主界面。5.8 Iterate 子對(duì)話框3. 點(diǎn)擊 Save 按鈕，設(shè)置保存在數(shù)據(jù)文件中的表明聚類結(jié)果的新變量。我們將兩個(gè)復(fù)選框都選中，其中Cluster membership 選項(xiàng)用于建立一個(gè)代表聚類結(jié)

17、果的變量，默認(rèn)變量名為qcl_1 ； Distance from cluster center 選項(xiàng)建立一個(gè)新變量，代表各觀測(cè)量與其所屬類中心的歐氏距離。單擊Continue 按鈕返回。圖 5.9 Save 子對(duì)話框4. 點(diǎn)擊 Options 按鈕，指定要計(jì)算的統(tǒng)計(jì)量。選中Initial cluster centers 和Cluster information for each case 復(fù)選框。這樣，在輸出窗口中將給出聚類的初始類中心和每個(gè)公司的分類信息，包括分配到哪一類和該公司距所屬類中心的距離。單擊Continue 返回。圖 5.10 Options 子對(duì)話框5. 點(diǎn)擊。骸鈕，運(yùn)行K均值

18、聚類分析程序。聚類結(jié)果分析:以下三表給出了各公司所屬的類及其與所屬類中心的距離，聚類形成的類的中心的各變量值以及各類的公司數(shù)。由以上表格可得公司13 與公司 8 各自成一類，其余的公司為一類。通過(guò)比較可知，兩種聚類方法得到的聚類結(jié)果完全一致。5.9 下表是某年我國(guó)16 個(gè)地區(qū)農(nóng)民支出情況的抽樣調(diào)查數(shù)據(jù)，每個(gè)地區(qū)調(diào)查了反映每人平均生活消費(fèi)支出情況的六個(gè)經(jīng)濟(jì)指標(biāo)。試通過(guò)統(tǒng)計(jì)分析軟件用不同的方法進(jìn)行系統(tǒng)聚類分 析，并比較何種方法與人們觀察到的實(shí)際情況較接近。地區(qū)食品衣著燃料住房交通和通訊娛樂(lè)教育義化北京190.3343.779.7360.5449.019.04天津135.236.410.4744.1

19、636.493.94河北95.2122.839.322.4422.812.8山西104.7825.116.49.8918.173.25內(nèi)蒙128.4127.638.9412.5823.992.27遼寧145.6832.8317.7927.2939.093.47吉林159.3733.3818.3711.8125.295.22黑龍江116.2229.5713.2413.7621.756.04上海221.1138.6412.53115.6550.825.89江蘇144.9829.1211.6742.627.35.74浙江169.9232.7512.7247.1234.355安徽135.1123.09

20、15.6223.5418.186.39福建144.9221.2616.9619.5221.756.73江西140.5421.517.6419.1915.974.94山東115.8430.2612.233.633.773.85河南101.1823.268.4620.220.54.3解:令食品支出為X1,衣著支出為X2,燃料支出為X3,住房支出為X4,交通和通訊支出為 X5,娛樂(lè)教育文化支出為X6,用spss對(duì)16各地區(qū)聚類分析的步驟如5.8題，不同的方法 在第4個(gè)步驟的Method子對(duì)話框中選擇不同的Cluster method 。1. Between-group inkage （組間平均數(shù)連接

21、距離）上表給出了把全國(guó)16個(gè)地區(qū)分為2類、3類和4類時(shí)，各地區(qū)所屬的類別，另外從右邊的 樹(shù)形圖也可以直觀地觀察到，若用組間平均數(shù)連接距離將這些地區(qū)分為3類，則9 （上海）獨(dú)自為一類，1 （北京）和11 （浙江）為一類，剩余地區(qū)為一類。2. Within-group linkage（組內(nèi)平均連接距離）若用組內(nèi)平均數(shù)連接距離將這些地區(qū)分為3類，則9 （上海）獨(dú)自為一類，1 （北京）獨(dú)自為一類，剩余地區(qū)為一類。3. Nearest neighbor （最短距離法）若用最短距離法將這些地區(qū)分為 3類，則9 （上海）獨(dú)自為一類，1 （北京）獨(dú)自為一類,剩余地區(qū)為一類。4. Furthest neighb

22、or （最遠(yuǎn)距離法）若用最遠(yuǎn)距離法將這些地區(qū)分為3 類，則 9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。5. Centroid cluster （重心法）若用重心法將這些地區(qū)分為3 類，則9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。6. Median cluster （中位數(shù)距離）若用中位數(shù)距離法將這些地區(qū)分為3 類，則9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。7. Ward method （離差平方和）若用離差平方和法將這些地區(qū)分為3 類，則9（上海）， 1（北京）和11（浙江）為一類，2（天津） 、6（遼寧）、

23、7（吉林）、10（江蘇）、12（安徽）、13（福建）和14（江西）為一類，剩余地區(qū)為一類。5.10根據(jù)上題數(shù)據(jù)通過(guò)SPSSS計(jì)分析軟件進(jìn)行快速聚類運(yùn)算，并與系統(tǒng)聚類分析結(jié)果進(jìn)行比較。解：快速聚類運(yùn)算即K均值法聚類，具體步驟同5.8,聚類結(jié)果如下：蘇）、11 （浙江）、13 （福建）和14 （江西）為一類，剩余地區(qū)為一類。5.11下表是2003年我國(guó)省會(huì)城市和計(jì)劃單列市的主要經(jīng)濟(jì)指標(biāo)：人均 GD氏（元）、 人均工業(yè)產(chǎn)值X2 （元）、客運(yùn)總量X3 （萬(wàn)人）、貨運(yùn)總量X4 （萬(wàn)噸）、地方財(cái)政預(yù)算內(nèi)收入X5 （億元）、固定資產(chǎn)投資總額X6 （億元）、在崗職工占總?cè)丝诘谋壤齒7 （%）、在崗職工人均 工

24、資額X8 （元）、城鄉(xiāng)居民年底儲(chǔ)蓄余額X9 （億元）。試通過(guò)統(tǒng)計(jì)分析軟件進(jìn)行系統(tǒng)聚類分 析，并比較何種方法與人們觀察到的實(shí)際情況較接近。城巾305230675920037.2531644北京3188633168013082134672018.1864182天津2643343732350795934885118410001230104石家莊151341315938494169.564152422.1267太原1575215831297583319789660呼和浩1899111257350841552118213.1411255特56146314.1496142沈陽(yáng)232681544666126

25、81557813110021081114.1756131大連2914527615407111700108912.1387K春186302104569994629483125017.1245115哈爾濱148257561645895187642371463868922721.2730605上海46586770837212194055167914801315.2219113南京2754743853794056404213416811511.2466146杭州3266749823717950876249313791310.2369106寧波32543479045558799101390合肥10621

26、1171460344641362458.3359111.1505福州2228121310968082506737687683廈門5359093126444130557023838.61902439711.1391南昌142219205572844543121003483143513.1602濟(jì)南2343722634581047642957758146630551214.1533青島247053550663054855908107012.1353104鄭州166741402397847663737881188166117.1373128武漢2127817083208062340610601063

27、10.1698長(zhǎng)沙154468873916043407705297528852710825.2880372廣州48220554041959157191833475110982969.3105219深圳8996793187563981763390701658933617013178.31451132816.1481?？?6442145534330412995928458293245161181244189重慶7190507600276.5077279287911.1527149成都1791492893890788944185115.1218貴陽(yáng)11046103501531840231813451

28、23314.1425昆明1621511601512686034265709114115.1350121西安131408913393926544695118.1348蘭州144591713622095581212030946810.1462西寧706656052788203787619175若用最短距離法將這些地區(qū)分為2 類，則 24（深圳）獨(dú)自為一類，剩余地區(qū)為一類。車艮川11787 11013 2146 2127 12 134 2“忙” 19397烏魯木南寧?？?2508 17137 2188 1275 41180 2。413052 3067 5931886 33168 013200 37.

29、0816504202531 644213467 2026433 43732 3507 9593418.1864 18285資料來(lái)源：中國(guó)統(tǒng)計(jì)年鑒2004解：用spss對(duì)37個(gè)地區(qū)聚類分析的步驟如 5.8題，不同的方法在第4個(gè)步驟的Method子 對(duì)話框中選擇不同的Cluster method 。1.Between-group inkage （組間平均數(shù)連接距離）從上面的樹(shù)形圖可以直觀地觀察到，若用組間平均數(shù)連接距離將這些地區(qū)分為3類，則24（深圳）獨(dú)自為一類，10 （上海）和16 （廈門）為一類，剩余地區(qū)為一類。2 .Within-group linkage（組內(nèi)平均連接距離）若用組內(nèi)平均數(shù)連接距離將這些地區(qū)分為 3類，則24 （上海）獨(dú)自為一類，27 （重慶）和28（成都）為一類，剩余地區(qū)為