應(yīng)用多元統(tǒng)計分析習(xí)題解答_聚類分析

1、第五章 聚類分析5.1 判別分析和聚類分析有何區(qū)別？答：即根據(jù)一定的判別準(zhǔn)則，判定一個樣本歸屬于哪一類。具體而言，設(shè)有n個樣本，對每個樣本測得p項(xiàng)指標(biāo)（變量）的數(shù)據(jù)，已知每個樣本屬于k個類別（或總體）中的某一類，通過找出一個最優(yōu)的劃分，使得不同類別的樣本盡可能地區(qū)別開，并判別該樣本屬于哪個總體。聚類分析是分析如何對樣品（或變量）進(jìn)行量化分類的問題。在聚類之前，我們并不知道總體，而是通過一次次的聚類，使相近的樣品（或變量）聚合形成總體。通俗來講，判別分析是在已知有多少類及是什么類的情況下進(jìn)行分類，而聚類分析是在不知道類的情況下進(jìn)行分類。5.2 試述系統(tǒng)聚類的基本思想。答：系統(tǒng)聚類的基本思想是：距

2、離相近的樣品（或變量）先聚成類，距離相遠(yuǎn)的后聚成類，過程一直進(jìn)行下去，每個樣品（或變量）總能聚到合適的類中。5.3 對樣品和變量進(jìn)行聚類分析時， 所構(gòu)造的統(tǒng)計量分別是什么？簡要說明為什么這樣構(gòu)造？答：對樣品進(jìn)行聚類分析時，用距離來測定樣品之間的相似程度。因?yàn)槲覀儼裯個樣本看作p維空間的n個點(diǎn)。點(diǎn)之間的距離即可代表樣品間的相似度。常用的距離為（一）閔可夫斯基距離：q取不同值，分為（1）絕對距離（） （2）歐氏距離（） （3）切比雪夫距離（） （二）馬氏距離 （三）蘭氏距離 對變量的相似性，我們更多地要了解變量的變化趨勢或變化方向，因此用相關(guān)性進(jìn)行衡量。將變量看作p維空間的向量，一般用（一）夾角余

3、弦（二）相關(guān)系數(shù)5.4 在進(jìn)行系統(tǒng)聚類時，不同類間距離計算方法有何區(qū)別？選擇距離公式應(yīng)遵循哪些原則？答： 設(shè)dij表示樣品Xi與Xj之間距離，用Dij表示類Gi與Gj之間的距離。（1）. 最短距離法（2）最長距離法（3）中間距離法其中（4）重心法 （5）類平均法 （6）可變類平均法其中b是可變的且b 1（7）可變法 其中b是可變的且b 1（8）離差平方和法 通常選擇距離公式應(yīng)注意遵循以下的基本原則：（1）要考慮所選擇的距離公式在實(shí)際應(yīng)用中有明確的意義。如歐氏距離就有非常明確的空間距離概念。馬氏距離有消除量綱影響的作用。（2）要綜合考慮對樣本觀測數(shù)據(jù)的預(yù)處理和將要采用的聚類分析方法。如在進(jìn)行聚類

4、分析之前已經(jīng)對變量作了標(biāo)準(zhǔn)化處理，則通常就可采用歐氏距離。（3）要考慮研究對象的特點(diǎn)和計算量的大小。樣品間距離公式的選擇是一個比較復(fù)雜且?guī)в幸欢ㄖ饔^性的問題，我們應(yīng)根據(jù)研究對象的特點(diǎn)不同做出具體分折。實(shí)際中，聚類分析前不妨試探性地多選擇幾個距離公式分別進(jìn)行聚類，然后對聚類分析的結(jié)果進(jìn)行對比分析，以確定最合適的距離測度方法。5.5試述K均值法與系統(tǒng)聚類法的異同。答：相同：K均值法和系統(tǒng)聚類法一樣，都是以距離的遠(yuǎn)近親疏為標(biāo)準(zhǔn)進(jìn)行聚類的。不同：系統(tǒng)聚類對不同的類數(shù)產(chǎn)生一系列的聚類結(jié)果，而K均值法只能產(chǎn)生指定類數(shù)的聚類結(jié)果。具體類數(shù)的確定，離不開實(shí)踐經(jīng)驗(yàn)的積累；有時也可以借助系統(tǒng)聚類法以一部分樣品為對

5、象進(jìn)行聚類，其結(jié)果作為K均值法確定類數(shù)的參考。5.6 試述K均值法與系統(tǒng)聚類有何區(qū)別？試述有序聚類法的基本思想。答：K均值法的基本思想是將每一個樣品分配給最近中心（均值）的類中。系統(tǒng)聚類對不同的類數(shù)產(chǎn)生一系列的聚類結(jié)果，而K均值法只能產(chǎn)生指定類數(shù)的聚類結(jié)果。具體類數(shù)的確定，有時也可以借助系統(tǒng)聚類法以一部分樣品為對象進(jìn)行聚類，其結(jié)果作為K均值法確定類數(shù)的參考。有序聚類就是解決樣品的次序不能變動時的聚類分析問題。如果用表示個有序的樣品，則每一類必須是這樣的形式，即，其中且，簡記為。在同一類中的樣品是次序相鄰的。一般的步驟是（1）計算直徑D（i,j）。（2）計算最小分類損失函數(shù)Lp(l,k)。(3)

6、確定分類個數(shù)k。（4）最優(yōu)分類。5.7 檢測某類產(chǎn)品的重量， 抽了六個樣品， 每個樣品只測了一個指標(biāo)，分別為1，2，3，6，9，11.試用最短距離法，重心法進(jìn)行聚類分析。（1）用最短距離法進(jìn)行聚類分析。采用絕對值距離，計算樣品間距離陣 0 1 0 2 1 0 5 4 3 0 8 7 6 3 0 10 9 8 5 2 0由上表易知 中最小元素是 于是將，聚為一類，記為計算距離陣 0 3 0 6 3 0 8 5 2 0 中最小元素是=2 于是將，聚為一類，記為計算樣本距離陣 0 3 0 6 3 0中最小元素是 于是將，聚為一類，記為因此，（2）用重心法進(jìn)行聚類分析計算樣品間平方距離陣 0 1 0

7、4 1 0 25 16 9 0 64 49 36 9 0 100 81 64 25 4 0易知 中最小元素是 于是將，聚為一類，記為計算距離陣 0 16 0 49 9 0 81 25 4 0 注：計算方法,其他以此類推。中最小元素是=4 于是將，聚為一類，記為計算樣本距離陣 0 16 0 64 16 0中最小元素是 于是將，聚為一類，記為因此，5.8 下表是15個上市公司2001年的一些主要財務(wù)指標(biāo)，使用系統(tǒng)聚類法和K均值法分別對這些公司進(jìn)行聚類，并對結(jié)果進(jìn)行比較分析。公司編號凈資產(chǎn)收益率每股凈利潤總資產(chǎn)周轉(zhuǎn)率資產(chǎn)負(fù)債率流動負(fù)債比率每股凈資產(chǎn)凈利潤增長率總資產(chǎn)增長率111.090.210.05

8、96.9870.531.86-44.0481.99211.960.590.7451.7890.734.957.0216.11300.030.03181.99100-2.98103.3321.18411.580.130.1746.0792.181.146.55-56.325-6.19-0.090.0343.382.241.52-1713.5-3.366100.470.4868.4864.7-11.560.85710.490.110.3582.9899.871.02100.2330.32811.12-1.690.12132.14100-0.66-4454.39-62.7593.410.040.26

9、7.8698.511.25-11.25-11.43101.160.010.5443.71001.03-87.18-7.411130.220.160.487.3694.880.53729.41-9.97128.190.220.3830.311002.73-12.31-2.771395.79-5.20.5252.3499.34-5.42-9816.52-46.821416.550.350.9372.3184.052.14115.95123.4115-24.18-1.160.7956.2697.84.81-533.89-27.74解:令凈資產(chǎn)收益率為X1，每股凈利潤X2，總資產(chǎn)周轉(zhuǎn)率為X3，資產(chǎn)負(fù)債

10、率為X4，流動負(fù)債比率為X5，每股凈資產(chǎn)為X6，凈利潤增長率為X7，總資產(chǎn)增長率為X8，用spss對公司聚類分析的步驟如下：a) 系統(tǒng)聚類法:1. 在SPSS窗口中選擇AnalyzeClassifyHierachical Cluster，調(diào)出系統(tǒng)聚類分析主界面，并將變量移入Variables框中。在Cluster欄中選擇Cases單選按鈕，即對樣品進(jìn)行聚類（若選擇Variables，則對變量進(jìn)行聚類）。在Display欄中選擇Statistics和Plots復(fù)選框，這樣在結(jié)果輸出窗口中可以同時得到聚類結(jié)果統(tǒng)計量和統(tǒng)計圖。圖5.1 系統(tǒng)分析法主界面2. 點(diǎn)擊Statistics按鈕，設(shè)置在結(jié)果輸

11、出窗口中給出的聚類分析統(tǒng)計量。我們選擇Agglomeration schedule與Cluster Membership中的Range of solution 2-4，如圖5.2所示，點(diǎn)擊Continue按鈕，返回主界面。（其中，Agglomeration schedule表示在結(jié)果中給出聚類過程表，顯示系統(tǒng)聚類的詳細(xì)步驟；Proximity matrix 表示輸出各個體之間的距離矩陣；Cluster Membership 表示在結(jié)果中輸出一個表，表中顯示每個個體被分配到的類別，Range of solution 2-4即將所有個體分為2至4類。）3. 點(diǎn)擊Plots按鈕，設(shè)置結(jié)果輸出窗口中給

12、出的聚類分析統(tǒng)計圖。選中Dendrogram復(fù)選框和Icicle欄中的None單選按鈕，如圖5.3，即只給出聚類樹形圖，而不給出冰柱圖。單擊Continue按鈕，返回主界面。 圖5.2 Statistics子對話框 圖5.3Plots子對話框4. 點(diǎn)擊Method按鈕，設(shè)置系統(tǒng)聚類的方法選項(xiàng)。Cluster Method下拉列表用于指定聚類的方法，這里選擇Between-group inkage（組間平均數(shù)連接距離）；Measure欄用于選擇對距離和相似性的測度方法，選擇Squared Euclidean distance（歐氏距離）；單擊Continue按鈕，返回主界面。 圖5.4 Meth

13、od子對話框 圖5.5 Save子對話框5. 點(diǎn)擊Save按鈕，指定保存在數(shù)據(jù)文件中的用于表明聚類結(jié)果的新變量。None表示不保存任何新變量；Single solution表示生成一個分類變量，在其后的矩形框中輸入要分成的類數(shù)；Range of solutions表示生成多個分類變量。這里我們選擇Range of solutions，并在后面的兩個矩形框中分別輸入2和4，即生成三個新的分類變量，分別表明將樣品分為2類、3類和4類時的聚類結(jié)果,如圖5.5。點(diǎn)擊Continue，返回主界面。6. 點(diǎn)擊OK按鈕，運(yùn)行系統(tǒng)聚類過程。聚類結(jié)果分析:下面的群集成員表給出了把公司分為2類，3類，4類時各個樣

14、本所屬類別的情況，另外，從右邊的樹形圖也可以直觀地看到，若將15個公司分為2類，則13獨(dú)自為一類，其余的為一類；若分為3類，則公司8分離出來，自成一類。以此類推。 表5.1 各樣品所屬類別表 圖5.6 聚類樹形圖b) K均值法的步驟如下：1. 在SPSS窗口中選擇AnalyzeClassifyK-Means Cluster，調(diào)出K均值聚類分析主界面，并將變量X1-X8移入Variables框中。在Method框中選擇Iterate classify，即使用K-means算法不斷計算新的類中心，并替換舊的類中心（若選擇Classify only，則根據(jù)初始類中心進(jìn)行聚類，在聚類過程中不改變類中心

15、）。在Number of Cluster后面的矩形框中輸入想要把樣品聚成的類數(shù)，這里我們輸入3，即將15個公司分為3類。（Centers按鈕，則用于設(shè)置迭代的初始類中心。如果不手工設(shè)置，則系統(tǒng)會自動設(shè)置初始類中心，這里我們不作設(shè)置。）圖5.7 K均值聚類分析主界面2. 點(diǎn)擊Iterate按鈕，對迭代參數(shù)進(jìn)行設(shè)置。Maximum Iterations參數(shù)框用于設(shè)定K-means算法迭代的最大次數(shù)，輸入10，Convergence Criterion參數(shù)框用于設(shè)定算法的收斂判據(jù)，輸入0，只要在迭代的過程中先滿足了其中的參數(shù)，則迭代過程就停止。單擊Continue，返回主界面。圖5.8 Iterat

16、e子對話框3. 點(diǎn)擊Save按鈕，設(shè)置保存在數(shù)據(jù)文件中的表明聚類結(jié)果的新變量。我們將兩個復(fù)選框都選中，其中Cluster membership選項(xiàng)用于建立一個代表聚類結(jié)果的變量，默認(rèn)變量名為qcl_1；Distance from cluster center選項(xiàng)建立一個新變量，代表各觀測量與其所屬類中心的歐氏距離。單擊Continue按鈕返回。 圖5.9 Save子對話框4. 點(diǎn)擊Options按鈕，指定要計算的統(tǒng)計量。選中Initial cluster centers和Cluster information for each case復(fù)選框。這樣，在輸出窗口中將給出聚類的初始類中心和每個公司

17、的分類信息，包括分配到哪一類和該公司距所屬類中心的距離。單擊Continue返回。圖5.10 Options子對話框5. 點(diǎn)擊OK按鈕，運(yùn)行K均值聚類分析程序。聚類結(jié)果分析:以下三表給出了各公司所屬的類及其與所屬類中心的距離，聚類形成的類的中心的各變量值以及各類的公司數(shù)。由以上表格可得公司13與公司8各自成一類，其余的公司為一類。通過比較可知，兩種聚類方法得到的聚類結(jié)果完全一致。5.9下表是某年我國16個地區(qū)農(nóng)民支出情況的抽樣調(diào)查數(shù)據(jù)，每個地區(qū)調(diào)查了反映每人平均生活消費(fèi)支出情況的六個經(jīng)濟(jì)指標(biāo)。試通過統(tǒng)計分析軟件用不同的方法進(jìn)行系統(tǒng)聚類分析，并比較何種方法與人們觀察到的實(shí)際情況較接近。地區(qū)食品衣

18、著燃料住房交通和通訊娛樂教育文化北京190.3343.779.7360.5449.019.04天津135.236.410.4744.1636.493.94河北95.2122.839.322.4422.812.8山西104.7825.116.49.8918.173.25內(nèi)蒙128.4127.638.9412.5823.992.27遼寧145.6832.8317.7927.2939.093.47吉林159.3733.3818.3711.8125.295.22黑龍江116.2229.5713.2413.7621.756.04上海221.1138.6412.53115.6550.825.89江蘇144

19、.9829.1211.6742.627.35.74浙江169.9232.7512.7247.1234.355安徽135.1123.0915.6223.5418.186.39福建144.9221.2616.9619.5221.756.73江西140.5421.517.6419.1915.974.94山東115.8430.2612.233.633.773.85河南101.1823.268.4620.220.54.3解:令食品支出為X1，衣著支出為X2，燃料支出為X3，住房支出為X4，交通和通訊支出為X5，娛樂教育文化支出為X6，用spss對16各地區(qū)聚類分析的步驟如5.8題，不同的方法在第4個步驟

20、的Method子對話框中選擇不同的Cluster method。1. Between-group inkage（組間平均數(shù)連接距離） 上表給出了把全國16個地區(qū)分為2類、3類和4類時，各地區(qū)所屬的類別，另外從右邊的樹形圖也可以直觀地觀察到，若用組間平均數(shù)連接距離將這些地區(qū)分為3類，則9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。2. Within-group linkage（組內(nèi)平均連接距離） 若用組內(nèi)平均數(shù)連接距離將這些地區(qū)分為3類，則9（上海）獨(dú)自為一類，1（北京）獨(dú)自為一類，剩余地區(qū)為一類。3. Nearest neighbor（最短距離法） 若用最短距離法將這些

21、地區(qū)分為3類，則9（上海）獨(dú)自為一類，1（北京）獨(dú)自為一類，剩余地區(qū)為一類。4. Furthest neighbor（最遠(yuǎn)距離法） 若用最遠(yuǎn)距離法將這些地區(qū)分為3類，則9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。5. Centroid cluster（重心法） 若用重心法將這些地區(qū)分為3類，則9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。6. Median cluster（中位數(shù)距離） 若用中位數(shù)距離法將這些地區(qū)分為3類，則9（上海）獨(dú)自為一類，1（北京）和11（浙江）為一類，剩余地區(qū)為一類。7. Ward method（離差平方和） 若用離差

22、平方和法將這些地區(qū)分為3類，則9（上海），1（北京）和11（浙江）為一類，2（天津）、6（遼寧）、7（吉林）、10（江蘇）、12（安徽）、13（福建）和14（江西）為一類，剩余地區(qū)為一類。5.10 根據(jù)上題數(shù)據(jù)通過SPSS統(tǒng)計分析軟件進(jìn)行快速聚類運(yùn)算，并與系統(tǒng)聚類分析結(jié)果進(jìn)行比較。解：快速聚類運(yùn)算即K均值法聚類，具體步驟同5.8，聚類結(jié)果如下： 聚類的結(jié)果為9（上海）獨(dú)自為一類，1（北京）、2（天津）、6（遼寧）、7（吉林）、10（江蘇）、11（浙江）、13（福建）和14（江西）為一類，剩余地區(qū)為一類。5.11下表是2003年我國省會城市和計劃單列市的主要經(jīng)濟(jì)指標(biāo)：人均GDP（元）、人均工業(yè)產(chǎn)

23、值（元）、客運(yùn)總量（萬人）、貨運(yùn)總量（萬噸）、地方財政預(yù)算內(nèi)收入（億元）、固定資產(chǎn)投資總額（億元）、在崗職工占總?cè)丝诘谋壤ǎ?、在崗職工人均工資額（元）、城鄉(xiāng)居民年底儲蓄余額（億元）。試通過統(tǒng)計分析軟件進(jìn)行系統(tǒng)聚類分析，并比較何種方法與人們觀察到的實(shí)際情況較接近。城市北京31886331683052030671593200037.8253126441天津264334373235073467920593418.8186481825石家莊15134131591184310008494169.5123061044太原15752158312975152483319722.812679660呼和浩特18

24、99111257350841552118213.514116255沈陽23268154466612146368155714.8149611423大連2914527615110012108111140714.7175601310長春18630210456999108924629412.513870831哈爾濱148257561645895187642317.7124511154上海4658677083721263861899227421.0273056055南京2754743853167901480513679415.4221901134杭州326674982321349168151507171

25、1.8246671466寧波3254347904249381379713955510.9236911060合肥106211171460344641362458.313901359福州2228121310968082506737611.815053876廈門5359093126444130557023838.619024397南昌142219205572844543121011.013913483濟(jì)南23437226345810143547642913.516027758青島2470535506146663055312054814.515335908鄭州166741402310709784766

26、37312.7135381048武漢212781708311882166108062317.4137301286長沙15446887310609106316043410.016987705廣州48220554042975128859275108925.1288053727深圳19183834751910989679329187569.6310532199南寧8176339070165893361708.313171451?？?644214553132843304129916.514819284重慶71905076582903245016211876.5124401897成都1791492897

27、2793287989078811.9152741494貴陽11046103501851153184023115.812181345昆明16215116015126123386034214.614255709西安1314089131141393926544615.9135051211蘭州1445917136220955812120318.013489468西寧706656052788203787610.114629175銀川1178711013214621271213421.913497193烏魯木齊22508171372188127544118026.116509420南寧31886331683052030671593200037.8253126441?？?64334373235073467920593418.8186481825資料來源：中國統(tǒng)計年鑒2004解:用spss對37個地區(qū)聚類分析的步驟如5.8題，不同的方法在第4個步驟的Method子對話框中選擇不同的Cluster method。1.Between-group inkage（組間平均數(shù)連接距離）從上面的樹形圖可以直觀地觀察到，若用組間平均數(shù)連接距離將這些地區(qū)分為3類，則24（深圳）獨(dú)自為一類，10（上海）和16（廈門）為一類，剩余地區(qū)為一類。2.Wi