多元統(tǒng)計(jì)分析整理版.doc

1、.1、主成分分析的目的是什么？主成分分析是考慮各指標(biāo)間的相互關(guān)系，利用降維的思想把多個(gè)指標(biāo)轉(zhuǎn)換成較少的幾個(gè)相互獨(dú)立的、 能夠解釋原始變量絕大部分信息的綜合指標(biāo)，從而使進(jìn)一步研究變得簡(jiǎn)單的一種統(tǒng)計(jì)方法。 它的 目的是希望用較少的變量去解釋原始資料的大部分變異，即數(shù)據(jù)壓縮， 數(shù)據(jù)的解釋。常被用來尋找判斷事物或現(xiàn)象的綜合指標(biāo)，并對(duì)綜合指標(biāo)所包含的信息進(jìn)行適當(dāng)?shù)慕忉尅?、主成分分析基本思想？主成分分析就是設(shè)法將原來指標(biāo)重新組合成一組新的互相無關(guān)的幾個(gè)綜合指標(biāo)來代替原來指標(biāo)。同時(shí)根據(jù)實(shí)際需要從中選取幾個(gè)較少的綜合指標(biāo)盡可能多地反映原來的指標(biāo)的信息。x1， x2， ， x py1 ， y 2 ， y p1

2、2p12p設(shè) p 個(gè)原始變量為，新的變量 (即主成分 )為，主成分和原始變量之間的關(guān)系表示為?3、在進(jìn)行主成分分析時(shí)是否要對(duì)原來的p 個(gè)指標(biāo)進(jìn)行標(biāo)準(zhǔn)化？SPSS 軟件是否能對(duì)數(shù)據(jù)自動(dòng)進(jìn)行標(biāo)準(zhǔn)化？標(biāo)準(zhǔn)化的目的是什么？需要進(jìn)行標(biāo)準(zhǔn)化，因?yàn)橐蛩刂g的數(shù)值或者數(shù)量級(jí)存在較大差距，導(dǎo)致較小的數(shù)被淹沒，導(dǎo)Word 資料.致主成分偏差較大，所以要進(jìn)行數(shù)據(jù)標(biāo)準(zhǔn)化；進(jìn)行主成分分析時(shí)SPSS 可以自動(dòng)進(jìn)行標(biāo)準(zhǔn)化；標(biāo)準(zhǔn)化的目的是消除變量在水平和量綱上的差異造成的影響。求解步驟對(duì)原來的 p 個(gè)指標(biāo)進(jìn)行標(biāo)準(zhǔn)化，以消除變量在水平和量綱上的影響根據(jù)標(biāo)準(zhǔn)化后的數(shù)據(jù)矩陣求出相關(guān)系數(shù)矩陣求出協(xié)方差矩陣的特征根和特征向量確定主成分

3、，并對(duì)各主成分所包含的信息給予適當(dāng)?shù)慕忉尠姹径焊鶕?jù)我國(guó) 31 個(gè)省市自治區(qū)2006 年的 6 項(xiàng)主要經(jīng)濟(jì)指標(biāo)數(shù)據(jù)， 表二至表五，是 SPSS的輸出表， 試解釋從每張表可以得出哪些結(jié)論，進(jìn)行主成分分析，找出主成分并進(jìn)行適當(dāng)?shù)慕忉專海ㄏ旅媸荢PSS 的輸出結(jié)果，請(qǐng)根據(jù)結(jié)果寫出結(jié)論）表一： 數(shù)據(jù)輸入界面表二 ：數(shù)據(jù)輸出界面a ）Word 資料.此表為相關(guān)系數(shù)矩陣，表示的是各個(gè)變量之間的相關(guān)關(guān)系，說明變量之間存在較強(qiáng)的相關(guān)系數(shù)，適合做主成分分析。觀察各相關(guān)系數(shù)，若相關(guān)矩陣中的大部分相關(guān)系數(shù)小于0.3 ，則不適合作因子分析。表三 為各成分的總解釋方差表。component為各成分的序號(hào)；initial

4、 Eigenvalues是初始特征值，total 是各成分的特征值，% of variance是各成分的方差占總方差的百分比（貢獻(xiàn)率）。Cumulative% 是累計(jì)貢獻(xiàn)率， 表明前幾個(gè)成分可以解釋總方差的百分?jǐn)?shù)。Extraction sums是因子提取結(jié)果。一般來說，當(dāng)特征根需大于1 ，主成分的累計(jì)方差貢獻(xiàn)率達(dá)到80% 以上的前幾個(gè)主成分，都可以選作最后的主成分。由表可知，第一個(gè)主成分的特征根為3.963 ，方差貢獻(xiàn)率為66.052% ，這表示第一個(gè)主成分解釋了原始6 個(gè)變量66.052% 的信息，可以看出前兩個(gè)成分所解釋的方差占總方差的95.57% ，僅丟失了4.43% 的信息。因此最后結(jié)

5、果是提取兩個(gè)主成分。在extraction sums of squared loadings一欄，自動(dòng)提取了前兩個(gè)公因子，因?yàn)榍皟蒞ord 資料.個(gè)公因子就可以解釋總方差的絕大部分95.6% 。表四是表示各成分特征值的碎石圖。可以看出因子1 與因子2 ，以及因子2 與因子3之間的特征值之差值比較大。而因子3、 4 、 5 之間的特征值差值都比較小，可以初步得出保留兩個(gè)因子將能概括絕大部分信息。明顯的拐點(diǎn)為3，因此提取2 個(gè)因子比較合適。證實(shí)了表三中的結(jié)果。碎石圖 (ScreePlot) ，從碎石圖可以看到6 個(gè)主軸長(zhǎng)度變化的趨勢(shì)。實(shí)踐中，通常選擇碎石圖中變化趨勢(shì)出現(xiàn)拐點(diǎn)的前幾個(gè)主成分作為原先變

6、量的代表，該例中選擇前兩個(gè)主成分即可。表五是初始提取的成分矩陣，它顯示了原始變量與各主成分之間的相關(guān)系數(shù)，表中的每一列表示一個(gè)主成分作為原來變量線性組合的系數(shù)，也就是主成分分析模型中的系數(shù)a ij。Word 資料.比如，第一主成分所在列的系數(shù)0.670表示第1 個(gè)主成分和原來的第一個(gè)變量(人均GDP) 之間的線性相關(guān)系數(shù)。這個(gè)系數(shù)越大，說明主成分對(duì)該變量的代表性就越大。第一主成分（ component 1 ）對(duì)財(cái)政收入，固定資產(chǎn)投資，社會(huì)消費(fèi)品零售總額有絕對(duì)值較大的相關(guān)系數(shù)；第二主成分（component 2）對(duì)人均 gdp ，年末總?cè)丝冢用裣M(fèi)水平y(tǒng)10.670x10.976x20.896

7、x30.633x40.674x50.950x6y20.725x10.055x20.351x30.728x40.721x50.263x6有絕對(duì)值較大的相關(guān)系數(shù)?？梢苑謩e對(duì)其進(jìn)行命名。版本一：根據(jù)我國(guó)31 個(gè)省市自治區(qū)2006 年的 6 項(xiàng)主要經(jīng)濟(jì)指標(biāo)數(shù)據(jù)，進(jìn)行因子分析，對(duì)因子進(jìn)行命名和解釋，并計(jì)算因子得分和排序。表一數(shù)據(jù)輸入界面：表二因子分析SPSS 輸出界面a）KMO 統(tǒng)計(jì)量為0.695 ，接近 0.7 ，表明 6 個(gè)變量之間有較強(qiáng)的相關(guān)關(guān)系。適合作因子分析。Bartlett 球度檢驗(yàn)統(tǒng)計(jì)量為277.025 。檢驗(yàn)的 P 值接近 0，拒絕原假設(shè)，認(rèn)為相關(guān)系數(shù)與單位陣有顯著差異?？梢砸蜃臃治?。W

8、ord 資料95.57%.表三因子分析SPSS 輸出界面b）表三為公因子提取前和提取后的共同度表，initial列提取因子前的各變量的共同度；extraction列是按特定條件（如特征值1 ）提取公因子時(shí)的共同度，表中的共同度都很高，說明提取的成分能很好的描述這些變量。所有變量的共同度量都在80% 以上，因此，提取出的公因子對(duì)原始變量的解釋能力應(yīng)該是很強(qiáng)的。變量 xi 的信息能夠被k 個(gè)公因子解釋的程度表四因子分析SPSS 輸出界面c）表四為各成分的總解釋方差。Component表示按特征值大小排序的因子編號(hào)。Initial 下分別給出了相關(guān)系數(shù)矩陣的特征值、方差貢獻(xiàn)率和累計(jì)方差貢獻(xiàn)率。Ext

9、raction是所提取的公因子未經(jīng)旋轉(zhuǎn)情況下的特征值，方差貢獻(xiàn)了和累計(jì)方差貢獻(xiàn)率。Rotation項(xiàng)下是旋轉(zhuǎn)后的?！癛otation Sums of Squared Loadings”部分是因子旋轉(zhuǎn)后對(duì)原始變量方差的解釋情況。旋轉(zhuǎn)后的累計(jì)方差沒有改變，只是兩個(gè)因子所解釋的原始變量的方差發(fā)生了一些變化。Word 資料.表明提取的兩個(gè)公共因子的方差可以解釋總方差的95.57% 。第 j 個(gè)公因子對(duì)變量xi 的提供的方差總和，反映第j 個(gè)公因子的相對(duì)重要程度旋轉(zhuǎn)后成分矩陣。第一個(gè)因子與年末總?cè)丝?、固定資產(chǎn)投資、社會(huì)消費(fèi)品零售總額、財(cái)政收入這幾個(gè)載荷系數(shù)較大，主要解釋了這幾個(gè)變量。從實(shí)際意義上看，可以

10、把因子1 姑且命名為“經(jīng)濟(jì)水平”因子。而第二個(gè)因子與人均GDP 、居民消水平這兩個(gè)變量的載荷系數(shù)較大，主要解釋了這兩個(gè)變量，從實(shí)際意義看，可以將因子2 姑且命名為“消費(fèi)水平”因子表五 是因子得分系數(shù)矩陣。根據(jù)因子得分和原始變量的標(biāo)準(zhǔn)化值可計(jì)算每個(gè)觀測(cè)量的各因子Word 資料.的分?jǐn)?shù)。4、因子分析基本思想？因子分析是利用降維的思想，由研究原始變量相關(guān)矩陣內(nèi)部的依賴關(guān)系出發(fā)，把一些具有錯(cuò)綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個(gè)綜合因子的一種多變量統(tǒng)計(jì)分析方法。因子分析的基本思想是根據(jù)相關(guān)性的大小將原始變量分組，使得組內(nèi)的變量之間相關(guān)性較高， 而不同組的變量之間相關(guān)性較低。每組變量代表一個(gè)基本結(jié)構(gòu)，并用一個(gè)不

11、可觀測(cè)的綜合變量表示， 這個(gè)基本結(jié)構(gòu)就稱為公共因子。對(duì)于所研究的某一具體問題，原始變量可以分解為兩部分之和的形式，一部分是少數(shù)幾個(gè)不可測(cè)的所謂公共因子的線性函數(shù)，另一部分是與公共因子無關(guān)的特殊因子。x1， x 2， x k12k設(shè) p個(gè)原始變量為f 1， f2， f m12m為x1a11 f1a12 f 2a1m f mx2a21 f1a22 f 2a2 m f m， 要 尋 找 的m個(gè) 因 子 (m k)，因子和原始變量之間的關(guān)系表達(dá)式為？e1e2xkak1 f1 ak2 f 2akm fm emWord 資料.系數(shù) a ij 為第個(gè) i 變量與第k 個(gè)因子之間的線性相關(guān)系數(shù)，反映變量與因子

12、之間的相關(guān)程度，也稱為載荷 (loading) 。由于因子出現(xiàn)在每個(gè)原始變量與因子的線性組合中，因此也稱為 公因子。為特殊因子，代表公因子以外的因素影響5、因子分析的目的是什么？因子分析是從多個(gè)變量指標(biāo)中選擇出少數(shù)幾個(gè)綜合變量指標(biāo)，以較少的幾個(gè)因子反映原始資料的大部分信息的一種降維的多元統(tǒng)計(jì)方法。求解步驟1) 對(duì)原始數(shù)據(jù)標(biāo)準(zhǔn)化2) 建立相關(guān)系數(shù)矩陣 R（因子提?。?) 求 R 的單位特征根與特征向量 U ；4) 因子旋轉(zhuǎn)求因子載荷矩陣 A ；5) 寫出因子模型 X=AF+E6）建立因子得分矩陣P7）寫出因子得分模型F=P X(因子提取的方法：主成分法、不加權(quán)最小平方法、加權(quán)最小平方法、最大似然

13、法、主軸因子法 ;旋轉(zhuǎn)方法為：方差最大正交旋轉(zhuǎn)、四次方最大正交旋轉(zhuǎn)、平方最大正交旋轉(zhuǎn)、斜交旋轉(zhuǎn)、 Promax ：該方法在方差最大正交旋轉(zhuǎn)的基礎(chǔ)上進(jìn)行斜交旋轉(zhuǎn))6、什么是變量共同度？寫出變量共同度的表達(dá)式。變量 xi 的信息能夠被k 個(gè)公因子解釋的程度，用k 個(gè)公因子對(duì)第i 個(gè)變量 xi 的方差貢獻(xiàn)率表示mp222222， ， ，Diai1ai 2aimaijhik)aij ( j 1 2j 1i 17、什么是公共因子方差貢獻(xiàn)率？寫出公共因子方差貢獻(xiàn)率表達(dá)式。Word 資料.第 j 個(gè)公因子對(duì)變量xi 的提供的方差總和，反映第j 個(gè)公因子的相對(duì)重要程度k22， ， ，p)g jaij(i 1

14、2j18、因子分析中KMO 檢驗(yàn)主要檢驗(yàn)什么？KMO 越接近 1，變量間的 相關(guān)性 越強(qiáng)KMO 在 0.8 以上，說明該問題適合做因子分析。KMO 統(tǒng)計(jì)量在0.7 以上時(shí)，因子分析效果較好；KMO 統(tǒng)計(jì)量在0.5 以下時(shí)，因子分析效果很差KMO（ Kaiser-Meyer-Olkin)檢驗(yàn)統(tǒng)計(jì)量是用于比較原始變量間簡(jiǎn)單相關(guān)系數(shù)和偏相關(guān)系數(shù)的指標(biāo)。當(dāng)所有變量間的簡(jiǎn)單相關(guān)系數(shù)平方和遠(yuǎn)遠(yuǎn)大于偏相關(guān)系數(shù)平方和時(shí)，KMO 值接近 1 ，KMO 越接近 1，變量間的相關(guān)性越強(qiáng)。當(dāng)所有變量間的簡(jiǎn)單相關(guān)系數(shù)平方和接近0時(shí)， KMO 值接近 0.KMO 值越接近于0,意味著變量間的相關(guān)性越弱，原有變量越不適合作

15、因子分析。 Kaiser給出了常用的kmo 度量標(biāo)準(zhǔn)：0.9 以上表示非常適合；0.8 表示適合； 0.7 表示一般；0.6 表示不太適合；0.5 以下表示極不適合。Bartlett 球度檢驗(yàn)： 以變量的相關(guān)系數(shù)矩陣為基礎(chǔ)，假設(shè)相關(guān)系數(shù)矩陣是單位陣(對(duì)角線元素不為 0 ，非對(duì)角線元素均為0) 。如果相關(guān)矩陣是單位陣，則各變量是獨(dú)立的，無法進(jìn)行因子分析。9、因子分析中公因子個(gè)數(shù)確定的依據(jù)是什么？用公因子方差貢獻(xiàn)率提取：一般累計(jì)方差貢獻(xiàn)率達(dá)到80% 以上的前幾個(gè)因子可以作為最后的公因子用特征根提?。?一般要求因子對(duì)應(yīng)的特征根要大于1，因?yàn)樘卣鞲∮? 說明該公因子的解釋力度太弱，還不如使用原始變量

16、的解釋力度大Word 資料.碎石圖 中變化趨勢(shì)出現(xiàn)拐點(diǎn)的前幾個(gè)主成分10 、因子分析中因子旋轉(zhuǎn)(factor rotation)的目的是什么？什么是因子得分(factor score) ？因子旋轉(zhuǎn)的目的使得因子載荷系數(shù)盡可能兩極分化，使因子載荷系數(shù)向1 或 0 靠近，使得某一個(gè)變量值在某一個(gè)因子上的載荷系數(shù)大，從而更清楚地看出各因子與原始變量的相關(guān)性大小，使因子的含義更加清楚，以便于對(duì)因子的命名和解釋。因子得分 就是每個(gè)觀測(cè)量的共同因子的值。根據(jù)因子得分系數(shù)和原始變量的標(biāo)準(zhǔn)化值可以計(jì)算每個(gè)觀測(cè)量的各因子的分?jǐn)?shù)，因子得分=x1* 對(duì)應(yīng)權(quán)重 +x2* 對(duì)應(yīng)權(quán)重 +xn* 對(duì)應(yīng)權(quán)重，根據(jù)因子得分我們

17、可以寫出因子表達(dá)式。f1b11x1 b12 x2b1 p xpf 2b21x1 b22 x2b2 p xpf kbk1 x1 bk2 x2bkp xp因子得分是各變量的線性組合11 、簡(jiǎn)述因子分析與主成分分析的區(qū)別。主成分分析和因子分析是兩種把變量維度降低以便于描述、理解和分析的方法。1 在 SPSS 分析中，因子分析必須進(jìn)行因子旋轉(zhuǎn)，主成分分析不一定要旋轉(zhuǎn)。故公共因子往往可以找到實(shí)際意義，而主成分一般不能解釋實(shí)際意義；2 因子分析法是對(duì)你所分析的變量的抽?。ㄒ蜃樱?，主成分分析法是對(duì)你所分析的變量的概括（指標(biāo)） ；3 因子模型中除了公共因子還有特殊因子，公共因子只解釋了原變量的部分方差，而主

18、成分解釋了原變量全部方差；4 因子分析是把變量表示成各因子的線性組合，而主成分則是把主成分表示成各變量的線性組合；Word 資料.5 主成分分析中不需要有一些專門假設(shè)，因子分析則需要一些假設(shè)。因子分析的假設(shè)包括： 各個(gè)共同因子之間不相關(guān)， 特殊因子之間也不相關(guān)， 共同因子和特殊因子之間也不相關(guān)；6 提取主因子的方法不僅有主成分法，還有極大似然法，基于這些不同算法得到的結(jié)果一般也不同。而主成分只能用主成分法提??；7 主成分分析中，當(dāng)給定的協(xié)方差矩陣或者相關(guān)矩陣的特征值唯一時(shí)，主成分一般是固定的；而因子分析中，因子不是固定的，可以旋轉(zhuǎn)得到不同的因子；8 在因子分析中，因子個(gè)數(shù)需要分析者指定（ sp

19、ss 根據(jù)一定的條件自動(dòng)設(shè)定，只要是特征值大于 1 的因子進(jìn)入分析） ，而指定的因子數(shù)量不同而結(jié)果不同。在主成分分析中，成分的數(shù)量是一定的，一般有幾個(gè)變量就有幾個(gè)主成分。12 、聚類分析基本思想及分類聚類分析就是按照對(duì)象之間的“相似 ”程度把對(duì)象進(jìn)行分類。聚類分析的“對(duì)象 ”可以是所觀察的多個(gè)樣本，也可以是針對(duì)每個(gè)樣本測(cè)得的多個(gè)變量。對(duì)樣品的分類稱為Q 型聚類；對(duì)變量的分類，則稱為R 型聚類Q 聚類是根據(jù)被觀測(cè)對(duì)象的各種特征，即反映被觀測(cè)對(duì)象的特征的各變量值進(jìn)行分類。R 聚類是根據(jù)所研究的問題選擇部分變量對(duì)事物的某一方面進(jìn)行研究。按對(duì)象的 “相似 ”程度分類對(duì)變量進(jìn)行聚類可以用夾角余弦、Pea

20、rson相關(guān)系數(shù)等工具，也稱為相似系數(shù)對(duì)樣本聚類則使用“距離 ”求解步驟1）先對(duì)數(shù)據(jù)進(jìn)行變換處理，消除量綱對(duì)數(shù)據(jù)的影響；2 ）認(rèn)為各樣本點(diǎn)自成一類( 即 n 個(gè)樣本點(diǎn)一共有n 類 )，然后計(jì)算各樣本點(diǎn)之間的距離，Word 資料.并將距離最近的兩個(gè)樣本點(diǎn)并成一類；3）選擇并計(jì)算類與類之間的距離，并將距離最近的兩類合并；4）重復(fù)上面作法直至所有樣本點(diǎn)歸為所需類數(shù)為止；5）最后繪制聚類圖。13 、相似性的度量1） 在對(duì)樣本進(jìn)行分類時(shí)，度量樣本之間的相似性使用點(diǎn)間距離。pyi ) 2歐式距離(xii1p絕對(duì)值距離x iy ii 1切比雪夫距離maxx iy ipqq明氏距離x iy ii1蘭氏距離2）

21、在對(duì)變量進(jìn)行分類時(shí)，度量變量之間的相似性常用相似系數(shù)，測(cè)度方法有xi yi夾角余弦cosxyixi2yi2ii( xix )( yiy)Pearson相關(guān)系數(shù)rxyi( xix )2( yiy)2ii夾角余弦，如果i錯(cuò)誤！未找到引用源。與 x j 錯(cuò)誤！未找到引用源。比較相似，則他x們的夾角接近0，從而 cos xy 錯(cuò)誤！未找到引用源。接近 1。Pearson 相關(guān)系數(shù)，相關(guān)系數(shù)越接近于1 或 -1，越相似；彼此無關(guān)的變量，他們的相關(guān)系數(shù)接近0。Word 資料.15 、系統(tǒng)聚類和快速聚類的特點(diǎn)分別是什么？（版本一）系統(tǒng)聚類事先不確定要分多少類，而是先把每一個(gè)對(duì)象作為一類，然后一層一層進(jìn)行分類

22、。根據(jù)運(yùn)算的方向不同，層次聚類法又分為合并法和分解法，兩種方法的運(yùn)算原理一樣，只是方向相反?？焖倬垲惙ㄊ歉鶕?jù)事先確定的K 個(gè)類別反復(fù)迭代直到把每個(gè)樣本分到指定的類別中。類別數(shù)目的確定具有一定的主觀性，究竟分多少類合適， 取決于研究者對(duì)研究問題的了解程度、相關(guān)知識(shí)和經(jīng)驗(yàn)?？焖倬垲愄攸c(diǎn)：處理速度快，占用內(nèi)存少，適用于大樣本的聚類分析。16 、七個(gè)樣品之間的相似系數(shù)矩陣如下，試對(duì)這七個(gè)樣品進(jìn)行聚類，并畫出譜系圖。12345671 120.51130.940.83140.810.910.86150.970.010.540.74160.200.670.920.150.52170.240.410.200.

23、300.160.241答案：X10.97X50.94X30.51X20.91X40.67X60.24X717 、層次聚類法（合并法和分解法）計(jì)算類間距離有多種方法，試寫出兩種方法。Word 資料.最短距離法（最近鄰法）：首先合并最近的或最相似的兩類，用兩類間最近點(diǎn)的距離代表兩類之間的距離。最長(zhǎng)距離法：用兩類間最遠(yuǎn)點(diǎn)的距離代表兩類之間的距離。重心法：用兩類重心之間的距離表示兩類之間的距離。組間平均距離法：SPSS 默認(rèn)，是用兩類中間各個(gè)數(shù)據(jù)點(diǎn)之間的距離的平均來表示兩類之間的距離，既不是最大距離也不是最小距離。離差平方和距離法：常用，使各類別中的離差平方和較小，而不同類別之間的離差平方和較大。18

24、 、 K- 均值聚類是針對(duì)樣品（CASE ）的聚類還是針對(duì)變量的聚類？K- 均值聚類是針對(duì)樣品（case ）的聚類，需要單獨(dú)做標(biāo)準(zhǔn)化處理，而后再進(jìn)行聚類。19 、判別分析簡(jiǎn)述 Fisher s 判別的原理。建立Fisher 判別函數(shù)的準(zhǔn)則是什么？（ Fisher 判別，亦稱典則判別，是將自變量投影到較低維度的空間， 再進(jìn)行分類。相當(dāng)于將自變量先提取幾個(gè)主成分，只需根據(jù)主成分分類。Fisher 準(zhǔn)則：使得綜合指標(biāo) Z 在 A 類的均數(shù) ZA 與在 B 類的均數(shù)ZB 的差異ZA ZB 盡可能大，而兩類內(nèi)綜合指標(biāo) Z 的變異 SA2SB2盡可能小）Word 資料.解讀 spss 輸出結(jié)果。判別分析是

25、在已知研究對(duì)象分成若干類型并已取得各種類型的一批已知樣品的觀測(cè)數(shù)據(jù)，在此基礎(chǔ)上根據(jù)某些準(zhǔn)則建立判別式，然后對(duì)未知類型的樣品進(jìn)行判別分類。求解步驟20 、常用判別方法1）距離判別法 ：基本思想是，先根據(jù)已知分類的數(shù)據(jù)，分別計(jì)算各類的重心，然后計(jì)算待判樣本與各類的距離，與哪一類距離最近，就判待判樣本x 屬于哪一類。判別函數(shù)為： W(x)=D(x,G2)-D(x,G1)xG1 , 當(dāng) W ( x)0xG2 , 當(dāng) W ( x)0判別準(zhǔn)則為：待判，當(dāng) W ( x)0注意： 距離一般采用馬氏距離；適合對(duì)自變量均為連續(xù)變量的情況進(jìn)行分類；對(duì)各類的分布無特定的要求。2） Fisher 判別法 ：基本思想是通

26、過將多維數(shù)據(jù)投影至某個(gè)方向上，投影的原則是將總體與總體之間盡可能分開，然后再選擇合適的判別規(guī)則，將待判的樣本進(jìn)行分類判別。所謂的投影實(shí)際上是利用方差分析的思想構(gòu)造也一個(gè)或幾個(gè)超平面，使得兩組間的差別最大，每組內(nèi)Word 資料.的差別最小。費(fèi)歇爾判別函數(shù) 為：y ( X1 X 2 ) ? 1 Xx G1 y1 y2 , y y0xG2y1y2 , yy0xG2y1y2 , yy0其判別準(zhǔn)則是 ：xG1y1y2 , yy0Fisher 判別對(duì)各類分布、方差都沒有限制。但當(dāng)總體個(gè)數(shù)較多時(shí)，計(jì)算比較麻煩。建立 Fisher 判別函數(shù)的準(zhǔn)則是：使得綜合指標(biāo)Z在A類的均數(shù) ZA與在 B 類的均數(shù) ZB 的

27、差異Z AZ B盡可能大，而兩類內(nèi)綜合指標(biāo)Z 的變異SA2SB2盡可能小3） Bayes判別法 ：基本思想是：設(shè)有兩個(gè)總體，它們的先驗(yàn)概率分別為q1 、q2 ，各總體的密度函數(shù)為f1(x) 、f2(x) ，在觀測(cè)到一個(gè)樣本x 的情況下， 可用貝葉斯公式計(jì)算它來自第kP(Gk / x)qk f k ( x)k 1,22qk f k ( x)個(gè)總體的后驗(yàn)概率為：k 1一種常用判別準(zhǔn)則是：對(duì)于待判樣本x，如果在所有的P(Gk/x) 中 P(Gh/x) 是最大的，則判定 x 屬于第 h 總體。通常會(huì)以樣本的頻率作為各總體的先驗(yàn)概率。Bayes 判別主要用于多類判別，它要求總體呈多元正態(tài)分布4）逐步判別

28、法 ：逐步判別法與逐步回歸法的基本思想類似，都是逐步引入變量，每引入一個(gè)“最重要”的變量進(jìn)入判別式，同時(shí)也考慮較早引入判別式的某些變量，若其判別能力不顯著了， 應(yīng)及時(shí)從判別式中剔除去，直到判別式中沒有不重要的變量需要剔除，且也沒有重要的變量要引入為止。21 、對(duì) Bayes 判別法與 Fisher判別法作比較（ 1）當(dāng) k 個(gè)總體的均值向量(1)( 2)(k )x , x, x 共線性程度較高時(shí)， Fisher 判別法可用較少的判別函數(shù)進(jìn)行判別，因而比Bayes判別法簡(jiǎn)單。另外，F(xiàn)isher 判別法未對(duì)總體的分布提出什么特定的要求。（ 2）Fisher 判別法的不足是它不考慮各總體出現(xiàn)概率的大

29、小，也給不出預(yù)報(bào)的后驗(yàn)概Word 資料.率及錯(cuò)判率的估計(jì)以及錯(cuò)判之后造成的損失。而這不足恰是Bayes 判別法的優(yōu)點(diǎn)，但值得指出的是，如果給定的先驗(yàn)概率不符合客觀實(shí)際時(shí)，Bayes 判別法也可能會(huì)導(dǎo)致錯(cuò)誤的結(jié)論。22 、簡(jiǎn)述判別分析與聚類分析的區(qū)別。判別分析已知研究對(duì)象分為若干個(gè)類別，并且已經(jīng)取得每一類別的若干觀測(cè)數(shù)據(jù)，在此基礎(chǔ)上尋求出分類的規(guī)律性，建立判別準(zhǔn)則，然后對(duì)未知類別的樣品進(jìn)行判別分類。聚類分析一批樣品劃分為幾類事先并不知道，需要通過聚類分析來給以確定分幾種類型。判別分析與聚類分析不同點(diǎn)在于，判別分析要求已知一系列反映事物特征的數(shù)值變量的值，并且已知各個(gè)體的分類。28 、 K- 均值

30、聚類是否需要在聚類之前先做標(biāo)準(zhǔn)化處理？K-均值聚類是針對(duì)樣品（case ）的聚類，需要單獨(dú)做標(biāo)準(zhǔn)化處理，而后再進(jìn)行聚類。各變量的取值不應(yīng)有數(shù)量級(jí)上的過大差異，否則會(huì)對(duì)分類結(jié)果產(chǎn)生較大影響。這時(shí)需要對(duì)變量進(jìn)行標(biāo)準(zhǔn)化處理(SPSS提供的層次聚類法中在聚類時(shí)可以選擇對(duì)變量做標(biāo)準(zhǔn)化處理，而K-均值聚類法則需要單獨(dú)做標(biāo)準(zhǔn)化處理，爾后再進(jìn)行聚類)各變量間不應(yīng)有較強(qiáng)的相關(guān)關(guān)系。若兩個(gè)強(qiáng)相關(guān)的變量同時(shí)參與聚類分析，在測(cè)度距離時(shí)，就加大了它們的貢獻(xiàn)，而其他變量則相對(duì)被削弱33 、簡(jiǎn)述多元線性回歸中，寫出兩種多重共線性的診斷方法和解決方案。診斷方法： 檢測(cè)多重共線性的最簡(jiǎn)單的一種辦法是計(jì)算模型中各對(duì)自變量之間的相

31、關(guān)系數(shù)，并對(duì)各相關(guān)系數(shù)進(jìn)行顯著性檢驗(yàn)。若有一個(gè)或多個(gè)相關(guān)系數(shù)顯著，就表示模型中所用的自變量之間相關(guān)，存在著多重共線性。如果出現(xiàn)下列情況，暗示存在多重共線性模型中各對(duì)自變量之間顯著相關(guān)當(dāng)模型的線性關(guān)系檢驗(yàn)(F 檢驗(yàn) )顯著時(shí)，幾乎所有回歸系數(shù)的t 檢驗(yàn)卻不顯著回歸系數(shù)的正負(fù)號(hào)與預(yù)期的相反。解決方案：Word 資料.將一個(gè)或多個(gè)相關(guān)的自變量從模型中剔除，使保留的自變量盡可能不相關(guān)；如果要在模型中保留所有的自變量，則應(yīng)避免根據(jù)t 統(tǒng)計(jì)量對(duì)單個(gè)參數(shù)進(jìn)行檢驗(yàn)；對(duì)因變量值的推斷(估計(jì)或預(yù)測(cè) )的限定在自變量樣本值的范圍內(nèi)。34 、一家大型商業(yè)銀行在多個(gè)地區(qū)設(shè)有分行，為弄清楚不良貸款形成的原因，抽取了該銀行

32、所屬的25 家分行 2002 年的有關(guān)業(yè)務(wù)數(shù)據(jù)。試建立不良貸款y 與貸款余額x1 、累計(jì)應(yīng)收貸款 x2 、貸款項(xiàng)目個(gè)數(shù)x3 和固定資產(chǎn)投資額x4 的線性回歸方程，并解釋各回歸系數(shù)的含義上表是計(jì)算機(jī)輸出的結(jié)果。試寫出多元線性回歸模型，并進(jìn)行統(tǒng)計(jì)學(xué)檢驗(yàn)。概述表中， 看到 R Square=0.7976，Adjusted R Square=0.7571表示模型的擬合優(yōu)度很好。方差分析表中， 對(duì)方程的顯著性檢驗(yàn)F 對(duì)應(yīng)的 sig=1.035E-06，小于 0.05 ，說明回歸方程有統(tǒng)計(jì)意義。Coefficients是各個(gè)變量的系數(shù)，由 P-value 值可以判定， 只有變量1 的 p-value 小于

33、 0.05 ，說明變量 1 與因變量y 有顯著相關(guān)關(guān)系。Word 資料.回歸模型： Y=0.04*X Variable 1-1.0216.38 、簡(jiǎn)述 logistic 回歸的原理和適用條件。Logistic 回歸，是指因變量為二級(jí)計(jì)分或二類評(píng)定的回歸分析。因變量 Y 是一個(gè)二值變量自變量 X1 ，X2 ， ， XmP 表示在 m 個(gè)自變量作用下事件發(fā)生的概率。P( y 1/ x1, x2 .xm )1e( 0 1x1 . mxm )1適用條件：因變量只有兩個(gè)值，發(fā)生（是）或者不發(fā)生（不是）。自變量數(shù)據(jù)最好為多元正態(tài)分布，自變量間的共線性會(huì)導(dǎo)致估計(jì)偏差。實(shí)際上屬于判別分析，因擁有很差的判別效率

34、而不常用。適用于流行病學(xué)資料的因素分析（驗(yàn)室中藥物的劑量-反應(yīng)關(guān)系、臨床試驗(yàn)評(píng)價(jià)、病的預(yù)后因素分析。41 、（匯總歸納）聚類分析基本原理：將個(gè)體（樣品）或者對(duì)象（變量）按相似程度（距離遠(yuǎn)近）劃分類別，使得同一類中的元素之間的相似性比其他類的元素的相似性更強(qiáng)。目的在于使類間元素的同質(zhì)性最大化和類與類間元素的異質(zhì)性最大化。常用聚類方法：系統(tǒng)聚類法，K- 均值法，模糊聚類法，有序樣品的聚類，分解法，加入法。注意事項(xiàng)： 1. 系統(tǒng)聚類法可對(duì)變量或者記錄進(jìn)行分類，K- 均值法只能對(duì)記錄進(jìn)行分類；2. K- 均值法要求分析人員事先知道樣品分為多少類；3. 對(duì)變量的多元正態(tài)性，方差齊性等要求較高。Word 資料.應(yīng)用領(lǐng)域：細(xì)分市場(chǎng)，消費(fèi)行為劃分，設(shè)計(jì)抽樣方案等判別分析基本原理：從已知的各種分類情況中總結(jié)規(guī)律（訓(xùn)練出判別函數(shù)），當(dāng)新樣品進(jìn)入時(shí)，判斷其與判別函數(shù)之間的相似