SPSS進行主成分分析

1、實驗七、利用SPSS進行主成分分析【例子】以全國31個省市的8項經(jīng)濟指標為例，進行主成分分析第一步：錄入或調(diào)入數(shù)據(jù)（圖1）國啊生產(chǎn)居民淮費固立說嚴職T1*貨物周轉(zhuǎn)弟M格I育品專售T如產(chǎn)值1139<692505,00519.01614400373.£0117.30112.60B43.432夭律92QJ12720.00345.466601J00342.90115.20110.G0SB2勾3卞北2849.521258.007O4.37妊田002033.0115.20115.301234.354山西1092.49150.002?0.JD4721717.0116.90116.60K37.

2、2558G2.891307.00250.294134JOO791.70117.60116.6041939E遼寧2793.372397.00397.994G1100137170116.1L114.0U104O.S571129.201872UU320.4b43000497.40116.011420762.47a2UH.53233400414SM02480116.101U30124LI?9抽佃5343.UU996.4BIL/JULI20?AJna.71113.001b42.95105155.251926.001434.95狂43ULIILLbtLIns.ei114.30ATJbol11浙江2249.

3、001006.39661900764.40I1&EL113.50916.531220曲日126<00474.004E09UJ如賺UI14SC112.70GQ4.14132160.512320.00653.9768E7BEDS.30ne20114.40433.5714江西1206.11)102DO332.844211<11.70I1E.SQ116.90571.3415山5002.31527.DU122955614500I1S6.60117.61114.20IB何TS3UUJJJIlad.uu670J5壯44.LU1S744D11&.Q114.9013B75GJ17期北

4、2J91.421627.UU57I.5B4tli>DO849.00120.00116601220.Z213湖商21?6.TL1408no422.514797IUI1.EOii.oa115.50343j631?廣東5361J2001冏®匪5000E矩弍1I14.0C1r.501335.3520丁西1506.161314.DU2.536105656.COI吒40116.10554.3721361,17IdKOO196356340UJ2;210113.6011'.30(1.3322TOT3534.001261.DO922.54464500902.-0iiafid117.001

5、431.3123&30.07942.00150.84437500301.10121.4口117.20324.7221i206.ea161.0033inD6I49M3lu.<011.30118.10716.652555.531110.0017.877.282.CO4.0I17.301U906.57茁1000031208003QD27£9600500.=0112D匚117.00BOO3B27553351007nn114316493m607.CO119ea1I6.5D4387973IG6311師no477B573m61EOnaoo116JO105BD7=(16A751355n

6、n619B507001；1snI1710115301144U30新鑑334S71489DO376S5WSIT339.CO119.701167042076圖1原始數(shù)據(jù)（未經(jīng)標準化）第二步：打開“因子分析”對話框。沿著主菜單的“AnalyzeDataReductionFactor"的路徑（圖2）打開因子分析選項框（圖3）旨全國他介省帀區(qū)經(jīng)if發(fā)展的日項措標-如55DataEditorkEdit的州£ataIransfcrm|AnalyzeSrptisFties拠nth刊Help國副團聞旳|c|因P;國內(nèi)生產(chǎn)E1北京1394一E|2天津920.1r32349上4山西1092rs蒙

7、832上6遼寧2753.2ReportsDescriptiveStatists卜CompareMear»s卜GeneralLrerModel卜Correlate卜因eg咋tsion卜Classi卜二職工工贄118144.006650100BetaRedaction卜|FactorinI5cale卜MonparmetricTesti卜MultipleResponse卜u斗讓IUli34134.00e491100圖2打開因子分析對話框的路徑圖3因子分析選項框第三步：選項設(shè)置。首先，在源變量框中選中需要進行分析的變量，點擊右邊的箭頭符號，將需要的變量調(diào)入變量（Variables）欄中（圖3

8、）。在本例中，全部8個變量都要用上，故全部調(diào)入（圖4）。因無特殊需要，故不必理會“Valu”欄。下面逐項設(shè)置。toFAnalysisVariables：21妙國內(nèi)生產(chǎn)吻居民消費矽固定資產(chǎn)參職工工資斜算物周轉(zhuǎn)商品零售工業(yè)產(chǎn)值A(chǔ)lOK|PasteBesetCancelHelpSelectionVariable:ORotation.圖4將變量移到變量欄以后1. 設(shè)置Descriptives描述選項。單擊Descriptives按鈕（圖4）,彈出Descriptives對話框（圖5）。圖5描述選項框在Statistics統(tǒng)計欄中選中Univariatedescriptives復(fù)選項，則輸出結(jié)果中將會給

9、出原始數(shù)據(jù)的抽樣均值、方差和樣本數(shù)目（這一欄結(jié)果可供檢驗參考）；選中Initialsolution復(fù)選項，則會給出主成分載荷的公因子方差（這一欄數(shù)據(jù)分析時有用）在CorrelationMatrix欄中，選中Coefficients復(fù)選項，則會給出原始變量的相關(guān)系數(shù)矩陣（分析時可參考）；選中Determinant復(fù)選項，則會給出相關(guān)系數(shù)矩陣的行列式，如果希望在Excel中對某些計算過程進行了解，可選此項，否則用途不大。其它復(fù)選項一般不用，但在特殊情況下可以用到（本例不選）。設(shè)置完成以后，單擊Continue按鈕完成設(shè)置（圖5）。2. 設(shè)置Extraction選項。打開Extraction對話框（

10、圖6）。因子提取方法主要有7種，在Method欄中可以看到，系統(tǒng)默認的提取方法是主成分（PrincipalComponents）,因此對此欄不作變動，就是認可了主成分分析方法。在Analyze欄中，選中Correlationmatrix復(fù)選項，則因子分析基于數(shù)據(jù)的相關(guān)系數(shù)矩陣進行分析；如果選中Covarianeematrix復(fù)選項，則因子分析基于數(shù)據(jù)的協(xié)方差矩陣進行分析。對于主成分分析而言，由于數(shù)據(jù)標準化了，這兩個結(jié)果沒有分別，因此任選其一即可。在Display欄中，選中Unrotatedfactorsolution（非旋轉(zhuǎn)因子解）復(fù)選項，則在分析結(jié)果中給出未經(jīng)旋轉(zhuǎn)的因子提取結(jié)果。對于主成分分

11、析而言，這一項選擇與否都一樣；對于旋轉(zhuǎn)因子分析，選擇此項，可將旋轉(zhuǎn)前后的結(jié)果同時給出，以便對比。選中ScreePlot（“山麓”圖），則在分析結(jié)果中給出特征根按大小分布的折線圖（形如山麓截面，故得名），以便我們直觀地判定因子的提取數(shù)量是否準確。在Extract欄中，有兩種方法可以決定提取主成分（因子）的數(shù)目。一是根據(jù)特征根（EigenvalueS的數(shù)值，系統(tǒng)默認的是'c=1。我們知道，在主成分分析中，主成分得分的方差就是對應(yīng)的特征根數(shù)值。如果默認乙二1，則所有方差大于等于1的主成分將被保留，其余舍棄。如果覺得最后選取的主成分數(shù)量不足，可以將'c值降低，例如取=0.9;如果認為最

12、后的提取的主成分數(shù)量偏多，則可以提高-c值，例如取c=1.1。主成分數(shù)目是否合適，要在進行一輪分析以后才能肯定。因此，特征根數(shù)值的設(shè)定，要在反復(fù)試驗以后才能決定。一般而言，在初次分析時，最好降低特征根的臨界值（如取c=0.8），這樣提取的主成分將會偏多，根據(jù)初次分析的結(jié)果，在第二輪分析過程中可以調(diào)整特征根的大小。第二種方法是直接指定主成分的數(shù)目即因子數(shù)目，這要選中Numberoffactors復(fù)選項。主成分的數(shù)目選多少合適？開始我們并不十分清楚。因此，首次不妨將數(shù)值設(shè)大一些，但不能超過變量數(shù)目。本例有8個變量，因此，最大的主成分提取數(shù)目為8,不得超過此數(shù)。在我們第一輪分析中，采用系統(tǒng)默認的方法

13、提取主成分。圖6提取對話框需要注意的是：主成分計算是利用迭代（Iterations）方法，系統(tǒng)默認的迭代次數(shù)是25次。但是，當數(shù)據(jù)量較大時，25次迭代是不夠的，需要改為50次、100次乃至更多對于本例而言，變量較少，25次迭代足夠，故無需改動。設(shè)置完成以后，單擊Continue按鈕完成設(shè)置（圖6）。3. 設(shè)置Scores設(shè)置。選中Saveasvariable欄,則分析結(jié)果中給出標準化的主成分得分（在數(shù)據(jù)表的后面）至于方法復(fù)選項，對主成分分析而言，三種方法沒有分別，采用系統(tǒng)默認的“回歸”（Regression法即可。FactorAnalysis:FactorPSaveasvariablesMet

14、hod皿RegiessionLBartlett廠Anderson-RubinMDisplayfactorscorecoefficientmatrix圖7因子得分對話框選中Displayfactorscorecoefficientmatrix,則在分析結(jié)果中給出因子得分系數(shù)矩陣及其相關(guān)矩陣。設(shè)置完成以后，單擊Continue按鈕完成設(shè)置（圖7）。4. 其它對于主成分分析而言，旋轉(zhuǎn)項（Rotation）可以不必設(shè)置；對于數(shù)據(jù)沒有缺失的情況下，Option項可以不必理會。全部設(shè)置完成以后，點擊OK確定，SPSS艮快給出計算結(jié)果（圖8）。JFactorAnalysisDeuriptiwWtaUNX、砌

15、315tri.E/iflhmL-l.-Ltz-J30居1745.930961J6419330E11SQG3BO=S1r54=.&331310坦X306GMC039960993011739672J3259L：30H4gt.7i.aceaa30工1護恒594.5S736aoCunuidUuii'ijtrlK*至閃生吉眼工工許薜品善諸工業(yè)聲催Ccrrabujr國刃主嚴i.oaoZfe?9511業(yè).&P-.Z/3,074.26?l.IXID.4£,71B-.151.島-.593.3B3SSL.426i.om.400.431.28D-.359-702刃3_丄矍UL.71

16、0l.DDO-.356.135-.530.104賞*WBH.617-.isi.A31LDOO-.253.22jfi55用看汩S-273-.235<2tU.偌叫2S3i.iua.7t3-.IS>.264-.no*.539.022.753tom-.102亠業(yè)產(chǎn)値,S74,«3-92.104,0：9r!2!j1Q2l.oro1CM*皿i_-1133E-CH圖8主成分分析的結(jié)果第四步，結(jié)果解讀在因子分析結(jié)果(Output)中，首先給出的DescriptiveStatistics第一列Mean對應(yīng)的變量的算術(shù)平均值，計算公式為1nXjXjny第二列Std.Deviation對應(yīng)的是

17、樣本標準差，計算公式為12,1/2-j鬥(Xj-Xj)nTy第三列AnalysisN對應(yīng)是樣本數(shù)目。這一組數(shù)據(jù)在分析過程中可作參考DescriptiveStatisticsMeanStd.DeviationAnalysisN國內(nèi)生產(chǎn)1921.0931474.8060330居民消費1745.933861.6419330固定資產(chǎn)511.5083402.8854830職工工資5457.6331310.2180530貨物周轉(zhuǎn)666.1400459.9669930消費價格117.28672.0253130商品零售114.90671.8980830工業(yè)產(chǎn)值862.9980584.5872630接下來是Co

18、rrelationMatrix(相關(guān)系數(shù)矩陣)，一般而言，相關(guān)系數(shù)高的變量，大多會進入同一個主成分，但不盡然，除了相關(guān)系數(shù)外，決定變量在主成分中分布地位的因素還有數(shù)據(jù)的結(jié)構(gòu)。相關(guān)系數(shù)矩陣對主成分分析具有參考價值，畢竟主成分分析是從計算相關(guān)系數(shù)矩陣的特征根開始的。相關(guān)系數(shù)陣下面的Determinant=1.133E-0.4是相關(guān)矩陣的行列式值，根據(jù)關(guān)系式det('l-R)=0可知，det(Q=det(R),從而Determinant=1.133E-0.4=X*b*左X*疋花疋辰這一點在后面將會得到驗證。CorrelationMatrixa國內(nèi)生產(chǎn)居民消費固定資產(chǎn)職工工資貨物周轉(zhuǎn)消費價格商

19、品零售工業(yè)產(chǎn)值國內(nèi)生產(chǎn)1.000.267.951.191.617-.273-.264.874居民消費.2671.000.426.718-.151-.235-.593.363固定資產(chǎn).951.4261.000.400.431-.280-.359.792職工工資.191.718.4001.000-.356-.135-.539.104貨物周轉(zhuǎn).617-.151.431-.3561.000-.253.022.659消費價格-.273-.235-.280-.135-.2531.000.763-.125商品零售-.264-.593-.359-.539.022.7631.000-.192工業(yè)產(chǎn)值.874.3

20、63.792.104.659-.125-.1921.000a.Determinant=1.133E-04在Communalities中，給出了因子載荷陣的初始主成分方差(Initial)和提取主成分方差(Extraction)，后面將會看到它們的含義。CommunalitiesInitialExtraction國內(nèi)生產(chǎn)1.000.945居民消費1.000.800固定資產(chǎn)1.000.902職工工資1.000.875貨物周轉(zhuǎn)1.000.857消費價格1.000.957商品零售1.000.929工業(yè)產(chǎn)值1.000.903ExtractionMethod:PrincipalComponentAnaly

21、sis.在TotalVarianeeExplained全部解釋方差）表的InitialEigenvalues（初始特征根）中,給出了按順序排列的主成分得分的方差（Total），在數(shù)值上等于相關(guān)系數(shù)矩陣的各個特征根入因此可以直接根據(jù)特征根計算每一個主成分的方差百分比（%ofVarianee）。由于全部特征根的總和等于變量數(shù)目，即有m=刀存8，故第一個特征根的方差百分比為Mm=3.755/8=46.939,第二個特征根的百分比為Mm=2.197/8=27.459,，其余依此類推。然后可以算出方差累計值（Cumulative%）。在ExtractionSumsofSquaredLoadings給出了

22、從左邊欄目中提取的三個主成分及有關(guān)參數(shù)，提取的原則是滿足，這一點我們在圖6所示的對話框中進行了限定。TotalVarianeeExplainedComponentInitialEigenvaluesExtractionSumsofSquaredLoadingsTotal%ofVarianeeCumulative%Total%ofVarianeeCumulative%13.75546.93946.9393.75546.93946.93922.19727.45974.3982.19727.45974.39831.21515.18689.5841.21515.18689.5844.4025.0319

23、4.6155.2132.66097.2756.1381.72498.99976.5E-02.81899.81781.5E-02.183100.000ExtractionMethod:PrincipalComponentAnalysis.ScreePlotepavcocgjComponentNumber圖8特征根數(shù)值衰減折線圖(山麓圖)主成分的數(shù)目可以根據(jù)相關(guān)系數(shù)矩陣的特征根來判定，如前所說，相關(guān)系數(shù)矩陣的特征根剛好等于主成分的方差，而方差是變量數(shù)據(jù)蘊涵信息的重要判據(jù)之一。根據(jù)2值決定主成分數(shù)目的準則有三：i只取21的特征根對應(yīng)的主成分從TotalVarianceExplainec表中可見，第一

24、、第二和第三個主成分對應(yīng)的2值都大于1,這意味著這三個主成分得分的方差都大于1。本例正是根據(jù)這條準則提取主成分的。ii累計百分比達到80%85%以上的值對應(yīng)的主成分在TotalVarianceExplained表可以看出，前三個主成分對應(yīng)的2值累計百分比達到89.584%,這暗示只要選取三個主成分，信息量就夠了。iii根據(jù)特征根變化的突變點決定主成分的數(shù)量從特征根分布的折線圖(ScreePlo)上可以看到，第4個值是一個明顯的折點，這暗示選取的主成分數(shù)目應(yīng)有p<4（圖8）。那么，究竟是3個還是4個呢？根據(jù)前面兩條準則，選3個大致合適（但小有問題）在ComponentMatrix（成分矩陣

25、）中，給出了主成分載荷矩陣，每一列載荷值都顯0.885實際上是國內(nèi)生產(chǎn)總值（GDP）與第一個主成分的相關(guān)系數(shù)將標準化的GDP數(shù)據(jù)與第一主成分得分進行回歸,示了各個變量與有關(guān)主成分的相關(guān)系數(shù)。以第一列為例,決定系數(shù)R2=0.783（圖9），容易算出R=0.885，這正是GDP在第一個主成分上的載荷ComponentMatrixaComponent123國內(nèi)生產(chǎn).885.384.121居民消費.607-.598.271固定資產(chǎn).912.161.212職工工資.466-.722.368貨物周轉(zhuǎn).486.738-.275消費價格-.509.252.797商品零售-.620.594.438工業(yè)產(chǎn)值.82

26、3.427.211ExtractionMethod:PrincipalComponentAnalysis.a.3componentsextracted.F面將主成分載荷矩陣拷貝到Excel上面作進一步的處理：計算公因子方差和方差貢獻。首先求行平方和，例如，第一行的平方和為h12=0.88492+0.38362+0.12092=0.9449這是公因子方差。然后求列平方和，例如，第一列的平方和為$2=0.88492+0.60672+0.82272=3.7551這便是方差貢獻（圖10）。在ExceI中有一個計算平方和的命令sumsq,可以方便地算出一組數(shù)據(jù)的平方和。顯然，列平方和即方差貢獻。事實上，

27、有如下關(guān)系成立:相關(guān)系數(shù)矩陣的特征根=方差貢獻=主成分得分的方差至于行平方和，顯然與前面Communalities表中的Extraction列對應(yīng)的數(shù)據(jù)一樣。如果我們將8個主成分全部提取，則主成分載荷的行平方和都等于1（圖11），即有hi=1,s=初到此可以明白：在Communalities中，Initial對應(yīng)的是初始公因子方差，實際上是全部主成分的公因子方差；Extraction對應(yīng)的是提取的主成分的公因子方差，我們提取了3個主成分，故計算公因子方差時只考慮3個主成分圖9國內(nèi)生產(chǎn)總值（GDP）的與第一主成分的相關(guān)關(guān)系（標準化數(shù)據(jù)）LABCDEI5第一主成分第二主成分第二主成分公因子方差6國

28、內(nèi)生產(chǎn)0.8849000.3836190.1208860.9448247居艮消費0.606719-0.5981770.271S1307995348固定資產(chǎn)0.9116870.1611060.211970.9020719職工工資0.46622277224100.367938a87461710貨物周轉(zhuǎn)0,4858310,738275-0.2752520,35684511消費價格-0.50856362519090.796633a95671812商品零售-0.61958905943750.4375550.92862713工業(yè)產(chǎn)值0.822729a4267370.210970a90349614方差責襪3

29、.7551332.1967041,2148957.16673315特征根3.7551332196YQ41214翻5166733圖10主成分方差與方差貢獻Component12345678:國內(nèi)生產(chǎn).885.384.121-.203-6.87E-021.143E-022.420E-029.192E-02居民消費.607-.598.271.409-7.61E-02.1575.525E-021.317E-02固定資產(chǎn).912.161.212-.270-7.71E-028.271E-028.113E-02-7.36E-02職工工資.466-.722.368-.164.304-1.64E-02-7.62

30、E-023.949E-03貨物周轉(zhuǎn).486.738-.275.212.3052.254E-026.855E-02-6.02E-03消費價格-.509.252.797.0722.716E-02-.161.1072.435E-03商品零售-.620.594.438-.0273.531E-02.247-9.23E-021.634E-03工業(yè)產(chǎn)值.823.427.211.209-9.38E-02-.137-.157-2.30E-02ComponentMatrixaExtractionMethod:PrincipalComponentAnalysis.a.8componentsextracted.ACD

31、EFGH1J112345678公因干方差2凰內(nèi)生產(chǎn)0*38490.38360.1Z09-0.2U3270E87U.U114(XJ24Z0.091913居民消雋0.S067-0.5000.27120.40G5-0.07G10.15680.05520.013214固宦瓷產(chǎn)0.5117門一16110.212-0.2705-0.07710.0S270.0011-0.07415職工工資0.4662-0,7220.3&79-0.16350.30421-6016-0.0760.0039116貨粳周轉(zhuǎn)0.48580.73837,2750.211840.30502602250.0685-0.00617涪

32、費價洛-0.5090.25190.79666071760.02716-61610.10710024：1n8曲品零匡-0.520.594：40.437B-0.02670.0353100"-0.0920.001619二業(yè)產(chǎn)值0.32270.42G70.2110.20968-0,0938-0.157-0.157-0.02S11.0方琴奇就3.75512.19671.21490.402440.212Rn.1前0,0654H(T恥R11特征棍375512.19671.214S0.40244匕21280+1380.0654n01461.133E-04圖11全部主成分的公因子方差和方差貢獻提取主成

33、分的原則上要求公因子方差的各個數(shù)值盡可能接近，亦即要求它們的方差極小，當公因子方差完全相等時，它們的方差為0,這就達到完美狀態(tài)。實際應(yīng)用中，只要公因子方差數(shù)值彼此接近（不相差太遠）就行了。從上面給出的結(jié)果可以看出：提取3個主成分的時候，居民消費的公因子方差偏小，這暗示提取3個主成分，居民消費方面的信息可能有較多的損失。至于方差貢獻，反映對應(yīng)主成分的重要程度，這一點從方差的統(tǒng)計學意義可以得到理解。在圖11中，將最后一行的特征根全部乘到一起，得0.0001133這正是相關(guān)系數(shù)矩陣的行列式數(shù)值（在Excel中，求一組數(shù)據(jù)的乘積之和的命令是product）。最后說明ComponentScoreCoef

34、ficientMatrix（成分得分系數(shù)矩陣）和ComponentScoreCovarianeeMatrix（成分得分協(xié)方差矩陣），前者是主成分得分系數(shù)，后者是主成分得分的協(xié)方差即相關(guān)系數(shù)。從ComponentScoreCovarianeeMatri可以看出，標準化主成分得分之間的協(xié)方差即相關(guān)系數(shù)為0（j工k）或1（j=k）,這意味著主成分之間彼此正交即垂直。初學者常將ComponentScoreCoeffieientMatrix表中的數(shù)據(jù)當成主成分得分或因子得分，這是誤會。成分得分系數(shù)矩陣的數(shù)值是主成分載荷除以相應(yīng)的特征根得到的結(jié)果。在ComponentMatrix表中，將第一列數(shù)據(jù)分別除以

35、入=3.755第二列數(shù)值分別除以滬2.197,，立即得到ComponentScoreCoefficient;反過來，如果將ComponentScoreCoefficientMatrix表中的各列數(shù)據(jù)分別乘以入=3.755,42.197,，則可將其還原為主成分載荷即ComponentMatrix中的數(shù)據(jù)。ComponentScoreCoefficientMatrixComponent123國內(nèi)生產(chǎn).236.175.100居民消費.162-.272.223固定資產(chǎn).243.073.174職工工資.124-.329.303貨物周轉(zhuǎn).129.336-.227消費價格-.135.115.656商品零售-

36、.165.271.360工業(yè)產(chǎn)值.219.194.174ExtractionMethod:PrincipalComponentAnalysis.ComponentScores.ComponentScoreCovarianeeMatrixComponent12311.000.000.0002.0001.000.0003.000.0001.000ExtractionMethod:PrincipalComponentAnalysis.ComponentScores.實際上，主成分得分在原始數(shù)據(jù)所在的SPSS!前數(shù)據(jù)欄中給出，不過給出的都是標準化的主成分得分（圖12a）;將各個主成分乘以相應(yīng)的&quo

37、t;朋卩特征根的二次方根可以將其還原為未經(jīng)標準化的主成分得分f緡分1得分2得分3得分一得分二得分三42743-1.52320.49020.84250-2.295DD64870.33935-1,78001-146264GG940-2.68230-119310700551.586321.192111.381302.390501.33560-,51028.26259-51833-100600.3953068090-.03667.48824-.34594-154950.73500-.3073035822.65519-56666169230.96940-.63430-.19950-,266041.09716-.39310-.4314D1.2310027330.22955-.6423B53920.34440-721201.6499