主成分分析與因子分析的異同和SPSS軟件

1、1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.StatisticalReseiirch652005332005主成分分析與因子分析的異同和SPSS軟件一與劉玉玫、盧紋岱等同志商榷林海明張文霖ABSTRACTBetweenthePrincipalConponentAnalysisandtheFactorAnalysisThispaperputsforwardthedifferenceandtheI

2、dentity,whichadvancespositiveproposaltosomeusersofthistwomethodsessentially1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.1995-2006TsinghuaTongfangOpticalDiscCo.

3、,Ltd.Allrightsreserved.設(shè)x=（Xi，為標(biāo)準(zhǔn)化隨機(jī)向量（p2），/e為相關(guān)系數(shù)矩陣，凡=（用，,FJ為主成分向量，Z,=（Zi,.乙,）為因子向量.加Wp.為方便.因子、因子估計(jì)、因子得分用同一記號(hào)。一、問(wèn)題的提出主成分分析與R-型因于分析是多元統(tǒng)計(jì)分析中的兩個(gè)重要方法同是降維技術(shù)，應(yīng)用范圍十分廣泛但通過(guò)流行甚廣的SPSS軟件調(diào)用這兩種方法的過(guò)程命令有些便用者容易出現(xiàn)混淆性錯(cuò)誤如統(tǒng)計(jì)研究2003年第12期發(fā)表的論文經(jīng)濟(jì)全球化程度的量化研究（以下稱GO文）、電于工業(yè)出版社2002年9月出版的SPSSforWindows統(tǒng)計(jì)分析（第二版）（以下稱盧書(shū)）就是這種情況。是什么原因

4、造成這些錯(cuò)誤呢？主成分分析與R-型因子分析到底有何異同呢？經(jīng)過(guò)對(duì)一些論文和一些SPSS軟件教科書(shū)仔細(xì)分析、比較我們發(fā)現(xiàn)出錯(cuò)的主要原因在干有些便用者和SPSS軟件教科書(shū)作者對(duì)怎樣用SPSS軟件得出主成分分析與R-型因子分析的結(jié)果學(xué)握不全面對(duì)主成分分析與R-型因于分析異同的認(rèn)識(shí)不透徹。經(jīng)過(guò)仔細(xì)查證出現(xiàn)的錯(cuò)誤有：使用主成分分析時(shí)：卿述主成分分析概念出錯(cuò)；成分斤求解出錯(cuò)如凡=A“X中A“,九工仏（/,為單位矩陣兒“的意義見(jiàn)表1）；找不到主成分F,的命名依據(jù)對(duì)主成分E命名出錯(cuò)；魏變量山被丟失；（測(cè)九錯(cuò)誤地進(jìn)行旋轉(zhuǎn)：瞬誤地進(jìn)行回歸求F.；惜誤地把因子分析法（含初始因子分析法）當(dāng)作主成分分析法。使用因子分析

5、時(shí)：將因子分析的思想敘述為主成分分析的思想；因子乙的命名出錯(cuò)，如用因子得分函數(shù)對(duì)因于Z.進(jìn)行命名；（辣變量Xk被丟失：將主成分或因于錯(cuò)誤地表示為BmX（B”的意義見(jiàn)表1）:不知相關(guān)系數(shù)矩陣特征值：與因子貢獻(xiàn)H的區(qū)別.如綜合因子得分函數(shù)Z綜=左呻p）Z,中的V,-錯(cuò)誤地取為特征值io二、主成分分析與R型因子分析數(shù)學(xué)模型的異同比較相同之處:主成分分析與R-型因子分析都是對(duì)協(xié)差陣的逼近,都是打算降維解釋數(shù)據(jù)集。具體為指標(biāo)的正向化指標(biāo)的標(biāo)準(zhǔn)化（SPSS軟件自動(dòng)執(zhí)行）.通過(guò)相關(guān)系數(shù)矩陣判斷變量間的相關(guān)性求相關(guān)系數(shù)矩陣的特征值和特征向量主成分間、因子間線性無(wú)關(guān)用累計(jì)貢獻(xiàn)率（激5%）、變量不出現(xiàn)丟失確定主成

6、分、因子個(gè)數(shù)加.前加個(gè)主成分與前加個(gè)因子對(duì)X的綜合貢獻(xiàn)相同、是最大化的，命名依據(jù)都是主成分、因于與變量的相關(guān)系數(shù)。不同之處:方差最大化方向，所處的坐標(biāo)系（標(biāo)準(zhǔn)正交性），應(yīng)用上側(cè)重等不同見(jiàn)表1。主成分分析與因子分析定量上不同的顯著性標(biāo)志是方差。事實(shí)上.VarF.（OVarZ,=1，即尺的取值范圍比乙的取值范圍大（?。和ǔr%Var.即F綜的取值范圍比Z綜的取值范圍大.這些都肯定了主成分分析與因于分析的計(jì)量值、評(píng)價(jià)體系不同。結(jié)論:主成分分析與因子分析兩種方法方差、最大化 SPSS J1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsres

7、erved.1995-2006TsinghuaTongfangOpticalDiscCo.,Ltd.Allrightsreserved.區(qū)別項(xiàng)目主成分分析數(shù)學(xué)模型：R-型因子分析數(shù)學(xué)模型：表達(dá)式與系數(shù)矩陣Fm=AmX.Am=（an）pXni=（丨,2,J,E=，八i是相應(yīng)的特征值和單位特征向量.1（為轉(zhuǎn)殊因千），因于栽荷矩陣Bm=Px!=BniC.Bm=（i,2,刖）為初始因子栽荷矩陣（八，同左）。因變量方差最大化斤依次達(dá)到信息貢獻(xiàn)（方差）最大化.VarF,=乙沒(méi)有達(dá)到方差最大化VarZ,=1。矩陣方差最大化旋轉(zhuǎn)無(wú)旋轉(zhuǎn)后就不是主成分了因?yàn)閂arE*o有C二（6）m血為幾方差最大正交旋轉(zhuǎn)矩陣.B

8、m達(dá)到方差最大化。因變量對(duì)X的貢獻(xiàn)待征值p=刀臨，叫*1通常丨。相關(guān)系數(shù)=阿命各依據(jù)用廠（血八如）式中系數(shù)絕對(duì)值大的對(duì)應(yīng)變量對(duì)F）命名有時(shí)命名渚晰性低。將血的第.j列絕對(duì)值大的對(duì)應(yīng)變量歸為乙一類并由此對(duì)乙命名命名清晰性高（轄細(xì)）?；貧w過(guò)穆無(wú)。有因子得分函數(shù)BFX標(biāo)準(zhǔn)正交性是J“竝二兒（判據(jù)之一）。綜合評(píng)價(jià)函數(shù)及方差F稼=,E(il)Fi,VarF綜=(/)/2,=P或i+賊通常wrFift,VarZig.B卩F綜的取值范圍通常比z嫁大。m為二刀*/）乙工i（判據(jù)之一）UIVarZ綜=（-；）/2（旋轉(zhuǎn)后因于貢獻(xiàn)從，變?yōu)殁庖虼藱?quán)數(shù)應(yīng)取為Vi!）,=P或V|+v2+vmo信息貢獻(xiàn)影響力綜合評(píng)價(jià)。成

9、因清晰性的綜合評(píng)價(jià)。表1R-取初始因子的方法為主成分法。方向不同直接導(dǎo)致主成分值、因子得分值、綜合評(píng)價(jià)值和應(yīng)用側(cè)重上不同綜合評(píng)價(jià)應(yīng)該分開(kāi)進(jìn)行混淆在一起是不同計(jì)量值交替錯(cuò)誤。三、避免出錯(cuò)的方法步驟1SPSS（1）指標(biāo)的正向化：（2）指標(biāo)數(shù)據(jù)標(biāo)準(zhǔn)化（SPSS軟件自動(dòng)執(zhí)行）；（3）指標(biāo)之間的相關(guān)性判定：用SPSS軟件中表CbrrelalionMatrix（相關(guān)系數(shù)矩陣）”判定；確定主成分個(gè)數(shù)加：用SPSS軟件中表“IblalVarianceExpkiined（總方差解釋）”的主成分方差累計(jì)貢獻(xiàn)率85%、結(jié)合表CbmponenlMalrix（初始因子栽荷陣）”中變量不出現(xiàn)丟失確定主成分個(gè)數(shù)/o（5）主

10、成分代表達(dá)式（這是SPSS軟件及其教科書(shū)中沒(méi)完善的地方）：將SPSS軟件中表“QnponentMalrix”中的第/列向量除以第，個(gè)特征根的開(kāi)根后就得到第/個(gè)主成分”的變量系數(shù)向量（在utran$fonn-*conpute”中進(jìn)行計(jì)算）由此寫(xiě)出主成分F.表達(dá)式。用Fm=AmX的A=L檢驗(yàn)之。主成分F,命名：用SPSS軟件中表“CbmponenlMatrix”中的第/列中系數(shù)絕對(duì)值大的對(duì)應(yīng)變量對(duì)Fs命名（有時(shí)命名清晰性低）o（7）主成分與綜合主成分（評(píng)價(jià)）值（這是SPSS軟件及刪科書(shū)中沒(méi)完善的地方）：綜合主成分（評(píng)價(jià)）公式UI綜=石（在tranGomi-compute”中進(jìn)行計(jì)算），在SPSS軟

11、件中表4TbtalVarianceExplained下“InitialBgrnvcilues（主成分方差）”欄的ofVariance（方差率）”m中。Var心=（V）/po（8）檢驗(yàn):綜合主成分（評(píng)價(jià)）值用實(shí)際結(jié)果、經(jīng)驗(yàn)與原始數(shù)據(jù)做聚類分析進(jìn)行檢驗(yàn)（對(duì)有爭(zhēng)議的結(jié)果可用原始數(shù)據(jù)做判別分析解決爭(zhēng)議）o（9）綜合實(shí)證分析。2.SPSS（1）（3）步驟同主成分分析步驟。（4）確定因子個(gè)數(shù)加：用SPSS軟件中表85%結(jié)合表uRotatedG）nponentMalrix（旋轉(zhuǎn)后因子栽荷陣）”中變量不出現(xiàn)丟失確定因子個(gè)數(shù)/Ho（5）求因于栽荷矩陣Hm:SPSS軟件中表“RotatedCbmponenlMat

12、rix。因于Z,的命名：將SPSS軟件中表RoeedGanponentMatrix”因子栽荷矩陣B,的第i列絕對(duì)值大的對(duì)應(yīng)變量歸為Z,類，并由此對(duì)Z,命名（命名清晰性高）。（7）求因子得分函數(shù)乙表達(dá)式厶=b旳，Vnr%二nt（yyi）/p。（9）檢驗(yàn):綜合評(píng)價(jià)值用實(shí)際結(jié)果、經(jīng)驗(yàn)與原始數(shù)據(jù)做聚類分析進(jìn)行檢驗(yàn)（對(duì)有爭(zhēng)議的結(jié)果.可用原始數(shù)據(jù)做判別分析解決爭(zhēng)議）O（10）綜合實(shí)證分析。以上看出：使用SPSS軟件時(shí).主成分分析與因子分析是從初始因子栽荷陣處分開(kāi)的表現(xiàn)為主成分分析是通過(guò)初始因于栽荷陣列向量單位化（或除相應(yīng)特征值開(kāi)根）得到主成分系數(shù)距陣、主成分及其值等而因子分析是通過(guò)初始因于栽荷陣進(jìn)行旋轉(zhuǎn)得

13、到因于栽荷陣、再通過(guò)回歸得到因于得分及其值等。四、劉文、盧書(shū)正確的主成分分析結(jié)果經(jīng)過(guò)仔細(xì)驗(yàn)算劉文、盧書(shū)虛將初始因子分析結(jié)果當(dāng)成了主成分分析結(jié)果。因子分析中如果方差最大正交旋轉(zhuǎn)矩陣c=4，即因子分析無(wú)旋轉(zhuǎn)過(guò)程.稱其為初始因子分析。表1中主成分分析與初始因子分析仍有方差、表達(dá)式與系數(shù)矩陣、回歸過(guò)程、標(biāo)準(zhǔn)正交性、綜合評(píng)價(jià)函數(shù)及方差5項(xiàng)的不同，故主成分值與初始因子得分值仍然計(jì)量不同，不能混淆?，F(xiàn)按主成分分析法和SPSS軟件應(yīng)用時(shí)一對(duì)一的正確步驟給出劉文的主成分分析結(jié)果盧書(shū)啲主成分分析結(jié)果讀者同理自行給出。筆者根據(jù)劉文給出的數(shù)據(jù)用SPSS軟件Anal）7e菜單Factor程進(jìn)行主成分分析（通過(guò)相關(guān)系數(shù)矩

14、陣判斷變量間的相關(guān)性略），得出相關(guān)系數(shù)矩陣的特征根及主成分貢獻(xiàn)率見(jiàn)表2特征向量矩陣見(jiàn)表3。由于前三個(gè)主成分包含了全部的指標(biāo)所具有的信息且累計(jì)方差貢獻(xiàn)率巳達(dá)到86.702%且無(wú)變量丟失故取3個(gè)主成分就夠了.但為了與劉文燧行比較這里仍取4個(gè)主成分。表2ThtaiVarianceExplainedInitialEgenvaluesExtractionSumsofSquaredLoadingsTotal%ofVarianceCuniulalive%Total%ofVarianceChmulalive%16.04940.32740.3276.04940.32740.32775.81338.75479.0

15、815.81338.75479.08131.1437.62186.7021.1437.62186.70240.8765.84092.5420.8765.&1092.542ExtractionNfethod:PrincipalCbmponenlAnalysis.第4以后的特征值省略。表3ComponentMatrix()G)nponent1234A40.8950.333-0.1820.132X30.863-0.191-0.2970.169從0.826-0.123-0.2810.4210.728-0.6230.146-0.101小0.4070.8050.269-0.2780.5520.7660.1

16、96-0.1650.6140.7630.028-0.055-VI50.5790.7600.005-0.1290.5960.7270.2080.2350.6360.7030.0410.190列0.6190.7030.0080.147Xil0.654-0.6910.1710.237XI20.6660.6850.1660.227XI0.2740.6270.1830.285-0.1470.0160.8220.465主成分命名：表3中每一個(gè)栽荷量表示主成分與對(duì)應(yīng)變量的相關(guān)系數(shù)，且系數(shù)符號(hào)與題意相符結(jié)合貢獻(xiàn)率與正負(fù)相關(guān)性作用得出X-貨物貿(mào)易占貨物BP的比重、X?-外國(guó)宜接投資占國(guó)內(nèi)投資總額的比重、冷-對(duì)外

17、貿(mào)易依存度、Xm-貨物和服務(wù)進(jìn)出口總額占（DP的比重、Xl4-對(duì)外金融資產(chǎn)負(fù)債總額占（DP的比重的綜合影響是大至持平的（見(jiàn)后F誨表達(dá)式X2、X7、XU、X|2、X的系數(shù)），因此第一主成分鬥與Xj、X6、X8、Xd十分顯著正相關(guān)，所以我們可以稱之為本國(guó)發(fā)生的全部收益占CNP的比重、對(duì)外直接投資和接受外國(guó)直接投資總額占CDP的比重、本國(guó)直接投資額占全球直接投資額的比重、國(guó)際金融總資本流量占BP的比重綜合指標(biāo);第二主成分Fi與XsX&XgXgX十分顯著正相關(guān),所以我們可以稱之為BP占全球BP的比重、本國(guó)發(fā)生的全部收益占世界發(fā)生的全部收益的比重、本國(guó)直接投資額占全球直接投資額的比重、跨國(guó)并購(gòu)額占全球跨

18、國(guó)并購(gòu)額的比重、國(guó)際經(jīng)濟(jì)外向度、國(guó)際金融總資本流量占全球國(guó)際總資本流量的比重綜合指標(biāo):第三主成分月僅與&十分顯著正相關(guān)所以我們可以稱之為外國(guó)分支機(jī)構(gòu)比重指標(biāo):而第四主成分與變量沒(méi)有明顯的相關(guān)性因此不對(duì)其進(jìn)行命名。從這里也可以看出前三個(gè)主成分包含了全部的指標(biāo)所具有的大部分信息。四個(gè)主成分的表達(dá)式還不能從輸出窗口中直接得到，因?yàn)镃onponentNfatrix是指初始因子栽荷矩陣.為了得到四個(gè)主成分的表達(dá)式.以便求主成分值.還需進(jìn)一步操作:將前四個(gè)因子栽荷矩陣輸入到數(shù)據(jù)編輯窗口（為變量厲、血、為、&）然后利用FamformTcompule”，在對(duì)話框中輸A%=B,/SQR（6.O49）BP可得到主

19、成分系數(shù)向量A,。同理可得到山、山、人。干是四個(gè)主成分表達(dá)式如下（這里的ZX,是尢的標(biāo)準(zhǔn)化數(shù)據(jù)）：F=0.1653ZX+0.2424ZX20.0596ZX5+0.364ZX4+0.2495ZX5+0.3357ZX6+0.1113ZX7+0.2584ZX8+0.2516ZX9+0.2244ZXm+0.2659ZXU+0.2707ZXI2+0.3507ZXB+0.2961ZXU+0.2355ZXI5F2=0.3341ZX0.3016ZX2+0.0064ZX5-0.138ZX+0.3163ZX5-0.0512ZX6-0.2602ZX7+0.29192ZX8+0.2914ZX9+0.3176ZXI00

20、.2865ZXn0.284ZXI2朽二0297ZXi-0.251ZX2+0.4973ZX5+0.1406ZX40.0593ZX5+0.4498ZX6+0.3046ZX7+0.2032ZXS+0.1569ZX9-0.1766ZXIO-0.2528ZXn-0.2421ZX12+01805ZXB0.1084ZXI40.1376ZXI5應(yīng)用這一線性組合計(jì)算出各主成分值最后利用綜合主成分函數(shù)（=P=15）:F綜=0.40327片+0.38754F2+0.07621+0.0584=0.1979乙釣0.0189乙口+0.066乙$+0.0885乙口+0.2218+0.121860.0251ZX7+0.232

21、1乙$+0.2241乙g+0.21722Ai（）0.006400032乙和2+01002乙“+0.022乙口4+02095乙“可以求得各個(gè)國(guó)家世界經(jīng)濟(jì)全球化程度的綜合主成分值（見(jiàn)表4）。五、主成分分析與（初始）因子分析的實(shí)證比較劉文灤2的結(jié)果為初始因于分析結(jié)果（經(jīng)仔細(xì)驗(yàn)算確認(rèn)），現(xiàn)將其與主成分分析結(jié)果表4進(jìn)行比較。主成分分析與初始因于分析的命名依據(jù)都是初始因于栽荷矩陣表3的相應(yīng)列，劉文對(duì)初始因于分析的命名準(zhǔn)確性不勞致使相應(yīng)經(jīng)濟(jì)分析有些偏離實(shí)際.如劉文中“中國(guó)參與經(jīng)濟(jì)全球化程度總體水平很低.但對(duì)生產(chǎn)與貿(mào)易全球化依存度及投資全球化依存度很髙”并不顯現(xiàn)。實(shí)際結(jié)果表4中為:在華外國(guó)分支機(jī)構(gòu)占世界全部外

22、國(guó)分支機(jī)構(gòu)的比重很髙，表明中國(guó)參與經(jīng)濟(jì)全球化進(jìn)程正受到世界各國(guó)的髙度關(guān)注。表4國(guó)家Fi排名排名E排名掙名加排名美國(guó)3.2936.0711.4620.80143.741英國(guó)4.4590.9841.76162.1712.179徳國(guó)1.4041冀30.2550.2381.053日本0.4461.8520.2561.23160.814法國(guó)0.8750.465-0.52140.4540.525新加坡5.2716.26161.183-0.9515-0.276意大利-0.6180.1160.54150.6513-0.297加拿大-0.43704712-0.31II0.007-0.388中國(guó)-2.18140血

23、73.0011.83-0.529巴西-L9113-0.(880.43120.146-0.8110澳大利亞-1.3610-0.92140.30100.225-0.9111韓國(guó)-1.6912045110.2770.6112-0.9212星西哥-1.67110.68130.0240.309-0.9513新西蘭-0.989-1.73150.2880.733-1.0514俄羅斯2弭15019100.3090.3610-1.0615印庶-2.56160109-0.46130.3911-1.1316表4中主成分E、卜誡的值與劉文表2中因子f.（=Z.）.F（=%）的值全部不等.這是二者函數(shù)方差不同造成的，這

24、里Var=1.87,VarZ=0.32.VarVar。由表4與劉文啲表2對(duì)比可知:部分國(guó)家參與經(jīng)濟(jì)全球化程度綜合主成分值排名中中國(guó)的排名相差較大，在本文表4中，中國(guó)排第9而在劉文中國(guó)排第6:新加坡、意大利、加拿大、韓國(guó)在本文中表4分別排第6、7、8、12而在劉文沖分別排第7、8、9、13:墨西哥在本文中排第13.而在劉文中排第12o通過(guò)表4可將綜合主成分結(jié)果在等距/=（3.74+/4=1.2175下可分為四類國(guó)家。第一類國(guó)家:綜合主成分值取值范圍為2.523,3.74。第二類國(guó)家：綜合主成分值取值范圍為（1-305.523Jo第三類國(guó)家：綜合主成分值取值范圍為（0.086.1.305Jo第四類

25、國(guó)家：綜合主成分值取值范圍為（-113,0.086）o通過(guò)樣品的綜合主成分值取值可以確定樣品的類別，如美國(guó)的綜合主成分值為3-74是第一類國(guó)家.英國(guó)的綜合主成分值為2.17是第二類國(guó)家:但在劉文沬2中，美國(guó)的綜合值為1-57在此只能劃分為第二類國(guó)家英國(guó)的綜合值為0.9在此只能劃分為第三類國(guó)家。如果將表4中美國(guó)、英國(guó)、中國(guó)、巴西、澳大利亞、韓國(guó)、墨西哥、新西蘭、俄羅斯、印度的綜合主成分值在劉文表2中來(lái)確定樣品的類別,結(jié)果是這些國(guó)家不在劉文灤2的取值范圍-0.49,1.57內(nèi)。即不同定量值矣帶來(lái)混亂。以上可看出：主成分分析與因子分析的實(shí)證結(jié)果是有差異的定量值全部不同，不能混用。1995-2006TsinghitaTongfangOpticalDiscCo.,Ltd.Alllightsreserved.1995-2006TsinghitaTongfangOpticalDiscCo.,Ltd.Alllightsreserved.StatisticalReseiirch692005332005日本向知識(shí)經(jīng)濟(jì)的戰(zhàn)略轉(zhuǎn)型劉彥ABSTRACTIntellectualPropertystrategyisaninportantstrategyse