因子以及主成分分析

1、關(guān)于因子和主成分分析第1頁，共28頁，2022年，5月20日，4點52分，星期四因子分析概述 如下面的5個變量中含有兩個獨立的公共因子F1和F2。再假設這五個變量分別是基本建設投資、平均工資水平、商品零售價格指數(shù)、居民消費水平 。 Z1=0.02F10.99F2 1 Z2=0.94F10.01F2 2 Z3=0.13F10.98F2 3 Z4=0.84F10.42F2 4 Z5=0.97F10.02F2 5第2頁，共28頁，2022年，5月20日，4點52分，星期四因子分析概述 概述第一公因子主要影響居民消費水平可能就是居民消費指數(shù)、第二公因子則主要影響基本建設投資，代表投資水平。代表特殊因子

2、，只對當前變量有影響，表示該變量中獨特的，不能被公因子所解釋的。因子分析的目的就是以公共因子來代替變量。第3頁，共28頁，2022年，5月20日，4點52分，星期四觀測變量因子載荷公共因子方差因子1因子2因子p變量1變量2變量ma11a12a1ph12 a1 j 2 hm2 am j 2a21a22a2pam1am2am3特征根 S12 S22 Sm2方差貢獻S12/m因子分析數(shù)學模型中的相關(guān)參數(shù)第4頁，共28頁，2022年，5月20日，4點52分，星期四因子旋轉(zhuǎn)建立因子分析數(shù)學模型的目的不僅僅是找出公共因子，并且對變量進行分組，更重要的是知道每一個變量的意義，以便于我們對問題作出科學的分析，

3、因子載荷矩陣不是唯一的，可以通過相應的正交變換生成另外的一個載荷矩陣。初始載荷矩陣中往往出現(xiàn)各個因子的代表變量不是很突出，大多數(shù)因子與許多變量相關(guān)，容易使得因子的含義不清，不利于對因子的解釋，這時候就要進行因子旋轉(zhuǎn)。因子旋轉(zhuǎn)的方法常見的正交旋轉(zhuǎn)、斜交旋轉(zhuǎn)、直接斜交旋轉(zhuǎn)、四次最大正交旋轉(zhuǎn)等第5頁，共28頁，2022年，5月20日，4點52分，星期四因子分析概述方法用途研究設計階段/問卷效果評估階段評價問卷的結(jié)構(gòu)效度統(tǒng)計分析階段尋找變量間潛在結(jié)構(gòu)內(nèi)在結(jié)構(gòu)證實第6頁，共28頁，2022年，5月20日，4點52分，星期四適用條件樣本量適用條件：樣本量與變量數(shù)的比例應在5：1以上總樣本量不得少于100，

4、而且原則上越大越好各變量間必須有相關(guān)性KMO統(tǒng)計量：0.9最佳，0.7尚可，0.6很差，0.5以下放棄Bartletts球形檢驗第7頁，共28頁，2022年，5月20日，4點52分，星期四因子分析概述標準分析步驟判斷是否需要進行因子分析，數(shù)據(jù)是否符合要求進行分析，按一定標準確定提取的因子數(shù)目考察因子的可解釋性，并在必要時進行因子旋轉(zhuǎn)，以尋求最佳解釋方式如有必要，可計算出因子得分等中間指標供進一步分析使用第8頁，共28頁，2022年，5月20日，4點52分，星期四公因子數(shù)量的確定主成分的累積貢獻率：8085以上特征根大于1綜合判斷因子分析時更重要的是因子的可解釋性第9頁，共28頁，2022年，5

5、月20日，4點52分，星期四國有銀行中層管理人員勝任模型研究目的： 以我國中層管理人員為研究對象，從典型性行為和心理出發(fā)，揭示優(yōu)秀職工的特質(zhì)于行為表現(xiàn)來確定任職者需要的任職要求和相關(guān)的素質(zhì)。第10頁，共28頁，2022年，5月20日，4點52分，星期四研究設計對國有的工、農(nóng)、中、建的50名中層管理者進行結(jié)構(gòu)性訪談，收集反映經(jīng)營管理者任職要求的關(guān)鍵行為，以此確定可能的52個勝任特征。（通過預研究對量表進行修改）對可能的52個特征設計出問卷，對380名中層管理人員進行調(diào)查?；厥諉柧聿⑦M行分析。從52項勝任特征中選擇出來評定的均值大于5.5的26項勝任特征的（Analyzedescriptive s

6、tatistics descriptive）第11頁，共28頁，2022年，5月20日，4點52分，星期四具體操作解析菜單位置：AnalyzeData Reductionfactor選入全部需要分析的變量相關(guān)按鈕說明：ExtractionDescriptiveRotationScoreOption第12頁，共28頁，2022年，5月20日，4點52分，星期四相關(guān)按鈕說明 Extraction第13頁，共28頁，2022年，5月20日，4點52分，星期四Mode 設置因子提取的方法這里我們和論文中 的一致選擇“主成分分析”Analyze 使用什么矩陣進行因子提取。correlation matr

7、ix適用于分析變量的單位測度不同Covariance matrix適用于分析變量的測度單位相同Display指定與因子輸出有關(guān)的輸出項Unrotated factor solution輸出未經(jīng)旋轉(zhuǎn)的因子scree plot以特征值大小排列的的因子序號為橫軸對應的特征值為縱軸的碎石圖有助于確定保留多少個因子Extract 用來控制因子提取多少個因子Eigenvalues根據(jù)特征值大小來確定提取的數(shù)目Number of factor直接指定提取因子的多少maximum iterations for convergence指定因子分析收斂的的最大迭代次數(shù)根據(jù)數(shù)據(jù)量而定第14頁，共28頁，2022年，

8、5月20日，4點52分，星期四相關(guān)按鈕說明 Descriptive第15頁，共28頁，2022年，5月20日，4點52分，星期四Univariate descriptive輸出各個變量的均數(shù)標準差等描述統(tǒng)計量Initial solution輸出因子提取前公因子方差Coefficients 輸出原始變量之間的相關(guān)系數(shù)矩陣Significance 輸出相關(guān)系數(shù)檢驗的顯著水平Determinant輸出相關(guān)系數(shù)矩陣的行列式KMO and Bartlett KMO 檢驗和球形Bartlett 檢驗Inverse 輸出相關(guān)系數(shù)矩陣的逆矩陣Reproduced 輸出再生相關(guān)矩陣Antiimage輸出反映象相

9、關(guān)陣第16頁，共28頁，2022年，5月20日，4點52分，星期四相關(guān)按鈕說明 Rotation第17頁，共28頁，2022年，5月20日，4點52分，星期四Rotation 因子旋轉(zhuǎn)相關(guān)的選項，Varimax 正交旋轉(zhuǎn)也稱方差最大旋轉(zhuǎn)Direct Oblimin 直接斜交交旋轉(zhuǎn)Quartimax 四次最大正交旋轉(zhuǎn)Equamax 平均正交旋轉(zhuǎn)Promax 斜交旋轉(zhuǎn)方法Rotated solution輸出因子旋轉(zhuǎn)結(jié)果Loading plots 輸出經(jīng)旋轉(zhuǎn)后的因子載荷旋轉(zhuǎn)圖第18頁，共28頁，2022年，5月20日，4點52分，星期四相關(guān)按鈕說明 ScoresSave as variables 將

10、因子作為新變量保存在數(shù)據(jù)編輯器窗口Display factor 輸出因子得分系數(shù)矩陣是標準后的得分系數(shù)第19頁，共28頁，2022年，5月20日，4點52分，星期四相關(guān)按鈕說明 OptionMissing value缺失值的處理方法Coefficient Display format 設置載荷系數(shù)的顯示格式分別是安載荷系數(shù)大小排列和不現(xiàn)實載荷系數(shù)小于某一值的。第20頁，共28頁，2022年，5月20日，4點52分，星期四統(tǒng)計結(jié)果分析對以下幾個表格的解讀：觀測變量之間的相關(guān)矩陣（correlation Matrix）KMO和Bartlett檢驗結(jié)果公共因子方差（communalities）全部方

11、差解釋（Total variance Explained）因子載荷矩陣（component Matrix） 和旋轉(zhuǎn)后的因子載荷矩陣（Rotated component Matrix） （因子載荷矩陣轉(zhuǎn)換矩陣旋轉(zhuǎn)后的因子載荷矩陣）第21頁，共28頁，2022年，5月20日，4點52分，星期四變量間的相關(guān)矩陣（correlation）變量間的相關(guān)性矩陣給出了變量之間相關(guān)系數(shù)，同時還包括相關(guān)系數(shù)檢驗的顯著水平（在設置時指定輸出）。相關(guān)系數(shù)矩陣的值越大約好，說明變量之間的相關(guān)性越大，這樣就越可能找到公共因子；顯著性水平矩陣的值越小越好，說明相關(guān)性越顯著。下面的Determinant是相 關(guān)矩陣的行列式

12、的值。第22頁，共28頁，2022年，5月20日，4點52分，星期四KMO和Bartlett 檢驗結(jié)果Bartlett檢驗的目的式看數(shù)據(jù)是否來自多元正態(tài)分布，若差異檢驗的F值顯著表示所取的數(shù)據(jù)來自正態(tài)分布，可以做進一步的檢驗。檢驗的值越小效果越好。KMO檢驗的目的是分析變量之間的簡單相關(guān)系數(shù)和偏相關(guān)系數(shù)的相對大小，看數(shù)據(jù)是否合適進行因子分析。0.9最佳，0.7尚可，0.6很差，0.5以下放棄第23頁，共28頁，2022年，5月20日，4點52分，星期四公共因子方差（communalities） 公共因子方差等于因子載荷矩陣的某行因子載荷的平方和表示的是所有的公共因子對其所在行的觀測變量的貢獻。

13、 其中Initial 對應的初始方差， Extration 對應的是提取公共因子方差。對應的是根據(jù)某種原則提取的公共因子方差。 順便補充特征根就是對應的因子載荷矩陣某一列的因子載荷的平方和。 具體可以見下圖的例子第24頁，共28頁，2022年，5月20日，4點52分，星期四第25頁，共28頁，2022年，5月20日，4點52分，星期四全部方差解釋（Total variance Explained）Initial eigenvalues 相關(guān)系數(shù)矩陣的特征值 of variance各成分所解釋的方差占總方差的百分比即各個因子特征值占特征值總和的百分比Extraction Sums of Squared Loadings 為因子提出的結(jié)果，是未經(jīng)旋轉(zhuǎn)的因子載荷的平方和Rotation Sums of Squared Loadings 旋轉(zhuǎn)后的因子提取結(jié)果第26