因子和主成分分析

1、因子分析 因子是一種多變量化簡技術(shù)。目的是分解原始變量，從中歸納出潛在的“類別”，相關(guān)性 較強的指標(biāo)歸為一類，不同類間變量的相關(guān)性較低。每一類變量代表了一個“共同因子”，即一種內(nèi)在結(jié)構(gòu)，因子分析就是要尋找該結(jié)構(gòu)。1因子分析概述 如下面的5個變量中含有兩個獨立的公共因子F1和F2。再假設(shè)這五個變量分別是基本建設(shè)投資、平均工資水平、商品零售價格指數(shù)、居民消費水平 。 Z1=0.02F10.99F2 1 Z2=0.94F10.01F2 2 Z3=0.13F10.98F2 3 Z4=0.84F10.42F2 4 Z5=0.97F10.02F2 52因子分析概述 概述第一公因子主要影響居民消費水平可能就

2、是居民消費指數(shù)、第二公因子則主要影響基本建設(shè)投資，代表投資水平。代表特殊因子，只對當(dāng)前變量有影響，表示該變量中獨特的，不能被公因子所解釋的。因子分析的目的就是以公共因子來代替變量。3因子分析數(shù)學(xué)模型中的相關(guān)參數(shù)4因子旋轉(zhuǎn)建立因子分析數(shù)學(xué)模型的目的不僅僅是找出公共因子，并且對變量進行分組，更重要的是知道每一個變量的意義，以便于我們對問題作出科學(xué)的分析，因子載荷矩陣不是唯一的，可以通過相應(yīng)的正交變換生成另外的一個載荷矩陣。初始載荷矩陣中往往出現(xiàn)各個因子的代表變量不是很突出，大多數(shù)因子與許多變量相關(guān)，容易使得因子的含義不清，不利于對因子的解釋，這時候就要進行因子旋轉(zhuǎn)。因子旋轉(zhuǎn)的方法常見的正交旋轉(zhuǎn)、斜

3、交旋轉(zhuǎn)、直接斜交旋轉(zhuǎn)、四次最大正交旋轉(zhuǎn)等5因子分析概述方法用途研究設(shè)計階段/問卷效果評估階段評價問卷的結(jié)構(gòu)效度統(tǒng)計分析階段尋找變量間潛在結(jié)構(gòu)內(nèi)在結(jié)構(gòu)證實6適用條件樣本量適用條件：樣本量與變量數(shù)的比例應(yīng)在5：1以上總樣本量不得少于100，而且原則上越大越好各變量間必須有相關(guān)性KMO統(tǒng)計量：0.9最佳，0.7尚可，0.6很差，0.5以下放棄Bartletts球形檢驗7因子分析概述標(biāo)準(zhǔn)分析步驟判斷是否需要進行因子分析，數(shù)據(jù)是否符合要求進行分析，按一定標(biāo)準(zhǔn)確定提取的因子數(shù)目考察因子的可解釋性，并在必要時進行因子旋轉(zhuǎn)，以尋求最佳解釋方式如有必要，可計算出因子得分等中間指標(biāo)供進一步分析使用8公因子數(shù)量的確

4、定主成分的累積貢獻率：8085以上特征根大于1綜合判斷因子分析時更重要的是因子的可解釋性9國有銀行中層管理人員勝任模型研究目的： 以我國中層管理人員為研究對象，從典型性行為和心理出發(fā)，揭示優(yōu)秀職工的特質(zhì)于行為表現(xiàn)來確定任職者需要的任職要求和相關(guān)的素質(zhì)。10研究設(shè)計對國有的工、農(nóng)、中、建的50名中層管理者進行結(jié)構(gòu)性訪談，收集反映經(jīng)營管理者任職要求的關(guān)鍵行為，以此確定可能的52個勝任特征。（通過預(yù)研究對量表進行修改）對可能的52個特征設(shè)計出問卷，對380名中層管理人員進行調(diào)查。回收問卷并進行分析。從52項勝任特征中選擇出來評定的均值大于5.5的26項勝任特征的（Analyzedescriptive

5、 statistics descriptive）11具體操作解析菜單位置：AnalyzeData Reductionfactor選入全部需要分析的變量相關(guān)按鈕說明：ExtractionDescriptiveRotationScoreOption12相關(guān)按鈕說明 Extraction13Mode 設(shè)置因子提取的方法這里我們和論文中 的一致選擇“主成分分析”Analyze 使用什么矩陣進行因子提取。correlation matrix適用于分析變量的單位測度不同Covariance matrix適用于分析變量的測度單位相同Display指定與因子輸出有關(guān)的輸出項Unrotated factor s

6、olution輸出未經(jīng)旋轉(zhuǎn)的因子scree plot以特征值大小排列的的因子序號為橫軸對應(yīng)的特征值為縱軸的碎石圖有助于確定保留多少個因子Extract 用來控制因子提取多少個因子Eigenvalues根據(jù)特征值大小來確定提取的數(shù)目Number of factor直接指定提取因子的多少maximum iterations for convergence指定因子分析收斂的的最大迭代次數(shù)根據(jù)數(shù)據(jù)量而定14相關(guān)按鈕說明 Descriptive15Univariate descriptive輸出各個變量的均數(shù)標(biāo)準(zhǔn)差等描述統(tǒng)計量Initial solution輸出因子提取前公因子方差Coefficient

7、s 輸出原始變量之間的相關(guān)系數(shù)矩陣Significance 輸出相關(guān)系數(shù)檢驗的顯著水平Determinant輸出相關(guān)系數(shù)矩陣的行列式KMO and Bartlett KMO 檢驗和球形Bartlett 檢驗Inverse 輸出相關(guān)系數(shù)矩陣的逆矩陣Reproduced 輸出再生相關(guān)矩陣Antiimage輸出反映象相關(guān)陣16相關(guān)按鈕說明 Rotation17Rotation 因子旋轉(zhuǎn)相關(guān)的選項，Varimax 正交旋轉(zhuǎn)也稱方差最大旋轉(zhuǎn)Direct Oblimin 直接斜交交旋轉(zhuǎn)Quartimax 四次最大正交旋轉(zhuǎn)Equamax 平均正交旋轉(zhuǎn)Promax 斜交旋轉(zhuǎn)方法Rotated solution

8、輸出因子旋轉(zhuǎn)結(jié)果Loading plots 輸出經(jīng)旋轉(zhuǎn)后的因子載荷旋轉(zhuǎn)圖18相關(guān)按鈕說明 ScoresSave as variables 將因子作為新變量保存在數(shù)據(jù)編輯器窗口Display factor 輸出因子得分系數(shù)矩陣是標(biāo)準(zhǔn)后的得分系數(shù)19相關(guān)按鈕說明 OptionMissing value缺失值的處理方法Coefficient Display format 設(shè)置載荷系數(shù)的顯示格式分別是安載荷系數(shù)大小排列和不現(xiàn)實載荷系數(shù)小于某一值的。20統(tǒng)計結(jié)果分析對以下幾個表格的解讀：觀測變量之間的相關(guān)矩陣（correlation Matrix）KMO和Bartlett檢驗結(jié)果公共因子方差（commu

9、nalities）全部方差解釋（Total variance Explained）因子載荷矩陣（component Matrix） 和旋轉(zhuǎn)后的因子載荷矩陣（Rotated component Matrix） （因子載荷矩陣轉(zhuǎn)換矩陣旋轉(zhuǎn)后的因子載荷矩陣）21變量間的相關(guān)矩陣（correlation）變量間的相關(guān)性矩陣給出了變量之間相關(guān)系數(shù)，同時還包括相關(guān)系數(shù)檢驗的顯著水平（在設(shè)置時指定輸出）。相關(guān)系數(shù)矩陣的值越大約好，說明變量之間的相關(guān)性越大，這樣就越可能找到公共因子；顯著性水平矩陣的值越小越好，說明相關(guān)性越顯著。下面的Determinant是相 關(guān)矩陣的行列式的值。22KMO和Bartlett

10、 檢驗結(jié)果Bartlett檢驗的目的式看數(shù)據(jù)是否來自多元正態(tài)分布，若差異檢驗的F值顯著表示所取的數(shù)據(jù)來自正態(tài)分布，可以做進一步的檢驗。檢驗的值越小效果越好。KMO檢驗的目的是分析變量之間的簡單相關(guān)系數(shù)和偏相關(guān)系數(shù)的相對大小，看數(shù)據(jù)是否合適進行因子分析。0.9最佳，0.7尚可，0.6很差，0.5以下放棄23公共因子方差（communalities） 公共因子方差等于因子載荷矩陣的某行因子載荷的平方和表示的是所有的公共因子對其所在行的觀測變量的貢獻。 其中Initial 對應(yīng)的初始方差， Extration 對應(yīng)的是提取公共因子方差。對應(yīng)的是根據(jù)某種原則提取的公共因子方差。 順便補充特征根就是對應(yīng)的因子載荷矩陣某一列的因子載荷的平方和。 具體可以見下圖的例子2425全部方差解釋（Total variance Explained）Initial eigenvalues 相關(guān)系數(shù)矩陣的特征值 of variance各成分所解釋的方差占總方差的百分比即各個因子特征值占特征值總和的百分比Extraction Sums of Squared Loadings 為因子提出的結(jié)果，是未經(jīng)旋轉(zhuǎn)的因