主成分分析法

主成分分析法主成分分析法是一種數(shù)學(xué)變換的方法，它把給定的一組相關(guān)變量通過線性變換轉(zhuǎn)成另一組不相關(guān)的變量，這些新的變量按照方差依次遞減的順序排列。在數(shù)學(xué)變換中保持變量的總方差不變，使第一變量具有最大的方差，稱為第一主成分，第二變量的方差次大，并且和第一變量不相關(guān)，稱為第二主成分。依次類推，I個變量就有I個主成分。其中Li為p維正交化向量(Li*Li=1)，Zi之間互不相關(guān)且按照方差由大到小排列，則稱Zi為X的第I個主成分。10本詞條無基本信息模塊，歡迎各位編輯詞條，額外獲取10個積分。目錄1基本定義2分析目的3分析步驟4因子旋轉(zhuǎn)5應(yīng)用問題1基本定義主成分分析法是一種數(shù)學(xué)變換的方法,它把給定的一組相關(guān)變量通過線性變換轉(zhuǎn)成另一組不相關(guān)的變量，這些新的變量按照方差依次遞減的順序排列。在數(shù)學(xué)變換中保持變量的總方差不變，使第一變量具有最大的方差，稱為第一主，第二變量的方差次大，并且和第一變量不相關(guān)，稱為第二主成分。依次類推，I個變量就有I個主成分。其中Li為p維正交化向量(Li*Li=1)，Zi之間互不相關(guān)且按照方差由大到小排列，則稱Zi為X的第I個主成分。設(shè)X的協(xié)方差矩陣為乙則Z必為半正定對稱矩陣，求特征值A(chǔ)i(按從大到小排序)及其特征向量，可以證明，Ai所對應(yīng)的正交化特征向量，即為第I個主成分Zi所對應(yīng)的系數(shù)向量Li,而Zi的方差貢獻率定義為Ai/ZAj,通常要求提取的主成Cril-irlRiL分的k滿足ZAk/ZAj＞0.85。2分析目的是希望用較少的變量去解釋原來資料中的大部分變量，將我們手中許多相關(guān)性很高的變量轉(zhuǎn)化成彼此相互獨立或不相關(guān)的變量。通常是選出比原始變量個數(shù)少，能解釋大部分資料中變量的幾個新變量，即所謂主成分，并用以解釋資料的綜合性指標。由此可見，主成分分析實際上是一種降維方法。3分析步驟數(shù)據(jù)標準化；求相關(guān)系數(shù)矩陣；一系列正交變換，使非對角線上的數(shù)置0，加到主對角上；得特征根xi（即相應(yīng)那個主成分引起變異的方差），并按照從大到小的順序把特征根排列;求各個特征根對應(yīng)的特征向量；用下式計算每個特征根的貢獻率Vi;Vi=xi/（x1+x2+ ）根據(jù)特征根及其特征向量解釋主成分物理意義。4因子旋轉(zhuǎn)在對社會調(diào)查數(shù)據(jù)進行分析時，除了把相關(guān)的問題綜合成因子并保留大的因子，研究者往往還需要對因子與測度項之間的關(guān)系進行檢驗，以確保每一個主要的因子（主成分）對應(yīng)于一組意義相關(guān)的測度項。為了更清楚的展現(xiàn)因子與測度項之間的關(guān)系，研究者需要進行因子旋轉(zhuǎn)。常見的旋轉(zhuǎn)方法是VARIMAX旋轉(zhuǎn)。旋轉(zhuǎn)之后，如果一個測度項與對應(yīng)的因子的相關(guān)度很高（＞0.5）就被認為是可以接受的。如果一個測度項與一個不對應(yīng)的因子的相關(guān)度過高（＞0.4），則是不可接受的，這樣的測度項可能需要修改或淘汰。用主成分分析法得到因子，并用因子旋轉(zhuǎn)分析測度項與因子關(guān)系的過程往往被稱為探索性因子分析在探索性因子分析被接受之后，研究者可以對這些因子之間的關(guān)系進行進一步測試，比用如結(jié)構(gòu)方程分析來做假設(shè)檢驗5應(yīng)用問題1問題的提出主成分分析是一種降維的方法，便于分析問題,在諸多領(lǐng)域中都有廣泛的應(yīng)用。但有些教科書與論文使用主成分分析時，出現(xiàn)了一些錯誤與不足，不能解決實際問題。如一些多元統(tǒng)計分析的教材中，用協(xié)方差矩陣的主成分分析出現(xiàn)了如下錯誤與不足:①沒有明確和判斷該數(shù)據(jù)降維的條件是否成立。②主成分系數(shù)的平方和不為1。③沒有明確和判斷所用數(shù)據(jù)是否適合作單獨的主成分分析。④選取的主成分對原始變量沒有代表性。以下從相關(guān)性等理論與結(jié)果上依次解決上述問題，并給出相應(yīng)建議。2數(shù)據(jù)在行為與心理研究中，常常要求分析某種身份的人的行為特征，如本例中的小學(xué)生的日常行為特征,從而根據(jù)這些特征引導(dǎo)小學(xué)生向更積極的行為態(tài)度發(fā)展。這里用文獻的數(shù)據(jù)見表1,其來自某課題組的調(diào)查結(jié)果課題組對北方某小學(xué)480名5?6年級學(xué)生的日常行為進行調(diào)查共調(diào)查了15項指標如下，1?對老師提問的反應(yīng)、S2?對班級事務(wù)的關(guān)心、53?自習課上的表現(xiàn)、S4?對家庭作