主成分分析法

主成分分析法主成分分析法是一種數(shù)學(xué)變換的方法，它把給定的一組相關(guān)變量通過(guò)線性變換轉(zhuǎn)成另一組不相關(guān)的變量，這些新的變量按照方差依次遞減的順序排列。在數(shù)學(xué)變換中保持變量的總方差不變，使第一變量具有最大的方差，稱(chēng)為第一主成分，第二變量的方差次大，并且和第一變量不相關(guān)，稱(chēng)為第二主成分。依次類(lèi)推，I個(gè)變量就有I個(gè)主成分。其中Li為p維正交化向量(Li*Li=1)，Zi之間互不相關(guān)且按照方差由大到小排列，則稱(chēng)Zi為X的第I個(gè)主成分。10本詞條無(wú)基本信息模塊，歡迎各位編輯詞條，額外獲取10個(gè)積分。目錄1基本定義2分析目的3分析步驟4因子旋轉(zhuǎn)5應(yīng)用問(wèn)題1基本定義主成分分析法是一種數(shù)學(xué)變換的方法,它把給定的一組相關(guān)變量通過(guò)線性變換轉(zhuǎn)成另一組不相關(guān)的變量，這些新的變量按照方差依次遞減的順序排列。在數(shù)學(xué)變換中保持變量的總方差不變，使第一變量具有最大的方差，稱(chēng)為第一主，第二變量的方差次大，并且和第一變量不相關(guān)，稱(chēng)為第二主成分。依次類(lèi)推，I個(gè)變量就有I個(gè)主成分。其中Li為p維正交化向量(Li*Li=1)，Zi之間互不相關(guān)且按照方差由大到小排列，則稱(chēng)Zi為X的第I個(gè)主成分。設(shè)X的協(xié)方差矩陣為乙則Z必為半正定對(duì)稱(chēng)矩陣，求特征值A(chǔ)i(按從大到小排序)及其特征向量，可以證明，Ai所對(duì)應(yīng)的正交化特征向量，即為第I個(gè)主成分Zi所對(duì)應(yīng)的系數(shù)向量Li,而Zi的方差貢獻(xiàn)率定義為Ai/ZAj,通常要求提取的主成Cril-irlRiL分的k滿足ZAk/ZAj＞0.85。2分析目的是希望用較少的變量去解釋原來(lái)資料中的大部分變量，將我們手中許多相關(guān)性很高的變量轉(zhuǎn)化成彼此相互獨(dú)立或不相關(guān)的變量。通常是選出比原始變量個(gè)數(shù)少，能解釋大部分資料中變量的幾個(gè)新變量，即所謂主成分，并用以解釋資料的綜合性指標(biāo)。由此可見(jiàn)，主成分分析實(shí)際上是一種降維方法。3分析步驟數(shù)據(jù)標(biāo)準(zhǔn)化；求相關(guān)系數(shù)矩陣；一系列正交變換，使非對(duì)角線上的數(shù)置0，加到主對(duì)角上；得特征根xi（即相應(yīng)那個(gè)主成分引起變異的方差），并按照從大到小的順序把特征根排列;求各個(gè)特征根對(duì)應(yīng)的特征向量；用下式計(jì)算每個(gè)特征根的貢獻(xiàn)率Vi;Vi=xi/（x1+x2+ ）根據(jù)特征根及其特征向量解釋主成分物理意義。4因子旋轉(zhuǎn)在對(duì)社會(huì)調(diào)查數(shù)據(jù)進(jìn)行分析時(shí)，除了把相關(guān)的問(wèn)題綜合成因子并保留大的因子，研究者往往還需要對(duì)因子與測(cè)度項(xiàng)之間的關(guān)系進(jìn)行檢驗(yàn)，以確保每一個(gè)主要的因子（主成分）對(duì)應(yīng)于一組意義相關(guān)的測(cè)度項(xiàng)。為了更清楚的展現(xiàn)因子與測(cè)度項(xiàng)之間的關(guān)系，研究者需要進(jìn)行因子旋轉(zhuǎn)。常見(jiàn)的旋轉(zhuǎn)方法是VARIMAX旋轉(zhuǎn)。旋轉(zhuǎn)之后，如果一個(gè)測(cè)度項(xiàng)與對(duì)應(yīng)的因子的相關(guān)度很高（＞0.5）就被認(rèn)為是可以接受的。如果一個(gè)測(cè)度項(xiàng)與一個(gè)不對(duì)應(yīng)的因子的相關(guān)度過(guò)高（＞0.4），則是不可接受的，這樣的測(cè)度項(xiàng)可能需要修改或淘汰。用主成分分析法得到因子，并用因子旋轉(zhuǎn)分析測(cè)度項(xiàng)與因子關(guān)系的過(guò)程往往被稱(chēng)為探索性因子分析在探索性因子分析被接受之后，研究者可以對(duì)這些因子之間的關(guān)系進(jìn)行進(jìn)一步測(cè)試，比用如結(jié)構(gòu)方程分析來(lái)做假設(shè)檢驗(yàn)5應(yīng)用問(wèn)題1問(wèn)題的提出主成分分析是一種降維的方法，便于分析問(wèn)題,在諸多領(lǐng)域中都有廣泛的應(yīng)用。但有些教科書(shū)與論文使用主成分分析時(shí)，出現(xiàn)了一些錯(cuò)誤與不足，不能解決實(shí)際問(wèn)題。如一些多元統(tǒng)計(jì)分析的教材中，用協(xié)方差矩陣的主成分分析出現(xiàn)了如下錯(cuò)誤與不足:①?zèng)]有明確和判斷該數(shù)據(jù)降維的條件是否成立。②主成分系數(shù)的平方和不為1。③沒(méi)有明確和判斷所用數(shù)據(jù)是否適合作單獨(dú)的主成分分析。④選取的主成分對(duì)原始變量沒(méi)有代表性。以下從相關(guān)性等理論與結(jié)果上依次解決上述問(wèn)題，并給出相應(yīng)建議。2數(shù)據(jù)在行為與心理研究中，常常要求分析某種身份的人的行為特征，如本例中的小學(xué)生的日常行為特征,從而根據(jù)這些特征引導(dǎo)小學(xué)生向更積極的行為態(tài)度發(fā)展。這里用文獻(xiàn)的數(shù)據(jù)見(jiàn)表1,其來(lái)自某課題組的調(diào)查結(jié)果課題組對(duì)北方某小學(xué)480名5?6年級(jí)學(xué)生的日常行為進(jìn)行調(diào)查共調(diào)查了15項(xiàng)指標(biāo)如下，1?對(duì)老師提問(wèn)的反應(yīng)、S2?對(duì)班級(jí)事務(wù)的關(guān)心、53?自習(xí)課上的表現(xiàn)、S4?對(duì)家庭作