《應(yīng)用多元分析》第三版(第二章)

《應(yīng)用多元分析》第三版ppt第二章大綱CATALOGUE目錄數(shù)據(jù)矩陣與多元分布多元正態(tài)分布及其性質(zhì)多元正態(tài)總體均值向量和協(xié)方差矩陣估計判別分析與聚類分析初步主成分分析及其應(yīng)用因子分析模型及其求解方法01數(shù)據(jù)矩陣與多元分布由多個變量的觀測值按一定順序排列而成的矩陣，行表示觀測個體，列表示變量。數(shù)據(jù)矩陣定義數(shù)據(jù)矩陣類型數(shù)據(jù)矩陣性質(zhì)根據(jù)數(shù)據(jù)類型不同，可分為連續(xù)型、離散型和混合型數(shù)據(jù)矩陣。具有維度、秩、跡等基本性質(zhì)，是進(jìn)行多元統(tǒng)計分析的基礎(chǔ)。030201數(shù)據(jù)矩陣基本概念03多元分布的矩包括均值向量、協(xié)方差矩陣和相關(guān)系數(shù)矩陣等，用于描述多元分布的數(shù)字特征。01多元分布定義描述多個隨機變量聯(lián)合分布情況的概率分布，是一元分布的推廣。02多元正態(tài)分布最常見的一種多元分布，具有很多良好的性質(zhì)，如線性變換不變性、獨立性與不相關(guān)性等。多元分布及其性質(zhì)01樣本各變量的均值構(gòu)成的向量，是總體均值向量的估計。樣本均值向量02反映樣本各變量之間協(xié)方差關(guān)系的矩陣，是總體協(xié)方差矩陣的估計。樣本協(xié)方差矩陣03具有無偏性、一致性等優(yōu)良性質(zhì)，是進(jìn)行多元統(tǒng)計分析的重要工具。樣本均值向量與協(xié)方差矩陣的性質(zhì)樣本均值向量與協(xié)方差矩陣數(shù)據(jù)標(biāo)準(zhǔn)化處理提高數(shù)據(jù)分析的準(zhǔn)確性和可靠性；消除指標(biāo)之間的量綱影響；避免數(shù)值問題，如計算過程中的溢出等。數(shù)據(jù)標(biāo)準(zhǔn)化的意義將數(shù)據(jù)按比例縮放，使之落入一個小的特定區(qū)間，以去除數(shù)據(jù)的單位限制，將其轉(zhuǎn)化為無量綱的純數(shù)值，便于不同單位或量級的指標(biāo)能夠進(jìn)行比較和加權(quán)。數(shù)據(jù)標(biāo)準(zhǔn)化定義包括Z-score標(biāo)準(zhǔn)化、最小-最大標(biāo)準(zhǔn)化、小數(shù)定標(biāo)標(biāo)準(zhǔn)化等。數(shù)據(jù)標(biāo)準(zhǔn)化的方法02多元正態(tài)分布及其性質(zhì)二元正態(tài)分布從二維隨機變量的分布出發(fā)，介紹二元正態(tài)分布的定義、性質(zhì)及其圖像。多元正態(tài)分布將二元正態(tài)分布的概念推廣到多維情況，給出多元正態(tài)分布的定義和性質(zhì)。密度函數(shù)與分布函數(shù)詳細(xì)解釋多元正態(tài)分布的密度函數(shù)和分布函數(shù)，以及它們的性質(zhì)和特點。多元正態(tài)分布定義期望、方差和協(xié)方差介紹多元正態(tài)分布的期望、方差和協(xié)方差等數(shù)字特征，以及它們與分布的關(guān)系。線性變換不變性闡述多元正態(tài)分布在線性變換下的不變性，即經(jīng)過線性變換后仍為多元正態(tài)分布。獨立性與相關(guān)性討論多元正態(tài)分布中各個分量之間的獨立性和相關(guān)性，以及它們對分布的影響。多元正態(tài)分布性質(zhì)在給定部分分量的條件下，推導(dǎo)多元正態(tài)分布的條件分布，并討論其性質(zhì)和應(yīng)用。條件分布通過積分或其他方式，求出多元正態(tài)分布中部分分量的邊緣分布，并討論其與其他分量的關(guān)系。邊緣分布結(jié)合實例，介紹條件分布和邊緣分布在統(tǒng)計推斷、回歸分析等領(lǐng)域的應(yīng)用。應(yīng)用舉例條件分布與邊緣分布獨立性、相關(guān)性與不相關(guān)性獨立性概念明確多元隨機變量獨立性的定義和性質(zhì)，以及獨立性在多元正態(tài)分布中的特殊性質(zhì)。相關(guān)性度量介紹相關(guān)系數(shù)、協(xié)方差矩陣等度量多元隨機變量相關(guān)性的方法和指標(biāo)，以及它們在多元正態(tài)分布中的應(yīng)用。不相關(guān)性與獨立性關(guān)系討論不相關(guān)性與獨立性之間的關(guān)系和區(qū)別，特別是在多元正態(tài)分布中的表現(xiàn)和解釋。應(yīng)用舉例結(jié)合實例，闡述獨立性、相關(guān)性和不相關(guān)性在多元統(tǒng)計分析中的實際應(yīng)用和意義。03多元正態(tài)總體均值向量和協(xié)方差矩陣估計樣本均值向量作為均值向量估計對于多元正態(tài)總體，其均值向量可以通過樣本均值向量進(jìn)行估計，樣本均值向量是各個樣本點在每個維度上的均值組成的向量。樣本均值向量的性質(zhì)樣本均值向量是總體均值向量的無偏估計，當(dāng)樣本量增加時，樣本均值向量依概率收斂于總體均值向量。樣本均值向量的應(yīng)用在實際應(yīng)用中，可以通過抽取一定數(shù)量的樣本，計算樣本均值向量來估計總體的均值向量。樣本均值向量的定義樣本協(xié)方差矩陣的定義對于多元正態(tài)總體，其協(xié)方差矩陣可以通過樣本協(xié)方差矩陣進(jìn)行估計，樣本協(xié)方差矩陣是各個樣本點在各個維度上的偏差乘積的平均值組成的矩陣。樣本協(xié)方差矩陣的性質(zhì)樣本協(xié)方差矩陣是總體協(xié)方差矩陣的無偏估計，當(dāng)樣本量增加時，樣本協(xié)方差矩陣依概率收斂于總體協(xié)方差矩陣。樣本協(xié)方差矩陣的應(yīng)用在實際應(yīng)用中，可以通過抽取一定數(shù)量的樣本，計算樣本協(xié)方差矩陣來估計總體的協(xié)方差矩陣，從而了解總體各個維度之間的相關(guān)性和變異程度。010203樣本協(xié)方差矩陣作為協(xié)方差矩陣估計一致性隨著樣本量的增加，樣本均值向量和樣本協(xié)方差矩陣都依概率收斂于總體參數(shù)的真實值，即它們具有一致性。有效性在無偏估計量中，樣本均值向量和樣本協(xié)方差矩陣具有最小的方差，即它們是最有效的無偏估計量。無偏性樣本均值向量和樣本協(xié)方差矩陣都是總體參數(shù)的無偏估計量，即它們的期望值等于總體參數(shù)的真實值。估計量性質(zhì)置信區(qū)間對于總體均值向量和協(xié)方差矩陣的估計，可以構(gòu)造置信區(qū)間來表示估計的可靠程度。置信區(qū)間是指在一定置信水平下，總體參數(shù)落入的區(qū)間范圍。假設(shè)檢驗在實際應(yīng)用中，常常需要對總體參數(shù)進(jìn)行假設(shè)檢驗，即根據(jù)樣本信息對總體參數(shù)做出推斷。例如，可以檢驗兩個總體的均值向量是否有顯著差異，或者檢驗總體協(xié)方差矩陣是否等于某個給定的矩陣。置信區(qū)間與假設(shè)檢驗04判別分析與聚類分析初步123判別分析是一種統(tǒng)計方法，用于判斷一個或多個定量變量的取值對樣本所屬類別的影響，進(jìn)而對未知類別的樣本進(jìn)行預(yù)測。判別分析定義判別函數(shù)是用于描述各類別之間差異的函數(shù)，通常由樣本的定量變量和類別變量構(gòu)成。判別函數(shù)判別準(zhǔn)則是用于評價判別效果的指標(biāo)，如誤判率、準(zhǔn)確率等。判別準(zhǔn)則判別分析基本概念聚類分析是一種無監(jiān)督學(xué)習(xí)方法，用于將樣本劃分為若干個類別，使得同一類別內(nèi)的樣本相似度較高，不同類別間的樣本相似度較低。聚類分析定義常見的聚類方法包括K-means聚類、層次聚類、密度聚類等。聚類方法聚類效果評價通常使用輪廓系數(shù)、Calinski-Harabasz指數(shù)等指標(biāo)。聚類效果評價聚類分析基本概念距離與相似度度量方法距離度量距離度量是衡量樣本間相似度的一種方法，常見的距離度量方法包括歐氏距離、曼哈頓距離、切比雪夫距離等。相似度度量相似度度量是衡量樣本間相似程度的另一種方法，常見的相似度度量方法包括余弦相似度、皮爾遜相關(guān)系數(shù)等。類別數(shù)確定類別數(shù)的確定通常需要根據(jù)實際問題和數(shù)據(jù)特點進(jìn)行綜合考慮，可以使用一些統(tǒng)計方法或可視化工具進(jìn)行輔助判斷。類別命名與解釋對劃分出的各類別進(jìn)行命名和解釋，以便于理解和應(yīng)用。類別劃分原則類別劃分應(yīng)遵循同一類別內(nèi)差異最小、不同類別間差異最大的原則。類別劃分標(biāo)準(zhǔn)05主成分分析及其應(yīng)用線性變換與降維通過線性變換將原始變量轉(zhuǎn)換為新的綜合變量，實現(xiàn)數(shù)據(jù)降維。方差最大化主成分分析旨在找到使新變量方差最大的方向，以保留盡可能多的原始信息。不相關(guān)主成分各主成分之間相互獨立，即協(xié)方差為0，避免信息重疊。主成分分析基本原理協(xié)方差矩陣或相關(guān)矩陣根據(jù)原始數(shù)據(jù)計算協(xié)方差矩陣或相關(guān)矩陣。主成分表達(dá)式將特征向量按對應(yīng)特征值大小排序，得到各主成分的表達(dá)式。特征值與特征向量求解協(xié)方差矩陣或相關(guān)矩陣的特征值和特征向量。主成分求解方法通常選擇累計貢獻(xiàn)率達(dá)到80%或85%以上的前幾個主成分。累計貢獻(xiàn)率Kaiser準(zhǔn)則建議保留特征值大于1的主成分。特征值大于1通過繪制碎石圖（ScreePlot）觀察主成分變化的拐點，確定主成分個數(shù)。碎石圖主成分個數(shù)選擇標(biāo)準(zhǔn)主成分得分將原始數(shù)據(jù)代入主成分表達(dá)式，計算各樣本在各主成分上的得分。主成分解釋結(jié)合專業(yè)知識，對主成分的實際意義進(jìn)行解釋，如某主成分可能代表某種經(jīng)濟(jì)現(xiàn)象或社會現(xiàn)象。主成分應(yīng)用將主成分得分作為新的變量，用于聚類、回歸、評價等多元分析方法。主成分得分及解釋03020106因子分析模型及其求解方法因子分析基本概念通過降維技術(shù)，將多個相關(guān)變量轉(zhuǎn)化為少數(shù)幾個不相關(guān)的綜合指標(biāo)，即因子。因子分析假設(shè)條件包括變量間的相關(guān)性、因子載荷的特殊性等。因子分析數(shù)學(xué)模型描述觀測變量與因子之間的關(guān)系，包括因子載荷、公因子方差等概念。因子分析模型介紹通過主成分分析，將原始變量轉(zhuǎn)換為新的主成分，進(jìn)而求解因子載荷矩陣。主成分法基于概率統(tǒng)計原理，通過最大化樣本數(shù)據(jù)的似然函數(shù)來估計因子載荷矩陣。最大似然法如最小二乘法、迭代法等，可根據(jù)具體情況選擇使用。其他方法因子載荷矩陣求解方法使因子載荷矩陣結(jié)構(gòu)簡化，便于對因子進(jìn)行解釋和命名。因子旋轉(zhuǎn)目的包括正交旋轉(zhuǎn)和斜交旋轉(zhuǎn)兩大類，具體方法如方差最大法、四次方最大法等。因子旋轉(zhuǎn)方法根據(jù)旋轉(zhuǎn)后的因子載荷矩陣，結(jié)合專業(yè)知識和實際背景，對因子進(jìn)行解釋和命名。因子解釋與命名因子旋轉(zhuǎn)與解釋因子得分概念