方差分析、主成分分析、相關(guān)與回歸分析

主成分分析方差分析相關(guān)與回歸分析目錄頁方差分析主成分分析相關(guān)與回歸分析方差分析的應(yīng)用條件（1）獨(dú)立，各組數(shù)據(jù)相互獨(dú)立，互不相關(guān)（2）正態(tài)，即各組數(shù)據(jù)符合正態(tài)分布（3）方差齊性，即各組方差相等

統(tǒng)計(jì)學(xué)上的因素是指研究者所關(guān)心的實(shí)驗(yàn)條件，而水平是指因素的具體表現(xiàn)形式。如，溫度（30、60、90）℃、藥物種類（A、B、C）和產(chǎn)地（山東、安徽、江蘇）。溫度、藥物種類和產(chǎn)地就是因素，而每個(gè)因素里具體的不同形式就稱為水平單因素方差分析例:一共有4種不同的飼料喂豬，共有19頭豬分為4組，每組一種飼料，一段時(shí)間后稱重。比較4種飼料對(duì)豬的體重影響是否顯著不同。飼料的類型增加的體重單擊“兩兩比較”主成分分析

是考察多個(gè)變量間相關(guān)性的一種多元統(tǒng)計(jì)方法，其主要目的是用較少的變量去解釋原始數(shù)據(jù)中的大部分變異。它通常用來尋找判斷某種事物或現(xiàn)象的綜合指標(biāo)，并且給綜合指標(biāo)所包含的信息以適當(dāng)?shù)慕忉?，從而更好的揭示事物?nèi)在的規(guī)律。但在實(shí)際的應(yīng)用當(dāng)中，主成分分析只是一種達(dá)到目的的中間手段，而不是最終目的，而要結(jié)合其他的統(tǒng)計(jì)方法來處理問題。2023/2/416第二章主成分分析

主成分分析（principalcomponentsanalysis）。主成分分析是利用降維的思想，在損失很少信息的前提下把多個(gè)指標(biāo)轉(zhuǎn)化為幾個(gè)綜合指標(biāo)的多元統(tǒng)計(jì)方法。通常把轉(zhuǎn)化生成的綜合指標(biāo)稱之為主成分，其中每個(gè)主成分都是原始變量的線性組合，且各個(gè)主成分之間互不相關(guān)，這就使得主成分比原始變量具有某些更優(yōu)越的性能。這樣在研究復(fù)雜問題時(shí)就可以只考慮少數(shù)幾個(gè)主成分而不至于損失太多信息，從而更容易抓住主要矛盾，揭示事物內(nèi)部變量之間的規(guī)律性，同時(shí)使問題得到簡(jiǎn)化，提高分析效率。2023/2/417主成分分析的基本思想

既然研究某一問題涉及的眾多變量之間有一定的相關(guān)性，就必然存在著起支配作用的共同因素，根據(jù)這一點(diǎn)，通過對(duì)原始變量相關(guān)矩陣或協(xié)方差矩陣內(nèi)部結(jié)構(gòu)關(guān)系的研究，利用原始變量的線性組合形成幾個(gè)綜合指標(biāo)（主成分），在保留原始變量主要信息的前提下起到降維與簡(jiǎn)化問題的作用，使得在研究復(fù)雜問題時(shí)更容易抓住主要矛盾。一般地說，利用主成分分析得到的主成分與原始變量之間有如下基本關(guān)系：1.每一個(gè)主成分都是各原始變量的線性組合；2.主成分的數(shù)目大大少于原始變量的數(shù)目2023/2/418

目錄上頁下頁返回結(jié)束

3.主成分保留了原始變量絕大多數(shù)信息4.各主成分之間互不相關(guān)

通過主成分分析，可以從事物之間錯(cuò)綜復(fù)雜的關(guān)系中找出一些主要成分，從而能有效利用大量統(tǒng)計(jì)數(shù)據(jù)進(jìn)行定量分析，揭示變量之間的內(nèi)在關(guān)系，得到對(duì)事物特征及其發(fā)展規(guī)律的一些深層次的啟發(fā)，把研究工作引向深入。主成分分析的任務(wù)1計(jì)算主成分首先將原有的變量標(biāo)準(zhǔn)化，然后計(jì)算各變量之間的相關(guān)矩陣、該矩陣的特征根和特征向量，最后將特征根由大到小排列，分別計(jì)算出對(duì)應(yīng)的主成分。2確定主成分個(gè)數(shù)（1）累計(jì)貢獻(xiàn)率：當(dāng)前k個(gè)主成分的累計(jì)貢獻(xiàn)率達(dá)到某一特定值（一般采用70%以上）時(shí)，則保留前k個(gè)主成分。（2）特征根：一般選取特征根≥1的主成分。

表示主成分影響力度大小的指標(biāo)，即引入該主成分后可以解釋平均多少原始變量的信息，如果特征根小于1，說明該主成分的解釋程度還不如直接引入一個(gè)原始變量的平均解釋程度大。

表示前k個(gè)主成分累計(jì)提取了原始變量多少的信息。2023/2/420注意的問題1.首先應(yīng)當(dāng)認(rèn)識(shí)到主成分分析方法適用于變量之間存在較強(qiáng)相關(guān)性的數(shù)據(jù)，如果原始數(shù)據(jù)相關(guān)性較弱，運(yùn)用主成分分析后不能起到很好的降維作用，即所得的各個(gè)主成分濃縮原始變量信息的能力差別不大。一般認(rèn)為當(dāng)原始數(shù)據(jù)大部分變量的相關(guān)系數(shù)都小于0.3時(shí)，運(yùn)用主成分分析不會(huì)取得很好的效果。2.主成分分析不能有效地剔除重疊信息，但它至少可以發(fā)現(xiàn)原始變量是否存在著重疊信息，這對(duì)我們減少分析中的失誤是有幫助的。2023/2/421主成分分析步驟1.根據(jù)研究問題選取初始分析變量；2.根據(jù)初始變量特性判斷由協(xié)方差陣求主成分還是由相關(guān)陣求主成分；3.求協(xié)差陣或相關(guān)陣的特征根與相應(yīng)標(biāo)準(zhǔn)特征向量；4.判斷是否存在明顯的多重共線性，若存在，則回到第一步；5.得到主成分的表達(dá)式并確定主成分個(gè)數(shù)，選取主成分；6.結(jié)合主成分對(duì)研究問題進(jìn)行分析并深入研究。例：1980年某汽車制造商從競(jìng)爭(zhēng)對(duì)手中選擇了17種車型，訪問了25名顧客，要求他們根據(jù)自己的偏好對(duì)這17種車型打分，打分范圍0-9.9分。如下表：點(diǎn)擊“繼續(xù)”，回到主頁點(diǎn)擊”確定“

相關(guān)關(guān)系的常見類型：線性相關(guān)：正線性相關(guān)、負(fù)線性相關(guān)非線性相關(guān)相關(guān)關(guān)系不象函數(shù)關(guān)系那樣直接,但卻普遍存在,且有強(qiáng)有弱.如何測(cè)度?相關(guān)分析和回歸分析的任務(wù)研究對(duì)象:相關(guān)關(guān)系相關(guān)分析旨在測(cè)度變量間線性關(guān)系的強(qiáng)弱程度.回歸分析側(cè)重考察變量之間的數(shù)量變化規(guī)律,并通過一定的數(shù)學(xué)表達(dá)式來描述這種關(guān)系,進(jìn)而確定一個(gè)或幾個(gè)變量的變化對(duì)另一個(gè)變量的影響程度.回歸分析基本步驟(1)確定自變量和因變量(2)從樣本數(shù)據(jù)出發(fā)確定變量之間的數(shù)學(xué)關(guān)系式,并對(duì)回歸方程的各個(gè)參數(shù)進(jìn)行估計(jì).(3)對(duì)回歸方程進(jìn)行各種統(tǒng)計(jì)檢驗(yàn).(4)利用回歸方程進(jìn)行預(yù)測(cè).相關(guān)分析(一)目的通過樣本數(shù)據(jù),研究?jī)勺兞块g線性相關(guān)程度的強(qiáng)弱.(例如:投資與收入之間的關(guān)系、GDP與通信需求之間的數(shù)量關(guān)系）(二)基本方法繪制散點(diǎn)圖、計(jì)算相關(guān)系數(shù)繪制散點(diǎn)圖基本操作步驟(1)菜單選項(xiàng):graphs->scatter(2)選擇散點(diǎn)圖類型:(3)選擇x軸和y軸的變量(4)選擇分組變量(setmarkersby):分別以不同顏色點(diǎn)的表示(5)選擇標(biāo)記變量(labelcaseby):散點(diǎn)圖上可帶有標(biāo)記變量的值(如:省份名稱)計(jì)算相關(guān)系數(shù)(1)作用:以精確的相關(guān)系數(shù)(r)體現(xiàn)兩個(gè)變量間的線性關(guān)系程度.r:[-1,+1];r=1:完全正相關(guān);r=-1:完全負(fù)相關(guān);r=0:無線性相關(guān);|r|>0.8:強(qiáng)相關(guān);|r|<0.3:弱相關(guān)(2)說明:相關(guān)系數(shù)只是較好地度量?jī)勺兞块g的線性相關(guān)程度,不能描述非線性關(guān)系.基本操作步驟(1)菜單選項(xiàng):analyze->correlate->bivariate...(2)選擇計(jì)算相關(guān)系數(shù)的變量到variables框.(3)選擇相關(guān)系數(shù)(correlationcoefficients).(4)顯著性檢驗(yàn)(testofsignificance)tow-tailed:輸出雙尾概率P.one-tailed:輸出單尾概率P(一)一元回歸方程:

y=β0+β1xβ0為常數(shù)項(xiàng)；β1為y對(duì)x回歸系數(shù)，即:x每變動(dòng)一個(gè)單位所引起的y的平均變動(dòng)(二)一元回歸分析的步驟利用樣本數(shù)據(jù)建立回歸方程回歸方程的擬和優(yōu)度檢驗(yàn)回歸方程的顯著性檢驗(yàn)(t檢驗(yàn)和F檢驗(yàn))殘差分析預(yù)測(cè)