數(shù)據(jù)統(tǒng)計(jì)分析的16個基礎(chǔ)概念

數(shù)據(jù)統(tǒng)計(jì)分析的16個基礎(chǔ)概念

本文介紹了數(shù)據(jù)統(tǒng)計(jì)分析的16個基本概念

目錄

1.描述統(tǒng)計(jì).......................................................................1

2.假設(shè)檢驗(yàn).....................................................................3

3.信度分析.....................................................................4

4.列聯(lián)表分析...................................................................5

5.相關(guān)分析.....................................................................6

6.方差分析.....................................................................7

7.回歸分析.....................................................................7

8.聚類分析.....................................................................8

9.判別分析....................................................................10

10.主成分分析.................................................................10

11.因子分析...................................................................11

12.時(shí)間序列分析...............................................................12

13.生存分析...................................................................14

14.典型相關(guān)分析...............................................................14

15.ROC分析..................................................................15

15.1.ROC曲線的主要作用.......................15

15.2.ROC曲線實(shí)例分析........................16

15.3.ROC曲線的優(yōu)點(diǎn)...........................17

16.其他分析方法................................................................18

1.描述統(tǒng)計(jì)

描述統(tǒng)計(jì)是通過圖表或數(shù)學(xué)方法，對數(shù)據(jù)資料進(jìn)行整理、分析，并對數(shù)據(jù)

的分布狀態(tài)、數(shù)字特征和隨機(jī)變量之間關(guān)系進(jìn)行估計(jì)和描述的方法。描述統(tǒng)計(jì)

分為集中趨勢分析和離中趨勢分析和相關(guān)分析三大部分。

集中趨勢分析：集中趨勢分析主要靠平均數(shù)、中數(shù)、眾數(shù)等統(tǒng)計(jì)指標(biāo)來表

示數(shù)據(jù)的集中趨勢。例如被試的平均成績多少？是正偏分布還是負(fù)偏分布？

離中趨勢分析?：離中趨勢分析主要靠全距、四分差、平均差、方差（協(xié)方

差：用來度量兩個隨機(jī)變量關(guān)系的統(tǒng)計(jì)量）、標(biāo)準(zhǔn)差等統(tǒng)訂指標(biāo)來研究數(shù)據(jù)的

第1頁共19頁

離中趨勢。例如，我們想知道兩個教學(xué)班的語文成績中，哪個班級內(nèi)的成績分

布更分散，就可以用兩個班級的四分差或百分點(diǎn)來比較。

相關(guān)分析：相關(guān)分析探討數(shù)據(jù)之間是否具有統(tǒng)計(jì)學(xué)上的關(guān)聯(lián)性。這種關(guān)系

既包括兩個數(shù)據(jù)之間的單一相關(guān)關(guān)系一一如年齡與個人領(lǐng)域空間之間的關(guān)系，

也包括多個數(shù)據(jù)之間的多重相關(guān)關(guān)系一一如年齡、抑郁癥發(fā)生率、個人領(lǐng)域空

間之間的關(guān)系；既包括A大B就大（小），A小B就?。ù螅┑闹本€相關(guān)關(guān)系，也

可以是復(fù)雜相關(guān)關(guān)系（A二Y-B*X）；既可以是A、B變量同時(shí)增大這種正相關(guān)關(guān)

系，也可以是A變量增大時(shí)B變量減小這種負(fù)相關(guān)，還包括兩變量共同變化的

緊密程度一一即相關(guān)系數(shù)。實(shí)際上，相關(guān)關(guān)系唯一不研究的數(shù)據(jù)關(guān)系，就是數(shù)

據(jù)協(xié)同變化的內(nèi)在根據(jù)一一即因果關(guān)系。獲得相關(guān)系數(shù)有什么用呢？簡而言

之，有了相關(guān)系數(shù)，就可以根據(jù)回歸方程，進(jìn)行A變量到B變量的估算，這就

是所謂的回歸分析，因此，相關(guān)分析是一種完整的統(tǒng)計(jì)研究方法，它貫穿于提

出假設(shè)，數(shù)據(jù)研究，數(shù)據(jù)分析，數(shù)據(jù)研究的始終。

例如，我們想知道對監(jiān)獄情景進(jìn)行什么改造，可以降低囚徒的暴力傾向。

我們就需要將不同的囚舍顏色基調(diào)、囚舍綠化程度、囚室人口密度、放風(fēng)時(shí)

間、探視時(shí)間進(jìn)行排列組合，然后讓每個囚室一種實(shí)驗(yàn)處理，然后用因素分析

法找出與囚徒暴力傾向的相關(guān)系數(shù)最高的因素。假定這一因素為囚室人口密

度，我們又要將被試隨機(jī)分入不同人口密度的十幾個囚室中生活，繼而得到人

口密度和暴力傾向兩組變量（即我們討論過的A、B兩列變量）。然后，我們將

人口密度排入X軸，將暴力傾向分排入Y軸，獲得了一個很有價(jià)值的圖表，當(dāng)

某典獄長想知道，某囚舍擴(kuò)建到N人/間囚室，暴力傾向能降低多少。我們可

以當(dāng)前人口密度和改建后人口密度帶入相應(yīng)的回歸方程，算出擴(kuò)建前的預(yù)期暴

力傾向和擴(kuò)建后的預(yù)期暴力傾向，兩數(shù)據(jù)之差即典獄長想知道的結(jié)果。

推論統(tǒng)計(jì)；

推論統(tǒng)計(jì)是統(tǒng)計(jì)學(xué)乃至于心理統(tǒng)計(jì)學(xué)中較為年輕的一部分內(nèi)容。它以統(tǒng)計(jì)

結(jié)果為依據(jù)，來證明或推翻某個命題。具體來說，就是通過分析樣本與樣本分

布的差異，來估算樣本與總體、同一樣本的前后測成績差異，樣本與樣本的成

績差距、總體與總體的成績差距是否具有顯著性差異。例如，我們想研究教育

背景是否會影響人的智力測驗(yàn)成績?？梢哉?00名24歲大學(xué)畢業(yè)生和100名

24歲初中畢業(yè)生。采集他們的一些智力測驗(yàn)成績。用推論統(tǒng)計(jì)方法進(jìn)行數(shù)據(jù)處

第2頁共19頁

理，最后會得出類似這樣兒的結(jié)論：“研究發(fā)現(xiàn)，大學(xué)畢業(yè)生組的成績顯著高

于初中畢業(yè)生組的成績，二者在0.01水平上具有顯著性差異，說明大學(xué)畢業(yè)生

的一些智力測驗(yàn)成績優(yōu)于中學(xué)畢業(yè)生組?！?/p>

其中，如果用EXCEL來求描述統(tǒng)計(jì)。其方法是：工具■加載宏?勾選”分析

工具庫”，然后關(guān)閉Excel然后重新打開，工具菜單就會出現(xiàn)”數(shù)據(jù)分析二描述

統(tǒng)計(jì)是“數(shù)據(jù)分析”內(nèi)一個子菜單，在做的時(shí)候，記得要把方格輸入正確。最好

直接點(diǎn)選。

2、正態(tài)性檢驗(yàn)：很多統(tǒng)計(jì)方法都要求數(shù)值服從或近似服從正態(tài)分布，所

以之前需要進(jìn)行正態(tài)性檢驗(yàn)。常用方法：非參數(shù)檢驗(yàn)的K.量檢驗(yàn)、P-P圖、Q-

Q圖、W檢驗(yàn)、動差法。

2.假設(shè)檢驗(yàn)

1、參數(shù)檢驗(yàn)

參數(shù)檢驗(yàn)是在己知總體分布的條件下（一股要求總體服從正態(tài)分布）對一些

主要的參數(shù)（如均值、百分?jǐn)?shù)、方差、相關(guān)系數(shù)等）進(jìn)行的檢驗(yàn)。

1）U驗(yàn)：使用條件：當(dāng)樣本含量n較大時(shí)，樣本值符合正態(tài)分布

2）T檢驗(yàn)使用條件：當(dāng)樣本含量n較小時(shí)，樣本值符合正態(tài)分布

A單樣本t檢驗(yàn)：推斷該樣本來自的總體均數(shù)pi與已知的某一總體均數(shù)叩

（常為理論值或標(biāo)準(zhǔn)值）有無差別；

B配對樣本t檢驗(yàn)：當(dāng)總體均數(shù)未知時(shí)?，且兩個樣本可以配對，同對中的

兩者在可能會影響處理效果的各種條件方面報(bào)為相似；

C兩獨(dú)立樣本t檢驗(yàn)：無法找到在各方面極為相似的兩樣本作配對比較時(shí)

使用。

2、非參數(shù)檢驗(yàn)

非參數(shù)檢驗(yàn)則不考慮總體分布.是否已知，常常也不是針對總體參數(shù)，而是

針對總體的某些一股性假設(shè)（如總體分布的位置是否相同，總體分布是否正態(tài)）

進(jìn)行檢驗(yàn)。

適用情況：順序類型的數(shù)據(jù)資料，這類數(shù)據(jù)的分布形態(tài)?般是未知的。

A雖然是連續(xù)數(shù)據(jù)，但總體分布形態(tài)未知或者非正態(tài)；

B體分布雖然正態(tài)，數(shù)據(jù)也是連續(xù)類型，但樣本容量極小，如10以下；

第3頁共19頁

主要方法包括：卡方檢驗(yàn)、秩和檢驗(yàn)、二項(xiàng)檢驗(yàn)、游程檢驗(yàn)、K■量檢驗(yàn)

等。

3.信度分析

介紹：信度(Reliability)即可靠性，它是指采用同樣的方法對同一對象重復(fù)

測量時(shí)所得結(jié)果的一致性程度。信度指標(biāo)多以相關(guān)系數(shù)表示，大致可分為三

類：穩(wěn)定系數(shù)(跨時(shí)間的一致性)，等值系數(shù)(跨形式的一致性)和內(nèi)在一致性系

數(shù)(跨項(xiàng)目的一致性)。信度分析的方法主要有以下四種：重測信度法、復(fù)本信

度法、折半信度法、a信度系數(shù)法。

方法：

(1)重測信度法編輯：這一方法是用同樣的問卷對同一組被調(diào)查者間隔一定

時(shí)間重復(fù)施測，計(jì)算兩次施測結(jié)果的相關(guān)系數(shù)。顯然，重測信度屬于穩(wěn)定系

數(shù)。重測信度法特別適用于事實(shí)式問卷，如性別、出生年月等在兩次施測中不

應(yīng)有任何差異，大多數(shù)被調(diào)查者的興趣、愛好、習(xí)慣等在短時(shí)間內(nèi)也不會有十

分明顯的變化。如果沒有突發(fā)事件導(dǎo)致被調(diào)查者的態(tài)度、意見突變，這種方法

也適用于態(tài)度、意見式問卷。由于重測信度法需要對同一樣木試測兩次，被調(diào)

查者容易受到各種事件、活動和他人的影響，而且間隔時(shí)間長短也有一定限

制，因此在實(shí)施中有一定困難。

(2)復(fù)本信度法編輯：讓同一組被調(diào)查者一次填答兩份問卷復(fù)本，計(jì)算兩個

復(fù)本的相關(guān)系數(shù)。復(fù)本信度屬于等值系數(shù)。復(fù)本信度法要求兩個復(fù)木除表述方

式不同外，在內(nèi)容、格式、難度和對應(yīng)題項(xiàng)的提問方向等方面要完全一致，而

在實(shí)際調(diào)查中，很難使調(diào)查問卷達(dá)到這種要求，因此采用這種方法者較少。

(3)折半信度法編輯：折半信度法是將調(diào)查項(xiàng)目分為兩半，計(jì)算兩半得分的

相關(guān)系數(shù)，進(jìn)而估計(jì)整個量表的信度。折半信度屬于內(nèi)在一致性系數(shù)，測量的

是兩半題項(xiàng)得分間的一致性。這種方法一般不適用于事實(shí)式問卷(如年齡與性

別無法相比)，常用于態(tài)度、意見式問卷的信度分析。在問卷調(diào)查中，態(tài)度側(cè)

量最常見的形式是5級李克特(Likert)量表(李克特量表(Likertscale)是屬評分

加總式量表最常用的一種，屬同一構(gòu)念的這些項(xiàng)目是用加總方式來計(jì)分，單獨(dú)

或個別項(xiàng)目是無意義的。它是由美國社會心理學(xué)家李克特于1932年在原有的

總加量表基礎(chǔ)上改進(jìn)而成的。該量表由一組陳述組成，每一陳述有“非常同意

第4頁共19頁

“、“同意“、“不一定“、“不同意“、“非常不同意”五種回答，分別記為5、4、

3、2、1,每個被調(diào)查者的態(tài)度總分就是他對各道題的回答所得分?jǐn)?shù)的加總，

這一總分可說明他的態(tài)度強(qiáng)弱或他在這一量表上的不同狀態(tài)。)。進(jìn)行折半信

度分析時(shí)，如果量表中含有反意題項(xiàng)，應(yīng)先將反意題項(xiàng)的得分作逆向處理，以

保證各題項(xiàng)得分方向的一致性，然后將全部題項(xiàng)按奇偶或前后分為盡可能相等

的兩半，計(jì)算二者的相關(guān)系數(shù)(rhh,即半個量表的信度系數(shù))，最后用斯皮爾曼

?布朗(Spearman-Brown)公式：求出整個量表的信度系數(shù)(ru)。

(4)a信度系數(shù)法編輯：Cronbacha信度系數(shù)是目前最常用的信度系數(shù)，其

公式為：

a=(k/(k-l))*(l-GSiA2)/ST^2)

其中，K為量表中題項(xiàng)的總數(shù)，SP2為第i題得分的題內(nèi)方差，ST/為

全部題項(xiàng)總得分的方差。從公式中可以看出，a系數(shù)評價(jià)的是量表中各題項(xiàng)得

分間的一致性，屬于內(nèi)在一致性系數(shù)。這種方法適用于態(tài)度、意見式問卷(量

表)的信度分析。

總量表的信度系數(shù)最好在0.8以上，0.7-0.8之間可以接受；分量表的信度

系數(shù)最好在0.7以上，0.6-0.7還可以接受。Cronbach'salpha系數(shù)如果在0.6

以下就要考慮重新編問卷。

檢查測量的可信度，例如調(diào)查問卷的真實(shí)性。

分類：

1、外在信度：不同時(shí)間測量時(shí)量表的一致性程度，常用方法重測信度

2、內(nèi)在信度；每個量表是否測量到單一的概念，同時(shí)組成兩表的內(nèi)在體

項(xiàng)一致性如何，常用方法分半信度。

4.列聯(lián)表分析

列聯(lián)表是觀測數(shù)據(jù)按兩個或更多屬性(定性變量)分類時(shí)所列出的頻數(shù)表。

簡介：一般，若總體中的個體可按兩個屬性A、B分類，A有r個等級

Al,A2,Ar,B有c個等級Bl,B2,Be,從總體中抽取大小為n的

樣本，設(shè)其中有nij個個體的屬性屬于等級Ai和Bj,nij稱為頻數(shù)，將rxc個

nij排列為一個r行c列的二維列聯(lián)表，簡稱rxc表。若所考慮的屬性多于兩

個，也可按類似的方式作出列聯(lián)表，稱為多維列聯(lián)表。

第5頁共19頁

列聯(lián)表又稱交互分類表，所謂交互分類，是指同時(shí)依據(jù)兩個變量的值，將

所研究的個案分類。交互分類的目的是將兩變量分組，然后比較各組的分布狀

況，以尋找變量間的關(guān)系。

用于分析離散變量或定型變量之間是否存在相關(guān)。

列聯(lián)表分析的基本問題是，判明所考察的各屬性之間有無關(guān)聯(lián)，即是否獨(dú)

立。如在前例中，問題是：一個人是否色盲與其性別是否有關(guān)？在rxc表中，

若以pi、pj和pij分別表示總體中的個體屬于等級Ai,屬于等級Bj和同時(shí)屬于

Ai、Bj的概率(pi,pj稱邊緣概率，pij稱格概率)，"A、B兩屬性無關(guān)聯(lián)”的假設(shè)

可以表述為HO：pij=pi-pj,(i=l,2,...?r；j=l?2,c),未知參數(shù)pij、

pi、pj的最大似然估計(jì)(見點(diǎn)估計(jì))分別為行和及列和(統(tǒng)稱邊緣和)。

為樣本大小。根據(jù)K.皮爾森(1904)的擬合優(yōu)度檢驗(yàn)或似然比檢驗(yàn)(見假設(shè)

檢驗(yàn))，當(dāng)h0成立，且一切pi>0和pj>0時(shí)，統(tǒng)計(jì)量的漸近分布是自由度為(r

-l)(c-l)的X分布,式中Eij=(ni?nj)/n稱為期望頻數(shù)。當(dāng)n足夠大，且表中

各格的Eij都不太小時(shí)，可以據(jù)此對h0作檢驗(yàn)：若X值足夠大，就拒絕假設(shè)

h0,即認(rèn)為A與B有關(guān)聯(lián)。在前面的色覺問題中，曾按此檢驗(yàn)，判定出性別與

色覺之間存在某種關(guān)聯(lián)。

需要注意：

若樣本大小n不很大，則上述基于漸近分布.的方法就不適用.對此，在四

格表情形，R.A.費(fèi)希爾(1935)提出了一種適用于所有n的精確檢驗(yàn)法。其思想

是在固定各邊緣和的條件下，根據(jù)超幾何分布(見概率分布)，可以計(jì)算觀測頻

數(shù)出現(xiàn)任意一種特定排列的條件概率。把實(shí)際出現(xiàn)的觀測頻數(shù)排列，以及匕它

呈現(xiàn)更多關(guān)聯(lián)跡象的所有可能排列的條件概率都算出來并相加，若所得結(jié)果小

于給定的顯著性水平，則判定所考慮的兩個屬性存在關(guān)聯(lián)，從而拒絕h0。

對于二維表，可進(jìn)行卡方檢瞼，對于三維表，可作McntclHanszcl分層分

析。

列聯(lián)表分析還包括配對計(jì)數(shù)資料的卡方檢驗(yàn)、行列均為順序變量的相關(guān)檢

驗(yàn)。

5.相關(guān)分析

研究現(xiàn)象之間是否存在某種依存關(guān)系，對具體有依存關(guān)系的現(xiàn)象探討相關(guān)

第6頁共19頁

方向及相關(guān)程度。

1、單相關(guān)：兩個因素之間的相關(guān)關(guān)系叫單相關(guān)，即研究時(shí)只涉及一個自

變量和一個因變量；

2、復(fù)相關(guān)：三個或三個以上因素的相關(guān)關(guān)系叫復(fù)相關(guān)，即研究時(shí)涉及兩

個或兩個以上的自變量和因變量相關(guān)；

3、偏相關(guān)：在某一現(xiàn)象與多種現(xiàn)象相關(guān)的場合，當(dāng)假定其他變量不變

時(shí)，其中兩個變量之間的相關(guān)關(guān)系稱為偏相關(guān)。

6.方差分析

使用條件：各樣本須是相互獨(dú)立的隨機(jī)樣本；各樣本來自正態(tài)分布總體；

各總體方差相等。

分類

1、單因素方差分析：一項(xiàng)試驗(yàn)只有一個影響因素，或者存在多個影響因

素時(shí)，只分析一個因素與響應(yīng)變量的關(guān)系；

2、多因素有交互方差分析：一頊實(shí)驗(yàn)有多個影響因素，分析多個影響因

素與響應(yīng)變量的關(guān)系，同時(shí)考慮多個影響因素之間的關(guān)系；

3、多因素?zé)o交互方差分析-：分析多個影響因素與響應(yīng)變量的關(guān)系，但是

影響因素之間沒有影響關(guān)系或忽略影響關(guān)系：

4、協(xié)方差分祈：傳統(tǒng)的方差分析存在明顯的弊端，無法控制分析中存在

的某些隨機(jī)因素，使之影響了分析結(jié)果的準(zhǔn)確度。協(xié)方差分析主要是在排除了

協(xié)變量的影響后再對修正后的主效應(yīng)進(jìn)行方差分析，是將線性回歸與方差分析

結(jié)合起來的一種分析方法。

7.回歸分析

分類：

1、一元線性回歸分析：只有一個自變量X與因變量Y有關(guān)，X與Y都必

須是連續(xù)型變量，因變量y或其殘差必須服從正態(tài)分布。

2、多元線性回歸分析。

使用條件：分析多個自變量與因變量Y的關(guān)系，X與Y都必須是連續(xù)型變

量，因變量y或其殘差必須服從正態(tài)分布。

第7頁共19頁

1）變呈篩選方式：選擇最優(yōu)回歸方程的變里篩選法包括全橫型法（CP法卜

逐步回歸法，向前引入法和向后剔除法。

2）橫型診斷方法：

A殘差檢驗(yàn)：觀測值與估計(jì)值的差值要艱從正態(tài)分布

B強(qiáng)影響點(diǎn)判斷：尋找方式一般分為標(biāo)準(zhǔn)誤差法、Mahalanobis距離法

C共線性診斷：

?診斷方式：容忍度、方差擴(kuò)大因子法（乂稱膨脹系數(shù)VIF）、特征根判定

法、條件指針CI、方差比例

?處理方法：增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等

3、Logistic回歸分析

線性回歸模型要求因變量是連續(xù)的正態(tài)分布變里，且自變量和因變量呈線

性關(guān)系，而Logistic叵歸模型對因變量的分布沒有要求，一般用于因變量是離

散時(shí)的情況。

分類：

Logistic回歸模型有條件與非條件之分，條件Logistic回歸模型和非條件

Logistic向歸模型的區(qū)別在于參數(shù)的估計(jì)是否用到了條件概率。

4、其他回歸方法非線性回歸、有序回歸、Probit回歸、加權(quán)回歸等

8.聚類分析

聚類與分類的不同在于，聚類所要求劃分的類是未知的。

聚類是將數(shù)據(jù)分類到不同的類或者簇這樣的一個過程，所以同一個簇中的

對象有很大的相似性，而不同簇間的對象有很大的相異性。

從統(tǒng)計(jì)學(xué)的觀點(diǎn)看，聚類分析是通過數(shù)據(jù)建模簡化數(shù)據(jù)的一種方法。傳統(tǒng)

的統(tǒng)計(jì)聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動態(tài)聚類法、有序樣

品聚類、有重疊聚類和模糊聚類等。采用k-均值、k-中心點(diǎn)等算法的聚類分析

工具已被加入到許多著名的統(tǒng)計(jì)分析軟件包中，如SPSS、SAS等。

從機(jī)器學(xué)習(xí)的角度講，簇相當(dāng)于隱藏模式。聚類是搜索簇的無監(jiān)督學(xué)習(xí)過

程。與分類不同，無監(jiān)督學(xué)習(xí)不依賴預(yù)先定義的類或帶類標(biāo)記的訓(xùn)練實(shí)例，需

要由聚類學(xué)習(xí)算法自動確定標(biāo)記，而分類學(xué)習(xí)的實(shí)例或數(shù)據(jù)對象有類別標(biāo)記。

聚類是觀察式學(xué)習(xí)，而不是示例式的學(xué)習(xí)。

第8頁共19頁

聚類分析是一種探索性的分析，在分類的過程中，人們不必事先給出一個

分類的標(biāo)準(zhǔn)，聚類分析能夠從樣本數(shù)據(jù)出發(fā)，自動進(jìn)行分類。聚類分析所使用

方法的不同，常常會得到不同的結(jié)論。不同研究者對于同一組數(shù)據(jù)進(jìn)行聚類分

析，所得到的聚類數(shù)未必一致。

從實(shí)際應(yīng)用的角度看，聚類分析是數(shù)據(jù)挖掘的主要任務(wù)之一。而且聚類能

夠作為一個獨(dú)立的工具獲得數(shù)據(jù)的分布狀況，觀察每一簇?cái)?shù)據(jù)的特征，集中對

特定的聚簇集合作進(jìn)一步地分析。聚類分析還可以作為其他算法（如分類和定

性歸納算法）的預(yù)處理步驟。

定義：

依據(jù)研究對象（樣品或指標(biāo)）的特征，對其進(jìn)行分類的方法，減少研究對象

的數(shù)目。

各類事物缺乏可靠的歷史資料，無法確定共有多少類別，目的是將性質(zhì)相

近事物歸入一類。

各指標(biāo)之間具有一定的相關(guān)關(guān)系。

聚類分析（clusteranalysis）是一組將研究對象分為相對同質(zhì)的群組

（dusters）的統(tǒng)計(jì)分析技術(shù)。聚類分析區(qū)別于分類分析（classification

analysis）,后者是有監(jiān)督的學(xué)習(xí)。

變量類型：定類變量、定量（離散和連續(xù)）變量.

樣本個體或指標(biāo)變量按其具有的特性進(jìn)行分類，尋找合理的度量事物相似

性的統(tǒng)計(jì)量。

1、性質(zhì)分類：

Q型聚類分析：龍樣本進(jìn)行分類處理，又稱樣本聚類分祈使用距離系數(shù)作

為統(tǒng)計(jì)量衡量相似度，如歐式距離、極端距離、絕對距離等；

R型聚類分析：對指標(biāo)進(jìn)行分類處理，又稱指標(biāo)聚類分析使用相似系數(shù)作

為統(tǒng)計(jì)量衡量相似度，相關(guān)系數(shù)、列聯(lián)系數(shù)等。

2、方法分類：

1）系統(tǒng)聚類法：適用于小樣本的樣本聚類或指標(biāo)聚類，一般用系統(tǒng)聚類法

來聚類指標(biāo)，又稱分層聚類；

2）逐步聚類法：適用于大樣本的樣本聚類；

3）其他聚類法：兩步聚類、K均值聚類等。

第9頁共19頁

9.判別分析

1、判別分析：根據(jù)已掌握的一批分類明確的樣品建立判別函數(shù)，使產(chǎn)生

錯判的事例最少，進(jìn)而對給定的一個新樣品，判斷它來自哪個總體。

2、與聚類分析區(qū)別:

1)聚類分析可以對樣本進(jìn)行分類，也可以對指標(biāo)進(jìn)行分類；而判別分析只

能對樣本；

2)聚類分析事先不知道事物的類別，也不知道分幾類；而判別分析必須事

先知道事物的類別，也知道分幾類；

3)聚類分析不需要分類的歷史資料，而直接對樣本進(jìn)行分類；而判別分析

需要分類歷史資料去建立判別函數(shù)，然后才能對樣本進(jìn)行分類。

3、進(jìn)行分類：

1)Fisher判別分析法：

以距離為判別準(zhǔn)則來分類，即樣本與哪個類的距離最短就分到哪一類，適

用于兩類判別；

以概率為判別準(zhǔn)則來分類，即樣本屬于哪一類的概率最大就分到哪一類，

適用于

適用于多類判別。

2)BAYES判別分析法：

BAYES判別分析法比FISHER判別分析法更加完善和先進(jìn)，它不僅能解決

多類判別分析，而且分析時(shí)考慮了數(shù)據(jù)的分布狀態(tài)，所以一般較多使用；

10.主成分分析

介紹：主成分分析(PrincipalComponentAnalysis,PCA),是一種統(tǒng)計(jì)方

法。通過正交變換將一組可能存在相關(guān)性的變量轉(zhuǎn)換為一組線性不相關(guān)的變

量，轉(zhuǎn)換后的這組變量叫主成分。

在實(shí)際課題中，為了全面分析問題，往往提出很多與此有關(guān)的變量(或因

素)，因?yàn)槊總€變量都在不同程度上反映這個課題的某些信息。

主成分分析首先是由K.皮爾森(KarlPearson)對非隨機(jī)變量引入的，爾后

H.霍特林將此方法推廣到隨機(jī)向量的情形。信息的大小通常用離差平方和或方

第10頁共19頁

差來衡量。

將彼此相關(guān)的一組指標(biāo)變適轉(zhuǎn)化為彼此獨(dú)立的一組新的指標(biāo)變量，并用其

中較少的幾個新指標(biāo)變量就能綜合反應(yīng)原多個指標(biāo)變量中所包含的主要信息。

原理：在用統(tǒng)計(jì)分析方法研究多變量的課題時(shí)，變量個數(shù)太多就會增加課

題的復(fù)雜性。人們自然希望變量個數(shù)較少而得到的信息較多。在很多情形，變

量之間是有一定的相關(guān)關(guān)系的，當(dāng)兩個變量之間有一定相關(guān)關(guān)系時(shí)，可以解釋

為這兩個變量反映此課題的信息有一定的重疊。主成分分析是對于原先提出的

所有變量，將重復(fù)的變量（關(guān)系緊密的變量）刪去多余，建立盡可能少的新變

量，使得這些新變量是兩兩不相關(guān)的，而且這些新變量在反映課題的信息方面

盡可能保持原有的信息。

設(shè)法將原來變量重新組合成一組新的互相無關(guān)的幾個綜合變量，同時(shí)根據(jù)

實(shí)際需要從中可以取出幾個較少的綜合變量盡可能多地反映原來變量的信息的

統(tǒng)計(jì)方法叫做主成分分析或稱主分量分析，也是數(shù)學(xué)上用來降維的一種方法。

缺點(diǎn)：

1、在主成分分析中，我們首先應(yīng)保證所提取的前幾個主成分的累計(jì)貢獻(xiàn)

率達(dá)到一個較高的水平（即變量降維后的信息量須保持在一個較高水平上），其

次對這些被提取的主成分必須都能夠給出符合實(shí)際背景和意義的解釋（否則主

成分將空有信息量而無實(shí)際含義）C

2、主成分的解釋其含義一般多少帶有點(diǎn)模糊性，不像原始變量的含義那

么清楚、確切，這是變量降維過程中不得不付出的代價(jià)。因此，提取的主成分

個數(shù)m通常應(yīng)明顯小于原始變量個數(shù)p（除非p本身較小），否則維數(shù)降低的

“利”可能抵不過主成分含義不如原始變量清楚的“弊”。

11.因子分析

一種旨在尋找隱藏在多變量數(shù)據(jù)中、無法直接觀察到卻影響或支配可測變

量的潛在因子、并估計(jì)潛在因子對可測變量的影響程度以及潛在因子之間的相

關(guān)性的一種多元統(tǒng)計(jì)分析方法。

與主成分分析比較：

相同：都能夠起到治理多個原始變量內(nèi)在結(jié)構(gòu)關(guān)系的作用

不同：主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變量

第11頁共19頁

間的關(guān)系，是比主成分分析更深入的一種多元統(tǒng)計(jì)方法

用途：

1）減少分析變量個數(shù)

2）通過對變量間相關(guān)關(guān)系探測，將原始變量進(jìn)行分類

12.時(shí)間序列分析

動態(tài)數(shù)據(jù)處理的統(tǒng)計(jì)方法，研究隨機(jī)數(shù)據(jù)序列所遵從的統(tǒng)計(jì)規(guī)律，以用于

解決實(shí)際問題；時(shí)間序列通常由4種要素組成：趨勢、季節(jié)變動、循環(huán)波動和

不規(guī)則波動。

主要方法：移動平均濾波與指數(shù)平滑法、ARIMA橫型、量ARIMA橫型、

ARIMAX模型、向呈自回歸橫型、ARCH族模型。

時(shí)間序列是指同一變量按事件發(fā)生的先后順序排列起來的一組觀察值或記

錄值。構(gòu)成時(shí)間序列的要素有兩個：其一是時(shí)間，其二是與時(shí)間相對應(yīng)的變量

水平。實(shí)際數(shù)據(jù)的時(shí)間序列能夠展示研究對象在一定時(shí)期內(nèi)的發(fā)展變化趨勢與

規(guī)律，因而可以從時(shí)間序列中找出變量變化的特征、趨勢以及發(fā)展規(guī)律，從而

對變量的未來變化進(jìn)行有效地預(yù)測。

時(shí)間序列的變動形態(tài)一般分為四種：長期趨勢變動，季節(jié)變動，循環(huán)變

動，不規(guī)則變動。

時(shí)間序列預(yù)測法的應(yīng)用：

系統(tǒng)描述：根據(jù)對系統(tǒng)進(jìn)行觀測得到的時(shí)間序列數(shù)據(jù)，用曲線擬合方法對

系統(tǒng)進(jìn)行客觀的描述；

系統(tǒng)分析：當(dāng)觀測值取自兩個以上變量時(shí)，可用一個時(shí)間序列中的變化去

說明另一個時(shí)間序列中的變化，從而深入了解給定時(shí)間序列產(chǎn)生的機(jī)理；

預(yù)測未來；一-般用ARMA模型擬合時(shí)間序列，預(yù)測該時(shí)間序列未來值；

決策和控制：根據(jù)時(shí)間序列模型可調(diào)整輸入變量使系統(tǒng)發(fā)展過程保持在目

標(biāo)值上，即預(yù)測到過程要偏離目標(biāo)時(shí)便可進(jìn)行必要的控制。

特點(diǎn)：

假定事物的過去趨勢會延伸到未來；

預(yù)測所依據(jù)的數(shù)據(jù)具有不規(guī)則性；

撇開了市場發(fā)展之間的因果關(guān)系。

第12頁共19頁

①時(shí)間序列分析預(yù)測法

是根據(jù)市場過去的變化趨勢預(yù)測未來的發(fā)展，它的前提是假定事物的過去

會同樣延續(xù)到未來。事物的現(xiàn)實(shí)是歷史發(fā)展的結(jié)果，而事物的未來又是現(xiàn)實(shí)的

延伸，事物的過去和未來是有聯(lián)系的。市場預(yù)測的時(shí)間序列分析法，正是根據(jù)

客觀事物發(fā)展的這種連續(xù)規(guī)律性，運(yùn)用過去的歷史數(shù)據(jù)，通過統(tǒng)計(jì)分析，進(jìn)一

步推測市場未來的發(fā)展趨勢。市場預(yù)測中，事物的過去會同樣延續(xù)到未來，其

意思是說，市場未來不會發(fā)生突然跳躍式變化，而是漸進(jìn)變化的。

時(shí)間序列分析預(yù)測法的哲學(xué)依據(jù)，是唯物辯證法中的基本觀點(diǎn)，即認(rèn)為一

切事物都是發(fā)展變化的，事物的發(fā)展變化在時(shí)間上具有連續(xù)性，市場現(xiàn)象也是

這樣。市場現(xiàn)象過去和現(xiàn)在的發(fā)展變化規(guī)律和發(fā)展水平，會影響到市場現(xiàn)象未

來的發(fā)展變化規(guī)律和規(guī)模水平；市場現(xiàn)象未來的變化規(guī)律和水平，是市場現(xiàn)象

過去和現(xiàn)在變化規(guī)律和發(fā)展水平的結(jié)果。

需要指出，由于事物的發(fā)展不僅有連續(xù)性的特點(diǎn)，而且又是復(fù)雜多樣的。

因此，在應(yīng)用時(shí)間序列分析法進(jìn)行市場預(yù)測時(shí)應(yīng)注意市場現(xiàn)象未來發(fā)展變化規(guī)

律和發(fā)展水平，不一定與其歷史和現(xiàn)在的發(fā)展變化規(guī)律完全一致。隨著市場現(xiàn)

象的發(fā)展，它還會出現(xiàn)一些新的特點(diǎn)。因此，在時(shí)間序列分析預(yù)測中，決不能

機(jī)械地按市場現(xiàn)象過去和現(xiàn)在的規(guī)律向外延伸。必須要研究分析市場現(xiàn)象變化

的新特點(diǎn)，新表現(xiàn)，并且將這些新特點(diǎn)和新表現(xiàn)充分考慮在預(yù)測值內(nèi)C這樣才

能對市場現(xiàn)象做出既延續(xù)其歷史變化規(guī)律，又符合其現(xiàn)實(shí)表現(xiàn)的可靠的預(yù)測結(jié)

果。

②時(shí)間序列分析預(yù)測法

突出了時(shí)間因素在預(yù)測中的作用，暫不考慮外界具體因素的影響。時(shí)間序

列在時(shí)間序列分析預(yù)測法處于核心位置，沒有時(shí)間序列，就沒有這一方法的存

在。雖然，預(yù)測對象的發(fā)展變化是受很多因素影響的。但是，運(yùn)用時(shí)間序列分

析進(jìn)行量的預(yù)測，實(shí)際上將所有的影響因素歸結(jié)到時(shí)間這一因素上，只承認(rèn)所

有影響因素的綜合作用，并在未來對預(yù)測對象仍然起作用，并未去分析探討預(yù)

測對象和影響因素之間的因果關(guān)系。因此，為了求得能反映市場未來發(fā)展變化

的精確預(yù)測值，在運(yùn)用時(shí)間序列分析法進(jìn)行預(yù)測時(shí)，必須將量的分析方法和質(zhì)

的分析方法結(jié)合起來，從質(zhì)的方面充分研究各種因素與市場的關(guān)系，在充分分

析研究影響市場變化的各種囚素的基礎(chǔ)上確定預(yù)測值。

第13頁共19頁

需要指出的是，時(shí)間序列預(yù)測法因突出時(shí)間序列暫不考慮外界因素影響，

因而存在著預(yù)測誤差的缺陷，當(dāng)遇到外界發(fā)生較大變化，往往會有較大偏差，

時(shí)間序列預(yù)測法對于中短期預(yù)測的效果要比長期預(yù)測的效果好。因?yàn)榭陀^事

物，尤其是經(jīng)濟(jì)現(xiàn)象，在一個較長時(shí)間內(nèi)發(fā)生外界因素變化的可能性加大，它

們對市場經(jīng)濟(jì)現(xiàn)象必定要產(chǎn)生重大影響。如果出現(xiàn)這種情況，進(jìn)行預(yù)測時(shí)，只

考慮時(shí)間因素不考慮外界因素對預(yù)測對象的影響，其預(yù)測結(jié)果就會與實(shí)際狀況

嚴(yán)重不符。

13.生存分析

用來研究生存時(shí)間的分布規(guī)律以及生存時(shí)間和相關(guān)因索之間關(guān)系的一種統(tǒng)

計(jì)分析方法：

1、包含內(nèi)容：

1）描述生存過程，即研究生存時(shí)間的分布規(guī)律

2）比較生存過程，即研究兩組或多組生存時(shí)間的分布規(guī)律，并進(jìn)行比較

3）分析危險(xiǎn)因素，即研究危險(xiǎn)因素對生存過程的影響

4）建立數(shù)學(xué)模型，即將生存時(shí)間與相關(guān)危險(xiǎn)因素的依存關(guān)系用一個數(shù)學(xué)式

子表示出來。

2、方法：

1）統(tǒng)計(jì)描述：包括求生存時(shí)間的分位數(shù)、中數(shù)生存期、平均數(shù)、生存函數(shù)

的估計(jì)、判斷生存時(shí)間的圖示法，不對所分析的數(shù)據(jù)作出任何統(tǒng)計(jì)推斷結(jié)論

2）非參數(shù)檢驗(yàn)：檢驗(yàn)分組變量各水平所對應(yīng)的生存曲線是否一致，對生存

時(shí)間的分布沒有要求，并且檢驗(yàn)危險(xiǎn)因素對生存時(shí)間的影響。

A乘積極限法（PL法）

B壽命表法（LT法）

3）半?yún)?shù)橫型回歸分析：在特定的假設(shè)之下，建立生存時(shí)間隨多個危險(xiǎn)因

素變化的回歸方程，這種方法的代表是Cox比例風(fēng)險(xiǎn)回歸分析法

4）參數(shù)模型回歸分析：已知生存時(shí)間服從特定的參數(shù)橫型時(shí)，擬合相應(yīng)的

參數(shù)模型，更準(zhǔn)確地分析確定變量之間的變化規(guī)律

14.典型相關(guān)分析

第14頁共19頁

相關(guān)分析一般分析兩個變量之間的關(guān)系，而典型相關(guān)分析是分析兩組變量

（如3個學(xué)術(shù)能力指標(biāo)與5個在校成績表現(xiàn)指標(biāo)）之間相關(guān)性的一種統(tǒng)計(jì)分析方

法。

典型相關(guān)分析的基本思想和主成分分析的基本思想相似，它將一組變量與

另一組變量之間單變量的多重線性相關(guān)性研究轉(zhuǎn)化為對少數(shù)幾對綜合變量之間

的簡單線性相關(guān)性的研究，并且這少數(shù)幾對變量所包含的線性相關(guān)性的信息幾

乎覆蓋了原變量組所包含的全部相應(yīng)信息。

15.ROC分析

ROC曲線是根據(jù)一系列不同的二分類方式（分界值或決定閾）。以真陽性率

（靈敏度）為縱坐標(biāo)，假陽性率（1-特異度）為橫坐標(biāo)繪制的曲線。

用途：

1、ROC曲線能很容易地查出任意界限值時(shí)的對疾病的識別能力

2、選擇最佳的診斷界限值。ROC曲線越靠近左上角，試驗(yàn)的準(zhǔn)確性就越

高；

3、兩種或兩種以上不同診斷試驗(yàn)對疾病識別能力的比較，一股用ROC曲

線下面積反映診斷系統(tǒng)的準(zhǔn)確性。

ROC曲線分析

15.1.ROC曲線的主要作用

（l）ROC曲線可以很容易地查出一個分類器在某個閾值時(shí)對樣本的識別能

力。

（2）可以借助ROC曲線選擇出某一診斷方法最佳的診斷界限值。ROC曲線

越是靠近左上角，試驗(yàn)的FPR越高和FPR越低，即靈敏度越高，誤判率越

低，則診斷方法的性能越好?？芍猂OC曲線上最靠近左上角的ROC曲線上的

點(diǎn)其靈敏度和特異度之和最大，這個點(diǎn)或是其鄰近點(diǎn)常被稱為診斷參考值，這

些點(diǎn)被稱為最佳臨界點(diǎn)，點(diǎn)上的值被稱為最佳臨界值。

（3JROC曲線可以用于比較兩種或兩種以上不同診斷方法對疾病的識別能

力大小。在對同一疾病的兩種或是兩種診斷方法進(jìn)行比較時(shí)，可將各個診斷方

法的ROC曲線畫到同一個ROC空間中（同一個坐標(biāo)系中），這樣就可以直觀的

第15頁共19頁

鑒別各種診斷方法的優(yōu)劣了。可以越是靠近左上角的ROC曲線所代表的診斷方

法性能越好。

15.2.ROC曲線實(shí)例分析

如果我們拿到一組ROC曲線的話，該如何分析呢？下面就使用一個實(shí)例具

體向大家介紹一下應(yīng)該如何看一組ROC曲線。

若我們使用甲，乙，丙三種找診斷方法對同一疾病進(jìn)行診斷并在同一個坐

標(biāo)系中畫出其ROC曲線如下圖4-1：(甲二紅，乙二黃，丙二藍(lán))

(1)圖中的橫縱坐標(biāo)

縱坐標(biāo)代表的是靈敏度，該指標(biāo)越高代表診斷的準(zhǔn)確率越高；橫坐標(biāo)代表

的是1-特異度，該指標(biāo)越低就代表誤判率越低。所以總的來看越是靠近ROC

空間的左上角的點(diǎn)，其診斷效果越好。

(2)圖中四個特殊的點(diǎn)和一條特殊的線

第一個點(diǎn)是(0,1)即FPR=O,TPR=1的點(diǎn)，這一點(diǎn)意味著這個分類器很強(qiáng)

大，他將所有的樣本都正確分類了；

第二個點(diǎn)(1,0)即FPR=1,TPR=0,類似的可以發(fā)現(xiàn)這是一個很糟糕的分

類器，它成功的避開了所有的正確答案。

第三個點(diǎn)(0,0)即FPR=TPR=0,可以發(fā)現(xiàn)該分類器將所有的樣本都分為負(fù)

第16頁共19頁

樣本。

第四個點(diǎn)(1,1)即FPR=TPR=1,同理該分類器將所有的樣本都分成正樣

本。

(3)特殊的線

一條特殊的線是圖中的虛線y=xo在這條對角線上的點(diǎn)其實(shí)表示的是一個

采用隨機(jī)猜測策略的分類落對樣本進(jìn)行分類的結(jié)果，例如(0.5,0.5)就表示分

類器隨機(jī)對一半的樣本猜測為正樣本，另一半的樣本為負(fù)樣本的分類結(jié)果。

(4)紅，黃，藍(lán)三條線比較

最后我們來看看甲，乙，丙三種方法對應(yīng)的三條線，前面已經(jīng)說到了越是

靠近左上角的ROC曲線，其對應(yīng)的分類器性能越好。

從圖中可以直觀地看出紅線最靠近左上角的ROC曲線，即甲分類器的性能

最好，其最佳臨界點(diǎn)就是最靠近的左上用的A點(diǎn)。

相比于甲方法來說，乙方法就要差一點(diǎn)。我們可以在X軸上做一條垂線，

經(jīng)過紅，黃兩條線上的兩個點(diǎn)，可以知道兩個點(diǎn)的FPR值相同即兩個方法此時(shí)

的誤判率相同；但是紅線上點(diǎn)的TPR值大于黃線上的點(diǎn)，即甲方法的靈敏度大

于乙方法，這就意味著在這一點(diǎn)甲方法的準(zhǔn)確率高于乙方法。

再說丙方法，像藍(lán)線這樣的R