貝葉斯統(tǒng)計(jì)經(jīng)典統(tǒng)計(jì)區(qū)別

1、精選優(yōu)質(zhì)文檔-傾情為你奉上貝葉斯統(tǒng)計(jì)與經(jīng)典統(tǒng)計(jì)的區(qū)別摘 要：21世紀(jì)，貝葉斯統(tǒng)計(jì)打破經(jīng)典統(tǒng)計(jì)獨(dú)樹(shù)一幟的局面，已經(jīng)開(kāi)始應(yīng)用到各個(gè)領(lǐng)域，但是兩個(gè)學(xué)派存在著很多爭(zhēng)論。本文從經(jīng)典統(tǒng)計(jì)和貝葉斯統(tǒng)計(jì)在基礎(chǔ)理論方面是否利用先驗(yàn)信息，在基本性質(zhì)方面是否把參數(shù)當(dāng)做隨機(jī)變量、是否重視未出現(xiàn)的樣本信息、對(duì)概率的理解的不同以及在點(diǎn)估計(jì)、區(qū)間估計(jì)等方面等來(lái)分析它們的區(qū)別，并比較分析了他們?cè)诮y(tǒng)計(jì)推斷中的優(yōu)缺點(diǎn)。關(guān)鍵詞：貝葉斯統(tǒng)計(jì)，經(jīng)典統(tǒng)計(jì)，先驗(yàn)信息，點(diǎn)估計(jì)，區(qū)間估計(jì)，假設(shè)檢驗(yàn)一、貝葉斯統(tǒng)計(jì)和經(jīng)典統(tǒng)計(jì)基本理論的區(qū)別統(tǒng)計(jì)推斷所依據(jù)的信息不同：經(jīng)典統(tǒng)計(jì)，即基于總體信息、樣本信息所進(jìn)行的統(tǒng)計(jì)推斷。它的基本觀點(diǎn)是：把數(shù)據(jù)看成是來(lái)自

2、具有一定概率分布的總體，所研究的對(duì)象是這個(gè)總體而不局限于數(shù)據(jù)本身。而貝葉斯統(tǒng)計(jì)是基于總體信息、樣本信息、先驗(yàn)信息進(jìn)行的統(tǒng)計(jì)推斷。它最基本的觀點(diǎn)是：任一個(gè)未知量?%a 都可以看做是一個(gè)隨機(jī)變量，應(yīng)用一個(gè)概率分布去描述對(duì) ?%a的未知狀況。這個(gè)概率分布是在抽樣前就有的關(guān)于?%a的先驗(yàn)信息的概率陳述。經(jīng)典統(tǒng)計(jì)和貝葉斯統(tǒng)計(jì)最主要的區(qū)別就是在于是否利用了先驗(yàn)信息。貝葉斯推斷是基于總體信息、樣本信息、先驗(yàn)信息，而經(jīng)典統(tǒng)計(jì)推斷只依賴于總體信息和樣本信息。二、貝葉斯統(tǒng)計(jì)和經(jīng)典統(tǒng)計(jì)的基本性質(zhì)不同：1.對(duì)概率的理解不同經(jīng)典統(tǒng)計(jì)學(xué)派認(rèn)為經(jīng)典統(tǒng)計(jì)學(xué)是用大量實(shí)驗(yàn)來(lái)確定概率、是”客觀的”、是符合科學(xué)要求的，認(rèn)為貝葉斯統(tǒng)計(jì)

3、的確定的概率是”主觀的”，因此至多只對(duì)個(gè)人決策有用。貝葉斯學(xué)派認(rèn)為引入主觀概率及由此確定的先驗(yàn)分布，首先至少可以把概率與數(shù)理統(tǒng)計(jì)的研究與應(yīng)用的范圍擴(kuò)大到大量不能重復(fù)的隨機(jī)現(xiàn)象中來(lái)，其次，主觀概率的確定也不是隨意的，而是要求當(dāng)事人對(duì)所考查的時(shí)間有比較透徹的了解，甚至是這一行的專(zhuān)家，在這個(gè)基礎(chǔ)上確定的主觀概率就能符合實(shí)際。2.使用樣本信息上也有差異貝葉斯學(xué)派重視已出現(xiàn)的樣本觀察值，而對(duì)尚未發(fā)生的樣本觀察值不予考慮，貝葉斯學(xué)派很重視先驗(yàn)信息的收集、挖掘和加工，使它數(shù)量化，形成先驗(yàn)分布，參加到統(tǒng)計(jì)推斷中來(lái)，以提高統(tǒng)計(jì)推斷的質(zhì)量。而忽視先驗(yàn)信息的利用，有時(shí)是一種浪費(fèi)，有時(shí)還會(huì)導(dǎo)致不合理的結(jié)果。經(jīng)典統(tǒng)計(jì)學(xué)

4、派還考慮未出現(xiàn)的樣本信息，雖然在實(shí)際中樣本空間中絕大多數(shù)樣本可能未出現(xiàn)過(guò)，甚至重復(fù)數(shù)百次也不會(huì)出現(xiàn)。這個(gè)觀點(diǎn)是不被貝葉斯學(xué)派所接受的。3.對(duì)總體參數(shù)認(rèn)識(shí)不同依賴于參數(shù)?%a的密度函數(shù)在經(jīng)典統(tǒng)計(jì)中記為p(x； ?%a)或者p?%a(x) ，他表示在參數(shù)空間?%a=?%a中不同的?%a對(duì)應(yīng)不同的分布。這里?%a 是一個(gè)未知的常量，不存在著分布?？稍谪惾~斯統(tǒng)計(jì)中，依賴于參數(shù) ?%a的密度函數(shù)為p(x?%a) ，它表示在隨機(jī)變量 ?%a給定某個(gè)值是，總體指標(biāo)x的條件分布。這里?%a 是一個(gè)隨機(jī)變量，給定一個(gè) ?%a的值，便有一個(gè)對(duì)應(yīng)的分布。4.應(yīng)用領(lǐng)域不同由于經(jīng)典統(tǒng)計(jì)學(xué)實(shí)用大量重復(fù)試驗(yàn)的頻率來(lái)確定概率

5、的，所以它的應(yīng)用領(lǐng)域局限于能夠大量重復(fù)的隨機(jī)現(xiàn)象。但是很多經(jīng)濟(jì)現(xiàn)象都是不能重復(fù)或者大量重復(fù)的，在這類(lèi)事件中用頻率的方法去確定有關(guān)事件的概率常常是不可能的或者很難實(shí)現(xiàn)的。貝葉斯由于引入主觀概率及由此確定的先驗(yàn)分布把概率與數(shù)理統(tǒng)計(jì)的研究與應(yīng)用的范圍擴(kuò)大到大量不能重復(fù)的隨機(jī)現(xiàn)象中來(lái)。三、貝葉斯統(tǒng)計(jì)和經(jīng)典統(tǒng)計(jì)在統(tǒng)計(jì)推斷上的差異1.點(diǎn)估計(jì)差異經(jīng)典統(tǒng)計(jì)學(xué)認(rèn)為參數(shù) 的無(wú)偏估計(jì)為e ?%a(x) = ?%a(x)p(x?%a)dx=?%a ，其中的平均是對(duì)空間中所有出現(xiàn)的樣本而求的，實(shí)際中可能這些樣本尚未出現(xiàn)過(guò)或者說(shuō)重復(fù)幾百次也不會(huì)出現(xiàn)，但是它們也要在評(píng)價(jià)估計(jì)量?%a的好壞中占有一席之地。這叫無(wú)偏估計(jì)，但是在

6、貝葉斯推斷中不用無(wú)偏性而是用易于被實(shí)際工作者理解和接受的條件方法。最大似然估計(jì)值是指固定樣本觀察值x1,x2,.,xn ，在?%a的取值范圍內(nèi)挑選使似然函數(shù)l(x1,x2,.,xn; ?%a) 達(dá)到最大的參數(shù)值 ，即 使得l(x1,x2,.,xn; )=maxl(x1,x2,.,xn; ?%a);?%a?%a經(jīng)典統(tǒng)計(jì)中評(píng)定估計(jì)量好壞的標(biāo)準(zhǔn)為無(wú)偏性、一致性、有效性。在沒(méi)有充分的樣本信息時(shí)，用貝葉斯點(diǎn)估計(jì)，往往能夠達(dá)到更好的精度，因?yàn)樗浞掷昧讼闰?yàn)信息。在二項(xiàng)分布的場(chǎng)合， ?%a的最大后驗(yàn)估計(jì)就是經(jīng)典統(tǒng)計(jì)中的極大似然估計(jì)。2.區(qū)間估計(jì)差異區(qū)間估計(jì)問(wèn)題，貝葉斯方法處理方便、含義清除，而經(jīng)典統(tǒng)計(jì)方法

7、尋求的置信區(qū)間常常受到批評(píng)。貝葉斯方法中叫可信水平、求得到的區(qū)間叫可信區(qū)間，而在經(jīng)典統(tǒng)計(jì)中叫置信水平、求得到的區(qū)間叫置信區(qū)間。這兩組概念是同類(lèi)的概念，但是兩者有本質(zhì)的差別：首先，在條件方法下，給定了樣本x和可信水平1-?hq 后通過(guò)后驗(yàn)分布可以求得具體的可信區(qū)間 (l,u),我們可以說(shuō)” ?%a落在這個(gè)區(qū)間的概率為1-?hq “，也可以說(shuō)”這個(gè)區(qū)間包含 ?%a的概率為 1-?hq”。但是如果是用經(jīng)典統(tǒng)計(jì)方法求得的置信區(qū)間，我們不能這樣表述，因?yàn)樵诮?jīng)典統(tǒng)計(jì)中， ?%a是一個(gè)常量，要么在求得的置信區(qū)間(l,u)內(nèi)，要么不在區(qū)間(l,u)內(nèi)，不能說(shuō)”落在這個(gè)區(qū)間的概率為1-?hq “，只能說(shuō)”在10

8、0次試驗(yàn)中，該區(qū)間大約100（ 1-?hq）蓋住了?%a 。這種頻率的解釋對(duì)于僅僅使用一次或者二次的人來(lái)說(shuō)是毫無(wú)意義的。在實(shí)際情況中就有很多人把求得的置信區(qū)間按照可信區(qū)間去理解。其次，在經(jīng)典統(tǒng)計(jì)中尋求置信區(qū)間有時(shí)是困難的，因?yàn)樾枰獦?gòu)造一個(gè)樞軸統(tǒng)計(jì)量（含有被估參數(shù)的隨機(jī)變量），使它的分布不含有位置參數(shù)，這是一項(xiàng)技術(shù)性很強(qiáng)的工作，不熟悉 ?%a?%a0分布”是很難完成的，而尋求可信區(qū)間只需要利用后驗(yàn)分布，不需要再去尋求另外的分布，兩種方法相比，可信區(qū)間的尋求簡(jiǎn)單的多。3.假設(shè)檢驗(yàn)差異.（1）兩種檢驗(yàn)思想經(jīng)典統(tǒng)計(jì)假設(shè)檢驗(yàn)的思想：建立原假設(shè) h0與被擇假設(shè)h1 ：h0:?%a?%a0 h1:?%a?%

9、a1其中 ?%a0和?%a1是參數(shù)空間?%a 中不想交的二個(gè)非空子集。選擇統(tǒng)計(jì)量，使其在原假設(shè)為真時(shí)的概率分布已知，這在經(jīng)典統(tǒng)計(jì)方法中是最困難的一步。對(duì)給定的顯著性水平?hq(0?hq1) ，確定拒絕域w，使犯第一類(lèi)錯(cuò)誤的概率不超過(guò)?hq。.當(dāng)樣本觀察值x落入拒絕域w時(shí)，就拒絕原假設(shè)，接受被擇假設(shè)，否則就拒絕原假設(shè)。（2）貝葉斯假設(shè)檢驗(yàn)思想在有后驗(yàn)分布?%i(?%ax) 后，直接計(jì)算原假設(shè)和備擇假設(shè)的后驗(yàn)概率，即為ai=p(?%aix) d?%a,i=0,1。計(jì)算得到 a0和 a1，然后直接比較它們的大少，當(dāng)a0 / a1>1時(shí)就接受原假設(shè)，當(dāng)a0 / a1<1，就接受備擇假設(shè)，而

10、如果當(dāng) a0/a1 1時(shí)，則需要進(jìn)一步抽樣或者進(jìn)一步搜集先驗(yàn)信息。貝葉斯假設(shè)檢驗(yàn)比較簡(jiǎn)單，它不需要事先確定抽樣分布以及選擇檢驗(yàn)統(tǒng)計(jì)量，也不需要事先給出顯著性水平，確定拒絕域。并且由于在經(jīng)典統(tǒng)計(jì)中把參數(shù) 看做是一個(gè)常量，而不是一個(gè)隨機(jī)變量，那么原假設(shè)h0:?%a?%a0和備擇假設(shè) h1:?%a?%a1就算不出概率來(lái)，但是貝葉斯統(tǒng)計(jì)可以直接算出概率來(lái)。4.統(tǒng)計(jì)推斷模式差異貝葉斯理論在統(tǒng)計(jì)推斷模式上與經(jīng)典統(tǒng)計(jì)的不同之處在于：在頻率統(tǒng)計(jì)中，似然函數(shù)概括了模型參數(shù)的全部信息，因此參數(shù)?%a 的統(tǒng)計(jì)推斷只要利用似然函數(shù)就夠了；而貝葉斯既利用了似然函數(shù)又利用了參數(shù)先驗(yàn)信息。如果先驗(yàn)信息很少或者沒(méi)有先驗(yàn)信息，

11、這樣基于經(jīng)典統(tǒng)計(jì)方法和貝葉斯統(tǒng)計(jì)方法所得到的結(jié)論基本相同。四、總結(jié)與經(jīng)典統(tǒng)計(jì)相比，貝葉斯方法具有如下幾個(gè)方面的優(yōu)點(diǎn)：（1）充分利用了樣本信息和模型參數(shù)先驗(yàn)信息，貝葉斯估計(jì)量具有更小的方差或平方誤差，能得到更精確的預(yù)測(cè)結(jié)果。（2）貝葉斯hpd置信區(qū)間比不考慮參數(shù)先驗(yàn)信息的頻率置信區(qū)間短。（3）能對(duì)假設(shè)檢驗(yàn)或估計(jì)問(wèn)題所作出的判斷結(jié)果進(jìn)行量化評(píng)價(jià)，而不是頻率統(tǒng)計(jì)中”接受原假設(shè)”或者”拒絕原假設(shè)”的簡(jiǎn)單判斷。貝葉斯統(tǒng)計(jì)學(xué)和經(jīng)典統(tǒng)計(jì)學(xué)在理論方面有很大區(qū)別，在統(tǒng)計(jì)推斷中的應(yīng)用也各有其優(yōu)缺點(diǎn)，目前尚無(wú)定論，貝葉斯學(xué)著承認(rèn)經(jīng)典統(tǒng)計(jì)，而經(jīng)典統(tǒng)計(jì)學(xué)派也在運(yùn)用貝葉斯統(tǒng)計(jì)學(xué)。這兩種統(tǒng)計(jì)方法也各有其使用范圍，作為研究者，在解決實(shí)際問(wèn)題時(shí)，應(yīng)該要博采眾長(zhǎng)，從而更好的解決實(shí)際問(wèn)題。參考文獻(xiàn)