概率統(tǒng)計基礎(chǔ)

概率統(tǒng)計基礎(chǔ)1第1頁，共22頁，2023年，2月20日，星期五第一章：概率概率：定量描述不確定性的數(shù)學(xué)語言例：P(牙痛是由蟲牙引起)=0.820%–所有其他可能實(shí)際數(shù)值可能來源于統(tǒng)計數(shù)據(jù)、模型、啟發(fā)規(guī)則或猜測更精確的概率定義：代數(shù)、可測量、測度（參考[CB]Chp1）第2頁，共22頁，2023年，2月20日，星期五概率、樣本空間和事件考慮一個事先不知道輸入的試驗(yàn)：試驗(yàn)的樣本空間

是所有可能輸出的集合事件A是樣本空間的子集對每個事件A

，我們定義一個數(shù)字P(A)

，稱為A

的概率。概率根據(jù)下述公理定義：第3頁，共22頁，2023年，2月20日，星期五概率公理事件A

的概率是一個非負(fù)實(shí)數(shù)P(A)≥0合法命題的概率為1P()=1兩兩不相交（互斥）事件A1,A2,…

從上述三個公理，可推導(dǎo)出概率的所有的其他性質(zhì)。第4頁，共22頁，2023年，2月20日，星期五公理的推論不可滿足命題的概率為0P(?)=0P(A∩Ac)=0對任意兩個事件A

、BP(A∪B)=P(A)+P(B)–P(A∩B)對事件A的補(bǔ)事件AcP(Ac)=1–P(A)對任意事件A0≤P(A)≤1第5頁，共22頁，2023年，2月20日，星期五概率的解釋概率的“真正意義”仍是一個非常有爭議的論題沒有一種解釋被一致接受概率兩種主要的解釋：頻率解釋概率=一個事件的相對頻率（大量試驗(yàn)情況下）對應(yīng)頻率推斷（點(diǎn)估計、置信區(qū)間）可信度解釋概率=觀測者對可能性的判斷“貝葉斯概率”對應(yīng)貝葉斯推斷第6頁，共22頁，2023年，2月20日，星期五概率的頻率解釋在相似試驗(yàn)條件下，進(jìn)行多次重復(fù)試驗(yàn)，得到某個特定輸入的相對頻率（如擲骰子或拋硬幣）滿足概率公理只有試驗(yàn)才能確定概率但是試驗(yàn)次數(shù)多少次才足夠多?相似條件?(條件完全相同?)P(正面朝上)?P(你本門課程得90分以上)?P(明天會下雨)?第7頁，共22頁，2023年，2月20日，星期五概率的可信度解釋亦稱“貝葉斯概率”概率表示觀測者對可能性的判斷定量表示某人的信念強(qiáng)度是基于個人的信念和信息“主觀概率”而不是“真正的概率”并沒有對世界客觀的表述主觀判斷完全一致沒有矛盾?不同人之間沒有統(tǒng)一的客觀基準(zhǔn)滿足概率公理(在保持一致性的情況下)第8頁，共22頁，2023年，2月20日，星期五獨(dú)立事件當(dāng)P

(AB)=P(A)

P(B)時，稱兩個事件A與B獨(dú)立，記為可推廣到有限個事件系列可通過兩種方式確定事件之間的獨(dú)立性顯式假設(shè)：如拋硬幣試驗(yàn)中，假設(shè)每次拋擲都是獨(dú)立的數(shù)值推導(dǎo)：滿足P

(AB)

=

P(A)

P(B)如在一個公正的擲骰子的試驗(yàn)中，則不相交獨(dú)立第9頁，共22頁，2023年，2月20日，星期五獨(dú)立總結(jié)獨(dú)立總結(jié)若P(AB)=P

(A)P(B)，則A和B獨(dú)立。獨(dú)立某些時候是假設(shè)的，某些時候推導(dǎo)得到的。有正概率的不相交事件不一定獨(dú)立。第10頁，共22頁，2023年，2月20日，星期五條件概率當(dāng)P(B)>0

時，給定B時A的條件概率為給定任意B，若P(B)>0

，則也是一個概率，即滿足概率的三個概率公理

當(dāng)不相交時，第11頁，共22頁，2023年，2月20日，星期五條件概率下列等式不一定成立

第12頁，共22頁，2023年，2月20日，星期五條件概率例1.13：對疾病D的醫(yī)學(xué)測試結(jié)果輸出為+和-，其概率分別為：假設(shè)某個測試的結(jié)果為+，則得病的概率為多少？檢驗(yàn)相當(dāng)正確不要相信直覺！得病概率很小+.009.099.108-.001.891.892.010.9901.0第13頁，共22頁，2023年，2月20日，星期五條件概率例1.13（續(xù)）：假設(shè)某個測試的結(jié)果為-，則得病的概率為多少？+.009.099.108-.001.891.892.010.9901.0得病概率幾乎為0第14頁，共22頁，2023年，2月20日，星期五獨(dú)立與條件概率若A與B獨(dú)立事件，則知道B不會改變A的概率當(dāng)A與B不獨(dú)立時Vs.A與B獨(dú)立時：第15頁，共22頁，2023年，2月20日，星期五例：條件獨(dú)立賭徒的謬誤：戴倫伯特系統(tǒng)參與者賭紅色或黑色，每賭失敗一次就加大賭數(shù)，每賭贏一次就減少賭數(shù)。如果小小的象牙球讓他贏了，那么就會有某種原因“記住”它，不太可能讓他在下一次再贏；如果小球使他輸了，它將感到抱歉，很可能幫助他在下一次贏。事實(shí)上：每一次旋轉(zhuǎn)，輪盤都與以前旋轉(zhuǎn)的結(jié)果無關(guān)。摘自《數(shù)學(xué)悖論奇景》第16頁，共22頁，2023年，2月20日，星期五條件概率總結(jié)1.如果P(B)>0，則2.對給定的B

，P(.|B)滿足概率公理。通常，對給定的A

，P(A|.)不滿足概率公理。3.通常，P(A|B)≠P(B|A)。4.當(dāng)且僅當(dāng)P(A|B)=P(A)時，A

與B

獨(dú)立。第17頁，共22頁，2023年，2月20日，星期五貝葉斯公式全概率公式：令A(yù)1,…,Ak

為的一個劃分，則對任意事件B，有。貝葉斯公式：令A(yù)1,…,Ak

為的一個劃分且對每個i，

i

=1,2,…,k

。若，則對每個有

后驗(yàn)概率先驗(yàn)概率第18頁，共22頁，2023年，2月20日，星期五例：郵件分類例1.19：email可分為三類：A1=“垃圾,”A2=“低優(yōu)先級”和A3=“高優(yōu)先級”。根據(jù)先前的經(jīng)驗(yàn)，我們發(fā)現(xiàn)則：0.7+0.2+0.1=1。令B表示email中包含單詞“free”。根據(jù)先前的經(jīng)驗(yàn)，則如果收到一封帶有單詞“free”的郵件，該郵件為垃圾郵件的概率是多少？根據(jù)貝葉斯公式：第19頁，共22頁，2023年，2月20日，星期五作業(yè)1Chp1：第10、19、21、23題請于9月24日前上課前交作業(yè)非編程題可以用紙版編程題請用email發(fā)至：標(biāo)題請注明學(xué)號、姓名和作業(yè)的序號（第幾次作業(yè)）姓名_學(xué)號_作業(yè)序號.zip/rar如確有困難者，請務(wù)必找助教說明，可適當(dāng)延遲第一次編程題的時間請按時交作業(yè)第20頁，共22頁，2023年，2月20日，星期五編程環(huán)境M