哈工大著名老師田波平課件2-概率論與數(shù)理統(tǒng)計-劉星斯維提整理

第二章條件概率與獨立性§2-1條件概率乘法原理引子：直到現(xiàn)在，我們計算事件的概率是在樣本空間已知的情況下進(jìn)行的，即除了樣本空間（一組固有條件）外得不到其它試驗信息。但是，有時知道一個事件H發(fā)生了。當(dāng)陳述與之有關(guān)另一事件A的結(jié)果時，怎樣使用這個信息呢？1/11/20231例1考慮有兩個孩子的家庭，假設(shè)男女出生率一樣，則兩孩子性別（依大小排列）S={(B,B),(B,G),(G,B),(G,G)}且每一個基本事件發(fā)生是等可能的。若任選一家庭至少有一個女孩子事件H發(fā)生了。求此家庭有一男一女事件A的概率。解：P(A)=，P(H)=

P(A|H)=1/11/20232例2．設(shè)甲袋中裝了4個白球2個黑球，乙袋中裝了4個黑球，2個白球。擲一枚質(zhì)量均勻硬幣，若正面朝上（H），便從甲袋中隨機(jī)取一個球；否則（T）從乙袋中隨機(jī)地取一球。設(shè)E0表示取出黑球事件,若已知H信息條件下，求E0發(fā)生的概率。解：S={HW11,HW12,HW13,HW14,Hb11,Hb12,

TW21,TW22,Tb21,Tb22,Tb23,Tb24}1/11/20233P(E0)=P{Hb11,Hb12,Tb21,Tb22,Tb23,Tb24}=P(H)=P(HE0)=P{Hb11,Hb12}=2/12Note：對于，這樣才滿足古典概型E條件；不難構(gòu)造反例（只需把例2兩袋球?qū)ΨQ結(jié)構(gòu)破壞即可?。?/11/20234例3．考慮E：向有界區(qū)域（S）內(nèi)均勻地擲隨機(jī)點，事件A表示隨機(jī)點落在區(qū)域A中，事件B表示隨機(jī)點落在區(qū)域B中,這是幾何概型隨機(jī)試驗E。求P(A|B)解：P(A)=L(A)/L(S)P(B)=L(B)/L(S)P(AB)=L(AB)/L(S)

ABS1/11/20235P(A|B)=L(AB)/L(B)==P(AB)/P(B)Note：上述古典概型和幾何概型例中適用規(guī)律在一般情況下不能用純數(shù)學(xué)邏輯推導(dǎo)出來，我們需要用此比值P(A|B)作為條件概率定義。（例統(tǒng)計條件概率）定義1(P(B)>0)設(shè)A、B為任意兩個事件，且P(B)>0，則稱比值P(AB)/P(B)為事件A在事件B發(fā)生的條件下的條件概率，記為P(A|B)1/11/20236由事件發(fā)生的頻率概念亦可類似地引出條件頻率，從而與第一章方法與思路類似，我們引入概率的三條公理。定理1，條件概率P(A|B)=P(AB)/P(B)(P(B)>0)滿足公理1~3。(1)1≥P(A|B)=(2)P(S|B)=P(SB)/P(B)=11/11/20237(3)設(shè)A1，A2，…互不相容，則A1B，A2B，…，AnB，…也互不相容，因此P{(A1+A2+…+An+…)|B}=P{(A1+…+An+…)B}/P(B)=P(A1B+A2B+…+AnB+…)/P(B)=P(A1|B)+P(A2|B)+…Note：條件概率如同（古典、幾何）概率一樣滿足：(4)1/11/20238(5)P(6)若A1A2則P(A1|B)≤P(A2|B)P((A2－A1)|B))=P(A2|B)－P(A1|B)(7)P(A1∪A2|B)=

P(A1|B)+P(A2|B)－P(A1A2|B)當(dāng)B=S時P(A|S)=P(A)關(guān)系：條件概率可當(dāng)作無條件概率的一般形式，事件概率有條件！下面觀察公式：P(A|B)=

(P(B)>0)1/11/20239P(AB)=P(B)P(A|B)(P(B)>0)P(AB)=P(A)P(B|A)(P(A)>0)具有重要理論與實際意義定理2（乘法原理）若A，B為兩個事件，P(A)>0,P(B)>0則

P(AB)=P(A)P(B|A)(P(A)>0)

P(AB)=P(B)P(A|B)(P(B)>0)1/11/202310定理3設(shè)A1，A2，…,An為n個事件，P(A1…An-1)>0,則有：P(A1A2…An)=P(A1)P(A2|A1)P(A3|A1A2)…P(An|A1…An-1)證由于P(A1)≥P(A1A2)≥…≥P(A1A2…An-1)>0因此右邊=1/11/202311例4包裝了的玻璃器皿第一次扔下了被打破概率為0.4，若第一次扔下未打破，第二次扔下被打破概率為0.6，若第二次扔下未打破，第三次扔下被打破概率為0.9，今將這種包裝了的器皿連續(xù)扔三次，求器皿被打破A的概率。解：設(shè)Ai表示第i次扔下器皿被打破事件（i=1，2，3）(1)P(A)==1－P()=1－=0.9761/11/202312(2)A=A1+A2+A3P(A)=P(A1)+P()P(A2|)+P())P(A3|)=0.4+(1－0.4)×0.6+(1－0.4)×(1－0.6)×0.9=0.976§2.2全概率公式概率論的重要研究課題之一是希望從已知的簡單事件的概率算出未知的復(fù)雜事件的概率。于是一個復(fù)雜事件常常分1/11/202313解為若干個互不相容的簡單事件的和，再利用概率的可加性可計算復(fù)雜事件的概率。——全概率公式作用重要性。定理4（全概率公式）設(shè)A1,…,An

,…為互不相容事件且P(Ai)>0,則有：

P(B)=1/11/202314證明：1/11/202315例1、設(shè)某袋中有6個白球4個黑球，甲、已、丙三人依次摸一球，求甲、已、丙三人分別摸到黑球的概率。解：設(shè)A,B,C分別表示甲、已、丙三人摸到黑球。則1/11/2023161/11/202317例2甲、乙、丙三人向一飛機(jī)射擊，設(shè)他們命中率分別為0.4,0.5,0,7，又設(shè)飛機(jī)中一彈被擊落概率0.2，中兩彈飛機(jī)被擊落概率為0.6，中三彈飛機(jī)必然被擊落，今三人各射擊一次，求飛機(jī)被擊落A的概率。解：設(shè)Ai表示飛機(jī)中i彈(i=0,1,2,3)，Bj(j=1,2,3)分別表示甲、乙、丙三人分別擊中飛機(jī)事件。1/11/202318這里有：A

S=A0+A1+A2+A3A0=1/11/202319已知P(A|A1)=0.20P(A|A2)=0.60P(A|A3)=11/11/202320例3．設(shè)甲袋中有3個白球2個黑球，乙袋中有4個白球4個黑球，從甲袋中任取2球放入乙袋，再從乙袋中任取一球，求該球為白球A的概率。解：設(shè)Ai表示從甲袋中取出i個白球事件（i=0,1,2）

P(A)=P(A0)P(A|A0)+P(A1)P(A|A1)+P(A2)P(A|A2)=13/251/11/2023211/11/202322例4．一盒中裝有15只乒乓球，其中9個新球，第一次抽取三只，賽完后放回盒子中；第二次同樣任取三只，求第二次取出三球均為新球事件A的概率。解：設(shè)Ai表示第一次取出i個新球事件（i=0,1,2,3）1/11/2023231/11/202324§2.3貝葉公式

1763年一位精通數(shù)學(xué)和哲學(xué)的英國牧師已逝世二周年，其生前朋友普賴斯將他的遺著《論機(jī)遇理論中一個問題的解決》推薦給皇家學(xué)會并將此作發(fā)表于當(dāng)年的《哲學(xué)會報》上，貝葉斯因此而不朽，后來的數(shù)學(xué)家將之簡化為今天的貝葉斯公式。它是利用先驗概率計算后驗1/11/202325概率的計算公式，此工作在故障診斷，模式識別、數(shù)理統(tǒng)計，預(yù)測理論等方面有十分廣泛的用途。例1．電報發(fā)射臺發(fā)出“·”“－”比例為5:3，由于干擾，傳送“·”時失真率為2/5，傳送“－”時失真率為1/3，求接受臺收到“·”時發(fā)出信號恰是“·”概率。1/11/202326解：設(shè)A0，A1分別表示發(fā)射臺發(fā)出“·”，“－”事件，B0,B1分別表示接受臺接到信號“·”“－”事件。由題設(shè)1/11/2023271/11/202328

P(A1|B1)=P(A1)P(B1|A1)/[P(A0)P(B1|A0)+P(A1)P(B1|A1)]1/11/202329例2在醫(yī)療診斷中，為了診斷病人到底患了毛病中的哪一種(A1,A2,…An，…)，對病人進(jìn)行觀察與檢查，確定了某個指標(biāo)B（例體溫、脈博、血液中轉(zhuǎn)氨酶含量等），他想利用這類指標(biāo)幫助診斷，亦可用Bayes公式，首先必須確定先驗概率Ｐ(Ai)以往資料可給出一些初步數(shù)據(jù)；其次是要確定P(B|Ai),這里主要依靠醫(yī)學(xué)知識、信息B引起了對事前概率的重新估價1/11/202330于是利用Bayes公式可算出P(Ai|B)，顯然對應(yīng)于較大P(Ai|B)的病因“Ai”，應(yīng)多加考慮，在實際中，檢查指標(biāo)B一般有多個，綜合所有的后驗概率，對診斷有很大幫助，（此法常用于計算機(jī)自動診斷或輔助診斷）圖表：BP(Ai|B)(i=1,2,…,n,…)AnA2A11/11/202331定理(Bayes’theorem）設(shè)A1,…An,…為可數(shù)無窮多個互不相容事件，，

(i=1,2,…n,…)1/11/202332

Note:上式中P(Ai)稱為先驗概率：在試驗前就已知的，它常常是以往經(jīng)驗的總結(jié)。P(Ai|B)稱為后驗概率：它反映了試驗之后對各種原因發(fā)生的可能性大小的新知識。Bayesformula實質(zhì)：利用P(Ai)，P(B|Ai)，(i=1,2,…n,…)求P(Ai|B)，(i=1,2,…n,…)信息B引起了對先驗概率P(Ai)的重新估價。1/11/202333例3設(shè)袋1中裝了5個白球與4個黑球，把4個球轉(zhuǎn)移到第二只袋中去，然后從袋2中取出一個球，發(fā)現(xiàn)它是黑球，求從剩下的三個球中取到一個白球概率。解：設(shè)Ai表示從袋1中取出4個球中有i個黑球事件(i=1,2,3,4),B表示從袋2中取到一個黑球事件,A表示從剩下的三個球中取到一個白球事件1/11/2023341/11/202335

=0.6251/11/202336例4在上節(jié)例3中已知乙袋中取出的球是白球B，求從甲袋中取出的球是一白一黑A1的概率。解：由例3知：1/11/202337∴所求概率為：1/11/202338§2.4事件的獨立性2.4.1

兩個事件的獨立性引子：前邊論述過，一般來說條件概率P(B|A)≠P(B)，即事件A發(fā)生對事件B發(fā)生的概率是有影響的，若事件A發(fā)生對B發(fā)生概率無影響，有：P(B|A)=P(B)(P(A)>0)于是P(AB)=P(A)P(B|A)=P(A)P(B)這就是事件A，B相互獨立的意義。顯然它是事件概率性質(zhì)，它是條件概率的特例。1/11/202339舉例說明，事件的獨立性在事件概率計算與概率論理論研究中具有重要地位。定義1設(shè)A、B為S中兩個事件，若P(AB)=P(A)P(B)，則稱A，B兩個事件相互獨立。Note:（1）事件A、B中有一個概率為0or1，則A，B相互獨立；（2）A、B中有一個為Sorφ，則A、B獨立。1/11/202340定理1若P(A)>0且A、B獨立，則

P(B|A)=P(B)定理2若A、B相互獨立，則A與，與B，

與亦獨立。證明:1/11/2023411/11/202342例1設(shè)E為幾何概型E，令M1=“M落在矩形AGID內(nèi)”，M2=“M落在矩形ABHF內(nèi)”，M3=“M落在ABD內(nèi)”，其中ABCD為正方形，而F,G,H,I為正方形四邊的中點，問M1,M2,M3事件是否兩兩獨立？1/11/202343解M1,M2獨立，

M1,M3不獨立,M2,M3不獨立,AGBHCIDFO1/11/202344但∴M1與M2獨立，但M1與M3，M2與M3均不獨立。1/11/202345例2設(shè)甲、乙二人獨立地射擊同一目標(biāo)，他們擊中目標(biāo)概率分別為0.9和0.8，今各射擊一次，求目標(biāo)被擊中的概率。解：設(shè)A、B表示甲、乙兩人分別擊中目標(biāo)事件，C表示目標(biāo)被擊中事件：（∵A、B獨立，∴P(AB)=P(A)P(B))1/11/202346(2)P(C)=1－P()=1－P()P()=0.98Note：判定事件獨立性的實際原則。例：打靶的問題，可靠性問題，破譯密碼的問題，測量問題等。2.4.2多個事件的獨立性定義2設(shè)Ai,A2,…,An是n個事件，若對P(Ai1Ai2…Aik)=P(Ai1)…P(Aik)則稱：A1,…,An相互獨立的。1/11/202347理論上驗算：n=3，驗算：23-(3+1)=4等式。推論：若n個事件相互獨立，則它們中的任何m(2≤m≤n)個事件亦相互獨立。補(bǔ)充定理：設(shè)A1,…,An這n個事件相互獨立，若把其中m(1≤m≤n)個事件相應(yīng)地?fù)Q成它們的對立事件，則新的n個事件亦相互獨立。（數(shù)學(xué)歸納法）1/11/202348例3．有m3塊外形相同的木板，其中上分別寫有，一塊上寫有A0B0C0，其余不寫，今從m3塊上隨機(jī)地抽取一塊，設(shè)抽取一塊寫有A0、B0、C0事件分別為A，B，C，問A，B，C是否相互獨立？1/11/202349但所以，A，B，C是不相互獨立的。（為證明三個事件獨立性，必須證明四個等式都成立。）1/11/202350例4．（關(guān)于可靠性系統(tǒng)例）元件可靠性，系統(tǒng)之可靠性。求下面系統(tǒng)I和系統(tǒng)II之可靠性。并比較（I）（II）系統(tǒng)可靠性大小。設(shè)每個元件可靠性為r(0<r<1)且每個元件能否正常工作相互獨立。

I2211nn1/11/202351

II解：（1）RC—每條支路的可靠性

RS—系統(tǒng)I之可靠性

Ai表示每個元件正常工作事件,G1,G2表示通路（一），（二）正常工作事件1122nn1/11/202352RS>RC表明增加一條通路增強(qiáng)了系統(tǒng)之可靠性。（2）—系統(tǒng)II可靠性

—每對并聯(lián)元件可靠性?；蛘?/11/202353

=r(2－r)，用附加元件方法亦能增加系統(tǒng)可靠性。例5．某考生想一本書，分別到三個圖書館借。對每一個圖書館而言，有無此書概率相等；若有，能否借到概率亦相等。假設(shè)這三個圖書館采購，出借圖書相互獨立，求該生借到書事件A概率。1/11/202354解：設(shè)Ai表示第i個圖書館有此書事件（i=1,2,3）1/11/202355§2-5重復(fù)獨立試驗、二項概率公式

引子：在第一章我們曾經(jīng)論述了概率論是研究隨機(jī)現(xiàn)象統(tǒng)計規(guī)律的一門數(shù)學(xué)學(xué)科。研究隨機(jī)現(xiàn)象的基本手段：在相同條件下進(jìn)行大量的重復(fù)試驗或觀察。1/11/202356例：擲一枚質(zhì)量均勻?qū)ΨQ硬幣或骰子n次；Galton板；n次打靶E；從一批產(chǎn)品中有放回地抽取n件產(chǎn)品檢驗；從某袋中有放回地摸n次球檢驗。等等，這些例子共性：n次E對應(yīng)n個結(jié)果相互獨立。于是n次重復(fù)獨立E的數(shù)學(xué)刻劃需借助于n個事件獨立性概念！重復(fù)獨立試驗：Ω1=Ω2=…=Ωn（orS1=S2=…=Sn）且有關(guān)事件的概率保持不1/11/202357變，各次E是相互獨立的。它是作為“在同樣條件下重復(fù)試驗”的數(shù)學(xué)模型而出現(xiàn)的，它在概率論中很有地位：因為隨機(jī)現(xiàn)象的統(tǒng)計規(guī)律性只有在大量重復(fù)試驗中才會顯示出來。n次不放回摸球模型則是n個試驗不獨立的簡單例子。定義1在相同條件下將同—E重復(fù)進(jìn)行n次。而每次E對應(yīng)一個可能結(jié)果。若這任1/11/202358意n個結(jié)果之間相互獨立，則稱這n次E是相互獨立的或稱這n次E為n次重復(fù)獨立的試驗。怎樣判斷n次重復(fù)獨立試驗?zāi)?？基于實際原則（利于解決實際問題），理論上證明繁雜！一類重要的重復(fù)獨立E：n重貝努里E。定義2若E只有兩個結(jié)果：A與隨機(jī)試驗稱之為貝努里E；它的n次重復(fù)獨立E，稱為n重貝努里E。1/11/202359（1）對于一次貝努里E，A—E成功，失敗，P(A)=P,P(（2）n重貝努里E是相互獨立的，令A(yù)i={第i次E中出現(xiàn)A}i=={第i次E中出現(xiàn)}，對驗獨立性及補(bǔ)充定理：1/11/202360（3）有些E的結(jié)果雖然不止兩個，但若我們只注意某一事件發(fā)生，則這些E亦可化為n重貝努里E（例摸球，有放回檢驗產(chǎn)品）例1．設(shè)有一批N件產(chǎn)品，其中含有M件正品，從中分別按有放回的抽樣方式任取n(n≤N)件，問抽取的n件產(chǎn)品中恰有m件正品Bm概率是多少？1/11/202361解：設(shè)Bm表示恰好抽得m件正品事件，Ai表示第i次取得正品事件（表示第i次取得次品事件。這是一個n重貝努里E，得次品事件。于是：1/11/2023621/11/202363個事件互不相容，利用試驗獨立性與補(bǔ)充Th知：1/11/202364

Theorem1.若在n重貝努里E中，成功的概率為P（0<P<1）則在n重貝努里E中成功恰好發(fā)生k次概率為：兩種方法證明（1）Bk表示成功k次事件（k=0,1,2,…n）1/11/202365證∵S=B0+B1+…+Bnor

∴(2)利用Newton二項式公式1/11/202366例2．已知一大批某種產(chǎn)品中有30%的一級品，現(xiàn)從中隨機(jī)地抽取5個樣品，求：（a）5個樣品恰有兩個一級品概率；（b）5個樣品至少兩個一級品的概率。解：設(shè)Bi表示5個樣品中恰有i個一級品事件（i=0,1,2,3,4,5）由于5個樣品相對于一1/11/202367大批產(chǎn)品而言是小樣本。于是無放回抽取5件產(chǎn)品可當(dāng)作有放回抽取5件產(chǎn)品。這問題可處理為5重貝努里E，成功概率P=0.30。1/11/202368

(b)例3設(shè)昆蟲產(chǎn)k個卵的概率，又設(shè)一個卵能孵化成昆蟲的概率為P，若卵的孵化是相互獨立的，問此昆蟲的下一代有L條蟲事件A的概率。解；設(shè)Ak表示昆蟲產(chǎn)k個卵事件（k=0,1,2,…）1/11/2023691/11/2023701/11/202371例4設(shè)某種數(shù)字傳輸器以512×103個0或1/S的序列傳送消息，由于干擾，在傳送過程中會將0或1誤為1或0的情況，這兩種情形稱為“誤碼”。誤碼概率為P=10－7，求在10S內(nèi)出現(xiàn)一個誤碼概率。1/11/202372解：這是n=512×103×10重貝努里E，成功概率P=10－7

直接計算十分復(fù)雜，計算的復(fù)雜性問題！關(guān)于此問題美籍華人著名數(shù)字家陳省身教授將之列為21世紀(jì)待解決問題，稱之為算法世紀(jì)！引入二項概率近似計算公式：泊松近似公式！1/11/202373§2.6泊松逼近引子：若在每次貝努里E中成功概率P很小，則稱之為稀有事件。那么當(dāng)n充分大時，n重貝努里E中稀有事件恰好出現(xiàn)k次概率計算相當(dāng)復(fù)雜。為此1837年法國數(shù)學(xué)家Poison引入了二項概率的一個逼近定理，從而為我們實際計算提供了一個切實可行的近似公式！1/11/202374定理2（泊松定理）在n重貝努里E中，事件A在一次試驗中出現(xiàn)的概率為Pn（它與E的總數(shù)n有關(guān)），若npn=λ（正常數(shù)）則有：1/11/202375[Note：nPn=λ條件可改為

1/11/202376Note：（1）