概率與概率分布課件

1、第 3 章 概率與概率分布3.1 隨機(jī)事件及其概率3.2 隨機(jī)變量及其概率分布3.3 大數(shù)定律與中心極限定理第1頁(yè)，共55頁(yè)。3.1 隨機(jī)事件及其概率隨機(jī)試驗(yàn)與隨機(jī)事件隨機(jī)事件的概率概率的運(yùn)算法則第2頁(yè)，共55頁(yè)。隨機(jī)試驗(yàn)與事件隨機(jī)現(xiàn)象的特點(diǎn)是：在條件不變的情況下，一系列的試驗(yàn)或觀測(cè)會(huì)得到不同的結(jié)果，并且在試驗(yàn)或觀測(cè)前不能預(yù)見(jiàn)何種結(jié)果將出現(xiàn)。隨機(jī)試驗(yàn)：對(duì)隨機(jī)現(xiàn)象的試驗(yàn)或觀測(cè)，它必須滿足以下的性質(zhì)： （1）每次試驗(yàn)的可能結(jié)果不是唯一的； （2）每次試驗(yàn)之前不能確定何種結(jié)果會(huì)出現(xiàn)； （3）試驗(yàn)可在相同條件下重復(fù)進(jìn)行。第3頁(yè)，共55頁(yè)。隨機(jī)事件（事件）：在隨機(jī)試驗(yàn)中，可能出現(xiàn)也可能不出現(xiàn)的結(jié)果。試驗(yàn)

2、的結(jié)果可能是一個(gè)簡(jiǎn)單事件，也可能是一個(gè)復(fù)雜事件。簡(jiǎn)單事件就是不可以再分解的事件，又稱為基本事件。復(fù)雜事件是由簡(jiǎn)單事件組合而成的事件?；臼录€可稱為樣本點(diǎn)，設(shè)試驗(yàn)有n個(gè)基本事件，分別記為 (i=1,2,，n)。集合 =1 ,2 , ,n稱為樣本空間，中的元素就是樣本點(diǎn)。第4頁(yè)，共55頁(yè)。例：投擲一粒均勻的六面體骰子，出現(xiàn)的點(diǎn)數(shù)有可能是1、2、3、4、5、6共六種。這六種結(jié)果是基本結(jié)果，不可以再分解成更簡(jiǎn)單的結(jié)果了，所以=1，2，3，4，5，6為該試驗(yàn)的樣本空間?！俺霈F(xiàn)點(diǎn)數(shù)是奇數(shù)”這一事件就不是簡(jiǎn)單事件，它是由基本事件1，3和5組合而成的。我們通常用大寫字母A，B，C，來(lái)表示隨機(jī)事件，例如，設(shè)A

3、表示“出現(xiàn)點(diǎn)數(shù)是奇數(shù)”，則A=1，3，5；設(shè)B表示“出現(xiàn)點(diǎn)數(shù)是偶數(shù)”，則B=2，4，6。第5頁(yè)，共55頁(yè)。概率的定義概率就是指隨機(jī)事件發(fā)生的可能性，或稱為機(jī)率，是對(duì)隨機(jī)事件發(fā)生可能性的度量。 進(jìn)行n次重復(fù)試驗(yàn)，隨機(jī)事件A發(fā)生的次數(shù)是m次，發(fā)生的頻率是m/n，當(dāng)試驗(yàn)的次數(shù)n很大時(shí)，如果頻率在某一數(shù)值p附近擺動(dòng)，而且隨著試驗(yàn)次數(shù)n的不斷增加，頻率的擺動(dòng)幅度越來(lái)越小，則稱p為事件A發(fā)生的概率，記為：P(A)=p。在古典概型場(chǎng)合, 即基本事件發(fā)生的概率都一樣的場(chǎng)合:第6頁(yè)，共55頁(yè)。例：設(shè)一個(gè)袋子中裝有白球2個(gè)，黑球3個(gè)。(1) 從中隨機(jī)摸出1只球，問(wèn)剛好是白球的概率有多大？ (2) 從中隨機(jī)摸出2只

4、球，一問(wèn)2只球都是白球的概率有多大? 二問(wèn)2只球一白一黑的概率有多大? 三問(wèn)2只球都是黑球的概率有多大? 解：(1) 由于摸出的任何1只球都形成一個(gè)基本事件，所以樣本點(diǎn)總數(shù)為n=5。用A表示摸出的是白球事件，則A由兩個(gè)基本點(diǎn)組成，即A=白球，白球，有利場(chǎng)合數(shù)m=2。因此，剛好摸出白球的概率為P(A)=m/n=2/5=0.4第7頁(yè)，共55頁(yè)。 (2) 由于摸出2只球才成一個(gè)基本事件，所以樣本點(diǎn)總數(shù)為 故P(A)=P(2只球都是白球)=1/ =1/10P(B)=P(2只球一白一黑)=23/10=6/10P(C)=P(2只球都是黑球)=3/10NOTE: P(A+B+C)=1第8頁(yè)，共55頁(yè)。概率的

5、基本性質(zhì)性質(zhì)1 1P(A)0。性質(zhì)2 P()=1。性質(zhì)3 若事件A與事件B互不相容，即AB=，則P(AB)=P(A)+P(B)。推論1 不可能事件的概率為0，即：P()=0。推論2 P( )=1-P(A), 表示A的對(duì)立事件，即它們二者必有一事件發(fā)生但又不能同時(shí)發(fā)生。第9頁(yè)，共55頁(yè)。概率的運(yùn)算法則加法公式用于求P(AB)“A發(fā)生或B發(fā)生”的概率互斥事件（互不相容事件）不可能同時(shí)發(fā)生的事件沒(méi)有公共樣本點(diǎn)P ( AB ) = P ( A ) + P ( B )互斥事件的加法公式 ABP ( A1A2 An) = P ( A1 ) + P (A2 ) + + P (An )第10頁(yè)，共55頁(yè)。互補(bǔ)

6、事件互補(bǔ)事件 不可能同時(shí)發(fā)生而又必然有一個(gè)會(huì)發(fā)生的兩個(gè)事件互補(bǔ)事件的概率之和等于1AA例如：擲一個(gè)骰子，“出現(xiàn)2點(diǎn)”的概率是1/6，則“不出現(xiàn)2點(diǎn)”的概率就是5/6 。第11頁(yè)，共55頁(yè)。相容事件的加法公式 相容事件兩個(gè)事件有可能同時(shí)發(fā)生沒(méi)有公共樣本點(diǎn)相容事件的加法公式 （廣義加法公式 ）ABP ( AB ) = P ( A ) + P ( B ) - P ( AB ) ABAB 事件的積（交）AB 事件的和（并） 第12頁(yè)，共55頁(yè)。概率的運(yùn)算法則乘法公式用于計(jì)算兩個(gè)事件同時(shí)發(fā)生的概率。也即 “A發(fā)生且B發(fā)生”的概率 P(AB) 先關(guān)注事件是否相互獨(dú)立 第13頁(yè)，共55頁(yè)。（1）條件概率條件

7、概率在某些附加條件下計(jì)算的概率在已知事件B已經(jīng)發(fā)生的條件下A發(fā)生的條件概率P(A|B)條件概率的一般公式：乘法公式的一般形式： 其中 P(B) 0 P(AB) P(A)P(B|A) 或 P(AB) P(B)P(A|B) 第14頁(yè)，共55頁(yè)。P(A|B)在B發(fā)生的所有可能結(jié)果中AB發(fā)生的概率即在樣本空間中考慮的條件概率P(A|B)，就變成在新的樣本空間B中計(jì)算事件AB的概率問(wèn)題了（1）條件概率一旦事件B已發(fā)生ABABBAB第15頁(yè)，共55頁(yè)。事件的獨(dú)立性兩個(gè)事件獨(dú)立一個(gè)事件的發(fā)生與否并不影響另一個(gè)事件發(fā)生的概率P(A|B)P(A)，或 P(B|A)P(B)獨(dú)立事件的乘法公式： P(AB) P(A

8、)P(B)推廣到n 個(gè)獨(dú)立事件，有：P(A1An)P(A1)P(A2) P(An) 第16頁(yè)，共55頁(yè)。概率的運(yùn)算法則全概率公式完備事件組事件A1、 A2、An互不相容，AA2An且P(Ai ) 0（i=1、2、.、n）對(duì)任一事件B，它總是與完備事件組A1、 A2、An之一同時(shí)發(fā)生，則有求P(B)的全概率公式：第17頁(yè)，共55頁(yè)。概率的運(yùn)算法則貝葉斯公式全概率公式的直觀意義：每一個(gè)Ai的發(fā)生都可能導(dǎo)致B出現(xiàn)，每一個(gè)Ai 導(dǎo)致B發(fā)生的概率為，因此作為結(jié)果的事件B發(fā)生的概率是各個(gè)“原因”Ai 引發(fā)的概率的總和 相反，在觀察到事件B已經(jīng)發(fā)生的條件下，確定導(dǎo)致B發(fā)生的各個(gè)原因Ai的概率貝葉斯公式（逆概

9、率公式） （后驗(yàn)概率公式）第18頁(yè)，共55頁(yè)。貝葉斯公式若A1、 A2、An為完備事件組，則對(duì)于任意隨機(jī)事件B，有： 計(jì)算事件Ai在給定B條件下的條件概率公式。公式中，P(Ai)稱為事件Ai的先驗(yàn)概率P(Ai|B)稱為事件Ai的后驗(yàn)概率 第19頁(yè)，共55頁(yè)。3.2 隨機(jī)變量及其概率分布 一、隨機(jī)變量的概念 二、隨機(jī)變量的概率分布 三、隨機(jī)變量的數(shù)字特征 四、常見(jiàn)的離散型概率分布 五、常見(jiàn)的連續(xù)型概率分布第20頁(yè)，共55頁(yè)。一、隨機(jī)變量的概念隨機(jī)變量表示隨機(jī)試驗(yàn)結(jié)果的變量取值是隨機(jī)的，事先不能確定取哪一個(gè)值 一個(gè)取值對(duì)應(yīng)隨機(jī)試驗(yàn)的一個(gè)可能結(jié)果用大寫字母如X、Y、Z.來(lái)表示，具體取值則用相應(yīng)的小寫

10、字母如x、y、z來(lái)表示 根據(jù)取值特點(diǎn)的不同，可分為：離散型隨機(jī)變量取值可以一一列舉連續(xù)型隨機(jī)變量取值不能一一列舉第21頁(yè)，共55頁(yè)。二、隨機(jī)變量的概率分布 1. 離散型隨機(jī)變量的概率分布 2. 連續(xù)型隨機(jī)變量的概率密度 3. 分布函數(shù)第22頁(yè)，共55頁(yè)。1. 離散型隨機(jī)變量的概率分布X的概率分布X的有限個(gè)可能取值為xi與其概率 pi（i=1，2，3，n）之間的對(duì)應(yīng)關(guān)系。概率分布具有如下兩個(gè)基本性質(zhì)： （1） pi0，i=1,2,n； （2）第23頁(yè)，共55頁(yè)。離散型概率分布的表示：概率函數(shù)：P(X= xi)= pi分布列：分布圖X = xix1x2xnP(X =xi)=pip1p2pn0.60

11、.300 1 2 xP( x )圖3-5 例3-9的概率分布第24頁(yè)，共55頁(yè)。2. 連續(xù)型隨機(jī)變量的概率密度 連續(xù)型隨機(jī)變量的概率分布只能表示為：數(shù)學(xué)函數(shù)概率密度函數(shù)f (x)和分布函數(shù)F (x) 圖 形概率密度曲線和分布函數(shù)曲線概率密度函數(shù)f (x)的函數(shù)值不是概率。連續(xù)型隨機(jī)變量取某個(gè)特定值的概率等于0只能計(jì)算隨機(jī)變量落在一定區(qū)間內(nèi)的概率由x軸以上、概率密度曲線下方面積來(lái)表示第25頁(yè)，共55頁(yè)。概率密度f(wàn) (x) 的性質(zhì)（1） f (x)0。概率密度是非負(fù)函數(shù)。（2）所有區(qū)域上取值的概率總和為1。 隨機(jī)變量X在一定區(qū)間（a，b）上的概率： f(x)xab第26頁(yè)，共55頁(yè)。3. 分布函數(shù)

12、適用于兩類隨機(jī)變量概率分布的描述分布函數(shù)的定義： F(x)PXx連續(xù)型隨機(jī)變量的分布函數(shù)離散型隨機(jī)變量的分布函數(shù) F(x)f(x)xx0F ( x0 )分布函數(shù)與概率密度第27頁(yè)，共55頁(yè)。三、隨機(jī)變量的數(shù)字特征 1. 隨機(jī)變量的數(shù)學(xué)期望 2. 隨機(jī)變量的方差和標(biāo)準(zhǔn)差 3. 兩個(gè)隨機(jī)變量的協(xié)方差和相關(guān)系數(shù)第28頁(yè)，共55頁(yè)。1. 隨機(jī)變量的數(shù)學(xué)期望又稱均值描述一個(gè)隨機(jī)變量的概率分布的中心位置離散型隨機(jī)變量 X的數(shù)學(xué)期望：相當(dāng)于所有可能取值以概率為權(quán)數(shù)的平均值連續(xù)型隨機(jī)變量X 的數(shù)學(xué)期望： 第29頁(yè)，共55頁(yè)。數(shù)學(xué)期望的主要數(shù)學(xué)性質(zhì)若k是一常數(shù)，則 E (k X) k E(X) 對(duì)于任意兩個(gè)隨機(jī)

13、變量X、Y，有 E(X+Y)E(X)E(Y) 若兩個(gè)隨機(jī)變量X、Y相互獨(dú)立，則 E(XY)E(X) E(Y) 第30頁(yè)，共55頁(yè)。2. 隨機(jī)變量的方差方差是它的各個(gè)可能取值偏離其均值的離差平方的均值，記為D(x)或2公式：離散型隨機(jī)變量的方差：連續(xù)型隨機(jī)變量的方差：第31頁(yè)，共55頁(yè)。方差和標(biāo)準(zhǔn)差標(biāo)準(zhǔn)差方差的平方根方差和標(biāo)準(zhǔn)差都反映隨機(jī)變量取值的分散程度。它們的值越大，說(shuō)明離散程度越大，其概率分布曲線越扁平。方差的主要數(shù)學(xué)性質(zhì)：若k是一常數(shù)，則 D(k)0；D(kX)k2 D(X) 若兩個(gè)隨機(jī)變量X、Y相互獨(dú)立，則 D(X+Y)D(X)D(Y) 第32頁(yè)，共55頁(yè)。3.兩個(gè)隨機(jī)變量的協(xié)方差和相

14、關(guān)系數(shù)協(xié)方差的定義 如果X,Y獨(dú)立（不相關(guān)），則 Cov(X,Y)0 即 E(XY)E(X) E(Y) 協(xié)方差在一定程度上反映了X、Y之間的相關(guān)性協(xié)方差受兩個(gè)變量本身量綱的影響。 第33頁(yè)，共55頁(yè)。相關(guān)系數(shù)相關(guān)系數(shù)具有如下的性質(zhì)：相關(guān)系數(shù)是一個(gè)無(wú)量綱的值 0| | 0當(dāng)=0，兩個(gè)變量不相關(guān)（不存在線性相關(guān)）當(dāng) | |=1，兩個(gè)變量完全線性相關(guān) 第34頁(yè)，共55頁(yè)。 四、常見(jiàn)離散型隨機(jī)變量的概率分布 1. 二項(xiàng)分布 2. 泊松分布 3. 超幾何分布第35頁(yè)，共55頁(yè)。1. 二項(xiàng)分布n重貝努里試驗(yàn)：一次試驗(yàn)只有兩種可能結(jié)果用“成功”代表所關(guān)心的結(jié)果，相反的結(jié)果為“失敗”每次試驗(yàn)中“成功”的概率都

15、是 p n 次試驗(yàn)相互獨(dú)立。第36頁(yè)，共55頁(yè)。1. 二項(xiàng)分布在n重貝努里試驗(yàn)中，“成功”的次數(shù)X服從參數(shù)為n、p的二項(xiàng)分布，記為 X B(n , p)二項(xiàng)分布的概率函數(shù)： 二項(xiàng)分布的數(shù)學(xué)期望和方差： n1時(shí)，二項(xiàng)分布就成了二點(diǎn)分布（0-1分布）第37頁(yè)，共55頁(yè)。二項(xiàng)分布圖形p0.5時(shí)，二項(xiàng)分布是以均值為中心對(duì)稱p0.5時(shí)，二項(xiàng)分布總是非對(duì)稱的p0.5時(shí)峰值在中心的右側(cè)隨著n無(wú)限增大，二項(xiàng)分布趨近于正態(tài)分布p=0.3p=0.5p=0.7二項(xiàng)分布圖示第38頁(yè)，共55頁(yè)。2. 泊松分布 X 服從泊松分布，記為XP(）:E(X)=D(X)=當(dāng) 很小時(shí)，泊松分布呈偏態(tài)，并隨著增大而趨于對(duì)稱當(dāng)為整數(shù)時(shí)

16、， 和（-1）是最可能值第39頁(yè)，共55頁(yè)。泊松分布（應(yīng)用背景）通常是作為稀有事件發(fā)生次數(shù)X的概率分布模型。一段時(shí)間內(nèi)某繁忙十字路口發(fā)生交通事故的次數(shù)一定時(shí)間段內(nèi)某電話交換臺(tái)接到的電話呼叫次數(shù)服從泊松分布的現(xiàn)象的共同特征在任意兩個(gè)很小的時(shí)間或空間區(qū)間內(nèi)事件發(fā)生次數(shù)是相互獨(dú)立的；各區(qū)間內(nèi)事件發(fā)生次數(shù)只與區(qū)間長(zhǎng)度成比例，與區(qū)間起點(diǎn)無(wú)關(guān)；在一段充分小的區(qū)間內(nèi)事件發(fā)生兩次或兩次以上的概率可以忽略不計(jì)當(dāng)n很大而 p又很小時(shí)，二項(xiàng)分布可用參數(shù)np 的泊松分布近似第40頁(yè)，共55頁(yè)。3. 超幾何分布 N個(gè)單位的有限總體中有M個(gè)單位具有某特征。用不重復(fù)抽樣方法從總體中抽取n個(gè)單位，樣本中具有某種特征的單位數(shù)X

17、服從超幾何分布，記為XH(n,N,M ) 數(shù)學(xué)期望和方差:N很大而n相對(duì)很小時(shí)，趨于二項(xiàng)分布(p=M/N)第41頁(yè)，共55頁(yè)。五、常見(jiàn)的連續(xù)型概率分布1. 均勻分布X只在一有限區(qū)間 a，b 上取值且概率密度是一個(gè)常數(shù)其概率密度為：X 落在子區(qū)間 c，d 內(nèi)的概率與該子區(qū)間的長(zhǎng)度成正比，與具體位置無(wú)關(guān)f(x)a c d b xP(cXd)第42頁(yè)，共55頁(yè)。2. 正態(tài)分布XN (、 2 )，其概率密度為：正態(tài)分布的均值和標(biāo)準(zhǔn)差 均值 E(X) = 方差 D(X)= 2 - x 3 的概率很小，因此可認(rèn)為正態(tài)隨機(jī)變量的取值幾乎全部集中在 - 3，+ 3 區(qū)間內(nèi)廣泛應(yīng)用:產(chǎn)品質(zhì)量控制判斷異常情況圖3

18、-12 常用的正態(tài)概率值（在一般正態(tài)分布及標(biāo)準(zhǔn)正態(tài)分布中） -3 -2 -1 0 +1 +2 +3 z -3 -2 - + +2+3x99.73%95.45%68.27%第46頁(yè)，共55頁(yè)。用正態(tài)分布近似二項(xiàng)分布XB (n，p) ，當(dāng)n充分大時(shí)， XN (n p，np(1-p)用正態(tài)分布近似二項(xiàng)分布的前提n很大，p不能太接近 0 或 1（否則二項(xiàng)分布太偏）一般要求np和np(1-p)都要大于5如果np或np(1-p)小于5，二項(xiàng)分布可以用泊松分布來(lái)近似第47頁(yè)，共55頁(yè)。3.3 大數(shù)定律與中心極限定理 一、大數(shù)定律 二、中心極限定理第48頁(yè)，共55頁(yè)。獨(dú)立同分布大數(shù)定律大數(shù)定律是闡述大量同類隨機(jī)現(xiàn)象的平均結(jié)果的穩(wěn)定性的一系列定理的總稱。獨(dú)立同分布大數(shù)定律設(shè)X1, X2, 是獨(dú)立同分布的隨機(jī)變量序列，且存在有限的數(shù)學(xué)期望E(Xi)和方差D(Xi ) 2（i=1,2,），則對(duì)任意小的正數(shù), 有： 第49頁(yè)，共55頁(yè)。獨(dú)立同分布大數(shù)定律該大數(shù)定律表明：當(dāng)n充分大時(shí)，相互獨(dú)立且服從同一分布的一系列隨機(jī)變量取值的算術(shù)平均數(shù)，與其數(shù)學(xué)期望的偏差任意小的概率接近于1。 該定理給出了平均值具有穩(wěn)定性的科學(xué)描述，從而為使用樣本均值去估計(jì)總體均值（數(shù)學(xué)期望）提供了理論依據(jù)。 第50頁(yè)，共55頁(yè)。貝努里大數(shù)定律設(shè)m是n次獨(dú)立重