(完整)概率論與數(shù)理統(tǒng)計(jì)知識(shí)點(diǎn)總結(jié)(詳細(xì)),推薦文檔

1、概率論與數(shù)理統(tǒng)計(jì)第一章概率論的基本概念2樣本空間、隨機(jī)事件1事件間的關(guān)系 a b則稱事件 b 包含事件 a，指事件 a 發(fā)生必然導(dǎo)致事件 b 發(fā)生a b = x x a或x b稱為事件 a 與事件 b 的和事件，指當(dāng)且僅當(dāng) a，b 中至少有一個(gè)發(fā)生時(shí)，事件 a b 發(fā)生a b = x x a且x b稱為事件 a 與事件 b 的積事件，指當(dāng)a，b 同時(shí)發(fā)生時(shí)，事件 a b 發(fā)生a b = x x a且x b稱為事件 a 與事件 b 的差事件，指當(dāng)且僅當(dāng) a 發(fā)生、b 不發(fā)生時(shí)，事件 a b 發(fā)生a b = a，則稱事件 a 與 b 是互不相容的，或互斥的，指事件 a 與事件 b 不能同時(shí)發(fā)生，基

2、本事件是兩兩互不相容的a b = s且 a b = a，則稱事件 a 與事件 b 互為逆事件，又稱事件11a與事件b互為對(duì)立事件2運(yùn)算規(guī)則 交換律 a b = b aa b = b a結(jié)合律( a b) c = a (b c)( a b)c = a(b c)分配律 a （b c）= ( a b) ( a c) a (b c) = ( a b)( a c) 徳摩根律 a b = a ba b = a b3頻率與概率定義在相同的條件下，進(jìn)行了 n 次試驗(yàn)，在這 n 次試驗(yàn)中，事件 a 發(fā)生的次數(shù) na 稱為事件 a 發(fā)生的頻數(shù)，比值 na n 稱為事件 a 發(fā)生的頻率概率：設(shè) e 是隨機(jī)試驗(yàn)，s

3、是它的樣本空間，對(duì)于 e 的每一事件 a 賦予一個(gè)實(shí)數(shù)，記為p（a），稱為事件的概率1. 概率 p( a) 滿足下列條件：（1） 非負(fù)性：對(duì)于每一個(gè)事件 a0 p( a) 1（2） 規(guī)范性：對(duì)于必然事件 sp(s) = 1（3） 可列可加性：設(shè) a1, a2 ,l, an 是兩兩互不相容的事件，有nnp(u ak ) = p( ak ) （ n 可以取 ）k =1k =12. 概率的一些重要性質(zhì)：（i） p(a) = 0nn（ii） 若 a1, a2 ,l, an 是兩兩互不相容的事件，則有 p(u ak ) = p( ak ) （ n 可以取 ）k =1k =1（iii） 設(shè) a，b 是兩個(gè)

4、事件若 a b ，則 p(b - a) = p(b) - p( a) ， p(b) p(a)（iv） 對(duì)于任意事件 a， p( a) 1（v） p( a) = 1 - p( a)（逆事件的概率）（vi） 對(duì)于任意事件 a，b 有 p( a b) = p( a) + p(b) - p( ab)4 等可能概型（古典概型）等可能概型：試驗(yàn)的樣本空間只包含有限個(gè)元素，試驗(yàn)中每個(gè)事件發(fā)生的可能性相同若事件 a 包含 k 個(gè)基本事件，即 a = ei uei uluei ，里12ki1，i 2, l，i k 是1,2，ln中某k個(gè)不同的數(shù)，則有kp( a) =j=1p(ei j)= kn= a包含的基本事

5、件數(shù)s中基本事件的總數(shù)5條件概率（1） 定義：設(shè) a,b 是兩個(gè)事件，且 p( a) 0 ，稱 p(b | a) =條件下事件 b 發(fā)生的條件概率（2） 條件概率符合概率定義中的三個(gè)條件1。非負(fù)性：對(duì)于某一事件 b，有 p(b | a) 0p( ab)p( a)為事件 a 發(fā)生的2。規(guī)范性：對(duì)于必然事件 s， p(s | a) = 13 可列可加性：設(shè) b1 , b2 ,l是兩兩互不相容的事件，則有p(u bi a ) = p(bi a )i=1i=1（3） 乘法定理設(shè) p( a) 0 ，則有 p( ab) = p(b)p( a | b) 稱為乘法公式（4） 全概率公式：np( a) = p(

6、bi )p( a | bi )i=1貝葉斯公式：6獨(dú)立性p(bk| a) = p(bk )p( a | bk ) n p(bi )p( a | bi )i=1定義設(shè) a，b 是兩事件，如果滿足等式 p( ab) = p( a)p(b) ，則稱事件 a,b 相互獨(dú)立定理一設(shè) a，b 是兩事件，且 p( a) 0 ，若 a，b 相互獨(dú)立，則 p(b | a) = p(b) 定理二若事件 a 和 b 相互獨(dú)立，則下列各對(duì)事件也相互獨(dú)立：a 與b，a 與b，a 與b第二章隨機(jī)變量及其分布1 隨機(jī)變量定義設(shè)隨機(jī)試驗(yàn)的樣本空間為s = e. x = x(e) 是定義在樣本空間 s 上的實(shí)值單值函數(shù)，稱x

7、= x(e) 為隨機(jī)變量2 離散性隨機(jī)變量及其分布律1. 離散隨機(jī)變量：有些隨機(jī)變量，它全部可能取到的值是有限個(gè)或可列無(wú)限多個(gè)，這種隨機(jī)變量稱為離散型隨機(jī)變量p( x= xk ) = pk 滿足如下兩個(gè)條件（1） pk 0 ，（2） pk =1k=12. 三種重要的離散型隨機(jī)變量（1）(0 1)分布設(shè)隨機(jī)變量 x 只能取 0 與 1 兩個(gè)值，它的分布律是p( x = k) = p（k 1 - p）1-k，k = 0,1 （0 p 1) ，則稱 x 服從以 p 為參數(shù)的(0 1)分布或兩點(diǎn)分布。（2） 伯努利實(shí)驗(yàn)、二項(xiàng)分布設(shè)實(shí)驗(yàn) e 只有兩個(gè)可能結(jié)果：a 與a ，則稱 e 為伯努利實(shí)驗(yàn).設(shè)p(a

8、) = p（0 p 0 是常數(shù)，則稱 x 服從參數(shù)為a的泊松分布記為x a（a）3 隨機(jī)變量的分布函數(shù)定義設(shè) x 是一個(gè)隨機(jī)變量，x 是任意實(shí)數(shù)，函數(shù)f(x) = px x,- x 稱為 x 的分布函數(shù)分布函數(shù) f (x) = p( x x) ，具有以下性質(zhì)(1)f (x) 是一個(gè)不減函數(shù)（2）0 f (x) 1，且f (-) = 0, f () = 1（3） f (x + 0) = f (x),即f (x)是右連續(xù)的4 連續(xù)性隨機(jī)變量及其概率密度連續(xù)隨機(jī)變量：如果對(duì)于隨機(jī)變量 x 的分布函數(shù) f（x），存在非負(fù)可積函數(shù) f (x) ，使對(duì)于任意函數(shù) x 有f(x) = x f（t）dt,則稱

9、 x 為連續(xù)性隨機(jī)變量，其中函數(shù) f(x)稱為 x- 的概率密度函數(shù)，簡(jiǎn)稱概率密度1 概率密度 f (x) 具有以下性質(zhì)，滿足（1） f (x) 0, (2)+f ( x)dx = 1；-（3） p(x1 x x2 ) =f (x)x2 f (x)dx ；（4）若 f (x) 在點(diǎn) x 處連續(xù)，則有f，(x) =x12,三種重要的連續(xù)型隨機(jī)變量(1)均勻分布 1，a x 0若連續(xù)性隨機(jī)變量 x 的概率密度為 f (x) = a 0，其他其中a 0 為常數(shù)，則稱x 服從參數(shù)為a的指數(shù)分布。（3）正態(tài)分布1-( x-a）2若連續(xù)型隨機(jī)變量 x 的概率密度為 f (x) =e2aa2a2 ，- x

10、0)為常數(shù)，則稱x服從參數(shù)為a，a的正態(tài)分布或高斯分布，記為 x n（a，a2）特別，當(dāng)a= 0，a= 1時(shí)稱隨機(jī)變量 x 服從標(biāo)準(zhǔn)正態(tài)分布5 隨機(jī)變量的函數(shù)的分布定理設(shè)隨機(jī)變量 x 具有概率密度 f x (x)，- x 0 ，則 y= g( x ) 是連續(xù)型隨機(jī)變量，其概率密度為yf ( y) = f x h(y)h, ( y) , a y 0,則稱 px = xy = y = px= xi ,y = y j = pij , i = 1,2,l為在y = y 條件下ijpy = y pjj j隨機(jī)變量 x 的條件分布律，同樣px= x ,y = y pijpy = y x = x =ij=,

11、 j = 1,2,l為在 x = x 條件下隨機(jī)變量 xjipx = x pi的條件分布律。ii設(shè)二維離散型隨機(jī)變量（x，y）的概率密度為 f (x, y) ，（x，y）關(guān)于 y 的邊緣概率密度為 f ( y) ，若對(duì)于固定的 y， f (y) ) 0，則f (x, y) 為在 y=y 的條件下 x 的條件稱yyf (x, y)y概率密度，記為 f x y (x y) = f ( y)fy ( y)4 相互獨(dú)立的隨機(jī)變量定義 設(shè)f（x，y）及fx (x) ， fy( y) 分別是二維離散型隨機(jī)變量（x，y）的分布函數(shù)及邊緣分布函數(shù).若對(duì)于所有 x,y 有 px = x,y = y = px x

12、py y， 即fx, y = fx (x)fy (y)，則稱隨機(jī)變量 x 和 y 是相互獨(dú)立的。對(duì)于二維正態(tài)隨機(jī)變量（x，y），x 和 y 相互獨(dú)立的充要條件是參數(shù)a= 05 兩個(gè)隨機(jī)變量的函數(shù)的分布1，z=x+y 的分布設(shè)(x,y)是二維連續(xù)型隨機(jī)變量，它具有概率密度 f (x, y) .則 z=x+y 仍為連續(xù)性隨機(jī)變量，其概率密度為 f x +y (z) = - f (z - y, y）dy 或 f x +y (z) = - f (x, z - x）dx又若 x 和 y 相互獨(dú)立，設(shè)（x，y）關(guān)于 x，y 的邊緣密度分別為 f x (x), fy ( y) 則f x +y (z) = -

13、 f x (z - y）f（y y) dy 和 f x +y (z) = - f x (x）fy (z - x)dx 這兩個(gè)公式稱為f x , fy 的卷積公式有限個(gè)相互獨(dú)立的正態(tài)隨機(jī)變量的線性組合仍然服從正態(tài)分布2， z = y 的分布、z = xy的分布x設(shè)(x,y)是二維連續(xù)型隨機(jī)變量，它具有概率密度 f (x, y) ，則 z = y ，z = xyx仍為連續(xù)性隨機(jī)變量其概率密度分別為 fy x (z) = - x f (x, xz)dxf xy (z) = -1zxf (x, )dx 又若 x 和 y 相互獨(dú)立，設(shè)（x，y）關(guān)于 x，y 的邊緣密度分別x為 f x (x), fy (

14、 y) 則可化為 fy x (z) = - f x (x) fy (xz)dxf xy (z) = 1 f x (x) fy ( z )dx- xx3 m = maxx，y及n = minx ,y的分布設(shè) x，y 是兩個(gè)相互獨(dú)立的隨機(jī)變量，它們的分布函數(shù)分別為 fx (x), fy ( y) 由于m = maxx，y 不大于 z 等價(jià)于 x 和 y 都不大于 z 故有pm z = px z, y z 又由于 x 和 y 相互獨(dú)立，得到 m數(shù)為 fmax (z) = fx (z)fy (z)= maxx，y 的分布函n = minx ,y的分布函數(shù)為 fmin (z) = 1 - 1 - fx

15、(z)1 - fy (z)第四章隨機(jī)變量的數(shù)字特征1數(shù)學(xué)期望定義設(shè)離散型隨機(jī)變量 x 的分布律為 px= xk = pk ，k=1,2，若級(jí)數(shù) xk pk 絕k =1對(duì)收斂，則稱級(jí)數(shù) xk pk 的和為隨機(jī)變量 x 的數(shù)學(xué)期望，記為 e( x ) ，即k =1e( x ) = xk pki設(shè)連續(xù)型隨機(jī)變量 x 的概率密度為 f (x) ，若積分 - xf (x)dx 絕對(duì)收斂，則稱積+分 - xf (x)dx 的值為隨機(jī)變量 x 的數(shù)學(xué)期望，記為 e( x ) ，即 e( x ) = - xf (x)dx定理設(shè) y 是隨機(jī)變量 x 的函數(shù) y= g( x ) (g 是連續(xù)函數(shù))（i） 如果 x

16、 是離散型隨機(jī)變量，它的分布律為 px = xk = pk ，k=1,2，若 g(xk）pk 絕對(duì)收斂則有 e(y) = e(g( x ) = g(xk）pk k =1k =1（ii） 如果 x 是連續(xù)型隨機(jī)變量，它的分概率密度為 f (x) ，若 - g(x) f (x)dx 絕對(duì)收斂則有 e(y) = e(g( x ) = - g(x) f (x)dx數(shù)學(xué)期望的幾個(gè)重要性質(zhì)1 設(shè) c 是常數(shù)，則有 e(c) = c2 設(shè) x 是隨機(jī)變量，c 是常數(shù)，則有 e(cx ) = ce( x )3 設(shè) x,y 是兩個(gè)隨機(jī)變量，則有 e( x + y ) = e( x ) + e(y ) ；4 設(shè)

17、x，y 是相互獨(dú)立的隨機(jī)變量，則有 e( xy ) = e( x )e(y )2 方差d(x)定義設(shè) x 是一個(gè)隨機(jī)變量，若 ex - e( x )2 存在，則稱 ex - e( x )2 為 x 的方差，記為 d（x）即 d（x）= ex - e( x )2 ，在應(yīng)用上還引入量，記為a(x) ，稱為標(biāo)準(zhǔn)差或均方差。d( x ) = e( x - e( x )2 = e( x 2 ) - (ex )2方差的幾個(gè)重要性質(zhì)1 設(shè) c 是常數(shù)，則有 d(c) = 0,2 設(shè) x 是隨機(jī)變量，c 是常數(shù)，則有 d(cx ) = c2 d( x ) ， d( x + c) = d(x)3 設(shè) x,y 是

18、兩個(gè)隨機(jī)變量，則有d( x + y ) = d(x) + d(y) + 2e(x - e(x)(y - e(y)特別，若 x,y 相互獨(dú)立，則有d( x + y ) = d( x ) + d(y )4 d( x ) = 0 的充要條件是 x 以概率 1 取常數(shù)e(x) ，即 px = e( x ) = 1切比雪夫不等式：設(shè)隨機(jī)變量 x 具有數(shù)學(xué)期望 e( x ) = a2 ，則對(duì)于任意正數(shù)a，不等式a 2p x - a a a2 成立3 協(xié)方差及相關(guān)系數(shù)定義量 e x - e( x )y - e(y )稱為隨機(jī)變量 x 與 y 的協(xié)方差為cov( x ,y ) ，即cov( x , y ) =

19、 e( x - e( x )(y - e(y ) = e( xy ) - e( x )e(y )而a=cov(x，y）稱為隨機(jī)變量 x 和 y 的相關(guān)系數(shù)xy d(x) d(y)+對(duì)于任意兩個(gè)隨機(jī)變量 x 和 y， d( x y ) = d( x ) + d(y )_-2cov( x ,y )協(xié)方差具有下述性質(zhì)1 cov( x ,y ) = cov(y , x ), cov(ax , by ) = abcov( x ,y )2 cov( x 1 + x 2 ,y ) = cov( x 1 ,y ) + cov( x 2 ,y )定理12axyaxy 1= 1 的充要條件是，存在常數(shù) a,b 使

20、 py = a + bx = 1當(dāng) axy = 0 時(shí)，稱 x 和 y 不相關(guān)附：幾種常用的概率分布表分布參數(shù)分布律或概率密度數(shù)學(xué)期望方差兩點(diǎn)分布0 p 1px = k ) = pk (1 - p)1-k , k = 0,1，pp(1 - p)二項(xiàng)式分布n 10 p 0p( x = k ) = ak e-a , k = 0,1,2,lk!aa幾何分布0 p 1p( x = k ) = (1 - p)k-1 p, k = 1,2,l 1p1 - p p 2均勻分布a b 1, a x 0 1 e- x a, x 0f (x) = a 0, 其他aa2正態(tài)分布aa 02 1- ( x-a)f (x

21、) =e2a22aaaa2第五章 大數(shù)定律與中心極限定理1 大數(shù)定律弱大數(shù)定理（辛欣大數(shù)定理）設(shè) x1，x2是相互獨(dú)立，服從統(tǒng)一分布的隨機(jī)變量序列，并具有數(shù)學(xué)期望 e( x k) = a(k= 1,2,l) .作前 n 個(gè)變量的算術(shù)平均1 nnx k ，則對(duì)于任意a 0 ， 有l(wèi)im p 1nx- a a =k =1n1kn k =1定義設(shè)y1 ,y2 ,lyn l 是一個(gè)隨機(jī)變量序列，a 是一個(gè)常數(shù)，若對(duì)于任意正數(shù)a，有l(wèi)im py - a a = 1，則稱序列y ,y ,ly l 依概率收斂于 a，記為yp ann12nn伯努利大數(shù)定理設(shè) f a 是 n 次獨(dú)立重復(fù)試驗(yàn)中事件 a 發(fā)生的次數(shù)，p 是事件 a 在每次試驗(yàn)中發(fā)生的概率，則對(duì)于任意正數(shù)a0，有l(wèi)im p f n - p 0, k = 1,2l記 b 2 = an2kkkknkk =1定理三（棣莫弗-拉普拉斯定理）設(shè)隨機(jī)變量an (n = 1,2,l)服從參數(shù)為n, p(0 p 1） an - npx 1 -t 2 2np(1 - p)的二項(xiàng)分布，則對(duì)任意 x ， 有l(wèi)im pn x =