機(jī)器學(xué)習(xí)數(shù)學(xué)基礎(chǔ)：概率論基礎(chǔ)課件

1、數(shù)學(xué)基礎(chǔ)第五講概率論基礎(chǔ)SXT概率論初步01.基本概念02.隨機(jī)變量03.隨機(jī)變量的數(shù)字特征04.大數(shù)定理和中心極限定理01基本概念（1）隨機(jī)現(xiàn)象在一定的條件下可能出現(xiàn)也可能不出現(xiàn)的現(xiàn)象（2）隨機(jī)試驗(yàn)進(jìn)行一次試驗(yàn)，如果其所得結(jié)果不能完全預(yù)知，但其全體可能結(jié)果是已知的特點(diǎn)：可重復(fù)性可觀察性隨機(jī)性： 隨機(jī)試驗(yàn)的每一個(gè)可能的結(jié)果稱為一個(gè)樣本點(diǎn)，它們的全體，稱為樣本空間，習(xí)慣上分別用 與 表示樣本點(diǎn)與樣本空間。（3）樣本空間樣本空間的任意一個(gè)子集稱為隨機(jī)事件, 簡(jiǎn)稱“事件”.記作A、B、C等（4）隨機(jī)事件（5）古典概型與概率古典概型 設(shè)為試驗(yàn)E的樣本空間，若 （有限性）只含有限個(gè)樣本點(diǎn); （等概性）每

2、個(gè)基本事件出現(xiàn)的可能性相等; 古典概型概率的定義 概率的性質(zhì)：非負(fù)性規(guī)范性(6) 條件概率.推廣:條件概率的乘法公式設(shè)A1，, An是的一個(gè)劃分，且P(Ai)0，(i1，n)，則對(duì)任何事件B 有 （7）全概率公式（7）Bayes公式稱為后驗(yàn)概率,它是得到了信息 發(fā)生, 再對(duì)導(dǎo)致 A 發(fā)生的原因發(fā)生的可能性大小 重新加以修正. 稱 P( Bi ) 為先驗(yàn)概率，它是由以往的經(jīng)驗(yàn)得到的， 它是事件 A 的原因. A例：一學(xué)生接連參加同一課程的兩次考試，第一次及格的概率為p，若第一次及格則第二次及格的概率也為p；若第一次不及格則第二次及格的概率為p/2。若已知它第二次已經(jīng)及格，求他第一次及格的概率定義

3、: 若事件A與B滿足 P(AB)=P(A)P(B), 則稱A與B相互獨(dú)立，簡(jiǎn)稱A與B獨(dú)立。注意:從直觀上講,A與B獨(dú)立就是其中任何一個(gè)事件出現(xiàn)的概率不受另一個(gè)事件出現(xiàn)與否的影響.（8）事件的獨(dú)立性02隨機(jī)變量設(shè)E是一隨機(jī)試驗(yàn)， 是它的樣本空間，若則稱 上的單值實(shí)值函數(shù) X ( )為隨機(jī)變量（1）隨機(jī)變量隨機(jī)變量通常用大寫字母X,Y,Z或希臘字母,等表示(2)分布函數(shù)定義了一個(gè) x 的實(shí)值函數(shù)，稱為隨機(jī)變量X 的分布函數(shù)，記為F(x) ,即定義：設(shè) X 為隨機(jī)變量,對(duì)每個(gè)實(shí)數(shù) x ,隨機(jī)事件的概率注: 分布函數(shù)完整地表示了隨機(jī)變量的概率分布情況 .(3)離散型隨機(jī)變量若隨機(jī)變量X取值x1, x2

4、, , xn, 且取這些值的概率依次為p1, p2, , pn, , 則稱X為離散型隨機(jī)變量，而稱PX=xk=pk, (k=1, 2, ) 為X的分布律或概率分布。常見的離散型隨機(jī)變量的概率分布(1) 0 1 分布X = xk 1 0Pk p 1-p0 p 1, 相互獨(dú)立)，且具有相同的數(shù)學(xué)期望和方差則有或意義：當(dāng) n 足夠大時(shí)，算術(shù)平均值幾乎就是一個(gè)常數(shù),可以用算術(shù)平均值近似地代替數(shù)學(xué)期望.具有相同數(shù)學(xué)期望和方差的獨(dú)立隨機(jī)變量序列的算術(shù)平均值依概率收斂于數(shù)學(xué)期望.（3）辛欽大數(shù)定律 設(shè)相互獨(dú)立，服從同一分布，且具有數(shù)學(xué)期望 E(X k) = , k= 1,2,則對(duì)任意正數(shù) 0中心極限定理 1.獨(dú)立同分布的中心極限定理 設(shè)隨機(jī)變量序列相互獨(dú)立，服從同一分布，且有期望和方差：則對(duì)于任意實(shí)數(shù) x , 2.德莫佛拉普拉斯中心極限定理 設(shè) Y n B( n , p) , 0 p 1, n = 1,2,則對(duì)任一實(shí)數(shù) x，有即對(duì)任意的 a b,Y n N (np , np(1-p) (近似)中心極限定理的意義 在