數(shù)理統(tǒng)計(jì)第一講.ppt

第四節(jié) 隨機(jī)變量的函數(shù)及其分布,一 單個(gè)隨機(jī)變量函數(shù)的分布,1 離散型,注：1、設(shè),互不相等時(shí)，則事件,由,2、當(dāng),則把那些相等的值合并起來(lái)。,并根據(jù)概率的可加性把對(duì)應(yīng)的概率相加得到Y(jié)的分布律。,2 連續(xù)型,（1）分布函數(shù)法,（2）公式法,設(shè)X為連續(xù)型隨機(jī)變量，其分布密度為p (x),其中,是連續(xù)型隨機(jī)變量，其分布密度在相應(yīng)區(qū)間內(nèi)為,一般地,y, xn,二 隨機(jī)向量函數(shù)的分布,（1）離散型,以二維隨機(jī)向量為例，多維隨機(jī)向量的情況類(lèi)似。,(2)連續(xù)型,設(shè)(X,Y)是二維連續(xù)型隨機(jī)變量，其聯(lián)合概率密度,為,分布函數(shù)為,則,.,的分布,引例.（一般情況的推導(dǎo)）,已知( X , Y )的概率密,度為,解,的分布函數(shù)為,將以上二重積分化成累次積分,由X與Y的對(duì)稱(chēng)性又可得,特別地,當(dāng)X 與Y 相互獨(dú)立時(shí),有,上式稱(chēng)為,的卷積公式,記為,例4,兩個(gè)獨(dú)立的二項(xiàng)分布隨機(jī)變量,當(dāng)它們的第二個(gè)參數(shù)相同時(shí),其和也服從二項(xiàng)分布-二項(xiàng)分布的可加性,特別 當(dāng) 相互獨(dú)立且具有相同,分布函數(shù) 時(shí)，,設(shè) 相互獨(dú)立，,其分布函數(shù)為,則,的分布函數(shù)分別為：,補(bǔ)充結(jié)論：,連續(xù)型隨機(jī)變量商的分布,商的分布,本節(jié)的解題步驟,其它的分布,返回主目錄,均為隨機(jī)變量，也構(gòu)成了一個(gè)二維隨機(jī)向量,如何求（Y1,Y2 ) 的聯(lián)合密度函數(shù),三 隨機(jī)向量的變換,的聯(lián)合分布函數(shù)：,稱(chēng)為變換的Jocobi 行列式。,換元必?fù)Q積分區(qū)域,其中,例,解,因此得,即,例1.4.3 見(jiàn)書(shū) P21,對(duì)此二重積分作換元，令,變換的Jocobi行列式,此變換把區(qū)域D變換為區(qū)域,由二重積分的換元公式得,第五節(jié),隨機(jī)變量的數(shù)字特征,定義1,設(shè)離散型隨機(jī)變量的分布律為,如果級(jí)數(shù),絕對(duì)收斂，,稱(chēng)為隨機(jī)變量X的數(shù)學(xué)期望，,記為,即,的和,則級(jí)數(shù),簡(jiǎn)稱(chēng)期望或均值。,1.5.1 矩,若 不絕對(duì)收斂，則X的數(shù)學(xué)期望不存在。,一、 隨機(jī)變量的數(shù)學(xué)期望,定義2,設(shè)連續(xù)型隨機(jī)變量X 的概率密度為,若積分,絕對(duì)收斂，則稱(chēng)該積分值為隨,機(jī)變量X 的數(shù)學(xué)期望或平均值，簡(jiǎn)稱(chēng)期望或均值,記為,即,離散型和連續(xù)型隨機(jī)變量的期望可以用一個(gè)式子表示,當(dāng)X為離散型時(shí)，其分布函數(shù)是階梯函數(shù)，該積分成為求和的形式。,當(dāng)X為連續(xù)型時(shí)，成為積分形式。,2、 隨機(jī)變量函數(shù)的數(shù)學(xué)期望,定理 設(shè)隨機(jī)變量Y 是隨機(jī)變量X 的函數(shù)，,1) 設(shè)X 為離散型隨機(jī)變量，其分布律為,若級(jí)數(shù),絕對(duì)收斂,則有,2) 設(shè)X 為連續(xù)型隨機(jī)變量，其概率密度為,若積分,絕對(duì)收斂,則有,設(shè)X 服從 N (0，1) 分布，求E (X2), E (X3), E (X4),例3,解：,結(jié)論,3 二維隨機(jī)向量函數(shù)的數(shù)學(xué)期望,這里要求廣義二重積分是絕對(duì)收斂的。,這里要求 絕對(duì)收斂。,(1). 設(shè)C 是常數(shù)，則E(C )=C ;,(2). 若C 是常數(shù)，則E(CX )=CE(X );,(3).,4、數(shù)學(xué)期望的性質(zhì),(4). 設(shè)X、Y 獨(dú)立，則 E(XY )=E(X )E(Y );,（當(dāng)Xi 獨(dú)立時(shí)）,注意:由E(XY )=E(X )E(Y )不一定能推出X,Y 獨(dú)立,方差刻劃了隨機(jī)變量的取值,若X 的取值比較集中，則方,差較?。蝗鬤 的取值比較分,散則方差較大 .,對(duì)于其數(shù)學(xué)期望的離散程度,方差的算術(shù)平方根,為X 的方差。,定義 設(shè)X 是一個(gè)隨機(jī)變量，若,存在，則稱(chēng),稱(chēng)為均方差或,標(biāo)準(zhǔn)差。,二、方差的概念,離散型 已知X 分布律,連續(xù)型 已知X 的概率密度,注意：,(1),是關(guān)于隨機(jī)變量X 的函,數(shù),的數(shù)學(xué)期望。,計(jì)算方差的簡(jiǎn)便公式：,(2)方差描述了隨機(jī)變量X 的取值與其均值的偏離程度。,方差的性質(zhì),可推廣為：若X1,X2,Xn相互獨(dú)立,則,(1)（0-1）分布 參數(shù)為p,6常見(jiàn)分布的方差,(2)二項(xiàng)分布,其中,，且,相互獨(dú)立。,則由方差的性質(zhì)可得,(3)泊松分布,分布律為,參數(shù)為,密度函數(shù),（4）均勻分布,參數(shù)為,密度函數(shù),（5） 指數(shù)分布,參數(shù)為,（6）正態(tài)分布,參數(shù)為,密度函數(shù),注：服從正態(tài)分布的隨機(jī)變量完全由它的數(shù)學(xué),期望和方差所決定。,特別，當(dāng),時(shí),稱(chēng)Y 是隨機(jī)變量X 的標(biāo)準(zhǔn)化了的隨機(jī)變量。,注：為了方便計(jì)算，,EX, DX 均為常數(shù)。,常對(duì)X進(jìn)行標(biāo)準(zhǔn)化。,即當(dāng)X的期望,和方差都存在時(shí)，考慮它的標(biāo)準(zhǔn)化。,則,解 記,則,故,定義 設(shè)二維隨機(jī)變量,則稱(chēng)它為,與,的協(xié)方差，記為,即,若,存在，,三、協(xié)方差和相關(guān)系數(shù)的定義,1、協(xié)方差的性質(zhì),（1）,Pf:,（2）（協(xié)方差的計(jì)算公式）,（3）,若X ,Y 相互獨(dú)立，則,（4）,（5）,為常數(shù),（6）,協(xié)方差的大小在一定程度上反映了X和Y相互間的關(guān)系，但它還受X與Y本身度量單位的影響. 例如：,Cov(kX, kY)=k2Cov(X,Y),為了克服這一缺點(diǎn)，對(duì)協(xié)方差進(jìn)行標(biāo)準(zhǔn)化，這就引入了相關(guān)系數(shù) .,四、相關(guān)系數(shù),為隨機(jī)變量 X 和 Y 的相關(guān)系數(shù) .,在不致引起混淆時(shí)，記 為 .,相關(guān)系數(shù)的性質(zhì),說(shuō) 明,，X 與Y 的線性關(guān)系越顯著；,，X 與Y 的線性關(guān)系越不顯著；,四個(gè)等價(jià)命題：,2）,3）,4）,1）相關(guān)系數(shù),不相關(guān)： X 與Y 之間沒(méi)有線性關(guān)系，并不表示它們之,間沒(méi)有任何關(guān)系。,所以，當(dāng)X 和Y 獨(dú)立時(shí)，Cov (X , Y)= 0.,故,獨(dú)立： X 與Y 之間沒(méi)有任何函數(shù)關(guān)系。,X，Y獨(dú)立 =0X，Y不相關(guān)。,注意獨(dú)立與不相關(guān)并不是等價(jià)的.,當(dāng)(X,Y)服從二維正態(tài)分布時(shí)，有,若,存在，稱(chēng)它為,五、 矩、協(xié)方差矩陣,協(xié)方差矩陣的定義,將二維隨機(jī)變量（X1,X2）的四個(gè)二階中心矩,排成矩陣的形式:,稱(chēng)此矩陣為（X1,X2）的協(xié)方差矩陣.,類(lèi)似定義n維隨機(jī)變量X=(X1,X2, ,Xn) 的協(xié)方差矩陣.,為(X1,X2, ,Xn) 的協(xié)方差矩陣,i, j=1,2,n,若,也常記為DX或者Cov(X,X).,協(xié)方差矩陣的性質(zhì),對(duì)于任一n元實(shí)列向量,有,2）是一個(gè)非負(fù)定矩陣,1）是一個(gè)對(duì)稱(chēng)矩陣,3）設(shè),為n元隨機(jī)向量，,有,a)對(duì)于,定義,b),設(shè),，求,的協(xié)方差矩陣.,p (x1,x2, ,xn),則稱(chēng)X服從n元正態(tài)分布.,其中B是(X1,X2, ,Xn) 的協(xié)方差矩陣.,|B|是它的行列式， 表示B的逆矩陣，,X和 是n維列向量， 表示X的轉(zhuǎn)置.,設(shè) =(X1,X2, ,Xn)是一個(gè)n維隨機(jī)向量, 若它的概率密度為,六、下面給出n元正態(tài)分布的概率密度的定義.,n元正態(tài)分布的幾條重要性質(zhì),1. X=(X1,X2, ,Xn)服從n元正態(tài)分布,2. 若 X=(X1,X2, ,Xn)服從n元正態(tài)分布，,Y1,Y2, ，Yk是Xj（j=1,2,n）的線性函數(shù)，,則(Y1,Y2, ，Yk)也服從多元正態(tài)分布.,這一性質(zhì)稱(chēng)為正態(tài)變 量的線性變換不變性.,3. 設(shè)(X1,X2, ,Xn)服從n元正態(tài)分布，則,“X1,X2, ,Xn相互獨(dú)立”,等價(jià)于,“X1,X2, ,Xn兩兩不相關(guān)”,或,對(duì)任意,不等式,成立，,七、兩個(gè)重要的不等式,切比雪夫不等式. 對(duì)任意具有有限方差的隨機(jī)變量X,都有,證明,對(duì)任意實(shí)數(shù),證：,2) A.L.CauchySchwarz不等式.,考慮函數(shù),即,運(yùn)用A.L.CauchySchwarz不等式證明結(jié)論,相關(guān)系數(shù)的性質(zhì),定義:,1.5.2 隨機(jī)變量的條件數(shù)學(xué)期望,回顧：,連續(xù)型,離散型,條 件 期 望,定理1: 若y=g (x)是連續(xù)函數(shù), 且E g (X) |Y=y存在, 則,(1) 若(X, Y)為二維離散型隨機(jī)變量, 則,(2) 若(X, Y)為二維連續(xù)型隨機(jī)變量, 則,定理2: 把 g(y)=EX|Y=y看成是y的函數(shù), 進(jìn)一步的，,可以看作是隨機(jī)變量Y的函數(shù)，,g(Y)=,EX|Y,則EX|Y 本身也是一個(gè)隨機(jī)變量, 且有E E ( X |Y ) = E(X) .,當(dāng)Y=y時(shí)這個(gè)函數(shù)取值為EX|Y=y,定理: 設(shè)X, Y, Z均為隨機(jī)變量, f (x)連續(xù), 且E(X), E(Y), E(Z)及 E f (Y ) X 均存在, 則,(1)當(dāng)X, Y 獨(dú)立時(shí), EX|Y=y=E(X) ;,(2)E f(Y) X |Y = f (Y) E X|Y ;,(3)E f(Y) X =E f (Y) EX|Y ;,(5) E f (Y) |Y = f (Y );,(4)若aXb, 則EX |Y=y存在, 且aEX | Y=y b, 特別, 當(dāng)C是一個(gè)常數(shù)時(shí), EC|Y=y=C;,(6)若k1、k2是兩個(gè)常數(shù), 又E Xi |Y=y (i=1,2)存在, 則有 Ek1X1+k2X2 |Y=y= k1EX1 |Y=y+k2EX2 |Y=y.,條件數(shù)學(xué)期望的性質(zhì),算出罪犯的身高. 這個(gè)公式是,公安人員根據(jù)收集到的罪犯腳印，通過(guò)公式,由腳印估計(jì)罪犯身高,如何推導(dǎo)出來(lái)的?,顯然，兩者之間是有統(tǒng)計(jì)關(guān)系的，故,設(shè)一個(gè)人身高為 ,腳印長(zhǎng)度為 .,由于影響人類(lèi)身高與腳印的隨機(jī)因素是大量的、相互獨(dú)立的，且各因素的影響又是微小的,可以疊加的. 故,應(yīng)作為二維隨機(jī)變量 來(lái)研究.,由中心極限定理知 可以近似看,成服從二維正態(tài)分布,其中參數(shù) 因區(qū)域、,民族、生活習(xí)慣的不同而有所變化 ，,但它們都能通過(guò)統(tǒng)計(jì)方法而獲得.,密度為,現(xiàn)已知罪犯的腳印長(zhǎng)度為 , 要,估計(jì)其身高就需計(jì)算條件期望 , 條件,的密度函數(shù), 因此,這正是正態(tài)分布,如果按中國(guó)人的相應(yīng)參數(shù)代入上式，即可得出以腳印長(zhǎng)度作自變量的身高近似公式.,例4: 設(shè)電力公司每月可以供應(yīng)某工廠電力XU(10, 30)(單 位:104kw)，而工廠每月實(shí)際需求電力YU(10, 20)(單位:104kw) ，如果工廠能從電力公司得到足夠的電力，則每104kw電可創(chuàng) 造30萬(wàn)元的利潤(rùn)，若工廠從電力公司得不到足夠的電力，則不 足部分通過(guò)其他途徑解決，由其他途徑得到的電力每104kw電 力只有10萬(wàn)元的利潤(rùn)，試求工廠每個(gè)月的平均利潤(rùn).,解：設(shè)每月工廠利潤(rùn)為Z 萬(wàn)元，則,當(dāng)Xx給定時(shí)，Z僅是Y的函數(shù)，于是,當(dāng),（方法二）,當(dāng),總結(jié)歸納：,獨(dú)立：,七 極限定理,一 隨機(jī)變量的收斂性 二 大數(shù)定律與中心極限定理,1、依概率收斂,一 隨機(jī)變量的收斂性,2、依分布收斂,可以證明,3、r-階收斂,1-階收斂又稱(chēng)為平均收斂，2-階收斂即為均方收斂。,4、以概率1收斂,四種收斂關(guān)系：,以概率1收斂或r-階收斂,依概率收斂,依分布收斂,二、大數(shù)定律與中心極限定理,研究?jī)深?lèi)問(wèn)題：,（大數(shù)定律）,（中心極限定理）,為相互獨(dú)立的隨機(jī)變量序列,（2）n充分大時(shí)， 服從什么分布？,（1）,如何解決下面問(wèn)題,為何能以某事件發(fā)生的頻率 作為該事件的 概率的估計(jì)？,為何能以樣本均值作為總體 期望的估計(jì)？,為何正態(tài)分布在概率論中占 有極其重要的地位？,大樣本統(tǒng)計(jì)推斷的理論基礎(chǔ) 是什么？,答復(fù),大數(shù) 定律,中心極 限定理,定義,1、大數(shù)定律,定理一,（切比雪夫大數(shù)定律）,量，且具有相同的數(shù)學(xué),設(shè),為一列相互獨(dú)立的隨機(jī)變,即,定理二（辛欽大數(shù)定律）,為一列相互獨(dú)立同分布的,隨機(jī)變量，且具有相同的數(shù)學(xué)期望,即,設(shè),在定理一中,去掉方差存在的條件而加上相同,分布的條件，則有：,定理三（伯努利大數(shù)定律）,設(shè)事件,在每次試驗(yàn)中出現(xiàn)的概率為 p,在n次重復(fù)獨(dú)立試驗(yàn)中出現(xiàn)的頻率為,即,且,理論上給出了在大量重復(fù)實(shí)驗(yàn)下,事件A的頻率依概率收斂于它的概率p.,例1 如何估計(jì)一大批產(chǎn)品的次品率？,解,抽取n件產(chǎn)品， 為其中次品的件數(shù)。,設(shè)A為事件“任取一件為次品”，記,由伯努利大數(shù)定律知,當(dāng)n很大時(shí)，可取 作為次品率 的估計(jì)值。,-105-,中心極限定理的意義,前面講過(guò)有許多隨機(jī)現(xiàn)象服從正態(tài)分布,若聯(lián)系于此隨機(jī)現(xiàn)象的隨機(jī)變量為X ，則,是由于許多彼此沒(méi)有什么相依關(guān)系、對(duì)隨機(jī)現(xiàn),象誰(shuí)也不能起突出影響，而均勻地起到微小作,用的隨機(jī)因素共同作用(即這些因素的疊加)的,它可被看成為許多相互獨(dú)立的起微小作用的因,素Xk的總和 ，而這個(gè)總和服從或近似服從,正態(tài)分布.,結(jié)果.,對(duì)此現(xiàn)象還 可舉個(gè)有趣 的例子,高爾頓釘板 試驗(yàn), 釘子層數(shù),表示釘在板上的一顆釘子，它們彼此的距離均相等，上一層的每一顆的水平位置恰好位于下一層的兩顆正中間。從入口處放進(jìn)一個(gè)直徑略小于兩顆釘子之間的距離的小圓玻璃球，當(dāng)小圓球向下降落過(guò)程中，碰到釘子后皆以1/2的概率向左或向右滾下，于是又碰到下一層釘子。如此繼續(xù)下去，直到滾到底板的一個(gè)格子內(nèi)為止。把許許多多同樣大小的小球不斷從入口處放下，只要球的數(shù)目相當(dāng)大，它們?cè)诘装鍖⒍殉山朴谡龖B(tài) 的密度函數(shù)圖形（即：中間高，兩頭低，呈左右對(duì)稱(chēng)的古鐘型），其中n為釘子的層數(shù)。,-108-,