數(shù)理統(tǒng)計第一講.ppt

第四節(jié) 隨機變量的函數(shù)及其分布,一 單個隨機變量函數(shù)的分布,1 離散型,注：1、設,互不相等時，則事件,由,2、當,則把那些相等的值合并起來。,并根據(jù)概率的可加性把對應的概率相加得到Y(jié)的分布律。,2 連續(xù)型,（1）分布函數(shù)法,（2）公式法,設X為連續(xù)型隨機變量，其分布密度為p (x),其中,是連續(xù)型隨機變量，其分布密度在相應區(qū)間內(nèi)為,一般地,y, xn,二 隨機向量函數(shù)的分布,（1）離散型,以二維隨機向量為例，多維隨機向量的情況類似。,(2)連續(xù)型,設(X,Y)是二維連續(xù)型隨機變量，其聯(lián)合概率密度,為,分布函數(shù)為,則,.,的分布,引例.（一般情況的推導）,已知( X , Y )的概率密,度為,解,的分布函數(shù)為,將以上二重積分化成累次積分,由X與Y的對稱性又可得,特別地,當X 與Y 相互獨立時,有,上式稱為,的卷積公式,記為,例4,兩個獨立的二項分布隨機變量,當它們的第二個參數(shù)相同時,其和也服從二項分布-二項分布的可加性,特別 當 相互獨立且具有相同,分布函數(shù) 時，,設 相互獨立，,其分布函數(shù)為,則,的分布函數(shù)分別為：,補充結(jié)論：,連續(xù)型隨機變量商的分布,商的分布,本節(jié)的解題步驟,其它的分布,返回主目錄,均為隨機變量，也構(gòu)成了一個二維隨機向量,如何求（Y1,Y2 ) 的聯(lián)合密度函數(shù),三 隨機向量的變換,的聯(lián)合分布函數(shù)：,稱為變換的Jocobi 行列式。,換元必換積分區(qū)域,其中,例,解,因此得,即,例1.4.3 見書 P21,對此二重積分作換元，令,變換的Jocobi行列式,此變換把區(qū)域D變換為區(qū)域,由二重積分的換元公式得,第五節(jié),隨機變量的數(shù)字特征,定義1,設離散型隨機變量的分布律為,如果級數(shù),絕對收斂，,稱為隨機變量X的數(shù)學期望，,記為,即,的和,則級數(shù),簡稱期望或均值。,1.5.1 矩,若 不絕對收斂，則X的數(shù)學期望不存在。,一、 隨機變量的數(shù)學期望,定義2,設連續(xù)型隨機變量X 的概率密度為,若積分,絕對收斂，則稱該積分值為隨,機變量X 的數(shù)學期望或平均值，簡稱期望或均值,記為,即,離散型和連續(xù)型隨機變量的期望可以用一個式子表示,當X為離散型時，其分布函數(shù)是階梯函數(shù)，該積分成為求和的形式。,當X為連續(xù)型時，成為積分形式。,2、 隨機變量函數(shù)的數(shù)學期望,定理 設隨機變量Y 是隨機變量X 的函數(shù)，,1) 設X 為離散型隨機變量，其分布律為,若級數(shù),絕對收斂,則有,2) 設X 為連續(xù)型隨機變量，其概率密度為,若積分,絕對收斂,則有,設X 服從 N (0，1) 分布，求E (X2), E (X3), E (X4),例3,解：,結(jié)論,3 二維隨機向量函數(shù)的數(shù)學期望,這里要求廣義二重積分是絕對收斂的。,這里要求 絕對收斂。,(1). 設C 是常數(shù)，則E(C )=C ;,(2). 若C 是常數(shù)，則E(CX )=CE(X );,(3).,4、數(shù)學期望的性質(zhì),(4). 設X、Y 獨立，則 E(XY )=E(X )E(Y );,（當Xi 獨立時）,注意:由E(XY )=E(X )E(Y )不一定能推出X,Y 獨立,方差刻劃了隨機變量的取值,若X 的取值比較集中，則方,差較??；若X 的取值比較分,散則方差較大 .,對于其數(shù)學期望的離散程度,方差的算術平方根,為X 的方差。,定義 設X 是一個隨機變量，若,存在，則稱,稱為均方差或,標準差。,二、方差的概念,離散型 已知X 分布律,連續(xù)型 已知X 的概率密度,注意：,(1),是關于隨機變量X 的函,數(shù),的數(shù)學期望。,計算方差的簡便公式：,(2)方差描述了隨機變量X 的取值與其均值的偏離程度。,方差的性質(zhì),可推廣為：若X1,X2,Xn相互獨立,則,(1)（0-1）分布 參數(shù)為p,6常見分布的方差,(2)二項分布,其中,，且,相互獨立。,則由方差的性質(zhì)可得,(3)泊松分布,分布律為,參數(shù)為,密度函數(shù),（4）均勻分布,參數(shù)為,密度函數(shù),（5） 指數(shù)分布,參數(shù)為,（6）正態(tài)分布,參數(shù)為,密度函數(shù),注：服從正態(tài)分布的隨機變量完全由它的數(shù)學,期望和方差所決定。,特別，當,時,稱Y 是隨機變量X 的標準化了的隨機變量。,注：為了方便計算，,EX, DX 均為常數(shù)。,常對X進行標準化。,即當X的期望,和方差都存在時，考慮它的標準化。,則,解 記,則,故,定義 設二維隨機變量,則稱它為,與,的協(xié)方差，記為,即,若,存在，,三、協(xié)方差和相關系數(shù)的定義,1、協(xié)方差的性質(zhì),（1）,Pf:,（2）（協(xié)方差的計算公式）,（3）,若X ,Y 相互獨立，則,（4）,（5）,為常數(shù),（6）,協(xié)方差的大小在一定程度上反映了X和Y相互間的關系，但它還受X與Y本身度量單位的影響. 例如：,Cov(kX, kY)=k2Cov(X,Y),為了克服這一缺點，對協(xié)方差進行標準化，這就引入了相關系數(shù) .,四、相關系數(shù),為隨機變量 X 和 Y 的相關系數(shù) .,在不致引起混淆時，記 為 .,相關系數(shù)的性質(zhì),說 明,，X 與Y 的線性關系越顯著；,，X 與Y 的線性關系越不顯著；,四個等價命題：,2）,3）,4）,1）相關系數(shù),不相關： X 與Y 之間沒有線性關系，并不表示它們之,間沒有任何關系。,所以，當X 和Y 獨立時，Cov (X , Y)= 0.,故,獨立： X 與Y 之間沒有任何函數(shù)關系。,X，Y獨立 =0X，Y不相關。,注意獨立與不相關并不是等價的.,當(X,Y)服從二維正態(tài)分布時，有,若,存在，稱它為,五、 矩、協(xié)方差矩陣,協(xié)方差矩陣的定義,將二維隨機變量（X1,X2）的四個二階中心矩,排成矩陣的形式:,稱此矩陣為（X1,X2）的協(xié)方差矩陣.,類似定義n維隨機變量X=(X1,X2, ,Xn) 的協(xié)方差矩陣.,為(X1,X2, ,Xn) 的協(xié)方差矩陣,i, j=1,2,n,若,也常記為DX或者Cov(X,X).,協(xié)方差矩陣的性質(zhì),對于任一n元實列向量,有,2）是一個非負定矩陣,1）是一個對稱矩陣,3）設,為n元隨機向量，,有,a)對于,定義,b),設,，求,的協(xié)方差矩陣.,p (x1,x2, ,xn),則稱X服從n元正態(tài)分布.,其中B是(X1,X2, ,Xn) 的協(xié)方差矩陣.,|B|是它的行列式， 表示B的逆矩陣，,X和 是n維列向量， 表示X的轉(zhuǎn)置.,設 =(X1,X2, ,Xn)是一個n維隨機向量, 若它的概率密度為,六、下面給出n元正態(tài)分布的概率密度的定義.,n元正態(tài)分布的幾條重要性質(zhì),1. X=(X1,X2, ,Xn)服從n元正態(tài)分布,2. 若 X=(X1,X2, ,Xn)服從n元正態(tài)分布，,Y1,Y2, ，Yk是Xj（j=1,2,n）的線性函數(shù)，,則(Y1,Y2, ，Yk)也服從多元正態(tài)分布.,這一性質(zhì)稱為正態(tài)變 量的線性變換不變性.,3. 設(X1,X2, ,Xn)服從n元正態(tài)分布，則,“X1,X2, ,Xn相互獨立”,等價于,“X1,X2, ,Xn兩兩不相關”,或,對任意,不等式,成立，,七、兩個重要的不等式,切比雪夫不等式. 對任意具有有限方差的隨機變量X,都有,證明,對任意實數(shù),證：,2) A.L.CauchySchwarz不等式.,考慮函數(shù),即,運用A.L.CauchySchwarz不等式證明結(jié)論,相關系數(shù)的性質(zhì),定義:,1.5.2 隨機變量的條件數(shù)學期望,回顧：,連續(xù)型,離散型,條 件 期 望,定理1: 若y=g (x)是連續(xù)函數(shù), 且E g (X) |Y=y存在, 則,(1) 若(X, Y)為二維離散型隨機變量, 則,(2) 若(X, Y)為二維連續(xù)型隨機變量, 則,定理2: 把 g(y)=EX|Y=y看成是y的函數(shù), 進一步的，,可以看作是隨機變量Y的函數(shù)，,g(Y)=,EX|Y,則EX|Y 本身也是一個隨機變量, 且有E E ( X |Y ) = E(X) .,當Y=y時這個函數(shù)取值為EX|Y=y,定理: 設X, Y, Z均為隨機變量, f (x)連續(xù), 且E(X), E(Y), E(Z)及 E f (Y ) X 均存在, 則,(1)當X, Y 獨立時, EX|Y=y=E(X) ;,(2)E f(Y) X |Y = f (Y) E X|Y ;,(3)E f(Y) X =E f (Y) EX|Y ;,(5) E f (Y) |Y = f (Y );,(4)若aXb, 則EX |Y=y存在, 且aEX | Y=y b, 特別, 當C是一個常數(shù)時, EC|Y=y=C;,(6)若k1、k2是兩個常數(shù), 又E Xi |Y=y (i=1,2)存在, 則有 Ek1X1+k2X2 |Y=y= k1EX1 |Y=y+k2EX2 |Y=y.,條件數(shù)學期望的性質(zhì),算出罪犯的身高. 這個公式是,公安人員根據(jù)收集到的罪犯腳印，通過公式,由腳印估計罪犯身高,如何推導出來的?,顯然，兩者之間是有統(tǒng)計關系的，故,設一個人身高為 ,腳印長度為 .,由于影響人類身高與腳印的隨機因素是大量的、相互獨立的，且各因素的影響又是微小的,可以疊加的. 故,應作為二維隨機變量 來研究.,由中心極限定理知 可以近似看,成服從二維正態(tài)分布,其中參數(shù) 因區(qū)域、,民族、生活習慣的不同而有所變化 ，,但它們都能通過統(tǒng)計方法而獲得.,密度為,現(xiàn)已知罪犯的腳印長度為 , 要,估計其身高就需計算條件期望 , 條件,的密度函數(shù), 因此,這正是正態(tài)分布,如果按中國人的相應參數(shù)代入上式，即可得出以腳印長度作自變量的身高近似公式.,例4: 設電力公司每月可以供應某工廠電力XU(10, 30)(單 位:104kw)，而工廠每月實際需求電力YU(10, 20)(單位:104kw) ，如果工廠能從電力公司得到足夠的電力，則每104kw電可創(chuàng) 造30萬元的利潤，若工廠從電力公司得不到足夠的電力，則不 足部分通過其他途徑解決，由其他途徑得到的電力每104kw電 力只有10萬元的利潤，試求工廠每個月的平均利潤.,解：設每月工廠利潤為Z 萬元，則,當Xx給定時，Z僅是Y的函數(shù)，于是,當,（方法二）,當,總結(jié)歸納：,獨立：,七 極限定理,一 隨機變量的收斂性 二 大數(shù)定律與中心極限定理,1、依概率收斂,一 隨機變量的收斂性,2、依分布收斂,可以證明,3、r-階收斂,1-階收斂又稱為平均收斂，2-階收斂即為均方收斂。,4、以概率1收斂,四種收斂關系：,以概率1收斂或r-階收斂,依概率收斂,依分布收斂,二、大數(shù)定律與中心極限定理,研究兩類問題：,（大數(shù)定律）,（中心極限定理）,為相互獨立的隨機變量序列,（2）n充分大時， 服從什么分布？,（1）,如何解決下面問題,為何能以某事件發(fā)生的頻率 作為該事件的 概率的估計？,為何能以樣本均值作為總體 期望的估計？,為何正態(tài)分布在概率論中占 有極其重要的地位？,大樣本統(tǒng)計推斷的理論基礎 是什么？,答復,大數(shù) 定律,中心極 限定理,定義,1、大數(shù)定律,定理一,（切比雪夫大數(shù)定律）,量，且具有相同的數(shù)學,設,為一列相互獨立的隨機變,即,定理二（辛欽大數(shù)定律）,為一列相互獨立同分布的,隨機變量，且具有相同的數(shù)學期望,即,設,在定理一中,去掉方差存在的條件而加上相同,分布的條件，則有：,定理三（伯努利大數(shù)定律）,設事件,在每次試驗中出現(xiàn)的概率為 p,在n次重復獨立試驗中出現(xiàn)的頻率為,即,且,理論上給出了在大量重復實驗下,事件A的頻率依概率收斂于它的概率p.,例1 如何估計一大批產(chǎn)品的次品率？,解,抽取n件產(chǎn)品， 為其中次品的件數(shù)。,設A為事件“任取一件為次品”，記,由伯努利大數(shù)定律知,當n很大時，可取 作為次品率 的估計值。,-105-,中心極限定理的意義,前面講過有許多隨機現(xiàn)象服從正態(tài)分布,若聯(lián)系于此隨機現(xiàn)象的隨機變量為X ，則,是由于許多彼此沒有什么相依關系、對隨機現(xiàn),象誰也不能起突出影響，而均勻地起到微小作,用的隨機因素共同作用(即這些因素的疊加)的,它可被看成為許多相互獨立的起微小作用的因,素Xk的總和 ，而這個總和服從或近似服從,正態(tài)分布.,結(jié)果.,對此現(xiàn)象還 可舉個有趣 的例子,高爾頓釘板 試驗, 釘子層數(shù),表示釘在板上的一顆釘子，它們彼此的距離均相等，上一層的每一顆的水平位置恰好位于下一層的兩顆正中間。從入口處放進一個直徑略小于兩顆釘子之間的距離的小圓玻璃球，當小圓球向下降落過程中，碰到釘子后皆以1/2的概率向左或向右滾下，于是又碰到下一層釘子。如此繼續(xù)下去，直到滾到底板的一個格子內(nèi)為止。把許許多多同樣大小的小球不斷從入口處放下，只要球的數(shù)目相當大，它們在底板將堆成近似于正態(tài) 的密度函數(shù)圖形（即：中間高，兩頭低，呈左右對稱的古鐘型），其中n為釘子的層數(shù)。,-108-,