電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)1

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]2024/12/26

我命在我，不在天地。

天助自助者。

主動還是被動是成功與失敗的關(guān)鍵。

梅花香自苦寒來。

聽好每堂課，課后研讀教材，做好每次作業(yè)。

學(xué)會讀書，讀專業(yè)書，讀文學(xué)作品（修身養(yǎng)性，學(xué)會自信）

與同學(xué)們共勉電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]22024/12/26課程基礎(chǔ)：《概率論》、《信號與系統(tǒng)》后續(xù)課程：《通信原理》及從事統(tǒng)計信號處理研究課程性質(zhì)：專業(yè)基礎(chǔ)課成績考核：平時作業(yè)＋期中考試＋期末考試

課程簡介電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]32024/12/26

參考書：1.《隨機(jī)信號分析》趙淑清鄭薇編哈工大出版社2.《隨機(jī)過程》毛用才等編著西安電子科技大學(xué)出版社歡迎訪問《隨機(jī)信號與系統(tǒng)》課程網(wǎng)站38/wlxt/listcourse.asp?courseid=01593.《隨機(jī)過程導(dǎo)論》

答疑時間與地點：時間：地點：科B樓232

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]42024/12/26概率論基礎(chǔ)

第一章概率論基礎(chǔ)隨機(jī)過程的基礎(chǔ)理論

第二章隨機(jī)信號

第三章平穩(wěn)性與功率譜密度

第四章各態(tài)歷經(jīng)性與隨機(jī)實驗隨機(jī)過程的應(yīng)用

第五章隨機(jī)信號與線性系統(tǒng)

第六章帶通隨機(jī)信號

本書內(nèi)容安排：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]52024/12/26第1章概率論基礎(chǔ)本章將復(fù)習(xí)與總結(jié)概率論的基本知識也擴(kuò)充一些新知識點，比如：1)利用沖激函數(shù)表示離散與混合型隨機(jī)變量的概率密度函數(shù)，2)隨機(jī)變量的條件數(shù)學(xué)期望3)特征函數(shù)4)瑞利與萊斯分布電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]62024/12/261.1概率公理與隨機(jī)變量1.2多維隨機(jī)變量與條件隨機(jī)變量1.3隨機(jī)變量的函數(shù)1.4數(shù)字特征與條件數(shù)學(xué)期望1.5特征函數(shù)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]72024/12/261.1概率公理與隨機(jī)變量1.1.1概率公理1.概率

確定性現(xiàn)象：在一定條件下必然發(fā)生（或必然不發(fā)生）的現(xiàn)象。

隨機(jī)現(xiàn)象：在條件相同的一系列重復(fù)觀察中，會時而出現(xiàn)時而不出現(xiàn)，呈現(xiàn)出不確定性，并且在每次觀察之前不能準(zhǔn)確預(yù)料其是否出現(xiàn)，這類現(xiàn)象稱之為隨機(jī)現(xiàn)象。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]82024/12/26

隨機(jī)試驗（RandomExperiment）：

對隨機(jī)現(xiàn)象做出的觀察與科學(xué)實驗。E隨機(jī)實驗的特點：a.不唯一性b.不確定性c.可重復(fù)性

樣本點（SamplePoint）把隨機(jī)實驗E的每一個基本可能結(jié)果稱為隨機(jī)實驗的樣本點，記為ξ

。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]92024/12/26隨機(jī)實驗的全部樣本點構(gòu)成的集合，稱為隨機(jī)實驗的樣本空間，記為Ω

樣本空間（SampleSpace

）

隨機(jī)事件（Random

Event）實驗E中滿足一定條件的樣本點的集合稱為隨機(jī)事件,是Ω的子集。記為

A,B

,…每個樣本點稱為基本事件，樣本空間Ω是必然事件，?是不可能事件。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]102024/12/26隨機(jī)事件域

F：由樣本空間的全體子集構(gòu)成。

隨機(jī)事件域（Random

EventField）域：一些集合組成的集合叫域。投一枚硬幣3次，觀察正反面出現(xiàn)的情況事件A：出現(xiàn)正面兩次事件B：至少出現(xiàn)正面一次電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]112024/12/26

概率事件是隨機(jī)的。賦予事件一個出現(xiàn)可能性的度量值，稱為概率（Probability）。常由相對頻率（Relativefrequency）來計算，

概率空間：(Ω

，F(xiàn)，P)構(gòu)成的三元總體空間稱為概率空間。（n很大）試驗中A出現(xiàn)的次數(shù)總試驗次數(shù)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]122024/12/26歸一性：可加性：若事件A、B互斥,即，則，非負(fù)性：任取事件A，

概率公理：任何事件A的概率滿足：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]132024/12/26

事件概率的基本性質(zhì)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]142024/12/26例1.1分析擲均勻硬幣問題。解：H---正面，T---反面。因此，（1）樣本空間：

（2）事件域：（3）由硬幣的均勻特性可得，，而且，

，

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]152024/12/26例：擲一枚均勻的骰子，觀察出現(xiàn)點數(shù)的隨機(jī)實驗E樣本空間事件域電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]162024/12/262.

條件概率乘法公式：條件事件：條件概率（Conditionalprobability），鏈?zhǔn)椒▌t：

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]172024/12/26

事件獨立其中：m

為整數(shù)，常由實際問題的意義判斷事件的獨立性事件A與B獨立（Independent）等價地定義為多個事件彼此獨立，電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]182024/12/261.1.2隨機(jī)變量RandomVariable（R.V.）（1）定義若定義在樣本空間Ω上的單值實函數(shù)，將基本可能實驗結(jié)果ξi與實數(shù)xi對應(yīng)起來，有如下函數(shù)關(guān)系：

則稱為隨機(jī)實驗E中的隨機(jī)變量，簡記為X。1.隨機(jī)變量定義：X

的取值范圍稱為值域或狀態(tài)空間

R.V.一般用大寫字母X,Y,Z,

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]192024/12/26（2）類型：連續(xù)RV(C.R.V.)

：X

的取值連續(xù)，對應(yīng)無窮多個樣本點離散RV(D.R.V.

)

:X

的取值離散，狀態(tài)可能有限或無限狀態(tài)混合RV(M.R.V.

)

:X的取值離散或連續(xù)Ωξ1·ξ2·ξi·X(·)x2xix1樣本空間隨機(jī)變量隨機(jī)變量值域…電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]202024/12/26

2.

隨機(jī)變量的概率分布函數(shù)(累積分布函數(shù))

ProbabilityDistributionFunction

定義即，F(xiàn)(x)是R.V.X.落在區(qū)間上的概率。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]212024/12/26

性質(zhì)1)

F(x)是x的單調(diào)遞增函數(shù),即2)

F(x)非負(fù)，且3),必然事件，不可能事件電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]222024/12/264)

區(qū)間概率特性

對于D.R.V.電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]232024/12/26對于C.R.V.X取某值的概率為0即C.R.V.

落在某區(qū)間的概率與區(qū)間的開閉無關(guān)5)

F(x)

連續(xù)性電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]242024/12/266)

D.R.V.的F(x)

用單位階躍函數(shù)表示電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]252024/12/263.隨機(jī)變量的概率密度函數(shù)

ProbabilityDensityFunction

定義電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]262024/12/26性質(zhì)2）：非負(fù)性

1）：3）：歸一性4）：5）：D.R.V.電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]272024/12/26例1.4均勻骰子實驗：定義R.V.X的取值為解：

是離散型的，分布律描述最為方便：狀態(tài)概率或者采用列表電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]282024/12/26分布與密度函數(shù)，或電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]292024/12/261.2多維隨機(jī)變量與條件隨機(jī)變量1.2.1多維隨機(jī)變量(隨機(jī)向量)各R.V.之間可能有一定的關(guān)系,也可能沒有關(guān)系——即相互獨立Ωξ1·ξ2·ξi·X1(·)X2(·)…XK(·)X1(ξ)多維映射X2(ξ)XK(ξ)…

…X1X2XK…電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]302024/12/261.

二維隨機(jī)變量(X,Y)及其分布

聯(lián)合概率分布函數(shù)：

聯(lián)合概率密度函數(shù)：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]312024/12/26

性質(zhì)：，且F(x,y)是x或y的單調(diào)增函數(shù)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]322024/12/26令：，有電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]332024/12/26電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]342024/12/266)

邊緣分布邊緣分布函數(shù)：邊緣概率密度：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]352024/12/262.n維隨機(jī)變量及其分布設(shè)有n維隨機(jī)變量

n維（聯(lián)合）分布函數(shù)為:

n維（聯(lián)合）密度函數(shù)為：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]362024/12/26

高維概率密度可通過積分降低維數(shù)，設(shè)已知n維隨機(jī)變量的n維聯(lián)合概率密度，，有當(dāng)m<n電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]372024/12/26例1.5

某電子系統(tǒng)有部件A1和A2,狀態(tài)：normal與false，隨機(jī)變量X1和X2：求：(1)系統(tǒng)工作情況的樣本空間和隨機(jī)向量(X1,X2)的聯(lián)合狀態(tài)空間

(2)

A1和A2

獨立時，計算(X1,X2)的概率密度函數(shù)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]382024/12/26X1和X2的聯(lián)合狀態(tài)空間解:(1)系統(tǒng)狀況的樣本空間電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]392024/12/26A1和A2

獨立時，取值概率：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]402024/12/26的概率密度函數(shù)

作業(yè)：1.91.11電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]412024/12/261.隨機(jī)變量與多維隨機(jī)變量的條件事件1.2.2條件隨機(jī)變量如：點條件電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]422024/12/262.

條件隨機(jī)變量的概率分布、密度函數(shù)類似概率的乘法規(guī)則電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]432024/12/261.2.3獨立性R.V.X1,X2,…,Xn

相互獨立：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]442024/12/26例1.8

二維R.V.

求:(1)；(2)討論X與Y之間的獨立性。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]452024/12/26解:(1)

(2)

X

與Y

獨立的充要條件：高斯R.V.之間，互不相關(guān)和統(tǒng)計獨立等價電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]462024/12/261.3隨機(jī)變量的函數(shù)1.3.1一元函數(shù)一元函數(shù)的概率特性：函數(shù)形如或構(gòu)成從樣本空間到實數(shù)域的復(fù)合映射，導(dǎo)致新的隨機(jī)變量。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]472024/12/26定理1.1:已知R.V.X

的,現(xiàn)有R.V.

。設(shè)X與Y之間的關(guān)系是單調(diào)的，并且存在反函數(shù)，即，若反函數(shù)的導(dǎo)數(shù)h′(Y)

也存在，則B為Y的值域?qū)τ谶B續(xù)型隨機(jī)變量，則有:電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]482024/12/26證：當(dāng)X與Y之間是單調(diào)增時電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]492024/12/26當(dāng)X與Y之間是單調(diào)減時電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]502024/12/26例：隨機(jī)信號X是均勻分布的，其概率密度函數(shù)為，若，試求Y的概率密度函數(shù)。解：反函數(shù)為,反函數(shù)的導(dǎo)數(shù)為1/a電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]512024/12/261.3.2二元函數(shù)二元函數(shù)：其概率特性：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]522024/12/26更一般地：設(shè)已知二維隨機(jī)變量(X,Y)的f(x,y)，現(xiàn)有且反函數(shù)的二階偏導(dǎo)存在，則設(shè)函數(shù)映射是單調(diào)的反函數(shù)存在雅可比行列式電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]532024/12/26例1.13

求Z=X+Y

的密度函數(shù)解：定義輔助變量U

=

Y,則積分可得：如果X與Y獨立：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]542024/12/26例1.15

復(fù)隨機(jī)變量

，其實部與虛部獨立，且，，討論振幅R與相位Θ的概率特性。1.3.3瑞利與萊斯分布解：函數(shù)、反函數(shù)關(guān)系與雅可比行列式，，

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]552024/12/26于是，邊緣概率密度函數(shù)為：瑞利分布根據(jù)X與Y獨立，有電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]562024/12/26均勻分布

結(jié)論：中，與獨立。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]572024/12/260作業(yè)：1.160電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]582024/12/261.4數(shù)字特征與條件數(shù)學(xué)期望1.4.1R.V.X的數(shù)學(xué)期望（統(tǒng)計平均或集合平均）連續(xù)隨機(jī)變量:離散隨機(jī)變量:expectation,mean電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]592024/12/26基本性質(zhì)：1）線性：2）若獨立，則3）對于有，簡潔書寫形式：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]602024/12/261.4.2矩與聯(lián)合矩k階矩（Moment）與(k+r)階聯(lián)合矩（或混合矩）（Jointmoment）如下，

1)

絕對原點矩：

2)

原點矩：

3)

中心矩：

電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]612024/12/26

幾個重要的矩(2)隨機(jī)變量X的方差Variance

方差描述了R.V.偏離均值的程度(1)均方值連續(xù)隨機(jī)變量:離散隨機(jī)變量:電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]622024/12/26性質(zhì)：協(xié)方差

隨機(jī)變量的標(biāo)準(zhǔn)差:均方值電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]632024/12/26(3)相關(guān)矩relation記為：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]642024/12/26(4)

協(xié)方差矩Covariance記為：有：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]652024/12/26(5)

相關(guān)系數(shù)

的數(shù)值越大，隨機(jī)變量和越相關(guān)，相關(guān)表示兩個R.V.X

、Y

的線性關(guān)聯(lián)程度

表示X和Y是線性相關(guān)的

表示X和Y是彼此無關(guān)的0<ρ≤1

，正相關(guān)－1≤ρ<0

，負(fù)相關(guān)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]662024/12/26討論：的關(guān)系三者都用于表示R.V.X

、Y

的關(guān)聯(lián)程度包含均值、方差對關(guān)聯(lián)程度的影響。包含離散程度對關(guān)聯(lián)程度的影響消除了均值、方差對關(guān)聯(lián)程度的影響，因而單純地反映了R.V.X

、Y

的相關(guān)性電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]672024/12/261.4.3獨立、無關(guān)、正交(1)無關(guān)或?qū)τ赗.V.X,Y(2)

正交或不相關(guān)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]682024/12/26獨立無關(guān)正交任一隨機(jī)變量均值為0正態(tài)分布除外(3)獨立、無關(guān)、正交的關(guān)系

一般情況電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]692024/12/26高斯（正態(tài)）隨機(jī)變量

無關(guān)獨立零均值高斯（正態(tài)）隨機(jī)變量獨立正交無關(guān)作業(yè)：1.14電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]702024/12/261.4.4條件數(shù)學(xué)期望在一定條件下的數(shù)學(xué)期望，稱為條件數(shù)學(xué)期望（或條件均值）。以二維為例，定義如下：對于離散型隨機(jī)變量，是y的函數(shù)，及。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]712024/12/26如果該函數(shù)的自變量為R.V.Y,則E(X|Y)

是一個新的隨機(jī)變量，進(jìn)一步對它求平均有，全期望公式證明：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]722024/12/26基本性質(zhì)：1)2)若獨立，則3)或者電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]732024/12/26解：令顧客數(shù)為N，每人購買量為Xi

元（）

，Xi與N都是隨機(jī)的，且彼此獨立。則營業(yè)額為，于是例1.19

某小店平均每天有50名顧客，而每人平均購買10元的商品。問小店每天的平均營業(yè)額是多少？而，所以作業(yè)：1.24電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]742024/12/26定理1.2（切比雪夫不等式Chebyshevinequality）對任意,有1.4.5重要不等式例如，

而對于正態(tài)分布特例，實際上是99.74％。如果方差，則X集中在m一點上。因為對于任意小的ε，，即，。隨機(jī)變量X=m

依概率1成立電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]752024/12/26定理1.3（柯西－許瓦茲不等式Cauchy-Schewarzinequality）設(shè)，，則E(XY)

存在，且實隨機(jī)變量電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]762024/12/26隨機(jī)變量的統(tǒng)計特性：概率特性矩特性特征函數(shù)（矩發(fā)生函數(shù)）1.5特征函數(shù)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]772024/12/261.

基本概念定義1.2：

隨機(jī)變量X的特征函數(shù)（Characteristicfunction）定義為

式中，為確定的實變量。1.5.1(一維)特征函數(shù)電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]782024/12/26

離散隨機(jī)變量X

連續(xù)隨機(jī)變量X電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]792024/12/26

特征函數(shù)與概率密度函數(shù)的關(guān)系（是一個特殊的變換對）可以通過傅立葉變換求特征函數(shù)與概率密度函數(shù)變換對定理1.5（唯一性定理）密度函數(shù)與特征函數(shù)相互唯一確定。

說明：特征函數(shù)必定存在，通常是復(fù)數(shù)，以另外一種方式全面地描述著隨機(jī)變量的概率特性。電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]802024/12/26例1.21

求參數(shù)為的指數(shù)分布的特征函數(shù)。解：電子科大隨機(jī)信號分析CH1概率論基礎(chǔ)[1]8120