概率論與數(shù)理統(tǒng)計在電子專業(yè)的應(yīng)用

1、概率論在通信系統(tǒng)中的應(yīng)用學(xué) 院：班 級:學(xué) 號：班序號：姓 名：概率論在通信系統(tǒng)中的應(yīng)用中文摘要概率論與數(shù)理統(tǒng)計在電子電路的隨機(jī)信號處理及實(shí)驗(yàn)中有著廣泛的應(yīng)用，通信工程號 的接收和發(fā)射，都需要概率論與數(shù)理統(tǒng)計學(xué)的理論作為基礎(chǔ)。因?yàn)?，信號是信息的載體。 信號源的輸出都是隨機(jī)的，怎樣在隨機(jī)信號中找出我們所需要的信息，就需要使用統(tǒng)計方 法來描述。同時，對于接收者來說怎樣從一個不缺定或不可預(yù)測的信號中獲取我們所需要 的信息，仍然需要再次利用統(tǒng)計學(xué)中的知識。關(guān)鍵詞：概率論，數(shù)理統(tǒng)計，電子電路，隨機(jī)信號AbstractProbability and mathematical statistics in r

2、andom signal processing and electronic circuit has been widely used in the experiments, the signal receiving and launch in communication engineering, all need theory as the basis of probability theory and mathematical statistics. Because the signal is the earner of information. The output of the sig

3、nal source is random, how to find what we need in the random signal information, you need to use statistical methods to describe. At the same time, for the receiver how to from a not short or unpredictable signal to obtain the information we need, still need the knowledge of statistics again.Key wor

4、ds: probability theory, mathematical statistics, electronic circuit random signal一：概率論與數(shù)理統(tǒng)計的起源與發(fā)展1、概率論 概率論的研究始于意大利文藝復(fù)興時期，當(dāng)時賭博盛行，而且賭法復(fù)雜, 賭注量大，一些職業(yè)賭徒，為求增加獲勝機(jī)會，迫切需要計算取勝的思路，研究不輸?shù)姆?法，十七世紀(jì)中葉，帕斯卡和當(dāng)時一流的數(shù)學(xué)家費(fèi)爾馬一起，研究了德美黑提出的關(guān)于 骰子賭博的問題，這就是概率論的萌芽。1657年荷蘭物理學(xué)家惠更斯發(fā)表了 “論賭博中的計算”的重要論文，提出了數(shù)學(xué)期望 的概念，伯努利把概率論的發(fā)展向前推進(jìn)了一步，于171

5、3年出版了猜測的藝術(shù)，指出 概率是頻率的穩(wěn)定值，他第一次闡明了大數(shù)定律的意義。1718年法國數(shù)學(xué)家棣莫弗發(fā)表了 重要著作機(jī)遇原理，書中敘述了概率乘法公式和復(fù)合事件概率的計算方法，并在1733 年發(fā)現(xiàn)了正態(tài)分布密度函數(shù)，但他沒有把這一結(jié)果應(yīng)用到實(shí)際數(shù)據(jù)上，直到1924年菜被 英國統(tǒng)計學(xué)家K皮爾森在一家圖書館中發(fā)現(xiàn)。德國數(shù)學(xué)家高斯從測量同一物體所引起的 誤差這一隨機(jī)現(xiàn)象獨(dú)立的發(fā)現(xiàn)正態(tài)分布密度函數(shù)方程，并發(fā)展了誤差理論，提出了最小二 乘法。法國數(shù)學(xué)家拉普拉斯也獨(dú)立的導(dǎo)出了該方程，對概率的意義如何抽象化做出了杰出 的貢獻(xiàn)，提出了概率的古典定義。到19世紀(jì)末，概率論的主要研究容已基本形成。1933 年聯(lián)

6、數(shù)學(xué)家柯爾莫科洛夫總結(jié)前人之大成，提出了概率論公理體系，即概率的公理化定義。 概率論里所說的極限定理，主要研究獨(dú)立隨機(jī)變量序列的各種收斂性問題，其中包括兩種 類型定理：一類是大數(shù)定律，一類是中心極限定理。當(dāng)代概率論的研究方向大致可分為極 限理論，馬爾可夫過程，平穩(wěn)過程，隨機(jī)微分方程等。2、數(shù)理統(tǒng)計數(shù)理統(tǒng)計是伴隨著概率論的發(fā)展而發(fā)展起來的一個數(shù)學(xué)分支，研究如 何有效的收集、整理和分析受隨機(jī)因素影響的數(shù)據(jù)，并對所考慮的問題做出推斷或預(yù)測， 為采取某種決策和行動提供依據(jù)或建議。數(shù)理統(tǒng)計起源于人口統(tǒng)計、社會調(diào)查等各種描述 性統(tǒng)計活動，其發(fā)展大致課分為古典時期、近代時期和現(xiàn)代時期三個階段。古典時期 這

7、是描述性的統(tǒng)計學(xué)形成和發(fā)展的階段，是數(shù)理統(tǒng)計的萌芽時期。在這一時期里，瑞士數(shù)學(xué) 家貝努里較早地系統(tǒng)論證了大數(shù)定律。1763年，英國數(shù)學(xué)家貝葉斯提出了一種歸納推理的 理論，后背發(fā)展為一種統(tǒng)計論斷方法一一貝葉斯方法，棣莫弗發(fā)現(xiàn)了正態(tài)分布的密度函數(shù), 高斯提出最小二乘法。近代時期是數(shù)理統(tǒng)計的形成時期，英國數(shù)學(xué)家皮爾遜提出了矩估 計法和頻率曲線的理論，X2檢驗(yàn)；統(tǒng)計學(xué)家戈賽特創(chuàng)立了小樣本檢驗(yàn)，即t分布和t檢驗(yàn) 法，并由費(fèi)歇推廣，這樣，數(shù)理統(tǒng)計的一些重要分支如假設(shè)檢驗(yàn)、回歸分析、方差分析、 正交設(shè)計等有了決定其面貌的容和理論。現(xiàn)代時期美籍羅馬尼亞數(shù)理統(tǒng)計學(xué)家瓦你德發(fā) 展了決策理論，提出了一般的判別問題，

8、創(chuàng)立了序貫分析理論，提出著名的序貫概率比檢 法。二、概率論與數(shù)理統(tǒng)計在電子電路的隨機(jī)信號處理根據(jù)概率論與數(shù)理統(tǒng)計中的知識所描述，事件的概率就是對于一次隨機(jī)試驗(yàn)E, S是 它的樣本空間，那么對于隨機(jī)試驗(yàn)E中的每一個事件A都賦予一個實(shí)數(shù)，記為P (A),這 時，這個實(shí)數(shù)就是事件A的概率。我們知道一個事件的不確定性可以用事件出現(xiàn)的頻率來 描述，可能性越小，概率越??；反過來說，可能性越大，則概率就越大。由此就可以看出, 信息中包含的信息量與事件發(fā)生的概率密切相關(guān)。在此，我們可以判斷出，當(dāng)一個事件的 不確定性越小時，它所攜帶的信息量就越大，因?yàn)槲覀兛梢詮闹蝎@得更多的信息。這個時 候，我們設(shè)有一個函數(shù)，它

9、滿足對于一個事件的概率P(x),有對應(yīng)的信息量I滿足I=fP(x), 由以上總結(jié)得出：P (x)越小，貝W就越大；同樣則有當(dāng)P (x)越大時，I就越小。用數(shù)學(xué)式表達(dá)：P (x) -1 時，lO;P (x) fO 時，I-8.因?yàn)樾畔⑺男畔⒘靠梢杂酶怕蕘肀硎?，所以概率的基本性質(zhì)例如相加性對于信 息也是滿足的。就是對于概率論來說，設(shè)A，A?，是兩兩互不相容的事件，即對于。，iwjj,j=,2，,則P“（AUAU.）=p“（a）+P“（4）+通過類比可得出若干個相互獨(dú)立事件所提供的信息量就等于個獨(dú)立事件所提供的信 息量之和，也就是所謂的信息的相加性，即/ = WG &2） = / Hx

10、 ）+ / 由以上兩點(diǎn)可以得出，信息量I與事件出現(xiàn)的概率P （x）的關(guān)系應(yīng)滿足一種數(shù)學(xué)關(guān)系, 根據(jù)1）、2）可以知道信息量I與事件出現(xiàn)的概率P （x）的倒數(shù)成對數(shù)關(guān)系。此時，我們 可以得出I與P （x）的對應(yīng)關(guān)系，即J°g為二o&p（X）其中，。的取值可以用來判斷信息量的單位。通過這個公式，我們對信息量做出了較 為直觀的描述，從而對信息做出度量，為信息的傳輸和處理奠定了基礎(chǔ)。在信號的傳輸之前，我們需要對信號進(jìn)行處理，這是因?yàn)閷τ谛盘栐磥碚f，它所 發(fā)出的信號是一定的，但有時會具有較低的頻譜分量，這種信號在很多信道中并不適合傳 輸。因此，我們在信號傳輸之前需要對信號進(jìn)行調(diào)幅。而需

11、要調(diào)幅的信號就稱為調(diào)幅（AM） 信號。我們假設(shè)，一個調(diào)制信號m，登加上直流4。后與可形成調(diào)幅（AM）信號。調(diào)幅信號的時域表示為Sam （t）= 4 +m cos 公 t= 4 cos 。t+m（t） cos 公 t式中：m為調(diào)制信號，它的均值為0; A）是常數(shù)，表示的是疊加的直流分量。AM信號在1。電阻上的平均功率應(yīng)該等于S，什）的均方值即為其平方的時間平均, 即p v/= Ao+m。）f cos%二 Ao cos2 J+m（Ocos-。/+2 A/W）cos-J利用均方值可以很簡單的計算出信號的總功率，通過改變高頻載波的電流來改變低頻 譜分量，從而使原始的低頻信號變換成為適合在信道中傳輸?shù)囊?/p>

12、調(diào)信號，同時，也可以實(shí) 現(xiàn)提高信號傳輸系統(tǒng)的抗干擾能力。由上文我們可以得出，信息具有不確定性，載有信息的信號是不可預(yù)測的，并且?guī)в?某種隨機(jī)性，在信息的傳輸過程中，并非所有的信息都是有用的，而無用的那一部分，則 被我們稱為噪聲。噪聲更具有不確定性，并且也是不可預(yù)測的。在移動通信時，電磁波的 傳播路徑在不斷變化，同時，接收信號也是隨機(jī)變化的。這時，通信中的信號源、噪聲， 以及信號傳輸特性都需要使用隨機(jī)過程來描述。通過這些就可以對隨機(jī)過程進(jìn)行描述。通過對隨機(jī)信號的描述我們可以正確的對 信號做出判斷和處理。但是，在對隨機(jī)信號進(jìn)行處理的過程中，我們難以避免的會遇到噪 聲和干擾，噪聲和干擾會使我們在接收

13、信號時，無法確定我們所收到的信號是否正確，更 加的在增加了接收信號的不確定性，從而使信號的傳輸和接收產(chǎn)生誤差。為了解決這個問 題，在有限的條件下判斷出信號的正確性，就需要通過統(tǒng)計推斷中的假設(shè)檢驗(yàn)理論來解決 這個問題。在統(tǒng)計學(xué)中，經(jīng)過人們的長期實(shí)踐，使得假設(shè)檢驗(yàn)的一般過程比較明確。由于要 檢驗(yàn)的假設(shè)涉及總體均值，所以我們首先可以想到的是是否可以借助樣本的均值,這一 統(tǒng)計量來進(jìn)行判斷。我們知道是的無偏估計，的觀察值的大小在一定程度上，反*一。 映了的大小，所以，如果假設(shè)"。為真，則一次實(shí)驗(yàn)的觀察值Q ,滿足不等式6 5幾乎是不會發(fā)生的?，F(xiàn)在，在一次實(shí)驗(yàn)中出現(xiàn)了滿足"的7,則我們

14、可以懷疑七川Z,2原來假設(shè)的“。的正確性而拒絕”。，若出現(xiàn)的觀測值Q滿足5“ 乙”2,此時沒有理 由拒絕假設(shè)”。，因此，只能接受“。.在信號的統(tǒng)計檢測與估計中，對于假設(shè)檢驗(yàn)的定義是認(rèn)為一個被觀測的物理系統(tǒng)可能 出于M個狀態(tài)之一。我們就稱“系統(tǒng)處于狀態(tài)=1,2，,M）為假設(shè)"/。由于 對系統(tǒng)一般只能進(jìn)行有限的檢測，假定觀測數(shù)據(jù)矢量為'=”卜"2,，,況二并令，0/G）為為真時的觀測數(shù)據(jù)為才的條件概率密度；= 為 系統(tǒng)出于時的先檢概率，顯然有JZx.一 M°”戶及卒廠P，"'）又稱為轉(zhuǎn)移概率，它一般只決定于干擾與噪聲。因?yàn)槲覀冎荒芨鶕?jù)數(shù)據(jù)觀測

15、量 來判斷系統(tǒng)處于何種狀態(tài)，但因?yàn)椤笆请S機(jī)矢量，N有限，所以要檢測結(jié)果完全正確也是 不可能的。要判別在實(shí)際過程中，隨機(jī)信號和有用信號存在的檢測問題歸結(jié)為：判別為在 HoH Hmt等M個假設(shè)中的哪一個假設(shè)為真的問題。經(jīng)過進(jìn)行統(tǒng)計判決的經(jīng)驗(yàn)積累，在假設(shè)檢驗(yàn)對信號進(jìn)行統(tǒng)計判決時，一般遵循以下步 驟：首先要對信號做出原假設(shè)；其次，選擇出判決所要遵循的最佳準(zhǔn)則；然后，進(jìn)行試驗(yàn), 來獲得進(jìn)行信號統(tǒng)計所需要的資料；最后，根據(jù)數(shù)據(jù)和給定的最佳觀測來進(jìn)行統(tǒng)計判決。這樣，我們就可以根據(jù)判決結(jié)果來判斷出信號的有無，從而使信號的接收和傳輸簡便, 避免了在接收信號時遇到的噪聲和干擾，不易出現(xiàn)誤差。三、正態(tài)分布在自動控制

16、中的應(yīng)用飲料廠生產(chǎn)一種容量為300ml的罐飲料，自動包裝線上大量數(shù)據(jù)表明，每容量是服從 標(biāo)準(zhǔn)差為30ml的正態(tài)分布。了使每罐飲料少于300ml的產(chǎn)品不多10%,應(yīng)把自動包裝線 控制的均值口調(diào)到什么位置上？一臺新的包裝機(jī)價格是萬元，但罐裝的飲料的容量服從標(biāo)準(zhǔn) 為7 5ml的正態(tài)分布，同樣為了使每罐料少于300ml的產(chǎn)品不多于10%,應(yīng)自動包裝線 控制的均值U調(diào)節(jié)到什么位上？設(shè)X表示原自動包裝線上一罐飲料的量，則XN(r, 302), 若把自動包裝的均值U控制在300ml的位置上，則少300ml的飲料要占全部飲料的50%, 這不合要求的。為此應(yīng)把均值以控制在比300ml大的位直上，其中R必須滿足概

17、率程 PX<300=0.1o,從而戶338. 40即把自包裝機(jī)的均值調(diào)節(jié)到338 4的位置上才能保證少 于300ml的飲料不多于10%,即平均每罐要多裝38. 4ml。如果投資10萬元新買一臺包裝機(jī)，新包裝線上每罐飲料的容量為Y,則丫(囚7.51), 為了使少于300ml的飲料所占的比例不多于10%,其中p必須滿足方程PY<300=0.1從 而產(chǎn)309. 60采用新包裝機(jī)平均每罐可節(jié)約飲料338. 4309.6=28. 8ml。若以每日生產(chǎn)20000罐飲料計算，則每日可節(jié)約20000X28. 8=576000ml飲料，如 果每100ml飲料的成本為1元，則工廠每日可增加利潤5760

18、元。18天就能賺回成本，第 19天就可獲凈利潤，因此該飲料廠應(yīng)該購買新的包裝機(jī)。由于自動線包裝的飲料的容量服從正分布，正態(tài)分布的方差反映了包裝機(jī)的度，它不 僅影晌到產(chǎn)品的質(zhì)量，而且影到工廠的效益。所以在一些產(chǎn)品的質(zhì)量制作者：微軟用戶過 程中。更重要的是控制方差。正態(tài)布在自動控制、優(yōu)化設(shè)計、包裝或加工件的精度以及質(zhì) 量管理和控制等方面有廣泛的應(yīng)用。正態(tài)分布的均值就是自動制的設(shè)定值，方差就是自動 控制的精度差越小，精度越高，系統(tǒng)的性能越好。四、概率論在通信領(lǐng)域的應(yīng)用通信領(lǐng)域的信號處理在隨機(jī)過程方面有極大的依賴性；由于頻帶帶寬限制，如何通過 概率論中的方法合理分配頻段也是今后將要考慮的重點(diǎn)。不難發(fā)現(xiàn)

19、，概率論這門課程在通 信領(lǐng)域有的極大的影響力與很強(qiáng)的重要性，因此也有人這樣總結(jié)：概率論功底達(dá)不到本科 的通信就沒法學(xué)，隨機(jī)過程的功底達(dá)不到那通信方面的科研工作也沒法做。概率論在通信中主要應(yīng)用在信號學(xué)，即研究系統(tǒng)在干擾輸入信號系統(tǒng)的時候系統(tǒng)穩(wěn)定 性抵抗以及利用干擾進(jìn)行信號傳播。實(shí)際系統(tǒng)的干擾信號很多時候都可以研究出來其分 布，系統(tǒng)在這些干擾的作用下如何保證穩(wěn)定性，控制超調(diào)量，通過編碼的改進(jìn)控制錯誤的 擴(kuò)散性等問題是很關(guān)鍵性的問題。另外有些通信方式要借助一些特定的人為干擾，例如高 斯白噪聲（熱噪聲）。隨機(jī)過程是一類隨時間作隨機(jī)變化的過程，它不能用確切的時間函數(shù)描述。目前，高 斯隨機(jī)過程被廣泛的應(yīng)用

20、于構(gòu)建通信仿真系統(tǒng)號、噪聲和干擾的模型，在很多物理問題中 的隨機(jī)現(xiàn)象都可以用高斯隨機(jī)過程進(jìn)行滿意的近似，如利用中心極限定理，散彈噪聲過程 就是用高斯過程近似的。高斯過程最重要的用途就是模擬和分析通信系統(tǒng)中熱噪聲的影 響，當(dāng)熱噪聲強(qiáng)度足夠大時，就可以掩蓋弱信號，并使系統(tǒng)對這些弱信號的識別變得極其 困難。正態(tài)隨機(jī)過程，也稱高斯隨機(jī)過程，是通信領(lǐng)域中最重要也是最常見的一種過程。在 實(shí)踐中觀察到的大多數(shù)噪聲都是高斯型的，例如，通信系統(tǒng)中的主要噪聲，即熱噪聲，就 是一種高斯隨機(jī)過程。如果過程力的任意n維（n=L2,3）分布均服從正態(tài)分布，剛稱它為正態(tài)過程或 高斯過程。其n維正態(tài)概率刻度函數(shù)表示如下力（不

21、，Z；32%）二百人H嘉飄(守式中：4=磯*"，或=旦夕4)一怎；回為歸化協(xié)方差矩陣的行列式，即1%忸| =如1凡bn%1忸為行列式四中元素bjk的代數(shù)余因子；bjk歸一化的協(xié)方差函數(shù)，即_伊&)-初%k =師通常情況下，通信信道中的噪聲均值。=0。因此，在噪聲均值為零時，噪聲的平均功率等 于噪聲的方差。即有Pn=R(0)=Dn=。2。這個結(jié)論是非常有用的，在通信系統(tǒng)的性能分 析中，常常會通過求自相關(guān)函數(shù)或方差的方法來計算噪聲的功率。重要性質(zhì)：(1)由式可以看出，高斯過程的n維分布只依賴各個隨機(jī)變量的均值、方差和歸一 化協(xié)方差。因此，對于高斯過程，只需要研究它的數(shù)字特征就可以

22、了。(2)廣義平穩(wěn)的高斯過程也是嚴(yán)平穩(wěn)的。因?yàn)?，若高斯過程是廣義平穩(wěn)的，即其均 值與時間無關(guān)，協(xié)方差函數(shù)只與時間間隔有關(guān)，而與時間起點(diǎn)無關(guān)，則它的n維分布也與 時間起點(diǎn)無關(guān)，幫它也是嚴(yán)平穩(wěn)的。所以，高斯過程若是廣義平穩(wěn)的，則也嚴(yán)平穩(wěn)。(3)如果高斯過程在不同時刻的取值是不相關(guān)的，即對所有有廉=°,這時 式1簡化為/“(一，占，-1，G，乙)=自自。exp''或)-=這表明，如果高斯過程在不同時刻的取值是不相關(guān)的，那么它們也是統(tǒng)計獨(dú)立的。（4）高斯過程經(jīng)過線性變換后生成的過程仍是高斯過程。也可以說，若線性系統(tǒng)的 輸入為高斯過程，則系統(tǒng)輸出也是高斯過程。以上幾個性質(zhì)在對高

23、斯過程進(jìn)行數(shù)學(xué)處理與計算時下分有用。比如，在分析一個過程 通過線性系統(tǒng)的情況時，若是非高斯過程，輸入過程的統(tǒng)計特性并不能簡單地推出輸出過 程的統(tǒng)計特性。而對于高斯過程，根據(jù)輸入過程的統(tǒng)計特性并不能簡單地推出輸出過程的 統(tǒng)計特性。而對于高斯過程，根據(jù)性質(zhì)（4）可知線性時不變系統(tǒng)的輸出過程也是高斯過 程，又由性質(zhì)（1）可知，高斯過程的完全統(tǒng)計描述只需要它的數(shù)字特征，即均值與相關(guān) 函數(shù)，所以剩下的工作就是簡單地求出輸出過程的均值和相關(guān)函數(shù)。如果高斯過程在任一時刻上的取值是一個正態(tài)分布的隨機(jī)變量，也稱高斯隨機(jī)變量, 其一維概率密度函數(shù)為（X-。）一其中，。和人都分別為高斯隨機(jī)變量的均值和方差。在通信系

24、統(tǒng)的性能分析中，常需 要計算高斯隨機(jī)變量4小于或等于某一取值X的概率尸伶"X）,它等于概率密度八口的積 分。我們把正態(tài)分布的概率密度/G）的積分定義為正態(tài)分布函數(shù)，它可表示為:（X）=< X）= j ”高聞一號e dt = + erf （- ） 2及oMz這個積分無法用閉合形式計算，我們一般把這個積分式與可以在數(shù)學(xué)手冊上查出函數(shù) 值的一些特殊函數(shù)聯(lián)系起來計算其值。例如，對上式進(jìn)行變量代換，令新積分變量式中。爐（X）表示誤差函數(shù)，其定義為erf （x） = j= ' dt«,它是自變量遞增的函數(shù)，且有時（0）= °,時3） = 1,erf(-x) = -erf(x)0玄外也可以用互補(bǔ)誤差函數(shù)”衣外表示，即=1弓詠（篙）eifc(x) =式中：它是自變量遞減函數(shù)，且有時，（°）= 1,而3）=。，