信號 基礎知識

現(xiàn)代信號處理何繼愛上課要求遵守課堂紀律對是否做筆記不做硬性規(guī)定有事可以隨時離開教室盡量關掉手機鈴聲如果鈴聲真的響了，請不要在課上接電話如果實在想接，goto

3前言數(shù)字信號處理（DSP，DigitalSignalProcessing）：用數(shù)字計算機或其它專用數(shù)字設備，以數(shù)值計算的方式對離散時間信號進行分析、處理。傳統(tǒng)數(shù)字信號處理:

主要針對線性時不變離散時間系統(tǒng)，用卷積、離散時間傅里葉變換、z變換等理論對確定信號進行處理?，F(xiàn)代數(shù)字信號處理:

在傳統(tǒng)數(shù)字信號處理理論基礎之上，基于概率統(tǒng)計的思想，用數(shù)理統(tǒng)計、優(yōu)化估計、線性代數(shù)和矩陣計算等理論進行研究，處理的信號通常是離散時間隨機過程，且系統(tǒng)可能是時變、非線性的。前言－數(shù)字信號處理理論與算法數(shù)字信號處理理論（theory）：

根據(jù)從工程實際中抽象出的信號模型和系統(tǒng)模型，用數(shù)學理論進行嚴格證明得到的定理等結論。數(shù)字信號處理算法(algorithm)：

為高速或高效實現(xiàn)某種數(shù)字信號處理理論，所采用的計算方法或計算技巧。例：DFT是理論；FFT是實現(xiàn)DFT的計算技巧，屬算法。前言－數(shù)字信號處理的實現(xiàn)非實時實現(xiàn)（notreal-timeimplementation）：

用高級計算機語言，在通用計算機上實現(xiàn)的信號處理理論和算法；通常是對信號事后分析與仿真；如對采集的接收數(shù)據(jù)進行特征分析，參數(shù)提取與估計等。實時實現(xiàn)（

real-timeimplementation）：

用數(shù)字信號處理器或專用數(shù)字器件對信號進行實時處理，如：DSPprocessor(TI,AD)；FPGA/CPLD；專用器件；或通用計算機等。前言－現(xiàn)代信號處理主要內容前言教材：張賢達.《現(xiàn)代信號處理》,清華大學出版社.參考資料：SimonHaykin.“AdaptiveFilteringTheory”；現(xiàn)代數(shù)字信號處理及其應用；何子述，夏威等；清華大學出版社現(xiàn)代信號處理教程；胡廣書編著；清華大學出版社現(xiàn)代數(shù)字信號處理；姚天任主編；數(shù)字信號處理-時域離散隨機信號處理；丁玉美現(xiàn)代數(shù)字信號處理；楊綠溪；科學出版社習題：解答題；仿真題考試：開卷筆試；考查：完成習題；本課程教學內容基礎知識（離散時間信號與系統(tǒng)；離散時間隨機過程）功率譜估計維納濾波和卡爾曼濾波自適應濾波陣列信號處理與空域濾波盲信號處理理論現(xiàn)代信號處理第一章 基礎知識信號與信號空間的基本概念離散時間系統(tǒng)確定性信號的相關函數(shù)信號的傅里葉變換隨機信號的功率譜信號的參數(shù)模型1.1 信號與信號空間的基本概念信號及其分類噪聲信號空間一、信號及其分類

在信號處理學科中，一般用數(shù)學函數(shù)x(t)來表述實際的物理信號。

當函數(shù)的自變量是連續(xù)變量時，例如x(t)，稱之為連續(xù)時間信號；當自變量是離散變量，例如x(n)，稱之為離散時間信號，又稱為序列。本書主要討論離散時間信號。

1.序列及其表示序列及其表示時域離散信號是指那些在離散時間變量時才有定義的信號。若它是從時域連續(xù)信號均勻抽樣得到的，則將時刻的信號值定義為離散信號值，即

而在時刻就沒有定義。表示連續(xù)信號。1.序列及其表示序列可以用來表示，為簡便計算也可用表示。例如

其中箭頭所指的值表示n=0時x(n)的值

序列的另一種表示方法是用圖形表示。2.幾種常用信號單位采樣序列單位沖激信號2.幾種常用信號單位階躍序列單位階躍信號與的關系為2.幾種常用信號正弦序列式中，A為幅度，ω為數(shù)字域頻率，為初相，的單位為弧度。若把模擬信號中的角頻率記為Ω，且正弦序列是由模擬正弦信號經(jīng)取樣后得到的，則有，其中為取樣周期。由于，為取樣頻率()，所以ω又被稱為歸一化頻率。復正弦序列3.任意信號的表示信號直流分量+交流分量偶分量+奇分量實部分量+虛部分量脈沖分量正交分量分解結果是唯一的3.任意信號的表示——任意信號都可用單位取樣序列的移位加權和來表示

信號的脈沖分量分解3.任意信號的表示正交函數(shù)：如果在區(qū)間(t1,t2)上,函數(shù)f1(t)和f2(t)互不含有對方的分量，則稱f1(t)與f2(t)在(t1,t2)上正交函數(shù)正交的充要條件是它們的內積為0函數(shù)f1(t)和f2(t)在(t1,t2)上的內積：如果一個函數(shù)可以用一組相互正交的函數(shù)的線性組合來表示，我們就稱某個正交函數(shù)與相應的線性系數(shù)的乘積為該正交函數(shù)上的正交分量。3.任意信號的表示{gn(t):1nN}是區(qū)間(t1,t2)上的正交函數(shù)集的條件：任一函數(shù)f(t)在(t1,t2)上可表示為正交函數(shù)集內函數(shù)的線性組合。正交分量的系數(shù)4.信號的分類周期信號與非周期信號對于序列，若有，k為整數(shù)，N為正整數(shù)，則稱為周期信號，并將滿足此式的最小正整數(shù)N，稱為該周期信號的周期；否則，為非周期信號。4.信號的分類確定性信號與隨機信號

若在任意n時刻的值皆能被精確地確定，則稱此信號為確定性信號；若在n時刻的值需要按某種分布律隨機確定，則此信號稱為隨機信號。4.信號的分類能量信號與功率信號序列的能量定義為若，稱為能量有限信號，簡稱為能量信號。若，則稱之為能量無限信號。對這類號，我們轉而用功率來描述它們。信號的功率定義為若，則稱為功率有限信號，簡稱為功率信號。4.信號的分類多維信號與多通道信號若信號是k個自變量的函數(shù)，則稱它k維信號。例如，一維語音信號x(n)，n是時間變量。二維圖象信號x(n,m)，n、m為坐標變量。若信號是一個m維矢量，即則稱為m通道信號，每個分量代表一個信號源。4.信號的分類采樣信號若一個序列是由一個模擬信號采樣而成，即

則稱為抽樣信號，為抽樣周期。二、噪聲在信號處理時，對于所采集的信號，可以將其分為兩個部分，一是我們感興趣的部分，稱之為有用信號；而其余部分則稱之為噪聲

若觀測信號可表示為，則稱中含有加性噪聲；若，則稱中含有乘性噪聲；若，則稱中含有褶積性噪聲。三、信號空間信號空間的定義把信號（或）設想為空間X中的一個元素，即。此處X為線性空間（在線性代數(shù)中，線性空間即是向量空間）。我們可以用某些范數(shù)來測量給定信號的某個特征量，而對每一類范數(shù)，我們可以定義一個信號空間如下：1. 信號空間定義信號的上述范數(shù)具有下列性質：，若，則為全零信號；，λ為實數(shù)；（三角不等式）。1. 信號空間定義對任意兩個信號，定義信號間的距離為

具有下述性質：若，則稱信號在均方意義下收斂于信號。。（三角不等式）。2.內積空間若與是信號空間中的兩個信號，其內積定義為：式中，*表示對信號求共軛運算。若，則稱信號與是正交的。1.2 離散時間系統(tǒng)基本概念

LTI系統(tǒng)的描述全通系統(tǒng)和最小相位系統(tǒng)一、基本概念 離散時間系統(tǒng)可以定義為將輸入序列x(n)映射成輸出序列y(n)的唯一變換或運算，并用表示，即一個離散時間系統(tǒng)，既可以是一個硬件裝置，也可以是一個數(shù)學表達式。并用下圖來表示其輸入、輸出關系。1. 基本性質離散系統(tǒng)的幾個重要性質線性性是指系統(tǒng)的運算或變換滿足齊次性和疊加性。設

則系統(tǒng)的線性可表示為式中α，β是任意常數(shù)。1. 基本性質移(時)不變性

同時具有線性和移不變性的離散時間系統(tǒng)稱為線性移（時）不變離散時間系統(tǒng)，簡稱LTI系統(tǒng)。因果性如果系統(tǒng)輸出響應的變化不會發(fā)生在輸入變化之前，則此系統(tǒng)是因果的。1. 基本性質穩(wěn)定性是指系統(tǒng)對有界輸入產(chǎn)生有界輸出。若則對穩(wěn)定系統(tǒng)有式中，和都是有限常量。這類穩(wěn)定性通常稱為有界輸入有界輸出(BIBO)穩(wěn)定性。1. 基本性質可逆性如果系統(tǒng)對每一互不相同的輸入激勵，產(chǎn)生各不相同的惟一的一個輸出響應，則稱此系統(tǒng)是可逆的?；蛘哒f根據(jù)系統(tǒng)響應可以惟一地確定輸入激勵。如果系統(tǒng)是可逆的，則可以構造一個逆系統(tǒng)與之對應，兩者串聯(lián)的結果能恢復出原輸入激勵，如圖所示，圖中表示的逆系統(tǒng)。二、線性時不變系統(tǒng)的描述LTI系統(tǒng)的單位采樣響應系統(tǒng)在零狀態(tài)條件下，由單位采樣信號作用系統(tǒng)所產(chǎn)生的輸出，即

任意信號都可用單位取樣序列的移位加權和來表示，即用作為LTI系統(tǒng)的輸入激勵，則有1.LTI系統(tǒng)的單位采樣描述卷積和滿足交換律

1.LTI系統(tǒng)的單位采樣描述卷積和滿足結合律，即在上式中，若記，這表示系統(tǒng)級聯(lián)后，總的單位抽樣響應等于各級聯(lián)子系統(tǒng)單位抽樣響應的卷積和，如圖所示。1.LTI系統(tǒng)的單位采樣描述卷積和滿足分配律，即在上式中，若記，這表示系統(tǒng)并聯(lián)后，總的單位抽樣響應等于各并聯(lián)子系統(tǒng)單位抽樣響應之和，如圖所示。1.LTI系統(tǒng)的單位采樣描述LTI系統(tǒng)穩(wěn)定性判據(jù)Ⅰ一個LTI系統(tǒng)是穩(wěn)定的充分必要條件是，即式中，S為有限值。證明：充分性：設輸入x(n)是有界的，且對所有n滿足，則1.LTI系統(tǒng)的單位采樣描述這表明，若系統(tǒng)的單位抽樣響應絕對可和，則有界輸入一定對應有界的輸出，系統(tǒng)是穩(wěn)定的。

必要性：利用反證法。如果系統(tǒng)是穩(wěn)定的，但是有，則系統(tǒng)對有界輸入信號對應的輸出響應在n=0時的值

這與假設是矛盾的，因而若系統(tǒng)穩(wěn)定，必須有1.LTI系統(tǒng)的單位采樣描述LTI系統(tǒng)因果性判據(jù)Ⅰ一個LSI系統(tǒng)是因果系統(tǒng)的充分必要條件是

證明：由系統(tǒng)的樣值響應式可得式中第2個等號右邊的第一求和項表示與x(n)將來值有關的項，第二求和項表示與x(n)的當前輸入及以前輸入有關的項。1.LTI系統(tǒng)的單位采樣描述充分性：若h(n)=0,n<0，則上式第一求和項恒為零，系統(tǒng)的響應只和第二求和項有關，因而系統(tǒng)是因果的。必要性：如果系統(tǒng)是因果的，則y(n)只與x(n)的當前輸入值及以前的輸入值有關，與x(n)的將來值無關，因而第一求和項必須等于零。要保證這一點，只有當h(n)=0,n<0條件成立。必要性得證。2.LTI系統(tǒng)的差分方程描述LTI系統(tǒng)的差分方程式中，是方程的系數(shù)。

3.LTI系統(tǒng)的系統(tǒng)函數(shù)描述LTI系統(tǒng)的系統(tǒng)函數(shù)通常稱分子多項式的根(即)為系統(tǒng)的零點，稱分母多項式的根(即)為系統(tǒng)的極點。1.2.173.LTI系統(tǒng)的系統(tǒng)函數(shù)描述LTI系統(tǒng)穩(wěn)定性判據(jù)ⅡLTI系統(tǒng)是穩(wěn)定系統(tǒng)的充分必要條件是的收斂域包含單位圓。LTI系統(tǒng)因果性判據(jù)ⅡLTI系統(tǒng)是因果系統(tǒng)的充分必要條件是的收斂域為圓外區(qū)域，即4.系統(tǒng)的頻率特性系統(tǒng)的頻率特性系統(tǒng)的頻率特性可以根據(jù)系統(tǒng)函數(shù)的零、極點分布由幾何方法直觀地確定。在式(1.2.17)中，令，則有4.系統(tǒng)的頻率特性幅頻響應：相頻響應：式中，表示求角度或相位。三、線性相位系統(tǒng)與系統(tǒng)的群時延1、非線性相位系統(tǒng)的概念

LTI離散時間系統(tǒng)的頻率響應可用幅頻特性和相頻特性表示為如果

其中是常數(shù)，則稱該LTI離散時間系統(tǒng)是線性相位系統(tǒng)，否則稱為非線性相位系統(tǒng)。設系統(tǒng)輸入信號的傅里葉變換為，則系統(tǒng)響應的傅里葉變換可表示為線性相位非線性相位1、非線性相位系統(tǒng)的概念非線性相位系統(tǒng)的實質，是輸入信號的不同頻率成份通過系統(tǒng)后，具有不同的延時，這種現(xiàn)象常稱為信號的色散。2、群時延的概念

LTI離散時間系統(tǒng)的群時延定義為

群時延是頻率的函數(shù)，反映了LTI離散時間系統(tǒng)相位隨頻率的變化率！2、群時延的概念

對于線性相位系統(tǒng)，群時延為可見，線性相位系統(tǒng)對不同頻率的輸入信號具有相同的群時延，即系統(tǒng)響應的相位按頻率線性變化。對于相頻特性為的非線性相位系統(tǒng)，群時延為頻率的函數(shù)2、群時延的概念四、全通系統(tǒng)和最小相位系統(tǒng)全通系統(tǒng)系統(tǒng)的幅頻響應對所有頻率ω都等于1或一個常數(shù)的因果系統(tǒng)稱為全通系統(tǒng)(all-passsystem)。即全通系統(tǒng)的零點分布是極點分布的共軛反演，如圖所示。1. 全通系統(tǒng)一般而言，一個高階的全通系統(tǒng)可表示為若是一有理函數(shù)，而且是實系數(shù)的，則其系統(tǒng)函數(shù)還可表示為1. 全通系統(tǒng)式中，是的特征多項式，的全部極點位于單位圓內，系統(tǒng)是穩(wěn)定的。全通系統(tǒng)的一些特點：全通系統(tǒng)通常是IIR系統(tǒng)；全通系統(tǒng)的極點數(shù)和零點數(shù)相等；極點和零點是以單位圓鏡像對稱的；為保證系統(tǒng)穩(wěn)定，所有極點都應在單位圓內，因此，所有零點都在單位圓外。2.最小相位系統(tǒng)最小相位系統(tǒng)系統(tǒng)零極點都在單位圓內因果系統(tǒng)稱為最小相位系統(tǒng)(minimum-phasesystem)，記為最小相位系統(tǒng)具有下列幾個重要的性質：性質1

在一組具有相同幅頻響應的因果穩(wěn)定系統(tǒng)中，最小相位系統(tǒng)對于ω軸(即零相位)具有最小的相位偏移。2.最小相位系統(tǒng)性質2令h(n)為所有具有相同幅頻響應的離散時間系統(tǒng)的單位取樣響應，是其中的最小相位系統(tǒng)的單位取樣響應，并定義單位取樣響應的累積能量則2.最小相位系統(tǒng)性質3任一實系數(shù)因果穩(wěn)定系統(tǒng)的H(z)都可表示為一個最小相位系統(tǒng)和一個全通系統(tǒng)的級聯(lián)。即性質4最小相位系統(tǒng)的逆系統(tǒng)仍是最小相位系統(tǒng)。1.3 確定性信號的相關函數(shù)相關函數(shù)的定義與性質相關函數(shù)與線性卷積1. 相關函數(shù)的定義與性質能量信號的相關函數(shù)定義信號和之間的互相關函數(shù)為式中，上標*表示對信號求共軛運算，參數(shù)m稱為時延，表示這一對信號間的時移，下標xy的順序表明是參考信號。1. 相關函數(shù)的定義與性質如果，則上面定義的互相關函數(shù)變成自相關函數(shù)，即自相關函數(shù)反映了信號和其自身作了一段延遲之后的的相似程度。

即等于信號自身的能量。1. 相關函數(shù)的定義與性質功率和周期信號的相關函數(shù)一對功率信號和，其相關函數(shù)定義為同樣，若信號和是兩個周期為N的周期信號，則它們的相關函數(shù)為，和也是周期為N的周期序列。1. 相關函數(shù)的定義與性質自相關函數(shù)有如下性質性質1性質2

性質3

若是能量信號，有。，1. 相關函數(shù)的定義與性質互相關函數(shù)有如下性質性質1性質2

性質3

若和都是能量信號，有，2 相關函數(shù)與線性卷積令是與的線性卷積，且均為實信號，即而與的互相關函數(shù)為比較上面兩式，可得相關和卷積的時域關系為同理，對自相關函數(shù)，有，1.4 信號的傅里葉變換連續(xù)時間信號的傅里葉變換離散時間信號的傅里葉變換（DTFT）連續(xù)時間信號的取樣離散傅里葉變換(DFT)一 連續(xù)時間信號的傅里葉變換定義設，則的傅里葉變換，并且由下式定義

當時，因為不一定存在，可令使，則可由的傅里葉變換來定義，即一 連續(xù)時間信號的傅里葉變換此極限取二階平均極限，即滿足：引用上述定義后，傅里葉變換算子F，可以看作是映射的有界線性算子。

F存在逆算子F-1，即對某個，存在，由下式規(guī)定：2.性質性質卷積定理若令則Parsval公式若令則特別2.性質函數(shù)的傅里葉變換雖然不是一個通常意義上的函數(shù)，而是一個廣義函數(shù)。但因為它滿足，所以一般指定的傅里葉變換為由此，我們按傅里葉變換的求逆公式還有成立。3.相關函數(shù)的傅里葉變換相關函數(shù)令，則其自相關函數(shù)為：令則有因為所以并有成立。4.周期信號的傅里葉變換周期信號的傅里葉變換令函數(shù)滿足(為任意整數(shù))。它可展開為傅里葉級數(shù)，即：并且為導出周期函數(shù)的傅里葉變換，可借助廣義函數(shù)，即

4.周期信號的傅里葉變換從而得到所以周期函數(shù)的富氏變換為頻域的沖激串函數(shù)。其沖激強度由其富氏級數(shù)系數(shù)所決定。二、離散時間信號的傅里葉變換現(xiàn)考慮序列，，可定義其傅里葉變換為其逆變換為因為，即是以為周期的函數(shù)，所以序列的傅里葉變換是將映射為的有界線性算子。三 連續(xù)時間信號的采樣現(xiàn)考慮序列為連續(xù)時間函數(shù)通過取樣而獲得(為簡便計令取樣周期)。即令為的傅里葉變換。為的富里葉變換，則據(jù)取樣定理有成立。即時域的取樣將導致頻譜的周期延拓，其延拓周期為。四離散傅里葉變換離散傅里葉變換

設是有限長時間序列，其離散傅里葉變換(DFT)定義為其逆變換式為式中，2.DFT與DTFT的關系DFT與DTFT的關系

對長度為N的有限長序列，根據(jù)DTFT式有

對比DFT式，可知即，N點序列的DFT值是其DTFT值在[0，2π]區(qū)間上的等間隔取樣值。1.5 隨機信號的功率譜隨機變量及其特征描述隨機信號及其特征描述平穩(wěn)隨機信號通過線性系統(tǒng)統(tǒng)計估計問題功率譜及其估計一、隨機變量及其特征描述隨機變量的概念：若某種試驗A的隨機結果用X表示，則稱此X為一個隨機變量，并設它的取值為x。例如，在一定時間內電話交換臺收到的呼叫次數(shù)是一個隨機變量。隨機變量的分布函數(shù)：定義：FX(x)=P(X

x)

性質：∵P(a<X

b)+P(X

a)=P(X

b),

P(a<X

b)=P(X

b)–P(X

a)， ∴P(a<X

b)=FX(b)–FX(a)1.離散隨機變量的分布函數(shù)設X的取值為：x1

，x2，...，

xi，...，xn，其取值的概率分別為p1，p2，…，pi，…，pn，則有

P(X<x1)=0,P(X

≤

xn)=1∵P(X

≤

xi)=P(X=x1)+P(X=x2)+…+P(X=xi), ∴2.連續(xù)隨機變量的分布函數(shù)當x連續(xù)時，由分布函數(shù)定義，有

FX(x)=P(X

≤

x)

可知，F(xiàn)X(x)為一連續(xù)單調遞增函數(shù)，表明X的取值概率沿

x

軸的累積分布情況。圖

連續(xù)隨機變量的分布函數(shù)3.隨機變量的概率密度連續(xù)隨機變量的概率密度pX(x)1.

pX(x)的定義：

2.

pX(x)的意義：

①

pX(x)是FX(x)的導數(shù)，是FX(x)曲線的斜率

②能夠從pX(x)求出P(a<X

≤

b)：

3.pX(x)的性質：

①②

pX(x)

0③3.隨機變量的概率密度離散隨機變量的概率密度離散隨機變量的分布函數(shù)可以寫為：式中，pi為

x=xi

的概率；u(x)為單位階躍函數(shù)。 將上式兩端求導，得到其概率密度：性質：

①當x

≠xi時，pX(x)=0， ②當x=xi

時，pX(x)=1數(shù)學期望定義：對于連續(xù)隨機變量性質：若X和Y互相獨立，且E(X)和E(Y)存在，則4.隨機變量的數(shù)字特征4.隨機變量的數(shù)字特征方差定義： 式中，對于離散隨機變量，對于連續(xù)隨機變量，性質：D(C)=0

D(X+C)=D(X)，D(CX)=C2D(X)

D(X+Y)=D(X)+D(Y)D(X1+X2+…+Xn)=D(X1)+D(X2)+…+D(Xn)

4.隨機變量的數(shù)字特征矩

定義：隨機變量X的k階矩為

k階原點矩：a=0時的矩：

k階中心矩：時的矩：性質：一階原點矩為數(shù)學期望：二階中心矩為方差：4.隨機變量的數(shù)字特征4.3

階原點矩又稱為斜度（Skewness)。它描述隨機變量X分布的非對稱特性。若隨機信號具有對稱概率密度函數(shù)，則其斜度為零，如：均勻分布正態(tài)分布三角分布斜度示范三種分布的斜度ModeMedianMeanMeanMedianModeModeMedianMean4.隨機變量的數(shù)字特征5.4

階原點矩LeptokurticMesokurticPlatykurtic或稱為峰度(Kurtosis)，它描述隨機變量X分布的尖瑞程度。歸零化峰度歸零化峰度定義為:曲線B

峰度＞0Leptokurtic(High&Peaked)曲線A

峰度=0Mesokurtic(Intermediate)曲線C峰度＜0Platykurtic(Broad&Flat)0ACB二、隨機信號及其特征描述隨機信號及其數(shù)字特征設為一離散隨機信號，對的每一次實現(xiàn)，記為，代表時間，代表實現(xiàn)的序號，即樣本數(shù)。則的均值、方差、均方等一、二階數(shù)字特征為1.隨機信號及其數(shù)字特征數(shù)學期望(統(tǒng)計平均值)

隨機序列的數(shù)學期望定義為反映了隨機過程各個時刻的數(shù)學期望隨時間的變化情況；本質上就是隨機過程所有樣本函數(shù)的統(tǒng)計平均函數(shù)；它由隨機過程的一維概率分布決定；表征了隨機序列的直流分量。1.隨機信號及其數(shù)字特征均方值隨機序列均方值定義為1.隨機信號及其數(shù)字特征方差可以證明，上式也可以寫成下式:隨機序列的方差定義為1.隨機信號及其數(shù)字特征一般均方值和方差都是n的函數(shù),但對于平穩(wěn)隨機序列，它們與n無關，是常數(shù)。方差反映了隨機過程相對于均值的偏離程度。方差由隨機過程的一維概率分布決定；方差表征了隨機序列的交流平均功率。均方值表征了隨機序列的平均功率。式表明，如果隨機變量Xn代表電壓或電流，則有

平均功率=交流功率+直流功率x

2=1

2

=5

2

=10m1=50方差描述隨機變量相對于均值的偏離程度圖

均值相同方差不同的高斯分布自相關函數(shù)自協(xié)方差函數(shù)

1.隨機信號及其數(shù)字特征0圖

自相關函數(shù)和自協(xié)方差函數(shù)曲線圖隨機序列自相關函數(shù)、協(xié)方差函數(shù)的重要性質可以用圖所示曲線來表征。對兩個隨機信號

、

，還可定義互相關函數(shù)和互協(xié)方差函數(shù)如下：互相關函數(shù)互協(xié)方差函數(shù)1.隨機信號及其數(shù)字特征 如果對所有，有則稱信號是不相關的隨機信號。 如果對所有，有則稱信號和是不相關的。 如果對所有，有則稱信號和是相互正交的。1.隨機信號及其數(shù)字特征獨立、相關、正交與相關系數(shù)X與Y統(tǒng)計獨立當且僅當X與Y不相關。獨立一定不相關，反之不然；對于正態(tài)隨機變量獨立與不相關等價。當且僅當X與Y正交。隨機變量X和Y的相關系數(shù)定義為.若X=Y，則若X=-Y，則若X與Y獨立，則2.平穩(wěn)隨機信號平穩(wěn)隨機信號若的概率函數(shù)滿足則稱是N階平穩(wěn)的。如果在上式中，則稱是嚴平穩(wěn)（strict-sensestationary），或狹義平穩(wěn)的隨機信號。2.平穩(wěn)隨機信號 寬平穩(wěn)（wide-sensestationary，WWS）信號，又稱廣義平穩(wěn)信號。是指滿足下述三個條件的隨機信號：狹義平穩(wěn)隨機信號的所有數(shù)字特征顯然都與時刻n無關。但其定義無法在實際中加以應用，因此，研究和應用最多的還是寬平穩(wěn)信號。2.平穩(wěn)隨機信號由寬平穩(wěn)信號的定義，我們還可得到兩個寬平穩(wěn)隨機信號和的互相關函數(shù)及互協(xié)方差可分別表示為3.平穩(wěn)隨機信號的相關函數(shù)平穩(wěn)隨機信號的相關函數(shù)的性質性質1

性質2

及性質3性質4

4.平穩(wěn)隨機過程的自相關矩陣自相關矩陣的定義對離散時間平穩(wěn)隨機過程，用

個時刻的隨機變量

構造隨機向量隨機過程的自相關矩陣定義為考慮平穩(wěn)條件，得到相關矩陣的展開形式為

其中，

是隨機過程

的自相關函數(shù)，

根據(jù)相關函數(shù)共軛對稱性，上式又可重寫為因此，對于一個平穩(wěn)隨機過程，只需自相關函數(shù)的

個值就可以完全確定相關矩陣

。4.平穩(wěn)隨機過程的自相關矩陣自相關矩陣的基本性質4.平穩(wěn)隨機過程的自相關矩陣性質1

平穩(wěn)離散時間隨機過程的相關矩陣是Hermite矩陣，即有對于實隨機過程，自相關矩陣是對稱矩陣，即

性質2

平穩(wěn)離散時間隨機過程的相關矩陣是Toeplitz矩陣性質3平穩(wěn)離散時間隨機過程的相關矩陣R是非負定的，且?guī)缀蹩偸钦ǖ摹?/p>

證明：設

為任意非零向量，由于二次型

故相關矩陣R

總是非負定的。當且僅當觀測向量的

每個隨機變量間存在線性關系時，等式成立，這種情況僅出現(xiàn)在隨機過程是由個純復正弦信號之和組成。4.平穩(wěn)隨機過程的自相關矩陣性質4將觀測向量

元素倒排，定義向量這里，下標B表示對向量

內各分量做反序排列。4.平穩(wěn)隨機過程的自相關矩陣性質5

平穩(wěn)離散時間隨機過程的自相關矩陣

從

維擴展為

維，有如下遞推關系或等價地其中5.平穩(wěn)隨機信號的功率譜平穩(wěn)隨機信號的功率譜

對相關函數(shù)作z變換，有令，得到自功率譜（密度）：互功率譜（密度）：

4.平穩(wěn)隨機信號的功率譜對功率譜，有如下性質：性質1 是ω的實函數(shù)；性質2對所有的ω都是非負的；性質3若是實信號，則是關于ω的偶函數(shù)；性質4 5.平穩(wěn)隨機信號的各態(tài)遍歷性平穩(wěn)隨機信號的各態(tài)遍歷性

對平穩(wěn)隨機信號，如果它的所有樣本函數(shù)在某一固定時刻的一階和二階統(tǒng)計特性和單一樣本函數(shù)在長時間內的統(tǒng)計特性相同，則稱為各態(tài)遍歷信號。對各態(tài)遍歷信號來說，用一階和二階的集平均等于相應的時間平均，即

5.平穩(wěn)隨機信號的各態(tài)遍歷性式中，是的一個單一樣本函數(shù)。5.平穩(wěn)隨機信號的各態(tài)遍歷性對于各態(tài)遍歷的平穩(wěn)隨機信號，其功率譜也可定義為式中，是的單一樣本函數(shù)在時的DTFT。6.隨機信號的采樣定理對于平穩(wěn)隨機信號，如果其功率譜嚴格限制在某一有限頻帶內，該隨機信號稱為帶限隨機信號。如果平穩(wěn)隨機信號X(t)的功率譜Pxx(Ω)滿足下式：則稱X(t)為低通性帶限隨機信號，式中Ωc

表示功率譜的最高截止頻率設以采樣間隔T對平穩(wěn)隨機信號X(t)進行采樣，采樣后隨機序列為X(n)，只要采樣頻率fs

滿足：或者6.隨機信號的采樣定理則有以下采樣插值公式:可以證明，在均方意義上，X(t)等于，

即7.典型的隨機序列1.正態(tài)（高斯）隨機序列

正態(tài)隨機序列Xn

的任意

N維聯(lián)合概率密度函數(shù)為式中正態(tài)隨機序列上面公式表明，正態(tài)（高斯）隨機序列僅決定于其均值矢量M以及方差陣varX。具有指數(shù)型自相關函數(shù)的平穩(wěn)高斯過程稱為高斯—馬爾可夫過程。這種信號的自相關函數(shù)和譜密度函數(shù)為高斯—馬爾可夫也是一種常見的隨機信號，適合于大多數(shù)物理過程，具有較好的精確性，數(shù)學描述簡單。因為當m→∞時，自相關函數(shù)趨近于0，所以均值為0，過程的自相關函數(shù)特性完全描述了過程的特性。7.典型的隨機序列

2.白噪聲序列

如果隨機序列x(n)，其隨機變量是兩兩不相關的，即式中m≠nm＝n則稱該序列為白噪聲序列；如果白噪聲序列是平穩(wěn)的，則cov(xn,xm)=σ2δmn

白噪聲序列式中，σ2是常數(shù)。設均值，其功率譜Pxx(ejω)=σ2，在整個頻帶上功率譜是一個常數(shù)。如果白噪聲序列服從正態(tài)分布，序列中隨機變量的兩兩不相關性就是相互獨立性，稱為正態(tài)白噪聲序列。顯然，白噪聲是隨機性最強的隨機序列，實際中不存在，是一種理想白噪聲，一般只要信號的帶寬大于系統(tǒng)的帶寬，且在系統(tǒng)的帶寬中信號的頻譜基本恒定，便可以把信號看作白噪聲。注意：正態(tài)和白色是兩種不同的概念，前者是指信號取值的規(guī)律服從正態(tài)分布，后者指信號不同時刻取值的關聯(lián)性。7.典型的隨機序列3.諧波過程諧波過程用下式描述：(1)式中，Ai和ωi(i=1,2,3,…,N)是常數(shù)，θi(i=1,2,3,…,N)是服從均勻分布的獨立隨機變量，其概率密度為也可以將(1)式寫成下式:式中諧波過程可以證明，這種諧波信號模型是平穩(wěn)的，設N=1，計算它的統(tǒng)計平均值和自相關函數(shù)：諧波過程上式中第一項積分為0，因此由于諧波過程的統(tǒng)計平均值與時間n無關,自相關函數(shù)僅與時間差m有關,諧波過程是平穩(wěn)的。當N大于1時，也有同樣的結論，可以證明：7.典型的隨機序列4.循環(huán)平穩(wěn)隨機序列許多人工和天然信號是一類特殊的非平穩(wěn)隨機序列，其相關函數(shù)雖然是時變的，但卻隨時間的變化呈現(xiàn)周期性變化，稱為循環(huán)平穩(wěn)（Cyclostationarity）隨機序列。定義：對于隨機序列Xn，若存在一個常數(shù)T，使得成立，則稱隨機序列Xn為循環(huán)平穩(wěn)隨機序列。三、平穩(wěn)隨機信號通過線性系統(tǒng)設LTI系統(tǒng)的單位抽樣響應為，該系統(tǒng)的輸入信號是平穩(wěn)、遍歷的隨機過程（輸入隨機過程）的一個取樣序列，系統(tǒng)產(chǎn)生的輸出響應也是一個離散的隨機信號，把它視為另一隨機過程（輸出隨機過程）的一個取樣序列。因此，輸出和輸入之間顯然滿足下式，即

1.系統(tǒng)響應均值、自相關函數(shù)平穩(wěn)性分析

1).均值設所研究的線性系統(tǒng)是穩(wěn)定非時變的，其單位脈沖響應為h(n)，輸入是平穩(wěn)隨機序列x(n)，輸出為因為輸入是平穩(wěn)隨機序列，E［x(n-k)］=mx，故這樣，mx與時間無關，my也與時間無關。(1.64)

先假定輸出是非平穩(wěn)的，那么，輸出的自相關函數(shù)為因為x(n)是平穩(wěn)的，因此所以2).自相關函數(shù)對于上式,令l=r-k,得到式中v(l)通常稱為h(n)的自相關函數(shù)，也可以將v(l)寫成卷積形式：v(l)=h*(l)﹡h(-l)=h*(-l)﹡

h(l)

上式表示v(l)是h*(l)與h(-l)離散卷積或者是h*(-l)和h(l)的離散卷積。這樣線性系統(tǒng)輸出的自相關函數(shù)等于輸入自相關函數(shù)與線性系統(tǒng)單位脈沖響應的自相關函數(shù)的卷積。2.系統(tǒng)的輸入、輸出互相關函數(shù)

線性非時變系統(tǒng)輸入與輸出之間互相關函數(shù)為因此，輸入、輸出之間的互相關函數(shù)等于系統(tǒng)的單位脈沖響應與輸入自相關函數(shù)的卷積。一般稱式為輸入、輸出互相關定理。3.輸出響應的功率譜密度函數(shù)為討論方便起見，現(xiàn)假定x(n)是實信號，這樣，y(n)也是實的。x(n)和y(n)之間的關系主要有：如下四個關系成立：由此可以看出：隨機信號通過線性系統(tǒng)，使用的是輸入、輸出的自相關函數(shù)、自功率譜、互相關函數(shù)和互功率譜。解：例所以：由差分方程，有:方差為1的白噪聲序列，即：也是平穩(wěn)信號，已知求：系統(tǒng)辨識問題例解：由有又最小相位最大相位用“譜分解”法求4.相關卷積定理

將前面推導出相關函數(shù)式重寫如下：該公式用語言敘述如下：x(n)與h(n)卷積的自相關函數(shù)等于x(n)的自相關函數(shù)和h(n)的自相關函數(shù)的卷積。或者簡單地說,卷積的相關等于相關的卷積。用一般公式表示如下：如果e(n)=a(n)*b(n)f(n)=c(n)*d(n)那么

ref(m)=rac(m)*

rbd(m)假設系統(tǒng)的輸入、輸出和單位脈沖響應分別用x(n)、y(n)和h(n)表示，試求輸入、輸出互相關函數(shù)和輸入自相關函數(shù)之間的關系。解按照相關卷積定理，得到x(n)=x(n)*δ(n)y(n)=x(n)*h(n)rxy(m)=rxx(m)*rδh(m)式中例將該式帶入上式，得到rxy(m)=rxx(m)*h(m)這就是已經(jīng)推導出的輸入、輸出互相關卷積定理。對于實、平穩(wěn)隨機信號相關函數(shù)的性質(1)，得到輸出、輸入互相關函數(shù)和輸入自相關函數(shù)之間的關系：ryx(m)=rxy(-m)=rxx(-m)*h(-m)=rxx(m)*h(-m)Pyx(z)=Pxx(z)H(z-1)按照圖推導兩個系統(tǒng)的輸出互相關函數(shù)與輸入互相關函數(shù)之間的關系。解y1(n)=x1(n)*h1(n)y2(n)=x2(n)*h2(n)按照相關卷積定理，有例按照圖還有下面關系式，作為練習，請自己證明。(1)(2)四、統(tǒng)計估計問題目標：用隨機信號的一次樣本實現(xiàn)的有限長數(shù)據(jù)估計其統(tǒng)計特征量（均值，方差，相關，譜等）四、統(tǒng)計估計問題根據(jù)觀測數(shù)據(jù)來定量推斷某個量的過程就稱為統(tǒng)計估計問題。設隨機信號的某個數(shù)字特征量的真值為估計值為，顯然，是的函數(shù)，且是隨機變量，即為了衡量對的近似程度，我們可以引入下列指標：f可為線性函數(shù)，亦可為其它函數(shù)

四、統(tǒng)計估計問題定義1.5.1

為估計的偏差。若，則稱是的無偏估計；若，則稱是的漸近無偏估計。

定義1.5.2

為估計的方差。它反映了的各次估計相對于估計均值的偏離程度。四、統(tǒng)計估計問題定義1.5.3

為估計的均方誤差。若，則稱是的一致估計；若，則稱是的漸近一致估計。

隨機信號均值，方差，相關的估值設x(n)為各態(tài)遍歷的平穩(wěn)隨機信號均值：xN(n)，n=0,1,2,…,N-1為N點觀測值方差：自相關：估計方法1：長2N+1,m:-(N-1)~(N-1);以m=0呈偶對稱估計偏差：故為漸近無偏估計有偏估計例：令則w(m)N0-N1三角窗函數(shù)對x(n)截斷：x(n)d(n)(矩形數(shù)據(jù)窗：0~N-1）對r(m)截斷：r(m)w(m)(三角延遲窗：-N+1~N-1）w(m)正好是的d(n)自相關m估計的方差：為的漸近無偏一致估計即：估計質量與N（矩形數(shù)據(jù)窗）和m（三角延遲窗）有關估計方法2：可證：均值：方差：但當ImI

大時，方差性能不如方法1。為的無偏一致估計即：相關的快速算法（FFT）小結：相關函數(shù)的估值實際上是一種平均過程，參加平均的數(shù)據(jù)越多（N大，m?。乐翟娇煽?。N有限，大滯后量m是產(chǎn)生相關函數(shù)估值誤差的主要原因，也是造成功率譜估計誤差的原因。又根據(jù)功率譜的定義，功率譜計算需要無窮多測量數(shù)據(jù)，實際上只能進行譜估計；經(jīng)典譜估計是建立在傅立葉變換基礎上的功率譜計算方法確定性信號一般為能量有限信號，其傅立葉變換即為信號的頻譜（頻域特征）；而隨機信號一般為能量無限信號，其傅立葉變換不存在；但一般為功率信號，故其頻域特征只能用功率譜來表示。五、功率譜及其估計功率譜的概念設X(n)為一(零均值）實平穩(wěn)離散隨機序列自相關函數(shù)為功率譜定義：（Wiener-Khinchine定理）（一對傅立葉變換）五、功率譜及其估計五、功率譜及其估計在功率譜估計中，常用的估計方法有兩大類。

一類方法稱之為經(jīng)典譜估計，這類方法是直接根據(jù)觀測的樣本數(shù)據(jù)進行功率譜估計；另一類方法稱為現(xiàn)代譜估計，這類方法是先根據(jù)觀測的樣本數(shù)據(jù)，設法建立能描述隨機過程的數(shù)學模型，然后，再借此模型來求出信號的功率譜。五、功率譜及其估計功率譜的兩個最基本的定義：功率譜及其估計經(jīng)典譜估計的基本方法可以分為兩大類一是根據(jù)式由觀測數(shù)據(jù)直接計算功率譜，常稱為直接法；另一方法是先由觀測數(shù)據(jù)估計隨機信號的自相關函數(shù)，然后，再由計算其功率譜，因此，這種方法常被稱為間接法。經(jīng)典功率譜估計直接法也稱為周期圖法。在只有隨機信號的N個觀測數(shù)據(jù)的情況下，一個最簡單估計式為式中，是的DTFT。若將在單位圓上等間隔取樣，則上式可寫為

經(jīng)典功率譜估計主要的性能特點：估計器的均值

式中，是三角窗(也稱Bartlett窗)的DTFT。由窗函數(shù)的性質可得也就是說，周期圖譜估計器是漸近無偏的。經(jīng)典功率譜估計估計器的方差由此可見，其方差不隨記錄長度N增加而減小，而是趨于常數(shù)，因此它不是功率譜的一致估計。經(jīng)典功率譜估計間接法也稱為BT法，通過觀測的N個數(shù)據(jù)，先估計出自相關函數(shù)，然后對加窗并求DTFT得到功率譜，記為，即式中，，是一窗函數(shù)。為確保估計的功率譜不出現(xiàn)負譜，要求此窗函數(shù)的DTFT必須是非負的。經(jīng)典功率譜估計上式也可寫為譜估計器的主要特性估計器的均值式中，是窗函數(shù)的DTFT。經(jīng)典功率譜估計估計器的方差

研究上面兩個公式可以發(fā)現(xiàn)，若要使偏差小，M就應選得足夠大，因為這樣才能使窗函數(shù)起到函數(shù)的作用。另一方面，若方差要小，則M就應選得盡量小。因此這種方法需要對偏差和方差進行折衷選擇。周期圖法與相關法關系討論即即：周期圖是M=N-1相關法的一個特例可表示為：當可認為是對最大長度為2N-1的用長度為2M+1的矩形窗函數(shù)v(m)進行截斷處理第二次加窗的作用等效于對功率譜作卷積運算其作用是對周期圖進行“平滑”處理，故可以認為相關法是對周期圖法的平滑改進。經(jīng)典譜估計計算流程：N點截斷補零估計線性相關IDFTDFT經(jīng)典譜估計法小結：優(yōu)點：計算簡單，可用FFT，物理概念清楚；缺點：（1）譜分辨率低（正比于）原因是不可避免的加窗處理（數(shù)據(jù)窗，延遲窗），造成譜的泄漏；（2）方差大（即譜的波動大）原因是缺少均值和極限運算。改進：但沒有一種窗函數(shù)能使方差、偏差和分辨率同時得到改善。用適當?shù)拇昂瘮?shù)進行平均和平滑窗函數(shù)的作用：

1、主瓣決定譜的分辨力；

2、旁瓣決定譜的功率泄漏。平均周期圖法是基于這樣的思想：對一個隨機變量進行觀測，得到L組獨立記錄數(shù)據(jù)，用每一組數(shù)據(jù)求其均值，然后將L個均值加起來求平均。這樣得到的均值，其方差將是用一組數(shù)據(jù)得到的均值的方差的1/L。假設隨機信號x(n)的觀測數(shù)據(jù)區(qū)間為：0≤n≤M-1，共進行了L次獨立觀測，得到L組記錄數(shù)據(jù)，每一組記錄數(shù)據(jù)用xi(n),i=1,2,3,…,L表示，第