信號檢測與估計教學(xué)資料 第三章 信號檢測與估計

1、1 第三章第三章 信號的統(tǒng)計檢測理論信號的統(tǒng)計檢測理論 復(fù)習(xí)總結(jié)復(fù)習(xí)總結(jié) 2 第三章第三章 信號的統(tǒng)計檢測理論信號的統(tǒng)計檢測理論 經(jīng)典的信號統(tǒng)計檢測理論經(jīng)典的信號統(tǒng)計檢測理論 統(tǒng)計信號檢測理論的基本概念統(tǒng)計信號檢測理論的基本概念 二元信號檢測的最佳檢測準(zhǔn)則二元信號檢測的最佳檢測準(zhǔn)則 信號狀態(tài)的判決的方法和檢測性能的分析信號狀態(tài)的判決的方法和檢測性能的分析 M M元信號的最佳檢測元信號的最佳檢測 參量信號的復(fù)合假設(shè)檢驗參量信號的復(fù)合假設(shè)檢驗 序列檢測序列檢測 3 貝葉斯準(zhǔn)則基本思路貝葉斯準(zhǔn)則基本思路: : 根據(jù)給定的代價計算平均代價根據(jù)給定的代價計算平均代價 按照平均代價最小劃分觀察空間按照平均

2、代價最小劃分觀察空間, ,得到判決準(zhǔn)則得到判決準(zhǔn)則 對判決表達(dá)式進(jìn)行化簡對判決表達(dá)式進(jìn)行化簡 貝葉斯準(zhǔn)則貝葉斯準(zhǔn)則 4 11011 00100 0 1 1 0 ccHP ccHP Hxp Hxp H H 貝葉斯判決準(zhǔn)則貝葉斯判決準(zhǔn)則 0 1 Hxp Hxp xl def 定義為定義為似然比函數(shù)似然比函數(shù) 11011 00100 ccHP ccHP def 定義為定義為判決門限判決門限 1 0 H H xl 是一維隨機變量，稱為是一維隨機變量，稱為檢驗統(tǒng)計量檢驗統(tǒng)計量 xl 不依賴于假設(shè)的先驗概率，也與代價因子無關(guān)，不依賴于假設(shè)的先驗概率，也與代價因子無關(guān)，適用于不同先驗概率適用于不同先驗概率

3、和不同代價因子的最佳信號檢測。和不同代價因子的最佳信號檢測。 5 貝葉斯檢測性能分析貝葉斯檢測性能分析 計算基本原則：根據(jù)化簡后的最簡判決表示式進(jìn)行計算。計算基本原則：根據(jù)化簡后的最簡判決表示式進(jìn)行計算。 計算步驟：計算步驟： 步驟步驟1：推導(dǎo)貝葉斯檢測準(zhǔn)則的最簡表示形式推導(dǎo)貝葉斯檢測準(zhǔn)則的最簡表示形式 1 0 H H xl 步驟步驟2：根據(jù)最簡表示形式，計算各種假設(shè)下，統(tǒng)計量的概率密度函數(shù)根據(jù)最簡表示形式，計算各種假設(shè)下，統(tǒng)計量的概率密度函數(shù) 1 Hlp 0 Hlp 步驟步驟3：計算判決概率計算判決概率 10 HHP 01 HHP dlHlpHHP 110 dlHlpHHP 001 6 最小

4、平均錯誤概率準(zhǔn)則最小平均錯誤概率準(zhǔn)則 0 100111101111010000 R Cc P Hc P HP HccpHP HccpHd xxx 0 1100 cc1 1001 cc 0 01100 R CP HP HpHP HpHd xxx 把使被積函數(shù)取負(fù)值的觀察值把使被積函數(shù)取負(fù)值的觀察值x值劃分給值劃分給R0區(qū)域，而把其余的觀察值區(qū)域，而把其余的觀察值x值值 劃分給劃分給R1，即可保證平均代價最小。，即可保證平均代價最小。 1100 P HpHP HpHxx 判決判決H0假設(shè)成立假設(shè)成立 1100 P HpHP HpHxx 判決判決H1假設(shè)成立假設(shè)成立 7 最小平均錯誤概率準(zhǔn)則最小平均

5、錯誤概率準(zhǔn)則 1 0 ln ( )ln H H x 1 0 1 0 10 ( ) H defdef H pHP H P HpH x x x 最小平均錯誤概率判決準(zhǔn)則最小平均錯誤概率判決準(zhǔn)則 1 0 ( ) H H l x 化簡化簡 8 最小平均錯誤概率準(zhǔn)則最小平均錯誤概率準(zhǔn)則 1 0 1 0 10 ( ) H defdef H pHP H P HpH x x x 最小平均錯誤概率判決準(zhǔn)則最小平均錯誤概率判決準(zhǔn)則 0 1100 cc1 1001 cc 若若，且兩個假設(shè)的先驗概率等概，且兩個假設(shè)的先驗概率等概 最小平均錯誤概率準(zhǔn)則轉(zhuǎn)化為最小平均錯誤概率準(zhǔn)則轉(zhuǎn)化為 1 0 10 H H pHpH x

6、x 最大似然檢測準(zhǔn)則最大似然檢測準(zhǔn)則 9 最大后驗概率準(zhǔn)則最大后驗概率準(zhǔn)則 (Maximum a posteriori prob. criterion) 11010010 cccc 應(yīng)用范圍應(yīng)用范圍 1 0 1 01000 101110 H H pHP Hcc P HccpH x x 貝葉斯判決準(zhǔn)則貝葉斯判決準(zhǔn)則 1 0 1 0 10 H H pHP H P HpH x x n 形式上于最小平均錯誤概率準(zhǔn)則相同形式上于最小平均錯誤概率準(zhǔn)則相同 10 極小化極大準(zhǔn)則極小化極大準(zhǔn)則(Minimax criterion) n 應(yīng)用范圍應(yīng)用范圍 假設(shè)的先驗概率未知，判決代價因子給定假設(shè)的先驗概率未知，

7、判決代價因子給定 n 目的目的 盡可能避免產(chǎn)生過分大的代價，使極大可能盡可能避免產(chǎn)生過分大的代價，使極大可能 代價最小化代價最小化 11 極小化極大準(zhǔn)則極小化極大準(zhǔn)則 利用極小化極大準(zhǔn)則進(jìn)行檢測的基本步驟：利用極小化極大準(zhǔn)則進(jìn)行檢測的基本步驟： 步驟步驟1：計算兩個似然函數(shù)，構(gòu)建似然比計算兩個似然函數(shù)，構(gòu)建似然比 步驟步驟2：假設(shè)判決門限為假設(shè)判決門限為 ，構(gòu)建貝葉斯檢測基本表達(dá)式，構(gòu)建貝葉斯檢測基本表達(dá)式 步驟步驟3：化簡成最簡形式化簡成最簡形式 1 0 H H l x 步驟步驟4：利用極小化極大準(zhǔn)則，確定最終判決門限利用極小化極大準(zhǔn)則，確定最終判決門限 12 奈曼奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則

8、 (Neyman-Pearson criterion) n 應(yīng)用范圍應(yīng)用范圍 假設(shè)的先驗概率未知，判決代價未知假設(shè)的先驗概率未知，判決代價未知(雷達(dá)信號檢測雷達(dá)信號檢測) n 奈曼奈曼-皮爾遜檢測皮爾遜檢測 01 HHP 盡可能小，盡可能小， 11 HHP盡可能大。盡可能大。 n 目標(biāo)目標(biāo) n 實際情況實際情況 01 HHP減小時，減小時， 11 HHP也相應(yīng)減?。灰蚕鄳?yīng)減?。?01 HHP增加增加 ， ，也隨之增加。也隨之增加。 11 HHP 在在 約束條件下約束條件下, , 使正確判決概率使正確判決概率 最大的準(zhǔn)則。最大的準(zhǔn)則。 01 HHP 11 HHP 13 Step3 根據(jù)統(tǒng)計量計算

9、根據(jù)統(tǒng)計量計算 和和 奈曼奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則 (Neyman-Pearson criterion) 0 Hlp 求解步驟求解步驟 Step1 計算似然函數(shù)、似然比計算似然函數(shù)、似然比,并寫出判決表達(dá)式并寫出判決表達(dá)式 Step2 化簡化簡 1 Hlp Step4 在在 約束下，計算判決門限約束下，計算判決門限 1 001 R dlHlpHHP 1 0 0 1 H H Hxp Hxp 14 貝葉斯檢測，給定各種判決代價因子，且已知各假設(shè)的先驗概率條件下，貝葉斯檢測，給定各種判決代價因子，且已知各假設(shè)的先驗概率條件下， 使使平均代價最小平均代價最小的檢測準(zhǔn)則。的檢測準(zhǔn)則。 11011 00

10、100 0 1 1 0 ccHP ccHP Hxp Hxp H H 1 0 0 1 1 0 HP HP Hxp Hxp H H 最小平均錯最小平均錯 誤概率判決誤概率判決 準(zhǔn)則準(zhǔn)則 xHPxHP H H 01 1 0 最大后驗最大后驗 概率檢測概率檢測 準(zhǔn)則準(zhǔn)則 0 1100 cc 1 1001 cc 11010010 cccc 等概等概 01 1 0 HxpHxp H H 最大似然判最大似然判 決準(zhǔn)則決準(zhǔn)則 貝葉斯及派生檢測準(zhǔn)則貝葉斯及派生檢測準(zhǔn)則(1) 符合最小平均錯誤概率準(zhǔn)則的符合最小平均錯誤概率準(zhǔn)則的 一定符合最大后驗概率檢測準(zhǔn)一定符合最大后驗概率檢測準(zhǔn) 則，反之不成立。則，反之不成立

11、。 15 按照似然比檢測形式構(gòu)建基本表達(dá)式，按照似然比檢測形式構(gòu)建基本表達(dá)式， 并在并在 的的 約束下計算最終判決門限。約束下計算最終判決門限。 貝葉斯檢測，給定各種判決代價因子，且已知各假設(shè)的先驗概率條件下，貝葉斯檢測，給定各種判決代價因子，且已知各假設(shè)的先驗概率條件下， 使使平均代價最小平均代價最小的檢測準(zhǔn)則。的檢測準(zhǔn)則。 11011 00100 0 1 1 0 ccHP ccHP Hxp Hxp H H 貝葉斯及派生檢測準(zhǔn)則貝葉斯及派生檢測準(zhǔn)則(2) 信源先驗信源先驗 概率未知概率未知 信源先驗概率及信源先驗概率及 代價因子均未知代價因子均未知 極小化極大準(zhǔn)則極小化極大準(zhǔn)則奈曼皮爾遜準(zhǔn)則

12、奈曼皮爾遜準(zhǔn)則 按照似然比檢測形式構(gòu)建基本表達(dá)式，按照似然比檢測形式構(gòu)建基本表達(dá)式， 并在并在 的約束下計算的約束下計算 最終判決門限。最終判決門限。 * 11 ()() MgFg P PP P 0 0011 cc1 0110 cc 1 100 ()()d R P H Hp l Hl 16 貝葉斯及派生檢測準(zhǔn)則貝葉斯及派生檢測準(zhǔn)則( (3) ) 分析某種檢測方法的性能時，需根據(jù)化簡后的最簡判決表示式進(jìn)行。分析某種檢測方法的性能時，需根據(jù)化簡后的最簡判決表示式進(jìn)行。 計算步驟：計算步驟： 步驟步驟1：推導(dǎo)某種檢測方法下獲得的最簡判決表達(dá)式推導(dǎo)某種檢測方法下獲得的最簡判決表達(dá)式 1 0 H H x

13、l 步驟步驟2：根據(jù)最簡表示形式，計算各種假設(shè)下，統(tǒng)計量的概率密度函數(shù)根據(jù)最簡表示形式，計算各種假設(shè)下，統(tǒng)計量的概率密度函數(shù) 1 Hlp 0 Hlp 步驟步驟3：計算判決概率計算判決概率 10 HHP 01 HHP 17 M元信號的統(tǒng)計檢測元信號的統(tǒng)計檢測 (Detection of M-ary Signal) 基本要求：基本要求： n 掌握貝葉斯準(zhǔn)則掌握貝葉斯準(zhǔn)則 n 掌握最小平均錯誤概率準(zhǔn)則和最大似然準(zhǔn)則掌握最小平均錯誤概率準(zhǔn)則和最大似然準(zhǔn)則 18 M元信號檢測元信號檢測 1 0, M ijj jj i IP HpH xx 最小平均錯誤概率準(zhǔn)則最小平均錯誤概率準(zhǔn)則 最小的劃分至最小的劃分至

14、 ,0,1,1, ij IIjMjixx n 為保證平均錯誤概率最小，應(yīng)把所有使為保證平均錯誤概率最小，應(yīng)把所有使 i R ，即當(dāng)滿足 ，即當(dāng)滿足 i Ix 判決區(qū)域判決區(qū)域 時，判決時，判決Hi成立概率成立概率 n 正確判決代價為正確判決代價為0，錯誤判決代價為，錯誤判決代價為1，則，則 1 0, M iijjjjj jj i IccP HpH xx 11 00 () (|) MM ejij ij PP HP HH n 最小平均錯誤概率最小平均錯誤概率 19 M元信號檢測元信號檢測 i M j j M ijj ji HxpHxp M Hxp M xI 1 0 1 , 0 11 最大似然檢測最

15、大似然檢測 n 正確判決代價為正確判決代價為0，錯誤判決代價為，錯誤判決代價為1，且信源的假設(shè)先驗等概時，且信源的假設(shè)先驗等概時 n 判決規(guī)則為在判決規(guī)則為在M個似然函數(shù)個似然函數(shù) 中，選擇使中，選擇使 i Hxp i Hxp 最大的假設(shè)成立。最大的假設(shè)成立。 1 , 0 M ijj jjjjiji HxpHPccxI 20 參量信號的統(tǒng)計檢測參量信號的統(tǒng)計檢測 (Detection of Signal with Unknown Parameter) 基本要求：基本要求： 理解參量信號檢測的基本概念理解參量信號檢測的基本概念 掌握兩種檢測方法：掌握兩種檢測方法： 廣義似然比檢驗和貝葉斯方法廣義

16、似然比檢驗和貝葉斯方法 21 先利用最大似然方法對未知參量進(jìn)行估計，然后利用得到先利用最大似然方法對未知參量進(jìn)行估計，然后利用得到 的估計量按照確定信號的檢測方法進(jìn)行。的估計量按照確定信號的檢測方法進(jìn)行。 參量信號的統(tǒng)計檢測參量信號的統(tǒng)計檢測 (Detection of Signal with Unknown Parameter) argmax(|;) ii imlii P pH x 廣義似然比檢驗廣義似然比檢驗 最大似然估計最大似然估計 ; ii pHx 使似然函數(shù)使似然函數(shù) 達(dá)最大的達(dá)最大的 作為該參量的估計量，作為該參量的估計量， i iml 記為記為 廣義似然比廣義似然比 1 0 11

17、 20 (|;) ( ) (|;) H ml H ml pH pH x x x 22 參量信號的統(tǒng)計檢測參量信號的統(tǒng)計檢測 (Detection of Signal with Unknown Parameter) 貝葉斯檢測方法貝葉斯檢測方法 n 概率密度函數(shù)已知的情況概率密度函數(shù)已知的情況 n 猜測概率密度函數(shù)的情況猜測概率密度函數(shù)的情況 n 未知參量的奈曼未知參量的奈曼-皮爾遜檢測皮爾遜檢測 23 參量信號的統(tǒng)計檢測參量信號的統(tǒng)計檢測 概率密度函數(shù)已知的情況概率密度函數(shù)已知的情況 11011 00100 0 1 1 0 ccHP ccHP Hxp Hxp H H 貝葉斯檢測準(zhǔn)則貝葉斯檢測準(zhǔn)

18、則 參量信號的檢測中，信源在假設(shè)參量信號的檢測中，信源在假設(shè) Hj 下的條件概率密度函數(shù)為下的條件概率密度函數(shù)為 ; jj pHx | 函數(shù)函數(shù) 得到似然函數(shù)得到似然函數(shù) ? 如何由條件似然函數(shù)如何由條件似然函數(shù) ; jj pHx | 和未知參量的概率密度和未知參量的概率密度 j p j pHx | 24 ; j jjjjj pHpHpd xx 1 1 0 0 1111 1 01000 101110 0100 , , H H pHpd pHP Hcc P HccpHpHpd x x xx 參量檢測中，貝葉斯檢測準(zhǔn)則為：參量檢測中，貝葉斯檢測準(zhǔn)則為： 25 信號的序列檢測信號的序列檢測 基本原理

19、基本原理 觀測次數(shù)不固定，邊觀測邊判決觀測次數(shù)不固定，邊觀測邊判決 優(yōu)點：在給定性能指標(biāo)的要求下，可使平均觀測次數(shù)最少，優(yōu)點：在給定性能指標(biāo)的要求下，可使平均觀測次數(shù)最少， 即平均檢測時間最短。即平均檢測時間最短。 即如果觀測到第即如果觀測到第k次還不能做出令人滿意的判決，次還不能做出令人滿意的判決， 則繼續(xù)進(jìn)行第則繼續(xù)進(jìn)行第k+1觀測觀測 序列假設(shè)檢測理論由序列假設(shè)檢測理論由Wold在在20世紀(jì)世紀(jì)40年代建立年代建立 26 信號的序列檢測信號的序列檢測 對于二元信號的檢測，進(jìn)行第對于二元信號的檢測，進(jìn)行第k次觀測后，次觀測后， 會出現(xiàn)會出現(xiàn)3種可能的結(jié)果，即種可能的結(jié)果，即 判決判決H1成立成立 判決判決H0成立成立 不進(jìn)行判決，繼續(xù)下一次觀測不進(jìn)行判決，繼續(xù)下一次觀測 因此，需要將判決空間劃分成三個判決區(qū)域，設(shè)定兩個判決門限因此，需要將判決空間劃分成三個判決區(qū)域，設(shè)定兩個判決門限 和和 1 0 0 R 2 R 1 R 觀測空間觀測空間R 27 信號的序列檢測信號的序列檢測 1 0 1 Hxp Hxp x k k k 滿足滿足 時，判為時，判為H1成立成立 0 0 1 Hxp Hxp x k k k 滿足滿足 時，判為時，判為H0成立成立 1 0 1 0 Hxp