數(shù)字信號處理2PPT課件

1、 2.1 簡介1、統(tǒng)計決策 統(tǒng)計決策理論主要解決兩大類問題：統(tǒng)計檢測與估計理論。2、統(tǒng)計檢測 利用假設檢驗的方法設計一種最佳檢測器，用以判斷噪聲中是否有信號，或區(qū)分噪聲中的不同信號。 （人臉檢測）第1頁/共34頁3、估計理論 非參數(shù)化估計：如均值估計。 參數(shù)化估計：假定數(shù)據(jù)服從一已知結(jié)構(gòu)的概率模型，但模型的某些參數(shù)未知。第2頁/共34頁4、本書內(nèi)容側(cè)重參數(shù)化估計的理論與方法 第2章（參數(shù)估計理論）：基礎。 第3章（現(xiàn)代譜估計）：參數(shù)化譜估計。 第4章（自適應濾波）：時域或空域濾波器參數(shù) 的自適應更新。 第5章（高階統(tǒng)計量）：基于高階統(tǒng)計量的系統(tǒng) 參數(shù)估計與高階譜的參數(shù)化估計。 第6、7章（時頻

2、信號分析）：非平穩(wěn)性信號的參 數(shù)化表示。第3頁/共34頁 2.2 估計子的性能 把一個真實參數(shù)的估計方法（函數(shù)）稱為估計子。（統(tǒng)計量） 舉例：均值估計NxxxN,21個樣本：NiixNx111 如何評價一個估計子與真實參數(shù)之間的“接近度” ？以及如何對不同估計子的性能進行比較？第4頁/共34頁2、無偏估計與漸進無偏估計 （1）估計子的更嚴格定義。：，記作的函數(shù)維參數(shù)空間映射為維樣本空間一個將的估計子是個樣本獲得真實參數(shù)由NN21TTN,Npp標準是不方便的。為隨機變量，作為評價但，的測度是估計子的誤差逼近真實參數(shù)估計子第5頁/共34頁 （2）估計子的偏差于真實值。，即估計子的期望值等等于零或差

3、估計子是無偏的，若偏期望值，即誤差的的偏差定義為該估計子的估計子參數(shù))()(EbEEbdef第6頁/共34頁./)(:), 2 , 1(1 11EE1211111討論估計子的性能號的一個可能估計值分別為信號和噪聲，信和其中給定的觀察樣本，練習：考慮由估計。是隨機信號均值的無偏例題：證明NxxxsvsNivsxmmNnxENnxNxnxNxNiiixNnxNnNnNn第7頁/共34頁 無偏估計子是估計子期望的一個重要性能，但并不意味著有偏估計子就一定不好。如果一個有偏估計是漸進無偏的，那么它仍然有可能是一個“好”的估計，甚至可能比另一個無偏估計子更好。（3）漸進無偏估計lim0)(NNEbN，即

4、時，當樣本長度的漸進無偏估計子，若是真實參數(shù)估計子第8頁/共34頁)()1 ()()(1)()(1)()()(1)()(111xNnNnNnRNnxnxENnxnxNEREnxnxNRnx證明：是漸進無偏的。估計子的自相關(guān)函數(shù)的一種例題：證明隨機信號的第9頁/共34頁 偏差是誤差的期望值，但偏差為零但不能保證估計子誤差取低值的概率就高，評價估計子的小誤差概率的指標稱為一致性。（4）一致性NNp，即斂為真實參數(shù)時，該估計子以概率收若一致，稱為以概率與真實參數(shù)的估計子參數(shù)第10頁/共34頁第11頁/共34頁3、估計子的有效性 評價小樣本時估計子的性能。 （1）兩個無偏估計子的比較%100)var(

5、)var(21RE有效性測度：第12頁/共34頁 （2）無偏與漸進無偏估計子之間的比較如何選擇估計子？小的方差，更大的偏差，但卻有較具有比如果21222)(E)()(MM差平方的期望值，即：估計子與真實參數(shù)的誤定義為該的均方誤差的估計子定義：參數(shù)第13頁/共34頁222121)(E)(E有不等式恒，若對所有優(yōu)于計子定義：我們稱估計子 問題：有效性只能比較兩個估計子之間的優(yōu)劣，但并不能回答一個估計子是否在所有可能的估計子是最優(yōu)的。第14頁/共34頁4、Fisher信息與Cramer-Rao不等式 （1）隨機變量x的品質(zhì)函數(shù)品質(zhì)定義為：的變量已給定的條件下，隨機當真實參數(shù)x的評價?？捎糜趯烙嬜拥?/p>

6、信息，這些信息參數(shù)品質(zhì)函數(shù)中隱含著真實第15頁/共34頁第16頁/共34頁 （2）Fisher信息 （3）Cramer-Rao不等式（證明略）第17頁/共34頁.)(1)var(:JRaoCramer下界，即達到差稱為是優(yōu)效的，若其方無偏估計子定義第18頁/共34頁 2.3 Bayes估計 估計值的質(zhì)量決定于估計誤差的大小。 估計誤差除了可以用偏差、方差、均方誤差等測量外，還可以用誤差的范圍來測量。 第19頁/共34頁1、二次型損失函數(shù)（標量參數(shù)）（標量參數(shù)）22),(),(CC2、二次型風險函數(shù)NNNMMSENNNNNdefMMSEdxdxxxfdxxfRxxfxxfxxfddxdxxxfE

7、R11121111122),(),(),(),(),(),(第20頁/共34頁3、最小均方誤差估計（Bayes估計） 使二次型風險函數(shù)最小的估計稱為最小均方誤差估計。dxxfdxxfdxxfRNMMSENNMMSEMMSE),(),(),(0111注意：（1）不一定是最優(yōu)的估計，但一定是最保險的（基于最小風險） 。（2）需要知道后驗概率的分布。 第21頁/共34頁 2.4 最大似然估計1、基本思想 在對被估計的未知量（或參數(shù)）沒有任何先驗的情況下，利用已知的若干觀測值估計該參數(shù)。 第22頁/共34頁2、最大似然估計 piLLxxfLiN, 10)(0)(),(ln)(1但是最大似然估計是一種非常實用的估計方法。第23頁/共34頁 2.5 線性均方估計Bayes估計： 不一定是最優(yōu)的估計，但一定是最保險的（基于最小風險） 。 缺點：需要已知后驗分布函數(shù)f(|x1, xN)。最大似然估計： 缺點：必須已知似然函數(shù)f(x1, xN| )形式。 不需要先驗知識的參數(shù)估計方法： 線性均方估計、最小二乘估計第24頁/共34頁第25頁/共34頁R非奇異條件：觀測數(shù)據(jù)相互獨立第26頁/共34頁注意：需要預先知道。第27頁/共34頁 2.6 最小二乘