第二十四講最小二乘估計波形估計

第二十四講最小二乘估計波形估計演示文稿當前1頁，總共55頁。（優(yōu)選）第二十四講最小二乘估計波形估計當前2頁，總共55頁。例：正弦信號頻率的估計最小化難以得到閉合性形式的解，原因是信號與未知參數(shù)f0之間存在高度的非線性關(guān)系。當前3頁，總共55頁。當前4頁，總共55頁。加權(quán)最小二乘估計當前5頁，總共55頁。討論：（1）當觀測噪聲的均值為零時，最小二乘與加權(quán)最小二乘是無偏估計。當前6頁，總共55頁。（2）估計的方差陣當前7頁，總共55頁。(3)對于加權(quán)最小二乘估計，如果有一些模型的知識，如E(v)=0，E[vvT]=R，當W=R-1時，估計誤差的方差陣達到最小，這個最小的方差陣為這時的估計稱為馬爾可夫估計當前8頁，總共55頁。例：信號幅度的估計設(shè)N次獨立觀測為方法一：當前9頁，總共55頁。方法2：當前10頁，總共55頁。信號處理實例：最小二乘在目標跟蹤中的應(yīng)用目標的跟蹤問題可等效成一個曲線擬合問題假定目標做勻速直線運動運動模型（只考慮x方向）：當前11頁，總共55頁。觀測模型：令當前12頁，總共55頁。遞推算法：批處理算法，運算量太大。當前13頁，總共55頁。遞推算法：當前14頁，總共55頁。7.7波形估計(WaveformEstimation)根據(jù){z(n),n[n0,nf]}估計s(n)波形估計的應(yīng)用圖像恢復(fù)語音恢復(fù)目標跟蹤彈道數(shù)據(jù)處理當前15頁，總共55頁。1.波形估計的三種類型(1)濾波：根據(jù)當前和過去的觀測值

{z(k),k=n0,n0+1,...,n}對信號s(n)進行估計(2)預(yù)測:根據(jù)當前和過去的觀測值{z(k),k=n0,n0+1,...,nf

}對未來時刻n(n>nf)的信號s(n)進行估計，預(yù)測也稱為外推。數(shù)據(jù)數(shù)據(jù)當前16頁，總共55頁。

(3)內(nèi)插:根據(jù)某一區(qū)間的觀測數(shù)據(jù){z(k),k=n0,n0+1,...,nf

}對區(qū)間內(nèi)的某一個時刻n(n0<n<nf)的信號進行估計，內(nèi)插也稱為平滑。數(shù)據(jù)當前17頁，總共55頁。波形估計宜采用可建立遞推算法的線性最小均方估計或最小二乘估計。v(n)相互獨立，且若采用最大似然估計當前18頁，總共55頁。這個估計量是沒有意義的，因為沒有對觀測做任何處理。當前19頁，總共55頁。最小均方估計：線性最小均方估計：濾波當前20頁，總共55頁。由正交原理：Wiener-Holf方程波形估計的關(guān)鍵是如何求解Wiener-Holf方程當前21頁，總共55頁。維納濾波器假定信號和觀測過程是平穩(wěn)隨機序列，并且是聯(lián)合平穩(wěn)隨機序列，系統(tǒng)為線性時不變離散時間線性系統(tǒng)，n0=-，即觀測數(shù)據(jù)為{z(k),-<k}，當前22頁，總共55頁。維納濾波器當前23頁，總共55頁。當信號s(n)與觀測噪聲統(tǒng)計獨立時當前24頁，總共55頁。如果假定{z(k),-<k}，系統(tǒng)為因果的線性時不變系統(tǒng)當前25頁，總共55頁。當前26頁，總共55頁。當觀測為白噪聲的時候，當前27頁，總共55頁。如果不是白噪聲，那么可以先白化Hw(z)H2(z)當前28頁，總共55頁。例7.13設(shè)觀測過程為z(n)=s(n)+v(n)，其中假定觀測噪聲v(n)為零均值白噪聲，方差為1，s(n)是具有有理譜的平穩(wěn)隨機序列，功率譜密度為信號s(n)與v(n)統(tǒng)計獨立，求估計s(n)的維納濾波器當前29頁，總共55頁。解：當前30頁，總共55頁。當前31頁，總共55頁。當前32頁，總共55頁。連續(xù)時間的維納濾波器離散時間濾波連續(xù)時間濾波物理可實現(xiàn)物理可實現(xiàn)當前33頁，總共55頁。例7.13設(shè)觀測過程為z(t)=s(t)+v(t)，-<t<其中假定觀測噪聲v(n)為零均值白噪聲，功率譜密度為1，s(n)是具有有理譜的平穩(wěn)隨機過陳，功率譜密度為求估計s(t)的維納濾波器。當前34頁，總共55頁。當前35頁，總共55頁。第七章小結(jié)貝葉斯估計非貝葉斯估計最小均方估計條件中位數(shù)估計最大后驗概率估計線性最小均方估計最大似然估計最小二乘估計都需要計算后驗概率密度需要計算似然函數(shù)只對數(shù)據(jù)模型進行假定當前36頁，總共55頁。1.最小均方估計平方代價函數(shù)的貝葉斯估計最小均方估計是無偏估計2.條件中位數(shù)估計絕對值代價函數(shù)的貝葉斯估計當前37頁，總共55頁。3.最大后驗概率估計采用絕對值代價函數(shù)的貝葉斯估計最大后驗概率方程當前38頁，總共55頁。貝葉斯估計都需要計算后驗概率密度，需要已知被估計量的分布特性。先驗信息的應(yīng)用，有利于提高估計的性能。當前39頁，總共55頁。Mean=Median=Mode高斯后驗分布當前40頁，總共55頁。4.最大似然估計最大似然方程：當前41頁，總共55頁。常用信號參數(shù)的估計（1）高斯白噪聲中恒定電平的估計（2）高斯白噪聲的方差估計均值為零均值已知均值未知當前42頁，總共55頁。（3）信號幅度的估計z[n]=As[n]+v[n]，n=0,1,….N-1正弦信號幅度估計:當前43頁，總共55頁。(4)正弦信號相位的估計當前44頁，總共55頁。5.估計的性能0DesirePDF概率密度越尖越好均值要等于真值方差越小越好對于有偏估計，均方誤差越小越好性能指標：無偏性有效性一致性當前45頁，總共55頁。估計量的CRLB當且僅當任何無偏估計的方差滿足當前46頁，總共55頁。達到CRLB的估計稱為效估計量如果有效估計量存在，則該有效估計量一定是最大似然估計如果有效估計量不存在，則最大似然估計的方差不一定是最小的。最大似然估計是漸近有效估計量，即當前47頁，總共55頁。隨機參量的CRLB任何無偏估計的均方誤差滿足等號成立的條件當前48頁，總共55頁。如果有某個無偏估計達到CRLB,那么該估計必定是最大后驗概率估計.而最小均方估計的均方誤差也是最小的,所以這時最小均方估計與最大后驗概率估計等價.當前49頁，總共55頁。6.線性最小均方估計當前50頁，總共55頁。線性最小均方估計是無偏的。當觀測與被估計量是聯(lián)合高斯分布式，線性最小均方估計與最小均方估計等價。矢量形式：當前51頁，總共55頁。