現(xiàn)代信號處理-現(xiàn)代譜

第七章現(xiàn)代譜估計

7.2ARMA模型

7.3功率譜估計的AR模型法

7.1引言

7.4AR模型譜估計的性質(zhì)

7.5ARMA模型譜估計

7.6特征分解法譜估計7.1引言1.經(jīng)典譜估計方法的缺點：根據(jù)觀察到的N個樣本值來估計功率譜，認(rèn)為在這N個數(shù)據(jù)以外的數(shù)據(jù)為零，與實際不符，因而導(dǎo)致了各種缺點。2.現(xiàn)代譜估計方法的根本思想：7.1引言2.現(xiàn)代譜估計方法的根本思想：對平穩(wěn)和遍歷的隨機(jī)過程采樣得到的數(shù)據(jù)不僅僅是一個樣本，其中包含了數(shù)據(jù)之間的相關(guān)性質(zhì)通過提取這種相關(guān)性質(zhì)，也就是先利用采樣數(shù)據(jù)建立隨機(jī)過程的模型，對數(shù)據(jù)進(jìn)行外推，進(jìn)而提高功率譜估計的分辨率。通常稱為參數(shù)模型法。7.1引言3.平穩(wěn)隨機(jī)信號通過線性系統(tǒng)h(n)7.1引言

平穩(wěn)白噪聲通過線性系統(tǒng)將y(n)看成是白噪聲通過一個線性系統(tǒng)的輸出，那么只要得到系統(tǒng)的頻率響應(yīng)，就能夠計算出y(n)的頻譜。7.1引言4.線性系統(tǒng)H(z)7.1引言MA〔MovingAverage〕系統(tǒng)：

x(n-q-1)x(n-q)x(n-q+1)…x(n-1)x(n)x(n+1)…bq……b1b0bq……b1b0bq……b1b07.1引言AR〔AutoRegressive〕系統(tǒng):ARMA系統(tǒng):7.2ARMA模型1.ARMA模型很多隨機(jī)過程可以由或近似由均值為零、方差為的白噪聲序列u(n)經(jīng)過具有有理傳輸函數(shù)H(z)的ARMA線性系統(tǒng)來得到。稱該隨機(jī)過程為ARMA過程。

A(z)-1B(z)7.2ARMA模型只要根據(jù)采樣樣本估計出ARMA模型的參數(shù)〔ai與bi〕，即可求出2.ARMA模型的分類：p階AR模型： ，記作AR(p)。q階MA模型： ，記作MA(q)。普通的ARMA模型： ，記作ARMA(p,q)。7.2ARMA模型3.ARMA過程與有理式譜密度的關(guān)系任意平穩(wěn)ARMA過程，其功率譜密度有如下形式：假設(shè)一平穩(wěn)過程x(n)的功率譜密度形如：那么x(n)可用ARMA(p,q)模型描述，即7.2ARMA模型4.ARMA模型的系統(tǒng)特性穩(wěn)定系統(tǒng)：有限輸入有限輸出。沖擊響應(yīng)絕對值可和：收斂域包含單位圓：因果系統(tǒng)：0時刻以前的沖激響應(yīng)為0，系統(tǒng)是物理可實現(xiàn)的。H(z)的收斂域在某個半徑的圓外。7.2ARMA模型4.ARMA模型的系統(tǒng)特性可逆系統(tǒng)：系統(tǒng)的逆系統(tǒng)1/H(z)是因果穩(wěn)定的，即其零點均在單位圓內(nèi)。7.2ARMA模型5.ARMA模型的Wold分解定理任何一個具有有限方差的ARMA或MA過程都可用某一AR(

)過程唯一地描述。任何一個ARMA或AR過程都可用某一MA(

)過程唯一地描述。7.2ARMA模型5.ARMA模型的Wold分解定理說明：實際應(yīng)用中，假設(shè)模型選擇有誤，仍可通過使階數(shù)足夠大來進(jìn)行合理近似；AR模型求解簡單，可多項選擇擇AR模型進(jìn)行估計。7.2ARMA模型6.ARMA參數(shù)與自相關(guān)函數(shù)之間的關(guān)系自相關(guān)函數(shù)與系統(tǒng)沖激響應(yīng)的關(guān)系 設(shè)系統(tǒng)為因果和最小相位系統(tǒng)，那么7.2ARMA模型自相關(guān)函數(shù)與ARMA參數(shù)的關(guān)系

7.2ARMA模型當(dāng)時，，因此

7.2ARMA模型自相關(guān)函數(shù)與AR參數(shù)的關(guān)系 在ARMA模型中，令q=0可得7.3功率譜估計的AR模型法1.根本概念問題：隨機(jī)序列x(n)符合AR(p)模型，即： 其中p為未知整數(shù)?，F(xiàn)有x(0)x(1)…x(N-1)共N個樣本，要求估計x(n)的功率譜密度。7.3功率譜估計的AR模型法1.根本概念問題：估計x(n)的功率譜密度。思路：求模型階數(shù)p；求求u(n)的方差。7.3功率譜估計的AR模型法2.Yule-Walker方程當(dāng)階數(shù)p時，利用x(n)的自相關(guān)函數(shù)與AR模型參數(shù)的關(guān)系，可建立Y-W方程，解該方程，即可得到AR參數(shù)。AR模型的Yule-Walker方程組7.3功率譜估計的AR模型法令解Y-W方程的Levinson-Durbin遞推法請參考“自適應(yīng)格形濾波器〞的有關(guān)內(nèi)容。7.3功率譜估計的AR模型法AR模型參數(shù)的可辨識性:

矩陣R的秩為p,因此Y-W方程有唯一解。即AR模型的參數(shù)可由p個Yule-Walker方程唯一確定。7.3功率譜估計的AR模型法3.AR模型的階數(shù)p階數(shù)p的影響階數(shù)太低：功率譜受到的平滑太厲害，降低分辨率。階數(shù)太高：會產(chǎn)生許多虛假的譜峰或譜的細(xì)節(jié)。7.3功率譜估計的AR模型法AR模型的擬合特性: AR模型相當(dāng)于用一個p階預(yù)測器對信號進(jìn)行擬合,而白噪聲u(n)相當(dāng)于擬合誤差。階數(shù)太低：不能表達(dá)信號之間的內(nèi)在聯(lián)系；階數(shù)太高：會增加擬合誤差，使模型表現(xiàn)出數(shù)據(jù)隨機(jī)誤差的性質(zhì)。7.3功率譜估計的AR模型法4.AR模型譜估計的性能均值：方差：7.3功率譜估計的AR模型法5.確定AR模型階數(shù)的幾種方法實驗方法：觀察擬合誤差法 算出取各種模型階數(shù)時的白噪聲方差

2，以能使2值顯著減小的模型階數(shù)的最大值作為選定的結(jié)果。7.3功率譜估計的AR模型法信息量準(zhǔn)那么法：〔利用擬合噪聲方差隨階數(shù)增加而減小以及譜估計方差隨階數(shù)增加而增大的特點〕 定義擬合噪聲方差：i)最終預(yù)測誤差〔FPE〕準(zhǔn)那么：7.3功率譜估計的AR模型法ii)Akaike信息準(zhǔn)那么〔AIC〕：，其中N為數(shù)據(jù)長度。

iii)BIC準(zhǔn)那么：7.3功率譜估計的AR模型法iv)最小長度準(zhǔn)那么〔MDL〕v)自回歸傳遞函數(shù)準(zhǔn)那么〔CAT〕7.3功率譜估計的AR模型法說明：當(dāng)數(shù)據(jù)長度N較小時，方法i~v均不理想；在處理實際數(shù)據(jù)時，各種方法的效果差異不大；試驗說明，對于短數(shù)據(jù)，模型階數(shù)選在N/2到N/3之間效果較好。7.3功率譜估計的AR模型法線性代數(shù)法：奇異值分解法行列式檢驗法Gram-Schmidt正交法

7.3功率譜估計的AR模型法6.AR模型定階的奇異值分解法奇異值分解： 對于一個M×N矩陣A，存在一個M×M酉陣U和N×N酉陣V，使得A可分解為 其中為M×N對角矩陣，其主對角線上元素非負(fù)，且 稱為矩陣A的奇異值。 不為0的奇異值的個數(shù)等于A的秩。7.3功率譜估計的AR模型法奇異值分解確定AR階數(shù) 利用R(m)構(gòu)造矩陣：

Re為R的擴(kuò)展，它的秩為p。因此Re有p個主要的奇異值，其余的都十分接近于零?？梢杂肦e的主要奇異值的個數(shù)來確定AR階數(shù)p。7.4AR模型譜估計的性質(zhì)1.性質(zhì)1:AR模型譜估計等效于最大熵譜估計最大熵譜估計問題的提出經(jīng)典譜估計方法具有分辨率低和旁瓣“泄漏〞的問題，其根本原因是自相關(guān)函數(shù)加窗。為克服這些問題必須對自相關(guān)函數(shù)進(jìn)行外推。7.4AR模型譜估計的性質(zhì)最大熵譜估計問題的提出Burg于1967年提出以最大熵作為自相關(guān)函數(shù)外推的準(zhǔn)那么，其合理性在于這樣對自相關(guān)函數(shù)的約束最少，因而時間序列的隨機(jī)性最大，功率譜最光滑〔相當(dāng)于光滑性約束〕。7.4AR模型譜估計的性質(zhì)最大熵譜估計原理熵率的定義：N維隨機(jī)向量x的概率密度為p(x)，那么其熵率定義為：功率譜密度的熵定義(高斯信號)：x越隨機(jī)、概率分布越均勻，其熵率越大。7.4AR模型譜估計的性質(zhì)最大熵譜估計問題的定義：在約束 的條件下，即在時自相關(guān)函數(shù)與觀測值一致的條件下，外推自相關(guān)函數(shù)，使 最大。7.4AR模型譜估計的性質(zhì)最大熵譜估計的求解方法 令7.4AR模型譜估計的性質(zhì)7.4AR模型譜估計的性質(zhì)說明：最大熵譜估計是由功率譜的熵針對未知自相關(guān)函數(shù)求導(dǎo)來得到，它恰好滿足AR模型。對自相關(guān)函數(shù)依使譜熵最大的準(zhǔn)那么進(jìn)行外推后得到的譜實際上就是把信號看作服從AR模型所得到的譜。反之，當(dāng)把信號看成服從AR模型，也相當(dāng)于對自相關(guān)函數(shù)依譜熵最大準(zhǔn)那么進(jìn)行外推。7.4AR模型譜估計的性質(zhì)說明：的自相關(guān)函數(shù)值可用來求得AR模型的參數(shù)。7.4AR模型譜估計的性質(zhì)2.性質(zhì)2:AR譜估計隱含了對自相關(guān)函數(shù)的外推已經(jīng)知道自相關(guān)與AR模型參數(shù)的關(guān)系為

設(shè)R(0),R(1),…R(p)，那么7.4AR模型譜估計的性質(zhì)說明：AR譜估計相當(dāng)于將有限個自關(guān)函數(shù)值按照Y-W方程進(jìn)行外推后進(jìn)行付氏變換得到的結(jié)果；由該方法將自相關(guān)函數(shù)進(jìn)行了外推，克服了經(jīng)典譜估計方法加窗導(dǎo)致分辨率低和旁瓣泄露的問題。7.4AR模型譜估計的性質(zhì)AR模型譜估計與周期圖比較例如周期圖估計頻譜AR模型估計頻譜7.4AR模型譜估計的性質(zhì)3.性質(zhì)3:AR譜估計與線性預(yù)測譜估計等效線性預(yù)測譜估計：求最小均方誤差意義下針對隨機(jī)序列x(n)的p階預(yù)測器7.4AR模型譜估計的性質(zhì)3.性質(zhì)3:AR譜估計與線性預(yù)測譜估計等效與Y-W方程組相同AR譜估計相當(dāng)于:用隨機(jī)序列前p個時刻的值在MMSE準(zhǔn)那么下預(yù)測〔外推〕當(dāng)前值，依次外推出未知序列后再進(jìn)行譜估計。7.4AR模型譜估計的性質(zhì)說明：匹配問題A(z)-1A(z)7.4AR模型譜估計的性質(zhì)匹配問題功率譜匹配自相關(guān)匹配7.4AR模型譜估計的性質(zhì)匹配問題能否時域匹配?基于自相關(guān)函數(shù)的AR模型譜估計只能做到功率譜匹配自相關(guān)匹配7.4AR模型譜估計的性質(zhì)4.影響AR譜估計性能的因素噪聲 假設(shè)存在觀測白噪聲v(n)，受干擾的AR過程變?yōu)?/p>

y(n)符合ARMA(p,p)模型7.4AR模型譜估計的性質(zhì)噪聲

不僅有極點，而且有零點。 當(dāng)時，零點與原來的極點抵消，產(chǎn)生非常平滑的譜，導(dǎo)致分辨率下降。7.4AR模型譜估計的性質(zhì)自相關(guān)函數(shù)的計算誤差理想情況下，應(yīng)有

事實上由于估計誤差，可能造成

即估計的譜中多出N-p個額外的極點。假設(shè)其中有靠近單位圓的極點，那么會形成虛假的譜峰。7.4AR模型譜估計的性質(zhì)克服噪聲對AR譜估計的影響i)對數(shù)據(jù)濾波，減小噪聲；ii)采用高階AR模型ARMA(p,q)模型可由AR(∞)描述。因此，隨著AR模型階數(shù)的增加，估計結(jié)果趨于y(n)的真實譜；考慮到自相關(guān)計算的誤差，AR模型的階數(shù)一般不超過數(shù)據(jù)長度的一半。iii)采用ARMA(p,p)模型。7.4AR模型譜估計的性質(zhì)5.自相關(guān)法求使在觀測數(shù)據(jù)范圍內(nèi)前向預(yù)測誤差功率最小的模型參數(shù)

7.4AR模型譜估計的性質(zhì)5.自相關(guān)法設(shè)在n<0及n>=N范圍內(nèi)，x(n)=0

7.4AR模型譜估計的性質(zhì)5.自相關(guān)法自相關(guān)法的求解式與Y-W方程組形式一致 7.4AR模型譜估計的性質(zhì)6.協(xié)方差法防止假設(shè)在n<0及n>=N范圍內(nèi)，x(n)=07.4AR模型譜估計的性質(zhì)6.協(xié)方差法7.4AR模型譜估計的性質(zhì)6.協(xié)方差法該方程組不能用Levinson算法求解7.4AR模型譜估計的性質(zhì)7.修正協(xié)方差法聯(lián)合前向預(yù)測和后向預(yù)測7.4AR模型譜估計的性質(zhì)7.修正協(xié)方差法7.4AR模型譜估計的性質(zhì)7.修正協(xié)方差法該方法用于計算自相關(guān)的數(shù)據(jù)量加倍7.5ARMA模型譜估計1.MA模型參數(shù)與自相關(guān)的關(guān)系 由系統(tǒng)沖激響應(yīng)與自相關(guān)的關(guān)系已經(jīng)得到7.5ARMA模型譜估計2.MA模型的系數(shù)求解MA模型可由無窮階AR模型逼近7.5ARMA模型譜估計等效于的q階線性預(yù)測器。設(shè)計使最小，可逼近。7.5ARMA模型譜估計MA模型參數(shù)估計步驟：由x(n)建立AR(p)，，得到由建立q階MMSE線性預(yù)測器，該預(yù)測器的系數(shù)為。7.5ARMA模型譜估計3.ARMA模型參數(shù)與自相關(guān)的關(guān)系7.5ARMA模型譜估計4.ARMA參數(shù)估計步驟i)求利用時的自相關(guān)函數(shù)關(guān)系可得：

修正的Yule-Walker方程組7.5ARMA模型譜估計 為防止當(dāng)自相關(guān)矩陣接近奇異時導(dǎo)致數(shù)值計算的不穩(wěn)定性，一般建立超定方程。 設(shè)M>p，那么利用最小二乘法解該方程組，可得7.5ARMA模型譜估計ii)將ARMA模型轉(zhuǎn)化為MA模型即y(n)滿足MA模型。iii)求解y(n)滿足的MA模型的參數(shù)。7.5ARMA模型譜估計5.階數(shù)確實定p確實定方法同AR模型。以下設(shè)p。構(gòu)造矩陣： 可以證明，rank(R1)=p+1。7.5ARMA模型譜估計用qe代替q，得到R1e:可以證明：當(dāng)qe>q

時，rank(R1e)=p；當(dāng)qe=q時，R1e=R1

，rank(R1e)=p+1。綜上，可以取不同的qe，通過求相應(yīng)的R1e的秩判斷qe是否等于q。7.6特征分解法譜估計1.引言要估計淹沒在噪聲中的正弦信號的頻率，ARMA模型參數(shù)法存在難以克服的缺點特征分解法譜估計是一類利用自相關(guān)矩陣特征值分解來估計白噪聲中多正弦波頻率的方法7.6特征分解法譜估計特征分解法的根本思想：將自相關(guān)矩陣列矢量構(gòu)成的空間分解成為信號子空間和噪聲子空間。利用信號空間或它與噪聲空間的關(guān)系，計算正弦波頻率。特征分解法是一種頻率估計法，而不是嚴(yán)格意義上的譜估計。7.6特征分解法譜估計2.白噪聲中復(fù)正弦波的信號模型 設(shè)M個復(fù)正弦信號與零均值方差的加性復(fù)白噪聲w(n)構(gòu)成一個平穩(wěn)隨機(jī)過程。

其一次實現(xiàn)的N個采樣為

其中，，為常量，為 內(nèi)均勻分布的獨立隨機(jī)變量。 7.6特征分解法譜估計 定義正弦信號矢量： 噪聲矢量： 觀測信號矢量： 那么：3.自相關(guān)矩陣 其中是第m個正弦波的功率。7.6特征分解法譜估計Rx可分解為有用信號自相關(guān)矩陣Rs和噪聲自相關(guān)矩陣Rw之和。Rs和Rw均為N×N方陣，秩分別為M和N。Rs包含著M個復(fù)正弦波的頻率信息。假設(shè)Rx〔或