多通道頻率估計(jì)的原子范數(shù)方法與理論-西安電子科技大學(xué)學(xué)術(shù)信息網(wǎng)

1、第二屆電子信息青年學(xué)者論壇NANJING UNIVERSITY OF SCIENCE & TECHNOLOGY多通道頻率估計(jì)的原子范數(shù)方法與理論楊在西安，2017. 11. 18頻率估計(jì)/線譜估計(jì)從時(shí)域（或空域）樣本估計(jì)信號的頻域信息Superimposed sign引 and noisy samples at Nyquist rate (SNR17d9)Tim©FrequencyFreq =0.2, Amp =2, Initial phase =1.2681AAA/VAvVA/e/WVFreq =0.21, Amp =3, Initial phase =2.7967WWWW

2、WWVWWVWFreq =0.24, Amp =0.5, Initial phase =4 6056Freq =0.6, Amp =1, Initial phase =3.4558/VWWVWWWvWWAWWVWVWWWmWVWVWMWvW統(tǒng)計(jì)信號處理的基本問題3KAM HO UHWWfTYCf SCIENCE ft TEOW0LO3*頻率估計(jì)的數(shù)學(xué)描述y = H = y aCfg + 噪聲習(xí)勿+噪聲Lsr-K個(gè)未知幅值II1/2殆ei27tfK> yj： W個(gè)樣本；fk： K個(gè)未知頻率；&：> «(/):頻率為/的復(fù)值正弦波>給定樣本旳，估計(jì)/訂和S/JK

3、AM HO UWWDttnYCf 旳OWE ft TEOW0LO3*5多通道釆樣的物理含義陣列處理（波達(dá)方向估計(jì)）>用天線陣列探測信號源方向> 旳:某一時(shí)刻天線陣列輸岀樣本> fk'.與信號源方向?qū)?yīng)；sk:源信號>多通道對應(yīng)多時(shí)刻釆樣多通道釆樣的物理含義建筑物結(jié)構(gòu)健康監(jiān)測（模態(tài)分析）基于建筑物震動數(shù)據(jù)分析其模態(tài)參數(shù)，如自然頻率和模式形狀 y；:某一傳感器的時(shí)域樣本血：自然頻率；S/J:模式形狀多通道對應(yīng)多傳感器多通道釆樣的物理含義多通道的應(yīng)用提供了一個(gè)新的采樣維度陣列處理：空間域采樣T空間+時(shí)間域采樣結(jié)構(gòu)健康監(jiān)測：時(shí)間域采樣T時(shí)間+空間域采樣KAMHO UWW

4、DttnYCf 旳OWE ft TEOW0LO3*9多通道釆樣的數(shù)學(xué)描述yQ）=班加3應(yīng)）+噪聲,1eifii2n(N-l)f11訂2好ki27l(N-GfK. sLyS2(l).S2(L) Sk Sn(L)_I厶個(gè)通道厶個(gè)通道共享同一組頻率/U多通道采樣的現(xiàn)實(shí)意義1=獲取厶倍樣本量，提高估計(jì)性能假設(shè)通道間樣本獨(dú)立，F(xiàn)isher信息量隨通道數(shù)增加而增大。無噪環(huán)境下，可識別頻率個(gè)數(shù)1AT -(/V + rank(V)一般來說，樣本矩陣的秩rank(V)隨通道數(shù)(列數(shù))增加而增大。相干源的影響兩信號源相干指S% = Sk2 X常數(shù)，其中Sk = sfc(lX.,sfc(L)形成原因源信號多路徑傳播

5、敵對干擾影響無噪環(huán)境下，樣本矩陣降秩，可識別頻率個(gè)數(shù)減小如所有源相干，則通道間樣本只相差常數(shù)倍，多通道采樣不能提 高頻率估計(jì)性能KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*12壓縮釆樣的數(shù)學(xué)描述Ky(0 =a(/k)k(0 + 噪聲， I =#ei27T(N-l)A1 評好L尹冗(N7)fK. sLy匕.S2(L)Sk(1)Sn(厶)厶個(gè)通道14#壓縮釆樣只觀測樣本矩陣的部分行壓縮釆樣的物理含義和現(xiàn)實(shí)意義樣本缺失9壓縮釆樣，或者Source、Source陣列處理稀疏線性陣列T壓縮采樣目的：基于相同天線數(shù)可得到 更大陣列孔徑，有助得到更高 的分辨率建筑物結(jié)構(gòu)健康監(jiān)測時(shí)域欠

6、采樣T壓縮采樣目的：有助減輕數(shù)據(jù)存儲和傳輸?shù)膲毫AMMO UMMTCfTYCr KIDKE ITEXCLOBV16多通道頻率估計(jì)的難點(diǎn)非線性樣本是頻率參數(shù)的高度非線性函數(shù)頻率個(gè)數(shù)未知代估參數(shù)個(gè)數(shù)未知數(shù)據(jù)結(jié)構(gòu)多樣性通道數(shù)從1到百千，樣本缺失，壓縮采樣噪聲多樣性高斯，異方差，離群樣本信號源多樣性無關(guān)，相關(guān)，相干KAMMO UHMERSfTY Of tClENCE ITEMUOLOB*18多通道頻率估計(jì)算法的評價(jià)標(biāo)準(zhǔn)適用范圍對樣本結(jié)構(gòu)的依賴（通道數(shù)，壓縮采樣，樣本缺失）算法速度計(jì)算性能的不斷提高使多項(xiàng)式時(shí)間算法變得實(shí)用算法解的唯一性多項(xiàng)式時(shí)間內(nèi)非凸優(yōu)化的解具有不確定性精度和分辨率魯棒性噪聲，離群樣

7、本，相干源理論保障算法性能可否嚴(yán)格證明無參方法：傳統(tǒng)波束形成產(chǎn)生于二戰(zhàn)或更早功率譜密度函數(shù)近似為:KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*21KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*#22aHKAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*#或?qū)懗?p(/) =j=l 1=1,其中樣本協(xié)方差矩陣r = yyHKAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*#KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*#頻率由譜峰位置估計(jì)分辨率較低15> Ground trut

8、h Bartlett100.20.3040 50.6070 80.91FrequencyKAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*22無參方法：Capon波束形成譜密度函數(shù)Capon, 1969:1卩二 aH(f)R7a(f)更高分辨率對相干源敏感(協(xié)方差矩陣趨于降秩)KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*23KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*#85 4 3 0.5060.70.3091Frequency8M0d勺 Ground truthCapon無關(guān)源00.

9、0.3091Frequency相干源(1&3)KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*24參數(shù)化方法：極大似然隨機(jī)（源）極大似然-"丹叫2 1°創(chuàng)川+林（尺一 1）£T/c，P/cq2數(shù)據(jù)協(xié)方差矩陣R = Q*kMfk）aH（fk） +（y2i pk：源功率，/J噪聲功率確定（源）極大似然非線性最小二乘2加卜刼）4優(yōu)點(diǎn)：隨通道數(shù)增加漸進(jìn)有效 缺點(diǎn)：1）需知K, 2）對確定厶少理論保障，3）非凸優(yōu)化，無最優(yōu)解保障參數(shù)化方法：子空間方法動機(jī)避免非凸優(yōu)化方法從樣本協(xié)方差矩陣（而非樣本本身）估計(jì)頻率理論基礎(chǔ)A Ca

10、ratheodory-Fejer, 1911發(fā)現(xiàn)：正定奇異Toeplitz矩陣具有唯一 Vandermonde Pisarenko, 1973重新發(fā)現(xiàn)并應(yīng)用于頻率估計(jì)物理意義：如信號源無關(guān)，則頻率和源功率可由數(shù)據(jù)協(xié)方差矩陣唯 一確定Kk=l 5切切一廠ti切一 2 N-l±N_2 6.± T潼）4?歹理z丈學(xué)KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*28參數(shù)化方法：子空間方法具體步驟1. 利用特征值分解，從樣本協(xié)方差矩陣提取信號子空間或噪聲子空間2. 基于子空間估計(jì)頻率信息常見方法> MUSIC Schmidt, 1981（基于噪聲子空間）&

11、gt; ESPRIT Roy et al., 1986（基于信號子空間）優(yōu)點(diǎn)>隨通道數(shù)厶增加漸進(jìn)有效缺點(diǎn)1）需知K確定子空間維度，2）對確定厶少理論保障，3）當(dāng)通道數(shù)少或 樣本缺失時(shí)難以適用，4）對相干源敏感KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*29參數(shù)化方法：子空間方法0 9 8 70 O.B 0.9Frequency16 5 43Akod32> MUSIC估計(jì)結(jié)果。左弋務(wù)夕 KAKiMO UHWTCfTYCf SCIENCE ft TEOMOLOS*0 0.80.9Fr

12、pquenc/1320 9 8 711920無關(guān)源；右：相干源#稀疏表示和壓縮感知稀疏表示技術(shù)己存在數(shù)十年壓縮感知建立了嚴(yán)格實(shí)用的理論體系E J Candes, J Romberg, & T Tao, u Robust uncertaintyprinciples: Exact signal reconstruction from highly incomplete frequency information, ” IEEE TITy 2006.*引用12,000余次> D L.Donoho, uCompressed sensing, ” IEEE TTT，2006>*引用1

13、9,000余次谷歌學(xué)術(shù)，截至2017.11.1520KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*壓縮感知數(shù)學(xué)描述線性壓縮釆樣，非線性恢復(fù)高維信號數(shù)學(xué)模型：y - Ax先驗(yàn)知識：信號X稀疏（少量元素非零）稀疏信號恢復(fù)直觀方法：找最稀疏解如果兀中不多于K元素非零，則M2K個(gè)樣本可保證兀精確恢復(fù)非凸優(yōu)化（組合優(yōu)化）凸松弛minllxlli, subject to y = Ax> lllll = Xjxj>凸優(yōu)化，可多項(xiàng)式時(shí)間內(nèi)求解 一般理論保障假設(shè)：1）兀中不多于K元素非零，2）采樣矩陣4中列彼此弱相關(guān)，或4中元素隨機(jī)產(chǎn)生結(jié)論：MCK ogrN個(gè)樣本可保證兀以高

14、概率精確恢復(fù)對噪聲魯棒對多通道頻率估計(jì)的啟發(fā)稀疏性頻率個(gè)數(shù)較少頻率估計(jì)將觀測樣本表示成若干正弦波的加權(quán)和稀疏表示將觀測樣本表示成矩陣4中若干列的加權(quán)和KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*24與多通道頻率估計(jì)的不同>1(1) 力力（厶）力（厶）1匸 1訂2好k加 加(厶)一 pi27T(N-l)A匸 ei2n(N-l)fK>連續(xù)非線性VS離散線性、i(l). (L)-S2(l)S2(O -Sk Sk(L)_'11多通道VS單通道潼）4?歹理2丈學(xué)KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*25多通道頻率估計(jì)的稀疏方法/壓

15、縮感知方法原理：發(fā)掘稀疏性，尋找可表示樣本集的最小頻率集合%加）疋F=工 agSkk=l消除對參數(shù)的非線性:離散化連續(xù)頻率區(qū)間T有限離散點(diǎn)刁已知（采樣矩陣）；/中兀行非零（稀疏信號），對應(yīng)X個(gè)頻率解決目標(biāo)函數(shù)非凸性：凸松弛頻率個(gè)數(shù)（傷偽范數(shù)）T仇范數(shù)發(fā)掘多通道關(guān)聯(lián)性（聯(lián)合稀疏，行稀疏）応鏗數(shù)泌數(shù)稀疏方法/壓縮感知方法優(yōu)化問題描述 min|s| , subject toY = ASS2,1Sj久§1（厶川III辰訕| p頻率估計(jì)值由S非零行確定適用于多種數(shù)據(jù)結(jié)構(gòu)和噪聲種類任意通道數(shù)，樣本缺失，壓縮采樣 高斯噪聲，異方差，離群樣本KAMHO UWWDttnYCf 旳OWE ft TEOW

16、0LO3*28稀疏方法/壓縮感知性能經(jīng)驗(yàn)表明：傷,1范數(shù)方法具有較高精度和分辨率對噪聲，離群樣本魯棒對相干源魯棒 Ma 1 ioutovCetinWi.llsky, 2005優(yōu)越經(jīng)驗(yàn)性能無嚴(yán)格理論支撐離散化帶來模型誤差矩陣刁列之間高度相關(guān)，壓縮感知理論不適用27稀疏方法/壓縮感知性能離散化帶來其它弊端限制估計(jì)精度真實(shí)值最好 估計(jì)值破壞解的稀疏性真實(shí)值、a常見 估計(jì)值29弋還鄉(xiāng)7KAIMhO UHMMSTTCf KIDICE t TE&MXOOr原子范數(shù)（atomic norm）給定信號y和原子集合調(diào)，定義y的原子范數(shù)為： 駛 丫罰：y = sjajajecA1 （ JJ 一種通用的稀疏

17、度量IlylL = minSjQj所有線性表示中最小的權(quán)重和通過原子范數(shù)尋找y在調(diào)中的簡約線性表示（稀疏表示）特殊形式 壓縮感知：c/l = aj： j = 1,.（?（仇范數(shù)）低秩矩陣恢復(fù)：c/l = uvT（核范數(shù)，nuclear norm）KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*31多通道頻率估計(jì)的原子范數(shù)方法定義原子集合調(diào)=a(/)vr： f G 0,1, |v|2 = 1頻率/可連續(xù)取值向量u發(fā)掘通道間關(guān)聯(lián)性(聯(lián)合稀疏性)誘導(dǎo)的原子范數(shù)IWILz =啟爲(wèi)悅lb： 丫二班丘血'Ikk連續(xù)形式的£2,1范數(shù)作用于連續(xù)域的稀疏優(yōu)化方法目的避免

18、離散化；凸優(yōu)化；提供理論保障KAKIWO UHMERSITYCr KIDICE & TEMaOLOB*33原子范數(shù)優(yōu)化問題描述完整數(shù)據(jù)計(jì)算原子范數(shù)|V|U，在此過程中找到Y(jié)的原子分解用于估計(jì)頻率 和幅值壓縮數(shù)據(jù)只有Y的部分行，記為Yq，其中Q為行標(biāo)集合原子范數(shù)優(yōu)化亠亠minllPII, subject to = Yn求解P用于估計(jì)完整數(shù)據(jù)匕在此過程中找到P的原子分解用于估計(jì) 頻率和幅值有噪情形可類似處理已有原子范數(shù)方法研究單通道，完整數(shù)據(jù)，無噪> Candes-FernandezGranda, CPAM, 2014> FernandezGranda, I&I, 20

19、16單通道，壓縮數(shù)據(jù)，無噪IEEE T-IT, 2013A Tang-Bhaskar-Shah-Recht,單通道，完整數(shù)據(jù)，有噪> Candes-FernandezGranda, JFAA, 2013A Azais-Castro-Gamboa, ACHA, 2015Tang-Bhaskar-Recht, IEEE T-IT, 2015 > FernandezGranda-Tang-Wang-Zheng, I&I,2016KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*35針對多通道待研究問題優(yōu)化問題求解關(guān)鍵：如何克服非線性以計(jì)算原子范數(shù)?理論保障何種情

20、況下頻率可精確估計(jì)?相干源有何影響？多通道能否提高估計(jì)性能？噪聲有何影響？所解決的問題優(yōu)化問題求解如何克服非線性以計(jì)原子范數(shù)?理論保障/何種情況下頻率可精確估計(jì)?/相干源有何影響？/多通道能否提高估計(jì)性能？噪聲有何影響？原子范數(shù)問題的凸優(yōu)化描述定理：下式成立1X yh'Y TIIIL 二 mm=tr(X) + tr(T),> 0.subject to T為半正定Toeplitz矩陣頻率估計(jì)值由T的Vandermonde分解給出：故，原子范數(shù)優(yōu)化問題可化為半正定優(yōu)化求解凸優(yōu)化，多項(xiàng)式時(shí)間可得全局最優(yōu)解KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*38理論保障：

21、完整數(shù)據(jù)定理：假設(shè)任意兩頻率間隔不小于務(wù) 則頻率可由原子范 數(shù)問題精確恢復(fù)頻率間隔約束保證正弦波之間弱相關(guān)結(jié)果適用所有信號源，對相干源魯棒因所有信號源可相干，性能不隨厶增加而提高證明步驟12.證明頻率可恢復(fù)的充分條件(對偶證書)：如存在向量值三角多 項(xiàng)式Q(門=沖財(cái)滿足 i)Q(A)= 和 ii)llQL)ll2 VI, v/e 0,1 丘,則蚯可精確恢復(fù)。k 2 在定理假設(shè)條件下構(gòu)造QL) V為Y的對偶變量a dH磨2丈頻率估計(jì)值也可由此得到V1 1 1/Ji11 /V1VU | '丿 Y'0.80.91FrequencyKAMHO UWW

22、ER8nYCf 旳OWE TEOW0LO3*理論保障：壓縮數(shù)據(jù)Sks/clb互獨(dú)立、零均值的隨機(jī)變定理：假定隨機(jī)釆樣，假設(shè)i)血肚1中任意兩頻率間隔 不小于春,ii量，則每通道M CK logK log(“N)個(gè)樣本可保證頻率 以高概率精確恢復(fù)技術(shù)性假設(shè)ii較弱，允許相干源，故對相干源魯棒因允許相干源，理論結(jié)果不能隨L提高缺點(diǎn)：樣本數(shù)隨L增加而增大證明步驟1.對偶證書：如存在向量值三角多項(xiàng)式(?(/) = aH(fV滿足 i)Q(A)二誌，ii)卩e = 0,和 iii)|Q(/)|2 VI, vf eo,iU，則可精確恢復(fù)。«松初排定理假設(shè)條件卞構(gòu)造w)與現(xiàn)有方法的聯(lián)系改進(jìn)的波束形

23、成方法將昭）=擊也9）邙中Y替代為它的對偶變量頻率位置由最高峰唯一確定改進(jìn)的子空間方法 Toeplitz矩陣T由樣本擬合而來，扮演數(shù)據(jù)協(xié)方差 T唯一確定頻率估計(jì)值改進(jìn)的壓縮感知方法將有限維稀疏信號提升到無窮維，消除離散化為經(jīng)驗(yàn)結(jié)果提供了理論支持與現(xiàn)有理論結(jié)果的聯(lián)系在完整數(shù)據(jù)和壓縮數(shù)據(jù)兩種情形下，將原子范數(shù)方法從單 通道拓展到多通道情形將多通道壓縮感知方法和理論從離散拓展到連續(xù)情形缺點(diǎn)：未能說明多通道的優(yōu)勢Z. Yang and L. Xie, uExact joint sparse frequency recovery via optimization methods,5 IEEE TSP,

24、2016.KAM HO UWWDttnYCf 旳OWE ft TEOW0LO3*40仿真結(jié)果仿真結(jié)果表明綁頻率間隔假設(shè)過于保守 當(dāng)信號源不相干時(shí)，算法性能隨通道數(shù)增加而提高（更高的分辨率或更少的樣本需求）704 上.7Alq3J2JO ooooooooo WAOQsm 一 sswongoQBeaoa.9071)6060430201060504030201000 SO 10012QSaoplt M(C)60504030201060 80 100 120Simple M20400080100120Sample sue M(d)進(jìn)一步問題理論上如何證明多通道的優(yōu)勢?必要假設(shè)>源信號非相干，故需

25、強(qiáng)化匸備上的假設(shè)（I 際 lb）*已有結(jié)果> Gribonval et al, JFAA, 2008和Elchr-Rauhut, IEEE T-IT, 2010針對多通道（離散）稀疏恢復(fù)，證明當(dāng)采樣矩陣列之間弱相 關(guān)且稀疏信號隨機(jī)分布時(shí)，稀疏恢復(fù)成功概率隨通道數(shù)增加而增 大。啟發(fā)：釆用類似假設(shè)儲加單位球面上獨(dú)立均勻分布（相比獨(dú)立零均值更強(qiáng)）> 一種常見形式：源信號sM在時(shí)空域相互獨(dú)立且服從高斯分布越亦理以頑）w （°血）理論保障：平均性能諾寸為相互獨(dú)立且均勻分布的隨機(jī) gK (1 + £logN)個(gè)樣本可保證定理：假定隨機(jī)采樣，假設(shè) 譏加鮎中任意兩頻率間隔 不小

26、于專,ii)行向量變量，則每通道MCKlo頻率以高概率精確恢復(fù)樣本數(shù)隨L增大而減少當(dāng)N很大時(shí)，樣本總需求量C K logger + log/V)隨厶基本不變。采 用多通道可將樣本均勻分配到各通道，明顯減輕單個(gè)通道的壓力。KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*43與已有平均性能分析結(jié)果的比較 Gribonval et al, JFAA, 2008和Eldar-Rauhut, IEEE T-IT, 2010條件：離散信號，采樣矩陣列間弱相關(guān)結(jié)論：恢復(fù)概率增加我們的結(jié)果條件：連續(xù)離散信號，采樣矩陣列間完全相關(guān)結(jié)論：所需樣本量降低，并提供隨厶變化的顯示表達(dá)式由歹理2乂學(xué)K

27、AMhO UHMERSHY Cf K1ENCE & TEOMLOGY45D.D.20s(Duuelp0>d sd-dEes jo0)qEnN仿真結(jié)果仿真結(jié)果表明所需樣本量下降趨勢和速度與理論預(yù)測結(jié)果一致乙 Yang, J. Tang, YC. Eldar, and L. Xie, u0n the sample complexity of multichannel frequency estimation via con vex optimizati on," arXiv:1712.05674, 2017.44、君I：總結(jié)多通道采樣提供一個(gè)新的測量維度

28、，可有效提高估計(jì)性能傳統(tǒng)方法限制重重，可行便輕松早期稀疏方法原子范數(shù)方法理論少支撐技術(shù)可行，理論過硬，期待補(bǔ)充展望另一平均性能分析固定樣本量，分辨率隨通道數(shù)增加而提高?有噪壓縮數(shù)據(jù)情形下的理論保障單通道多通道在一般參數(shù)估計(jì)和稀疏恢復(fù)問題中的拓展KAMHO UWWDttnYCf 旳OWE ft TEOW0LO3*46主要參考文獻(xiàn)I J. Cap on, Highresolutio n freque ncywave nu mber spectrum analysis, Proceedings of the IEEE,1969.2. V. F. Pisare nko, “The retrieval

29、of harm onics from a covari a nee function,” Geophysical Journal International, 1973.3. R. Schmidt, “A signal subspace approach to multiple emitter location spectral estimationPh.D. dissertation, Stanford University, 1981.4. R. Roy and T. Kailath, MESPRIT-estimation of signal parameters via rotation

30、al invarianee techniques,n IEEE Transactions on Acoustics, Speech and Signal Processing, 19895. D Malioutov, M. Ceti n, and A.S.Willsky, “A sparse signal rec on structi on perspective for source localization with sensor arrays5n IEEE Transactions on Signal Processing, 20056. Y. Eldar and H. Rauhut,A verage case an alysis of multicha nnel sparse recovery using con vex relaxatio/EEE Transactions on Information Theory, 2010.7. V. Chandrasekaran, B. Recht, P. A. Parrilo, and A. S. Willsky, The convex geometry of linear in verse problems,n Foundations of Computational Mathematics, 2012.8. E. J.