第09-3講魯棒辨識

1、第九講 現代辨識方法選講-3 魯棒辨識魯棒辨識q 控制就是有目的地修正動力學系統的行為,以達到預期的目標. 控制問題的解決,要用能反映內在物理本質的精確數學術語描述系統的動態(tài)規(guī)律,然后運用適當的數學工具求取問題的解. 但是,絕大多數系統本身存在著不確定性,有的甚至本質上是不可完整認識的,從而給建模帶來了特殊的困難. 源于這一背景發(fā)展起來的魯棒控制理論,則允許在系統存在一定不確定性的情況下,對模型集實現預期的控制性能. 然而,如何從系統的輸入輸出數據及一定的驗前信息得到體現系統不確定性的模型集估計?5 魯棒辨識魯棒辨識(1/2) 圍繞這一主題,近十年來,各種不同形式的魯棒辨識理論得到了廣泛的研究

2、. 下面從系統模型集描述方式的角度,回顧魯棒辨識理論的發(fā)展概況,指出了現今需要解決的問題,并對值得研究的方法提出了自己的觀點,具體的內容為:模型集的描述方法模型集的描述方法基于非參數模型的魯棒辨識基于非參數模型的魯棒辨識基于參數模型的魯棒辨識基于參數模型的魯棒辨識參數、非參數混合模型魯棒辨識方法參數、非參數混合模型魯棒辨識方法結論與展望結論與展望5 魯棒辨識魯棒辨識(2/2)5.1 模型集的描述方法模型集的描述方法q 傳統的辨識問題,模型結構通常事先給定,待確定的只是模型的參數,而不直接考慮系統的不確定性,辨識結果是某一準則下最優(yōu)的單一模型. 魯棒辨識則要求獲取待辨識系統的一個模型集估計,保證

3、真實系統落在該模型集內. 因此,面臨的首要問題就是選擇適當的模型集描述方法,針對各種模型集描述,運用不同的分析手段,以發(fā)更多不同的辨識算法和理論結果. 下面簡單綜述魯棒辨識中常用的控制系統模型非參數非參數模型模型與參數模型參數模型.5.1 模型集的描述方法模型集的描述方法(1/3)非參數模型非參數模型v 時域的脈沖響應和頻域的頻域響應(Bode曲線或Nyquist曲線),是最基本的非參數模型.v 由于頻域響應具有明確的工程意義,非參數模型的不確定性通常用名義系統的傳遞函數及其誤差界描述,可十分明了地反映出各頻段的不確定性;o 不過,在掌握一些附加信息(如相位信息)的情況下,這樣的表示一般過于保

4、守.5.1 模型集的描述方法模型集的描述方法(2/3)參數模型參數模型v 對于參數模型的描述,最自然的想法是直接利用描述系統動態(tài)的參數模型,在參數空間內確定一個能體現該系統動態(tài)(包括不確定因素)的子集.v 這種方法的一個明顯的優(yōu)點是可以明確地以具有確定物理意義的模型參數的變化范圍直接反映系統的不確定性,但要求對系統有相當的了解,而且模型的階一旦確定,就不能改變.5.1 模型集的描述方法模型集的描述方法(3/3)5.2 基于非參數模型的魯棒辨識基于非參數模型的魯棒辨識q 下面先討論非參數模型的魯棒辨識問題,主要內容有 H 魯棒辨識問題魯棒辨識問題 l1魯棒辨識問題魯棒辨識問題5.2 基于非參數模

5、型的魯棒辨識基于非參數模型的魯棒辨識(1/1)5.2.1 H 魯棒辨識問題魯棒辨識問題q H辨識問題可以大致描述為:已知: 待辨識系統f的傳遞函數模型集M的驗前信息,一個經常研究的重要的模型集是所有指數穩(wěn)定系統的集合; 頻率點數據的噪聲驗前信息,它反映了驗前信息中的未建模動態(tài)以及測量數據中的外界污染噪聲,l是一有界但未必解析的函數,滿足|; 由實驗算子確定的N個頻域點數據的驗后信息,即5.2.1 H 魯棒辨識問題魯棒辨識問題(1/3) (1)1-, 1 , 0)(e),(,NkffEkjkNk滿足 尋找:將給定實驗數據 映射到模型集空間M中某一函數fid的辨識算法IN(f,),使得如下最差情況

6、下的辨識誤差5.2.1 H 魯棒辨識問題魯棒辨識問題(2/3) ),(1 -0,NkkNfE (2)supsup),);,(idffMfIeMfNN 如果對所有的fM上述條件均成立,則稱該算法是魯棒收斂的. 若算法的收斂性不依賴于系統驗前信息,則稱為自發(fā)魯棒收斂的. 相應地,當辨識算法的收斂性依賴于系統驗前信息時,則稱辨識算法是整定魯棒收斂的. (3)0),);,(lim0,MfIeNNNq 下面分別討論： 兩步結構兩步結構H 魯棒辨識算法魯棒辨識算法 基于信息復雜度理論的基于信息復雜度理論的H 魯棒辨識方法魯棒辨識方法 基于線性規(guī)劃轉換的辨識算法基于線性規(guī)劃轉換的辨識算法5.2.1 H 魯棒

7、辨識問題魯棒辨識問題(3/3)(1) 兩步結構兩步結構H 魯棒辨識算法魯棒辨識算法q Helmicki首先提出H魯棒辨識的概念,同時給出了一種具有魯棒收斂性的非線性辨識算法,它基于如下的兩步結構:第第1步步: 根據給定數據EN,k(f,),k=0,1,N-1,構造f的一個L逼近f,此時對f可以不要求穩(wěn)定性及有理性約束;第第2步步: 在H空間尋找一個與f距離最近的函數fid,即(1) 兩步結構兩步結構H 魯棒辨識算法魯棒辨識算法(1/3) (4)minargidfffMf 對于該辨識算法的第1步,Helmicki等通過在單位圓上進行分段線性插值,把辨識誤差的L誤差界中有外界噪聲和系統未建模動態(tài)引

8、起的誤差,分離為互不相關的兩項;而第2步涉及到的優(yōu)化問題,可轉化為著名的Nehari問題,從而通過構造f的Hankel矩陣獲得求解. 受Helmicki分段插值思想的啟迪,相繼發(fā)展了許多基于不同插值樣條逼近的魯棒收斂的兩步結構非線性辨識算法.(1) 兩步結構兩步結構H 魯棒辨識算法魯棒辨識算法(2/3)q Gu等分析了上述魯棒收斂的兩步非線性辨識方法,認為Helmicki方法中由分段線性插值導出的衰減因子,起著類似于數字信號處理中窗函數的作用,而通過一定的窗函數的選取,相當于在辨識算法中加入適當的Lipschitz平滑限制條件,從而起到濾除噪聲的作用,可避免噪聲相關誤差項的發(fā)散. 基于這一思想

9、,Gu等建立了使兩步辨識算法魯棒收斂的窗函數應滿足的充分必要條件,并指出Makila的魯棒辨識算法演變?yōu)椴捎貌煌昂瘮档奶乩?(1) 兩步結構兩步結構H 魯棒辨識算法魯棒辨識算法(3/3)(2) 基于信息復雜度理論的基于信息復雜度理論的H 魯棒辨識方法魯棒辨識方法q 信息復雜度理論(IBC)是用于解決逼近與插值問題的一種技術. 應用于H魯棒辨識的信息復雜度方法與參數式集員辨識理論相似,也是建立在對可行集合的分析之上.(2) 基于信息復雜度理論的基于信息復雜度理論的H 魯棒辨識方法魯棒辨識方法(1/4)F=fK: |f(zk)-EN,k|, 1kN (5) 辨識算法IN為將集合CN映射到集合K的

10、算子,即將 設待辨識系統f屬于緊凸集合K, 為采集到的受污染的系統數據,定義F=F(EN,)為如下的可行集合 ),(0,NkkNNfEE 映射到K中的辨識模型. ),(0,NkkNNfEE 稱(2) 基于信息復雜度理論的基于信息復雜度理論的H 魯棒辨識方法魯棒辨識方法(2/4)為辨識算法IN在EN處的局部辨識誤差.相應地,稱 (6)(sup)(nnFfNNENEIfIe為辨識算法IN的全局辨識誤差.其中A為可能產生的已被噪聲污染的數據集合. 稱辨識算法I*N為時局部最優(yōu)算法,如果 相應地,辨識算法I*N為時全局最優(yōu)算法,如果 (7)(sup)(NNENAENNIeIeN );(minarg*N

11、NENINIeIN );(minarg*NNINIeIN稱滿足下述條件的cF(2) 基于信息復雜度理論的基于信息復雜度理論的H 魯棒辨識方法魯棒辨識方法(3/4)為可行集合F的中心. 可行集合F的半徑 )8(supminargfccFfFc 顯然,將數據樣本EN映射到可行集合F中心c的算子即為上述最優(yōu)辨識算法,而可行集合F的半徑r(F)給出了所有辨識方法能達到的最小全局誤差的下界. 遺憾的是,很難找到這樣的最優(yōu)辨識算法,實際中尋找的是滿足IN(EN)F的辨識算法. )9(sup)(fcFrFfq 在信息復雜度理論的框架下,通過利用Caratheodory-Fejer和Nevanlinna Pi

12、ck插值,基于頻域數據樣本, Chen等建立了對應于離散系統的魯棒辨識算法; Gu等則建立了對應于連續(xù)系統的魯棒辨識方法. 在時域數據樣本上,Nett等首先把辨識問題歸結為受限凸規(guī)劃問題,然后利用Schur算法得到具有內插性質的辨識模型,也獲得了魯棒收斂的辨識算法.(2) 基于信息復雜度理論的基于信息復雜度理論的H 魯棒辨識方法魯棒辨識方法(4/4)(3) 基于線性規(guī)劃轉換的辨識算法基于線性規(guī)劃轉換的辨識算法q 當頻域數據樣本在頻率上分布不均時,最小最大意義上的辨識算法是另一種可采用的辨識方法,這種方法最終可以轉換為線性規(guī)劃問題.q 定義定義Xpp=0為模型集B,M中維數遞增的任意子空間序列,

13、 Xp為p+1維的子空間.對未知系統f的采集數據樣本EN,在子空間Xp中依據下述準則尋找f的最佳逼近(3) 基于線性規(guī)劃轉換的辨識算法(1/2) )10(|)(|maxminarg,1*kNkNNkXgNEzggpq 上述最小最大問題可轉化為成熟的線性規(guī)劃最優(yōu)求解. 其中子空間維數p的選擇是算法收斂的一個關鍵因素,一般p的選擇依賴于數據樣本采集數N,更準確的選擇還依賴于所使用的模型集. 當Xp取為階數不超過p的多項數集合Pp時,若N表示復平面單位圓周上兩個連續(xù)數據樣本的最大頻率角間距,則p的選擇應滿足N1/. Theodor與Shaked,鄭立輝,Giarre與Ailanese分別研究了最小最

14、大框架下的H魯棒辨識問題,這些方法均可獲得與兩步結構辨識算法一樣的指數收斂的辨識誤差界,但是當數據樣本增長時,實際運算將變得極為復雜.(3) 基于線性規(guī)劃轉換的辨識算法(2/2)5.2.2 l1魯棒辨識問題魯棒辨識問題q 自Helmicki等提出魯棒辨識的全新概念后,H與l1兩類魯棒辨識方法同時獲得了廣泛的研究與發(fā)展. 事實上,卷積核的l1范數為其相應z變換的上界,在這一意義上,l1魯棒辨識是H魯棒辨識的進一步延續(xù); 而促使l1魯棒辨識獲得廣泛重視的是該類方法優(yōu)于H魯棒辨識的兩個因素:采用l1范數形式,能較好地利用各種不同于H魯棒辨識中的驗前和驗后信息;采用l1范數形式來表示辨識誤差,較易獲得

15、簡單的最優(yōu)辨識算法.5.2.2 l1魯棒辨識問題魯棒辨識問題(1/6)q 與H魯棒辨識方法不同,l1辨識方法利用的是測量到的時域數據樣本,但遵循了H魯棒辨識中最差情況辨識思想. 其表述如下:對象時域模型5.2.2 l1魯棒辨識問題魯棒辨識問題(2/6)11()()()()(0kvktukgtyk其中g(k)為待辨識未知穩(wěn)定對象的脈沖響應,gl1,即u和y為量測的系統輸入輸出數據,v為具有確定性邊界的干擾噪聲.)12(| )(|01kkggggl1魯棒辨識通過模型和噪聲的先驗知識以及量測的被污染的時域輸入輸出序列u(t),y(t)(t=1,N-1),尋求真實對象g的最佳估計模型g遵循如下規(guī)則5.

16、2.2 l1魯棒辨識問題魯棒辨識問題(3/6) )13(supmin),(min,1ggIugevlgNN其中 Partington與Makila從最優(yōu)輸入信號的角度,探討了l1魯棒辨識算法的收斂性問題,得到了使算法具有魯棒收斂性的充分必要條件(也稱輸入信號充分激勵條件),以及算法發(fā)散的各種充分必要條件.| )(|sup,.,0tvvNt Tse與Dahleh對于各種線性算法,給出了與H辨識相似的一個重要結論:任何具有l(wèi)1魯棒收斂性的辨識算法一定是非線性算法. Hakvoort,Jacobson,Nett,Partington分別綜述了幾種具有l(wèi)1魯棒收斂性的非線性辨識算法. Makila從信

17、息復雜度理論上探討了l1魯棒辨識的最優(yōu)辨識算法問題. Babu與Eswaran從窗函數的角度研究了l1辨識算法的魯棒收斂性條件,指出保證H辨識收斂的窗函數并不適用于l1辨識,由此提出一種參數化的指數窗函數,并在以系統及噪聲先驗信息表示的最優(yōu)參數下,獲得了最優(yōu)的整定魯棒收斂的l1辨識算法.5.2.2 l1魯棒辨識問題魯棒辨識問題(4/6)q l1魯棒辨識仍存在一些缺陷,如輸入實驗信號限于單位脈沖信號或Galois序列. 黃學俊與王書寧考慮了當實驗數據為一般的輸入輸出數據時,對一般穩(wěn)定系統的l1辨識問題,提出了基于代數方法的worst-case估計算法. 李晟平與謝媛芳針對大多數l1辨識算法只能處

18、理最初的有限組數據的缺陷,提出一種易于在線實現的l1遞推辨識算法.5.2.2 l1魯棒辨識問題魯棒辨識問題(5/6) 李晟平與方華京針對l1辨識算法的魯棒收斂性中通常采用模型集為l1空間中的緊集,以及實驗信號取為特殊信號等假設條件,研究了任意BIBO穩(wěn)定、因果系統在一般條件下的魯棒收斂性質,證明了存在一個使l1魯棒辨識極限收斂誤差的收斂固定區(qū)間,并討論了任意非零信號下辨識算法的可行性及收斂性.5.2.2 l1魯棒辨識問題魯棒辨識問題(6/6)5.2.3 頻域頻域/時域混合魯棒辨識方法時域混合魯棒辨識方法q 在魯棒辨識算法中,H方法采用的驗后信息一般是未知系統頻域數據樣本,l1方法采用的則是時域

19、數據樣本. 事實上,魯棒辨識所面臨的對象往往是具有一定非線性動態(tài)特性的真實系統. 頻域方法所針對的是線性系統;而時域量測數據引起的l1方法,其算法強烈依賴于時間輸入序列,并且不存在僅僅通過l1辨識中的脈沖響應量測便可獲得非整定的時域魯棒收斂算法. 能否同時利用頻域/時域數據以獲取對象的最佳信息?5.2.3 頻域頻域/時域混合魯棒辨識方法時域混合魯棒辨識方法(1/2)對此,Parrilo等人在H范數框架下,采用頻域與時域的交叉實驗,解決了與頻域數據相容的估計模型卻與時域數據樣本不相容的問題.Parilo與Sznaier則基于推廣的插值理論,提出一種組合應用頻域/時域數據的魯棒辨識算法,在該算法框

20、架下,頻域中的Nevanlinna-Pick插值辨識法和應用于時域中的Caratheodary-Fejer插值辨識法成為其特例.5.2.3 頻域頻域/時域混合魯棒辨識方法時域混合魯棒辨識方法(2/2)5.2.4 魯棒辨識算法中基函數的選擇問題魯棒辨識算法中基函數的選擇問題q 在參數化的魯棒辨識方法中,系統驗前信息中包含了足夠的系統結構假定,只需對給定的階次確定模型可行參數集合;在非參數化的魯棒辨識方法中,由于未能從驗前信息中獲取系統足夠的結構信息,需要在系統驗前模型集空間中進行基函數的選擇,而如何恰當地選取基函數以合理地融入其它驗前信息便成為其中的關鍵問題. 魯棒辨識的目的是獲取一個某種意義上

21、的最優(yōu)名義模型以及相應的模型誤差界. 這種模型誤差界應盡量地“緊”,過于保守的誤差界會導致魯棒控制設計中性能指標的下降.5.2.4 魯棒辨識算法中基函數的選擇問題魯棒辨識算法中基函數的選擇問題(1/4) 系統辨識實驗前,總存在與模型結構及噪聲相關的一些先驗知識,先驗知識利用得越充分,所得到的模型誤差界將越緊. 在H魯棒辨識方法中,未知對象的模型集通常采用有限脈沖響應(FIR)的模型結構. Wahlberg指出,FIR模型結構并不能充分利用這些先驗知識,并提出了下述模型結構5.2.4 魯棒辨識算法中基函數的選擇問題魯棒辨識算法中基函數的選擇問題(2/4)14()(),(10nkkkzzG其中k(

22、z)取為如下Laguerre基函數)15(11,111)(2aazazazazkk 由分析得出,根據G(z)的相對穩(wěn)定性適當地選取a值,獲得的模型誤差界將明顯小于采用FIR模型時獲得的誤差界估計. Wahlberg采用具有雙參數結構的Kautz基函數,也獲得了相同的效果. 在將系統極點限于某一集合的條件下,Heuberger采用更具普遍意義的正交基函數,并驗證了Laguerre和Kautz基函數結構為其中的特例. 隨后,Ward提出了下述有理小波基函數5.2.4 魯棒辨識算法中基函數的選擇問題魯棒辨識算法中基函數的選擇問題(3/4)其中w為復平面單位圓的子集.)16(,11)(Wwzwzk以X

23、n=spk表示1,2,n-1的線性擴展空間,通過適當地選擇w-使spw,wW=Xn,FIR模型結構、Lagurre基函數結構、雙參數Kautz基函數結構以及更一般的正交基函數模型結構,均可轉化為該有理小波基函數結構的特例.因此,通過充分利用w的自由度,小波基結構能便利地嵌入各種真實對象的先驗知識,從而獲得更緊的模型誤差界.Akcay與Ninness分析了有理小波基函數結構的逼近性能,并給出了該結構任意逼近有理穩(wěn)定傳遞函數的充分必要條件.5.2.4 魯棒辨識算法中基函數的選擇問題魯棒辨識算法中基函數的選擇問題(4/4)5.3 基于參數模型的魯棒辨識基于參數模型的魯棒辨識q 對模型不確定性的描述,

24、前述各種方法追求的是在相應范數意義上的魯棒收斂性以及對應的模型誤差界. 作為魯棒收斂性的一個重要分支,參數化的魯棒辨識方法-集元辨識所追求的,是與未知對象先驗知識及量測輸入輸出數據相容的系統參數或傳遞函數集合. 它考慮如下系統模型y(k)=T(k)+w(k) (17)其中T=(1,2,n)為待估參數,(k)為由輸入輸出數據組成的回歸向量,w(k)為由|w(k)|(k)定義的有界干擾噪聲.5.3 基于參數模型的魯棒辨識基于參數模型的魯棒辨識(1/4)q 集元辨識就是根據觀測輸入輸出序列u(k),y(k),尋找與式(17)相容的估計參數集5.3 基于參數模型的魯棒辨識基于參數模型的魯棒辨識(2/4

25、) 上述集合實質上是超平面所截出的超凸多面體. 當N較小時,該參數集可通過線性規(guī)劃方法求解;但隨著N的增大,該超多面體的準確描述將變得十分困難. 因此,尋找具有下述特點的的超集十分必要:1) 具有形象直觀的幾何形象及簡單的數學描述;2) 盡可能緊地包圍.)18()()(:|10kwkyTnk 為此,Deller等人與Chisci等人分別提出了一些不同結構的超集,其中以最優(yōu)有界超橢球集(OBE)模型、平行多面體模型以及正交基模型具有代表性.q 基于最優(yōu)有界超橢球集辨識算法的特點,在于與廣泛應用的加權LS算法間存在緊密的內在聯系,具有與LS法相似的簡單直觀的線性算法結構;同時,基于最優(yōu)準則判據可實

26、現對冗余數據的過濾,省去了辨識中不必要的計算負擔;并且對算法結構作出某些簡單的調整,便能獲得對時變參數系統較佳的自適應辨識效果. 但是OBE算法存在對超凸多面體包圍不緊,使相應裕度過于保守的問題.5.3 基于參數模型的魯棒辨識基于參數模型的魯棒辨識(3/4) Lin與Nayori提出一種漸近學習識別噪聲邊界的算法,對此進行某些改進. 基于平行多面體模型的辨識算法能更緊地包圍超凸多面體,但其算法顯得較為復雜. 正交集模型的優(yōu)點在于能以較少的參數精確地逼近待估計的傳遞函數,缺點在于缺少相應的遞推算法. 對模型集的復雜度與保守的裕度間如何折衷,是各種集元辨識方法面臨的一個關鍵與難題. 較復雜的模型雖

27、然能獲得超凸面體更緊的超集,但相應算法的實現較為困難;而簡單的模型集往往會使估計結果過于保守. 顯然,基于正交基的集元辨識方法具有重要的研究價值.5.3 基于參數模型的魯棒辨識基于參數模型的魯棒辨識(4/4)5.4 參數、非參數混合模型魯棒辨識方法參數、非參數混合模型魯棒辨識方法q 參數式集員辨識與經典的隨機系統辨識方法,均集中于對階數結構已確定的未知系統參數向量進行估計,不同的是,集員方法考慮到了系統未建模動態(tài),將其擾動映射為可行參數向量集合. 盡管可利用簡單成熟的線性遞推算法,但它對足夠的系統驗前信息的要求,在實際應用中卻不易滿足. 而H和l1魯棒辨識方法,正是在基于較少的系統驗前信息的環(huán)

28、境下,重建系統的傳遞函數或估計系統的單位脈沖響應,并同時獲得適于現代魯棒控制理論的顯式辨識誤差界.5.4 參數、非參數混合模型魯棒辨識方法參數、非參數混合模型魯棒辨識方法(1/3) 這種非參數辨識方法的缺陷在于辨識結果往往是階數過高的估計模型,并且相應的誤差界估計也比較保守. 面對這一困境,參數、非參數混合模型魯棒辨識方法得以發(fā)展. 它以下述方式S=M(p)+E (19)描述未知系統.其中M(p)為未知系統的參數化部分,p為與集員辨識方法一致的參數向量,非參數部分E代表未被M(p)描述的系統未建模動態(tài).5.4 參數、非參數混合模型魯棒辨識方法參數、非參數混合模型魯棒辨識方法(2/3) 采用上述參數、非參數混合模型,辨識的信息復雜度將大量減小,即達到指定的系統辨識誤差指標所需的測量數據樣本將大量減少.q Go