自適應濾波器畢業(yè)設計論文詳解

南京航空航天大學NanjingUniversityofAeronauticsandAstronautics碩士自適應濾波器課程要求論文自適應濾波器設計及應用Thedesignandapplicationofadaptivefilter學院名稱：電子信息工程學院專業(yè)班級：通信電子與通信工程學生姓名：趙亮(sx1204093)王艷芳(sz1204030)指導老師：吳一全老師職稱：教授目錄TOC\o"1-5"\h\z\o"CurrentDocument"第一章緒論1\o"CurrentDocument"1.1課題的背景與研究意義1\o"CurrentDocument"1.2國內外研究發(fā)展現狀與前景4\o"CurrentDocument"1.3本文研究思路及主要工作6\o"CurrentDocument"第二章自適應濾波器的基礎理論7\o"CurrentDocument"2.1模擬濾波器的基本理論7\o"CurrentDocument"2.2數字濾波器的基本理論8\o"CurrentDocument"2.3自適應濾波器的基本理論10\o"CurrentDocument"2.4自適應濾波器的結構132.4.1自適應橫向濾波器132.4.2自適應遞歸濾波器142.4.3自適應各型濾波器15\o"CurrentDocument"第三章自適應濾波算法17\o"CurrentDocument"3.1最小均方誤差(LMS)算法17\o"CurrentDocument"3.2最小均方差(LMS)算法的性能分析20\o"CurrentDocument"3.3遞推最小二乘法(RLS)算法21\o"CurrentDocument"3.4遞歸最小二乘(RLS)算法的性能分析25\o"CurrentDocument"3.5LMS算法與RLS算法性能分析與比較26\o"CurrentDocument"3.6其他自適應濾波算法273.6.1仿射投影法273.6.2共軛梯度算法273.6.3基于子帶分解的自適應濾波算法283.6.4其他自適應濾波算法28第四章基于MATLAB的自適應濾波器仿真實現與應用30\o"CurrentDocument"4.1MATLAB語言簡介30\o"CurrentDocument"4.2基于LMS和RLS的自適應濾波器應用仿真314.2.1基于LMS自適應預測器設計314.2.2基于RLS信號增強器的設計32\o"CurrentDocument"第五章總結與展望37\o"CurrentDocument"5.1總結37\o"CurrentDocument"5.2展望37\o"CurrentDocument"致謝38參考文獻39附錄40自適應濾波器濾波器的設計及實現專業(yè)班級：通信電子與通信工程學生姓名：趙亮王艷芳指導老師：吳一全教師職稱：教授摘要自適應濾波器的研究是當今自適應信號處理中最為活躍的研究課題之一。因其具有很強的自學習、自跟蹤能力和算法的簡單易實現性等優(yōu)點，使得它在噪化信號的檢測增強，噪聲干擾的抵消，通信系統(tǒng)的自適應均衡，圖像的自適應增強復原以及未知系統(tǒng)的自適應參數辯識等方面都得到了廣泛的應用。自適應濾波器是指利用前一時刻的結果，自動調節(jié)當前時刻的濾波器參數，以適應信號和噪聲未知或隨機變化的特性，得到有效的輸出。研究自適應濾波器可以去除輸出信號中噪聲和無用信息，得到失真較小或者完全不失真的輸出信號。本文介紹了自適應濾波器的理論基礎，重點講述了自適應濾波器的幾種實現結構，然后重點介紹了兩種自適應濾波算法最小均方誤差（LMS）算法和遞推最小二乘（RLS）算法，并對LMS算法和RLS算法性能進行了詳細的分析。其中LMS算法結構簡單，魯棒性強，但其收斂速度很慢，而RLS收斂速度快，但其運算量很大。最后本文對基于LMS算法和RLS算法的自適應濾波器進行MATLAB仿真應用，實驗表明：在自適應信號處理中，自適應濾波信號占有很重要的地位，自適應濾波器應用領域廣泛；另外LMS算法和RLS算法各有優(yōu)缺點，LMS算法因其魯棒性強特點而應用于自回歸預測器，而RLS算法因其收斂速度快優(yōu)點而應用于信號增強器中。關鍵詞：自適應濾波器，LMS算法，IIR濾波器DesignandImplemeutationoftheAuto-adaptedFilterAbstractTheadaptivefilterisoneofthemostactiveresearchtopicinadaptivesignalprocessingtoday.Becauseithasastrongself-learning,self-trackingcapabilitiesandalgorithmssimpleeaseofimplementation,etc.,makingitinthedetectioninthenoiseofthesignalenhancement,noiseoffset,communicationsystems,adaptiveequalization,adaptiveimageenhancedrecoveryandunknownadaptiveparameteridentificationhavebeenwidelyused.Adaptivefilterusingtheresultsoftheprevioustime,automaticallyadjustthefilterparametersforthecurrenttimetoadapttothecharacteristicsofsignalandnoiseisunknownorrandomvariation,theeffectiveoutput.Studytheadaptivefiltercanremovenoiseanduselessinformationoutputsignaldistortionsmallerorcompletelylosingthetrueoutputsignal.Thispaperfirstintroducesthetheoreticalbasisofthefilter,Secondly,tohighlightseveraloftheadaptivefilterstructure,andthenfocusesontwoadaptivefilteringalgorithmminimummeansquareerror(LMS)algorithmandrecursiveleastsquare(RLS)algorithm,LMSalgorithmsimplestructure,robustness,butitsconvergenceisveryslow,whiletheRLSconvergencespeed,butitscomputationalcomplexity.Finally,experimentsshowthat:MATLABsimulationapplicationsbasedontheLMSalgorithmandRLSadaptivefilteralgorithminadaptivesignalprocessing,adaptivefilteringsignaloccupiesaveryimportantpositioninthewidespreadapplicationsofadaptivefilters;LMSalgorithmadvantagesanddisadvantagesandRLSalgorithm,LMSalgorithmbecauseofitsstrongrobustnessfeaturesusedinautoregressivepredictor,whiletheRLSalgorithmisitsfastconvergencespeedadvantagesappliedtothesignalenhancer.Keywords:adaptivefilter,LMSalgorithm,IIRfilter第一章緒論1.1課題的背景與研究意義伴隨著移動通信事業(yè)的飛速發(fā)展，自適應濾波技術［1］應用的范圍也日益擴大。早在20世紀40年代，就對平穩(wěn)隨機信號建立了維納濾波理論。根據有用信號和干擾噪聲的統(tǒng)計特性（自相關函數或功率譜），用線性最小均方誤差估計準則設計的最佳濾波器，稱為維納濾波器⑵。這種濾波器能最大程度地濾除干擾噪聲，提取有用信號。但是，當輸入信號的統(tǒng)計特性偏離設計條件，則它就不是最佳的了，這在實際應用中受到了限制。到60年代初，由于空間技術的發(fā)展，出現了卡爾曼濾波理論，即利用狀態(tài)變量模型對非平穩(wěn)、多輸入多輸出隨機序列作最優(yōu)估計?，F在，卡爾曼濾波器已成功地應用到許多領域，它既可對平穩(wěn)的和非平穩(wěn)的隨機信號作線性最佳濾波，也可作非線性濾波。實質上，維納濾波器是卡爾曼濾波器的一個特例。在設計卡爾曼濾波器時，必須知道產生輸入過程的系統(tǒng)的狀態(tài)方程和測量方程，即要求對信號和噪聲的統(tǒng)計特性有先驗知識，但在實際中，往往難以預知這些統(tǒng)計特性，因此實現不了真正的最佳濾波。Widrow.B等于1967年提出的自適應濾波理論［3］，可使自適應濾波系統(tǒng)的參數自動地調整而達到最佳狀況，而且在設計時，只需要很少的或根本不需要任何關于信號與噪聲的先驗統(tǒng)計知識。這種濾波器的實現差不多像維納濾波器那樣簡單，而濾波性能幾乎如卡爾曼濾波器一樣好。因此，近十幾年來，自適應濾波理論和方法得到了迅速發(fā)展。自適應濾波是一種最佳濾波方法。它是在維納濾波，Kalman濾波等線性濾波基礎上發(fā)展起來的一種最佳濾波方法。由于它具有更強的適應性和更優(yōu)的濾波性能。從而在工程實際中，尤其在信息處理技術中得到廣泛的應用。自適應濾波的研究對象是具有不確定的系統(tǒng)或信息過程?！安淮_定”是指所研究的處理信息過程及其環(huán)境的數學模型不是完全確定的。其中包含一些未知因數和隨機因數。任何一個實際的信息過程都具有不同程度的不確定性，這些不確定性有時表現在過程內部，有時表現在過程外部。從過程內部來講，描述研究對象即信息動態(tài)過程的數學模型的結構和參數是我們事先不知道的。作為外部環(huán)境對信息過程的影響，可以等效地用擾動來表示，這些擾動通常是不可測的，它們可能是確定的，也可能是隨機的。此外一些測量噪音也是以不同的途徑影響信息過程。這些擾動和噪聲的統(tǒng)計特性常常是未知的。面對這些客觀存在的各種不確定性，如何綜合處理信息過程，并使某一些指定的性能指標達到最優(yōu)或近似最優(yōu)，這就是自適應濾波所要解決的問題。近十幾年來，自適應濾波理論和方法得到了迅速的發(fā)展，究其原因是因為自適應濾波器相比于其他一般的濾波器在濾波性能、設計實現的難易程度、對外部環(huán)境的復雜程度的適應能力和對系統(tǒng)先驗統(tǒng)計知識的依賴程度等方面都顯現出強大的優(yōu)勢。自適應濾波器具有很強的自學習、自跟蹤能力和算法的簡單易實現性，它在噪聲量化信號的檢測增強，噪聲干擾的抵消，通信系統(tǒng)的自適應均衡，圖象的自適應增強復原以及未知系統(tǒng)的自適應參數辯識等方面都有廣泛的應用。主要應用有：信號增強器自適應濾波器的一個簡單應用就是信號增強器，它被用來檢測或增強淹沒在寬度噪聲中的窄帶隨機信號。對于信號增強的情況，信號x(k)受噪聲n(k)的污染，而且與噪聲相關的信號m(k)是可以得到的(即可測量的)。如果m(k)作為自適應濾波器的輸入，而將受到噪聲污染的信號作為期望信號，則當濾波收斂以后，其輸出誤差就是信號的增強形式。圖1.1說明了一種信號增強的典型配置。xk)nk)圖1.1信號增強器系統(tǒng)辨識器在系統(tǒng)辨識應用中，期望信號是未知系統(tǒng)受某個寬帶信號激勵時產生的輸出，在大多數情況下，輸入是白噪聲信號。寬帶信號同時也被用來作為圖1.2所示的自適應濾波器的輸入。當輸出MSE達到最小時，自適應濾波器就代表了未知系統(tǒng)的模型。圖1.2系統(tǒng)辨識器（3）信號預測器最后，對于預測情形，期望信號是自適應濾波器輸入信號的前向（有時可能是后向）形式，如圖1.3,當濾波器收斂以后，自適應濾波器就代表了輸入信號的模型，而且可以用來作為輸入信號的預測器模型。圖1.3信號預測器（4）信道均衡器信道均衡器的作用是在信道通帶內形成一個信道傳輸函數的逆，而在通帶之外它的增益則很小或者為零。因而，由信道和均衡器級聯組成的系統(tǒng)在通帶內有基本均勻的振幅特性，而帶外基本為零，相位響應在帶內是頻率的線性函數。如果條件滿足，聯合的沖激響應就是辛格函數，故符號間干擾可被消除。自適應調整也解決了信道本身未知、時變的特性所帶來的困難。在信道均衡應用中，將發(fā)送的受信道失真影響的原始信號作為自適應濾波器的輸入信號，而期望信號是原始信號的時延形式，如圖1.4通常情況下，輸入信號的時延形式在接收端是可以得到的，采用形式是標準的訓練信號。當MSE達到最小時，就表明自適應濾波器代表了信道的逆模型（均衡器）。圖1.4信道均衡器1.2國內外研究發(fā)展現狀與前景對自適應濾波算法［4］的研究是當今自適應信號處理中最為活躍的研究課題之一。Windrow提出的自適應濾波系統(tǒng)的參數能自動的調整而達到最優(yōu)的狀況，而且在設計時，只需要很少或者更本不需要任何關于信號與噪聲的先驗統(tǒng)計知識。這種濾波器的實現差不多像維納濾波器那樣簡單，而濾波器性能幾乎如卡爾曼濾波器一樣好。自適應濾波器與普通濾波器不同，它的沖激響應或濾波參數是隨外部環(huán)境的變化而變化的，經過一段時間的自動調節(jié)收斂達到最佳濾波的要求。自適應濾波器本身有一個重要的自適應算法，這個算法可以根據輸入、輸出及參量信號按照一定準則修改濾波參量，以使它本身能有效的跟蹤外部環(huán)境的變化。因此，自適應數字系統(tǒng)具有很強的自學習、自跟蹤能力和算法的簡易實現性。自適應濾波技術的核心問題是自適應算法的性能問題，提出的自適應算法主要有最小均方（LMS）算法［5］、遞歸最小二乘（RLS）算法［6］、仿射投影算法［7］及相應的改進算法如：歸一化（NLMS）算法［8］、變步長（SVSLMS）算法［9］、遞歸最小二乘格形（RLSL）算法等。這些算法各有特點，適用于不同的場合。例如，變步長（SVSLMS）算法是指在初始收斂階段或未知系統(tǒng)參數發(fā)生變化時，步長應比較大，以便有較快的收斂速度和對時變系統(tǒng)的跟蹤速度而在算法收斂后,不管主輸入端干擾信號有多大，都應保持很小的調整步長以達到很小的穩(wěn)態(tài)失調噪聲。研究自適應算法是自適應濾波器的一個關鍵內容。最小均方誤差（LMS，theleastmeansquare）是線性自適應濾波算法中最基本的兩類算法之一，其主要思想是基于最小均方誤差準則，使濾波器的輸出信號與期望輸出信號之間的均方誤差最小自適應濾波算法的基本理論經過幾十年的發(fā)展已日趨成熟，近幾年來自適應濾波器的研究主要針對算法與硬件實現。算法研究主要是對算法速度和精度的改進，其方法大多采用軟件C、MATLAB、FPGL等仿真軟件對算法的建模及修正。通常，自適應濾波器的硬件實現都是采用DSP通用處理器（如TI的TMS320系列）。DSP采用改進的哈佛結構，具有獨立的程序和數據空間，允許同時存取程序和數據，內置高速的硬件乘法器（MAC）,增強的多級流水線。DSP具有的硬件乘法模塊（MAC），專用的存儲器及適用于高速數據運行的總線結構，使DSP器件具有高速的數據運算能力。目前，用DSP器件處理數字信號已成為電子領域的研究熱點。在自適應信號處理領域，對于數據處理速度在幾兆赫以內的，通用DSP也是首選。遲男等人在TMS320C32芯片上擴展EPROM和RAM，實現了30階LMS自適應濾波器。使用的A/D轉換器件為AD1674，最高采樣頻率為100KHZ。陸斌等人采用TMS320C30數字信號處理器與IMSA110專用濾波器并行處理的方法設計出了自適應濾波器并應用于直接序列的擴頻接收系統(tǒng)1221。趙慧名等人在TMS320C31上實現了自適應全向量濾波器，完成了信號采樣頻率為80KHZ的自適應濾波器。在數據處理速度只要求在幾兆赫以內的應用場合，這些用DSP實現的自適應濾波器能很好的滿足系統(tǒng)的實時要求。但隨著信息化的進程加快和計算機科學與技術、信號處理理論與方法等的迅速發(fā)展，需要處理的數據量越來越大，對實時性和精度的要求越來越高。以迅速發(fā)展的移動通信技術為例，從1G時代只能傳送語音的模擬通信，到2G時代傳送語音和數據的GSM、TDMA以及CDMA，到2.5G時代的傳送語音、數據、圖片、彩信、MMS、簡短視頻、收發(fā)郵件、網頁瀏覽等的GPRS與CDMA2001X，到目前正處于研發(fā)與測試階段的能夠傳送圖像、音樂、視頻流等多種媒體形式，提供包括網頁瀏覽電話會議、電子商務的3G通信以及目前正在研發(fā)與憧憬中的能夠傳送高質量流暢的視頻流與多種實時流媒體業(yè)務的4G通信。系統(tǒng)的功能越來越強大，但對數據傳送與處理的速率要求也越來越高。常用的數字系統(tǒng)目標器件除了DSP以外還有專用集成電路（ASIC），專用標準電路模塊（ASSP）和現場可編程門陣列（FPGA）。其中Hesener于1996年提出的用FPGA實現自適應濾波器的設想，并在FPGA上實現了處理速度可達SM的8階8位FIR濾波器。國內有一些關于自適應算法硬件實現的研究，但基本是針對自適應濾波器中的算法，如南開大學李國峰博士的博士論文用VHDL語言描述了正負數的運算問題和浮點數運算問題完成了基于FIR的LMS自適應濾波器的硬件設計和邏輯綜合。1998年弗吉尼亞大學的Hevey在其碩士論文中利用DSP處理器和自適應格形遞歸濾波算法完成了對線性二次型最優(yōu)控制器的設計，通過實驗表明了在寬帶干擾下格形濾波器的結構性能優(yōu)于LMS濾波器，在窄帶和諧波干擾下兩者區(qū)別不大，但所需階數至少比LMS濾波器減少一半，可以節(jié)省大量硬件資源。1.3本文研究思路及主要工作本文的主要研究思路如下：第一章：先闡明自適應濾波器的背景與研究意義，重點講述了自適應濾波器的四種應用，然后探討了目前國內外研究發(fā)展現狀與前景。第二章：述自適應濾波器的基礎理論，采取層層遞進的方法，由模擬濾波器到數字濾波器再到自適應濾波器，重點介紹了自適應濾波器的幾種實現結構。第三章：前述一章的基礎上，詳細講述了兩種自適應濾波算法，即最小均（LMS）算法和遞推最小二乘（RLS）算法，并且就這兩種算法進行了比較，另外還簡要介紹了其他的自適應算法。第四章：基于前述兩種算法LMS算法和RLS算法的自適應濾波器進行MATLAB應用仿真實驗，進一步通過實驗表明自適應濾波器應用領域廣泛，并且LMS算法和RLS算法各有優(yōu)缺點，它們各有自己適用的范圍。第五章：理論與實驗的基礎上，深入分析LMS算法和RLS算法的優(yōu)缺點，并進行歸納總結，思考能否綜合考慮這兩種自適應算法的優(yōu)點，對它們進行改進和揉和，提出性能更加好的自適應算法。本文的主要工作如下：（1）閱讀大量有關自適應濾波算法的中英文文獻，并研究自適應濾波器的設計原理;（2）閱讀大量有關MATLAB關于自適應濾波器設計方面的書籍，了解各種自適應濾波算法;（3）通過對兩種最常見的自適的濾的算法LMS算法和RLS算法的深入研究，了解它們各自的優(yōu)缺點和各自的適用場合；（4）在MATLAB環(huán)境下，基于上述兩種算法的自適應濾波器進行仿真實驗［10，通過實驗進一步論證之前提出的基礎理論，并思考能否對自適應算法進行優(yōu)化改進。第二章自適應濾波器的基礎理論2.1模擬濾波器的基本理論模擬濾波器是由電感器和電容器構成的網路，可使混合的交直流電流分開。電源整流器中，即借助此網路濾凈脈動直流中的漣波，而獲得比較純凈的直流輸出。最基本的濾波器，是由一個電容器和一個電感器構成，稱為L型濾波。所有各型的濾波器，都是集合L型單節(jié)濾波器而成。基本單節(jié)式濾波器由一個串聯臂及一個并聯臂所組成，串聯臂為電感器，并聯臂為電容器。信息需要傳播，靠的就是波形信號的傳遞。信號在它的產生、轉換、傳輸的每一個環(huán)節(jié)都可能由于環(huán)境和干擾的存在而畸變，有時，甚至是在相當多的情況下，這種畸變還很嚴重，以致于信號及其所攜帶的信息被深深地埋在噪聲當中了。濾波器的作用，從本質上說是從被噪聲畸變和污染了的信號中提取原始信號所攜帶的信息。輸入、輸出均為模擬信號的濾波器即模擬濾波器。通常用幅頻響應和相頻響應來表征一個濾波器的特性。對幅頻響應，通常把能夠通過的信號的頻率范圍定義為通帶，而把受阻或衰減的信號頻率范圍稱為阻帶，通帶和阻帶的界限頻率稱為截止頻率。按照通帶和阻帶的相互位置不同，模擬濾波器可分為低通、高通、帶通和帶阻四類。下圖2.1理想濾波器的幅頻特性：幾種主要的模擬濾波器有巴特沃斯響應（最平坦響應）、切貝雪夫響應以及橢圓濾波器，它們各有自己的特點以及相應的適用場合。其中巴特沃什響應能夠最大化濾波器的通帶平0Q0Q帶通.H(jQ)H(jQ)0Q圖2.1四種模擬濾波器的幅頻響帶阻一Q坦度。該響應非常平坦，非常接近DC信號，然后慢慢衰減至截止頻率點為-3dB，最終逼近-20ndB/decade的衰減率，其中n0Q0Q帶通.H(jQ)H(jQ)0Q圖2.1四種模擬濾波器的幅頻響帶阻一Q1、中心頻率卬，即工作頻帶的中心；2、帶寬BW；3、通帶衰減，即通帶內的最大衰減；4、阻帶衰減。2.2數字濾波器的基本理論數字信號處理的一種重要方式就是濾波，數字濾波器就是指具有某種選擇性的器件、網絡或以計算機硬件支撐的計算機程序。與模擬濾波器不同的是，數字濾波器處理的信號是離散的數字信號。數字濾波器可以用差分方程、單位取樣響應以及系統(tǒng)函數等表示。對于研究系統(tǒng)的實現方法，即它的運算結構來說，用框圖表示最為直接。一個給定的輸入輸出關系，可以用多種不同的數字網絡來實現。在不考慮量化影響時，這些不同的實現方法是等效的；但在考慮量化影響時，這些不同的實現方法性能上就有差異。因此，運算結構是很重要的，同一系統(tǒng)函數H(z)，運算結構的不同，將會影響系統(tǒng)的精度、誤差、穩(wěn)定性、經濟性以及運算速度等許多重要性能。數字濾波器根據其沖激響應函數的時域特性，可分為兩種，即無限長沖激響應(IIR)濾波器和有限長沖激響應(FIR)濾波器。IIR濾波器的特征是，具有無限持續(xù)時間沖激響應。這種濾波器一般需要用遞歸模型來實現，因而有時也稱之為遞歸濾波器。FIR濾波器的沖激響應只能延續(xù)一定時間，在工程實際中可以采用遞歸的方式實現，也可以采用非遞歸的方式實現。數字濾波器的設計方法有多種，如雙線性變換法、窗函數設計法、插值逼近法和Chebyshev逼近法等等。隨著MATLAB軟件尤其是MATLAB的信號處理工作箱的不斷完善，不僅數字濾波器的計算機輔助設計有了可能，而且還可以使設計達到最優(yōu)化。數字濾波器設計的基本步驟如下：確定指標在設計一個濾波器之前，必須首先根據工程實際的需要確定濾波器的技術指標。在很多實際應用中，數字濾波器常常被用來實現選頻操作。因此，指標的形式一般在頻域中給出幅度和相位響應。幅度指標主要以兩種方式給出。第一種是絕對指標。它提供對幅度響應函數的要求，一般應用于FIR濾波器的設計。第二種指標是相對指標。它以分貝值的形式給出要求。在工程實際中，這種指標最受歡迎。對于相位響應指標形式，通常希望系統(tǒng)在通頻帶中具有線性相位。運用線性相位響應指標進行濾波器設計具有如下優(yōu)點：①只包含實數算法，不涉及復數運算；②不存在延遲失真，只有固定數量的延遲；③長度為N的濾波器(階數為N-1)，計算量為N/2數量級。因此，本文中濾波器的設計就以線性相位FIR濾波器的設計為例。逼近確定了技術指標后，就可以建立一個目標的數字濾波器模型。通常采用理想的數字濾波器模型。之后，利用數字濾波器的設計方法，設計出一個實際濾波器模型來逼近給定的目標。性能分析和計算機仿真數字濾波器的實現，大體上有如下幾種方法：在通用的微型機上用軟件來實現。軟件可以由使用者自己編寫或使用現成的。自IEEEDSPComm.于1979年推出第一個信號處理軟件包以來，國外的研究機構、公司也陸續(xù)推出不同語言不同用途的信號處理軟件包。這種實現方法速度較慢，多用于教學與科研。用單片機來實現。目前單片機的發(fā)展速度很快，功能也很強依靠單片機的硬件環(huán)境和信號處理軟件可用于工程實際，如數字控制、醫(yī)療儀器等。⑶利用專門用于信號處理的DSP片來實現。DSP芯片較之單片機有著更為突出的優(yōu)點，如內部帶有乘法器、累加器，采用流水線工作方式及并行結構，多總線，速度快，配有適于信號處理的指令等，DSP芯片的問世及飛速發(fā)展，為信號處理技術應用于工程實際提供了可能。前面已經介紹了IIR和FIR數字濾波器的設計方法，選擇哪一種濾波器取決于每種類型濾波器的優(yōu)點在設計中的重要性。為了能在實際工作中恰當地選用合適的濾波器，現將兩種濾波器特點比較分析如下：選擇數字濾波器是必須考慮經濟問題，通常將硬件的復雜性、芯片的面積或計算速度等作為衡量經濟問題的因素。在相同的技術指標要求下，由于IIR數字濾波器存在輸出對輸入的反饋，因此可以用較少的階數來滿足要求，所用的存儲單元少，運算次數少，較為經濟。例如，用頻率抽樣法設計一個阻帶衰減為20dB的FIR數字濾波器，要33階才能達到要求，而用雙線性變換法只需4?5階的切比雪夫IIR濾波器就可達到同樣的技術指標。這就是說FIR濾波器的階數要高5?10倍左右。?在很多情況下,FIR數字濾波器的線性相位與它的高階數帶來的額外成本相比是非常值得的。對于IIR濾波器，選擇性越好，其相位的非線性越嚴重。如果要使IIR濾波器獲得線性相位，又滿足幅度濾波器的技術要求，必須加全通網絡進行相位校正，這同樣將大大增加濾波器的階數。就這一點來看，FIR濾波器優(yōu)于IIR濾波器。FIR濾波器主要采用非遞歸結構，因而無論是理論上還是實際的有限精度運算中他都是穩(wěn)定的，有限精度運算誤差也較小。IIR濾波器必須采用遞歸結構，極點必須在z平面單位圓內才能穩(wěn)定。對于這種結構，運算中的舍入處理有時會引起寄生振蕩。?對于FIR濾波器，由于沖激響應是有限長的，因此可以用快速傅里葉變換算法，這樣運算速度可以快得多°IIR濾波器不能進行這樣的運算。?從設計上看，IIR濾波器可以利用模擬濾波器設計的現成的閉合公式、數據和表格，可以用完整的設計公式來設計各種選頻濾波器。一旦選定了已知的一種逼近方法（如巴特奧茲，切比雪夫等），就可以直接把技術指標帶入一組設計方程計算出濾波器的階次和系統(tǒng)函數的系數（或極點和零點）。FIR濾波器則一般沒有現成的設計公式。窗函數法只給出了窗函數的計算公式，但計算通帶和阻帶衰減仍無顯式表達式。一般FIR濾波器設計僅有計算機程序可資利用，因而要借助于計算機。IIR濾波器主要是設計規(guī)格化、頻率特性為分段常數的標準低通、高通、帶通和帶阻濾波器。FIR濾波器則靈活很多，例如頻率抽樣法可適應各種幅度特性和相位特性的要求。因此FIR濾波器可設計出理想正交變換器、理想微分器、線性調頻器等各種網絡，適應性很廣。而且，目前已經有很多FIR濾波器的計算機程序可供使用?？傊當底譃V波器精確度高、使用靈活、可靠性高，具有模擬設備所沒有的許多優(yōu)點，已廣泛地應用于各個科學技術領域，例如數字電視、語音、通信、雷達、聲納、遙感、圖像、生物醫(yī)學以及許多工程應用領域。隨著信息時代數字時代的到來，數字濾波技術已經成為極其重要的學科和技術領域。以往的濾波器大多采用模擬電路技術，但是，模擬電路技術存在很多難以解決的問題，例如，模擬電路元件對溫度的敏感性，等等。而采用數字技術則避免很多類似的難題，當然數字濾波器在其他方面也有很多突出的優(yōu)點，在前面部分已經提到，這些都是模擬技術所不能及的，所以采用數字濾波器對信號進行處理是目前的發(fā)展方向。2.3自適應濾波器的基本理論所謂自適應濾波，就是利用前一時刻已獲得的濾波器參數等結果，自動地調節(jié)現時刻的濾波器參數，以適應信號和噪聲未知的或隨時間變化的統(tǒng)計特性，從而實現最優(yōu)濾波。所謂“最優(yōu)”是以一定的準則來衡量的，最常用的兩種準則是最小均方誤差準則和最小二乘準則。最小均方誤差準則是使誤差的均方值最小，它包含了輸入數據的統(tǒng)計特性，準則將在下面章節(jié)中討論；最小二乘準則是使誤差的平方和最小，它也將在下面的章節(jié)中詳細討論。對信號處理而言，信號濾波是其共同特點，以便從觀測信號中提取需要的信息。自適應濾波器有調整自己的能力，它的最大特點是時變性和自調整性。調整的目的是為了達到最優(yōu)，或保持接近最優(yōu)，也就是是濾波器輸出中的噪聲效應在某種準則下達到最小。實際中廣泛應用的是線性自適應濾波器。需要注意的是，自適應的調整過程是時變的和非線性的。但是，當調整過程結束、自動調整過程不再進行時，如果自適應濾波器為線性系統(tǒng)，就稱它為線性自適應濾波器。自適應濾波器的主要指標是收斂速率、失調、計算復雜度、結構模塊化和數值特征。自適應濾波器由數字結構、自適應處理器和自適應算法三部分組成。數字結構是指自適應濾波器中各組成部分之間的聯系。自適應處理器是前面介紹的數字濾波器（FIR或IIR），所不同的是，這里的數字濾波器是參數可變的。自適應算法則用來控制數字濾波器參數的變化。自適應濾波器可以從不同的角度進行分類，按其數字結構可以分為開環(huán)自適應濾波器和閉環(huán)自適應濾波器；按自適應處理器（參數可變得數字濾波器）可以分為非遞歸自適應濾波器和遞歸自適應濾波器；按其自適應算法可以分為LMS自適應濾波器、RLS自適應濾波器等等。而在數字結構，自適應處理器和自適應算法中，自適應算法是核心，所以將在第三章中詳細介紹兩種常見的自適應算法，即RLS算法和LMS算法，并對它們進行比較，另外簡要介紹其它的自適應算法即優(yōu)化改進的自適應算法。自適應濾波器實際上是一種能夠自動調整本身參數的特殊維納濾波器，在設計時不需要預先知道關十輸入信號和噪聲的統(tǒng)計特性，它能夠在工作過程中逐步了解或估計出所需的統(tǒng)計特性，并以此為依據自動調整自身的參數，以達到最佳濾波效果。d(n)，e(n)TOC\o"1-5"\h\z\—I—?頓」可編程津、、r^(^)n波器\"」自適應算

冒法下圖2.2自適應濾波器的原理圖自適應濾波器的特性變化是由自適應算法通過調整可編程濾波器系數來實現的。一般而言，自適應濾波器由可編程濾波器(濾波部分)和自適應算法(控制部分)兩部分組成?？删幊虨V波器即參數可調的濾波器，自適應算法對其參數進行控制以實現最佳濾波工作?？删幊虨V波器可以是FIR橫式濾波器、IIR橫式濾波器以及格型濾波器。圖2.2給出了自適應濾波器的一般結構，其中輸入信號二心加通過可編程濾波器后產生輸出信號(或響應)y(n)，將其與參考信號d(n)進行比較，形成誤差信號e(n)，并以此通過某種自適應算法對濾波器參數進行調整，最終使得e(n)的均方值最小。根據濾波器的輸出端信號與輸入端信號之間的函數關系，自適應濾波器可以分為線性自適應濾波器和非線性自適應濾波器。由十線性自適應濾波器和相應的算法具有結構簡單、計算復雜性低的優(yōu)點，分析和實現容易，而廣泛應用十自適應信號處理系統(tǒng)中非線性自適應濾波器具有更強的信號處理能力，在神經網絡和模糊神經網絡有著明顯的優(yōu)勢，具有通過監(jiān)督學習逼近未知非線性輸入輸出映射的能力。但由十非線性自適應濾波器的計算較復雜，硬件實現比較困難，實際用得最多的仍然是線性自適應濾波器。線性自適應濾波器的結構可以是FIR型結構，也可以是IIR型結構。盡管IIR結構的濾波器能夠以很小的復雜度來實現和FIR濾波器相同的功能，但IIR型濾波器在自適應處理過程中，極點移出單位圓之外時，就會使濾波器產生不穩(wěn)定。所以在實際應用中一般都采用FIR型結構，主要是因為:FIR結構的自適應技術實現更容易，其權系數的修正就就是濾波器性能的調整，同時FIR結構的濾波器是絕對穩(wěn)定的，目_具有更好的魯棒性，這也更適合實時嵌入式應用。通常一個穩(wěn)定的IIR濾波器總是可以用足夠多階的FIR濾波器來近似代替，用FIR型結構作為自適應濾波器的結構具有廣泛的應用空間。一個自適應的FIR濾波器的結構，可以是橫截型結構，對稱的橫截型結構以及格型結構。其中橫截型結構是大多數應用情況下所采用的最主要的自適應濾波器結構，它可應用所有FIR濾波器，具有形式簡單，易十實現等特點，并可以用流水線提高性能;對稱的橫截12型結構可滿足符合對稱性條件的FIR濾波器，具有權系數少，計算量小的特點，并可以用流水線提高性能，但收到對稱性條件的約束;格型結構具有收斂速度快，穩(wěn)定性好，對系數量化精度要求不高的特點，但計算量大，不容易實時實現，只能部分實現流水線。2.4自適應濾波器的結構自適應濾波器的結構與算法有著密切的聯系，因為自適應濾波器既要估計濾波器能實現期望信號的輸出，又要估計濾波參數朝有利于目標方向的調整，并保證濾波器的穩(wěn)定工作。同時，結構的選取不僅會影響到計算復雜度（即每次迭代的算術操作數），還會對達到期望性能標準所需的迭代次數（自適應收斂的時間）產生影響。另外，不同的結構還有特定的應用場合，需要根據實際環(huán)境來選擇相應的結構和算法。自適應濾波器根據其沖擊響應的形式一般分為有限沖擊響應自適應濾波器（FIR）、自適應格型濾波器和無限沖擊響應自適應濾波器（IIR）三種結構。其中自適應FIR濾波器又稱為橫向濾波器；自適應格型濾波器基本單元的形狀類似于FFT中的蝶形單元，系數隱含在反射系數中，形式上相比橫向濾波器要復雜一些；自適應遞歸濾波器具有IIR的結構形式，由于存在反饋，系統(tǒng)的穩(wěn)定性和魯棒性是設計自適應遞歸濾波器時需要注意的主要問題。2.4.1自適應橫向濾波器利用抽頭延遲線做成的橫向濾波結構的自適應濾波器，通稱為自適應橫向濾波器（或自適應FIR濾波器）。它是研究所有自適應濾波算法的基本結構，由于其結構簡單、成本較低，也是工程領域最常用的一種自適應濾波器。x(n)Xn-1)^M}(n-N+1)圖2.3單輸入自適應濾波器自適應橫向濾波器的結構圖如圖2.3所示，％(n),w(n)........七(n)為可調節(jié)抽頭權系數表示在n時刻的系數值。它利用正規(guī)直接形式實現全零點傳輸函數，而不采用反饋調節(jié)。權系數的調節(jié)過程是首先自動調節(jié)濾波器系數的自適應訓練步驟，然后利用濾波系數加權延遲抽頭上的信號來產生輸出信號，將輸出信號與期望信號進行對比，所得的誤差值通過一定的自適應控制算法再用來調整權值，以保證濾波器處在最佳狀態(tài)，其抽頭加權系數集正好等于它的沖激響應，達到實現濾波的目的。2.4.2自適應遞歸濾波器自適應遞歸濾波器是指零點和極點都能自適應調整的濾波器，它的傳輸函數中分子和分母通常具有獨立的迭代步長因子。與自適應橫向濾波器相比，如果兩種濾波器的系數個數相同，則遞歸濾波器的頻率響應能夠接近更好的期望特性；如果期望的模型具有零點和極點時，遞歸濾波器需要的系數個數更少。對有些利用橫向濾波器實現時需要數百個甚至上千個抽頭系數，可以考慮使用自適應遞歸濾波器。缺點是遞歸濾波器要求對極點的穩(wěn)定性進行監(jiān)視，而且收斂速度很慢。采用得最多的自適應遞歸濾波器結構是如圖2-4所示的直接形式結構，自適應濾波器傳輸函數分母的系數為?(n),b1(n).........、(n)，傳輸函數分子的系數為a(n),a(n).........a(n)，其中N和M分別是自適應濾波器分母和分子的階數。01N

圖2.4自適應遞歸濾波器2.4.3圖2.4自適應遞歸濾波器1973年，Gay和Markel提出了一種新的系統(tǒng)的結構形式，即Lattice結構(又稱格型結構)。如圖2-5所示。k為反射系數，f(i)為前向預測誤差，b(i)為后向預測誤差，濾mmm波系數隱含在反射系數k中。該結構的算法依據是由NormanLevinson于1947年和由Durbin于1960年對Toeplitz矩陣改進的李文遜一杜賓(Levinson-Durbin)算法。格型濾波器最突出的是具有相互正交的模塊化結構，反射系數對舍入誤差不敏感，以及格型算法對于信號協方差矩陣特征值擴散的相對惰性等特點，使得該結構具有快速收斂和優(yōu)良的數值特性。特別適用于要求快速收斂和跟蹤快速時變信號的應用場合。b(i)mAb(i)mAb(i)1986年，Makhoul等人(8l提出了格型濾波器的自適應算法，利用前向預測和后向預測的功率值作為目標函數F[e(n)]，推導格型濾波參數即反射系數/Cm，算法可采用MSE與LS兩種準則，因而自適應格型濾波器也有兩類不同算法及其實現結構。它們明顯的區(qū)別是基于最小均方誤差自適應格型濾波器的每一節(jié)前后向反射系數相等，而最小二乘格型濾波器的每一節(jié)前后向反射系數不同。自適應濾波器在硬件實現上采用格型結構，可以在較少增加算法復雜度的基礎上顯著提高系統(tǒng)的濾波性能。第三章自適應濾波算法3.1最小均方誤差(LMS)算法最小均方算法即LMS算法是B.widrow和Hoff于1960年提出的：由于實現簡單且對信號統(tǒng)計特性變化具有穩(wěn)健件，LMS算法獲得了極廣泛的應用。LMS算法是基于最小均方誤差準則(MMSE)的維納濾波器和最陡下降法提出的，依據輸入信號在迭代過程中估計梯度矢量，并更新權系數以達到最優(yōu)的自適應迭代算法。這算法不需要計算相應的相關函數，也不需要進行矩陣運算。自適應濾波器最普通的應用就是橫向結構。濾波器的輸出信號y(n)是y(n)=wt(n)*x(n)=另1w(n)x(n-i)ii=0(3-1)T表示轉置矩陣，n是時間指針，N是濾波器次數。這個例子就是有限脈沖響應濾波器的形式，為x(n)和w(n)兩個矩陣卷積。這種自適應算法使用誤差信號e(n)=d(n)-y(n)(3-2)為了方便起見，將上述式子表示為向量形式，則上述式子表示為:(n)=wT(n)*x(n)(3-3)誤差序列可寫為e(n)=d(n)-y(n)=d(n)-wT(n)*x(n)(3-4)其中d(n)是期望信號，y(n)是濾波器的輸出。使用輸入向量x(n)和e(n)來更新自適應濾波器的最小化標準的相關系數。顯然，自適應濾波器控制機理是用誤差序列e(n)按照某種準則和算法對其系數｛wi(n)｝，i=1，2,…，N進行調節(jié)的，最終使自適應濾波的目標(代價)函數最小化，達到最佳濾波狀態(tài)。本節(jié)所用的標準是最小均方誤差(MSE)即e=Ee2(n)](3-5)E［］表示算子期望。假如公式中的y(n)被公式(3-4)取代，式(3-5)就可以表示為(3-6)e-EL(n)Lwt(n)*R*w(n)-2wt(n)*P(3-6)R=E［_x(n)*xT(n)］是NXN自相關矩陣，是輸入信號的自相關矩陣。P=Ed(n)*x(n)］是N*1互相關向量，也指出了期望信號d(n)和輸入信號向量x(n)的相互關矢量。由式(3-6)可見，自適應濾波器的代價函數是延遲線抽頭系數的二次函數。當矩陣R和矢量P己知時，可以由權系數矢量w直接求其解。最優(yōu)解w°=Iw*wi*w^最小化MSE，源自解這個公式(3-7)將式(3-6)對w求其偏導數，并令其等于零，假設矩陣R滿秩(非奇異)，可得代價函數最小的最佳濾波系數：w0=R-1*P(3-8)這個解稱為維納解，即最佳濾波系數值。因為均方誤差(MSE)函數是濾波系數w的二次方程，由此形成一個多維的超拋物面，這好像一個碗狀曲面又具有唯一的碗底最小點，通常稱之為自適應濾波器的誤差性能曲面。當濾波器工作在平穩(wěn)隨機過程的環(huán)境下，這個誤差性能曲面就具有固定邊緣的恒定形狀。自適應濾波系數的起始值｛wi(0)｝，i=1，2,…，N是任意值，位于誤差性能曲面上某一點，經過自適應調節(jié)過程，使對應于濾波系數變化的點移動，朝碗底最小點方向移動，最終到達碗底最小點，實現了最佳維納濾波。自適應過程是在梯度矢量的負方向接連的校正濾波系數的，即在誤差性能曲面的最陡下降法方向移動和逐步校正濾波系數，最終到達均方誤差為最小的碗底最小點，獲得最佳濾波或準最優(yōu)工作狀態(tài)。廣泛使用的LMS算法是一種選擇性法適應采樣和采樣基礎。這個方法可以避免復雜的計算。LMS算法是最陡下降法，在這個算法中，向量w(n+1)通過改變對最小均方誤差性能的負梯度比例自適應濾波算法及應用研究來增強。對于LMS算法梯度v(n)通過假設平方誤差。2(n)作為公式(3-7)的MSE來預測。因此，梯度預測可以單一化表示為:(3-9)V(n)=!^=-2e(n)*x(n)Ow(n)

(3-9)(3-10)在實際應用中，2u經常用來代替u。瞬間梯度預測產生的Widrow一HoffLMS算法，w(n)為自適應濾波器在n時刻的濾波系數或權矢量。按照最陡下降法調節(jié)濾波系數，則在n+1時刻的濾波系數或權矢量(3-10)w(n+1)=w(n)+2u*e(n)*x(n)u是自適應步長來控制穩(wěn)定性和收斂率。這種瞬時估計是無偏的，因為它的期望值E[]等于最陡下降法的梯度矢量。以任意初始向量w(0)來開始，向量w(n)集中在最佳解決方法w0,假如選u0<u<—(3-11)力max人max為矩陣R的最大特征值，受限制于人<Tr[r]=Tr(0)=Nr(0)(3-12)i=0Tr[]為指示矩陣的軌跡，r(0)=EIx2(n)]是平均輸入功率。對于自適應信號處理應用，最重要的實際考慮是收斂速度，決定濾波器跟蹤不穩(wěn)定型號的能力。總體來說，權向量要獲得收斂只有當最緩慢的權集中一點。這個最慢的時間t=(3-13)u人min這個指出時間連續(xù)相反的以u的比例收斂，并且依靠輸入矩陣的自相關特征值。具有全異的特征值，規(guī)定時間是受最慢模式的限制。以梯度預測為基礎的自適應導致噪聲矩陣的權向量，因此會有性能的損失。這個自適應處理的噪聲導致穩(wěn)態(tài)權向量隨意的改變?yōu)樽钸m宜的權向量。穩(wěn)態(tài)權向量的精度通過超額的最小均方誤差來測量。這個LMS算法超過EMS的是(3-14)excessEMS=u*TrR]*(3-14)￡min是MSE在穩(wěn)態(tài)的最小值。公式(3-15)和(3-16)產生LMS算法基本協定:為了在穩(wěn)態(tài)獲得高精度(低超自適應濾波算法及應用研究額MSE)，需要u的最小值，但是也會降低收斂率。后面會有進一步關于LMS算法特征的討論。對于N維更新u*e(n)是常數，誤差信號e(n)乘以u得到u*e(n)o這個常數首先計算，

然后乘以x(n)來更新w(n)。自適應LMS算法如同最陡下降法，利用時間n=0的濾波系數矢量為任意的起始值w(n)，然后開始LMS算法的計算，其步驟如下：由現在時刻n的濾波器濾波系數矢量估值w(n)，輸入信號矢量x(n)及期望信號d(n)，計算誤差信號e(n):e(n)=d(n)-y(n)(3-15)利用遞歸法計算濾波系數矢量的更新估值。將時間指數n增加1，回到第一步驟，重復上述計算步驟，一直到達穩(wěn)定狀態(tài)為止。由此可見，自適應LMS算法簡單，它既不需要計算輸入信號的相關函數，又不要求矩陣之逆。因而得到了廣泛的應用。3.2最小均方差(LMS)算法的性能分析LMS算法的性能準則是采用瞬時平方誤差性能函數0幻12代替均方誤差性能函數E(\e(k)\2)，其實質是以當前輸出誤差、當前參考信號和當前權系數求得下個時刻的權系數。其輸出信號y(k)輸出誤差e(k)及權系數W(k)的計算公式為：j(k)=W(k)Xt(k)(3-16)e(k)=d(k)一y(k)W(k+1)=W(n)+2r(k)X(k)ed(k)=x(k)+n(k)(3-16)k為迭代次數，M為濾波器的階數。d(k)表示第k時刻的輸入信號矢量式中，式中，X(k)表示參考信號的信號矢量：X(k)=[n(k),n(k-1)n(k-M+1)](3-17)y(k)、e(k)分別表示第k時刻的輸出信號與輸出誤差，W(k)表示k時刻權系數矢量：W(k)=【W(k,0),W(k,1)..…W(k,M-1)](3-18)r表示LMS算法步長收斂因子。自適應濾波器收斂的條件是：0<r<-^(3-19)冗max其中人max是輸入信號的自相關矩陣R的最大特征值。r的選取必須在收斂速度和失調之間取得較好的折中，既要具有較快的收斂速度，又要使穩(wěn)態(tài)誤差最小。它控制了算法穩(wěn)定性和自適應速度，如果P很小，算法的自適應速度會很慢；如果P很大，算法會變得不穩(wěn)定。由于LMS算法結構簡單、計算量小、穩(wěn)定性好，因此被廣泛應用于系統(tǒng)辨識、信號增強、自適應波束形成、噪聲消除以及控制領域等。在最小均方差（LMS）算法中，步長因子^的取值對算法的性能有著非常重要的影響，這些影響包括：算法的穩(wěn)定性、算法的收斂速度、算法的擾動和失調。以下我們針對^在這三方面的影響分別進行討論。為減小失調，需要設置較小的步長因子，這會使算法的收斂速度降低，這構成了一對矛盾。因此在考慮算法的總體性能時，必須在這兩個性能之間加以折中。從收斂速度的角度考慮，步長因子^應該盡可能大，但較大的^取值卻會加重算法的失調°LMS算法采用瞬時的采樣值對梯度進行估計，由于噪聲的影響，總會是會伴隨著估計的誤差，這將對算法帶來直接的影響。這些影響主要表現為算法的失調，而失調的嚴重程度，則和P的取值存在直接關系。失調是指由于梯度估計偏差的存在，在算法收斂后，均方誤差并不無窮趨近于最小值，而是呈現出在最小值附近隨機的波動特性，而權值亦不無窮趨近于最優(yōu)權值，而是在最優(yōu)權值附近呈現隨機的波動。關于LMS算法的收斂速度，將討論兩點：第一，對一個特定的信號環(huán)境，收斂速度和步長因子^有何關系。第二，信號環(huán)境本身的特性，對收斂速度有何影響。從收斂速度的角度考慮，步長因子R應該盡可能大，再看信號環(huán)境，即人及的特性對算法收斂性能的影響如果當特征值的分布范圍較大，即最大特征值和最小特征值之比較大時，公比的取值幅度也將比較大，算法的總的收斂速度將會變得比較慢。傳統(tǒng)的LMS算法確實結構簡單、計算量小且穩(wěn)定性好，因此被廣泛地應用于自適應控制、雷達、系統(tǒng)辨識及信號處理等領域。但是固定步長的LMS自適應算法在收斂速率、跟蹤速率及權失調噪聲之間的要求是相互矛盾的，為了克服這一缺點，人們研究出了各種各樣的變步長LMS的改進算法。盡管各種改進算法的原理不同，但變步長LMS自適應算法基本上遵循如下調整原則：即在初始收斂階段或未知系統(tǒng)參數發(fā)生變化時，步長應比較大，以便有較快的收斂速度或對時變系統(tǒng)的跟蹤速度；而在算法收斂后，不管主輸人端干擾信號有多大，都應保持很小的調整步長以達到很小的穩(wěn)態(tài)失調噪聲。3.3遞推最小二乘法（RLS）算法前面討論的基于最小均方誤差（MMSE）準則的自適應算法LMS算法收斂速度較慢，

對非平穩(wěn)性信號的適應性較差。為了克服上述缺點，可以采用最小二乘(LS)準則，在每時每刻，對所有已輸入信號重估其誤差，并使各誤差的平方和最小。這是個在現有約束條件下利用了最多可利用信息的準則，是在一定意義上最有效、信號非平穩(wěn)性能也最好的準則。理論和實驗都表明，最小二乘估計的性能優(yōu)于基于MMSE準則的算法。最小二乘濾波的基本算法是遞歸最小二乘(RLS)算法，這種算法實際上是FIR維納濾波器的一種時間遞歸實現，它是嚴格以最小二乘準則為依據的算法。它的主要優(yōu)點是收斂速度快，所以在快速信道均衡、實時系統(tǒng)辨識和時間序列分析中得到了廣泛的應用。其主要缺點是每次迭代需要的運算量很大，對于N階橫向濾波器，其計算量在N的平方次數量級。而LMS算法的運算量是在N數量級。歸最小二乘法(RLS)算法是一種快速收斂的算法，該算法判決依據是直接處理接受數據，使其二次性能指數函數最小，而前面所述的LMS算法則是使平方誤差的期望值最小。設計出的自適應濾波器，通過調節(jié)濾波器參數七，使得基于過去的觀測樣本而得到的觀測信號s(n)在某種意義上最逼近原信號s(n)。此時，一方面，恢復誤差：(3-20)(3-21)門(n)=s(n)-WtX(n)另一方面，可以將WTX(n)視作為X(n)的預測。因此可定義預測誤差:(3-20)(3-21)e(n)-x(n)-WtX(n)設計自適應濾波器的目的自然是希望使恢復誤差門(n)最小。但是由于真實信號s(n)未知，故門(n)是不可觀測的或無法計算的。與此相反，預測誤差e(n)卻是可觀測的，它與恢復誤差的關系為：(3-22)e(n)=門(n)+n(n)而噪聲序列n(n)是獨立的，因此不可觀測的恢復誤差門(n)的最小化等價于可觀測的預測誤差e(n)的最小化。(3-22)具體的，考慮到i2(3-23)e(n,W)=YXn-i\e(i)|i=1(3-23)的最小化。式中，X為遺忘因子，通常取0W入W1。由況(E)=￡X人〃-z[c(i)-WTX(i)]=-22LXn-i[c(i)-WTX(i)X(i)=0(3-24)dWdWi=1i=1可得到等價關系式：XXn-iX(i)XT(i)W=XXn-ix(i)X(i)(3-25)若令：R(n)=XnXn-iX(i)Xt(i)(3-26)i=1U(n)=XXn-ix(i)X(i)(3-27)i=1則式(3-25)可簡寫為：R(n)W(n)=U(n)(3-28)假定R(n)是非奇異的，則：W(n)=R-1(n)U(n)(3-29)這就是濾波器濾波參數的公式，之所以記作W(n)，是因為W隨著時間而改變。式(3-27)叫做最佳濾波器系數的Yule-Walker方程。依據式(3-29)來調整濾波器參數有兩處不便。第一，需要矩陣求逆及矩陣乘法等運算，因而計算量大。第二，W(n)與預測誤差e(n)之間也未建立任何關系，不能達到根據預測誤差e(n)來調整濾波器參數的要求。預測誤差e(n)由(3-30)e(n)=x(n)一Wt(n)X(n)表示。注意到Wt(i-1)X(i)Xt(i)=X(i)Xt(i)W(i-1)和式(3-30)，用R-1(n)式乘上式后得到：(3-30)W(n)=R-1(n)XXn-iX(i)Xt(i)W(i-1)+R-1(n)XXntXt(i)e(i)=W(n)+W(n)i=1i=1為了簡化第一項W1(n)的表達，并建立W(n)與W(n-1)之間的關系，一種合理的想法是認為n-1時刻及其以前時刻的濾波器參數相同，即：

w(0)=W(1)==W(n-1)(3-32)這樣，利用式(3-27)及上述假定，就有W(n)=R-1(n)Y人n-iX(i)Xt(i)W(n-1)=W(n-1)1i(3-32)另一方面，為了簡化W2(n)的表達，一種合理的想法就是：認為遺忘因子人=0。這相當于，只有本時刻的結果被記憶下來，而將以前的各時刻的結果全部遺忘。從而，有下列的簡化結果:W(n)=R-1(n)^0n-iXT(i)e(i)=R-1(n)Xt(n)e(n)(3-33)i=1將式(3-31)和(3-32)代入(3-29)，則得W(n)=W(n-1)+R-1(n)Xt(n)e(n)(3-34)式(3-34)描述了一個濾波器參數受其輸入誤差e{n)控制的自適應濾波算法，被稱作遞歸最小二乘(RLS)。為了實現遞推計算，還要解決逆矩陣R-1(n)的遞推計算問題。為此，我們先引入一個著名的結果一一矩陣求逆引理。矩陣求逆引理：若A是非奇異的，則：(A+BCt)-1=A-1-A-1B(I+CtA-1B)-1CtA-1(3-35)由R(n)的定義式(3-22)，顯然有R(n)=R(n-1)+X(n)Xt(n)(3-36)對它應用矩陣求逆引理，得：心、心1、R-1(n)X(n)Xt(n)R-1(n-1)(3-37)R-1(n)=R-1(n-1)(337)1+Xt(n)R-1(n-1)X(n)綜上所分析，遞歸最小二乘法自適應濾波(RLS)算法如下所示算法初始化：W(0)=0R(0)=IFork=1tonfinaldo:e(n)=x(n)-Wt(n-1)X(n)R-1(n)=R-1(n-1)-R-1(n)X(n)Xt(nR-1(n)=R-1(n-1)-(3-38)1+Xt(n)R-1(n-1)X(n)W(n)=W(n-1)+R-1(n)Xt(n)e(n)3.4遞歸最小二乘(RLS)算法的性能分析(3-38)RLS(遞推最小二乘法)算法的關鍵是用二乘方的時間平均的最小化鋸帶最小均方準則，并按時間進行迭代計算。對于非平穩(wěn)信號的自適應處理，最合適的方法是采用最小二乘自適應濾波器。它使誤差的總能量最小。RLS算法的優(yōu)點是收斂速度快，其收斂性能與輸入信號的頻譜特性無關，但其缺點是計算復雜度很高，對于N階的濾波器，RLS算法的計算量為O(N2)[1,2]為了對非平穩(wěn)信號進行跟蹤，RLS算法引入了數加權遺忘因子入。該遺忘因子的引入，使RLS算法能夠對非平穩(wěn)信號進行跟蹤。由于設計簡單、性能最佳，其中RLS濾波器具有穩(wěn)定的自適應行為而且算法簡單，收斂性能良好。..........■....一人..這里討論RLS算法收斂特性兩個方面的問題：一是從均值的意乂上討論W(n)的收斂性；二是從均方值的意義上討論誤差e(n)的收斂性。為了討論進行這樣的討論，必須對輸入過程的類別作出規(guī)定。考慮隨即機回歸模型：d(n)=丈wx(n-i+1)+V(n)(3-39)i=1其中x(n)是零均值過程V(n)是均值為零,方差為c2n的高斯白噪聲序列。其中EW(n)]的收斂性對公式d(n)=Xt(n)W+V(n)，其中W=[w……w]t。而可以與出：q(n)=W人n-iX(i)[Xt(i)W+V(i)](3-40)0i=1當￡(n)，W(n)滿足：W(n)=^At(n)A(n)A(n)^-1At(n)A(n)b(n)=R-1(n)q(n)(3-41)X將其寫成如下形式：R(n)=r(n)+6XnI(3-42)其中r(n=W人n-iX(i)XT(n)(3-43)i=1將式(3-40)和式(3-42)帶入式(3-41)中得：W(n)=[r(n)+8人M]-i[r(n)W+才人n-iX(i)V(i)](3-44)xx0i=1故eW(n)]=W—r-i(n)認nW(3-45)在最小二乘法(RLS)算法引入了人的意義。統(tǒng)計量的計算是從零時刻開始的，如果不引入遺忘因子，所有采樣點數據對當前估計量估計的貢獻是相等的，在時變條件下，這顯然不合理，因為離當前時刻比較遠的數據，其信道與當前信道時域相關度越低，而通過引入0到1之間的取值人，可以令離當前時刻越遠的采樣數據對統(tǒng)計量估計的貢獻越小，由此可以實現對時變信道的有效跟蹤。另外，通過調節(jié)人的大小，可以使算法適用于不同的信道時變速率環(huán)境。例如，信道時變速率較慢時可選用較大的人，反之則選用較小的人。3.5LMS算法與RLS算法性能比較LMS算法確實結構簡單、計算量小且穩(wěn)定性好，因此被廣泛地應用于自適應控制、雷達、系統(tǒng)辨識及信號處理等領域。它的主要限制是它的收斂速度慢，這歸因于僅僅使用一階信息，影響它的收斂速度的主要因素：步長因子^，^較小時，自適應速率減慢，它等效于LMS濾波器有長的“記憶”。因此自適應后平均額外均方誤差較小，這是因為濾波器使用大量的數據估計梯度向量。另一方面，當^較大時，自適應速率相對較快，但以自適應后平均額外均方誤差的增加為代價。在這種情況下較少數據進入估計，故濾波器誤差性能惡化。因此參數^的倒數可以看作LMS濾波器的記憶。這種固定步長的LMS自適應算法在收斂速率、跟蹤速率及權失調噪聲之間的要求也是相互矛盾的，LMS的收斂速度與調整步長有關，如果為了縮短響應時間而加大運算步長，過大的步長會使運算過程產生發(fā)散，不能跟蹤目標。也就是說，步長增大可以使收斂速率加快，但是會使權失調噪聲增大，跟蹤速度減小，從而影響穩(wěn)定性。為了克服這一缺點，人們研究出了各種各樣的變步長LMS的改進算法。盡管各種改進算法的原理不同，但變步長LMS自適應算法基本上遵循如下調整原則：即在初始收斂階段或未知系統(tǒng)參數發(fā)生變化時，步長應比較大，以便有較快的收斂速度或對時變系統(tǒng)的26跟蹤速度；而在算法收斂后，不管主輸入端干擾信號有多大，都應保持很小的調整步長以達到很小的穩(wěn)態(tài)失調噪聲。遞推最小二乘法即RLS算法，是最小二乘法的遞推形式引出一種自適應算法，它是嚴格以最小二乘方準則為依據的算法。其主要優(yōu)點就是收斂速度快，其收斂性能與輸入信號的頻譜特性無關。主要缺點是每次迭代計算量很大(對于乙階橫向濾波器，計算量數量級為L2)。RLS算法與LMS算法的基本差別如下：LMS算法中的步長參數^被①-】(〃)(即輸入向量的相關矩陣的逆)代替這一改進對平穩(wěn)環(huán)境下RLS算法的收斂性能有如下深刻的影響。指數加權因子人的作用和^的作用類似：RLS算法的收斂速度比LMS算法快一個數量級。RLS算法的收斂速度隨著力的變小而加快，但穩(wěn)定性相對減弱。反之，收斂速度減慢，穩(wěn)定性加強。3.6其他自適應濾波算法3.6.1仿射投影法仿射投影算法最早由K-Ozeki和T.Umedate提出，它是歸一化最小均方誤差(NLMS)算法的推廣。仿射投影算法的性能介于LMS算法和RLS算法之間，其計算復雜度比RLS算法低。歸一化最小均方誤差(NLMS)算法是LMS算法的改進算法，它可以看作是一種變步長因子的LMS算法，其收斂性能對輸入信號的能量變化不敏感。而仿射投影算法的計算復雜度比NLMS算法高很多。Gay等提出的快速仿射投影算法大大降低了仿射投影算法的計算復雜度。在快速仿射投影算法中，采用滑動窗快速橫向濾波器算法計算預濾波向量，避免了矩陣求逆運算。快速仿射投影算法的計算復雜度雖然降低了，但其內嵌的滑動窗快速橫向濾波器算法的實現相對復雜，并且存在數值穩(wěn)定性問題。為解決快速仿射投影算法的數值穩(wěn)定性問題，Douglas等提出了正交變換的快速仿射投影算法的近似算法，避免了采用復雜的滑動窗快速橫向濾波器算法，改善了快速仿射投影算法在有限精度運算時的數值穩(wěn)定性。3.6.2共軛梯度算法雖然RLS算法收斂速度快，但其計算復雜度很高，因為它需要估計逆矩陣。假如被估計的逆矩陣失去正定性，就會引起算法發(fā)散；并且算法實現所需的存儲量極大，不利于實現。一些快速RLS算法雖然降低了RLS算法的計算復雜度，但都存在數值穩(wěn)定性問題。共扼梯度自適應濾波算法不含有RLS算法中的矩陣運算，也沒有某些快速RLS算法存在的數值穩(wěn)定性問題，它保留了RLS算法收斂速度快的特點。Alan等提供和分析了共扼梯度法在自適應濾波中的兩種實現方法，這兩種方法對原始的共軛梯度法作了一些修改，并且對這兩種算法的收斂性能和失調作了比較，建立了算法的穩(wěn)定范圍?；爻松厦娼榻B的自適應濾波算法之外，還有一些其它的算法，如：系數部分更新自適應濾波算法、LMF(RLF)算法、Leaky-LMS算法等。在一些自適應濾波應用中，即使簡單的LMS(NLMS)算法實現起來也顯復雜，為此，系數部分更新自適應濾波算法被提出，其主要思想是在自適應濾波算法的每次迭代中，僅僅自適應濾波器的部分系數被更新，這使得整個自適應濾波算法的計算量有所降低。［14這類算法主要有：PeriodicLMS算法，M-MaxNLMS算法和MaxNLMS算法。3.6.3基于子帶分解的自適應濾波算法基于子帶分解自適應濾波的基本原理是將輸入信號與參考信號經過分解濾波器組抽取進行子帶分解，對信號按頻帶劃分，然后在各個子帶上分別進行自適應濾波，再將子帶信號內插后通過合成濾波器組得到最后的合成信號。其中，由于對信號進行了抽取，使完成自適應濾波所需的計算量得以減??；而在子帶上進行自適應濾波使收斂性能又有所提高。在信號的子帶分解中，存在著由于分解濾波器組的非理想特性引起的子帶信號混疊的問題。為了避免混疊對自適應濾波的影響，Gilloire采用加入子帶間濾波的方法，而Peraglia等采取在抽取時過采樣的方法。一般來說，信號的子帶分解處理有如下優(yōu)點：采樣間隔增大引起自適應漣波算法及應用研究濾波器抽頭數目減少，減小了計算復雜性：采樣間隔擴大后，輸入信號本身的自相關也減弱，可以提高算法的收斂性能。為了提高信號子帶分解自適應濾波器的收斂速度，Deleon等認為，經過子帶分解后，抽取引起部分信號的浪費，采用MultirateReoeatingMethod可以利用那些被浪費的信號成分，通過增加單位時間內對權值的更新次數，獲得更快的收斂速度。3.6.4其他自適應濾波算法除了上面介紹的自適應濾波算法之外，還有一些其它的算法，如：系數部分更新自適應濾波算法、LMF(RLF)算法、Leaky-LMS算法等。在一些自適應濾波應用中，即使簡單的LMS(NLMS)算法實現起來也顯復雜，為此，系數部分更新自適應濾波算法被提出，其主要思想是在自適應濾波算法的每次迭代中，僅僅自適應濾波器的部分系數被更新，使得28整個自適應濾波算法的計算量有所降低［14。這類算法主要有：PeriodicLMS算法，M-MaxNLMS。第四章基于MATLAB的自適應濾波器仿真實現與應用4.1MATLAB語言簡介MATLAB誕生在20世紀七十年代，它的編寫者是CLEVEMOLER博士和他的同事。當時，CLEVEMOLER博士和他的同事開發(fā)了ELSPACK和FORTRAN子程序庫。這兩個程序庫主要是求解線性方程的程序庫。但是，CLEVEMOLER發(fā)現學生使用這兩個程序庫時有困難，主要是接口程序不好寫。于是，CLEVEMOLER自己動手，在業(yè)余時間編寫了ELSPACK和LINPACK的接口程序。CLEVEMOLER給這個接口程序取名為MATLAB，意為矩陣MATRIX和實驗室LABORAORY的組合。以后幾年，MATLAB作為免費軟件在大學里使用，深受大學生的喜愛。1984年，CLEVEMOLER和JOHNLITTTE成立了MATHWORKS公司，正式把MATLAB推向市場，并繼續(xù)進行MATLAB的開發(fā)。1993年，Mathworks公司推出MATLAB4.0；1995年，Mathworks公司推出MATLAB4.2c版（forwin3.x;1997年）；1997年推出MATLAB7.0；2000年10月，Mathworks公司推出MATLAB6.0；2002年8月，新的版本MATLAB6.5已經開始發(fā)布了。如今MATLAB7.0已啟用。無論是進行科學研究還是產品開發(fā)，MATLAB都是必不可少的工具，MATLAB可用來進行：數據分析、數值和符號計算、工程與科學繪圖、控制系統(tǒng)設計、數字圖像信號處理、財務工程、建模、仿真、原型開發(fā)、應用開發(fā)、圖形用戶界面設計。MATLAB語言有不同于其他高級語言的特點，它被稱為第四代計算機語言。正如第三代計算機語言FORTRAN語言與C語言等使人們擺脫了對計算機硬件的操作一樣，MATLAB語言使人們從繁瑣的程序代碼中解放出來。它的豐富的函數使開發(fā)者無須重復最大的特點是簡單和直接。它的主要特點有：編程效率高；用戶使用方便；擴充能力好，交互性好；移植性好，開放性好；語句簡單，內涵豐富；高效方便的矩陣和數據運算；方便的繪圖功能。目前的MATLAB已經成為國際上最為流行的軟件之一，它除了傳統(tǒng)的交互式編程之外，還提供了豐富可靠的矩陣運算、圖形繪制、數據處理、圖形處理，方便的windows編程等便利工具，出現了各種以M戶L1，LAB為基礎的實用工具箱，廣泛地應用于自動控制、圖像信號處理、生物醫(yī)學工程、語言處理、雷達工程、信號分析、振動理論、時序分析于建模、優(yōu)化設計等領域。較為常見的MATLAB工具箱主要包括:系統(tǒng)辨識工具箱，魯棒控制工具箱、多變量頻率設計工具箱，u分析與綜合工具箱、神經網絡工具箱、最優(yōu)化工具箱、信號處理工具箱、模糊推理系統(tǒng)工具箱、小波分析工具箱。4.2基于LMS和RLS的自適應濾波器應用仿真4.2.1基于LMS自適應預測器設計自回歸過程是用來描述伴隨一些可能性規(guī)律出現的統(tǒng)計現象的瞬時估計的隨機過程。一階自回歸模型的公式如下：TOC\o"1-5"\h\z\o"CurrentDocument"y(k)=-ay(k-1)+b(k)(4.1)ai是模型的唯一參數，b(幻是零均值白噪聲。用一個自適應濾波器生成一個可以對參數a1進行一步預測的一階自適應預估器。LMS算法可由如下方程表示：\o"CurrentDocument"e(k)=y(k)-ay(k-1)(4.2)\o"CurrentDocument"《(k+1)=?(k)+5y(k-1)e(k)(4.3)仿真實驗結果為了比較不同的5，我們選取N個點估計參數％，為獲取平均值重復M次。而且分別對5=0.01，5=0.05，6=0.1進行計算。參數a1固定在-0.