自適應(yīng)信號處理 課件 ch04改進型最小均方自適應(yīng)算法

自適應(yīng)信號處理改進型最小均方自適應(yīng)算法第四章新工科建設(shè)：電子信息類系列教材01歸一化LMS算法歸一化LMS算法1第3章討論的LMS算法中存在著失調(diào)與收斂速度的矛盾。在保證濾波器具有一定的失調(diào)性能的情況下，如何縮短收斂過程就成為一個值得研究的問題。本章將給出幾種用于提高收斂速度、縮短收斂過程的改進型LMS算法。提高LMS算法收斂速度的基本思路主要有三種。（1） 采用不同的梯度估值。如LMS牛頓算法，它在估計梯度時釆用了輸入向量相關(guān)矩陣的估值，使得收斂速度大大快于基本LMS算法，因為它在迭代過程中采用了更多的有關(guān)輸入信號向量的信息?；诩s束優(yōu)化問題求解歸一化LMS算法歸一化LMS算法1（2） 對收斂因子（步長）選用不同方法。步長的大小決定著算法的收斂速度和穩(wěn)態(tài)時失調(diào)量的大小。對于步長取常數(shù)值來說，收斂速度和失調(diào)量是一對矛盾量。而采用變步長的方法可以克服這一矛盾。自適應(yīng)過程開始時，選用較大的步長以保證較快的收斂速度，然后讓步長逐漸減小，以保證收斂后得到較小的失調(diào)量，如歸一化LMS算法。（3） 釆用變換域分塊處理技術(shù)。對用濾波器權(quán)向量來調(diào)整修正項的迭代方式，可以用變換域快速算法與分塊處理技術(shù)來大大減小計算量，且能改善收斂特性，如頻域內(nèi)的快速塊LMS算法。LMS牛頓算法在第3章己經(jīng)介紹，下面分別來介紹歸一化LMS算法和快速塊LMS算法?；诩s束優(yōu)化問題求解歸一化LMS算法歸一化LMS算法1歸一化LMS算法濾波器的結(jié)構(gòu)形式與LMS算法濾波器完全一樣，都是橫向濾波器。在第3章討論的基本LMS算法中，1次迭代中濾波器抽頭權(quán)向量的修正項包含三項：步長參數(shù)日、抽頭輸入向量，估計誤差。由于濾波器抽頭權(quán)向量修正項與抽頭輸入向量成正比，因此，LMS算法的梯度噪聲將被放大。釆用歸一化LMS算法可以克服LMS算法的這一缺點。最陡下降算法的基本思想歸一化LMS算法1在歸一化LMS算法中，1次迭代中濾波器抽頭權(quán)向量的修正項被抽頭輸入向量的平方歐氏范數(shù)歸一化。本節(jié)將從約束優(yōu)化問題的角度來導(dǎo)出歸一化LMS算法。歸一化LMS算法的基本思想遵循濾波器設(shè)計的最小化干擾原理。濾波器設(shè)計的最小化干擾原理為：自適應(yīng)濾波器權(quán)向量從一次迭代到下一次迭代的過程中應(yīng)以最小方式改變，而且受到更新的濾波器輸出所施加的約束。最陡下降算法的基本思想歸一化LMS算法1最陡下降算法的基本思想歸一化LMS算法1最陡下降算法的基本思想歸一化LMS算法1LMS算法權(quán)向量的修正項被抽頭輸入向量的平方歐氏范數(shù)歸一化。相比于基本LMS算法權(quán)向量的迭代公式，則可以把歸一化LMS算法視為變步長的LMS算法。由于歸一化LMS算法在LMS算法隨機梯度估計的基礎(chǔ)上相對于抽頭輸入向量的平方歐氏范數(shù)進行了歸一化，因此無論是對于不相關(guān)數(shù)據(jù)還是對于相關(guān)數(shù)據(jù)，歸一化LMS算法都比基本LMS算法有更快的收斂速度。最陡下降算法的基本思想歸一化LMS算法2歸一化LMS算法小結(jié)歸一化LMS算法2除歸一化LMS算法外，還有兩種改進型LMS算法：時域正交LMS(TDO-LMS)算法和修正LMS(MLMS)算法，都屬于可變步長的LMS算法，可以縮短自適應(yīng)收斂過程的時間。感興趣的讀者可參閱相關(guān)文獻。歸一化LMS算法小結(jié)02塊LMS算法塊LMS算法1塊自適應(yīng)濾波器圖4-1給出了塊自適應(yīng)濾波器的結(jié)構(gòu)框圖。輸入數(shù)據(jù)序列通過串-并轉(zhuǎn)換器被分成長度為的塊，產(chǎn)生的輸入數(shù)據(jù)塊被一次一塊地加到長度為M的橫向濾波器。在收集到每一塊數(shù)據(jù)樣值后進行濾波器抽頭權(quán)值的更新，使得濾波器的自適應(yīng)一塊一塊地進行，而不是像基本LMS濾波器那樣一個一個樣值地進行。塊LMS算法1塊自適應(yīng)濾波器塊LMS算法1塊自適應(yīng)濾波器塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法3塊LMS算法的收斂性塊LMS算法4塊LMS算法塊長度的選擇塊LMS算法的塊長度[存在三種可能的選擇，每種選擇都有各自的實際應(yīng)用。這三種可能選擇分別如下。(1)L=M，從計算復(fù)雜性來看，這是最佳選擇。(2)L<M，這種情況具有降低處理延遲的好處。此外，由于塊長度小于濾波器長度，因此此時還有自適應(yīng)濾波器算法的計算效率優(yōu)于LMS算法的優(yōu)點。(3)L>M，會產(chǎn)生自適應(yīng)過程的冗余運算，因為此時梯度向量的估計使用了比濾波器本身更多的信息。在大多數(shù)實際應(yīng)用中，人們更多地使用L=M的塊自適應(yīng)濾波情況。03快速塊LMS算法快速塊LMS算法塊LMS算法的關(guān)鍵問題在于如何釆用有效的計算方式來實現(xiàn)該算法。塊LMS算法濾波器的輸出運算為濾波器的抽頭輸入信號與抽頭權(quán)值的線性卷積；塊LMS算法權(quán)向量修正項的主要運算為濾波器抽頭輸入信號與誤差信號的線性相關(guān)。而根據(jù)數(shù)字信號處理相關(guān)理論可知，快速變換(FFT)可以實現(xiàn)快速卷積和快速相關(guān)運算。因此，利用FFT在頻域上可以完成塊LMS算法。用這種方式實現(xiàn)的塊LMS算法稱為快速塊LMS(FBLMS)算法。首先考慮線性卷積。利用FFT計算線性卷積有兩種方法：重疊保留法和重疊相加法。其中重疊保留法更