自適應(yīng)信號處理 課件 ch04改進(jìn)型最小均方自適應(yīng)算法

自適應(yīng)信號處理改進(jìn)型最小均方自適應(yīng)算法第四章新工科建設(shè)：電子信息類系列教材01歸一化LMS算法歸一化LMS算法1第3章討論的LMS算法中存在著失調(diào)與收斂速度的矛盾。在保證濾波器具有一定的失調(diào)性能的情況下，如何縮短收斂過程就成為一個值得研究的問題。本章將給出幾種用于提高收斂速度、縮短收斂過程的改進(jìn)型LMS算法。提高LMS算法收斂速度的基本思路主要有三種。（1） 采用不同的梯度估值。如LMS牛頓算法，它在估計(jì)梯度時釆用了輸入向量相關(guān)矩陣的估值，使得收斂速度大大快于基本LMS算法，因?yàn)樗诘^程中采用了更多的有關(guān)輸入信號向量的信息?；诩s束優(yōu)化問題求解歸一化LMS算法歸一化LMS算法1（2） 對收斂因子（步長）選用不同方法。步長的大小決定著算法的收斂速度和穩(wěn)態(tài)時失調(diào)量的大小。對于步長取常數(shù)值來說，收斂速度和失調(diào)量是一對矛盾量。而采用變步長的方法可以克服這一矛盾。自適應(yīng)過程開始時，選用較大的步長以保證較快的收斂速度，然后讓步長逐漸減小，以保證收斂后得到較小的失調(diào)量，如歸一化LMS算法。（3） 釆用變換域分塊處理技術(shù)。對用濾波器權(quán)向量來調(diào)整修正項(xiàng)的迭代方式，可以用變換域快速算法與分塊處理技術(shù)來大大減小計(jì)算量，且能改善收斂特性，如頻域內(nèi)的快速塊LMS算法。LMS牛頓算法在第3章己經(jīng)介紹，下面分別來介紹歸一化LMS算法和快速塊LMS算法?；诩s束優(yōu)化問題求解歸一化LMS算法歸一化LMS算法1歸一化LMS算法濾波器的結(jié)構(gòu)形式與LMS算法濾波器完全一樣，都是橫向?yàn)V波器。在第3章討論的基本LMS算法中，1次迭代中濾波器抽頭權(quán)向量的修正項(xiàng)包含三項(xiàng)：步長參數(shù)日、抽頭輸入向量，估計(jì)誤差。由于濾波器抽頭權(quán)向量修正項(xiàng)與抽頭輸入向量成正比，因此，LMS算法的梯度噪聲將被放大。釆用歸一化LMS算法可以克服LMS算法的這一缺點(diǎn)。最陡下降算法的基本思想歸一化LMS算法1在歸一化LMS算法中，1次迭代中濾波器抽頭權(quán)向量的修正項(xiàng)被抽頭輸入向量的平方歐氏范數(shù)歸一化。本節(jié)將從約束優(yōu)化問題的角度來導(dǎo)出歸一化LMS算法。歸一化LMS算法的基本思想遵循濾波器設(shè)計(jì)的最小化干擾原理。濾波器設(shè)計(jì)的最小化干擾原理為：自適應(yīng)濾波器權(quán)向量從一次迭代到下一次迭代的過程中應(yīng)以最小方式改變，而且受到更新的濾波器輸出所施加的約束。最陡下降算法的基本思想歸一化LMS算法1最陡下降算法的基本思想歸一化LMS算法1最陡下降算法的基本思想歸一化LMS算法1LMS算法權(quán)向量的修正項(xiàng)被抽頭輸入向量的平方歐氏范數(shù)歸一化。相比于基本LMS算法權(quán)向量的迭代公式，則可以把歸一化LMS算法視為變步長的LMS算法。由于歸一化LMS算法在LMS算法隨機(jī)梯度估計(jì)的基礎(chǔ)上相對于抽頭輸入向量的平方歐氏范數(shù)進(jìn)行了歸一化，因此無論是對于不相關(guān)數(shù)據(jù)還是對于相關(guān)數(shù)據(jù)，歸一化LMS算法都比基本LMS算法有更快的收斂速度。最陡下降算法的基本思想歸一化LMS算法2歸一化LMS算法小結(jié)歸一化LMS算法2除歸一化LMS算法外，還有兩種改進(jìn)型LMS算法：時域正交LMS(TDO-LMS)算法和修正LMS(MLMS)算法，都屬于可變步長的LMS算法，可以縮短自適應(yīng)收斂過程的時間。感興趣的讀者可參閱相關(guān)文獻(xiàn)。歸一化LMS算法小結(jié)02塊LMS算法塊LMS算法1塊自適應(yīng)濾波器圖4-1給出了塊自適應(yīng)濾波器的結(jié)構(gòu)框圖。輸入數(shù)據(jù)序列通過串-并轉(zhuǎn)換器被分成長度為的塊，產(chǎn)生的輸入數(shù)據(jù)塊被一次一塊地加到長度為M的橫向?yàn)V波器。在收集到每一塊數(shù)據(jù)樣值后進(jìn)行濾波器抽頭權(quán)值的更新，使得濾波器的自適應(yīng)一塊一塊地進(jìn)行，而不是像基本LMS濾波器那樣一個一個樣值地進(jìn)行。塊LMS算法1塊自適應(yīng)濾波器塊LMS算法1塊自適應(yīng)濾波器塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法3塊LMS算法的收斂性塊LMS算法4塊LMS算法塊長度的選擇塊LMS算法的塊長度[存在三種可能的選擇，每種選擇都有各自的實(shí)際應(yīng)用。這三種可能選擇分別如下。(1)L=M，從計(jì)算復(fù)雜性來看，這是最佳選擇。(2)L<M，這種情況具有降低處理延遲的好處。此外，由于塊長度小于濾波器長度，因此此時還有自適應(yīng)濾波器算法的計(jì)算效率優(yōu)于LMS算法的優(yōu)點(diǎn)。(3)L>M，會產(chǎn)生自適應(yīng)過程的冗余運(yùn)算，因?yàn)榇藭r梯度向量的估計(jì)使用了比濾波器本身更多的信息。在大多數(shù)實(shí)際應(yīng)用中，人們更多地使用L=M的塊自適應(yīng)濾波情況。03快速塊LMS算法快速塊LMS算法塊LMS算法的關(guān)鍵問題在于如何釆用有效的計(jì)算方式來實(shí)現(xiàn)該算法。塊LMS算法濾波器的輸出運(yùn)算為濾波器的抽頭輸入信號與抽頭權(quán)值的線性卷積；塊LMS算法權(quán)向量修正項(xiàng)的主要運(yùn)算為濾波器抽頭輸入信號與誤差信號的線性相關(guān)。而根據(jù)數(shù)字信號處理相關(guān)理論可知，快速變換(FFT)可以實(shí)現(xiàn)快速卷積和快速相關(guān)運(yùn)算。因此，利用FFT在頻域上可以完成塊LMS算法。用這種方式實(shí)現(xiàn)的塊LMS算法稱為快速塊LMS(FBLMS)算法。首先考慮線性卷積。利用FFT計(jì)算線性卷積有兩種方法：重疊保留法和重疊相加法。其中重疊保留法更