卡爾曼濾波的學(xué)習(xí)

1、1.2 Kalman濾波理論的基礎(chǔ)在估計(jì)問(wèn)題中，長(zhǎng)考慮如下隨機(jī)線性離散系統(tǒng)模型是系統(tǒng)的n維狀態(tài)向量，是系統(tǒng)的m維觀察向量。根據(jù)狀態(tài)向量和觀察向量在時(shí)間上存在的不同對(duì)應(yīng)關(guān)系，我們可以把估計(jì)問(wèn)題分為濾波、預(yù)測(cè)和平滑，以上式所描述的隨機(jī)線性離散系統(tǒng)為例，設(shè)表示根據(jù)j時(shí)刻和j以前時(shí)刻的觀察值，對(duì)k時(shí)刻狀態(tài)做出的某種估計(jì)，則按照k和j的不同對(duì)應(yīng)關(guān)系， 敘述如下：（1） 當(dāng)k=j時(shí)，對(duì)的估計(jì)稱為濾波，即依據(jù)過(guò)去直至現(xiàn)在的觀察測(cè)量來(lái)估計(jì)現(xiàn)在的狀態(tài)。相應(yīng)地，稱為的最有濾波估計(jì)值，簡(jiǎn)記為。這類估計(jì)主要用于隨機(jī)系統(tǒng)的實(shí)時(shí)控制。（2） 當(dāng)k>j時(shí)對(duì)的估計(jì)稱為預(yù)測(cè)或外推，即依據(jù)過(guò)去直至現(xiàn)在的觀察測(cè)量來(lái)預(yù)測(cè)未來(lái)的

2、狀態(tài)，并把稱為的最優(yōu)預(yù)測(cè)估計(jì)值。這類估計(jì)廣泛應(yīng)用于對(duì)系統(tǒng)未來(lái)狀態(tài)的預(yù)測(cè)和實(shí)時(shí)控制。（3） 當(dāng)k<j時(shí)對(duì)的估計(jì)稱為平滑或內(nèi)插，即依據(jù)過(guò)去直至現(xiàn)在的觀察測(cè)量去估計(jì)過(guò)去的歷史狀態(tài)，并稱為的最優(yōu)平滑估計(jì)值。這類估計(jì)廣泛應(yīng)用于通過(guò)分析實(shí)驗(yàn)或試驗(yàn)數(shù)據(jù)，對(duì)系統(tǒng)進(jìn)行評(píng)估。在預(yù)測(cè)、濾波和平滑三類狀態(tài)估計(jì)問(wèn)題中預(yù)測(cè)是濾波的基礎(chǔ)，濾波是平滑的基礎(chǔ)。最早的估計(jì)方法是高斯提出的最小二乘法，最小二乘法沒(méi)有考慮到被估參數(shù)和觀測(cè)數(shù)據(jù)的統(tǒng)計(jì)特性，因此這種方法不是最優(yōu)估計(jì)方法。Wiener濾波器采用頻域設(shè)計(jì)法，運(yùn)算復(fù)雜，解析求解困難，整批數(shù)據(jù)處理要求存儲(chǔ)空間大，造成其適用范圍及其有限，僅適用于一維平穩(wěn)隨機(jī)過(guò)程信號(hào)濾波。Ka

3、lman濾波采用了和Wiener濾波相同的估計(jì)準(zhǔn)則，二者的基本原理一致，但是kalman濾波是一種時(shí)域?yàn)V波方法，采用狀態(tài)空間方法描述系統(tǒng)，算法采用遞推形式，數(shù)據(jù)存儲(chǔ)量小，不僅可以處理平穩(wěn)隨機(jī)過(guò)程，也可以處理多維和非平穩(wěn)隨機(jī)過(guò)程。關(guān)于系統(tǒng)過(guò)程噪聲和觀測(cè)噪聲的統(tǒng)計(jì)特性如下：如果被估計(jì)狀態(tài)和對(duì)的觀測(cè)量滿足上式約束，系統(tǒng)過(guò)程噪聲和觀測(cè)噪聲滿足上式的假設(shè)，系統(tǒng)過(guò)程噪聲方差陣非負(fù)定，系統(tǒng)觀測(cè)噪聲方差陣正定，k時(shí)刻的觀測(cè)為，則的估計(jì)可按下述方程求解：狀態(tài)一步預(yù)測(cè)：狀態(tài)估計(jì)濾波增益矩陣一步預(yù)測(cè)誤差方差陣估計(jì)誤差方差陣其中其中Kalman濾波算法的特點(diǎn)：（1） 由于Kalman濾波算法將被估計(jì)的信號(hào)看作在白噪聲

4、作用下一個(gè)隨機(jī)線性系統(tǒng)的輸出，并且其輸入輸出關(guān)系是由狀態(tài)方程和輸出方程在時(shí)間域內(nèi)給出的，因此這種濾波方法不僅適用于平穩(wěn)序列的濾波，而且特別適用于非平穩(wěn)馬爾科夫序列或高斯-馬爾科夫序列的濾波，因此其應(yīng)用范圍是十分廣泛的。（2） 由于Kalman濾波的基本方程時(shí)間域內(nèi)的遞推形式，其計(jì)算過(guò)程是一個(gè)不斷地“預(yù)測(cè)-修正”過(guò)程，在求解是不要求存儲(chǔ)大量的數(shù)據(jù)，并且一旦觀測(cè)到了新的數(shù)據(jù)，隨時(shí)可以算的新的濾波值，因此這種濾波方法非常便于實(shí)時(shí)處理，計(jì)算機(jī)實(shí)現(xiàn)。（3） 由于濾波器的增益矩陣于觀測(cè)無(wú)關(guān)，因此它可離線算出，從而可以減少實(shí)時(shí)在線計(jì)算量；在求濾波器增益矩陣時(shí)要求一個(gè)矩陣的逆，既要計(jì)算，它的階數(shù)之取決于觀測(cè)方

5、程的維數(shù)m而m通常是最小的這樣，上面的求逆運(yùn)算是比較方便的；另外在求解濾波器增益的過(guò)程中隨時(shí)可以算得濾波器的精度指標(biāo)，其對(duì)角線上的元就是濾波誤差向量各分量的方差。（4） 增益矩陣與初始方差，系統(tǒng)噪聲方差陣以及觀測(cè)噪聲方差陣之間具有如下關(guān)系：由基本濾波方程可見(jiàn)，當(dāng)增大時(shí)，就變小，噪聲變大濾波增益就應(yīng)取小。如果變小，變小，因?yàn)樾”硎境跏脊烙?jì)較好，變小表示系統(tǒng)噪聲變小，于是增益矩陣應(yīng)變小以便較小的修正。擴(kuò)展kalman濾波在車輛GPS/dr組合定位系統(tǒng)中的應(yīng)用GPS/DR組合系統(tǒng)狀態(tài)方程的建立取組合定位系統(tǒng)的狀態(tài)變量為,其中，分別為車輛東向和北向的位置分量；，分別為車輛東向和北向的速度分量；，分別為

6、車輛東向和北向的加速度分量。則得到組合定位系統(tǒng)連續(xù)的狀態(tài)方程為：式中， ，分別為的高斯白噪聲；分別為車輛東向和北向機(jī)動(dòng)加速度變化率的相關(guān)時(shí)間常數(shù)；分別為車輛東向和北向機(jī)動(dòng)加速度分量的“當(dāng)前”均值。設(shè)采樣周期為T，將系統(tǒng)連續(xù)的狀態(tài)方程離散化，得到系統(tǒng)離散的狀態(tài)方程為 式4.79式中，令，則，為其中，式4.79就是所建立的GPS/DR組合定位系統(tǒng)的狀態(tài)方程。GPS/DR組合系統(tǒng)觀測(cè)方程的建立將GPS輸出的東向位置信息北向位置信息，角速率陀螺的輸出以及里程計(jì)（或車速計(jì)）在一個(gè)采樣周期內(nèi)輸出的距離s作為觀測(cè)量，；里程計(jì)的刻度系數(shù)取為1.觀測(cè)量和狀態(tài)變量之間的關(guān)系如下于是系統(tǒng)連續(xù)的觀測(cè)方程為：分別為GP

7、S接收機(jī)輸出的東向位置和北向位置的觀測(cè)噪聲，可近似為的高斯白噪聲；為陀螺的漂移，近似為的高斯白噪聲；為里程計(jì)的觀測(cè)噪聲，近似為的高斯白噪聲。將觀測(cè)方程離散化，得到系統(tǒng)離散的觀測(cè)方程為 （4.86）式中，從式（4.86）知，觀測(cè)方程是非線性的。采用擴(kuò)展Kalman濾波進(jìn)行線性化，將在預(yù)測(cè)值處按泰勒級(jí)數(shù)展開(kāi)并忽略二次以上的高次項(xiàng)，得 （4.87）化簡(jiǎn)得 （4.88）其中式（4.88）就是所建立的GPS/DR系統(tǒng)線性離散的觀測(cè)方程。根據(jù)擴(kuò)展Kalman濾波遞推方程和所建立的GPS/DR組合定位系統(tǒng)的狀態(tài)方程式4.79和4.88式，可得系統(tǒng)的遞推濾波方程如下 式4.90遞推方程中的、的表達(dá)式可從式（4

8、.81）獲得，可從式4.88獲得，和系統(tǒng)的觀測(cè)噪聲的協(xié)方差有關(guān)，如下，其中式中都是對(duì)稱矩陣，中的元素表達(dá)式和中的元素表達(dá)式相似，將中的各元素表達(dá)式中的用來(lái)代替，即可相應(yīng)地得到中的元素表達(dá)式。若把加速度的一步預(yù)測(cè)看作“當(dāng)前”加速度的均值，即 則式4.90可化簡(jiǎn)為值得注意的是，在實(shí)際的使用中為了建立系統(tǒng)精確的數(shù)學(xué)模型，必須事先對(duì)系統(tǒng)GPS接收機(jī)的測(cè)量誤差、陀螺漂移以及里程計(jì)的測(cè)量誤差特性有深入的認(rèn)識(shí)，這是一個(gè)相當(dāng)復(fù)雜的過(guò)程且很重要的過(guò)程。否則，如果建立的系統(tǒng)模型和實(shí)際系統(tǒng)相差很大，則可能導(dǎo)致kalman濾波效果很差，組合后的系統(tǒng)性能反而變壞。自適應(yīng)濾波GPS/INS組合導(dǎo)航系統(tǒng)自適應(yīng)濾波全球定位系

9、統(tǒng)GPS和慣性導(dǎo)航系統(tǒng)INS都是目前世界上應(yīng)用最為廣泛的導(dǎo)航方法之一。利用二者較強(qiáng)的非相似性和互補(bǔ)性將二者組合起來(lái)，可以取長(zhǎng)補(bǔ)短，充分發(fā)揮各自的優(yōu)勢(shì)，同時(shí)克服了GPS易受地形地物遮擋而導(dǎo)致定位中斷和INS定位誤差隨時(shí)間而積累的缺陷。在GPS/INS組合導(dǎo)航系統(tǒng)中，由于系統(tǒng)本身元器件的不穩(wěn)定性以及外部應(yīng)用環(huán)境不確定因素的影響，給系統(tǒng)噪聲和觀測(cè)噪聲統(tǒng)計(jì)特性的準(zhǔn)確描述帶來(lái)困難，如果采用常規(guī)Kalman濾波器，在實(shí)際應(yīng)用中不能保證收斂性和穩(wěn)定性。在學(xué)習(xí)卡爾曼濾波器之前，首先看看為什么叫“卡爾曼”。跟其他著名的理論（例如傅立葉變換，泰勒級(jí)數(shù)等等）一樣，卡爾曼也是一個(gè)人的名字，而跟他們不同的是，他是個(gè)現(xiàn)代

10、人！卡爾曼全名Rudolf Emil Kalman，匈牙利數(shù)學(xué)家，1930年出生于匈牙利首都布達(dá)佩斯。1953，1954年于麻省理工學(xué)院分別獲得電機(jī)工程學(xué)士及碩士學(xué)位。1957年于哥倫比亞大學(xué)獲得博士學(xué)位。我們現(xiàn)在要學(xué)習(xí)的卡爾曼濾波器，正是源于他的博士論文和1960年發(fā)表的論文A New Approach to Linear Filtering and Prediction Problems（線性濾波與預(yù)測(cè)問(wèn)題的新方法）。如果對(duì)這編論文有興趣，可以到這里的地址下載： /welch/kalman/media/pdf/Kalman1960.pdf簡(jiǎn)單來(lái)說(shuō)，卡

11、爾曼濾波器是一個(gè)“optimal recursive data processing algorithm（最優(yōu)化自回歸數(shù)據(jù)處理算法）”。對(duì)于解決很大部分的問(wèn)題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應(yīng)用已經(jīng)超過(guò)30年，包括機(jī)器人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以及導(dǎo)彈追蹤等等。近年來(lái)更被應(yīng)用于計(jì)算機(jī)圖像處理，例如頭臉識(shí)別，圖像分割，圖像邊緣檢測(cè)等等。2卡爾曼濾波器的介紹（Introduction to the Kalman Filter）為了可以更加容易的理解卡爾曼濾波器，這里會(huì)應(yīng)用形象的描述方法來(lái)講解，而不是像大多數(shù)參考書(shū)那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號(hào)。但是，他的5

12、條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計(jì)算機(jī)，其實(shí)卡爾曼的程序相當(dāng)?shù)暮?jiǎn)單，只要你理解了他的那5條公式。在介紹他的5條公式之前，先讓我們來(lái)根據(jù)下面的例子一步一步的探索。假設(shè)我們要研究的對(duì)象是一個(gè)房間的溫度。根據(jù)你的經(jīng)驗(yàn)判斷，這個(gè)房間的溫度是恒定的，也就是下一分鐘的溫度等于現(xiàn)在這一分鐘的溫度（假設(shè)我們用一分鐘來(lái)做時(shí)間單位）。假設(shè)你對(duì)你的經(jīng)驗(yàn)不是100%的相信，可能會(huì)有上下偏差幾度。我們把這些偏差看成是高斯白噪聲（White Gaussian Noise），也就是這些偏差跟前后時(shí)間是沒(méi)有關(guān)系的而且符合高斯分配（Gaussian Distribution）。另外，我們?cè)诜块g里放一個(gè)溫度計(jì)，但是這個(gè)溫度計(jì)也不準(zhǔn)

13、確的，測(cè)量值會(huì)比實(shí)際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現(xiàn)在對(duì)于某一分鐘我們有兩個(gè)有關(guān)于該房間的溫度值：你根據(jù)經(jīng)驗(yàn)的預(yù)測(cè)值（系統(tǒng)的預(yù)測(cè)值）和溫度計(jì)的值（測(cè)量值）。下面我們要用這兩個(gè)值結(jié)合他們各自的噪聲來(lái)估算出房間的實(shí)際溫度值。假如我們要估算k時(shí)刻的是實(shí)際溫度值。首先你要根據(jù)k-1時(shí)刻的溫度值，來(lái)預(yù)測(cè)k時(shí)刻的溫度。因?yàn)槟阆嘈艤囟仁呛愣ǖ?，所以你?huì)得到k時(shí)刻的溫度預(yù)測(cè)值是跟k-1時(shí)刻一樣的，假設(shè)是23度，同時(shí)該值的高斯噪聲的偏差是5度（5是這樣得到的：如果k-1時(shí)刻估算出的最優(yōu)溫度值的偏差是3，你對(duì)自己預(yù)測(cè)的不確定度是4度，他們平方相加再開(kāi)方，就是5）。然后，你從溫度計(jì)那里得到了k時(shí)刻

14、的溫度值，假設(shè)是25度，同時(shí)該值的偏差是4度。由于我們用于估算k時(shí)刻的實(shí)際溫度有兩個(gè)溫度值，分別是23度和25度。究竟實(shí)際溫度是多少呢？相信自己還是相信溫度計(jì)呢？究竟相信誰(shuí)多一點(diǎn)，我們可以用他們的covariance來(lái)判斷。因?yàn)镵g2=52/(52+42)，所以Kg=0.78，我們可以估算出k時(shí)刻的實(shí)際溫度值是：23+0.78*(25-23)=24.56度?？梢钥闯?，因?yàn)闇囟扔?jì)的covariance比較?。ū容^相信溫度計(jì)），所以估算出的最優(yōu)溫度值偏向溫度計(jì)的值?，F(xiàn)在我們已經(jīng)得到k時(shí)刻的最優(yōu)溫度值了，下一步就是要進(jìn)入k+1時(shí)刻，進(jìn)行新的最優(yōu)估算。到現(xiàn)在為止，好像還沒(méi)看到什么自回歸的東西出現(xiàn)。對(duì)了

15、，在進(jìn)入k+1時(shí)刻之前，我們還要算出k時(shí)刻那個(gè)最優(yōu)值（24.56度）的偏差。算法如下：(1-Kg)*52)0.5=2.35。這里的5就是上面的k時(shí)刻你預(yù)測(cè)的那個(gè)23度溫度值的偏差，得出的2.35就是進(jìn)入k+1時(shí)刻以后k時(shí)刻估算出的最優(yōu)溫度值的偏差（對(duì)應(yīng)于上面的3）。就是這樣，卡爾曼濾波器就不斷的把covariance遞歸，從而估算出最優(yōu)的溫度值。他運(yùn)行的很快，而且它只保留了上一時(shí)刻的covariance。上面的Kg，就是卡爾曼增益（Kalman Gain）。他可以隨不同的時(shí)刻而改變他自己的值，是不是很神奇！下面就要言歸正傳，討論真正工程系統(tǒng)上的卡爾曼。3 卡爾曼濾波器算法（The Kalman

16、 Filter Algorithm）在這一部分，我們就來(lái)描述源于Dr Kalman 的卡爾曼濾波器。下面的描述，會(huì)涉及一些基本的概念知識(shí)，包括概率（Probability），隨即變量（Random Variable），高斯或正態(tài)分配（Gaussian Distribution）還有State-space Model等等。但對(duì)于卡爾曼濾波器的詳細(xì)證明，這里不能一一描述。首先，我們先要引入一個(gè)離散控制過(guò)程的系統(tǒng)。該系統(tǒng)可用一個(gè)線性隨機(jī)微分方程（Linear Stochastic Difference equation）來(lái)描述：X(k)=A X(k-1)+B U(k)+W(k) 再加上系統(tǒng)的測(cè)量值：

17、Z(k)=H X(k)+V(k) 上兩式子中，X(k)是k時(shí)刻的系統(tǒng)狀態(tài)，U(k)是k時(shí)刻對(duì)系統(tǒng)的控制量。A和B是系統(tǒng)參數(shù)，對(duì)于多模型系統(tǒng)，他們?yōu)榫仃?。Z(k)是k時(shí)刻的測(cè)量值，H是測(cè)量系統(tǒng)的參數(shù)，對(duì)于多測(cè)量系統(tǒng)，H為矩陣。W(k)和V(k)分別表示過(guò)程和測(cè)量的噪聲。他們被假設(shè)成高斯白噪聲(White Gaussian Noise)，他們的covariance 分別是Q，R（這里我們假設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化）。對(duì)于滿足上面的條件(線性隨機(jī)微分系統(tǒng)，過(guò)程和測(cè)量都是高斯白噪聲)，卡爾曼濾波器是最優(yōu)的信息處理器。下面我們來(lái)用他們結(jié)合他們的covariances 來(lái)估算系統(tǒng)的最優(yōu)化輸出（類似上一

18、節(jié)那個(gè)溫度的例子）。首先我們要利用系統(tǒng)的過(guò)程模型，來(lái)預(yù)測(cè)下一狀態(tài)的系統(tǒng)。假設(shè)現(xiàn)在的系統(tǒng)狀態(tài)是k，根據(jù)系統(tǒng)的模型，可以基于系統(tǒng)的上一狀態(tài)而預(yù)測(cè)出現(xiàn)在狀態(tài)：X(k|k-1)=A X(k-1|k-1)+B U(k) . (1)式(1)中，X(k|k-1)是利用上一狀態(tài)預(yù)測(cè)的結(jié)果，X(k-1|k-1)是上一狀態(tài)最優(yōu)的結(jié)果，U(k)為現(xiàn)在狀態(tài)的控制量，如果沒(méi)有控制量，它可以為0。到現(xiàn)在為止，我們的系統(tǒng)結(jié)果已經(jīng)更新了，可是，對(duì)應(yīng)于X(k|k-1)的covariance還沒(méi)更新。我們用P表示covariance：P(k|k-1)=A P(k-1|k-1) A+Q (2)式(2)中，P(k|k-1)是X(k|

19、k-1)對(duì)應(yīng)的covariance，P(k-1|k-1)是X(k-1|k-1)對(duì)應(yīng)的covariance，A表示A的轉(zhuǎn)置矩陣，Q是系統(tǒng)過(guò)程的covariance。式子1，2就是卡爾曼濾波器5個(gè)公式當(dāng)中的前兩個(gè)，也就是對(duì)系統(tǒng)的預(yù)測(cè)。現(xiàn)在我們有了現(xiàn)在狀態(tài)的預(yù)測(cè)結(jié)果，然后我們?cè)偈占F(xiàn)在狀態(tài)的測(cè)量值。結(jié)合預(yù)測(cè)值和測(cè)量值，我們可以得到現(xiàn)在狀態(tài)(k)的最優(yōu)化估算值X(k|k)：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1) (3)其中Kg為卡爾曼增益(Kalman Gain)：Kg(k)= P(k|k-1) H / (H P(k|k-1) H + R) (4)到現(xiàn)在為止，我

20、們已經(jīng)得到了k狀態(tài)下最優(yōu)的估算值X(k|k)。但是為了要另卡爾曼濾波器不斷的運(yùn)行下去直到系統(tǒng)過(guò)程結(jié)束，我們還要更新k狀態(tài)下X(k|k)的covariance：P(k|k)=（I-Kg(k) H）P(k|k-1) (5)其中I 為1的矩陣，對(duì)于單模型單測(cè)量，I=1。當(dāng)系統(tǒng)進(jìn)入k+1狀態(tài)時(shí)，P(k|k)就是式子(2)的P(k-1|k-1)。這樣，算法就可以自回歸的運(yùn)算下去?？柭鼮V波器的原理基本描述了，式子1，2，3，4和5就是他的5 個(gè)基本公式。根據(jù)這5個(gè)公式，可以很容易的實(shí)現(xiàn)計(jì)算機(jī)的程序。下面，我會(huì)用程序舉一個(gè)實(shí)際運(yùn)行的例子。4 簡(jiǎn)單例子（A Simple Example）這里我們結(jié)合第二第三

21、節(jié)，舉一個(gè)非常簡(jiǎn)單的例子來(lái)說(shuō)明卡爾曼濾波器的工作過(guò)程。所舉的例子是進(jìn)一步描述第二節(jié)的例子，而且還會(huì)配以程序模擬結(jié)果。根據(jù)第二節(jié)的描述，把房間看成一個(gè)系統(tǒng)，然后對(duì)這個(gè)系統(tǒng)建模。當(dāng)然，我們見(jiàn)的模型不需要非常地精確。我們所知道的這個(gè)房間的溫度是跟前一時(shí)刻的溫度相同的，所以A=1。沒(méi)有控制量，所以U(k)=0。因此得出：X(k|k-1)=X(k-1|k-1) . (6)式子（2）可以改成：P(k|k-1)=P(k-1|k-1) +Q (7)因?yàn)闇y(cè)量的值是溫度計(jì)的，跟溫度直接對(duì)應(yīng)，所以H=1。式子3，4，5可以改成以下：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-X(k|k-1) (8)Kg(k)= P(k|k-1) / (P(k|k-1) + R) (9)P(k|k)=（1-Kg(k)）P(k|k-1) (10)現(xiàn)在我們模擬一組測(cè)量值作為輸入。假設(shè)房間的真實(shí)溫度為25度，我模擬了200個(gè)測(cè)量值，這些測(cè)量值的平均值為25度，但是加入了標(biāo)準(zhǔn)偏差為幾度的高斯白噪聲（在圖中為藍(lán)線）。為