卡爾曼濾波入門：卡爾曼濾波是用來進(jìn)行數(shù)據(jù)濾波用的，就是把含噪聲的數(shù)據(jù)進(jìn)行處理之后得出相對真值?？柭鼮V波也可進(jìn)行系統(tǒng)辨識?？柭鼮V波是一種基于統(tǒng)計(jì)學(xué)理論的算法，可以用來對含噪聲數(shù)據(jù)進(jìn)行在線處理，對噪聲有特殊要求，也可以通過狀態(tài)變量的增廣形式實(shí)現(xiàn)系統(tǒng)辨識。用上一個(gè)狀態(tài)和當(dāng)前狀態(tài)的測量值來估計(jì)當(dāng)前狀態(tài)，這是因?yàn)樯弦粋€(gè)狀態(tài)估計(jì)此時(shí)狀態(tài)時(shí)會有誤差，而測量的當(dāng)前狀態(tài)時(shí)也有一個(gè)測量誤差，所以要根據(jù)這兩個(gè)誤差重新估計(jì)一個(gè)最接近真實(shí)狀態(tài)的值。信號處理的實(shí)際問題，常常是要解決在噪聲中提取信號的問題，因此，我們需要尋找一種所謂有最佳線性過濾特性的濾波器。這種濾波器當(dāng)信號與噪聲同時(shí)輸入時(shí)，在輸出端能將信號盡可能精確地重現(xiàn)出來，而噪聲卻受到最大抑制。維納(Wiener)濾波與卡爾曼(Kalman)濾波就是用來解決這樣一類從噪聲中提取信號問題的一種過濾(或?yàn)V波)方法。(1)過濾或?yàn)V波-從當(dāng)前的和過去的觀察值x(n)，x(n-1)，x(n-2)，估計(jì)當(dāng)前的信號值稱為過濾或?yàn)V波;(2)預(yù)測或外推-從過去的觀察值，估計(jì)當(dāng)前的或?qū)淼男盘栔捣Q為預(yù)測或外推;(3)平滑或內(nèi)插-從過去的觀察值，估計(jì)過去的信號值稱為平滑或內(nèi)插;因此，維納過濾與卡爾曼過濾又常常被稱為最佳線性過濾與預(yù)測或線性最優(yōu)估計(jì)。這里所謂“最佳”與“最優(yōu)”是以最小均方誤差為準(zhǔn)則的。維納過濾與卡爾曼過濾都是解決最佳線性過濾和預(yù)測問題，并且都是以均方誤差最小為準(zhǔn)則的。因此在平穩(wěn)條件下，它們所得到的穩(wěn)態(tài)結(jié)果是一致的。然而，它們解決的方法有很大區(qū)別。維納過濾是根據(jù)全部過去的和當(dāng)前的觀察數(shù)據(jù)來估計(jì)信號的當(dāng)前值，它的解是以均方誤差最小條件下所得到的系統(tǒng)的傳遞函數(shù)H(z)或單位樣本響應(yīng)h(n)的形式給出的，因此更常稱這種系統(tǒng)為最佳線性過濾器或?yàn)V波器。而卡爾曼過濾是用前一個(gè)估計(jì)值和最近一個(gè)觀察數(shù)據(jù)(它不需要全部過去的觀察數(shù)據(jù))來估計(jì)信號的當(dāng)前值，它是用狀態(tài)方程和遞推的方法進(jìn)行估計(jì)的，它的解是以估計(jì)值(常常是狀態(tài)變量值)形式給出的。因此更常稱這種系統(tǒng)為線性最優(yōu)估計(jì)器或?yàn)V波器。維納濾波器只適用于平穩(wěn)隨機(jī)過程，而卡爾曼濾波器卻沒有這個(gè)限制。維納過濾中信號和噪聲是用相關(guān)函數(shù)表示的，因此設(shè)計(jì)維納濾波器要求已知信號和噪聲的相關(guān)函數(shù)?？柭^濾中信號和噪聲是狀態(tài)方程和量測方程表示的，因此設(shè)計(jì)卡爾曼濾波器要求已知狀態(tài)方程和量測方程(當(dāng)然，相關(guān)函數(shù)與狀態(tài)方程和量測方程之間會存在一定的關(guān)系。卡爾曼過濾方法看來似乎比維納過濾方法優(yōu)越，它用遞推法計(jì)算，不需要知道全部過去的數(shù)據(jù)，從而運(yùn)用計(jì)算機(jī)計(jì)算方便，而且它可用于平穩(wěn)和不平穩(wěn)的隨機(jī)過程(信號)，非時(shí)變和時(shí)變的系統(tǒng)。但從發(fā)展歷史上來看維納過濾的思想是40年代初提出來的，1949年正式以書的形式出版?？柭^濾到60年代初才提出來，它是在維納過濾的基礎(chǔ)上發(fā)展起來的，雖然如上所述它比維納過濾方法有不少優(yōu)越的地方，但是最佳線性過濾問題是由維納過濾首先解決的，維納過濾的物理概念比較清楚，也可以認(rèn)為卡爾曼濾波僅僅是對最佳線性過濾問題提出的一種新的算法?？柭鼮V波在數(shù)學(xué)上是一種統(tǒng)計(jì)估算方法，通過處理一系列帶有誤差的實(shí)際量測數(shù)據(jù)而得到的物理參數(shù)的最佳估算。例如在氣象應(yīng)用上，根據(jù)濾波的基本思想，利用前一時(shí)刻預(yù)報(bào)誤差的反饋信息及時(shí)修正預(yù)報(bào)方程，以提高下一時(shí)刻預(yù)報(bào)精度。作溫度預(yù)報(bào)一般只需要連續(xù)兩個(gè)月的資料即可建立方程和遞推關(guān)系。EKF(擴(kuò)展卡爾曼濾波)僅僅利用了非線性函數(shù)Taylor展開式的一階偏導(dǎo)部分（忽略高階項(xiàng)），常常導(dǎo)致在狀態(tài)的后驗(yàn)分布的估計(jì)上產(chǎn)生較大的誤差，影響濾波算法的性能，從而影響整個(gè)跟蹤系統(tǒng)的性能。最近，在自適應(yīng)濾波領(lǐng)域又出現(xiàn)了新的算法無味變換Kalman濾波器（UnscentedKalmanFilter-UKF）。UKF的思想不同于EKF濾波，它通過設(shè)計(jì)少量的點(diǎn)，由點(diǎn)經(jīng)由非線性函數(shù)的傳播，計(jì)算出隨機(jī)向量一、二階統(tǒng)計(jì)特性的傳播。因此它比EKF濾波能更好地逼近狀態(tài)方程的非線性特性，從而比EKF濾波具有更高的估計(jì)精度。上面這段文字所體現(xiàn)出的UKF與EFK的具體區(qū)別能否詳細(xì)的總結(jié)一下。另外還想請教一下，無味卡爾曼的具體算法時(shí)什么？以及與擴(kuò)展卡爾曼以及卡爾曼的區(qū)別。我在GOOGLE上搜了很多，基本都時(shí)卡爾曼濾波的算法，很少涉及UKF方面的具體算法，一些論文網(wǎng)站的部分論文還收費(fèi)，所以對于UKF還是非常不明白。另外還想請教一下UKF的發(fā)展歷程以及目前國內(nèi)外研究現(xiàn)狀。EKF是對非線性系統(tǒng)模型（方程）進(jìn)行的線性化近似，以利用KF算法進(jìn)行濾波估計(jì)。而UKF是對狀態(tài)的概率統(tǒng)計(jì)近似，即設(shè)計(jì)少量的點(diǎn)，由點(diǎn)經(jīng)由非線性函數(shù)的傳播，計(jì)算出隨機(jī)向量一、二階統(tǒng)計(jì)特性的傳播，對于高斯噪聲的假設(shè)，UKF能夠達(dá)到三階估計(jì)精度，而EKF只能達(dá)到二階精度，但其算法仍然是利用KF的算法?，F(xiàn)在國內(nèi)外的文獻(xiàn)大都是對UKF算法的改進(jìn)和應(yīng)用進(jìn)行論述，但對算法的穩(wěn)定性等沒有系統(tǒng)的論述。我了解得沈陽自動化所做的這方面的工作很多。參考資料：TheUnscentedKalmanFilterforNonlinearEstimation.pdf卡爾曼濾波算法簡介最佳線性濾波理論起源于40年代美國科學(xué)家Wiener和前蘇聯(lián)科學(xué)家等人的研究工作，后人統(tǒng)稱為維納濾波理論。從理論上說，維納濾波的最大缺點(diǎn)是必須用到無限過去的數(shù)據(jù)，不適用于實(shí)時(shí)處理。為了克服這一缺點(diǎn)，60年代Kalman把狀態(tài)空間模型引入濾波理論，并導(dǎo)出了一套遞推估計(jì)算法，后人稱之為卡爾曼濾波理論?？柭鼮V波是以最小均方誤差為估計(jì)的最佳準(zhǔn)則，來尋求一套遞推估計(jì)的算法，其基本思想是：采用信號與噪聲的狀態(tài)空間模型，利用前一時(shí)刻地估計(jì)值和現(xiàn)時(shí)刻的觀測值來更新對狀態(tài)變量的估計(jì)，求出現(xiàn)時(shí)刻的估計(jì)值。它適合于實(shí)時(shí)處理和計(jì)算機(jī)運(yùn)算?？柭鼮V波簡介說明及其算法MATLAB實(shí)現(xiàn)代碼卡爾曼濾波算法實(shí)現(xiàn)代碼（C，C分別實(shí)現(xiàn)） 卡爾曼濾波器簡介 近來發(fā)現(xiàn)有些問題很多人都很感興趣。所以在這里希望能盡自己能力跟大家討論一些力所能及的算法?，F(xiàn)在先討論一下卡爾曼濾波器，如果時(shí)間和能力允許，我還希望能夠?qū)憣懫渌乃惴ǎ邕z傳算法，傅立葉變換，數(shù)字濾波，神經(jīng)網(wǎng)絡(luò)，圖像處理等等。因?yàn)檫@里不能寫復(fù)雜的數(shù)學(xué)公式，所以也只能形象的描述。希望如果哪位是這方面的專家，歡迎討論更正?？柭鼮V波器 Kalman Filter1什么是卡爾曼濾波器（What is the Kalman Filter?）在學(xué)習(xí)卡爾曼濾波器之前，首先看看為什么叫“卡爾曼”。跟其他著名的理論（例如傅立葉變換，泰勒級數(shù)等等）一樣，卡爾曼也是一個(gè)人的名字，而跟他們不同的是，他是個(gè)現(xiàn)代人！卡爾曼全名Rudolf Emil Kalman，匈牙利數(shù)學(xué)家，1930年出生于匈牙利首都布達(dá)佩斯。1953，1954年于麻省理工學(xué)院分別獲得電機(jī)工程學(xué)士及碩士學(xué)位。1957年于哥倫比亞大學(xué)獲得博士學(xué)位。我們現(xiàn)在要學(xué)習(xí)的卡爾曼濾波器，正是源于他的博士論文和1960年發(fā)表的論文A New Approach to Linear Filtering and Prediction Problems（線性濾波與預(yù)測問題的新方法）。如果對這編論文有興趣，可以到這里的地址下載： /welch/media/pdf/Kalman1960.pdf。 簡單來說，卡爾曼濾波器是一個(gè)“optimal recursive data processing algorithm（最優(yōu)化自回歸數(shù)據(jù)處理算法）”。對于解決很大部分的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應(yīng)用已經(jīng)超過30年，包括機(jī)器人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以及導(dǎo)彈追蹤等等。近年來更被應(yīng)用于計(jì)算機(jī)圖像處理，例如頭臉識別，圖像分割，圖像邊緣檢測等等。2卡爾曼濾波器的介紹（Introduction to the Kalman Filter）為了可以更加容易的理解卡爾曼濾波器，這里會應(yīng)用形象的描述方法來講解，而不是像大多數(shù)參考書那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號。但是，他的5條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計(jì)算機(jī)，其實(shí)卡爾曼的程序相當(dāng)?shù)暮唵危灰憷斫饬怂哪?條公式。在介紹他的5條公式之前，先讓我們來根據(jù)下面的例子一步一步的探索。假設(shè)我們要研究的對象是一個(gè)房間的溫度。根據(jù)你的經(jīng)驗(yàn)判斷，這個(gè)房間的溫度是恒定的，也就是下一分鐘的溫度等于現(xiàn)在這一分鐘的溫度（假設(shè)我們用一分鐘來做時(shí)間單位）。假設(shè)你對你的經(jīng)驗(yàn)不是100%的相信，可能會有上下偏差幾度。我們把這些偏差看成是高斯白噪聲（White Gaussian Noise），也就是這些偏差跟前后時(shí)間是沒有關(guān)系的而且符合高斯分配（Gaussian Distribution）。另外，我們在房間里放一個(gè)溫度計(jì)，但是這個(gè)溫度計(jì)也不準(zhǔn)確的，測量值會比實(shí)際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現(xiàn)在對于某一分鐘我們有兩個(gè)有關(guān)于該房間的溫度值：你根據(jù)經(jīng)驗(yàn)的預(yù)測值（系統(tǒng)的預(yù)測值）和溫度計(jì)的值（測量值）。下面我們要用這兩個(gè)值結(jié)合他們各自的噪聲來估算出房間的實(shí)際溫度值。假如我們要估算k時(shí)刻的是實(shí)際溫度值。首先你要根據(jù)k-1時(shí)刻的溫度值，來預(yù)測k時(shí)刻的溫度。因?yàn)槟阆嘈艤囟仁呛愣ǖ模阅銜玫絢時(shí)刻的溫度預(yù)測值是跟 k-1時(shí)刻一樣的，假設(shè)是23度，同時(shí)該值的高斯噪聲的偏差是5度（5是這樣得到的：如果k-1時(shí)刻估算出的最優(yōu)溫度值的偏差是3，你對自己預(yù)測的不確定度是4度，他們平方相加再開方，就是5）。然后，你從溫度計(jì)那里得到了k時(shí)刻的溫度值，假設(shè)是25度，同時(shí)該值的偏差是4度。由于我們用于估算k時(shí)刻的實(shí)際溫度有兩個(gè)溫度值，分別是23度和25度。究竟實(shí)際溫度是多少呢？相信自己還是相信溫度計(jì)呢？究竟相信誰多一點(diǎn)，我們可以用他們的 covariance來判斷。因?yàn)镵g2=52/(52+42)，所以Kg=0.78，我們可以估算出k時(shí)刻的實(shí)際溫度值是：23+0.78* (25-23)=24.56度?？梢钥闯?，因?yàn)闇囟扔?jì)的covariance比較?。ū容^相信溫度計(jì)），所以估算出的最優(yōu)溫度值偏向溫度計(jì)的值?，F(xiàn)在我們已經(jīng)得到k時(shí)刻的最優(yōu)溫度值了，下一步就是要進(jìn)入k+1時(shí)刻，進(jìn)行新的最優(yōu)估算。到現(xiàn)在為止，好像還沒看到什么自回歸的東西出現(xiàn)。對了，在進(jìn)入 k+1時(shí)刻之前，我們還要算出k時(shí)刻那個(gè)最優(yōu)值（24.56度）的偏差。算法如下：(1-Kg)*52)0.5=2.35。這里的5就是上面的k時(shí)刻你預(yù)測的那個(gè)23度溫度值的偏差，得出的2.35就是進(jìn)入k+1時(shí)刻以后k時(shí)刻估算出的最優(yōu)溫度值的偏差（對應(yīng)于上面的3）。就是這樣，卡爾曼濾波器就不斷的把covariance遞歸，從而估算出最優(yōu)的溫度值。他運(yùn)行的很快，而且它只保留了上一時(shí)刻的covariance。上面的Kg，就是卡爾曼增益（Kalman Gain）。他可以隨不同的時(shí)刻而改變他自己的值，是不是很神奇！下面就要言歸正傳，討論真正工程系統(tǒng)上的卡爾曼。3卡爾曼濾波器算法（The Kalman Filter Algorithm）在這一部分，我們就來描述源于Dr Kalman 的卡爾曼濾波器。下面的描述，會涉及一些基本的概念知識，包括概率（Probability），隨即變量（Random Variable），高斯或正態(tài)分配（Gaussian Distribution）還有State-space Model等等。但對于卡爾曼濾波器的詳細(xì)證明，這里不能一一描述。首先，我們先要引入一個(gè)離散控制過程的系統(tǒng)。該系統(tǒng)可用一個(gè)線性隨機(jī)微分方程（Linear Stochastic Difference equation）來描述：X(k)=A X(k-1)+B U(k)+W(k) 再加上系統(tǒng)的測量值：Z(k)=H X(k)+V(k) 上兩式子中，X(k)是k時(shí)刻的系統(tǒng)狀態(tài)，U(k)是k時(shí)刻對系統(tǒng)的控制量。A和B是系統(tǒng)參數(shù)，對于多模型系統(tǒng)，他們?yōu)榫仃?。Z(k)是k時(shí)刻的測量值，H 是測量系統(tǒng)的參數(shù)，對于多測量系統(tǒng)，H為矩陣。W(k)和V(k)分別表示過程和測量的噪聲。他們被假設(shè)成高斯白噪聲(White Gaussian Noise)，他們的covariance 分別是Q，R（這里我們假設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化）。對于滿足上面的條件(線性隨機(jī)微分系統(tǒng)，過程和測量都是高斯白噪聲)，卡爾曼濾波器是最優(yōu)的信息處理器。下面我們來用他們結(jié)合他們的covariances 來估算系統(tǒng)的最優(yōu)化輸出（類似上一節(jié)那個(gè)溫度的例子）。首先我們要利用系統(tǒng)的過程模型，來預(yù)測下一狀態(tài)的系統(tǒng)。假設(shè)現(xiàn)在的系統(tǒng)狀態(tài)是k，根據(jù)系統(tǒng)的模型，可以基于系統(tǒng)的上一狀態(tài)而預(yù)測出現(xiàn)在狀態(tài)：X(k|k-1)=A X(k-1|k-1)+B U(k) . (1)式(1)中，X(k|k-1)是利用上一狀態(tài)預(yù)測的結(jié)果，X(k-1|k-1)是上一狀態(tài)最優(yōu)的結(jié)果，U(k)為現(xiàn)在狀態(tài)的控制量，如果沒有控制量，它可以為0。到現(xiàn)在為止，我們的系統(tǒng)結(jié)果已經(jīng)更新了，可是，對應(yīng)于X(k|k-1)的covariance還沒更新。我們用P表示covariance：P(k|k-1)=A P(k-1|k-1) A+Q (2)式 (2)中，P(k|k-1)是X(k|k-1)對應(yīng)的covariance，P(k-1|k-1)是X(k-1|k-1)對應(yīng)的 covariance，A表示A的轉(zhuǎn)置矩陣，Q是系統(tǒng)過程的covariance。式子1，2就是卡爾曼濾波器5個(gè)公式當(dāng)中的前兩個(gè)，也就是對系統(tǒng)的預(yù)測?，F(xiàn)在我們有了現(xiàn)在狀態(tài)的預(yù)測結(jié)果，然后我們再收集現(xiàn)在狀態(tài)的測量值。結(jié)合預(yù)測值和測量值，我們可以得到現(xiàn)在狀態(tài)(k)的最優(yōu)化估算值X(k|k)：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1) (3)其中Kg為卡爾曼增益(Kalman Gain)：Kg(k)= P(k|k-1) H / (H P(k|k-1) H + R) (4)到現(xiàn)在為止，我們已經(jīng)得到了k狀態(tài)下最優(yōu)的估算值X(k|k)。但是為了要另卡爾曼濾波器不斷的運(yùn)行下去直到系統(tǒng)過程結(jié)束，我們還要更新k狀態(tài)下X(k|k)的covariance：P(k|k)=（I-Kg(k) H）P(k|k-1) (5)其中I 為1的矩陣，對于單模型單測量，I=1。當(dāng)系統(tǒng)進(jìn)入k+1狀態(tài)時(shí)，P(k|k)就是式子(2)的P(k-1|k-1)。這樣，算法就可以自回歸的運(yùn)算下去?？柭鼮V波器的原理基本描述了，式子1，2，3，4和5就是他的5 個(gè)基本公式。根據(jù)這5個(gè)公式，可以很容易的實(shí)現(xiàn)計(jì)算機(jī)的程序。下面，我會用程序舉一個(gè)實(shí)際運(yùn)行的例子。4簡單例子（A Simple Example）這里我們結(jié)合第二第三節(jié)，舉一個(gè)非常簡單的例子來說明卡爾曼濾波器的工作過程。所舉的例子是進(jìn)一步描述第二節(jié)的例子，而且還會配以程序模擬結(jié)果。根據(jù)第二節(jié)的描述，把房間看成一個(gè)系統(tǒng)，然后對這個(gè)系統(tǒng)建模。當(dāng)然，我們見的模型不需要非常地精確。我們所知道的這個(gè)房間的溫度是跟前一時(shí)刻的溫度相同的，所以A=1。沒有控制量，所以U(k)=0。因此得出：X(k|k-1)=X(k-1|k-1) . (6)式子（2）可以改成：P(k|k-1)=P(k-1|k-1) +Q (7)因?yàn)闇y量的值是溫度計(jì)的，跟溫度直接對應(yīng)，所以H=1。式子3，4，5可以改成以下：X(k|k)= X(k|k-1)+Kg(k) (Z(k)-X(k|k-1) (8)Kg(k)= P(k|k-1) / (P(k|k-1) + R) (9)P(k|k)=（1-Kg(k)）P(k|k-1) (10)現(xiàn)在我們模擬一組測量值作為輸入。假設(shè)房間的真實(shí)溫度為25度，我模擬了200個(gè)測量值，這些測量值的平均值為25度，但是加入了標(biāo)準(zhǔn)偏差為幾度的高斯白噪聲（在圖中為藍(lán)線）。為了令卡爾曼濾波器開始工作，我們需要告訴卡爾曼兩個(gè)零時(shí)刻的初始值，是X(0|0)和P(0|0)。他們的值不用太在意，隨便給一個(gè)就可以了，因?yàn)殡S著卡爾曼的工作，X會逐漸的收斂。但是對于P，一般不要取0，因?yàn)檫@樣可能會令卡爾曼完全相信你給定的X(0|0)是系統(tǒng)最優(yōu)的，從而使算法不能收斂。我選了 X(0|0)=1度，P(0|0)=10。該系統(tǒng)的真實(shí)溫度為25度，圖中用黑線表示。圖中紅線是卡爾曼濾波器輸出的最優(yōu)化結(jié)果（該結(jié)果在算法中設(shè)置了Q=1e-6，R=1e-1）。最佳線性濾波理論起源于 40 年代美國科學(xué)家 Wiener 和前蘇聯(lián)科學(xué)家 等人的研究工作，后人統(tǒng)稱為維納濾波理論。從理論上說，維納濾波的最大缺點(diǎn)是必須用到無限過去的數(shù)據(jù)，不適用于實(shí)時(shí)處理。為了克服這一缺點(diǎn)， 60 年代 Kalman 把狀態(tài)空間模型引入濾波理論，并導(dǎo)出了一套遞推估計(jì)算法，后人稱之為卡爾曼濾波理論?？柭鼮V波是以最小均方誤差為估計(jì)的最佳準(zhǔn)則，來尋求一套遞推估計(jì)的算法，其基本思想是：采用信號與噪聲的狀態(tài)空間模型，利用前一時(shí)刻地估計(jì)值和現(xiàn)時(shí)刻的觀測值來更新對狀態(tài)變量的估計(jì)，求出現(xiàn)時(shí)刻的估計(jì)值。它適合于實(shí)時(shí)處理和計(jì)算機(jī)運(yùn)算。 現(xiàn)設(shè)線性時(shí)變系統(tǒng)的離散狀態(tài)防城和觀測方程為： X(k) = F(k,k-1)X(k-1)+T(k,k-1)U(k-1) Y(k) = H(k)X(k)+N(k) 其中 X(k)和Y(k)分別是k時(shí)刻的狀態(tài)矢量和觀測矢量 F(k,k-1)為狀態(tài)轉(zhuǎn)移矩陣 U(k)為k時(shí)刻動態(tài)噪聲 T(k,k-1)為系統(tǒng)控制矩陣 H(k)為k時(shí)刻觀測矩陣 N(k)為k時(shí)刻觀測噪聲 則卡爾曼濾波的算法流程為： 預(yù)估計(jì)X(k)= F(k,k-1)X(k-1) 1. 計(jì)算預(yù)估計(jì)協(xié)方差矩陣C(k)=F(k,k-1)C(k)F(k,k-1)+T(k,k-1)Q(k)T(k,k-1)Q(k) = U(k)U(k) 2. 計(jì)算卡爾曼增益矩陣K(k) = C(k)H(k)H(k)C(k)H(k)+R(k)(-1)R(k) = N(k)N(k) 3. 更新估計(jì)X(k)=X(k)+K(k)Y(k)-H(k)X(k) 4. 計(jì)算更新后估計(jì)協(xié)防差矩陣C(k) = I-K(k)H(k)C(k)I-K(k)H(k)+K(k)R(k)K(k) 5. X(k+1) = X(k)C(k+1) = C(k)重復(fù)以上步驟 Kalman Filter科技 2010-05-29 21:13:49 閱讀90 評論0 字號：大中小訂閱 Kalman Filter是一個(gè)高效的遞歸濾波器，它可以實(shí)現(xiàn)從一系列的噪聲測量中，估 計(jì)動態(tài)系統(tǒng)的狀態(tài)。廣泛應(yīng)用于包含Radar、計(jì)算機(jī)視覺在內(nèi)的等工程應(yīng)用領(lǐng)域，在控制理論和控制系統(tǒng)工程中也是一個(gè)非常重要的課題。連同線性均方規(guī)劃，卡爾曼濾波器可以用于解決LQG(Linear-quadratic-Gaussian control)問題。卡爾曼濾波器，線性均方歸化及線性均方高斯控制器，是大部分控制領(lǐng)域基礎(chǔ)難題的主要解決途徑。目錄 1應(yīng)用實(shí)例 2 命名和發(fā)展歷史 3 基本動態(tài)系統(tǒng)模型 4 卡爾曼濾波器 4.1 預(yù)測4.2 更新4.3 不變量 5 實(shí)例 6 推導(dǎo) 6.1 后驗(yàn)估計(jì)協(xié)方差矩陣推導(dǎo) 6.2 Kalman 增益推導(dǎo)6.3 后驗(yàn)誤差協(xié)方差矩陣簡化7 信息濾波8 非線性濾波器 8.1擴(kuò)展Kalman 濾波8.2 Unscented Kalman filter9 Kalman-Bucy濾波 10應(yīng)用 11參見 12參考文獻(xiàn) 13外部鏈接 1應(yīng)用實(shí)例一個(gè)簡單的應(yīng)用是估計(jì)物體的位置和速度；簡要描述如下：假設(shè)我們可以獲取一個(gè)物體的包含噪聲的一系列位置觀測數(shù)據(jù)，我們可以獲得此物體的精確速度和位置連續(xù)更新信息。例如，對于雷達(dá)來說，我們關(guān)心的是跟蹤目標(biāo)，而目標(biāo)的位置，速度，加速度的測量值是時(shí)刻含有誤差的，卡爾曼濾波器利用目標(biāo)的動態(tài)信息，去掉噪聲影響，獲取目標(biāo)此刻好的位置估計(jì)(濾波)，將來位置估計(jì)(預(yù)測)，也可以是過去位置估計(jì)的(插值或平滑) 2 命名和發(fā)展歷史 這個(gè)濾波器以它的發(fā)明者Rudolf.E.Kalman 而命名，但是在Kanlman之前，Thorvald Nicolai Thiele和Peter Swerling 已經(jīng)提出了類似的算法。Stanley Schmidt 首次實(shí)現(xiàn)了Kalman濾波器。在一次對NASA Ames Research Center訪問中，卡爾曼發(fā)現(xiàn)他的方法對于解決阿波羅計(jì)劃的軌跡預(yù)測很有用，后來阿波羅飛船導(dǎo)航電腦就使用了這種濾波器。這個(gè)濾波器可以追溯到Swerling(1958),Kalman(1960),Kalman和Bucy(1961)發(fā)表的論文。 這個(gè)濾波器有時(shí)叫做Stratonovich-Kalman-Bucy濾波器。因?yàn)楦鼮橐话愕姆蔷€性濾波器最初由Ruslan L.Stratonovich發(fā)明，而Stratonovich-Kalman-Bucy濾波器只是非線性濾波器的一個(gè)特例。事實(shí)上，1960年夏季，Kalman和Stratonovich在一個(gè)Moscow召開的會議中相遇，而作為非線性特例的線性濾波方程，早已經(jīng)由Stratonovich在此以前發(fā)表了。 在控制領(lǐng)域，Kalman濾波被稱為線性二次型估計(jì)，目前,卡爾曼濾波已經(jīng)有很多不同的實(shí)現(xiàn)，有施密特?cái)U(kuò)展濾波器、信息濾波器以及一系列的Bierman和Thornton 發(fā)明的平方根濾波器等，而卡爾曼最初提出的形式現(xiàn)在稱為簡單卡爾曼濾波器。也許最常見的卡爾曼濾波器應(yīng)用是鎖相環(huán)，它在收音機(jī)、計(jì)算機(jī)和幾乎全部視頻或通訊設(shè)備中廣泛存在。3 基本動態(tài)系統(tǒng)模型Kalman濾波基于時(shí)域描述的線性動態(tài)系統(tǒng)，它的模型是Markov Chain，而Markov Chain建立在一個(gè)被高斯噪聲干擾的線性算子之上。系統(tǒng)的狀態(tài)可以用一個(gè)元素為實(shí)數(shù)的向量表示。 隨著離散時(shí)間的增加，這個(gè)線性算子就會作用到當(dāng)前狀態(tài)之上，產(chǎn)生一個(gè)新的狀態(tài)，并且會帶入一定的噪聲，同時(shí)一些已知的控制信息也會加入。同時(shí)另外一個(gè)受噪聲干擾的線性算子將產(chǎn)生這些隱含狀態(tài)的可見輸出。Kalman 濾波可以被看作為類似隱馬爾科夫模型，它們的顯著不同點(diǎn)在于：隱狀態(tài)變量的取值空間是一個(gè)連續(xù)的空間，而離散狀態(tài)空間則不是；另為，隱馬爾科夫模型可以描述下一個(gè)狀態(tài)的一個(gè)任意分布，這也與應(yīng)用于Kalman濾波器中的高斯噪聲模型相反。Kalman濾波器方程和隱馬爾科夫方程之間有很大的二重性，關(guān)于Kalman 濾波方程和隱馬爾科夫方程之間二重性參看Roweis and Ghahramani(1999)4。 為了從一系列的噪聲觀測中，應(yīng)用Kalman濾波估計(jì)觀測過程的內(nèi)部狀態(tài)。我們必須把這個(gè)過程在Kalman 濾波器的框架下建立模型， 這就意味著，對于 每一步k 我們要定義矩陣 、 、 、 、 如下： Kalman Filter 假設(shè)k 時(shí)刻的真實(shí)狀態(tài)是從k-1時(shí)刻演化而來，符合下式這里是作用在前一狀態(tài)的狀態(tài)轉(zhuǎn)移模型(狀態(tài)轉(zhuǎn)移矩陣)是作用在控制向量 上的控制輸入模型(輸入輸出矩陣) 是過程噪聲，假設(shè)是均值為0的白噪聲，協(xié)方差為 則： 在k時(shí)刻，假設(shè)真實(shí)狀態(tài) 的觀測， 滿足如下公式： 其中 是觀測模型(觀測矩陣)，它把真實(shí)狀態(tài)映射到觀測空間， 是觀測噪聲，假設(shè)它是均值是0，方差是 的高斯白噪聲： Kalman Filter基本動態(tài)系統(tǒng)模型如圖(1)所示，圓圈代表向量，方塊代表矩陣，星號代表高斯噪聲，其協(xié)方差在右下方標(biāo)出。初始狀態(tài)以及每一時(shí)刻的噪聲向量x0, w1, ., wk, v1 . vk 都為認(rèn)為是互相獨(dú)立的。實(shí)際中，真實(shí)世界中動態(tài)系統(tǒng)并不是嚴(yán)格的符合此模型。但是Kalman模型是設(shè)計(jì)在噪聲過程工作的，一個(gè)近似的符合已經(jīng)可以使這個(gè)濾波器非常有用了，更多復(fù)雜模型關(guān)于Kalman Filter模型的變種，將在下述中討論： 圖(1) 4 卡爾曼濾波器Kalman Filter 是一個(gè)遞歸的估計(jì)，即只要獲知上一時(shí)刻的狀態(tài)估計(jì)和當(dāng)前狀態(tài)的觀測就可以計(jì)算出當(dāng)前狀態(tài)的估計(jì)，不同于其他的估計(jì)技術(shù)，Kalman 濾波器不需要觀測或/和估計(jì)的歷史記錄，Kalman Filter 是一個(gè)純粹的時(shí)域?yàn)V波器，而不像低通濾波器等頻域?yàn)V波器那樣，需要在頻域中設(shè)計(jì)，然后轉(zhuǎn)換到時(shí)域中應(yīng)用。下面，代表已知從m到n-1包括m時(shí)刻的觀測在n時(shí)刻的估計(jì)值卡爾曼濾波器的狀態(tài)由以下兩個(gè)變量表示： 已知k時(shí)刻以前時(shí)刻觀測值，k時(shí)刻的狀態(tài)估計(jì)值 誤差協(xié)方差矩陣，度量狀態(tài)估計(jì)的精度程度Kalman 濾波包括兩個(gè)階段：預(yù)測和更新；在估計(jì)階段，濾波器應(yīng)用上一狀態(tài)的估計(jì)做出對當(dāng)前狀態(tài)的估計(jì)。在更新階段，濾波器利用在當(dāng)前狀態(tài)的觀測值優(yōu)化預(yù)測階段的預(yù)測值，以獲的一個(gè)更精確的當(dāng)前狀態(tài)的估計(jì)。4.1 預(yù)測狀態(tài)預(yù)測： 估計(jì)協(xié)方差預(yù)測：4.2 更新新息或測量余量 新息協(xié)方差 Kalman 增益 狀態(tài)估計(jì)更新 狀態(tài)協(xié)方差更新 使用上述公式計(jì)算 僅在最優(yōu)卡爾曼增益的時(shí)候有效。使用其他增益公式要復(fù)雜一些，看見推導(dǎo)4.3 不變量如果模型準(zhǔn)確， 和 值將準(zhǔn)確反映最初狀態(tài)的分布，那么下面所有不變量保持不變，所有估計(jì)的誤差均值為0： 這里 表示 的期望，而協(xié)方差矩陣則反映的估計(jì)的協(xié)方差 5實(shí)例考慮在一個(gè)無摩擦、無限長的直軌道上的一輛小車，它的初始位置在0點(diǎn)，但是它會隨機(jī)的受到?jīng)_擊作用，我們每隔測量一次小車的位置，但是這些測量數(shù)據(jù)不是很精確。我們想建立一個(gè)關(guān)于小車位置和速度的模型，這里我們描述如何建立這個(gè)模型，以及從這個(gè)模型出發(fā)如何推導(dǎo)出Kalman 濾波器。因?yàn)樾≤嚊]有控制輸入，我們可以忽略和。由于F，H，R和Q全是恒值，我們可以忽略時(shí)間下標(biāo)。小車的位置和速度用線性空間可以描述如下：這里表示速度，也就是位置對時(shí)間的微分。我們假設(shè)在時(shí)間間隔k-1和k之間，小車受到一個(gè)恒定的沖擊 ，服從均值為0，方差為的正態(tài)分布，根據(jù)Newton 動力學(xué)方程，可得到：其中， 我們發(fā)現(xiàn)： 在每一時(shí)刻,我們獲取真實(shí)位置的.我們假設(shè)噪聲服噪聲干擾測量，假設(shè)測量噪聲服從均值為0，標(biāo)準(zhǔn)差為正態(tài)分布。其中 H= 1 0， 我們可以得到足夠精度的初始狀態(tài)數(shù)據(jù)，所以我們可以初始化 ， 如果初始位置和速度不是精確的知道，那么協(xié)方差矩陣應(yīng)該初始化為一個(gè)對角線元素B為適當(dāng)大小的矩陣如下：這樣與模型中已有信息相比，濾波器更趨向于使用首次的測量數(shù)據(jù)信息。 6 推導(dǎo)6.1 后驗(yàn)估計(jì)協(xié)方差矩陣推導(dǎo)首先開始不變量后驗(yàn)估計(jì)協(xié)方差矩陣的推導(dǎo)： 帶入 定義，可得 ，代入 可得 代入 可得 整理誤差向量可得， 由于誤差向量 與其他不相關(guān)，所以 由協(xié)方差矩陣性質(zhì)則 ：使用不變量Pk|k-1以及Rk的定義這一項(xiàng)可以寫作 ，此公式(Joseph form)對任意增益Kk的都成立，如果Kk最優(yōu)卡爾曼增益，則可以進(jìn)一步簡化，見下文。6.2 Kalman 增益推導(dǎo)Kalman 濾波器是一個(gè)最小均方誤差估計(jì)器，先驗(yàn)狀態(tài)誤差估計(jì)可表示為 我們最小化這個(gè)矢量幅度平方的期望值 ，這等價(jià)于最小化后驗(yàn)估計(jì)協(xié)方差矩陣 的跡，通過展開合并公式，可得 當(dāng)矩陣導(dǎo)數(shù)為0時(shí)，矩陣的跡取最小值， 從這個(gè)式子解出Kalman增益 這個(gè)增益就是最優(yōu)Kalman增益，應(yīng)用它可以得到最小均方誤差。6.3 后驗(yàn)誤差協(xié)方差矩陣簡化當(dāng)應(yīng)用上述最優(yōu)Kalman增益時(shí)，后驗(yàn)誤差協(xié)方差可以得到簡化，在最優(yōu)Kalman增益兩邊同時(shí)乘以 ，可得 ，參見后驗(yàn)誤差協(xié)方差公式展開 ，帶入上式，可得： 這個(gè)公式的計(jì)算比較簡