揭秘卡尔曼滤波器：从直觉到概率图形

我们感兴趣的是，在预测阶段，以z为条件，推导xt的正则参数，zt公司-1、在卡尔曼滤波器设置中，协方差∑用P表示，而矩用x表示，关系η=P-1x。因此，我们将精度矩阵写为∧，与∧=P给出的协方差矩阵的关系-1、我们将新变量写为∧t | t，以与之前的发展保持一致-1和ηt | t-1、在校正或测量阶段，我们对相同的参数感兴趣，但现在条件是z，zt。我们将把它们写成∧t |和ηt | t。我们可以很容易地导出以下命题给出的递归方案：命题5。过滤方程由以下递归格式给出：^ηt | t-1=Q-1tFt（∧t-1吨-1+FTtQ-1英尺）-1^ηt-1吨-1+（Q-1吨-Q-1tFt（∧t-1吨-1+FTtQ-1英尺）-1FTtQ-1t）Btut（4.24）^ηt | t=^ηt | t-1+HTtR-1tzt（4.25）∧t | t-1=Q-1吨- Q-1tFt（∧t-1吨-1+FTtQ-1英尺）-1FTtQ-1t（4.26）∧t | t=∧t | t-1+HTtR-1tHt（4.27）证明。推导过程很简单，见第B.3节备注4.4。信息过滤器的递归方程非常通用。其中包括早在1979年安德森和摩尔（Anderson and Moore，1979）提出的文献中经常被忽视的控制术语BTutt。值得注意的是，我们可以通过预先计算一个术语Mtas来简化计算：Mt=Q-1tFt（∧t-1吨-1+FTtQ-1英尺）-1（4.28）∧t | t-1=Q-1吨- MtFTtQ-1t（4.29）^ηt | t-1=Mt^ηt-1吨-1+λt | t-1Btut（4.30）^ηt | t=^ηt | t-1+HTtR-1tzt（4.31）∧t | t=∧t | t-1+HTtR-（4.32）这些方程比命题5中提供的方程更有效。对于该递归的初始化，我们将初始值定义如下^η1 | 0=^η和∧1 | 0=∧。值得注意的是，卡尔曼滤波器和信息滤波器在数学上是等价的。他们都有相同的假设。但是，它们不使用相同的参数。

卡尔曼滤波器（KF）使用矩参数，而粒子或信息滤波器（IF）依赖于正则参数，这使得后者在协方差矩阵条件较差的情况下在数值上更加稳定。这很容易理解，因为协方差的小特征值转化为精度矩阵的大特征值，因为精度矩阵是协方差矩阵的逆矩阵。反过来，由于矩阵的条件数是其逆矩阵的条件数的倒数，信息滤波器的条件差应转化为卡尔曼滤波器的更稳定方案。同样，对于反向的初始条件，KF中的小初始状态应转化为IF中的大状态。imsart通用版本。2014年10月16日文件：文章\\u KalmanFilterDemystified。tex日期：2018年12月14日。Benhamou/Kalman滤波器解密154.4。平滑在动态贝叶斯网络上我们可以做的另一项任务是平滑。它包括根据病房t的信息（我们在某种意义上使用的是未来的信息）获得时间t的状态估计。与HMM一样，这种状态估计的计算需要结合前向和后向递归，要么从后向滤波估计开始，然后是前向滤波估计（“alpha-beta算法”），要么通过直接在滤波和平滑估计上迭代的算法（“alpha-gamma算法”）。这两种算法在状态空间模型的文献中都是可用的（参见Koller和Friedman（2009）和Cappe et al.（2010）了解更多细节），但后一种方法似乎占主导地位（与HMM文献相反，前者占主导地位）。

“alpha-gamma”方法被称为“Rauch-Tung-Striebel（RTS）平滑算法”（尽管它是使用非常不同的工具开发的，即早在1965年的控制理论：见Rauch et al.（1965）），而另一种方法只是“alpha-beta”递归。4.4.1. Rauch-Tung-Striebel（RTS）平滑Rauch et al.（1965）开发的Rauch-Tung-Striebel（RTS）平滑器精确地依赖于先进行向后估计，然后进行向前滤波的思想。在或多或少是一种卷积的时间序列分析中，不应将平滑与平滑混淆。aBayesian网络的平滑意味着根据未来信息推断节点的分布。这是过滤的倒数，也有两种含义。对时间序列进行过滤意味着进行卷积以过滤一些噪声。但贝叶斯网络的过滤意味着根据过去的信息推断节点的分布。我们可以计算出RTS平滑器，并找到由以下命题命题6提供的递归方程。RTS平滑算法的工作原理如下：^xt | T=^xt | T+Lt（xt+1 | T-^xt+1 | t）（4.33）^Pt | t=Pt | t+Lt（Pt+1 | t- Pt+1 | t）LTt（4.34），其中Lt=Pt | tFTt+1P-1t+1 | t（4.35），初始条件由^xT | t=^xT（4.36）^PT | t=^PT（4.37）证明给出。证明包括严格书写各种方程式，见第B.44.4.2节。RTS过滤器的替代方法值得注意的是，我们可以开发一种替代方法来使用RTS过滤器，该方法依赖于Alpha beta方法，无需任何观察。这种方法对于HMM模型来说非常标准（参见Rabiner和Juang（1986）或Russell和Norvig（2009））。继Kitagawa（1987）之后，imsart通用版本。2014年10月16日文件：文章\\u KalmanFilterDemystified。tex日期：2018年12月14日。Benhamou/Kalman滤波16这种方法在文献中被称为双滤波算法。

它包括前向条件概率P（xt | z，…，zt）与后向条件概率P（xt | zt+1，…，zt）的组合。直觉如图4所示。xtxt+1。ztzt+1Ft+1Fig 4：无观测的SSM图4提供的图形模型可以很容易地描述。（xt，xt+1）的联合概率分布是一个多变量正态分布，其Lyapunov方程（方差矩阵方程）由pt+1=Ft+1ptft+1+Qt+1（4.38）给出，因此（xt，xt+1）的协方差矩阵由PtPtFTt+1Ft+1PTTFT+1PTTFT+1+Qt+1（4.39）这种方法的基本思想是颠倒图形模型中的箭头，从而得到一个新的图形模型。xtxt+1。ZT+1F-图5：无观测的SSM的反向箭头数学上，这意味着改变关系，现在使用方程（4.38）求解Pt+1的Ptin项。我们得到：Pt=F-1t+1（Pt+1- Qt+1）F-Tt+1（4.40），其中我们假设Ft+1是可逆的。事实上，如果不是这样的话，我们可以用一个接近矩阵重写一切，使其为Ft+1（在Frobenius范数的意义下），该矩阵是可逆的，其距离小于ε，推导出下面的所有关系，然后取limitimsart泛型。2014年10月16日文件：文章\\u KalmanFilterDemystified。tex日期：2018年12月14日。Benhamou/Kalman滤波器demysti fied 17as 趋于零。因此，我们将在下文中假设Ft+1是可逆的，因为这不是我们推导的严格条件。因此，我们现在可以将协方差矩阵重写如下：F-1t+1（Pt+1- Qt+1）F-Tt+1F-1t+1（Pt+1- Qt+1）（Pt+1- Qt+1）F-Tt+1Pt+1（4.41）如果我们将新矩阵定义为：eFt+1=F-1t+1（I- Qt+1P-1t+1）（4.42）我们可以将协方差矩阵简化如下：“eFt+1Pt+1F-Tt+1ft+1Pt+1Pt+1ft+1Pt+1Pt+1#（4.43），因为这看起来像一个前向协方差矩阵。

回想一下，正向动力学定义为：xt+1=Ft+1xt+Bt+1ut+1+wt+1（4.44）。以下命题给出了反向动力学：命题7。逆动力学由以下公式得出：xt=eFt+1xt+1+eBt+1ut+1+ewt+1（4.45），ewt+1=-F-1吨+1（重量+1- Qt+1P-1t+1xt+1）（4.46）eBt+1=-F-1t+1Bt+1（4.47），ewt+1独立于过去的信息xt+1，X与由Eqt+1驱动的ewt+1的协方差矩阵X，E[ewt+1 Ewtt+1]=F-1t+1Qt+1（I- P-1t+1Qt+1）F-Tt+1，（4.48），并通过：Pt=eFtPt+1eFTt+eQt+1（4.49）证明给出的前向Lyapunov方程。证明很简单，见B.5。下面的推理为我们提供了一种生成信息过滤器的新方法，但现在已经落后了。我们应该注意到，状态空间和可观测变量之间的转换是不变的，并且由zt=Hxt+vt给出。我们现在可以应用之前开发的信息过滤器，使用正则化而不是矩参数化来获得新的过滤方程。我们得到以下新信息过滤器：imsart通用版本。2014年10月16日文件：文章\\u KalmanFilterDemystified。tex日期：2018年12月14日。Benhamou/Kalman过滤器澄清了18个命题8。Bierman（2006）中提出的修改后的BrysonFrazier如下所示：fMt=FTtQ-1t（∧t+1 | t+1+Q-1吨- P-1吨）-1（4.50）∧t | t+1=FTt（Qt- QtP-1夸脱）-1英尺-fMtQ-1ft（4.51）ηt | t+1=fMt^ηt+1 | t+1- ∧t | t+1ftbttut（4.52）ηt | t=ηt | t+1+HTtR-1tzt（4.53）∧t | t=∧t | t+1+HTtR-1tHt（4.54）证明。证明包括合并所有以前的结果，并在B.6中给出。备注4.5。如果我们想转换为力矩表示，我们可以使用^xt | t+1=S给出的逆变换-1t | t+1^ηt | t+1和Pt | t+1=S-1t | t+14.5。推断最终后验分布该问题包括推断最终后验分布P（xt | z，…，zT）。我们可以很容易地驱动^xt | T=Pt | T（P-1t | t^xt | t+P-1t | t+1^xt | t+1）（4.55）和PT | t=P-1t | t+P-1吨|吨+1- Σ-1吨-1(4.56)4.6.