随机分析过滤理论研讨会

因此，当重要粒子的数量小于某个阈值δ时，标准是调用SIR∈ [1，P]：ifP`（ω\'n）≤ δ、 那么，先生。即使在加入SIR之后，我们的近似值仍然与非线性滤波器一致：定理9.1.1。对于任何有界函数g（x），PPX`=1g（x`，sirn）→ Las P中的E[g（Xn）|FYn]→ ∞, 和x`，sirnand x`，sirnare对于任何`6=`渐近独立。证据（摘自[11]第9.2节）让{x`n}`≤Pbe在SIR之前使用的SIS样本集。后SIR估计量可以写成旧样本的总和：PX`gx`，先生=PX`gx`n· τ′，其中τ′是x′nw重采样的次数，τ′=PPr=1{xr，sirn=x′n}。考虑条件期望，我们有E[τ` | FYn∨{xrn}r≤P] =P·ω`和估计量isE“PX`g的条件期望x`，先生FYn∨ {xrn}r≤P#=PX`gx`nE[τ`| FYn∨ {xrn}r≤P] =X`gx`nω\'na。s-→ Eg（Xn）FYn, 作为P→ ∞.从这里，我们取双方的期望值，并使用支配收敛来等同于极限，以显示Lconvergence，EPPX`=1g（x`，sirn）- Eg（Xn）FYn→ 0as P→ ∞.现在考虑另一个有界函数f（x），Ehgx`，先生Fx`，先生FYni=EHGx`，先生Fx`，先生FYn∨ {xrn}r≤圆周率FYni=EHGx`，先生FYn∨ {xrn}r≤皮耶夫x`，先生FYn∨ {xrn}r≤圆周率FYni=E“X`gx`nω\'n！X`fx`nω\'n！FYn#→ E[g（Xn）|FYn]·E[f（Xn）|FYn]，作为P→ ∞. 所以我们发现了EHGx`，先生Fx`，先生费尼~ Ehgx`，先生FYniEhfx`，先生FYnifor`6=`和P大。

因此，x`，sirnand x`，sirnar是渐近独立的。方差约化对于任何有界函数g（x），条件蒙特卡罗原理告诉我们，SIResistator的方差将大于SIS估计器，varPX`g（x`，sirn）！=varPX`g（x`，sirn）{x`n，ω`n}`！+varE“PX`g（x`，sirn）{x`n，ω`n}`#！≥ varE“PX`g（x`，sirn）{x`n，ω`n}`#！=varX`g（x`n）ω`n！因此，估计量pp`g（x`，sirn）可能不是更可取的toP`g（x`n）ω`n。然而，从定理9.1.1的证明中可以看出，var（g（Xn）|FYn）~ var（g（x`，sirn）|FYn），对于P大，如果我们写下总方差定律，我们会看到粒子的总方差减小，var（g（x`n））=var（g（Xn））=varg（Xn）FYn+ 变量E[g（Xn）| FYn]| {z}>0>varg（Xn）FYn~ var（g（x`，sirn））。如果g（Xn）的范围很广，这种降低可能非常显著。这些比率很难显示出来，但通过调用SIR，我们可以得到E[g（Xn）|FYn]的估计值，该值将快速收敛到P→ ∞. 这一简短的小节没有试图提供任何证据；我们没有计算任何收敛速度的比较。9.2示例在本节中，我们提供了一些示例来演示粒子过滤器的用途。9.2.1 Heston模型的粒子过滤器考虑具有时间相关系数DYT的Heston模型=u -Xtdt+pXtρdBt+p1- ρdWtdXt=ν（°X）- Xt）dt+γpxtdbt，其中yti是股票的对数价格，√Xt是波动率ρ∈ [-1，1]是相关参数，（Wt，Bt）是一对独立的维纳过程。观察到的股票和指数的对数价格是不连续的。相反，有一个离散的集合序列（tn）n=0,1,2，。。。由股票或指数报价的时间组成，Yn=Ytn，对于n=0，1，2，3，4。。。。。。。我们表示第n次和（n+1）次观测之间的时间步长tn=tn+1-tn。

通过考虑Stratonovich/It^o积分变换ztn+1tnγspXso dBs=Ztn+1tnγsds+Ztn+1tnγSPXSDBS和Xn=Xtn，我们将发现，对赫斯顿模型的Stratonovich形式进行以下隐式离散化是有用的，Yn+1=Yn+u -Xntn+pXnρBn+p1- ρWnXn+1=Xn（1- νtn）+ν*X-γtn+γpXn+1Bn(*)哪里BnandWn是独立维纳过程的增量（即。Bn=Btn+1-Btn~ N（0，tn）和Wn=Wtn+1- Wtn~ N（0，tn）。我们采取√Xn+1是方程的根(*) 这可以通过二次方程（见阿方西[2]）得到，pXn+1=nγBn±pγBn+4图D=（1）- νtn）Xn+ν*X-γ如果n=T≤ν和γ≤ 这个隐式方案是有效的，因为它是平均还原的，并且在Xn中保留了正性。利用这个方案，我们可以生成粒子{x`n}n`并逼近非线性滤波器。9.2.2 Rao BlackwellizationLetθnbe是转移概率为∧的隐马尔可夫链，让Xnbe是另一个隐马尔可夫过程，由以下递归给出，Xn=a（θn）Xn-1+σ（θn）Bn与Bn~ iidN（0，1）（明确地说，Bn⊥ θn）和高斯初始分布p（x）。将观测过程离散定义为asYn=h（θn）Xn+γ（θn）wn，其中Wkare iidN（0，1）（明确表示为Bn）⊥ Wn和θ（取决于Wn），γ（·）>0。在这种情况下，我们可以使用粒子来边缘化θn，θ`~ pθ\'n~ ∧（·|θ`n-1） 对于n>0，然后对于每个粒子，我们可以计算边际卡尔曼滤波器，G`n=h（θ`n）∑`n-1h（θ\'n）a（θ\'n）∑\'n-1+σ（θ\'n）+ γ（θ`n）bX`n=a（θ`n）bX`n-1+G`n伊恩- h（θ\'n）a（θ\'n）bX\'n-1.∑\'n=1.- G`nh（θ`n）a（θ\'n）∑\'n-1+σ（θ\'n）我们定义了bx`n.=E[Xn | FYn∨{θ\'0:n}]和∑\'n.=E[（Xn-bX`n）|θ`0:n]（有关卡尔曼滤波器的更多信息，请参见[28,25]）。

以FYn为条件-1.∨ {θ\'0:n}，Ynis normal，均值和方差u\'n |n-1.=E[Yn | FYn-1.∨ {θ`0:n}]=h（θ`n）a（θ`n）bX`n-1v`n | n-1.=var伊恩FYn-1.∨ {θ\'0:n}= h（θ\'n）a（θ\'n）∑\'n-1+σ（θ\'n）+ γ（θ\'n）与约定u\'0：-1=h（θ`）a（θ`）EXand v0：-1=h（θ`）a（θ`）var（X）+γ（θ`）。对于任何粒子θ`0:n，非规范化的重要性权重更新如下：△ω`n.=P（Y0:n |θ0:n=θ`0:n）=exp-伊恩-u`n | n-1qv`n | n-1.qv`n | n-1×Ω\'n-1按照惯例，ω`-1.≡ 1.对于P-多颗粒，非标准化Rao Blackwellized过滤器是非标准化过滤器φ的近似值*n[θ]=PX′θ′nω′n=PX′θ′nP（Y0:n |θ0:n=θ′0:n）≈ E[°θnP（Y0:n |Оθ0:n）| FYn]=~E[θn | FYn]其中|θ是θ的一个副本，它独立于（Y，X，θ）。拉奥·布莱克威尔定理如下：定理9.2.1。拉奥·布莱克威尔。给定Z0:n，设^β为参数β的估计量，β为有效统计量。然后是估计量β*= E[^β| T（Z0:n）]至少在MSEE（^β）方面是一样好的*- β)≤ E（^β）- β） 对于参数空间中的所有β。现在，假设每个`我们生成粒子{x`，`0:n}`≤我们不再计算卡尔曼滤波器，而是使用这些粒子计算非标准化滤波期望的另一个估计器φn[θ]=PX`θ`nPX`PY0:nX0:n=x`，`0:n，θ0:n=θ`0:n| {z}≈PY0:nθ0:n=θ\'0:n.但是，给定θ\'0:n，边际卡尔曼滤波器允许我们在没有近似的情况下计算可能性。

因此，~E[θn | FYn]的有效统计量为Tn.=（θ\'n，~ω\'n）`≤P、 我们有∧ω\'n=P（Y0:n |θ0:n=θ\'0:n）=ZP（Y0:n | X0:n=X0:n，θ0:n=θ\'0:n）P（X0:n∈ dx0:n |θ0:n=θ`0:n=E“P（Y0:n | X0:n=x`，`0:n，θ0:n=θ`0:n）FYn∨ {θ\'0:n}#所有`≤ P、 从这里很容易看出φn[θ]的期望值为FYn∨ Tn是Rao Blackwellized估计量，Ehφn[θ]FYn∨ Tni=EhEhφn[θ]FYn∨ {θ`0:n}`iFYn∨ Tni=PX`θ\'n＠ω\'n=φ*n[θ]。因此，根据Rao Blackwell定理，我们知道φ*n[θ]的均方误差小于或等于在无边缘卡尔曼滤波器的情况下计算的粒子滤波器的均方误差，Eφ*n[θ]-~E[θn | FYn]FYn≤ Eφn[θ]-~E[θn | FYn]FYn,Rao Blackwellized过滤器的优点是需要模拟粒子穿过更小尺寸的区域。第10章有限状态滤波器的稳定性、李雅普诺夫指数和遍历理论如果滤波器能够从错误的初始分布中渐近恢复，则称其为“稳定”。换句话说，假设HMM的所有部分都得到了正确估计，但除了不正确的初始分布之外，随着初始数据越来越深入过去，稳定的过滤器将“忘记”错误的假设。使用稳定滤波器可能会有很多好处，其中一个原因是，使用稳定滤波器的模型的参数估计算法不需要如此强调初始条件的估计。稳定性产生影响的速率也可以估算，因为这些速率是由Lyapunov指数或过滤器生成器中的体隙给出的，虽然这些指数通常不可明确计算，但也有方法进行估算。

最后，遍历状态变量的稳定滤波器也可能具有遍历定理，这一特性可能对参数估计也很有用。10.1主要思想及其历史考虑HMM（Xt，Yt），其中Xt是一个隐马尔可夫过程，在初始分布为ν：S的状态空间S中取值→ [0，1]，其中对过程Yt进行观察，我们假设该过程由Xt加上噪声的函数给出。可以使用初始条件ν计算过滤测量值，我们将其表示为πνt（A）=Pν（Xt）∈ A |σ{Ys:s≤ t} ）对于所有的博雷尔来说 S.定义10.1.1。设|ν是S上的另一个概率度量，并设π|νt忽略以|ν作为X的初始分布计算的滤波器。该滤波器被称为渐近稳定的iflimt→∞Eπνt- πνttV=0，其中|·| tV表示总变化范数。直观地说，如果模型满足以下描述之一，滤波器应该是稳定的：o信号是遍历的o或者观测信息丰富，使旧信息过时（例如，非常低的噪声和h（·）是一对一），但即使在这些基本情况下，也很难证明稳定性结果，一般理论尚待发展。有限状态马尔可夫链信号的稳定性结果在其速率和遍历理论方面是众所周知的，自20世纪60年代以来，人们就知道，当信号是遍历的时，卡尔曼滤波器和卡尔曼布西滤波器是稳定的。显示这些滤波器稳定性的基本方法是，从里卡蒂方程中确定后验协方差的平衡，用它来显示增益矩阵也接近平衡，然后验证对初始条件的依赖性随时间衰减。

示例10.1.1展示了如何对具有常数系数的普通Kalman Bucy滤波器进行此操作，从而表明线性高斯模型中的观测值确实具有充分的信息性，因为不假设信号是遍历的。10.1。（恒定系数的Kalman-Bucy滤波器的稳定性）。考虑以下线性系统，dXt=aXtdt+σdBtdYt=hXtdt+γdwtw⊥ Wt.应用Kalman-Bucy滤波器，我们得到了=A.-hγ∑tbXtdt+hγ∑tdYtddt∑t=2a∑t-hγ∑t+σ。里卡蒂方程的解可以明确地写为∑t=α- Kαexpnhγ（α- α） 到- K expnhγ（α）- α） 两个概率测度p和q之间差异的总变化范数为| p- q | T V=sup{| p（A）- 问题（A）|：A∈ B（R）}其中B（R）表示R的Borel可测子集的空间，其中α=h-2.γ- γpaγ+hσ, α=h-2.aγ+γpaγ+hσK=∑-αΣ-α. 渐近地，我们有∑t~ α，过滤期望值约为bXt~bXe-βt+hαγ中兴通讯-β（t-s） 其中β=γpaγ+hσ。这表明Kalman-Bucy滤波器将忘记Xas t上的任何初始条件→ ∞, 从而表明过滤器是稳定的。Kunita于1971年[31]确定了具有遍历状态的非线性滤波器的一般结果，但他的证明中的一个关键步骤是错误的。他的证明基本上是这样的：假设 ~ν. 然后，对于任何测试函数g（x），ZSg（x）dπνt（x）=E[g（Xt）|FYt]=E)FYtiEhddν（X）FYti=Eνg（Xt）Eνhdνdν（X）FYt∨ {Xt}iEāνhdνdā（X）费蒂FYt=ZSg（x）E~nνhdνdν（x）FYt∨ {Xt}iEāνhdνdā（X）其中分母是严格正的a.s.，因为 ~ν. 由此我们可以看出πν 带Radon-Nykodym导数的πνtdπννt（x）=Ehdνdν（x）FYt∨ {Xt=x}iE)νhdνd)ν（x）Fyti由于氡Nykodym导数的存在，P-a.s.的TV范数等于P-a.s。

到下面的kπνt- π∧νtkT V=ZSdπνtdπνt（x）- 1.dπνt（x）=Eν”E~nνhdνd~n（X）FYt∨ {Xt}i- E~nνhdνd~n（X）费蒂FYt#Eνhdνdν（X）FYti（10.1），但由于马尔可夫性质，我们意识到，给定的FYt∨无论是否添加了关于未来的信息，{Xt}都是相同的。因此，我们必须dνdν（X）FYt∨ {Xt}= E~nνdνdν（X）FY∞∨ FX[t，∞)其中FX[t，∞)表示由{Xs:s生成的尾σ场≥ t} 。结合尾σ场测度和（10.1）中的分子，我们得到了Ekπνt- π∧νtkT V=EνE~nνdνdν（X）FYtkπνt- π∧νtkT V= E~nνE~nνdνdν（X）FY∞∨ FX[t，∞)- E~nνdνdν（X）FYt并采取我们的限制→∞Ekπνt- π∧νtkT V=EνE~nνdνdν（X）\\T≥0FY∞∨ FX[t，∞)- E~nνdνdν（X）FYt这表明，当且仅当ifE/ν时，过滤器是稳定的dνdν（X）\\T≥0FY∞∨ FX[t，∞)= E~nνdνdν（X）FY∞. （10.2）到目前为止，每一步都是正确的，但库尼塔的错误在于假设这些过滤的极限是相等的≥0FY∞∨ FX[t，∞)?= FY∞, （10.3）但后来出现了方程式（10.3）的反例。10.1.1反例Baxendale、Chigansky和Lipster[8]给出了一个例子来演示（10.3）失败的时间。设Xt是一个马尔可夫链，取S={1,2,3,4}中的值，其转移强度为∧=-1 1 0 00 -1 1 00 0 -1 11 0 0 -1..显然，所有状态都是通信的，X是一个遍历马尔可夫过程，具有不变度量u=（1,1,1,1）/4。设h（x）=1x=1+1x=3，考虑观测模型yt=h（Xt），这是一个退化噪声模型。[8]证明了以下引理，引理10.1.1。在本例中，等式（10.3）中的过滤极限为假，\\t≥0FY∞∨ FX[t，∞)) FY∞.证据必须证明Xis是FY∞∨ FX[t，∞)-可测量，但就FY而言不可测量∞. 马尔可夫链X只允许以下顺序的循环。

{3} → {4} → {1} → {2} → . . . ,因此，对于任何t>0的情况，我们都可以恢复给定的xfy和xt（也就是说，因为我们知道xt，所以我们可以向后看，通过观察Y跳了多少次，来推断X的路径）。现在，因为FYt∨ {Xt} FY∞∨ FX[t，∞), 我们有∈\\T≥0FY∞∨ FX[t，∞).接下来，表示Y与序列{τi}i跳跃的时间≥1（τiis Y’sith跳跃时间）。不难验证τiis独立于（X，Y）和以下过滤是否相等，FYt=_i≥1{τi≤ t}∨ {Y} 所以对于任何t>0，我们有P（X=1 | FYt）=PXt=1_我≥1{τi≤ t}∨ {Y}= P（X=1 | Y）=P（X=1）P（X=1）+P（X=3）Y6=1Xt=1。因为这个后验值适用于任何t>0，所以我们必须有p（X=1 | FY）∞) 6=1Xt=1这意味着X/∈ FY∞.10.2马尔可夫链模型的稳定性在本节中，我们在Atar和Zeitouni[4]的论文中给出了一些结果。特别是，我们给出了离散时间滤波问题的稳定率证明，其中状态变量是遍历有限状态马尔可夫链。他们的论文还展示了连续时间的类似结果，以及关于低噪声情况的一些其他结果。考虑一个概率空间(Ohm, F、 让n=0，1，2，3。表示时间。假设x是一个不可观测的马尔可夫链，在有限状态空间S={x，…，xd}中取值。让矩阵∧包含Xn的跃迁概率，使得任意i，j的p（Xn+1=xi）=Xj∧jiP（Xn=Xj）≤ d、 P（X=xi）=νi。进一步假设Xnis以不变量律u循环，使得∧*)nν→ uas n→ ∞. 我们假设Xnis遍历，当且仅当∧为优先序k（即存在k<∞ 使得∧nji>0表示所有i，j≤ d和alln≥ k） 。假设观测过程Yn是Xn的非线性函数，Yn=h（Xn）+wn，其中wn是均值为零且方差γ>0的iid高斯随机变量。

以u作为初始条件计算的过滤质量用πν表示，并由πνn+1=cn+1ψn+1∧粗略给出*πνn其中cn+1是一个归一化常数（取决于u），ψn+1是相似函数ψn+1的对角矩阵=E-Yn+1-h（x）γ0 . . . 00 e-Yn+1-h（x）γ. . . 0............0 0 . . . E-Yn+1-h（xd）γ.在这种情况下，稳定性意味着对于任何其他度量|ν：S→ [0,1]，我们有kπνn- πνnk→ 0as n→ ∞, 其中k·k表示Rd上的欧几里德范数。这种差异的收敛速度用李雅普诺夫指数γ（ν，~ν，ω）=lim supn来描述→∞nlog kπνn- 对于所有ω∈ Ohm, 在某种强烈的意义上（例如概率、均方或几乎确定的）极限成立的地方。然而，事实证明，李雅普诺夫指数几乎肯定有一个确定性常数的界，仅依赖于模型参数，如γ。在继续之前，我们定义了