基于离散小波变换的精确和近似隐马尔可夫链滤波器

相似文件 换一批

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Exact and Approximate Hidden Markov Chain Filters Based on Discrete
  Observations》
---
作者：
Nicole B\\\"auerle, Igor Gilitschenski, Uwe D. Hanebeck
---
最新提交年份：
2014
---
英文摘要：
  We consider a Hidden Markov Model (HMM) where the integrated continuous-time Markov chain can be observed at discrete time points perturbed by a Brownian motion. The aim is to derive a filter for the underlying continuous-time Markov chain. The recursion formula for the discrete-time filter is easy to derive, however involves densities which are very hard to obtain. In this paper we derive exact formulas for the necessary densities in the case the state space of the HMM consists of two elements only. This is done by relating the underlying integrated continuous-time Markov chain to the so-called asymmetric telegraph process and by using recent results on this process. In case the state space consists of more than two elements we present three different ways to approximate the densities for the filter. The first approach is based on the continuous filter problem. The second approach is to derive a PDE for the densities and solve it numerically and the third approach is a crude discrete time approximation of the Markov chain. All three approaches are compared in a numerical study.
---
中文摘要：
我们考虑一个隐马尔可夫模型（HMM），其中积分连续时间马尔可夫链可以在受布朗运动扰动的离散时间点观察到。其目的是推导出一个滤波器的基本连续时间马尔可夫链。离散时间滤波器的递推公式易于推导，但涉及的密度很难获得。本文在HMM的状态空间仅由两个元素组成的情况下，导出了必要密度的精确公式。这是通过将潜在的集成连续时间马尔可夫链与所谓的非对称电报过程联系起来，并利用这个过程的最新结果来实现的。如果状态空间由两个以上的元素组成，我们提出三种不同的方法来近似滤波器的密度。第一种方法基于连续滤波器问题。第二种方法是推导密度的偏微分方程并进行数值求解，第三种方法是对马尔可夫链进行粗略的离散时间近似。在数值研究中对这三种方法进行了比较。
---
分类信息：

一级分类：Mathematics        数学
二级分类：Probability        概率
分类描述：Theory and applications of probability and stochastic processes: e.g. central limit theorems, large deviations, stochastic differential equations, models from statistical mechanics, queuing theory
概率论与随机过程的理论与应用：例如中心极限定理，大偏差，随机微分方程，统计力学模型，排队论
--
一级分类：Computer Science        计算机科学
二级分类：Systems and Control        系统与控制
分类描述：cs.SY is an alias for eess.SY. This section includes theoretical and experimental research covering all facets of automatic control systems. The section is focused on methods of control system analysis and design using tools of modeling, simulation and optimization. Specific areas of research include nonlinear, distributed, adaptive, stochastic and robust control in addition to hybrid and discrete event systems. Application areas include automotive and aerospace control systems, network control, biological systems, multiagent and cooperative control, robotics, reinforcement learning, sensor networks, control of cyber-physical and energy-related systems, and control of computing systems.
cs.sy是eess.sy的别名。本部分包括理论和实验研究，涵盖了自动控制系统的各个方面。本节主要介绍利用建模、仿真和优化工具进行控制系统分析和设计的方法。具体研究领域包括非线性、分布式、自适应、随机和鲁棒控制，以及混合和离散事件系统。应用领域包括汽车和航空航天控制系统、网络控制、生物系统、多智能体和协作控制、机器人学、强化学习、传感器网络、信息物理和能源相关系统的控制以及计算系统的控制。
--
一级分类：Quantitative Finance        数量金融学
二级分类：Mathematical Finance        数学金融学
分类描述：Mathematical and analytical methods of finance, including stochastic, probabilistic and functional analysis, algebraic, geometric and other methods
金融的数学和分析方法，包括随机、概率和泛函分析、代数、几何和其他方法
--

---
PDF下载：
--> Exact_and_Approximate_Hidden_Markov_Chain_Filters_Based_on_Discrete_Observations.pdf (687.4 KB)

2022-5-7 02:54:18 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：马尔可夫链 小波变换 马尔可夫 滤波器 Mathematical

基于离散观测的精确和近似隐马尔可夫链滤波器Nicole B¨auerlea，Igor Gilitschenskib，Uwe D.Hanebeckbainute of Stochastics，卡尔斯鲁厄理工学院，D-76131卡尔斯鲁厄，德国人类与机器人学会，卡尔斯鲁厄理工学院，D-76131卡尔斯鲁厄，我们考虑一个隐马尔可夫模型（HMM），在该模型中，在布朗运动扰动的离散时间点上可以观察到积分连续时间马尔可夫链。其目的是为潜在的连续时间马尔可夫链推导一个过滤器。离散时间滤波器的递归公式很容易推导，但涉及的密度很难获得。本文在HMM的状态空间仅由两个元素组成的情况下，推导了必要密度的精确公式。这是通过将潜在的集成连续时间马尔可夫链与所谓的非对称电报过程联系起来，并使用这个过程的最新结果来实现的。如果状态空间由两个以上的元素组成，我们提供三种不同的方法来近似过滤器的密度。第一种方法基于连续过滤问题。第二种方法是推导密度的偏微分方程并进行数值求解，第三种方法是对马尔可夫链进行粗略的离散时间近似。在一项数值研究中对这三种方法进行了比较。关键词：隐马尔可夫模型，离散贝叶斯滤波器，Wonham滤波器，不对称。引言我们考虑一个隐马尔可夫模型（HMM），在该模型中，在布朗运动扰动的离散时间点上可以观察到完整的连续时间马尔可夫链。其目的是为潜在的连续时间马尔可夫链推导一个过滤器。因此，我们有一个连续时间的隐马尔科夫模型与离散观测。

这类模型广泛应用于金融、电信或生物学领域。参考资料请参考第2节中的示例。例如，在必须以动态方式控制系统的情况下，对过滤器的了解是必要的。通常，估算和控制的原则是有效的，这意味着必须首先计算过滤器，然后应用控制，不同类型的应用参见[4,25,28]。我们假设模型的所有参数都是已知的或之前已经估计过的。特别地，我们假设隐马尔可夫链的状态数和状态值是已知的。就型号选择而言，请参见[12,22,6]。关于状态值和转移强度估计的论文如[26,8,14,13]。由于我们假设马尔可夫链的状态数是有限的，因此滤波器的维数是有限的，并且基本上可以清楚地理解现有理论如何构造它。然而，过滤递归涉及的密度很难明确计算。在隐马尔可夫链只有两个状态的情况下，我们依靠[21]和[7]关于非对称电报过程的结果来获得闭合形式的精确滤波器。我们区分了两种状态的开关强度相同的对称情况和强度不同的不对称情况。第一种情况更简单，与著名的电报邮件地址有关：nicole。baeuerle@kit.edu（妮可·鲍尔），gilitschenski@kit.edu（伊戈尔·吉利琴斯基）。hanebeck@ieee.org（Uwe D.Hanebeck）过程。第二个问题与不对称电报过程有关。对称电报过程的开关强度估计值如下：。

在[32]、[17]中推导出，在[16]中推导出了均匀电报过程。在两个以上状态的一般情况下，所需的密度变得相当复杂。所以需要一个程序来近似计算这些密度。我们提出了三种不同的方法来推导近似值。这三种方法都是通用的，不需要关于强度大小的信息，即隐马尔可夫链切换的速度。当然，马尔可夫链的转换越快，就越难获得合理的过滤器，因为观测之间有固定的时间间隔。如果开关强度与观测时间间隔相比太大，则平稳分布是一个合理的近似值。第一种方法依赖于[23,19]中的结果，其中作者推导了一个近似的连续时间滤波器。当这个连续时间过滤器被离散化时，它也可以被只能以离散时间观察数据的人使用。然而，这种方法是基于一种假设的，而这种假设在一般情况下并不成立。第二种方法是推导过滤过程中涉及的密度的偏微分方程，并对该偏微分方程进行数值求解。这种方法精确到数值偏微分方程解的误差。第三种尝试依赖于离散时间马尔可夫链对连续时间马尔可夫链的朴素近似。近似值越高，即离散时间马尔可夫链的时间步长越小，近似滤波器越好，但计算效率越高。我们的论文组织如下：下一节包含问题的精确数学公式，并推导出基本的滤波递归。第3节则专门讨论两个州的问题。关于电报过程的结果被用于在对称和非对称情况下明确推导滤波器。

下一节考虑一般问题，并推导出三个近似滤波器。最后一节是数值结果。特别是，我们将我们的近似滤波器与五种状态进行比较，在频繁或罕见观测的情况下，以及误差项的小或大变化情况下。2.隐马尔可夫链过滤器假设我们有一个过滤的概率空间(Ohm, T>0且隐平稳连续时间马尔可夫链ε=（εT）T∈[0，T]在有限状态空间E={1，…，d}和d上∈ N.这个过程的强度矩阵由Q给出，初始分布由p给出。让我们用p（t）=（p（t），pd（t））>t的εt分布∈ [0，T]，然后p（T）用p（0）=p满足ODEdp（T）dt=Qp（T）（2.1）。p（T）=eqt给出了（2.1）的形式解=∞Xk=0（Qt）kk！矩阵是指数的。此外，h步跃迁概率由pij（h）=P（ε（t+h）=j |ε（t）=i）=（eQh）i，j（2.2）给出，现在进一步假设W=（Wt）t∈[0，T]是过滤概率空间上的布朗运动，它独立于隐连续时间马尔可夫链ε，并起到噪声的作用。此外，α，α是不同的实数，σ>0。我们假设我们可以在离散时间点tk=kh，k=0，1，…，观察过程Zt:=Ztαεsds+σWt（2.3），N，h>0，Nh=T，即时间tkis的观测σ-代数由zk:=σ（{Zt）给出- Zt，Ztk- Ztk-1} ），k=1，Nas与过滤（Ft）相反，后者包含ε和W的信息。这个模型的简单解释如下：假设一个粒子在实线上运动，从零开始。时间t时粒子的速度由εt决定。因此，Rtαε（s）ds给出了时间t时粒子的精确位置。

然而，我们只能在离散时间点Tk和噪声σWtk一起观察位置。现在的目标是从该观察中过滤粒子的当前速度，即确定EP（εtn=j | Zn）=：un（j），其中u=pis给定。众所周知，在贝叶斯分析的帮助下，我们可以推导出一个递归滤波公式，该公式由un（j）=Pdi=1pij（h）gij（z，h）un给出-1（i）Pdi=1gi（z，h）un-1（i）（2.4）其中gi（z，h）是Zhgivenε=i的条件分布的密度，gij（z，h）是Zhgivenε=i和εh=j的条件分布的密度，参见例[9]，第2章，[11]第3章和[2]第5章，即gi（z，h）=Pi（Zh∈ dz）/dz，i∈ Egij（z，h）=P（Zh）∈ dz |ε=i，εh=j）/dz，i，j∈ E、 显然，通过条件作用，我们得到了关系gi（z，h）=Xj∈Egij（z，h）pij（h）。（2.5）因此，从原则上讲，我们可以推导出密度gijj，从而得到gi。如果E={1，2}只由两个元素组成，我们将在下一节推导giand gijin的显式表达式。对于一般E，我们在第4节推导出近似表达式。让我们也简短地提到我们不断观察到的情况。在这种情况下，观察过滤由zt:=σ（{Zs，s）给出∈ [0，t]}），t∈ [0，T]我们必须确定p（εT=j | Zt），T∈ [0，T]。这就是众所周知的Wonham过滤器问题。根据Kallianpur-Striebel公式，我们得到以下表达式p（εt=j | Zt）=ξj（t）Pdi=1ξi（t）（2.6），其中（ξt）t∈[0，T]：=（ξ（T），ξd（t））t∈[0，T]满足T的Zakai方程ξT=p+ZtQξsds+ZtDξsdZs（2.7）∈ [0，T]其中D是元素为α/σ的对角矩阵。对角线上的αd/σ（参见例[23]）。显然，该过滤器利用了（Zt）的连续观测。

然而，我们将在稍后看到，时间t时该滤波器的近似值可能仅取决于ZT，这也允许我们在离散观测的情况下使用该滤波器。接下来给出了该模型的应用。例1：财务数据表明，资产价格的参数取决于外部宏观经济因素，这些因素可以用连续时间马尔可夫链（cp[27]）来描述。以经典Black-Scholes模型为例，其参数由一个由连续时间马尔可夫链表示的因子过程驱动。因此，assetprice Stat time t的日志返回值应为St=Ztαεs-σds+σWt，其中（Wt）是独立于（εt）的布朗运动，α是漂移或升值率，σ是固定波动率。参数σ也可能取决于（εt）。[7,1,33,5,34]中处理了假设已知因子过程的模型。如果（εt）不可观测且σ常数不变，我们就得到了本文所考虑的一般情况。然后，用HMM或马尔可夫转换模型对价格参数进行合理描述。目的是过滤潜在的经济因素。有关该模型的应用，请参见[28,25,14,29,3,10]。在这种情况下，通常只能观察日志返回，即离散时间点的集成HMM。例如，一些资产价格只在每日报价。例2：在通信网络中，信息以随机变化的速率到达多路复用器、交换机或信息处理器，并且在时间上往往表现出高度的相关性。例如[15]将由数据和分组语音源混合组成的统计多路复用器的输入流建模为马尔可夫调制泊松过程。在[31]中，作者对多路复用器处的信息流使用了马尔可夫调制连续流模型，并分析了系统性能。

这些和其他发现促进了对所谓液体队列的调查，见例[20]。最近的参考文献[24]中，作者对液体队列的静态排队级别感兴趣，液体队列的内容演化过程（Qt）由sedqt=αεtdt给出- uεtQtdt+σεtQtdWt。在这里，如果一个人能够在受到错误干扰的情况下观察到流入的液体量，那么过滤器会计算当前流入流量的分布。这种流体队列也可用于建模生产过程。3.两种状态的问题3。1.对称Q-矩阵在这种情况下，状态空间只由两个元素组成，即e={1，2}，强度是对称的，即Q=-λ λλ -λ（3.1）当λ>0时，模型可简化为所谓的电报过程。电报程序∈[0，T]由它给出：=Zt(-1） NSD（3.2），其中（Nt）t∈[0，T]是强度为λ的泊松过程。KAC在1956年的课堂讲稿中介绍了电报过程，另见[18]。它以不同的方式得到了推广，并在各种应用中进行了研究。参考文献较多的最新论文见[21]。人们通常区分粒子以对称速度+1和+1运动的对称情况-1，以相同的强度λ>0切换方向，在不对称情况下，我们有不同的任意速度和不同的切换强度。现在让我们表示jt:=Ztαεsds（3.3）和定义a:=（α+α），b=（α）- α） b=（α）- α). 然后，给定ε=i，对于i=1，2，wehaveJt=at+biIt，t∈ [0，T]，（3.4），即JT是它的线性变换。在这种情况下，（2.2）中的转移概率简化了top（t）=p（t）=-E-2λt，t∈ [0，T]。（3.5）现在可以导出密度gi，gij，i，j的显式公式∈ {1, 2}. 其出现在过滤公式（2.4）中。

给定初始状态，时间h时电报过程的密度可以在[7]的附录中找到。为了得到我们应用的密度，让我们引入以下符号。修改后的贝塞尔函数由b（z）给出=∞Xk=0（z/4）kk！，B（z）=z∞Xk=0（z/4）kk！（k+1）！，Z≥ 0（3.6），我们用φσ（x）表示正态分布的密度，期望值为零，标准偏差为σ=√2πσe-xσ，x∈ 然后我们得到：定理3.1。当i=1，2时，Zhgivenε=i的密度为gi（z，h）=e-λhhφσ√h（z）- h（bi+a））+|bi | Zh（a+|bi |）h（a）-|bi |）φσ√h（z）- x） ~qh，λ十、- 阿比dxi，z∈ R、 对于＠qh，λ（x）=λhBλp（h）- 十）+h+xh- 十、Bλp（h）- 十）i、 x∈ [-h、 h]。Zhgiven的密度ε=εh=i isgii（z，h）=cosh（λh）hφσ√h（z）- h（bi+a））+|bi | Zh（a+|bi |）h（a）-|bi |）φσ√h（z）- x） qh+十、- 阿比dxi，z∈ R、 带＠qh，+（x）=λh+xh- 十、Bp（h）- x） λ, 十、∈ [-h、 h]。Zhgiven的密度ε=i，εh=j和i，j∈ {1,2}和i6=j isgij（z，h）=sinh（λh）|bi | Zh（a+| bi |）h（a-|bi |）φσ√h（z）- x） qh，-十、- ahbi公司dx，z∈ R.带＠qh，-（x） =λBp（h）- x） λ, 十、∈ [-h、 h]。该声明的证据见附录。3.2. 非对称Q矩阵在本节中，我们再次假设状态空间仅由两个元素组成，即e={1，2}，但跃迁强度是任意的，即Q=λ>0，Q=λ>0。（2.2）中的转移概率现在由p（t）=λ+λ给出-λ+λe-（λ+λ）t，（3.7）p（t）=λ+λ-λ+λe-（λ+λ）t，（3.8）在这种情况下，我们将（3.2）中的（它）解释为不对称电报过程。这意味着它：=Zt(-1） Nsdswhere nowNt=|{0≤ s≤ t：εs6=εs-}|是马尔可夫链（εt）中[0，t]的状态转移数。同样，密度gi，gij，i，j的显式公式∈ 可以导出{1,2}。文献[7]利用点过程的Girsanov定理，得到了给定ε=i的密度。在[21]中，作者使用了一个微分方程。

对于我们的情况，我们得到（w.l.o.g.我们在下一个定理中假设初始状态为ε=1）：定理3.2。Zhgivenε=1isg（z，h）=e的密度-λhhφσ√h（z）- h（b+a））+|b | Zh（a+|b |）h（a）-|b |）φσ√h（z）- x） ■ph值十、- 啊哈dxi，z∈ R.带＠ph（x）=λexpλ- λ（h）- 十）血红蛋白pλ（h）- 十）+（h+x）λ（h）- x） λBpλ（h）- 十）i、 x∈ [-h、 h]。Zhgivenε=εh=1的密度代表z∈ Rg（z，h）=（λ+λ）λeλh+λe-λh·hφσ√h（z）- h（b+a））+|b | Zh（a+|b |）h（a）-|b |）φσ√h（z）- x） ~qh，+，1十、- 啊哈dxi，带?qh，+，1（x）=λexpλ- λ（h）- 十）（h+x）λ（h）- x） λBpλ（h）- 十）, 十、∈ [-h、 h]。Zhgiven的密度ε=1，εh=2是g（z，h）=（λ+λ）eλh- E-λh·| b | Zh（a+| b |）h（a-|b |）φσ√h（z）- x） qh，-,1.十、- 啊哈dx，z∈ R.带＠qh，-,1（x）=expλ- λ（h）- 十）Bpλ（h）- 十）, 十、∈ [-h、 h]。在附录中可以再次找到证据。4.更多状态的近似滤波器使用上一节的方法，如果E包含两个以上的状态，原则上可以推导滤波器。然而，公式变得相当复杂，尤其是当状态空间很大时。相反，在这种情况下，我们尝试推导近似滤波器。第一种方法基于（2.6）和（2.7）得到的连续滤波器。4.1。通过连续滤波器[23,19]的方法讨论了Zakai方程（2.7）的解，该方程是一个齐次线性It^o SDE。如果矩阵Q和D（回想一下，D是对角线上元素为α/σ，…αD/σ的对角线矩阵）互换，即如果QD=DQ，则（2.7）的显式解为ξt=expQt-Dt+DZt. （4.1）然而，如果矩阵不相互转换，这是不正确的，但表达式仍然可以用作近似过滤器，参见[23,19]。请注意，该解决方案只涉及ZT，而不涉及过程的路径，因此对于具有离散观测值的过滤器也是可行的。我们将在第5节中对离散滤波器使用（2.6）和（4.1）近似值。