金融市场中趋势和价值的共存：估计

由于基本值vt是一个隐藏变量，在一般情况下，很难计算系统（3.8）的似然函数，也很难直接找到其最大值。另一方面，我们可以重写系统asL（θ）=P（p1:T |θ）=ZP（p1:T，~v1:T |θ）dv1:T.（B.1）的似然，然后我们可以观察到对数似然可以从下到byL（θ）=lnZP（p1:T，~v1:T |θ）dv1:T= 自然对数ZQ（▄v1:T）P（p1:T，▄v1:T |θ）Q（▄v1:T）d▄v1:T≥ZQ（￠v1:T）lnP（p1:T，~v1:T |θ）Q（~v1:T）dv1:T=：F（Q，θ），（B.2），其中Q是v1:T上的任何分布。将全局配置的能量（p1:T，v1:T）定义为-ln（p1:T，~v1:T |θ），用F表示的上述量可以重写为预期能量加上entropyF（Q，θ）=ZQ（~v1:T）ln（P（p1:T，~v1:T |θ））d ~v1:T-ZQ（～v1:T）ln（Q（～v1:T））d～v1:T（B.3），在统计物理中被称为自由能。EM算法的思想是最大化自由能F，而不是最大化似然L。算法读取1。选择Qandθ。2、对于n={0，1，2，…，n- 1} 重复两步程序：oE步：Qn+1=argmaxQF（Q，θn）oM步：θn+1=argmaxθF（Qn+1，θ）简单推理表明，上述算法得到的θn收敛于对数似然L（θ）的局部极大值。让我们重写自由能asF（Q，θ）=ZQ（≈v1:T）lnP（v1:T | p1:T，θ）Q（v1:T）d▄v1:T+ZQ（▄v1:T）ln（P（p1:T |θ））d▄v1:T=-DKL（Q（| v1:T）| P（| v1:T，p1:T，θ））+L（θ），（B.4），其中DKL（Q | P）表示从分布P到Q的Kullback–Leibler散度。从（B.4）我们立即看到，对于Q（| v1:T）=P（| v1:T，p1:T，θ），我们在（B.2）中获得等式。这意味着在E步中，我们得到Qn+1=P（~v1:T | p1:T，θn）和F（Qn+1，θn）=L（θn）。然后在M步中，我们搜索θn+1，例如F（Qn+1，θn+1）≥ F（Qn+1，θn），我们可以把它写在一起（θn+1）≥ F（Qn+1，θn+1）≥ F（Qn+1，θn）=L（θn）。

（B.5）我们看到θn收敛于对数似然函数的局部极大值。（B.5）中的最后一个等式仅当Qn+1正是以观察到的价格和参数为条件的V的分布时成立。我们通过贝叶斯滤波计算P（~v1:t | p1:t，θn）。然而，只有在线性模型的情况下，我们才能准确地计算它，对于非线性模型，我们必须使用P的近似值（v1:T | p1:T，θn）作为Qn+1，这将与真实分布有非零的Kullback–Leibler距离。在距离很小的情况下，我们仍然可以希望EM算法将收敛到最大似然的参数。然而，在一般情况下，我们无法提供任何保证，并且经常使用EM算法对基本值非线性的模型进行估计，所得结果将远离最大可能性的结果。回到我们模型的线性基本值版本，我们知道qn+1=P（~v1:T | p1:T，θn）。注意到（B.3）中自由能的第二个分量不依赖于θ，我们可以将EM算法简化如下：1。选择θ。2、对于n={0，1，2，…，n- 1} 重复两步程序：oE-step：计算G（θ，θn）：=EP（~v1:T | p1:T，θn）[ln（P（p1:T，~v1:T |θ））]oM-step：θn+1=argmaxθG（θ，θn）B.2计算E-step中，我们计算以θ为条件的（p1:T，~v1:T）联合对数概率的期望值，以p1:T和θn为条件。它由公式：G（θ，θn）=-2σNTXt=1En（pt- pt公司-1.- κ（vt）- pt公司-1) - βut）- T lnσN-2σVT-1Xt=1En（▄vt+1- vt- g）- （T- 1） lnσV- T ln（2π）-2σEn▄v+▄v- 2▄vEn▄v+g- 2g（Envt+1- v）- lnσ，（B.6），其中所有的期望值都是关于分布P（≈v1:T | p1:T，θn）。还要注意的是 vis是一个参数，而不是隐藏变量。

要计算上述表达式，需要知道T=1，…，的分布P（| vt | p1:T，θn）和P（| vt，| vt+1 | p1:T，θn），T-在给定参数和系统可观测变量的完整时间序列的情况下，推断隐藏变量的分布的过程称为Bayesiansmoothing。要进行平滑处理，首先需要进行贝叶斯滤波P（~vt | p1:t，θn）和预测P（~vt+1 | p1:t，θn）。利用过程的马尔可夫性质（P（￠vt |￠vt+1，p1:t）=P（￠vt |￠vt+1，p1:t）），平滑读数sp（▄vt，▄vt+1▄p1:T，θn）=P（▄vt▄vt+1，p1:T，θn）P（▄vt+1▄p1:T，θn）=P（▄vt▄p1:T，θn）P（▄vt+1▄p1:T，θn）P（▄vt+1▄p1:T，θn）P（▄vt+1▄p1:T，θn）n）（B.7）和P（▄vt▄p1:T，θn）=ZP（▄vt，▄vt+1▄p1:T，θn）d▄vt+1=P（▄vt▄p1:T，θn）ZP（▄vt+1▄vt，θn）P（▄vt+1▄p1:T，θn）d▄vt+1▄p1:T，θn）。（B.8）除了过滤和预测两个方程右侧的分量外，我们还有值过程P（~vt+1 | | vt，θn）=n（~vt，σV）的动力学，以及平滑的时间步长P（~vt+1 | p1:T，θn）。因此，我们在向后递归中计算平滑分布，我们通过将P（~vT | p1:T，θn）设置为过滤分布来初始化平滑分布。综上所述，E-step的每个迭代n包含四个部分：1。对于t=1，…，过滤掉分布P（~vt | p1:t，θn），T，2。对于T=T，…，平滑分布P（~vt | p1:T，θn），1,3. T=T时的平滑分布P（~vt，~vt+1 | p1:T，θn）- 1.1,4. 计算G（θ，θn）。B、 3卡尔曼滤波与平滑对于线性动态系统，EM算法E-step中的计算称为卡尔曼滤波与卡尔曼平滑器。

在此过程中获得的所有分布（滤波、预测和平滑）均为高斯分布：P（~vt | p1:t，θn）=nvtt，vtt,P（△vt+1 | p1:t，θn）=nvtt+1，vtt+1,P（△vt | p1:T，θn）=nvTt，vTt.（B.9）预测和过滤的基本值：~vtt+1，~vt+1t+1，及其方差：vtt+1，vt+1t+1at（n+1）-E步的第次迭代由卡尔曼滤波前向递归给出vtt+1=~vtt+g（n），vtt+1=~vtt+σ（n）V,Kt+1=κ（n）Vtt+1（κ（n））Vtt+1+σ（n）n,vt+1t+1=▄vtt+1+Kt+1pt公司- pt公司-1.- κ（n）vtt+1- pt公司-1.- β（n）ut,Vt+1t+1=▄Vtt+1- κ（n）Kt+1Vtt+1，（B.10），其中v=v（n）和v=σ（n）. 平滑后的基本值vTt+1及其偏差VTtat（n+1）E步迭代由Kalman平滑后向递归jt给出-1=Vt-1吨-1/Vt-1t，~ vTt-1=vt-1吨-1+Jt-1.vTt- vt-1吨-1.,VTt公司-1=Vt-1吨-1+（Jt-1)VTt公司- Vtt公司-1.,（B.11）出于美学原因，我们很快写了▄vtt+1，而不是（▄vtt+1）（n）。对于vt+1t+1、Vtt+1、vt+1t+1和Kt+1也是如此。出于美学原因，我们很快写了▄vTt+1，而不是（▄vTt-1） （n）。VTt也是如此-1，CTt-1，和Jt-1.JT=0时。Kalman平滑过程中的递归通常称为Drauch–Tung–Striebel递归。为了计算E阶跃，我们还需要▄vt的协方差-1和▄vt以p1:Tandθ（n）为条件，我们用ctt表示协方差-1，t：CTt-2，t-1=Vt-1吨-1Jt-2+Jt-1.CTt公司-1，t- 及物动词-1吨-1.Jt公司-2，（B.12）初始化为CTT-1，T=（1- κKT）VT-1吨-Kalman滤波器和平滑递归的推导可以在S"arkk"a（2013）中找到。（B.6）中的成分由En▄vk=▄vTk、En▄vk=vTk+（▄vTk）和En▄vk+1▄vk=CTk给出-1，k+~vTkvTk+1。（B.13）B.4计算M-stepA参数集最大化G（θ，θn）可通过求解方程组找到θG（θ，θn）=0。

通过这种方式，我们获得：κ（n+1）β（n+1）= A.-1b，（B.14）其中=PTt=1En[（vt- pt公司-1） ]PTt=1En[vt- pt公司-1] utPTt=1En[￠vt- pt公司-1] utPTt=1ut（B.15）和B=PTt=1En【】vt- pt公司-1] （pt- pt公司-1） PTt=1ut（pt- pt公司-1), （B.16）如果通过卡尔曼平滑法获得所有条件期望：~vTtand VTtin（B.11）。此外，σ（n+1）n=TTXt=1Enpt公司- pt公司-1.- κ（n+1）（~vt- pt公司-1) - β（n+1）ut!1/2，（B.17）g（n+1）=T- 1吨-1Xk=1（Envk+1- Envk），（B.18）σ（n+1）V=T- 1吨-1Xk=1Envk+Envk+1- 2Envk+1vk-g（n+1）!1/2，（B.19）~v（n+1）=En ~v- g（n+1）（B.20）和σ（n+1）=qEnv-v（n+1）. （B.21）通过EM算法获得的参数最大化了预测可能性，我们将监控：L（θ）=-Tln 2π-TXt=1“lnκVt-1t+σN-（pt- pt公司-1.- ut）κVt-1t+σN#, （B.22），其中ut=κvt-1吨- pt公司-1.+ βut。C模型4.1的估计我们写出所谓的预测对数似然asL（θ）=ln P（p1:T |θ）=TXt=1ln P（pt | p1:T-1, θ)≈ -Tln 2π-TXt=1“ln St+（pt- ^pt）St#=^L（θ），（C.1），其中我们引入符号p1：t={p，p，…，pt}，是UKF下个月的价格预测，STI是给定所有价格历史和参数集θ的预测方差（见公式（C.4））。对参数集应用标准优化器搜索，以最大化预测日志可能性，通过UKF计算。C、 1无迹卡尔曼滤波模型（4.2）具有基本值的线性动力学，预测步骤与B.3节相同。因此，vtt+1、vtt+1的递归与（B.10）中的相同。为了过滤出基本值，我们形成西格玛点SV（0）t+1=~vtt+1，V（1）t+1=~vtt+1+√1+λqVtt+1，V（2）t+1=~vtt+1-√1+λqVtt+1，（C.2）我们使用scipy的minimize。使用Broyden-FletcherGoldfarb-Shanno（BFGS）方法在Python中优化包。式中λ=a（1+k）-1、a和k是无迹变换的参数（我们选择SEA=1.0和k=2.0）。

我们计算每个西格玛点的预期价格p（i）t+1=pt+fV（i）t+1- pt公司+ βut+1，对于i=0，1，2。（C.3）预测价格^pt+1、价格预测方差St+1、基本值和价格Ct+1的协方差用以下公式计算：^pt+1=Xi=0W（m）iP（i）t+1St+1=Xi=0W（C）iP（i）t+1- ^pt+1+ σNCt+1=Xi=0W（c）iP（i）t+1- ^pt+1V（i）t+1- vtt+1,（C.4）其中，无迹变换的权重由W（m）=λ/（λ+1）W（C）=λ/（λ+1）+（1）给出- a+b）W（m）i=1/[2（λ+1）]，i=1，2W（c）i=1/[2（λ+1）]，i=1，2（c.5），其中b是无迹变换的参数（我们选择b=0.0）。滤波增益T+1，基本值的滤波平均值和方差，~vt+1t+1和vt+1t+1areKt+1=St+1/Ct+1，~vt+1t+1=~vtt+1+Kt+1（pt+1- ^pt+1），Vt+1t+1=Vtt+1- （Kt+1）St+1。（C.6）然后我们用高斯近似预测分布，因此平滑分布也是近似高斯分布。因此，对于▄vTt+1，vTt的递归-1，CTt-1，和Jt-1与（B.11）和（B.12）中的相同。