高斯向量似然函数的一个显式公式

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《An Explicit Formula for Likelihood Function for Gaussian Vector
  Autoregressive Moving-Average Model Conditioned on Initial Observables with
  Application to Model Calibration》
---
作者：
Du Nguyen
---
最新提交年份：
2016
---
英文摘要：
  We derive an explicit formula for likelihood function for Gaussian VARMA model conditioned on initial observables where the moving-average (MA) coefficients are scalar. For fixed MA coefficients the likelihood function is optimized in the autoregressive variables $\\Phi$\'s by a closed form formula generalizing regression calculation of the VAR model with the introduction of an inner product defined by MA coefficients. We show the assumption of scalar MA coefficients is not restrictive and this formulation of the VARMA model shares many nice features of VAR and MA model. The gradient and Hessian could be computed analytically. The likelihood function is preserved under the root invertion maps of the MA coefficients. We discuss constraints on the gradient of the likelihood function with moving average unit roots. With the help of FFT the likelihood function could be computed in $O((kp+1)^2T +ckT\\log(T))$ time. Numerical calibration is required for the scalar MA variables only. The approach can be generalized to include additional drifts as well as integrated components. We discuss a relationship with the Borodin-Okounkov formula and the case of infinite MA components.
---
中文摘要：
我们推导了高斯VARMA模型在初始观测条件下的似然函数的显式公式，其中移动平均（MA）系数是标量。对于固定MA系数，自回归变量$\\Phi$中的似然函数通过一个封闭式公式进行优化，该公式推广了VAR模型的回归计算，并引入了由MA系数定义的内积。我们证明了标量MA系数的假设是不受限制的，并且VARMA模型的这种形式与VAR和MA模型有许多共同的优点。梯度和Hessian可以解析计算。似然函数保留在MA系数的根反转映射下。我们讨论了移动平均单位根似然函数梯度的约束条件。借助FFT，似然函数可以用$O（（kp+1）^2T+ckT\\log（T））$时间计算。仅标量MA变量需要进行数值校准。该方法可以推广到包括附加漂移和集成组件。我们讨论了Borodin-Okonkov公式与无限MA分量的关系。
---
分类信息：

一级分类：Quantitative Finance        数量金融学
二级分类：Statistical Finance        统计金融
分类描述：Statistical, econometric and econophysics analyses with applications to financial markets and economic data
统计、计量经济学和经济物理学分析及其在金融市场和经济数据中的应用
--

---
PDF下载：
--> An_Explicit_Formula_for_Likelihood_Function_for_Gaussian_Vector_Autoregressive_M.pdf (298.93 KB)

2022-5-11 06:20:32 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：似然函数 coefficients Generalizing Econophysics relationship

基于初始观测值的高斯向量自回归滑动平均模型似然函数的显式公式及其在模型标定中的应用。Du Nguyenstatical Alpha基金管理有限责任公司。nguyen@statisticalalpha.comSeptember10，2018Abstracts我们推导出了高斯范玛模型在初始观测值条件下的似然函数的显式公式，其中移动平均（MA）系数为标量。对于固定的MA系数，自回归变量Φ中的似然函数通过一个封闭式公式进行优化，该公式推广了VAR模型的回归计算，并引入了由MAcoe系数定义的内积。我们证明了标量MA系数的假设是不受限的，并且VARMA模型的这种表述与VAR和MA模型有许多相同的特点。梯度和Hessian可以解析计算。似然函数保存在MA系数的根反转映射下。我们讨论了移动平均单位根似然函数梯度的约束。借助FFT，似然函数可以在O（（kp+1）T+ckT log（T））时间内计算。仅标量MA变量需要进行数值校准。该方法可以推广到包括附加漂移和集成组件。

我们讨论了ip与Boro-din-Okonkov公式的关系，以及有限MA组件的情况。1导言本文的主要结果如下：定理1 k维向量自回归滑动平均模型（VARMA）的条件对数似然函数Xt=u+Xt-1Φ+Xt-2Φ+··+Xt-pΦp+t+θt-1+··+θqt-q（1）以T+p观测值X的第一个p观测值（X，···，Xp，Xp+1，···XT+p为条件，用公式（θ，u，Φ，Ohm, Xp+1··XT+p |X··Xp）=-T klog（2π）-Tlog（det）(Ohm))- k/2对数（det（λ′λ+Iq））-Tr（Z′Θ-1′TK（θ，T）Θ-1TZOhm-1） （2）式中θ=1，θ=（θ，···，θq），Φ=（Φ，··，Φp），Ohm 是i.i.d.高斯随机变量i的协方差矩阵。这里：Z=X- u - LXΦ- ... - LpXΦpX=Xp+1··XT+p尺寸为T×k.LiX=Xp-i+1··XT+p-我ΘT=θ0 · · · 0 0 0θθ0 · · · 0 0..................θq-1θq-2····0 0θqθq-1θq-2··00θqθq-1· · · 0 0..................0 0 0 · · · 0 θ（3） 尺寸为T×T。λ = Θ-1TΘ*;T-q（4）的大小为T×q，其中Θ*=θqθq-1·····θ0θqθq-1···θ0 0θqθq-1· · · θ...............0 0····0θq（5） 大小为q×q和Θ*;T-q=Θ*T-q、 kK=KTK（θ，T）=IT- λ[λ′λ+Iq]-1λ′=（它+λ′）-1（6）在以下条件下获得最佳值：uΦΦ...Φpopt=（X′θ，lagKXθ，lag）-1X′θ，lagKXθ（7），其中：Xθ=Θ-1TX（8）Xθ，滞后=Θ-1Θ-1TXΘ-1TLX··Θ-1TLpX和Ohmopt（θ）=T[X′θKXθ- X′θKXθ，滞后（X′θ，滞后KXθ，滞后）-1X′θ，lagKXθ]（9）Ohm无论样本值X和选择θ，optis都是正半定义。

使用Φoptand的这些值Ohmopt，（2）被减少到“L”（θ，Xp+1··XT+p | X··Xp）=-T klog（2π）-Tlog（det）(Ohmopt（θ）））-klog（det（λ′λ+Iq））-tk（10）进一步，设∑T=γγ··γq0··0γγ··γγ··γq··0。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。0··0γq··γγγ0··0γq··γγγ（11） γl=（θl+θl+1+θl+2···+θq）-lθq）对于l=0，1，···，q0对于l>q（12），则∑-1T=Θ-1′TK（θ，T）Θ-1T（13）或∑T=ΘTK（θ，T）-1Θ′T（14）我们还有det（λ′λ+Iq）=det（σT）=det（K（θ，T））（15）∑这是研究MA（q）过程中与θ相关的著名集中协方差矩阵（标准化为噪声的标准偏差等于1）。我们注意到，这种似然函数仅在X的观测值上是有条件的，而不是在与典型的条件平方和（CSS）方法相反的初始误差估计上。特别是对于具有标量θ的VMA模型，该公式给出了一个精确的似然公式。对于标量MA模型，关于∑的生命函数公式与标准教科书中的公式相同，例如（Box and Jenkins 1970）或（Hamilton 1994）。∑Tin（15）的确定式是在强S zeg–o极限定理和Toeplitz算子理论中的Borodin-Okounkov行列式公式（Geronimo and C ase 1979；Borodin and Okounkov 2000；Basor and H.2000）中研究的。当我们使用Szeg–o极限理论以封闭形式表示行列式的大T极限时，我们不需要在本文中使用Fredholm行列式结果，只需提及文献中出现的（15）中的行列式的背景。λ和¨K的构造似乎是新的，但我们不能确定它没有出现在Borodin-Okounkov公式的多重证明中。

K与Borodin-Okounkov公式的第二个证明中的矩阵A有关（Basor和H.2000）。当T较大时，这种分解允许对似然函数进行更有效的计算。我们注意到（13）、（14）、（15）是纯代数的，只依赖于θ和T。手工验证θ和T是一个有趣的练习。例如，当q=1（15）时，∑Tis的行列式为1+θ+·θ2T，这是大多数时间序列教科书中众所周知的结果。使用∑T，我们可以重写：uΦΦ...Φpopt=（Xlag∑）-1TXlag）-1X′滞后∑-1TX（16）带XLAG=1 X LX··LpXOhmopt（θ）=T[X′∑-1TX- X′∑-1TXlag（X′滞后∑）-1TXlag）-1X′滞后∑-1TX]（17）我们将使用符号：θ（L）=1+θL+·θqLqΦ（L）=1- ΦL- · · · - Φplqθ是标量的条件是不受限制的，在这个意义上，给定一个具有矩阵Θ（L）的系统，我们可以将其转化为具有相同传递函数和标量MA分量的系统。相反的情况，标量Φ已经众所周知（例如线性系统文献中的吉尔伯特实现——关于时间序列处理，请参见（Aoki 1987））第4章。让我们回顾一下那场辩论。如果N（L）和D（L）是两个平方矩阵多项式。我们可以写出T（L）=N（L）-1D（L）作为带有有理函数项tij的矩阵。假设所有条目tij（L）=ntij（L）/dtij（L）与ntijand dtij是相对素数。取所有分母多项式dtij的最小公倍数（lcm）多项式，称之为d（L）。d（L）T（L）=Φ（L）是一个多项式矩阵，我们证明了T可以用d标量和Φ多项式写成d（L）Φ（L）。或者，这就是我们将在模拟结果中使用的，写（L）=N（L）-1NA（L）-1NA（L）D（L）=（det（N（L））-1NA（L）D（L），其中NA（L）是N的辅助矩阵。最后一个表达式为所需形式，θ=deg（N（L））。

我们注意到如果deg（N）≥ deg（D）和D（L），N（L）来自最小实现（例如通过Kroneckerdex方法），然后deg（det（N））是过程的麦克米兰度δ（T）。我们将在稍后的校准部分中回到这一讨论。似然公式适用于任何样本量，对θ的根的位置没有限制。然而，对于可逆θ（L），Θ的项-1t随着T的增加而收敛。在这里，我们应用一个观察（Hansen和Sargent 1980），我们可以通过Blaschke乘积项调整传递函数，但仍然保留自协方差函数（这只是将θ的根替换为其逆的技巧）进一步的计算表明（Hamilton 1994），将一个根倒置，结果是∑乘以该根的平方。在第6节中，我们将研究上述定理中的不同分量如何在根倒置下变换，并验证上述似然函数在倒置任意数量根的操作下是不变量的。因此，我们可以将自己局限于只使用倒易θ的模型。使用上述似然公式进行模型校准有几个优点。首先，只需对q变量进行数值优化，即θ变量。其次，我们只需要“抛弃”第一个p观察值。这与典型MA模型的CSSME方法形成对比。如果优化路径的根θ（L）接近1，系数需要很长时间衰减，因此典型的CSS需要在预测变得稳定之前丢弃许多项。最后，它还可以与卡尔曼滤波器校准方法进行比较。在多变量情况下，校准通常要求以骰子为单位的kronecker达到红色uce秩，否则涉及的变量数为pk+q。

对于具有麦克米兰度m=Pd的Kronecker指数（d，····，di，··，dk）的过程，典型估计中的参数数为（Tsay 1991）m（k+1）+kXj=1[Xi<jmin{dj+1，di}+Xj>imin{dj，di}]，使用我们的方法，我们只有m个变量需要进行数值优化，而其余变量则通过回归计算。此外，在传统方法中，梯度更难计算。最后，我们只需要事先估计麦克米兰度作为Q的上界，而不是整个克罗内克指数集。然而，我们主张进一步测试，以减少非零系数的数量，从而简化模型。我们的方法是混合的。我们使用精确似然法计算MA项，并尝试利用AR项的回归公式。结果，它允许对标量多项式θ（L）进行有效搜索，从而消除移动平均复杂度，并为我们提供可以应用回归的数据。我们可以把这种方法看作是先平滑，然后回归，我们有一个高效的算法来搜索平滑参数。我们将在子序列部分中看到，通过使用卷积算法和快速傅里叶变换，可以相对快速地计算出这种条件似然度，从而使我们能够处理非常大的样本量。其次，可以轻松计算似然函数的精确梯度，从而得到高效的优化算法。作者开发的C++和R co des实现了该算法。从概念上讲，即使是对黑森人的评估也可以在合理的时间内完成。然而，对于直接应用，梯度似乎很有效。我们注意到一些精确似然估计算法试图分解∑to LL′形式。

在我们的方法中，我们使用了∑的事实，而不是∑T的标准Cholesky分解-1t可以分解为三角形矩阵和Toeplitz（Θ）矩阵的乘积之和-1T）或有少量行或列s（λ和‘K）。我们只需要对‘K（大小为q×q）进行Cholesky分解，而不是对大小为T×T的矩阵进行分解。从另一个角度来看，定理说，如果θ（L）是标量，则存在一个由正有限矩阵∑给出的核定义的内积-1T。这一内部产品考虑了移动平均线条款。在这个内积下，自回归项和似然函数的格式与向量自回归（VAR）类似。在FFT的帮助下，内积可以有效地计算，只需对θ参数进行数值校准。众所周知，有限状态空间线性时不变系统正是那些具有有理矩阵传递函数的系统。因此，这里的结果可以理解为MIMO系统中有限状态卡尔曼滤波器的一种显式似然函数形式，以第一个p观测为条件。我们可以看到，这种方法在校准卡尔曼滤波器时很有用。2.定理的证明我们从一般的lemmaLemma 1开始，设a是任意的T×q矩阵。

然后（IT+AA′）-1=它- A（智商+A′A）-1A′（18）尤其是右边的矩阵在闭合单元圆盘中具有所有特征值。det（智商+A′A）=det（IT- A（智商+A′A）-1A′）-1（19）这是伍德伯里m矩阵身份的一个特例：（a+UCV）-1=A-1.- A.-1UC-1+V A-1U-1V A-1和Sylvester行列式的entitydet（Iq+AB）=det（IT+BA）我们注意到Woodbury矩阵恒等式已经在卡尔曼滤波更新中有应用，所以我们发现它很有趣，但在我们的公式中起到核心作用并不奇怪。设Zt为定义的时间序列：Zt=Xt-u -Xt-1Φ-· · ·- Xt-pΦp=t+θt-1+··+θqt-q（20）假设n=T+p样本X，···，Xp，Xp+1，··，XT+p被视为矩阵^X的行=X··XT+p尺寸（T+p）×k.LetZ=Zp+1··ZT+p =p+1。。。T+p*=p-q+1··p然后等式（20）给出：Z=ΘT+Θ*,T-q*（21）我们注意到Θ-1t可以由θ（L）的幂级数展开式构造-1=（θ+θL+·θpLp）-1通过Toeplitz地图。回想一下，对于f或任何整数T>0，映射T将一个多项式（θ+θL+···+θpLp）映射到矩阵ΘTabove，单位（1）映射到它，标量乘法和映射多项式乘法到矩阵乘法。（在代数语言中，它是从多项式矩阵R[L]的矩阵代数到代数MT（R）ofT×T矩阵的同态）。

因为这个属性，Θ-1是θ（L）的截断幂级数的图像-1=（θ+θL+·θpLp）-1按T条款执行。我们用Z来求解：=Θ-1TZ- Θ-1TΘ*;T-q*（22）设置λ=Θ-1TΘ*;T-q（23）我们注意到，λ的第i列可以通过截断幂级数展开（θq）的第一个T项来构造-i+θq-i+1L··+θqLk）θ（L）-1.考虑将T×k矩阵发送到T×kvector的向量化，在这里我们首先展开行：v（a）=vec（a′）（24），让^为通过添加向量形成的T+q矩阵*在的开头：^=p-q+1·T+p从关系（BT） A） vec（X）=vec（AXB）我们有v（Θ）= v（^）的协方差矩阵是一个（T+q）k×（T+q）k矩阵，s-ize k×k的对角块等于Ohm, 其他地方为零。我们将用^来表示它OhmT+q=IT+q Ohm. p的加入pdf-q+1。。。，T+pis由以下公式给出：（2π）-（T+q）k/2det（^）OhmT+q）-1/2exp(-v（^）′^Ohm-1T+qv（^））（25），可以简化为（（2π）kdet(Ohm))-（T+q）/2exp(-[v（）′^Ohm-1Tv（）+v（）*)′^Ohm-1qv（*)])在哪里Ohm-1和^Ohm-1qare对角块矩阵Ohm-1和智商Ohm-1.分别。现在，我们寻找关于Z的边际pdf，假设mumingwe与Z和相关*通过等式（22）。对于初始项采用期望的方法是众所周知的n，其中*是最初的条款。Z的p-df是（（2π）kdet(Ohm))-（T+q）/2Z*∈（Rk）量化宽松-[v（）′^Ohm-1Tv（）+v（）*)′^Ohm-1qv（*)]d*在哪里*= d1,1d1,2··d1，k··dp，1··dp，kis是所有坐标的体积分量*.使用（22）展开，指数可以写成以下形式：exp(-[v（）*)′Av（）*) + 2v（Z）′Bv（）*) + v（Z）′Cv（Z）]带a=（λ′的 是吗 Ohm-1)(λ  智商 Ohm-1=（λ′λ+Iq） Ohm-1（26）B=-(Θ-1′T 是吗 Ohm-1)(λ  Ik）=-Θ-1′Tλ Ohm-1（27）C=Θ-1′TΘ-1T Ohm-1（28）这里A是qk×qk矩阵，B是tk×qk矩阵，C是k×tk矩阵。