高斯向量似然函数的一个显式公式

这张地图是定义良好的代数地图，由对称多项式方程给出：θl=Xi，·il(-1） 莱伊∈i、 图v不是一对一的，至少λ的任何排列，·····，λq给我们相同的系数。现在，上面描述的根反转映射是在根s空间上定义的，但在我们选择了v的部分逆后，仅在系数空间上定义，v是根的一种特殊顺序。考虑到这一点，我们将确定根反转对似然函数梯度的影响。我们将使用链式规则和隐式函数定理，为此我们需要vJv=(θiλj）θiλj=(-1） 我-1X（l）：|（l）|=i-1Yj6∈（l） λl∈（l） 表示i的乘积和- 1不包含j的元素。所以第j列就是-θ（L）/（1）- λjL）。我们反复使用的一个技巧是计算单位根处的复杂表达式，然后应用IDFT计算系数。在代码中，我们使用这个技巧来计算后面的表达式。我们注意到，如果某些根是复数的，雅可比矩阵可能是复数的。此外，Jvis在具有多重性的根上是不可逆的，并且这里没有很好地定义逆函数。IRi，··，IRi被认为是从根空间到自身的映射，将（λi···λir）发送到它们的逆空间。为了使其作用于系数空间，我们需要解方程θ（L）=0，取λi···λi的逆，然后重构系数。实际上是vo 红外光谱o 五、-1.链式规则和隐函数定理给出了j[IRi，···，ir（θ）]=Jv |v-1（θIR）diag（1，···）- λ-2i，···，-λ-2ir··，1）J-1v |θ我们注意到，我们需要选择S={λi···λir}，因此如果λiis在S中，那么λiis也在S中。

在这种情况下，JIRis是真实的，因为它是区域地图的雅可比矩阵，即使JVC很复杂。最后根据链式法则和在IR作用下，L（θ）给出了梯度方程。注意，如果f（θIR）转换为asf（θIR）=h（θ）f（θ），其中h是标量函数，f是向量函数，那么f（θ）=h（θ）f（θIR）J[IR]-h（θ）(h） |θf（θIR），如果h以λ的形式给出，例如g（λ）=λithenh可以用Vieta地图的雅可比矩阵来计算θh=gλJ-从这里我们还可以计算f（θ）。在实践中，我们只需要计算L的梯度，但计算中间项的梯度对于健全性检查是有用的。利用这些关系，我们可以通过将似然函数转换到数值稳定的可逆点，来计算不可逆θ处似然函数的值和梯度。因此，我们可以在不受θ域限制的情况下应用梯度优化方法。请注意，我们将使用θ，它没有多个根，这里定义了J[IR]。根反转映射在固定点附近有一些有趣的特性，如下一个引理所示。引理3如果θ在根反转映射IR=IRi··irthenJ[IR]（θ）=Iq（47）下固定，在这种情况下，J[IR]的特征值为-只有一个或一个。我们还有更多\'L（θ）J[IR]=L（θ）（48）第一种说法是IRo IR=θ。第二个是从IR对似然函数作用的不变性和θ是固定点这一事实可以清楚地看出的。我们看到这是一个约束\'L。如果我们将θ在IR固定点处的切向空间拆分为J[IR]的本征空间，对应于本征值±1，则对对应于1的本征空间没有约束，而如果c是对应于-1那么\'L。c=0。对于MA（1），这已经是众所周知的，称为J[IR]=-1在那种情况下。

让我们惊讶的是，通过详细检查雅可比矩阵的特征值，我们可以做得更好。在论文（Nguyen 2016）中，我们证明了本征空间的扩张对应于-1.ismult-1J[IR]（θ）=r/2 + 如果ψr=-1或r是奇数r/2 否则（49），ψr=(-1） rλi··λirand十、 表示x的整数部分。从这里，我们看到唯一的情况是J[IR]- IQI可逆的是q=1，θ=1±L和q=2，θ=1- L.这些情况是约束最强的情况，相应的模型是似然函数的临界点，较少考虑样本数据集。这就是文件的作用。在优化过程中，当我们观察到接近这些值的临界点时，需要进行额外的分析。另一方面（Davis和Dunsumir 1996）详细研究了MA（1）情况下似然函数的局部和全局最大值。测试MA单位根引起了几位作者的注意，参见（Anderson and Takemura 1986；Tanaka 1990；Davis and Dunsmuir1996；Davis and Song 2011）了解纯MA案例。在后面的MA（1）情况下，θ=1形式的参数变化- β/T将似然函数表示为β的一个函数，它可能有多个局部最大点。MA单位根的测试可以从该研究中得出。该分析使用了一个关于变化变量β的Egraient和Hessian的连接分布。我们的分析表明，当q较大时，MA单位根约束不如q较小时强。在一般情况下（对应于超平面边界），我们有一个或两个共轭单位根，我们只有一个单位根，我们对likelih函数的梯度至多有一个约束。在更复杂的边界点，约束的数量大约是单位根数量的一半。

正如我们将在论文（Nguyen 2016）中看到的那样，可以从单位根的角度非常明确地给出约束条件。希望本文的结果能对一般情况下的机组根源分析提供一些帮助。这个话题需要进一步研究。7可逆区域和初始值本节中的许多结果在系统和控制文献中是众所周知的。为了方便读者，我们在这里回忆它们。定理4：方程1+θL+·θqLq=0在单位圆盘外有根的集合θ，·θqs，或等价于方程zq+θzq-1+···θq=0单位圆内有根是一个凸连通集，由Schur-Cohn多项式不等式给出的代数超平面有界。我们建议读者参考文献（Krein and Naimark 1981；Schur 1917；Cohn 1922；Jury and Anderson 1981；Bistritz 2002），了解其经典成果和改进。我们不需要显式地使用SchurCohn边界，因为直接计算roots d并将模与模进行比较并不太昂贵。对于那些对细节不感兴趣的读者来说，很有必要知道，由代数多项式（称为Schur-Cohnpolynomials）形成的一些性质，使得根的稳定性限制是可满足的，并且仅当这些不等式满足时。Schur-Cohn多项式可以通过上述参考文献中的有效算法递归计算。我们将只展示几个q的例子≤ 3.理清思路。我们注意到一个变量的条件是-1.≤ θ≤ 1，对于两个变量，条件是θ<1-θ+ θ+ 1 ≥ 0θ+ θ+ 1 ≥ 0形成一个三角形，底部θ=1，顶部为0，-1).对于三个变量，Schur-Cohn条件为1+θ+θ+θ>03+θ- θ- 3θ> 01 - θ+ θ- θ> 01 - θ- θ+θ>0前三个条件给出了一个有顶点的四面体(-1, 3, 3),(1, -1.-1), (1, 3, 3), (-1.-1, 1).

最后一个等式将其进一步限制为四面体的凸区域。我们注意到第二个条件不出现在∑的极限行列式中-上文已经讨论过。我们的模拟表明，它实际上是不需要的，它似乎是其余三种条件的结果。我们在前面的讨论中注意到∑的行列式-1T，系数q（1）- λiλj）是对称的，可以用θi中的多项式表示。只要我们有共轭单位根，这个函数就会消失，因此应该与不变边界密切相关。当q=3时，这似乎是唯一的非线性条件。对于q=4，在λi中，因子的阶数为12，而Schur-Cohn多项式的阶数最多为6，因此这里的情况更复杂。如果能更清楚地理解Szeg–o行列式极限和Schur共边界之间的关系，那就更好了。虽然可逆性区域是凸的，但一般情况下，似然函数不是凸的，因此我们需要处理局部极小值。这里，成本函数是减去对数可能性。在上一节中，我们简要讨论了单位圆上的根的情况，因此在本节中，我们将重点讨论区域内的优化技术。虽然需要更多的理论工作来理解局部极小值的分布，但我们的第一次尝试是使用局部优化器，初始点从不同的子区域开始，希望当子区域的网格足够细时，我们能抓住全局最优点。当然，有很多方法可以选择起点，我们在这里描述我们在代码中使用的方法。回想一下，奇数次的实多项式总是至少有一个实根，而一般复数根总是成对出现。我们看θ的根的反方向，也就是Lqθ（L）的根-1). 我们假设他们在单位光盘里。

在没有混乱的情况下，我们将把它们称为根。我们的策略是寻找真正的根源，划分时间间隔[-1，1]划分为多个区域，对于复杂的根，将上部单位圆盘划分为多个区域，然后考虑这些区域的可能布局。为了说明这一点，我们来划分时间间隔[-1,1]到三个子区间：R=(-1.-3.-1/2]，R=[-3.-1/2, 3-1/2]，R[3-1/2, 1). 我们将上半圆盘分成三个区域：Cis和半径为3的半isc-1/2，Cis第一象限半径在3之间的部分-1/2和1，以及半径在3之间的第二象限部分-1/2和1。选择3-1/2是使三个复杂区域具有相同的面积，并且真实区域和复杂区域之间存在精确的重叠。我们可以用其他方式修改选择。设置q=qr+2qc，其中qr是实根数，2qc是复数根数。将qrr实根的排列考虑为qr=qr+qr+qr，对应于上半平面中的qc=qc+qc+qc复根，并将qcroots in C、qcroots in C和qcroots in C三个区域连接起来。我们可以看到，对于实根，（qr+1）（qr+2）和（qc+1）（qc+2）对于复根。所以这个分区下的区域数是xqc≤楼层（q/2）；qr=q-2qc（qr+1）（qr+2）（qc+1）（qc+2）（qc+2）（qc+1）（qc+2）（qc+2）（qq+4）（qq+6）（qq+8）（2q+5）如果q是偶数（q+1）（q+3）（q+5）（q+7）（2q+13）如果q是o dd（50）从一个区域开始，例如，我们选择说qr=q+0+0+0根在Rand n n n复根（qc=0）中。树根可以随机或决定性地选择。例如，我们将选择它们正好是R的中点。然后我们用Vieta公式从根构造θ。结果θ将是第一次局部优化的初始值。

我们重复这一步骤，让所有区域选择初始点。当初始点的数量呈多项式增长时，利用我们的算法，我们可以相对快速地计算实际数据量的似然函数。在实践中，我们选择最佳初始点，并使用本地优化器对其进行进一步优化。8其他话题8。1季节性和积分首先，如果我们添加额外的漂移项或额外的回归，我们注意到整个过程的工作。例如，为了允许多项式漂移，在定义Xlag时添加形式为IK而非1的向量。季节性可以用季节性虚拟变量来解释，就像VAR案例一样。接下来我们将讨论集成模型。考虑以下带有标量θ的模型：Φ（L）X=θ（L）我们注意到多项式除法算法适用于任何矩阵多项式和标量多项式。特别地，将Φ的多项式除法应用于L（L- 1） 注意，余数矩阵是一个d阶的矩阵多项式，最多我们有Φ（L）=L（L- 1） Γ（L）t+Φb（1）- L）- πL（Φb（1）-L）-πL是除以L（L）的余数-1） 它的度数为1，所以形式为A+BL，我们设置Φb=A，π=-A.- B） 。设L=0和L=1，分别得到：Φb=Ik∏=-ΦL（1）=-Ik+Φ+···+ΦpLet = 1.- L.方程式变成：X（t）=Γ（L）X（t）- 1） +X（t）- 1） +θ（L）（t）应用θ（L）-1.双方都有Xθ，t=Γ（L）LXθ，t+πLXθ，t+twhere Xθ，tisθ（L）-1X（t）。这是我们的VECM表格。我们可以用一个类似于约翰森的论点来进行协整。我们在Θ-1txt和由Xθ，lag表示的滞后，其中Xθ，lag由项组成Θ-1TLXt-1, · · · Θ-1TLpXt-p+1和Θ-1tlx。这基本上是VARMAcase的相同构造，集成组件对应于术语Θ-1TLX。莱特≤ k是∏的秩。如果r=k，那么我们有一个平稳过程。如果r=0，我们就没有协整。

如果0<r<k，那么我们有一个协整系统。我们可以将∏=αβ分解为两个α，β是一个满秩的k×r矩阵。仍然需要应用秩检验来确定秩r。我们期望得到类似于约翰·森（Johansen，1991）检验的结果，其中，∑t定义的内部产品起作用。8.2对有限组件MANext的扩展，当我们有有限数量的MA组件时，请讲几句话。如果我们的目标是研究具有有限个VAR项而非有限个MA标量项的模型，我们希望结果能够继续下去，前提是我们应用由MA标量项构造的适当内积。所以问题是研究这个内积。调查文件（宾厄姆2012）提供了一个思考MA的框架(∞) 案例Hansen和Sargent使用的Blaschke积与Hardy空间密切相关，因此人们早就知道Toeplitz算子、Wiener-Hopfs和Hardy空间是将该理论推广到有限元移动平均模型所需要的。在未来的一篇论文中，我们希望研究出技术细节。由于我们处理的是一个有限的过去，一个严格的方法可能需要更多的分析机器，而不是我们打算在这里讨论的，但让我们来谈谈一些想法。当我们有内部MA项时，可逆条件就是θ（L）在单位圆或单位圆上没有根或极点的条件（关于单位圆上极点的情况，见下一节——就像分数高斯情况一样）。θ被称为外函数或Szeg¨of函数。这种函数的一个例子可以是任何稳定的ARMA有理函数（我们假定Φ（L）的所有条目都有多项式因子f，并使用f/θ作为我们的MA(∞) 功能）。A形式的功能（1）-bL）α··（1）-b |<1的bmL）αm也是一个外函数。

我们希望能够将我们的数据应用于校准有限数量的参数，这些参数会生成一个具有内部移动平均分量的模型。∑Tand K是有限维，但现在K是有限维。在此背景下，我们需要定义高斯测量和行列式——幸运的是，这两者都已经研究了很长时间。当我们用有限个qc（θ）项截断θ的展开时，用解析外函数讨论有限维MA有望为Φ的主要回归提供误差或估计。让我们将索引移动1，并考虑样本{0，··，T的索引集-1} 而不是{1，··，T}。这使得我们编写卷积运算更加方便。设置θ+（L）=θ（L）和θ-（五十） =θ（L）-1） ，被认为是劳伦特系列。考虑向量空间V≥0spanedby基{vi}∞i=0。对于任何劳伦特系列a（L）=P∞-∞最终确定Toeplitz矩阵T∞（a） =（aj）-（k）∞j、 k=0。这是a（L）对V的卷积作用的矩阵≥0:a.vk=∞Xj=0aj-kvj（我们需要一个使总和有意义的标准）。在本文中，我们研究了这个矩阵的顶部T×T块。我们注意到T∞（θ+）是ΘT，T的有限版本∞(θ-) 是Θ的内部版本-1T，T∞(θ+θ-) 是全自协方差矩阵，其左上角的T×T矩阵是我们的∑T。在Borodin-Okounkov公式的第二个证明（Basor和H.2000）中，作者定义了一个矩阵a asA=T∞(θ-1+T∞（θ+θ-)T∞(θ-)还有秀田-1=T∞(θ-θ+T∞(θ+θ-)我们注意到K（θ，T）只是A的左上角T×T块-1.他们注意到-1.- 我属于追踪类。我们在前面的例子θ（L）是多项式的情况下已经证明了这个迹类部分是λ′。定义MA中的λ(∞) termcase我们需要一些分析工具，但在本文中我们不会用到这些工具，但在形式上，我们可以模仿多项式case的定义，并将其定义为一个有限维矩阵。

我们注意到Θ*现在，我们定义了一个有限维希尔伯特空间，对应于i<0（注意，我们将in骰子移动了1），Θ的定义与之前一样，λ=Θ-1TΘ*是一个线性算子，由一个矩阵表示，其中列由负整数索引，行由{0，···，T索引- 1}. 感兴趣的读者可以计算出AR（1）的情况，其中θ（L）=P∞i=0φi结果λ=（λij）i=∞,j=-1i=0，j=-∞λ0j=φ-jandλij=0，i6=0。从这里（λ′）ij=φ1-φ如果i=j=0，否则为零，则得到AR（1）的精确似然函数。我们看到∑的行列式∞现在可以用两种不同的方式表示，det（I+λ′）=det（I+λ′λ）。（Basor and H.2000）s Howedth第一个行列式与Borodin-Okonkov公式中的Fredholm算子行列式相同。在AR或MA两种情况下，我们期望其中一个行列式崩溃为有限维行列式，但通常我们有两个Fredholm算子det∑T的确定表达式。我们注意到，如果系数在qc<T项后有效衰减，我们只需要第二个表达式中的qcMA项。我们注意到，尽管我们有一个有限（或qc）数量的MA项，但它们通常由有限（且小于qc）数量的参数控制，梯度计算也适用于链式规则的适当应用。我们希望我们的校准方法在最后一种情况下仍然有效，但是为了实用，模型需要采用特殊形式，以便我们检查可逆性条件。8.3分数Varma我们再次假设有限的增量VAR模型，带有分数高斯MA成分（1+ΦL+·ΦpLp）（1- 五十） dXt=（1+θL+··θqLq）这里要考虑的标量函数是θd（L）=（1）- L）-dθ（L）可以用MA来表示(∞) 类型