部分观测数据统计估计中的降维

基于（5.2）的最大似然估计与第一个δ非常一致↓ 0然后T→ ∞, i、 e.，对于任何ε>0极限→∞limδ↓0Pα\'θδT- α> ε= 0.证明。在Pα下，我们回忆起创新过程νt.=Yδt- Y-Ztπδ，αs[hα]dsT∈ [0，T]是由观测到的Yδ过程产生的过滤下的Pα-布朗运动。因此，根据α，我们有‘ρδT（θ，α）=‘ρδT（θ）=ZT‘πδ，θs[’hθ]dYδs-Zt公司\'πδ，θs[\'\'hθ]ds=ZT？πδ，θs[？hθ]·πδ，αs[hα]-\'πδ，θs[\'\'hθ]ds+ZT'πδ，θs['hθ]dνs，其中'πδ，θs['hθ]·πδ，αs[hα]表示Rn中Y坐标上的内积。然后，我们得到了α(R)ρδT（θ，α）- (R)ρδT（θ，α）P≤ C supu∈U | hθ（U）-\'hθ（u）| p1+EαZT | hθ（Xδs，uδs）| ds！，≤ C |θ- θ| q，（5.5），其中我们使用条件5.1。常数C可能会随着行的变化而变化，但我们不会在符号中指出这一点。根据定理4.1，我们得到了thatlimδ→0ZTEαπδ，αs【hα】- ？παs[？hα]ds=0。（5.6）定理4.1、（5.5）和（5.6）通过【Billingsley，1968】中的定理12.3暗示，我们在均匀度量中，过程ρδT（·，α）的分布收敛于ρT（·，α），其中ρT（θ，α）=ZT？πθs[？hθ]·？παs[？hα]-？πθs[？hθ]ds+ZT'πθs['hθ]dνs=-ZT公司？πθs[？hθ]- ？παs[？hα]ds+ZT？παs[？hα]ds+ZT'πθs['hθ]dνs（5.7）因此，类似于[库托扬茨，2004年]第61页命题1.32的证明，我们有limδ↓0Pα\'θδT- α> ε= limδ↓0Pαsup |θ-α|>εT′ρδT（θ，α）>sup |θ-α|≤εT′ρδT（θ，α）！=Pαsup |θ-α|>εT′ρT（θ，α）>sup |θ-α|≤εT′ρT（θ，α）！。同时，对于任何η>0，我们有pαTZT'πθs['hθ]dνs> η！≤ηTEαZT？πθs[？hθ]ds公司≤ηtc对于一些不依赖于T的常数cT。

因此，在Pα中-极限概率→∞“TZT'πθs['hθ]dνs#=0。让我们定义'ρT（θ，α）=-ZT公司？πθs[？hθ]- ？παs[？hα]ds+ZT？παs[？hα]ds，并回顾条件5.2，我们得到‘’ρ∞（θ，α）使得→∞ET’’ρT（θ，α）-\'\'ρ∞（θ，α）= 0。因此，我们获得了→∞limδ↓0Pα\'θδT- α> ε= 限制→∞Pαsup |θ-α|>εT′ρT（θ，α）>sup |θ-α|≤εT′ρT（θ，α）！≤ 限制→∞Pαsup |θ-α|>εT′ρT（θ，α）>sup |θ-α|≤εT′ρT（θ，α）！=Pαsup |θ-α|>ε’’ρ∞（θ，α）>sup |θ-α|≤ε′ρ∞（θ，α）！=0，（5.8），其中上次计算使用了可识别性条件5.3。在此基础上，我们总结了定理的证明。让我们研究基于约化似然函数的最大似然估计的下一个渐近正态性。我们知道最大化子就是方程的解θ的θ′ρδT=0∈ Θ。因此，该方程的最大值|θ=|θδTof将满足方程ztθ′πδ，|θs[(R)h|θ]dYδs- πδ，|θs[|h|θ]ds= 0。（5.9）我们在这里提到，（5.4）和（5.9）不等同；（5.4）包含ρδT（θ）的所有局部极小值和局部极大值，可能不止一个。此外，等式（5.9）甚至可能没有正概率的Θ中的解。例如，假设θδ为（5.9）的解，并假设θ∈ （θ`，θu），然后'θδT='θδT[{'θδT∈（θ`，θu）}]+θ`[°θδT≤θ`}]+θu[{∧θδT≥θu]。接下来，我们研究了对应于约化对数似然的极大似然估计的渐近正态性。我们作出以下假设。条件5.4。存在一个严格的正定义矩阵I（α），因此我们在度量PαI（α）=limT→∞坦桑尼亚先令α′παs[\'hα]>·α′παs[’hα]ds。（5.10）很明显，在“hθ（u）=”hθ的情况下，条件5.4满足常数矩阵I（α）=α′hα·α′hα。在第6节中，我们将研究一个更复杂的示例，在这个示例中，还可以以封闭形式显式计算事物。

实际上，I（α）只是Fisher信息矩阵。根据定理5.1，基于θ′πδ，θs[’hθ]作为θ的函数，在条件5.4下，对应于约化对数似然的极大似然的渐近正态性成立。准确地说，我们有以下定理。定理5.2。假设条件2.1、5.1、5.2、5.3、5.4以及θ′πδ，θs[’hθ]几乎肯定是作为θ的函数连续的。基于（5.2）的最大似然估计在Pα下是渐近正态的，即。√T\'θδT- α=> N0，I-1（α）第一个为δ↓ 0，然后为T→ ∞, （5.11）式中，I（α）是（5.10）给出的Fisher信息。证据我们写出πδ，θs[\'hθ]=θ′πδ，θs[’hθ]，以便于标记。基于（5.9）和θ=’θ=’θδT，我们写出了一些α*使得|α*- α|≤ |\'θ- α| 0=ZT˙'πδ，'θs['h'θ]dYδs- ？πδ，？θs[？h？θ]ds=ZTπδ，’θs[’h’θ]dYδs- πδ，αs[\'hα]ds-(θ - α） πδ，α*s[(R)hα*]ds公司=ZTπδ，’θs[’h’θ]dYδs-ZTπδ、？θs[？h？θ]·πδ、αs[？hα]ds-（°θ）- α） ZTπδ，θs[\'hθ]·πδ，α*s[(R)hα*]ds。经过一些项重排，我们得到√T\'θδT- α=TZTπδ，’θs[’h’θ]·πδ，α*s[(R)hα*]ds！-1.√TZTπδ、？θs[？h？θ]dνs+TZTπδ、？θs[？h？θ]·πδ，α*s[(R)hα*]ds！-1.√TZTπδ，’θs[’h’θ]·πδ，αs【hα】- ？πδ，αs[？hα]ds，取δ→ 0，遍历性和定理4.1保证limδ→0EαZTπδ，αs【hα】- ？πδ，αs[？hα]ds=0。（5.12）后一种说法和条件5.4向我们保证，在Pα中，概率为第一个δ↓ 0和thenT→ ∞TZTπδ，’θs[’h’θ]·πδ，α*s[(R)hα*]ds！-1.√TZTπδ，’θs[’h’θ]·πδ，αs【hα】- ？πδ，αs[？hα]ds公司→ 0。

（5.13）为了便于标注，让我们定义随机矩阵fδT（θ，θ）=TZTπδ，θs[\'hθ]·θπδ，θs[\'hθ]ds。因为在Pα下，新息过程νt.=Yδt- Y-Ztπδ，αs[hα]dsT∈ [0，T]是一个Pα-布朗运动，对于我们注意到的随机积分：TZTπδ，\'θs[\'h\'θ]·πδ，α*s[(R)hα*]ds！-1.√TZTπδ，’θs[’h’θ]dνs=fδT（°θ，α*)-1.√TZTπδ、？θs[？h？θ]dνsSinceα*- α|≤ |\'θδT- α|，定理5.1暗示→∞limδ↓0Pα（|α*- α|>ε）≤ 限制→∞limδ↓0Pα\'θδT- α> ε= 0对于任何ε>0，因此，通过|πδ，θs[|hθ]作为θ函数和条件5.4的几乎确定的连续性，我们得出Pα概率为δ↓ 0然后T→ ∞fδT\'θ，α*→ I（α）。然后，【Kutoyants，2004】中的命题1.21和Slutsky定理暗示，在分布中，Firstasδ↓ 0，然后为T→ ∞,TZTπδ，’θs[’h’θ]·πδ，α*s[(R)hα*]ds！-1.√TZTπδ，’θs[’h’θ]dνs=> N0，I-1（α）. （5.14）极限（5.13）和（5.14）暗示了Slutsky定理对组合表达式的陈述。6、示例。在这一节中，我们考虑几个数值例子来说明本文的结果。尽管本文的理论是在hθ有界的假设下发展起来的，但本节的数值结果表明，这一假设具有一定的灵活性，并且结果应具有更广泛的适用性。设θ为有限维参数，并考虑方程组δt=a（θ）λXδtUδtdt+∑dWt（观测值）dUδt=-β（θ）qXδtUδtdt+γ（θ）dVt（隐藏）dXδt=δbθXδtdt公司+√ΔσθXδtdBt（隐藏）（6.1），其中β（θ）>0，a（θ）6=0，γ（θ）6=0，∑6=0，Y，U，X取R中的值。

在不损失一般性的情况下，出于表述目的，本文的理论是针对∑=I发展的，但正如我们在这里看到的一样，只要∑是非退化的，∑6=I的结果也是相同的。让我们进一步假设我们知道X的不变度量，它由u（dx）给出。然后，我们知道（6.1）的概率极限为δ↓ 0 isd'Yt=a（θ）'λ'Utdt+∑dWtd'Ut=-β（θ）’q’Utdt+γ（θ）dVt。（6.2）相对容易看出，扩散系数∑可以视为一个比例因子。在Pα下，过程{νt，t∈ [0，T]}由方程νT=定义Yδt- Y-Ztπδ，αs[hα]dsT∈ [0，T]是由观测到的Yδ过程产生的过滤下的Pα-布朗运动。最大满意度∑ZTθ′πδ，|θs[(R)h|θ]dYδs- πδ，|θs[|h|θ]ds= 0，Fisher信息变成beI（α）=limT→∞T∑ZTα′παs[\'hα]>·α′παs[’hα]ds。限制系统（6.2）使用著名的Kalman-Bucy滤波器。【Kutoyants，2004】研究了极限线性系统（6.2）的推理问题。在【Kutoyants，2004】中，作者基于（6.2）开发了θ的极大似然估计，即使用数据“Yt”。然而，我们的设置与其他文献的不同之处在于，我们希望根据观测值Yδt来估计θ，Yδt来自多尺度模型（6.1），而不是极限模型（6.2）。当然，使用极限问题是为了推导估计量的性质，但实际的推断是基于多尺度模型的观测值。让我们写下'a（θ）=a（θ）'λ，'β（θ）=β（θ）'q。注意，在第2节的符号中，我们有'hθ（u）=a（θ）u和'gθ（u）=-β（θ）u。让我们计算该模型的Fisher信息矩阵I（α），并导出I（α）严格正且模型可识别的条件。让我们首先表示^Ut=E[Ut | Yt]。

众所周知，^utsatifies the equationd^Ut=-β（θ）Utdt+？a（θ）σt（θ）∑年初至今- \'a（θ）^Utdt, （6.3）式中^σt（θ）=E（\'Ut-^Ut）求解Ricatti方程d^σt（θ）dt=-2’’β（θ）^σt（θ）-\'a（θ）（^σt（θ））∑+γ（θ）。（6.4）接下来让我们定义ζ（θ）=q′β（θ）+γ（θ）’a（θ）/∑-β（θ）=κ（θ）-β（θ）。很容易看出，如果^σ（θ）=∑a（θ）ζ（θ），那么对于所有t≥ 0，这意味着∑a（θ）ζ（θ）是（6.4）的稳定解。另一方面，如果^σ（θ）6=∑a（θ）ζ（θ），则^σt（θ）以指数形式快速收敛到∑a（θ）ζ（θ），请参见【Kutoyants，2004】第3.1.1节。因此，为了简化事情，让我们假设（6.3）和（6.4）处于静止状态。在这种情况下，如果Uis N的初始分布πθ[°hθ]，∑a（θ）ζ（θ）然后“Ut”~ Nπθ[°hθ]，∑a（θ）ζ（θ）对于所有t≥ 0.在这种情况下，\'πθt[\'hθ]=\'a（θ）^\'ut将满足方程d'πθt[\'hθ]=-\'β（θ）\'πθt[\'hθ]dt+ζ（θ）年初至今- ？πθt[？hθ]dt. （6.5）现在请注意，如果θ=α（即真实参数值），则νtde由d？νt=∑定义年初至今- ？πθt[？hθ]dt是一个Pα布朗运动。在一般情况下，πθt[\'hθ]满足平均线性SDE（6.5），因此当θ=α时，我们有παt[\'hα]=\'πα[\'hα]e-(R)β（α）t+ζ（α）∑中兴通讯-β（α）（t-s） dνs，从中可以清楚地看出，’παt[’hα]是具有不变定律N的高斯分布0，ζ（α）∑β（α）.接下来，考虑到πθt[\'hθ]相对于θ的导数，在θ=α时，我们发现παt[\'hα]满足SDEdπαt[\'hα]=-β（α）’παt[’hα]-κ（α）˙παt[\'hα]dt+˙ζ（α）∑d′νt，（6.6），因此我们得到˙παt[\'hα]=˙πα[\'hα]e-κ（α）t-β（α）中兴通讯-κ（α）（t-s） (R)παs[(R)hα]ds+˙ζ（α）中兴通讯-κ（α）（t-s） ∑d'νs，（6.7），其中Fubini定理给出'παt['hα]=Zte-κ（α）（t-s）˙κ（α）-β（α）eζ（α）（t-s）∑d？νs+o（1）。（6.8）因此，通过使用（6.8）直接计算，我们可以计算极大似然估计的渐近方差。特别地，我们得到在Pα概率i（α）=limT→∞T∑ZTπαs[\'hα]ds=˙β（α）˙β（α）+κ（α）2κ（α）- 2˙β（α）˙κ（α）˙β（α）+κ（α）。（6.9）现在让我们假设条件6.1。

对于任何紧凑型 Θ和任何 > 0oinfθ∈Θ|β（θ）+κ（θ）|> 0，oinfθ∈inf |α-θ|>|\'-β（α）-β（θ）+κ（α）- κ（θ）|> 0.【Kutoyants，2004】第3.1.1节中的相关案例证明，在具体示例中，条件6.1本质上意味着条件5.3，即我们具有模型的可识别性，并且渐近方差是严格正的，即i（α）>0。接下来，我们将根据模型问题（6.1）进行一些模拟研究。我们考虑了三个不同的例子。实例缺乏hθ假设的有界性，表明本文的理论结果具有更广泛的适用性。6.1。模拟示例1。设过程为标量（Yδ，Uδ，Xδ）∈ R×R×R，并考虑（6.1）中系统的以下示例：dYδt=eXδtUδtdt+∑dWt（观测值）dUδt=-Uδtdt+dVt（隐藏）dXδt=δθ- Xδtdt+σ√δdBt（隐藏）。（6.10）该示例的一个关键特征是，过程Xδ的行为类似于乘性噪声因子。图6.1显示了参数化系统的实现，其中T=25，δ=0.01，∑=σ=0.1，以及真α=0和离散时间步长t=.02.0 5 10 15 20 25-0.04-0.03-0.02-0.0100.010.020.030.04A样本观察和隐藏状态观察Y避免扩散\'hθUtt过滤器'πδ，θt['hθU]t、 参数θ=α图6.1。从（6.10）中给出的系统实现的样本，真实参数α=0。在这种情况下，δ=1的X过程的不变测度μθ（dx）是对应的toN（θ，σ/2）。还请注意，我们可以从（6.9）中以闭合形式计算Fisher信息，并得到（α）=e4α+σ2∑（1+e2α+σ/2/σ）3/2。表6.1列出了估计器经验误差的标准误差以及Fisher信息的预测误差。下表显示了trueparameter不同值的比较。

在图6.2中，我们给出了α参数真值的三种不同情况的柱状图，以及定理5.2给出的拟合理论正态曲线。θ真参数不同值的统计信息。θ估计量经验标准误差。理论标准err0-0.0170 0.0982 0.09001 0.9844 0.0618 0.05421.5 1.4591 0.0503 0.0422表6.1模型（6.10），500次模拟计算，T=25，δ=0.01，∑=σ=0.1。此表显示了估计器、经验标准误差和定理5.2预测的标准误差。参数空间Θ-0.5-0.4-0.3-0.2-0.1 0.1 0.2 0.3 0.4 0.5经验密度00。0050.010.0150.020.0250.030.0350.040.0450.05CLT对于简化的MLE估计量，(R)θδtHistogram weights normal PDF参数SpaceΘ0.75 0.8 0.85 0.9 0.95 1 1.05 1.1 1.15 1.2 1.25经验密度00。0050.010.0150.020.0250.030.0350.040.0450.05CLT对于简化的MLE估计量，(R)θδtHistogram weights normal PDF参数SpaceΘ1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9 2经验密度00。010.020.030.040.050.060.070.08CLT对于简化的MLE估计量，’θδtHistogram weights normal Pdfigure 6.2。左上角：α=0。右上角：α=1。底部：α=1.5.6.2。模拟示例2。设过程为标量（Yδ，Uδ，Xδ）∈ R×R×R，并考虑（6.1）中系统的以下示例：dYδt=Uδtdt+∑dWt（观测值）dUδt=-eXδtUδtdt+dVt（隐藏）dXδt=δθ- Xδtdt+σ√δdBt（隐藏）。（6.11）该示例的一个关键特征是过程Xδ影响Uδ过程的平均回复率。图6.3显示了参数化系统的实现，其中T=25，δ=0.01，∑=σ=0.1，以及真α=0和离散时间步长t=.02.0 5 10 15 20 25-0.04-0.03-0.02-0.0100.010.020.03A观察到的样本和隐藏状态YtHidden Diffusion Ut公司t过滤器'πδ，θt【U】t、 参数θ=α图6.3。

从（6.11）中给出的系统实现的样本，真实参数α=0。与示例1的情况一样，δ=1的X过程的不变度量μθ（dx）是对应于N（θ，σ/2）的度量。还请注意，我们可以从（6.9）中以闭合形式计算Fisher信息，并得到（α）=eα+σ+e4α+σ1/σ+e2α+σ3月2日- 2e3α+3σq1/σ+e2α+σeα+σ+q1/σ+e2α+σ表6.2显示了估计器的标准偏差和真实参数各种值的理论预测。在图6.4中，我们给出了α参数真值的三种不同情况的柱状图，以及定理5.2给出的拟合理论正态曲线。θ真参数不同值的统计信息。θ估计量经验标准误差。理论标准错误0。5 0.5396 0.2385 0.23031 1.0268 0.1943 0.19171.5 1.5346 0.1815 0.1734表6.2模型（6.11），500个模拟计算，T=25，δ=0.01，∑=σ=0.1。此表显示了估计器、经验标准误差和定理5.2预测的标准误差。参数空间Θ-1-0.5 0.5 1 1.5 2经验密度00。010.020.030.040.050.060.07CLT对于简化的MLE估计量，’θδtHistogram weights normal PDF parameter SpaceΘ0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2经验密度00。010.020.030.040.050.060.070.08CLT对于简化的MLE估计量，’θδtHistogram weights normal PDF参数SpaceΘ0.5 1.5 2 2.5 3经验密度00。010.020.030.040.050.060.070.080.090.1CLT对于简化的MLE估计量，’θδtHistogram weights normal PDF图6.4。左上角：α=0。右上角：α=1。底部：α=1.5.6.3。模拟示例3。

设过程为标量（Yδ，Uδ，Xδ）∈ R×R×R，并考虑以下系统：dYδt=Xδtdt+∑dWt（观测值）dXδt=δUt公司- Xδtdt+σ√δdBt（hidden），（6.12），其中U是一个连续时间马尔可夫链，取{0，1}中的值，转移强度θ>0，即isddtP（Ut=0）P（Ut=1）= θ-1 11-1.P（Ut=0）P（Ut=1）.该示例与（6.1）中的系统不同，因为U过程不是一种差异；它与【Park等人，2011年】中考虑的模型相比较。事实上，UTI是一个离散的空间马尔可夫链，而不是一个连续的分歧，因此本文的理论并不适用，但我们推测，可以通过计算得出类似的结果。图6.5显示了该示例的实现和过滤器。表6.3显示了估计器的标准偏差和理论0 5 10 15 20 25-0.03-0.02-0.0100.010.020.03A样本观察和隐藏状态观察Y隐藏马尔可夫链Utt过滤器'πδ，θt【U】t、 参数θ=α图6.5。从（6.12）中给出的系统实现的样本，真实参数α=0.7。预测各种真参数值，但在这种情况下，我们没有Fisher信息的闭合形式表达式，因此我们用数值计算了它。然后，在图6.6中，我们给出了α参数真实值的三种不同情况的柱状图，以及确定的经验正态曲线。由于out理论不包括这种情况，我们无法提供估计量的理论方差。然而，正如数值模拟所表明的，一个中心极限定理有望成立。附录A.定理4.1的证明。θ真参数不同值的统计信息。θ估计量经验标准误差。数值计算标准err0。7 0.7349 0.2305 0.19171 1.0469 0.2697 0.22531.8 1.8990 0.3968 0.3058Ta表6.3模型（6.12），500次模拟计算，T=25，δ=0.01，∑=σ=0.1。