部分观测数据统计估计中的降维

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Dimension Reduction in Statistical Estimation of Partially Observed
  Multiscale Processes》
---
作者：
Andrew Papanicolaou, Konstantinos Spiliopoulos
---
最新提交年份：
2017
---
英文摘要：
  We consider partially observed multiscale diffusion models that are specified up to an unknown vector parameter. We establish for a very general class of test functions that the filter of the original model converges to a filter of reduced dimension. Then, this result is used to justify statistical estimation for the unknown parameters of interest based on the model of reduced dimension but using the original available data. This allows to learn the unknown parameters of interest while working in lower dimensions, as opposed to working with the original high dimensional system. Simulation studies support and illustrate the theoretical results.
---
中文摘要：
我们考虑指定到未知向量参数的部分观测多尺度扩散模型。我们建立了一类非常一般的测试函数，即原始模型的滤波器收敛到降维滤波器。然后，该结果用于证明基于降维模型但使用原始可用数据对未知感兴趣参数进行统计估计的合理性。这允许在低维环境中学习未知的感兴趣参数，而不是使用原始的高维系统。仿真研究支持并说明了理论结果。
---
分类信息：

一级分类：Mathematics        数学
二级分类：Probability        概率
分类描述：Theory and applications of probability and stochastic processes: e.g. central limit theorems, large deviations, stochastic differential equations, models from statistical mechanics, queuing theory
概率论与随机过程的理论与应用：例如中心极限定理，大偏差，随机微分方程，统计力学模型，排队论
--
一级分类：Mathematics        数学
二级分类：Statistics Theory        统计理论
分类描述：Applied, computational and theoretical statistics: e.g. statistical inference, regression, time series, multivariate analysis, data analysis, Markov chain Monte Carlo, design of experiments, case studies
应用统计、计算统计和理论统计：例如统计推断、回归、时间序列、多元分析、数据分析、马尔可夫链蒙特卡罗、实验设计、案例研究
--
一级分类：Quantitative Finance        数量金融学
二级分类：Statistical Finance        统计金融
分类描述：Statistical, econometric and econophysics analyses with applications to financial markets and economic data
统计、计量经济学和经济物理学分析及其在金融市场和经济数据中的应用
--
一级分类：Statistics        统计学
二级分类：Methodology        方法论
分类描述：Design, Surveys, Model Selection, Multiple Testing, Multivariate Methods, Signal and Image Processing, Time Series, Smoothing, Spatial Statistics, Survival Analysis, Nonparametric and Semiparametric Methods
设计，调查，模型选择，多重检验，多元方法，信号和图像处理，时间序列，平滑，空间统计，生存分析，非参数和半参数方法
--
一级分类：Statistics        统计学
二级分类：Statistics Theory        统计理论
分类描述：stat.TH is an alias for math.ST. Asymptotics, Bayesian Inference, Decision Theory, Estimation, Foundations, Inference, Testing.
Stat.Th是Math.St的别名。渐近，贝叶斯推论，决策理论，估计，基础，推论，检验。
--

---
PDF下载：
--> Dimension_Reduction_in_Statistical_Estimation_of_Partially_Observed_Multiscale_P.pdf (902.57 KB)

2022-5-25 11:08:58 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：数据统计 Applications Multivariate Konstantinos Differential

部分观测多尺度过程统计估计中的降维Sandrew PAPANICOLAOU+和KONSTANTINOS SPILIOPOULOS摘要。我们考虑部分观测到的多尺度扩散模型，这些模型被指定为一个未知的矢量参数。我们建立了一类非常普遍的测试函数，即原始模型的过滤器收敛到降维过滤器。然后，该结果用于证明基于降维模型但使用原始可用数据对感兴趣的未知参数进行统计估计的合理性。这允许在低维环境中学习未知的感兴趣参数，而不是使用原始的高维系统。仿真研究支持并说明了理论结果。关键词。数据同化、过滤、参数估计、均匀化、多尺度差异、降维。主题分类。93E10 93E11 93C70 62M07 62M861。介绍本文考虑一个具有多时间尺度的一般滤波问题的统计推断。关于概率空间(Ohm, （Ft）t≤T、 P）T<∞, 对于正整数m，k，nw，我们考虑（m+k+n）维过程（Xδ，Uδ，Yδ）={（Xδt，Uδt，Yδt）∈ Rm×Rk×Rn，0≤T≤ T}∈ C（[0，T]；Rm×Rk×Rn），满足0<δ的随机微分方程（SDE）系统 1，dYδt=hθXδt，Uδtdt+dWt（观测值）dUδt=gθXδt，Uδtdt+τθXδt，UδtdVt（隐藏）dXδt=δbθXδt，Uδtdt公司+√ΔσθXδt，UδtdBt（隐藏），（1.1），其中（Wt）t≤T、 （Bt）T≤坦德（Vt）t≤Rn、RMAN和Rk中分别存在皮重（未观测到）独立的维纳过程。在金融应用的背景下，一种可能的解释是，向量Ytis是连续金融数据流的一部分，隐藏过程Xδ和Uδt是astochastic模型中的因子，例如参见【Fouque et al.，2011】。

一种不同的可能解释是，Yδ是癫痫发作期间大脑活动的信号，正如【Jirsa等人，2014年】所述，多尺度动力系统被用作癫痫发作动力学的模型。其他应用包括海洋学和气候建模中的多尺度建模，例如参见【Majda等人，2008年】。最初，（1.1）中的模型没有具体说明，随着数据的到来，我们可以了解参数值θ。我们让Yδt表示由数据生成的σ-代数，Yδt=σ{（Yδs）s≤t} ，主要目标是计算最大似然估计量（MLE）。给定Yδt，我们将对数似然函数表示为ρδt（θ），我们将其最大化以获得估值器^θδt=arg maxθρδt（θ）。+纽约大学坦顿工程学院金融与风险工程系，纽约布鲁克林MetroTech中心6号，邮编：11201ap1345@nyu.edu.波士顿大学数学与统计系，马萨诸塞州波士顿市卡明顿街111号，邮编02215，kspiliop@math.bu.edu.部分工作得到了NSF拨款DMS-1312124和NSF职业奖dms1550918的支持。例如，在金融应用中，尤其是在高频交易中，市场和限额指令需要在精确的时间点执行，精度为纳秒级。因此，估计值（如MLE）可能非常准确，但也可能需要重新计算时间，这对于交易而言太长了。一般来说，众所周知，即使没有多重尺度的影响，标准蒙特卡罗粒子过滤器也可能非常慢。然而，在小δ极限下，维数显著降低，因为过程Xδ通过遍历理论得到“平均值”，这使得过滤Uδ和推断θ的算法更快。本文的创新之处在于两个层面。

在第一级，我们证明（1.1）的非线性滤波器对于θ的任何参数值都收敛，并且在由真实参数值参数化的度量下，极限为降维滤波器。对于同时依赖于慢和快未知分量X和U的测试函数，我们证明了这一结果；testfunctions可能是无界的，但我们确实施加了矩界。这一结果扩展了【Imkeller等人，2013年】和【Papanicolaou和Spiliopoulos，2014年】之前的工作。在第二个层次，我们利用滤波器的收敛结果证明了基于降维模型的极大似然估计产生了一致和渐近正态估计量，并确定了估计量的极限方差。我们将我们的方法应用到示例中，其中简化程序允许使用经典卡尔曼滤波类型的方法来解决高度非线性的问题，而不具有小δ渐近性。我们的例子展示了如何将高度非线性问题的统计推断简化为线性和降维问题的统计推断，因此从计算角度来看，要求明显降低。简化系统中非线性问题的滤波器计算要复杂得多，通常需要粒子滤波器；我们请读者参考【Givon等人，2009年，Papavasiliou，2007年】，了解多尺度设置中的一些相关结果。另一个实现问题是模型学习/估计，这有时是通过期望最大化（EM）算法完成的（见Elliott，1993）。本文的结果直接适用于多尺度框架下参数模型的学习；模型由θ参数化，与原始模型相比，使用简化模型可以获得极大似然估计。论文的其余部分组织如下。

在第2节中，我们阐述了特定条件下的利益问题，并给出了一些在整个过程中都有用的初步众所周知的结果。在第3节中，我们给出了原始问题的滤波方程，并导出了与降维问题相关的滤波器。在第4节中，我们给出了关于滤波收敛的第一个主要结果，这是使用原始可用数据Yδtbut进行推理的主要依据，基于降维模型。在第5节中，我们介绍了参数估计的主要结果。特别地，我们证明了在适当的条件下，降维问题的极大似然估计是一致的且渐近正态的→ ∞. 在第6节中，我们考虑几个示例来说明和补充可以使用经典卡尔曼滤波技术的理论结果。给出了仿真数据以支持理论推导。2、问题制定和初步结果。Letθ∈ Θ Rdbe是根据（1.1）生成的数据估计的未知相关参数。假设我们只观察Yδ过程，我们得到θ的一致渐近正态极大似然估计。我们考虑一下情况δ 1，在这种情况下，Xδ是快分量，Uδ是慢分量。我们通过观察δ来降低问题的高维性↓ 0限制并利用基于降低的可能性的极大似然估计的统计特性。对于（1.1）中给出的模型，我们将分别为快速过程中的最小生成器Xδ和过程Uδ编写lf和ls。即，LFθ，uf（x）=bθ（x，u）·Dxf（x）+trσθ（x，u）σ>θ（x，u）Dxf（x）LSθ，xf（u）=gθ（x，u）·Duf（u）+trτθ（x，u）τ>θ（x，u）Duf（u）（2.1）接下来，我们提出了本文关于（1.1）系数的增长和规律性的主要条件。

这些条件保证（1.1）具有明确的强解，快组分Xδ是遍历的，慢组分Yδ是明确的均匀化极限，如δ↓ 适当意义上的0。【Pardoux和Veretennikov，2001】针对均质化和【Bain和Crisan，2009】第3章针对过滤给出了保证这些特性的假设，如下所述：条件2.1。i） 。为了遍历性的目的，我们将假定递归条件lim | x|→∞supθ∈Θsupu∈Rkbθ（x，u）·x=-∞.在此假设下，满足与Hasminskii的快速动力学X相关的不变度量存在的Lyapunov型条件【Hasminskii，1980年】。ii）。为了保证X不变测度的唯一性，我们假设σθ（X，u）σTθ（X，u）在θ中是一致非退化的，即存在λ（θ）>0，这样对于所有（X，u）∈ X×U |ξσθ（X，U）|≥ λ（θ）|ξ|，对于所有（θ，ξ）∈ Θ×Rm。iii）。函数bθ（x，u）和σθ（x，u）是C2+α，2b（Rm×Rk）和α∈ （0，1），θ均匀∈ Θ。即θ一致∈ Θ，它们在x和u上有两个有界导数，所有偏导数都是H¨older连续的，指数α，关于x，uniformlyin u.iv）。我们假设gθ∈ C（Rm×Rk），存在K和q，使得| g（x，u）|≤ K（1+| x |）（1+| u | q）。v） 。对于每个N>0，存在一个常数C（N），使得对于所有u，u∈ RMAD | x |≤ N、 扩散矩阵τ满足τ（x，u）-τ（x，u）|≤ C（N）| u- u |。此外，存在K>0和q>0，使得|τ（x，u）|≤ K（1+| u | 1/2）（1+| x | q）。vi）。hθ∈ C（Rm×Rk）在（x，u）中有界且全局Lipschitz∈ Rm×Rk在θ中均匀分布∈ Θ。vii）。

函数hθ、bθ、σθ、gθ、τθ在θ中是Lipschitz连续的∈ Θ和Θ Rdis边界打开集。在这种假设和扩散系数σθ（x，u）σ>θ（x，u）的非简并性下，对于Ut=u的情况，过程x是唯一的不变度量，我们将用μθ（dx；u）表示。对于给定函数f∈ L（uθ），将其平均值定义为“fθ（u）=ZRmf（x，u）uθ（dx；u）。众所周知，Yδ·在C（[0，T]；Rn）中的分布收敛于过程Y（例如[Bensoussan等人，1978年，Pardoux和Veretennikov，2003年]），其中yt=Zt'hθ（'Us）ds+Wt.（2.2），其中d'Ut='gθ“”Utdt+’τ0，θ“”UtdVt，带？τ0，θ（u）=τθ（·，u）τ>θ（·，u）1/2。（2.3）事实上，由于观测过程Yδthas是常数差，条件2.1和遍历定理保证了对任何θ都有更强的结果∈ Θ，即每ε>0Pθsup0≤T≤TYδt- 年初至今≥ ε→ 0，作为δ↓ 0θ∈ Θ。（2.4）3。过滤方程式。数据包含在过滤δt=FYδt=σ{（Yδs）s中≤t} ，它是右连续的，Yδ包含所有P-可忽略的集合。对于任何θ∈ Θ，我们定义了一个新的度量值P*θ开(Ohm, F） 通过关系dPθdP*θ、 =Zδ，θT=expZThθ（Xδs，Uδs）dYδs-ZT公司hθ（Xδs，Uδs）ds！。（3.1）在适当的假设Zδ下，θ是指数鞅，因此概率测度θ和P*θ彼此绝对连续，且（Uδ，Xδ）在Pθ和P下的分布相同*θ。此外，过程Yδ是P*θ-布朗运动与（Uδ，Xδ）无关。接下来，对于f:X×U→ R使E*θf（Xδt，Uδt）< ∞, 我们将f上的测度值过程φδ，θ定义为φδ，θt[f]。=E*θhZδ，θtf（Xδt，Uδt）Yδti，（3.2）对于f∈ 众所周知，Cc（X×U）是以下方程式的唯一解（见【Rozovsky，1991】）：dφδ，θt【f】=Δφδ，θt【LFθf】+φδ，θt【LSθf】dt+φδ，θt[hθf]dYδs，P*θ-a.s.，φθ[f]=Eθf（Xδ，Uδ）。

（3.3）方程（3.3）是用于非线性滤波的Zakai方程。此外，φδ，θ实际上是一个非规范化的概率度量，它通过KalianpourStriebel公式，πδ，θt[f]产生规范化的后验期望Eθhf（Xδt，Uδt）Yδti=φδ，θt[f]φδ，θt[1]Pθ，P*θ-a.s。（3.4）如果f（x，u）=hθ（x，u），则我们有新息过程，νδ，θt.=Yδt- Y-Ztπδ，θs[h]dsT∈ [0，T]。过程νδ，θ是由观察到的Yδ过程生成的过滤下的Pθ-布朗运动，但只有当θ等于真实参数值时，才可以观察到布朗运动。对于可测量的测试函数f:X×U→ R、 在非线性Kushner-stratonovich方程中使用新息过程来描述πδ，θt[f]，dπδ，θt[f]的演化=Δπδ，θt【LFθf】+πδ，θt【LSθf】dt公司+πδ，θt【fhθ】-πδ，θt[f]πδ，θt[hθ]dνδ，θtPθ-a.s.（3.5）接下来让我们考虑降维近似问题的滤波方程。考虑“平均”指数“Zδ，θt.=expZt'hθ（'Us）dYδs-Zt公司\'hθ（\'Us）ds公司, （3.6）(R)Zθt.=经验值Zt'hθ（'Us）d'Ys-Zt公司\'hθ（\'Us）ds公司. （3.7）对于f∈ Cc（U），我们定义了新的后验测度φδ、θt[f]和φθt[f]，它们满足随机演化方程dφδ、θt[f]=？φδ、θt[LSθf]dt+？φδ、θt[？hθf]dYδt、？φδ、θ[f]=Eθf（？U），（3.8）d？θφt[f]=？φθt[LSθf]dt+？t[\'hθf]d\'Yt，\'φθ[f]=Eθf（\'U）。（3.9）很容易用It^o引理验证“平均”Zakai方程（3.8）和（3.9）有解φδ，θt[f]=E*θhfθ（\'Ut）\'Zδ，θtYδti，（3.10）(R)φθt[f]=E*θhfθ（\'Ut）\'Zθt\'\'Yti，（3.11），其中\'\'Yt=F\'\'Yt=σ{（\'Ys）s≤t} 是右连续σ-代数和Y包含所有P-可忽略设置。我们将平均滤波器定义如下：’πδ，θt[f]=’φδ，θt[f]’φδ，θt[1]和‘πθt[f]=’φθt[1’。

很容易看出，’πθt[f】=Eθhf（’Ut）\'\'Yti。我们在本节结束时提到，在Pθ下，方程式（3.4）定义了测量值过程Pδ，θ·，条件分布，公式如下Pδ，θt，f= πδ，θt[f]=Eθhf（Xδt，Uδt）Yδti。类似地，我们通过以下公式定义概率测度值过程“Pδ、θ”和“Pθ·”\'Pδ，θt，f= πδ，θt[f]和\'Pθt，f= πθt[f]尤其是测度值过程Pθ，将便于证明基于约化估计的极大似然估计的相合性和渐近正态性。4、过滤器的收敛性。考虑η>0并定义以下测试函数类别aθη=（f∈ C（X×U）∩L（X×U；uθ）：supδ∈（0,1）支持∈[0，T]Eθf（Xδt，Uδt）2+η<∞).然后，我们得到了以下结果，这是【Imkeller等人，2013年】和【Papanicolaou和Spiliopoulos，2014年】结果的推广。定理4.1。假设条件2.1。对于任何α，θ∈ Θ，以下值一致保持int∈ [0，T]i）。让f∈ Cb（X×U）。然后，对于每个ε>0limδ↓0Pαφδ，θt【f】-(R)φδ，θt[(R)f]≥ ε= 0ii）。假设η>0，使得f∈ Aθη。然后，πδ，θt[f]在Pα-均方中收敛到πθ，αt[f]，即limδ↓0Eαπδ，θt[f]- πδ，θt[\'f]= 0。此外，我们还有limδ↓0Eαπδ，θt[\'f]- πθt[\'f]= 0。对于f∈ Cb（U），对于α=θ的情况，这在【Imkeller等人，2013年】中得到了证明。同样，对于hθ（x，u）=hθ（x），bθ（x，u）=bθ（x）和σθ（x，u）=σθ（x），即当模型不包括隐藏的慢过程u时，定理4.1在【Papanicolaou和Spiliopoulos，2014】中得到了证明。因此，定理4.1将【Imkeller等人，2013年，Papanicolaou和Spiliopoulos，2014年】的结果扩展到了案例f∈ Aθη和under参数不匹配。我们在此强调，由于我们对参数估计感兴趣，我们自然有兴趣确保滤波器在由真实参数值参数化的度量下收敛于任何参数值。

该定理的证明见附录A.5。基于约化似然函数的统计推断。定理4.1表明，对于参数估计，我们可以近似条件对数似然ρδT（θ）=logφδ，θT[1]=log E*θhZδ，θTYδTi（5.1）乘以“约化”对数似然度ρδT（θ）=对数φδ，θT[1]=对数E*θh'Zδ，θTYδTi（5.2）注意到，通过引理3.29，在【Bain和Crisan，2009】中，我们得到了ρδT（θ）=log(R)φδ，θT[1]=ZT'πδ，θs['hθ]dYδs-ZT公司\'πδ，θs[\'\'hθ]ds（5.3）以下条件是关于'hθ（u）作为θ函数的正则性∈ Θ。条件5.1。有常数C>0，p≥ 1和q>1，对于任何θ，θ∈ Θ，supu∈U | hθ（U）-\'hθ（u）| p≤ C |θ- θ| q.i.e.，θ7→\'hθ（u）在u中均匀连续∈ U、 允许任意初始条件，进程集Xδ，Uδ，Pδ，θ，’Pδ，θ,Xδ，Uδ，(R)Pδ，θ和\'U，\'Pθ是C中的Markov-Feller过程（[0，∞); Rm+k）×C（[0，∞), P（Rk）），C（[0，∞); Rm+k）×C（[0，∞), P（Rk））和C（[0，∞); Rk）×C（[0，∞), P（Rk））。设∏δ，θ（t，·），‘∏δ，θ（t，·）和∏θ（t，·）为相应的转移函数。为了使平均问题asT具有足够的遍历性→ ∞ 我们作出以下假设，例如参见【Kushner，1990年】。第6节中考虑的示例满足条件5.2。条件5.2。转移函数∏θ（t，·）有一个唯一的不变测度∏θ（·）。此外，集合{Ut，t<∞} 很紧，很紧→∞supt'Pθt（{| u |>N}）=0。我们还需要以下识别条件。条件5.3。我们假设对于任何θ∈ Θ，任何 > 0，T<∞ 对于每个t∈ （0，T），一个hasinfα∈Θinf |θ-α|>Eα？πθt[？hθ]- ？παt[？hα]> 0.让我们定义‘θδT.=arg maxθ∈Θ′ρδT（θ）。（5.4）由于我们假设Θ是有界的，所以我们得到了θδT∈ cl（Θ），概率为1。然后我们有以下定理：定理5.1。假设条件2.1、5.1、5.2和5.3。