具有非光滑准则函数的间接推理

（19 93）：“使用模拟向量自回归估计非线性时间序列模型”，《应用经济指标杂志》，8，S63–S84。van der Vaart，A.W.和J.A.Wellner（1996）：“弱收敛与经验过程及其在统计学中的应用”，《弱收敛与经验过程及其在统计学中的应用》，Springer。附录A.主要结果的证明在本附录中，我们应用Pakes和Pollard（1989）中使用的类似论点，证明了我们提出的估计量的渐近性质和一些相关的技术结果（见alsoChen et al.，2003）。我们写了一个。b如果a小于或等于b，则为通用正常数。引理A。1、假设假设假设1-3成立。对于任何β，函数M（θ，β）与θ可二次微分∈ B及其导数由，for给出l ∈ {1, 2},lθM（θ，β）=EJXj=0m（αj，zi，β）lθ{cj+1i（θ）- cji（θ）}; （A.1）（b）矩函数mri（θ，θ*, β） 对于θ是两次连续可微的∈ Θ，对于任何（θ*, β) ∈ Θ×B.证明。（a） 在假设3（a）下，我们可以写出yri（θ）=PJj=0αj1l[cji（θ）<uri≤ cj+1i（θ）]。我们可以证明M（θ，β）=E[PJj=0m（αj，zi，β）{cj+1i（θ）-cji（θ）}），因为Uris在（0，1）上均匀分布。根据假设2（c）和3（b），映射θ7的导数→ m（αj，zi，β）{cj+1i（θ）-cji（θ）}满足度km（αj，zi，β）θ{cj+1i（θ）- cji（θ）}k。“mi”“”ci。在假设2（c）和3（b）下，Cauchy-Schwarz不等式的应用产生E【(R)mi·\'\'ci]<∞. 因此，支配收敛定理暗示了期望的结论（例如，见福兰德定理2.27，2013）。类似的参数显示了第二个派生部分，因此我们省略了细节。（b） Let（θ*, β) ∈ Θ×B固定。根据假设3（a）和雅可比wri（·）的定义，如果cji（θ*) < uri≤ cj+1i（θ*) 对于j=0。

，J，thenyri（θ，θ*) = αjand-wri（θ，θ*) =cj+1i（θ）- cji（θ）cj+1i（θ*) - cji（θ*),对于所有i=1，n、 此外，可以很容易地验证cji（θ*) < uri≤ cj+1i（θ*) 当且仅当ifcji（θ）<uri（θ，θ）*) ≤ cj+1i（θ）。因此，近似矩函数写为asmri（θ，θ*, β） =JXj=0m（αj，zi，β）cj+1i（θ）- cji（θ）cj+1i（θ*) - cji（θ*)1升cji（θ*) < uri≤ cj+1i（θ*). （A.2）在上述矩函数中，参数θ现在显示为不同函数的参数，不再决定不连续函数的值。更准确地说，上述方程的右侧项由两个关于θ的连续可微函数组成，因此得出了预期的结论。A-1为了证明命题1，我们应用Jennrich（1969）的思想来证明统一大数定律。命题1的证明。首先，我们考虑函数Mn（θ，θ）的一阶导数的无偏性*, β). Letθ*∈ Θ固定。从（A.2）可以看出θmri（θ，θ*, β） =JXj=0m（αj，zi，β）θ{cj+1i（θ）- cji（θ）}cj+1i（θ）*) - cji（θ*)1升cji（θ*) < uri≤ cj+1i（θ*).还有，对于每个j=0，J、 cj+1i（θ*) - cji（θ*)Z1l型cji（θ*) < u≤ cj+1i（θ*)du=1。（A.3）由于均匀随机变量与模型的其余部分无关，并且在假设1（A）和2（A）中的ID数据假设下，我们有θMn（θ，θ*, β)|θ =θ*= EJXj=0m（αj，zi，β）θ{cj+1i（θ*) - cji（θ*)}. （A.4）引理A.1（A）得出θMn（θ，θ*, β)|θ =θ*是的无偏估计量θM（θ*, β).我们现在考虑一阶导数的一致一致性。设δ>0为任意球标量。给定紧致参数空间Θ和B，可以证明期望的结论适用于每个固定邻域Nδ：=N1，δ×N1，δ×N2，δ，其中N1，δ Θ和N2，δ B满足supθ，θ∈N1，δkθ-θk≤ δ、 和supβ，β∈N2，δkβ-βk≤ δ.

定义π-n、 δ：=nRnXi=1RXr=1inf（θ，θ*,β)∈Nδθmri（θ，θ*, β） π+n，δ：=nRnXi=1RXr=1sup（θ，θ*,β)∈Nδθmri（θ，θ*, β).可以很容易地证明，从三角形不等式sup（θ，θ*,β)∈NδθMn（θ，θ*, β) - θM（θ，θ*, β)≤π+n，δ- E[π+n，δ]+π-n、 δ-E[π-n、 δ]+E[π+n，δ]- E[π-n、 δ],其中M（θ，θ*, β） ：=E[核磁共振成像（θ，θ*, β)]. 从弱大数定律出发π±n，δ-E[π±n，δ]= op（1）为n→ ∞. 因此，剩下的任务是显示E[π+n，δ]- E[π-n、 δ]→ 0asδ→ 为此，使用（A.2）以及Uri均匀分布且独立于原始数据的事实，我们得到E[π+n，δ]- E[π-n、 δ]≤EPJj=0jt，δ, 哪里jt，δ：=sup（θ，θ*,β)∈Nδm（αj，zi，β）θwri（θ，θ*)supθ*∈N1，δcj+1i（θ*) - infθ*∈N1，δcji（θ*)- inf（θ，θ*,β)∈Nδm（αj，zi，β）θwri（θ，θ*)infθ*∈N1，δcj+1i（θ*) - supθ*∈N1，δcji（θ*).上述方程由参数连续的函数和Nδ上的所有函数areA-2组成。因此PJj=0jt，δ→ 0为δ→ 还有，我们有jt，δk≤ 2？m（αj，zi）“”wi·supθ*∈N1，δcj+1i（θ*) - infθ*∈N1，δcji（θ*).临界点函数取单位区间内的值，也取Cauchy-Schwarzinequality，E[(R)mi“”wi“]≤ （东米）1/2（东米）|“wi |）1/2，由假设2（c）和3（b）确定。因此，根据支配收敛定理，kE[（1） ir（δ）]k→ 0为δ→ 因此，一阶导数的估计值在（θ）中一致*, β) ∈ Θ×B。类似的论证表明了二阶导数的一致一致性，因此我们省略了细节。在证明估计量^θ和^β（θ）的渐近性质之前，我们给出了M（θ，β）=0的整体隐式解β（θ）的存在性及其性质。我们遵循Idczak（2016）的方法，他使用山路定理（Ambrosetti和Rabinowitz，1973）建立了一个全局隐函数定理。

以下定理是Idczak（2016）中关键结果（定理3.3和推论3.3）的有限维计算部分。引理A.2。让V Rdvand W公司 RDW与有限dv、dw∈ N，设F:V×W→ Rdwbe是一种连续可区分的功能。对于所有v∈ 五、 假设地图w 7→ F（v，w）满足（a）Palais Smale条件：任意序列{wk}∞k=1W带{kF（v，wk）k/2}∞k=1有界和vF（v，周）→ 0作为k→ ∞ 允许收敛子序列，（b）方阵wF（v，w）对于任何w都是非单数的∈ W、 那么，对于任何v∈ 五、 存在唯一的wv∈ 使得F（v，wv）=0。证据参见Idczak（2016）中定理3.3的证明。下面的引理使用引理A.2给出了一个全局隐函数定理，该定理表明隐函数唯一存在并且全局连续二次可微。引理A.3。假设假设1-4和定理1（b）中假设的条件成立。（a） M（θ，β）相对于（θ，β）连续可微两次∈ 任意θ的Θ×B.（B）∈ Θ，存在一个uniq ueβ（θ）∈ B使Mθ, β(θ)= 0和β（θ）是一个连续微分函数及其一阶导数，如下所示：θβ(θ) = -βMθ, β(θ)-1.θMθ, β(θ). （A.5）证明。（a） 我们可以写出M（θ，β）=E[PJj=0m（αj，zi，β）{cj+1i（θ）-假设3（a）下的cji（θ）}]。在引理A.1中，我们已经证明了M（θ，β）对于θ是两次连续可微的∈ Θ. 利用引理A.1中的类似论点，我们可以证明M（θ，β）对于t oβ是两次连续可微的∈ B和θM（θ，β）与β连续不同∈ B、 在定理1（B）和假设3（B）的条件（ii）下。

因此，期望的结论如下。A-3（b）首先，经典隐函数定理暗示期望结果局部成立。也就是说，在f（°θ，’β）附近∈ Θ×B，当M（(R)θ，(R)β）=0时，存在连续微分函数θ7→ β（θ），使得Mθ, β(θ)= 0及其衍生物取formin（A.5）。该引理（a）中的结果表明，（a.5）的右侧包含关于（θ，β）的可微分函数，因此β（θ）是两次连续局部可微分的（例如，参见Dontchev和Rockafellar，2009年的定理1B.1和1B.5）。接下来，假设参数空间B是紧的，kM（θ，β）k/2满足每个θ的PalaisSmale条件∈ Θ. 而且在定理1（b）的条件（iii）下，证明了βM（θ，β）是非奇异的。从引理A.2可以看出，对于所有θ，β（θ）唯一地解出M（θ，β）=0，并且β（θ）满足全局所需的性质。在下面的引理中，我们给出了一个技术结果，当估计量依赖于观测和模拟数据时，这个结果很有用。更准确地说，这个技术引理建立了模拟上的大数统一定律，只要模拟大小R不太大，无法与样本大小n或log（R）=o（n）进行比较。我们用对称化引理证明了这个引理。在不同的背景下，切尔诺朱科夫等人（2015）的引理8中也可以找到类似的方法。引理A.4。给定活动整数n和R，设zn：={zi}ni=1是R和un中i个独立的随机变量序列，R：={（ui1，…，uiR）}ni=1是向量的集合，其元素在R中独立且相同分布。假设zn独立于un，R。对于i=1，n和r=1，R、 定义xir：=g（zi，uir），对于so me可测函数g:R→ Rand？xr：=n-1Pni=1xir。假设E[max1≤r≤R | xir |]<∞ 对于每个i=1，n

如果n→ ∞带对数（R）/n→ 0，然后最大值1≤r≤R(R)xr-E[(R)xr]= op（1）。证据根据马尔可夫不等式，Pr（max1≤r≤R |(R)xr- E*[(R)xr]|≥ η) ≤ η-1E（最大值1≤r≤R |(R)xr- E[(R)xr]|）表示任何η>0。因此，必须显示E（max1≤r≤R |(R)xr- E[(R)xr]|）→ 0作为n→ ∞. Wedenote通过条件期望E*[·]：=E[·| zn]。通过三角不等式，我们得到(R)xr-E[(R)xr]≤(R)xr- E*[(R)xr]+E*[(R)xr]- E[(R)xr].由于'xris以zn为相同分布条件，应用Jensen不等式可得到E（max1≤r≤R | E*[(R)xr]- E[(R)xr]|）≤ （E | E*[(R)xr]- E[(R)xr]|）1/2≤ （n）-1E【xir】）1/2。n-1/2.因此，必须表明最大值1≤r≤R |(R)xr- E*[(R)xr]|= o（1）。要使用对称化技术，让ε，εnbe独立的Rademacher随机变量，独立于zn和un，R。给定以zn为条件的独立序列{xir}，引理2.3.1 invan der Vaart和Wellner（1996）意味着*hmax1≤r≤R(R)xr- E*[(R)xr]我≤ 2n个-1E级*hmax1≤r≤RnXi=1εixiri、 A-4By引理2.2。2和2.2.7在范德法特和韦尔纳（1996年），我们有最大值1≤r≤RnXi=1εixirzn、un、R. 最大值1≤r≤RnXi=1xir1/2（对数R）1/2。通过Fubini定理和Jensen不等式，我们得到了EHMax1≤r≤R(R)xr- E*[(R)xr]i、 n个-1.Ehmax1≤r≤RnXi=1xiri1/2（对数R）1/2。对数Rn1/2，其中最后一个不等式成立，因为n-1E[最大值1≤r≤RPni=1xir]≤ E[最大值1≤r≤R | xir |]<∞.给定对数（R）/n→ 0，预期结论如下。对于每个r=1，R、 定义函数Mrn：Θ×B→ Rdβ，由mrn（θ，θ）给出*, β） ：=n-1nXi=1TXt=1mrit（θ，θ*, β).估计量^βr（θ，θ*) 是方程Mrn（θ，θ）的解*, β） =0，给定（θ，θ*) ∈ Θ. 下面的引理建立了^βr（θ，θ）的性质*).引理A.5。支持假设1-4。如果m（y，z，β）在β中对任何（y，z）连续二次微分∈ Y×Z和d（对数R）/n→ 0。那么l ∈ {0，1，2}，作为n→ ∞,lθ^βr（θ，θ*)|θ =θ*p→ lθβ(θ*),均匀in（θ，r）∈ Θ×{1，…，R}。证据

考虑^βr（θ）的一致一致性*, θ*) 至β（θ*). 对于任何θ*∈ Θ和r=1，R、 它源自^βR（θ）的定义*, θ*) 那个Mrn公司θ*, θ*, β(θ, θ*)-Mrn公司θ*, θ*,^βr（θ，θ*)≥ 0。（A.6）设δ>0为任意常数。M（θ）的连续性*, β） inβ∈ B意味着∈ {1，…，R}带k^βR（θ*, θ*) -β(θ*)k>δ，存在>0，使得Mθ*,^βr（θ*, θ*)-Mθ*, β(θ*)> 2，与（A.6）和三角形不等式一起，意味着supθ*∈Θmax1≤r≤Rk^βr（θ*, θ*) - β(θ*)k>δ≤ 公关部最大值1≤r≤Rsup（θ*,β)∈Θ×BkMrn（θ*, θ*, β) - M（θ*, β） k>.给定紧致参数空间，可以证明，对于任意小的δ>0，max1≤r≤Rsup（θ*,β)∈NδkMrn（θ*, θ*, β) - M（θ*, β） k=op（1），（A.7）为n→ ∞, 式中，Nδ：=N1，δ×N2，δ 带supθ、θ的Θ×B∈N1，δkθ-θk≤ δ和supβ，β∈N2，δkβ-A-5βk≤ δ. 固定δ>0并定义ur-n、 δ：=n-1nXi=1inf（θ*,β)∈Nδmrit（θ*, θ*, β） 和ur+n，δ：=n-1nXi=1sup（θ*,β)∈Nδmrit（θ*, θ*, β).三角不等式的一个应用得到了thatmax1≤r≤Rsup（θ，θ*,β)∈NδkMrn（θ*, θ*, β) - M（θ*, β） k级≤ 最大值1≤r≤Rur-n、 δ-E[ur-n、 δ]+ 最大值1≤r≤Rur+n，δ- E[ur+n，δ]+2最大值1≤r≤RE[ur+n，δ]- E[ur-n、 δ].引理A.4意味着max1≤r≤Rkur±n，δ-E[ur±n，δ]k=op（1）作为n→ ∞ . 此外，类似的ar gumentin命题1表明max1≤r≤RkE[ur+n，δ]- E[ur-n、 δ]k→ 0为δ→ 因此，（A.7）如下，结果如下l = 0.接下来，我们考虑第一个导数。估计量^βr（θ，θ*) 满足Mrnθ, θ*,^βr（θ，θ*)=每r=1，…，为0，R、 取隐函数对θ的一阶导数，我们得到θMrnθ, θ*,^βr（θ，θ*)+ βMrnθ, θ*,^βr（θ，θ*)θ^βr（θ，θ*) = 0

（A.8）使用相同的论证证明（A.7），我们可以应用Jennrich（1969）中的largenumbers统一定律的论证以及引理A.4中的结果，以获得βMrn（θ，θ*, β)|θ =θ*p→ βM（θ*, β） ，（A.9）均匀分布在两个（θ*, β) ∈ Θ×B和r=1，R、 自^βR（θ*, θ*)p→ β(θ*) 均匀in（θ*, r）∈ Θ×{1，…，R}，我们有βMrnθ*, θ*,^βr（θ*, θ*)概率收敛于非奇异矩阵βMθ*, β(θ*)均匀in（θ*, r）∈ Θ×{1，…，R}。同样，可以看出θMrnθ, θ*,^βr（θ*, θ*)|θ =θ*p→ θMθ*, β(θ*)均匀in（θ*, r）∈ Θ×{1，…，R}。这与（A.8）-（A.9）和引理A.3（b）一起意味着期望的结果。类似的论证可以显示二阶导数部分，因此我们省略了细节。定理1的证明。我们首先表明，结果表明l = 首先，我们考虑qlmn（θ，θ）。使用类似的参数t to L emma a.5，我们可以证明^βp→ β. 同样，从命题1，我们得到Mn（θ，θ，β）p→ M（θ，β）均匀覆盖在（θ，β）上∈ Θ×B.因为Ohmnp公司→ Ohm 在假设4（c）下，QLMn（θ，θ）到QLM（θ）的一致收敛如下。现在，考虑QWn（θ，θ）。引理A.5，’βR（θ，θ）p→ β（θ），一致于θ∈ Θ. 因此，通过假设4（c），我们可以得出结论，QWn（θ，θ）一致收敛于QW（θ）。接下来，我们证明了期望的结论适用于两个标准函数的一阶导数。可以使用类似的参数来证明二阶导数的结果，为了简洁起见，我们省略了细节。首先，我们考虑LM准则函数。QLMn的一阶导数（θ，θ*) 由给出θQLMn（θ，θ*)|θ =θ*= 2.θMn（θ，θ*,^β)|θ =θ*′OhmnMn（θ*, θ*,^β），A-6及其人口对应物为θQLM（θ*) = 2[θM（θ*, β)]′OhmM（θ*, β).使用引理a.5中的类似论点，我们可以证明^βp→ βas n→ ∞. 因此，命题1意味着θMn（θ，θ*,^β)|θ =θ*p→ θM（θ*, β） θ中的均匀mly*∈ Θ.

此外，命题1中使用的类似论证表明，Mn（θ*,^β）p→ M（θ*, β） θ内均匀*∈ Θ. 这些结果的条件是Ohmnp公司→ Ohm 根据假设4（c），得出期望的结论。接下来，我们考虑Wald方法。QWn的一阶导数（θ，θ*) 由给出θQWn（θ，θ*)|θ =θ*= 2.θ′βR（θ，θ*)|θ =θ*′OhmnβR（θ*, θ*) -^β,引理A.3（b）意味着它的种群对应物是θQW（θ*) = 2.θβ(θ*)′Ohmβ(θ*) - β,哪里θβ(θ*) = -βMθ*, β(θ*)-1.θMθ, β(θ*)|θ =θ*. 根据定义，我们有βR（θ*, θ*) = R-1RXr=1^βr（θ*, θ*) 和θ′βR（θ，θ*)|θ =θ*= R-1RXr=1θ^βr（θ，θ*)|θ =θ*.引理A.5，’βR（θ*, θ*)p→ β(θ*) 通过重复引理A.5中的论点θ′βR（θ，θ*)|θ =θ*,我们可以得到类似的结果，即θ′βR（θ，θ*)|θ =θ*p→ θβ(θ*) θ内均匀*∈ Θ. 给定^βp→ β和Ohmnp公司→ Ohm 根据假设4（c），我们可以得出结论θQWn（θ，θ*)|θ =θ*p→ θQW（θ*)θ内均匀*∈ Θ. 定理2的证明。设（Q，Qn，^θ）表示（QW，QWn，^θW）或（QLM，QLMn，^θLM）。根据假设4（b）或引理A.3（b）的结果，对于kθ下的每个δ>0-θk≥ δ、 存在>0这样Q（θ）- Q（θ）≥ . 这意味着，对于任何δ>0，存在一个n>0，使得k^θ- θk≥ δ≤ 公关部Q（^θ）- Q（θ）≥ .因此，必须证明Q（^θ）- Q（θ）=op（1）。作为Qn（θ，θ）的最小值，估计量^θ满足Qn（θ，θ）- Qn（^θ，^θ）≥ 因此，应用三角形不等式得到| Q（^θ）- Q（θ）|≤ |Qn（^θ，^θ）- Q（θ）+Qn（θ，θ）- Q（θ）|。上述方程的右侧从上方以2 supθ为界∈ΘQn（θ，θ）-Q（θ）|，概率收敛到0 a s n→ ∞ 根据定理1（带l = 0). 引理A.6。假设假设1-5成立并记录（R）/n→ ∞ 作为n→ ∞. 此外，对于任何（y，z），由于sumethat m（y，z，β）在β中是连续可区分的∈ Y×Z和βMθ, β(θ)isA-7对于某些常数δ>0，在Nδ（θ）附近的非奇异性。

然后√n^βr（θ，θ）- β(θ)= -βMθ, β(θ)-1.√nMrn公司θ, θ, β(θ)+ oP（1），均匀in（θ，r）∈ Nδ（θ）×{1，…，R}。证据对于每个r=1，R，估计量βR（θ，θ）是方程Mrn（θ，θ，β）=0，g ivenθ的解∈ Θ. 对于任何θ∈ Θ和r∈ {1，…，R}，泰勒展开式屈服强度0=√nMrn公司θ, θ, β(θ)+ βMrnθ、 θ，￠βr（θ）√n^βr（θ，θ）- β(θ),式中，^βr（θ）介于^βr（θ，θ）和β（θ）之间。正如引理A.5的证明所解释的，我们可以证明βMrn（θ，θ，βr）p→ βM（θ，βr）在（θ，βr）中均匀分布∈ Θ×B和r∈ {1，…，R}。伦马。5表示￠βr（θ）p→ β（θ）在（θ，r）中均匀分布∈ Θ×{1，…，R}。因此βMrnθ、 θ，￠βr（θ）收敛到非奇异矩阵βMθ, β(θ). 因此，理想的结论成立。定理3的证明。设（^θ，Qn，Q）为（^θLM，QLMn，QLM）或（^θW，QWn，QW）。假设估计量^θ满足θQn（θ，^θ）|θ=^θ=op（n-1/2). 泰勒展开式得到thaop（1）=√nθQn（θ，^θ）|θ=θ+θQn（θ，^θ）|θ=°θ√n（^θ）- θ） ，其中，θ介于θ和θ之间。定理1与定理2中^θ的一致性意味着θQn（θ，^θ）|θ=°θp→ θQ（θ）。我们有√n（^θ）- θ) = -θQ（θ）-1.√nθQn（θ，^θ）|θ=θ+op（1）。对于黑森人θQ（θ），我们可以证明θQLM（θ）=2′Ohm 和θQW（θ）=2Γ′OhmΓ. （A.10）仍需考虑√nθQn（θ，^θ）|θ=分布中的θ。首先，我们考虑LM估计量。我们可以证明√nθQLMn（θ，^θLM）|θ=θ=2θMnθ、 θLM，β|θ =θ′Ohmn√nMn公司θ、 θLM，β= 2.θMθ, β′Ohm√nMn公司θ、 θLM，β+ op（1），其中第二个等式根据命题1和假设4（c）成立。引理A.7表示映射（θ，β）→ Mn（θ，θ，β）是随机等连续的：存在一个δ>0，使得sup（θ，β）∈Nδ{Mn（θ，θ，β）- E[锰（θ，θ，β）]}- {Mn（θ，θ，β）- M（θ，θ，β）}= op（n-1/2），对于每个邻域Nδ Θ×B满足kθ- θk≤ δ和kβ- βk≤ 任意（θ，β），（θ，β）的δ∈ Nδ。