自适应套索的Oracle性质和有限样本推断

最后，主动变量的错误拒绝比例在0.02到0.035之间，接近测试α的水平。设置5：p=1，p=20，p=0，GARCH误差项和相关回归项。最后，我们研究了具有持续时间序列回归和具有异质预测强度的相关协变量的自适应套索程序的准确性。为此，我们根据模型（1）生成了N=5000个样本，其参数值与前一设置相同。我们假设i=1，20和t=1，n、 Wi，t~ N（0，1），具有从集合中选择的成对同期相关性{-0.5; 0; 0.5; 0.9}. 最后，对于误差项，我们假设（7）-（8）中定义的GARCH表示。模拟样本量分别为800和1600。这种设置与我们在下面第6节中分析的经验数据的特征非常相似。表5总结了与前一次分析相同的分析结果。同样，模拟的结果和结论与之前讨论的其他设置类似。[关于这里的表5。]总之，蒙特卡罗法在不同的设置下得出的结果证实，自适应套索为检验零假设H0，i:θ提供了一种有效的方法*i=0，i=1，p、 6实证说明我们在泰勒型货币政策模型中考虑短期利率与经济状况之间的关系，即短期利率的线性回归模型，该模型尽可能将所有宏观经济和金融变量（如通货膨胀、失业、工业生产或货币变量）作为回归变量。

宏观经济数据是从费城联邦储备银行（Federal Reserve Bank of Philadelphia）下载的，是宏观经济学家实时数据集（Real Time Data Set for Macroeconomics）数据库的一部分，该数据库由最相关的宏观经济变量的年份组成。在我们的研究中，我们使用了2013年底的葡萄酒。考虑的时间段为1959年1月至2012年12月，共648个月的观测。我们收集了15个宏观经济变量的数据，包括：-价格水平指数：生产价格指数（PPPI）；-货币和金融：M1货币存量（M1）、M2货币存量（M2）、货币基础（BASEBASA）、总准备金（TRBASA）、非借款准备金（NBRBASA）；-工业生产和产能利用率：制造业产能利用率（CUM）、工业总生产指数（IPT）；一些原始变量被排除在分析之外，因为它们与我们考虑的其他变量几乎完全共线。-住房：住房开工（HSTARTS）；-劳动力市场：非农就业（雇佣）、每周总工时生产（HG）、平民劳动力（LFC）、参与率、建筑（LFPART）、平民非机构人口（POP）、失业率（RUC）。因变量为美国3个月短期利率。数据从不同来源下载：从1959年到1969年底，从MacCulloch下载；从1970年到1981年底，从Fama Bliss（CRSP）下载；从美联储理事会（Federal Reserve System）下载到2013年底的最后期限（3个月国库固定到期利率）。在需要的地方，所有变量都进行了季节性调整。为了考虑短期利率的时间序列动态，我们将第一个滞后短期利率值作为预测因子纳入回归。因此，我们在模型（1）中有p=1，p=15，p=0。在表6中，我们报告了自适应套索点估计。

根据BIC选择调谐参数λnis。[关于这里的表6。]应用推论4.1，我们检验了零假设H0，i:θ*i=0，i=1，16，（15个回归系数和第一个滞后短期利率作为预测因素）。如表6第2列所示，使用自适应套索测试程序与零显著不同的唯一变量是滞后缩短率、生产者价格指数和失业率。有趣的是，还有其他变量与自适应套索估计值不同于零。如果不使用本研究中介绍的检测程序，我们就无法将其归类为假阳性。这一结果并不令人惊讶。事实上，我们发现的具有统计意义的预测因子属于自适应套索程序确定的活跃变量集，这些预测因子通常也被认为与短期利率的泰勒规则货币政策模型的经济相关。根据这一规则，中央银行根据以下等式设置名义短期利率rt=γ+ρrt-1+γππt+γggt+εrt，其中πt是产出缺口，εrti是一系列独立且正态分布的创新，其均值为零，方差为σr。因此，我们的结果为这一经济直观规则增加了纯粹的统计基础（从回归中变量选择的角度）。

此外，活跃变量系数的符号和（部分）大小与文献一致，即通货膨胀与短期利率之间存在正相关关系，失业与短期利率之间存在负相关关系，短期利率动态具有高度持续性。重要的是要强调，如果没有检验H0，i:θ型零假设的理论，这个结果是不可能的*i=θ*0i为备选方案H1，i:θ*i6=θ*0i，对于某些θ*0i∈ R、 在本研究中开发。事实上，使用自适应套索和经典的全最小二乘估计（其结果汇总在表6的第4列中），我们会发现更活跃的变量，完全失去泰勒公式背后的经济直觉，结果的解释非常困难。7结论我们给出了时间序列回归模型中自适应套索的有限样本和渐近性质的新理论和实证结果。我们沿着两条主线扩展了文献中呈现的先前结果：（i）从分析上计算偏差修正项，用于对自适应套索中的活动变量进行有限样本推断，以及（ii）引入简单、保守的，但对于零假设的有效检验程序是，在具有固定收缩量的自适应套索模型中，参数等于零。通过对候选变量数量、不同误差分布、不同样本大小以及卵巢间不同相关结构的广泛蒙特卡罗模拟，我们展示了有限样本中测试程序的准确性。

此外，我们在一个更复杂的模拟实验中验证了我们的程序，在该实验中，我们放松了对误差的假设，我们还从经验上证实了理论结果，并表明该方法可以防止这种偏离标准设置的情况。这一结果并不令人惊讶，并证实了Medeiros和Mendes（2012）和Kock（2012）最近的发现和讨论。最后，我们在一个关于短期利率动态与（宏观）经济之间关系的实证应用中研究了新测试程序的含义。为此，我们考虑了泰勒规则货币政策模型，在该模型中，我们让适应性套索从大量宏观经济和金融预测中选择相关预测，将其放入活动集中。然后，我们使用新的程序进行测试，以确定所有剩余的活动变量是否具有与零显著不同的相应系数。与所有变量的完全最小二乘法相比，通过我们的测试程序确定的系数不同于零的唯一变量是通货膨胀指标、失业率和滞后于短期利率的变量。我们将这一结果解释为对泰勒规则的统计确认。例如，参见Filipova等人（2013）及其参考文献。我们的理论结果是通用的，可以应用于广泛的iid和时间序列应用，特别是当研究人员必须在许多候选变量中进行变量选择和推断时。经典的例子是已实现波动率建模、超额收益或通货膨胀预测。此外，根据本研究证明的理论结果，可以设想进行有限样本推理的替代方法。

本着Chatterjee和Lahiri（2011）以及Chatterjee和Lahiri（2013）最近提出的工作精神，我们计划开发可应用于（自适应）套索的自举模拟技术，以对产生的参数进行有限样本测试。最后，我们计划调查我们介绍的理论是否可以推广到变量数量随着样本量和/或处理比观察更多变量的应用程序的增加而增加的情况。这是留给未来研究的。参考文献：W.K.安德鲁斯和古根伯格，P.（2010）。渐近大小和一个带有子采样和n取m自举的问题。计量经济学理论，26426-468。Ang，A.，Bekaert，G.，和Wei，W.（2008）。实际利率和预期通货膨胀的期限结构。《金融杂志》，64797-849。Ang，A.和Piazzesi，M.（2003年）。具有宏观经济和潜在变量的期限结构动力学的无套利向量自回归。《货币经济学杂志》，50745-787。Audrino，F.和Knaus，S.（2012）。套住HAR模型：基于已实现波动动力学的模型选择视角。圣加仑大学，SEPS讨论论文系列。Bühlmann，P.和van de Geer，S.（2011年）。高维数据统计：方法、理论和应用。统计中的斯普林格系列，海德堡斯普林格。Chatterjee，A.和Lahiri，S.N.（2011）。自举套索估计器。美国统计协会杂志，106608-625。Chatterjee，A.和Lahiri，S.N.（2013年）。自适应LASSO估值器对Oracle分布和高阶自举函数的收敛速度。《统计年鉴》，411232-1259。克拉里达，R.，加利，J.，和格特勒，M.（2000）。货币政策规则与宏观经济稳定性：证据和一些理论。《经济学季刊》，115147180。Dewachter，H.和Lyrio，M.（2006）。

宏观因素和利率期限结构。《货币、信贷和银行杂志》，38119-140。范，J.和李，R.（2001）。通过非惩罚似然及其性质选择变量。《美国统计协会杂志》，961348-1360。樊，J.和H.Peng（2004）。关于参数个数发散的非惩罚似然。《统计年鉴》，32928-961。菲利波娃，K.，奥德里诺，F.，和德乔治，E.（2013）。货币政策制度：对收益率曲线和债券定价的影响。《金融经济学杂志》，即将出版。Geyer，C.（1994年）。关于约束M-估计的渐近性。《统计年鉴》，22，1993-2010年。许北宏、洪浩和张永永（2008）。向量自回归过程的子集选择使用套索。《计算统计与数据分析》，523645-3657。K.奈特和W.傅（2000）。套索型估计的渐近性。《统计年鉴》，281356-1378。科克，A.B.（2012）。关于平稳和非平稳自回归中自适应套索的预言性质。2012年至2005年在奥胡斯大学撰写研究论文。Kock，A.B.和Callot，L.A.F.（2012年）。高维向量自回归的Oracle不等式。撰写研究论文2012-12，奥胡斯大学。贾文马尔，A.和蒙塔纳里，A.（2013）。高斯随机设计模型下高维回归的假设检验：渐近理论。ArXiv电子指纹。Lehmann，E.和Romano，J.（2005年）。检验统计假设。斯普林格·维拉格。洛克哈特，T.泰勒，J.，蒂布什拉尼R.J.，和蒂布什拉尼R.（2013）。套索的重要测试。ArXiv电子指纹。Medeiros，M.C.和Mendes，E.F.（2012年）。估计高维时间序列模型。撰写研究论文2012-37，奥胡斯大学。Moench，E.（2008）。在数据丰富的环境中预测收益率曲线：无套利因子增强的VAR方法。

《计量经济学杂志》，146，26-43。Y.纳尔迪和A.里纳尔多（2011）。通过套索程序进行自回归过程建模。多变量分析杂志，102528-549。朴槿惠，H.和Sakaori，F.（2012年）。时间序列模型的滞后加权套索。计算统计，即将出版。Rudebusch，G.（2010）。利率和经济的宏观金融模型。曼彻斯特学校，7，25-52。Song，S.和Bickel，P.J.（2011）。大向量自回归（2011）。ArXiv电子指纹。泰勒，J.B.（1993年）。自由裁量权与实践中的政策规则。卡内基-罗切斯特公共政策系列会议，39195-214。Tibshirani，R.（1996年）。通过套索进行回归分析和选择。皇家统计学会杂志，B辑，58267-288。王浩、李庚和蔡志强（2007）。回归系数和自回归顺序收缩和通过套索选择。英国皇家统计学会杂志，B辑，69,63-78。赵，P.和于，B.（2006）。关于套索的模型一致性。机器学习研究杂志72541-2563。邹浩（2006）。自适应套索及其oracle属性。《美国统计协会杂志》，1011418-1429。附录：定理3.1的定理证明：首先我们推导了自适应套索的极限分布。特别是，我们采用了与邹（2006）中定理2的证明相同的论点。最后，我们用这个结果来证明（I）变量选择，并计算（II）极限分布中的偏差项。LetRn（u）=nXt=1(T- uZt/√n）- T+ λnpXi=1λn，i|θ*i+ui/√n|- |θ*我|.请注意，RNP在√n（^θAL）- θ*). 此外，我们知道nxt=1(T- uZt/√n）- T→D-2uW+uCu，其中W~ N（0，Ohm). 现在，考虑第二项λnPpi=1λn，i[|θ]的极限*i+ui/√n|- |θ*我|]。如果θ*i6=0，则λn，i→ |θ*我|-1，因此λnλn，i[|θ*i+ui/√n|- |θ*我|]→ 0

如果θ*i=0，那么|θ*i+ui/√n|- |θ*i |=ui/√n、 而且λnλn，i=λnC，其中C/√n=Op（1）。设R（u）表示Rn（u）的极限。然后，我们可以得出结论R（u）=(-2uAWA+uACAuAif ui=0，对于i/∈ A.∞ 否则，WA在哪里~ N（0，OhmA） 及OhmAis的子矩阵Ohm 对于非零系数。注意Rn是凸的，R的唯一最小值是（（CA）-1WA，0）。因此，Geyer（1994）认为√N^θAAL- θ*A.→dN（0，VA），√n^θAcAL→d0，式中，注意零系数θ的自适应套索估计*Acofθ*.利用这个结果，我们可以证明（I）变量选择。我们采用了与范和鹏（2004）中引理5的证明相同的论点。LetQ（θ）=nnXt=1（Yt- θZt）+λnnpXi=1λn，i |θi |。通过滥用符号，我们写出θ*= (θ0*A、 θ0*Ac）。我们证明了在概率趋于1的情况下，对于任何^θ为满足的k^θA- θ*Ak=Op（1）/√n） 任何常数C，Q（（θ0A，0））=mink^θAck≤C/√nQ（（θ0A，θ0Ac））。为此，为了j/∈ 考虑一下Q（θ）θj=-nnXi=1（Yt）- θZt）Z（j）t+λnnλn，jsign（θj）=j+j，其中Z（j）t表示向量Zt的j分量。注意J=Op（1/√n） ，而主项是J，因为（i）λn→ +∞ 和（ii）λn√N→ 因此，θj的符号决定了Q（θ）θj.更准确地说，我们有Q（θ）θj<0，当-n<θj<0。Q（θ）θj>0，当0<θj<n、 这就是（I）变量选择的证明。最后，利用这些结果，我们可以关注（II）极限分布，并推导出biasterm。注意，对于足够大的n，对于j∈ A我们有Q（θ）θj=-nnXi=1（Yt）-θALZt）Z（j）t+λnnλn，jsign（θAL，j）=0。（9） 此外，对于足够大的n^θAL，j=0表示j/∈ A.因此，我们可以用矩阵形式0=nnXi=1（Yt）重写q方程（9）-^θAALZAt）ZAt- 其中∧AAL=（λnnλn，1sign（^θAAL，1），λnnλn，qsign（^θAAL，q））。现在考虑一下术语npni=1（Yt-^θALZt）Zt。θ附近的泰勒展开式*yieldsnnXi=1（Yt-^θALZt）Zt=nnXi=1（Yt- θ0*Zt）Zt-nnXi=1ZtZt（^θAL）- θ*).

（11） 再一次，因为θAL，j=θ*j=0表示j/∈ A和n足够大，从（11）可以看出nnxi=1（Yt-^θ0AALZAt）ZAt=nnXi=1（Yt- θ0*AZAt）ZAt-nnXi=1ZAtZ0At（^θAAL）- θ*A） 。（12） 因此，通过组合（10）和（12），我们得到了0=nnXi=1（Yt）- θ0*AZAt）ZAt-nnXi=1ZAtZ0At（^θAAL）- θ*（A）- ∧AAL，即。，√n（θAAL）- θ*A） =nnXi=1ZAtZ0At！-1.√nnXi=1（Yt）- θ0*AZAt）ZAt-√n∧AAL！。自λn√N→ 0，对于j∈ A、 λn√nλn，jsign（^θAL，j）→ 0.因此，√N^θAAL- θ*A.+^bAAL→dN（0，VA），其中偏差项由^bAAL=nnXi=1ZAtZ0At！-1.λn√nλAn，1符号（θAAL，1），λn√nλAn，qsign（^θAAL，q）,证据到此结束。定理4.1的证明：为了证明定理4.1，我们使用了与Knight and Fu（2000）中定理2的证明相同的参数。更准确地说，letRn（u）=nXt=1(T- uZt/√n）- T+ λnpXi=1λn，i|θ*i+ui/√n|- |θ*我|.请注意，RNP在√n（^θAL，λn）- θ*). 此外，nXt=1(T- uZt/√n）- T→D-2uW+uCu，λnp+rXi=1λn，i|θ*i+ui/√n|- |θ*我|→pXi=1λ0，i | ui |。因此，Rn（u）=> R（u）as n→ ∞.