关于概率评估的集合：正则混合

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《On the Aggregation of Probability Assessments: Regularized Mixtures of
  Predictive Densities for Eurozone Inflation and Real Interest Rates》
---
作者：
Francis X. Diebold, Minchul Shin, and Boyuan Zhang
---
最新提交年份：
2021
---
英文摘要：
  We propose methods for constructing regularized mixtures of density forecasts. We explore a variety of objectives and regularization penalties, and we use them in a substantive exploration of Eurozone inflation and real interest rate density forecasts. All individual inflation forecasters (even the ex post best forecaster) are outperformed by our regularized mixtures. From the Great Recession onward, the optimal regularization tends to move density forecasts\' probability mass from the centers to the tails, correcting for overconfidence.
---
中文摘要：
我们提出了构造正则混合密度预测的方法。我们探讨了各种目标和正规化惩罚，并将其用于欧元区通胀和实际利率密度预测的实质性探索。所有单个通胀预测者（即使是事后最好的预测者）的表现都优于我们的规则化混合预测。从大衰退开始，最优正则化倾向于将密度预测的概率质量从中心移到尾部，纠正过度自信。
---
分类信息：

一级分类：Economics        经济学
二级分类：Econometrics        计量经济学
分类描述：Econometric Theory, Micro-Econometrics, Macro-Econometrics, Empirical Content of Economic Relations discovered via New Methods, Methodological Aspects of the Application of Statistical Inference to Economic Data.
计量经济学理论，微观计量经济学，宏观计量经济学，通过新方法发现的经济关系的实证内容，统计推论应用于经济数据的方法论方面。
--
一级分类：Quantitative Finance        数量金融学
二级分类：General Finance        一般财务
分类描述：Development of general quantitative methodologies with applications in finance
通用定量方法的发展及其在金融中的应用
--
一级分类：Statistics        统计学
二级分类：Applications        应用程序
分类描述：Biology, Education, Epidemiology, Engineering, Environmental Sciences, Medical, Physical Sciences, Quality Control, Social Sciences
生物学，教育学，流行病学，工程学，环境科学，医学，物理科学，质量控制，社会科学
--

---
PDF下载：
--> On_the_Aggregation_of_Probability_Assessments:_Regularized_Mixtures_of_Predictiv.pdf (3.05 MB)

2022-4-26 15:31:13 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：econometrics Applications Quantitative Constructing epidemiology

关于概率评估的聚合：尿酮通胀和实际利率预测密度的正则化混合Francis X.Diebold宾夕法尼亚大学新竹联邦储备银行费城张元宾夕法尼亚大学2021年1月6日摘要：我们提出了构建密度预测正则化混合的方法。我们探讨了各种目标和正规化惩罚，并将其用于欧元区通货膨胀和实际利率密度预测的实质性探索。所有独立的通货膨胀预测者（即使是事后最好的预测者）的表现都优于我们的常规输入。从大衰退开始，最优正则化倾向于将密度预测的概率质量从中心移动到尾部，从而纠正过度自信。致谢：对于乌穆特·阿科瓦利、布伦丹·比雷、格雷厄姆·埃利奥特、罗布·恩格尔、多梅尼科·吉安诺、克里斯蒂安·汉森、努尔·梅德达希、迈克·麦克拉肯、马塞洛·梅德罗斯、詹姆斯·米切尔、琼·帕克、哈森佩萨兰、扬基·申、迈克·韦斯特和肯·沃尔平，我们非常感谢。我们也感谢欧共体的会议参与者，以及KAEA和AMLEDS的研讨会参与者。本文中表达的观点仅为作者的观点，不一定反映费城联邦储备银行或联邦储备系统的观点。关键词：密度预测、预测组合、调查预测、收缩、模型选择、正则化、部分平均主义套索、模型平均、子集平均Jel代码：C2、C5、C8联系人：fdiebold@sas.upenn.edu，明丘。shin@phil.frb.org1简介y系列的预测组合包括将一组y，f=（f，…，fK）预测转换为“组合”预测c（f），希望更优。

大多数hugeliterature侧重于单变量点预测的线性组合，在这种情况下，我们可以将组合预测写成c（f；ω）=ωf，用于组合权重向量ω=（ω，…，ωK）。我们通常在二次损失下进行，选择权重以最小化四次组合预测误差（SSE）、SSE（c（f；ω），y）=TXt=1（yt）之和- ωft），其中预测和实现的样本包括t=1。。。，T也就是说，我们只是简单地运行最小的平方回归→ FfK，所以ω=arg minωSSE（c（f；ω），y）.这是经典的Bates and Granger（1969）和Granger and Ramanathan（1984）解决方案。然而，最近的点预测组合文献，如Diebold和Shin（2019年），则侧重于解决惩罚估计问题的权重，即ω=arg minω目标（c（f；ω），y）+λ·P能（ω）, （1） 其中，拉格朗日乘数λ控制惩罚的强度。维持二次损失，我们有^ω=arg minωSSE（c（f；ω），y）+λ·P enalty（ω）.如果λ=0，我们显然得到了Bates-Granger-Ramanathan解，但最近的文献主要关注λ>0。这就产生了正则化，这在通常具有实际意义的有限样本中非常有价值，尤其是对于经济调查预测，其中样本量T通常相对于预测者K的数量非常小。惩罚的精确性决定了正则化的精确形式，但总的来说，它涉及选择和/或在惩罚引导下的收缩。例如，Tibshirani（1996）著名的套索惩罚，P enalty（ω）=PKk=1 |ωk |，导致选择广泛而有见地的调查，包括Timmermann（2006）、Elliott和Timmermann（2016）以及Aastveitet al。

(2020).我们假设预测是无偏的，所以不需要截取。收缩到0。本文将正则化预测组合的思想推广到密度预测中。密度预测很重要，因为预测密度是完全的概率陈述，这总是可取的，有时是无价的，而且越来越有用。例如，密度预测提供的信息比区间预测多得多，区间预测又比点预测提供更多的信息。我们使用“线性意见库”（混合），如Halland Mitchel（2007）、Geweke和Amisano（2011）以及Amisano和Geweke（2017）的主要贡献，但我们考虑了各种评估目标，最重要的是，我们引入了正则化约束。我们的正则化密度预测组合是正则化的混合物，在为混合物正则化构造适当的惩罚时出现了重要的微妙之处。本文针对这种情况，提出了几种解决方案。我们的方法与计量经济学和统计学文献中早期和当前的工作相关。我们的工作和许多近期文献的一个基本观点是，传统上采用的贝叶斯模型平均（BMA）对于从误判模型中组合密度预测不具有吸引力，因为它无法确认误判（Diebold，1991）。也就是说，它隐式或显式地假设其中一个模型为“真”，在这种情况下，后验预测密度渐近地将所有概率置于该模型上，因此BMA实际上无法平均。

相反，一旦我们认识到所有模型都是错误的，我们就需要一种能够提供防御和多样化的模型组合（加权平均）的方法，即使是渐进的。在一组计量经济学文献中，这导致霍尔和米切尔（2007）、布罗迪等人（2009）、格韦克和阿米萨诺（2011）以及阿米萨诺和格韦克（2017）离开了BMA，转而与优化对数分数的线性意见库合作。在与BMA不同的计量经济学文献中，Billioet al.（2013）将密度预测组合视为非线性过滤问题，可能具有时变混合权重。统计文献中的平行发展现在承认了误判，区分了“M-开放”和“M-完整”的情况，并通过“叠加”预测密度（Yao等人，2018年）或通过“动态贝叶斯预测合成”（McAlinn和West，2019年）实现了密度预测混合的多样化。我们从那里接起，并按如下方式进行。在第2节中，我们讨论了混合正则化的目标，即与目标（c（f；ω），y）相关的各种选择和问题。此外，正如Askanazi等人（2018年）和Brehmer and Gneiting（2020年）最近的工作所述，区间预测的评估从根本上是有问题的。然后在第3节中，我们讨论了与P enalty（ω）相关的选择和问题，从关键单元单纯形惩罚开始，我们始终保持这种惩罚，然后介绍混合单纯形惩罚与其他惩罚的混合惩罚。在第4节中，我们介绍了蒙特卡洛证据，说明我们的程序的有效性。在第5节中，我们展示了欧洲中央银行（ECB）对欧元区通货膨胀和实际利率的调查密度预测的实证结果。

我们在第6.2节目标中得出结论，考虑标量变量y的离散密度（直方图）预测，其取值为m=1。。。，垃圾箱或分类。用p=（p，…，pM）表示预测。在第2.1-2.3节中，我们从单个预测者在单个时段的密度预测“分数”开始，在第2.4节中，我们将讨论扩展到多个预测者和时段，并在第2.5.2.1节中提供额外的讨论日志分数日志分数（Good，1952；Winkler和Murphy，1968）isL（p，y）=- logMXm=1pm1（y∈ bm）！，（2） 式中，pmi是分配给bin bm的概率，1（y∈ bm）=1如果y∈ 否则为0。按L排序的密度预测，越小越好，反映了对“小惊喜”的偏好。在频率解释中，L只是实现时评估的测井预测密度的（负值）；也就是说，它是预测对数可能性的（负值）。在阿巴耶斯的解释中，L是一个严格正确的评分规则。2.2 Brier评分Brier评分（Brier，1950）是：我们主要关注离散案例，因为它对我们最终分析的调查预测具有实际意义。当然，对于连续的案例，也存在类似的发展。关于评分规则，请参见Gneiting和Raftery（2007）及其参考文献。B（p，y）=MMXm=1（pm- 1（y）∈ bm）。Brier评分将二次损失的概念推广到密度预测。实际上，与所谓的“二次得分”Q（p，y）实际上是一样的-2MXm=1pm1（y∈ bm）+MXm=1pm！，（3） 如Czado等人（2009年）所述。Q的排名必须与B的排名相匹配，因为一个是另一个的正单调变换。

在弱条件下，B和Q都是严格适当的轻蔑规则。2.3排名分数排名分数（Epstein，1969）为，R（p，y）=MXm=1（Pm- 1（y）≤ bm+），其中Pm=Pmh=1p（bh）是密度预测p的cdf，定义在桶bm=[bm]上-, bm+]，m=1。。。，M.R通过将实现情况与cdf预测进行比较，而不是与密度预测进行比较，从而有效地进行分析。R在弱条件下是严格适当的。2.4多个预报员和时间周期请允许我们修改符号，以识别特定预报员k。到目前为止，还没有必要，因为我们只考虑了一个预报员，但很快我们将考虑一组预报员k=1。。。，这只是一个符号上的变化，在相关位置插入“K”下标。另外，让我们写出一组时间段的分数，t=1。。。，T，而不是仅仅一个时期。这只是一段时间的总结。我们有：Lk（pk，y）=TXt=1- logMXm=1pmkt1（yt∈ bm）！！，k=1。。。，KBk（pk，y）=TXt=1MMXm=1pmkt- 1（yt）∈ bm）!, k=1。。。，KRk（pk，y）=TXt=1MXm=1Pmkt- 1（yt）≤ bm+）!, k=1。。。，K、 其中pk=（pk1，…，pkT）是预报员K随时间变化的密度预测序列，andy=（y，…，yT）是随时间变化的实现序列。2.5讨论到目前为止，我们已经含蓄地强调了L、B和R分数之间的差异，但也有许多相似之处。B、 例如，它可能与高斯环境有关，因为它是一种均方误差模拟，不像L，L直接基于可能性，因此具有极大的通用性。但事实并非如此；实际上，它的“Q版本”（3），Q=-2L+MXm=1pm！，揭示了它与L的密切联系。此外，无论分布环境如何，B仍然是严格正确的评分规则。现在考虑R。

首先，值得注意的是，R是绝对误差损失对密度预测的推广，正如B是平方误差损失对密度预测的推广。特别是，Gneiting和Raftery（2007）表明R由Ep | Y驱动- y |：R（p，y）=Ep | y- y|-Ep|Y- Y |，其中Y和Y是分布为p的随机变量的独立副本。其次，R对密度预测的绝对误差损失（MAE）的推广也使Diebold和Shin（2017）的随机误差距离（SED）得到推广，因为SED和SED排名必须一致，有趣的是，SED是基于cdf差异的，就像R一样。最后，尽管R可能与特定（拉普拉斯）分布环境有关，因为它是一个绝对误差模拟，但事实并非如此。无论分布环境如何，R都是严格正确的评分规则。3.惩罚我们的目标是生成密度预测的混合，c（ω）=KXk=1ωkpk，具有正则化的混合权重ω=（ω，…，ωK）。我们对混合物进行评分的方式与对单个密度预测进行评分的方式相同。唯一不同的是，我们现在对混合物c（ω）进行评分，而不是单独的预测值pk。到目前为止，我们主要关注正则化混合权重估计的适当目标，即目标（c（ω），y），并强调使用严格适当的密度预测规则。现在我们考虑正则化混合权重估计的适当约束，惩罚（ω）。正如我们将看到的，施加单位单纯形约束（即，施加混合权重为非负且和为一：ωi≥0i和pki=1ωi=1）提供了基本的正则化。然而，除此之外，同时施加其他规范化约束也可能有帮助。3.1单纯形单位单纯形约束有两部分：非负性和求和为一。

对于点预测，我们可以放松这两个部分，并有可能实现更好的点预测组合性能，正如Granger和Ramanathan（1984年）所承认的那样，并从那时起一直常规进行。正如布罗迪等人（2009）的开创性工作中首次认识到的那样，密度预测是不同的：当结合密度预测时，施加（两部分）单纯形约束至关重要。首先考虑非消极性。对于点预测，允许负组合权重可以提高绩效，其方式类似于允许金融资产组合中的空头头寸。相比之下，对于密度预测，负权重无疑是有问题的，即使总和为1，也会产生疾病，因为负混合权重会导致部分混合密度为负。现在，我们来考虑一个和。要使混合物组合成为有效的概率密度，需要立即求和为1。此外，单独地，混合权重估计问题的解决方案可以是病态的，而无需将和加为一。另见Yao等人（2018年），他们简要地讨论了与凸面混合权重施加相关的问题。要了解这一点，请考虑一个简单的示例，其中包含两个连续密度预测和一个对数目标。我们有ω=arg minω，ω-TXt=1log（ωf1，t（yt）+ωf2，t（yt））！，式中，fk，t（yt）是预测者i在实现时评估的密度预测，yt。如果没有同一个约束，最优解就无法很好地定义：ω或ω→∞ 或ω→∞导致目标函数值尽可能小，因为f1和f2对于任何yt都是非负的。出于以上所有原因，我们从今往后将非负性和求和性都强加于单纯形约束的一部分。有趣的是，此外，它们的施加不仅是消除病态的必要条件，而且也是提供正规化的理想条件。

特别是，单纯形约束明确规定了一个特定的L“参数预算”；这实际上是套索的一个特例。综合所有因素，具有对数分数目标的基本正则化估计量（Gewekeo和Amisano，2011；Amisano和Geweke，2017）为Arg minω-TXt=1logKXk=1ωkfk，t（yt）！！（4） s.t.ωk∈ （0,1），KXk=1ωk=1。然而，方法上的问题仍然是如何提供额外的、更灵活的正规化，以及实质性情况下具体的经验问题，即额外的正规化是否有用以及在哪里有用。在本文的剩余部分，我们将努力回答这两个问题。3.2单纯形+脊形单纯形正则化是LLASSO正则化的特例，对应于套索正则化参数的特殊选择。因此，我们不能引入额外的规则化。当然，也可以使用其他目标，如第2节前面所述。请注意，对于历史图预测，我们有fk，t（yt）=PMm=1pmkt1（yt）∈ bm）。然而，一些其他类型的额外正则化对于各种原因可能是有用的。一个原因是单纯形约束促进的稀疏性可能不可设计（Giannone et al.，2017），因此我们可能希望将所有K混合权重从0缩小，从而“撤销”套索式Lpenalty中隐含的选择，允许所有预测上的非零混合权重。我们特别关注向等重混合物引入收缩（即所有K重量向1/K收缩）。比如，考虑引入法律法规化。立即，除了单纯形约束之外，结合一个Lpenalty，我们得到：^ω=arg minω-TXt=1logKXk=1ωkfk，t（yt）！|{z}对数分数+λKXk=1ωk-K!| {z}Lpenalty（5） s.t.ωk∈ [0,1]，KXk=1ωk=1。这与Diebold和Shin（2019）的平均主义岭估计相类似，并施加了额外的单纯形约束。