基于神经网络的经济仿真模型贝叶斯估计

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Bayesian Estimation of Economic Simulation Models using Neural Networks》
---
作者：
Donovan Platt
---
最新提交年份：
2019
---
英文摘要：
  Recent advances in computing power and the potential to make more realistic assumptions due to increased flexibility have led to the increased prevalence of simulation models in economics. While models of this class, and particularly agent-based models, are able to replicate a number of empirically-observed stylised facts not easily recovered by more traditional alternatives, such models remain notoriously difficult to estimate due to their lack of tractable likelihood functions. While the estimation literature continues to grow, existing attempts have approached the problem primarily from a frequentist perspective, with the Bayesian estimation literature remaining comparatively less developed. For this reason, we introduce a Bayesian estimation protocol that makes use of deep neural networks to construct an approximation to the likelihood, which we then benchmark against a prominent alternative from the existing literature. Overall, we find that our proposed methodology consistently results in more accurate estimates in a variety of settings, including the estimation of financial heterogeneous agent models and the identification of changes in dynamics occurring in models incorporating structural breaks.
---
中文摘要：
计算能力的最新发展以及由于灵活性的提高而可能做出更现实的假设，导致了模拟模型在经济学中的普及。虽然这类模型，尤其是基于代理的模型，能够复制许多经验观察到的程式化事实，而这些事实不容易被更传统的替代方案恢复，但由于缺乏可处理的似然函数，此类模型仍然难以估计。虽然估计文献不断增长，但现有的尝试主要是从常客的角度来解决这个问题，而贝叶斯估计文献相对来说还不太发达。因此，我们引入了一种贝叶斯估计协议，该协议利用深度神经网络来构建似然近似值，然后我们将其与现有文献中的一个重要替代方案进行比较。总的来说，我们发现，我们提出的方法在各种情况下都能得到更准确的估计，包括对金融异构代理模型的估计，以及识别包含结构突变的模型中发生的动力学变化。
---
分类信息：

一级分类：Economics        经济学
二级分类：General Economics        一般经济学
分类描述：General methodological, applied, and empirical contributions to economics.
对经济学的一般方法、应用和经验贡献。
--
一级分类：Quantitative Finance        数量金融学
二级分类：Computational Finance        计算金融学
分类描述：Computational methods, including Monte Carlo, PDE, lattice and other numerical methods with applications to financial modeling
计算方法，包括蒙特卡罗，偏微分方程，格子和其他数值方法，并应用于金融建模
--
一级分类：Quantitative Finance        数量金融学
二级分类：Economics        经济学
分类描述：q-fin.EC is an alias for econ.GN. Economics, including micro and macro economics, international economics, theory of the firm, labor economics, and other economic topics outside finance
q-fin.ec是econ.gn的别名。经济学，包括微观和宏观经济学、国际经济学、企业理论、劳动经济学和其他金融以外的经济专题
--

---
PDF下载：
--> Bayesian_Estimation_of_Economic_Simulation_Models_using_Neural_Networks.pdf (621.77 KB)

2022-6-24 04:00:38 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：贝叶斯估计 经济仿真 神经网络 仿真模型 神经网

B AY E S I A N E S T I M I C S I M I M U L AT I O N M O D E S U N E U R A LN T W R K Sdonovan platt*牛津大学马丁学院牛津大学新经济思想研究所（INET）数学研究所摘要计算能力的最新进展以及由于灵活性的提高而做出更现实假设的潜力，导致了经济学中模拟模型的评估不断提高。虽然这类模型，尤其是基于代理的模型，能够复制许多经验观察到的样式化事实，而这些事实不容易被更传统的替代方案恢复，但由于缺乏可处理的似然函数，此类模型仍然难以估计。虽然估计文献不断增长，但现有的尝试主要是从常客的角度来解决这个问题，贝叶斯估计文献相对来说还不太发达。因此，我们引入了一种贝叶斯估计协议，该协议利用深度神经网络来构建似然近似值，然后我们将其与现有文献中的一个重要替代方案进行比较。总的来说，我们发现，我们提出的方法在各种情况下都能得到更准确的估计，包括对金融异构代理模型的估计，以及对合并结构突变的模型中发生的动态变化的识别。关键词：基于代理的建模、仿真建模、贝叶斯估计、机器学习、神经网络。EL分类：C13·C521简介近年来，在某种程度上，经济模型的构建出现了范式转变。

传统上，促进数学可伸缩性的需要和有限的计算资源导致了对强假设的依赖，其中许多与真实经济系统的异质性和非线性特征不一致（Geanakoplos和Farmer，2008；* 通讯作者多诺万。platt@maths.ox.ac.uk1这些包括但不限于完全理性假设和代表代理人的存在。Farmer和Foley 2009；Fagiolo和Roventini，2017年）。最终，21世纪末的大衰退和传统方法（尤其是基于一般均衡理论的方法）的明显缺陷将导致一个不断增长的社区的诞生，该社区认为，采用利用当代计算能力进步的新范式可以带来更丰富、更有力的见解（Farmerand Foley 2009；Fagiolo and Roventini 2017）。这一新的计算方法浪潮中最突出的例子可能是基于代理的模型（ABM），它试图通过直接模拟系统微观组成部分的行为和相互作用来建模系统（Macal和North，2010）。从理论上讲，模拟提供的灵活性应允许更多基于经验的假设，这反过来应导致更具原则性的经济建模方法（Chen 2003；LeBaron2006）。然而，在实践中实现的程度仍有待讨论（Hamill和Gilbert，2016）。虽然ABMs最初通过展示复制更多传统方法无法恢复的各种风格化事实的能力而获得成功（LeBaron2006；Barde 2016），但其基于模拟的性质使其评估不重要（Fagiolo et al.2017）。

因此，尽管过去十年出现了越来越大、更现实的宏观经济模型，如Eurace（Cincotti et al.2010）和熊彼特与凯恩斯会面（Dosi et al.2010）模型，但由于这些挑战和其他挑战，它们在主流决策界的接受度仍然有限。上述估计差异很大程度上源于ABMs基于模拟的特性，在除少数例外情况外的所有情况下，这使得不可能获得似然函数的易于处理的表达式。因此，大多数现有方法都试图通过使用相异性（或相似性）度量直接比较模型模拟数据和经验测量数据，并在参数空间中搜索适当的值来最小化（或最大化）这些度量，从而绕过这些差异（Grazzini et al.2017；Lux 2018）。Grazzini和Richiardi（2015）称之为模拟最小距离（SMD）方法的这些方法中最普遍的是模拟矩法（MSM），该方法通过考虑模拟和经验测量矩（或汇总统计）之间误差平方的加权和来构建目标函数。尽管MSM在许多不同的环境中得到了广泛的应用，并具有理想的数学特性，但它存在一个严重的弱点。更详细地说，矩或汇总统计数据的选择完全是任意的，相关参数估计的质量关键取决于选择足够全面的矩集，这在实践中已被证明是不平凡的。作为回应，近年来出现了新一代SMD方法的发展，该方法在很大程度上消除了将数据转换为一组汇总统计数据的需要，而是利用其全部信息内容（Grazzini et al。

2017).这些新方法在复杂程度和理论基础上有很大不同。正如Recchioni等人（2015）所建议的那样，这些方法中最简单的方法是尝试直接匹配时间序列轨迹。更复杂的替代方法包括信息论方法（Barde 2017；Lamperti 2017）、模拟最大似然估计（Kukacka和Barunik 2017），以及通过使用SVAR回归（Guerini和Moneta 2017）比较真实和模拟数据背后的因果机制。除了开发相似性度量之外，还试图通过使用计算效率高的替代物代替昂贵的模型模拟过程来减少SMD方法带来的巨大计算负担（Salle和Yildizoglu2014；Lamperti et al.2018）。2例如，参见Alfarano et al.（2005）、Alfarano et al.（2006）和Alfarano et al.（2007）的工作。3参见Franke（2009）、Franke和Westerhoff（2012）、Fabretti（2013）、Grazzini和Richiardi（2015）、Chenand Lux（2016）、Platt和Gebbie（2018）。4估计量既一致又渐近正态（McFadden 1989）。有趣的是，上述方法在本质上都是频繁使用的，而贝叶斯估计则不那么普遍。目前，文献中只有一项研究（Grazzini et al.2017）广泛关注贝叶斯技术的使用，Lux（2018）最近的研究涉及序贯蒙特卡罗方法，包括贝叶斯估计的尝试，但总体而言，这项工作更侧重于频密方法。虽然评估文献确实在不断增长，但它仍然存在许多关键弱点。其中最重要的可能是缺乏一个标准基准来比较新方法的性能。

出于这个原因，大多数新方法传统上只在隔离中进行测试，比较练习相对较少。因此，我们比较了之前一项调查（Platt 2019）中的大量显著估计技术，并发现，令人惊讶的是，Grazzini等人（2017）提出的贝叶斯估计程序在一系列头对头测试中始终优于许多显著的频繁替代者，尽管其相对简单。因此，我们认为有理由对贝叶斯方法更感兴趣，并建议应更加重视其发展。根据这一建议，我们引入了一种经济模拟模型的贝叶斯估计方法，该方法通过使用基于神经网络的似然近似，放松了Grazzini等人（2017）方法所做的大量假设。然后，我们通过一系列计算实验对我们提出的方法进行基准测试，最后总结与实际考虑相关的讨论，如方法超参数的设置和相关计算成本。2估计和实验程序在本节中，我们向读者介绍了我们调查的一些基本要素，包括对贝叶斯估计基本原理的简要讨论，对Grazzini等人（2017）（我们选择的基准）的方法的描述，以及对我们提出的估计方法的介绍。2.1仿真模型的贝叶斯估计出于我们的目的，我们认为仿真模型是真实世界系统的任何数学或算法表示，能够生成时间序列（面板）数据，格式为：xsim（θ，T，i）=hxsim1，i（θ），xsim2，i（θ）。

，xsimT，i（θ）i，（1）其中θ是在可行参数值空间中设置的模型参数，T是模拟的长度，i表示用于初始化模型随机数生成器的种子，xsimT，i（θ）∈ Rn对于所有t=1，2，T、 通常，估计或校准程序旨在确定θ的适当值，以便Xsim（θ，T，i）产生的动力学尽可能接近在经验测量的等效物中观察到的动力学，X=[X，X，…，xT]，（2）5有大量关于所谓近似贝叶斯计算方法的文献，该方法在生物学和生态学领域获得了重要关注（Sisson et al.2018）。不幸的是，这些方法中的绝大多数都依赖于将数据转换为一组汇总统计数据，因此其用于估计经济资产负债表的能力有限。6值得注意的是，虽然我们专注于ABMs，但提议的方法适用于任何能够模拟时间序列或面板数据的模型。因此，该方法同样适用于相互竞争的建模方法。其中xt∈ Rn对于所有t=1，2，T、 贝叶斯估计试图通过首先假设参数值遵循给定的分布p（θ）来实现上述目标，该分布是为了反映一个人对参数值的精神知识或信念。然后根据经验测量数据进行更新，得出修正后的分布p（θ| X），称为后验分布。因此，贝叶斯估计可以用Bayes定理来描述，如下所示：p（θ| X）=p（X |θ）p（θ）p（X）。（3） 不幸的是，获得后验值的分析表达式通常是不可行的。首先，归一化常数p（X）未知，或者确定它是非常重要的。其次，可能性p（X |θ）对于大多数模拟模型，尤其是大规模宏观经济ABM，是难以解决的。

然而，这些限制可以在一定程度上克服。Grazzini等人（2017年）提供了一种近似p（X |θ）的方法，用于计算θ的特定值，然后允许我们评估p（θ| X）的右侧∝ p（X |θ）p（θ）。（4） 然后，可以将上述方法与马尔可夫链蒙特卡罗（MCMC）方法（如Metropolis-Hastings算法）一起用于对后验数据进行采样。这是可能的，因为大多数MCMC技术只要求我们能够确定与感兴趣的密度函数成比例的函数值，而不是密度函数本身。然而，很明显，总体估计误差将在很大程度上取决于用于近似可能性的方法。2.2 Grazzini et al.（2017）的方法如前所述，Grazzini et al.（2017）提供了一种近似模拟模型相似性的方法，我们现在更详细地讨论了该方法。本质上，该方法基于以下假设，即≥~T，都是一个统计平衡，使得xsimt，i（θ）围绕一个固定水平，E[xsimt，i（θ）| T≥它允许我们进一步假设xsimT，i（θ），xsimT+1（θ），xsimT，i（θ）构成给定分布的随机样本。然后，可以使用核密度估计（KDE）确定描述此分布的密度函数，我们用f（x |θ）表示，最终允许我们近似给定θ值的经验采样数据的可能性，如下所示：p（x |θ）=T∏t=1f（xt |θ）。（5） 显然，上述策略在大多数情况下都很容易应用。然而，必须注意的是，这在很大程度上是通过在实践中很少成立的有力假设实现的。更详细地说，请注意，有序时间序列（面板）数据基本上被视为i.i.d。

randomsample，表示xsimt，i（θ）⊥ xsim1，i（θ），xsimt公司-1，i（θ），对于所有t=2，3，T、 不幸的是，这种独立性假设确实适用于大多数仿真模型，因为xsimt，i（θ）可能至少依赖于一些先前实现的值，无论这种依赖是显式的还是通过潜在变量介导的。此外，此类假设导致似然函数不区分θ值，θ值导致相同的无条件分布，但不同7样本不需要全部从单个蒙特卡罗复制中提取，而是可以从使用各种随机种子生成的集合中每个复制达到的统计平衡中提取。在实践中，我们为每个θ值的候选集模拟了R个此类蒙特卡罗复制的集合，并将每个复制的样本组合成单个随机样本。8注意，我们假设，与模拟数据一样，经验采样数据围绕一个固定水平流动。时间趋势。由于许多经济模拟模型，尤其是大规模宏观经济ABM生成的数据集以季节性或结构性突变为特征，因此可能会对结果参数估计的质量产生一些影响。尽管如此，Platt（2019）证明，尽管存在上述缺点，Grazzini等人（2017）的方法能够在许多情况下提供合理的参数估计，同时也优于几种更复杂的频率分析方法。

这就需要进行进一步的调查，自然会导致人们问，放松所需的独立性假设是否可以构建一种更好的贝叶斯估计方法。2.3使用神经网络的似然近似我们现在开始讨论Grazzini et al.（2017）提出的似然近似程序的一个相对简单的扩展，该扩展能够捕获xsimt，i（θ）对过去实现值的一些依赖性。作为起点，我们假设Pxsimt，ixsim1，i，xsimt公司-1，i：θ= pxsimt，ixsimt公司-五十、 我，xsimt公司-1，i：θ（6） 对于所有L<t≤ T、 这意味着xsimt，i（θ）仅取决于过去的L实现值。因此，我们的任务是估计上述条件密度fxsimt公司-五十、 我，xsimt公司-1，i，xsimt，i，φ\' pxsimt，ixsimt公司-五十、 我，xsimt公司-1，i：θ, （7） 对于所有L<t≤ T、 其中φ=φ（θ）是与密度估计程序相关的参数。在我们的背景下，我们使用混合密度网络（MDN），这是Bishop（1994）提出的一种基于神经网络的条件密度估计方法。上述方案由两个主要成分组成，一个是K个高斯随机变量的混合物，f（x，y，φ）=K∑k=1αk（x）Nyuk（x），∑k（x）, （8） 其中表示xsimt、iby y和xsimt-五十、 我，xsimt公司-1，iby x，以及确定混合物参数的函数αk，ukand∑kof x。这里，αk，ukan∑kar是前馈神经网络的输出，该神经网络以x为输入，具有权重和偏差φ（θ），通过在参数集θ的候选模型模拟的R MonteCarlo复制的集合上训练网络来确定。使用训练后的MDN，可以对给定θ值的经验采样数据的可能性进行近似，如下所示：p（X |θ）=T-L∏t=1f（xt，…，xt+L-1，xt+L，φ）。