基于Agent的机器学习代理模型标定

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Agent-Based Model Calibration using Machine Learning Surrogates》
---
作者：
Francesco Lamperti, Andrea Roventini and Amir Sani
---
最新提交年份：
2017
---
英文摘要：
  Taking agent-based models (ABM) closer to the data is an open challenge. This paper explicitly tackles parameter space exploration and calibration of ABMs combining supervised machine-learning and intelligent sampling to build a surrogate meta-model. The proposed approach provides a fast and accurate approximation of model behaviour, dramatically reducing computation time. In that, our machine-learning surrogate facilitates large scale explorations of the parameter-space, while providing a powerful filter to gain insights into the complex functioning of agent-based models. The algorithm introduced in this paper merges model simulation and output analysis into a surrogate meta-model, which substantially ease ABM calibration. We successfully apply our approach to the Brock and Hommes (1998) asset pricing model and to the \"Island\" endogenous growth model (Fagiolo and Dosi, 2003). Performance is evaluated against a relatively large out-of-sample set of parameter combinations, while employing different user-defined statistical tests for output analysis. The results demonstrate the capacity of machine learning surrogates to facilitate fast and precise exploration of agent-based models\' behaviour over their often rugged parameter spaces.
---
中文摘要：
让基于代理的模型（ABM）更接近数据是一个公开的挑战。本文结合有监督机器学习和智能采样，明确地解决了ABMs的参数空间探索和校准问题，建立了一个代理元模型。所提出的方法提供了模型行为的快速准确近似，大大减少了计算时间。在这方面，我们的机器学习代理有助于大规模探索参数空间，同时提供了一个强大的过滤器来深入了解基于代理的模型的复杂功能。本文介绍的算法将模型仿真和输出分析合并到代理元模型中，大大简化了ABM校准。我们成功地将我们的方法应用于Brock和Hommes（1998）资产定价模型和“岛屿”内生增长模型（Fagiolo和Dosi，2003）。针对相对较大的样本外参数组合对性能进行评估，同时采用不同的用户定义统计测试进行输出分析。结果表明，机器学习代理能够在其通常崎岖的参数空间上快速而精确地探索基于代理的模型的行为。
---
分类信息：

一级分类：Quantitative Finance        数量金融学
二级分类：Economics        经济学
分类描述：q-fin.EC is an alias for econ.GN. Economics, including micro and macro economics, international economics, theory of the firm, labor economics, and other economic topics outside finance
q-fin.ec是econ.gn的别名。经济学，包括微观和宏观经济学、国际经济学、企业理论、劳动经济学和其他金融以外的经济专题
--

---
PDF下载：
-->

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：agent 机器学习 Age Successfully Quantitative

使用机器学习代理Francesco Lamperti基于Agent的模型校准*, Andrea Roventini+和Amir Sani2017年4月7日摘要让基于代理的模型（ABM）更接近数据是一个公开的挑战。本文结合有监督的机器学习和智能采样，明确地解决了ABMs的参数空间探索和校准问题，建立了一个代理元模型。所提出的方法提供了模型行为的快速准确近似，显著减少了计算时间。在这方面，我们的机器学习代理有助于大规模探索参数空间，同时提供了一个强大的过滤器来深入了解基于代理的模型的复杂功能。本文介绍的算法将模型仿真和输出分析合并到一个代理元模型中，这有助于快速有效地进行ABM校准。我们成功地将我们的方法应用于Brock和Hommes（1998）资产定价模型和“岛屿”内生增长模型（Fagiolo和Dosi，2003）。根据相对较大的样本外参数组合对性能进行评估，同时采用不同的用户定义的统计测试进行输出分析。结果表明，机器学习代理在基于代理的模型的粗糙参数空间上，能够快速、准确地探索基于代理的模型的行为。关键词：基于agent的模型；标定机器学习；代理元模型。JEL代码：C15、C52、C63。*通讯作者。意大利比萨（Piazza Martiri della Libert\'a）圣安娜高等经济学院，邮编：3356127。电子邮件：f。lamperti@santannapisa.it.+经济研究所、圣安娜高等学府（Pisa）和法国理工大学科学院（Nice）。电子邮件：a。roventini@santannapisa.it.巴黎大学索邦分校和中央研究院。

电子邮件：reachme@amirsani.com.1本文提出了一种基于agent模型（ABM）的模型标定和参数空间探索的新方法，将有监督机器学习和智能采样相结合，设计了一种新的代理元模型。基于Agent的模型处理社会生态系统的研究，这些系统可以通过一组微观和宏观关系被正确地定义。这个框架的一个问题是，感兴趣的变量的相关统计特性是先验未知的，甚至对建模者来说也是如此。这些属性确实是从异质、有界理性和适应性主体的生态系统之间的重复交互中产生的。因此，无法对系统的动态特性进行分析研究，因果机制的识别并不总是可能的，相互作用会导致关系的出现，而这些关系不能简单地通过聚合微变量来推断（Anderson等人，1972年，Tesfationand Judd，2006年，Grazzini，2012年，Gallegati and Kirman，2012年）。这就提出了一个问题，即寻找合适的工具来研究模型在不同参数设置、随机种子和初始条件下的紧急行为（另见Lee等人，2015）。一旦这项研究成功，人们就可以安全地进行校准、验证，并最终使用该模型进行政策实践（Fagiolo and Roventini，2017）。不幸的是，这个过程在实践中很难实现，特别是由于计算时间太长。事实上，许多ABM使用许多参数和相对大量的时间步来模拟复杂系统的演化。

在校准设置中，这种丰富的表达会导致“维数灾难”，导致参数空间中出现指数数量的临界点，以及多个局部极大值、极小值和鞍点，这会对基于梯度的搜索程序的性能产生负面影响。即使对于小模型，通过可能的参数组合（全因子探索）探索模型行为实际上也是不可能的。预算限制也限制了我们对多目标优化程序的使用，例如多模式优化或小生境优化（有关审查，请参见Li et al.，2013；Wong，2015），以及基于克里格法的程序，因为这些程序需要大量的评估才能收敛到模型参数空间的有意义解释。然而，如果一个模型要对决策者有用，它就必须及时、准确地洞察问题。因此，对于像ABM这样的计算成本高昂的模型来说，为了提供具有丰富表达能力的实际见解，必须在有限的评估预算中对其进行有效校准。传统上，ABM校准涉及三个计算代价高昂的步骤；运行模型，测量校准质量并定位感兴趣的参数。正如过去二十年所述，各种ABM已被应用于研究许多不同的问题，涉及经济学以外的广泛学科，包括生态学（Grimm和Railsback，2013年）、卫生保健（E ffekenet al.，2012年）、社会学（Macy和Willer，2002年）、地理学（Brown et al.，2005年）、生物恐怖主义（Carley et al.，2006年）、医学研究（An和Wilensky，2009年），军事战术（Ilachinski，1997）和许多其他。

关于ABM在社会科学中的影响的讨论，参见alsoSquazzoni（2010），关于基于代理模型的宏观经济政策评估，参见Fagiolo和Roventini（20122017）。例如，考虑一个具有5个参数的模型，并假设对ABM的单个评估需要在单个计算核心（CPU）上花费5秒。如果通过将每个维度分为10个区间来离散化参数空间，那么10次评估将需要大约6个CPU天来探索。如果对15个时间段进行更好的划分，10次评估大约需要1.5个月，20次评估需要6个月。添加第六个参数需要10年以上的时间。在Grazzini等人（2017年）的研究中，即使是非常简单的模型，这些步骤也占到了估算ABM所需时间的一半以上。最近，克立格法（也称为高斯过程）被用于构建ABM的替代元模型（Salle和Yildizoglu，2014；Dosiset al.，2016，2017c，b；Bargigli et al.，2016），以促进参数空间探索和敏感性分析。然而，即使在Wilson et al.（2015）和Herlands et al.（2015）提出的线性时间扩展中，克里格法也无法合理地应用于具有20个以上参数的大型模型。此外，克里格元模型生成的光滑曲面无法精确逼近mostABMs的粗糙参数空间特征。在本文中，我们通过在参数空间上采用高效、自适应、无梯度的搜索，明确地解决了有效地探索基于agent的模型的复杂参数空间的问题。所提出的方法以半监督的方式利用标记和未标记的参数组合，基于用户定义的fit度量和ABM的特定参数化，构建一个快速、高效的机器学习代理映射统计。

此过程大大减少了计算时间，同时提供了原始ABM的准确替代。然后，可以使用该代理来详细说明可能的野生参数空间。此外，我们通过识别允许ABM匹配用户所需特性的参数组合来进行校准。传统上，代理元模型用于近似或模拟计算成本高昂的实验或复杂物理现象的模拟模型（见Booker et al.，1999）。特别是，代理提供了一个代理，可用于快速参数空间探索和模型校准。由于其速度优势，代理经常被利用来定位有希望的校准值，并在模型上获得快速直觉。请注意，目标不是返回一个单一的最佳参数，而是所有参数化，这些参数可以积极地将ABM与用户期望的行为识别出来。因此，如果代理近似误差很小，则可以将其解释为在参数空间探索和校准期间对原始ABM的有效且相当好的替代。我们学习代词的方法是多轮的。首先，使用标准采样例程（如准随机SOBOL采样）绘制大量未标记参数。接下来，在ABM中随机抽取一个非常小的池子集，而不进行替代性预评估，确保至少有一个用户期望行为的示例。这些点根据在ABM生成的输出上测量的统计数据进行“标记”，并作为一组“种子”样本，以初始化在第一阶段学习到的代理模型。然后利用第一个代理项预测池中剩余的未标记点的标签。

从池中提取另一个非常小的点子集，用于在基于代理的模型中进行评估。然后，在多个回合中，重复此过程，直到达到特定的评估预算。在每一轮中，代理项指示从池中提取哪些未标记点，以最大限度地提高在下一轮中学习到的代理项的性能。这种半监督的“主动”学习过程逐步改进了代理模型，同时最大化了通过ABM参数空间获得的信息。感兴趣的读者可能想看看van der Hoog（2016），以广泛讨论机器学习算法在基于代理的建模中的可能应用。在机器学习术语中，监督学习指的是从标签推断函数的任务。这种过程的性能关键取决于每轮中使用的特定代理模型。在这里，我们通过automatedhyperparameter优化（Claesen et al.，2014，see），自动调整高度增强的梯度树（XGBoost，见Chen和Guestrin，2016），作为我们的机器学习替代物，以稳健地管理非线性参数曲面和ABMs的所谓“刀锋”特性。与克里格法相比，这种代理学习算法的一个特别优点是，它不需要选择核或在前面提到的采样过程之前设置先验。它还避免了使用无可能性近似贝叶斯方法选择汇总统计和接受阈值的问题（Grazzini et al.，2017）。作为示例，我们将我们的程序应用于两个著名的资产基础模型：Brock和Hommes（1998）提出的资产定价模型和inFagiolo和Dosi（2003）提出的内生增长模型。

尽管这两个模型相对简单，但它们可能表现出多重平衡，允许不同的行为态度，并解释了广泛的动力学，这在很大程度上取决于它们的参数。我们发现，我们的机器学习代理能够有效过滤出传达感兴趣输出的参数组合，评估模型参数的相对重要性，并在可忽略不计的时间内提供基本ABM的准确近似值。我们的方法在计算成本、免提参数选择和处理参数空间非线性特征方面的优势，为高效且用户友好的基于代理的模型参数空间探索和校准过程铺平了道路。本文的其余部分组织如下。第2节回顾了有关ABM校准验证的文献，为替代建模提供了依据。第3节介绍了我们的替代建模方法。第4节和第5节分别报告了其应用于Brock和Hommes（1998）提出的资产定价模型以及inFagiolo和Dosi（2003）提出的增长模型的结果。最后，第6节得出结论。2基于代理模型的校准和验证：代理模型的案例如Fagiolo et al.（2007）和Fagiolo and Roventini（2012、2017）所述，ABM关于各种形式的个人行为的极端灵活性，互动模式和制度安排使研究人员能够探索偏离大多数主流分析模型通常过于简化的假设的积极和规范性后果。

近年来，宏观和金融建模出现了一种趋势，即更详细、更丰富的模型，针对更多的程式化事实，并声称有大量的经验内容。关于数据的理论分析和方法研究的一个共同主题，即指定数值或符号的数据。半监督学习表示有少量标记数据相对于未标记数据的设置。术语activereference指的是一种算法，它主动选择要评估的数据点，并因此标记该数据点。参见Dosi等人（2010、2013、2015）；Caiani等人（2016）；Assenza et al.（2015）和Dawid et al.（2014a）关于经济周期动力学，Lamperti et al.（2017）关于增长、绿色转型和气候变化，Dawid et al.（2014b）关于区域趋同，Leal et al.（2014）关于金融市场。Fagiolo和Roventini（2012、2017）的调查提供了更详尽的列表。基于代理的模型与真实数据之间的关系。最近，许多研究已经解决了ABM的估计和校准问题。正如Chen et al.（2012）所述，ABMs需要从第一阶段，即在定性意义上增长程式化事实的能力，转移到第二阶段，在第二阶段中，根据合理的计量经济学技术选择适当的参数值。在模型非常简单且性能良好的情况下，可以推导出一个封闭形式的解决方案，并估计模型特定输出的分布参数（参见Alfarano et al.，2005、2006；Boswijk et al.，2007）。然而，当复杂性表示封闭形式的解决方案时，需要更复杂的技术。Amilon（2008）通过矩量法估计了一个包含15个参数（但只有2或3个代理）的金融市场模型。

他们报告说，该模型对噪声项和随机分量的假设非常敏感。Gilli和Winker（2003）以及Winkeret al.（2007）介绍了一种算法和一组统计数据，从而构建了一个目标函数，该函数用于通过间接推理估计汇率模型，使其更接近真实数据的属性。Franke（2009）对这一框架进行了定义，并使用模拟矩法估计了资产定价模型的6个参数，而Franke和Westerhoff（2012）则提出了一个由几个参数表征的结构随机波动率模型的模型竞赛。最后，Recchioni等人（2015）使用了一个简单的基于梯度的校准程序，然后测试了他们通过样本外预测获得的模型的性能。最近，一系列平行的研究集中于开发工具，以调查反弹道导弹输出能够接近现实的程度（见Marks，2013；Lamperti，20172016；Barde，2016b，A；Guerini和Moneta，2016）。其中一些贡献还提供了新的衡量标准，可用于构建目标函数，以代替估算环境中的纵向动量（例如，兰佩蒂（Lamperti，2017）引入的GSL div）。然而，这些校准/估计和验证练习的一个共同限制在于计算时间，通常非常长。正如Grazzini等人（2017）详细讨论的那样，模拟模型是所有这些程序中计算成本最高的步骤。例如，为了训练他的算法，Barde（2016b）需要蒙特卡罗（MC）每次运行约20个周期，而许多宏观经济ABM可能需要数周的时间来执行一次此类MC练习。