基于非鲁棒机会约束的分布模糊度理解

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

英文标题：
《Understanding Distributional Ambiguity via Non-robust Chance Constraint》
---
作者：
Qi Wu, Shumin Ma, Cheuk Hang Leung, Wei Liu and Nanbo Peng
---
最新提交年份：
2020
---
英文摘要：
  This paper provides a non-robust interpretation of the distributionally robust optimization (DRO) problem by relating the distributional uncertainties to the chance probabilities. Our analysis allows a decision-maker to interpret the size of the ambiguity set, which is often lack of business meaning, through the chance parameters constraining the objective function. We first show that, for general $\\phi$-divergences, a DRO problem is asymptotically equivalent to a class of mean-deviation problems. These mean-deviation problems are not subject to uncertain distributions, and the ambiguity radius in the original DRO problem now plays the role of controlling the risk preference of the decision-maker. We then demonstrate that a DRO problem can be cast as a chance-constrained optimization (CCO) problem when a boundedness constraint is added to the decision variables. Without the boundedness constraint, the CCO problem is shown to perform uniformly better than the DRO problem, irrespective of the radius of the ambiguity set, the choice of the divergence measure, or the tail heaviness of the center distribution. Thanks to our high-order expansion result, a notable feature of our analysis is that it applies to divergence measures that accommodate well heavy tail distributions such as the student $t$-distribution and the lognormal distribution, besides the widely-used Kullback-Leibler (KL) divergence, which requires the distribution of the objective function to be exponentially bounded. Using the portfolio selection problem as an example, our comprehensive testings on multivariate heavy-tail datasets, both synthetic and real-world, shows that this business-interpretation approach is indeed useful and insightful.
---
中文摘要：
本文通过将分布不确定性与机会概率联系起来，给出了分布鲁棒优化（DRO）问题的非鲁棒性解释。我们的分析允许决策者通过约束目标函数的机会参数来解释通常缺乏业务意义的模糊集的大小。我们首先证明，对于一般的$\\φ$-发散，一个DRO问题渐近等价于一类平均偏差问题。这些平均偏差问题不受不确定分布的影响，原始DRO问题中的模糊半径现在起到了控制决策者风险偏好的作用。然后，我们证明了当决策变量中加入有界约束时，DRO问题可以转化为机会约束优化（CCO）问题。在没有有界约束的情况下，无论模糊集的半径、散度度量的选择或中心分布的尾部重量如何，CCO问题的性能都优于DRO问题。由于我们的高阶展开结果，我们分析的一个显著特征是，除了广泛使用的Kullback-Leibler（KL）散度外，它还适用于适应厚尾分布的散度度量，如student$t$-分布和对数正态分布，这要求目标函数的分布为指数有界。以投资组合选择问题为例，我们对多变量重尾数据集（包括合成数据集和真实数据集）的综合测试表明，这种业务解释方法确实有用且富有洞察力。
---
分类信息：

一级分类：Mathematics        数学
二级分类：Optimization and Control        优化与控制
分类描述：Operations research, linear programming, control theory, systems theory, optimal control, game theory
运筹学，线性规划，控制论，系统论，最优控制，博弈论
--
一级分类：Computer Science        计算机科学
二级分类：Machine Learning        机器学习
分类描述：Papers on all aspects of machine learning research (supervised, unsupervised, reinforcement learning, bandit problems, and so on) including also robustness, explanation, fairness, and methodology. cs.LG is also an appropriate primary category for applications of machine learning methods.
关于机器学习研究的所有方面的论文（有监督的，无监督的，强化学习，强盗问题，等等），包括健壮性，解释性，公平性和方法论。对于机器学习方法的应用，CS.LG也是一个合适的主要类别。
--
一级分类：Quantitative Finance        数量金融学
二级分类：Portfolio Management        项目组合管理
分类描述：Security selection and optimization, capital allocation, investment strategies and performance measurement
证券选择与优化、资本配置、投资策略与绩效评价
--
一级分类：Quantitative Finance        数量金融学
二级分类：Risk Management        风险管理
分类描述：Measurement and management of financial risks in trading, banking, insurance, corporate and other applications
衡量和管理贸易、银行、保险、企业和其他应用中的金融风险
--
一级分类：Statistics        统计学
二级分类：Machine Learning        机器学习
分类描述：Covers machine learning papers (supervised, unsupervised, semi-supervised learning, graphical models, reinforcement learning, bandits, high dimensional inference, etc.) with a statistical or theoretical grounding
覆盖机器学习论文（监督，无监督，半监督学习，图形模型，强化学习，强盗，高维推理等）与统计或理论基础
--

---
PDF下载：
--> Understanding_Distributional_Ambiguity_via_Non-robust_Chance_Constraint.pdf (273.07 KB)

2022-6-24 02:32:56 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：distribution Optimization Applications Quantitative Multivariate

理解非稳健机会约束下的分布模糊性香港大学Kongshuminma@cityu.edu.hkCheuk香港恒良城市大学Kongchleung87@cityu。e杜。hkQi Wu*香港城市大学Kongqiwu55@cityu.edu.hkWei LiuTencentwl2223@columbia.eduNanbo彭杰德Digitspengnanbo@jd.comABSTRACTThis本文通过将分布不确定性与机会概率联系起来，给出了分布鲁棒优化（DRO）问题的非鲁棒性解释。我们的分析允许决策者通过训练目标函数的机会参数来解释模糊集的大小，而模糊集通常缺乏业务意义。我们首先表明，对于一般的Д-发散，DRO p问题渐近等价于一类平均偏差问题。这些平均偏差问题不受不确定分布的影响，原始DRO问题中的模糊半径现在起到了控制决策者风险偏好的作用。然后，我们证明了当在决策变量中加入边界约束时，DRO问题可以转化为机会约束优化（CCO）问题。在没有有界性约束的情况下，无论模糊集的半径、散度测度的选择或中心分布的尾部重量如何，theCCO问题的性能都优于DROproblem问题。由于高阶展开的结果，我们分析的一个显著特点是，除了广泛使用的Kullback-Leibler（KL）散度外，它还适用于适应厚尾分布的散度度量，如studentt分布和对数正态分布，这要求目标函数的分布是指数有界的。

以投资组合选择问题为例，我们对多变量重尾数据集（包括合成数据集和真实数据集）的综合测试表明，这种商业解释方法确实有用且富有洞察力。CCS概念o应用计算→多准则优化与决策。*通讯作者。允许制作本作品的全部或部分数字或硬拷贝供个人或教室使用，无需支付任何费用，前提是复制品的制作或分发并非出于专业或商业利益，且副本上附有本通知和首页的完整引文。必须尊重作者以外的其他人拥有的本作品组件的版权。允许信用提取。若要以其他方式复制或重新发布、在服务器上发布或重新分发列表，需要事先指定权限和/或支付费用。从请求权限permissions@acm.org.ICAIF\'2020年10月15日至16日，美国纽约州纽约市(c)2020版权归所有者/作者所有。授权给ACM的出版权。ACM ISBN 978-1-4503-7584-9/20/10$15https://doi.org/10.1145/3383455.3422522KEYWORDSDistributionally稳健优化、机会约束、KL发散、Д-发散、重尾分布、投资组合选择ACM参考格式：马树民、邱汉良、齐武、刘伟和彭南波。20 20.通过非鲁棒机会约束理解分布模糊度。ACM国际金融人工智能会议（ICAIF’20），2020年10月15日至16日，美国纽约州纽约市。ACM，美国纽约州纽约市，9页。https://doi.org/10.1145/3383455.34225221引言随机优化广泛应用于许多机器学习算法中，以优化预期性能或损失，例如回归的均方误差，或强化学习背景下的预期贴现回报【19】。

一个健全的机器学习模型需要对数据生成分布进行可靠的估计。然而，数据分布的不确定性可能以多种方式出现：平稳情况下的观察有限，非平稳情况下的时变规律，或者由于处理效果，该规律受到政策干预。在稳健统计中，将决策问题表述为DRO问题是解决数据分布不确定性的一种补救方法[6]。典型的DRO公式在一组可能的分布（称为模糊集）上添加了额外的优化层，并在最坏情况下的分布中优化决策变量。文献中主要有三种方法来定义歧义集。第一种是几何方法，它允许所选分布的参数在某些几何区域内变化，如长方体、椭球体和多面体等。第二种方法称为基于矩的方法，通过收集共享相同情绪约束的分布来构造模糊集【5、7、18、22】。最后一种方法，即统计距离法，使用两个概率分布之间的差异度量或差异函数，将模糊集定义为一个分布球[1、6、8、16]。球的半径称为模糊半径。在这三种方法中，基于动量的方法和统计距离方法解决了法律的不确定性。相比之下，几何方法仅处理先验固定分布参数的不确定性，而不是其函数形式。如果正确的分布结果是对数正态分布，而你认为它是正态分布，并对其均值和方差进行微调，那么这并没有帮助。

然而，从参数不确定性到法律不确定性的进步的代价是，由于表征模糊集的参数是非业务量，因此失去了模糊集的可解释性。ICAIF’2020年10月15日至16日，美国纽约州纽约市，Ma等人。本文提供了一个解决此业务解释问题的解决方案。对于商业应用程序，决策者很难将KL球的半径0.01与产品销售、税收要求或投资组合回报等联系起来。半径0.01与业务目标的任何度量无关。对她来说，一个不可避免的头痛问题是，她应该如何决定模糊集的大小。我们的想法很简单。我们希望将缺乏业务含义的模糊半径的影响转化为约束目标函数的机会参数的影响，现在决策者可以输入与业务目标直接相关的偏好。以资产配置为例，我们的解决方案可以告诉投资组合经理将模糊半径设置为0。01相当于要求优化不要让她的投资组合回报率低于-13%比2%高。通过这种方式，模糊集的几何结构，即其半径，直接与她对目标的粒度偏好，即她能够承受的风险量联系在一起。本文作出了两项主要技术贡献。首先，我们的分析适用于重尾分布（例如，通过压缩读取散度）[10]，除了使用KL散度的通常轻尾情况之外。重尾d分布，例如对数正态分布和学生t分布，在许多商业和金融数据集中普遍存在。

然而，只有当目标函数的分布是指数有界的[13]，在这种情况下，重尾分布被排除在外时，由KL散度定义为模糊集的DRO问题才是可解的。我们的分析很好地扩展到了一般的Д-散度族，包括kldiversion、Burg熵、χ-距离、Hell-inger距离、CressieRead散度等[12，16]。本文的第二个贡献是，我们在DRO问题和CCO问题之间建立了两个联系。第一，当决策变量中加入有界约束时，DRO问题可以转化为无分布不确定性的CCO问题。第二个联系是，在没有有界约束的情况下，无论模糊集的半径、离散度量的选择或中心分布的尾部重量如何，CCO问题的性能都优于DRO问题。论文的其余部分组织如下。在第2节中，我们提供了一些背景信息和提出优化问题的动机。第3节对DROproblem和CCO问题进行了理论分析。第4节在投资组合选择问题的明确表述下，建立了DRO问题和theCCO问题之间的联系。第5节给出了数值实验，第6节总结了我们从合成和经验数据得出的结论。由于篇幅限制，正文中省略了所有证明；然而，一旦提出要求，就可以随时提供。2问题设置2.1注释Let r∈ Rn是一个n维实值随机向量，是资产收益的向量。假设r的联合概率分布为P。设Pbe为r.Letx的名义概率分布∈ Rnbe资产配置策略，e∈ Rnbe是一个所有条目都等于1的向量。

表示表1中凹的极限函数：本文中使用的两个Д-发散。KL发散适用于轻尾分布，而压缩读取发散适用于重尾分布。Kullback Leibler Cressie ReadД（t）t log（t）-t+11-θ+θt-tθθ（1-θ ), θ , 0, 1φ*（s） es公司- 1(1-s（1-θ ))θθ -1θ-θ、 s<1-θx，并通过f（x，r）与x和r关联。我们假设x位于凸集x中，P属于模糊集U。P下随机变量的期望和方差分别用ep[·]和VP[·]表示。定义2.1。（Д-散度）假设Д（t）为凸fort≥ 0，且φ（1）=0。然后，分布P和分布Q之间的И-散度D（Q | | P）定义为：D（Q | | P）：=∫φdQdPdP=EPφdQdP:= EP[Д（L）]。（1） 式（1）中的量L称为Radon-Nikodym导数（或似然比），因此L≥ 0几乎可以肯定，且EP[L]=1。请注意，若要存在Radon-Nikodymm导数L，Q必须是绝对连续的w.r.t.P。给定一个特定的函数Д-散度，其共轭*定义为Д*（s） ：=支持≥0{st-^1（t）}。表1列出了本文中使用的两种分歧。但应该提到的是，我们对歧义r adius的解释实际上适用于所有的Д-发散，包括Burg熵、J-发散、χ-距离、修正的χ-距离和Hellingerdistance。（有关И-散度族的更多信息，请参见[2]）。2.2动机目标是在一组可接受的分配策略X上实现预期效用的最大化，即maxx∈XEP[f（x，r）]。（2） 我们引入了以标称分布P为中心的模糊集U（在下文中也称为中心分布），并由半径参数ρ>0控制，即U：={P:D（P | | P）≤ ρ}.

因此，问题（2）的分布鲁棒对应物是：maxx∈XminP公司∈UEP[f（x，r）]。（3） 对于决策者来说，模糊半径ρ至关重要。由于最优效用在ρ中减小，因此不能将其设置得太大。然而，如果它太小，就会失去强大的保护作用。在金融环境中选择其规模是一种权衡。在文献中，[17]给出了真实分布P和标称分布P，D（P | | P）之间的|-发散特征。假设P和Pbelong到参数维数为d的同一参数化分布族，并且在1的邻域中，在φ（2）（1）>0的情况下，φ是连续可微的两倍，则标准化估计的φ-发散2nν（2）（1）d（P | | P）渐近（即，对于样本大小N→ ∞) 遵循χd分布。因此，该结论将模糊度半径ρ与真实分布P位于模糊度集中的置信水平相关联，在该置信水平下，真实分布P位于模糊度集中。[3] 提供了一种方法，在马科维茨的平均方差端口对开本选择框架下，选择模糊半径ρ作为最小半径，以便真实的资产所有定位策略包含在给定的置信水平中。然而，在实际数据的金融实践中，真实分布与中心分布在同一个参数化家族中的假设太强了。对标称分布的错误猜测可能导致对歧义半径ρ的无意义置信度解释。由于DRO方法被认为可以提供针对分布不确定性的稳健保护，我们有动机将稳健保护与传统风险措施提供的保护联系起来。

特别是，我们所关注的分布的重尾性质提醒我们注意尾部概率保护，基于此的优化称为CCO问题。具体而言，我们将CCO问题定义为：maxx∈XEP[f（x，r）]s.t.Pr~P（xTr≤ -δ) ≤ ε. （4） 这里，δ>0表示典型投资者的损失阈值，而ε>0对应于损失概率。问题（4）中的CCO问题与问题（2）的目标函数相同。期望值在名义分布P下进行，不受任何分布稳健性的约束（标题中的“非稳健性”一词源自此处）。与问题（2）相比，新成分是机会约束，参数（δ，ε）表征投资者对损失的承受能力。我们将通过机会约束问题的参数对歧义半径ρ进行基于性能的解释。具体而言，如果在某些模糊半径ρ和信道约束参数（δ，ε）下，问题（3）和问题（4）达到相同的最优值，我们可以说，模糊半径ρ下的鲁棒保护类似于尾部概率保护。此外，考虑到X和Pare两个问题（3）和（4）的共享模型设置，我们还将研究分配策略集X的选择和名义分布的尾部权重如何影响模糊半径ρ的解释。3 DRO和CCO问题分析本节致力于问题（3）和（4）的理论分析。我们证明，对于一般的Д-发散，问题（3）可以重新表述为一类均值-偏差p问题，投资者的风险偏好参数由模糊半径ρ控制。

此外，我们还提供了一个近似框架来解决问题（4）。3.1 DRO问题的重新表述（3）考虑问题（3）中的内部优化问题：minP∈UEP[f（x，r）]。（5） 拉格朗日对偶问题（5）为：supη∈R、 η≥0-ηsupLEP公司[-η（f（x，r）+η）L-^1（L）]-η-ρη= supη∈R、 η≥0-ηEP[Д*(-η（f（x，r）+η））]-η-ρη.最后一个等式直接来自于对ν-散度共轭函数的定义。解决二元问题的困难在于术语EP【^1】*(-η（f（x，r）+η））]。在此，我们遵循【11】中的思想，将优化（5）表示为偏差的正则度量，结果如定理3.1所示。定理3.1。设ν为闭真凸函数，且*分别对应共轭函数。假设在温和的条件下，强密度成立。确定偏差dη，Д，P（f（x，r）| EP[f（x，r）]）的常规测量值：=infηη+ηEPφ*η（EP【f（x，r）】- f（x，r）-η).那么，优化（5）i等价于：EP[f（x，r）]- infη≥0ρη+Dη，Д，P（f（x，r）| EP[f（x，r）]）.此外，质量Dη，Д，P（f（x，r）| EP[f（x，r）]）可以扩展为一系列项，其系数可以在标称分布P下计算。这样，我们可以将DRO问题（3）重新表述为单层最大化问题。引理3.2。假设K是一个偶数，ν∈ CK+1是一个凸函数，满足Д（1）=Д（1）（1）=0和Д（2）（1）>0。假设EP[Xk]<∞ 对于k≤ K和X定义为X：=f（X，r）- EP[f（x，r）]。