凸风险函数的逆优化

我们证明了这一点，如果存在一个风险函数ρ，它对上述问题是最优的，并且达到了最优值u*< ∞, 必须存在一个对偶C分段线性风险函数ρp，其形式如下，并达到相同的最优值ρp（~Z）=supy∈R|Ohm|+∩Cy>~ Z- maxj公司∈J{y>~ Xj- ρ（~ Xj）}。我们首先证明最优解ρ始终包含以下表达式ρ（~Z）=supp∈R|Ohm|+∩Cp>~ Z- (R)ρ*（p） ，（7）式中'ρ*（p） =sup ~ Zp>~ Z- ρ（~ Z）。我们从引理2.3和定理3.3中知道∈ Rcvxwe总是可以用ρ（~Z）=supp来表示ρ∈R|Ohm|+p> ~Z- (R)ρ*（p） 。（8） 我们现在证明了共轭ρ*必须满足ρ*（p） =∞ 对于任何p∈ R|Ohm|+\\ Cby矛盾。假设存在一个解p*∈ R|Ohm|+\\ C使得|ρ*（p*) < ∞. C是一个闭凸集的事实意味着必须存在一个向量R∈ R|Ohm|和b∈ 这样p>~R≤ BP∈ C和p>*~R>b保持。等效地，我们写p>*~R=b+ 对一些人来说 > 0.通过|ρcvx的定义，对于某些λ>0|ρcvx（λ~R）=supp∈R|Ohm|+∩Cλp>~ R- 最大值V∈V{p>~ Yv- δv}≤ λb，（9），其中不等式是由p>~R引起的≤ BP∈ C和maxv∈V{p>~ Yv- δv}≥ 0表示任意P∈ R|Ohm|+∩ C、 后者是由于Rcvx的归一化条件，即|ρcvx（~ 0）=supp∈R|Ohm|+∩C- 最大值V∈V{p>~ Yv- δv}=0。我们还从（8）中得到了ρ（λ~R）≥ p>*（λ~R）- (R)ρ*（p*) = λb+λ - (R)ρ*（p*). （10） 通过从（10）中减去（9），我们得到了ρ（λ~R）- ρcvx（λ~R）≥ λ - (R)ρ*（p*) → ∞,asλ→ ∞. 这与最优值u*= ||(R)ρ- §ρcvx||∞< ∞.有了（7）的表示，我们可以验证ρp的最优性。观察以下不等式是否成立ρ（~Z）≤ ρp（~ Z）~Z、 （11）自ρ*（p）≥ maxj公司∈J{p>~ Xj- ρ（~ Xj）}对于任何p，定义为ρ*（p） 。观测不等式ρp（~ Xi）≤ 苏比∈R|Ohm|+∩Cy>~十一- y> ~ Xi+？ρ（~ Xi）=？ρ（~ Xi），我∈ J

（12） 不等式（11）和（12）暗示ρpis proper如果ρ是正确的，因为ρp（~ Z）≥ ρ（~Z）>-∞, ~Z和ρp（~ 0）=ρ（~ 0）=0<∞. 由于ρpi是明显凸的、下半连续的和单调的，我们得到了ρp∈ Rcvx。这些不等式还意味着ρpsatis定义了自ρp（~ Lk）以来成对关系的约束≤ ρ（~ Lk）≤ (R)ρ（~英国）≤ ρp（~英国），K∈ K、 ρpsatis也是给定解的最优性的约束，因为ρp（~W*（d） （）≤ ρ（~ W）*（d） （）≤ ρ（~ W）≤ ρp（~ W），~W∈ W（d），d=1。。。，D、 最后，我们验证了ρ表示u的最佳值*, i、 e.| |ρp- §ρcvx | |=u*. 我们首先得到ρp（~ Z）≤ 苏比∈R|Ohm|+∩Cy>~ Z- maxj公司∈J{y>~ Xj- （|ρcvx（~ Xj）+u*)}≤ 苏比∈R|Ohm|+∩Cy>~ Z- 最大值V∈V{y>~ Yv- （|ρcvx（~ Yv）+u*)} = ~ρcvx（~Z）+u*, ~Z、 （13）其中，第一个不等式是由ρ（~ Z）引起的≤ ~ρcvx（~Z）+u*, ~Z、 第二个是由于{~Yv}v∈五、 {~Xj}j∈J、 最后一个等式是由于ρ**cvx=△ρcvx（带共轭项inLemma 3.4），因为△ρcvx∈ Rcvx。我们还有ρp（~Z）≥ 苏比∈R|Ohm|+∩Cy>~ Z- maxj公司∈J{y>~ Xj- （|ρcvx（~ Xj）- U*)}≥ 苏比∈R|Ohm|+∩Cy>~ Z- 最大值V∈V{y>~ Yv- （δv- U*)} = ~ρcvx（~Z）- U*, ~Z、 （14）第一个不平等是由‘ρ（~Z）引起的≥ ~ρcvx（~Z）- U*, ~第二个是，对于任何j∈ J，~ρcvx（~ Xj）=supy∈R|Ohm|+∩Cy>~ Xj- 最大值V∈V{y>~ Yv- δv}<=> y> ~ Xj- ρcvx（~ Xj）≤ 最大值V∈V{y>~ Yv- δv}，Y∈ R|Ohm|+∩ C、 上述结果表明，我们可以将反问题的可行集从凸风险函数集减少到由特定顶点集和子梯度集支持的对偶C-分段线性风险函数集。一个重要的观察结果是，当顶点的支撑集{~Xj}j∈JIN包括成对关系中涉及的随机损失，即。

{（~ Lk，~英国）}k∈K、 它不包含关于可行集W（d）={~Z（x）| x的信息∈ X（d）}由随机损失组成，不应认为比最佳随机损失更可取~W*（d） =~ Z（x*（d） ）。换句话说，对偶C-分段线性风险函数集的复杂性不取决于随机损失可行集W（d）（或决策可行集X（d））的复杂性。备注3.1。命题3.5中的表示结果提供了一个有趣的见解，即反优化的非参数方法如何高效地生成信息解决方案。应用非参数化方法的一个常见问题是，可能需要大量观察才能生成有意义的估计函数，即在我们的环境中，需要大量成对偏好关系。反问题的解决方案允许双C分段线性风险函数的表示，该风险函数共享与参考风险函数相同的次梯度支持集，这一事实意味着，即使观测很少，生成的风险函数也可能是合理的，因为它具有相同的次梯度支持集作为基础。如分析的下一步所示，这一特定的风险函数集可以通过有限维约束系统进行充分表征，其中的解对应于如何在支持双重C分段线性风险函数的顶点集上分配函数值。提案3.6。

任意对偶C-分段线性风险函数ρp∈ 顶点集{~Xj}j支持的RCVx∈Jand次梯度集C必须满足以下约束系统y>j（~ Xi-~Xj）≤ ρp（~ Xi）- ρp（~ Xj）i 6=jyj∈ R|Ohm|+∩ CJ∈ J相反，给定任何解{y*j} j∈J、 {δ*j} j∈满足以下系统要求-~Xj）≤ δi- δji 6=j（15）yj∈ R|Ohm|+∩ CJ∈ j必须存在集{~Xj}j支持的对偶C-分段线性风险函数ρp∈满足ρp（~ Xj）=δ的Jand C*jand任何这样的风险函数都可以等价地写为ρp（~Z）=supy∈R|Ohm|+∩Cy>~ Z- maxj公司∈J{y>~ Xj- δ*j} 。（16） 证明。自ρp起∈ Rcvx，我们有ρ**p（~ Z）≥ ρp（~ Z），~Z、 由于不等式ρ**≤ ρ和等式ρ=ρ**在定理3.3中。考虑上述不等式，其中~Z=~Xj，j∈ J我们可以展开双共轭ρ**pB基于其定义和引理3.4中给出的共轭函数，并具有ρ**p（~ Xj）≥ ρp（~ Xj）J∈ J<=> supy{y>~ Xj- ρ*p（y）}≥ ρp（~ Xj）J∈ J<=> 苏比∈R|Ohm|+∩C{y>~ Xj- maxi公司∈J{y>~十一- ρp（~ Xi）}≥ ρp（~ Xj）J∈ J<=> yj公司∈ R|Ohm|+∩ C:y>j ~ Xj- maxi公司∈J{y>J~Xi- ρp（~ Xi）}≥ ρp（~ Xj）J∈ J<=> yj公司∈ R|Ohm|+∩ C:y>j ~ Xj- y> j~ Xi+ρp（~ Xi）≥ ρp（~ Xj）i 6=j。这就完成了证明的第一部分。要证明另一个方向，请注意，对于任何可行解{δ*j} j∈Jand{y*j} j∈Jwe总是可以构造一个对偶C-分段线性风险函数（16）。它总是满足ρp（~ Xj）≤ δ*J自ρp（~ Xj）≤ 苏比∈R|Ohm|+∩Cy>~ Xj- y> ~ Xj+δ*j=δ*j、 和满意度ρp（~ Xj）≥ δ*J自ρp（~ Xj）≥ Y*>j～Xj-maxi公司∈J{y*>j ~ Xi-δ*i}≥ δ*j（由于{δ*j} j∈Jand{y*j} j∈J） 。这证明了存在。基于上述约束系统，该系统提供了一种搜索对偶C-分段线性风险函数集的易处理方法，我们的最后一步是强制要求函数还必须满足成对关系的约束和给定解x的最优性*（d） 。

如下所示，这些约束可以等效地由一组额外的有限维凸约束来表示，因此，逆优化问题简化为有限维凸优化问题。提案3.7。命题3.5给出的问题的最优解包含ρp（~Z）=supy的表示∈R|Ohm|+∩Cy>~ Z- maxj公司∈J{y>~ Xj-\'-δj}，（17）其中{~Xj}j∈J： ={~W*（d） }Dd=1∪ {~Yv}v∈五、∪ {~Lk}k∈K∪ {~英国}k∈Kand ~ Xd=~ W*（d） ，d=1。。。，D、 和δjc可通过以下凸规划计算，δ，yju-U≤ δj- ρcvx（~ Xj）≤ u，j∈ J（18）y>J（~ Xi）-~Xj）≤ δi- δj，j∈ Ji 6=jyj∈ R|Ohm|+∩ C、j∈ J，y>d ~ Xd≤ hd（yd），d=1。。。，Dδi≤ δj，（i，j）∈ B其中B：={（i，j）∈ {1，2，…，J}|（~ Xi，~ Xj）∈ {（~ Lk，~英国）}k∈K} hd表示函数hd（y）：=minx{y>~ Z（x）| x∈ X（d）}。证据根据命题3.5，反问题可以等效为ρp | |ρp- §ρcvx||∞以x为准*（d）∈ arg minx∈X（d）ρp（~ Z（X）），d=1。。。，Dρp（~ Lk）≤ ρp（~英国），K∈ K、 （19）式中ρp∈ RCVx表示向量集{~Xj}j支持的对偶C分段线性风险函数∈Jand子Graident集C。首先观察目标函数可以简化为Maxj∈J{|ρp（~ Xj）- ρcvx（~ Xj）|}。（20） 不等式| |ρp- §ρcvx||∞≥ maxj公司∈J{|ρp（~ Xj）- ~ρcvx（~Xj）|}是明显的。为了显示不等式的另一个方向，让u*= maxj公司∈J{|ρp（~ Xj）- ~ρcvx（~Xj）|}，我们可以导出| |ρp- §ρcvx||∞≤ U*通过与命题3证明中的（13）和（14）相同的不等式。5用ρp代替ρ。现在考虑重新制定约束条件。首先，第一组约束中的优化问题可以等价地写成每个d，min（x，~ W）∈π（d）ρp（~ W），其中集合∏（d）：={（x，~ W）| ~ W≥~Z（x），x∈ X（d）}，因为ρpis是单调的。集合∏（d）是凸的，因为集合X（d）是凸的，~Z（X）的每个条目在X中都是凸的。

Giventhat ~ W*（d）∈ {~Xj}j∈Jand集∏（d）是凸的，根据凸优化问题基于次梯度的最优性条件，我们得到了（x*（d） ，~ W*（d） （）∈ 当且仅当存在次梯度y时，集∏（d）上的ρp（~W）最小∈ ρp（~ W）*（d） ）如此>（~ W）-~W*（d） （）≥ 0，（x，~ W）∈ π（d），可等效为asy>~ W*（d）≤ 最小值（x，~ W）∈∏（d）y>~ W=最小值∈X（d）y>~ Z（X）。自ρp起∈ Rcvx，根据定理3.3，我们得到ρp（~ W）*（d） ）=ρ**p（~ W）*（d） ）=arg maxy{y>~ W*（d）- ρ*p（y）}。等效地，我们可以编写次梯度集ρp（~ W）*（d） ）为{y:y>~ W*（d）- ρ*p（y）≥ ρp（~ W）*（d） ）}<=> {y:y>~ W*（d）- maxj公司∈J{y>~ Xj- ρp（~ Xj）}≥ ρp（~ W）*（d） ），y∈ R|Ohm|+∩ C}<=> {y:y>~ W*（d）- y> ~Xj+ρp（~Xj）≥ ρp（~ W）*（d） ），J∈ J，y∈ R|Ohm|+∩ C} ，（21）其中，在第二行中，应用引理3.4中给出的共轭。最后，根据命题3.6，我们可以将（20）、（21）和（19）中的ρp（~ Xj）替换为基于完全表征ρp的约束系统（15）的δjb。我们在最后一步看到，整个反问题始终可以重新表述为一个有限维凸规划。此外，程序的结构允许我们证明定理3.2中反问题（5）的多项式可解性结果。也就是说，我们可以应用Gr¨otschel et al.（1981）的著名结果，该结果表明，对于如上所述的凸规划，可以使用椭球方法在多项式时间内求解，当且仅当对于任何z*:= （u）*, δ*, Y*j） 需要多项式时间才能确定z*在可行集Z中，或生成一个分隔Z的超平面*因此，如果函数hd（y）可以在多项式时间内计算，即简单的正向问题可以在多项式时间内解决，并且存在setC的预言，则可以相当直接地表明，也需要多项式时间来确定Z*∈ Z或单独的Z*从Z开始。

这就完成了定理3.2的证明。对于第二种情况，R：=Rcvxm（{（Lk，Uk）}k∈K） 只包含凸风险度量的逆问题（2），具有参考风险函数|ρ∈ RCVXMCA可以用完全相同的步骤进行分析，并简化为类似的凸规划。我们只显示结果，不重复步骤。定理3.8。定理3.2的结果可以推广到凸风险测度的情况，即R：=Rcvxm（{（Lk，Uk）}k∈K） 和|ρ∈ Rcvxmin（2），通过考虑命题3.7中相同的凸规划，附加约束~>y=1 in（17）和~>yj=1，j∈ J英寸（18）。最后，我们总结了这一部分，指出在给定程序结构的情况下，还可以证明将逆问题表述为二次曲线程序的以下结果。众所周知，圆锥曲线程序适用于高效的周期点算法（Nemirovski（2007））。考虑到重新格式化的步骤是标准的，即导出正问题的对偶并用对偶替换（18）中的hd（yd），我们跳过这里的证明。推论3.9。如果参考风险函数￠ρ∈ Rcvx（相应的ρ∈ Rcvxm）是一个二次线性风险函数，由一个二次可表示的次梯度集C支持，随机损失Z（x）在x中对每个条目都是凸的，然后是反问题（2），R：=Rcvx（{（Lk，Uk）}k∈K） （响应R：=Rcvxm（{（Lk，英国）}K∈K） ）可以作为aconic程序解决，前提是转发问题minx∈X（d）y>~ Z（X）表示任意y≥ 0可以表示为二次曲线程序，即minx，s，t{y>s | Ax+as+At=b，（x，s，t）∈ C} ，其中C是二次曲线集，并且满足二次曲线图强对偶的正则条件。4律不变凸风险函数的逆优化在本节中，我们重点讨论正问题中使用的风险函数进一步被称为律不变的情况。

也就是说，我们考虑情况R：=RFcvx（{（Lk，Uk）}k∈K） 和R：=RFcvxm（{（Lk，Uk）}K∈K） 在（2）中选择一个律不变的凸风险函数作为参考风险函数|ρ。然而，在建立逆模型时，还有更多的细节需要我们更加精确（2）。也就是说，根据定义，法律不变性条件要求比较随机损失的分布情况。因此，描述任何随机损失X及其分布FX很重要，我们用X表示~ 外汇。此外，对随机损失Z（x）及其分布作了如下假设。假设4.1。随机损失~Z（x）的每个条目的形式为（~Z（x））i=Z（x，ξ（ωi）），其中ξ：Ohm → Rm。随机向量ξ具有有限支持度{ξ，…，ξτ}，概率分布Fξ满足P（ξ=ξo）=Pξof or o=1。。。，τ。如前一节所述，我们首先处理案例R：=RFcvx（{（Lk，Uk）}k∈K） 然后是情况R：=RFcvxm（{（Lk，Uk）}K∈K） 将很容易跟随。第一种情况下的逆优化问题可以更精确地写成infρ| |ρ- §ρFcvx||∞以ρ为准∈ RFcvx（{（Lk，英国）}k∈K） ，其中Lk~ FLk，英国~ 福（22）x*（d）∈ arg minx∈X（d）ρ（~ Z（X）），d=1。。。，D、 式中ξ~ Fξ，其中|ρFcvx∈ RFcvx。注意，对于任何ρ∈ RFCVX约束ρ（~ Lk）≤ ρ（~ Uk）立即意味着ρ（~ L）≤ ρ（~ U）必须对任何可能的随机损失对L保持不变~ FLkand U公司~ 福。因此，反问题（22）的复杂性与如何（有效地）在这个更受限制的凸风险函数集上执行搜索有关。在本节的剩余部分，我们将解释如何解决复杂性。对偶C-分段线性风险函数的概念仍然是反问题可处理性的关键。我们首先将定义扩展如下。定义4.2。

（律不变对偶C-分段线性风险函数）如果风险函数允许（6）的表示，并且进一步满足律不变的条件，我们将其称为律不变对偶C-分段线性风险函数。现在，我们首先提出以下假设，说明本节的主要结果，这为分析反问题提供了重要基础（22）。假设4.3。结果空间由M个结果组成，即。Ohm := {ωi}Mi=1，控制结果的概率度量是一致的，即P（{ωi}）=1/M，i∈ {1，2，…，M}。定理4.4。假设4.1和4.3成立，如果参考风险函数|ρFcvx∈ RFcvxis是一个律不变的对偶C-分段线性风险函数，对于每个ξ，随机损失Z（x，ξ）在x中是凸的，那么逆优化问题（22）可以作为一个有限维凸规划来求解。此外，它是多项式可解的。minx的正向问题∈X（d）ρ（~ Z（X）），d=1。。，D、 用简单风险函数ρ（~Z（x））：=Pτo=1yoZ（x，ξo），y多项式可解≥ 0和2。ρfcvx的次梯度C的支持集配备了一个oracle，可以用于任何p∈ R|Ohm|要么确认p∈ 或提供一个在多项式时间内将PFC与C分离的超平面。鉴于其对假设4的依赖性，上述结果似乎受到限制。3，但事实上，该结果可以在相当普遍的情况下应用。也就是说，只要所有相关随机损失的离散分布F采用有理数作为概率值，就始终可以找到一个常数M，这样就可以在结果空间上用M均匀分布的结果等效定义随机损失。

此类常数M可能很大，因此在M中多项式增长的复杂性仍然很重要，这一问题将在本节后面讨论。假设4.3在我们的分析中是至关重要的，因为它使我们能够利用法律不变性属性与置换概念之间的联系。为清楚起见，操作员σ：R|Ohm|→ R|Ohm|如果满足（σ（~X））i=（~X）g，则称为随机损失上的置换算子-1（i）对于任意X∈ R|Ohm|, 其中g：{1|Ohm|} → {1|Ohm|}是一个双射函数|Ohm| 元素。我们用∑表示所有置换算子的集合。假设概率测度是一致的，可以观察到对于共享相同分布的任意两个随机损失Z，Z，它们的向量表示~Z，~Z∈ R|Ohm|对于某些σ，必须满足~Z=σ（~Z）∈ ∑。这也意味着风险函数ρ是定律不变的当且仅当它满足任何Z∈ R|Ohm|ρ（~ Z）=ρ（σ（~ Z）），σ∈ ∑。（23）我们可以首先证明关于定律不变凸风险函数的以下结果。推论4.5。假设4.3成立，则凸风险函数ρ：R|Ohm|→Ris定律不变量当且仅当其共轭函数ρ*满意度ρ*（σ（p））=ρ*（p） 对于所有σ∈ ∑。通过上述推论，我们可以相当直接地验证以下表示结果，这些结果将在整个分析过程中使用。引理4.6。假设4.3成立，任何定律不变的对偶C分段线性风险函数都允许ρ（~Z）=suppp>~Z的表示- ρ*（p） 带ρ*（p） =最大σ∈∑，v∈V{p>σ（~ Yv）- δv}+δ（p | R|Ohm|+∩ Cσ），其中子颗粒的支撑集Cσ满足任何σ∈ ∑p∈ Cσ<=> σ（p）∈ Cσ。我们现在准备进入分析的主体部分。