策略转换和学习最优策略

通过与上述相同的推导，我们得到：En（γ）≤ E*（γ） +supθ，θ∈Θsupγ，γ∈G*（σ） 最大λ，λ∈∧|（Pnh`b（·，θ，γ，λ）- Pnh`b（·，θ，γ，λ））-（Ph`b（·，θ，γ，λ）- phb（·，θ，γ，λ））|+7ε。通过单调性，我们有：supθ，θ∈Θsupγ，γ∈G*（σ） 最大λ，λ∈∧|（Pnh`b（·，θ，γ，λ）- Pnh`b（·，θ，γ，λ））-（Ph`b（·，θ，γ，λ）- phb（·，θ，γ，λ））|≤ supθ，θ∈Θsupγ，γ∈G*(δ**)最大λ，λ∈∧|（Pnh`b（·，θ，γ，λ）- Pnh`b（·，θ，γ，λ））-（Ph`b（·，θ，γ，λ）- phb（·，θ，γ，λ））|。此外，关于事件Enwe有：supθ，θ∈Θsupγ，γ∈G*(δ**)最大λ，λ∈∧|（Pnh`b（·，θ，γ，λ）- Pnh`b（·，θ，γ，λ））-（Ph`b（·，θ，γ，λ）- phb（·，θ，γ，λ））|≤ T（δ）**).因此，关于事件En:En（γ）≤ E*（γ） +T（δ）**) + 7ε≤ E*（γ） +supδ≥δ**T（δ）δδ**+ 7ε=E*（γ） +T[（δ**)δ**+ 7ε≤ E*(γ) +1.-A.δ**+ 7ε≤ δ**+1.-A.δ**+ 7ε=2.-A.δ**+ 7ε.因为ε>0是任何值，使得δ**≥ ε、 因此可以任意变小，我们得出结论，在事件中，我们对任何γ都有：≤2.-A.（E）*(γ) ∨ δ**) .我们将利用这个结果来论证，在事件En上，如果δ≥ δ**然后是E*(γ) ≤ δ ==> En（γ）≤ (2 - 1/a）δ。有两种情况：（i）E*(γ) ≤ δ**≤ δ、 这意味着事件En:En（γ）≤2.-A.（E）*(γ) ∨ δ**) =2.-A.δ**≤2.-A.δ.（ii）δ**≤ E*(γ) ≤ δ、 这意味着事件En:En（γ）≤2.-A.（E）*(γ) ∨ δ**) =2.-A.E*(γ) ≤2.-A.δ.因此我们得出结论，对于任何δ≥ δ**, 我们有那个*(γ) ≤ δ ==> En（γ）≤ (2 - 1/a）δ。现在回想一下我们有E*(γ) ≤ δ <==> γ ∈ G*（δ） 和En（γ）≤ (2 - 1/a）δ<==> γ ∈ Gn（（2）- 1/a）δ）。因此，我们得出结论，对于任何δ≥ δ**, 关于事件En:G*(δ)  Gn（（2）-1/a）δ），根据需要。第2部分：我们将证明在事件中我们有E*(γ) ≤ a（En（γ）∨ δ**) 对于任何γ∈ Γ. 如果γ是这样的话*(γ) ≤ δ**那么这是非常正确的（因为a>1）。现在考虑σ=E的任意γ*(γ) ≥ δ**. 选取任意ε>0，使δ**≥ ε、 这是可能的，因为δ**> T] （1）-1/a）≥ 0

那么在事件上，我们有：E*（γ） ：=supγ∈Γinfθ∈Θmaxλ∈∧phb（·，θ，γ，λ）- infθ∈Θmaxλ∈∧phb（·，θ，γ，λ）≤ infθ∈Θmaxλ∈∧phb（·，θ，γ）*, λ) - infθ∈Θmaxλ∈∧ph`b（·，θ，γ，λ）+3ε=infθ∈Θmaxλ∈∧phb（·，θ，γ）*, λ) - infθ∈Θmaxλ∈∧phb（·，θ，γ，λ）+supγ∈Γinfθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）- infθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）-supγ∈Γinfθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）- infθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）+ 3ε=E*(γ) +infθ∈Θmaxλ∈∧phb（·，θ，γ）*, λ) - infθ∈Θmaxλ∈∧phb（·，θ，γ，λ）-supγ∈Γinfθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）- infθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）+ 3ε.现在注意：infθ∈Θmaxλ∈∧phb（·，θ，γ）*, λ) - infθ∈Θmaxλ∈∧phb（·，θ，γ，λ）≤ infθ∈Θmaxλ∈∧phb（·，θ，γ）*, λ) - 最大λ∈∧phb（·，θ）*(γ), γ, λ) + ε≤ 最大λ∈∧phb（·，^θ（γ）*), γ*, λ) - 最大λ∈∧phb（·，θ）*(γ), γ, λ) + 2ε≤ 最大λ∈∧phb（·，^θ（γ）*), γ*, λ) - phb（·，θ）*(γ), γ,^λ(θ*(γ), γ)) + 2ε≤ phb（·，^θ（γ）*), γ*, λ*(^θ(γ*), γ*)) -Ph`b（·θ）*(γ), γ,^λ(θ*(γ), γ)) + 2ε.类似地：infθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）- supγ∈Γinfθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）≤ infθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）- infθ∈Θmaxλ∈∧Pnh`b（·，θ，γ）*, λ) + 3ε≤ infθ∈Θmaxλ∈λPnh`b（·，θ，γ，λ）- 最大λ∈λPnh`b（·，^θ（γ）*), γ*, λ) + 4ε≤ 最大λ∈∧Pnh`b（·θ）*(γ), γ, λ) - 最大λ∈λPnh`b（·，^θ（γ）*), γ*, λ) + 5ε≤ Pnh`b（·θ）*(γ), γ,^λ(θ*(γ), γ)) -Pnh`b（·，^θ（γ）*), γ*, λ*(^θ(γ*), γ*)) + 5ε.因此我们得出结论：E*(γ) ≤ En（γ）+10ε+phb（·，^θ（γ）*), γ*, λ*(^θ(γ*), γ*)) -Ph`b（·θ）*(γ), γ,^λ(θ*(γ), γ))-Pnh`b（·，^θ（γ）*), γ*, λ*(^θ(γ*), γ*)) -Pnh`b（·θ）*(γ), γ,^λ(θ*(γ), γ)).然而，γ∈ G*（σ） 根据假设，E*(γ*) ≤ ε ≤ E*（γ） =σ意味着γ*∈ G*(σ).

因此，前一个显示的右侧可以限定在：phb（·，^θ（γ）之上*), γ*, λ*(^θ(γ*), γ*)) -Ph`b（·θ）*(γ), γ,^λ(θ*(γ), γ))-Pnh`b（·，^θ（γ）*), γ*, λ*(^θ(γ*), γ*)) -Pnh`b（·θ）*(γ), γ,^λ(θ*(γ), γ))≤ supθ，θ∈Θsupγ，γ∈G*（σ） 最大λ，λ∈∧|（Pnh`b（·，θ，γ，λ）- Pnh`b（·，θ，γ，λ））-（Ph`b（·，θ，γ，λ）- phb（·，θ，γ，λ））|。此外，对于任何σ≥ δ**, 在该事件中，最终数量以T（σ）为界；这源于T（σ）的定义和映射的单调性：x7→ supθ，θ∈Θsupγ，γ∈G*（x） 最大λ，λ∈∧|（Pnh`b（·，θ，γ，λ）- Pnh`b（·，θ，γ，λ））-（Ph`b（·，θ，γ，λ）- phb（·，θ，γ，λ））|。因此在En:E上*(γ) ≤ En（γ）+T（σ）+10ε=En（γ）+T（σ）σ+10ε≤ En（γ）+supδ≥σT（δ）δσ+10ε=En（γ）+T[（σ）σ+10ε=En（γ）+T[（σ）E*(γ) + 10ε.既然≥ δ**> T] （1）- 1/a）我们有T[（σ）≤ T[（δ**) ≤ 1.- 1/a.因此，在事件En中，如果γ等于σ=E*(γ) ≥ δ**, 我们有：E*(γ) ≤ En（γ）+1.-A.E*(γ) + 10ε==> E*(γ) ≤ aEn（γ）+10aε。因为ε>0是任何值，使得δ**≥ ε、 因此可以任意地变小，我们得出结论，在这个事件中，我们对任何γ：E都有*(γ) ≤ a（En（γ）∨ δ**) .我们将利用这个结果来论证，在事件En上，如果δ/a≥ δ**然后是E*(γ) ≤ δ. 有两种情况：（i）En（γ）≤ δ**≤ δ/a，这意味着事件En:E*(γ) ≤ a（En（γ）∨ δ**) = aδ**≤ δ.（ii）δ**≤ En（γ）≤ δ/a，这意味着事件En:E*(γ) ≤ a（En（γ）∨ δ**) = aE*(γ) ≤ δ.因此我们得出结论，对于任何δ/a≥ δ**, 关于En，我们有En（γ）≤ δ/a==> E*(γ) ≤ δ. 现在回想一下我们有En（γ）≤ δ/a<==> γ ∈ Gn（δ/a）和E*(γ) ≤ δ <==> γ ∈ G*(δ). 因此，我们得出结论，对于任何δ≥ aδ**, 关于事件En:Gn（δ/a） G*（δ） ，如所愿。这就完成了证明。B.2辅助结果和证明B。2.1关于可测量性问题，以下讨论反映了Dudley（2010）第3.3节和Dudley（2014）第5.3节中的讨论。设X为光滑空间，B（X）为Borelσ-X上的代数。

那么（X，B（X））是一个可测空间。如果P是B（X）上的概率定律，那么（X，B（X），P）是概率空间。现在来看看B 十、 我们可以定义外部度量P*关于B:P*（B） ：=inf{P（C）：B C和C∈ B（X）}。根据达德利（2010）的定理3.3.1，C总是存在的∈ B（X）使得P*（B） =P（C），这样的setC被称为B的可测量覆盖。现在将P的空集集合定义为：空（P）：={a X:P*（A） =0}。此外，让B*P（X）表示最小σ-B（X）生成的代数∪N（P）。根据达德利（2010）提出的第3.3.2条，我们有：*P（X）：={B X:BC∈ 对于某些C∈ B（X）}，其中BC=（B\\C）∪（C\\B）。现在我们可以将测度P从B（X）扩展到B上的测度P*P（X）如下：如果BC∈ N ull（P）和C∈ B（X），然后设置P（B）=P（C）。Dudley（2010）中的命题3.3.3验证了这是一个有效的扩展；也就是说，P是对B的度量*对于B（X）中的所有集合，P（X）与P一致。但是，请注意，集合B*P（X）显然取决于概率测度P。事实上，如果Q是B（X）上的另一个测度*Q（X）的定义与B类似*P（X），那么这两个集合B是可能的*P（X）和B*Q（X）不同，因为P和Q的零集不同。另一方面，很明显，B*P（X）和B*Q（X）必须有许多共同元素；例如，两个集合都必须包含Borel集合B（X）。A组B组∈ B*P（X）被称为P的可测量性。如果对于每一个概率测度P，集合B对于P的完成是可测量的，那么我们称B为普遍可测量的。我们将普遍可测集表示为B*（十） )；很容易验证B*（十） 这也是一个问题-代数根据定义，对于任意两个概率测度P和Q，都是B*P（X）和B*Q（X）包含普遍可测集。

还要注意，在我们的例子中，显然Borel集B（X）是普遍可测的。A子集A 抛光空间X的X（带Borelσ-如果存在一个紧度量空间Y，使得A是某些B在X上的投影，则称为B（X）-解析∈ B（X） B（Y）。A函数f:A→ [-∞, ∞] 如果A是解析集且{x∈ A:f（x）<c}（或{x∈ A:f（x）≥ c} ）是每个c的分析集∈ R也就是说，如果f的上标图（或下标图）是反的，那么这是由σ的任意交集引起的-代数是σ-代数我们注意到，这是分析集的许多等价定义之一。参见Cohn（2013）第8章。我们的定义来自Stinchcombe and White（1992）。解析集。在波兰空间中，每个分析集都是普遍可测的。我们请读者参考Cohn（2013）第8章了解更多细节。引理B.1（随机集上的最小值是下半解析的）。假设假设假设2.1、2.2和2.3成立。然后对于任何下半解析函数f:V×Γ×Θ×{0，1}J→ R、 函数flb，1（y，z，u，θ，γ，λ）由以下公式给出：flb，1（y，z，u，θ，γ，λ）：=infy？∈G（y，z，u，θ，γ）f（v，θ，γ，λ），（B.30）是下半解析的；也就是说，{（y，z，u，γ，θ，λ）：flb，1（y，z，u，θ，γ，λ）<r}是每个r的解析集∈ R、 因此是普遍可测量的。此外，函数flb，2（y，z，θ，γ，λ）由以下公式给出：flb，2（y，z，θ，γ，λ）：=infu∈G-（y，z，θ）flb，1（y，z，u，θ，γ，λ），（B.31）也是下半解析的；也就是说，{（y，z，θ，γ，λ）：flb，2（y，z，θ，γ，λ）<r}是每个r的解析集∈ R、 因此是普遍可测量的。备注B.3。将fub，1（y，z，u，θ，γ，λ）和fub，2（y，z，u，θ，γ，λ）定义为被上确界替换的模函数，可以证明fub，1（y，z，u，θ，γ，λ）和fub，2（y，z，u，θ，γ，λ）是上半解析的。引理B.1的证明。

回想一下，在假设2.3下，多功能G？（y，z，u，θ，γ）对于产品Borelσ是可测量的-代数B（Y） B（Z） B（U） B（Γ）。根据Molchanov（2017）定理1.3.3，这意味着：图（G？）∈ B（Y） B（Z） B（U） B（Θ）B（Γ）。因此图（G？）是一个Borel集（因此也是一个分析集）。现在注意到G？（y，z，u，θ，γ）可以重写为：G？（y，z，u，θ，γ）：={y？∈ 是吗（y，z，u，y？，θ，γ）∈ 图（G？}。flb，1:V×Γ×Θ×{0，1}J→ R是下半解析的，然后直接遵循什里夫和贝尔塞卡斯（1978）的选择定理，第968页。以flb，1（y，z，u，θ，γ，λ）为下半解析，一个完全相同的证明表明flb，2（y，z，θ，γ，λ）也是下半解析的。B.1提案。假设定理3.1的假设成立。然后是γ7→ I`b[~n]（γ），Iub[~n]（γ）是普遍可测量的。证据我们将关注地图γ7→ I`b[~n]（γ），因为上包络函数的证明是对称的。根据定理3.1，我们有：I`b[~n]（γ）=infθ∈Θmaxλ∈{0,1}JZh`b（y，z，θ，γ，λ）dPY，z，另见Bertsekas和Shreve（1978）命题7.47，第179页。式中：h`b（y，z，θ，γ，λ）：=infu∈G-（y，z，θ）infy？∈G（y，z，u，θ，γ）ν（v）+u*JXj=1λjmj（y，z，u，θ）！。假设h`b（y，z，θ，γ，λ）是下半解析的（稍后我们将回到这个）。然后是命题7。46在Bertsekas和Shreve（1978）中，地图：（θ，γ，λ）7→Zh`b（y，z，θ，γ，λ）dPY，z，（b.32）是下半解析的。此外，假设g:R→ R和g:R→ R是下半解析的。函数g（x）=g（x）∨g（x）满意度：g-1((-∞, r） ）=g-1((-∞, r） )∪G-1((-∞, r） ）。由于解析集在（可数）并集和交集下是封闭的（Parthasarathy（2005）定理3.1），所以只要gand gare是下半解析的，我们就知道g是下半解析的。

由此我们得出函数：（θ，γ）7→ 最大λ∈{0,1}JZh`b（y，z，θ，γ，λ）dPY，z是下半解析函数，是形式（b.32）的至多2j下半解析函数的点态最大值。最后，根据Shreve和Bertsekas（1978）的选择定理，第968页（另见Bertsekas和Shreve（1978）命题7.47），我们得到了映射：γ7→ supθ∈Θmaxλ∈{0,1}JZh`b（y，z，θ，γ）dPY，z是下半解析的，因此是普遍可测的。因此，只剩下证明h`b（y，z，θ，γ，λ）是低半解析的。通过引理B.1，如果我们能给出函数：（v，θ，γ，λ）7，那么h`B（y，z，θ，γ）将是下半解析的→ ν（v）+u*JXj=1λjmj（y，z，u，θ），（B.33）是下半解析的。由于φ（v）和{mj（y，z，u，θ）}Jj=1都是通过假设可测的Borel，由于Borel可测函数的组合是Borel可测的，我们得出结论（B.33）是Borel可测的。由此得出的结论是，每个Borel可测函数都是下半解析函数。几乎相同的论证表明，对于每个固定序列（ξ，…，ξn）∈ {-1，1}n，Rademachercomplexity:（（y，z），（yn，zn）7→ ||R | | |（H\'b）是普遍可测量的。这是前面结果的推论，便于参考。推论B.1。假设定理3.1的假设成立，并假设序列（Y，Z）。，（Yn，Zn）是乘积概率空间（（Y×Z）n，（B（Y））的坐标投影B（Z））n、 P纽约，Z）。然后地图：（（Y，Z），（Yn，Zn）7→ ||R | | |（H`b），是普遍可测量的；也就是说，P的完成是可测量的nY，ZF或任何PY，Z∈ PY，Z.B.2.2在定义2.3引理B.2中尊重偏好关系的弱优势。

让(Ohm, A） 做一个可测量的空间，让X，X：Ohm ×T→ R是两个随机过程，例如X（·，t）和X（·，t）对于每个t和ω7是可测量的→ 输入∈TX（ω，t），inft∈TX（ω，t）是普遍可测的；也就是说，可测量的关于完成任何概率度量的(Ohm, A） 。此外，假设对于(Ohm, A） 我们有X（ω，t）≤ X（ω，t）a.s.对于每个∈ T，让c:P→ R++可以是仅依赖于P的任何值，其中P是所有概率测度的集合(Ohm, A） 。最后，设c，c：（0，1）×P→ R++是满足以下条件的最小值：P输入∈TX（ω，t）+c（κ，P）≥ c（P）≥ κ、 P输入∈TX（ω，t）+c（κ，P）≥ c（P）≥ κ、 对于每个κ∈ (0, 1). 然后每一个P∈ 我们有c（κ，P）≤ c（κ，P）表示每个κ∈ (0, 1).证据修正任何概率测度P∈ P.然后通过假设：X（ω，t）≤ X（ω，t）a.s。T∈ T这意味着：inft∈TX（ω，t）≤ X（ω，t）a.s。T∈ T，这反过来意味着：inft∈TX（ω，t）≤ 输入∈TX（ω，t）a.s.，因此：inft∈TX（ω，t）-c（P）≤ 输入∈TX（ω，t）-c（P）a.s.设N表示该关系不成立的空集（该集可能依赖于P）∈ P） 。然后我们就有了每个x∈ R:ω：inft∈TX（ω，t）-c（P）>x∩ 北卡罗来纳州ω：inft∈TX（ω，t）-c（P）>x∩ 根据假设，这些事件属于普遍σ-由A生成的代数，因此对于任何P的完成都是可测量的∈ 这意味着每x∈ R:Pω：inft∈TX（ω，t）-c（P）>x≤ Pω：inft∈TX（ω，t）-c（P）>x.现在拿任何κ∈ （0,1）和设置x=-c（κ，P）我们有：κ≤ Pω：inft∈TX（ω，t）+c（κ，P）>c（P）≤ Pω：inft∈TX（ω，t）+c（κ，P）>c（P）.根据定义，这意味着c（κ，P）不能大于c（κ，P）；也就是说，c（κ，P）≤ c（κ，P）。自从κ∈ （0，1）是任意的，我们得出结论c（κ，P）≤ c（κ，P）表示每个κ∈ (0, 1). 自从P∈ P也是罕见的，我们得出结论，对于每一个P∈ 我们有c（κ，P）≤ c（κ，P）表示每个κ∈ (0, 1).

这完全是证据。B.2.3交换积分和上确界/内确界B.3的结果（积分和上确界/内确界的交换）。设（V，B（V））和（V，B（V））是带V和Vas抛光空间的可测空间。让V∈ V是概率空间中定义的任意随机变量(Ohm, A、 P）具有（边际）分布PV=Po五、-1.此外，让G:V→ Vbe几乎肯定不会出现空的效果。然后对于任何有界且可测的函数φ：V×V→ R、 我们有：Zsupv∈G（v）~n（v，v）dPV=supV∈Sel（G）Z~n（v，v（v））dPV，（B.34）Zinfv∈G（v）~n（v，v）dPV=infV∈特别是，如果：PV | v:={PV | v:v~ PV | V，V:V→ 可见光和PV | V（V∈ G（V）|V=V）=1 a.s.}，那么：Zsupv∈G（v）|（v，v）dPV=supPV | v∈PV | VZ~n（v，v）d（PV | v×PV），（B.36）Zsupv∈G（v）|（v，v）dPV=infPV |v∈PV | VZ~n（v，v）d（PV | v×PV）。（B.37）引理B.3的证明。由于G是可测的，根据Molchanov（2017）中的定理1.3.3，我们得到了thatgr（G）∈ B（V） B（V），因此gr（G）是一个平凡的解析集。现在定义：grv（G）：={v∈ V:（V，V）∈ gr（G）}。现在让我们来看一看*（v） ：=supv∈G（v）~n（v，v）=supv∈grv（G）~n（v，v）。此外，定义集合：M:={v∈ πV（gr（G））：五、∈ grv（G）s.t.（v，v）=*（v） 哦。式中∏V:V×V→ V是投影算子。修正任何ε>0的值。根据精确选择定理（Shreve和Bertsekas（1979），第16页），存在一个普遍可测的函数v:v→ v如（v，~v（v））∈ 每v的gr（G）∈ πV（gr（G））和：ν（V，~V（V））= φ*（v） ，如果v∈ M≥ φ*（五）-ε、 如果v/∈ M.这让我们可以写：Zsupv∈G（v）~n（v，v）dPV≤Z~n（v，ev（v））dPV+ε。由于相对于一个（普遍）可测量的选择，显然我们有：Z（v，ev（v））dPV≤ supV∈选择（G）Zа（v，v（v））dPVIt显示：supV∈Sel（G）Z~n（v，v（v））dPV≤Zsupv∈G（v）~n（v，v）dPV。对于任何ε>0，设Vε∈ 选择（G）满足：supV∈Sel（G）Z~n（v，v（v））dPV≤Z~n（v，vε（v））dPV+ε。此外，设N:={v:vε（v）/∈ G（v）}。然后通过定义Sel（G），我们得到P（N）=0。

因此：Zа（v，vε（v））dPV=ZNcа（v，vε（v））dPV≤ZNcsupv∈G（v）~n（v，v）dPV≤Zsupv∈G（v）~n（v，v）dPV。结合我们拥有的一切：Zsupv∈G（v）~n（v，v）dPV≤ supV∈Sel（G）Z~n（v，v（v））dPV+ε≤Zsupv∈由于ε>0是任意的，我们得出结论：Zsupv∈G（v）~n（v，v）dPV=supV∈塞鲁。m、 （G）Zа（v，v（v））dPV。自从每个V∈ 塞鲁。m、 （G）是普遍可测量的，每个vc可以与B（V）相关联-可测量的随机变量Vsuch the V=~Va.s.因此我们可以得出结论：Zsupv∈G（v）~n（v，v）dPV=supV∈选择（G）Zа（v，v（v））dPV。为了显示最终声明，请注意，对于任何V:V→ 我们有：PV | V（V=V | V=V）={V（V）=V}。i、 e.Vis的条件分布退化。因此对于任何V∈ Sel（G）：Z|（v，v）d（PV|v×PV）=Z k（v，v）{v（v）=v}dPV=Z k（v，v（v））dPV。通过定义PV | V，我们得出结论：supV∈Sel（G）Z~n（v，v（v））dPV=supPV | v∈PV | VZ~n（v，v）d（PV | v×PV）。B.2.4误差范围的结果在下一个引理中，我们重点讨论下包络函数，尽管显然上包络函数也有类似的结果。为了便于记法，请表示为：~n*:= infθ∈Θ*infPU | Y，Z∈PU | Y，Z（θ）infPY？γ| Y，Z，U∈皮耶？γ| Y，Z，U（θ，γ）Z~n（v）dPVγ。（B.38）我们现在得到了以下结果：引理B.4（原始问题和惩罚问题之间的相等）。假设定理3的假设。1等一下。然后存在函数λ`bj:Θ×PY，Z→ {0,1}，j=1，J、 仅取决于θ和分布PY，Z，因此：*= infθ∈ΘinfPU | Y，Z∈PU | Y，Z（θ）infPY？γ| Y，Z，U∈皮耶？γ| Y，Z，U（θ，γ）Z~n（v）dPVγ+u*JXj=1λ`bj（θ，PY，Z）EPY，Z，U[mj（y，Z，U，θ）]！。备注B.4。回想PY，Zi是Y×Z上所有Borel概率测度的集合。引理B.4的证明。首先，注意对于任何函数λ`bj:Θ×PY，Z→ {0,1}，j=1。