求解非线性高维偏微分方程

特别是，我们对所有违反条件{（t，x）：g（t，x）的点应用了损失≥ G（x）}通过：最大值{-（f（t，x；θ）- （K）- x） +），0}[0，T]×Ohm, ν图6.3比较了使用交替不平等损失（Alternative不等式loss）和有限差分法（Finite difference Method）获得的不同到期日的DGM固定期权价格。图中显示，我们成功地利用该损失函数复制了期权价格。图6.4描述了估计看跌期权价值与Black-Scholes公式给出的相应欧洲看跌期权分析价格之间的绝对误差。由于两者在延拓区域应相等，因此这可以间接获得早期练习边界。黑线是通过有限差分法获得的边界，我们发现它与我们的隐含运动边界非常匹配。随着时间的推移，两种期权价格之间的差额在边界以下的减少反映了美式期权早期行使期权性的恶化。寓意：失去功能很重要！图6.3：使用DGM（红色）与有限差分法（蓝色）计算的不同到期日的美国看跌期权价格的比较图6.4：DGM估计的美国看跌期权价格与相应欧洲看跌期权分析解之间的绝对差异。6.4福克-普朗克方程3：具有随机高斯起点的OU过程的福克-普朗克方程tp+κ·p+κ（x- θ) · xp系统-σ· xxp=0（t，x）∈ R+×Rp（0，x）=√2πv·e-X2V解：高斯密度函数。福克-普朗克方程在解决方案的约束形式中引入了一个新的困难。我们将DGM方法应用于Ornstein–Uhlenbeck均值回复过程的福克-普朗克方程。如果流程从x点开始，即。

它的初始分布是x处的Dirac delta，那么这个偏微分方程的解已知具有正态分布xt~ Nx·e-κ（T-t） +θ1.- e-κ（T-t）,σ2κ1.- e-2κ（T-t）由于无法用数字直接表示初始增量，因此必须对其进行近似，例如，使用均值为X且方差较小的正态分布。在起点为高斯的情况下，我们使用蒙特卡罗模拟来确定每个时间点的分布，但我们注意到，由于我们基本上使用的是共轭先验，因此分布应为高斯分布。对于DGM算法，我们对微分方程本身、初始条件使用损失函数项，并添加惩罚以反映非负性约束。虽然我们打算加入另一个术语来迫使解的积分等于1，但这在计算上过于昂贵，因为必须在网络训练阶段的每一步对积分进行数值计算。对于参数θ=0.5、σ=2、T=1、κ=0，与模拟分布相比，图6.5显示了密度估计p在不同时间点作为位置x的函数。从这些图中可以看出，固定分布在尾部周围以及固定曲线的总体高度上存在问题，即固定密度未整合到1。神经网络估计在正确逼近初始条件的同时，无法在时间上保持概率质量和高斯钟形。为了改进结果，我们应用了变量的变化：p（t，x）=e-u（t，x）c（t）图6.5:XT在不同时间的分布。蓝色条对应于模拟值的历史图；红线对应于所需Fokkerplank方程的DGM解。其中c（t）是归一化常数。

这相当于构建一个指数化的规范化神经网络，确保其保持正态并集成到统一。该方法提供了一种可通过DGM方法解决的替代PDE：tu+κ（x- θ)徐-σxxu型- (徐）= κ+R(tu）e-udxRe公司-UDX请注意，新方程是一个依赖于积分项的非线性偏微分方程。为了处理积分项并避免在每一步进行昂贵的数值积分操作，我们首先从t∈ [0，T]和{xk}Nxq=1from[xmin，xmax]，然后，对于每个tj，我们使用重要性抽样来近似期望项：=nxk=1(tu（tj，xk））w（xk），其中w（xk）=eu（tj，xk）PNxk=1eu（tj，xk）注意，由于均匀分布的密度在采样区域内是恒定的，因此取消了权重的分母项。然后，LLOS近似为：NtNxNtXj=1NxXk=1(t+L）u（tj，xk，It，θ），尽管所得方程更复杂，但使用此技术通过求解u（x，t）并转换回p（x，t）来训练网络，使我们能够获得更强的结果，如图6.6中的曲线图所示。图6.6:XT在不同时间的分布。蓝色条对应于模拟值的历史图；红线对应于使用修正方法得到的所需福克普朗克方程的DGM解。请注意，网络能够准确地恢复形状，并跨时间步长保留概率质量。有趣的是，在此示例中，PDE中的线性损失对于能够解决问题来说并不重要，而重要的是将适当的结构强加给所需的函数。寓意：先验知识很重要！6.5随机最优控制问题在本节中，我们处理一对非线性HJB方程。兴趣在于价值函数和最优控制。

HJBequations的原始形式包含一个很难处理的优化项（一阶条件）。在这里，我们正在使用简化的PDE，一旦反馈形式的最优控制被替换回来，ansatz可能被用来进一步简化。由于我们对值函数和最优控制都感兴趣，并且最优控制是根据值函数的导数编写的，因此需要进一步对DGM输出进行数值微分（基于微分）以实现最优控制。6.5.1默顿问题4：默顿问题-指数效用最优投资(tH公司-λ2σ(xH）xxH+rxH=0（t，x）∈ R+×RH（T，q）=-αq解（值函数与最优控制）：H（t，x）=-exph公司-xγer（T-t）-λ（T-t） iπ*t=λγσe-r（T-t） 式中λ=u- rσ在本节中，我们尝试用指数效用来求解默顿问题的HJB方程。在我们的首次尝试中，我们发现上述方程分母中出现的二阶导数在问题的数值解中产生了很大的不稳定性。因此，我们通过乘以得到以下等式：-λ2σ(xH）+xxH公司tH公司-λ2σ+rxH= 0在该公式中，方程成为准线性偏微分方程，在数值上更稳定。用参数r=0.05、σ=0.25、u=0.2和γ=1求解方程，终点时间T=1，区域（T，x）∈ [0，1]，在x轴上进行50%的过采样。图6.7：默顿问题的近似（红色）与分析（蓝色）值函数。图6.8：默顿问题值函数近似解和解析解之间的绝对（左图）和相对（右图）误差。图6.9：近似值（红色）与。

默顿问题的解析（蓝色）最优控制。图6.10：最优控制近似解和解析解之间的绝对（左图）和相对（右图）误差。将估值函数（图6.7和6.8）和最优控制（图6.9）与下面的解析解进行比较。通过对图的检验，我们发现神经网络能够很好地估计值函数。但请注意，在t=0时，近似解和解析解之间的误差较大，但在可接受的范围内。这可能再次是因为终端条件对解决方案的稳定作用随着我们离开该时间点而减弱。一般来说，我们对与HJB方程相关的最优控制感兴趣。在这种情况下，最优控制包括除以值函数的二阶导数，该值函数在某些区域似乎很小。如图6.9和6.10所示，这会导致计算解中的误差传播。近似值似乎在t=1时相当接近，但在t变为0时会迅速发散。请注意，值函数解中误差较小的区域对应于最优控制中的较大误差。6.5.2最优执行5：具有永久和临时价格影响的最优清算(th（t，q）- φq+4κ（bq+qh（t，q））=0（t，q）∈ R+×Rh（T，q）=-αq溶液：h（t）=pkφ·1+ζe2γ（t-t） 1个- ζe2γ（T-t） ·q其中γ=rφk，ζ=α-b类+√kφα-b-√kφ对于第二个非线性HJB方程，用参数k=0.01，b=0.001，φ=0.1，α=0.1，从t=0到终点t=t=1，用q∈ 【0，5】，q轴过采样50%。下图中的近似值显示出与真值函数的良好拟合。

方程的最优控制解仅取决于解的一阶导数，因此误差传播不像前一个问题中的误差传播那么大，如计算解中所示，其中存在良好的t，当q变为0，t变为t时，误差传播会恶化。图6.11：最佳执行问题的近似值（红色）与真值（蓝色）函数。图6.12：最优执行问题的valuefunction的近似解和解析解之间的绝对误差。图6.13:optimalexecution问题的近似（红色）与真实（蓝色）最优交易率。图6.14：最优执行问题中最优控制近似解和解析解之间的绝对误差。寓意：从价值函数到最优控制是不平凡的！6.6系统性风险6：系统性风险tVi+NXj=1a（x- xj）- jVj公司jVi+σNXj，k=1ρ+δjk（1- ρ)jkVi公司+( - q）x个- xi+iVi公司= 0Vi（T，x）=cx个- xi对于i=1。。。，N、 解：Vi（t，x）=η（t）x个- xi+ u（t）αi，*t型=q+1.-N· η（t）Xt公司- 退出式中η（t）=-( - q）e（δ+-δ-)（T-t）- 1.- cδ+e（δ+-δ-)（T-t）- δ-δ-e（δ+-δ-)（T-t）- δ+- c（1-N）e（δ+-δ-)（T-t）- 1.u（t）=σ（1- ρ)1.-NZTtη（s）dsδ±=-（a+q）±√R、 R=（a+q）+1.-N( - q） 系统性风险问题带来了我们的第一个HJB方程组（碰巧也是非线性的）。这一问题在两人（N=2）情况下得到解决，相关系数ρ=0.5，σ=0.1，a=1，q=1， = 10，c=1，从t=0到终端时间t=t=1，带（x，x）∈ 【0，10】×【0，10】，并将结果与分析溶液进行比较。请注意，解析解有两个对称性，一个位于两个播放器的值函数之间，另一个位于x=xline周围。神经网络解决方案捕获了这两种对称性，符合该系统的解析解。

在对称轴上发现了误差最大的区域，当t变为0时，但在远离这些区域时，解中的误差变得非常低。一旦再次发生，这可能归因于终端条件的影响。图6.15：系统性风险问题的分析解决方案。图6.16：系统性风险问题的神经网络解决方案。图6.17：系统性风险问题近似解和分析解之间的绝对误差。图6.18：系统性风险问题近似解和分析解之间的相对误差。对于具有上述相同参数的五个参与者，系统性风险问题也得到了解决，以测试该方法在系统变量数量和方程数量方面的高维度能力。在下面的图表中，我们比较了一个球员在偏离时的价值函数x从x的初始状态开始，x=5。请注意，所有玩家都具有相同的对称值函数。图显示，使用DGM方法训练的神经网络开始捕捉解的整体形状，尽管与解析解仍有相当大的偏差。

这表明，更多的训练时间，或更好的训练程序，最终应该以一定程度的准确性获得真正的解决方案。图6.19：五家参与者系统性风险问题的分析解决方案。图6.20：五个参与者系统性风险问题的神经网络解决方案。6.7平均场博弈7：具有相同偏好的平均场中的最优清算- κuq=tha公司- φaq+(qha）4k（HJB方程-最优性）Ha（T，x，S，q；u）=x+q（S- αaq）（HJB终端条件）tm+qm级·ha（t，q）2k= 0（FP方程-密度流）m（0，q，a）=m（q，a）（FP初始条件）ut=Z（q，a）ha（t，q）2km（t，dq，da）（净交易流量）解决方案：见Cardaliaguet和Lehalle（2017）。MFG问题的主要挑战是它同时涉及HJB方程和福克-普朗克方程。此外，由福克·普朗克方程控制的密度必须在其域上保持为正，并像我们之前看到的那样积分为一。考虑到积分项u的计算成本很高，且福克-普朗克方程中的密度有一些必须满足的约束条件，制造问题的天真实现产生了糟糕的结果。使用第6.4节中使用的相同的指数化和归一化思想，我们重写了密度m（t，q，a）=c（t）e-u（t，q，a）获得函数u的PDE：-tu+2k(-qu公司qv+qqv）+R(tu）e-udxRe公司-udx=0这两个积分项都是通过重要性抽样处理的，如具有指数变换的福克-普朗克方程。用参数A，φ，α，k=1，终止时间T=1对方程进行数值求解。初始质量分布为正态分布，平均值为5，方差为0.25。

计算t的结果∈ [0，1]和q∈ [0, 10].将值函数、最优控制以及质量通过时间的期望值与解析解进行了比较（概率质量的解析解不可用；但是可以通过解析计算该分布的期望值）。值函数和最优控制的解析解在该问题的可接受范围内，但应注意的是，对于t=0，近似值随着q的增长而发散，但仍然相当好。拟合密度的隐含期望值与分析解有很好的拟合。概率质量无法与解析解进行比较，但有理由相信，在给出剩余结果的情况下，它与真实解非常接近。图6.21:MFG问题值函数的近似（红色）与解析解。图6.22:theMFG问题最优控制的近似（红色）与解析解。图6.23：制造问题药剂分布预期值的近似（红色）与分析解。图6.24：制造商库存的非标准化概率质量；随着所有交易者的清算，曲线向左移动。6.8结论和未来工作DGM实施的主要信息可归纳为三点：1。抽样方法很重要：类似于在有限差分方法中选择网格，用于训练的抽样随机点的选择位置和方式是决定结果质量的唯一最重要因素。2、先验知识事项：掌握有关解的一些信息可以极大地提高近似值的准确性。事实证明，这在福克·普朗克和制造业的应用中是仪器。

它也适用于有限差分法甚至蒙特卡罗法（一个很好的类比是使用控制变量）。3、训练时间问题：在某些情况下，包括我们之前的一些尝试，损失函数似乎随着迭代而减少，解决方案的形状似乎朝着正确的方向移动。就像神经网络和一般基于SGD的优化一样，有时答案是让优化器运行更长时间。作为参考，Sirignano和Spiliopoulos（2018）在带有GPU集群的超级计算机上运行了该算法，并在多达200个维度上取得了优异的结果。关于运行时的最后一点特别有趣。虽然有限差分方法需要大量内存，但训练DGM网络可能需要很长时间。这暗示了一个在计算机科学中被称为时空权衡的概念。然而，应该注意的是，有限差分方法不会在高维情况下运行，而DGM（在正确执行时）将到达ata解决方案，尽管运行时间可能很长。研究用于求解偏微分方程的数值方法的时空权衡是很有意思的。正如本工作前面所讨论的，在我们的上下文中，泛化是指函数如何满足函数域中未在训练阶段采样的点或区域的PDE条件。