分布鲁棒优化

分布鲁棒优化（distributionally robust optimization，DRO）在概率分布不能精确确定时，从一组允许的分布中考虑最坏期望损失，再选择决策。它保留了概率与平均损失的描述，同时把分布本身的不确定性纳入模型。所得到的保证始终相对于声明的分布集合。

不确定的是哪个概率

设决策 $x \in 𝒳$ ，随机情形为 $ξ$ ，损失为 $ℓ (x, ξ)$ ，损失越小越好。若分布 $P_{0}$ 已知，随机优化最小化 $𝔼_{P_{0}} ℓ (x, ξ)$ 。DRO改为 $inf_{x \in 𝒳} sup_{P \in 𝒫} 𝔼_{P} [ℓ (x, ξ)],$ 其中非空集合 $𝒫$ 称为分布歧义集，可由支持范围、矩、概率界或与经验分布的距离等条件构造。需要保证各候选分布下期望有定义；最坏值可能是无穷，外层最优解也不一定存在，所以一般形式使用上、下确界。^[1]

假设只有普通、繁忙两种情形，繁忙概率 $p \in [1 / 5, 3 / 5]$ 。方案A在两种情形的损失为 $(0, 10)$ ，方案B为 $(4, 4)$ 。对给定 $p$ ，A的期望损失是 $10 p$ ，B恒为四。如果只代入名义概率 $p = 1 / 5$ ，会选A，期望损失二；但在允许范围内，A的最坏期望是六，B仍为四，因此DRO选B。

横坐标繁忙概率p在0.2到0.6，方案A期望损失10p随概率上升，方案B恒为4 — 同一决策要在允许概率范围内取最坏值，不能对每个概率分别换一次方案后再比较。

最坏分布可以随决策改变。若另一方案在繁忙时反而损失较小，它的最坏概率可能出现在左端点，而非A的右端点。计算时要在固定决策后再求内层最坏分布。

支持集、均值与最坏分布

再考虑需求 $ξ \in {0, 1, 2}$ ，只知道均值为一。设三个概率为 $p_{0}, p_{1}, p_{2}$ ，则 $p_{0} + p_{1} + p_{2} = 1, p_{1} + 2 p_{2} = 1, p_{j} \geq 0.$ 相减得到 $p_{0} = p_{2} = t$ ， $p_{1} = 1 - 2 t$ ，故 $0 \leq t \leq 1 / 2$ 。歧义集是一条概率线段，而非某一个分布。

教学库存决策取 $q \in {0, 1, 2}$ ，每单位多备损失二、少备损失五： $ℓ (q, ξ) = 2 (q - ξ)_{+} + 5 (ξ - q)_{+}, a_{+} = max (a, 0) .$ 在需求零、一、二下，三个决策的损失依次为

决策	需求0	需求1	需求2	歧义集上的期望	最坏期望
$q = 0$	0	5	10	$5$	5
$q = 1$	2	0	5	$7 t$	$7 / 2$
$q = 2$	4	2	0	$2$	2

例如 $q = 2$ 的期望是 $4 t + 2 (1 - 2 t) = 2$ ，因为均值约束使多备的平均损失固定。三个最坏期望比较后，DRO选择 $q = 2$ 。若误把需求均值一当成“需求必定是一”，就会选择损失零的 $q = 1$ ，把均值信息误用了。

参数t从0到0.5时三个库存决策的期望损失，q为1的曲线由0升至3.5，其余分别恒为5和2 — 均值相同的分布仍可有不同离散程度。中间决策对这种变化敏感。

变式增加限制 $p_{0} = p_{2} \leq 1 / 5$ ，即排除过于分散的分布。此时 $q = 1$ 的最坏期望降至 $7 / 5$ ，小于 $q = 2$ 的二，最优决策改为一。歧义集不是无关紧要的调节项，它直接表达采用了哪些知识。

有限支持下的线性规划

固定决策后，若支持点为 $ξ_{1}, \dots, ξ_{s}$ ，令 $h_{j} = ℓ (x, ξ_{j})$ 。由线性概率和矩约束定义的内层问题可写成 $max_{p \geq 0} h^{𝖳} p, B p = b, C p \leq d,$ 其中 $B p = b$ 包含概率和等于一。若歧义集非空且损失有限，它是概率单纯形的闭子集，因而紧，最坏值能取得。对应线性规划对偶为 $min_{y, z} b^{𝖳} y + d^{𝖳} z, B^{𝖳} y + C^{𝖳} z \geq h, z \geq 0,$ 等式约束对应的 $y$ 不受符号限制。弱对偶可直接验证：对任意可行 $p, y, z$ ， $h^{𝖳} p \leq y^{𝖳} B p + z^{𝖳} C p \leq b^{𝖳} y + d^{𝖳} z$ 。标准有限维线性规划强对偶在可行且最优值有限时保证界可以闭合。

在库存算例的 $q = 1$ 情形，取仿射上界 $a + b ξ$ ，令 $a = 2, b = 3 / 2$ 。它在支持点零、一、二上分别为二、 $7 / 2$ 、五，逐项不小于损失二、零、五；其期望恒为 $a + b 𝔼 [ξ] = 7 / 2$ 。分布 $(p_{0}, p_{1}, p_{2}) = (1 / 2, 0, 1 / 2)$ 又恰好达到 $7 / 2$ ，所以这对分布与上界相互证明了内层最优值。

这一步把对分布的搜索改写成有限优化，不表示所有连续支持或非线性歧义集都同样容易求解。模型的可计算性取决于损失结构、约束和支持集。

保守程度与统计含义

若 $𝒫_{1} \subseteq 𝒫_{2}$ ，对每个固定决策，在较大集合上取上确界不会更小；再对决策取下确界，DRO最优值也不会降低。这严格说明了扩大歧义集会使报告的最坏损失更保守，却不保证某个指定决策变量会单调增减。

当歧义集包含支持集上所有点质量分布时，对有限损失有 $sup_{P} 𝔼_{P} ℓ = max_{ξ} ℓ$ ，退化为逐情形鲁棒优化；当歧义集只有一个分布时，退化为普通随机优化。只限定均值而不限定支持或适当高阶矩，某些增长较快损失的最坏期望可能无穷。

若要声称对真实未知分布有某个置信水平的保证，须另外证明歧义集以该概率包含真实分布，并检查抽样假设。仅写一个经验分布附近的半径，不能自行产生这样的保证。实际报告应交代数据来源、支持约束、集合构造、最坏分布与样本外检验结果。

参考文献

↑ Erick Delage、Yinyu Ye（2010）：Distributionally Robust Optimization under Moment Uncertainty with Application to Data-Driven Problems，Operations Research，58(3)：595–612，§1—§2的分布不确定性模型；正式出版信息见DOI页面。

[1] Erick Delage、Yinyu Ye（2010）：Distributionally Robust Optimization under Moment Uncertainty with Application to Data-Driven Problems，Operations Research，58(3)：595–612，§1—§2的分布不确定性模型；正式出版信息见DOI页面。

[1]