跳到正文
格致开物MATHWIKI

最大耦合

内容维护:格致开物 · 编写与核验 · 修订记录 · 纠错

对于两个概率分布,最大耦合是在保留两个边缘分布的所有联合分布中,使两个样本相等的概率尽可能大的耦合。两个相同分布可以令样本总相等;分布越不相同,可共同匹配的概率质量越少。

离散构造

先讨论有限状态集 S。设 pi=Pr⁡(X=i)、qi=Pr⁡(Y=i),令共同质量 ri=min⁡(pi,qi),以及 d=1−∑i∈Sri=12∑i∈S|pi−qi|. 右侧是离散情形的全变差距离。任意耦合都满足 Pr⁡(X=Y=i)≤ri,因此 Pr⁡(X=Y)≤1−d。[1]

这个上界可以达到。先以质量 ri 在对角位置放置 (i,i)。若 d>0,余下的第一个边缘与第二个边缘质量分别为 pi−ri、qj−rj;将余量按照 Pr⁡(X=i,Y=j)=(pi−ri)(qj−rj)d 分配。对同一个 i,至少有一个余量为零,所以这部分不增加对角质量。对 j 求和,得到余边缘 pi−ri;加回对角质量便是 pi,另一边同理。总相等概率恰为 ∑iri=1−d。若 d=0,两个边缘完全相同,直接取 X=Y 即可,避免除以零。

三个状态的算例

取 p=(1/2,3/10,1/5)、q=(1/5,2/5,2/5),则 r=(1/5,3/10,1/5),总共同质量 7/10,故最大相等概率为 7/10。第一个边缘只在状态一有剩余 3/10,第二个边缘在状态二、三分别有 1/10,2/10。下面的联合概率表各行之和是 p、各列之和是 q;对角线之和为 0.7。

三乘三联合概率表,对角线为0.2、0.3、0.2,第一行另有0.1和0.2
行表示 X,列表示 Y;对角元素之和等于最大相等概率。

因此 Pr⁡(X≠Y)=3/10,恰好等于全变差距离。另一种耦合也许有相同的边缘,却可能具有更大的不相等概率;最大性是关于所有耦合的最优化性质,不是边缘分布本身给出的具体联合机制。

使用范围

这里的构造给出了有限状态空间中的完整证明。标准 Borel 空间也有一般形式,但连续分布的“共同部分”需要用测度或密度表达,不能把单点概率直接相加。耦合常用于证明马尔可夫链分布接近:一旦构造出两个过程并控制它们尚未相遇的概率,就能为全变差距离给出上界;但一次最大耦合不自动给出整个时间过程的最优耦合。

参考资料

  1. ↑ Ellen G. Powell,Stochastic Processes: Markov chains,“coupling and total variation distance”,杜伦大学,访问于 2026 年 11 月 8 日。