耦合

耦合是把两个或多个给定的概率分布放到同一个概率空间上，同时构造相应随机变量的方法。各变量各自的分布必须保持指定的边缘分布，但它们之间如何关联，可以根据研究目的选择。

同一对边缘分布可以有不同耦合

两枚公平硬币的单次结果都服从参数为 $1/2$ 的伯努利分布。若使用两次独立投掷，它们不同的概率是 $1/2$；若同掷一枚硬币并把结果同时记给两者，它们不同的概率是零。两种构造的边缘分布一样，联合分布不同。耦合不会自动意味着独立。

下面令 $S$ 为实数上的博雷尔空间，或可数状态空间及其全部子集；两种情形下乘积空间的对角线都可测，所以 $\{X\ne Y\}$ 是事件。形式上，$\mu$ 和 $\nu$ 是 $S$ 上的概率分布；若 $(X,Y)$ 的边缘分布分别为 $\mu$ 和 $\nu$，那么 $(X,Y)$ 的联合分布就是这两个分布的一个耦合。

一个具体构造

令 $X$ 的分布为 $(1/2,1/3,1/6)$，$Y$ 的分布为 $(1/6,1/3,1/2)$。给出下表中的联合概率，行对应 $X$，列对应 $Y$：

$P(X=i,Y=j)$	$j=1$	$j=2$	$j=3$	行和
$i=1$	$1/6$	$0$	$1/3$	$1/2$
$i=2$	$0$	$1/3$	$0$	$1/3$
$i=3$	$0$	$0$	$1/6$	$1/6$
列和	$1/6$	$1/3$	$1/2$	$1$

行和、列和分别是指定的两个边缘分布。不同的结果只出现在 $(1,3)$，所以 $P(X\ne Y)=1/3$。若改为独立耦合，则相同概率是 $1/12+1/9+1/12=5/18$，不同概率变为 $13/18$。如何连接两个分布会影响比较结果。

耦合不等式

对任意同空间耦合与任意事件 $A$，记 $I_X={\mathrm{𝟏}}_{\{X\in A\}}$、$I_Y={\mathrm{𝟏}}_{\{Y\in A\}}$。因为两个指示变量只可能在 $X\ne Y$ 时不同，有 $$\begin{array}{cc}|P(X\in A)-P(Y\in A)|& =|E[I_X-I_Y]|\\ & \le E|I_X-I_Y|\\ & \le P(X\ne Y).\end{array}$$ 取所有事件的上确界，得到 $$d_{\mathrm{T}\mathrm{V}}(\mu ,\nu )\le P(X\ne Y).$$ 前例的全变差距离是 $1/3$，与构造的不同概率相等，所以没有别的耦合能够得到更小的不同概率。

对有限状态空间，先在每个对角位置放置 $min(p_i,q_i)$ 的概率，再将剩余行列质量配对，即可构造达到该下界的耦合。这样的构造常用于比较马尔可夫链的分布，但要证明两条链何时相遇，还需具体分析转移规则。

参见

• 全变差距离