联合分布

两个随机变量 $X,Y$ 的联合分布描述它们同时取值的概率，不只是各自分布。离散情形用 $p(x,y)=P(X=x,Y=y)$；连续情形若有联合密度 $f(x,y)$，区域 $D$ 的概率是 ${\iint }_{D}f(x,y)dxdy$。

同样的边缘，不同的依赖

令 $X$ 是一次公平抛币的 0/1 指示量。模型甲令 $Y=X$：联合概率只在 $(0,0)$、$(1,1)$ 各有 $1/2$。模型乙令 $Y=1-X$：概率只在 $(0,1)$、$(1,0)$ 各有 $1/2$。两模型中 $X$ 与 $Y$ 单独看都各以 $1/2$ 取 0 或 1，联合分布却完全不同；前者同向，后者反向。

从联合到边缘与条件

离散情形可对另一变量求和：$P(X=x)=\sum _{y}p(x,y)$；连续情形用 $f_X(x)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}f(x,y)dy$。若 $P(Y=y)>0$，则 $P(X=x\mid Y=y)=p(x,y)/P(Y=y)$。这三个式子分别是“同时发生”“忘掉一维”和“已知一维后的分布”，不可混为一谈。

若 $X,Y$ 独立，其联合分布可分解成边缘分布之积；反过来分解成立也说明独立。只知道两个边缘分布，无法推出这种分解，需要联合信息或独立假设。

参考资料

• MIT 18.05，Joint Distributions 讲义。
• MIT 6.041，概率论讲义。
• 继续阅读：边缘分布、事件独立性、协方差。