全方差公式

平均等待时间只告诉我们“中心”在哪里；同样平均 $3.2$ 小时的两处服务点，一处可能人人差不多，另一处可能多数人很快、少数人极慢。全方差公式把总体波动拆成两部分：同组内部的波动，以及各组平均值之间的差异。它是理解分层数据、实验分组和预测不确定度的一把尺子。

先用两组服务时间计算

沿用全期望公式中的例子：通道 A 占 $60\mathrm{\%}$，平均停留 $2$ 小时；通道 B 占 $40\mathrm{\%}$，平均停留 $5$ 小时。假设两组内的停留时间方差分别为 $1$ 和 $4$ 平方小时。总体均值已算得 $$\mu =E[X]=0.6(2)+0.4(5)=3.2\text{ 小时}.$$ 组内方差的加权平均是 $0.6(1)+0.4(4)=2.2$ 平方小时。但全体差异还包括两组平均时间本身的距离： $$0.6(2-3.2{)}^2+0.4(5-3.2{)}^2=0.864+1.296=2.16\text{ 平方小时}.$$ 所以总体方差为 $2.2+2.16=4.36$ 平方小时，标准差约 $2.09$ 小时。绝不能直接把两组标准差 $1,2$ 按比例平均成 $1.4$，然后称它为全体标准差；那既忽略组间均值差异，也没有遵循方差的加法规则。

本例总体方差中，组内与组间差异几乎各占一半。

定理的条件和证明

设 $X$ 有有限二阶矩，$Y$ 是用来分组或提供信息的随机变量。记 $m(Y)=E[X\mid Y]$，$\mu =E[X]$。全方差公式为 $$\mathrm{Var}(X)=E[\mathrm{Var}(X\mid Y)]+\mathrm{Var}(E[X\mid Y]).$$ 第一项是“在知道组别以后，仍无法解释的平均波动”；第二项是“组别改变所导致的条件均值波动”。两项均非负，说明只按组内方差推断总体方差通常会漏掉一部分。

证明。 把 $X-\mu$ 拆成 $$X-\mu =\underset{\text{组内偏离}}{\underbrace{X-m(Y)}}+\underset{\text{组间偏离}}{\underbrace{m(Y)-\mu }}.$$ 平方后求期望。交叉项为零，因为 $$E[(X-m(Y))(m(Y)-\mu )]=E[(m(Y)-\mu )E[X-m(Y)\mid Y]]=0.$$ 余下第一项 $E[(X-m(Y){)}^2]$ 由条件方差定义等于 $E[\mathrm{Var}(X\mid Y)]$；第二项 $E[(m(Y)-\mu {)}^2]$ 等于 $\mathrm{Var}(m(Y))$。两者相加就是 $E[(X-\mu {)}^2]$，即总体方差。证明中用到了迭代期望，没有假设 $X$ 与 $Y$ 独立。

有限分组的计算式

若组别 $G$ 取 $1,\dots ,k$，各组比例 $p_i$、均值 ${\mu }_i$、组内方差 ${\sigma }_i^2$，且 $\sum _i{p}_i=1$，则 $$\mu =\sum _i{p}_i{\mu }_i,\mathrm{Var}(X)=\sum _i{p}_i{\sigma }_i^2+\sum _i{p}_i({\mu }_i-\mu {)}^2.$$ 第二项不会因为每组内部都很整齐而消失；如果所有组的均值相同，它才为零。反过来，组内方差为零不表示全体没有波动：两组各给出不同的固定值，仍有组间方差。

数据分析中的边界

上述是随机变量总体方差的恒等式。把它用于样本时，组内样本方差常以 $n_i-1$ 为分母，而总体方差可能以 $N$ 或 $N-1$ 为分母；不能把这些不同分母的现成数字原样代入 $p_i{\sigma }_i^2$ 就期待精确相等。若只是描述一个已收集的数据表，可先用每组平方离差总和与组间平方离差总和做平方和分解，再按所需估计目标选分母。

在预测模型中，分组变量若来自未来才知道的信息，计算 $\mathrm{Var}(X\mid Y)$ 时不能偷看未来组别。社会调查中还要区分真实总体组别比例与样本采集比例；后者若有选择偏差，组间贡献会被估错。全方差告诉我们差异由哪里来，但不自动证明“组别导致”结果差异；相关系数与因果解释仍是不同问题。

参考资料与相关词条

• MIT《Introduction to Probability》第一部分，第 13 讲，条件方差与全方差的推导。
• 先修：期望、方差与标准差、条件期望；相关：全期望公式、分层随机抽样、方差分析。