中心极限定理

中心极限定理说，许多独立小贡献相加后，经过适当中心化和缩放，分布趋向正态形状。一个标准版本是：若 $X_1,X_2,\dots$ 独立同分布，$E{X}_i=\mu$，$0<\mathrm{Var}(X_i)={\sigma }^2<\mathrm{\infty }$，则 $$Z_n=\frac{\sum _{i=1}^n{X}_i-n\mu }{\sigma \sqrt{n}}=\frac{\sqrt{n}({\overline{X}}_n-\mu )}{\sigma }\stackrel{d}{\to }N(0,1).$$ 这里的箭头是依分布收敛，表示 $Z_n$ 的累积分布函数在正态分布的连续点趋近，不是每个 $Z_n$ 的具体值趋向某个随机数。

抛硬币的近似

独立公平抛 $n=100$ 次，正面次数 $S_{100}$ 的均值为 50、标准差为 5。标准化 $(S_{100}-50)/5$ 后，可用标准正态近似概率。比如 $P(S_{100}\le 60)$ 要考虑离散到连续的连续性修正，可近似为 $\Phi ((60.5-50)/5)=\Phi (2.1)$；若只为粗估，用 $\Phi (2)$。这不是精确二项分布值，尤其在小样本或极端尾部应检查误差。

与大数定律的分工

大数定律说 ${\overline{X}}_n$ 靠近 $\mu$；中心极限定理进一步刻画典型偏差的尺度是 $1/\sqrt{n}$，并说明缩放后形状如何变化。若观测高度相关、方差不存在，或单个极端值主导总和，上述独立同分布有限方差版本不能直接用。定理也不声称原始数据本身呈正态分布。

参考资料

• MIT 18.05，Central Limit Theorem 讲义。
• MIT 6.041，概率论讲义。
• 继续阅读：大数定律、正态分布、抽样分布。