跳到正文
格致开物MATHWIKI

二项分布的正态近似

二项分布的正态近似用具有相同均值和方差的正态分布,近似计算许多次独立伯努利试验的成功总数。它把逐项相加的离散概率变成曲线下的面积;连续性修正(continuity correction)负责把整数事件的边界转换为合适的面积边界。

设一个合成的通信试验发送 100 次消息,每次成功概率为 0.4,结果相互独立。记成功总数为 X,则 XBin(100,0.4)。我们要算“成功次数在 35 到 45 之间,包含两个端点”的概率。精确计算是

P(35X45)=k=3545(100k)(0.4)k(0.6)100k0.7385730185.

这个结果提供了检查近似的基准。原模型的定义、独立性以及二项概率公式见二项分布;这里关注怎样从离散计数过渡到连续面积。

先配对中心与尺度

把第 j 次试验记录为指示变量 Ij,成功时为一,失败时为零。于是 X=j=1nIj。因为 E(Ij)=pVar(Ij)=p(1p),独立性给出

μ=E(X)=np,σ2=Var(X)=np(1p).

本例 μ=40σ2=24σ=244.898979486。选择连续变量 YN(40,24),其中第二个参数表示方差,便让近似曲线与原分布具有同样的中心与离散程度。

一百次成功概率零点四的二项分布在整数周围以宽度一的矩形显示,叠加均值四十方差二十四的正态密度,二者在中心附近接近
每个矩形宽度为一,高度为相应整数的概率,所以面积也等于该概率。正态密度的高度本身不是某个整数的概率。

为什么会出现钟形曲线?对于固定 0<p<1,独立同分布的伯努利变量满足中心极限定理:对每个实数 z,当 n 时,

P(Xnpnp(1p)z)Φ(z).

这里 Φ 是标准正态累计分布函数。这是收敛结论,给有限的 n 提供近似理由;它没有断言任意样本量下的两种概率完全相等。OpenStax:中心极限定理与二项近似

为什么边界要移动半格

把整数 k 的概率画成宽为一的柱,其横向范围为 [k0.5,k+0.5]。事件 35X45 包含十一根完整柱,覆盖的连续区间从 34.5 到 45.5。用正态面积代替这十一根柱的总面积,应写成

P(35X45)P(34.5Y45.5).

如果直接积到 35 与 45,就各切掉了边缘半根柱。整数事件里的“包括端点”在连续变量中不能仅靠 符号保留下来,因为连续变量恰好取某一点的概率为零。

整数三十五到四十五的十一根柱对应连续区间三十四点五到四十五点五,两端半格用辅助线标出,未经修正的三十五到四十五区间较窄
先确定事件包含哪些整数,再包住这些整数各自的一整格。半格方向由事件边界决定。

标准化后,左右边界分别为 5.5/245.5/24,得到

P(34.5Y45.5)=Φ(1.122682799)Φ(1.122682799)0.7384277640.

它与精确概率相差约 0.0001452545,即 0.014525 个百分点;未经修正的 P(35Y45) 约为 0.6925658341,少算得更明显。修正改善的是这个具体近似,并没有把近似变成恒等式。

从整数事件翻译成面积事件

以下 a,b,k 都是整数,ab。先进行事件的整数化简,再使用表中的边界:

计数事件 对应的正态近似面积
Xk Yk+0.5
X<k,即 Xk1 Yk0.5
Xk Yk0.5
X>k,即 Xk+1 Yk+0.5
aXb a0.5Yb+0.5
X=k k0.5Yk+0.5

例如 P(X=40) 应用一整格的面积,而不是 P(Y=40)=0。本例精确值约为 0.0812191450,半格修正后的近似值约为 0.0812925946。若事件写成 X40.2,因为 X 是整数,先化为 X40,边界才是 40.5。

在支持集端点附近,不同的近似写法可能显露正态曲线落在合法计数范围外的尾部。例如 X=0 等价于 X0,但近似面积 P(0.5Y0.5)P(Y0.5) 相差 P(Y<0.5)。近似良好时这段尾部应足够小;若差别已经明显,应回到精确二项计算。

为什么有时试验次数不少,近似仍不好

常见的初步筛选是同时检查 np10n(1p)10。这是经验性条件,帮助避开成功或失败数太少、分布高度偏斜的情形,不是给定误差容限的保证。极端尾部的相对误差还可能比中心区域大得多。

例如改成 XBin(20,0.05),则均值为 1、方差为 0.95;成功数主要集中在零附近。零次成功的精确概率为

P(X=0)=0.95200.3584859224.

用一整格的正态面积近似,则

P(0.5Y0.5)=Φ(0.50.95)Φ(1.50.95)0.2420733342.

误差已经很大。均值、方差即使配对准确,仍不能补偿明显的偏斜和零边界。

二十次成功概率百分之五的二项概率集中在零一二附近,而均值一方差零点九五的正态曲线向负数延伸且形状不匹配
正态曲线将一部分面积放在不可能的负计数一侧。图形在这里揭示近似条件失败,而不是为错误结果提供依据。

小概率、有限平均次数的情形还可以考虑泊松分布的近似,但它同样需要检查条件和误差。实际能够直接计算精确二项概率时,精确计算是本模型下的基准。

如何让计算既稳定又能检查

对有限事件,不必先计算巨大的阶乘。相邻二项概率满足

P(X=k+1)P(X=k)=nkk+1p1p,0<p<1,k=0,,n1.

选取合适的起始概率后可逐项递推,或用成熟的概率累计函数计算。很大的 n 下,从 P(X=0)=(1p)n 起算可能下溢,此时需要对数概率或围绕众数缩放的算法。近似与数值舍入是两种不同误差:前者来自换了分布,后者来自计算过程。

一次完整解答应交代随机机制、n,p、原来的整数事件、半格修正后的边界及最终误差。图帮助说明为何这样换边界,精确概率或误差界则检验近似有多可靠。

参考资料