二项分布

二项分布（binomial distribution）描述一组固定次数的独立试验中，某种结果一共出现多少次。每次试验只区分“成功”和“失败”，成功的概率保持相同。例如，连续发送五次消息，每次是否送达都记下来；二项分布给出成功零次、一次、两次，直到五次的各个概率。

下面使用一个合成的通信模型：每次发送成功的概率为 $p = 1 / 4$ ，失败概率为 $q = 1 - p = 3 / 4$ ，各次结果相互独立。这里的概率和独立性是为了研究问题而作的假设，并非某种真实网络的测量结果。先把发送次数固定为五次，即使中途已经成功，也完成这五次发送；我们关心的量 $X$ 是其中成功的总次数。

从一次发送到五次发送

一次发送的结果本来是“成功”或“失败”。为了能够相加，用数字把它记录下来：

$I = {\begin{matrix} 1, & 发送成功, \\ 0, & 发送失败 . \end{matrix}$

这样， $P (I = 1) = p$ 、 $P (I = 0) = 1 - p$ 。这种只在 $0$ 和 $1$ 取值的概率分布叫作伯努利分布（Bernoulli distribution）；一次符合上述条件的试验叫作伯努利试验。“成功”只是被计数结果的名称，在检查次品的问题里，也可以把“发现次品”记作成功。

把五次发送依次记录为 $I_{1}, I_{2}, I_{3}, I_{4}, I_{5}$ ，总成功次数就是

$X = I_{1} + I_{2} + I_{3} + I_{4} + I_{5} .$

若记录是 $(1, 0, 1, 0, 0)$ ，那么 $X = 2$ ；记录 $(0, 1, 0, 0, 1)$ 也给出 $X = 2$ 。这两个记录发生的次序不同，但成功总数相同。计算 $P (X = 2)$ 时，要把所有这样的记录都包括进去。

一般地，若 $n$ 是固定的非负整数， $I_{1}, \dots, I_{n}$ 相互独立，并且每个 $I_{i}$ 都以同一个概率 $p$ 取值 $1$ ，则它们的和服从参数为 $n, p$ 的二项分布，记为 $X \sim Bin (n, p)$ 。它可能取 $0, 1, \dots, n$ 。当 $n = 0$ 时没有试验，约定总数为零。这里的固定试验数、共同的成功概率和独立性，正是把一次试验推广为二项模型的条件。OpenStax：二项试验的条件

恰好两次成功：为什么要乘组合数

先只看一个次序：成功、成功、失败、失败、失败。独立性允许我们把这五次对应的概率相乘，所以这个完整记录的概率为

$p \cdot p \cdot q \cdot q \cdot q = p^{2} q^{3} = \frac{27}{1024} .$

若把成功移到第 1、3 次，乘积变成 $p q p q q$ ，结果仍是 $p^{2} q^{3}$ 。因为各次成功概率相同，只要恰有两次成功，完整记录的概率就相同。余下的问题是：两个成功位置可以怎样选？

下图每一行是一种完整记录，实心圆表示成功，空心圆表示失败。先固定第一个成功位置，再向右选另一个位置，就得到 $4 + 3 + 2 + 1 = 10$ 种；每种恰好出现一次。

五次试验中恰好两次成功的十种排列，每行五个圆，两个实心圆标出成功位置。 — 恰好两次成功包含十种互不重叠的记录，每一种的概率都是 p²q³。

也可以先后指定两个成功位置：第一次有五种选择，第二次有四种选择，得到 $5 \times 4$ 个有顺序的选择。但是“先选位置 1 再选位置 3”与“先选位置 3 再选位置 1”是同一份发送记录，每一对都被数了两遍，因此要除以 $2$ 。这给出组合数学中的组合数

$(\binom{5}{2}) = \frac{5 \times 4}{2 \times 1} = 10.$

十种记录互斥，一次五连发只会产生其中一种，所以它们的概率可以相加：

$P (X = 2) = 10 p^{2} q^{3} = 10 {(\frac{1}{4})}^{2} {(\frac{3}{4})}^{3} = \frac{270}{1024} \approx 0.263672.$

这解释了公式中两部分的分工： $p^{2} q^{3}$ 是一种确定次序的概率， $(\binom{5}{2})$ 是具有这个成功总数的次序数。

概率质量函数与一张完整的表

把上面的计数推广到 $n$ 次中选 $k$ 个成功位置。依次选位置共有 $n (n - 1) \dots (n - k + 1)$ 种，但每一组位置按 $k!$ 种次序被重复选出。因此不同位置集合共有

$(\binom{n}{k}) = \frac{n!}{k! (n - k)!}$

种； $k = 0$ 时只有“不选任何位置”这一种，约定 $0! = 1$ 。每个完整记录的概率为 $p^{k} (1 - p)^{n - k}$ ，于是对于 $0 < p < 1$ ，

$P (X = k) = (\binom{n}{k}) p^{k} (1 - p)^{n - k}, k = 0, 1, \dots, n .$

这叫二项分布的概率质量函数，它逐项分配概率。取值范围以外的概率为零。端点参数也有明确含义： $p = 0$ 时 $X = 0$ 的概率为一； $p = 1$ 时 $X = n$ 的概率为一，可直接按这个含义处理，无须纠缠公式中的 $0^{0}$ 。

对通信例子，分母统一为 $4^{5} = 1024$ ，各项只需算 $(\binom{5}{k}) 3^{5 - k}$ 。例如成功三次的分子是 $10 \times 9 = 90$ 。完整结果如下。

成功次数 $k$	不同位置数 $(\binom{5}{k})$	$P (X = k)$	$P (X \leq k)$
0	1	$243 / 1024$	$243 / 1024$
1	5	$405 / 1024$	$648 / 1024$
2	10	$270 / 1024$	$918 / 1024$
3	10	$90 / 1024$	$1008 / 1024$
4	5	$15 / 1024$	$1023 / 1024$
5	1	$1 / 1024$	$1024 / 1024$

表中六个概率的分子之和是 $1024$ ，总概率恰好为一。一般情形也一样：二项式展开式把 $[p + (1 - p)]^{n}$ 展成上述各项之和，而这个幂等于一。“二项”这一名称与这个二项式展开的形式相呼应。

下图把每项概率画成柱高。横坐标只能取整数；两根柱之间的空隙不表示遗漏了 $X = 1.5$ 这样的结果。这里读的是柱的高度，不是连续概率密度曲线下的面积。

n等于5、p等于四分之一的二项概率柱图，六根柱的概率依次为243、405、270、90、15、1除以1024，前面三根突出显示。 — 成功一次最可能；成功零至两次的三根柱相加，得到 918/1024。

“恰好”“至多”和“至少”怎样转换

至多两次包括零次、一次和两次。它们互斥，因此

$P (X \leq 2) = \frac{243 + 405 + 270}{1024} = \frac{918}{1024} \approx 0.896484.$

至少成功一次包括一至五次，也可以从全部结果中去掉“全失败”，计算更短：

$P (X \geq 1) = 1 - P (X = 0) = 1 - {(\frac{3}{4})}^{5} = \frac{781}{1024} \approx 0.762695.$

若问一至三次，包括两端，则从“至多三次”去掉零次：

$P (1 \leq X \leq 3) = P (X \leq 3) - P (X \leq 0) = \frac{1008 - 243}{1024} = \frac{765}{1024} .$

将“至多”统一写成函数，就是累积分布函数 $F (x) = P (X \leq x)$ 。它对任意实数 $x$ 都有定义，不过成功次数是整数，所以 $F (2.4) = F (2)$ 。一般有

$F (x) = {\begin{matrix} 0, & x < 0, \\ \sum_{k = 0}^{⌊ x ⌋} (\binom{n}{k}) p^{k} (1 - p)^{n - k}, & 0 \leq x < n, \\ 1, & x \geq n, \end{matrix}$

其中 $⌊ x ⌋$ 是不大于 $x$ 的最大整数。下图在每个整数处向上跳一步，在两个相邻整数之间保持水平。看 $x = 2$ 处：空心端点还没有纳入“成功两次”，实心端点已经纳入，它们的高度差正是 $270 / 1024$ 。因此质量函数给出每一级的增量，分布函数给出累计到这里的总量。

二项分布的右连续累计概率阶梯，x等于2时由648除以1024跳到918除以1024，跳跃大小为270除以1024。 — 实心点属于函数图像，空心点只标出前一段不包含的端点。末端的细小跳跃可用数表精确区分。

平均成功多少次，波动有多大

期望是概率加权的平均数。一次试验的指示变量满足

$E (I_{i}) = 0 (1 - p) + 1 p = p .$

总数是各次记录的和，期望对加法具有线性，因此

$E (X) = E (I_{1}) + \dots + E (I_{n}) = n p .$

这一条相加规则本身不要求独立；共同的成功概率使每项都等于 $p$ 。通信例子给出 $E (X) = 5 / 4 = 1.25$ 。这表示大量重复“五次发送”时，每组成功数的长期平均，并不是说某一组能成功一点二五次。

要量度总数绕平均数的波动，使用方差 $Var (X) = E [(X - E (X))^{2}]$ 。因为 $I_{i}$ 只取零或一，平方后不变，即 $I_{i}^{2} = I_{i}$ ，所以

$Var (I_{i}) = E (I_{i}^{2}) - [E (I_{i})]^{2} = p - p^{2} = p (1 - p) .$

各次独立在下一步起作用。将总偏差的平方展开，既有每次自己的平方项，也有不同试验之间的交叉项：

$(X - n p)^{2} = \sum_{i = 1}^{n} (I_{i} - p)^{2} + 2 \sum_{i < j} (I_{i} - p) (I_{j} - p) .$

对于 $i \neq j$ ，独立性使乘积期望等于期望之积；而 $E (I_{i} - p) = 0$ ，故每个交叉项的期望为零。剩下 $n$ 个相同的平方项，于是

$Var (X) = n p (1 - p), σ_{X} = \sqrt{n p (1 - p)} .$

在本例中，方差是 $5 \times \frac{1}{4} \times \frac{3}{4} = 15 / 16$ ，标准差是 $\sqrt{15} / 4 \approx 0.968246$ 。标准差与成功数使用相同的计数尺度。若各次会一起成功或一起失败，交叉项通常不再为零，套用二项方差就会失去依据。

参数怎样改变图形

先保持 $n = 5$ ，只提高每次成功概率。下图三排使用相同坐标尺度。 $p = 1 / 4$ 时概率集中在较小的成功数， $p = 3 / 4$ 时向较大的成功数移动，两幅图互为左右镜像。原因是把成功、失败互换后，成功数由 $X$ 变成 $5 - X$ ，概率参数由 $p$ 变成 $1 - p$ 。当 $p = 1 / 2$ 时这种互换不改变模型，所以分布关于 $5 / 2$ 对称。

固定五次试验，p分别为四分之一、二分之一、四分之三的三排概率柱图，均值分别为1.25、2.5、3.75，中排对称，两边互为镜像。 — 成功概率提高时，质量向右移动；三排纵轴尺度相同。

再保持 $p = 1 / 4$ ，把次数从五次增加到二十次。成功总数的均值由 $1.25$ 增至 $5$ ，标准差由 $\sqrt{15} / 4$ 增至 $\sqrt{15} / 2$ ，总数的绝对波动变大。但如果比较成功比例 $X / n$ ，则

$E (X / n) = p, Var (X / n) = \frac{p (1 - p)}{n} .$

所以次数增加四倍时，成功比例的标准差反而减半。“总数更分散”与“比例更稳定”说的是两个不同的量。

下面的交互可以改变 $n = 5, \dots, 50$ 和 $p = 0.05, \dots, 0.95$ 。先设置 $n = 5, p = 0.25$ ，选中 $K = 2$ ，核对当前模型概率约为 $0.263672$ 、均值为 $1.25$ ；再固定 $p$ ，把 $n$ 改为 $20$ ，预测均值和标准差后读取结果。图中的 $K$ 与本文的 $X$ 都表示成功总次数。

样本量、概率与检验

改变试验次数和成功概率，观察二项分布；比较同一拒绝规则下的误拒绝率与功效。

静态配图与完整推导见本节正文；交互演示需浏览器启用 JavaScript。

组件还附有针对“公平模型 $p_{0} = 0.5$ ”的检验读数。那个双侧 p 值是按预先规定的检验规则累计得到的，不是当前一根柱子的概率；本节的复算使用“当前模型概率”一栏。检验含义见统计推断。

什么时候不能直接使用二项模型

有四张卡片，其中一张标为成功、三张标为失败。若随机抽两张且不放回，第一次成功的概率是 $1 / 4$ 。但第一次抽到成功后，第二次成功的条件概率变成零；第一次失败后，它变成 $1 / 3$ 。两次抽取不独立。

这个例子甚至保留了“每个位置成功的边际概率都是 $1 / 4$ ”：第二次成功的概率是 $(3 / 4) (1 / 3) = 1 / 4$ 。尽管两次的单独成功概率相同，也不能把总数当作 $Bin (2, 1 / 4)$ ，因为它会给“两次都成功”分配 $1 / 16$ 的正概率，而这里只有一张成功卡，真实概率为零。不放回抽样应根据剩余总体计数，在常见的有限总体模型中得到超几何分布。

通信模型也要分别检查这些条件。若同一次线路故障影响连续多次发送，独立性值得怀疑；若重试会改变功率或路径，各次的成功概率可能不同；若成功后立即停止，试验次数本身就不再固定。最后一种问题自然引向几何分布。

与其他分布的联系

二项分布在特定参数条件下可以近似为更便于计算的分布。当 $p$ 固定在零与一之间而 $n$ 增大时，标准化后的成功数趋向标准正态分布。实际使用正态近似时，需要同时考察 $n p$ 和 $n (1 - p)$ 是否足够大；常见的“两者至少为五”是粗略经验规则，不是任何尾概率都有同样精度的保证。本例的 $n p = 1.25$ 很小，直接使用精确表更合适。Siegrist：二项分布的正态近似

用连续曲线近似整数概率时还要处理整数边界。例如 $P (X \leq k)$ 的常见连续性修正是将上界移到 $k + 1 / 2$ ，再计算均值 $n p$ 、方差 $n p (1 - p)$ 的正态累计概率。

另一个极限保持平均成功次数 $n p \approx λ$ ，同时让 $n$ 很大、 $p$ 很小，此时可得到参数为 $λ$ 的泊松分布。这是“许多次机会，每次事件都稀少”的计数近似；只看次数大而忽略 $p$ ，不足以选择它。严格地，若 $n \to \infty$ 且 $n p_{n} \to λ > 0$ ，相应二项分布收敛到这个泊松分布。Siegrist：泊松近似及其极限条件

历史与参考资料

伯努利试验以雅各布·伯努利（Jacob Bernoulli，1655—1705）命名。他的《猜度术》（Ars Conjectandi）在 1713 年身后出版，将组合计数与概率问题联系起来，其中的大数定理讨论重复试验的成功比例如何以高概率接近其成功概率。本文中从成功总数 $X$ 转向比例 $X / n$ ，正与这一研究方向相关。圣安德鲁斯大学 MacTutor：Jacob Bernoulli

Barbara Illowsky、Susan Dean，Introductory Statistics 2e，4.3 Binomial Distribution，OpenStax。二项试验条件、概率公式、均值方差及不放回抽样反例。
Kyle Siegrist，The Binomial Distribution，Probability, Mathematical Statistics, and Stochastic Processes。从伯努利变量之和推导性质，以及正态、泊松近似。
J. J. O'Connor、E. F. Robertson，Jacob Bernoulli，MacTutor History of Mathematics，圣安德鲁斯大学。人物、著作及概率论贡献。