概率

概率是对随机事件赋予数值的一套数学规则，用来描述在给定模型下事件发生的不确定性。事件的概率介于 0 与 1 之间。概率值来自对样本空间及其分布的建模，不能仅凭“可能发生”就认定各结果等可能。

样本空间、事件与三条公理

样本空间 $\Omega$ 是所有可能结果的集合，事件是其中可赋予概率的子集。在一般概率论中，这些事件组成一个 σ 代数；有限样本空间通常取全部子集作为事件。

概率函数 $P$ 满足非负性、$P(\Omega )=1$，以及对两两互斥事件的可列可加性： $$P\left(\bigcup _{n=1}^{\mathrm{\infty }}{A}_n\right)=\sum _{n=1}^{\mathrm{\infty }}P(A_n).$$ 由此可推出补事件公式 $P(A^c)=1-P(A)$，以及加法公式 $$P(A\cup B)=P(A)+P(B)-P(A\cap B).$$ 最后一项用于扣除重复计数的交集。

两枚骰子为什么有 36 种等可能结果

假设两枚公平六面骰独立投掷，用有序对 $(i,j)$ 记录结果。共有 $6\times 6=36$ 个等可能结果，而不是把和为 2 到 12 的 11 个数看成等可能。

有序对等可能，但它们的和不等可能；和为 7 有 6 种结果，和为 2 只有一种。

和为 7 的结果为 $(1,6),(2,5),\dots ,(6,1)$，故概率为 $6/36=1/6$。至少一枚为 6 的概率则为 $$\frac{1}{6}+\frac{1}{6}-\frac{1}{36}=\frac{11}{36}.$$ 减去的 $1/36$ 是两枚都为 6 的情形。也可以取补事件：$1-(5/6{)}^2=11/36$。

条件概率：已知信息改变了范围

当 $P(B)>0$ 时，定义 $$P(A\mid B)=\frac{P(A\cap B)}{P(B)}.$$ 假设已知第一枚骰子为 6，此时两枚之和为 7 的概率是 $1/6$；如果已知至少一枚为 6，则剩余 11 个等可能结果中只有 $(1,6)$、$(6,1)$ 的和为 7，概率变为 $2/11$。信息的措辞决定条件事件，不能省略。

独立与互斥是不同概念

事件独立意味着 $P(A\cap B)=P(A)P(B)$；互斥意味着 $A\cap B=\varnothing$。两个概率都为正的互斥事件不独立，因为其中一个发生就排除了另一个。

单枚骰子的“结果为偶数”与“结果为 6”并不独立；两枚独立骰子各自“为偶数”的事件则独立。独立性是模型条件，需要由过程或数据支持，不能把乘法当作默认规则。

概率、频率与概率为零

重复独立且同分布的试验中，大数定律说明事件频率会以适当的概率意义接近其概率。它不保证短期结果均衡，也不意味着前面连续出现某结果后，下一次必须“补偿”。

连续分布还存在概率为零但并非空集的事件。例如在 $[0,1]$ 均匀取数，恰好取到 $1/2$ 的概率为零。连续模型使用区间概率与密度，不能把“每个点概率为零”理解为“没有任何值能出现”。

延伸阅读

• MIT OpenCourseWare，18.05 阅读材料：样本空间、条件概率与独立性。
• 组合数学 · 期望 · 贝叶斯定理