概率树
概率树(probability tree)把一个随机过程按阶段展开:节点表示已经发生的情况,分支表示下一步的可能结果,根到叶的一条路径表示一段完整结果。沿路径相乘得到联合概率,把互不相容的路径相加得到事件概率。分支上通常是在此前结果已经发生的条件下的概率;画成两层,并不表示两步独立。
从五张工单中抽两张
把五张大小相同的工单卡充分混匀,其中三张是普通工单,记作 A;两张是加急工单,记作 B。随机依次抽出两张,第一张不放回,每次对当时剩余的卡等可能抽取。这里只研究抽样,不表示实际业务应随机安排加急顺序。
第一次抽到 A 的概率为 ,抽到 B 为 。第二次的分母是四,但分子取决于第一张:
- 已抽到 A:剩余两张 A、两张 B,下一张的两种概率各为 。
- 已抽到 B:剩余三张 A、一张 B,下一张的概率分别为 和 。
图中 AB 表示先普通、后加急,BA 表示先加急、后普通,两者都是“一张普通、一张加急”,却是两条不同路径。若只写一个“AB”,就会遗漏另一种先后顺序。
一条路径为什么相乘
用 表示第一张为 A,用 表示第二张为 B。条件概率 把观察范围缩到“第一张已经是 A”的结果;本例 ,因此可以把分母乘到左边: 这个等式来自条件概率定义,不需要独立性。MIT 条件概率讲义第19讲也以乘法法则解释概率树的分支。
还可以直接数卡验证:给三张普通卡编号 A1、A2、A3,两张加急卡编号 B1、B2。共有 个等可能的有序抽样结果。AB 路径有 个,所以概率为 。四条“类型路径”并不等可能;20个带编号的结果才等可能。
| 路径 | 带编号的结果数 | 沿分支相乘 | 路径概率 |
|---|---|---|---|
| AA | 3×2=6 | 3/10 | |
| AB | 3×2=6 | 3/10 | |
| BA | 2×3=6 | 3/10 | |
| BB | 2×1=2 | 1/10 |
对于更多阶段,每一步都要带上此前完整的条件。例如在各分母为正时, 第三步一般不能只条件于第二步。只有模型保证更早历史在给定当前状态后不再提供信息,才可缩短条件。马尔可夫链研究的正是这种特定结构。
一个事件为什么有时要相加
“恰有一张加急”由 AB 和 BA 两条路径组成。它们不能在同一次抽样中同时发生,因此概率相加: “至少一张加急”还包括 BB,故为 。也可从反面计算:它唯一的反面是 AA,因此 两种算法得到同一结果,是检查是否漏掉路径的办法。
若要求第二张加急,符合条件的叶子是 AB、BB: 它与第一张加急的概率相同,却不意味着两次独立。独立还要求第一张的结果不改变第二张的概率;本例 ,并不等于 。边缘概率相等与独立性是不同问题。
已知第二张加急,怎样倒过来读树
现在只告诉我们第二张为 B,问第一张是普通工单的概率。先筛出符合已知信息的 AB、BB;它们的概率质量合计 ,其中 AB 占 。把这一部分重新当作全部可能情况,得到
这也是贝叶斯定理的基本操作。箭头所画的先后顺序不妨碍利用后来获得的信息更新对前一步的判断;这种更新不表示第二次抽样在因果上改变了第一次。
改成放回抽样,哪些分支要改
若每次抽完放回并重新充分混匀,第二步又面对三张 A、两张 B。两条第一层分支之后,都应标 、。在这个明确的重复随机化模型中,两次结果独立,于是 “恰有一张加急”的概率成为 ,不再是不放回时的0.60。
关于放回与不放回的树形表示,可参阅OpenStax §3.5。计算时应先写清机制,再填概率,不能从图的外形猜独立性。
自己完成一段分支
变式一:仍不放回,连续抽三张,前两张都是 B。第三张是 A 的条件概率是多少?路径 BBA 的概率是多少?
解答:两张加急已抽完,只剩三张普通,所以下一步概率为一。完整路径概率为 BBB 的概率是零。到一个概率为零的历史节点后,初等条件概率的分式没有定义;不必为了把图画满而硬填后续条件概率,这条路径对最终事件没有贡献。
变式二:只知道抽出的两张至少有一张 B,问两张都是 B 的概率。可以直接用 作答吗?
解答:不可以,已知条件把总概率质量从一缩成 。条件概率为 。这里要筛选的是 AB、BA、BB 三条路径,不能误用“第二张为B”的两条路径。
来源与前后知识
- MIT 6.1200J,Lecture 19: Conditional Probability,2024:条件概率、路径乘法与不相容事件求和。
- OpenStax,Introductory Statistics 2e,§3.5:树形图与抽样机制。
- 概率提供事件与概率的定义;贝叶斯定理进一步讨论已知信息后的更新;二项分布处理固定次数、独立同概率的两类结果计数。