跳到正文
格致开物MATHWIKI

贝塔分布

贝塔分布(Beta distribution)是一族由两个正实数参数确定的连续概率分布,通常定义在单位区间上。它既可描述比例型随机变量的分布,也可在贝叶斯统计中表示对未知成功概率的不确定性。在后者的模型中,试验结果服从伯努利分布或二项分布,成功概率的先验分布和后验分布则可以同属贝塔分布族;这两种随机性的层次应予区分。

定义

设 α>0、β>0。若随机变量 X 的概率密度函数在 0<x<1 上为 f(x;α,β)=xα−1(1−x)β−1B(α,β), 在区间外为零,则称 X 服从参数为 α,β 的贝塔分布,记作 X∼Beta⁡(α,β)。其中的贝塔函数是归一化常数: B(α,β)=∫01tα−1(1−t)β−1dt=Γ(α)Γ(β)Γ(α+β), 且 Γ(a)=∫0∞ta−1e−tdt(a>0)。贝塔积分与伽马函数的关系见 NIST《数学函数数字图书馆》。[1] 正参数条件保证两端的反常积分均收敛,因此密度非负且积分等于一。

这里 Pr⁡(0<X<1)=1,但按“最小闭集”的通常定义,分布的支撑集为 [0,1]。端点附近每个邻域都有正概率,而端点本身满足 Pr⁡(X=0)=Pr⁡(X=1)=0。密度在单个点上的赋值不改变分布;讨论端点形状时,应使用内侧极限,而不能把无穷大的密度误解为正的点概率。

区间概率

连续分布的概率由密度在区间上的积分给出。对 0≤u<v≤1, Pr⁡(u≤X≤v)=1B(α,β)∫uvxα−1(1−x)β−1dx. 密度曲线的高度可以超过一,只要曲线下的总面积为一即可。例如 X∼Beta⁡(2,2) 时,B(2,2)=1/6,所以 f(x)=6x(1−x)。密度在中点的值为 3/2,但这不是“中点出现的概率”;中点作为单个值,概率仍为零。相比之下,取值落入中间一半区间的概率是 Pr⁡(14≤X≤34)=∫1/43/46x(1−x)dx=[3x2−2x3]1/43/4=1116. 这说明曲线的集中程度应通过区间面积来理解,而不应把某点的高度当作概率。贝塔分布的累积分布函数一般以正则化不完全贝塔函数表示: F(x)=Ix(α,β)=1B(α,β)∫0xtα−1(1−t)β−1dt,0≤x≤1. 相应地,x<0 时为零,x>1 时为一。[2]

参数、形状与众数

不同参数下的贝塔密度。参数既影响偏向,也影响集中程度;小于一的形状参数可使相应端点附近的密度发散。

交换 α 与 β 相当于将密度曲线关于 x=1/2 镜像反射,即 X∼Beta⁡(α,β)⟹1−X∼Beta⁡(β,α). 特别地,α=β 时分布对称;α=β=1 时就是单位区间上的均匀分布。

命题(内部众数) 若 α>1 且 β>1,密度有唯一众数 xmode=α−1α+β−2. 这是标准贝塔分布的众数公式,其参数条件不可省略。[2]

证明 在 (0,1) 上, ddxlog⁡f(x)=α−1x−β−11−x. 令其为零即得上述值;此时对数密度的二阶导数为负,故为唯一最大点。

在端点附近,密度分别与左端距离的 α−1 次幂、右端距离的 β−1 次幂渐近成正比。因此,形状参数小于一时,对应端点附近曲线升高;大于一时,曲线下降至零。虽然小于一时密度会发散,但由于参数仍为正,这种发散是可积的,不会破坏归一化。

同一导数也给出其余参数情形:

  • 0<α<1、0<β<1:密度呈 U 形,两端内侧极限均为正无穷,中间的驻点是最小点;不存在有限的内部最大点。
  • α≤1、β≥1,且不同时等于一:密度严格递减。若 α<1,左端发散;若 α=1,β>1,左端极限为有限值 β。
  • α≥1、β≤1,且不同时等于一:密度严格递增。若 β<1,右端发散;若 β=1,α>1,右端极限为有限值 α。
  • α=β=1:密度恒为一,无唯一众数。

在有限端点极限的情形,若将密度连续延拓至闭区间,可分别称 0 或 1 为边界众数。对密度发散的情形,“端点众数”仅描述边界峰形,并非在开区间内取得了有限最大值。

矩与集中程度

命题 若 X∼Beta⁡(α,β),则 𝔼[X]=αα+β,Var⁡(X)=αβ(α+β)2(α+β+1).

证明 由定义,对任意非负整数 k, 𝔼[Xk]=B(α+k,β)B(α,β). 利用 Γ(a+1)=aΓ(a),得到递推关系 B(α+1,β)=αα+βB(α,β). 分别取 k=1,2,可得上述均值及 𝔼[X2]=α(α+1)(α+β)(α+β+1). 再用 Var⁡(X)=𝔼[X2]−𝔼[X]2 即得方差。

令 μ=α/(α+β)、κ=α+β,则 α=μκ,β=(1−μ)κ,Var⁡(X)=μ(1−μ)κ+1. 因此,在均值固定时,增大 κ 会减小方差。例如 Beta⁡(2,2) 与 Beta⁡(20,20) 的均值同为 1/2,方差却分别为 1/20 与 1/164。仅给出均值,不能确定一个贝塔分布。

在已知期望比例且能够给出合理波动范围时,这种参数化也便于选择模型:先确定均值,再用方差确定集中参数。所选方差必须严格介于零与均值乘以一减均值之间,才能得到有限的正形状参数。零方差对应常量而非普通贝塔分布;达到上述上界则要求概率集中在两个端点,同样不属于这里定义的连续分布族。

伯努利与二项模型中的共轭性

设 Y1,…,Yn 在给定成功概率 p 后条件独立,且各自服从 Bernoulli⁡(p)。记成功总数为 s=∑i=1nyi。对 p 采用先验 p∼Beta⁡(α,β).

定理(贝塔—二项共轭更新) 在上述模型下, p∣y1,…,yn∼Beta⁡(α+s,β+n−s). 贝塔先验与二项似然的这一共轭关系,使更新可以通过两个参数的加法完成。[3]

证明 观测序列的似然为 ps(1−p)n−s;若只记录成功总数,其似然还包含与 p 无关的二项式系数。由贝叶斯定理,后验密度满足 π(p∣𝒚)∝ps(1−p)n−spα−1(1−p)β−1=pα+s−1(1−p)β+n−s−1. 右端是贝塔密度的核,除以 B(α+s,β+n−s) 即得到归一化后验。

当 n>0 时,后验均值还可写成 𝔼[p∣𝒚]=α+sα+β+n=κκ+nμ+nκ+nsn. 它是先验均值与样本成功比例的加权平均。这给出了将 κ 理解为“先验权重”的依据,但不表示实际观察过 α 次成功和 β 次失败:参数可以不是整数,也未必源于历史样本。

对同一条件模型下的下一次试验,积分消去未知参数,可得 Pr⁡(Yn+1=1∣𝒚)=∫01pπ(p∣𝒚)dp=α+sα+β+n. 这是下一次成功的后验预测概率。下一次结果仍取零或一,参数 p 的后验则是连续分布。

例:十次试验后的更新

示例先验 Beta(2,2) 与观察到七次成功、三次失败后的后验 Beta(9,5)。图中数据为演示而设定。

设某重复试验的成功概率稳定,结果在给定该概率后相互独立。为展示计算,选取先验 p∼Beta⁡(2,2);这表示先验均值为 1/2,方差为 1/20。现假设十次试验中观察到七次成功和三次失败。这是教学用假设数据,不对应实际实验。

由共轭更新, p∣𝒚∼Beta⁡(2+7,2+3)=Beta⁡(9,5). 后验均值、方差和众数分别为 𝔼[p∣𝒚]=914≈0.6429,Var⁡(p∣𝒚)=9×5142×15=3196≈0.01531, pmode=9−19+5−2=23. 只依据二项似然得到的最大似然估计为 7/10,后验均值则为 414×12+1014×710=914. 先验在此将估计向 1/2 拉近。下一次成功的预测概率同样为 9/14,但这不等于断言真实成功概率恰为该值。完整后验保留了参数的不确定性;均值或众数只是不同的单值摘要。

若用后验分布的第 2.5% 和第 97.5% 分位数作为端点,即得等尾 95% 可信区间。其含义是:在给定模型、先验及已观测数据的条件下,参数落入该区间的后验概率为 0.95。这与频率学派置信区间在重复抽样中的覆盖率定义不同。[4]

分批更新与先验敏感性

同一批数据可以一次处理,也可以分批处理。例如先观察四次成功、一次失败,先验变为 Beta⁡(6,3);再观察三次成功、两次失败,得到 Beta⁡(9,5)。两条路径结果相同,因为在本模型中似然只通过成功与失败总数依赖数据。这种等价性要求各批次共享同一个成功概率,且没有重复计入观测。

若将原先验改为 Beta⁡(1,1),相同数据得到 Beta⁡(8,4),后验均值为 2/3;若改为更集中于中点的 Beta⁡(20,20),后验为 Beta⁡(27,23),均值为 27/50=0.54。三个结果的差异来自先验权重,而不是计算方法不同。在报告估计值时,同时说明先验及样本量,才足以让读者判断数据对结论的影响。

还应区分单次预测与多次预测。单次预测只需后验均值;若预测未来多次试验的成功总数,则须对共享的未知成功概率整体积分,不能直接以该均值代入二项分布来代替完整的后验预测分布。后者会遗漏参数不确定性引入的额外变异。

先验选择与适用范围

Beta⁡(1,1) 是在 p 坐标下密度恒定的先验;“均匀”依赖参数化方式,不能简单等同于没有任何先验假设。在伯努利或固定试验次数的二项模型中,Jeffreys 先验为 Beta⁡(1/2,1/2),其密度正比于 [p(1−p)]−1/2,而非平坦密度。[5] 在样本较少时,不同先验可以明显影响结果,故应说明选择依据,并在必要时比较多个合理先验下的结论。

贝塔分布也可经线性变换用于一般有界区间:若 Z=a+(b−a)X、a<b,则其密度为 fZ(z)=1b−afX(z−ab−a),a<z<b. 不过,有界性本身不足以推出贝塔分布。普通贝塔分布不含端点概率质量;若数据中零或一具有真实的正概率,须另行考虑端点质量、混合模型或数据生成机制。将某个比例直接建模为贝塔随机变量,与对伯努利成功概率设置贝塔先验,也是两种不同的建模用途。

实际应用中,模型条件与参数计算同样重要。例如,若设备状态随时间改变,使后期成功率系统性高于前期,则把全部记录汇总为一个成功数会掩盖这一变化。若同一批次中的结果彼此关联,条件独立假设也可能失效。此时即使贝塔后验的代数更新完全正确,也只是对所设模型的计算结果,不能据此断言它充分描述了真实过程。应先检查观测单位、试验条件与依赖关系,再决定是否使用这一简单模型。

参考文献

  1. ↑ NIST. §5.12 Beta Function,式 5.12.1。访问日期:2026-10-17。
  2. ↑ 2.0 2.1 NIST/SEMATECH. e-Handbook of Statistical Methods: Beta Distribution。访问日期:2026-10-17。
  3. ↑ Bayesian modelling: Priors,例 3.2(Conjugate prior for the binomial model)。访问日期:2026-10-17。
  4. ↑ University of California, Berkeley. Course introduction,“Statistical evasions in practice: coin flipping”一节。访问日期:2026-10-17。
  5. ↑ University of California, Berkeley. Interpretations of Probability and Sources of Priors,Jeffreys prior 一节。访问日期:2026-10-17。