跳到正文
格致开物MATHWIKI

中国餐馆过程

中国餐馆过程(Chinese restaurant process,CRP)是依次生成随机分组的一种规则。新对象可以加入已有组,也可以新建一组;加入某个旧组的概率与该组当前大小成正比。餐桌只是分组的比喻,桌号按首次出现次序编排,不代表类别之间天然有大小关系。

一参数分组规则

给定 α>0,第一个对象单独成组。已有 n 个对象、k 个组,大小为 n1,…,nk 时,第 n+1 个对象加入第 j 组的概率为 njn+α, 另建新组的概率为 α/(n+α)。所有概率相加为一。它是狄利克雷过程在基准无原子时诱导出的重复值分组机制;本文讨论一参数 CRP,不加入 Pitman–Yor 过程中的折扣参数。[1]

例如 α=2,四个对象已分成大小三与一的两组。下一对象的三种去向概率为 3/6=1/2、1/6 和 2/6=1/3。它没有为每个尚未出现的组单独预留三分之一,而是为“新建某一组”这个事件分配总概率。

已有大小三与一两组,下一个对象分别以1/2、1/6和1/3加入旧组或新建组
旧组的吸引力取决于人数,新组只有一个合并的入口。图中虚线圆表示尚未建立的组。

一个完整分组的概率

对 {1,…,n} 的一个给定无标号分组,若各组大小为 n1,…,nk,概率为 Pr⁡(Πn=π)=αk∏j=1k(nj−1)!α(α+1)⋯(α+n−1). 证明可直接追踪每次选择:每组首次出现时带来一个因子 α;此后在该组加入的人依次带来 1,2,…,nj−1;所有时刻的分母依次为 α,…,α+n−1。乘积与加入的具体时间次序无关,只取决于最终各组大小。因此重新排列对象编号不会改变对应分组的概率,称为交换性。[1]

取 α=2,给定分组 {{1,3,4},{2}}。按顺序生成的概率为 1×(2/3)×(1/4)×(2/5)=1/15。用上式也得到 22(3−1)!(1−1)!/(2⋅3⋅4⋅5)=1/15。这是一个指定分组的概率;若只问组大小为三和一,应再计入其他具有该大小的分组,不能把二者混为一谈。

组数的期望

令 Kn 为前 n 个对象形成的组数,Ii 表示第 i 个对象是否新建一组。Kn=∑i=1nIi,而新建概率仅由 i 和 α 决定。因此由期望线性性, 𝔼[Kn]=∑i=1nαα+i−1. 这个推导不需要先证明各指示变量相互独立。α=2,n=4 时,期望为 1+2/3+1/2+2/5=77/30≈2.5667。固定 α 而 n 增大时,该和按对数尺度增长;它不是说每次试验恰有约 αlog⁡n 组。[2]

集中参数一、二、五时,前n个对象的期望组数曲线
相同对象数下,较大集中参数给出较多的期望组数;纵轴画的是精确求和的期望,不是一条随机分组轨迹。

变式。 α=2,n=4 时,四人全在同组的概率为 (1/3)(2/4)(3/5)=1/10;四人各自成组的概率为 (2/3)(2/4)(2/5)=2/15。两者并不穷尽所有分组,差额来自大小二加二、三加一等中间情形。

分组先验与观测证据

CRP 给出的是分组的先验或预测规则。聚类模型若已有测量数据,新对象的后验去向还要乘上各组对该观测的预测密度;不能只看人数就完成统计聚类。交换性也不等于成员之间独立:已出现的大组会影响后续加入概率。

参考文献

  1. ↑ 1.0 1.1 Yee Whye Teh:Dirichlet Processes: Tutorial and Practical Course,2007,“Chinese Restaurant Process”和表示关系部分。
  2. ↑ Michael I. Jordan,Stat260:Lecture 24: Dirichlet distribution and Dirichlet Process,2010,§4“Expected number of occupied tables in the Chinese Restaurant Process”。