中国餐馆过程
中国餐馆过程(Chinese restaurant process,CRP)是依次生成随机分组的一种规则。新对象可以加入已有组,也可以新建一组;加入某个旧组的概率与该组当前大小成正比。餐桌只是分组的比喻,桌号按首次出现次序编排,不代表类别之间天然有大小关系。
一参数分组规则
给定 ,第一个对象单独成组。已有 个对象、 个组,大小为 时,第 个对象加入第 组的概率为 另建新组的概率为 。所有概率相加为一。它是狄利克雷过程在基准无原子时诱导出的重复值分组机制;本文讨论一参数 CRP,不加入 Pitman–Yor 过程中的折扣参数。[1]
例如 ,四个对象已分成大小三与一的两组。下一对象的三种去向概率为 、 和 。它没有为每个尚未出现的组单独预留三分之一,而是为“新建某一组”这个事件分配总概率。
一个完整分组的概率
对 的一个给定无标号分组,若各组大小为 ,概率为 证明可直接追踪每次选择:每组首次出现时带来一个因子 ;此后在该组加入的人依次带来 ;所有时刻的分母依次为 。乘积与加入的具体时间次序无关,只取决于最终各组大小。因此重新排列对象编号不会改变对应分组的概率,称为交换性。[1]
取 ,给定分组 。按顺序生成的概率为 。用上式也得到 。这是一个指定分组的概率;若只问组大小为三和一,应再计入其他具有该大小的分组,不能把二者混为一谈。
组数的期望
令 为前 个对象形成的组数, 表示第 个对象是否新建一组。,而新建概率仅由 和 决定。因此由期望线性性, 这个推导不需要先证明各指示变量相互独立。 时,期望为 。固定 而 增大时,该和按对数尺度增长;它不是说每次试验恰有约 组。[2]
变式。 时,四人全在同组的概率为 ;四人各自成组的概率为 。两者并不穷尽所有分组,差额来自大小二加二、三加一等中间情形。
分组先验与观测证据
CRP 给出的是分组的先验或预测规则。聚类模型若已有测量数据,新对象的后验去向还要乘上各组对该观测的预测密度;不能只看人数就完成统计聚类。交换性也不等于成员之间独立:已出现的大组会影响后续加入概率。
参考文献
- ↑ 1.0 1.1 Yee Whye Teh:Dirichlet Processes: Tutorial and Practical Course,2007,“Chinese Restaurant Process”和表示关系部分。
- ↑ Michael I. Jordan,Stat260:Lecture 24: Dirichlet distribution and Dirichlet Process,2010,§4“Expected number of occupied tables in the Chinese Restaurant Process”。