二阶矩方法
二阶矩方法(second moment method)利用随机变量的均值和平方的均值,估计某种对象出现的概率。它常用于组合数学:把所求对象的个数记为非负随机变量 ,先计算 ,再通过 控制“平均值主要由极少数巨大取值贡献”的可能性。
例如,在五个顶点之间独立地以概率二分之一放置每条边,平均有 个孤立顶点。但这个均值不是“出现孤立顶点的概率”。一张图可以有多个孤立顶点;需要另算对象之间的共同出现,才能从计数均值得到概率下界。
非负随机变量的出现概率
设 ,且 。则 证明。 用 表示事件的指示变量。由于零值部分不贡献期望, 对右侧应用柯西不等式,得到 分母严格为正,除过去即得结论。这里没有要求 为整数,也没有要求组成它的计数指标相互独立。[1]
令 、。由于 ,上式也可写成 若一列随机变量满足 ,那么对象出现的概率趋于一。这是一个随规模变化的结论,不能只凭某个有限样本的均值很大就宣称“几乎必然”。
均值本身不足以做到这点。取 的概率为 ,其余时间为零,则 随 增大,但 反而趋于零。此时二阶矩为 ,上面的下界恰好为 。
计数指标与共同出现
若 ,其中 ,展开平方时对角项满足 ,故 其中 是两个事件同时发生的概率。只有确认两事件独立,才可写成两概率的乘积。等价地, 许多二阶矩问题的关键正是识别哪些对象重叠,以及这种重叠使共同出现的概率怎样改变。
随机图中的孤立顶点
考虑随机图 G(n,p):固定 个有标号顶点,各条可能的无向边独立以概率 出现。记 , 表示顶点 孤立。它的 条邻边必须全部缺失,所以 顶点 同时孤立时,两组缺边中,共用的边 只能计一次。需要缺失的不同边共有 条。因此 孤立事件并不独立:乘积 少考虑了共用边的作用。代入二阶矩下界,得到
对 ,各项都是可精确计算的分数: 这里方差为 。枚举十条可能边的 种等概率图,可以核对:没有孤立顶点的图有 个,恰有一个的有 个,两个的有 个,三个的有 个,五个的有一个。因此真实出现概率是 ,确实大于下界;这些计数也还原了上述一阶矩和二阶矩。
方差界与有解变式
在 时,事件 蕴含 ,所以 Chebyshev 不等式另给出 这个界适合证明相对方差很小时出现概率趋于一,但有限算例中右端可能大于一;不能把这样的数当作精确概率。前述非负变量下界始终落在 。
变式。 四次独立试验的成功概率都为 , 为成功次数。这里不同成功指标独立,因此 至少成功一次的概率不小于 。直接从全失败事件计算,真实值是 ,约 。先推概率界、再与可算真值比较,可以辨认这个方法提供的是保证而非精确值。
适用边界
二阶矩有限是上面分母和柯西论证的条件;若二阶矩无穷,该下界不能直接使用。对于带正负号的 ,事件 也不再满足本篇的非负论证。做随机计数时,选取什么作为 很重要:高度重叠的对象可能使协方差很大,得到的界虽正确却很弱。可以改计更少重叠的对象,或利用更强的概率工具,但不能把未验证的独立性当成简化计算的理由。
相关条目
参考资料
- ↑ Yufei Zhao:Probabilistic Methods in Combinatorics, Lectures 06–07: Second Moment,MIT 18.226,2022,§4.1,二阶矩、方差、Chebyshev 界及非负变量的出现概率。本文用孤立顶点的有限算例独立展开。