剖面似然
剖面似然(profile likelihood)在每个固定的目标参数值下,重新选择使似然最大的干扰参数。得到的是联合似然曲面的最高截面轮廓;把干扰参数固定在同一个值后切一刀,通常会得到另一条曲线。
例如,独立正态观测既有未知均值 ,又有未知方差 ,而我们只关心均值。取教学数据 ,样本均值为二,围绕二的离差平方和为 。方差是干扰参数,并不意味着它可以被任意忽略。
每个均值对应的最优方差
一般样本量为 ,记 。去掉不随参数变化的常数,正态对数似然为 固定 且 ,对 求导: 导数在 为正,在其上为负,且两端对数似然趋向负无穷,因此唯一全局最大值为 。
展开 ,交叉项因中心化离差和为零而消去,得到 候选均值偏离样本中心时,模型可以增大方差来容纳偏差。这正是剖面过程中干扰参数的实际作用。
剖面曲线和固定方差切片
代入 得 。主例的最大值位于 ,相对剖面似然为 例如候选 对应方差 ,相对支持度为 。
若一直把方差固定在联合最优值 ,切片的相对似然却是 剖面在每个均值处允许重新优化方差,故它至少和这个固定切片一样高。也可令 ,由 直接验证 。
定义与区间解释
将参数分成目标 与干扰 ,定义 若上确界达到,常写成 ;若没有达到,就不能把不存在的最大点当成已求出的解。Reid与Fraser讨论了该定义、正则大样本近似及干扰维数增长时的障碍。[1]
主例若只问哪些均值使相对似然不低于二分之一,解为 这是一个似然高度集合;没有额外校准,不能直接命名为95%置信区间。一般似然比的卡方近似要求模型可识别、真值在内部、信息非奇异、适当平滑与矩条件,通常还固定干扰参数维数。三点算例本身不保证这些近似在有限样本中精确。
剖面最大化干扰参数;贝叶斯边际似然则按指定先验对干扰参数积分。最大化与积分是不同运算。统计学中还存在把观测变换后取边际分布来消去参数的方法,也应按具体定义区分,不能只凭“边际”一词混用。
变式。 若另一个实验中方差已知为四,似然只有均值未知,支持曲线为 ,不再需要剖面优化。如果原来未知方差的数据全都相同,则在均值取共同值、方差趋零时似然无界;前面 的推导适用条件已失败。
参考文献
- ↑ Nancy Reid、D.A.S.Fraser,Likelihood Inference in the Presence of Nuisance Parameters,PHYSTAT2003,§4,式(16)—(22);§6区分条件与边际推断。