准似然
准似然(quasi-likelihood)根据响应的均值与方差关系建立类似似然得分的估计方法,不要求预先指定响应的全部概率分布。它适合这样的分析目标:均值模型有实际依据,完整分布却难以合理确定。
取四个独立的教学计数 。样本平均为三;泊松分布要求总体方差等于均值,但这组数据的离差平方和为三十六,样本方差为十二。有限样本的这种差异不是过度离散的自动证明,却提示应检查方差假设,而不是只接受软件默认的泊松标准误。
由均值—方差关系积分
先设单个非负响应满足 、,其中 是离散程度参数。定义准得分 右端在真均值处期望为零。对 积分,得到 与均值无关的项可以忽略;零观测的 为零,不需要对零观测取对数。这是满足指定导数的准似然函数,不能仅由它断言 的完整分布已经确定。准似然和估计方程的联系可见Wang讲义。[1]
若独立响应具有共同均值,求和后的准得分为 。在样本和为正时,唯一零点是 ;总准对数函数的二阶导数为 ,所以该零点是唯一最大值。主例得到 。
同一个均值,不同的不确定性
只要独立观测确有上述相同均值—方差关系,样本均值的方差就精确为 这里方差计算不需要正态近似。近似常态的置信区间则还要中心极限定理及足够样本量,不能由均值和方差的代数公式直接获得。
常用的矩估计以拟合后的Pearson离差计算 。本例只拟合一个均值参数,取 代入估计方差得到 ;泊松的固定离散参数一则报 。标准误分别为 与 。四次观测下离散程度估计本身也很不稳定,这些数值用于展示计算差异,不是稳定区间覆盖率的保证。
回归模型中的准得分
若条件均值 依赖固定设计变量,并假定独立、方差函数 ,链式法则给出 这里梯度写成列向量,方程的维数与回归参数一致。若选择对数均值 、方差 ,则梯度 ,准得分简化为 。
因此共同离散参数会从均值系数方程中约去;它仍影响标准误。准似然估计在均值模型正确时可以容许未指定的高阶分布形态,但偏差、漏掉的协变量或组内相关并不会自动消失。工作方差不正确时,通常还需按真实独立单位计算夹心协方差估计。
变式。 如果实验设计已知 ,主例均值仍为三,理论代入方差变为 。没有发生估计中心的移动,只改变了把读数均值转换为精度的关系。
在准似然框架下,没有指定完整的正规化密度,就不能直接比较通常似然定义下的AIC,也不能把任意准目标差一律按Wilks定理校准。若改用负二项等完整分布模型,便加入了均值、方差以外的假设,应据该模型重新建立似然。
参考文献
- ↑ Jingshu Wang,STAT347 Lecture11,§3“Quasi-likelihood”及§4,均值—方差关系、离散参数估计和夹心方差。