跳到正文
格致开物MATHWIKI

准似然

准似然(quasi-likelihood)根据响应的均值与方差关系建立类似似然得分的估计方法,不要求预先指定响应的全部概率分布。它适合这样的分析目标:均值模型有实际依据,完整分布却难以合理确定。

取四个独立的教学计数 0,2,2,8。样本平均为三;泊松分布要求总体方差等于均值,但这组数据的离差平方和为三十六,样本方差为十二。有限样本的这种差异不是过度离散的自动证明,却提示应检查方差假设,而不是只接受软件默认的泊松标准误。

由均值—方差关系积分

先设单个非负响应满足 𝔼Y=μ>0、Var⁡(Y)=φμ,其中 φ>0 是离散程度参数。定义准得分 ∂Q(y,μ)∂μ=y−μφμ. 右端在真均值处期望为零。对 μ 积分,得到 Q(y,μ)=ylog⁡μ−μφ+C(y). 与均值无关的项可以忽略;零观测的 ylog⁡μ 为零,不需要对零观测取对数。这是满足指定导数的准似然函数,不能仅由它断言 Y 的完整分布已经确定。准似然和估计方程的联系可见Wang讲义。[1]

若独立响应具有共同均值,求和后的准得分为 ∑i(yi−μ)/(φμ)。在样本和为正时,唯一零点是 μ^=y‾;总准对数函数的二阶导数为 −∑iyi/(φμ2)<0,所以该零点是唯一最大值。主例得到 μ^=3。

离散程度一与四的相对准似然在均值三处同样达到峰值,较大离散程度的曲线更宽
图显示指数化准目标的相对高度,不能当作均值参数的概率密度。离散参数改变曲率,却不改变这个共同均值方程的根。

同一个均值,不同的不确定性

只要独立观测确有上述相同均值—方差关系,样本均值的方差就精确为 Var⁡(Y‾)=φμn. 这里方差计算不需要正态近似。近似常态的置信区间则还要中心极限定理及足够样本量,不能由均值和方差的代数公式直接获得。

常用的矩估计以拟合后的Pearson离差计算 φ。本例只拟合一个均值参数,取 φ^=1n−1∑i(yi−y‾)2y‾=363×3=4. 代入估计方差得到 Var^(μ^)=4×3/4=3;泊松的固定离散参数一则报 3/4。标准误分别为 3 与 3/4。四次观测下离散程度估计本身也很不稳定,这些数值用于展示计算差异,不是稳定区间覆盖率的保证。

回归模型中的准得分

若条件均值 μi=μi(β) 依赖固定设计变量,并假定独立、方差函数 Vi(μi)>0,链式法则给出 U(β)=∑i∂μi∂βyi−μiVi(μi)=0. 这里梯度写成列向量,方程的维数与回归参数一致。若选择对数均值 μi=exp⁡(xi𝖳β)、方差 φμi,则梯度 ∂μi/∂β=μixi,准得分简化为 ∑ixi(yi−μi)/φ=0。

因此共同离散参数会从均值系数方程中约去;它仍影响标准误。准似然估计在均值模型正确时可以容许未指定的高阶分布形态,但偏差、漏掉的协变量或组内相关并不会自动消失。工作方差不正确时,通常还需按真实独立单位计算夹心协方差估计。

变式。 如果实验设计已知 φ=2,主例均值仍为三,理论代入方差变为 2×3/4=3/2。没有发生估计中心的移动,只改变了把读数均值转换为精度的关系。

在准似然框架下,没有指定完整的正规化密度,就不能直接比较通常似然定义下的AIC,也不能把任意准目标差一律按Wilks定理校准。若改用负二项等完整分布模型,便加入了均值、方差以外的假设,应据该模型重新建立似然。

参考文献

  1. ↑ Jingshu Wang,STAT347 Lecture11,§3“Quasi-likelihood”及§4,均值—方差关系、离散参数估计和夹心方差。