复合似然

复合似然（composite likelihood）把若干容易计算的边际或条件似然分量相乘，形成用于估计参数的目标。分量之间可以相关，因而乘积通常不等于原始观测的完整联合似然。计算简化以后，估计的不确定性仍须按真实的独立观测单位处理。

考虑四个相互独立的二次测量组，教学数据为 $(0,2),(1,3),(3,3),(2,6)$。每组是二维正态，两个边际均值均为 $\mu$、方差均为一、相关系数为 $\rho \in (-1,1)$。只相乘八个单变量正态密度，就得到一个工作独立的复合似然。

分量乘积与得分

记标准正态密度为 $\varphi$，本例复合似然与复合得分为 $$\begin{array}{cc}{L}_C(\mu )& =\prod _{i=1}^m\prod _{j=1}^2\varphi (Y_{ij}-\mu ),\\ U_C(\mu )& =\sum _i(Y_{i1}+Y_{i2}-2\mu ).\end{array}$$ 得分的唯一零点是全部读数的平均值。主例读数和为二十，故 ${\hat{\mu }}_C=5/2$。对数目标是严格凹二次函数，这个根就是唯一全局最大点。

一般形式允许非负固定权重 $w_k$： $$L_C(\theta ;y)=\prod _{k=1}^K{L}_k(\theta ;y{)}^{w_k}.$$ 如果每个分量是正确设定、可交换微分与积分的边际或条件密度，其得分在真值处均值为零，加权和也如此。但这不保证乘积对原始 $y$ 积分为一，也不保证只靠边际就能识别依赖参数。本例各单变量边际不含 $\rho$，所以该复合目标不能估计相关系数。

曲率和真实方差分开计算

取一个独立测量组的得分 $u_i=Y_{i1}+Y_{i2}-2\mu$。负平均导数称为敏感度 $H$，得分的方差称为变异度 $J$。本例有 $$H=-𝔼{u_i}^{\prime }=2,J=\mathrm{Var}(u_i)=2(1+\rho ).$$ 将方程在真值处展开，本例恰为精确线性式： $${\hat{\mu }}_C-\mu =\frac{1}{2m}\sum _i{u}_i.$$ 独立组之间的方差相加，故 $$\mathrm{Var}({\hat{\mu }}_C)=\frac{J}{m{H}^2}=\frac{1+\rho }{2m}.$$ 若只使用复合对数似然的曲率，会错报为 $1/(2m)$。真实 $\rho =1/2,m=4$ 时，正确方差为 $3/16$，曲率倒数却是 $1/8$。

真实相关取二分之一。两条曲线按各自峰值归一化，完整似然计入同组信息的重复，因而更宽。

对一般向量参数，在适当的可识别、光滑与矩条件下，独立组数增大时协方差近似为 $H^{-1}J{H}^{-𝖳}/m$。这称为夹心形式；通常的正则完整似然满足信息等式，复合分量相关时一般不满足。

主例用估计均值计算四组得分，得 $-3,-1,1,3$，经验 $\hat{J}=(9+1+1+9)/4=5$。未作小样本修正的夹心协方差为 $5/(4\times 4)=5/16$。这只是四组数据产生的随机估计，不应和指定真分布的 $3/16$ 理论方差混成同一个数。

乘积的重复与似然比校准

把全部分量再重复相乘一次，相当于把 ${\ell }_C$ 乘二，极大点完全不动。敏感度变成 $2H$，变异度变成 $4J$，正确夹心方差不变；只取曲率倒数却会把标准误无依据地缩小。重复使用同一信息不会增加独立样本。

本例还能精确看出未经校准的复合似然比的问题。检验 $\mu ={\mu }_0$ 时， $$\begin{array}{cc}{W}_C& =2\{{\ell }_C({\hat{\mu }}_C)-{\ell }_C({\mu }_0)\}\\ & =2m({\hat{\mu }}_C-{\mu }_0{)}^2.\end{array}$$ 在原假设下，正态模型给出 $W_C\sim (1+\rho ){\chi }_1^2$，而不是一律服从 ${\chi }_1^2$。这里的精确尺度来自已指定的正态协方差；一般模型中的复合似然比常有加权卡方极限，需要另外校准。

变式。 若真实 $\rho =0$，八个边际密度的乘积恰是完整联合密度，$J=H=2$，上述比统计量回到卡方一分布。若相关为负，曲率倒数则可能高估而非低估方差。方向取决于真实依赖，不取决于“稳健”这一名称。