混合效应模型

混合效应模型（mixed-effects model）同时包含总体共享的固定效应和按组变化的随机效应。它适用于学生分属学校、患者多次随访、同一设备重复测量等数据：一组内部的记录共享某些条件，不能简单当成互不相关的独立样本。本文以高斯线性混合模型为主；二元或计数响应的条件分布与链接函数见广义线性混合模型。

从共享组效应得到相关

一个随机截距模型为 $$Y_{ij}={\beta }_0+{\beta }_1{x}_{ij}+b_i+{\epsilon }_{ij},b_i\sim N(0,{\tau }^2),{\epsilon }_{ij}\sim N(0,{\sigma }^2).$$ 不同组的 $b_i$ 独立，误差彼此独立且与所有组效应独立；${\sigma }^2>0,{\tau }^2\ge 0$。固定效应描述共同回归关系，随机截距描述组相对于这条关系的偏移。“固定”并不是已知，“随机”也不是随意填写；两类量有不同的模型角色。

给定 $b_i$，组内各条记录的误差独立；积分掉 $b_i$ 后，$𝔼[Y_{ij}]={\beta }_0+{\beta }_1{x}_{ij}$，且 $$\mathrm{Var}(Y_{ij})={\tau }^2+{\sigma }^2,\mathrm{Cov}(Y_{ij},Y_{ik})={\tau }^2(j\ne k).$$ 等式来自两条记录都含有同一个 $b_i$。组内相关系数为 $$\mathrm{ICC}=\frac{{\tau }^2}{{\tau }^2+{\sigma }^2}.$$ 因此增加同组记录和增加独立组，并不是等价的信息增长。

矩阵形式为 $Y=X\beta +Zb+\epsilon$，其中 $b\sim N(0,D)$、$\epsilon \sim N(0,R)$ 独立，$D⪰0,R\succ 0$。于是边缘分布是 $$Y\sim N(X\beta ,V),V=ZD{Z}^{𝖳}+R.$$ 这里 $X$ 为 $n\times p$ 固定效应设计矩阵，$Z$ 为 $n\times q$ 随机效应设计矩阵；$D$ 的维数是 $q\times q$。混合模型的似然拟合与稀疏计算见Bates等人的原论文。

组效应的部分汇聚推导

暂设 $\beta ,{\tau }^2,{\sigma }^2$ 已知，且 ${\tau }^2>0$。第 $i$ 组有 $n_i$ 条记录，令残差 $r_{ij}=Y_{ij}-{\beta }_0-{\beta }_1{x}_{ij}$。条件密度与 $$\exp [-\frac{1}{2}(\frac{b_i^2}{{\tau }^2}+\frac{\sum _j(r_{ij}-b_i{)}^2}{{\sigma }^2})]$$ 成比例。展开二次式后，$b_i^2$ 的系数为 $1/{\tau }^2+n_i/{\sigma }^2$，线性项为 $-2n_i{\overline{r}}_i{b}_i/{\sigma }^2$。配方得到 $$b_i\mid Y_i\sim N(w_i{\overline{r}}_i,\frac{{\tau }^2{\sigma }^2}{{\sigma }^2+n_i{\tau }^2}),w_i=\frac{n_i{\tau }^2}{{\sigma }^2+n_i{\tau }^2}.$$ 权重在零与一之间：组均值越精确，越相信本组；组样本越少，越向总体零偏移收缩。这种折中称部分汇聚。它不同于把所有组强制相同，也不同于每组单独估计完全不共享信息。

同样均值，不同组样本量

取 ${\beta }_0=10,{\beta }_1=0,{\tau }^2=4,{\sigma }^2=9$。A组只有一个观测十六；B组有九个观测 $14,15,16,16,16,16,16,17,18$，均值同样为十六。两组的残差均值都为六，但 $$w_A=\frac{4}{13},{\hat{b}}_A=\frac{24}{13}\approx 1.8462;w_B=\frac{36}{45}=0.8,{\hat{b}}_B=\mathrm{4.8.}$$ A组条件均值预测为 $10+24/13\approx 11.8462$，B组为十四点八。条件组效应方差分别为 $36/13\approx 2.7692$ 和零点八。模型没有忽略A组的十六，而是承认单次测量的误差更大。

在共同参数已知的教学例中，同样的组均值因精度不同而收缩不同。图中位置是组均值预测，不是单个未来观测的预测区间。

变式。 保持九条记录不变，把组间方差从四降到一。此时 $w_B=9/(9+9)=1/2$，组均值预测为十三；相应ICC从 $4/13$ 降为 $1/10$。组间差异越小，向总体的收缩越强。若 ${\tau }^2=0$，组效应恒为零，应直接按退化模型处理。

估计参数与预测边界

参数未知时，常用最大似然或限制最大似然估计方差分量；再把估计值代入条件均值可得到经验最佳线性无偏预测。此时上面的条件方差只是在参数已知条件下的公式，不应冒充包含所有估计误差的区间。比较固定效应不同的模型时，也不能直接把不同固定设计下的REML准则当成普通似然比较。

随机斜率模型可令 $b_{0i}+b_{1i}{x}_{ij}$ 同时进入预测，需给两个随机系数指定联合协方差；组内相关随后依赖两个协变量位置，不再恒等于同一个ICC。随机效应与协变量的独立性也有实质含义：若学校组效应与所含学生的背景变量相关，未经处理的模型可能混淆组间和组内关系。

混合效应模型描述层次变化与相关，不能仅因“加入随机效应后显著”就解释为因果。组数过少、每组信息不足或随机斜率过多，会造成方差估计贴近边界、奇异拟合或不稳定推断；需要结合设计、残差、敏感性分析和组外验证判断。