广义估计方程

广义估计方程（generalized estimating equations，GEE）用边际均值模型和一个工作协方差结构，估计组内相关数据的回归参数。它特别适合相互独立的受试者各有多次测量、而同一人的读数不能当成独立样本的情形。

先看三个人、每人两次测量的教学数据：$(1,3),(2,2),(4,6)$。这里只估计共同边际均值 $\mu$，不设置时间趋势。六个数的平均值为三；但平均值的不确定性取决于同一个人的两次测量怎样相关。

连线只标明同组，不把不同人连接成时间序列。六个点共有三个独立组。

均值、工作协方差与方程

第 $i$ 组响应写成列向量 $Y_i$，边际均值为 ${\mu }_i(\beta )$，参数维数为 $p$。令 $D_i=\partial {\mu }_i/\partial {\beta }^{𝖳}$，其尺寸为组大小乘 $p$；给定正定工作协方差 $V_i$，方程为 $$\sum _{i=1}^m{D}_i^{𝖳}{V}_i^{-1}\{Y_i-{\mu }_i(\beta )\}=0.$$ “工作”意味着这是一项用于加权的协方差选择，不等于已经知道真实协方差。均值模型必须另行指定；对于二元响应可以使用logit边际均值，对于计数可以使用对数链接。定义、工作相关结构与夹心方差可见Shedden讲义。

主例取 $$\begin{array}{cc}{\mu }_i& =\mu (\genfrac{}{}{0ex}{}{1}{1}),D_i=(\genfrac{}{}{0ex}{}{1}{1}),\\ V_i& =\left(\begin{array}{cc}1& \rho \\ \rho & 1\end{array}\right),-1<\rho <1.\end{array}$$ 两对角方差为一，$\rho$ 先当作指定的工作相关。矩阵求逆后有 $$D_i^{𝖳}{V}_i^{-1}=\frac{1}{1+\rho }(1,1).$$ 所以总方程只是 $\sum _i(Y_{i1}+Y_{i2}-2\mu )=0$ 乘以一个非零系数，根仍为三。这种不依赖工作相关的结论来自等组大小、共同截距、相同交换型工作协方差的特殊结构；有时间协变量或不等组大小时，根一般会改变。

相关性改变有效信息量

如果真实协方差恰为上式，且三个组独立，则 $$\begin{array}{cc}\mathrm{Var}(Y_{i1}+Y_{i2})& =2(1+\rho ),\\ \mathrm{Var}(\hat{\mu })& =\frac{1+\rho }{2m}.\end{array}$$ 当真实 $\rho =1/2$、$m=3$ 时，方差为 $1/4$。错误地把六次测量独立处理，会报成 $1/6$，低估了正相关带来的不确定性。完全相同的点估计，并不保证相同的标准误正确。

虚线是一律假设独立时的六分之一。横轴在这里是真实相关参数，不是随意更换的软件选项。

组级夹心估计的构成

写 $r_i=Y_i-{\hat{\mu }}_i$，以全部独立组为求和单位，定义 $$\begin{array}{cc}A& =\sum _i{D}_i^{𝖳}{V}_i^{-1}{D}_i,\\ B& =\sum _i{D}_i^{𝖳}{V}_i^{-1}{r}_i{r}_i^{𝖳}{V}_i^{-1}{D}_i,\\ \widehat{\mathrm{Cov}}(\hat{\beta })& =A^{-1}B{A}^{-1}.\end{array}$$ 这里 $A$ 对称；写一般估计方程的非对称导数时，右端最后一个因子应为逆转置。组残差外积保留了同组测量之间的共同变化，而非仅保留各自平方。

主例若采用工作独立 $V_i=I$，组残差和为 $-2,-2,4$，于是 $A=6$、$B=4+4+16=24$，未作小样本修正的估计为 $24/36=2/3$。它与假定真实相关一半时的理论方差四分之一不同：一个是三组教学数据算出的随机估计，另一个是已指定分布下的重复抽样方差。只有三组不足以依赖组数趋于无穷的近似来作可靠区间推断。

当独立组数增大、组大小受控，均值模型正确，权重非奇异且满足可识别性、矩与平滑条件时，即使工作相关不完全正确，合适的组级夹心估计仍可给出渐近有效的协方差估计。错误的均值模型、依赖未处理的组间关系或非随机失访，不能只换一个标准误选项解决。

变式。 把主例的工作相关从零改成 $0.8$，估计仍为三。每个方程及其导数同时乘 $1/1.8$，夹心中的因子相消，未修正稳健方差仍为 $2/3$。但把工作协方差直接当成真值的模型方差会变成 $1.8/6=0.3$。这两个输出采用了不同依据。

GEE中的 ${\mu }_i$ 是总体边际均值；带个体随机效应的模型则通常先定义给定随机效应后的条件均值，非线性链接下两种回归系数不应直接等同。