广义矩估计

广义矩估计（generalized method of moments，GMM）把模型规定的若干总体矩条件转化为样本中的加权误差最小化。矩条件多于参数时，有限样本通常不能把每个误差同时调成零；如何衡量它们，就成为估计方法的一部分。

设每个独立样本包含两个测量通道 $(A_i,B_i)$，总体均值为 $(\theta ,2\theta )$，两个通道不相关，方差分别为一与四。取八对教学观测，其样本均值为 $\bar{A}=2,\bar{B}=5$。第一通道要求 $\theta =2$，第二通道要求 $\theta =2.5$，两条样本条件发生了冲突。

权重决定两条条件的折中

样本矩向量与加权目标为 $$\begin{array}{cc}\bar{g}(\theta )& =(\genfrac{}{}{0ex}{}{2-\theta }{5-2\theta }),\\ Q_W(\theta )& =\bar{g}(\theta {)}^{𝖳}W\bar{g}(\theta ).\end{array}$$ 若 $W=I$，令导数为零得到 $-2(2-\theta )-4(5-2\theta )=0$，故 ${\hat{\theta }}_I=12/5$。若按两通道方差的倒数取 $W=\mathrm{diag}(1,1/4)$，则目标为 $$Q_{{\Sigma }^{-1}}(\theta )=(2-\theta {)}^2+\frac{1}{4}(5-2\theta {)}^2,$$ 导数给出 $\hat{\theta }=9/4$。两个目标均为严格凸二次式，所以这两个驻点各自是相应目标的唯一全局极小点。

比较的是极小点的位置。权重不同，目标的纵轴尺度也不同，不能用两条曲线的高度直接判定哪份数据更可信。

线性算例中的方差与最优权重

将均值向量写成 $𝔼\bar{Y}=H\theta$，其中 $H=(1,2{)}^{𝖳}$，单对观测协方差 $\Sigma =\mathrm{diag}(1,4)$。展开二次目标或求导，得到 $$\begin{array}{cc}{\hat{\theta }}_W& =(H^{𝖳}WH{)}^{-1}{H}^{𝖳}W\bar{Y},\\ \mathrm{Var}({\hat{\theta }}_W)& =\frac{H^{𝖳}W\Sigma WH}{n(H^{𝖳}WH{)}^2}.\end{array}$$ 第一式线性且系数对 $H$ 的内积为一，所以无偏；第二式使用独立样本均值的协方差 $\Sigma /n$。本例单位权重给方差 $17/(25n)$，逆协方差权重给 $1/(2n)$；在 $n=8$ 时分别为 $17/200$ 与 $1/16$。

这里的最优性也能直接证明。任一线性无偏规则 $a^{𝖳}\bar{Y}$ 满足 $a^{𝖳}H=1$。将柯西不等式用于 ${\Sigma }^{1/2}a$ 与 ${\Sigma }^{-1/2}H$，得到 $$a^{𝖳}\Sigma a\ge (H^{𝖳}{\Sigma }^{-1}H{)}^{-1}.$$ 等号在 $a={\Sigma }^{-1}H/(H^{𝖳}{\Sigma }^{-1}H)$ 达到，恰好是逆协方差权重的估计。这是本线性模型的完整有限样本证明。

一般矩条件及大样本结论

令 $g(X_i,\theta )\in {ℝ}^q$，未知参数在 ${ℝ}^p$，总体条件为 $𝔼g(X,{\theta }_0)=0$。GMM最小化样本矩均值的加权平方。常用正则情形取 $q\ge p$、权重依概率趋向正定矩阵 $W$，总体条件唯一识别真值。

例如对独立同分布样本，在紧参数集上具有可积一致包络与连续矩函数，可建立一致性；在内部真值邻域内连续可微、导数有可积包络、矩具有有限二阶矩，且 $G=𝔼\{\partial g/\partial {\theta }^{𝖳}\}$ 满列秩时，适当的一致极小点有 $$\begin{array}{cc}\sqrt{n}(\hat{\theta }-{\theta }_0)& \stackrel{d}{\to }N(0,V),\\ A& =G^{𝖳}WG,B=G^{𝖳}W\Sigma WG,\\ V& =A^{-1}B{A}^{-1},\\ \Sigma & =\mathrm{Cov}\{g(X,{\theta }_0)\}.\end{array}$$ 这里 $V$ 是乘上 $\sqrt{n}$ 后的极限协方差，估计量本身的协方差近似为 $V/n$。一般非线性定理的证明还需控制展开余项，本篇的二通道证明不替代这些条件。时间序列则须把 $\Sigma$ 换成适当长期协方差。

逆协方差权重 $W={\Sigma }^{-1}$ 给出通常的有效GMM。实际未知 $\Sigma$ 时，常先作一致初估，再估计矩协方差、重新加权；增加矩条件也会增加估计协方差的噪声，有限样本并非越多越好。

变式。 用主例的有效估计 $9/4$，剩余矩为 $(-1/4,1/2)$，加权平方为 $1/8$，故 $J=nQ=1$。正则、正确设定且有效加权的大样本中，过度识别统计量趋于自由度 $q-p=1$ 的卡方分布；八对观测只是展示数值计算，不能因此把该近似宣称为精确检验，更不能把未拒绝解释成每条矩条件已经证实。