一致最小方差无偏估计

一致最小方差无偏估计（uniformly minimum-variance unbiased estimation，简称UMVU估计）要求一个无偏估计在每个参数值下，都不比任何其他有限方差无偏估计的方差更大。“一致”指同一个估计规则对全部参数同时满足这个比较，不是估计量随样本量增加而收敛的“一致性”。

有无偏估计，不代表一定有UMVU估计。一个小型有限实验就能让不同参数值偏好不同的无偏规则；它也能说明最小方差要求的量词次序。

两个参数值的有限实验

设未知参数 $\theta \in \{1,2\}$，只观察一次 $X\in \{0,1,2\}$，概率表为

参数	$P(X=0)$	$P(X=1)$	$P(X=2)$
$\theta =1$	$1/2$	$1/2$	0
$\theta =2$	0	$1/2$	$1/2$

要用一个确定性规则 $\delta (X)$ 无偏估计 $\theta$，必须满足 $$\frac{\delta (0)+\delta (1)}{2}=1,\frac{\delta (1)+\delta (2)}{2}=2.$$ 令 $\delta (1)=a\in ℝ$，全部无偏规则恰为 $$(\delta (0),\delta (1),\delta (2))=(2-a,a,4-a).$$ 这里不再另加非负或取整约束；加入这些约束会改变比较的估计类。

在第一种分布下，两个可能估计值围绕真值一的偏差为 $1-a$ 与 $a-1$，所以方差是 $(a-1{)}^2$。在第二种分布下，同样得到 $(a-2{)}^2$。

每条曲线都允许选择自己的最佳系数，但UMVU要求同一个系数对两条曲线同时最优。

要在 $\theta =1$ 处击败全部无偏竞争者，必须取 $a=1$；要在 $\theta =2$ 处做到同样的事，又必须取 $a=2$。不可能同时满足，所以此实验虽有许多无偏估计，却没有UMVU估计。

定义中的同时比较

对目标 $g(\theta )$，设估计 $U$ 在每个参数下二阶可积。它是UMVU估计，是指 $$\begin{array}{cc}{𝔼}_{\theta }U& =g(\theta ),\\ {\mathrm{Var}}_{\theta }U& \le {\mathrm{Var}}_{\theta }V\text{对每个 }\theta \text{ 和每个无偏 }V.\end{array}$$ 竞争者 $V$ 也须在全部参数下无偏且具有有限方差。参数不能在选择估计规则时当作已知量使用。无偏估计与UMVU的定义、以及利用完备充分统计量构造它的方法，可见Fithian课程讲义。

与零均值扰动不相关的判据

给定无偏估计 $U$，它是UMVU，当且仅当对每个在全部参数下均值为零、二阶可积的统计量 $Z(X)$，都有 $${\mathrm{Cov}}_{\theta }(U,Z)=0(\theta \in \Theta ).$$ 必要性。 任意常数 $c$ 都使 $U+cZ$ 继续无偏，而 $$\begin{array}{cc}{\mathrm{Var}}_{\theta }(U+cZ)& ={\mathrm{Var}}_{\theta }U\\ & +2c{\mathrm{Cov}}_{\theta }(U,Z)\\ & +c^2{\mathrm{Var}}_{\theta }Z.\end{array}$$ 如果协方差非零，就可以选择符号相反且足够小的 $c$，在该参数处减少方差，与UMVU矛盾。选出的 $c$ 是一个固定常数，规则仍在全部参数处无偏。

充分性。 任取无偏竞争者 $V$，差 $Z=V-U$ 在全部参数下均值为零。由协方差条件， $${\mathrm{Var}}_{\theta }V={\mathrm{Var}}_{\theta }U+{\mathrm{Var}}_{\theta }Z\ge {\mathrm{Var}}_{\theta }U.$$ 这就完成双向证明。它解释了无偏估计最优的含义：任何允许的零均值调整都不能利用相关性进一步降低其方差。

另一种准则与有解答变式

在主例中取 $a=3/2$，规则为 $(1/2,3/2,5/2)$，两个参数处的方差都是 $1/4$。它确实最小化这个无偏族中的最大方差：任意实数到一与二的两个距离，至少一个不小于一半，所以两平方的最大值至少为四分之一；中点达到下界。

但这不是UMVU，因为 $a=1$ 的规则在第一个参数处方差为零，虽然在第二个参数处方差更大。最坏风险最小与逐参数一致最优，是不同的比较方式。

变式。 若只把参数空间缩成 $\{1\}$，常数估计一就无偏且方差为零，因而UMVU。若只剩 $\{2\}$，答案是常数二。合并模型后不能把两个分别依赖真参数的答案拼成一个可用规则，这正是原模型不存在UMVU的原因。

当莱曼－谢费定理的完备充分条件成立且目标可无偏估计时，可以证明UMVU存在并构造出来。缺少这些充分条件不等于一定不存在；是否存在仍需针对具体模型与目标判断。允许有偏估计后，平方误差由方差与偏差共同决定，UMVU结论也不再是对所有估计方法的全面最优性。