莱曼－谢费定理

莱曼—谢费定理（Lehmann–Scheffé theorem）把完备性与充分性结合起来：若一个完备充分统计量的函数无偏估计目标，并具有所需的有限二阶矩，那么它在所有有限方差无偏估计中一致地具有最小方差，而且在几乎处处相等的意义下唯一。

例如，独立均匀读数 $X_1,\dots ,X_n\sim U(0,\theta )$ 的最大值通常偏小。把它适当放大，可以得到一个无偏估计；定理进一步说明，这个修正不是任意经验系数，而是在无偏估计类中有可证明的方差最优性。

条件平均后的唯一答案

设 $T$ 对模型完备且充分。假设存在 $\delta (T)$，对每个参数都满足 $${𝔼}_{\theta }\delta (T)=g(\theta ),{𝔼}_{\theta }\delta (T{)}^2<\mathrm{\infty }.$$ 则对任意同样无偏且具有有限二阶矩的 $U(X)$， $${\mathrm{Var}}_{\theta }\delta (T)\le {\mathrm{Var}}_{\theta }U(X)(\theta \in \Theta ).$$ 该结论以存在无偏估计为前提，不声称任意目标函数都能无偏估计。

证明。 把竞争估计量条件平均为 $h(T)=𝔼[U\mid T]$。充分性保证 $h$ 不含未知参数；全期望公式保证 $h$ 仍无偏。因此 $${𝔼}_{\theta }[h(T)-\delta (T)]=0(\theta \in \Theta ).$$ 完备性给出 $h(T)=\delta (T)$ 几乎处处。又由条件方差分解， $${\mathrm{Var}}_{\theta }U={\mathrm{Var}}_{\theta }h(T)+{𝔼}_{\theta }{\mathrm{Var}}_{\theta }(U\mid T),$$ 故所需不等式成立。如果另一个无偏估计也达到同一最小方差，最后的非负项必须为零，原估计就等于自己的条件平均，也就等于 $\delta (T)$。唯一性不是要求两个函数在所有零概率样本点上也逐字一致。

均匀分布上界的无偏修正

令 $M=\underset{i}{max}{X}_i$，其分布函数为 $(m/\theta {)}^n$。由密度积分，对 $q>0$， $${𝔼}_{\theta }{M}^q=\frac{n}{{\theta }^n}{\int }_0^{\theta }{m}^{n+q-1}\mathrm{d}m=\frac{n}{n+q}{\theta }^q.$$ 取 $q=1$，得到 $𝔼M=n\theta /(n+1)$，所以 $$\hat{\theta }=\frac{n+1}{n}M$$ 无偏。最大值的充分性由联合密度 ${\theta }^{-n}{1}_{\{min{x}_i\ge 0,max{x}_i\le \theta \}}$ 得到。完备性可从零期望等式 $${\int }_0^{\theta }a(m)m^{n-1}\mathrm{d}m=0(\theta >0)$$ 证明：左端的绝对连续性使其导数在几乎每个正数处为零，故 $a=0$ 几乎处处。这正是最大值在该尺度族中的完备性。

所有矩均有限，因而定理适用。再取 $q=2$，相减可算得 $$\begin{array}{cc}{\mathrm{Var}}_{\theta }M& =\frac{n{\theta }^2}{(n+1{)}^2(n+2)},\\ {\mathrm{Var}}_{\theta }\hat{\theta }& =\frac{{\theta }^2}{n(n+2)}.\end{array}$$

三次读数的比较

取教学样本 $(1,2,4)$，样本量为三、最大值为四，得到 $$\hat{\theta }=\frac{4}{3}\times 4=\frac{16}{3}.$$ 另一个自然无偏估计是 $U=2\overline{X}$，因为单个均匀读数的均值为 $\theta /2$。本次它给出 $14/3$；重复抽样方差则为 $${\mathrm{Var}}_{\theta }U=\frac{{\theta }^2}{3n}.$$ 在 $n=3$ 时，两个方差分别为 ${\theta }^2/15$ 与 ${\theta }^2/9$，与定理一致。

横轴是真实上界，用于比较重复抽样风险。图不表示可以从本次数据读出真实上界。

修正后的最大值可能大于实际的 $\theta$，并不违反无偏性。无偏性约束的是期望，不要求每次估计都落在未知支持上界的一侧；本次哪个数更接近真值，也不能代替方差比较。

变式。 若目标改为 ${\theta }^2$，由矩公式应使用 $$\widehat{{\theta }^2}=\frac{n+2}{n}{M}^2.$$ 当 $n=3,M=4$ 时为 $80/3$，仍是完备充分统计量的无偏函数，因此也有相应最优性。它不等于 ${\hat{\theta }}^2=256/9$；把无偏估计平方一般不会保持无偏。

定理没有比较有偏估计的均方误差，也没有保证模型错误时仍最优。给观测独立性、共同上界或分布形式换一个假设后，必须重新核对充分性、完备性和无偏性，而不能仅沿用同一个修正系数。