最小充分统计量

最小充分统计量（minimal sufficient statistic）是能够从任意其他充分统计量恢复的充分摘要。“最小”比较的是信息包含关系，不是程序占用的字节数，也不是表达式里写了几个坐标。两个摘要若能可测地互相恢复，表示的是同一层信息。

以独立正态样本 $X_1,\dots ,X_n\sim N(\mu ,{\sigma }^2)$ 为例，取 $n\ge 2$，未知参数为 $\mu \in ℝ$、${\sigma }^2>0$。均值告诉我们样本中心，却没有说明点离中心多远。把中心相同而分散程度不同的样本合并，会损失关于未知方差的信息。

相同均值保留了哪些差别

取两组教学样本 $$x=(0,2,4),y=(1,1,4).$$ 两者均值都是二，但 $$\begin{array}{cccc}\sum _i{x}_i^2& =20,& \sum _i(x_i-2{)}^2& =8,\\ \sum _i{y}_i^2& =18,& \sum _i(y_i-2{)}^2& =6.\end{array}$$ 在完整的两参数正态模型中，它们的密度之比为 $\exp (-1/{\sigma }^2)$。这个比值随方差变化，所以这两个样本不能在不损失参数信息的前提下合并成同一个“均值二”。

第二组的数值一出现两次，图中用两个标记表示。共同均值不能区分图中的两种分散程度。

恢复关系与正式定义

固定模型与样本空间。统计量 $T$ 最小充分，是指它本身充分，且对每个充分统计量 $S$，都存在不依赖未知参数的可测函数 $a$，使 $$T(X)=a(S(X))P_{\theta }\text{-几乎处处，对每个 }\theta .$$ 这不是要求能从 $T$ 恢复原样本。恰恰相反，它要求每种充分摘要都不能进一步丢掉 $T$ 所表示的信息。通常的有限或欧氏模型中，似然比判据可以识别这种摘要。

对具有共同正密度的常规模型，一个常用判据是：若两个样本点给出相同的 $T$ 值，恰好等价于其密度之比不依赖参数，则 $T$ 是最小充分统计量。这里使用这一判据；以下完整证明它在两参数正态模型中的等价条件，而不把单个正态例子当作所有模型的测度论证明。

正态模型的两个必要摘要

记 $$S(x)=\sum _i{x}_i,Q(x)=\sum _i{x}_i^2.$$ 联合密度可以展开为 $$\begin{array}{cc}{p}_{\mu ,{\sigma }^2}(x)& =(2\pi {\sigma }^2{)}^{-n/2}\\ & \times \exp [-\frac{Q(x)-2\mu S(x)+n{\mu }^2}{2{\sigma }^2}].\end{array}$$ 它只通过 $(S,Q)$ 依赖样本，由因子分解定理可知该二元摘要充分。

比较任意两个样本 $x,y$，令 $\Delta S=S(x)-S(y)$、$\Delta Q=Q(x)-Q(y)$，则 $$\log \frac{p_{\mu ,{\sigma }^2}(x)}{p_{\mu ,{\sigma }^2}(y)}=\frac{\mu \Delta S}{{\sigma }^2}-\frac{\Delta Q}{2{\sigma }^2}.$$ 如果比值与全部 $\mu ,{\sigma }^2$ 无关，先固定任意正方差并改变 $\mu$，就必须有 $\Delta S=0$；再改变方差，必须有 $\Delta Q=0$。反之，两差都为零时比值恒为一。因此比值与参数无关，当且仅当两个样本的 $(S,Q)$ 相同，判据给出最小充分性。

样本均值与平方离差和 $$\overline{X}=\frac{S}{n},V=\sum _i(X_i-\overline{X}{)}^2=Q-\frac{S^2}{n}$$ 可以从 $(S,Q)$ 恢复；反过来 $S=n\overline{X}$、$Q=V+n{\overline{X}}^2$。所以 $(\overline{X},V)$ 是等价的最小充分摘要。若采用样本方差 $V/(n-1)$，固定样本量下也没有改变这层信息。

从主例核对判据

第一组样本的 $(S,Q)=(6,20)$，第二组为 $(6,18)$。它们只在第二个坐标不同；代入比值公式，得到前面的 $e^{-1/{\sigma }^2}$。若把第一组重排为 $z=(4,0,2)$，则两个坐标都不变，密度之比恒为一。被舍弃的是独立同分布模型中无关的排列次序，而不是所有样本差异。

变式。 假如方差已知为四，只有均值未知，比值中的 $-\Delta Q/8$ 已经是一个与未知均值无关的常数。此时只需 $\Delta S=0$，所以 $S$ 或 $\overline{X}$ 就是最小充分统计量。最小性随参数空间改变，不能脱离“哪些参数未知”来谈。

充分性与最小性也不等于完备性。前两者讨论摘要保留了哪些信息，完备性则对该摘要所有可积函数的期望施加条件，作用不同。存在参数相关支撑或密度为零的模型时，不能把上面的正密度比值直接写成 $0/0$ 再消去；应先检查支撑和适用的似然等价判据。