充分统计量

充分统计量（sufficient statistic）是在指定统计模型中保留了样本关于未知参数的全部信息的数据摘要。严格地说，给定这个摘要后，完整样本的条件分布可以选为不再依赖未知参数的形式。这个定义没有要求摘要很短：把完整数据原封不动保留下来，总是充分的。

设独立试验 $X_1,\dots ,X_4$ 都服从成功概率为 $p\in (0,1)$ 的伯努利分布。观察到 $(0,1,0,1)$，成功总数 $T=2$。如果只保留总数，丢掉了成功出现的次序。下面计算这些被丢掉的次序，是否还包含关于 $p$ 的额外信息。

给定成功总数后的六种次序

恰有两次成功的四位序列共有 $(\genfrac{}{}{0ex}{}{4}{2})=6$ 种。每一种序列的概率都是 $p^2(1-p{)}^2$；总数为二的概率则是它的六倍。因此，对其中任意一种序列 $x$， $$\underset{p}{Pr}(X=x\mid T=2)=\frac{p^2(1-p{)}^2}{6p^2(1-p{)}^2}=\frac{1}{6}.$$ 条件分布不依赖 $p$。给定成功总数之后，随机生成这六种次序不需要知道未知成功率；原来的成功率信息已经集中在总数的分布里。

合并的是次序，不是把成功率固定成二分之一。总数二的发生概率仍随参数变化。

对一般固定样本量 $n\ge 1$，令 $T=\sum _i{X}_i$。给定 $T=t$ 后，每个具有 $t$ 个一的序列都有条件概率 $1/(\genfrac{}{}{0ex}{}{n}{t})$，所以 $T$ 对 $p$ 充分。这里共同成功率与独立性都是模型条件。

条件分布定义

对模型 $\{P_{\theta }:\theta \in \Theta \}$，统计量 $T=T(X)$ 是只由样本计算、不能使用未知参数的可测函数。在通常的有限、欧氏或标准Borel样本空间中，可用条件概率核表述充分性：存在同一个核 $Q(t,A)$，对全部 $\theta$ 满足 $$P_{\theta }(X\in A\mid T)=Q(T,A)P_{\theta }\text{-几乎处处}.$$ “同一个”排除了为每个参数保留一套仍随参数变化的条件分布。连续统计量的单点事件往往概率为零，不能机械用两个零概率相除；条件核表述与密度的因子分解处理了这一问题。

在共同支配测度下，因子分解定理提供常用判据：把联合密度写成只通过 $T(x)$ 依赖参数的部分，与不依赖参数的部分之积。伯努利样本恰有 $$p_p(x)=p^{T(x)}(1-p{)}^{n-T(x)},x\in \{0,1{\}}^n.$$ 给定完整序列或给定总数得到的似然，只相差一个与参数无关的二项式系数，因而在这个模型内具有相同的参数似然比。

摘要、估计值与最小性

在主例中，总数的似然为 $6p^2(1-p{)}^2$。对数导数为 $2/p-2/(1-p)$，最大点是 $\hat{p}=1/2$。这里 $T=2$ 是统计量的观测值，$\hat{p}$ 是选择某个推断规则后得到的估计值；充分性并没有宣称真实参数必为一半。

相互可恢复的摘要具有相同充分性。例如固定 $n$ 时，$T$ 与 $\overline{X}=T/n$ 可以互相计算。如果从 $S$ 可以恢复充分统计量 $T$，那么 $S$ 也充分：知道 $S$ 至少保留了构造 $T$ 所需的信息。完整样本因此充分，但通常保留了多余细节。最小充分统计量进一步讨论能够从其他任何充分摘要恢复的那一层共同信息。

充分性也依赖目标模型。把同一总数用于时间变化、组别差异或相关试验，不能只凭它曾在独立同分布模型下充分，就认定仍然没有信息损失。

一个失去充分性的改动

取两个相互独立的试验，但令 $X_1\sim \mathrm{Bernoulli}(p)$、$X_2\sim \mathrm{Bernoulli}(1-p)$。现在 $$\begin{array}{cc}\underset{p}{Pr}(X=(1,0))& =p^2,\\ \underset{p}{Pr}(X=(0,1))& =(1-p{)}^2.\end{array}$$ 给定 $T=X_1+X_2=1$，第一种次序的条件概率为 $$\frac{p^2}{p^2+(1-p{)}^2}.$$ 它在 $p=1/2$ 时为一半，在 $p=4/5$ 时为 $16/17$。同样是“两个二元数的和”，这里却不充分；哪一次成功可以帮助区分参数。

变式。 回到共同成功率、独立试验模型，取 $n=5,T=3$。给定总数后共有十种等概率序列，每种概率为十分之一；对应最大似然估计为 $3/5$。答案改变的是组合数和估计值，条件分布不依赖参数的结构没有改变。

充分统计量允许在明确模型下舍弃不影响参数推断的次序或其他细节。若研究的任务还包括检查独立性、发现时间趋势或审查数据质量，这些细节仍可能有用，不应把对一个模型的充分性当作删除原始记录的通用理由。