点估计

点估计用样本算出一个数，作为未知总体参数的估计。还没有抽样时，计算规则是随机的估计量；样本到手后算出的具体数，才是估计值。例如以样本平均数估计总体均值，两者必须区分。

一份小样本能告诉我们什么

假定从某类零件中独立随机抽出四件，寿命记录为 $3,4,7,6$ 千小时。样本均值是 $\overline{x}=(3+4+7+6)/4=5$ 千小时，给出了总体平均寿命 $\mu$ 的点估计。它并不声称总体均值恰为5；换一组零件，$\overline{x}$ 一般会变。

若抽样来自独立同分布总体，且单件寿命的期望为 $\mu$，则 $$E(\overline{X})=\frac{1}{n}\sum _{i=1}^{n}E(X_i)=\mu .$$ 因此样本均值是 $\mu$ 的无偏估计量。这里的无偏指反复按同一机制抽样所得估计值的平均等于真值，不表示每一次估计都准确。

准确度还要看波动

同一组数据的离差平方和为 $(3-5{)}^2+(4-5{)}^2+(7-5{)}^2+(6-5{)}^2=10$。用样本方差的分母 $n-1=3$，得到 $s^2=10/3$；若直接除以 $n=4$，结果是2.5，作为总体方差的估计通常向下偏。这个区别说明“用样本代入公式”仍须考虑估计目标和抽样性质。

判断估计量常看偏差、方差与均方误差。对参数 $\theta$ 的估计量 $T$，恒等式 $$E[(T-\theta {)}^2]=\mathrm{Var}(T)+[E(T)-\theta {]}^2$$ 由 $T-\theta =(T-ET)+(ET-\theta )$ 展开并利用第一项期望为零得到。无偏只是右边第二项为零，方差仍可能很大；报告一个点估计时，还应考虑标准误或置信区间。

参考资料

• 宾夕法尼亚州立大学 STAT 500：Confidence Intervals：点估计与区间估计的关系。
• OpenStax《Introductory Statistics 2e》第8章导言：样本统计量与总体参数。