置信带图

置信带图用一条曲线和其周围的阴影区域表示估计的不确定性。横轴连续变化时，画带比在每个位置竖一条误差线更容易看出范围怎样改变；阴影本身却不告诉读者它是均值置信区间、单次预测区间、分位范围还是人为设定的容差。图注应把对象、算法、置信水平和前提写清楚。

五个点拟合一条直线

设五对合成观测为 $(1,2),(2,3),(3,5),(4,4),(5,6)$。用含截距的一元最小二乘直线 $\hat{y}(x)=a+bx$ 描述其平均关系。这里 $\overline{x}=3$、$\overline{y}=4$，并可直接求得 $$S_{xx}=\sum _{i=1}^5(x_i-3{)}^2=10,S_{xy}=\sum _{i=1}^5(x_i-3)(y_i-4)=9.$$ 所以 $b=S_{xy}/S_{xx}=0.9$、$a=\overline{y}-b\overline{x}=1.3$，拟合线为 $\hat{y}(x)=1.3+0.9x$。当 $x=3$ 时，线上的值是 4；原始观测在 $x=3$ 处却是 5。这说明拟合值代表模型估计的条件均值，不能替代每一个原始值。

逐点相减得到残差 $-0.2,-0.1,1,-0.9,0.2$，平方和为 $1.9$。两个回归参数从五点估计，残差自由度为 $5-2=3$，故残差标准差 $$s=\sqrt{\frac{1.9}{3}}\approx \mathrm{0.796.}$$ 这些算式解释了图上中心线和阴影宽度从哪里来；阴影不是绘图软件自动添加的“可信区域”。

均值置信带与单次预测带

暂且假设各个 $x_i$ 为固定设计值，在这些位置的误差独立、均值为零、方差相同且服从正态分布。在某个给定 $x_0$ 处，总体条件均值的点态 95% 置信区间以 $\hat{y}(x_0)$ 为中心，半宽为 $$t_{0.975,3}s\sqrt{\frac{1}{5}+\frac{(x_0-3{)}^2}{10}},t_{0.975,3}\approx \mathrm{3.182.}$$ 若要预测下一条独立观测，必须再加上它自身的随机误差，半宽变为 $$t_{0.975,3}s\sqrt{1+\frac{1}{5}+\frac{(x_0-3{)}^2}{10}}.$$ 根号里多出的 $1$ 正是下一条观察值本身的变动；因此同一位置的预测带比均值置信带宽。

横轴 3 附近两带较窄，向已有数据的两端加宽；外带包含未来单次观测的额外变异。阴影只在本例观测的 x 范围 1 至 5 内绘制。

在中心 $x_0=3$ 处，两种区间的计算尤其容易核对。均值区间的半宽为 $3.182\times 0.796\sqrt{1/5}\approx 1.133$，即约 $[2.87,5.13]$；新观测的预测区间半宽为 $3.182\times 0.796\sqrt{1+1/5}\approx 2.774$，即约 $[1.23,6.77]$。

把曲线在 x=3 处横切开，可看见两个中心相同、对象却不同的区间；较宽的金色线用于下一次观测。

阴影不能替代模型检查

这里的“95%”逐点针对预先给定的一个 $x_0$。把所有这些区间并排涂成一条带，不表示整条未知回归函数有 95% 的概率同时处处落在带内；那需要专门的同时置信带方法。小样本只有五点，独立、线性、等方差和正态误差也难从图上确认，应结合残差分析和数据来源判断。

两种带在 $x=3$ 最窄，是因为那里靠近观测横坐标的中心；远离中心时 $(x_0-3{)}^2/10$ 增大。图只画在已有 $x=1$ 至 $5$ 的范围。若把直线和阴影向很远处延伸，公式仍能给数值，但线性模型未必继续适用，统计区间不能保护错误的外推模型。

参考资料

• Penn State STAT 462：新观测预测区间，简单线性回归中的 $1+1/n+(x_0-\overline{x}{)}^2/S_{xx}$。
• NIST/SEMATECH：回归预测与区间，均值置信区间和单次测量预测区间的对象差异。
• ggplot2：带状图层，以 ymin 与 ymax 绘制区间；图层不会自动决定区间含义。
• 相关：最小二乘法、误差线图、残差分析、统计推断。