跳到正文
格致开物MATHWIKI

缺失数据机制与选择偏差

缺失数据不只是在表格里出现空格:某项为何没有被记录,直接影响已观测样本能否代表目标总体。选择偏差则发生在进入分析样本的机会与所研究的结果有关时。补一个平均数到空格里只能让程序继续运行,不能自动恢复那些原本难以观测的人。

失访会改变平均值

设研究对象按年龄分为两组,各一百人。年轻组有八十人回答问卷,回答者的不良事件率为 16/80=0.20;年长组有四十人回答,回答者的事件率为 20/40=0.50。直接把全部回答者合在一起,得到 (16+20)/(80+40)=0.30。但目标总体中两组各占一半;若在每个年龄组内,“是否回答”与真实结果无关,则以总体年龄构成标准化,估计事件率为 0.5(0.20)+0.5(0.50)=0.35. 同一计算也可用回答概率的倒数作权重:年轻组 1/0.8=1.25,年长组 1/0.4=2.5,加权事件数为 16(1.25)+20(2.5)=70,加权人数为 80(1.25)+40(2.5)=200,所以是 70/200=0.35。这里的二十、十六是回答者中的事件数;失访者的真实结果并未被观察到,零点三五是条件假设下的估计,不是已知真值。

年轻和年长两组各一百人,年轻组八十人回答而年长组四十人回答;回答者直接合并的零点三零与按总体年龄结构加权的零点三五不同
回答率不一样时,直接合并回答者会悄悄改变两组在样本中的权重。

三类缺失机制

记 R=1 表示结果被观察到,Y 表示结果,X 表示已完整记录的辅助变量。完全随机缺失(MCAR)要求缺失机会不依赖已观测或未观测数据,例如可靠的随机抽取程序意外丢失一部分样本;在这种强条件下,完整案例可能仍代表总体,但会损失精度。条件随机缺失(MAR)允许 R 依赖已观测的 X,但给定这些变量后,不再依赖尚未看到的 Y。上述例子按年龄组内回答者代表所有同龄人,就是一种 MAR 假设。非随机缺失(MNAR)则指即使给定已观测变量,缺失仍与未观测结果有关,例如高收入者在同龄、同职业内仍更不愿披露收入。

这些名称是关于缺失过程的假设,不是看到一列空格后能由统计软件自动判定的标签。尤其不能仅因观察到回答率随年龄变,就断言一定是 MAR:同一年龄层里仍可能有与结果相关的失访。反过来,未发现显著相关也不能证明 MCAR。需要把问卷流程、设备故障、拒答原因和有无追访记录纳入机制判断。

估计、插补与敏感性

若各组的回答概率 π(X)=P(R=1∣X) 可估且不为零,可采用逆概率加权。对总体均值,一种规范化估计为 μ̂IPW=∑iRiYi/π̂(Xi)∑iRi/π̂(Xi). 极低的回答概率会造成巨大权重和不稳定估计,应报告权重分布、截断规则及其对结论的影响。回归插补或多重插补可以在假设下利用已观察的协变量与相关结果;多重插补须生成多个合理完整数据集并合并估计与不确定性,不能把一次填入的数值当成真实观测。

对 MNAR,无论把已观测数据拟合得多好,也无法从它们单独识别失访者的结果分布。应作带有可解释范围的敏感性分析:例如假定失访者在同年龄组的事件率比回答者高五、十个百分点,分别重算总体结果,再说明何种偏差会改变研究结论。若失访者可被抽样追访,额外观测通常比在旧表上反复调插补模型更有价值。

从数据进入模型前的核对

记录每列的缺失比例、时间与分组分布,分清“不适用”“拒答”“设备未测”和真正的零。所有插补模型只在当前训练折拟合;若用验证集的结果或总体均值参与填补,再评估预测模型,就叠加了数据泄漏。研究报告应同时给完整案例与主要调整方法的结果、关键假设、有效样本量和敏感性范围,而不只给一份已经填满的表。

参考资料与相关词条