缺失数据机制与选择偏差
缺失数据不只是在表格里出现空格:某项为何没有被记录,直接影响已观测样本能否代表目标总体。选择偏差则发生在进入分析样本的机会与所研究的结果有关时。补一个平均数到空格里只能让程序继续运行,不能自动恢复那些原本难以观测的人。
失访会改变平均值
设研究对象按年龄分为两组,各一百人。年轻组有八十人回答问卷,回答者的不良事件率为 ;年长组有四十人回答,回答者的事件率为 。直接把全部回答者合在一起,得到 。但目标总体中两组各占一半;若在每个年龄组内,“是否回答”与真实结果无关,则以总体年龄构成标准化,估计事件率为 同一计算也可用回答概率的倒数作权重:年轻组 ,年长组 ,加权事件数为 ,加权人数为 ,所以是 。这里的二十、十六是回答者中的事件数;失访者的真实结果并未被观察到,零点三五是条件假设下的估计,不是已知真值。
三类缺失机制
记 表示结果被观察到, 表示结果, 表示已完整记录的辅助变量。完全随机缺失(MCAR)要求缺失机会不依赖已观测或未观测数据,例如可靠的随机抽取程序意外丢失一部分样本;在这种强条件下,完整案例可能仍代表总体,但会损失精度。条件随机缺失(MAR)允许 依赖已观测的 ,但给定这些变量后,不再依赖尚未看到的 。上述例子按年龄组内回答者代表所有同龄人,就是一种 MAR 假设。非随机缺失(MNAR)则指即使给定已观测变量,缺失仍与未观测结果有关,例如高收入者在同龄、同职业内仍更不愿披露收入。
这些名称是关于缺失过程的假设,不是看到一列空格后能由统计软件自动判定的标签。尤其不能仅因观察到回答率随年龄变,就断言一定是 MAR:同一年龄层里仍可能有与结果相关的失访。反过来,未发现显著相关也不能证明 MCAR。需要把问卷流程、设备故障、拒答原因和有无追访记录纳入机制判断。
估计、插补与敏感性
若各组的回答概率 可估且不为零,可采用逆概率加权。对总体均值,一种规范化估计为 极低的回答概率会造成巨大权重和不稳定估计,应报告权重分布、截断规则及其对结论的影响。回归插补或多重插补可以在假设下利用已观察的协变量与相关结果;多重插补须生成多个合理完整数据集并合并估计与不确定性,不能把一次填入的数值当成真实观测。
对 MNAR,无论把已观测数据拟合得多好,也无法从它们单独识别失访者的结果分布。应作带有可解释范围的敏感性分析:例如假定失访者在同年龄组的事件率比回答者高五、十个百分点,分别重算总体结果,再说明何种偏差会改变研究结论。若失访者可被抽样追访,额外观测通常比在旧表上反复调插补模型更有价值。
从数据进入模型前的核对
记录每列的缺失比例、时间与分组分布,分清“不适用”“拒答”“设备未测”和真正的零。所有插补模型只在当前训练折拟合;若用验证集的结果或总体均值参与填补,再评估预测模型,就叠加了数据泄漏。研究报告应同时给完整案例与主要调整方法的结果、关键假设、有效样本量和敏感性范围,而不只给一份已经填满的表。
参考资料与相关词条
- 美国国家科学院《The Prevention and Treatment of Missing Data in Clinical Trials》,缺失机制、不可由观测数据区分的假设与敏感性分析。
- Penn State STAT 509:缺失数据与简单插补的偏差。
- 相关:简单随机抽样、分层随机抽样、因果图与混杂、交叉验证与数据泄漏。