独立同分布

一组随机变量 $X_1,\dots ,X_n$ 独立同分布，简称 i.i.d.，需要同时满足两件事：每个 $X_i$ 的分布相同；任意有限子组的联合概率按各自分布相乘。反复独立地抛同一枚硬币，正面指示量可作为例子；从袋中不放回抽球得到的颜色指示量通常不独立。

两个条件各管什么

两次抛币若一枚公平、一枚正面概率 0.8，即使两次互不影响，也不是同分布。若只抛一次公平硬币并把结果抄写两遍，两个变量分布相同，却完全相关，不独立。独立控制变量间的联合关系，同分布控制每个变量自身的概率规律；两者缺一不可。

对 i.i.d. 且具有有限均值 $\mu$、方差 ${\sigma }^2$ 的变量，样本均值满足 $E[{\overline{X}}_n]=\mu$ 与 $\mathrm{Var}({\overline{X}}_n)={\sigma }^2/n$。期望公式只需各变量均值相同；方差公式还需交叉协方差为 0，独立性保证了这一点。由此可以接上大数定律与中心极限定理。

数据中的假设

时间序列连续时点可能相关，不同医院的病人样本可能来自不同分布；把这些数据一概当 i.i.d. 会使误差估计偏小或推断对象混乱。建模时应写清抽样机制，而不是只在公式旁标注“独立同分布”。

参考资料

• MIT 18.05，Sampling 讲义。
• MIT 6.041，概率论讲义。
• 继续阅读：事件独立性、样本均值、大数定律。