期望

期望是随机变量按照其概率分布加权得到的平均量，也称数学期望或均值。它概括分布的中心位置，但不一定是最可能的值，也不一定是某次试验能够取得的值。

概率加权的平均

离散随机变量 $X$ 的可能取值为 $x_{i}$ ，对应概率为 $p_{i}$ ，在绝对可积时定义 $𝔼 [X] = \sum_{i} x_{i} p_{i}, \sum_{i} | x_{i} | p_{i} < \infty .$ 若有概率密度 $f_{X}$ ，则相应地有 $𝔼 [X] = \int_{- \infty}^{\infty} x f_{X} (x) d x,$ 有限期望通常要求 $\int | x | f_{X} (x) d x < \infty$ 。没有可积性条件时，形式上的正负抵消可能误导。

公平骰子六个取值的概率柱均为六分之一，均值标在三和四之间的三点五处 — 概率分布的“重心”在 3.5，但骰子没有 3.5 这一面。

公平六面骰的点数期望为 $𝔼 [X] = \frac{1 + 2 + 3 + 4 + 5 + 6}{6} = 3.5.$ 这描述长期平均的中心，不是在预测下一次会掷出 3.5。

线性性不要求独立

对具有有限期望的 $X, Y$ 及常数 $a, b$ ，有 $𝔼 [a X + b Y] = a 𝔼 [X] + b 𝔼 [Y] .$ 不论两个骰子是否独立，只要它们各自都是公平骰子，两者点数和的期望都是 7。相关性会改变和的分布及波动大小，却不影响这条线性规则。

乘法不同：一般不能写成 $𝔼 [X Y] = 𝔼 [X] 𝔼 [Y]$ 。例如令 $Y = X$ 为同一枚公平骰子的点数，则 $𝔼 [X^{2}] = 91 / 6$ ，而 $(𝔼 [X])^{2} = 49 / 4$ ，二者不相等。独立且可积是保证乘积期望分解的一组充分条件。

指示变量把计数变简单

事件 $A$ 的指示变量 $𝟏_{A}$ 在事件发生时为 1，否则为 0，因此 $𝔼 [𝟏_{A}] = P (A)$ 。

把一副充分洗匀的 52 张标准扑克牌抽出 5 张。对每张 A 定义指示变量，表示它是否被抽到。每张牌被抽到的概率都是 $5 / 52$ ，因此抽到的 A 的张数 $N$ 满足 $𝔼 [N] = 4 \cdot \frac{5}{52} = \frac{5}{13} .$ 这些指示变量并不独立，但线性性仍然成立。无需先列出抽到 0、1、2、3、4 张 A 的全部概率，就能求得期望。

同样的平均值，不同的波动

恒等于 0 的变量与各以一半概率取 ±10 的变量，期望都为 0，但后者的波动大得多。二阶矩有限时，方差 $Var (X) = 𝔼 [(X - 𝔼 [X])^{2}] = 𝔼 [X^{2}] - (𝔼 [X])^{2}$ 分别是 0 与 100。期望的单位与变量相同，方差的单位则是变量单位的平方。

一般也有 $𝔼 [g (X)] \neq g (𝔼 [X])$ ，所以上例不能把“平均点数的平方”当作“平方点数的平均”。

期望并不总是有限

令 $P (X = 2^{n}) = 2^{- n}$ ， $n = 1, 2, \dots$ 。这些概率之和为 1，但 $𝔼 [X] = \sum_{n = 1}^{\infty} 2^{n} 2^{- n} = + \infty .$ 非负随机变量可以有无穷期望。对更一般的有正有负变量，正负部分都无限时，期望可能根本无定义，不能写成“无穷减无穷等于零”。

延伸阅读

MIT OpenCourseWare，18.05 阅读材料：期望、方差与连续随机变量。
概率 · 积分 · 数学建模