随机过程

随机过程（stochastic process）是一组用时间或其他指标编号的随机变量，用来描述会随机变化的对象。研究它不仅要知道某一时刻的分布，还要知道不同时刻之间怎样相互关联。

四步之后在哪里，与一路怎样走是两回事

设一个粒子在整数格点上运动，从0出发。每一步独立地以相同概率向右或向左移动一格，记第 $k$ 步位移为 ${\xi }_k$，则 $$P({\xi }_k=1)=P({\xi }_k=-1)=\frac{1}{2},S_0=0,S_n=\sum _{k=1}^n{\xi }_k.$$ 一次实现可能是 $0,1,2,1,0$，另一次是 $0,-1,0,1,0$。四步后都在0，但经过的路线不同。若问题是“最终在哪里”，看 $S_4$ 的分布；若问题是“是否曾到达2”，就必须看整条路径。

终点相同不代表经历相同；首次到达和最大值都是关于路径的问题。

同一套随机结果，两个阅读方向

严格地说，在同一个概率空间 $(\Omega ,ℱ,P)$ 上，随机过程是一族随机变量 $\{X_t:t\in T\}$。$\Omega$ 中的一个结果 $\omega$ 对应一次完整实现；每个固定 $t$ 下，$X_t$ 是可测的随机变量。

固定一次结果 $\omega$，让时间改变，得到函数 $t\mapsto X_t(\omega )$，称为样本路径。固定时刻 $t$，让试验结果改变，得到该时刻的边缘分布。

格点随机游走的时间集合是 $T=\{0,1,2,\dots \}$，状态集合是整数，因此时间与状态都离散。布朗运动的时间连续、状态也连续。到达计数可以在任意实数时刻观察，但取值只能是非负整数，说明时间是否连续与状态是否连续是两件事。

概率空间是把不同观察放在同一个模型中的基础。例如计算 $P(X_1>0,X_2>0)$，要知道两个变量的联合分布；分别知道它们各有多大概率为正还不够。

从路径计数得到某一时刻的分布

在 $n$ 步中，令 $B_n$ 为向右的次数。向左次数是 $n-B_n$，所以 $$S_n=B_n-(n-B_n)=2B_n-n.$$ 由独立等概率试验，$B_n$ 服从参数 $(n,1/2)$ 的二项分布。于是 $$P(S_n=2j-n)=(\genfrac{}{}{0ex}{}{n}{j})2^{-n},j=0,\dots ,n.$$ 四步后的位置只能是 $-4,-2,0,2,4$，对应概率分别为 $1,4,6,4,1$ 除以16。奇数位置的概率为零，因为每走一步奇偶性都会改变。

这是许多次四步试验的终点分布，不能读成一条路径随时间升降。

每个增量的均值为0、方差为1。期望的线性性给出 $E[S_n]=0$；独立性使不同增量的协方差为零，故 $\mathrm{Var}(S_n)=n$。典型位移尺度因而是 $\sqrt{n}$，而不是 $n$。

如果改为向右概率 $p$，则 $E[{\xi }_k]=2p-1$，$\mathrm{Var}({\xi }_k)=4p(1-p)$，从而 $$E[S_n]=n(2p-1),\mathrm{Var}(S_n)=4np(1-p).$$ 均值描述整体偏向，方差描述围绕均值的离散程度；即使均值为零，一条具体路径也通常不沿零线运动。

每一时刻的分布相同，过程仍可完全不同

取一个以相同概率为 $1$ 或 $-1$ 的随机变量 $Z$。过程A从开始到结束都保持 $X_n=Z$；过程B在每一步重新独立抽取正负1，记为 $Y_n$。

任意固定时刻，$X_n$ 与 $Y_n$ 都各以一半概率为正负1。但 $$P(X_2=X_1)=1,P(Y_2=Y_1)=\frac{1}{2}.$$ 两者的边缘分布相同，时间依赖却不同。

要描述动态的不确定性，还需要时间之间的联合关系。

若二阶矩存在，均值函数为 $m(t)=E[X_t]$，协方差函数为 $$C(s,t)=E[(X_s-m(s))(X_t-m(t))].$$ 上述过程A任意两时刻的协方差为1；过程B在不同时刻的协方差为0。对对称随机游走，若 $m\le n$，写成 $S_n=S_m+(S_n-S_m)$，后一个增量与 $S_m$ 独立，得到 $\mathrm{Cov}(S_m,S_n)=m$。位置会相关，尽管互不重叠时间段内的增量独立。

平稳不表示一条路径不动

严格平稳要求任意有限组时刻的联合分布，在允许的共同时间平移下保持不变；弱平稳只要求二阶矩有限、均值不随时间变、协方差只依赖时间差。一般而言，仅凭弱平稳不能推出严格平稳。

上面的A和B都严格平稳，但B可以不停跳动。相反，随机游走从0出发，方差随步数增加，并不平稳。它却有平稳增量：同样长的一段路程，其位移分布不取决于从第几步开始。

再看平均。A过程一条路径的时间平均永远等于 $Z$，而任意固定时刻的总体均值是0。即使观察无限久，也不能把这一条路径的时间平均当作总体均值。这说明“用长时间观测代替许多独立重复”需要额外的遍历性条件。

怎样为一个问题选随机过程

若关心重复请求累计到达多少次，可以从独立、平稳的稀疏到达假设建立齐次泊松过程。设 $r>0$ 是单位时间的平均到达次数，称为强度；长度 $t$ 内的计数服从参数 $\lambda =rt$ 的泊松分布。若时间以分钟计，$r$ 的单位是每分钟，$rt$ 则是无量纲的平均次数。相邻到达间隔与指数分布相联系。实际到达若有集中爆发或时段变化，就应检查这些假设。

若关心机器在“运行”和“维修”之间切换，可以用马尔可夫链，重点是状态转移概率。若关心许多小扰动累积成的连续波动，可研究布朗运动及随机微分方程。

建模时先说明观察单位和时间尺度，再明确状态、增量和依赖关系。模拟应记录生成机制与随机种子；一次生成的漂亮轨迹只能展示一个实现，均值、尾概率和首次到达事件需要相应的理论或重复试验。

来源与继续阅读

• MIT，Probabilistic Systems Analysis and Applied Probability，Unit III：随机过程、泊松过程与马尔可夫链的课程入口。
• Hao Wu，MIT，Introduction to Stochastic Processes，Lecture 1：离散状态过程与随机游走。
• 先修：概率、期望、概率分布；后续：马尔可夫链、布朗运动、随机微分方程。