Gram-Schmidt正交化

Gram–Schmidt 正交化把一组线性无关向量变成生成同一子空间的正交规范向量。它逐个处理输入：先保留第一个方向；遇到新向量时，减去它在已得到方向上的正交投影，剩余部分便与旧方向正交，最后再除以自身长度。

两个平面向量的手算

取 $v_{1} = (1, 1)$ 、 $v_{2} = (1, 0)$ 。先令 $u_{1} = v_{1}$ 。第二步减去 $v_{2}$ 在 $u_{1}$ 上的投影： $u_{2} = v_{2} - \frac{v_{2} \cdot u_{1}}{u_{1} \cdot u_{1}} u_{1} = (1, 0) - \frac{1}{2} (1, 1) = (\frac{1}{2}, - \frac{1}{2}) .$ 核对 $u_{1} \cdot u_{2} = 1 / 2 - 1 / 2 = 0$ 。归一化后可取 $q_{1} = (1, 1) / \sqrt{2}$ 、 $q_{2} = (1, - 1) / \sqrt{2}$ ；两者长度都为 1，且仍生成整个平面。给 $u_{2}$ 整体乘以 2 不改变方向，因此把它规范化时可直接用更简洁的 $(1, - 1)$ 。

一般步骤与失败位置

第 $k$ 步从 $v_{k}$ 减去它在前面每条单位方向上的分量： $u_{k} = v_{k} - \sum_{j < k} (v_{k} \cdot q_{j}) q_{j}, q_{k} = \frac{u_{k}}{‖ u_{k} ‖} .$ 若输入向量线性相关，某一步的 $u_{k}$ 会变成零向量，无法除以长度；这不是算法计算错了，而是在说明新向量没有增加方向。实际浮点计算中近乎相关的向量会带来舍入误差，常用改进的正交化或 QR 分解方法控制数值稳定性。

参考资料