柯西不等式

柯西不等式通常指柯西—施瓦茨不等式（Cauchy–Schwarz inequality），也称柯西—布尼亚科夫斯基不等式。它把两组数“对应相乘再相加”的结果，与这两组数各自的平方和联系起来。在向量语言中，它说：内积的绝对值不超过两个向量长度的乘积。

先取两个平面向量 $a = (3, 1)$ 、 $b = (1, 2)$ 。对应坐标相乘相加，得到 $a \cdot b = 3 \times 1 + 1 \times 2 = 5$ ；两向量的长度分别为 $\sqrt{10}$ 和 $\sqrt{5}$ 。柯西不等式在这里给出

$| 5 | \leq \sqrt{10} \sqrt{5} = \sqrt{50}, 或等价地 25 \leq 50.$

数字比较容易验证。更值得追问的是：为什么无论坐标如何取值都成立，什么时候两边恰好相等，以及这份上界怎样用来解题？

先说清楚两个量怎样计算

给定两组实数 $a_{1}, \dots, a_{n}$ 和 $b_{1}, \dots, b_{n}$ ，其中 $n$ 为正整数，组成实向量 $a, b \in ℝ^{n}$ 。它们的欧氏内积和长度分别是

$a \cdot b = \sum_{i = 1}^{n} a_{i} b_{i}, ‖ a ‖ = \sqrt{\sum_{i = 1}^{n} a_{i}^{2}} .$

内积可能为正、为负或为零；长度始终非负。柯西不等式的两个常见形式为

$| \sum_{i = 1}^{n} a_{i} b_{i} | \leq \sqrt{\sum_{i = 1}^{n} a_{i}^{2}} \sqrt{\sum_{i = 1}^{n} b_{i}^{2}},$

${(\sum_{i = 1}^{n} a_{i} b_{i})}^{2} \leq (\sum_{i = 1}^{n} a_{i}^{2}) (\sum_{i = 1}^{n} b_{i}^{2}) .$

因为绝对值与两个长度都非负，平方或开平方不会改变不等式的真假。坐标没有正数要求，负坐标同样适用。若把 $b$ 换成 $- b$ ，内积从 5 变成 −5，长度不变，绝对值正好保留了同一份上界。

等号成立当且仅当两向量线性相关。明确说，存在不同时为零的实数 $α, β$ ，使 $α a + β b = 0$ 。当 $b \neq 0$ 时，这等价于存在实数 $t$ 使 $a = t b$ ；若 $b = 0$ ，无论 $a$ 为何都取等号。这样说也包含零向量，不必为零向量硬定义夹角。MIT：Cauchy–Schwarz 等号条件

把一个向量分成沿线与垂线两部分

回到 $a = (3, 1)$ 、 $b = (1, 2)$ 。沿着 $b$ 方向的点都形如 $t b = (t, 2 t)$ 。我们想找其中离 $a$ 最近的一个，使从这个点指向 $a$ 的差向量与 $b$ 垂直。

这个垂直要求可用内积为零来表达：

$(a - t b) \cdot b = 0.$

展开后是 $a \cdot b - t ‖ b ‖^{2} = 0$ ，所以

$t = \frac{a \cdot b}{‖ b ‖^{2}} = \frac{5}{5} = 1.$

因此投影点为 $h = t b = (1, 2)$ ，余下的向量为 $r = a - h = (2, - 1)$ 。核对 $r \cdot b = 2 \times 1 + (- 1) \times 2 = 0$ ，确实垂直。

虚线是从 a 的端点向 b 所在直线作出的垂线。沿线部分与垂直部分合起来仍是同一个向量 a。

图中直角三角形满足勾股定理： $‖ a ‖^{2} = ‖ h ‖^{2} + ‖ r ‖^{2} = 5 + 5 = 10$ 。因此投影长度不会超过原向量长度。一般地，当 $b \neq 0$ 时，沿线部分的长度为

$‖ \frac{a \cdot b}{‖ b ‖^{2}} b ‖ = \frac{| a \cdot b |}{‖ b ‖} .$

它不超过 $‖ a ‖$ ，乘回正数 $‖ b ‖$ 就得到柯西不等式。若想取等号，垂直部分必须消失，整个 $a$ 都落在 $b$ 所在直线上。这同时解释了等号为什么对应线性相关。

不靠图形的证明：平方距离最小能有多小

上述投影思路可以写成任意维数都有效的代数证明。若 $b = 0$ ，不等式两边都是零，已经证明。以下设 $b \neq 0$ ，于是 $‖ b ‖^{2} > 0$ 。

对于任意实数 $t$ ，平方和都非负：

$\begin{matrix} ‖ a - t b ‖^{2} & = \sum_{i = 1}^{n} (a_{i} - t b_{i})^{2} \\ = ‖ a ‖^{2} - 2 t (a \cdot b) + t^{2} ‖ b ‖^{2} \geq 0. \end{matrix}$

把关于 $t$ 的二次式配方：

$‖ a - t b ‖^{2} = ‖ b ‖^{2} {(t - \frac{a \cdot b}{‖ b ‖^{2}})}^{2} + ‖ a ‖^{2} - \frac{(a \cdot b)^{2}}{‖ b ‖^{2}} .$

当 $t = (a \cdot b) / ‖ b ‖^{2}$ 时，第一项为零；左边仍不能为负，所以

$0 \leq ‖ a ‖^{2} - \frac{(a \cdot b)^{2}}{‖ b ‖^{2}} .$

乘以正的 $‖ b ‖^{2}$ ，便得到 $(a \cdot b)^{2} \leq ‖ a ‖^{2} ‖ b ‖^{2}$ 。整个证明只用了平方和非负与配方，没有先假设夹角公式成立。

本例的平方距离是 $10 - 10 t + 5 t^{2} = 5 (t - 1)^{2} + 5$ 。下图的最低点在 $t = 1$ ，最小平方距离为 5，与上一图的残差长度平方完全一致。 $t = 0$ 对应原点，平方距离为 10； $t = 2$ 对应 $2 b = (2, 4)$ ，平方距离也为 10。

沿 b 所在直线移动，最近点由最低的平方距离确定；非负性给出了内积上界。

等号条件也可以从证明直接读出。取上述最优 $t$ 后，等号成立当且仅当 $‖ a - t b ‖^{2} = 0$ 。平方和为零意味着每一项都为零，即每个坐标满足 $a_{i} = t b_{i}$ 。反过来，若 $a = t b$ ，代入立即得到等号， $t$ 可以为正、负或零。

平方和恒等式给出的另一种解释

在二维中，把两边的差展开，会得到一个完整的平方：

$\begin{matrix} (a_{1}^{2} + a_{2}^{2}) (b_{1}^{2} + b_{2}^{2}) - (a_{1} b_{1} + a_{2} b_{2})^{2} \\ = a_{1}^{2} b_{2}^{2} + a_{2}^{2} b_{1}^{2} - 2 a_{1} a_{2} b_{1} b_{2} \\ = (a_{1} b_{2} - a_{2} b_{1})^{2} \geq 0. \end{matrix}$

本例右边为 $(3 \times 2 - 1 \times 1)^{2} = 25$ ，左边为 $10 \times 5 - 5^{2} = 25$ ，两种计算一致。量 $a_{1} b_{2} - a_{2} b_{1}$ 也是二维矩阵行列式；它的绝对值是两个向量张成的平行四边形面积。若两向量落在同一直线上，面积为零，正好取等号。

在更高维，把展开式中对角项 $a_{i}^{2} b_{i}^{2}$ 抵消，再将下标 $(i, j)$ 与 $(j, i)$ 成对整理，就得到

$(\sum_{i} a_{i}^{2}) (\sum_{i} b_{i}^{2}) - {(\sum_{i} a_{i} b_{i})}^{2} = \sum_{i < j} (a_{i} b_{j} - a_{j} b_{i})^{2} .$

右边每一对贡献 $a_{i}^{2} b_{j}^{2} + a_{j}^{2} b_{i}^{2} - 2 a_{i} a_{j} b_{i} b_{j}$ ，恰好补齐左边所有未抵消的项。这是拉格朗日恒等式，也直接证明了不等式。它说明两边的差由各对坐标偏离比例关系的程度组成。

用等号条件求一个真正能达到的上界

若实数 $x, y$ 满足 $x^{2} + y^{2} = 1$ ，求 $3 x + y$ 的最大值。把目标看成 $(3, 1)$ 与 $(x, y)$ 的内积，就有

$| 3 x + y | \leq \sqrt{3^{2} + 1^{2}} \sqrt{x^{2} + y^{2}} = \sqrt{10} .$

因此 $3 x + y \leq \sqrt{10}$ 。但一个上界不一定真的能够取到，还必须检查等号。要让内积达到正的最大值，应取与 $(3, 1)$ 同向的单位向量：

$(x, y) = (\frac{3}{\sqrt{10}}, \frac{1}{\sqrt{10}}) .$

此时 $x^{2} + y^{2} = 1$ ，并且 $3 x + y = 10 / \sqrt{10} = \sqrt{10}$ ，所以上界确实是最大值。反向单位向量给出最小值 $- \sqrt{10}$ 。

目标函数相同的点排成直线；向外平移至刚好碰到圆的位置，得到可达到的最大值。

另一个常见应用是估计平方和。对实数 $x_{1}, \dots, x_{n}$ ，把另一组数取成全一，得到

$(x_{1} + \dots + x_{n})^{2} \leq n (x_{1}^{2} + \dots + x_{n}^{2}) .$

若三数之和固定为 6，则平方和至少为 $6^{2} / 3 = 12$ 。等号要求 $(x_{1}, x_{2}, x_{3})$ 与 $(1, 1, 1)$ 成比例，结合总和条件只能是 $(2, 2, 2)$ 。例如 $(1, 2, 3)$ 的平方和为 14，大于这个下界。这也解释了为什么在总和固定时，数值越均匀，平方和可以越小。

分式形式与正权重

对于实数 $x_{i}$ 和严格正数 $u_{i}$ ，可以选择

$a_{i} = \frac{x_{i}}{\sqrt{u_{i}}}, b_{i} = \sqrt{u_{i}} .$

把它们代入柯西不等式，内积变为 $\sum_{i} x_{i}$ ，两个平方和分别变为 $\sum_{i} x_{i}^{2} / u_{i}$ 与 $\sum_{i} u_{i}$ 。因为后一个和为正，可以除过去，得到

$\sum_{i = 1}^{n} \frac{x_{i}^{2}}{u_{i}} \geq \frac{(\sum_{i} x_{i})^{2}}{\sum_{i} u_{i}} .$

等号要求 $x_{i} / \sqrt{u_{i}} = t \sqrt{u_{i}}$ ，即所有 $x_{i} / u_{i}$ 相同。正权重是这一步代入和除法的条件。允许负权重后，即使权重之和仍为正，结论也可能失败：取 $x_{1} = 1, x_{2} = 0$ 、 $u_{1} = - 1, u_{2} = 2$ ，左边为 −1，右边为 1，原来的“左边大于等于右边”便不成立。

向量夹角、函数和随机变量中的同一结构

对于非零实向量，柯西不等式保证

$- 1 \leq \frac{a \cdot b}{‖ a ‖ ‖ b ‖} \leq 1.$

因此可以用这个比值定义夹角的余弦。平面与三维空间里，它与通常的几何夹角一致；更高维也能沿用。零向量虽然满足不等式，却不能代入这个夹角公式，因为分母为零。反向向量同样使绝对值形式取等号；如果讨论没有绝对值的上界 $a \cdot b \leq ‖ a ‖ ‖ b ‖$ ，非零反向向量取得的是下界而非上界。

在一般内积向量空间中，公式写成 $| ⟨ a, b ⟩ | \leq ‖ a ‖ ‖ b ‖$ 。复向量的内积要对其中一组坐标取共轭，长度平方使用 $\sum | a_{i} |^{2}$ ，不能把实数公式中的平方不加改变地照抄。例如 $(1, i)$ 的长度平方是 2，而 $1^{2} + i^{2} = 0$ 并不是它的长度平方。

把有限求和换成积分，在实函数 $f, g$ 平方可积的条件下，可得到

${| \int f g |}^{2} \leq (\int f^{2}) (\int g^{2}) .$

各积分在同一测度空间上进行。其证明仍然来自 $\int (f - t g)^{2} \geq 0$ ；等号对应函数作为平方可积空间中的元素线性相关。若其中一个函数几乎处处为零，自动取等号；否则等号要求两函数几乎处处成固定比例，“几乎处处”表示允许在测度为零的集合上例外。类似地，对于二阶矩有限的随机变量 $X, Y$ ，有 $| E (X Y) |^{2} \leq E (X^{2}) E (Y^{2})$ ；将两者减去均值后，就能得到协方差绝对值不超过两个标准差乘积的结论。这些推广都保留了“平方所定义的长度限制内积”这一结构。

历史与参考资料

柯西在 1821 年的 Cours d’Analyse 中发表了有限和形式的不等式。布尼亚科夫斯基在 1859 年发表其积分对应式；施瓦茨后来在极小曲面的研究中需要并发展了积分形式。这段从有限坐标到函数的历史，也反映在今天并存的“柯西—施瓦茨”“柯西—布尼亚科夫斯基”等名称中。J. Michael Steele：Starting with Cauchy，历史说明

J. Michael Steele，The Cauchy–Schwarz Master Class，第 1 章 Starting with Cauchy，Cambridge University Press，2004。有限和不等式、证明思路、积分推广及其历史。
Michael Andrews，MIT 18.100B/C Problem Set 2 Solutions，2011，第 1 题。包括零向量在内的等号条件，以及复向量情形。
MIT Introduction to Proofs：Inequalities。不等式的证明与代入应用。
相关：线性代数、最小二乘法、优化、期望。