广义逆

广义逆（generalized inverse）将普通矩阵逆推广到非方阵和奇异矩阵。最基本的一种约定是：给定 $A \in ℝ^{m \times n}$ ，若 $G \in ℝ^{n \times m}$ 满足 $A G A = A,$ 就称 $G$ 为 $A$ 的一个广义逆，也称 ${1}$ -逆或内逆。这个条件要求：对于确实来自 $A$ 的输出，经过 $G$ 再经 $A$ 后，输出保持不变。不同资料可能附加其他条件，使用“广义逆”时应说明采用哪组条件。摩尔—彭若斯伪逆是由四个条件唯一选定的特殊广义逆。^[1]

本文着重说明基本条件 $A G A = A$ 的非唯一性，以及它怎样表达线性方程的相容性和通解。

一个矩阵可以有许多个广义逆

取 $A = (\begin{matrix} 1 & 0 \\ 0 & 0 \end{matrix})$ ，设 $G = (\begin{matrix} a & b \\ c & d \end{matrix})$ 。两次相乘得到 $A G A = (\begin{matrix} a & 0 \\ 0 & 0 \end{matrix}) .$ 所以广义逆条件只要求 $a = 1$ ，其余三个参数任意。可见基本广义逆通常不唯一，也不一定满足 $A G = G A = I$ 。

若右端为 $b_{0} = (2, 0)^{𝖳}$ ，方程 $A x = b_{0}$ 的全部解是 $(2, t)^{𝖳}$ 。广义逆给出的 $G b_{0} = (2, 2 c)^{𝖳}$ 是其中一个解，参数 $c$ 决定它在不可识别方向上走多远；基本条件并未要求选择长度最小的那个。若右端改成 $(2, 1)^{𝖳}$ ，原方程无解，任意 $G$ 也不能凭空补出缺失的第二输出坐标。

相容性与通解公式

定理　固定一个满足 $A G A = A$ 的 $G$ 。方程 $A x = b$ 有解，当且仅当 $A G b = b$ 。相容时全部解为 $x = G b + (I - G A) z, z \in ℝ^{n} .$

先证相容性。若 $b = A x_{0}$ ，则 $A G b = A G A x_{0} = A x_{0} = b$ 。反过来，若 $A G b = b$ ，直接取 $x = G b$ 就满足方程。

对通解公式，注意 $A (I - G A) = A - A G A = 0.$ 所以任意 $z$ 都给出 $A x = A G b = b$ 。反向若 $x$ 是任一解，在公式中取 $z = x$ ，右端成为 $G b + x - G A x = G b + x - G b = x$ 。因此没有漏掉任何解。公式把一个特解与核空间中的自由部分分开，而不是要求每个参数 $z$ 都对应不同的解。

平面点二一被不同投影送到横轴上的三零和二零，两个投影均保持横轴的每个点。 — 同一个输出子空间可以有不同的投影方向；基本广义逆没有规定正交性。

图采用 $G = (\begin{matrix} 1 & 1 \\ 0 & 0 \end{matrix})$ 。此时 $A G$ 把 $(u, v)$ 送到 $(u + v, 0)$ ，所以图中 $(2, 1)$ 被送到 $(3, 0)$ ；取伪逆 $A^{+} = A$ 时则送到 $(2, 0)$ 。两个映射都保持横轴不动，但前者沿斜方向投影，后者沿垂直方向投影。图里的三零不是原来不相容方程的精确解，而是经过 $A G$ 改写后的右端。

基本广义逆总存在

设 $A$ 的秩为 $r$ 。通过选取输入、输出空间的基，可将它写成 $A = P (\begin{matrix} I_{r} & 0 \\ 0 & 0 \end{matrix}) Q,$ 其中 $P, Q$ 分别是可逆的 $m \times m$ 和 $n \times n$ 矩阵，中间块为 $m \times n$ 。令 $J$ 为这个中间矩阵，令 $J^{-}$ 为尺寸反向、左上块同为 $I_{r}$ 、其余为零的 $n \times m$ 矩阵。块乘法给出 $J J^{-} J = J$ 。于是 $G = Q^{- 1} J^{-} P^{- 1}$ 满足 $A G A = P J J^{-} J Q = A$ ，证明每个有限矩阵都至少有一个基本广义逆。这个构造中的基可以多种方式选择，因此也与非唯一性一致。

幂等投影与伪逆的附加条件

由 $A G A = A$ 得到 $(A G)^{2} = A G A G = A G, (G A)^{2} = G A G A = G A .$ 因此 $A G$ 与 $G A$ 均为幂等投影。 $A G$ 的像空间恰为 $A$ 的列空间：它的像显然包含于列空间，而对每个 $y = A x$ ， $A G y = A G A x = A x = y$ ，故列空间中的点都被保留。它不一定是正交投影，图中的斜投影就是反例。

摩尔—彭若斯伪逆除第一条件外，还满足 $G A G = G, (A G)^{𝖳} = A G, (G A)^{𝖳} = G A .$ 后两条将投影限制为正交投影，四条合在一起唯一确定 $A^{+}$ 。复数情形使用共轭转置。最小二乘与最小范数性质依赖这些额外结构，不能仅从 $A G A = A$ 推出。^[1]

变式取 $A = (1 1)$ 。其广义逆为所有列向量 $G = (t, 1 - t)^{𝖳}$ ，因为 $A G A = (t + 1 - t) A = A$ 。对右端二，得到特解 $(2 t, 2 - 2 t)$ ；只有 $t = 1 / 2$ 给出最小欧几里得范数解 $(1, 1)$ 。若 $A$ 本来是可逆方阵，左右乘普通逆则强迫 $G = A^{- 1}$ ，非唯一性随之消失。

参考文献

↑ ^1.0 ^1.1 Roger Penrose，A generalized inverse for matrices，Mathematical Proceedings of the Cambridge Philosophical Society，51(3)，1955，406—413，原文扫描，定理1。

[penrose-1] 1.0 ^1.1 Roger Penrose，A generalized inverse for matrices，Mathematical Proceedings of the Cambridge Philosophical Society，51(3)，1955，406—413，原文扫描，定理1。

[1]