矩阵的秩
矩阵的秩(rank)是矩阵列向量能够提供的独立方向数;它也等于行向量的独立方向数。秩不是“非零数字的个数”,而是在询问哪些信息可以由其他列或行线性组合出来。
想象三种原料分别对应系数矩阵的三列。若第三列恰能由前两列拼出,给第三种原料任意增加一份,同时调整前两种原料,最终产物可能完全不变。方程 中的自由变量和不可辨认的输入,正来自这样的依赖关系。
行阶梯形中的主元
考虑 第二行是第一行的两倍。用消元,先做 、,再交换后两行,可得 阶梯形中有两个非零行、两个主元,因此 。这里的 表示经可逆初等行变换得到,不表示两个矩阵逐项相等。
也可直接从列看:记三列为 ,计算得 。前两列不成比例,故确有两个独立方向;第三列没有增加新的方向。这与消元所得秩相符。
被抹去的输入方向
令 ,其中 。阶梯形给出 取自由变量 ,就有 、,因此 直接把 代回原矩阵,三行结果都是零。输入有三个坐标,两个独立方向能在输出中辨认,剩下一个方向被映成零。这里具体体现了线性代数中的秩—零度定理:
方程有无解由谁决定
现在考虑 。因为原矩阵第二行是第一行两倍,右端也必须满足 。例如 满足这一必要条件;消元后它确有解。若把中间的 6 改成 7,左端第二行仍永远是第一行两倍,右端却不是,方程必无解。
一般地,在增广矩阵 中做行变换:
- 若 ,最后出现 (),无解。
- 若两秩相等,至少有一个解;若这共同的秩还等于未知数个数,则没有自由变量,解唯一;否则有无穷多解(在实数域上)。
这不是一套另起的规则。增广列 若增加了一个独立方向,表示目标不在原列空间,因而拼不出;若没有增加,则目标可以由原列组合出来。
行秩与列秩为何相同
可逆行运算相当于对所有列同时施加一个可逆变换,因此不会改变列之间的线性关系。把矩阵化为行最简形后,主元列的数量既是独立列的数量,也是非零行的数量。于是行空间和列空间虽然处在不同坐标空间、具体向量不一样,维数却相等,统称矩阵的秩。
在精确算术中,主元是否为零是明确的。实测数据用小数表示时,一个非常小但非零的主元可能来自舍入或噪声;此时“数值秩”要说明容差和单位缩放,不能只靠肉眼数非零项。最小二乘法中的拟合参数是否可辨认,就与设计矩阵的秩有关。
参考资料
- MIT OpenCourseWare,18.06SC,The Four Fundamental Subspaces:列空间、零空间与秩。
- MIT OpenCourseWare,18.06 课程大纲:秩、主元与方程组解集。
- 继续阅读:线性方程组与高斯消元、向量空间、最小二乘法。