秩

在前文中，我们从n元线性方程出发引入了矩阵的概念。 按照高斯消元法，通过初等变换的方式，将矩阵转换为单位矩阵，就可以求解线性方程组了。但是，我们发现有时并不能得到一个单位阵，这是因为有效的方程数量比未知数少。 矩阵的秩可以用来描述方程组中实际有效的方程数量。

1. 线性无关与基向量

对于空间 \(\mathbb{F}\) 中的\(n\)个向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\)，如果存在一组不全为零的数 \(\lambda_1, \cdots, \lambda_n \in \mathbb{F}\)， 使得 \(\lambda_1 \boldsymbol{a}_1 + \cdots + \lambda_n \boldsymbol{a}_n = \boldsymbol{0}\)， 那么我们就说这\(n\)个向量是线性相关的。否则就是线性无关的，即对于 \(\lambda_1, \cdots, \lambda_n \in \mathbb{F}\)， 如果 \(\lambda_1 \boldsymbol{a}_1 + \cdots + \lambda_n \boldsymbol{a}_n = \boldsymbol{0}\)，就意味着 \(\lambda_1 = \cdots = \lambda_n = 0\)。 根据定义，要判定一组向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) 是否线性相关，只需要将 \(\lambda_1 \boldsymbol{a}_1 + \cdots + \lambda_n \boldsymbol{a}_n = \boldsymbol{0}\) 写成一个关于 \(\{\lambda_i\}\) 的 n 元线性方程组，看是否有非零解即可。

关于线性相关还有四个重要的性质:

1. 一组向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) 线性相关，等价于，其中某个向量 \(\boldsymbol{a}_i\) 一定可以写成其它向量的线性组合。
2. 如果一组向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) 线性无关，那么它的任何子集都是线性无关的。
3. 如果\(n\)维空间 \(\mathbb{F}^n\) 中\(m\)个向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_m\) 线性无关，那么各向量再增加一个元素， 构成\(n+1\)维空间 \(\mathbb{F}^{n+1}\) 中的向量也是线性无关的。
4. \(n\)维的空间 \(\mathbb{F}^n\) 中线性无关的向量最多有 n 个。假设 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_m\) 是 \(\mathbb{F}^n\) 中的 \(m\) 个向量， 如果 \(m > n\) 那么这些向量一定是线性相关的。

根据以上的这些性质，可以证明如下的一个定理:

在这个定理中，我们说 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) 是空间 \(\mathbb{F}^n\) 中的一组基， 或者说 \(\mathbb{F}^n\) 是由基向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) 张成的空间。 \(\lambda_1, \cdots, \lambda_n\) 则是向量 \(\boldsymbol{b}\) 在这组基下的坐标。 有一组特别的向量，其中第 \(i\) 个向量的第 \(i\) 个元素为 1，其它元素为 0，\(1 ≤ i ≤ n\)。这组向量一定是线性无关的，它们被称为自然基或者标准基。

$$ \boldsymbol{e}_1 = (1, \cdots, 0, \cdots, 0) \\ \boldsymbol{e}_i = (0, \cdots, 1, \cdots, 0) \\ \boldsymbol{e}_n = (0, \cdots, 0, \cdots, n) \\ $$

2. 最大线性无关组

对于由 \(n\) 个方程 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_n\) 构成的线性方程组 \(\boldsymbol{S} = \{ \boldsymbol{a}_i | 1 ≤ i ≤ n \}\)。 如果它是线性相关的，那么一定有某些方程是其余的方程的线性组合，我们将它们从 \(\boldsymbol{S}\) 中删除并不会改变方程组的解。如果删除部分方程之后， 剩下的方程组 \(\tilde{\boldsymbol{S}}\) 是线性无关的，并且原方程组 \(\boldsymbol{S}\) 中的所有方程都可以由\(\tilde{\boldsymbol{S}}\)线性组合得到。 那么方程组 \(\tilde{\boldsymbol{S}}\) 与 \(\boldsymbol{S}\) 等价，称 \(\tilde{\boldsymbol{S}}\) 是 \(\boldsymbol{S}\) 中的最大线性无关组。 形式化的用矩阵和向量的形式定义如下:

高斯消元法可以拿来求\(n\)维空间\(\mathbb{F}^n\)中有限个向量构成的向量组的最大线性无关组。 设有 \(m\) 个向量 \(\boldsymbol{a}_1, \cdots, \boldsymbol{a}_m\)，我们先把它们写成列向量的形式，依次按列排成矩阵 \(\boldsymbol{A}\)。 然后对矩阵 \(\boldsymbol{A}\) 极性初等行变换，将其转换成如下的阶梯形矩阵 \(\boldsymbol{B}\):

$$ \boldsymbol{B} = \begin{bmatrix} b_{1,1} & \cdots & \cdots & \cdots & \cdots & \cdots \\ & & b_{2,j_2} & \cdots & \cdots & \cdots \\ & & & \ddots & \cdots & \cdots \\ & & & & b_{r,j_r} & \cdots \\ & & & & & 0 \\ \end{bmatrix} $$

其中，\(1 < j_2 < \cdots < j_r ≤ n\)，并且 \(b_{1,1}, b_{2,j_2}, \cdots, b_{r, j_r}\) 都不为 0。\(\boldsymbol{B}\) 中第 \(1, j_2, \cdots, j_r\) 构成的列， 就是最大线性无关向量组。由于 \(\boldsymbol{B}\) 是 \(\boldsymbol{A}\) 仅通过初等行变换得到的，所以两者等价， \(\boldsymbol{a}_1, \boldsymbol{a}_{j_2} \cdots, \boldsymbol{a}_{j_r}\) 就是原向量组的一个最大线性无关组，其中向量的数量 \(r\) 实际上就是矩阵 \(A\) 的秩。 我们在函数 GaussRowEliminate 中给出了该算法的一个实现， 以 std::vector<int> 返回构成最大线性无关组的列向量索引。

3. 秩

设 \(\boldsymbol{S}_1\) 和 \(\boldsymbol{S}_2\) 是空间 \(\mathbb{F}\) 中的两个向量组。如果 \(\boldsymbol{S}_2\) 中的所有向量都可以写成 \(\boldsymbol{S}_1\) 中向量的线性组合， 那么就说 \(\boldsymbol{S}_2\) 是 \(\boldsymbol{S}_1\) 的线性组合。如果 \(\boldsymbol{S}_1\) 与 \(\boldsymbol{S}_2\) 互为线性组合， 则称 \(\boldsymbol{S}_1\) 与 \(\boldsymbol{S}_2\) 等价。线性方程组的等价关系具有传递性，即，如果 \(\boldsymbol{S}_1\) 与 \(\boldsymbol{S}_2\) 等价， 并且 \(\boldsymbol{S}_2\) 与 \(\boldsymbol{S}_3\) 等价，那么\(\boldsymbol{S}_1\) 与 \(\boldsymbol{S}_3\) 等价。

向量组 \(\boldsymbol{S}\) 与其任一最大线性无关组 \(\boldsymbol{S}_1\) 等价。\(\boldsymbol{S}\) 中的任意两个最大线性无关组 \(\boldsymbol{S}_1, \boldsymbol{S}_2\)等价。 设 \(\boldsymbol{S}_2 = \{ \boldsymbol{v}_1, \cdots, \boldsymbol{v}_s \}\) 是 向量组 \(\boldsymbol{S}_1 = \{ \boldsymbol{u}_1, \cdots, \boldsymbol{u}_t \} \) 的线性组合， 并且 \(s > t\)，那么 \(\boldsymbol{S}_2\) 线性相关。根据这些性质，我们可以得出结论：任意向量组 \(\boldsymbol{S}\) 的任一最大线性无关组所含向量个数 \(r\) 都是相同的。 我们将 \(r\) 称为向量组 \(\boldsymbol{S}\) 构成的矩阵的秩:

如果向量组秩\(r\)小于未知数的数量\(n\)，那么该向量组所构成的矩阵就不能通过初等行变换转换成单位阵。也就是说该矩阵不可逆，在后面的文章中， 我们还会看到这样的矩阵存在为零的特征值。\(n\)维空间 \(\mathbb{F}^n\)中向量组的秩最大为 \(n\)，这样的方程组或者说是矩阵就是满秩的。

4. 完