线性代数复习

这里简明扼要地复习一下线性代数的一些理论，主要是线性空间的部分。

方便起见，我们不加粗体，读者自行辨认。

注：有些维数是指向量的元素个数，有些维数则是指线性无关的向量个数，也需读者自行判断。

记一个 n 维的线性空间是 \(P^n\)，我们考虑矩阵 \(A\)，其形状是 \(m*n\)，将之看做列向量的分块：

\[ A = \begin{bmatrix} a_1 & a_2 & \cdots & a_n \end{bmatrix} \]

那么，\(A\) 的秩是 \(r\)，则由 \(A\) 的列向量构成的子空间是在 \(P^m\) 上的，记作 \(V = C(A)\)，其维数是 \(r\)，实际上就是所有 \(Ax\) 的集合。

\(A\) 的零空间在 \(P^n\) 上，记作 \(W = N(A)\)，其维数是 \(n-r\)，是方程 \(Ax=0\) 的解 \(x\) 的集合。

两向量内积为 \(0\)，称为正交。那么很显然，由零空间的定义，我们就知道，矩阵 \(A\) 的行向量 \(R(A)\) 和 \(A\) 的零空间 \(N(A)\) 中的任一向量是正交的（在 \(P^n\) 上）。由 \(A\) 的行向量构成的子空间与 \(A\) 的零空间正交。当然，换句话说，与 \(R(A)\) 正交的空间是 \(A\) 的列向量的零空间 \(N(A)\)。

由方程 \(A^Tx=0\)，可以得到矩阵 \(A\) 的列向量构成的子空间 \(C(A)\)与 \(A^T\) 的零空间 \(N(A^T)\) 正交（在 \(P^m\) 上）。\(N(A^T)\) 又叫左零空间。

容易证明子空间和零空间的交集为 \(\{0\}\)，并集是整个线性空间 \(P^m\)。考虑列向量的例子，行向量同理。若存在一个向量 \(v\) 同属于两个空间，则\(|v|^2 = \langle v, v \rangle = 0\)。而子空间\(C(A)\)是 \(r\) 维的，左零空间\(N(A^T)\)是 \(m-r\) 维的，由于相互正交，取子空间的 \(r\) 个基向量和零空间的 \(m-r\) 个基向量，这 \(m\) 个向量是线性无关的，于是它们构成了 \(P^m\) 空间的一组基。

由这个结论还可以得到推论：任意一个 \(P^m\) 中的向量可以唯一地分解成子空间中的元素与左零空间的元素之和。存在解显然，唯一解利用反证法易得。

另外，我们知道对于矩阵还有行秩等于列秩的结论，但是行空间与列空间往往不是同一个子空间（只有 \(n\) 维空间是唯一的）。列空间是通过自己的零空间才与行空间正交。读者可以尝试如下例子：

\[ \begin{bmatrix} 1 & 2 & 4 \\ 2 & 4 & 8 \\ 3 & 6 & 12 \end{bmatrix} \]

写出其行空间，列空间，零空间和左零空间来看看关系。

上面所讲的内容，其实就是线性代数基本定理。我们这里总结一下，结束这一部分。

线性代数基本定理：

• 行空间和零空间是正交的。

• 列空间和左零空间是正交的。

• 矩阵的秩（列空间维数）加上左零空间的维度等于列数：

\[ \text{dim}C(A) + \text{dim}N(A^T) = n \]

• 矩阵的秩（行空间维数）加上零空间的维度等于行数：

\[ \text{dim}R(A) + \text{dim}N(A) = n \]

• 任意一个 \(P^m\) 中的向量可以唯一地分解成子空间中的元素与左零空间的元素之和。\(P^n\) 类似，不赘述。