线性代数一定要学

可能是线性代数入门（存疑）教程

Vector#

给定交换群 $(V, \oplus)$ 和域 $(K, +, \times)$ ，满足：

$k\times(u \oplus v) = (k\cdot u) \oplus (k\cdot v)$
$(a + b) \oplus u = (a\cdot u) \oplus (b \cdot u)$
$a\cdot(b\cdot u) = (a\times b) \cdot u$

则称 $V$ 为定义在域 $K$ 上的向量空间

Subspace#

definition#

$U \subseteq V$ ，且 $0 \in U$ ，并且构成向量空间，那么这是一个向量子空间。

$(U, K)$ 构成子空间当且仅当线性性质成立：

$\forall k\in K, u \in U, ku \in U$
$\forall u, v \in U, u + v \in U$

构成向量空间其他条件一定满足，因为 $V$ 是向量空间。

Span#

$S \subseteq V$ 生成的向量子空间为：

\text{span}(S) = \{ k_1u_1 + k_2u_2 + \cdots + k_nu_n \mid n \geq 0, k_i \in K, u_i \in S \}

$S$ 为 $\text{span}(S)$ 的一个生成组。

Linearly Dependent & Linearly Independent#

考虑一组向量 $u_1, u_2, \cdots u_n$ ，他们线性无关如果： $\sum\limits_{i=1}^n k_iu_i = 0$ 当且仅当 $k_1 = k_2 = \cdots = k_n = 0$ 。如果不满足，则称他们线性相关。如果一组向量线性相关，那么对于其中任意一个向量 $v \in \{ u_1, u_2, \cdots, u_n \}$ 满足：存在 $k_1, k_2, \cdots, k_n \in K$ 满足 $v = \sum\limits_{i=1}^n k_iu_i$ 。

Steinitz Exchange Lemma#

设 $V$ 是一个向量空间， $U$ 是 $V$ 的一个线性无关组， $W$ 是 $V$ 的一个生成组。

则：

$|U| \leq |W|$
存在 $W' \subseteq W$ ，使得 $|W'| = |W| - |U|$ ，且 $U \cup W'$ 是 $V$ 的一个生成组

{% folding open color Proof %}

不妨设 $U = \{u_1, u_2, \cdots, u_m\}$ ， $W = \{w_1, w_2, \cdots, w_n\}$ 。

我们对 $m$ 使用数学归纳法，证明：对任意满足 $m \le n$ 的线性无关组 $U$ ，第二条结论成立。

当 $m = 1$ 时，设 $U = \{u\}$ 。

由于 $W$ 是 $V$ 的生成组，有：

u = \sum_{i=1}^{n} \alpha_i w_i

其中 $\alpha_i$ 不全为 $0$ ，否则 $u = \mathbf{0}$ ，与 $U$ 线性无关矛盾。不妨设 $\alpha_1 \neq 0$ ，则：

w_1 = u - \sum_{i=2}^{n} \frac{\alpha_i}{\alpha_1} w_i

对 $V$ 中任意向量 $x$ ，有：

\begin{aligned} x &= \sum_{i=1}^{n} \mu_i w_i \\ &= \mu_1 u + \sum_{i=2}^{n} \left(\mu_i - \mu_1 \frac{\alpha_i}{\alpha_1}\right) w_i \end{aligned}

因此 $\{u, w_2, w_3, \cdots, w_n\}$ 是 $V$ 的生成组。

当 $1 < m \le n$ 时，设结论对 $m-1$ 成立。令 $U' = \{u_1, u_2, \cdots, u_{m-1}\}$ 。

由归纳假设，存在

W' = \{w_m, w_{m+1}, \cdots, w_n\}

使得 $U' \cup W'$ 为 $V$ 的生成组，于是：

u_m = \sum_{i=1}^{m-1} \alpha_i u_i + \sum_{i=m}^{n} \alpha_i w_i

若对所有 $i=m,\dots,n$ 都有 $\alpha_i = 0$ ，则 $U$ 线性相关，矛盾。
因此至少存在一个 $k \in \{m,\dots,n\}$ 使得 $\alpha_k \neq 0$ ，不妨设 $\alpha_m \neq 0$ 。

于是：

w_m = u_m - \sum_{i=1}^{m-1} \frac{\alpha_i}{\alpha_m} u_i - \sum_{i=m+1}^{n} \frac{\alpha_i}{\alpha_m} w_i

对任意 $x \in V$ ，有：

\begin{aligned} x &= \sum_{i=1}^{m-1} \mu_i u_i + \sum_{i=m}^{n} \mu_i w_i \\ &= \sum_{i=1}^{m-1} \left(\mu_i - \mu_m \frac{\alpha_i}{\alpha_m}\right) u_i + \mu_m u_m + \sum_{i=m+1}^{n} \left(\mu_i - \mu_m \frac{\alpha_i}{\alpha_m}\right) w_i \end{aligned}

因此：

\{u_1, u_2, \cdots, u_m, w_{m+1}, \cdots, w_n\}

是 $V$ 的生成组。取

W' = \{w_{m+1}, \cdots, w_n\}

即得结论。

接下来证明 $|U| \le |W|$ 。

若 $m > n$ ，考虑无关组 $\{u_1, \cdots, u_n\}$ 。

由上面已经证明的第二条性质，它可以替换进生成组 $W$ ，从而成为 $V$ 的生成组。

于是 $u_{n+1}$ 可由 $\{u_1, \cdots, u_n\}$ 线性表示，这与 $U$ 线性无关矛盾。

因此 $m \le n$ ，即 $|U| \le |W|$ 。

{% endfolding %}

Basis#

考虑一个向量空间 $V$ ，考虑一个向量组 $B = \{ u_1, u_2, \cdots, u_n \}$ 。这个向量组是 $V$ 的基，当且仅当：

$\{ u_1, u_2, \cdots, u_n \}$ 线性无关
$\text{span}( u_1, u_2, \cdots u_n) = V$

若 $B$ 为有限集，则向量空间 $V$ 的任意一组基的大小都相等，容易使用 Steinitz 交换引理证明。

properties#

任意线性无关组都可以扩充为一组基
任意生成组都可以缩减为一组基

读者自证不难

Dimension#

设 $V$ 是一个向量空间。若 $V$ 存在有限基 $B$ ，则称 $V$ 为有限维向量空间，任一基的元素个数称为 $V$ 的维数，记作 $\dim V$

properties#

设 $V$ 是有限维向量空间， $\dim V = n$ ，则：

任意 $n$ 个线性无关向量构成一组基
任意 $n$ 个生成 $V$ 的向量构成一组基
任意多于 $n$ 个向量线性相关
任意少于 $n$ 个向量不能生成 $V$

读者自证不难

Dimension theorem#

对于有限维向量空间 $U$ 和 $V$ ，有：

\dim U + V = \dim U + \dim V - \dim U \cap V

{% folding open color direct sum %}

考虑向量空间 $W$ 的两个子空间 $U, V$ ，定义 $U$ 和 $V$ 的直和为：

U + V = \{u + v \mid u \in U, v \in V \}

{% endfolding %}

{% folding open color proof %}

由于 $U$ 和 $V$ 是有限维向量空间， $W = U + V$ 作为 $U$ 的子空间，也是有限维向量空间。设 $\dim U = n, \dim V = m, \dim U \cap V = k$ 。

我们可以分别找到 $U$ , $V$ , $W$ 的一组基。

\begin{aligned} &\{u_1, u_2, \cdots, u_n\}\\ &\{v_1, v_2, \cdots, v_m\}\\ &\{w_1, w_2, \cdots, w_k\} \end{aligned}

我们可以使用替换定理得出 $U$ 和 $V$ 的另一组基：

\begin{aligned} \{w_1, w_2, \cdots, w_k, u_{k + 1}, u_{k+2}, \cdots, u_n\}\\ \{w_1, w_2, \cdots, w_k, v_{k + 1}, v_{k+2}, \cdots, v_n\} \end{aligned}

下面证明 $\{u_{k+1}, u_{k+2}, \cdots, u_{n}, v_{k+1}, v_{k+2}, \cdots, v_{m}, w_1, w_2, \cdots, w_k\}$ 是向量空间 $U + V$ 的一组基。即证明向量组线性无关，且向量组可以生成 $U + V$ 。

$\{w_1, w_2, \cdots, w_k, u_{k + 1}, u_{k+2}, \cdots, u_n\}$ 作为一组基是线性无关的。而对于 $j = k+1, k+2, \cdots, m$ ， $v_j$ 不能被 $\{w_1, w_2, \cdots, w_k, u_{k + 1}, u_{k+2}, \cdots, u_n\}$ 线性表示，否则 $v_j \in U$ ，进而 $v_j \in W$ ，此时 $\{w_1, w_2, \cdots, w_k, v_j\}$ 线性相关。

对于任意 $x \in U + V$ ，假设 $x = u + v$ ，其中 $u\in U$ ， $v\in V$ ，那么：

\begin{aligned} x &= u + v \\ &= (\sum_{i=1}^k \lambda_i w_i + \sum_{i=k+1}^m \lambda_i u_i) + (\sum_{i=1}^k \mu_i w_i + \sum_{i=k+1}^m \mu_i v_i)\\ &= \sum_{i=1}^k (\lambda_i + \mu_i) w_i + \sum_{i=k+1}^m \lambda_i u_i + \sum_{i=k+1}^m \mu_i v_i \end{aligned}

因此该向量组可以生成 $U + V$ 。于是：

\dim U+V = k + (n - k) + (m - k) = \dim U + \dim V - \dim U \cap V

{% endfolding %}

Map#

映射是从一个集合到另一个集合的对应关系：

f: A \to B

$f$ 是一个映射，如果对于 $A$ 中的任意一个元素 $a$ ， $B$ 中都存在唯一一个元素 $b$ 使得 $a$ 与 $b$ 对应。

我们称 $A$ 是定义域（domain）， $B$ 是到达域/陪域（codomain）， $a$ 是原像（inverse image）， $b$ 是像（image）。

Linear Map#

如果 $V$ 和 $W$ 均为定义在 $K$ 上的向量空间，映射 $\sigma: V \to W$ 称为线性映射如果：

$\sigma(u + v) = \sigma(u) + \sigma(v)$
$\lambda \sigma(u) = \sigma(\lambda u), \lambda \in K$

property#

对于 $V$ 的任意一个子空间 $S$ ， $S$ 的像是 $W$ 的一个子空间
对于 $W$ 的任意一个子空间 $S$ ， $S$ 的原像是 $V$ 的一个子空间

读者自证不难。

Image#

定义线性映射 $\sigma:V\to W$ 的像为：

\text{Im}(\sigma) = \{\sigma(u) \mid u \in V \}

property#

$\sigma$ 是满射当且仅当 $\text{Im}(\sigma) = W$ ，比较显然。

Kernel#

定义线性映射 $\sigma:V\to W$ 的核为：

\text{Ker}(\sigma) = \{u \mid \sigma(u) = \mathbf{0} \}

property#

$\sigma$ 是单射当且仅当 $\text{Ker}(\sigma) = \{ \mathbf{0} \}$

{% folding open color Proof %}

$\sigma(u) = \sigma(v)$ ，则 $\sigma(u) - \sigma(v) = \sigma(u - v) = \mathbf{0}$ 。根据 $\text{Ker}(\sigma) = \{ \mathbf{0} \}$ 有 $u = v$ 。

{% endfolding %}

$\text{Ker}(\sigma)$ 是 $V$ 的一个子空间

{% folding open color Proof %}

对于任意 $u \in \text{Ker}(\sigma), v \in \text{Ker}(\sigma), k \in K$ 有：

\begin{aligned} &\sigma(u + v) = \sigma(u) + \sigma(v) = \mathbf{0}& \Rightarrow& \quad u + v \in \text{Ker}(\sigma)\\ &\sigma(ku) = k\cdot \sigma(u) = \mathbf{0}& \Rightarrow& \quad ku \in \text{Ker}(\sigma) \end{aligned}

{% endfolding %}

Rank–nullity theorem#

考虑线性映射： $\sigma : V \to W$ ，其中 $V$ 为有限维向量空间，则：

\dim V = \dim \text{Ker}(\sigma) + \dim \text{Im}(\sigma)

{% folding open color Proof %}

考虑 $\text{Ker}(\sigma)$ 的一组基：

\{ u_1, u_2, \cdots, u_m\}

由于 $\text{Ker}(\sigma)$ 是 $V$ 的一个子空间，我们可以扩充得到 $V$ 的基：

\{ u_1, u_2, \cdots, u_n\}(m \leq n)

考虑 $H = \text{span} \{ \sigma(u_{m + 1}), \sigma(u_{m + 2}), \cdots, \sigma(u_n) \}$ ，证明它是 $\text{Im}(\sigma)$ 的一组基。

$H$ 可以生成 $\text{Im}(\sigma)$ ，因为对于任意 $u \in V$ ，设

u = \sum_{i=1}^n \mu_i u_i

有：

\begin{aligned} \sigma (u) &= \sum_{i=1}^n \mu_i \sigma(u_i)\\ &= \sum_{i=1}^m \mu_i \mathbf{0} + \sum_{i=m+1}^n \mu_i \sigma(u_i)\\ &= \sum_{i=m+1}^n \mu_i \sigma(u_i) \end{aligned}

于是：

\begin{aligned} \dim V &= n\\ &= m + (n - m)\\ &= \dim \text{Ker}(\sigma) + \dim \text{Im}(\sigma) \end{aligned}

{% endfolding %}

L1ngg's Home

Vector#

Subspace#

definition#

Span#

Linearly Dependent & Linearly Independent#

Steinitz Exchange Lemma#

Basis#

properties#

Dimension#

properties#

Dimension theorem#

Map#

Linear Map#

property#

Image#

property#

Kernel#

property#

Rank–nullity theorem#