真的是隨筆捏_(￣▽￣)\(\text{*}\)，完全沒(méi)有邏輯。

前言

我們考慮一個(gè)問(wèn)題：線性代數(shù)為什么叫代數(shù)？如果你學(xué)得叫矩陣與行列式計(jì)算，那這個(gè)學(xué)科應(yīng)該叫矩陣分析。（好吧，在一些學(xué)校還真叫這個(gè)名字）

這里假設(shè)你會(huì)一點(diǎn)線代和代數(shù)。（順便推銷(xiāo)自己的代數(shù)筆記，其實(shí)里面的東西也不用全會(huì)就能看懂本文了）

線性空間（Linear space）

數(shù)學(xué)上，一個(gè)集合裝備一些性質(zhì)都可以叫空間，比如有了距離就叫度量空間或距離空間；有了范數(shù)就叫賦范空間。

線性這個(gè)概念大家也比較熟悉，考慮一個(gè)數(shù)域 \(\mathrm{F}\) 和一個(gè)集合 \(\mathrm{V}\)。

然后 \((V,+)\) 構(gòu)成一個(gè)群，且 \(1\in F\)，\(\forall v\in V,1\cdot v=v,\forall \alpha,\beta\in \mathrm{F},(\alpha\beta)v=\alpha(\beta v)\in V\)。

這樣的 \((F,V,+,\cdot)\) 就被稱為一個(gè)線性空間，\(\mathrm{V}\) 中的元素被稱為向量（\(\text{vector}\)）。考慮 \(\mathbb{R}^2\) 上的向量，上面的約束是很直觀的。

除了常見(jiàn)的 \(\mathrm{F}^n\) 以外，矩陣 \(\mathrm{F}^{n\times m}\) 和多項(xiàng)式 \(\mathrm{F}[x]=\{f(x):f(x)=\sum\limits_{i=0}^na_ix^i,a_i\in\mathrm{F},n\in\mathbb{N}\}\) 都可以構(gòu)成線性空間。

線性空間的維數(shù)

基

對(duì)于維數(shù)，我們有直觀的感受，點(diǎn)是 \(0\) 維，線是 \(1\) 維，面是 \(2\) 維……把這一的概念推廣到線性空間上其實(shí)挺自然的。從簡(jiǎn)單的 \(3\) 維直角坐標(biāo)系中，我們可以發(fā)現(xiàn)，\(1\) 個(gè)向量表示一族直線，\(2\) 個(gè)向量表示一族平面，\(3\) 個(gè)向量表示整個(gè) \(3\) 維空間。

上面的說(shuō)法幾乎是對(duì)的，但還有一些特殊情況，比如共面的向量就不能表示整個(gè)空間什么的。

此時(shí)，我們距離線性表出和基的概念就很近了。可以看到，共面的 \(3\) 個(gè)向量不能表示整個(gè)空間的原因在于其中 \(1\) 個(gè)可以被另外 \(2\) 個(gè)的線性組合表示出來(lái)。如果發(fā)生了這一的事，我們就稱這個(gè)向量被另外兩個(gè)向量線性表出（否則則稱它們線性無(wú)關(guān)）。形式化地講，

如果沒(méi)有發(fā)生這樣的事，\(3\) 個(gè)向量應(yīng)該可以線性表出這個(gè)立體空間中的所有向量，這樣的一組向量被稱為該空間的一組基（\(\text{base}\)）。具體一點(diǎn)

還有一種反過(guò)來(lái)考慮的方法叫張成，也就是考慮一組向量可以表示的空間，有個(gè)符號(hào) \(\text{span}(v_1,v_2\ldots v_n)\)。

然后為了避免基里面有一些不重要的向量，也就是那些可以被別的線性表出的，之后默認(rèn)基中的向量都是線性無(wú)關(guān)的，這樣的一組向量被稱為極大無(wú)關(guān)組。

現(xiàn)在，我們可以放心地約定維數(shù)等于極大無(wú)關(guān)組的大小，維數(shù)記為 \(\dim V\)。

商空間（Quotient space）

之前提到了，\(2\) 個(gè)線性無(wú)關(guān)的向量在 \(3\) 維空間中表示的是一組平面（因?yàn)榭梢云揭疲@樣的東西讓我們想到商群。又發(fā)現(xiàn)平面是沿著一條線在動(dòng)，直線是在一個(gè)面上動(dòng)。

于是，幾乎直覺(jué)地，有 \(\sim_U:a\sim b\Leftrightarrow a+U=b+U\)，把 \(V/\sim_U\) 簡(jiǎn)寫(xiě)為 \(V/U\)，然后就可以感覺(jué)到 \(\dim V=\dim V/U+\dim U\)。

雖然本文幾乎不想寫(xiě)證明，但這個(gè)命題可以證一下，作為常用技術(shù)的展示。

考慮 \(V/U\) 的一組基 \(v_1+U,v_2+U\ldots v_n+U\)，\(U\) 的一組基 \(u_1,u_2\ldots u_m\)。按照定義 \(\forall v\in V,\exists k_i\in\mathrm{F},v+U=\sum\limits_{i=1}^nk_i(v_i+U)=(\sum\limits_{i=1}^nk_iv_i)+U\)。

這時(shí)一個(gè)常見(jiàn)的 \(\text{trick}\) 是作差，考慮到 \(\big(v-(\sum\limits_{i=1}^nk_iv_i)\big)+U=0+U\)，有 \(\big(v-(\sum\limits_{i=1}^nk_iv_i)\big)\in U\)，于是 \(\exists l_i\in\mathrm{F},\big(v-(\sum\limits_{i=1}^nk_iv_i)\big)=\sum\limits_{i=1}^ml_iu_i\)，再移項(xiàng)就可以知道 \(\text{span}(v_1,v_2\ldots v_n,u_1,u_2\ldots u_m)=V\)。于是 \(\dim V=n+m=\dim V/U+\dim U\)。

線性變換

仿照代數(shù)中我們做的，考慮完整體的結(jié)構(gòu)，現(xiàn)在差不多該考慮一個(gè)類型群作用的東西了。這個(gè)呢就是線性變換，網(wǎng)上講的很多了，像線性變換可以自然推導(dǎo)出矩陣乘法之類的。

考慮 \(\varphi_A(x):\mathrm{F}^m\mapsto\mathrm{F}^n,\varphi_A(x)=Ax\)，這樣就是一個(gè)線性映射。

考慮 \(\ker\varphi_A\)，簡(jiǎn)寫(xiě)為 \(\ker A\)（這里是因?yàn)?\(\LaTeX\) 內(nèi)置的是小寫(xiě)，其實(shí) \(\text{k}\) 大小寫(xiě)都可以），其實(shí)就是方程 \(Ax=0\) 的根，在一般的線代教材中被稱為矩陣的零空間，有的地方記為 \(N(A)\) 或者 \(\text{null}(A)\)。

然后是 \(\text{im} A\)（為了和上文一致，這里也小寫(xiě)）。這個(gè)就是 \(Ax\) 可以表示的向量構(gòu)成的空間，有的地方寫(xiě)成 \(\text{range}(A)\)。

我們熟知 \(|G|=|\ker\varphi||\text{im}\varphi|\)，在線代中，\(\text{rank}\) 或 \(\dim\) 才真正地刻畫(huà)了空間的大小，于是我們有一種直覺(jué) \(m=\dim\ker A+\dim\text{im} A\)。

這個(gè)結(jié)論其實(shí)很直觀，就是說(shuō)線性方程組解的維度加上有效方程的個(gè)數(shù)等于總方程的個(gè)數(shù)。

之后我們還會(huì)想看看在一個(gè)線性變換 \(A\) 下的不動(dòng)點(diǎn)，但這樣比較 \(\text{trivial}\)，于是我們可以考慮更弱一點(diǎn)的約束：\(A:V\mapsto W\)，\(T\subset V,A(T)\subset T\)，這樣的 \(T\) 被稱為 \(A-\)不變子空間。（這個(gè)東西要有用得等一段時(shí)間了）

行空間與列空間

我們一般會(huì)看到可以把矩陣按照行或者列分成一組向量，這樣得到的向量的張成可以構(gòu)成行空間和列空間。

列空間有專門(mén)的名字 \(\text{col}(A)\)，行空間則可以用 \(\text{col}(A^T)\) 表示。

dim 的性質(zhì)

定義空間的和 \(V_1+V_2=\{v_1+v_2:v_1\in V_1,v_2\in V_2\}\)。

那么 \(\dim(V_1+V_2)=\dim V_1+\dim V_2-\dim V_1\cap V_2\)。這個(gè)看上去也很自然，證明考慮一組基就可以了。

如果 \(V_1\cap V_2=\varnothing\)，那么定義直和 \(V_1\oplus V_2=V_1+V_2\)。（和笛卡爾積比較類似，但是注意在線代中我們直接相加而不是并列放置）

還有一個(gè)比較顯然的事是 \(\dim\text{im}A=\text{r}(A)\)。

現(xiàn)在我們研究一下線性變換的復(fù)合的性質(zhì)。

\(\ker(A+B)\) 性質(zhì)不明顯，只能說(shuō) \(\ker A\cap\ker B\subset\ker(A+B)\)。

\(\ker AB\) 的性質(zhì)好一些，其表示 \(ABx=0\) 的解空間，只需要 \(Bx\) 在 \(\ker A\) 中就可以了，于是 \(\ker AB=\ker A\cap\text{im}B\)。

在這里提及轉(zhuǎn)置是合理的，考慮 \(\ker(A^T)\)，如果整體轉(zhuǎn)置，可以發(fā)現(xiàn)其等價(jià)于 \(xA=0\) 的解空間。所以我們只需要考慮 \(x\) 在右的情形。

\(\text{im}(A+B)\) 不是很好表示，應(yīng)該是 \(\text{im}A\) 和 \(\text{im}B\) 中對(duì)應(yīng)元素之和。

考慮 \(\text{im}AB\)，運(yùn)用結(jié)合律可以考慮 \(A(Bx)\)，\(Bx\) 顯然可以取到 \(\text{im}B\)，于是相當(dāng)于考慮 \(A:\text{im}B\mapsto\text{im}A\)。運(yùn)用在“線性變換”中提到的等式，得到 \(\dim\text{im}B=\dim\text{im}AB+\dim\ker AB\)。

Thm

最早是看到相關(guān)的證明覺(jué)得很有趣所以去學(xué)了這個(gè)技術(shù)。

1

\(\text{r}(ABC)\ge\text{r}(AB)+\text{r}(BC)-\text{r}(B)\)

首先看更簡(jiǎn)單的情形：\(\text{r}(AB)\ge\text{r}(A)+\text{r}(B)-\text{r}(E)\)。

考慮

再考慮

就得到了結(jié)論。

2

\(\text{r}(A^TA)=\text{r}(A)\)

有

只需要證明 \(\dim\ker A^TA=0\)，也就是 \(\ker A^T\cap\text{im}A=\{0\}\)。（注意是只有一個(gè)零向量而不是為空）

這里有一個(gè)常見(jiàn)的 \(\text{trick}\)，考慮 \(x\in\ker A^TA\)，取 \(x^Tx\)，注意到 \(x\in\ker A^T\wedge x\in\text{im}A\)，于是 \(\exists y,x=Ay\)，那么 \(x^T=y^TA^T\)，于是 \(x^Tx=y^TA^Tx=y^T0=0\)。從而 \(\| x\|_2=0\)，\(x=0\)。于是得證。