線性代數（筆記七） MIT公開課（來源網易雲課堂）
關于線性代數的筆記
線性代數（筆記七）
課程來源：網易雲課堂學習計劃（課程連結）
作者簡述：作者為一名正在讀研的學生，自己的數學狀态較差。大學期間所學均能算跟得上，而且通過自己的努力經過了研究所學生考試。但是對數學的了解并不透徹，隻是根據課上所學去做題而已。如今科研中，許多過程均需要用到所學的數學知識，然而一個好的了解和一個紮實的基礎才是科研之本。數學雖然是作為一種工具，如果不了解含義，無論是是使用上還是在其基礎之上進行修改均顯得支支吾吾。于是決定重新學習線性代數相關知識，并做此筆記以供複習或和他人分享。
用途：此系列文章均是作者在課上所學及其自己相關的數學思想所做的筆記，如有了解錯誤之處還望大家指出。本系列文章均可不咨詢情況下任意轉載和學習（不可商用）。
作者研究方向為機器學習，如果有相同方向的小夥伴想一起學習，請加QQ123854340（備注來源部落格），如果人數較多還可能建群。同時發現文章中有錯誤之處也請發郵件到[email protected]。
在上節課中，我們介紹了向量空間、列空間、零空間。并列舉了一些子空間。這節課，我們将進行對方程組（AX = 0）進行求解。
一、AX = 0的求解
對于AX = 0的求解過程，我們通過例子一一展示。下面設A矩陣為：
接下來我們對A矩陣進行消元：
在上圖中第三個矩陣，我們可以稱之為U（echelon form 階梯式）。此時，根據課中教授定義。矩陣的rank（我們稱之為秩）為消元中主元的個數（用r表示）。相對于非主元我們稱之為free variables（自由變元）的個數為n-r（n為變量的個數）。
自由變元的取值可以為随意值，當我們為其設定後，我們便可以求出對應的特解。例如為了計算友善我們将分别設為（1，0）和（0，1）。那麼就可以求出如下兩個特解。
那麼問題就是，求出兩個特解後并不能代表AX = 0的所有的解的空間。那麼AX = 0的解是什麼呢？ 不難想到的是，其解空間應該可以用兩個特解的所有線性組合去表示。
二、行最簡形式
上邊我們已經求得AX = 0的所有的解，然而我們還可以對U做如下變換。
我們将上圖中的第三個矩陣設為R（行最簡形式的矩陣）。在R中我們可以看到主元都為1且其上下都為0，這便是行最簡形式的特征。那麼，到現在我們會發現，我們已經把最初的AX = 0通過消元化簡為RX = 0。即：
此時，我們進行如下表示的設定：
那麼矩陣R可以表示為：
在圖中的I、F的列有可能是相間交錯的，就像我們上面求出的矩陣一樣：
則N（零空間，AX = 0的解空間）為（這裡的F和I也可能是交錯的，且解的交錯順序和R矩陣中交錯的順序一緻）：
由上叙可知，如果我們對一個方程組的系數矩陣A進行消元化簡，最後得到其行最簡形式R，那麼我們可以直接求出其解空間。顯然這在我們日常計算中是十分友善的。那麼為什麼N就是其解呢？原因如下（RX = 0可以表示如下）：
從圖中，我們可以看到pivotx = –F freex。當我們将自由變元設定為機關矩陣時，那麼主元對應為-F，則解就可以迎刃而解。