特征值、特征根、秩、計算行列式、線性相關性、矩陣的相似、你可以想到有幾種方法證明一個矩陣滿秩、奇異值分解、線性相關與線性無關、什麼叫矩陣的迹、正定是什麼意思、什麼是線性方程組有解/無解/有唯一解的條件、正交矩陣、MATLAB解線性方程組的原理、矩陣的微分、矩陣的幂運算、矩陣的導數
一. 行列式,秩,迹 ,正定矩陣
1、行列式
将矩陣映射為一個标量,矩陣每列代表一個邊(平面),行列式表示多元空間各平面圍成的體積。
2、秩
線性無關列的極大數目。本質:空間次元。
矩陣的秩就是矩陣中不等于0的子式的最高階數。
行階梯型矩陣的秩等于其非零行的行數。
(1)與向量組的關系:
矩陣的秩等于它列向量組的秩,也等于它行向量組的秩。
向量組的秩定義為向量組的極大線性無關組所含向量的個數。
(2)與向量空間的關系(幾何意義):
任何矩陣的行空間的維數等于矩陣的列空間的維數等于矩陣的秩。
(3)與線性方程組解的關系:
設A是m×n矩陣,若R(A)=r<n,則齊次線性方程組Ax=0有基礎解系,且每個基礎解系都含n-r個解向量。
(4)與線性變換的關系:
所謂一個線性變換的秩,無非就是變換後,還能保持非零體積的幾何形狀的最大次元。
3、迹
矩陣主對角線。
4、正定矩陣
特征值都大于0的矩陣
5、半正定矩陣
特征值大于等于0的矩陣
二、線性相關與線性無關
1、向量組的線性組合

image.png
2、向量組的線性相關性

image.png
3、線性相關、無關與線性表示的關系

image.png
4、線性相關的幾何意義

image.png
三、 向量範數,矩陣範數
1、向量範數

向量範數1.png

向量範數2.png
2、矩陣範數

矩陣範數
四、行空間,列空間,它們關系?

image.png
五、 線性方程組有解/無解/唯一解的條件?
1、無解:系數矩陣秩 < 增廣矩陣的秩
2、唯一解:系數矩陣秩 = 增廣矩陣的秩 = 列數 n
3、無窮解:系數矩陣秩 = 增廣矩陣的秩 < 列數 n
六、線性方程組解的結構
1、齊次線性方程組解的結構

image.png
2、非齊次線性方程組

image.png
3、一些結論
(1)若(A|b)經初等行變換,變換為(B|d),則線性方程組Ax=b與Bx=d同解
(2)Ax=0有非零解⟺ R(A)<n,n為未知量的個數⟺ A的列向量組線性相關
(3)Ax=b有解⟺ R(A)=R(A˜). ⟺ b可由A的列向量組線性表示
(4)若R(A)=R(A˜)=r,則當r=n時,Ax=b有唯一解;當r<n時,Ax=b有無窮多個解
七、标準正交基,施密特變換
1、标準正交基
兩量正交的向量,且長度為機關1
2、正交矩陣
矩陣的轉置和矩陣的乘積=機關陣,那麼這個矩陣就是正交矩陣,他的列向量組一定是标準正交向量組
3、施密特變換
求标準正交基的方法。把一個線性無關向量組改造成一個與其等價的正交向量組。

image.png
八、二次型與标準型
1、二次型定義

image.png
2、标準型定義
僅含平方項的二次型稱為标準形式的二次型,簡稱标準型。

image.png
3、二次型的矩陣表示

image.png
4、二次型的秩
矩陣A的秩稱為二次型f(x)的秩,二次型的矩陣一定是對稱矩陣。
5、合同矩陣

image.png
6、化二次型為标準型
(1)正交變換法(最常用)
性質:正交變換保持向量的内積、範數、夾角不變。

image.png

image.png
(2)配方法

image.png
(3)初等變換法

image.png
九、相似矩陣
1、正常相似矩陣

image.png
2、實對稱矩陣的相似矩陣

image.png
十、 Jordan标準型

image.png
十一、Pseudo Inverse僞逆矩陣

僞逆.jpg
十二、Normal Equation正規方程
1、介紹
一種優化方法,求導數的一種方法。【X * θ = Y 推導(左乘轉置矩陣變成方陣之後求逆)】

image.png

image.png

image.png

image.png
2、梯度下降與正規方程的對比

image.png

image.png
3、矩陣不可逆時,如何求解θ矩陣
不可逆時有以下兩種情況:

image.png
針對1:因為線性相關的向量(有一個是多餘的),隻需删除一個就好;
針對2:因為太多特征導緻,是以需要删除一些特征,或者使用正則化的方法(regularization)
十三、SVD 奇異值分解
如何一個矩陣為方陣,我們可通過它的特征值和特征向量來表示這個矩陣:

image.png
SVD也是對矩陣進行分解,但是和特征分解不同,SVD并不要求要分解的矩陣為方陣。假設我們的矩陣A是一個m×n的矩陣,那麼我們定義矩陣A的SVD為:

image.png
舉個例子:對物體進行受力分析,各個方向上力合成最後的力。特征值分解就好比是對最終的力分解成各個方向上的力,特征向量表示力的方向,特征值表示各方向力的大小。
特征值分解針對方針,SVD可以對非方陣進行分解。
十四、參考