線性代數學習筆記(十三)
正定矩陣的判定;幾何意義
根據Strang的意思,正定矩陣将以下四者聯系在一起,完成了大一統。
- 主元pivots,
- 行列式determinants,
- 特征值eigenvalues,
- 不穩定性instability
正定矩陣(Positive Definite Matrices)
兩個條件構成正定矩陣:
- 對稱矩陣
- 特征值都大于0
PS. 對稱矩陣+特征值都小于0=負定矩陣,對稱矩陣+特征值大于等于0=半正定矩陣,對稱矩陣+特征值小于等于0=半負定矩陣
判斷 對稱矩陣 是不是 正定矩陣 ?
判斷特征值是否都大于0這個方法計算量大,應該極力避免。可以從四個方向判斷(隻需矩陣對稱+滿足以下條件之一,就可推出矩陣是正定的),以2x2矩陣[a b; c d]為例:
- 特征值:所有特征值都大于0(複習:對稱矩陣特征值都是實數)
- 行列式:a>0 且 ac-b2>0 (沿着主對角線向下,各級行列式都大于0)
- 主元::a>0 且 ( ac-b2 )/a > 0
- 穩定性:xTAx>0(x是任意非零向量)待解釋
- least square:A能化為RTR,且R的列向量互相獨立(R可以是瘦瘦高高的長方形矩陣)待解釋
解釋1:大多數教材将xTAx>0作為A是正定矩陣的定義。
解釋2:第五點是書上特有的:在R列向量獨立時,RTR正定。證明很簡單,xTRTRx=(Rx)T(Rx)=||Rx||2,由于R列向量獨立,是以||Rx||必大于0,問題化為4。
解釋3:Strang似乎沒說怎麼講上述5點連接配接起來,這裡我總結以下:
- 5轉為4:見解釋2
- 4轉為1:x若是A的特征向量,則xTAx=xTλx=λ*||x||2,由于xTAx>0(這是4的定義),故λ>0;x若是任意向量,可按特征向量拆分,xTAx=(x1+x2+...)TA(x1+x2+...)=(x1+x2+...)T(λ1x1+λ2x2+...)=λ1*||x1||2+λ2*||x2||2+...>0(正交性消去了類似x1\'x2這樣的項)
- 1與2見上節筆記
- 2與3:行列式=主元乘積,因為沿着對角線向下的行列式都大于0,是以沿着主對角線向下的所有主元都大于0
xTAx
這個式子太常見,是以有必要額外說明一下。
xTAx是一個标量數字,在很多系統中表達“能量”的概念。如果将式子寫成x=[x1, x2, ...]各個分量的表達式,最終将成為一個二次型(每項的變量次數和都是2)。
三維空間中将x1與x2當做平面坐标,再将xTAx的值表達為第三維值,那麼可以做出立體曲面來。
幾何意義
首先來個直覺的感受,摘自網上:
- 正定二次型的一個典型例子,隐形眼鏡,其零點是唯一的。
- 半正定的二次型的一個典型例子是鴨舌帽的帽舌,其零點是一條線。
- 不定型的典型例子,工作中的護翼型衛生巾。護翼部分在零下,其他部分在零上。
A是2x2的情況下,令xTAx=1(1:隻要是常數就行,比如2,3都行),就是截立體曲面和平面的交線。
- 若A是正定的,那麼交線是橢圓
- A是半正定的,那麼交線是兩條互相平行的直線
- A是不定型的,那麼交線是雙曲線
A是3x3的情況下,若A是正定的,那麼“交面”是一個橄榄球(已經沒辦法想象A形成的曲面是什麼樣了,但是能推出其“交面”);A是4x4的情況下……就沒法想象了。
再回到2x2的情況下,A的特征向量就是橢圓的主軸!(待補充)
