矩陣論 第二章 矩陣的分解

1. qr分解(ur分解):

這是最基礎的分解.

定理1: 設滿秩方程a∈r(n x n), 則存在正交矩陣q及正線(主對角線上元為正)上三角陣r,滿足 a = qr, 且分解唯一.

有效性代入計算即可證明. 唯一性證明思路: 設a=q1r1 = q2r2, 右乘r1的逆, 然後利用q1為正交矩陣證明r1=r2進而q1=q2.

-當a為酉空間,有相似定理,将q換成酉矩陣u.

-當a為列滿秩的高陣,也有類似定理. (行滿秩的矮陣應該也有,計算标準正交q的時候用行向量計算,相應的r也要換.)

-qr分解可用于方程ax=b求解.當a是滿秩方陣,則解唯一; 當ax=b不相容,則由rx=q^t b得到的解是最小二乘解. 證明可直接寫出最小二乘定義得到.

2. 正規矩陣及schur分解:

對任意方陣a都存在可逆矩陣p,使p^-1 a p 為一個上三角矩陣. (由歸納法證)

将p作qr分解,則可以得到schur分解: 任意方陣a存在正交矩陣q(u)使 q^t a q 為一上三角陣,且對角元為a的特征值. (相應酉空間為 u陣和u^h.  ^h即共轭轉置). (證明要點是這裡的q就是p分解中的q, q^t a q = q^t pkp^-1 q,再分解.)

正規矩陣: 設a∈c(n x n), 若a滿足 a^h a = a a^h,則稱a為正規矩陣(規範陣). 實對稱陣,實反對稱陣,hermite陣,反hermite陣,正交陣,酉陣都是正規矩陣. 正規陣是單純矩陣.

正規陣 等價于 a酉相似于一個對角陣 等價于 a有n個特征向量構成一組n維标準正交基.

推論1: a為實對稱陣 等價于 a的特征值全為實數且存在正交陣q使得q^t a q=diag{λ1,λ2,..λn} 其中λi為a的特征值.

推論2: a為正交矩陣 等價于 a的每個特征值的模為1,且存在酉陣u使得 u^h a u=diag{λ1,λ2,..λn} 其中λi為a的特征值.

求解q(u)的過程也就是求解特征值和特征向量的過程,然後标準正交化即得到. 注意特征值和特征向量的順序.

3. 滿秩分解:

設a∈c, 是mxn的矩陣,秩為r(r>0), 則存在列滿秩矩陣f(mxr)和行滿秩矩陣g(rxn)使得a=fg.滿秩分解不唯一.

求法很簡單:把a化成前r行非零,後m-r行為零的矩陣,且前r行中i行(i=1,2,..r)第一個元素為1,第一個元素之前的0元素比i-1行多,則這個矩陣前r行構成g; 然後配出f即可.

4. 奇異值分解(svd)

奇異值分解很重要.

引理: 任意a∈c, a^h a和a a^h都是半正定的厄米特(hermite)矩陣,且具有相同的非零特征值,且秩和a相同. 秩相同的證明可以用虧加秩定理,也可以用方程組同解證, 也可以寫成行列内積證. 半正定的證明可任取x∈c, 根據内積定義可證 ( x^h a^h a x = (ax)^h (ax) = (ax, ax)≥0 ).

奇異值:a^h a的n個特征值λ1,λ2,..λn 其中前r個大于零. 則a的奇異值σ1,σ2,..σr, σr+1,..σn 為σ1² = λ1, σ2² =λ2, …σr² = λr .且σi>0(i=1,2…r) 剩下的σi=0 (i=r+1,r+2,..n).

那麼存在酉矩陣v和u,使得a = v s u^h. 其中s = diag{σ1, σ2,…σn}. 記sr = diag{σ1, σ2,…σr}.

構造性證明過程要利用前面的知識. a^h a是半正定的厄米特陣,是以可以進行schur分解: u^h a^h a u=diag{λ1,λ2,..λn} = s², s中的sr可逆,剩下的都是零,是以我們把u也拆成前r個列向量組成的u1和剩下的組成的u2, 則u1^h a^h a u1 = sr². 把sr的逆分别左乘右乘,則等式右邊變成i, 左邊為: sr^-1 u1^h a^h a u1 sr^-1 . 記v1 = a u1 sr^-1, 則有v1^h v1= i. 是以v1是酉陣. 用n(a^h)的一組标準正交基把v1補全成标準正交陣v, 則有 v s u^-1=  a, 也就是a = v s u^h.

求奇異值分解跟上面證明過程一樣:

求a^h a的特征值, 并求其n個标準正交特征向量得到u, 順帶求出a的奇異值和s.

由正特征值的r個特征向量得到u1.

根據v1 = a u1 sr^-1求得v1, 将其補充成适當的标準正交陣v(可以直接補,補出來就是n(a^h)的基,不過要标準正交). 大功告成. 要記住最後 a = v s u^h.

-由svd可得極分解,即對方陣a存在半正定的厄米特陣g和酉陣u使a = gu, 當a滿秩g為正定厄米特陣.

5. 單純矩陣(可對角化矩陣)的譜分解

幂等陣即方陣a 滿足a²=a. (幂等陣與投影變換是一一對應的)

對方陣a: 設a有k個相異的特征值,則a為單純矩陣 等價于 存在k個幂等陣g1,g2,..gk使得:

gigj=0(i≠j);

Σ(i=1,k) gi = i;

a = Σ(i=1,k) λigi .

譜分解唯一. 唯一性證明:先利用λ證明gifj=0(i≠j) (要點:利用agifj = giafj),然後就能證明gi=fi了.

構造性證明:

求出a的相異特征值λ1,λ2,..λk;

求出相應的特征向量組成基向量陣 x1,x2,..xk;

令x = (x1,x2,..xk), 令 y = x^-1, 對y按照x行分塊得到(y1,y2,..yk)^t

則gi = xiyi. 

推論: 若f(λ)為任意多項式,則f(a) = f(λ1)g1 + f(λ2)g2 + … + f(λk)gk. 特别地:a^m = (Σλg)^m .