矩阵论 第二章 矩阵的分解

1. qr分解(ur分解):

这是最基础的分解.

定理1: 设满秩方程a∈r(n x n), 则存在正交矩阵q及正线(主对角线上元为正)上三角阵r,满足 a = qr, 且分解唯一.

有效性代入计算即可证明. 唯一性证明思路: 设a=q1r1 = q2r2, 右乘r1的逆, 然后利用q1为正交矩阵证明r1=r2从而q1=q2.

-当a为酉空间,有相似定理,将q换成酉矩阵u.

-当a为列满秩的高阵,也有类似定理. (行满秩的矮阵应该也有,计算标准正交q的时候用行向量计算,相应的r也要换.)

-qr分解可用于方程ax=b求解.当a是满秩方阵,则解唯一; 当ax=b不相容,则由rx=q^t b得到的解是最小二乘解. 证明可直接写出最小二乘定义得到.

2. 正规矩阵及schur分解:

对任意方阵a都存在可逆矩阵p,使p^-1 a p 为一个上三角矩阵. (由归纳法证)

将p作qr分解,则可以得到schur分解: 任意方阵a存在正交矩阵q(u)使 q^t a q 为一上三角阵,且对角元为a的特征值. (相应酉空间为 u阵和u^h.  ^h即共轭转置). (证明要点是这里的q就是p分解中的q, q^t a q = q^t pkp^-1 q,再分解.)

正规矩阵: 设a∈c(n x n), 若a满足 a^h a = a a^h,则称a为正规矩阵(规范阵). 实对称阵,实反对称阵,hermite阵,反hermite阵,正交阵,酉阵都是正规矩阵. 正规阵是单纯矩阵.

正规阵 等价于 a酉相似于一个对角阵 等价于 a有n个特征向量构成一组n维标准正交基.

推论1: a为实对称阵 等价于 a的特征值全为实数且存在正交阵q使得q^t a q=diag{λ1,λ2,..λn} 其中λi为a的特征值.

推论2: a为正交矩阵 等价于 a的每个特征值的模为1,且存在酉阵u使得 u^h a u=diag{λ1,λ2,..λn} 其中λi为a的特征值.

求解q(u)的过程也就是求解特征值和特征向量的过程,然后标准正交化即得到. 注意特征值和特征向量的顺序.

3. 满秩分解:

设a∈c, 是mxn的矩阵,秩为r(r>0), 则存在列满秩矩阵f(mxr)和行满秩矩阵g(rxn)使得a=fg.满秩分解不唯一.

求法很简单:把a化成前r行非零,后m-r行为零的矩阵,且前r行中i行(i=1,2,..r)第一个元素为1,第一个元素之前的0元素比i-1行多,则这个矩阵前r行构成g; 然后配出f即可.

4. 奇异值分解(svd)

奇异值分解很重要.

引理: 任意a∈c, a^h a和a a^h都是半正定的厄米特(hermite)矩阵,且具有相同的非零特征值,且秩和a相同. 秩相同的证明可以用亏加秩定理,也可以用方程组同解证, 也可以写成行列内积证. 半正定的证明可任取x∈c, 根据内积定义可证 ( x^h a^h a x = (ax)^h (ax) = (ax, ax)≥0 ).

奇异值:a^h a的n个特征值λ1,λ2,..λn 其中前r个大于零. 则a的奇异值σ1,σ2,..σr, σr+1,..σn 为σ1² = λ1, σ2² =λ2, …σr² = λr .且σi>0(i=1,2…r) 剩下的σi=0 (i=r+1,r+2,..n).

那么存在酉矩阵v和u,使得a = v s u^h. 其中s = diag{σ1, σ2,…σn}. 记sr = diag{σ1, σ2,…σr}.

构造性证明过程要利用前面的知识. a^h a是半正定的厄米特阵,所以可以进行schur分解: u^h a^h a u=diag{λ1,λ2,..λn} = s², s中的sr可逆,剩下的都是零,所以我们把u也拆成前r个列向量组成的u1和剩下的组成的u2, 则u1^h a^h a u1 = sr². 把sr的逆分别左乘右乘,则等式右边变成i, 左边为: sr^-1 u1^h a^h a u1 sr^-1 . 记v1 = a u1 sr^-1, 则有v1^h v1= i. 所以v1是酉阵. 用n(a^h)的一组标准正交基把v1补全成标准正交阵v, 则有 v s u^-1=  a, 也就是a = v s u^h.

求奇异值分解跟上面证明过程一样:

求a^h a的特征值, 并求其n个标准正交特征向量得到u, 顺带求出a的奇异值和s.

由正特征值的r个特征向量得到u1.

根据v1 = a u1 sr^-1求得v1, 将其补充成适当的标准正交阵v(可以直接补,补出来就是n(a^h)的基,不过要标准正交). 大功告成. 要记住最后 a = v s u^h.

-由svd可得极分解,即对方阵a存在半正定的厄米特阵g和酉阵u使a = gu, 当a满秩g为正定厄米特阵.

5. 单纯矩阵(可对角化矩阵)的谱分解

幂等阵即方阵a 满足a²=a. (幂等阵与投影变换是一一对应的)

对方阵a: 设a有k个相异的特征值,则a为单纯矩阵 等价于 存在k个幂等阵g1,g2,..gk使得:

gigj=0(i≠j);

Σ(i=1,k) gi = i;

a = Σ(i=1,k) λigi .

谱分解唯一. 唯一性证明:先利用λ证明gifj=0(i≠j) (要点:利用agifj = giafj),然后就能证明gi=fi了.

构造性证明:

求出a的相异特征值λ1,λ2,..λk;

求出相应的特征向量组成基向量阵 x1,x2,..xk;

令x = (x1,x2,..xk), 令 y = x^-1, 对y按照x行分块得到(y1,y2,..yk)^t

则gi = xiyi. 

推论: 若f(λ)为任意多项式,则f(a) = f(λ1)g1 + f(λ2)g2 + … + f(λk)gk. 特别地:a^m = (Σλg)^m .