在介紹主題之前,先來談一個非常重要的數學思維方法:幾何方法
。在大學之前,我們學習過一次函數、二次函數、三角函數、指數函數、對數函數等,方程則是求函數的零點;到了大學,我們學微積分、複變函數、實變函數、泛函等。我們一直都在學習和研究各種函數及其性質,
函數是數學一條重要線索,另一條重要線索——幾何
,在函數的研究中發揮着不可替代的作用,幾何是函數形象表達,函數是幾何抽象描述,幾何研究“形”,函數研究“數”,它們交織在一起推動數學向更深更抽象的方向發展。
函數圖象聯系了函數和幾何,表達兩個數之間的變化關系,
映射推廣了函數的概念,使得自變量不再僅僅局限于一個數,也不再局限于一維,任何事物都可以拿來作映射,維數可以是任意維,傳統的函數圖象已無法直覺地表達高維對象之間的映射關系,這就要求我們在觀念中,把三維的幾何空間推廣到抽象的n維空間。
由于映射的對象可以是任何事物
,為了便于研究映射的性質以及數學表達,我們首先需要對映射的對象進行“量化”,取定一組“基”,确定事物在這組基下的坐标,事物同構于我們所熟悉的抽象幾何空間中的點,事物的映射可以了解為從一個空間中的點到另一個空間的點的映射,而映射本身也是事物,自然也可以抽象為映射空間中的一個點,這就是泛函中需要研究的對象——函數。
從一個線性空間到另一個線性空間的線性映射,可以用一個矩陣來表達,矩陣被看線性作映射,線性映射的性質可以通過研究矩陣的性質來獲得,比如矩陣的秩反映了線性映射值域空間的維數,
矩陣範數反映了線性映射把一個向量映射為另一個向量,向量的“長度”縮放的比例。
範數是把一個事物映射到非負實數,且滿足非負性、齊次性、三角不等式,符合以上定義的都可以稱之為範數,是以,範數的具體形式有很多種(由内積定義可以導出範數,範數還也可以有其他定義,或其他方式導出),要了解矩陣的算子範數,首先要了解向量範數的内涵。
矩陣的算子範數,是由向量範數導出的,由形式可以知:
由矩陣算子範數的定義形式可知,矩陣A把向量x映射成向量Ax
,取其在向量x範數為1所構成的閉集下的向量Ax範數最大值作為矩陣A的範數,即矩陣對向量縮放的比例的上界,矩陣的算子範數是相容的。
由幾何意義可知,矩陣的算子範數必然大于等于矩陣譜半徑(最大特征值的絕對值),矩陣算子範數對應一個取到向量Ax範數最大時的向量x方向,譜半徑對應最大特征值下的特征向量的方向。而矩陣的奇異值分解SVD
,分解成左右各一個酉陣,和拟對角矩陣,可以了解為對向量先作旋轉、再縮放、最後再旋轉,奇異值,就是縮放的比例,最大奇異值就是譜半徑的推廣,是以,矩陣算子範數大于等于矩陣的最大奇異值,酉陣在此算子範數的意義下,範數大于等于1
。
此外,不同的矩陣範數是等價的。
範數理論是矩陣分析的基礎,度量向量之間的距離、求極限等都會用到範數,範數還在機器學習、模式識别領域有着廣泛的應用。
全部