线性代数 概念理解

较为深度的理解，这里做了一个总结，详细内容请看链接

线性代数

行列式

图文详解

2x2的行列式实际上是两个行向量之间组成的平行四边形的面积，3x3的行列式实际上是三个行向量组成的长方体体积，以此类推到nxn是广义的“体积”

矩阵乘法

图文详解

矩阵乘法就是线性函数。

将矩阵看做函数，矩阵乘法其实是在做线性映射

同一个线性变换，不同基下的矩阵称为相似矩阵

线性变换和仿射变换

图文详解

“仿射变换”：“线性变换”+“平移”

有的线性变换是可逆的，有的不行，比如行列式=0这样的线性变换就是不可逆的。

线性变换从几何直观有三个要点：

• 变换前是直线的，变换后依然是直线
• 直线比例保持不变
• 变换前是原点的，变换后依然是原点

线性变换是通过矩阵乘法来实现的。

仿射变换从几何直观只有两个要点：

• 变换前是直线的，变换后依然是直线
• 直线比例保持不变

少了原点保持不变这一条。

仿射变换不能只通过矩阵乘法来实现，还得有加法。

但是在增加一个维度之后，就可以在高维度通过线性变换来完成低纬度的仿射变换

秩

图文详解

矩阵的秩：矩阵中所有行向量中极大线性无关组的元素个数。

秩：是图像经过矩阵变换之后的矩阵维度

秩：列空间的维度，行空间的维度，行秩与列秩相等

可以理解为图像所包含的信息的丰富程度。不严谨的讲，低秩表征一种冗余程度。秩越低表示数据冗余性越大，因为用很少几个基就可以表达所有数据了。相反，秩越大表示数据冗余性越小。

特征值和特征向量

图文详解

将特征向量当做一个普通的向量，使用很多个矩阵和它相乘，做乘法之后方向不变的那个矩阵的特征向量就是这个矩阵的特征向量，大小的变动就是特征值。

特征向量其实是个方向，特征值其实是个大小，特征向量所在直线上的向量都是特征向量

特征值分解可以认为有一个基，首先左乘一个正交阵变为标准基，然后乘一个对角阵做伸缩变换，然后再乘一个正交阵变回去

矩阵特征值是对特征向量进行伸缩和旋转程度的度量，实数是只进行伸缩，虚数是只进行旋转，复数就是有伸缩有旋转。

正交化

图文详解

施密特正交化就是把非正交基变为正交基的。

二次型

图文详解

通过矩阵来研究二次函数（方程），这就是线性代数中二次型的重点。

在线代里面，就是通过一个对称矩阵，去研究某个二次型。

对 称 矩 阵 ⇔ 二 次 型 矩 阵 ⇔ 二 次 型 对称矩阵\Leftrightarrow二次型矩阵\Leftrightarrow二次型 对称矩阵⇔二次型矩阵⇔二次型

一个平面在圆锥体上运动，可以得到圆、椭圆、双曲线，这也是它们之间具有线性关系的来源

圆锥曲线都可以表示为:

[ x    y ] [ a b b c ] [ x y ] = 1 X = [ x y ] A = [ a b b c ] } ⇒ X T A X \begin{array}{l}\left.\begin{array}{rcl}\lbrack x\;y\rbrack&\begin{bmatrix}a&b\\b&c\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix}=\begin{array}{c}1\end{array}\\X&=\begin{array}{c}\begin{bmatrix}x\\y\end{bmatrix}\end{array}\\A&=\begin{array}{c}\begin{bmatrix}a&b\\b&c\end{bmatrix}\end{array}\end{array}\right\}\Rightarrow X^TAX\\\end{array} [xy]XA​[ab​bc​][xy​]=1​=[xy​]​=[ab​bc​]​​⎭⎪⎪⎪⎪⎪⎪⎬⎪⎪⎪⎪⎪⎪⎫​⇒XTAX​

规范化是指比如一个椭圆看起来有点歪，不太好处理，我们将它扶正。

二次型矩阵包含了旋转和拉伸两种变换，将其拆分为三个矩阵相乘的形式对其进行规范化只保留拉伸的部分去掉旋转的部分，其中旋转的部分是列向量单位向量并且是正交向量。

二次型矩阵，都是对称矩阵，所以特征值分解总可以得到正交矩阵与对角矩阵。

（还有一个问题是链接中没有讲到的）为什么二次型矩阵一定是实对称矩阵？

如果A是一个未必对称的方阵，令 B = ( A + A T ) 2 B=\frac{(A+A^T)}2 B=2(A+AT)​

那么B对称，并且二次型 x T A x = x T B x x^TAx=x^TBx xTAx=xTBx

也就是说即使A不对称，一定存在一个等效的对称矩阵来表示这个二次型

所以为了研究方便就选择（或者理解成规定）用对称阵来表示二次型