天天看點

求和向量與中心化矩陣

一、求和向量

所有元素等于1 的向量稱為求和向量(summuing vector)。記為$\mathbf{1}=[1,1, \cdots, 1]^{\mathbf{T}}$ 。以$n=4$為例,求和向量$\mathbf{1}=[1,1, \cdots, 1]^{\mathrm{T}}$ 之是以稱為求和向量,乃是因為n 個标量的求和都可以表示為求和向量與另外一個向量之間的内積。

求和向量與自己的内積是一個等于該向量維數的标量,即有:

\begin{equation}

\mathbf{1}_{n}^{\mathrm{T}} \mathbf{1}_{n}=n

\end{equation}

求和向量之間的外積是一個所有元素為1 的矩陣,例如:

\mathbf{1}_{2} \mathbf{1}_{3}^{\mathrm{T}}=\left[ \begin{array}{l}{1} \\ {1}\end{array}\right][1,1,1]=\left[ \begin{array}{lll}{1} & {1} & {1} \\ {1} & {1} & {1}\end{array}\right]=\boldsymbol{J}_{2 \times 3}

更一般地,有:$\mathbf{1}_{p} \mathbf{1}_{\mathbf{q}}^{\mathrm{T}}=\boldsymbol{J}_{\boldsymbol{p} \times \boldsymbol{q}}$(所有元素為1 的矩陣)

二、中心化矩陣

矩陣$\boldsymbol{C}_{n}=\boldsymbol{I}_{n}-\overline{\boldsymbol{J}}_{n}=\boldsymbol{I}_{n}-\frac{1}{n} \boldsymbol{J}_{n}$稱為中心化矩陣(centering matrix)。

容易驗證,中心化矩陣既是對稱矩陣,又是幕等矩陣,即有:

C_{n}=C_{n}^{\mathrm{T}}=C_{n}^{2}

此外,中心化矩陣還具有以下特性:

\left.\begin{aligned} C_{n} 1 &=0 \\ C_{n} J_{n} &=J_{n} C_{n}=0 \end{aligned}\right\}

首先,一組資料$x_{1}, \cdots, x_{n}$ 的均值可以用求和向量表示,即有:

\overline{x}=\frac{1}{n} \sum_{i=1}^{n} x_{i}=\frac{1}{n}\left(x_{1}+\cdots+x_{n}\right)=\frac{1}{n} x^{\mathrm{T}} \mathbf{1}=\frac{1}{n} \mathbf{1}^{\mathrm{T}} x

式中,$\boldsymbol{x}=\left[x_{1}, \cdots, x_{n}\right]^{\mathbf{T}}$為資料向量。

其次,利用中心化矩陣的定義式及其性質公式,可以得到:

\begin{aligned} C x &=x-\overline{J} x=x-\frac{1}{n} 11^{\mathrm{T}} x=x-\overline{x} 1 \\ &=\left[x_{1}-\overline{x}, \cdots, x_{n}-\overline{x}\right]^{\mathrm{T}} \end{aligned}

換言之,矩陣C 對資料向量x的線性變換Cx: 是原資料向量的各個元素減去n 個資料的均值的結果。這就是中心化矩陣的數學含義所在。

此外,如果求向量Cx: 的内積,則有:

\begin{aligned}(\boldsymbol{C} \boldsymbol{x})^{\mathrm{T}} \boldsymbol{C x} &=\left[\boldsymbol{x}_{1}-\overline{\boldsymbol{x}}, \cdots, \boldsymbol{x}_{\boldsymbol{n}}-\overline{\boldsymbol{x}}\right]\left[x_{\mathbf{1}}-\overline{\boldsymbol{x}}, \cdots, \boldsymbol{x}_{\boldsymbol{n}}-\overline{\boldsymbol{x}}\right]^{\mathbf{T}} \\ &=\sum_{i=1}^{n}\left(\boldsymbol{x}_{\boldsymbol{i}}-\overline{\boldsymbol{x}}\right)^{2} \end{aligned}

根據式(3)知$\boldsymbol{C}^{\mathrm{T}} \boldsymbol{C}=\boldsymbol{C} \boldsymbol{C}=\boldsymbol{C}$,上式又可簡化為

\boldsymbol{x}^{\mathrm{T}} \boldsymbol{C x}=\sum_{i=1}^{\mathbf{n}}\left(x_{i}-\overline{\boldsymbol{x}}\right)^{2}

右式是我們熟悉的資料$x_{1}, \cdots, x_{n}$的協方差。即是說,一組資料的協方差可以用核矩陣為中心化矩陣的二次型$\boldsymbol{x}^{\mathbf{T}} \boldsymbol{C} \boldsymbol{x}$ 表示。

繼續閱讀