文章目錄
- 一、基本概念
- 1.1 協方差矩陣 及推導
- 1.2 Hessian矩陣
- 1.3 Hessian矩陣 示例
- 1.3 正定矩陣定義及性質
- 1.4 正定矩陣 示例
一、基本概念
1.1 協方差矩陣 及推導
在統計學中用标準差描述樣本資料的 “散布度” 公式中之是以除以 n-1 而不是 n,
是因為這樣使我們以較少的樣本集更好的逼近總體标準差。即統計學上所謂的 “無偏估計”。
關于 協方差 與 散度
方差：
各個次元偏離其均值的程度，協方差：
協方差矩陣的計算：
1.2 Hessian矩陣
Hessian矩陣定義：
若一進制函數 在 點的某個領域内具有任意階導數，則 在 點的泰勒展開式為：
其中：
二進制函數 在點處的泰勒展開式為：
其中：
将上述(2)展開式寫成矩陣形式，則有：
即為：
其中：
是 在 點處的Hessian矩陣。它是由函數 在 點處的二階偏導數所組成的方陣。我們一般将其表示為:
簡寫成：
1.3 Hessian矩陣 示例
1.3 正定矩陣定義及性質
線上性代數中，正定矩陣（positive definite matrix）簡稱正定陣。
定義：A是n階方陣，如果對于任何非零向量x都有就稱A正定矩陣。