天天看點

深度學習中常見分布-正态分布和伽瑪分布

正态分布(Normal distribution)又名高斯分布(Gaussian distribution),是一個在​​數學​​​、​​實體​​​及​​工程​​​等​​領域​​都非常重要的機率分布,在統計學的許多方面有着重大的影響力。

若​​随機變量​​X服從一個​​數學期望​​​為μ、​​标準方差​​為σ2的高斯分布,記為:

X∼N(μ,σ2),

則其​​機率密度函數​​為

深度學習中常見分布-正态分布和伽瑪分布

正态分布的​​期望值​​​μ決定了其位置,其​​标準差​​σ決定了分布的幅度。因其曲線呈鐘形,是以人們又經常稱之為鐘形曲線。我們通常所說的标準正态分布是μ = 0,σ = 1的正态分布(見右圖中綠色曲線)。

深度學習中常見分布-正态分布和伽瑪分布

機率密度函數

正态分布的​​機率密度函數​​​均值為μ ​​方差​​​為σ2 (或​​标準差​​​σ)是​​高斯函數​​的一個執行個體:

深度學習中常見分布-正态分布和伽瑪分布

(請看​​指數函數​​以及π.)

如果一個​​随機變量​​X服從這個分布,我們寫作 X ~ N(μ,σ2). 如果μ = 0并且σ = 1,這個分布被稱為标準正态分布,這個分布能夠簡化為

深度學習中常見分布-正态分布和伽瑪分布

右邊是給出了不同參數的正态分布的函數圖。

正态分布中一些值得注意的量:

  • 密度函數關于平均值對稱
  • 平均值是它的​​衆數​​​(statistical mode)以及​​中位數​​(median)
  • 函數曲線下68.268949%的面積在平均值左右的一個​​标準差​​範圍内
  • 95.449974%的面積在平均值左右兩個标準差2σ的範圍内
  • 99.730020%的面積在平均值左右三個标準差3σ的範圍内
  • 99.993666%的面積在平均值左右四個标準差4σ的範圍内
  • ​​反曲點​​(inflection point)在離平均值的距離為标準差之處

伽瑪分布

伽瑪分布(Gamma Distribution)是統計學的一種連續機率函數。Gamma分布中的參數α稱為形狀參數(shape parameter),β稱為​​尺度參數​​(scale parameter)。

深度學習中常見分布-正态分布和伽瑪分布

Gamma的可加性

兩個獨立随機變量X和Y,且X~Ga(a,γ),Y~Ga(b,γ),則Z = X+Y ~ Ga(a+b,γ)。注意X和Y的尺度參數必須一樣。

數學表達式

若随機變量X具有機率密度

其中α>0,β>0,則稱随機變量X服從參數α,β的伽馬分布,記作G(α,β).

Gamma分布的特殊形式

當形狀參數α=1時,伽馬分布就是參數為γ的指數分布,X~Exp(γ)

當α=n/2,β=1/2時,伽馬分布就是自由度為n的卡方分布,X^2(n)

“無意中發現了一個巨牛的人工智能教程,忍不住分享一下給大家。教程不僅是零基礎,通俗易懂,而且非常風趣幽默,像看小說一樣!覺得太牛了,是以分享給大家。​​點這裡可以跳轉到教程​​。”

繼續閱讀