面試之-3.0機率品質函數，機率密度函數，機率分布函數

背景

在學習內建學習時，周志華老師的西瓜書中出現了 P ( ⋅ ) P(·) P(⋅)和 P ( ⋅ ∣ ⋅ ) P(·|·) P(⋅∣⋅)分别為機率品質函數，條件機率品質函數，在此進行擴充。

（注：研究一個随機變量，不隻要看它能取什麼值，更重要的是更重要的是各種取值的機率分布！！！！）

機率函數（分布律）-> 離散型

機率品質函數（Probability Mass Function，PMF）

用函數形式表達機率，如

P r o b = P ( X = a i ) ( i = 1 , 2 , 3 , 4 , 5 , 6 ) Prob = P(X = a_i)(i = 1, 2, 3, 4, 5,6) Prob=P(X=ai​)(i=1,2,3,4,5,6)

表示X分别為1， 2，3…，6的機率，但是一次隻能表示一個随機變量的值

機率分布

機率分布就是将足有可能出現的情況以及情況相對應的機率值全部列出來

機率分布函數（累積分布函數）-> 離散型

累積分布函數 Accumulative Distribution Function（ADF）

設離散型随機變量 X X X的分布律是 P ( X = X k ) = p k ( k = 1 , 2 , 3.... ) P(X=X_k) = p_k(k=1, 2, 3....) P(X=Xk​)=pk​(k=1,2,3....)則 F ( x ) = P ( X ≤ x ) = ∑ x k ≤ x p k F(x)=P(X\leq x) = \sum_{x_k \leq x}p_k F(x)=P(X≤x)=xk​≤x∑​pk​

由于 F ( x ) F(x) F(x)是 X X X取 ≤ x \leq x ≤x的所有 x k x_k xk​的機率之和，顧稱 F ( x ) F(x) F(x)為累積機率函數或機率分布函數。

機率密度函數和機率密度分布函數 -> 連續型

等價于離散型的機率函數

機率密度函數（Probability Density Function PDF）

定義

密度函數：取一個定點 x x x，則按照分布函數的定義，事件 { x &lt; X &lt; x + h } \{x &lt; X &lt; x+h\} {x<X<x+h}的機率 ( h &gt; 0 為 常 數 ) (h &gt; 0為常數) (h>0為常數)，因為 F ( x + h ) − F ( x ) F(x+h)-F(x) F(x+h)−F(x)，是以比值 F ( x + h ) − F ( x ) h \frac {F(x+h)-F(x)}{h} hF(x+h)−F(x)​可以解釋為在 x x x附近 h h h長的區間 ( x , x + h ) (x, x+h) (x,x+h)内，機關長度所占的機率，另 h → 0 h \to0 h→0，則這個比的極限，即 F ′ ( x ) = f ( x ) F&#x27;(x) = f(x) F′(x)=f(x)，也就是說 x x x點處（無窮小區段内）機關長機率，或者說，它反映了機率在 x x x點處的“密集程度”。機率密度函數公式：

P ( a ≤ X ≤ b ) = F ( b ) − F ( a ) = ∫ a b f ( x ) d x P(a \leq X \leq b) = F(b)-F(a) = \displaystyle\int^b_af(x)dx P(a≤X≤b)=F(b)−F(a)=∫ab​f(x)dx

此處的機率就是求面積

左圖是 F ( x ) F(x) F(x)連續型随機變量分布函數，右圖為 f ( x ) f(x) f(x)連續型随機變量的機率密度函數，機率密度函數是分布函數的導函數。

機率密度和品質函數的差別

機率密度函數是對連續型随機變量定義的，本是不是機率，隻有對其積分之後才是機率（某個特定值上的機率為0），但是機率品質函數是随機變量在各特定值上的機率。

參考連結

https://www.jianshu.com/p/b570b1ba92bb