在機率論中，經常出現PDF、PMF和CDF，那麼這三者有什麼差別與聯系呢？
1. 概念解釋
- PDF：機率密度函數（probability density function）, 在數學中，連續型随機變量的機率密度函數（在不至于混淆時可以簡稱為密度函數）是一個描述這個随機變量的輸出值，在某個确定的取值點附近的可能性的函數。
- PMF : 機率品質函數（probability mass function), 在機率論中，機率品質函數是離散随機變量在各特定取值上的機率。
- CDF : 累積分布函數 (cumulative distribution function)，又叫分布函數，是機率密度函數的積分，能完整描述一個實随機變量X的機率分布。
2. 數學表示
2.1 PDF
如果XX是連續型随機變量，定義機率密度函數為fX(x)fX(x)，用PDF在某一區間上的積分來刻畫随機變量落在這個區間中的機率，即
2.2 PMF
如果XX離散型随機變量，定義機率品質函數為fX(x)fX(x),PMF其實就是高中所學的離散型随機變量的分布律,即
比如對于擲一枚均勻硬币，如果正面令X=1X=1，如果反面令X=0X=0，那麼它的PMF就是
2.3 CDF
不管是什麼類型（連續/離散/其他）的随機變量，都可以定義它的累積分布函數，有時簡稱為分布函數。
-
對于連續型随機變量，顯然有：
F X ( x ) = P r ( X ≤ x ) = ∫ − ∞ x f X ( t ) d t F_X(x)=Pr(X\leq x)=\int _{-\infty }^{x}f_X(t) dt FX(x)=Pr(X≤x)=∫−∞xfX(t)dt
那麼CDF就是PDF的積分，PDF就是CDF的導數。
-
對于離散型随機變量，其CDF是分段函數，比如舉例中的擲硬币随機變量，它的CDF為:
F X ( x ) = P r ( X ≤ x ) { 0 i f x < 0 1 2 i f 0 ≤ x < 1 1 i f x ≥ 1 F_X(x)=Pr(X\leq x)\left\{ \begin{array}{rcl} 0 & & {if \ \ \ x <0 }\\ \frac{1}{2} & & {if \ \ \ 0\leq x<1}\\ 1 & & {if\ \ \ x\geq 1}\\ \end{array} \right. FX(x)=Pr(X≤x)⎩⎨⎧0211if x<0if 0≤x<1if x≥1
3.概念分析
根據上述，我們能得到以下結論：
- PDF是連續變量特有的，PMF是離散随機變量特有的；
- PDF的取值本身不是機率，它是一種趨勢（密度）隻有對連續随機變量的取值進行積分後才是機率，也就是說對于連續值确定它在某一點的機率是沒有意義的；
- PMF的取值本身代表該值的機率。
4.分布函數的意義
我們從兩點來分析分布函數的意義：
4.1 為什麼需要分布函數？
對于離散型随機變量，可以直接用分布律來描述其統計規律性；而對于連續型随機變量(非離散型的随機變量)，我們無法一一列舉出随機變量的所有可能取值，是以它的機率分布不能像離散随機變量那樣用分布律進行描述。于是引入PDF，用積分來求随機變量落入某個區間的機率。
分布律(PMF)不能描述連續型随機變量，密度函數(PDF)不能描述離散随機變量，是以需要找到一個統一方式描述随機變量統計規律，這就有了分布函數。
另外，在現實生活中，有時候人們感興趣的是随機變量落入某個範圍内的機率是多少，如擲骰子的數小于3點的獲勝，那麼考慮随機變量落入某個區間的機率就變得有現實意義了，是以引入分布函數很有必要。
4.2 分布函數的意義
分布函數 F ( x ) F(x) F(x)在點 x x x處的函數值表示 X X X落在區間 ( − ∞ , x ] (−\infty,x] (−∞,x]内的機率，是以分布函數就是定義域為 R R R的一個普通函數，是以我們可以把機率問題轉化為函數問題，進而可以利用普通的函數知識來研究機率問題，增大了機率的研究範圍。
5.參考文獻
機率中的PDF，PMF，CDF
http://www.dataguru.cn/thread-150756-1-1.html
https://www.zhihu.com/question/23022012
https://www.zhihu.com/question/36853661
https://www.zhihu.com/question/21911186
http://wenku.baidu.com/view/823a0bb9f111f18582d05a14.html