1 機率論基本概念

文章目錄

• 1 随機事件
• 2 樣本空間
• 3 事件運算
• 4 機率

1 随機事件

随機試驗三要素:

1. 可在同等條件下重複;
2. 結果是可被事先預測的多種可能;
3. 試驗前結果不确定.

2 樣本空間

樣本空間 (Sample Space) : 随機試驗 E E E 的所有可能結果的集合, 記作 Ω = { ω } \Omega = \{ \omega \} Ω={ω}.

樣本點 (Sample Point) : 一個樣本空間衆多的每個元素.

• 樣本空間中樣本點的個數為有限個或可列個的情況為離散樣本空間 (Discrete Sample Space) ;
• 樣本空間中樣本點的個數為不可列無限個的情況為連續樣本空間 (Continuous Sample Space) ;

3 事件運算

事件 (Event) : 某些基本事件構成的集合. 為樣本空間的子集.

德摩根定律 (De Morgan’s Laws) :

• A ∪ B ‾ = A ‾ ∩ B ‾ \overline{A \cup B} = \overline{A} \cap \overline{B} A∪B=A∩B;
• A ∩ B ‾ = A ‾ ∪ B ‾ \overline{A \cap B} = \overline{A} \cup \overline{B} A∩B=A∪B;
• ∪ i = 1 n A i ‾ = ∩ i = 1 n A i ‾ \overline{ \cup_{i=1}^{n} A_i} = \cap_{i=1}^{n} \overline{A_i} ∪i=1n​Ai​​=∩i=1n​Ai​​;
• ∩ i = 1 n A i ‾ = ∪ i = 1 n A i ‾ \overline{ \cap_{i=1}^{n} A_i} = \cup_{i=1}^{n} \overline{A_i} ∩i=1n​Ai​​=∪i=1n​Ai​​ ( n → + ∞ n \rightarrow + \infty n→+∞ 也成立) .

4 機率

古典概型 (Classical Probability) : 樣本空間 S S S 中有有限個等可能的兩兩互不相容的基本事件, 個數記為 # { S } \# \{ S \} #{S}, 事件 A A A 發生的機率為 P ( A ) = # { A } # { S } P(A) = \frac{\# \{ A \} }{\# \{ S \} } P(A)=#{S}#{A}​.

例:

• 有重複的排列:
  • n n n 個不同小球有放回取出 r r r次: n r n^r nr;
  • n n n 個不同小球有放回放入 r r r個格子: r n r^n rn;
• 有重複的組合:
  • n n n 個相同小球放入 r r r 個格子 (可空) : C n + r − 1 n C_{n+r-1}^{n} Cn+r−1n​;
  • n n n 個相同小球放入 r r r 個格子 (不可空) : C n − 1 r − 1 C_{n-1}^{r-1} Cn−1r−1​.

幾何概型 (Geometric Probability) : P ( A g ) = g 的 測 度 Ω 的 測 度 P(Ag) = \frac{g的測度}{\Omega的測度} P(Ag)=Ω的測度g的測度​.

頻率 (Frequency) 的性質:

1. 0 ≤ f n ( A ) ≤ 1 0 \leq f_n (A) \leq 1 0≤fn​(A)≤1;
2. f n ( S ) = 1 f_n (S) = 1 fn​(S)=1;
3. 若 A 1 , A 2 , . . . , A k A_1, A_2, ..., A_k A1​,A2​,...,Ak​兩兩互斥, f ( A 1 ∪ A 2 ∪ A k ) = f n ( A 1 ) + f n ( A 2 ) + . . . + f n ( A k ) f(A_1 \cup A_2 \cup A_k) = f_n (A_1) + f_n (A_2) + ... + f_n (A_k) f(A1​∪A2​∪Ak​)=fn​(A1​)+fn​(A2​)+...+fn​(Ak​).

例: 蒲豐投針

壓線機率: P = 1 / 2 ∫ 0 π l sin ⁡ ( ϕ )   d ϕ 1 / 2 a π n = 2 l π a P = \frac{1/2 \int_0^{\pi} l \sin(\phi) ~ d \phi}{1/2 a \pi} n= \frac{2l}{\pi a} P=1/2aπ1/2∫0π​lsin(ϕ) dϕ​n=πa2l​.

事件 σ \sigma σ 域: F \mathcal{F} F 是由樣本空間 Ω \Omega Ω 的子集組成的集類, 滿足:

1. Ω ∈ F \Omega \in \mathcal{F} Ω∈F;
2. 若 A ∈ F A \in \mathcal{F} A∈F, 則 A ‾ ∈ F \overline{A} \in \mathcal{F} A∈F ( “取補” 運算封閉) ;
3. 若 A n ∈ F A_n \in \mathcal{F} An​∈F, n = 1 , 2 , . . . n = 1, 2, ... n=1,2,..., 則 ∪ n = 1 ∞ A n ∈ F \cup_{n = 1}^{\infty} A_n \in \mathcal{F} ∪n=1∞​An​∈F ( “可列并” 運算封閉) .

則稱 F \mathcal{F} F 是 σ \sigma σ 域, F \mathcal{F} F 中的元素為事件.

一維Borel σ \sigma σ 域: 在全體實數 R 1 \mathbb{R}^1 R1 中, 由一切形為 [ a , b ) [a, b) [a,b) 的有界左閉右開區間構成的集類所産生的 σ \sigma σ 域. 記之為 B 1 \mathcal{B}_1 B1​. B 1 \mathcal{B}_1 B1​ 中的集合為一維Borel點集.

B 1 \mathcal{B}_1 B1​ 包括了實數中 (大概) 所有感興趣的集.

機率 (Probability) : 設 Ω \Omega Ω 為一個樣本空間, F \mathcal{F} F 為的某些子集組成的一個事件 σ \sigma σ 域. 如果對任一事件 A ∈ F A \in \mathcal{F} A∈F, 定義在 F \mathcal{F} F 上的一個實值函數 P ( A ) P(A) P(A) 滿足:

1. 非負性: P ( A ) ≥ 0 , ∀ A ∈ F P(A) \geq 0, \forall A \in \mathcal{F} P(A)≥0,∀A∈F;
2. 規範性: P ( Ω ) = 1 P(\Omega) = 1 P(Ω)=1;
3. 可列可加性: A i ∈ F A_i \in \mathcal{F} Ai​∈F, i = 1 , 2 , . . . i = 1, 2, ... i=1,2,... 且兩兩互不相容, 則 P ( A 1 + A 2 + . . . ) = P ( A 1 ) + P ( A 2 ) + . . . P(A_1 + A_2 + ...) = P(A_1) + P(A_2) + ... P(A1​+A2​+...)=P(A1​)+P(A2​)+... ;

則稱 P ( A ) P(A) P(A) 為事件 A A A 的機率, 稱三元總體 ( Ω , F , P ) (\Omega, \mathcal{F}, \mathcal{P}) (Ω,F,P) 為機率空間 (Probability Space) .

是以機率 P P P是個集合函數, 定義域為 F \mathcal{F} F, 值域為 [ 0 , 1 ] [0, 1] [0,1].

機率的性質:

1. P ( ∅ ) = 0 P(\emptyset) = 0 P(∅)=0 (由可列可加性) ;
2. 有限可加性: P ( A 1 + A 2 + . . . + A n ) = P ( A 1 ) + P ( A 2 ) + . . . P ( A n ) P(A_1 + A_2 + ... + A_n) = P(A_1) + P(A_2) + ... P(A_n) P(A1​+A2​+...+An​)=P(A1​)+P(A2​)+...P(An​) (由可列可加性及性質1) ;
3. P ( A ‾ ) = 1 − P ( A ) P(\overline{A}) = 1 - P(A) P(A)=1−P(A);
4. ∀ A , B ∈ F \forall A, B \in \mathcal{F} ∀A,B∈F, P ( A − B ) = P ( A ) − P ( A B ) P(A - B) = P(A) - P(AB) P(A−B)=P(A)−P(AB);
5. 若 A ⊂ B A \subset B A⊂B, 則 P ( B − A ) = P ( B ) − P ( A ) P(B - A) = P(B) - P(A) P(B−A)=P(B)−P(A);
6. P ( A ∪ B ) = P ( A ) + P ( B ) − P ( A ∩ B ) P(A \cup B) = P(A) + P(B) - P(A \cap B) P(A∪B)=P(A)+P(B)−P(A∩B);

7. 容斥原理:

   P ( ∪ i = 1 n E i ) = ∑ i = 1 n P ( E i ) − ∑ i 1 < i 2 P ( E i 1 E i 2 ) + . . . + ( − 1 ) n P ( E 1 E 2 . . . E n ) . \begin{aligned} P(\cup_{i = 1}^{n}E_i) = &\sum_{i = 1}^{n} P(E_i) - \sum_{i_1 < i_2} P(E_{i_1}E_{i_2}) \\\\ &+ ... +(-1)^n P(E_1E_2...E_n). \end{aligned} P(∪i=1n​Ei​)=​i=1∑n​P(Ei​)−i1​<i2​∑​P(Ei1​​Ei2​​)+...+(−1)nP(E1​E2​...En​).​

推論:

1. 若 A ⊂ B A \subset B A⊂B, 則 P ( A ) ≤ P ( B ) P(A) \leq P(B) P(A)≤P(B);
2. 布爾不等式: P ( A ∪ B ) ≤ P ( A ) + P ( B ) P(A \cup B) \leq P(A) + P(B) P(A∪B)≤P(A)+P(B);
3. Bonferroni不等式: P ( A B ) ≥ P ( A ) + P ( B ) − 1 P(AB) \geq P(A) + P(B) - 1 P(AB)≥P(A)+P(B)−1.