大数定律和中心极限定理

文章目录

• 大数定律
• • 依概率收敛
  • 马尔可夫不等式和切比雪夫不等式
  • • 马尔可夫不等式
    • 切比雪夫不等式
  • 几个大数定律
• 中心极限定理

大数定律

依概率收敛

定义：

n普遍表示实验次数

性质：若 X n X_n Xn​依概率收敛于a， Y n Y_n Yn​依概率收敛于b，g在(a,b)连续，则 g ( X n , Y n ) g(X_n,Y_n) g(Xn​,Yn​)依概率收敛于g(a,b)

马尔可夫不等式和切比雪夫不等式

马尔可夫不等式

切比雪夫不等式

设随机变量X具有数学期望μ，方差σ2则对任意正数ε，不等式

或

成立。

该公式告诉我们事件大多会集中在平均值附近

https://www.zhihu.com/question/27821324/answer/248693398

切比雪夫不等式预测的准确率要远远高于马尔科夫不等式

几个大数定律

大数定律告诉我们：

当n特别大时，n个特定（独立同分布or相同期望和方差）的随机变量的均值趋向于数学期望μ；也就是说大量重复独立实验中频率接近于概率，可以用频率来估计概率。

切比雪夫大数定律：

若X1,X2,…Xn相互独立，且具有相同的数学期望与方差，则当n趋向于无穷时，

1 n ∑ k = 1 n X k ⟶ p μ \frac{1}{n}\sum_{k=1}^{n}X_k\stackrel{p}{\longrightarrow}μ n1​k=1∑n​Xk​⟶p​μ

辛钦大数定律：

若X1,X2,…Xn独立同分布，且 E ( X i ) = μ E(X_i)=μ E(Xi​)=μ，则当n趋向于无穷时，

1 n ∑ k = 1 n X k ⟶ p μ \frac{1}{n}\sum_{k=1}^{n}X_k\stackrel{p}{\longrightarrow}μ n1​k=1∑n​Xk​⟶p​μ

中心极限定理

设随机变量X1，X2，…Xn，…独立同分布，并且具有有限的数学期望和方差：E(Xi)=μ，D(Xi)=σ2，则当n很大时，随机变量

近似地服从标准正态分布N(0，1)。

中心极限定理告诉我们：多个独立同分布的随机变量的和服从于特定的正态分布（均值为nμ，方差为nσ2）