第五章 大数定律及中心极限定理

P 119 ~ 126 正文
P 126 ~ 127 习题

大数定律 是叙述随机变量序列的前一些项的算数平均值在某种条件下收敛到这些项的均值的算数平均值.
中心极限定理 是确定在什么条件下, 大量随机变量之和的分布逼近于正态分布.

1. 大数定律

弱大数定理 (辛钦大数定理)

英文名称 : Wiener-khinchin law of large Numbers

定义

X_1, X_2, \cdots 是相互独立, 服从同一分布的随机变量序列, 且具有数学期望 E(X_k) = \mu (k=1,2,\cdots), 作前 n 个变量的算数平均 \displaystyle \frac{1}{n}\sum_{k=1}^{n}X_k, 则对于任意 \epsilon >0, 有 \displaystyle\lim_{n \rightarrow \infty}P \lbrace \vert \frac{1}{n}\sum_{k=1}^{n}X_k – \mu \vert<\epsilon \rbrace = 1.

辛钦大数定理的通俗理解是, 对于独立同分布且具有均值 \mu 的随机变量 X_1,\cdots,X_n, 当 n 很大时它们的算数平均很可能接近于 \mu.

辛钦大数定理的另一种解释是基于依概率收敛于某一值的概念.

序列依概率收敛
Y_1,Y_2,\cdots, Y_n,\cdots 是一个随机变量序列, a 是一个常数. 若对于任意正数 \epsilon, 有 \displaystyle\lim_{n \rightarrow \infty}P \lbrace \vert Y_n – a \vert<\epsilon \rbrace = 1 , 则称序列 Y_1,Y_2,\cdots,Y_n,\cdots 依概率收敛于 a, 记为 Y_n \xrightarrow{P} a

依概率收敛的序列有以下性质.
X_n \xrightarrow{P} a, Y_n \xrightarrow{P} b, 又设函数 g(x,y) 在点 (a,b)连续, 则 g(X_n,Y_n) \xrightarrow{P} g(a,b)

用依概率收敛的方式转述弱大数定理
X_1, X_2, \cdots 是相互独立, 服从同一分布的随机变量序列, 且具有数学期望 E(X_k) = \mu (k=1,2,\cdots), 则序列 \displaystyle\overline{X} = \frac{1}{n}\sum_{k=1}^{n}X_k 依概率收敛于 \mu, 即 \overline{X} \xrightarrow{P} \mu.

伯努利大数定理

定义

f_An 次独立重复试验中事件 A 发生的次数, p 是事件 A 在每次试验中发生的概率, 则对于任意正数 \epsilon>0, 有 \lim_{n \rightarrow \infty} P\lbrace \vert \frac{f_A}{n} – p \vert<\epsilon \rbrace = 1\lim_{n \rightarrow \infty} P\lbrace \vert \frac{f_A}{n} – p \vert \ge \epsilon \rbrace = 0

2. 中心极限定理

独立同分布的中心极限定理

设随机变量 X_1, X_2, \cdots, X_n, \cdots 相互独立, 服从同一分布, 且具有数学期望和方差 E(X_k) = \mu, D(X_k) = \sigma^2>0(k=1,2,\cdots), 则随机变量之和\displaystyle\sum_{k=1}^{n}X_k的标准化变量 Y_n = \frac{\displaystyle\sum_{k=1}^{n}X_k – E(\displaystyle\sum_{k=1}^{n}X_k)}{\sqrt{D(\displaystyle\sum_{k=1}^{n}X_k)}} 的分布函数 F_n{x} 对于任意x满足xxx.

均值为 \mu, 方差为 \sigma^2 >0的独立同分布的随机变量 X_1, X_2, \cdots, X_n, \cdots 的算数平均 XXX, 当 n 充分大时近似地服从均值为 \mu, 方差为 XXX 的正态分布.

李雅普诺夫定理

英文名称 : Lyapunov
设随机变量 X 相互独立, 它们具有数学期望和方差.
记.
若存在证书, 使得,
则随机变量纸盒的标准化变量的分布函数对于任意x, 满足.

李雅普诺夫定理的作用在于 无论各个随机变量X服从什么分布, 只要满足该定理的条件, 那么它们的和在当n很大时, 就近似的服从正态分布. 这就是为什么正态随机变量在概率论中占有重要地位的一个基本原因.

棣莫夫 – 拉普拉斯定理

英文名称 : De Moivre-Laplace
该定理是独立同分布中心极限定理的特殊情况.
设随机变量 服从参数为n,p的二项分布, 则对于任意x, 有 xxx

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据