16.2.5 大数定律、极限定理

大数定律研究随机事件 $A$ 发生的概率 $P\left(A\right)$ 和它在大量重复试验中出现的相对频率 $n_A/n$ 之间的关系.

1. 伯努利大数定律

对任意给定的 $\epsilon >0$ 和 $\eta >0$ ,下述不等式成立

$$\begin{array}{}\text{(16.100a)}& P\left(\left|\frac{n_A}{n}-P\left(A\right)<\epsilon \right|\right)\ge 1-\eta ,\end{array}$$

若

$$\begin{array}{}\text{(16.100b)}& n\ge \frac{1}{4{\epsilon }^2\eta }\end{array}$$

其他类似定理可参见 [16.6], [16.21].

$◼$ 一个未必均匀的骰子, 需要掷多少次, 事件 “出现 6 点的相对频率与该事件发生概率的偏差小于 0.1 ” 至少以 99% 的概率发生?

由于 $\epsilon =0.01,\eta =0.05$ ,故 $4{\epsilon }^2\eta =2\cdot {10}^{-5},n\ge 5\cdot {10}^4$ ,伯努利大数定律必定成立. 这是一个非常大的数, 当分布函数已知时, 次数可减少 (参见 [16.10]).

2. 林德伯格-莱维中心极限定理

如果随机变量 $X_1,X_2,\cdots ,X_n$ 相互独立,且分布相同,期望为 $\mu$ ,方差为 ${\sigma }^2$ , 则当 $n\to \mathrm{\infty }$ 时,随机变量

$$\begin{array}{}\text{(16.101)}& Y_n=\frac{\frac{1}{n}\sum _{i=1}^n{X}_i-\mu }{\sigma /\sqrt{n}}\end{array}$$

的分布趋向于标准正态分布,即其分布函数 $F_n\left(y\right)$ 满足

$$\begin{array}{}\text{(16.102)}& \underset{n\to \mathrm{\infty }}{lim}{F}_n\left(y\right)=\frac{1}{\sqrt{2\pi }}{\int }_{-\mathrm{\infty }}^y{\mathrm{e}}^{-\frac{t^2}{2}}\mathrm{d}t.\end{array}$$

当 $n>30$ 时, $F_n\left(y\right)$ 可由标准正态分布取代 (参见 [16.1]). 更多的极限定理可参阅 [16.6], [16.10], [16.21].

• 从一批电阻器产品中选取容量为 100 的样本. 假设其实际电阻值相互独立, 且分布相同, ${\sigma }^2=150.100$ 个电阻的平均值是 $\overline{x}=1050\mathrm{\Omega }$ ,那么真实期望值 $\mu$ 以 $99\mathrm{\%}$ 的概率落在哪个区域内?

寻找 $\epsilon$ ,使得 $P\left(\left|\overline{X}-\mu \right|\le \epsilon \right)=0.99$ 成立. 假设随机变量 $Y=\frac{\overline{X}-\mu }{\sigma /\sqrt{n}}$ 服从标准正态分布 (参见 (16.101)),由 $P\left(\left|Y\right|\le \lambda \right)=P\left(-\lambda \le Y\le \lambda \right)=P\left(Y\le \lambda \right)-$ $P\left(Y<-\lambda \right)$ 和 $P\left(Y\le -\lambda \right)=1-P\left(Y\le \lambda \right)$ ,可推出 $P\left(\left|Y\right|\le \lambda \right)=2P\left(Y\le \lambda \right)-$ $1=0.99$ . 故 $P\left(Y\le \lambda \right)=\mathrm{\Phi }\left(\lambda \right)=0.995$ ,查阅第 1458 页表 21.17 可得 $\lambda =2.58$ . 由于 $\sigma /\sqrt{100}=1.225$ ,则以 $99\mathrm{\%}$ 的概率满足: $\left|1050-\mu \right|<2.58\cdot 1.225$ ,即 $1046.8\mathrm{\Omega }<$ $\mu <1053.2\mathrm{\Omega }$ .