第五章极限定理

山东农业大学概率论与数理统计主讲人：程述汉苏本堂

第五章极限定理

5.1 大数定律

中中中中中中


本章概述

大数定律和中心极限定理就是使用极限方法研究大量随机现象统计规律性的。

阐明大量重复试验的平均结果具有稳定性的一系列定律都称为大数定律。

论证随机变量（试验结果）之和渐进服从某一分布的定理称为中心极限定理。


⒈ 人们在长期的实践中发现，频率以及大量测量值的算术平均值具有稳定性，也就是说，无论个别测量值如何，其平均结果实际上与个别测量值的特征无关，几乎不再是随机的了。这种稳定性问题如何从理论上给出解释？这正是大数定律要解决的问题。 ⒉ 长期观察表明，如果一个量是由大量的相互独立的随机因素的影响造成的，而每一个个别因素在总影响中所起的作用都很微小，则这种量通常都服从或近似服从正态分布。这个结论的理论依据就是中心极限定理。

⒊ 总之，大数定律是描述频率稳定性的理论 ( 理解 ), 中心极限定理在概率论的理论研究中占据重要地位 ( 会用 ) 。


2. 不等式的其它 ( 等价 ) 形式

2

)(1}|)({|)1(

XD

XEXP

2

1

)(

)()2(

XD

XEXP

例 1 估计 )(3|)(| XDXEX 的概率．

9

1

))(3(

)(})(3|)(|{

2

XD

XDXDXEXP解

2

( ){| ( ) | }

D XP X E X

5.1 大数定律 1.切贝雪夫不等式


切贝雪夫不等式只利用随机变量的数学期望及方差就可对的概率分布进行估计。从切贝雪夫不等式还可以看出 , 对于给定的 >0, 当方差越小时，事件 {|X-E(X)|≥} 发生的概率也越小，即 X 的取值越集中在 E(X) 附近．这进一步说明方差确实是一个描述随机变量与其期望值离散程度的一个变量．当 D(X) 已知时，切贝雪夫不等式给出了 X 与 E(X)的偏差小于的概率的估计值．

切贝雪夫不等式的用途：

（ 1 ）证明大数定律；（ 2 ）估计事件的概率。


例 2 设电站供电网有 10000 盏电灯，夜晚每盏灯开灯的概率均为 0.7 ，假定灯的开、关是相互立的，使用切贝雪夫不等式估计夜晚同时开着的灯数在 6800 到 7200 盏之间的概率。解令 X 表示在夜晚同时开着的灯数目，则 X 服从 n=10000 ， p=0.7 的二项分布，这时 ( ) 7000,E X np ( ) 2100.D X npq

2

{6800 7200}

2100{| 7000 | 200} 1 0.95

200

P X

P X

．

由切贝雪夫不等式可得 :


1)(11

lim11

n

kk

n

kK

nXE

nX

nP

n

kk

n

kk XEn

Xn 11

)(11

即对于任意＞ 0 ，当 n 充分大时，不等式

定理 1 （切贝雪夫大数定律）如果 X1, X2, …, Xn, …

是相互独立的随机变量序列，每一个 Xi 都有数学期望 E

(Xi) 和有限的方差 D(Xi), 且方差有公共的上界，即 D(X

i)≤C, i=1,2, …, n; C >0. 则对于任意＞ 0 ，有

依概率 1 成立。

3. 大数定律


2 21 1

1 1 1( ) ( )

n n

k kk k

cD X D X ncn n n n

1 1

1 1( ) ( ) ,

n n

i ii i

E X E Xn n

2 21 1 1

1 1 1 11 {| ( ) | } 1 ( ) 1

n n n

k k kk k k

cP X E X D Xn n n n

1 1

1 1lim {| ( ) | } 1

n n

k knk k

P X E Xn n

证因 X1, X2, …, Xn, … 相互独立，所以

又因由切贝雪夫不等式可得

所以切贝雪夫大数定律表明 , 相互独立的随机变量的算术平均值与其数学期望的差 , 在 n 充分大时以概率 1 是一个无穷小量 , 这意味着在 n 充分大时，的值将比较紧密地聚集在它的数学期望附近．

nX

nX( )nE X


11

lim1

n

kk

nX

nP

说明（ 1 ）在不变的条件下，重复测量 n 次得到 n个观察值， x1, x2, …, xn 可看作服从同一分布的 n 个相互独立的随机变量 X1, X2, …, Xn 的试验值。（ 2 ） n 充分大时， x1, x2, …, xn 的算术平均值与真值的误差依概率 1 任意小。（ 3 ） n 不太大时， x1, x2, …, xn 的算术平均值与真值的误差可能较大，所以，实际计算平均值时往往采取“去掉几个最高、几个最低”的办法。

推论 1 设随机变量 X1, X2, X3, …, Xn ,… 独立同分布，且有 E(Xk) = ， D(Xk) =2 ， k =1, 2, …, 则在 n

时对任意 ε ＞ 0 ，有


lim 1n

nP p

n

由于各次试验是独立的，因此 X1, X2, …, Xn, … 是相互独立的，且

证明定义随机变量

显然有 n= X1+X2+…+Xn, 且 Xk 服从参数为 p 的 0-

1 分布，故有 E(Xk) = p, D(Xk) = p(1-p) (k=1,2,…,n,…).

这是以频率定义概率的合理性依据。

1

n

n ii

X

11,2,... ,...

0k

k AX k n

k A

第次试验中发生第次试验中不发生

定理 2 ( 贝努里大数定律 ) n 重贝努里试验中事件 A发生 n 次 , 每次试验 A 发生的概率为 p ，则对任意＞0, 有


1 1

1 1( ) ( ) ( ) ,

n nn

i ii i

E E X E X pn n n

2 2

1{| | } ( )n n pqP p D

n n n

lim {| | } 0n

nP p

n

lim {| | } 1n

nP p

n

21 1

1 1( ) ( ) ( )

n nn

i ii i

pqD D X D Xn n n n

因此

由切贝雪夫不等式得

山东农业大学概率论与数理统计主讲人：程述汉苏本堂定义 1(依概率收敛 ) 设 y1, y2, …, yn, …是一个互相独立的随机变量序列，是一个常数，若对于任意正数，有

lim {| - | } 1nnP Y a

则称序列 y1, y2, …, yn, …依概率收敛于 a . 因此，由贝努里大数定律可得：设 n 是 n次独立试验中事件出现的次数 , p 是在每次试验中事件 A 发生的概率 , n

n

则频率依概率收敛于概率 p .


例 2 若在每次试验中， A 发生的概率为 0.5 ，进行 1000 次独立试验，估计 A 发生 400～ 600 次之间的概率。解因 X～ B(1000, 0.5) ， E(X)=500 ， D(X)=250

所以 P{ 400 < X < 600 } = P{ | X-500 | < 100 }

40

39

100

2501

)(1

22

XD

得 P{ | X-500 | < 100 }

2

( )( ) 1

D XP X E X

由

Documents

第五章 极限定理

第五章极限定理