2018年7月17日

第13回　大数の法則と中心極限定理（8）

村澤 康友

前回のキーワードn変量正規分布，n変量標準正規分布，正規分布の性質（線形変換，周辺分布，独立と無相関，条件つき分布），たたみ込み，再生性（2項分布，ポアソン分布，正規分布）

1

今日のポイント� �1. 確率変数列{Xi}の標本平均X̄n := (X1+· · ·+Xn)/n

の分布を近似する．2. {Xi}が平均µ，分散σ2の独立かつ同一な分布をもつなら

{X̄n

}はµに確率収束（大数の法則）．

3. {Zi}が平均0，分散1の独立かつ同一な分布をもつなら{√

nZ̄n

}はN(0, 1)に分布収束（中心極限定理）．し

たがってZ̄na∼ N(0, 1/n)．� �

2

目次

1 標本平均（p. 183） 4

2 大数の法則 8

3 中心極限定理 13

3

1 標本平均（p. 183）{Xi}を確率変数列とする．

定義 1. (X1, . . . , Xn)の標本平均は

X̄n :=X1 + · · ·+Xn

n

注：確率変数の平均（期待値）とは異なる．

4

標本平均の分布（p. 149）定理 1. X1, . . . , Xnが平均µ，分散σ2の独立かつ同一な分布をもつなら

E(X̄n

)= µ

var(X̄n

)=

σ2

n

5

証明：期待値の線形性より

E(X̄n

)= E

(X1 + · · ·+Xn

n

)=

E(X1) + · · ·+ E(Xn)

n

=µ+ · · ·+ µ

n

6

X1, . . . , Xnは独立なので

var(X̄n

)= var

(X1 + · · ·+Xn

n

)=

var(X1 + · · ·+Xn)

n2

=var(X1) + · · ·+ var(Xn)

n2

=σ2 + · · ·+ σ2

n2

7

2 大数の法則収束

{xn}を実数列とする．

定義 2. 任意のϵ > 0について，ある自然数N(ϵ)が存在し，

n ≥ N(ϵ) =⇒ |xn − c| < ϵ

なら{xn}はcに収束するという．

注：limn→∞ xn = cまたはxn → cと書く．

8

確率収束（p. 162）

定義 3. 任意のϵ > 0について

limn→∞

Pr[|Xn − c| < ϵ] = 1

なら{Xn}はcに確率収束するという．

注：plimn→∞ Xn = cまたはXnp−→ cと書く．

9

大数の法則（p. 160）

定理 2. {Xi}が平均µ，分散σ2の独立かつ同一な分布をもつなら

plimn→∞

X̄n = µ

10

証明：チェビシェフの不等式より任意のϵ > 0について

Pr[∣∣X̄n − E

(X̄n

)∣∣ ≥ ϵ]≤

var(X̄n

)ϵ2

すなわち

Pr[∣∣X̄n − µ

∣∣ ≥ ϵ]≤ σ2/n

ϵ2

n → ∞とすると右辺は0．

11

例：n回のコイントスにおける表の割合

0 50 100 150 200

0.0

0.2

0.4

0.6

0.8

1.0

Index

x

12

3 中心極限定理分布収束

{Xn}に対応するcdfの列を{Fn(.)}とする．

定義 4. F (.)の任意の連続点xで

limn→∞

Fn(x) = F (x)

なら{Xn}はF (.)に分布収束するという．

注：Xnd−→ F (.)と書く．

13

中心極限定理（p. 162）

定理 3. {Xi}が平均µ，分散σ2の独立かつ同一な分布をもつなら

1√n

n∑i=1

Xi − µ

σ

d−→ N(0, 1)

注：すなわちX̄n − µ√

σ2/n

d−→ N(0, 1)

14

漸近分布

定義 5. nが大きいときのXnの近似分布を漸近分布という．

注：中心極限定理より

X̄na∼ N

(µ,

σ2

n

)ただし

a∼は漸近分布であることを表す．

15

中心極限定理の証明（p. 164）

Xiを標準化したものをZiとする．

Zi :=Xi − µ

σ

(1/√n)∑n

i=1 ZiのmgfがN(0, 1)のmgfに収束することを示せばよい．すなわち

limn→∞

M 1√n

∑ni=1 Zi

(t) = et2/2

16

Z1, . . . , Znは独立かつ同一な分布をもつので

M 1√n

∑ni=1 Zi

(t) := E(e

t√n

∑ni=1 Zi

)= E

(n∏

i=1

et√nZi

)

=n∏

i=1

E(e

t√nZi

)= MZ

(t√n

)n

17

M ′Z(0) = 0，M ′′

Z(0) = 1なので，マクローリン展開より

MZ

(t√n

)= MZ(0) +M ′

Z(0)t√n+

M ′′Z(0)

2

(t√n

)2

+ · · ·

= 1 +t2

2n+ · · ·

したがって

limn→∞

MZ

(t√n

)n

= limn→∞

(1 +

t2/2

n+ · · ·

)n

= et2/2

18

指数乱数の標本平均の分布（n = 1）

n = 1

x

Fre

quen

cy

0 1 2 3 4 5 6 7

010

020

030

040

0

19

指数乱数の標本平均の分布（n = 10）

n = 10

x

Fre

quen

cy

0.5 1.0 1.5 2.0 2.5

050

100

150

200

250

20

指数乱数の標本平均の分布（n = 100）

n = 100

x

Fre

quen

cy

0.8 1.0 1.2 1.4

050

100

150

200

21

正規乱数（p. 171）

{Ui}を [0, 1]上の一様乱数の列とすると

E(Ui) =1

2

var(Ui) =1

12

中心極限定理より

U1 + · · ·+ U12 − 6a∼ N(0, 1)

22

正規乱数の累積相対度数グラフとN(0, 1)のcdf

−4 −2 0 2 4

0.0

0.2

0.4

0.6

0.8

1.0

ecdf(x)

x

Fn(

x)

−4 −2 0 2 4

0.0

0.2

0.4

0.6

0.8

1.0

x

pnor

m(x

)

23

今日のキーワード標本平均，確率収束，大数の法則，分布収束，中心極限定理，漸近分布

24

次回までの準備復習 教科書第8章試験 (1)教科書を読む(2)用語の定義を覚える(3)復習テストを自力で解く(4)過去問に挑戦

25