確率 統計Ⅰ・第 10 回 i.i.d. の和と大数の法則
1. 確率論とは2. 確率変数、確率分布3. 確率変数の独立性 / 確率変数の平均4. 確率変数の平均(続き)、確率変数の分散5. 確率変数の共分散、チェビシェフの不等式6. ベルヌイ試行と二項分布7. 二項分布(続き)、幾何分布など8. 二項分布の近似、ポアソン分布、正規分布9. 正規分布とその性質10. i.i.d. の和と大数の法則11. 中心極限定理12. 統計学の基礎 1 (母集団と標本、確率論との
関係)13. 統計学の基礎 2 (正規分布を用いた推定・検
定)
ここです!
i.i.d. の和と大数の法則
1. i.i.d.の和
2.大数の法則
互いに独立で、同じ分布をもつ確率変数の列を i.i.d. と呼ぶ。
i.i.d. とその和
X1, X2, …, Xn を i.i.d. とし、
X = X1 + X2 + … + Xn とおく。
[ 各 Xi が確率 p で値 1, 確率 q =1-p で値 0 をとるときの X の分布が二項分布である。]
どんな分布でもよい(連続分布でもよい)
i.i.d. の和として見た二項分布の平均と分散
pqpXE i 01)(
pqqpppXV i 22 )0()1()(
だから、和 X については…:
一致(結果的に)
i.i.d. の和が二項分布になるのは、 Xi の分布が
1
pq確率0Xi という特別の場合。 このとき、
i.i.d. の和として見た二項分布の平均と分散
)(XE
)(XV
)()()( 21 nXEXEXE
ppp
)()()( 21 nXVXVXV
pqpqpq
np
npq
i.i.d. の和の平均と分散
nXE )(2)( nXV
一般には、 E(Xi) =μ, V(Xi) =σ2 とするとき、
i.i.d. の和の平均と分散のまとめ
E(X) = nμ V(X) = nσ2
X = X1 +…+ Xn
E(Xi) = p, V(Xi) = pq
0 1
pq
特に 二項分布
E(X)=np, V(X)=npq
X = X1 +…+ Xn
E(Xi) =μ, V(Xi) =σ2
i.i.d. の和と大数の法則
1. i.i.d.の和
2.大数の法則
問題: n→∞ のとき X はどうなるか?
大数の法則
たとえば X が二項分布の場合
平均 np → ∞ (どんどん右へ)
分散 npq → ∞ (広がっていく)
一般の場合も平均 nμ, 分散 nσ2 だから同様に発散。
では n で割って X / n を考えたら?
0
0.05
0.1
0.15
0.2
0.25
0.3
0.35
0.4
0.45
0 5 10 15 20
n → ∞
X / n の平均と分散
X = X / n = (X1+…+Xn) / n とおくとき、
nn
XEn
XE1
)(1
)(
nn
nXV
nXV
22
22
1)(
1)(
( ただし、 X1, …, Xn は i.i.d. で、 E(Xi)=μ, V(Xi)=σ2 )
n→∞ のとき
大数の法則
は変化なし)(XE
0/)( 2 nXV
これは次のことを意味する:
X の分布が、 μ= E(Xi) に“近づく”
(「大数の法則」)
大数の法則
● 特に X が二項分布の場合
一回の成功確率が p の試行を繰り返していくと、成功の相対度数が p に “近づく”
だから、「大数の法則」は次のことを意味する:
X = X / n の意味は 「相対度数」(確率 p の事象が起きた回数の割合)
X は成功度数だから
大数の法則(例)
P(X/n = r’)
p=0.5 n=50 の二項分布の相対度数 X のグラフ
0.2 0.4 0.6 0.8 1
0.02
0.04
0.06
0.08
0.1
大数の法則(例)
p=0.5 n=200 の二項分布の相対度数 X のグラフ
P(X/n = r’)
0.2 0.4 0.6 0.8 1
0.01
0.02
0.03
0.04
0.05
大数の法則(例)
p=0.5 n=2000 の二項分布の相対度数 X のグラフ
P(X/n = r’)
0.2 0.4 0.6 0.8 1
0.0025
0.005
0.0075
0.01
0.0125
0.015
0.0175
正確な大数の法則
厳密な数学の定理としては、
大数の弱法則
大数の強法則
( ベルヌーイの大数の法則 )
の2つがある。
大数の弱法則
1lim
XPn
任意の ε>0 に対して
ここで μ=E(Xi) .
X1, …, Xn を i.i.d. とし、 X = X1 + … + Xn , X = X / n = (X1 + … + Xn) / n とおくと、
次の事実が成り立つ:
大数の強法則
1lim
XPn
ここで μ=E(Xi) .
X1, …, Xn を i.i.d. とし、 X = X1 + … + Xn , X = X / n = (X1 + … + Xn) / n とおくと、
次の事実が成り立つ:
また、 V(Xi) は有限とする。
2.25 2.5 2.75 3 3.25 3.5 3.75 4
0.425
0.45
0.475
0.5
0.525
0.55
0.575
大数の強法則(例)
103=1000 104=10000
p=0.5 の二項分布の相対度数 X のn=102 ~ 104 における実験値
対数目盛り
2.5 3 3.5 4 4.5 5
0.425
0.45
0.475
0.5
0.525
0.55
0.575
大数の強法則(例)
103=1000 104=10000
p=0.5 の二項分布の相対度数 X のn=102 ~ 105 における実験値
対数目盛り105=100000