確 率 論 第４回-- 確率とその基本的性質 --

情報工学科 山本修身

べき集合（集合論の追加事項）集合から集合を作り出す演算としてべき集合 (power set) の生成がある．べき集合は与えられた集合の部分集合をすべて集めた集合である．

2X

= {S | S ! X}

要素を集合としてとっているので，べき集合は「集合の集合である」

べき集合の要素の個数 (cont.)有限集合のべき集合の要素の個数について以下の性質が成り立つ．

これは，それぞれの要素について含まれるか含まれないかを決定することによってべき集合の１つ要素を決定できることから明らかである．

n(2X) = 2n(X)

べき集合の要素の個数(cont.）X = {a, b, c}

2X

= {!, {a}, {b}, {c}, {a, b}, {b, c}, {c, a}, {a, b, c}}

a b c{} × × ×{a} ○ × ×{b} × ○ ×{c} × × ○{a, b} ○ ○ ×{b, c} × ○ ○… … … …

n(2X) = 23 = 8

確率の定義確率は自然に存在するものではなく，確率空間としてあらかじめ定義されているものである．コロモゴロフによって，1930年代に定義された．近代確率論は，確率空間の定義からスタートして，確率空間の満たすべき性質を調べる．

数学的な概念の定義ー自然数とは何かー

数学的な概念を定義するのは難しい．例：自然数とは何か？直感的にはそれほど曖昧ではないが，定義するのは容易ではない．普通は定義すべき概念が満たすべき性質を列挙することによって定義する．1. １は自然数である．2. n が自然数ならば n+1 は自然数である．3. 1.と2.によって定義されるもの以外に自然数は存在しない．

数学的な概念の定義ー自然数の「足し算」とは何かー2つの自然数を足すにはどうすればよいか？答え：足し算とは何か？任意の自然数a, bについて

a + (b + 1) = (a + b) + 1

が成り立つ2 + 3 = 2 + (2 + 1) = (2 + 2) + 1= (2 + (1 + 1)) + 1 = ((2 + 1) + 1) + 1= (3 + 1) + 1 = 4 + 1 = 5

標本空間 (sample space)今注目している確率現象によって起こる結果を集めた集合を標本空間 (sample space)と呼ぶ．標本空間の要素を根元事象と呼ぶ．ここでは普通Ωという記号で表現する．

1 62

53 4 ! = {1, 2, 3, 4, 5, 6}

試行 (trial)

事象の集合事象とは，以下のように定められたΩの部分集合のことである．事象の集合 E はつぎの性質を満たさなければならない．1. 　2. 　　　　ならば3. 　　　　　　　 ならば

! " E

X ! E Xc! E

X1, X2, . . . ! E X1 ! X2 ! . . . " E

事象の集合の例サイコロの場合：Ω={1, 2, 3, 4, 5, 6}

E = {!,!, {1, 2}, {3, 4, 5, 6}}

E = 2!

E = {!,!}

事象の集合の取り方には任意性がある．

確率の定義標本空間と事象の集合が決定されたら，最後に確率を決定する必要がある．確率は事象の集合から[0, 1]の実数値への関数である．ただし，この関数は以下の性質を満たす必要がある．

P(!) = 1

X1,X2, . . . が互いに共通部分を持たない

P(X1 ! X2 ! . . .) =!!

i=1

P(Xi)

このことを完全加法性と呼ぶ

確率空間とは

確率空間とは，標本空間，事象の集合，確率が組になったものである．すなわち，

　　　　(Ω, E, P）

のことを確率空間と呼ぶ．確率空間があらかじめ与えられていないと確率を計算することはできない．

サイコロの確率空間たとえば，サイコロの確率空間はつぎのように図示される．

Ω1, 2, 3, 4,5, 6

E

0

1P

事象の集合根元事象の集合 [0, 1]

サイコロにおける確率の決め方標本空間が有限集合である場合，すなわち根元事象が有限個しかない場合には，それぞれの根元事象の確率が決まれば，確率はすべて決定できる．たとえば，つぎのように定義する．

このとき，

Ω1, 2, 3, 4,5, 6

E

0

1P

図 1: サイコロの確率空間

ここで，!は空事象と呼ばれる事象の一つであると考える．さらに，確率 P はE

から [0, 1]への関数であり，つぎの性質を満たす：

• P(!) = 1

• X1, X2, . . . が互いに共通部分をもたないEの要素であるとすれば，P(X1 "X2 " · · ·) =

!i=1,2,··· P(Xi)がなりたつ．

3 確率空間の例 – 有限集合の場合 –

我々は確率を考える場合に，確率空間があらかじめ与えられていると仮定する．確率空間が与えられない場合には，確率を計算することはできない．以下にに，サイコロを振るという行為をもとに確率空間を定義する．サイコロを振ったときの結果は６種類である．それぞれの面が標本空間の要素となるので，

! = {1, 2, 3, 4, 5, 6} (3)

と表現できる．ただし，“1”は 1の面が出るという現象を表していると仮定する．標本空間の部分集合を集めて事象の集合を作るが，事象の集合の条件として，和集合について閉じていなければならないので，ここでは!のベキ集合をそのまま事象の集合として考える（そう考えなければいけない理由は特にない）．事象の集合E として 2!を考える．さらに，確率として，

P(a) = 1/6 (a = 1, 2, . . . , 6) (4)

と定義し，これを用いて，Eのすべての事象の確率が定義される．たとえば，e =

{2, 4, 6}とおけば，

P(e) = P({2, 4, 6}) = P({2}) + P({4}) + P({6}) = 1/6 + 1/6 + 1/6 = 1/2 (5)

2

Ω1, 2, 3, 4,5, 6

E

0

1P

図 1: サイコロの確率空間

ここで，!は空事象と呼ばれる事象の一つであると考える．さらに，確率 P はE

から [0, 1]への関数であり，つぎの性質を満たす：

• P(!) = 1

• X1, X2, . . . が互いに共通部分をもたないEの要素であるとすれば，P(X1 "X2 " · · ·) =

!i=1,2,··· P(Xi)がなりたつ．

3 確率空間の例 – 有限集合の場合 –

我々は確率を考える場合に，確率空間があらかじめ与えられていると仮定する．確率空間が与えられない場合には，確率を計算することはできない．以下にに，サイコロを振るという行為をもとに確率空間を定義する．サイコロ

を振ったときの結果は６種類である．それぞれの面が標本空間の要素となるので，

! = {1, 2, 3, 4, 5, 6} (3)

と表現できる．ただし，“1”は 1の面が出るという現象を表していると仮定する．標本空間の部分集合を集めて事象の集合を作るが，事象の集合の条件として，和集合について閉じていなければならないので，ここでは!のベキ集合をそのまま事象の集合として考える（そう考えなければいけない理由は特にない）．事象の集合E として 2!を考える．さらに，確率として，

P(a) = 1/6 (a = 1, 2, . . . , 6) (4)

と定義し，これを用いて，Eのすべての事象の確率が定義される．たとえば，e =

{2, 4, 6}とおけば，

P(e) = P({2, 4, 6}) = P({2}) + P({4}) + P({6}) = 1/6 + 1/6 + 1/6 = 1/2 (5)

2

Ω1, 2, 3, 4,5, 6

E

0

1P

図 1: サイコロの確率空間

ここで，!は空事象と呼ばれる事象の一つであると考える．さらに，確率 P はE

から [0, 1]への関数であり，つぎの性質を満たす：

• P(!) = 1

• X1, X2, . . . が互いに共通部分をもたないEの要素であるとすれば，P(X1 "X2 " · · ·) =

!i=1,2,··· P(Xi)がなりたつ．

3 確率空間の例 – 有限集合の場合 –

我々は確率を考える場合に，確率空間があらかじめ与えられていると仮定する．確率空間が与えられない場合には，確率を計算することはできない．以下にに，サイコロを振るという行為をもとに確率空間を定義する．サイコロを振ったときの結果は６種類である．それぞれの面が標本空間の要素となるので，

! = {1, 2, 3, 4, 5, 6} (3)

と表現できる．ただし，“1”は 1の面が出るという現象を表していると仮定する．標本空間の部分集合を集めて事象の集合を作るが，事象の集合の条件として，和集合について閉じていなければならないので，ここでは!のベキ集合をそのまま事象の集合として考える（そう考えなければいけない理由は特にない）．事象の集合E として 2!を考える．さらに，確率として，

P(a) = 1/6 (a = 1, 2, . . . , 6) (4)

と定義し，これを用いて，Eのすべての事象の確率が定義される．たとえば，e =

{2, 4, 6}とおけば，

P(e) = P({2, 4, 6}) = P({2}) + P({4}) + P({6}) = 1/6 + 1/6 + 1/6 = 1/2 (5)

2

歪んだサイコロならば…サイコロが歪んでいれば，すべての根元事象は等確率ではない．たとえば，

と定義すれば，

と書くことができる．

θ

図 2: 回転するドーナツ状の輪と矢を射ったときの角度の計測

と計算することができる．もしサイコロが歪んでいて，同じ確率でそれぞれの目が出現しないとすれば，与える確率Pは上記の例と異なることになる．たとえば，

P(a) =

!1/2 (a = 1)

1/10 (a = 2, . . . , 6)(6)

などと定義することによって，それぞれの事象の確率の計算は異なることになる．

4 確率空間の例 – 連続的な集合の場合 –

標本空間が連続的な空間の場合でも，基本的には同様に考えることができる．たとえば，回転するドーナツ状の輪に矢を射り，矢はいつもはずれないとし，かならず，ある基準線からの角度が測れると仮定する（図 2参照）．この場合，角度は 0度以上 360度未満とすれば，標本空間は

! = [0, 360) (7)

と書ける．この標本空間から作られる事象の集合は無限集合である．事象の集合として，この区間に含まれる開区間から，補集合をとる演算と和集合をとる演算によって得られるすべての集合を要素とする集合として定義すれば，それは，事象集合の約束を満たす．この集合のことをボレル集合族と呼ぶ．このボレル集合族は，!のベキ集合よりも小さな集合である．また，確率の計算は，通常の区間については，

P((a, b)) = |b! a|/360 (b > a) (8)

定義すれば良い．このようにすると，たとえば，観測した角度が 30度より大きく，60度未満である事象を eとおいて，

P(e) = P((30, 60)) = |60! 30|/360 = 1/12 (9)

3

P({1, 3, 5}) = P({1}) + P({3}) + P({5}) = 7/10

連続的な確率空間標本空間が連続的であるような例を考えることができる．たとえば，試行の結果として連続的な実数値が出てくるような場合である．以下のような例を考える．

θ! = [0, 360)

連続的な確率空間（つづき）事象をどのように定義するかが問題であるが，普通はこの標本空間に含まれる開区間とそれらから補集合と和集合の演算によって作られるあらゆる集合を含む集合（ボレル集合族）を考える．

θ

! = [0, 360)

E = {x ! ! | x " B}

これは実数のベキ集合よりは小さい．すなわちボレル集合族にふくまれない集合が存在する．

連続的な確率空間（つづき）確率の計算は，微小区間(x, x + dx)における確率が，dx/360と定義すれば，

のように計算できる．

θ

P((20, 60)) =

! 60

20

1

360dx =

" x

360

#60

20

=1

9

確率の基本的性質 (1)定理１：空事象の確率は0である．

完全加法性より，

となり，P(!) = P(! " !) = P(!) + P(!)

P(!) = 0

確率の基本的性質 (2)定理2： 任意の事象Eについて

が成り立つ．

完全加法性より，

となり，これより明らか．

P(Ec) = 1 ! P(E)

と計算することができる．また，もっと複雑な事象については，たとえば，

P(e!) = P((30, 60) ! (70, 90)) =|60" 30|

360+

|90" 70|360

=1

12+

1

18=

5

36(10)

となる．

5 確率の基本的な性質まず，空事象 #についてつぎの性質が成り立つ．

定理 1 空事象の確率は 0である．すなわち，

P(#) = 0 (11)

証明 確率の公理より，

P(#) = P(# ! #) = P(#) + P(#) (12)

より，P(#) = 0が得られる． (証明終）

また，余事象についてつぎの性質が成り立つ．

定理 2 任意の事象 Eについて，

P(Ec) = 1" P(E) (13)

が成り立つ．

証明 任意の事象Eについて，補集合の定義から，E ! Ec = !, E $ Ec = # が成り立つ．したがって，確率の加法性から，

P(E ! Ec) = P(E) + P(Ec) = P(!) = 1 (14)

これより，本定理を得る．　 (証明終)

定理 3 (加法法則) 任意の事象A, Bについて，

P(A !B) = P(A) + P(B)" P(A $B). (15)

が成り立つ．

4

確率の基本的性質 (3)定理３：任意の事象A, Bについて

が成り立つ．

と計算することができる．また，もっと複雑な事象については，たとえば，

P(e!) = P((30, 60) ! (70, 90)) =|60" 30|

360+

|90" 70|360

=1

12+

1

18=

5

36(10)

となる．

5 確率の基本的な性質まず，空事象 #についてつぎの性質が成り立つ．

定理 1 空事象の確率は 0である．すなわち，

P(#) = 0 (11)

証明 確率の公理より，

P(#) = P(# ! #) = P(#) + P(#) (12)

より，P(#) = 0が得られる． (証明終）

また，余事象についてつぎの性質が成り立つ．

定理 2 任意の事象 Eについて，

P(Ec) = 1" P(E) (13)

が成り立つ．

証明 任意の事象Eについて，補集合の定義から，E ! Ec = !, E $ Ec = # が成り立つ．したがって，確率の加法性から，

P(E ! Ec) = P(E) + P(Ec) = P(!) = 1 (14)

これより，本定理を得る．　 (証明終)

定理 3 (加法法則) 任意の事象A, Bについて，

P(A !B) = P(A) + P(B)" P(A $B). (15)

が成り立つ．

4

証明 A!B = (A \B)! (B \A)! (A"B) であり，右辺の集合は互いに共通部分を持たないことから，確率の加法性を用いて，

P(A !B) = P(A \B) + P(B \ A) + P(A "B) (16)

を得る．さらに，

P(A \B) + P(A "B) = P(A) (17)

P(B \ A) + P(A "B) = P(B) (18)

より，以上 3式を足し合わせることにより，本定理を得る (証明終)

さらに事象に包含関係あるときの確率について，つぎの性質が成り立つ：

定理 4 (事象の包含関係) 事象 A, Bについて，A # Bならば，P(A) $ P(B) である．

証明 A = (A \B) !Bと書けるので，右辺の２つの集合は共通部分がないので，

P(A) = P(A \B) + P(B) (19)

となり，P(A \B) % 0 より　本定理を得る． (証明終)

さらに，根本事象を要素とする集合同士は共通部分を持たず，それらすべての和集合は標本空間に一致することから，つぎの定理が成り立つ．

定理 5 標本空間が有限個の元からなるとき，それぞれの根本事象をE1, E2, . . . , En

とおけば，n!

i=1

P(Ei) = 1 (20)

証明 根本事象の性質から明らか． (証明終)

5

証明 A!B = (A \B)! (B \A)! (A"B) であり，右辺の集合は互いに共通部分を持たないことから，確率の加法性を用いて，

P(A !B) = P(A \B) + P(B \ A) + P(A "B) (16)

を得る．さらに，

P(A \B) + P(A "B) = P(A) (17)

P(B \ A) + P(A "B) = P(B) (18)

より，以上 3式を足し合わせることにより，本定理を得る (証明終)

さらに事象に包含関係あるときの確率について，つぎの性質が成り立つ：

定理 4 (事象の包含関係) 事象 A, Bについて，A # Bならば，P(A) $ P(B) である．

証明 A = (A \B) !Bと書けるので，右辺の２つの集合は共通部分がないので，

P(A) = P(A \B) + P(B) (19)

となり，P(A \B) % 0 より　本定理を得る． (証明終)

さらに，根本事象を要素とする集合同士は共通部分を持たず，それらすべての和集合は標本空間に一致することから，つぎの定理が成り立つ．

定理 5 標本空間が有限個の元からなるとき，それぞれの根本事象をE1, E2, . . . , En

とおけば，n!

i=1

P(Ei) = 1 (20)

証明 根本事象の性質から明らか． (証明終)

5

A B

確率の基本的性質 (4)定理4：事象Aが事象Bの部分集合になっているとき，

証明 A!B = (A \B)! (B \A)! (A"B) であり，右辺の集合は互いに共通部分を持たないことから，確率の加法性を用いて，

P(A !B) = P(A \B) + P(B \ A) + P(A "B) (16)

を得る．さらに，

P(A \B) + P(A "B) = P(A) (17)

P(B \ A) + P(A "B) = P(B) (18)

より，以上 3式を足し合わせることにより，本定理を得る (証明終)

さらに事象に包含関係あるときの確率について，つぎの性質が成り立つ：

定理 4 (事象の包含関係) 事象 A, Bについて，A # Bならば，P(A) $ P(B) である．

証明 A = (A \B) !Bと書けるので，右辺の２つの集合は共通部分がないので，

P(A) = P(A \B) + P(B) (19)

となり，P(A \B) % 0 より　本定理を得る． (証明終)

さらに，根本事象を要素とする集合同士は共通部分を持たず，それらすべての和集合は標本空間に一致することから，つぎの定理が成り立つ．

定理 5 標本空間が有限個の元からなるとき，それぞれの根本事象をE1, E2, . . . , En

とおけば，n!

i=1

P(Ei) = 1 (20)

証明 根本事象の性質から明らか． (証明終)

5

０以上P(B) = P(B \ A) + P(A)

BA

確率の基本的性質 (5)定理５：標本空間が有限個の要素でできているとき，根元事象を

とおけば，

証明 A!B = (A \B)! (B \A)! (A"B) であり，右辺の集合は互いに共通部分を持たないことから，確率の加法性を用いて，

P(A !B) = P(A \B) + P(B \ A) + P(A "B) (16)

を得る．さらに，

P(A \B) + P(A "B) = P(A) (17)

P(B \ A) + P(A "B) = P(B) (18)

より，以上 3式を足し合わせることにより，本定理を得る (証明終)

さらに事象に包含関係あるときの確率について，つぎの性質が成り立つ：

定理 4 (事象の包含関係) 事象 A, Bについて，A # Bならば，P(A) $ P(B) である．

証明 A = (A \B) !Bと書けるので，右辺の２つの集合は共通部分がないので，

P(A) = P(A \B) + P(B) (19)

となり，P(A \B) % 0 より　本定理を得る． (証明終)

さらに，根本事象を要素とする集合同士は共通部分を持たず，それらすべての和集合は標本空間に一致することから，つぎの定理が成り立つ．

定理 5 標本空間が有限個の元からなるとき，それぞれの根本事象をE1, E2, . . . , En

とおけば，n!

i=1

P(Ei) = 1 (20)

証明 根本事象の性質から明らか． (証明終)

5

証明 A!B = (A \B)! (B \A)! (A"B) であり，右辺の集合は互いに共通部分を持たないことから，確率の加法性を用いて，

P(A !B) = P(A \B) + P(B \ A) + P(A "B) (16)

を得る．さらに，

P(A \B) + P(A "B) = P(A) (17)

P(B \ A) + P(A "B) = P(B) (18)

より，以上 3式を足し合わせることにより，本定理を得る (証明終)

さらに事象に包含関係あるときの確率について，つぎの性質が成り立つ：

定理 4 (事象の包含関係) 事象 A, Bについて，A # Bならば，P(A) $ P(B) である．

証明 A = (A \B) !Bと書けるので，右辺の２つの集合は共通部分がないので，

P(A) = P(A \B) + P(B) (19)

となり，P(A \B) % 0 より　本定理を得る． (証明終)

さらに，根本事象を要素とする集合同士は共通部分を持たず，それらすべての和集合は標本空間に一致することから，つぎの定理が成り立つ．

定理 5 標本空間が有限個の元からなるとき，それぞれの根本事象をE1, E2, . . . , En

とおけば，n!

i=1

P(Ei) = 1 (20)

証明 根本事象の性質から明らか． (証明終)

5