27
#U9 ~³¶Æ ?3.c QBJ1»Ý-ngàÎ ©gàؾgà gàÓ¢-gàÐÍ \ÛÐÍ ÅÐÍQLÐÍ DWSÐÍ ¥mÐÍ

# U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

  • Upload
    others

  • View
    3

  • Download
    0

Embed Size (px)

Citation preview

Page 1: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#��U9

?3.c•••••••

Page 2: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

;*��:-�KR結果A1

原因B

結果AN

:

結果A2

P(結果|原因)

;*�:-�16

A1∩B A2∩B A3∩B A4∩B

原因B結果A

A1 A2 A3 A4

Page 3: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#���Rd�;*→:-�• ! "# 4

$ "#|! =$ !|"# $ "#∑()#* $ ! ∩ "(

=$ !|"# $ "#

∑()#* $ !|"( $ "(

=$ !|"# $ "#

$ !

4/f���;*�KR原因B1

原因B2

原因BN

:

結果

P(原因|結果)

Page 4: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

4/f�:-→;*�• " ! !# 2 4

$ !#|" =$ "|!# $ !#∑()#* $ " ∩ !(

=$ "|!# $ !#

∑()#* $ "|!( $ !(

=$ "|!# $ !#

$ "

4/f���;*�:-�16

B1∩A B2∩A B3∩A B4∩A

結果A原因B

B1 B2 B3 B4

Page 5: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

�����,N�%�&��KR�仮説H1

仮説H2

仮説HN

:

データD

P(仮説|データ)

�����,N�%�&��KR�• , -# 4

$ -#|, =$ ,|-# $ -#∑()#* $ , ∩ -(

=$ ,|-# $ -#

∑()#* $ ,|-( $ -(

=$ ,|-# $ -#

$ ,

Page 6: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

�����,N�%�&��KR�

H1∩D H2∩D H3∩D H4∩D

データD仮説

H1 H2 H3 H4

#���Rd�#��U9• 5

P( | ) 33

• 52

Page 7: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

`T�����• P( | ) 34• 5

2 =P( | ) 35

• =34

• 3 $ - $ ,|-$ -|, 34

$ -|, =$ ,|- $ -

$ ,

HO/f�H=/f�`T

事後確率尤度 事前確率

Page 8: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

HO/f�`T�H=/f仮説H1

仮説H2

仮説HN

:

データD

尤度P(データ|仮説)

仮説H1

仮説H2

仮説HN

:事後確率P(仮説|データ)

事前確率P(仮説)

HO/f�H=/f�`T• 2

=

確率

変数

x

Page 9: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

/f]L�/fZY• 5 4

34•• 34

サイコロの目(確率変数) 1 2 3 4 5 6

確率 1/6 1/6 1/6 1/6 1/6 1/6

コイントス(確率変数) 表 裏

確率 1/2 1/2

/fZY�Ig••••

••••

Page 10: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

iPS /f]L�/fZY確率

変数

a

b

P a ≤ x ≤ b( )

x

eD7�/f]L�/fZY• 5 4

34•• 34

Page 11: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

eD7/fZY�[5�ZD�XJ\B

• . /( 0( 4 = 3. 1 23 2 4

• ( )1 = /#0# + /303 + ⋯+ /*0*→ = 3

• 23 = /# − 1 30# + /3 − 1 303 + ⋯+ /* − 1 30*• 2

→ 3

. /# /3 /7 … /*

0 0# 03 07 … 0*

���'�_�/fZY

$

/

$ / = 4

Page 12: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

���'�_�/fZY

• ( )1 = 1× ⁄1 6 + 2× ⁄1 6 +⋯+ 6× ⁄1 6 = 3.5• 23 = 1 − 3.5 3× ⁄1 6 + /3 − 1 3× ⁄1 6 +⋯+ /* − 1 3×

⁄1 6 ≅ 2.9• 2 ≅ 1.7

)aZY• 4

=34

• [0, 1]4

Page 13: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

��( ��/fZY

• 34 234 5

#&!��G>�V@ZY• = 0

•/ #D# #DE#D# ×0 #DE × 1 − 0

•0 0 / ( ) 0( 0 3D3 ×03

3D3 ×03 3D# ×0 1 − 0 3D3 × 1 − 0 3

•1 …

Page 14: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

��( ��"��&�C08

#D# ×0 #DE × 1 − 0

3D3 ×03 3DE × 1 − 0 33D# ×0 1 − 0

7D7 ×07 7D3 ×03 1 − 0 7D# ×0 1 − 0 37DE × 1 − 0 7

#&!��G>�V@ZY• 0 1 = 3 63 F G =

0 3 (G = F×0)4

• 334

!HFIJ F, 0 = *DL M 0L M 1 − 0 *NL ∝ 0L M 1 − 0 *NL

Page 15: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#&!��G>�V@ZY• 4 5

• 1 = F0• 23 = F0 1 − 0

. 0 1

1 − 0 0

V@ZY�`T1L• Q 0 4

Q 0 = *DL M 0L M 1 − 0 *NL

• 0 5 = F 3 = G4

Q 0 = RD7 M 07 M 1 − 0 3 ∝ 07 M 1 − 0 3

• 4logQ 0 ≈ log 07 M 1 − 0 3 = 3log0 + 2log 1 − 0

Page 16: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

`T1L�9Eh• 0 = 0.6 Q(0) 0.03456

0.0 0.2 0.4 0.6 0.8 1.0

0.00

0.01

0.02

0.03

0.04

p

L(p)

V@ZY

• G = Y − 1, F − G = Z − 1 !HFIJ F, 04

!HFIJ F, 0 ∝ 0L M 1 − 0 *NL

= 0[N# M 1 − 0 \N#

=Y − 1 ! Z − 1 !Y + Z − 1 !

Page 17: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#��ZY•^ Y, Z, 0

^ 0; Y, Z = !`ab Y, Z = c M 0[N# M 1 − 0 \N#

= c MY − 1 ! Z − 1 !Y + Z − 1 !

0 < 0 < 1, 0 < Y, 0 < Z

c =1

∫E#0[N# M 1 − 0 \N#f0

#��ZY• !`ab Y, Z 1 23 4

1 =Y

Y + Z

23 =YZ

Y + Z 3 Y + Z + 1

Page 18: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#��1L• ! Y, Z 34

! Y, Z = gE

#

/[N# M 1 − / \N#f/

! Y, Z = ! Z, YY! Y, Z + 1 = Z! Y + 1, Z

! Y, Z = ! Y, Z + 1 + ! Y + 1, Z

0.0 0.2 0.4 0.6 0.8 1.0

0.6

0.8

1.0

1.2

1.4

x

y

#��ZY

0.0 0.2 0.4 0.6 0.8 1.0

0.0

0.5

1.0

1.5

x

y

!`ab 1, 1!`ab 3, 2

Page 19: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#��ZY

0.0 0.2 0.4 0.6 0.8 1.0

1.0

1.5

2.0

2.5

3.0

x

dbet

a(x,

0.5

, 0.5

)

0.0 0.2 0.4 0.6 0.8 1.00.0

0.5

1.0

1.5

2.0

2.5

x

dbet

a(x,

5, 5

)

!`ab 0.5, 0.5 !`ab 5, 5

#��ZY�^W /fZY•••••

Page 20: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

#��ZY�+bh• 3

3 2

•2 22

3

2 0.0 0.2 0.4 0.6 0.8 1.0

01

23

4x

dbet

a(x,

10,

15)

プロジェクト終了期間

#��1L��($1L• 4

! Y, Z = gE

#

0[N# M 1 − 0 \N#f0

=Y − 1 ! Z − 1 !Y + Z − 1 !

=Γ Y Γ ZΓ Y + Z

• Γ Y 34

Page 21: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

�($1L• Γ Y

Γ Y = gE

i

/[N#`Nj f/

Y > 0

• Γ Y 4

Γ Y = Y − 1 !Γ Y + 1 = YΓ YΓ ⁄1 2 = l

�($ZY• ^ / 4

^ / = mb Y, n =n[

Γ Y/[N#`Noj, / ≥ 0

• q . r .

q . =Yn

q . =Yn3

Page 22: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

�($ZYΓ(0.5) Γ(10)

0.0 0.2 0.4 0.6 0.8 1.00e+00

2e-07

4e-07

6e-07

8e-07

1e-06

x

0.0 0.2 0.4 0.6 0.8 1.0

05

1015

x

mb 0.5, 1 mb 10, 1

FLZY• 3 Y = 1

^ / = n`Noj, / ≥ 1

q / =1n

r / =1n3

Page 23: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

FLZY

0 2 4 6 8 10

0.0

0.2

0.4

0.6

0.8

1.0

x

M2ZY����ZY�• 1 23 / 3

4 s 1, 23 34

^ / = s 1, 23 =1

2l23`/0 −

/ − 1 3

223

• q . r . 6

q . = 1r . = 23

Page 24: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

���'�<�A9Q確率

変数2 3 4 5 6 7 8 9 10 11 12

11

21

12

22

31

13

32

23

41

14

33

42

24

51

15

43

34

52

25

61

16

44

53

35

26

62

54

45

36

36

55

46

46

65

56

66

M2ZY

Page 25: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

XJM2ZY• /

t = ⁄/ − 1 2• t 1 = 0 23 = 1

s 0,1

• s 0,1 ^ t 4

s 0,1 = ^ t =1

2l`/0 −

t3

2

V@ZY�M2ZY•

!HFIJ F, 0 = *DL M 0L M 1 − 0 *NL ∝ 0L M 1 − 0 *NL

• F 3 suv

F0, F0()

1 −0

s F0, F0 1 − 0 =1

2lF0 1 − 0`/0 −

/ − F0 3

2F0 1 − 0

Page 26: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

w3ZY• .( 1 23 4.(~s 1, 23

y( =z{N|}

4y(~s 0,1

• y(3 1 w3 w3 1 4 3

y(3 =

.( − 12

3

~w3 1

• ~ = ∑()#* y(

3 F w3 w3 F 4~ =�

()#

*y(3 ~w3 F

0 5 10 15 20 25 30

0.0

0.1

0.2

0.3

0.4

0.5

0.6

x

dchi

sq(x

, 1)

w3ZY

w3

1 w3 w3 1

w3 3

w3 5w3 10

w3 20

Page 27: # U9web.sfc.keio.ac.jp/~maunz/BS19/BS19-04.pdfHO/f `T H=/f 仮説 H1 仮説 H2 仮説 HN データ D 尤度 P(データ|仮説) 仮説 H1 仮説 H2 仮説 HN 事後確率 P(仮説|データ)

w3ZY• c w3 w3 c ^ /; c 0 ≤ /

(/ < 0 0)

^ /; c =1

2Å3Γ c

2

`Nj3/

Å3N#

• Γ Y• c w3 3

c6 2c

�($ZY�w3ZY• mb ⁄c 2 , 2 c w3 w3 c

mbc2, 2 = w3 c

• / = t3 mb ⁄1 2 , ⁄1 2

mb12,12

=1

2lt3`/0 −

t3

2= ^ t = s 0,1