66
! ""#

MCMC Convergence case study: IM

Embed Size (px)

Citation preview

Page 1: MCMC Convergence case study: IM

������������������� ��������

� �������������� ���� ��

������������� ��!

�"��"�#���

Page 2: MCMC Convergence case study: IM

���$� ���%���� ����&���$

' () ������$� �������$� �� ���&�� �&���t����� ������ * ����������+������&���� ��� ���&���� ������� �� � �&�

* (����������� �����$� ������������� ��$�����$� ����&��������,,���� ���-��

' . �� �� ���&���$�* ���$� �����(m1, m2 = 0)* /0��$�&��� ����(m1 = m2)* /0��$�����$� ������-���(q1 = q2 = qA)* / 1

' 23 ����&���$4* 5�����,��&&��� ������ ���,�������$���

3 ���� ����&���$

Page 3: MCMC Convergence case study: IM

���� ���� � ������

' �������&�����������&� ���– t, θ1, θ2, θΑ, m1, m2

* 3 �������&����$$�$��

' 6���%����,������&� ���– ui, mi1, mi2

– Genealogies' 7 �����������&�����������&� ���

' � $�������������$���%����,������&� ���

Page 4: MCMC Convergence case study: IM

���� �%��8��������9

' ��$ ��$������$� �����8�0��$�����&9

' 3 �����$���,,���� ������������

' �� . # �����&� ���� ���� �&� ��8������ �����&���$9

' �������������������� ��� �����6�,������������ ��� ��* : �$����&�$$

* ��$�&������&�$�)

' �������� �����&��&� ����� �� �) �;$$� �$������ �,�����* ������� ���� ����2������$$,�$�4

n+2(n-1) ����&� ������� ���,�$$�&���$<

6= (3 ��,��� �1

Page 5: MCMC Convergence case study: IM

�������>� ����

�" ������$��� �&�

" ���������

?" (����� ����$��� �&

@" A ��� ������ �� ��

Page 6: MCMC Convergence case study: IM

������$��� �&

' �������� ) �����; ����) ���) � �����$� ��$$����$���

* ������� �� ��������������' � � �� ����������� � ���������� ���� ���

' 6��������� �� � ������ �������������

* B ��� ������������ �&�� �,� �������� ���� �&� ����� ���� ���

() ���&��� �� � ����� ����&�&������" ���������$������ ������������,,��$ �8�&������$�9�

��&����$��� ��� ��������&�$�+�����$�&�" " . � ������� ����) ��$�����,���"

dGGfGYfcfYfG

)(),|()()|( ΘΘ=Θ �Γ∈

�"�����

Page 7: MCMC Convergence case study: IM

5����� �����,�������������

' 3 �������,�� ���� ������ ��) �������* (���� � ���,� ����������� � �����+ � �&��� ����t+1�������������

' (�������� �� � � �,� ����������

8�"�"��� � ��&� ��+9�

' (����������$� ���,������� ����� ����� � � ��� �����+ � �&��� ���8�"�"�� ����� ����&� ��+9

' (�&��������* 3 �0������,�� � ��

* = , ��� �$���,� �&���������� ����

' � � �����$� ������ ) ����� ���* ������� �������������������

�"�����

Page 8: MCMC Convergence case study: IM

5����� �����,�������������

' 3 �&����������������������������0����0��$�����&���� ���� ���* 3 �� � ����������&�) �������� ���� � �������

* ���� ��������$��������

* 3 � $����� ������0��$�����&���� ���� ����

' ������� ����������� ������ ��$����� ���

' � ������ �� � �����������&���� � ������

' � �������� ���� ������ ���� � ���������� ���� ���

�"�����

7 �� ���� �����,���������� �&�����

(x+∆x, y+∆y)��

Pr(x+∆x, y+∆y)

Page 9: MCMC Convergence case study: IM

5���&� ���B ��� ��

' A �) ����) ��� � ���2������4�

� � ���������� ���� ���C* �� ����$����� ������ ����� �����������$� �

' �819����� ��������� ���� ���

' 819���������$���� ���� ���

���

���

���

���

=

),|()|(

),|()|(

,1min),|(

*

*

*

*

ygyp

ygyp

y�

t

t

ttMH

θθθ

θθθ

θθ

���

���

=)|()|(

,1min),|(*

*

ypyp

y�

ttMH

θθθθ

),|(),|( ** ygyg tt θθθθ =

�� ��,

p(θ|y)

g(θ*|θt, y)

�"�����

Page 10: MCMC Convergence case study: IM

5���&� ���B ��� ��

' 3 �� �� ���&����� ��$�� � �* B ���$$����&�&�� ��� �&� ��* ����) �� � �����$���

' 3 �0��� ��$$������ ������&� ���* � �� ������>� ���) �����&� �������� ����� ����$��%

A �� ������ ��

�"�����

Iteration θ m t G1 θ1 m1 t1 G12 θ2 m2 t2 G2… … … … …b θb mb tb Gbb+1 θb+1 mb+1 tb+1 Gb+1b+2 θb+2 mb+2 tb+2 Gb+2… … … … …b+m θb+m mb+m tb+m Gb+m

������� � ��� ����

���� �����������& � ��� ����

Parameter

������� ����

Iter q m t1 42.7660 24.7302 0.09912 33.2195 24.7302 0.09913 32.1012 21.5676 0.20744 15.5683 16.6066 0.88955 15.8359 7.3401 0.88956 14.0830 11.0646 0.88957 14.0830 11.0646 0.76378 14.0830 9.7314 0.76379 14.0830 9.7314 0.715510 14.0830 9.7314 0.715511 14.0830 14.7419 0.715512 20.2126 13.6762 0.273013 28.3537 21.1475 0.329014 10.2557 14.7419 0.7813

Page 11: MCMC Convergence case study: IM

����� ��������, ��� ����� ����$�������,

' 5���,�$�����������$���,��&��� �� ���� ��$�0��� ���� �����) �����

* 3 ���� �� � ��������) �$$��������� � �������� � �����,��� �� �&�' . � ���������$���������� ��$$�����,�$�&��� ��,� �&��

* 3 �$�� ������) �$���) ������� ��$� � ������������' (������������� � �� �&� ����,�����&� ���

�"�����

Page 12: MCMC Convergence case study: IM

����� ��������, ��� ����� ����$�������,

' () ��8 ����9���� ��$�������� �� �) ������� �������������������������$������" A �) �$�������$��&������%�����C

* 3 � ������ �

" A �) �$������������ ���������, ��� �������%��C* ���������

?" 8� ����������� �� � �������C9�

' �� ���,� ��������������������� ��$$�������) �) �$$� ���������+�$����� ���� � �������8&�+��9

�"�����

?

?

?

Page 13: MCMC Convergence case study: IM

3 � ������ �8� &�����&�$���,��&� ������ �����C9

' 7 �,��� ����* (�������� �� � ���,� �����������$���������������� ������ ��$�

���� ������,� �������

' �&�$�� ����* 3 �� � ��������,��&���,,���� ����� ����� ���� � ������* /��� ��$$�����������&�$������ �����&���$���8 ������ ������

��� ���� ���9�����&� ���) �����) ��� �� ��

' 3 � ������ ������������ ��* �� �&����� ����������������&��$�,� �&�

' D ��$��* �������&��� ��,� �&��* �����������$���� ���� �� �� � ������ ������������������"�

' B �,�� ��� ��,� ���,�$�,��' ������$������,����� ��� �� �� � ������ �������� ������������' . � ������� ����) ��$�����,���

�"�����

Page 14: MCMC Convergence case study: IM

3 � ������ �8� &�����&�$���,��&� ������ �����C9

' ��,��&�$�8�����$9* (������,�����&� ���� ������ �&�

' 7 ����� ���$� �' ��&�$� ��� 0��� �$� �$� ��

' ���&�$�8� � �� ��$9* D �) ���E� ������ ��8�FF 9

' 3 ��$������' -%����

* A ����$����� ����� �$� ������ ��8�FG?9' 3 ��$������' ���&��%���%����� � � �� ��

* D �$&��%������������ ��' ��$ ��$�������' � ��$������,����������� ) ������,,���� �����

�"�����

Page 15: MCMC Convergence case study: IM

���������8A �) �&�����������) ����� �&������&� ���C9

' A �) �$������) ������� ������ �������� ��� �2���4�� �&� ����,� �������&� ���C

' D ��� ������������������>� ����* 7 ����������� ���� �&� �� �� �� �� ���,�, �����&�$��$��C�

' 5�����$����

' (������� ��,���������������$���� ����$���$$����$����

' ���&�$���������������� ��* A ����$����� ����� �$� ������ �

* ��, ��� ����6�) ��E�������� �

�"�����

Page 16: MCMC Convergence case study: IM

���������8A �) �&�����������) ����� �&������&� ���C9

�" A �) �$�������$��&������%�����C

" A �) �$������������ ���������, ��� �������%��C

(��������$� $���� �� �������� � ����� ) ����������) ������� ���� ��� ��" �� ���,���� �����$��8��9�$�������

" �� ���,������$������"

�"�����

Page 17: MCMC Convergence case study: IM

������������� ���,����$������8A �) �&�����������) ����� �&������&� ���C9

' 7 ��) ��������� �����$��,����������������� ��������� ��$$����� ���� ���8��7 9

' 6��������� � ���&�����µ��� ����� �� �� ������ ��&�������� ���� ������������ ����83 7 9��σ������ �����&�����,���&�$��� �� �) �����) ��m�

' ���) ��������� �������������

' . ��%������������&����� �� �) ��$��������� � �������&� �������� �&�����$�) $�

mSE

σµ ˆ)ˆ( =

(���0��� ����������) �&����$�) ��C

�"�����

Page 18: MCMC Convergence case study: IM

������������� ���,������$������8A �) �&�����������) ����� �&������&� ���C9

' � ����) �,��&� �&��� ���t ����������� ���� ���� � ���,� ��������� � �&��t-1 8�� �����$� ��9

' (�������������,� �&�������������, �������� �����������������"�

' � ���� �������������������,�������p (ARp) ���

' � �����* εt �����) �� ���������������8�����&����7 9�

' &����0 ������������σ2

' (����&���$������� ��,�$������&�$ ��$������������&���$��* (�������� ���$����,� �������&� ����θt��������������� ������

�����������$�����,� �� �����&� ������ ��������� �� ���t-p

tptptt εθαθαθ +++= −− ...11

�"�����

Page 19: MCMC Convergence case study: IM

������������� ���,������$������8A �) �&�����������) ����� �&������&� ���C9

' () ��,�� �����) �$$���$����������� ������) � �����&�$��������������

* (����� �����$� ����,�� ����8� ��9' ��������� ����� �����$� ������ ) ����θt ����θt+p � �$��p

* (������ ��$��� �����$� ����,�� ����85� ��9"�' ��������� ����+��������$� ������ ) ����θt ����θt+k �� ����� ���,������ ���

�� �����$� �����ρ���1"�ρ�%�

' A �$��� ���������� ����������p���,��� ARp ������"

tptptt εθαθαθ +++= −− ...11

�"�����

Page 20: MCMC Convergence case study: IM

������������� ���,������$������8A �) �&�����������) ����� �&������&� ���C9

' �,�θt ���ARp 8�����5� ��9

* $������ ��p ) �$$��������,��� $����,,���� � ����-���' ���,��� �� ��&�������&��� ��

* ) �$$�������� �-����� �$������ ��� �����' ��&���, ��� �� ����; � �$$����&������� �θ

tptptt εθαθαθ +++= −− ...11

�"�����

Page 21: MCMC Convergence case study: IM

������������� ���,�6�������������AR1 ������8A �) �&�����������) ����� �&������&� ���C9

' 3 ������������������������ AR1 process* �"�"����$�� ���,��� � ��&���$������ ������� �θt

' 6��������� � ���&�����,�θ&�����$�) $�� ������7 ���&�$���

' �,�T �����&�� �$������ �� �) �;���������) � ��� �����&�����,���&�$��� �� �) ������� ����������������������

* . �&�����,���&�$��������������� ����0������,� �������,���� �$������

' (��&�����$����,��� ��������� �����$� �����8ρ19��� ��&�������) �&���&������&�$���) ������� ������&������ ����7

Tm

SE ≤−+=

1

1

ˆ1ˆ1ˆ

)ˆ(ρρσθ

���

−+

≥1

12

2

11ˆ

ρρσ

Tm

ttt εθαθ += −11

3 �&�$����-����,$� ����,� ���83 3 ��9

�"�����

Page 22: MCMC Convergence case study: IM

������������� ���,�6�������������AR1 �������8A �) �&�����������) ����� �&������&� ���C9

' � �3 3 ����,����&����� �� �) ������� ����&�$�� ��� �&���&���� ���������("�

' � �ρ� H��"FF��3 3 ���H��FF<

' (����&��� �����,� ����� ���������$��� �&�) �$$��* � ����� ��� � ���� ���� ���� �� ���� ����$��� �&�������$�

* �,�ρ� H��"FF����&�$������ ���� �&���$����� �����,�ρ� H��"F��

* /�����,����������$��� � ����� �����$� ����� �������,��&�������"FG�83 3 ���H�FF9� ���"GI�83 3 ���H�� 9�����;���������������$,���$� �,���&�$��"

1

1

11

ρρ

−+=SSIF

�"�����

Page 23: MCMC Convergence case study: IM

������������� ���,�$�����������8A �) �&�����������) ����� �&������&� ���C9

' �����&��� ����&���&������&�$��

' A ����� �����$� ����������

' � ������$�� ��� ���������� �����$� ���

�"�����

�� ���) C

Page 24: MCMC Convergence case study: IM

���� ��5���&� ���B ��� ���85������$���� ���� ����������� �����$� ���9

' (�������������� ����� * 5������������$����&������������;$$�$���$����>� �&�����,� ��&

* (���� ��� �����������$���8�$����* ����� �9

' (�������������� ����$�* 5�������������&�$$�&���������� ������������ � ��&���������; �

&���������0���$�� ������ �������&� �������

* (���� ��� ���$���� ��) ���������) ����8������* ����� �9

' (��������������>�� ���� * ��+�&�-��&���&�� � ������ �������&� �������

* = �����&��������@@J ���� ������ ��8������� ����$$���* $�) ���� �9

�"�����

Page 25: MCMC Convergence case study: IM

���� ��5���&� ���B ��� ��8����$����������$���� ���� ���9

' A �) ����) ������ ������$����C

�"�����

� � �� �5� �������$�

Page 26: MCMC Convergence case study: IM

���� ��5���&� ���B ��� ��8����$������� ��9

' A �) ����) ������ ������$����C

�"�����

A ����$���� �����$� ��

5����� ��� ���2� ��4

���� �������$�&��,2������� �� � ������ �4

� ,,� ���� ���,��������

� � �� �5� �������$�

Page 27: MCMC Convergence case study: IM

�� ����$������$��

' �� ����$��%���$������������������ �����$��8��?9

' 3 �����$�����$$�$�������) � ����,,���� ���� ��

' A �� ����,,� �� ������� ��,� ���$���$�����* ������������� ���,���$$�������&�$ �&���$�����&� ���

������

* � $$�) �� �������� ��&���� ������ �������$$���

�"�����

Page 28: MCMC Convergence case study: IM

= �>� �����,��� ������ ��,� ���) �������

�" ������$��� �&�

" ���������* 7 � ��&����) �� �����������$����������������

� � ������ �

* /+�&������) � �����������&�+��

* 7 � ��&���� ����������,������� �&� ��

?" (����� ����$��� �&

@" A ��� ������ �� ��

Page 29: MCMC Convergence case study: IM

(��$�� �� �) �;$$�����

' ���� ���* ������������,���,�$��* � $$�) �� ������* �����$� ��� �� ����� $������&��� ��� ���

' �* �������, ) �����������&�� �,���� � �� ��$��&�� �������

��������* ���������) �$������,��&��� ��KK) ) ) "�%���>� "��K* . � � �����$���$�� � �� ��$������

' ���� ���� * 7 �����$$��,� ��� ����� �� �) �;$$� �$������ * ������������ ���� ��������$�

"����������

Page 30: MCMC Convergence case study: IM

(����������

' ���������) �$������,��&��� ��KK) ) ) "�%���>� "��K

' �������, ) �����������&�� �,���� � �� ��$��&�� �������������

' 5������ �� �) �;$$����* �= 7 �* L���3 &�� �

' (��$���� ����= 7 � �������������" ��� ���&������� ��5������� ������� �$$�������� " � �$�� ��,���������) �$$��������?" 5��������,� �����������@" � �$�� ��,��������) �$$��������I" 3 �$� � ����= 7 � �������!" ��) �$$���) �$������-���,�$������������� "

' ����� � ������ ����,��� �� L���3 &�� � ������

' ��� ������� �� �����,������ �$$���������������������,�������� ���� &$���$�����&�� � �����,��

"����������

Page 31: MCMC Convergence case study: IM

B ������� ���+�&��������������� �

' 3 ��� �����' ����%��� �' 5���������&����$����������$��� �� �8�����������,9' � �� �� ������

* 5���&� ��� ���������� ���$�� ���,� �������* ��&�$� ��� 0��� �$� �$� ��8�"� IJ ��I�J ������FM"IJ 9* ������$������$������ ���� �&� ���8L7 /�9* N ��� L7 /�* 7 ��� �����$� ���,�>��� L7 /�* 3 �&&����� � �� ����,�&�����$���� ���� �����8��$����������

����$� ����������� �����$� ����9* /,,� ������&�$����-���� �&� ��* D �) ���E� ��������������� �* ��, ��� ����6�) ��E�������� �* D �$&��%������������ �* A ����$�����%� �$�������� �

"����������

Page 32: MCMC Convergence case study: IM

B �������6�������� ���� ���

' 5� �2������ �"�� 4��� ����� ����� �����,��

' 6���� ����� ���� ���;��&�&���

# Load the coda library> library(coda)

# Clear R’s memory> rm(list = ls(all = TRUE))

# Reads our MCMC dataset and assigns it to MCMCdata> MCMCdata <- read.table("MCMCdata.out", header=TRUE)

# Find the number of iterations (length of the matrix)> size = dim(MCMCdata)[1]

# Turn MCMCdata into a mcmc object> MCMCdata = mcmc(data= MCMCdata, start = 1, end = size, thin = 1)

"����������

Page 33: MCMC Convergence case study: IM

B ������� ������� ���L7 /�

�9 ����������� ������� �������,� ������ ����������� ���� ��

9 (��� ���� � ����������>�� ��� ������,� ������ ������

# Show me some KDEs for the marginal posteriors> plot(MCMCdata, trace = FALSE, density = TRUE, smooth = TRUE)

"����������

Page 34: MCMC Convergence case study: IM

7 ����� ���$� �

' 6����,��� ��������� �������&� ���

' ����� ����������,���) �) �$$� �����������&�+��

"����������

Bad

BadBad

Good

Good Good

Page 35: MCMC Convergence case study: IM

B ������������� ���$� �

# Make a plot of all the parameters in the dataset> plot(MCMCdata, trace = TRUE, density = FALSE, smooth = TRUE,auto.layout = TRUE)

"����������

Page 36: MCMC Convergence case study: IM

B ��������&�$� ����0��� �$� �$� ��

# Make a plot of all the parameters in the dataset# Plot the 0.025,0.5,0.975 points of the distributions> cumuplot(MCMCdata, probs=c(0.025,0.5,0.975))

"����������

Page 37: MCMC Convergence case study: IM

���&�$���������������� ��

' 7 �������$$�� �����&�� ������� ��������$�&� ����* � ��� ���,��� �����$�� ���� ���,� ����������,,���� C�

' 3 ��$������* D �) ���E� ������ ��* A ����$����� ����� �$� ������ ��

' ��$ ��$�������* 3 �� ���,��&���,,���� ���� ��$����� ���������� ��������

�������C* D �$&��%������������ ��

"����������

Page 38: MCMC Convergence case study: IM

���&�$���������������� ��� D �) ���E� ������ �

' (��������

* �,� ������������ � ��������' ���&������,� ���,��� ���������J ��,� ������������ ���$�� ��

�����I�J ��,� ������������$����� �����&�"�

' (��� �� ��$�$� �����-%�����,��� �����,,���������&������� ) ���� ����� ) ����� ���,� �������"�

3 ����������,� �������$��������) �$$�������

�����$�) � ����% ��) ��������������"

# Comp ut e a z - s c o r e f o r e a c h p a r a me t e r f o r t he f i r s t 10% a n d l a s t 50 %# o f t he c ha i n , f r a c 1 + f r a c 2 mus t b e <1> g e we ke . d i a g ( MCMCda t a , f r a c 1=0 . 1 , f r a c 2=0 . 5 )

Fr a c t i on i n 1s t wi ndo w = 0 . 1Fr a c t i on i n 2nd wi ndo w = 0 . 5

q1 q2 m1 m2- 1 . 231 57 0 . 527 06 - 0 . 810 59 - 0 . 053 35

"����������

Page 39: MCMC Convergence case study: IM

���&�$���������������� ��� A ����$����� ����� �$� ������ �

' ���&��%���%����� � � �� �� �� �� � �����$$����� �������,���� � ���������� ���� ���"�* ���� ����$���� �� ���) ��$�������* �,�,��$��* ���������J ��,���$����� � ������������,� ��������������$�� ��

��&������F�J ��,� ��������* �J KG�J ��� "�* �� �$��� ����

' (��� �� �������' I�J ��,� ��������������������������* ��������$$�,��$���

# Tell me whether the chain might be stationary using H-W> heidel.diag(MCMCdata, eps=0.1, pvalue=0.05)

Stationarity start p-valuetest iteration

q1 passed 1 0.665 q2 passed 1 0.959 m1 passed 1 0.369 m2 passed 1 0.793

Halfwidth Mean Halfwidthtest

q1 passed 22.354 0.6172 q2 passed 7.060 0.2353 m1 passed 1.239 0.0615

m2 passed 0.354 0.0228

"����������

Page 40: MCMC Convergence case study: IM

���&�$���������������� ��� A ����$����� ����� �$� ������ �

' ��������� ���� ���� ����� ���� ��&�����,� �����������������������,,���� $��$��� ��

�����������������$���$��,������"

' B ���� ������ �����,� �������� �� ��������A %� �� � ������� ���&�� ��FIJ ���,�������� ����$���������&� ���&����"�

' A �$,��,� ���) �� ���,� ������ ����$���� �����&������ �� ���&���"

' �,� ����� ����� ) ���� �����$,%) �� ������ ���&�������$�) ��� ����2���4 ������������ ���� ��� �� �������"�

# Tell me whether the chain might be stationary using H-W> heidel.diag(MCMCdata, eps=0.1, pvalue=0.05)

Stationarity start p-valuetest iteration

q1 passed 1 0.665 q2 passed 1 0.959 m1 passed 1 0.369 m2 passed 1 0.793

Halfwidth Mean Halfwidthtest

q1 passed 22.354 0.6172 q2 passed 7.060 0.2353 m1 passed 1.239 0.0615

m2 passed 0.354 0.0228

"����������

Page 41: MCMC Convergence case study: IM

�����������,����$������

' � ���� ������������$���� �&���,���������$�����* B ���$�� �� �$$� �� � �����������; �� � ������* �������������� ) ��) ����

�" ����������������� ���� �� �) ������ ��� � ���������� ���� ����* ���; ����� �,�����, ��

" ������� ��������� �� � ����� ����* 3 �&�$���0�� �������$����� �� �����* �� ������������ �&��* ��&� �&������������ ���$��$��� �&��* � �) �$$�>�&�� ��

��� �������������&������+�$���� �� �����,�����) ��$�"

' ����� �����,� ���������* ����&�� �� ��$� �� �� �$����= L* ��� �����������0��� � � ���������� ��* �� �� ����������

� � �. �. D ��5�������������������� ������ ��� ��������� �� ������������ � ������<�� �������,��$��� ����>� � �����$$����� �������,�� � ������ ����� �������"

"����������

Page 42: MCMC Convergence case study: IM

/���� ��$� ������&�$ ��$�������

' = ����������� �� �� �&� �� ������������ �����,� ���������$�&������$�����������&�$ ��$��������,��&���,,���� �� �� �����$��� ) � ���� �������&� �������"�

' �,����������������� �� � ������ ����� ������&�$ ��$��������������2� � ������4 �����,,���� ���������,� �������&� ��������� �������;���� ������,� ��������� ) ������$�&�"�

"����������

Page 43: MCMC Convergence case study: IM

���&�$���������������� ����D �$&��%������������ �

' � &��� �� ��������$������,�������� �&��� ) �����8���,����$�9�&����������� �� ���,��&���,,���� �8�������������9���� ��$���$���"�

' (���������������� ��������,�� &�$ �&���$� � ��� �������&� �������"�

' B ���� ���&�����,� ����&�����$���������) � ����������������� ����&�����$���������,����$$��������&�������(�� D �$&��%������������ ���$�$� ������������,� ��"�

' O �$������������������ ������������������$�������� �� ��$$���������������� ��������$�&"

"����������

Page 44: MCMC Convergence case study: IM

���&�$���������������� ��� D �$&��%������������ �

' ��� ���,�$$�) ��������) ����� ��� &&"$�� ���>� �8�$$�� ������ �9� �� ��� ������� � ������ � �� ���,��&���,,���� ��$������� ���� � ������"�

' (��� ) ������������� ����� �����&��$�� �"

' (����������,� ���������$$������$���� �����������) ��������������"�' ���$�&����� ����,�) ������������$�������8) � ����,,���� ���� ��$����� ����9� ���&����"

> MCMCdata_chain1 <- read.table("MCMCdata_chain1.out", header=TRUE)> MCMCdata_chain2 <- read.table("MCMCdata_chain2.out", header=TRUE)> size_chain1 <- dim(MCMCdata_chain1)[1]> size_chain2 <- dim(MCMCdata_chain2)[1]> MCMCdata_chain1 <- mcmc(data= MCMCdata_chain1, start = 1, end = size_chain1, thin = 1)

> MCMCdata_chain2 <- mcmc(data= MCMCdata_chain2, start = 1, end = size_chain2, thin = 1)

> MCMCData <- mcmc.list(MCMCdata_chain1, MCMCdata_chain1)> gelman.diag(MCMCData, confidence = 0.95, transform=FALSE,autoburnin=TRUE)

factors:

Point est. 97.5% quantileq1 1.03 1.03q2 1.00 1.00m1 1.00 1.00m2 1.00 1.00

Multivariate psrf

1

"����������

Page 45: MCMC Convergence case study: IM

���&�$���������������� ��� D �$&��%������������ �

' � �����$���������$�� �� � �� D �$&��%������������ �����,��$��,� ����������,� ������$���� ��������������&�����"�

' �= 7 � �����$� � ����������,� ������� ������������������������� �&� � �������,� ����������,� ������� �$$�,$� �� ��"

# Plot shrink factors by iteration> gelman.plot(MCMCData, bin.width=10, max.bins=50, confidence=0.95)

"����������

Page 46: MCMC Convergence case study: IM

���&�$���������������� ������, ��� ����6�) ��E�������� �

' /� �&� ����) �$������������������ ��������������� ���� �&� ��0��� �$��* ) � ����������,����������

* ) � ����&������,�����������$� �# Tell me how long that I need to run the chain to achieve my stated # accuracy in estimates of the parameters> diag(MCMCdata, q=0.05, r=0.01, s=0.95, converge.eps=0.001)

Quantile (q) = 0.05Accuracy (r) = +/- 0.01Probability (s) = 0.95

Burn-in Total Lower bound Dependence(M) (N) (Nmin) factor (I)

q1 10 6204 1825 3.400 q2 8 4878 1825 2.670 m1 8 4928 1825 2.700 m2 2 1796 1825 0.984

> raftery.diag(MCMCdata, q=0.50, r=0.025, s=0.95, converge.eps=0.001)

Quantile (q) = 0.5Accuracy (r) = +/- 0.025Probability (s) = 0.95

Burn-in Total Lower bound Dependence(M) (N) (Nmin) factor (I)

q1 8 4392 1537 2.86 q2 9 5718 1537 3.72 m1 8 4340 1537 2.82 m2 3 1786 1537 1.16

> raftery.diag(MCMCdata, q=0.95, r=0.01, s=0.95, converge.eps=0.001)

Quantile (q) = 0.95Accuracy (r) = +/- 0.01Probability (s) = 0.95

Burn-in Total Lower bound Dependence(M) (N) (Nmin) factor (I)

q1 12 7230 1825 3.96 q2 3 2036 1825 1.12 m1 12 5984 1825 3.28 m2 4 2443 1825 1.34

"����������

Page 47: MCMC Convergence case study: IM

= �>� �����,��� ������ ��,� ���) �������

�" ������$��� �&�

" ���������

?" (����� ����$��� �&

@" A ��� ������ �� ��

Page 48: MCMC Convergence case study: IM

� �� �������� ���������

' �� ����$������$���* �&������&�+����) ����������� �� ��$$���������� �����$� ����"* ������ ���$���$�������,�� ���� ��������� ��,� ������&"�����"�* �������� �����&�����,��) ���� �&� � �� ) ����������8%���� ���9"�

' ����,�� ����������$���� ���� ���* 6�&� ��� �� ��� �&�����������$� ������$� �� ����&� ����t"�* = �����������$���� ���� �����8��&������9������� ��&�������� ��

��-���,� ��������� �� ���������,�* �,�����������������&���$����� ����� ��8$���$�����9�

' ��������������&������ ���>� ��' � �� ������ ��) �$$������' ����������������������� �����$� ���

* 5������$���� ���� ������������������� ��$�����' D ����$��' (�������������� ��8κ9' �� � ������$����8ui9

?"�(����

Page 49: MCMC Convergence case study: IM

�� ����$������$��

' 3 �����$�����$$�$�������) � ����,,���� ���� ��

' A �� ����,,� �� ������� ��,� ���$���$�����* ������������� ���,���$$������ &�$ �&���$����&� ���������

* � $$�) �� �������� ��&���� ������ �������$$���

' ��������+������ � ���������� ����$����� ��* �������) � ����&�$������ ����+�����&�����, ��

* . ���� ����>�� ���&�����,�������������� ������&�

' (�&���� �����,��� �� ���������������,����������������������� ����� �

Chain Heating Prob. Dist.0 1 ��(Θ, G | Y) 1.0

1 0.9 ��(Θ, G | Y) 0.9

2 0.8 ��(Θ, G | Y) 0.8

3 0.6 ��(Θ, G | Y) 0.6

?"�(����

Page 50: MCMC Convergence case study: IM

�$�������,���� ��

' 6�����

' () �%� ��

' () �%� ������� ����8�� �,������&�������<9

' D ��&� ��

?"�(����

Page 51: MCMC Convergence case study: IM

�$�������,���� ��� 6�����

' ��� �,��� �������8�� ��������$�,�$9

' ���,,� �� ���&�+�&�&���� ��

' � ����+"�$��������$��,���,�) ������

?"�(����

Default: g1=0.05

g1=0.01

g1=0.1

����,���

111igi +

i = chains # (starting at 0)

ββββi

Page 52: MCMC Convergence case study: IM

�$�������,���� ��� () �%� ���8���� ���9

' � �����,���,�) �������8P@9

' 3 ) ����� ���&������ ���$�) �,���$�) ���&�����������

ββββi Default: g1=0.05, g2=2

g1=0.1, g2=2

g1=0.01, g2=2

����,���

ββββi

Default: g1=0.05, g2=2

g1=0.05, g2=1

g1=0.05, g2=3

����,��

?"�(����

Page 53: MCMC Convergence case study: IM

�$�������,���� ��� D ��&� ��

' �� ���,���&���������* 6� $����� ���,���$�) ���&�����������

* ����&������� ���,���������&�����������

' ������,�$�) �����$ �������&�����,�������8�������$���9

ββββi

Default: g1=0.8, g2=0.9i=6

i=8

i=10

3 ���� ���� ����&�����,������

Default: g1=0.8, g2=0.9

g1=0.7, g2=0.9

g1=0.9, g2=0.9

��8�������,�$������ �9

Default: g1=0.8, g2=0.9

g1=0.8, g2=0.95

g1=0.8, g2=0.85

�8&�+�&�&���� ��9

?"�(����

Page 54: MCMC Convergence case study: IM

(����� ������ �������&� ���

' � �� ����������$���$��,���� ��C* 7 ���������� ����� �

* �"M%�"G����&� ��) ����= L�,���&���� �

' � ����$��$����) �$$�������$�����= L�) � ��,�) �������8�����@9

' ��$ ��$��$���������$����0�����&��� ������8Q��9

' �,���������� � ���"M%�"G�) � ��,�) ������

(�� �����" 7 �������$�&��������� ) � ��&�+���� �����������"M%�"G�8$�) �������� ��9 " ����� ��� �&���� �����,� ��������) ������) ����� ������&������ 8�""��P��J 9?" ����� ���&�+�&�&��$��� �,� ������ ���,�� ������,���� �������� @" � �>�� � ������ ���,�� ������ �$� ����$����������� ��+���� �� �,������) ����� ��

' ��������� ���������� ���,�� ���' ���������&���������

?"�(����

Page 55: MCMC Convergence case study: IM

(����� ������ �������&� ����8��&�������) ����� ���������� ��9

?"�(����

Page 56: MCMC Convergence case study: IM

= ����� �� ����

' �,���� �����,�t ���$�) �������–v �� ���

' ����$���������$����&����$��1

?"�(����

Page 57: MCMC Convergence case study: IM

= ����� �� ����

' ���������������������������� �* �� � ���� ���

' � ������ �������������� ��� �

' 7 ������������� ��� �����$������,�������1* ���&������K��"�"������ ���� �������C

?"�(����

Page 58: MCMC Convergence case study: IM

��� �%,��������$$�$�-� �����,���

' � ��������,��$�$�������������������������� �� ��

' ����������&�$ ��$��&��������������&������&� ���

' B ������� ������� �����,,���� �����

' . �&������2������ �"�� 4�,�$�����* 2������ �R�����"�� 4

* 2������ �R���� "�� 4

* � 1

' � $ ��� ������������ � �������&���� ��������,�$��8D �$&��%�������� ���9

' ��&�� ����&&����� � ���� "�>�� ��������������,���

> MCMCdata_chain1 <- read.table("MCMCdata_chain1.out", header=TRUE)> MCMCdata_chain2 <- read.table("MCMCdata_chain2.out", header=TRUE)> size_chain1 <- dim(MCMCdata_chain1)[1]> size_chain2 <- dim(MCMCdata_chain2)[1]> MCMCdata_chain1 <- mcmc(data= MCMCdata_chain1, start = 1, end = size_chain1, thin = 1)

> MCMCdata_chain2 <- mcmc(data= MCMCdata_chain2, start = 1, end = size_chain2, thin = 1)

> MCMCData <- mcmc.list(MCMCdata_chain1, MCMCdata_chain1)

�� L/�3 B �/ �������&���� �����������������,��&��$$������

Page 59: MCMC Convergence case study: IM

3 �&&�����,�������������� ����

' B ������� ������������� ���� ��&��������������,�������$��� �&

' 6����� ��* A �� ���&�

* (����

* � � �����$� ���

* ���������������� ��

' 7 �����) �� � ����* �������������8�� ����; � ���� �9

* � $ �����?

' A �� ���� �� ��

' ��������: ��,������

' � $ �������&� ���

* B ��� ���� ����$�,���t

' �,������ ���2���4����* ����� �) � �� �����&��������� �� ��

* ����� 1

* B � �$������ � ��������� �� � ����$��� �&�����������

�/%� � �. �. D ��5�������������������� ������ ��� ��������� �� ������������ � ������<�

�� ������ ����� ��� ��� ��������� ��� ��� ��� !"# $ %"�

Page 60: MCMC Convergence case study: IM

= ������������ ����1

Page 61: MCMC Convergence case study: IM

= �>� �����,��� ������ ��,� ���) �������

�" ������$��� �&�

" ���������

?" (����� ����$��� �&

@" A ��� ������ �� ��

Page 62: MCMC Convergence case study: IM

A ��� ������ �� �

' ���θ1 > θ2C

' ���m1 > m2C

' A �) ����) ��� �M1 ���M2 C

?"�A ��� ������ �� ��

. ��������� ���,����8�������9������$�$� ������,�� �����,� �������&� ��������� ������������� ��������� ���� ����,��� �� �0��� � �

A �) � ������ ��" ���������) ��$�&����� ���������� ��� " B ��� ���$$�����&� ������� �� �� ��� ���?" /��$�� ��,�� ���@" � ��$�-���������&�$���&������ �� ������$�������&� ���

' �����' 3 7' ������$���� ����$�

Page 63: MCMC Convergence case study: IM

A ��� ������ �� �

' ���θ1 > θ2C

' ���m1 > m2C

' A �) ����) ��� �M1 ���M2 C

?"�A ��� ������ �� ��

B ����������� ���,�� ����Pr(θ1 > θ2) = I(θ1 > θ2)

Iter.(s) q1 q2 Pr(q1>q2)1 42.7660 24.7302 11 33.2195 24.7302 13 32.1012 21.5676 14 15.5683 16.6066 05 15.8359 7.3401 16 14.0830 11.0646 17 14.0830 11.0646 18 14.0830 9.7314 19 14.0830 9.7314 110 14.0830 9.7314 111 14.0830 14.7419 012 20.2126 13.6762 113 28.3537 21.1475 114 10.2557 14.7419 0

)(1

)Pr( 2,1,21 ssS

IS

θθθθ >=> �

Page 64: MCMC Convergence case study: IM

� �� �����) ��&�������C

' ������,��������$� ����� ���� ��������� ����������,�θ1 = θ2

' (������� ������ �����$� ������ ) ���� �������&� ���

?"�A ��� ������ �� ��

5����

5�� �����

5�� ������������� ���

Pr(θ1>θ2) = pPr(θ2>θ1) = (1-p)

P.O.R. = p/(1-p)

. � ��

Pr(θ1=θ2) = 08�� ��������������$� ����� ���� ���9

Page 65: MCMC Convergence case study: IM

A ��� ������ �� �

' ���θ1 > θ2C

' ���m1 > m2C

' A �) ����) ��� �M1 ���M2 C

?"�A ��� ������ �� ��

B ����������� ���,�� ����Pr(m1 > m2) = I(m1 > m2)

)(1

)Pr( 2,1,21 ssS

mmIS

mm >=> �

Iter.(s) q1 q2 Pr(q1>q2)1 42.7660 24.7302 11 33.2195 24.7302 13 32.1012 21.5676 14 15.5683 16.6066 05 15.8359 7.3401 16 14.0830 11.0646 17 14.0830 11.0646 18 14.0830 9.7314 19 14.0830 9.7314 110 14.0830 9.7314 111 14.0830 14.7419 012 20.2126 13.6762 113 28.3537 21.1475 114 10.2557 14.7419 0

Page 66: MCMC Convergence case study: IM

A ��� ������ �� �

' ���θ1 > θ2C

' ���m1 > m2C

' A �) ����) ��� �M1 ���M2 C

?"�A ��� ������ �� ��

Iter.(s) q1 m1 M11 42.7660 0.0991 2.11912 33.2195 0.0991 1.64603 32.1012 0.2074 3.32894 15.5683 0.8895 6.92405 15.8359 0.8895 7.04306 14.0830 0.8895 6.26347 14.0830 0.7637 5.37768 14.0830 0.7637 5.37769 14.0830 0.7155 5.038210 14.0830 0.7155 5.038211 14.0830 0.7155 5.038212 20.2126 0.2730 2.759013 28.3537 0.3290 4.664214 10.2557 0.7813 4.0064… … … …

�=S

mS

YME 2/1

)|( 111 θ �=S

mS

YME 2/1

)|( 222 θ

)(1

)Pr( 2,1,21 ssS

MMIS

MM >=> �

���M1 > M2C