時系列解析（7） - mi.u-tokyo.ac.jp · 14 任意個の区間への⾃動分割 (1)定常性を仮定する⼩区間の⻑さL, ARの最⼤次数M を決める (2) 新しい⻑さL

東京⼤学数理・情報教育研究センター北川源四郎

時系列解析（７）−局所定常ARモデル−

概要

2

区分的定常モデル：⾮定常時系列モデルへの第1歩

１．レベルシフトの検出２．局所定常ARモデル

（１）任意の区間への⾃動分割（２）変化時点の精密な推定（３）変化時点の事後確率

３．統計的制御（１）線形⼆次評価制御問題（２）船舶のオートパイロット（３）局所定常ARモデルに基づく外乱適応型⾃動制御

3

定常モデルで⾮定常時系列を分析する

Time

mye

1f

0 500 1000 1500 2000 2500

-40

-20

020

40

Time

max

tem

p

0 100 200 300 400 500

05

1525

35

平均⾮定常時系列差分＋定常モデル

分散・共分散⾮定常時系列区分化＋定常モデル

4

ARIMAモデル平均⾮定常定常化 ARMAモデル

レベルシフトモデル平均⾮定常区分的定常

局所定常ARモデル平均・分散・共分散⾮定常区分的定常

状態空間モデル平均・分散・共分散⾮定常直接モデル化（次回以降）

⾮定常時系列のモデリング

5

レベルシフトの検出

2~ ( , )n ny N

区間１区間２

1

2

n

n kn k

k

変化点を k +1と仮定したモデルの尤度

1, , Ny y データ

12

22 2

2( )( | , ) (2 ) exp

2n n

n nyp y

2 2 21 2 1 2

1 1

( , , ) ( | , ) ( | , )k N

k n k n kn n k

L p y p y

k+1: 変化点

k k+1

6

レベルシフトの検出

1 21 1

2 2 21 2

1 1

1 1ˆ ˆ,

1 ˆ ˆˆ ( ) ( )

k N

n nn n k

k N

k n nn n k

y yk N k

y yN

2ÂIC log(2 ) 2 3k kN N

尤度 2 2 21 2 1 2

1 1

( , , ) ( | , ) ( | , )k N

k n k n kn n k

L p y p y

対数尤度 2 2 2 21 2 1 22

1 1

1( , , ) log(2 ) ( ) ( )2 2

k N

k k n nn n kk

N y y

最尤推定値

最⼤対数尤度 2 21 2ˆ ˆ ˆ ˆ( , , ) log(2 )

2 2k kN N

パラメータ数＝３

7

変化点の検出

AICk の変化3パラメータモデル

拡張4パラメータモデル

21

22

( , )~( , )n

N n kyN n k

21 1

22 2

( , )~( , )n

N n kyN n k

さらなる拡張正規分布時系列モデル

4-parameter model3-parameter model

変化点

8

区分的に性質が変化する時系列

-80

-40

0

40

80

1 51 101 151 201 251 301 351 401

地震波：常微動，P波，S波，・・・

http://zone-training.jp/method-neurofeedback.html

睡眠と脳波：覚醒レム期，ノンレム期

鉄道総研元好，古川，神⼭（2004)

新幹線・周期的軌道狂いの検出

区間 D1 D2 D4D3 ・・・ Dk

⽕⼭性微動（有珠⼭）

Hokkaido, Japan March 31, 2000 13:07-提供：北海道⼤学⽕⼭地震予知観測センター⾼波鐵夫

局所定常 AR モデル

2

1

, ~ (0, ),jm

n ij n i nj nj j ji

y a y v v N n D

• 各区間 Dj では定常と仮定• Dj の定常時系列をAR(mj)モデルで表現（mj≦M）

10

区間 D1 D2 D4D3 ・・・ Dk

• 平均値の変化• 分散の変化• スペクトル・共分散構造（波形）の変化• 任意時点での構造変化• AICによる⾃動推定

11

局所定常ARモデルN = N1 + N2 + ・・・＋ Nk 時間領域の分割

1

0 1 0 11 1

[ , ] 1,i i

i i i i j i jj j

D n n n N n N

N1 N2 Nk

N

n10 n11 n20 n21 nk0 nk1

2

1, ~ (0, ),

j

j

m

n ji n i nj n j ji

y a y v v N n D

2

1

0

2

1

1

0

1 1 11

2

1

21

2(2 )

( ,..., ) ( | ,..., )

exp ( )j

j

j

j

m

ji

j

j

j n

n n

nk

N n nj n n

Nk

ji n ij

n

L p y y p y y y

a yy

D1 D2 Dk

2( , , , ( , 1, , ), ; 1,..., )Tj j ji j jk N m a i m j k

12

局所定常ARモデル

1

0

2

1

2 1ˆjj

j

m

n ji n ii

n

jn nj

y a yN

1

0

2

1

22

2

1

1log 2

( , , , ( , 1, , ), ; 1,..., )

12

jj

j

m

n ji n ii

n

j jn nj

j j ji j j

k

jy a yN

k N m a i m j k

2

2

2

2

1

1

1 1

ˆlog 2

ˆlog

ˆlog (

ˆ( , , , ( , 1, , ), ; 1,..., )12

1(log 2 1)2 2

AIC ( )(log 2 1) 2 1)

j j

j j

j j j

j j ji j jk

jj

k

jk k

j j

N N

N

N m

k N m a i m j k

N m

N m

13

２種類の実装

1. 任意個の区間への⾃動分割・・・⼤まかに分割

2. 変化点の精密推定・・・・・・・ 1か所を精密に推定

すべての区分数( k )および区間⻑(N1,…,Nk)の候補を⽐較し、最良の局所定常ARモデルを求めるのは⾮現実的

14

任意個の区間への⾃動分割

(1) 定常性を仮定する⼩区間の⻑さ L, ARの最⼤次数 M を決める(2) 新しい⻑さ L のデータが得られる度に

Switched model

Pooled model

を⽐較し，AICが⼩さい⽅をCurrent Modelとして選択する

>

Current model

Current model

Old modelAIC1 AIC2

AICS

AICP = AIC1 + AIC2

<j jN c L

m

Dj 区間の⻑さAR次数の最⼤

15

初期モデル（D1のモデル）

11 1, 11 1

1 2 20

1, 1

1

= |

mm m

m m

m m

m L L m L

s sy y ySy y y

X Z y HXO s

Oy y y

12 20 , 1

1

20 0

0 0

1ˆ ( )

ÂIC ( ) log ( ) 2( 1)

AIC minAIC ( )

m

i mi j

j

j sL

j L j j

j

16

新しいデータのモデル

11 1, 11 1

1 2 21 1 1

1, 1

2 1 2 2

=

mm L L m L

m L L m L

m m

m L L m L

r ry y yRy y y

X H XO r

Oy y y

12 21 , 1

1

21 1

1 1

1ˆ ( )

ÂIC ( ) log ( ) 2( 1)

AIC minAIC ( )

m

i mi j

j

j rL

j L j j

j

構造変化したと仮定するモデルのAIC （Switched model)

0 1 0 1AIC AIC AIC minAIC ( ) minAIC ( )S j jj j

L L元のデータ新しいデータ

m+1 m+ L m+L+1 m+ 2L

17

データ併合したモデル

11 1, 1

11 1, 1

1, 12 2 2

11 1, 1 1, 1

1, 1

= =

m

m

m

m m m

m

s st t

sS TX H X

r rR O tO

r

12 2

, 11

2

1ˆ ( )2

ÂIC ( ) log ( ) 2( 1)

AIC minAIC ( )

m

P i mi j

P P

P Pj

j tL m

j L j j

j

構造変化なしと仮定するモデルのAIC （Pooled model)

L L

2L

Time

mye

1f

0 500 1000 1500 2000 2500

-40

-20

020

40

data(MYE1F) lsar (MYE1F, max.arorder = 10, ns0=200)

18

MYE1F(地震波東⻄⽅向)データ

t = 0.02秒，N=2600

M = 10 最⼤AR次数L = 200 基本区間⻑

lsar (MYE1F, max.arorder=10, ns0=200)

<<< new data ( n = 11 --- 210 ) >>>initial model : NS = 200

ms = 9 sds = 9.533019e-01 aics = 578.011

<<< new data ( n = 211 --- 410 ) >>>switched model : ( nf = 200, ns = 200 )

ms = 8 sds = 7.571863e-01 aics = 1107.957pooled model : ( np = 400 )

mp = 9 sdp = 8.775778e-01 aicp = 1102.915*** pooled model accepted ***


ms = 8 sds = 7.353224e-01 aics = 1627.001pooled model : ( np = 600 )

mp = 9 sdp = 8.567912e-01 aicp = 1629.990*** switched model accepted ***


ms = 4 sds = 2.372409e+01 aics = 1734.960pooled model : ( np = 400 )

mp = 10 sdp = 1.255320e+01 aicp = 2169.141*** switched model accepted ***



mp = 10 sdp = 2.468140e+01 aicp = 2439.571*** pooled model accepted *** 19



mp = 10 sdp = 3.864933e+01 aicp = 3917.444

*** switched model accepted ***



mp = 8 sdp = 4.308581e+01 aicp = 2658.428

*** pooled model accepted ***



mp = 8 sdp = 3.582855e+01 aicp = 3867.973




mp = 10 sdp = 1.447380e+01 aicp = 2226.087


局所定常 AR モデリング

Time

mye

1f0 500 1000 1500 2000 2500

-40

-20

020

40

data(MYE1F) lsar (MYE1F,max.arorder=10, ns0=200) 20

21

MYE1F(地震波東⻄⽅向)データ

• P波，S波の到着を適切に検出している．AICの違いも⼤きい P波到着時(n=611) AIC=434.1 , AICs=1735.0, AICp=2169.1 S波到着時(n=1011) AIC=115.7 , AICs=3801.7, AICp=3917.4

• N=411は誤検出かもしれないが，P波のスペクトルが多少増加している可能性もある．AIC=5.0と⼩さい．

• ⻑周期(f =0付近)のパワーはほぼ p( f )=2.0で⼀貫している．• S波到着後，パワーの減少に伴ってモデルが頻繁に変更されてい

る．f(0)は⼀定の⼀⽅，f =0.1~0.3のパワーが段々減少しているので，⼀定のモデルと⾒なすにはモデルの⼯夫が必要．

地震波到着時刻の推定

P S

到着時刻の推定

震源の推定局所定常 AR モデル＋

情報量規準AICによる⾃動的モデリング

⾃動・⾼速アルゴリズムsec. 01.0T

津波の予測・地震警報

22

変化時点の精密な推定

全体のモデルのAIC

0

1

2

-1

AICAICAIC

AICAIC

L

L

L

L

L

0

1

2

-1

AICAICAIC

AICAIC

R

R

R

R

R

LjAIC R

jAIC

Rj

Ljj AICAICAIC

変化時点の最⼩AIC 推定値

23

L前半のモデル後半のモデル

12~ (0, )

jm

n ij n i nji

nj j

y a y v

v N

1

2~ (0, )

j

n ij n i nji

nj j

y b y u

u N

前半のモデルのAIC

後半のモデルのAIC

全体の局所定常ARモデルのAIC

局所定常 AR モデルのAIC

2AIC min log(2 ) 2( 1)Lj jm

j j m

2AIC min ( ) log(2 ) ( ) 2( 1)Rj jN j N j

2 2

,

AIC AIC AIC

min log(2 ) ( ) log(2 ) 2( 2)

N Sj j j

j jmj N j N m

24

25

データの逐次追加111213

11

1

AICAICAIC AICAIC

212223

21

2

AICAICAIC AICAIC

1 2j j jAIC = AIC AIC

到着時刻の候補区間

L

データ1 Nj

N1 N2

1 2N N L N

26

データの逐次追加

1 1 1

1 1 11 1, 1

1 2 210 10

1, 1

1

= |

m m m

m m

m m

N N m N

y y y s sy y y S

X Z y HXO s

y y y O

12 21 , 1

11

21 1 111 1

1ˆ ( )

ÂIC ( ) ( )log ( ) 2( 1)

AIC minAIC ( )

m

i mi j

j

j sN m

j N m j j

j

2m個のARモデルをL 回推定⾃動処理のための⾼速化2mL (m=10~20, L=100~500)

計算量は加減, 乗除それぞれ N1m2 程度

27

データの逐次追加

1 1 1

1 1 1

1,1 1, 1, 1 11 1, 1, 1

, , 1 , , 1

1, 111 1 11 1, 1

1 1

1

=

m m m m

mm mm mm mm

m m m m

N N m N

N p N m p N p

s s s r r r

s s r rRsX HX rOy y y

Oy y y

12 21 , 1

112

1 1 111 1

1ˆ ( )

ÂIC ( ) ( )log ( ) 2( 1)AIC minAIC ( )

m

i mi j

j

j rN m p

j N m p j jj

p p は1でもよい

これを繰り返して 1 1 10 1 /AIC AIC AICL p

計算量は加減, 乗除それぞれ 2m2 程度(p=1)の場合

2 2 2

1 11 1, 1

2 1 120 20 20

1, 1

1 1

= |

N N m N m

N N m N

m m

N N N N m N N

y y y t ty y y T

X Z y H XO t

y y y O

28

データの逐次追加（後半のモデル）

2 2 2

2 2 2

1,1 1, 1, 1 11 1, 1, 1

, , 1 , , 1

1, 121 21 21 1, 1

1

1 1

=

m m m m

mm mm mm mm

m m m m

N N N N m N N

N N p N N m p N N p

t t t z z z

t t z zZtX H X zOy y y

Oy y y

2 2 2/ / 1 1AIC AIC AICL p L p

12 22 , 1

122

2 2 22

/ 1 2

1ˆ ( )

ÂIC ( ) ( )log ( ) 2( 1)AIC min AIC ( )

m

i mi j

L p j

j zN m p

j N m p j jj

計算量

29

Householder法の単純適⽤N⾏m列の⾏列の変換〜 m2N⼀つのLSARモデル〜 m2(N1+j)+m2(N2+L-j) = m2NL個のLSARモデル ~ m2NL

Householder法による逐次追加初期モデル〜 m2N1＋m2N2データ1個の追加〜 2m2

合計〜 m2N1＋m2N2 + 2Lm2 = m2N+Lm2

2 7

2 5 4

1000, 10, 10010

10 10

N m Lm

LmNL

m N

例のとき

２

（）

地震波到着時刻の推定

30

AIC

到着時刻

AIC

到着時刻

常微動 → P波 P波 → S波

31

ER えりもHI ⽇⾼IW 岩内KM 上杵⾅MS 御園MY 茂寄

E E-W成分N N-S成分U U-D成分

地震３成分データ（えりも付近）

震源

多変量LSARモデル

32

11

, ~ (0, )jm

n ij n i nj nj ji

y A y v v N

21

, ~ (0, )j

n ij n i nj nj ji

y B y u u N

前半のMARモデル

後半のMARモデル

1 2

1 11 2

1 1

AIC AIC AIClog 2 ( ) log | | log | |

N Sj j j

j j

j NT Tnj j nj nj j nj

n n j

N N j j

v v u u

EWnEW

n nEWn

y

y y

y

東⻄成分

南北成分

上下成分

33

地震３成分データ（茂寄）

34

地震３成分データ（えりも）

35

地震３成分データ（岩内）

36

地震３成分データ（御園）

37

地震３成分データ（茂寄）

Rによる計算data(MYE1F)lsar.chgpt(MYE1F, max.arorder = 10, subinterval = c(400,800), candidate = c(600,700))

data(MYE1F)lsar.chgpt(MYE1F, max.arorder = 10, subinterval = c(800,1200), candidate = c(1000,1100))

緊急地震速報

交通制御新幹線，⾼速道路信号機制御航空機離着陸制限

産業プラントの安全確保

エレベーター緊急停⽌緊急通信回線の確保⽔⾨閉鎖

地震発⽣

緊急地震速報

JR東⽇本新幹線

東京−新⻘森間：震災時27本が営業運転中新⽩河−⼆⼾間：10本（5本は270キロ⾛⾏中）東北新幹線の被害箇所：約1,200

新幹線早期地震検知システム東北・上越・⻑野新幹線の沿線と海岸線に97個の地震計を設置P波やS波を検知し、変電所から列⾞への送電を⾃動的に停⽌⾞両の⾮常ブレーキを作動させて減速・停⽌させる

• 14時47分3秒牡⿅半島の地震計：120ガルの加速度を検知。⾃動的に架線を停電、新幹線は⼀⻫に⾮常ブレーキをかけて減速，緊急停⽌

• 仙台駅-古川駅：「はやて27号」「やまびこ61号」が⾛⾏中。⾮常ブレーキの9秒後，12秒後に初動，1分10秒後に最も強い揺れが起きた。

• 営業運転中の新幹線は１本も脱線・転覆しなかった。

（JR東⽇本はやて）

問題点

41

震源推定の誤差少数の地震波に基づいて推定⼀部の到着時刻推定の誤差が⼤きな影響を及ぼす

緊急地震速報の誤動作主な原因：引き続いて発⽣した2つの⼩さな地震を同⼀の地震と

⾒做したこと

対応多数の観測点の情報を使う到着時刻の推定値だけでなく，事後確率を使う

42

変化点の事後確率

AIC ＝ −２×（バイアス補正した対数尤度）

1

2( | ) exp jp y j

AIC 最尤法でパラメータ推定した

モデルの尤度( )p j 変化点の事前確率（例； )

x <- lsar2(MYE1F, 10, c(400,800), c(600,700))AICP <- x$aicpost <- exp( -(AICP-min(AICP))/2 )post <- post/sum(post)plot( post, type="l", col="red“ )

1( )L

p j

1

( | ) ( )( | )( | ) ( )

L

j

p y j p jp j yp y j p j


x <- lsar2(MYE1F, 10, c(400,800), c(600,700))AICP <- x$aicpost <- exp( -(AICP-min(AICP))/2 )post <- post/sum(post)plot(post,type="l",col="red",lwd=2)

AIC AIC

p(j|y) p(j|y)


-80-40

04080

0 1000 2000 3000 4000 5000 6000 7000

-80-40

04080

3600 3700 3800 3900 4000

44


-40

0

40

3718 3738 3758 3778 3798

-40-20

02040

0 1000 2000 3000 4000 5000 6000 7000

-20

0

20

3621 3641 3661 3681 3701

-20

0

20

3450 3550 3650 3750 3850

0.10

0.05

0.00

0.20

010

0.003621 3641 3661 3681 37013718 3738 3758 3778 3798

• 最適制御の困難‒ 巨⼤なシステム‒ 複雑なシステム‒ 外乱の強いシステム

統計的制御

統計的モデル理論モデル

[成功例] • ⽕⼒発電所• セメント焼成炉• 船舶⾃動操舵

最適制御

• 状態空間モデル

• 評価関数

• 最適制御

nn Kxr

I

nn

Tnn

Tn RrrQxxJ

1

1n n n n

n n

x Fx Gr wy Hx

制御⽤状態空間モデル

47

1n n n n

n n

z Fx Gr wy Hx

1

m

n j n j nj

z A z v

n

n

n

p

q

yz

r

被制御変数

操作変数

, ** *nj j

j np

q

ua bA v

1 1

m m

n j n j j n j nj j

y a y b r u

1

1 1

2 2

1

, ,

0 ,

0 n m

m m

nn

nn n

a I ba bF GIa b

yuyw x

y

p q

多変量ARモデル

ARXモデル（X： exogenous)

制御⽤状態空間モデル

最適制御則

48

1n I n

T TI I I

y K x

K G S G R G S F

1

1

(1)

(2)

m m

T T Tm m m m m

S Q P

P F S S G G S G R G S F

ただし，Sm (m=1,…,I )は以下により求める

1. P0 = [0]

2. m=1,2,…,I について(1), (2)を繰り返す

最適制御則の導出

49

0 10

1 1, ,1

( ) min ( , ) minm

mT T

m m n n n nr r rnx x

f x J z r E x Qx r Rr

0 01 10

00

1 1 0 0 1 1, ,2

1 1 0 0 1 1

( ) min min

min ( )

m

mT T T T

m n n n ny r rnx x

T Tmy

x x

f x x Qx r Rr E x Qx r Rr

x Qx r Rr f x

最適性の原理より

fm(x)を以下のように定義する

最適制御則の導出（数学的帰納法）

50

(i) m=1のとき

(ii) m=k-1のとき定理は成り⽴つと仮定

このとき

00

1 1 1 0 0( ) min T T

rx x

f x E x Qx r Rr

1 1( ) Tk kf x x P x 定数

00

00

1 1 0 0 1 1 1

1 1 1 0 0

1

1

( ) min

min +

( )

T T Tk kr

x x

T Tkr

x x

T Tk k k k

T T Tk k k k k

Tk k

f x E x Qx r Rr x P x

E x Q P x r Rr

r G S G R G S Fx

P F S S G G S G R G S F

f x x P x

定数

定数

11 1 1

1 1

( ) ( )( )

T T

T

r x G S G R G S Fxf x x P x

定数

1

1

1

( , ) [ ]**( ) ( )( ) min ( , ) ( , *)

( )

T T

T T

T

r

T T T

z Fx Gr vJ x r E x Qx r Rrrr x G QG R G QFxf x J x r J x r x P x

P F Q QG G QG R G Q F

について，評価関数を最⼩とする制御

⼊⼒およびその時の評価関数値は

定数ただし

1

1

1

( , ) [( ) ( ) ]( ) ( ) [ ]

( )

( ) ( )

( )

( )

T T

T T T

T T T T T T

T T

TT T T

T T T

T T T

J x r E Fx Gr v Q Fx Gr v r RrFx Gr Q Fx Gr r Rr E v Qv

r G QG R r x F QGr r G QFxx F QFx

r G QG R G QFx G QG R

r G QG R G QFx x FQFx

xF QG G QG R G QFx

定数

定数

ここで，第1項は⾮負，第2項はrと無関係

1

1

* ( )

( *)( )

T T

T T

T T T T

r G QG G QFx

f r x F QFxx F QG G QG R G QF

のとき上式は最⼩となり，このとき

定数

ARオートパイロット制御結果

51

No. Q R Pitch Roll Yaw Yacc Rudder Diff.1 (2,7,35,1) 0.850 1.726 4.575 1.709 0.0063 18.72 4.5462 (3.6,7,40,1.67) 1.015 1.444 4.915 1.674 0.0062 19.12 5.0523 (0,6.33,57.8,0) 0.860 2.242 4.473 1.672 0.0068 18.66 4.9314 Manual 2.771 6.557 7.781 0.0081 17.62 0.832

図表は K. Ohtsu, H. Peng & G. Kitagawa (2015), Time Series modeling for Analysis and Control, Advanced Autopilot and Monitoring Systems, Springer Briefs in Statistics, Springer. P65 およびP67から転載．

NADCONと適応型オートパイロット

北川・⾚池・⼤津 (1980)• 船体運動モデル + 外乱モデル• 外乱モデルに局所定常ARモデルを⽤いて

⾮定常モデル化• 外乱の変化に適応する適応制御システムを

提案（Noise Adaptive Controller; NADCON)

横河電⼦機器が⼤型船舶⽤主⼒システムPT500Aに採⽤ (2008年)

次世代オートパイロットPT900シリーズにBNAACを標準装備

BNAAC：Batch Noise Adaptive Autopilot Controllerhttps://www.yokogawadenshikiki.co.jp/jp-ydk/mr/marine/pilot/ydkmr-ma-bnaac-ja.htm

A

B

C

舵⾓

⽅向⾓

外乱r

53

1 1

m m

n j n j j n j nj j

y A y B r u

1

k

n i n i ni

u C u

1 1

m k m k

n j n j j n j nj j

y A y B r

j

j

j

A O j mB O j mC O j k

NADCON (Noise Adaptive Controller)

船のモデル

1

1

,j

j j j i j ii

j

j j j i j ii

A A C C A

B B C C B

外乱のモデル

統合モデル（船＋外乱）

54

実船試験結果

図表は K. Ohtsu, H. Peng & G. Kitagawa (2015), Time Series modeling for Analysis and Control, Advanced Autopilot and Monitoring Systems, Springer Briefs in Statistics, Springer. P86から転載．

Documents

時系列解析（7） - mi.u-tokyo.ac.jp · 14 任意個の区間への⾃動分割 (1)定常性を仮定する⼩区間の⻑さL, ARの最⼤次数M を決める (2) 新しい⻑さL