22
KEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP 06-5 モデル による * 19 3 28 概要 にあらわれる モデルにおける を,カル マン・フィルタ カルマン・スムーザ わせ,あるい UD フィルタ アルゴリズムを いず, 2 あるい 2 によって . また,そ スムーザ あるこ を,フィルタ らかにする. 1 はじめに Newton して えられる に,「 つ」(I/We stand on shoulders of giants.) いう がある.これ Newton が, から びた に, が他 より くが える すれ ,それ っているからにす , ったこ からきている. 2 した Gauss が,そ する.Gauss Gauss くを ているにすぎ い.それ ,こ い.また,こ わる げた Kalman WienerKolmogorovLevinson いった い. Gauss (1809) らが 1895 した を『 体運 (Theoria Motus) において した.こ Gauss するために くつか するヨーロッパ各 データから, して * うため にあるディスカッション・ペーパー ある. えていただきたい.KEIO ECONOMIC SOCIETY DISCUSSION PAPER いくつか http://www.econ.keio.ac.jp/org/kes/ja/pub/pdis.htm より ある. 大学, Email: [email protected] 1

状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

KEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5

KESDP 06-5

状態空間モデルの直接法による平滑化∗

伊 藤 幹 夫†

平成 19 年 3 月 28 日

概 要

時系列解析にあらわれる線形の状態空間モデルにおける固定区間平滑化を,カルマン・フィルタとカルマン・スムーザの組み合わせ,あるいは UD分解フィルタのような既存の逐次更新型のアルゴリズムを用いず,最小 2乗法あるいは一般化最小 2乗法によって直接的に行なう解法を示す.また,その解法が伝統的なスムーザと同等であることを,フィルタ理論全般の一般枠組み中で明らかにする.

1 はじめにNewtonの言葉として伝えられる有名な言葉に,「巨人の肩に立つ」(I/We stand on

shoulders of giants.)というものがある.これはNewtonが,人から賛辞を浴びたときに,自分が他人よりも遠くが見えるとすれば,それは巨人の肩に立っているからにすぎないと, 謙虚に語ったことからきている.統計学で言えば,最小 2乗法を発見したGaussが,その巨人に相当する.Gauss以降の統計学研究者は,Gaussの肩に立ち遠くを見ているにすぎない.それは,この論文の著者も例外ではない.また,この論文の主題と深く関わる研究で画期的な業績を上げた KalmanやWiener,Kolmogorov,Levinsonといった先達も例外ではない.

Gauss (1809)は,自らが 1895年に見出した画期的な発見を『天体運行論』(TheoriaMotus)において著した.この中で,Gaussは天体の運動を記述するために必要ないくつかの変量に関するヨーロッパ各地の天文台の観測データから,誤差を修正して実

∗本稿は,内部での議論を行なうための未定稿の段階にあるディスカッション・ペーパーである.著者の承諾なしの引用・複写は差し控えていただきたい.KEIO ECONOMIC SOCIETY DISCUSSION PAPERのいくつかは,http://www.econ.keio.ac.jp/org/kes/ja/pub/pdis.htmより無料で入手可能である.

†慶應義塾大学,経済学部,Email: [email protected]

1

Page 2: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

際の軌道を求める方法としての最小 2乗法と,誤差のふるまいが従う法則としての正規分布を明確に述べている.計量経済学の大抵のテキストにおいて,回帰分析の基礎的な事柄を教える部分で,

Gauss-Markovの定理という名前で,線形回帰モデルにおいて最小 2乗推定量が最良線形不変推定量 (BLUE)になるための,十分条件が示される.これにより,多くの学習者が最小 2乗法そのものが,応用において非常に制限的な推定方法であると考えてしまう.これは,正しくない.

Gaussは,現代的に言えば,観測誤差に撹乱された信号 (観測データ)から,Keplerの法則 (正確には Newton力学)に基づいて運行していると Gaussが信じる,天体の運行に関する情報を抽出するという,「信号抽出問題」に強い関心を持っていたと考えることができる.Gaussは,Fisher (1922)より 100年以上も早く,推定方法としての正規分布に基づく最尤法に気づいて,『天体運行論』に明記しているが,この問題にとっての実際的な解法として最小 2乗法の利点を強調している.計量経済学における様々な回帰モデルを含めて,Galton以降の回帰分析という考え方を離れて,Gaussが本来関心をもっていた信号抽出理論という,より一般的な統計解析を考えるならば,最小 2乗法は常に王道であった.時間の経過にしたがって受信される信号 (観測データ)は,発信された時点の信号

と比較すると,常に不規則な変動を含んでいると考えられる.この不規則な変動を雑音 (ノイズ)というが,このノイズの確率論・統計学的な性質が既知であるときに,発信された信号を受信された信号から推定する問題が,信号抽出 (signal extraction)あるいは信号推定 (signal estimation)の問題である.

Gauss が興味をもった,この信号抽出問題において大きな業績を残しているのが Wiener (1949) と Kolmogorov (1941) である.Wiener は対空火器 (anti-aircraftdevices)の自動制御の問題,つまり敵航空機に対する高射砲の自動追随システムの構築の問題についての関心から,また Kolmogorov は純粋に数学的な関心から,有名なWiener-Hopf方程式を独立に導いている.この方程式は,定常な連続確率過程で表現される,雑音が加法的に付加された信号から,近代的な最小 2 乗基準によって計算される,予測 (prediction)・濾波 (filtering)・平滑化 (smoothing)とよばれる,推定時点により異なる 3つの推定量が満たすべき積分方程式である.Wienerはさらに,Wiener-Hopf方程式を解いてシステムの伝達関数を計算するためのスペクトル分解を考案している.

1940年代のWienerらの研究は,Laplace変換あるいは Fourier変換による,伝達関数ベースの接近,換言すると,周波数領域からの信号抽出問題に対する接近であった.そのために,無限時間観測の仮定と時系列の定常性の仮定を緩めることは難しく,時系列のスペクトル密度を推定するモデリングについて決定的な解決策が見つからず,静止画像の電送データのノイズ軽減などを除くと,実際問題への応用は難しかった.この状況は,1950年代まで続く.この時点でも,広義の最小 2乗基準が多くの場面で堅持されることは注目に値する.Levinson (1947)による,離散定常時系列に関する,当時最も成功した更新アルゴリズムである Levinsonアルゴリズムも,Wienerの連続定常時系列に関する一連の研究の直接の影響下にあることは,よく知られている.そして 1960年代に入ると Kalman (1960), Kalman and Bucy (1961)が,線形シ

ステムの状態空間モデルによる表現と直交射影 (orthogonal projection)の理論を組み合わせることで,Wienerらの接近法による信号推定理論に特有の,上記の無限時間観測と時系列の定常性という 2つの制限的な仮定を取り外して,最適な信号推定の方法が得られることを示した.具体的にKalmanは,確率微分方程式または確率差分方程式を状態空間モデルという非常に記述性の高い枠組みにおくことで,時間領域での接近によって最小 2乗基準から最適な信号推定方法 (カルマン・フィルタ,カルマン・スムーザ,カルマン・プレディクター)を得た.3種の推定値に関する彼の解法は通常カルマン・フィルタと総称される.カルマン・フィルタは,すでに得られている推定値と新規に観測された信号から,

新しい推定値を改訂するというアルゴリズムとして表現されるために,主記憶の容量が非常に小さく計算能力も非常に低い当時のデジタル・コンピュータでも実行しやすいものであった.さらに電子回路への実装も容易であった.このため工学的な応用で

2

Page 3: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

爆発的な成功を収めた.特に 1960年代の米国のアポロ計画等の宇宙開発での立役者とも言われる.また今日のデジタル電子機器で,Kalmanの研究と無縁のものは,ほぼ存在しない.このように,Gaussが発見した最小 2乗法の工学へ応用として空前の成功をおさめ

たKalmanの推定方法 (カルマン・フィルタ,カルマン・スムーザ,カルマン・プレディター)に,1960年代から 1980年代にかけて,時系列解析にかかわる統計学者の中で関心を示し積極的に貢献をしたものは少ない.Kitagawa-Gresch(1984),Kitagawa(1987)は数少ない例外である.1990年代に入ってからは急激に研究が進展している.ところが計量経済学においては,応用が盛んであるとはいえない.直接観察され

ない期待物価上昇率・潜在 GDPなどを「推計」することに使われたり,合理的期待の代替物としてフィルタ推定値が計量モデルで使われるにとどまる.1970年代には,Cooley and Prescott (1973a,b, 1976)のように,可変パラメータモデルとして回帰モデルを定式化する場面で状態空間モデルを事実上利用する研究者もいたが,現在に至るまでそうした定式化の計量経済分析上の応用は限られている.さらに,計量経済学の教育現場においても,最近の時系列解析の応用研究の退潮を受けて,状態空間モデルとカルマン・フィルタは積極的に教えられていない.実際,計量経済学の中上級のテキストの中で,状態空間モデルにまったく言及していないGreene (2003)のようなテキストも実はめずらしくない.計量経済学で,状態空間モデルを用いた解析が普及しないのには,いくつかの理

由が考えられる.第一に,計量経済学者の間で,推定対象パラメータが漸進的変化(gradual change)をする,つまり経済構造が時変であるという発想への抵抗がある.第二に,推定されたパラメータに対する検定理論が整備されていない状態空間モデルによる統計解析に計量経済学者は興味を示さない.第三に,計量経済学における大部分の統計モデルの解析は固定区間平滑化 (スムージング)に対応するが,Kalman (1960)の理論では,カルマン・スムーザの計算の手続きは,統計パッケージを使う場合も簡単とはいえない.第四に,計量経済学での応用を考えるとき,状態空間モデルの観測方程式・遷移方程式の撹乱項の共分散行列が既知であるという想定は,満たされない.第五に,計算上の問題である.カルマン・フィルタが数値的に漸近安定であるためには,状態空間モデルが可観測 (observable)であり可制御 (controlable)という条件が必要である.最尤推定を行なう必要が生ずるとき,これら 2条件がしばしば成立しなくなるために,最尤推定が頓挫するという問題が起こる.これらの問題は,長期間にわたって状態空間モデルが計量経済学において本来ふさわしい地位を獲得することを妨げてきた.この論文は,状態空間モデルを計量経済学に応用する際に計量経済学者がしばし

ば出会う上記の困難を解消するための枠組みを示す.これは,ある意味でGaussの最小 2乗法への原点回帰を試みるものであり,本来動学的な枠組みである状態空間モデルを,巨大な静学的な回帰モデルと見なすことで,固定区間平滑化(スムージング)を実現する.Kalman (1960)や Levinson (1947)の発想は,時々刻々更新される信号の推定 (フィルタリング,スムージング)における計算量を節約するために,更新アルゴリズムとして推定法を確立すればよいというものであるが,この発想自体は計量経済学においては本来不必要なものである.そこで,状態空間モデルの一般行列形の表現の中で通常の回帰モデルに帰着しうる表現を見出し一回限りの直接的な計算で,平滑化を行なう工夫を示す.論文の構成は以下の通りである.第 2節では最小 2乗法に関する事柄を整理する.

Gauss (1809)の研究の現代的な意味を概観した後,Wiener (1949)らの近代的な信号推定理論における最小 2乗法を概観する.次にKalman (1960)の理論における最小 2乗法の扱いを,状態空間モデルとの関連で述べる.また,計量経済学上の応用の可能性についてもふれる.第 3節が論文の真の貢献部分を含むもので,状態空間モデルの直接的な平滑化の先駆である Durbin and Koopman (2001)の枠組みを紹介し,その応用上の問題を指摘した後,より明快な直接的な平滑化,Ito Regressionを示す.第 4節は,前節で示した直接的な平滑化の応用例として,株価収益率の時変 ARモデルの推定を示す.第 5節は結語にあてる.

3

Page 4: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

2 最小2乗法この節では最小 2乗法に関する事柄のうち,この論文に関連するものを整理する.

具体的には,この手法の発見者である Gauss (1809)の着想の本質,数学的な枠組み,20世紀に入ってからのWiener (1949)らの信号抽出理論においてどのような位置を占めるか,Kalman (1960)らの現代的な制御理論における扱いに焦点をあてる.

2.1 Gaussによる最小 2乗法の発見

数学史上の最大の巨人の一人,Gaussが大学人としてではなく,天文台の所長としての生涯をおくったことはよく知られている.彼が,他人に煩わされることなく,数学研究に没頭する絶好の職業を意識的に選択したと考える人もいるが,Gaussは数学自体に有用性をそれほど認めておらず,天文学も含め,数学の他分野への応用に常に気を配っていたと言われる.実際,Gaussは電磁気学においても大きな業績を残している.しかし,Gaussの応用数学における,最大の貢献の 1つが最小 2乗法と正規分布の発見である.ガウスは,天体 (heavenly bodies),つまり惑星や恒星の運行の観察に若い時分か

ら興味を示し,最小 2乗法を発見したのは 10代の後半,この手法が最初に公刊された Legendre (1806)に約 10年先立つ 1795年であることが分かっている.

Gauss (1809)は著書,『天体運行論』(英訳 p.249)の中で,次のように述べている.

If the astronomical observations and other quantities on which thecomputation of orbits is based were absolutely correct, the elements also,whether deduced from three or four observations, would be strictly ac-curate (so far indeed as the motion is supposed to take place exactlyaccording to the laws of Kepler) and, therefore, if other observationswere used, they might be confirmed but not corrected. But, since all ourmeasurements and observations are nothing more than appropriate tothe truth, the same must be true of all calculations resulting upon them,and the highest aim of all computations made concerning concrete phe-nomena must be to approximate, as nearly as practicable, to the truth.But this can be accomplished in no other way than by a suitable com-bination of more observations than the number absolutely requisite forthe determination of the unknown quantities. This problem can onlybe properly undertaken when an approximate knowledge of the orbit hasbeen already attained, which is afterwards to be corrected so as to satisfyall the observations in the most accurate manner possible.

この記述に,データ解析の本質が完全に見出されることに,驚きを感ずる読者も多いだろう.ここで Gaussが述べていることを,Sorenson (1970)にしたがって現代的に解釈すると,以下のようになろう.

1. 未知パラメータを推定するのに必要な観測データの個数には下限がある.(制御理論でいう可観測性の成立についての言及)

2. 測定誤差の存在があるために,誤差の影響を減らすためには,上記の下限の個数以上の数の観測データが必要となる.

3. 観測データとならんで,天体の運動方程式,つまりシステムに関する情報が重要である.

4. 軌道の近似に関する知識,例えば線形化のようなものが必要である.

5. 未知のパラメータを推定するために,観察値と推定値の残差を捉え,その残差をできるだけ小さくするという基準を採用する.

6. 残差のばらつきは未知であり,確率論的に捉えられるべき.

4

Page 5: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

7. 観測データの適切な組み合わせから,もっとも正確な推定値が得られるはず.

Gaussは,さらに前掲書 (英訳 p.260)の中で,未知パラメータの推定値は,最も有りそうな値 (most probable value)でなくてはならなず,その最も有りそうな値は,観察された値と計算された値の差,いわゆる残差の 2乗に正確さを表す数を掛けて,足し合わせたものを最小化することによって得られるとしている.

2.2 Gaussの最小 2乗法の現代的表現

ここで,前の節の Gauss のアイデアを現代的な回帰モデルとして表現しておこう.今 t ∈ {1, 2, · · · , T} の T 個の観察値からなるデータ {y1,y2, · · · ,yT } を考える.yt ∈ Rn としよう.例えば,Newton力学の観点から 3次元空間を想定した天体運行を調べるためには,位置と加速度に関してそれぞれ 3個のパラメータがあれば十分なので,上記の下限に関する議論を踏まえれば n > 6ということになる.そして未知パラメータの次元は 6ということになり,Gaussの枠組みでは,観測値と未知パラメータ βの間の関係は観測誤差 ut を含めた

yt = Xtβ + ut (1)

で表現されるとしてよい.Xtは既知の行列とする.Gaussの『天体運行論』の場合,Xtの要素は,Newton力学の理論とデータ近似の理論・天体観測以外の観測値・物理定数からもとめられたと解釈される.データ {y1,y2, · · · ,yT } に基づく未知パラメータの推定値を βT と記すことにす

ると,各観測時点 t ∈ {1, 2, · · · , T} の残差が

rt := yt −XtβT (2)

と定義される.Gaussの最小 2乗法を現代的に解釈するならば,各時点の観測の正確さを反映す

る行列Wt を用いて計算される

LT :=12

T∑t=1

(yt −XtβT )′Wt(yt −XtβT ) (3)

を最小化することで βT を求めるものであると総括される.なお,Wt は,Gaussの場合,彼自身が明記している観測値の信頼性を数値化したものを対角に配置した対角行列,後述のカルマン・フィルタの理論での場合,各時点の観測誤差の共分散行列の逆行列に対応すると解釈するのが妥当である.

Gauss(1809, 英訳 p.269)は,最小 2乗法の解析的な解法を論じたうえで,実際の応用における数値計算の側面についてもいろいろ考察している.最小 2乗法は,発見された段階から,数値計算にかかわる困難と向き合う宿命を持つことを,Gaussが意識していたのは興味深い.

Gaussはさらに,誤差項のばらつきが事前には分からないために,確率論的に捉えるべきだと主張している.具体的には残差系列 {r1, r2, · · · , rT } が互いに独立であるとし,同時密度関数は

f(r1, r2, · · · , rT ) = f(r1)f(r2) · · · f(rT ) (4)

と考えた.さらに,若干の考察を経て,観測の正確さを表わすために上記で使ったWt

を用いて表現されるf(rt) = |Wt| 12 (2π)−

m2 e−

12r

′tWtrt (5)

という正規分布を導いている.

5

Page 6: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

さらに興味深いのは,Gauss自身は,未知パラメータの推定における正規分布の適用に慎重であったことである.(前掲書 (英訳 p.259).) Gaussは,正規分布の確率密度関数の頂点の位置が対数変換した関数 (対数尤度)の最大値で求まることを書いており,尤度,さらには最尤推定の概念に到達していることがうかがえる.しかし,Gaussは確率論から直接関係のない最小 2乗法に,軍配を上げている.その理由として,観測されたデータは有限個の数値からなるために,最小値と最大値があるが,上限・下限なく分布する正規分布の適用は正しくないということである.もちろん,この主張は現代的な観点から判断するならば,母集団と標本の区別がされないことにもとづく混乱とも解釈できるが,理論を安易に応用することに慎重である態度には驚かされる.

2.3 カルマン・フィルタ以前の最小 2乗法

つぎに,最小 2乗法が関連する推定問題に関する,大きな展開として忘れてはならないのは,Wiener (1949)とKolmogorov (1941)による,信号推定における線形最小分散推定量の理論である.そこでの展開は,直交射影の積極的な使用がポイントとなる.なお,この節と次の節の多くを,Kailath (1974)に負っていることを明記しておく.彼らは,Gauss流の最小 2乗法による推定量が観測データと線形の関係になるよ

うに,自分たちの推定問題の解も同様な性質をもつようにしたいという立場を明確にしている.もちろん,Gaussが離散的な時間で捉えられる問題を考えているのに対して,Wienerと Kolmogorovは連続時間,それも −∞時点からの長大な観測データに基づく議論をしている.以下では,彼らの議論の本質を崩さないようにしながら,有限・離散時間のモデルで,Wiener-Kolmogorovの理論が概観する.

Wiener-Kolmogorovの信号推定の問題とは,期間 T = {τ, · · · , T} ⊂ Z の受信信号 (観測データ) Y T = {yτ ,y2, · · · ,yT } が与えられたときに,発信信号 st, (t ∈ T ) を推定することである.ただし受信信号は未知であり,定常な n次元の平均値が 0の正規定常確率過程とみなす.なお,もともとのWiener-Kolmogorovの定式化では,受信信号は τ = −∞, T = ∞のWiener過程として定式化される.情報系を Y t = {yτ ,y2, · · · ,yt}から生成される σ-集合体 Yt := σ({yτ , · · · ,yt})

と定義するとき,Wiener-Kolmogorovの信号推定の問題は,推定の基礎となる情報によって,予測 (prediction),濾波 (filtering),平滑化 (smoothing)の 3種類の推定量を求める問題であると定義される.形式的には,情報系 Ytに基づいて,受信信号 yt+m, (m ∈ Z)の推定値 yt+m|tを,

Lt = E[(yt+m|t − yt)2|Yt] (6)

を最小にするような線形推定量

yt+m|t =t∑

i=τ

Ht,iyi (7)

を求めることである.m > 0のとき予測問題,m = 0のとき濾波 (フィルタリング)問題,m < 0のとき平滑化問題とよばれる.また,求めるべき各時点の行列 Ht,i をフィルタ・ゲイン (filter gain)という.フィルタ・ゲインは第 3.3節でふたたびふれる.

(3)と (6)を対応させると,Gaussのもともとの最小 2乗法と形式的に似ていることに気づく.相違点は,Wiener-Kolmogorovの推定量が確率論を基礎に展開される最小分散推定量として定式化されていることである.なお,Gaussの最小 2乗法によって推定値を求める問題がWiener-Kolmogorovの文脈では平滑化問題になっていることに注意しよう.

Wienerと Kolmogorovは Hilbert空間に関する直交射影の議論から,最小分散推定量の必要十分条件を得ている.離散型を考えている上記の設定においても,同様な

6

Page 7: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

議論が成立する.たとえば観測初期時点 τ = 0のときの 1期先の予測問題については,

E[(yt|t−1 − yt)y′i] = 0, (i = 0, 1, · · · , t) (8)

が導かれる.これに (7)を代入して整理すると

t−1∑

j=0

Ht,t−jE[yjy′i] = E[yty

′i], (i = 1, 2, · · · , t− 1) (9)

が得られる.さらに受信信号の定常性を考慮して相互相関関数行列

Ri−j = E[yiy′j ]

を用いるとt−1∑

j=0

Ht,t−jRj−i = Rt−i, (i = 1, 2, · · · , t− 1) (10)

となる.さらに平均 2乗誤差は

Rεt = E[(yt − yt|t−1)y

′t] = R0 −

t−1∑

j=0

Ht,t−jRj−t

で与えられる.以上の結果を行列の形で書き下すと

[I −Ht,1 · · · −Ht,t]

R0 R1 · · · Rt

R−1 R0 · · · Rt−1

......

. . ....

R−t R−t+1 · · · R0

= [Rε

t O · · · O] (11)

これがWiener-Hopf方程式である.この方程式は,相互相関関数という周波数領域の解析,特にスペクトル密度に密接に関連する統計量で記述されていることに注意しよう.連続型のもともとのWiener-Kolomogorovの問題では,Wiener-Hopf方程式は積分方程式の形をとるが,Fourier変換が直接使えないために,相互相関関数が与えられた場合でも,方程式を実際的な形で解くためには,Wienerによるスペクトル分解(spectral factorization)が必要となる.ここでのような有限の離散系の場合でも,観測期間が長ければ巨大な行列方程式

になることがわかる.これを解くためには逆行列計算が必要だが,その計算量が膨大になる.当時の計算機において数値計算上十分な精度を保持したまま,逆行列計算を行なうことは不可能であった.そこで Levinson (1947)は,逆行列を含むこの方程式の解法を低次の線形方程式から初めて新規データが観察される度に推定値を改訂する更新アルゴリズムとして表わすことに成功している.更新アルゴリズムが,時代の要請に答えるものであったことには十分注意をはらう必要がある.以上みてきたように,受信信号 (観測データ)が正規定常確率過程であったと仮定

しても,最適な予測子 (predictor)を計算するときに実際上の困難があることが理解できる.なおWiener-Hopf方程式は相互相関関数行列で表現されるが,受信信号 (観測データ)の時系列データをもとに標本相互相関関数行列の一致推定量を求めるためには,さらに受信信号のエルゴード性が要求される.しかし,一般に有限サンプルからエルゴード性を確認することはできない.

2.4 状態空間モデルとカルマン・フィルタ

WienerとKolmogorovによる推定問題が大きな困難に直面した最大の理由は,観測データと推定対象のパラメータの間に,特定の関係を想定する代わりに,定常性と

7

Page 8: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

エルゴード性という一般的な確率過程の性質を仮定したことにある.2.2節の Gaussの最小 2乗法に立ち返ると,WienerとKolmogorovの理論に (1)の対応物が存在しないことに気づく.Kalman (1960)はこれを,状態空間推定という形で信号推定問題に復活させた.

Kalmanは信号 (観測データ)の発生機構として,状態空間モデルとよばれる方程式

yt = Xtβt + ut, utiid∼ N(0, Rt) (12)

βt+1 = Φt+1,tβt + vt, vtiid∼ N(0, Qt) (13)

を考えた.(12)を観測方程式,(13)を遷移方程式,あるいは状態方程式とよぶ.各行列Xt,Φt+1,t, Rt, Qt は既知とする.また

(∀t1)(∀t2) E[ut1v′t2 ] = O

と仮定する.Kalmanはこの方程式における状態変数とよばれる βτ , (τ = 1, 2, · · · , t) を,事前

の正規分布 β0iid∼ N(β0, P0)を所与として情報系 Yt にもとづいて推定する問題を考

えた.これを状態空間推定とよぶ.予測・フィルタリング・平滑化の 3種の推定問題が存在するのは,Wiener-Kolmogorovの問題の場合と同じである.ここで,いくつか注意をしておく.

• 状態空間モデルによって生成される時系列 {yt}は正規確率過程であるが,定常過程とはかぎらない.

• 撹乱項に関して分散は時変 (time varying)になっている

• 次の仮定(∀t)[Φt+1,t = I & vt = 0)]

がみたされるとき,状態空間推定は Gaussの最小 2乗法による定式化に帰着される.

• 信号が (12),(13)にしたがって生成されるときのWiener-Kolmogorovのフィルタリング問題の解 st は,Kalmanの問題の解 βt|t を用いて

yt|t = Xtβt|t

で与えられる.予測・平滑化についても同様である.

Kalmanのフィルタリング問題への接近は,Wiener同様,直交射影を巧妙に用いることによる.証明の概略を示しておこう.直交射影の適用により,フィルタリング問題の解 βt|t は,新規データ yt を用いない場合の予測

βt|t−1 = Φt,t−1βt−1|t−1 (14)

と,信号推定の残差

rt = yt −Xtβt|t−1 = yt −XtΦt,t−1βt−1|t−1

の線形結合となるから,

βt|t = Φt,t−1βt−1|t−1 + Kt(yt −XtΦt,t−1βt−1|t−1) (15)

となるはずである.行列Kt はカルマン・ゲイン (Kalman gain) とよばれ,

E[(βt − βt|t)′(βt − βt|t)]

8

Page 9: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

を最小化するように選ばれる.このことから,やや煩雑な計算を経て

Kt = Pt|t−1X′t(XtPt|t−1X

′t + Rt)−1 (16)

を得る.ここで Pt|t−1 は,βt|t−1 の共分散行列であり,

Pt|t−1 = E[(βt − βt|t−1)(βt − βt|t−1)′]

の右辺を,(14)を代入して計算することで

Pt|t−1 = Φt|t−1Pt−1|t−1Φ′t|t−1 + Qt−1 (17)

が求まる.また Pt|t は βt|t の共分散行列であり,

Pt|t = E[(βt − βt|t−1)(βt − βt|t−1)′]

である.これに,これまでの結果を代入して

Pt|t = Pt|t−1 −KtXtPt|t−1 (18)

を得る.カルマン・フィルタは以上において得られた (15), (16), (17), (18) からなる,更新アルゴリズムを指す.次に,サンプル期間SP = {0, 1, · · · , T}で与えられる観測データY T = {y0,y1, · · · ,yT }

に基づいて βt, (t < T )を推定する固定区間の平滑化 (スムージング)問題の解を片山(2000)を参考に結果だけ記す.固定区間の平滑化のアルゴリズムは,以下の 2つステップに分かれる.

1. カルマン・フィルタによって,推定値 βt|t−1, βt|tとそれぞれの共分散行列の推定値 Pt|t−1, Pt|t を時点 t ∈ {0, 1, · · · , T}について計算する.

2. βT |T から出発して逆向きに,βT−1|T , · · · , β0|T を以下の方程式の逐次代入により求める.

βt|T = βt|t + Ct(βt+1|T − βt+1|t) (19)

Ct = Pt|tΦt+1|tP−1t+1|t (20)

Pt|T = Pt|t + Ct(Pt+1|T − Pt+1|t)C ′T (21)

以上,Kalman (1960)で示されたことを,Gaussによる線形モデルの最小 2乗法との関連を明確にしつつ,まとめてきた.

Kalman (1960)はまず離散形でのWiener-Kolmogorvの信号推定の問題を解決したのち,翌年のKalman and Bucy (1961)において連続形に拡張することに成功した.また,その解決法はすでにみたように,推定値の更新アルゴリズムの形で示されるために,デジタル・コンピュータにおける応用に向くいう特徴があった.しかも,アルゴリズムの各ステップの計算量は,主記憶の使用量が小さくMPUのパワーも計算量・スピードともに現在のものと比較して遥かに性能の低い 1960年代の電子計算機においてさえ実用が可能なものであった.そのために,電気工学とくに制御関連・情報通信の分野において,信号推定にか

かわる多くの機器の電子回路に早い段階から実装された.現在でも多くの電子部品にカルマン・フィルタに関連する技術が組み込まれており,Kalmanの研究の恩恵に浴さない現代人は存在しない.さらに,1980年代に入ってから時系列解析を専門とする統計学者によって状態空

間モデルを利用した時系列解析の研究が進み,非線形時系列解析あるいは非正規時系列解析といった,工学系の研究者が注目しない分野における展開が急速に進みつつある.現在,こうした研究は,地震波の解析などへの応用などが期待されている.

9

Page 10: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

3 状態空間モデルの直接的な平滑化この節では,制御工学と時系列解析において大きな成功をおさめた,状態空間モ

デルを基礎とするデータ解析,特にカルマン・フィルタに関連するデータ解析が,計量経済学において積極的に応用されない理由を示す.さらに,応用上の問題を克服するための方法の 1つを提案する.

3.1 状態空間モデルを計量経済学に応用する場合の問題

状態空間モデルを基礎にした Kalmanの研究は,Gaussによる最小 2乗法を現代的に展開した研究の中で最も成功したものといわれる.それにもかかわらず,まさに回帰分析を中心として発展してきた計量経済学において応用されることが少ないのは,一見奇妙である.これにはいくつか理由が考えられる.

1. 計量経済学における回帰分析を用いる多くの経済学者の間で,推定対象の未知パラメータが漸進的変化 (gradual change)をする,つまり経済構造が時変であるという発想への抵抗がある.実際,構造変化は Chow (1960)によるテストで捉えられる,不連続なものであるという考え方が根強い.

2. 計量経済学においては,統計モデルの推定に加えて統計モデルの基礎となる理論の検証を仮説検定という手続きで行なうことが慣習化しているために,推定されたパラメータに対する検定理論が整備されていない,統計解析に計量経済学者は基本的に興味を示さない.

3. 計量経済学における大部分の統計モデルにおける推定問題は,信号抽出理論の用語に対応させると,固定区間平滑化 (スムージング)になる.Kalman (1960)の理論では,カルマン・フィルタのアルゴリズムをフル・サンプルの最終時点にむけて逐次的に適用した後,カルマン・スムーザを初期時点の方向へ適用するアルゴリズムを逐次的に適用する必要がある.計算の手続きは,統計パッケージを使う場合も簡単とはいえない.

4. 計量経済学での応用を考えるとき,状態空間モデルの観測方程式・遷移方程式の撹乱項の共分散行列が既知であるという想定は,通常満たされない.そのために,観測データから状態変数と同時に撹乱項の共分散行列を推定するために,最尤法その他が使われることになるが,扱いが簡単とはいえない.

5. 計量分析における数値計算上の問題が生ずることがあげられる.カルマン・フィルタが数値的に漸近安定であるためには,状態空間モデルが可観測 (observable)であり可制御 (controlable)という条件が必要である.カルマン・フィルタを用いて計算した尤度関数を用いて最尤推定を行なう必要が生ずる場合,最尤推定値を数値的に探索するステップで状態空間を摂動させるときに,これら 2条件がしばしば成立しなくなるために,最尤推定が頓挫するという問題が起こる.

以上のように,計量経済学へ応用する場合の状態空間モデルの問題点を列挙してみると,状態空間モデルの枠組みそのものに起因する問題は,あまりないことに気づく.確かに,景気指標を扱う場合を除けば,経済学において推定値の更新アルゴリズムを基礎とするカルマン・フィルタそのものを応用する場面はほとんどない.いわば計量経済分析においては,固定区間平滑化 (smoothing)しかあつかわないといってよい.例外は政策関連のシミュレーションにおける予測 (prediction)くらいであろう.結局,状態空間モデルの記述性の高さを利用しつつ,既存の計量経済学の手法と

関連の強い固定区間平滑化 (smoothing)の方法を確立することが計量経済学者に課せられた問題ということになる.次節では,Durbin and Koopman (2001)で展開された直接的な平滑化の方法を示す.なお,ここでいう直接的とは,逐次計算を想定するアルゴリズムによる方法ではないことを指す.

10

Page 11: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

3.2 Durbin-Koopman(2001)による平滑化

ここで,読者の便宜を図り,状態空間モデルを改めて示す.

yt = Xtβt + ut, utiid∼ N(0, Rt) (22)

βt+1 = Φt+1,tβt + vt, vtiid∼ N(0, Qt) (23)

(22)が観測方程式,(23)が遷移方程式である.各行列 Xt,Φt+1,t, Rt, Qt は既知とする.また

(∀t1)(∀t2) E[ut1v′t2 ] = O

と仮定する.観測期間を T = {0, 1, · · · , T}とし,状態変数の初期値は β0は,既知の正規分布

β0iid∼ N(β0, P0)

に従うと仮定する.以上の状態空間モデルの次元を表 1にまとめておく.

表 1: 状態空間モデルの次元

ベクトル 行列yt n Xt n×m

βt m Φt+1,t m×m

ut n Rt n× n

vt m Qt m×m

β0 m P0 m×m

次に示すような,ベクトルと行列をおくことで,(22) の行列表示が可能となる.

y =

y0...

yT

, X =

X0 · · · O O...

. . ....

...O · · · XT O

, β =

β0...

βT

βT+1

,

u =

u0

...uT

, R =

R0 · · · O...

. . ....

O · · · RT

観測方程式 (22)はy = Xβ + u, u

iid∼ N(0, R) (24)

と表現される.また次に示すような,ベクトルと行列をおくことで,遷移方程式 (23)を行列で表

現することができる.

Φ =

I O O O O OΦ1,0 I O O O O

Φ2,1Φ1,0 Φ2,1 I O O OΦ3,2Φ2,1Φ1,0 Φ3,2Φ2,1 Φ3,2 I O O

......

......

. . ....

ΦT,T−1 · · ·Φ1,0 ΦT,T−1 · · ·Φ2,1 ΦT,T−1 · · ·Φ3,2 ΦT,T−1 · · ·Φ4,3 · · · ΦT,T−1 I

,

11

Page 12: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

β∗0 =

β0

0...0

, J =

O O · · · OI O · · · OO I · · · O...

.... . .

...O O · · · I

,

v =

v0

...vT

, Q =

Q0 · · · O...

. . ....

O · · · QT

遷移方程式 (23)はβ = Φ(β∗0 + Jv), v

iid∼ N(0, Q) (25)

と表現される.Durbin-Koopmanは,(25)を (24)に代入することで,観測ベクトル y が状態ベ

クトルの初期値 β∗0 と遷移方程式と観測方程式のそれぞれの撹乱項 v,uの線形関数となる形式

y = XΦβ∗0 + XΦJv + u (26)

を導いた後.彼らは,煩雑な計算を経て,

E[y] = XΦβ∗0

V ar[y] = XΦ(P ∗0 + JQJ ′)Φ′X ′ + R

をえている.ここで

β∗0 =

β0

0...0

, P ∗0 =

P0 O · · · OO O · · · O...

.... . .

...O O · · · O

,

である.われわれは,(24) を Durbin-Koopman Regression とよぶことにする.Durbin-

Koopmanは (25)と (24)を詳細に解析して,この行列型の状態空間モデルから状態変数の平滑化推定値 βを導いている.Durbin-Koopman Regressionは,形式的には回帰モデルの形をしているが,(24)を用いて観測データ yから,状態変数の平滑化推定値 βを直接計算することはできない.これは,彼らが観測方程式・状態方程式ともにその共分散行列が既知であるという Kalman (1960)の仮定を踏襲していることによる.このために,Durbin-Koopman Regressionは,計量経済学への応用がしやすい形にはなっていない.

3.3 状態空間モデルの直接的平滑化:Gaussの最小 2乗法への回帰

この節では,Durbin and Koopman (2001)と同様に,状態空間モデルを行列型で表現し,回帰モデルとして観測データのみから,固定区間平滑化を行なう方法を示す.状態空間モデルは前節で示した,(22)と (23)とする.ただし,観測期間をT = {1, 2, · · · , T}とし,0時点に関しては状態ベクトルの事前分布

β0iid∼ N(β0, P0)

が既知とする.よって以下 yと記すときは,y1,y2, · · · ,yT を並べて作る列ベクトルを指すものとする.

12

Page 13: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

われわれは,観測方程式 (22)については,Durbin-Koopmanと類似の行列表現を考える.

y1

y2...

yT

=

X1 OX2

. . .O XT

β1

β2...

βT

+

u1

u2

...uT

(27)

次に遷移方程式 (23)であるが,次のような回帰モデルとして表現する.

−Φ1,0β0

0...0

=

−I OΦ2,1 −I

. . . . . .O ΦT,T−1 −I

β1

β2...

βT

+

v1

v2

...vT

(28)

このような変形を行なうことにより,行列 X1, X2, · · · , Xt,Φ1,0,Φ2,1, · · · ,ΦT,T−1 とベクトル β0 が既知であるという仮定の下で,観測データ y1,y2, · · · ,yT から状態変数 β1,β2, · · · ,βT の固定区間平滑化推定値を,最小 2乗法,一般化最小 2乗法などの計量経済学になじみの深い推定方法で求めることができる.つまり

y1

y2...

yT

−Φ1,0β0

0...0

=

X1 OX2

. . .O XT

−I OΦ2,1 −I

. . . . . .O ΦT,T−1 −I

β1

β2

 ...

βT

+

u1

u2

...uT

v1

v2

...vT

(29)

という巨大な回帰モデルを考えればよいだけである.状態空間モデルの回帰モデルの表現 (29)を Ito Regressionとよぶ.

Ito Regressionが Durbin-Koopman Regressionと異なるのは,観測方程式・遷移方程式の撹乱項の共分散行列の知識に基づかずに,平滑化推定値が得られる点である.しかも観測データ y1,y2, · · · ,yT と regressor行列

Z =

X1 OX2

. . .O XT

−I OΦ2,1 −I

. . . . . .O ΦT,T−1 −I

の各列との間に統計的な独立性が保証される場合には,t検定を初めとする状態空間推定値に関する,伝統的な仮説検定を行なう道が開かれる.さらに,例えば最小 2乗推定を行なったときの状態変数の推定値は

β = (Z ′Z)−1Z ′y

という観測値 yの線形関数になっているが実は,行列 (Z ′Z)−1Z ′の各行はフィルタ・ゲインになっていることに注意しよう.具体的には t行は,βtを計算するときに用いた観測期間 T = {1, 2, · · · , T}における ytの (負の値もとりうる)重みを意味する.例

13

Page 14: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

えば,各行をプロットすることにより,対応する時点の状態変数の計算に対する観測データの貢献を知ることができる.様々な利点のある Ito Regressionであるが,現在のコンピュータの計算能力を考

慮したとき実用性があるかということが問題となる,2006年現在,Pentiumの Coreduo,あるいは AMD Athelonなどの 64bitプロセッサを内臓し 4GB以上の主記憶を実装している PCあるいはWSの上で行列計算に特化している行列言語である RやMatlab を使用する場合,8000× 8000程度の大きさの行列の逆行列計算を行なうのに1分もかからない.次節では,2500× 2500程度の Ito regressor行列に対する解析を,主記憶 512MB

の 32bitのMPUの低能力の PCで行なった実例を示す.

4 Ito Regressionの応用例この節は,前の節で示した Ito Regressionによる状態空間モデルの応用例として,

株価収益率データに対する時変 ARモデルの推定をとりあげる.なお,この節の内容は,伊藤・杉山 (2006)の一部である.

AR(k)モデルはよく知られているように,各時点のデータ xt に対して,

xt = α1xt−1 + α2xt−2 + · · ·+ αkxt−k + ut, utiid∼ N (0, σ2

u) (30)

というモデルである.ここで採用するのは,(30)の ARモデルの AR係数 αj , (j = 1, · · · , k)が,ある動

学体系 (dynamical system)にもとづいて変化するという,時変ARモデルである.より具体的には,各次の時変 AR係数は単位根を持ちランダム・ウォークすると仮定する.このように仮定することで,状態ベクトルの動学方程式を規定する遷移行列 Ft,ノイズ変換行列Φtが単位行列となり,モデルの推定が簡略化される.具体的には,一変量株価収益率系列 {xt}, (t = 1, · · · , T )に対して,Rt, Qtに関してより単純化して時変 ARモデルを状態空間モデルで表現すると,以下のようになる.

観測方程式

  xt =(

xt−1 xt−2 · · · xt−k

)

α1,t

α2,t

...αk,t

+ ut, ut

iid∼ N (0, σ2ut) (31)

遷移方程式

α1,t

α2,t

...αk,t

=

1 0 · · · 00 1 · · · 0...

.... . .

...0 0 · · · 1

α1,t−1

α2,t−1

...αk,t−1

+

v1,t

v2,t

...vk,t

, vt

iid∼ Nk(0, σ2vtI)

(32)ただし (32)において,vt ≡ (v1,t v2,t · · · vk,t )′ とする.この状態空間モデルに,前節の Ito Regressionの考え方を適用すると以下のよう

14

Page 15: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

になるベクトルy, α, εと行列 Z を

y ≡

x1

x2

...xT

−α1,0

−α2,0

...−αk,0

00...0...00...0

,α ≡

α1,1

α1,2

...α1,T

α2,1

α2,2

...α2,T

...αk,1

αk,2

...αk,T

, ε ≡

u1

u2

...uT

v1,1

v2,1

...vk,1

v1,2

v2,2

...vk,2

...v1,T

v2,T

...vk,T

Z ≡

x0 x−1 x−k

x1 x0 . . . x−k+1

. . . . . . . . .xT−1 xT−2 xT−k

−1−1 . . .

−11 −1

1 −1 . . .

1 −1...

.... . .

...1 −1

1 −1 . . .

1 −1

(但し Z で空白部分はすべて 0.)

と定義するとき,すべての観測値 {xt}, (t = 1, . . . , T )についての観測方程式 (31)と遷移方程式 (32)は,

y = Zα + ε (33)

のような巨大な線形回帰モデルとして表現可能となる.これを最小 2乗法 (OLS),あるいは一般化最小 2乗法 (GLS)によって回帰係数を

推定してやればよい.実際上の応用において,係数の区間推定あるいは各種の検定を行なわない限り,最小 2乗法で十分である.次に前節で示した手続きに従って,各国の株式市場の集計株価データに対して,各

時点での 1次の AR係数を計測し結果を示す.例として用いた対象データは表 2にある 6カ国 8個の株価指標とする.

15

Page 16: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

表 2: データ

国,地域 株価指標 サンプル期間 Frequency日本 日経 225 1955/1-2006/2 月次

TOPIX 1955/1-2006/3 月次米国 Dow Jones Industrial Average 1955/1-2006/4 月次

SP500 1955/1-2006/5 月次韓国 KOSPI200 1990/1-2004/12 月次英国 FTSE100 1984/4-2007/2 月次香港 HANGSENG 1987/1-2007/2 月次ドイツ DAX30 1981/1-2007/2 月次

(注)月次は,日次終値の月中平均を意味する.

各国データに対して Ito Regressionを適用した結果が図 1~図 6であり,観測方程式に AR(1)を仮定した場合の Ito Regressionによる状態変数の推定値の推移,各状態変数の t値に対応する p値の推移が示されている.推定方法は最小 2乗法を用い,t値はWhite修正を施した.厳密に言えば,regressorと従属変数が独立でないために,t検定を行なうことはできない.ここでは,係数の区間推定の代替物として t検定を行なっている.状態変数の初期値,データの初期値はともに全て 0を仮定した.状態変数の初期

値を得るためにサンプルの最初のほうを使った事前分析も行ない,その初期値のもとで Ito Regressionの推定も行なったが,推定結果を全体で見ると初期値に依らず頑健なことは確認済である.ただし状態変数の初期値を 0に仮定することで,サンプル初頭の状態変数の推定値の挙動は,0よりも高い水準への「調整のような経路」を経ていることに注意してほしい.既に言及したように,ARの次数選択は普通は SBICのような情報量基準を用いて

決定するのが普通であるが,カルマン・スムージングを古典的線形回帰モデルの形に帰着させるという Ito Regressionの発想では,t値が有意かどうかを重視し,その結果,8個すべての株価指標の収益率データについて,AR(1)が選択された.(AR(2)以上を仮定して Ito Regressionを実行しても,2次以上の係数の t値はほとんど有意ではなかった.)以上の応用例は,株価収益率の 1次の自己相関にほぼ等しい 1次の AR係数を各

時点ごとに計測することが容易にできることを示している.これにより,各国の各時点ごとの,市場効率性を同時に比較することできる.こうした,本来,非常に手間のかかった分析が,単純な OLSで可能になることが,Ito Regressionの強みである.

5 おわりにこの論文では,計量経済学においていまだに本格的な応用例が少ない,状態空間

モデルの平滑化を効率的かつ簡便に行なうためには,カルマン・フィルタのような更新アルゴリズムに基づく方法に頼る必要がなくなっていることを示した.実際,高性能かつ安価なコンピュータが個人所有できるようになった現代においては,計量経済学で使われる典型的なデータセットに対して状態空間モデルを適用しても,この論文で示した方法によって十分実用的な平滑化が実行できる.また,Ito Regressionを利用すれば,遷移方程式・観測方程式に現われる撹乱項の共分散行列に関して,効率的な推定が可能となる.一旦,状態空間モデルにおける撹乱項の共分散行列に関する知識が明らかになれば,推定された状態変数に対する,区間推定や検定などの統計解析

16

Page 17: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

NIKKEI225

Time

AR

Coe

ffici

ent

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4

AR10

NIKKEI225

Time

P−v

alue

(Whi

te A

djus

ted)

1960 1970 1980 1990 2000

0.00

0.05

0.10

0.15

0.20

0.25

0.30

P−value(AR1)5%level10%level

TOPIX

Time

AR

Coe

ffici

ent

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4

0.5

AR10

TOPIX

Time

P−v

alue

(Whi

te A

djus

ted)

1960 1970 1980 1990 2000

0.00

0.05

0.10

0.15

0.20

0.25

0.30

P−value(AR1)5%level10%level

図 1: Ito Regression(日経 225,TOPIX)

が可能となる.なお,この論文では,遷移方程式における動学を規定する行列に未知パラメータ

が含まれる場合の平滑化は扱っていない.この点は,最尤法の代替物としてのGMM(一般化モーメント法)とMalinvaud (1970)のMD推定による方法が可能であるので,稿を改めて展開する予定である.われわれは,数学の巨人であるGaussが最小 2乗法を見出してから,ほぼ 200年

経過した世界に生きている.統計解析の手法は,回帰分析に関連したものに限ったとしても,長足の進歩を遂げたように思える.傲慢に考える研究者は,自分の研究がGaussの最小 2乗法から遥か遠いところにあると考えるかもしれない.しかし,冷静に考えてみれば,統計分析の多くの手法は,最小 2乗法とそれに強く関連する正規分布の理論の上に展開されている.または何らかの関連をもつ.Wiener過程も例外ではない.この論文で展開されたことに何かしらの意味があったとしても,それは巨人

17

Page 18: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

DOW JONES

Time

AR

Coe

ffici

ent

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4 AR1

0

DOW JONES

Time

P−v

alue

(Whi

te A

djus

ted)

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4

0.5

P−value(AR1)5%level10%level

SP500

Time

AR

Coe

ffici

ent

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4 AR1

0

SP500

Time

P−v

alue

(Whi

te A

djus

ted)

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4

0.5

P−value(AR1)5%level10%level

図 2: Ito Regression(Dow Jones Industrial Average,S&P500)

の肩の上に立ったがゆえに見出されたものでしかない.

Data Appendix

日経 225,TOPIX, Dow Jonew Industrial Averageは日経NEEDSより取得した.その他のデータは Econstats(http://www.econstats.com/home.htm)より取得した日次データを月中平均に加工した.実証分析には,R version 2.4.1を用いた.

18

Page 19: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

KOSPI200

Time

AR

Coe

ffici

ent

1990 1995 2000 2005

0.0

0.1

0.2

0.3

0.4

AR10

 

KOSPI200

TimeP

−val

ue(W

hite

Adj

uste

d)

1990 1995 2000 2005

0.0

0.1

0.2

0.3

0.4

P−value(AR1)5%level10%level

図 3: Ito Regression(KOSPI200)

FTSE100

Time

AR

Coe

ffici

ent

1985 1990 1995 2000 2005

0.00

0.05

0.10

0.15

0.20

0.25

AR10

 

FTSE100

Time

P−v

alue

(Whi

te A

djus

ted)

1985 1990 1995 2000 2005

0.00

0.05

0.10

0.15

0.20

0.25

0.30

0.35

P−value(AR1)5%level10%level

図 4: Ito Regression(FTSE100)

19

Page 20: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

HANGSENG

Time

AR

Coe

ffici

ent

1985 1990 1995 2000 2005

0.0

0.1

0.2

0.3

AR10

 

HANGSENG

TimeP

−val

ue(W

hite

Adj

uste

d)

1990 1995 2000 2005

0.0

0.2

0.4

0.6

0.8

1.0

P−value(AR1)5%level10%level

図 5: Ito Regression(HANGSENG)

DAX30

Time

AR

Coe

ffici

ent

1985 1990 1995 2000 2005

0.0

0.1

0.2

0.3

0.4

AR10

 

DAX30

Time

P−v

alue

(Whi

te A

djus

ted)

1985 1990 1995 2000 2005

0.00

0.05

0.10

0.15

0.20

0.25

0.30

P−value(AR1)5%level10%level

図 6: Ito Regression(DAX30)

20

Page 21: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

International Comparison

Time

1960 1970 1980 1990 2000

0.0

0.1

0.2

0.3

0.4

0.5

KOREAENGLANDHONG KONGGERMANYJAPANUSA

図 7: 国際比較

21

Page 22: 状態空間モデルの直接法による平滑化 伊藤幹夫 - …web.econ.keio.ac.jp/staff/ito/pdf06/KESDP_06-5.pdfKEIO ECONOMIC SOCIETY DISCUSSION PAPER SERIES No. 06-5 KESDP

References

Chow, G.C. (1960) “Tests of Equality Between Sets of Coefficients in Two LinearRegressions,” Econometrica, Vol. 28, No. 3, pp. 591–605.

Cooley, T.F. and E.C. Prescott (1973a) “An Adaptive Regression Model,” Interna-tional Economic Review, Vol. 14, No. 2, pp. 364–371.

(1973b) “Tests of an Adaptive Regression Model,” The Review of Eco-nomics and Statistics, Vol. 55, No. 2, pp. 248–256.

(1976) “Estimation in the Presence of Stochastic Parameter Variation,”Econometrica, Vol. 44, No. 1, pp. 167–184.

Durbin, J. and S.J. Koopman (2001) Time Series Analysis by State Space Methods:Princeton University Press, (和合肇・松田安昌訳,『状態空間モデルによる時系列分析入門』,シーエーピー出版,2004年).

Fisher, RA (1922) “On the Mathematical Foundations of Theoretical Statistics,”Philosophical Transactions of the Royal Society of London. Series A, ContainingPapers of a Mathematical or Physical Character, Vol. 222, pp. 309–368.

Gauss, C. (1809) “Teoria motus,” English translation (1963): Theory of the motionof the heavely bodies about the sun in conic sections. New York: Dover.

Greene, W.H. (2003) Econometric analysis: Prentice Hall Upper Saddle River, NJ.

伊藤幹夫・杉山俊輔 (2006) 『市場効率性の時変構造』,Keio Economic Society,Discussion Paper Series, KESDP 06-6.

Kailath, T. (1974) “A view of three decades of linear filtering theory,” InformationTheory, IEEE Transactions on, Vol. 20, No. 2, pp. 146–181.

Kalman, R.E. (1960) “A New Approach to Linear Filtering nad Prediction Prob-lems,” Journal of Basic Engineering, Vol. 46, No. 5, pp. 1575–1617.

Kalman, R.E. and R.S. Bucy (1961) “New results in linear filtering and predictiontheory,” Journal of Basic Engineering, Vol. 83, No. 3, pp. 95–108.

片山徹 (2000) 『応用カルマンフィルタ』,朝倉書店.

Kolmogorov, AN (1941) “Interpolation and Extrapolation of Random Sequences,”Izv. Akad. Nauk SSSR, Ser. Mat, Vol. 5, pp. 3–14.

Legendre, A.M. (1806) “Nouvelles Methodes pour la determination des Orbites desCometes,” Paris: Courcier, 1806; VIII, 55 p.; in 4.; DCCC. f. 10.

Levinson, N. (1947) “The Wiener RMS (root mean square) error criterion in filterdesign and prediction,” J. Math. Phys, Vol. 25, No. 4, pp. 261–278.

Malinvaud, E. (1970) “The Consistency of Nonlinear Regressions,” The Annals ofMathematical Statistics, Vol. 41, No. 3, pp. 956–969.

Sorenson, H.W. (1970) “Least-Squares estimation: from Gauss to Kalman,” IEEESpectrum, Vol. 7, No. 7, pp. 63–68.

Wiener, N. (1949) Extrapolation, interpolation, and smoothing of stationary timeseries: Wiley.

22