33
実数計算の理論 と実践 連続世界の計算限界 河村彰星 平成281014

実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実数計算の理論と実践連続世界の計算限界河村彰星

平成28年10月14日

Page 2: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

数学と計算

計算理論は数学的構成の精密化

ならばその対象は 離散・有限・組合せ数学だけでなくあらゆる数学的対象に及ぶべきでは?

「任意の○○に対し△△が存在する」

「与えられた○○から△△を計算する方法(チューリング機械)がある」

数学の世界

計算の世界

Page 3: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

連続性と計算可能性

連続

計算可能

多項式時間計算可能など

∀ε∃δ 入力のδ近似から出力のε近似が

決る

計算できる

たやすく計算できる

Page 4: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

計算可能解析学(Computable Analysis)

実数を含む問題の計算理論(計算可能性・計算量)

K. Weihrauch, Computable Analysis, Springer, 2000.

http://cca-net.de/

Page 5: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実数の表現

実数 𝑡

文字列 0𝑛 𝑡 の 2−𝑛 近似(距離 2−𝑛 以内

にある有理数)を表す文字列

実数など →文字列から文字列への函数で表現(一型)

整数など →文字列で表示(零型)

例:

我々が扱いたいのは「二型」の計算

Page 6: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実函数の計算

函数 𝑓: [0, 1] → 𝐑 を計算する機械 𝑀

文字列 0𝑛 𝑡 の 2−𝑛 近似

機械 𝑀

文字列 0𝑚 𝑓(𝑡) の 2−𝑚 近似

神託

Page 7: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実函数の計算

𝑡が任意の精度でわかるとき𝑓(𝑡)を任意の精度で求める機械

神託

𝑓(𝑡)の2−𝑚近似0𝑚

𝑡の2−𝑛近似0𝑛

定義

• 文字列函数 𝜑: Σ∗ → Σ∗ が実数 𝑡 ∈ 𝐑 の名であるとは𝜑(0𝑛) が 𝑡 を 2−𝑛 近似する有限小数であること

• 機械 𝑀 が 𝑓: [0,1] → 𝐑 を計算するとは任意の 𝑡 ∈ [0,1] の名 𝜑 に対し 𝑀𝜑 が 𝑓(𝑡) の名であこと

𝑀に神託𝜑を与えたとき計算される函数

これが多項式時間でできる(P)というときは 𝑚 についての多項式

計算できる函数は連続

Page 8: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

例:加算

+: 0,1 2 → 𝐑 はP

0𝑛𝑠 の2−𝑛 近似

機械

0𝑚 𝑠 + 𝑡 の 2−𝑚 近似

0𝑛′

𝑡 の

2−𝑛′

近似𝑛 = 𝑛′ = 𝑚 + 1にすればよい

Page 9: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

例:sin

sin 𝑡 =𝑡

1!−𝑡3

3!+𝑡5

5!−𝑡7

7!+⋯

sin: 0,1 → 𝐑 は P

∵ この級数の収束は十分早い(値を 𝑛 桁知るには初めの O 𝑛 項だけ見れば十分)

その項までの和は多項式時間で求まる(加算・乗算)

Page 10: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実函数の計算

但し 𝑘 = 0 又は 𝑎𝑘 , 𝑎𝑘−1 ∈ { 1,0 , 1,1 , −1,0 , −1,−1 }

各 𝑎𝑖 は 0, 1, −1 のいずれか

…これは実数が次の「符号つき二進法」で表現されると思ってもよい

つまり二進法の各桁に「−1」という文字を許したもの

𝑎𝑘 …𝑎1𝑎0. 𝑎−1𝑎−2…

無限列で を表す

𝑖=−∞

𝑘

𝑎𝑖 ⋅ 2𝑖

Page 11: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

普通の二進展開は何故ダメか

「符号つき二進数」なら「1 にすごく近い」と判っただけで何か出力できる

二つの実数の加算

0.01111111111111111111111111111111111111111111111111110.1000000000000000000000000000000000000000000000000000

+?

この桁が決められない 和が 1 以上か否か

いきなり正確に答えることを要求

Page 12: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

表現法の強弱

位相空間 𝑋 の表現法 𝛾:⊆ Σ∗∗ → 𝑋 と表現法 𝛿:⊆ Σ∗∗ → 𝑋 について

𝛾 ≤ 𝛿

とは 或る連続函数 𝑡: Σ∗∗ → Σ∗∗ が存在し

任意の 𝜑 について 𝛾 𝜑 = 𝛿 𝑡 𝜑 となること

𝛾 は 𝛿 よりも強い(豊かな情報をもつ)

𝑡 が 𝛾 名を 𝛿 名に翻訳する

文字列函数の全体 Σ∗ → Σ∗

Page 13: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

適正な表現法

定義

位相空間 𝑋 の表現法 𝛾:⊆ Σ∗∗ → 𝑋 が(位相的に)適正(admissible)であるとは【連続性】 𝛾 は連続【最弱性】 𝑋 の任意の連続な表現法 𝛾′ について

𝛾′ ≤ 𝛾

例:先程からの我々の表現法は(𝐑 の通常の位相について)適正

Page 14: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

計算と連続性

定理

位相空間 𝑋,𝑌 に適正な表現法を用いると函数 𝑓: 𝑋 → 𝑌 について

𝑓 は連続 ⟺ 𝑓 は或る神託 𝐵 の下で計算可能

𝜑

𝑣 𝜑(𝑣)

機械 𝑀

𝑢 𝜓 𝑢

𝐵

入力 𝜑 とは別に神託 𝐵 にも質問できる

𝑥 ∈ 𝑋 の名 𝜑

𝑓(𝑥) の名 𝜓

[KW85]C. Kreitz and K. Weihrauch. Theory of representations. Theoretical Computer Science38:35–53, 1985.

Page 15: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

適正でない表現法の例

最弱でない(符号つき二進法から翻訳できない)ので

不連続なので

lim𝑖→∞

𝑞𝑖(収束するとき)

𝑞0, 𝑞1, 𝑞2, …

普通の二進展開は適正でない

これも適正でないを表す表現法

(収束の速さの保証がない)で単なる数列

Page 16: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

[Ko] K. Ko. On the computational complexity of ordinary differential equations. Inform. Contr. 58, 1983.[K] A. Kawamura. Lipschitz continuous ordinary differential equations are polynomial-space complete. Comput.

Complexity 19, 2010.

計算量の例(微分方程式)

定理[Ko 1983]

リプシッツ連続な 𝑔: 0, 1 × [−1, 1] → 𝐑 が PSPACEなら

ℎ 0 = 0, ℎ′ 𝑡 = 𝑔 𝑡, ℎ 𝑡で定まる ℎ: [0,1] → 𝐑 も PSPACE

多項式空間(同様に定義)

𝑡

𝑦

0 1

𝑔(𝑡, 𝑦) ℎ(𝑡)

定理[K 2010]

もしこれが Pについても成立つならば 𝐏𝐒𝐏𝐀𝐂𝐄 = 𝐏

唯一つ存在(コーシー・リプシッツの定理)

Page 17: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

微分方程式の計算量(PSPACE完全)

Page 18: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

微分方程式の計算量(PSPACE完全)

滑らかな動きのみでPSPACE計算を実現するため

少し頑張る必要あり

Page 19: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実函数に対する演算の計算量

(summary by Ker-I Ko)http://www.cs.sunysb.edu/~keriko/cca10.pdf

Page 20: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

アナログ計算機

微分解析機(Differential Analyzer)

微分方程式を解くアナログ計算機加算機・乗算器・積分器などを適当に接続ケルヴィン卿(ウィリアム・トムソン)が19世紀に着想1930年頃に実現 1950年代まで使われる

「強いチャーチのテーゼ」微分方程式が Pよりも複雑ならそれを(その方程式に従う物理現象を)

計算に利用できないのか? どんな物理現象を使ってもチューリング機械より強くならない?

Page 21: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

汎用アナログ計算機(GPAC)

微分解析機の数理モデル(シャノン 1941)

Page 22: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

積分器の原理の例 ∫ 𝑓 d𝑔

ケルヴィン卿の兄ジェームズ・トムソンの論文(1876)より

Page 23: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

Page 24: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

アナログ計算機の能力

実際には(初期値はいじれるが)方程式そのものは単純

定理[Pour-El 1974, Rubel 1987, Graca 2004, K 2009]

GPACで書ける函数は(デジタル計算の意味で) P

定理[Bournezら 2007~2013]

「GPACで書ける函数により近似される函数」の全体はPに一致

𝑡

𝑦

0 1

𝑔(𝑡, 𝑦) ℎ(𝑡)

Page 25: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

さっきの例定理(再掲)

リプシッツ連続な 𝑔: 0, 1 × [−1, 1] → 𝐑 が PSPACEなら

ℎ 0 = 0, ℎ′ 𝑡 = 𝑔 𝑡, ℎ 𝑡で定まる ℎ = ODE 𝑔 : [0,1] → 𝐑 も PSPACE

定理(再掲)

もしこれが Pについても成立つならば 𝐏𝐒𝐏𝐀𝐂𝐄 = 𝐏

強い定理

演算子 ODE: CLip 0,1 × −1, 1 → C 0, 1 は

表現法 𝛿func+L と 𝛿func の下で PSPACE完全

系 どう表すか?(次頁)

Page 26: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

実函数の名

𝑓(𝑢) の 2−𝑚近似(𝑢, 0𝑚)0𝜇(𝑛)0𝑛

函数 𝑓 ∈ C[0, 1] の 𝛿func名とは

𝜇 は 𝑓 の連続度 すなわち

𝑥 − 𝑦 < 2−𝜇(𝑛) ⇒ 𝑓 𝑥 − 𝑓 𝑦 < 2−𝑛

• すべての連続函数 𝑓: [0,1] → 𝐑 は名をもつ• これは 函数適用 𝐴𝑝𝑝𝑙𝑦: C 0,1 × 0,1 → 𝐑 を

P にする最弱の表現法である

※「多項式時間」の定義も適切に拡張する必要ありリプシッツ連続な函数 の 𝛿func+L名には

これに加えてリプシッツ定数の情報を付加

Page 27: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

計算量は 存在定理の精密化

コーシー・ペアノの定理(の不成立)@計算可能性[PR]

𝑔 ↦ ℎは表現法𝛿funcの下で計算不可能

[PR] M. B. Pour-El and I. Richards. A computable ordinary differential equation which possesses no computable solution. Ann. Math. Log. 17, 1979.

ℎ 0 = 0, ℎ′(𝑡) = 𝑔(𝑡, ℎ(𝑡))

コーシー・ペアノの定理

任意の𝑔に対し解ℎは(原点の近くで)存在

コーシー・リプシッツの定理@PSPACE

𝑔 ↦ ℎは表現法𝛿func+Lの下でPSPACE

コーシー・リプシッツの定理

リプシッツ連続な𝑔に対し解ℎが存在

コーシー・コワレフスカヤ@P

𝑔 ↦ ℎは表現𝛿anの下でP

コーシー・コワレフスカヤの定理

解析的な𝑔に対し解析的な解ℎが存在様々な数学的現象の

データ操作としての側面を理解

数値計算の問題の難しさを計算量により分類

「解析函数に対する計算は容易」?

Page 28: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

収束する級数の名

𝑓 𝑧 =

𝑗∈𝐍

𝑎𝑗𝑧𝑗

𝑓 の 𝛿an名𝑎𝑗の

2−𝑛近似0𝑗 , 0𝑛

この級数の収束の速さに関する情報

多項式時間で変換𝑎𝑗 𝑗, 𝑆 𝑓, 𝑆

級数の和を取る

テーラー展開

Page 29: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

最近の研究題材Gevrey階層(解析函数より広い函数クラス)の固定パラメタ計算量[KMRZ15]

P の内部の計算量(対数空間Lや並列計算NC)[KO14]

力学系の模倣の困難さとノイズの関係[BRS15]

フラクタル図形の描画の計算量[BY09]

連続力学系における閉軌道(Bendixsonの定理)の計算量[PV16]

[KMRZ15]A. Kawamura, N. Müller, C. Rösnick, M. Ziegler. Computational benefit of smoothness: Parameterized bit-complexity of numerical operators on analytic functions and Gevrey’s hierarchy. J. Complexity 31, 689–714, 2015.

[KO14] A. Kawamura, H. Ota. Small complexity classes for computable analysis. Proc. MFCS 2014.

[BRS15] M. Braverman, C. Rojas, J. Schneider. Tight space-noise tradeoffs in computing the ergodic measure. ArXiv:1508.05372, 2015.

[BY09] M. Braverman, M. Yampolsky. Computability of Julia Sets. Springer, 2009. [PV16] C. H. Papadimitriou, N. K. Vishnoi. On the Computational Complexity of Limit Cycles

in Dynamical Systems. Proc. ITCS 2016.

Page 30: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

まとめ

実数などを対象とする計算は部分情報(近似)に対する操作として理解できる

それがどのような形の部分情報かを定めるのが「表現」

これにより数学的・物理的・…に意味をもつ様々な演算がどんな複雑さをもつかを調べることができる

Page 31: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく
Page 32: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

評価戦略と精度

50桁必要

途中結果 𝑥,𝑦,𝑧 が実数ならよいが…

最終結果が望む精度で出るまで

やり直す

𝑥 𝑦 𝑧𝑡 ↦𝑓

↦ℎ

↦𝑔

後向き戦略 80桁必要120桁必要

150桁必要

前向き戦略

途中結果に何桁の精度が必要か 逆算

𝑥 を80桁計算𝑦 を60桁計算

𝑡 を100桁使って…

𝑧 が40桁しか出なかった

𝑡 を200桁使って…iRRAMの基本戦略

𝑡

答精度

答精度

𝑔

答精度𝑓

答精度

𝑓 𝑔 ℎ 𝑡

行ける所まで行く

Page 33: 実数計算の理論と実践kawamura/H281014_slides_ramp.pdf · 2018-03-30 · 数学と計算 計算理論は数学的構成の精密化 ならばその対象は 離散・有限・組合せ数学だけでなく

評価戦略の難しさ

例えば 𝑥 = 𝑥0, 𝑥1, … という実数列だったら 精度とは?

例えば 𝑥 の第 100 項までを小数点以下 100 桁 →失敗

第 200 項までを 100 桁?

第 100 項までを 200 桁?

次は

場合による

必要精度を真面目に考えることも或る程度は必要だ…

数列だけでなく 函数・集合などとなると更にややこしい…