22
電情報通信学会 総合会 パネルセッション 複雑 コミュニケーションサイエンス(CCS)とは?:4よりCCS研究会種化 2015311 アメーバ 計算パラダイム: 時空間 ダイナミクスによる 最適解探 野真 1,2 [email protected] 1. 東京業学 地球命研究所 , 2. JSTさきがけ,

アメーバ計算パラダイム:ccs/20150311PDF/AP-1-6_Aono.pdfCCS研究会で私が議したいこと これまで解けなかった数多くの問題が解ける可能性あり!

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

  • 電⼦子情報通信学会  総合⼤大会  パネルセッション  複雑コミュニケーションサイエンス(CCS)とは?:4⽉月よりCCS研究会⼀一種化  2015年年3⽉月11⽇日

    アメーバ計算パラダイム:  時空間ダイナミクスによる最適解探索索

    ⻘青野真⼠士1,2  [email protected]  

    1.  東京⼯工業⼤大学  地球⽣生命研究所,  2.  JSTさきがけ,

  • CCS研究会で私が議論論したいこと

    これまで解けなかった数多くの問題が解ける可能性あり!⽣生物に学んだ  揺らぎ・⾮非線形性・不不安定性  を利利⽤用するコンピュータを作ろう!

    Bio-inspired ICT

    ICT-inspired Biology

  • 1cm

    a huge single-celled (but multi-nucleated) amoeboid organism 真性粘菌(モジホコリ): 多核単細胞アメーバ生物

    真性粘菌(True  Slime  Mold  Physarum  Polycephalum)

  • 7mm 7mm

    but withdraws when illuminated

    (photoavoidance).

    In each neuron, amoeba inherently

    grows branch

    yi = 0:

    neuron state : xi = 0(empty) xi =1

    neuron state : xi = 1(full)

    yi = 1

    xi = 0

    state : xi ∈ [0.0,1.0]

    the i th lane!!

    “ neuron i ”

    =Au-coated !

    plastic container

    Aono, M., Hara, M., BioSystems 91, 83-93 (2008).Aono, M., Hara, M., Aihara, K., Commun. ACM 50, 69-72 (2007).Aono, M., Gunji, Y.-P., BioSystems 71, 257-287 (2003).

    粘菌アメーバコンピュータ

  • Contraction-Relaxation Oscillation in Gel Layer composed of Actomyosins

    (Period: 1-2 min)

    Sol

    Sol

    Sol

    Relaxing

    Sol

    Gel

    Contracting

    Sol

    Gel

    Relaxing

    Sol

    Gel

    Time (min)

    Area

    occ

    pied

    by

    amoe

    ba’s

    bra

    nch

    0

    10

    20

    30

    40

    50

    60

    Neuron ( i )

    A1 2 3 4B1 2 3 4 C1 2 3 4 D1 2 3 4

    0

    1 xi

    unit ( i )

    収縮-‐‑‒弛緩サイクル  (周期:約1分)

    M. Aono, Y. Hirata, M. Hara, K. Aihara, New Generation Computing (2009).

    Y. Hirata, M. Aono, M. Hara, K. Aihara, Chaos (2010).

    M. Aono, Y. Hirata, M. Hara, K. Aihara, Natural Computing (2011).

    粘菌アメーバコンピュータ

    時空間振動ダイナミクス

  • thickness: increased! decreased

    play speed: 90 times faster! recording: CCD camera! lighting: transmitted light! interval: 6 sec! temp.: 27 C! humidity: 95 %

    A1A2A3A4A5

    A6A7A8B1

    B2

    B3

    B4

    B5

    B6

    B7

    B8

    C1

    C2

    C3

    C4

    C5

    C6

    C7

    C8

    D1D2

    D3D4

    D5D6D7D8E1E2E3

    E4E5

    E6E7

    E8F1

    F2

    F3

    F4

    F5

    F6

    F7

    F8

    G1

    G2

    G3

    G4

    G5

    G6

    G7

    G8

    H1H2H3H4

    H5H6H7

    H8

    光照射OFF  ⇒  ⾜足を伸ばす  光照射ON    ⇒  ⾜足を縮める

    「バウンスバック制御」

    ⼤大域  最適解

    局所  最適解fitness

    energy

    state space[0.0, 1.0]^N2

    縮める  伸ばす

    揺らぎ(エラー)

    \\

    粘菌アメーバの揺らぎはランダムではない!  複数の⾜足が  相互作⽤用しており  時間・空間相関をもつ!

    粘菌アメーバコンピュータ:巡回セールスマン問題

  • thickness: increased! decreased

    Route length: 128 (CHDEGFABC)

    play speed: 90 times faster! recording: CCD camera! lighting: transmitted light! interval: 6 sec! temp.: 27 C! humidity: 95 %

    A1A2A3A4A5

    A6A7A8B1

    B2

    B3

    B4

    B5

    B6

    B7

    B8

    C1

    C2

    C3

    C4

    C5

    C6

    C7

    C8

    D1D2

    D3D4

    D5D6D7D8E1E2E3

    E4E5

    E6E7

    E8F1

    F2

    F3

    F4

    F5

    F6

    F7

    F8

    G1

    G2

    G3

    G4

    G5

    G6

    G7

    G8

    H1H2H3H4

    H5H6H7

    H8

    粘菌アメーバコンピュータ:巡回セールスマン問題

  • 「アメーバモデル」⻘青野が2012年年に定式化

    極めて複雑で  広い応⽤用範囲をもつ  組合せ最適化問題  

    充⾜足可能性問題を⾼高速に解く

    従来技術

    アメーバモデル

    変数の数

    反復復回数

    桁違いに  ⾼高速!

    アメーバ計算パラダイム

    ナノデバイスにより実装

    確率率率的動作や揺らぎをもつ  他のデバイスでも実装可能!  産学の共同研究の可能性!

    量量⼦子ドット2012年年〜~

    Naruse, Aono et al., Phys. Rev. B (2012) Aono, Naruse et al., Langmuir (2013)

    ナノ電⼦子素⼦子2013年年〜~

    Kasai, Aono, Naruse, Appl. Phys. Lett. (2013)

    粘菌アメーバコンピュータ

    バウンスバック制御  ×  

    時空間相関をもつ揺らぎ

    2004年年〜~2011年年=

    ⾼高速な解探索索

    resource

    supplied illuminated

    illuminated

    これまで解けなかった数多くの問題が解ける可能性あり!⽣生物に学んだ  揺らぎ・⾮非線形性・不不安定性  を利利⽤用するコンピュータを作ろう!

  • 可能な状態  {x1, x2, x3, x4}

    {0,0,0,0} {0,0,0,1} {0,0,1,0} {0,0,1,1} {0,1,0,0} {0,1,0,1} {0,1,1,0} {0,1,1,1} {1,0,0,0} {1,0,0,1} {1,0,1,0} {1,0,1,1} {1,1,0,0} {1,1,0,1} {1,1,1,0} {1,1,1,1}

    1 1 1 1 1 1

    111 1 11 111 11 1 1= 1

    おさらい:充⾜足可能性問題  (Satisfiability  Problem;  SAT)

    広⼤大な応⽤用可能性:  ⼈人⼯工知能→  ⾃自動推論論,  制約充⾜足  情報セキュリティ→  暗号  バイオ情報学→  タンパクの構造予測

    ⼀一次構造(配列列) 三次構造

    最安定構造

    予測

    100 200 300 400 500

    1026105210781010410130 2N

    変数の数  N

    組合せ爆発:可能な状態の総数が              指数関数的に増⼤大する。              しかし指数時間アルゴリズム              しか知られていない。              →  N  が⼤大きくなると解けない。

    NP完全問題:すべてのNP問題がSATに変換可能。              →  SATが解けると数多くの応⽤用問題が解ける。

    すべての制約を満⾜足する(論論理理式を真[= 1]にする)  状態(=解)を⾒見見つけよ!

    変数の数  N=4, 制約の数  M=6

    (x1 or ¬x2) and (¬x2 or x3 or ¬x4) and (x1 or x3) and (x2 or ¬x3) and (x3 or ¬x4) and (¬x1 or x4)

  • R = 14,1

    X ≦ 02,0

    X =12,1

    X ≦ 03,0

    X ≦ 01,0

    X = 14,1

    X ≦ 04,0 X = 13,1

    R = 13,1

    F = 14,0

    F = 13,0

    F = 12,0F = 11,0

    X = 11,1R = 11,1

    solution:

    R = 12,1

    X ≦ 02,0

    X ≦ 02,1

    X ≦ 03,0

    X = 11,0

    X ≦ 04,1

    X ≦ 04,0 X ≦ 03,1

    radiation

    state filling

    F = 13,0

    F = 12,1X ≦ 01,1

    R = 11,0

    F = 11,1

    (x1 or ~x2) and (~x2 or x3 or ~x4) and (x1 or x3) and (x2 or ~x3) and (x3 or ~x4) and (~x1 or x4) = 11 1 1 1 1 1100 1 00

    0010

    0111 0and0 1and1

    01 1and

    0 11 0

    0 1 0 1

    バウンスバック制御望ましくない状態遷移を跳ね返す(斥⼒力力) 望ましい状態へと誘導(引⼒力力)

    ≠  フィードバック制御

    ●  バウンスバック制御信号ON  ●  「⾜足が伸びた」に対応する状態

    「アメーバモデル」のバウンスバック制御

  • Xi,v = 1 indicates the assignment xi = v, where i ∈{1,2, ..., N} and v ∈{0,1}.変数表現:

    0 (otherwise),1 (if ( B ∋(P, Q) such that Q ∋(i,v) ) and ∀ (j,u) ∈ P (Xj,u (t) = 1) ),Li,v (t+1) =

    バウンスバック信号 Li,v ∈ {0,1}:

    where Bounceback Set B = INTRA ∪ INTER ∪ CONTRA.

    F ={{1,-2},{-2,3,-4},{1,3},{2,-3},{3,-4},{-1,4}} = {C1 , C2 , ..., Ck , ..., CM}

    P ∋( j,0) (if Ck ∋ j ),( j,1) (if Ck ∋ - j ).

    INTER ∋(P, {(i,0)}) (if Ck ∋ i ),(P, {(i,1)}) (if Ck ∋ - i ),

    For each Ck ,

    where for each j ≠ i,

    INTRA ∋ ({(i,v)}, {(i,1-v)}).For each i ,

    For each i ,CONTRA ∋ (P ∪ P’, P ∪ P’) if (P,{(i,0)}) ∈ INTER and (P’,{(i,1)}) ∈ INTER.

    バウンスバック制御の定式化とルール集合Bの⾃自動⽣生成

    (x1 or ¬x2) and (¬x2 or x3 or ¬x4) and (x1 or x3) and (x2 or ¬x3) and (x3 or ¬x4) and (¬x1 or x4)

    「アメーバモデル」のバウンスバック制御

  • リソース供給確率率率

    バウンスバック信号ONのユニット数

    バウンスバック信号OFFの場合  (N=75)

    リソース供給確率率率

    バウンスバック信号ONのユニット数

    バウンスバック信号OFFの場合  (N=75)

    1 (with a probability pi,v- (t) if Li,v (t)=0 バウンスバック信号OFF ),

    0 (otherwise). 1 (with a probability pi,v+(t) if Li,v (t)=1 バウンスバック信号ON),Yi,v (t+1) =

    揺らぎジェネレータ:確率率率揺らぎ(変動式)

    変数割当: 0 (if Xi,0 (t) = 1 and Xi,1 (t) ≦ 0 ),

    xi (t) = 1 (if Xi,0 (t) ≦ 0 and Xi,1 (t) = 1 ), xi (t-1) (otherwise).

    累累積リソース Xi,v ∈ {- 1, 0, 1}:Xi,v (t) + 1 (if Yi,v (t) = 1 and Xi,v (t) < 1 ),

    Xi,v (t) (otherwise).Xi,v (t) - 1 (if Yi,v (t) = 0 and Xi,v (t) > - 1 ),Xi,v (t+1) =

    リソース供給 Yi,v ∈ {0,1}:

    M. Aono, et al., Langmuir (2013).

    AmoebaSATnano(確率率率揺らぎモデル)

  • where sgn(r)=1 if r > 0, otherwise 0, and is an error parameter.

    Zi,v (t+1) = 4・ Zi,v (t)・( 1 - Zi,v (t) ).

    0 (if Li,v (t) = 1 バウンスバック信号ON) ,sgn( 1 - - Zi,v(t) ) (if Li,v (t) = 0 バウンスバック信号OFF) ,

    Yi,v (t+1) =

    リソース供給 Yi,v ∈ {0,1}:

    Zi,v

    t

    Y :i,v 01010101111110101111011010101101010101101010101101

    = 0.25

    0 10 20 30 40 500

    0.25

    0.5

    0.75

    1

    変数割当: 0 (if Xi,0 (t) = 1 and Xi,1 (t) ≦ 0 ),

    xi (t) = 1 (if Xi,0 (t) ≦ 0 and Xi,1 (t) = 1 ), xi (t-1) (otherwise).

    累累積リソース Xi,v ∈ {- 1, 0, 1}:Xi,v (t) + 1 (if Yi,v (t) = 1 and Xi,v (t) < 1 ),

    Xi,v (t) (otherwise).Xi,v (t) - 1 (if Yi,v (t) = 0 and Xi,v (t) > - 1 ),Xi,v (t+1) =

    0 0.25 0.5 0.75 1.0

    0.25

    0.5

    0.75

    1.

    Z (t-1)i,u

    Z (t)i,u

    FixedPoint

    = 0.25

    揺らぎジェネレータ: ロジスティック写像(カオス振動⼦子)

    M. Aono, et al., Proc. NOLTA (2014).

    AmoebaSAT(カオス揺らぎモデル)

  • X ≦ 02,0

    X ≦ 02,1

    X ≦ 03,0

    X = 11,0

    X ≦ 04,1

    X ≦ 04,0 X ≦ 03,1

    ResourceSupply

    BouncebackL = 13,0

    L = 12,1X ≦ 01,1

    Y = 11,0

    L = 11,1Bounceback

    Bounceback

    Y = 14,1

    X ≦ 02,0

    X =12,1

    X ≦ 03,0

    X ≦ 01,0

    X = 14,1

    X ≦ 04,0 X = 13,1

    Y = 13,1L = 14,0

    L = 13,0

    L = 12,0X = 11,1Y = 11,1

    solution:

    Y = 12,1

    L = 11,0

    バウンスバック制御  ×  時空間相関をもつ揺らぎ  =  ⾼高速な解探索索  

    空間

    時間

    状態

    「時空間ダイナミクス」として表現される解探索索プロセス

    時間相関

    空間相関

    制御信号OFF  ⇒  ⾜足を伸ばす  制御信号ON    ⇒  ⾜足を縮める

    縮める  伸ばす

    揺らぎ(エラー)

    \\

    ●  バウンスバック信号ON  ●  「⾜足が伸びた」に対応する状態

    アメーバモデル  の「時間・空間相関」をもつ揺らぎ

  • 「アメーバモデル」の特⻑⾧長:  ●  従来型コンピュータで実⾏行行される「アルゴリズム」としても                桁違いに⾼高速(短時間  =  少ない反復復ステップ数  ×  1ステップに要する時間)●  「ナノデバイスで実装」すると、                さらに⾼高速(より短時間  =  少ない反復復ステップ数  ×  1ステップにより少ない時間)        かつ、超⼩小型・超低消費電⼒力力に!

    Benchmark instances provided by SATLIB www.cs.ubc.ca/~hoos/SATLIB/ Uniform Random-3-SAT: a family of 3-SAT instance distributions obtained by randomly generating 3-literal CNF formulae. N =#variables, M =#clauses, Transition Point from Easy to Hard Formulae: M/N=4.26

    これまで解けなかった数多くの問題が解けるように!変数の数  N

    解探索索に要した反復復ステップ数  (回)

    「アメーバモデル

    」  

    (AmoebaSAT

    )

    従来最速の  

    確率率率的局所探索索アルゴリズム  

    (WalkSAT)

    AmoebaSAT(カオス揺らぎモデル)の解探索索性能

    http://www.cs.ubc.ca

  • 0.70 0.75 0.80 0.85 0.90 0.95 1.001-eps100

    1000

    104

    105

    106stp

    synch,noise: Av.Stp to Sol Huf50-01.cnfL

    20 40 60 80 100

    0.2

    0.4

    0.6

    0.8

    1.0

    20 40 60 80 100

    0.2

    0.4

    0.6

    0.8

    1.0

    Unforrelated Random Fluctuation (White Noise)

    Temporally-Corrleated Fluctuation (Chaotic Oscillator; Logistic Map)

    カオス揺らぎ  vs  ランダム揺らぎ

    1-

    N = 50の1インスタンスについて500回の  モンテカルロシミュレーションを⾏行行った平均値

    解探索索に要した反復復ステップ数  (回)

    揺らぎパラメータ

    !!Q2:  なぜカオス揺らぎは揺らぎパラメータを                              に設定すると急激に⾼高速になるのか?1- =0.75

    ● AmoebaSAT (chaotic)● AmoebaSAT (random)

    Li,v = 0 (Bounceback Signal OFF)Yi,v = 1, 0, 1, 0, 1, ... t, t+1, t+2, t+3, t+4

    error error

    Q1:  なぜカオス揺らぎはランダム揺らぎより        ⾼高速な解探索索を可能にするのか?  !

    何故  アメーバモデルは速いのか?

  • アメーバ型解探索索システムの電⼦子回路路実装を⽬目指し、  回路路設計および実験を⾏行行った  -‐‑‒  8変数の制約充⾜足問題を解く回路路を設計し、エラーを導⼊入することですべての解を得た  -‐‑‒  実験結果により、アメーバ型解探索索システムの電⼦子回路路実装の可能性が確かめられた  -‐‑‒  SATを解くためのシステムの設計および実験を⾏行行い、解探索索の成功が確かめられた

    北北海道⼤大学  葛⻄西研究室との共同研究「アメーバモデル」の電気回路路実装

    若宮遼, 葛西誠也, 青野真士, 成瀬誠,巳波弘佳, “粘菌型解探索システムにおける自発的解探索の検討,” 第75回応用物理学会秋季学術講演会, 講演番号19a-A7-6, 北海道大学, 札幌市, 2014年9月19日.

    S. Kasai, M. Aono, M. Naruse, Applied Physics Letters (2013).

    若宮遼, 葛西誠也, 青野真士, 成瀬誠,巳波弘佳, “アメーバ型SATアルゴリズムの電子回路実装と動作速度,” 2015年電子情報通信学会総合大会, 講演番号C-10-10, 立命館大学, 草津市, 2015年3月11日 (10:15~10:30).

  • 500 nm

    ブラウンラチェット  熱雑⾳音を利利⽤用した  

    電流流⽣生成

    揺らぎを活⽤用するナノエレクトロニクスデバイス

    T. Tanaka, Y. Nakano, S. Kasai, Jpn. J. Appl. Phys. (2013).

    M. Aono, S. Kasai, S.-J. Kim, M. Wakabayashi, H. Miwa, M. Naruse, Nanotechnology (submitted).

    X1,0

    X1,1

    X2,1

    X2,0

    X3,1

    X3,0

    X4,0

    X4,1

    Y1,0

    Y1,1

    Y2,0

    Y2,1

    Y3,0

    Y3,1

    Y4,0

    Y4,1

    Asymmetric gate Semiconductor!nanowire

    0

    -1

    -2

    -3102 104 106 108

    Flashing frequency (Hz)

    Cur

    rent

    (nA)

    RT!20 gates!Nanowire width = 300 nm

    「アメーバモデル」のナノエレクトロニクス実装

  • M. Naruse, M. Aono, S.-J. Kim, T. Kawazoe, W. Nomura, H. Hori, M. Hara, M. Ohtsu, Physical Review B (2012).

    M. Aono, M. Naruse, S.-J. Kim, M. Wakabayashi, H. Hori, M. Ohtsu, M. Hara, Langmuir (2013).

    W. Nomura, M. Naruse, M. Aono, S.-J. Kim, T. Kawazoe, T. Yatsui, M. Ohtsu, Advances in Optical Technologies (2014).

    揺らぎを活⽤用するナノフォトニクスデバイス

    「アメーバモデル」のナノフォトニクス実装

    NICT  成瀬誠先⽣生,  東京⼤大学  ⼤大津元⼀一研究室,  ⼭山梨梨⼤大学  堀裕和先⽣生との共同研究

  • p1=0.35

    p2=0.45 p3=0.55

    p4=0.65

    報酬確率率率  (プレイヤーには未知)

    アプリケーション:モンテカルロ⽊木探索索,  コグニティブ無線通信,  ⾦金金融⼯工学等S.-J. Kim, M. Aono, M. Hara, BioSystems (2010).

    S.-J. Kim, M. Aono, NOLTA (2014).

    S.-J. Kim, M. Naruse, M. Aono, M. Ohtsu, M. Hara, Scientific Reports (2013).

    M. Naruse, W. Nomura, M. Aono, M. Ohtsu, Y. Sonnefraud, A. Drezet, S. Huant, S.-J. Kim, Journal of Applied Physics (2014).

    多本腕バンディット問題:  最も報酬確率率率の⾼高いスロットマシンを   できるだけ速く正確に⾒見見つけよ

    ナノフォトニクス実装による意思決定問題ソルバー

    物質・材料料研究機構  ⾦金金成主先⽣生との共同研究

  • 「アメーバモデル」⻘青野が2012年年に定式化

    極めて複雑で  広い応⽤用範囲をもつ  組合せ最適化問題  

    充⾜足可能性問題を⾼高速に解く

    従来技術

    アメーバモデル

    変数の数

    反復復回数

    桁違いに  ⾼高速!

    アメーバ計算パラダイム

    ナノデバイスにより実装

    確率率率的動作や揺らぎをもつ  他のデバイスでも実装可能!  産学の共同研究の可能性!

    量量⼦子ドット2012年年〜~

    Naruse, Aono et al., Phys. Rev. B (2012) Aono, Naruse et al., Langmuir (2013)

    ナノ電⼦子素⼦子2013年年〜~

    Kasai, Aono, Naruse, Appl. Phys. Lett. (2013)

    粘菌アメーバコンピュータ

    バウンスバック制御  ×  

    時空間相関をもつ揺らぎ

    2004年年〜~2011年年=

    ⾼高速な解探索索

    resource

    supplied illuminated

    illuminated

    これまで解けなかった数多くの問題が解ける可能性あり!⽣生物に学んだ  揺らぎ・⾮非線形性・不不安定性  を利利⽤用するコンピュータを作ろう!

  • CCS研究会で私が議論論したいこと

    これまで解けなかった数多くの問題が解ける可能性あり!⽣生物に学んだ  揺らぎ・⾮非線形性・不不安定性  を利利⽤用するコンピュータを作ろう!

    Bio-inspired ICT

    ICT-inspired Biology