31
Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. ニューラルネットワーク ことはじめ 2014年11月17日 先端IT活用推進コンソーシアム クラウド・テクノロジー活用部会 勉強会資料 岡村 和英(株式会社テクリエ)

ニューラルネットワーク ことはじめ

Embed Size (px)

DESCRIPTION

2014年11月度 AITC クラウド・テクノロジー活用部会 勉強会資料 ニューラルネットワーク ことはじめ

Citation preview

Page 1: ニューラルネットワーク ことはじめ

Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

ニューラルネットワークことはじめ

2014年11月17日

先端IT活用推進コンソーシアムクラウド・テクノロジー活用部会

勉強会資料

岡村 和英(株式会社テクリエ)

Page 2: ニューラルネットワーク ことはじめ

ニューラルネットワーク?

2

Page 3: ニューラルネットワーク ことはじめ

脳の仕組みをシミュレーションによって表現した数学モデル

3

Page 4: ニューラルネットワーク ことはじめ

脳の働きをコンピューターで

再現する

4

Page 5: ニューラルネットワーク ことはじめ

ニューロンと

シナプス

5

Page 6: ニューラルネットワーク ことはじめ

ニューロン(neuron)

6

Page 7: ニューラルネットワーク ことはじめ

神経細胞

7

Page 8: ニューラルネットワーク ことはじめ

細胞体(soma)

http://commons.wikimedia.org/wiki/File:Neuron_Hand-tuned.svg

樹状突起(dendrite)

シナプス(synapse)

軸索(axon)(細かいところは省略)

8

Page 9: ニューラルネットワーク ことはじめ

樹状突起から入力される信号が

ある一定のしきい値を超えると

急激な電位変化が生じる

(ニューロンの発火)

9

Page 10: ニューラルネットワーク ことはじめ

軸索から出力された信号が

シナプスを通じて接続された

別のニューロンに伝えられる

10

Page 11: ニューラルネットワーク ことはじめ

シナプスの信号伝達効率は

それぞれ異なる

11

Page 12: ニューラルネットワーク ことはじめ

モデル化してみる

12

Page 13: ニューラルネットワーク ことはじめ

人工ニューロン

13

Page 14: ニューラルネットワーク ことはじめ

しきい値

Θ

結合係数wi

入力 xi

出力O

ユニット

14

Page 15: ニューラルネットワーク ことはじめ

階層型ネットワーク

15

Page 16: ニューラルネットワーク ことはじめ

wkjxi Okwji

入力層 中間層 出力層

16

Page 17: ニューラルネットワーク ことはじめ

wkjxi Okwji

前向き演算

入力層 中間層 出力層

17

Page 18: ニューラルネットワーク ことはじめ

パターン識別程度であれば

3階層で実現可能

18

Page 19: ニューラルネットワーク ことはじめ

ネットワークに

学習させる

19

Page 20: ニューラルネットワーク ことはじめ

結合係数を調整することで

理想の出力を得る

20

Page 21: ニューラルネットワーク ことはじめ

全てのユニットの

しきい値は同じ

Θ=一定

21

Page 22: ニューラルネットワーク ことはじめ

発火したニューロンの出力は

入力量に関わらず常に一定

O=0or1

22

Page 23: ニューラルネットワーク ことはじめ

しきい値を半分に減らしたい(より敏感に反応)

Wiを2倍にする

(入力感度を高める)

23

Page 24: ニューラルネットワーク ことはじめ

出力を2倍にしたい(より強く反応)

Wjiを2倍にする

(出力先の入力感度を高める)

24

Page 25: ニューラルネットワーク ことはじめ

バックプロパゲーション(誤差逆伝搬法)

25

Page 26: ニューラルネットワーク ことはじめ

wkjxi Okwji

後向き演算

入力層 中間層 出力層

26

Page 27: ニューラルネットワーク ことはじめ

出力層で得られる誤差が

少なくなるように

結合係数を修正する

27

Page 28: ニューラルネットワーク ことはじめ

具体的な計算方法は

ここで説明するには

難しすぎるので割愛

28

Page 29: ニューラルネットワーク ことはじめ

複数の教師信号パターンを

繰り返すことで

全体の誤差を最小化できる

29

Page 30: ニューラルネットワーク ことはじめ

今回はここまで!

30

Page 31: ニューラルネットワーク ことはじめ

Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

http://aitc.jp

https://www.facebook.com/aitc.jp

ハルミンAITC非公式イメージキャラクター