18
2018/12/17 1 UEC School AI,IoT,Deep Learning を理解する 電気通信大学 情報・ネットワーク工学専攻 沼尾 雅之 2018/12/17 1 AI,IoT,Deep Learning を理解する 1. AIとは?AIの位置付け 2. AIによる認知行動 3. AI,IoT,Deep Learning 4. IoTで輪を結ぶ 2018/12/17 2

1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

1

UEC SchoolAI,IoT,Deep Learning

を理解する

電気通信大学 情報・ネットワーク工学専攻

沼尾 雅之

2018/12/17

1

AI,IoT,Deep Learningを理解する

1. AIとは?AIの位置付け

2. AIによる認知行動

3. AI,IoT,Deep Learning

4. IoTで輪を結ぶ

2018/12/17 2

Page 2: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

2

世の中はAIのキーワードで溢れている• 人工知能(AI)

• 機械学習(Machine Learning)

• 深層学習(Deep Learning)

• ビッグデータ

• データサイエンス

• もののインターネット(IoT)

• 自動運転

• ゲームプログラム

(DQN. AlphaGo, Bonanza)

2018/12/17 3

QUIZ-1AI関係のキーワードの包含関係は?

1. ニューラルネット

2. 機械学習

3. 深層学習

4. 人工知能

2018/12/17 4

Page 3: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

3

QUIZ-1解答

AI関係のキーワードの包含関係は?

1. ニューラルネット B

2. 機械学習 C

3. 深層学習 A

4. 人工知能 D

2018/12/17 5

AIの研究分野(ほんの一部)

2018/12/17 6

Page 4: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

4

QUIZ-2人やAIと現実の間のやり取りのステップである.ABCに当てはまるキーワードを入れよ.

例 人の場合

• A=認知,B=認識・判断,C=行動

1. AIの問題解決

2. ロボット

3. IoT

2018/12/17 7

A

B

C

環境

(現実世界)

AI年表

1952-56 Birth of AI

1956-74 Good Old

AI

1974-80 1st

Winter of AI

1980-87 AI Boom

1987-932nd

Winter of AI

1993-2010Soft

Computing

2010-Deep

Learning

2018/12/17 8

1950 1960 1970 1980 1990 2000 2010 2020

推論・探索

知識獲得 機械学習 Deep Learning

1968 2001:Space Oddyssey

1999 The Matrix

2001 A.I

2001 Minority Report

1952Ultimate Machine

by Shannon

1964 Elizaby

Weisenberg

1970Mycin

by Shortliffe

1993Data Mining

by Aggrawal

1996Deep Blue

by IBM

2011Watsonby IBM

2012Deep

Learningby Google

テーマ

歴史

イベント

映画

Page 5: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

5

1.AIとは?• Artificial Intelligence, 1956

• 「知能は記述可能で,機械はそれをシミュレートできる」, ダートマス会議

• What is AI?

• 「知能機械,特に知能プログラムを作るための研究および技術である.それは,計算機に人の知能を理解させるタスクをさせることと深く関係する.しかし,生物学的に類似である必要はない」 John McCarthy

• 人工知能研究の2つの立場

1. 科学的立場:人間の知的能力(知能)に対する解明や解析をする. 認知学,心理学

2. 工学的立場:知的システムの設計や構成をする

2018/12/17 9

AIの位置付け人工知能=知能プログラム

• 計算機システム

• アプリケーション

• OS(制御ソフト)

• ハードウェア

• ソフトウェア=プログラム

• プログラム=アルゴリズム

• アルゴリズム

• 入力データ

• 手続き

• 出力データ

プログラムの実態は,

ただの文字列にすぎないのだが..

2018/12/17 10

Page 6: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

6

生物システムと人工知能システム• 生物システム

• DNA → RNA → タンパク質

• 計算機システム

• プログラム→CPU→入出力

2018/12/17 11

情報

翻訳

形質・機能

2. AIによる認知行動サイクル

• 人の基本機能:認知・行動サイクル

• AIによる問題解決フレームワーク

• ロボットプランニング

2018/12/17 12

認知

認識・判断

行動

環境

(現実世界)

Page 7: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

7

人の基本機能:認知行動サイクル

• 認知:五感• 認識:脳内での情報処理• 行動:発話,操作,歩行• 環境

2018/12/17 13

認知

認識・判断

行動

環境

(現実世界)

プログラム

AIによる問題解決フレームワーク1. 問題の定式化

1. 抽象化,単純化,モデル化

2. 形式的処理

1. 形式的操作,プログラム

3. 問題の対象となる世界での解釈1. 解の解釈,逆変換

2018/12/17 14

問題

結果

形式的操作

形式的記述

内部世界(計算機)

A physical symbol system has the necessary and sufficient means for general

intelligent action, Allen Newell and Herbert A. Simon

外部世界(現実)

Page 8: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

8

Eliza 1964

2018/12/17 15

Waisenbergの作った自然言語会話プログラム

精神療法医のインタビューを模倣

人工無脳の起源

Siriの先生

Q:ELIZA てだれ?

A:ELIZAをご存知ですか?彼女は私の先生だったんですよ!

Q:もっとELIZAについて教えて?

A:私はELIZAから多くを学びました.でも彼女は少しマイナス思考でしたね.

Q:どうしてマイナス思考と思うのですか?

A:それは面白い質問ですね.雅之さん.

Q :どこが面白いのですか?

A: ただ笑い上戸なんです.

プログラム

長期記憶(Rule Base)

プロダクションシステムAIによる認知行動サイクルの実現

• プロダクションシステムの構成• ルールベース(長期メモリ)• ワーキングメモリ(短期メモ

リ)• 推論エンジン

• 認識-行動(認知-実行)サイクルを繰り返してワーキングメモリを書き換える

2018/12/17 16

マッチング

競合解消

実行

短期記憶

(Working Memory)推論エンジン

Page 9: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

9

Mycin 1970• スタンフォード大学で開発

• E.H.Shortliffe, R.Daivis, W.J.Clancey…

• タスク:感染症診断(病原菌の同定)と 治療(薬の投与法)

• 特徴• 知識と推論の分離:プロダクションルール+後向き推論• 不確実性推論,説明機能,知識獲得支援,• 自然言語インタフェース

• 機能• コンサルテーション• 説明,QA• 知識獲得

2018/12/17 17

1) Please enter information about the patient.Name: SallyAge: 42 yearsSex: Female Race: Caucasian2) Are there any positive cultures obtained from SALLY? No3) Are there any pending cultures of SALLY? Yes4) Site: CSFDate collected: 3-jun –75Stain examined? YesMethod of Collection: (urine, sputum only) N/A5) Stain of smear: Morph: (type NONE if no organism was seen on the smear) None..13) Has SALLY recently had symptoms of persistent headache or other abnormal neurologic symptoms (dizziness, lethargy, etc.)? Yes14) Has SALLY recently had objective evidence of abnormal neurologic signs (nuchal rigidity, coma, seizures, etc.) documented by physician observation or examination?Yes

If (1) the stain of the organism is gram-positive, and(2) the morphology of the organism is coccus, and(3) the growth conformation of the organism is clumps,

Then there is suggestive evidence (0.7) that the identity of the organism is staphylococcus.

Premise: ($and (same cntxt gram grampos)

(same contxt morph coccus)(same cntxt conform clumps))

Action: (conclude cntxt ident staphylococcus tally 0.7)

ロボットプラン二ング

ロボットプランニング:実世界AI

即応プランニング:動的環境,実世界において目標を達成することを強く意識したプランニング

「実世界では,その環境に応じて断片的な行動を行えば良い」

即応プランニングの構成

• 即応ルール

• 条件部:センサ出力から直接判定

• 結論部:直接実行可能な断片的な行為

センサ

プランニング

アクチュエータ

現実世界

(Real World)

Page 10: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

10

ロボットプランニング例

壁沿い移動のための即応ルール

• ルールA(凹コーナを曲がる)

• IF 前方の壁が10㎝以内に近づいて,左10㎝以内に壁がある

• THEN 時計方向に40°回転する

• ルールB(凸コーナを曲がる)

• IF 左右5㎝,前方10㎝以内に障害物なし

• THEN 10㎝前方に進み,反時計方向に40°回転する

• ルールC(壁に近づきすぎたら離れる)

• IF 壁に5㎝以内に近づいた

• THEN 右に13.5°曲がる

• ルールD(壁から離れすぎたら近づく)

• IF 壁から5㎝以上離れた

• THEN 左に13.5°曲がる

3. AI,IoT,Deep Learning

• 生物進化と機械学習

• 機械学習の分類

• Deep Learning

• IoT

2018/12/17 20

Page 11: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

11

生物進化と機械学習• 自己増殖(細胞分裂)

• 進化

• 交配・突然変異

• 環境適応

• プログラムのコピー,更新

• 学習・進化計算

• 学習アルゴリズム(深層学習)

• ビッグデータ

2018/12/17 21

環境適応

情報の更新

形態・機能の進化

人工知能はなぜ進化するか?

• 人工知能=計算機プログラム

• ハードウェア,ソフトウェアの進歩

• 機械学習

• BigData

• Deep Learning

• ネットワーク層の複雑化

2018/12/17 22

機械学習学習データ

学習プログラム

学習用ネット

Page 12: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

12

機械学習の分類

• 学習:人が外界から知識や技能を獲得する活動.

• 機械学習では、知識を提供する「教師(システム開発者やユーザ)」と知識を習得する「学習者(システム)」が存在し,学習方法に応じて,その負担や必要とされる能力が異なる.

概念形成

強化学習

演繹学習

帰納学習

類推学習

発見学習

大 教師の負担 小

小 学習者の負担 大

事例学習

機械学習研究のパラダイムシミュレート(模倣)すべき人間の機能による分類

進化的計算:生物進化のシミュレーション• 生物の突然変異と選択淘汰を学習に反映

強化学習:動物行動のシミューレション• ある行動が成功すると報酬が与えられる仕組

みを学習に反映

コネクショニスト学習:脳のミクロシミュレーション• 神経細胞の信号伝達網を計算機構とした学習

演繹学習・帰納学習:脳のマクロシミュレーション• 文字や数字などの記号レベル、図や画像など

のマクロなレベルの情報処理を学習

Page 13: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

13

Deep Learning 2012• 深層学習:多段ニューラルネットワークによる

学習

• 特徴抽出→教師無し学習

• 分類→教師有り学習

• Google Brainが猫の概念を学習

• DQN: Deep Q-Learning NetworkがAtariテレビゲームを無教師で学習

2018/12/17 25

大規模画像認識コンテストImagenet Large Scale Visual Recognition Challenge(ILSVRC)

• ImageNet:画像データセット

• 1500万画像

• 22000カテゴリー

• ILSVRC: ImageNetを利用した認識コンテスト

• 1000カテゴリー

• 学習データ:120万画像

• テストデータ:10万画像

• 2015年に人の認識率を超えた

2018/12/17 26

Page 14: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

14

インターネット世界(Connected World)

クラウドコンピューティング

IoT:インタネットによる実世界AI• 狭義のIoT:センサーネットワーク

• 広義のIoT:人,もの,ことをつなぐインターネット

IoTデバイス

ビッグデータ

IoTサービス

社会

IoTの歴史技術的進歩から社会変革へ

2018/12/17 28

狭義のIOTから広義のIOTへ

Google Trends

• センサーネットワーク

• ネットワークにつながれたセンサー

• ユビキタスコンピューティング

• いつでもどこでも計算機が使える

• さまざまな概念を統合

• Physical Internet, Ubiquitous Computing, Ambient Intelligence, Machine to Machine (M2M), Industrial Internet, Web of Things, Connected Environments, Smart Cities, Spimes, Everyware, Pervasive Internet, Connected World, Wireless Sensor Networks, Situated Computing, Future Internet and Physical computing

Page 15: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

15

IoTによる実世界とサイバー空間の融合(CPS)

• Internet of Things: 物のデジタル化によるネットワーク接続

• ビッグデータ解析:AIの進化による判断の高度化と自動制御

2018/12/17

29

情報を取得する

現実のデジタル化

データを運ぶ蓄積するデータの資産化

データを解析するデータの知識化

情報を利活用する知識の社会還元

4. IoTで輪を結ぶ:実社会AI

• ビジネス開発の視点

2018/12/17

情報を取得する

現実のデジタル化

データを運ぶ蓄積するデータの資産化

データを解析するデータの知識化

情報を利活用する知識の社会還元

サービス志向型IoTシステム開発

データ駆動型社会分析

Page 16: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

16

IoT見守りシステムの構築

2018/12/17 31

情報を取得するデジタル化する

データを運ぶ蓄積する

データを解析する

情報を利活用する社会にフィードバック

現実の把握• 誰を?:介護施設,独居老人• 何を?:健康,異常,自立度,孤独度

• 日常生活行動(ADL)

IoT見守りシステムの構築

2018/12/17 32

情報を取得するデジタル化する

データを運ぶ蓄積する

データを解析する

情報を利活用する社会にフィードバック

マットセンサー

マイクロ波センサー

3軸加速度センサー

RFID

センサデバイ

現実データのデジタル化• 何を使って?:マルチモーダルセンサ

• 無負荷,無侵襲,プライバシー• センサの選択と統合

Page 17: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

17

IoT見守りシステムの構築

2018/12/17 33

情報を取得するデジタル化する

データを運ぶ蓄積する

データを解析する

情報を利活用する社会にフィードバック

マットセンサー

マイクロ波センサー

3軸加速度センサー

RFID

センサデバイ

ビッグデータの解析• どのように?:AI

• 機械学習,ディープラーニング• 大量の正解データ,過去の事例,文献

IoT見守りシステムの構築

2018/12/17 34

情報を取得するデジタル化する

データを運ぶ蓄積する

データを解析する

情報を利活用する社会にフィードバック

マットセンサー

マイクロ波センサー

3軸加速度センサー

RFID

センサデバイ

現実へのフィードバック• サービスに結びつける

• 健康モニタ• 自動見守り,介護支援• 予防医療・未病検知

• 医療・介護知の共有

Page 18: 1 UEC School AI,IoT,Deep Learning€¦ · • 自動 運転 • ゲーム ... 推論・探 索 知識獲得 機械学習 Deep Learning 1968 2001:Space Oddyssey 1999 The Matrix 2001

2018/12/17

18

講義おわり

• 質問をどうぞ

2018/12/17 35