27
社会情報特論はじめに 開講学科・学年 社会情報学科 34年前期 単位 選択 2単位 担当教員 大堀隆文(非常勤) 社会情報特講1

社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

社会情報特論Ⅲはじめに

開講学科・学年

社会情報学科 3・4年前期

単位

選択 2単位

担当教員

大堀隆文(非常勤)

社会情報特講Ⅲ 1

Page 2: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

自己紹介

名前 大堀隆文

生まれ 伊達市(~15才)

育ち 札幌市(15才~)

職歴 北海道科学大教授(~2016年)

現在 北海道科学大非常勤講師(2016年~)

小樽商科大非常勤講師(2017年~)

Email [email protected]

その他 毎回のCoffee Breakの中で順次紹介

2社会情報特講Ⅲ

Page 3: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

授業スケジュール

4月 9日(月) 第1回 ガイダンス4月16日(月) 第2回 講義

以下毎週月曜日4講講義(307室と第1実習室)

社会情報特講Ⅲ 3

Page 4: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

【お勧め参考書】

講義の中で適宜紹介する。

【教科書】

「深層学習のすべて」大堀・木下共著PDF教材をWeb配布予定

社会情報特講Ⅲ 4

Page 5: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

【スライドとテキストの場所】

社会情報特講Ⅲ 5

下記をクリックhttp://oohorisemi.web.fc2.com/otaru/

小樽商大講義資料のページの

【スライド】社会情報特講Ⅲスライドpdfの4月09日第01回スライドをクリック

Slide010409.pdfをダウンロード

【テキスト】社会情報特講Ⅲテキストpdfの深層学習のすべて0104章をクリック

AllDeepLearning0104.pdfをダウンロード

Page 6: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

出席の確認と成績評価

毎回講義終盤の小テストで出席をとる。

成績の評価方法出席と感想 20%

小テスト 80%

定期試験は実施しない。

社会情報特講Ⅲ 6

Page 7: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

小テストの感想について

毎回小テストに感想を書いてもらう。

その中からベスト感想を選び、次回

の講義で公表する。

公表を望まない人はその旨書くこと。

社会情報特講Ⅲ 7

Page 8: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

講義(社会情報特講Ⅲ)の背景

画像認識、自動対局、自動運転などの分野で

革新的手法の深層学習の概要を学ぶ。

深層学習の本質をできるだけ数理表現を用い

ずに説明する。

受講者が深層学習に興味や面白さを感じ、学

習意欲を引き出す例題や課題を用意する。

数学が苦手な文科系の方に考慮し、高レベル

な数学表現を極力減らし身近な話題から例題、

課題を作成する。

社会情報特講Ⅲ 8

Page 9: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

講義の概要

深層学習の背景・理論・実際を学ぶ。1. 概要2. パターン認識3. ニューラルネット4. 深層学習5. 深層学習の実行

身近な話題から例題を紹介し、例題の解を手計算やクラウド環境ツールで解く。

社会情報特講Ⅲ 9

Page 10: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

講義の構成

第2〜3回:深層学習の概要・歴史・従来のニュー

ラルネットとの違いを学ぶ。

第4~6回:学習対象のパターン認識の概要・前

処理・特徴抽出・識別法を学ぶ。

第7~9回:ニューラルネットのモデル・学習・論理

課題と文字認識を学ぶ。

第10~12回:深層学習の数学基礎・アルゴリズ

ム・従来法との違いを学ぶ。

第13~15回: クラウド実行環境Azure MLの概

要・使用法を学ぶ。

社会情報特講Ⅲ 10

Page 11: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

講義の達成目標

(1) モチベーションを保ち深層学習に興味を持

つ。

(2) 問題を正しく把握し深層学習のモデルを定

式化できる。

(3) モデルをプログラミング言語で実現、または

Web実行環境の利用技術を身につける。

(4) 解を吟味しモデルの再検討や改良ができる。

社会情報特講Ⅲ 11

Page 12: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

講義の進め方

前半:スライドによる30~40分間の講義

を聞き、内容を深く理解する。

休憩:Coffee Breakで10分の休憩

後半:スライドを用いて、深層学習問題とその解法を20~30分間説明する。

終盤:10〜20分間で課題をORモデルで定式化し、手計算やExcelソルバーで解き、感想とともに提出する。

社会情報特講Ⅲ 12

Page 13: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

Coffee Breakの目的

30~40分の講義後に10分程度休憩

より講義に集中してもらうための息抜き。

聞いても良し、聞かなくても良し。

各自講義前半の復習整理もできる。

内容は主に私の興味の一部紹介。

その結果、私の自己紹介にもなる。

社会情報特講Ⅲ 13

Page 14: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

社会情報特講Ⅲ 14

好きな言葉(その1)

一期一会

一生にただ一度の出会いを大切するべきという意味。

出会う人とは必ず離れる時が来て、もう二度と会えないかもしれない。

だからこの人と共にいられるこの瞬間を、大切に過ごすべき。

Page 15: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

社会情報特講Ⅲ 15

好きな言葉(その1)

一期一会人と人との出会いは一度限りの大切なもの

地球誕生 –約46億年前 生命誕生 –約40億年前 人類(猿人)誕生–約800万年前(アフリカ)

新人(ホモサピエンス)誕生–約10万年前 日本人の起源 –約3万年前

Page 16: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

深層学習とは何?

• 深層学習は、Deep Learning(ディープラーニング)とも呼ばれ人工知能の革新的手法である。

• 機械学習の一種でニューラルネットを用いた最新の人工知能技術の総称である。

• 画像認識コンペティションで優勝するなど近年話題を集めている。

• 特定手法を指さずニューラルネットの一種の多層パーセプトロンの最新手法全般を指す。

16社会情報特講Ⅲ

Page 17: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

深層学習の特徴

ニューラルネットは、脳をモデル化しシミュレ

ーション用の数学モデルを指し、パターン認識

で用いる多層パーセプトロンを指す。

深層学習は、ニューラルネットの構造上「入力

層」と「出力層」の間の「隠れ層」の数を増やす。

隠れ層により認識の段階を繰り返し、色・形状・

全体像の複数の特徴を抽出し正確な識別を実

現。

17社会情報特講Ⅲ

Page 18: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

社会情報特講Ⅲの構成

深層学習の概要・歴史

パターン認識による識別法

ニューラルネットによる文字認識

深層学習の基礎・理論

クラウド環境による深層学習の実行

18社会情報特講Ⅲ

Page 19: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

深層学習の概要・歴史1

【人工知能(AI)とは〜なぜ今AIなのか】

• 人工知能は機械が人に代わる技術の総称。

• 近年世界中で人工知能を用いたサービスや研

究の話題が増えてきた。

• 大企業は人工知能研究所を立ち上げグローバ

ル規模でのAI研究を開始している。

• 人工知能が注目される背景にニューラルネット

技術革命がある。

19社会情報特講Ⅲ

Page 20: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

深層学習の概要・歴史2

【ニューラルネットとは】

• ニューラルネットとは脳を構成するニューロン(神経細胞)のネットを人工的に実現。

• ニューロンは種類毎に層を作り高度な情報処理を実現。

【深層学習とは】

• ニューラルネットの中間層の数を増やし、階層が深くなるので深層学習と呼ぶ。

• 画像・音声から特徴を抽出し識別するパターン認識が得意。

20社会情報特講Ⅲ

Page 21: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

パターン認識

【パターン認識とは】• 画像・音声などの雑多な情報を含むデータから一定の規則や意味を持つ対象を選別する。

• 画像・音声・文字認識、全文検索を得意とするニューラルネット等の人工知能と融合し、学習による識別手法が確立。

【最近傍法とは】• 特徴量を数値ベクトルとし、未知パターンをいくつかの既知パターンとのベクトル間距離を計算し、最短の既知パターンを解とする。

21社会情報特講Ⅲ

Page 22: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

パターン認識例題

• 表にバスケット選手A,B,

Cとラグビー選手D,E,F

の身長と体重を示す。

• 種目不明の選手G(身長

175cm体重103kg)がど

ちらのスポーツ選手かを

最近傍法を用いて推定せよ。

22社会情報特講Ⅲ

Page 23: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

ニューラルネット

• ニューラルネットは下図のように、入力層、出力層、隠れ層から構成され、層間にはニューロン同士のつながりの強さを示す重み係数がある。

• 重み係数は学習初期はランダムに決め、正しい出力を出すように変更する。

• 出力層出力が期待値と同じなら重み係数は変更しない。

• 出力が期待値と異なるときは重み係数を変更する。

23社会情報特講Ⅲ

Page 24: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

ニューラルネット文字認識例題

•右下図を参考に、9入力4出力のTCLX文字(右図)認識課題を学習するプログラムを作成せよ。•下図の3未知文字を入

力したときの認識文字を求めよ。

24社会情報特講Ⅲ

Page 25: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

深層学習の基礎・理論

• 深層学習は、脳をモデルにした多層ニューラルネ

ットを用い、特徴量の設定を自ら考えて決定する。

• 従来の学習では特徴量を指定する必要があるが、

深層学習では指示なしで自動学習する。

• 深層学習では、畳み込み層とプーリング層からな

るニューラルネットを用いる。

• 画像処理の場合、畳み込み層は画像の局所的

特徴を抽出しプーリング層はそれをまとめる処理

をする。

25社会情報特講Ⅲ

Page 26: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

クラウド環境による深層学習実行

• 深層学習のプログラムには高度な専門知識や

ハイスペックPCが必要である。

• プログラムや専門的知識がなくても、インターネ

ット上で公開される深層学習実行環境の

AzureMLを使い深層学習を行う。

• AzureMLは深層学習をWebブラウザ上で簡単

に行うことのできるサービスである。

• 必要な環境は提供されインターネットに接続で

きれば始められる。

26社会情報特講Ⅲ

Page 27: 社会情報特論Ⅲ はじめに - FC2oohorisemi.web.fc2.com/otaru/SJ/Slide010409.pdf · 深層学習の概要・歴史2 【ニューラルネットとは】 •ニューラルネットとは脳を構成するニューロン

社会情報特論Ⅲ(4/9)の小テスト

学生番号と氏名を記入した後、社会情報特論Ⅲの半年の講義に関して、以下を答えてください。

この講義に期待すること

この講義で不安なこと

この講義に対する意気込み・抱負

その他(何でも)

社会情報特講Ⅲ 27