AWS AI Solutions

© 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.

Makoto Shimura, Data Science Solution ArchitectAmazon Web Services Japan, K. K.2017.11.15

AWS AI Solutions

所属:アマゾンウェブサービスジャパン株式会社

業務:ソリューションアーキテクト(データサイエンス領域)

経歴:Hadoopログ解析基盤の開発データ分析データマネジメントや組織のデータ活⽤

志村誠 (Makoto Shimura)


Amazon における機械学習の取り組み

過去20年間にわたる継続的な AI への投資

Search & Discovery

Fulfilment & Logistics

ExistingProducts

NewInitiatives

Amazon における Deep Learning の取り組み

• 応⽤研究• 基礎研究• Alexa• 需要予測• リスク分析• 検索• レコメンド• AI サービス群

• Q&A システム• サプライチェーン最適化• 広告• 機械翻訳• ビデオコンテンツ分析• ロボティクス• さまざまなコンピュータビジョン• 種々の⾃然⾔語処理/理解

5

AI 活⽤の基本的な流れ

データ

学習推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し

データの⾼速な加⼯整形⼤規模データの保管

⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作


AWS が提供する機械学習サービス

4 レイヤーから構成される AWS の AI サービス

10

Services Amazon Rekognition

Amazon Polly

Amazon Lex

PlatformAmazon MachineLearning

Engines TensorFlow Caffe Torch Theano CNTK Keras

CPU IoT MobileInfrastructure GPU

Apache Spark&

Amazon EMR

AmazonKinesis

AWSBatch

AmazonECS

MXNet

AWS Deep Learning AMI


11


Amazon Polly

Amazon Lex




Apache Spark&

Amazon EMR

AmazonKinesis

AWSBatch

AmazonECS

MXNet


AI Services の役割

データ




AI Services

13

⽂章をリアルな⾳声に変換するサービス

Polly Lex声やテキストを使⽤した会話型インターフェイスを様々なアプリケーションに構築する

ためのサービス

Rekognition画像分析機能をアプリケーションに簡単に追加できるようにする

サービス

※これらは，fine-tuning された AWS が提供する深層学習モデルをAPI で簡単に利⽤できるマネージドサービスとなります

AI Services

14





サービス


Polly の概要

• テキストをリアルな⾳声に変換するサービス

• 24 の⾔語で 50 のリアルな声優の⾳声を提供

• 低レイテンシーで応答が速いため，リアルタイムシステムを構築する際の選択肢となりえる

• ⽣成された⾳声の保存とリプレイ，配信が可能

Polly - 24種類の⾔語で50種類の⾳声

⾔語⼥性男性英語(オーストラリア) Naja Mads

英語(インド) Raveena

⽇本語 Mizuki Takumihttps://docs.aws.amazon.com/polly/latest/dg/voicelist.html

ヨーロッパ/中東/アフリカ地域: アジア太平洋地域:北アメリカ/南アメリカ地域:⾔語⼥性男性フランス語(カナダ) Chantal

ポルトガル語(ブラジル) Vitória Ricardo

英語(⽶国) Joanna Joey

Salli Justin

Kendra Matthew

Kimberly

Ivy

スペイン語(⽶国) Penélope Miguel

⾔語⼥性男性デンマーク語 Naja Mads

オランダ語 Lotte Ruben

フランス語 Céline Mathieu

ドイツ語 Marlene Hans

Vicki

アイスランド語 Dóra Karl

イタリア語 Carla Giorgio

ノルウェー語 Liv

ポーランド語 Ewa Jacek

Maja Jan

ポルトガル語(イベリア) Inês Cristiano

ルーマニア語 Carmen

ロシア語 Tatyana Maxim

スペイン語(カスティリヤ) Conchita Enrique

スウェーデン語 Astrid

トルコ語 Filiz

英語(英国) Amy Brian

Emma

英語(ウェールズ) Geraint

ウェールズ語 Gwynethhttps://docs.aws.amazon.com/polly/latest/dg/voicelist.html

Polly の品質⾃然に聞こえる⾳声

テキスト変換処理の正確さ• Today in Las Vegas, NV it's 90°F.• "We live for the music", live from the Madison Square Garden.

⾼度なわかりやすさ• ” 庭には⼆⽻の鶏がいる”

SSML による話速や話し⽅の調整

Speech Synthesis Markup Language (SSML) v1.1 に準拠したドキュメントを⼊⼒テキストとして利⽤できるSSML タグを使⽤することで、発⾳、ボリューム、話す速度など、⾳声のさまざまな要素をカスタマイズできる

ねぇちょっとちょっと，ここだけの話だけどさ

<speak><prosody rate="x-fast">

ねえ，ちょっとちょっと，<amazon:effect name="whispered">

ここだけの話だけどさ</amazon:effect>

</prosody></speak>

レキシコンによる特殊な単語の発話

Pronounciation Lexicon Specification(PLS) v1.0 に準拠したドキュメントをレキシコンとして登録て利⽤できる『単語とフレーズのマッピング』や『⾔語で⼀般的でない単語の発⾳』を定義し，発⾳をカスタマイズすることができる

<lexeme><grapheme>W3C</grapheme><alias>World Wide Web Consortium</alias>

</lexeme>

W3C is a Consortium

単語 (graphme) に対応する発話フレーズ (alias) を設定できる

<lexeme><grapheme>Kaja</grapheme><grapheme>kaja</grapheme><grapheme>KAJA</grapheme><phoneme>"kaI.@</phoneme>

</lexeme>

My daughterʼs name is Kaja

⾳素 (phoneme) に紐づく単語 (graphme) は複数指定できる

スピーチマークによる⾳声と映像の同期

• ⽂：1⽂要素• 語句：1単語要素• ビゼーム：⾳に対応する唇の形• SSML：<mark>タグ

東京リージョンと男性ボイスの追加

• 東京リージョンで Polly が利⽤可能に• より⾼速にレスポンスを返すことができるように

• ⽇本語の男性ボイス「Takumi」が利⽤可能に• 従来の⼥性ボイス「mizuki」に加えて，さまざまなユース

ケースで利⽤していただけるように

• 新しい声の出し⽅が可能に• ⼤きな⼈の声と⼩さな⼈の声

22

AI Services

23





サービス


Rekognition• 深層学習に基づく画像認識サービス• 以下の各種機能を API で提供し，アプリケーションに簡単に追加できる• イメージモデレーション機能が新たに追加，性的・暴⼒的な画像を検出

24

物体とシーンの検出顔分析顔照合顔認識

Rekognition - 物体とシーンの検出

• DetectLabels API を利⽤すると、画像から識別した⾞、ペット、家具など、数千もの物体にラベルを付け、信頼スコアを取得できる

• 信頼スコアは 0〜100 の値で⽰され、識別結果が正しいかどうかの可能性を意味する

Maple

Plant

Villa

Garden

Water

Swimming Pool

Tree

Potted Plant

Backyard

❖ ⼤規模な画像ライブラリを検索、フィルタリング、管理するために必要な情報を取得できる

❖ 写真、不動産、旅⾏アプリなど様々なアプリケーションに利⽤可能

Rekognition - 顔分析

• DetectFaces API を利⽤すると、画像内の顔の位置を検出し、感情、ポーズ、瞳が開いているかどうかなどの顔属性を分析できる

❖ 画像のトリミングや広告を重ねる際に顔を避けるような処理

❖ ユーザがどのようなカテゴリに属するか、ユーザが抱いている感情などの推定

❖ ⼀番良い写真のレコメンド

Rekognition - 顔の⽐較

• 顔の⽐較機能を利⽤すると、2 つの画像の顔が同⼀⼈物である可能性を推定可能

❖ アプリケーションやデバイスに顔認識機能を追加可能

❖ 物理的なセキュリティ制御を拡張可能

Rekognition - 顔認識

• IndexFaces API と SearchFacesByImage API を利⽤すると、⼤規模な顔のコレクションの中から似た顔を⾒つけることで画像の中にいる⼈物を識別することが可能

❖ ソーシャルやメッセージングアプリのタグ付機能

❖ ⾏⽅不明の⼈を写真から探す機能

Rekognition - 有名⼈認識

• 画像内の有名⼈が認識され、信頼スコアが提供される機能• 有名⼈を認識する際の学習データには IMDb が利⽤されている

Rekognition - イメージモデレーション

明示的なヌード - Explicit Nudity• ヌード• 男性のヌード画像• 女性のヌード画像• 性的な行為• 部分的なヌード

暗示的 - Suggestive• 女性の水着または下着• 男性の水着または下着• 露出の多い衣服

Rekognition – Deep Learning 処理

Conv 1 Conv 2 Conv n

…

…

Feature Maps

Labrador

Dog

Beach

Outdoors

Softm

ax

Probability

FullyConnected

Layer

Rekognition – Ground Truth データ⽣成

版管理されたトレーニング＆テストデータ

トレーニング

ラベル付された画像

QA 評価

利用者

APIレスポンス

フィードバック

DNNモデル

ラベル付前画像

人間参加型アクティブ・ラーニングシステ

ム

推論

画像元

ローカリゼーション

画像検証

画像注釈付

Rekognition 事例: 千株式会社さま

• 「はいチーズ！」• スクールフォトの撮影とネット販売• 利⽤者はサイト上で，⾃分の⼦どもが映っている写真を探して，選

んで，購⼊• 写真が⼤量で探すのが⼤変

Rekognition 事例: 千株式会社さま

顔検索により，⾃分の⼦どもの写真を簡単に探せるように

AI Services

35





サービス


Lex の概要

⾳声やテキストを使⽤して、任意のアプリケーションに対話型インターフェイス(ボット)を構築するサービスAWS プラットフォームのセキュリティ、モニタリング、ユーザー認証、ビジネスロジック、ストレージ、モバイルアプリケーション開発を実現するためのスイート

• AWS Lambda、AWS MobileHub、および Amazon CloudWatch との組み込み統合を提供

• Amazon Cognito や Amazon DynamoDB など他の多くのサービスと簡単に統合できる

36

Lex – 仕組み: ボットの構成要素

Utterances

BookHotelIntents

Slots

Fulfillment

intent はユーザが⼊⼒した⾃然⾔語に応答してfulfillmentを実⾏する

intent を発動する⼝頭、もしくは、⼊⼒されるフレーズ

Slot は intent を満たすために要求される⼊⼒データ

intent を実現するビジネスロジック

PromptSlot を引き出すためのフレーズ

Lex - ユースケース: 情報ボット

患者向け診察予約ボットを構築する

1.患者がケア施設に午後３時の予約を要求する 2.Lex は予約のスケジューリングが

リクエストされたことを認識する

3.Lexが予約について都合の良い曜日を尋ねる

4.予約時間が確保される

5.患者は木曜日の午後３時に予約完了の通知を受ける

ユーザ入力情報

Lex のテキストレスポンス

Lex - 仕組み: “Book a Hotel”

“Book a Hotel in NYC”

Hotel BookingCity New York CityCheckIn

CheckOut

⾳声

⾃然⾔語理解(NLU)

Book HotelNYC

⾃動⾳声認識(ASR)

Hotel Booking

New York Citya

inテキスト

Intent/Slotモデル


“When would you check in ?” Polly(TTS)

テキスト⾳声


CheckOut“Can I go aheadwith the booking?

Prompt“When would you check in ?”

No


“When would you check in ?” Polly(TTS)

テキスト⾳声 Prompt“When would you check in ?”

“November 30th“


CheckOut


“November 30th“


CheckOut

⾃然⾔語理解(NLU)⾃動⾳声認識(ASR)

Hotel Booking

November 30thNovember 30thテキスト⾳声

Intent/Slotモデル

November 30th


“When would you check out ?” Polly(TTS)

テキスト⾳声



Prompt“When would you check out ?”

No

November 30th


“When would you check out ?” Polly(TTS)

テキスト⾳声 Prompt“When would you check out ?”



No

“December 2nd“

November 30th


“December 2nd“


CheckOut

⾃然⾔語理解(NLU)⾃動⾳声認識(ASR)

Hotel Booking

December 2ndDecember 2ndテキスト⾳声

Intent/Slot

モデル

December 2nd

November 30th



CheckOut December 2nd

“Your hotel is booked for Nov 30th”

Confirmation: “Your hotel is booked for Nov 30th”

Yes

Polly(TTS)

テキスト⾳声

“Can I go aheadwith the booking?

November 30th

マネジメントコンソールの開発画⾯


48


Amazon Polly

Amazon Lex




Apache Spark&

Amazon EMR

AmazonKinesis

AWSBatch

AmazonECS

MXNet


Amazon Machine Learning

データ




Amazon Machine Learning

フルマネージドの予測モデル & API を提供

50

• 線形回帰，2項ロジスティック回帰，多項ロジスティック回帰の3種類のアルゴリズムをサポート

• Cross Validation や正則化，精度評価まで含んでおり，簡単にモデル構築が可能

• 構築したモデルを使って，新しいデータをAPI経由で予測可能

• お⼿軽にシンプルな予測モデルをシステムに組み込んで利⽤できる

Amazon EMR (Elastic MapReduce)

データ




Amazon EMR (Elastic MapReduce)

フルマネージドな Hadoop を提供しており，クラスタの構築，構成変更，破棄まで管理可能データの加⼯整形を⾏なって，機械学習に必要なデータを抜き出すことが可能MLlib を使った Spark アプリケーションを開発することで，スケーラブルに機械学習を実⾏することができる開発・本番と，ワークロードに応じて異なるクラスタを⽴ち上げてジョブを実⾏可能

52

AWS Batch によるバッチ処理の管理

データ




• 多量のバッチジョブ実⾏をクラスタの管理を⾏う事なしに容易に実現できる

• ジョブとして登録したアプリケーションやコンテナイメージをスケジューラが実⾏

• 利⽤するインスタンスタイプや数、スポット利⽤有無などComputeEnvironmentとして任意に指定可能

フルマネージド型のバッチ処理実⾏サービス

AWS Batchで管理

処理を依頼

スケジュール実⾏

AWS Batch によるバッチ処理の管理


55


Amazon Polly

Amazon Lex




Apache Spark&

Amazon EMR

AmazonKinesis

AWSBatch

AmazonECS

MXNet


Deep Learning AMI による⾼速な環境構築

データ




Deep Learning AMI による⾼速な環境構築

57


MXNet TensorFlow Caffe & Caffe2

Theano Cognitive Toolkit Torch

Keras

Nvidia CUDA & cuDNN Python 2 & Python 3

Intel MKL Anaconda

Amazon EC2 (Amazon Linux / Ubuntu)

AWS は MXNet を全⾯的にサポート

マルチ GPU でのスケーラビリティに優れているAWS 社員もコミッターとして活躍Keras や CoreML 対応など，積極的に開発が進められている

58 http://aws.typepad.com/sajp/2016/11/mxnet-default-framework-deep-learning-aws.html


59


Amazon Polly

Amazon Lex




Apache Spark&

Amazon EMR

AmazonKinesis

AWSBatch

AmazonECS

MXNet


次世代GPUインスタンス P3 Instances!

データ




次世代GPUインスタンス P3 Instances!

• NVIDIAの最新GPU Tesla V100• 最も強⼒な GPU-based プラットフォーム• ディープラーニングで P2 に⽐べ最⼤ 14 倍の性能向上

61

NVIDIA Roadmap （GTC 2017）

GPU 性能⽐較

NVIDIA GPU アーキテクチャKepler (P2 インスタンス)

→ Maxwell→ Pascal→ Volta (P3 インスタンス)

0

1000

2000

3000

4000

5000

6000

K80 P100 V100

Resnet-50 8 GPU (Images/sec)

7.2X

EC2の新インスタンスファミリ C5

データ




EC2の新インスタンスファミリ C5

AVX-512 命令セットを利⽤可能で，機械学習やマルチメディア，科学技術計算などに向く

https://aws.amazon.com/jp/blogs/news/now-available-compute-intensive-c5-instances-for-amazon-ec2/

Instance Name vCPUs RAM EBS Bandwidth Network

Bandwidth

c5.large 2 4 GiB Up to 2.25 Gbps Up to 10 Gbps

c5.xlarge 4 8 GiB Up to 2.25 Gbps Up to 10 Gbps

c5.2xlarge 8 16 GiB Up to 2.25 Gbps Up to 10 Gbps

c5.4xlarge 16 32 GiB 2.25 Gbps Up to 10 Gbps

c5.9xlarge 36 72 GiB 4.5 Gbps 10 Gbps

c5.18xlarge 72 144 GiB 9 Gbps 25 Gbps

Greengrass による IoT デバイス上での推論

データ




Greengrass による IoT デバイス上での推論

機械学習の推論処理を，デバイス上で直接⾏うことができる通信が発⽣しないため，⾼速に推論結果を返すことが可能クラウドと同期することで，新しい機械学習モデルに更新することができる

DeviceState

Action

DeviceGateway

Messages

Authentication& Authorization

Security


事例

67

Motorola Solutions における画像認識の活⽤事例

警察官が利⽤できるデバイス, サービスを提供不明者の発⾒にAmazonの画像認識、⾳声認識を活⽤

AWS re:Invent 2016: Machine Learning State of the Union Mini Con (MAC206) – YouTubehttps://youtu.be/HqsUfyu0XJc?t=183329

• カメラでリアルタイムに顔を抽出してAWS に送信

• DBにデータを保存して Rekognition に顔認識顔リクエストを送信

• マッチしたら、イベントでPollyを呼び出して，⾳声でアラートを通知

RoomClip さまRekognition + Amazon Machine Learning の事例

部屋のインテリア実例共有サイト「部屋全体を映している画像かどうか」を判定マネージドサービスを組み合わせることで，低コストで機械学習サービスを構築

69 Amazon RekognitionとMachine Learningで画像判定機を気軽に作るhttp://engineer.roomclip.jp/entry/20

部屋画像のラベルを抽出

特定ラベルの確信度を独⽴変数として

部屋写真か否か判定するモデルを構築

構築したモデルでその他画像を判定

Rekognition AmazonMachine Learning

Gunosy さま配信するニュース記事の⾃動分類

それぞれの記事に対して，どのカテゴリに分類されるかを判定教師あり多クラス分類

https://d1.awsstatic.com/events/jp/2017/summit/devday/D2T8-6.66aa102dbe8d99e0b223956201db984762d204c5.pdf

Capital One さま⾳声認識の活⽤事例

• 全⽶最⼤のネットバンク，4位のクレジットカード発⾏会社• Amazon Alexa を活⽤した⾳声ベースのバンキングアプリ• ユーザのアクセシビリティを改善する取り組み

AWS re:Invent 2016: How Capital One Built a Voice-Based Banking Skill for Amazon Echo (ALX201) – YouTubehttps://www.youtube.com/watch?v=-MtwpZFmexg

Zillow さまSpark MLlib によるレコメンデーション

• Zillow は住宅のマーケットプレイスに関するWebサービスを展開• さまざまなレコメンデーションを活⽤

• セール物件 / 貸出可能物件をメールで利⽤者にプッシュ• 「この物件に似た物件」• パーソナライズド検索• 住宅購⼊確率，物件売却

確率の予測• 類似画像 / 動画

AWS re:Invent 2016: Zillow Group: Developing Classification and Recommendation Engines with Amazon EMR and Apache Spark (MAC303)https://www.slideshare.net/AmazonWebServices/aws-reinvent-2016-zillow-group-developing-classification-and-recommendation-engines-with-amazon-emr-and-apache-spark-mac303

まとめ

まとめ

Amazon では機械学習技術を活⽤した取り組みを実施4 つの形で機械学習技術を提供しており，ビジネスの状況に合わせて活⽤可能

• サービス• プラットフォーム• エンジン• インフラストラクチャ

74

まとめ : Amazon AI サイト、Amazon AI Blog

https://aws.amazon.com/jp/amazon-ai/https://aws.amazon.com/jp/blogs/ai/

re:Invent 11/27-12/1 @ ラスベガス

• ENT301 - Real-World AI and Deep Learning for the Enterprise• ATC302 - How to Leverage AWS Machine Learning Services to

Analyze and Optimize your Google DoubleClick Campaign Manager Data at Scale

• ALX319 - Itʼs All in the Data: The Machine Learning Behind Alexaʼs AI Systems

• GPSBUS201 - GPS: Artificial Intelligence, Machine Learning, Deep Learning: Cutting through the Hype

• ALX304 - Five Ways Artificial Intelligence Will Reshape How Developers Think

77

Technology

AWS AI Solutions