Twitter: @mihochannel

SlideShare: https://www.slideshare.net/mihochannel1

この資料は 2017 年 12 月 14 日時点での情報をもとに作成されています。

今後変更される可能性がございます。あらかじめご承知おきください

「人工知能のビジネス提供価値を考える」― 人工知能のビジネス活用概況2017年度版 (2017年06月26日) 株式会社 MM 総研 https://www.m2ri.jp/news/detail.html?id=238

競合他社は既に取り組んでいる可能性が高い！

1.8%

17.9%

80.3%

4.9%

22.4%

72.7%

13.3%

32.9%

53.8%

導入済

導入検討中

導入する予定

なし

日本 ドイツ アメリカ

Microsoft Azure

Azure: The Trusted CloudMore certifications than any other cloud provider

HIPAA /

HITECH ActFERPA

GxP

21 CFR Part 11

ISO 27001 SOC 1 Type 2ISO 27018CSA STAR

Self-Assessment

Singapore

MTCS

UK

G-Cloud

Australia

IRAP/CCSL

FISC Japan

New Zealand

GCIO

China

GB 18030

EU

Model Clauses

ENISA

IAF

Argentina

PDPA

Japan CS

Mark Gold

CDSAShared

Assessments

Japan My

Number Act

FACT UK GLBA

Spain

ENS

PCI DSS

Level 1MARS-E FFIEC

China

TRUCS

SOC 2 Type 2 SOC 3

Canada

Privacy Laws

MPAA

Privacy

Shield

ISO 22301

India

MeitY

Germany IT

Grundschutz

workbook

Spain

DPA

CSA STAR

Certification

CSA STAR

Attestation

HITRUST IG Toolkit UK

China

DJCP

ITARSection 508

VPATSP 800-171 FIPS 140-2

High

JAB P-ATOCJIS

DoD DISA

SRG Level 2

DoD DISA

SRG Level 4IRS 1075

DoD DISA

SRG Level 5

Moderate

JAB P-ATO

GLO

BA

LU

S G

OV

IND

USTR

YR

EG

ION

AL

ISO 27017

https://azure.microsoft.com/ja-jp/support/trust-center/

AI で自らの可能性を切り開いていく

Services

Infrastructure

Tools

配布禁止

Spark

SQL Server

仮想マシン

GPU

コンテナー サービス

ノートブックIDE

Azure Machine Learning Workbench

SQL Server

Machine Learning Server

オ ン プ レ ミ ス

A Z U R E M A C H I N E L E A R N I N G

エ ッ ジ コ ン ピ ュ ー テ ィ ン グ

Azure IoT Edge

実験およびモデル管理

A z u r e Ma c h i n e L e a r n i n g サ ー ビ ス トレーニングとデプロイのオプション

A z u r e

ハ イ パ ー ス ケ ー ル のエ ン タ ー プ ラ イ ズグ レ ー ド のイ ン フ ラ ス ト ラ ク チ ャ

開 発 者 用 ツ ー ル お よ びサ ー ビ ス

デ ー タ サ イ エ ン ス の た め のオ ー プ ン プ ラ ッ ト フ ォ ー ム

ハードウェア

ストレージ管理

ソフトウェア

M L お よ び A I プ ラ ッ ト フ ォ ー ム

AI アプリケーション (ファーストおよびサード パーティ) コグニティブ サービスBot Framework

Spark AI Batch Training DS VM SQL Server ACS

BLOB Cosmos DB SQL DB/DW ADLS

CPU FPGA GPU IoT

Azure Machine Learning

モデルのデプロイおよび管理

機械学習ツールキット

実験の管理、データの準備、コラボレーション

CNTK

TensorFlow

ML Server

Scikit-Learn

その他のライブラリ

PROSE

Docker

クラウド - Spark、SQL、その他のエンジン

ML Server - Spark、SQL、VM

エッジ

使い慣れたツールとプラットフォームにより

今すぐ構築を開始

大規模に構築、デプロイ、管理

アジャイルな開発により生産性が向上

最速の AI 開発者向けクラウドの利点

大規模に構築、デプロイ、管理

どこにでも構築してデプロイ - クラウド、オンプレミス、エッジ、およびデータ内

データ ドリブン型の管理とすべてのモデルの再トレーニングによりわずか数分でデプロイ

ローカルでプロトタイプを作成し、その後 VM、Spark クラスター、および GPU でスケールアップ/スケールアウト

Exce l 統合を含め、リアルタイムでスループットの高い洞察をどこででも提供

HTTP サービスとしてモデルをデプロイおよび管理

リアルタイムおよびバッチ処理をコンテナーベースでホスト

Azure による管理と監視(例: AppInsights)

SparkML、Python、CNTK、TF、TLC、R の最高クラスのサポート、その他 (Caffe、MXnet) をサポートするよう拡張可能

Python および .NET Core でのサービス作成

モデルの管理

DOCKER

単一ノードのデプロイ (クラウド/オンプレミス)

Azure Container Service

Azure IoT Edge

Spark クラスター

どこででもデプロイ

Excel での Azure Machine Learning モデルの使用

アジャイルな開発により生産性が向上

組み込みのインテリジェントなデータ ラングリングにより、準備時間を短縮し、より多くの時間をモデリングに費やすことが可能に

ノートブックと Git により、コラボレーションと共有を拡大

バージョン コントロールと再現性により、データの損失を回避

指標、系列、実行履歴、資産管理などにより、最もパフォーマンスの高いモデルを特定

データのサンプル化、理解、および準備を迅速化

PROSE SDK などを活用して、例示によるインテリジェントなデータ準備を実現

Python による変換の拡張/カスタマイズと特性付け

大規模な実行のための Python と PySpark の生成

データの準備

実験

ローカルおよびクラウドでの実験のためのジョブの管理

Spark + Python + R のためのサポートを見つける(ロードマップ)

ジョブをローカル、リモート VM 上 (スケールアップ)、Spark クラスター上 (スケールアウト)、またはSQL オンプレミスで実行

コード、構成、パラメーター、およびデータに対するGit の実験追跡を使用して作成

詳細な履歴メタデータによる検索と比較

使い慣れたツールとプラットフォームにより今すぐ構築を開始

視覚的なドラッグアンドドロップか、コードファーストの作成のどちらかを選択

好みの IDE を使用

VS Code で直接 Azure Machine Learn ing サービスを呼び出し*

最も人気の高い言語を使って任意のフレームワークまたはライブラリ上に構築

業界をリードする Spark および GPU を使用したより迅速で簡単なトレーニング

視覚的なドラッグアンドドロップ コードファースト

自由に構築

好みの IDE を使用

あらゆる種類のデータを活用

好きなものを使用

最 も 人 気 の 高 い イ ノ ベ ー シ ョ ン を 使 用

任 意 の ツ ー ル を 使 用

任 意 の フ レ ー ム ワ ー ク ま た は ラ イ ブ ラ リ を 使 用

希望の IDE に統合

Visual Studio Code 拡張機能 (より多くの IDE およびノートブックをサポート予定)

希望の IDE で構築開始 - 追加のツールは不要

機械学習とディープ ラーニングのための統合された機能豊富な作成

ご使用の IDE またはノートブックから Azure Machine Learning サービスを直接呼び出し

Azure Blob Storage

Azure Machine Learning Model

Management Service

GPU Data Science Virtual

Machine

機械学習モデル

Java ETL

Azure Container Registry

予測的 Web アプリケーション

画像分類の精度の強化転移学習、畳み込みニューラル ネットワーク (CNN)、および勾配ブースティング デシジョン ツリー (GBDT) といった学習アルゴリズムにより、画像分類を再定義

Azure Container Service

Azure Container Service

Azure Machine Learning

Azure GPU Data Science Virtual Machine

Web アプリ(Jupyter Notebook)

Workbench Experimentation Service

Microsoft SQL Server

Azure Machine Learning Operationalization

クラスター

テキスト予測の強化ディープ ラーニングと自然言語の処理により、検索の有効性とタグ付けの正確性が向上

SQL

課題

• 従来の電線検査サービスは非常に高コスト

• 低コストの画像スコアリングと複数の同時顧客のサポートに対する需要

• ドローン ソリューションで実行できる強力なAI が必要

ソリューション

• ディープ ラーニングにより複数のストリーミングデータ フィードを分析

• Azure GPU は Single Shot Multibox Detector をサポート

• Azure Batch Shipyard による信頼性が高く、一貫性があり、弾力性に富むスケーラビリティ

ディープ ラーニングによって強化されたドローンベースの配電網検査機能

データ ソース 取り込み 準備 分析 公開 使用

アクションインテリジェンスデータ

ドローンが収集した画像

ドローン画像の一括アップロード

オンプレミスのコマンド センターAzure Blob

未加工ストレージ

Cosmos DB

在庫の結果と状態の変化を含む

Azure Batch

Docker イメージ

Docker イメージに含まれる DNN

Azure Blob

Azure Functions

Cosmos DB

1001

1001

eSmart アーキテクチャ

課題

• カタログから類似した衣料品アイテムの正確なオプションを提供することでバイヤーの検索を支援

• 色、柄、ネック スタイルなどに基づいた改善されたスマート画像マッチング機能の必要性

ソリューション

• Bing およびドメイン固有の画像を使用して作成されたトレーニング データ

• 転移学習を使用して事前トレーニングされたImageNet ディープ ニューラル ネットワークを活用

• 衣料品の類似性の指標を使用した最も類似した衣料品アイテムの正確なリスト

• 74% の一致精度

画像分析による一致精度の改善

価格設定

すべてのサービスは別個に使用可能

•

•

管理されたモデル デプロイされたモデル コア数 価格 (月額)

20 2 4 無料

100 10 16 50 ドル

1,000 100 120 375 ドル

10,000 1,000 800 2,500 ドル

•

無料でお試しください

詳細

今すぐスタート

C L I C K T O E D I T M A S T E R T I T L E S T Y L E

機械学習と AI のポートフォリオいつどれを使用するか?

どのエンジンを使用するか?

デプロイ対象

どちらの経験を優先するか?

独自に構築するか、事前トレーニングされたモデルを使用するか?

Microsoft ML および AI 製品

独自に構築

Azure Machine Learning

コードファースト

(オンプレミス)ML サーバー

オンプレミスのHadoop

SQL Server

(クラウド) AML (プレビュー)

SQL Server Spark Hadoop Azure Batch DSVM Azure Container Service

ビジュアル ツール

(クラウド) AML Studio

使用

コグニティブサービス、ボット

アプリ + 洞察ソーシャル

LOB

グラフ

IoT

画像

CRM 取り込み 保存 準備 & トレーニング モデリング & 提供

データの調整 & 監視

Data Lake & ストレージ

Hadoop/Spark/SQL & ML

増え続けるデータ量。新たなデータ ソースと種類。オープン ソースの言語。

Azure Machine Learning

IoT

デ ー タ 資 産 の 進 化

顧客

増大するデータおよび AI のエコシステム

システム インテグレータ― ISV トレーニング パートナー

•

•

•

•

•

•

•

•

•

2017 年度の概要採用、エンゲージメント、および収益を通じて成長を加速

C L I C K T O E D I T M A S T E R T I T L E S T Y L E

Spark アプリケーション (ドライバー)

SparkContext

マスター (クラスター マネージャー)

スレーブ (ワーカー)

Executor

タスクタスクタスクタスクタスクタスク

スレーブ (ワーカー)

Executor

タスクタスクタスクタスクタスクタスク

Apache Sparkフォールト トレラントな分散コンピューティング フレームワーク

Spark へのディープ ラーニングの統合

ライブラリを作成して Spark 上で学習アプリケーションを簡単に開発

オープン ソース コミュニティにおけるマイクロソフトのプレゼンスを拡大

Spark をハードウェアに依存しない柔軟なディープ ラーニング フレームワークと統合: Cognitive Toolkit (CNTK)

さまざまな規模でモデルを簡単に実行および運用化する方法を提供

ML プログラミング モデルを強化

• 既定の特性付けを強化

• 並列モデルの評価

• モデルの比較および概要作成

Spark Summit 2017 でリリース

その他のサンプル ノートブック並びに Scala および PySpark のための MMLSpark ドキュメントを参照してください。

CIFAR-10 データセット内の画像を分類するよう事前トレーニングされた CNN

Microsoft ML for Spark例

GitHub の使用を開始するには、以下の GitHub リポジトリにアクセス:https://github.com/Azure/mmlspark

Docker の使用を開始するには、Docker イメージを使用:

サンプルの Jupyter ノートブックを表示するには、以下に移動: http://localhost:8888

Microsoft Machine Learning for Spark の使用を開始する

C L I C K T O E D I T M A S T E R T I T L E S T Y L E

入力層 隠れ層 1 隠れ層 2 出力層

A A

x

x x

+

tanh

tanhơ ơ ơ

Cognitive Toolkit (CNTK)マイクロソフトのディープ ラーニング ライブラリ

CNTK x Sparkステップ 1: CNTK Java バインディング

CNTK は C++ で記述されるが、Python、Brainscript、およびC# にバインド

SWIG (Simple Wrapper and Interface Generator) を使用して、CNTK の評価ライブラリを Java に公開

注: すべての Java バインディングはマシンで生成されるため、メンテナンスはほとんど不要 (CNTK の新しいリリースで提供)

CNTK x Sparkステップ 2: Spark トランスフォーマー

Spark は Scala に基づいて構築されているため新しいCNTK Java バインディングを使用 (Java と相互運用可能)

クラスター内の各ノード上でカスタムの Scala マップを実行

すべての Spark Executor で CNTK モデルを自動的に分散、ロード、および実行

各マシンはデータセット全体の小さな部分をマップするため、パフォーマンスはマシンに応じてスケーリング

パフォーマンス対パーティション

観測値

完璧な並列処理

コン

ピュ

ーテ

ィン

グ時

間(秒

)

パーティション数

無料の PySpark バインディング

Scala はコア コードで、Python はデータ サイエンス言語

Spark は PySpark パッケージに Python へのバインディングを公開

すべての作業に対する Python バインディングを瞬時に生成することで、CNTK Spark 統合を Python に

自動的に公開

Databricks と連携することで、このツールは Spark Core に貢献し、SparkDL と作業をマージできる

ユキヒョウ?

ディープ ニューラル ネットワーク Spark ML 分類子

デシジョン ツリーまたはロジスティック回帰画像の特性画像

クラス 1 クラス 1

ギャップ

コンピューター ビジョンと Spark での分類

使用した場合使用しない場合

89% の精度68% の精度

15.1% の精度 83.7% の精度

深い特性付け

スケール + LR に正規化された CM

正解

ラベ

ル

精度 = 68.0%

予測ラベル

正解

ラベ

ル

CNTK2 + LR に正規化された CM

正解

ラベ

ル

精度 = 89.5%

予測ラベル

LR に正規化された CM正

解ラ

ベル

予測ラベル

精度 = 15.1%

CNTK モデル + LR に正規化された CM

正解

ラベ

ル

予測ラベル

精度 = 83.7%

C L I C K T O E D I T M A S T E R T I T L E S T Y L E

なぜ Operationalization なのか?

モデルはアクセス可能にする必要がある

モデルのデプロイは困難

マルチプラットフォーム統合ポイントとしての Web サービスが必要

サポートされる API パターン

断続的または連続的

ジョブあたり単一ノード (現時点)

複合モードまたはバッチのみ

大規模な要求 - 応答パターン

リ ア ル タ イ ム 操 作バ ッ チ 操 作

ACS w/Kubernetes

ACR

App Insights

Storage

必要に応じてスケールアウト/

イン

アクセスが登録されたコンテナー

Get 要求ログデータ

Windows

Linux

Mac

Spark ML

Python

CNTK

AZURE サービスOS サポート ML フレームワーク

R

Operationalization CLI環境および技術スタック

Empower today’s innovators to unleash the power of data

and reimagine possibilities that will improve our world

本書に記載した情報は、本書各項目に関する発行日現在の Microsoft の見解を表明するものです。Microsoftは絶えず変化する市場に対応しなければならないため、ここに記載した情報に対していかなる責務を負うものではなく、提示された情報の信憑性については保証できません。

本書は情報提供のみを目的としています。 Microsoft は、明示的または暗示的を問わず、本書にいかなる保証も与えるものではありません。

すべての当該著作権法を遵守することはお客様の責務です。Microsoftの書面による明確な許可なく、本書の如何なる部分についても、転載や検索システムへの格納または挿入を行うことは、どのような形式または手段（電子的、機械的、複写、レコーディング、その他）、および目的であっても禁じられています。これらは著作権保護された権利を制限するものではありません。

Microsoftは、本書の内容を保護する特許、特許出願書、商標、著作権、またはその他の知的財産権を保有する場合があります。Microsoftから書面によるライセンス契約が明確に供給される場合を除いて、本書の提供はこれらの特許、商標、著作権、またはその他の知的財産へのライセンスを与えるものではありません。

© 2017 Microsoft Corporation. All rights reserved.

Microsoft, Windows, その他本文中に登場した各製品名は、Microsoft Corporation の米国およびその他の国における登録商標または商標です。

その他、記載されている会社名および製品名は、一般に各社の商標です。

http://aka.ms/mina-ai

http://aka.ms/psdc-ai