27

Microsoft AI Solution Update / DLL community Update

Embed Size (px)

Citation preview

Page 1: Microsoft AI Solution Update / DLL community Update
Page 2: Microsoft AI Solution Update / DLL community Update

推論デプロイメント

データの準備アノテーション

モデル構築・学習

Page 3: Microsoft AI Solution Update / DLL community Update
Page 4: Microsoft AI Solution Update / DLL community Update
Page 5: Microsoft AI Solution Update / DLL community Update
Page 6: Microsoft AI Solution Update / DLL community Update
Page 7: Microsoft AI Solution Update / DLL community Update
Page 8: Microsoft AI Solution Update / DLL community Update

推論デプロイメント

データの準備アノテーション

モデル構築・学習

ここは世界中の研究者が

論文として発表。基本的に、

GitHubで公開される。

それを利活用すべし

どんなデータを整備するか

企業内のデータ利活用

戦略が競争力の源泉

ビジネスにインパクトがある

領域の特定、そのための

機械学習利活用

Page 9: Microsoft AI Solution Update / DLL community Update

Agents, Applications & Solutions

Page 10: Microsoft AI Solution Update / DLL community Update
Page 11: Microsoft AI Solution Update / DLL community Update

11

Amazon Azure Google IDCF Sakura

Gen Kepler Volta Kepler Pascal Volta Kepler Pascal Pascal Pascal

GPU K80 x 1 V100 x 1 K80 x 1P40 x 1

P100 x 1V100 x 1 K80 x 1 P100 x 1 P100 x 1 P100 x 1

CPU

Core4 8 6 6 12/1- *** *** 56 8

RAM 61GB 61GB 56GB 112GB 12/1- *** *** 256GB 128GB

Cost /

Hour$0.9 $3.06 $0.9 $2.07 12/1- $0.45 $1.46 $3.94 $3.19

https://azure.microsoft.com/ja-jp/pricing/details/batch/

Page 12: Microsoft AI Solution Update / DLL community Update

• InfiniBand を活用し128 GPU で約 100 倍の高速化の実現

• XTREME DESIGN 社と連携。即座にMNが使える環境を10月から提供予定

1

10

100

1 2 4 8 16 32 64 128

理論値 Azure 実測値

(倍)

(GPU数)

Page 13: Microsoft AI Solution Update / DLL community Update

Azure DSVMとは?

• 機械学習、深層学習に必要なツール群をすでに同梱したVM

• 無料(仮想マシン料金のみ)

• 深層学習的には、NVIDIALibraryを同梱しているのがとてもうれしい。

今回実現したこと:• Chainer 3.0.0rc1 / Cupy 2.0.0rc1

のDSVMへの同梱完了• ChainerCV/ChainerRLも同梱• Ubuntu/Windows版も同梱• レクチャー用のJupyter

notebookも同梱

https://azuremarketplace.microsoft.com/en-us/marketplace/apps/microsoft-ads.dsvm-deep-learning

Page 14: Microsoft AI Solution Update / DLL community Update

https://azure.microsoft.com/ja-jp/services/batch-ai/

Clusters

• Provision GPUs

• Install drivers and software

• Interactive use

Scheduling

• Queue work

• Prioritize jobs

• Start MPI

• Monitor

• Handle failures

Data

• Scale access to training data

• Output logs & models

• Secure & compliant

Cost

• Scale up and down

• Share reserved instances

• Low priority

Workflow

• Choose efficient hardware

• Tooling integration

• Laptop to cloud

Page 15: Microsoft AI Solution Update / DLL community Update

Apps + insightsSocial

LOB

Graph

IoT

Image

CRM INGEST STORE PREP & TRAIN MODEL & SERVE

Data orchestration and monitoring

Data lake and storage

Hadoop/Spark/SQL and ML

.

IoT

Azure Machine Learning

Page 16: Microsoft AI Solution Update / DLL community Update

Azure Machine Learning

Workbench

VM (CPU/GPU)

Spark

Container Services

SQL Server

ML Server

ON-PREMISES

EDGEAzure IoT Edge

学習とデプロイの選択肢

AZURE学習履歴&モデル管理サービス

Page 17: Microsoft AI Solution Update / DLL community Update

Azure Machine Learning と統合するためのVS Code

のエクステンション

新しいニューラルネットワーク開発プロジェクトの、構築と学習までをサポート

リモートのトレーニングをサポート

ジョブの管理

Python, Jupyter Notbook, Git など VS Code の既存機能との連携

Page 18: Microsoft AI Solution Update / DLL community Update

Azure は、日本初のクラウドセキュリティゴールドマークの取得 (外部監査人による ISO 27017 認定)を始め、ISO 27018、HIPAA、FedRAMP、SOC 1、SOC 2 などの、幅広い国際的および業界固有のコンプライアンス基準に適合しています。米国防総省、英国政府での採用、日本の FISC などの国ごとの基準も満たしています。

Azure DC は、ネットワークレイヤに人工知能を用いた DDoS / DOS / IDS 防御機能を標準で備え、不正なトラフィックを自動検知・遮断することができます。

マイクロソフトは、サイバークライムセンターを運営しています。サイバークライムセンターでは、24 時間の監視体制で、1日5億件以上のトラフィックを分析し、マルウェアの情報/状況を把握するとともに、攻撃元の特定を行い、セキュリティ関連団体、インターポールや各国の警察機関に情報を提供しています。

サイバークライムセンターは、米国本社の他、日本を含む世界5都市に拠点を展開しています。

世界最高レベルの安全性

Page 19: Microsoft AI Solution Update / DLL community Update

日本初のクラウドセキュリティゴールドマークを取得

Microsoft Azure、Office 365が情報セキュリティ監査の認定を取得

その他の第三者認証・監査

透明性

お客様データ・プライバシー保護

準拠法・裁判管轄

準拠法は日本法

合意管轄裁判所は東京地方裁判所

日本データセンター開設東西拠点により災害対策環境も含めて日本DCを利用可能

セキュリティセンターによる情報公開

ISO/IEC 27018の準拠• 事業者は、カスタマーの同意なしに個人情報をマーケティングや広告には使って

はいけない• 事業者は、データの保管場所(国)及び、取扱事業者を公開しなければならない

EU のデータ保護指令の要件を満たすと認定(世界で最初に認定を受けた企業)

その他対応規格/認証

セキュリティ監査協会(JASA)クラウドセキュリティ推進協議会が制定した「クラウド情報セキュリティ監査制度」において、日本で初めて「クラウド セキュリティ(CS)ゴールドマーク」を取得

「クラウド情報セキュリティ監査制度」:クラウドサービスを提供する事業者のサービスのセキュリティが、国際的な基準(ISO/IEC 27017)で求められる 水準であることを示すことを目的とし、サービス提供の実態が、情報セキュリティマネジメントの基本的な要件を満たしているか評価する仕組みとして制定

CS ゴールドマークは国際的な基準とされる Service Organization Controls (SOC)2 にならぶ、日本で初めての第三者認定制度であり、クラウドサービスの利用者は、CSゴールドマークを導入時や年次の利用者自身の監査結果として利用することができます。

政府調達基準(http://www.nisc.go.jp/active/general/kijun2016.html)においても、セキュリティ監査制度の活用示唆されている

日本マイクロソフトには、JIS クラウド セキュリティ コントロール標準化専門委員会幹事や ISO/IEC JTC 1/SC 27 WG1 および WG4 委員も在籍

西日本 東日本

EU Model Clauses , Data Processing Agreement, ISO 27001, SAS 70, SSAE 16/ISAE 3402, HIPAA BAA, FISMA, FERPA

原則お客様データはお客様のものでありクラウドサービスをお客様に提供する目的にのみ使用

委託先の管理• 社員と同等のセキュリティレベル、プライバシー基準を維持• 下請業者の一覧を公開

閉域網接続サービスの提供• Azure :提供中• Office 365 :提供中

クラウドセキュリティ(CS)ゴールドマーク取得により、Microsoft Azure、Office 365を、日本のお客様が、客観的な基準により安全性・信頼性が確認されたサービスとして、選択できるようになりました。当社の CSP プログラムなどを活用し Azure や Office 365を活用したクラウドビジネスを推進するパートナー各社にとっても、サプライチェーンとして利用サービスの安全性・信頼性を客観的にお客様へと証明することが可能となります。

http://jcispa.jasa.jp/cs_mark_co/cs_gold_mark_co/

Page 20: Microsoft AI Solution Update / DLL community Update
Page 21: Microsoft AI Solution Update / DLL community Update

https://blogs.technet.microsoft.com/mssvrpmj/2017/09/25/introducing-azure-confidential-computing/

Page 22: Microsoft AI Solution Update / DLL community Update

PFN 製品不良検査システムディープラーニング技術を活用してキズ・異物を検知

汎用カメラ等で撮影した画像を使用

0.1mm以下の微細なキズも検知

キズ・汚れの詳細な教示が不要

キズ 異物 汚れ

自動車や携帯端末等の外装

検知ソフトウェア 学習ソフトウェア

Page 23: Microsoft AI Solution Update / DLL community Update

必須条件: 十分条件:

Page 24: Microsoft AI Solution Update / DLL community Update

目的 人工知能や深層学習の実社会での活用を推進(Preferred Networks, Inc. と Microsoft Corp.のアライアンス発祥)

概要ディープラーニングに関連する技術とビジネスの両面に精通したプロフェッショナルたちが開発事例や最新技術動向を情報発信する

機能深層学習に関連する多種多様な検証結果やユースケース情報の提供し、お客様と深層学習コンサル企業とのマッチングの場を提供する。

Page 25: Microsoft AI Solution Update / DLL community Update
Page 26: Microsoft AI Solution Update / DLL community Update
Page 27: Microsoft AI Solution Update / DLL community Update