32
2018年3⽉2⽇ 株式会社HPCソリューションズ 河野 株式会社HPCソリューションズ 会社紹介 Gfarmワークショップ2018

株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

2018年3⽉2⽇株式会社HPCソリューションズ

河野 証

株式会社HPCソリューションズ 会社紹介Gfarmワークショップ2018

Page 2: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

2

HPC製品ハードウェアソフトウェア

パブリッククラウド

コンサルティングアプラインス等

Page 3: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

3

HPC製品ハードウェアソフトウェア

Page 4: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

4

Analyze-IT/Predict-IT

Page 5: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

5

Page 6: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

6

Intel Compiler, MPI, MKL他

⾼速リモート可視化

仮想化SMPシステム Analyze-IT/Predict-IT

Page 7: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

取扱ソフトウェア

7

無償ソフトウェア 有償ソフトウェア

OS CentOS, Scientific Linux, Ubuntu Redhat, SUSE, Windows

FileSystem GlusterFS, Lustre, Gfarm, SAMBA GPFS

Job Scheduler SLURM, TORQUE, MAUI, Son of Grid Engine, PBSPro Open Source,Microsoft HPC Pack

Univa Grid Engine, PBSPro, ShareTask

Compiler, Lib OpenMPI, MVAPICH2, CUDA, MS-MPI Intel, PGI, CULA, IMSL, NAG

Monitoring Ganglia, Nagios, Cacti, Zabbix ー

Server or log Management

Cobbler, Ansible, Pacemaker, Linux Virtual Server(LVS), ELKstack

BCM

Virtualization Technology

KVM, OpenVZ, Docker, Oracle VM VirtualBox

VMware vSphere, Citrix XenServer, VMware Fusion Pro, VMware Workstation Pro, VMware Workstation Player

Data Mining Orange, Orange3 ー

Deep learning TensorFlow, Chainer, Theano, DIGITS, Caffe, Torch, Neon, Keras, Waffles, PyDeepLearning and relevant Python Lib.

SMP ー ScaleMP

Page 8: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

8

Page 9: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

9

Page 10: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

10

Page 11: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

11

Page 12: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

12

Page 13: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

13

Page 14: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

14

Page 15: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

15

Page 16: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

UCit – Analyze-IT/Predict-IT

16

Page 17: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

17

パブリッククラウド

Page 18: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

18

Page 19: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

19

Azure VMの特徴

l オンプレミスの Hyper-V と異なり、Azure 上の仮想マシンは、LP と VP の⽐が 1:1 です。

l つまり、物理的なコアが⼀つ丸ごと、仮想マシン上の CPU コアになります。

l 「他の仮想マシン」とコアを共有することがないため、物理コアの性能をすべて享受できます。

※ ただし、A0 (XS)サイズだけは例外で、複数の仮想マシンでコアを共有します。(LP:VP が 1:Nになります)

l Infiniband 対応インスタンスl A8/A9:QDRl H16r:FDR

Page 20: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

OpenMX オンプレ.vs. Azure

20

� ���� 2��3� ��%�� �#$�� �" !"!��"��

�(&$�� �� )1,-1,� ��#"�������� �����(� ���#$�� ����

*1.0/+1� ��#"��������'� �����(� � � �#$�� ����

0

3,600

7,200

10,800

14,400

18,000

16 32 48 64 80 96 112 128

計算時間(秒)

総並列数(MPI×OpenMP並列数)

OpenMX測定結果(runtestL)

Azure

オンプレ

Page 21: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.21

Oracle Cloud

OracleCloud����IntegratedCloud:������ ����������������

����SoE

�����SoR

IaaS

SaaS

Java Java EE Document

GoldenGateDB BackupDatabase

Integration

Management

IoT Big DataDiscovery

Mobile Node Container

DataVisualization

BI

Developer NoSQL

Big DataPreparation

ERP Sales Human Capital Management Service Marketing

Exadata Big Data ComputeStorage Network

1

Ravello

PaaS

Archive

Page 22: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.22

Oracle Cloud IaaSの特徴

• RBTSBH�08Skylake�%8X@ZL^BaJLaJ?���4��

• SBKEI[aSaP�?!�1>��QMO`bE7<=)(*JFb\U]NA?��

• Network; CPU8DbSbGVJE]WI[a-6.)�02 �5�#?��

• Compute5 Storage9�2YMW,3�_BNaIb4�"�#

OracleCloudInfrastructure(IaaS)���TV]MEE\CP8HPC� 7+/>$'?��

GeneralComputePod#1

GeneralComputePod#2

GeneralComputePod#3

1 32…

1 4…

1 32…

1 4…

1 32…

1 4……

1 2 15 16…… …

2

• ObjectStorage9 Gfarm5&��#• 1PB�=¥3,744,0008�6ArchiveCloudStorage: �

Page 23: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.23

Oracle Cloud Deep Learning

• %4()4()%-–.$/)2 28core,192GB/01,2NVIDIAP100GPUs(GPU��# ¥153/� )• ��'5,�1GPU%4()4("��

– V100!NVLINK8GPU� ��"�

– P100��������� V100�������$*-&35+��

nVIDIA GPU%4()4( onOracleCloudInfrastructure

NVIDIA Tesla P100 (Now Available)

NVIDIA Tesla V100 (Coming Soon)

Page 24: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.24

Oracle Cloud Storage with Gfarm

�"�!��

gfmd gfsd� #�1 gfsd� #�2

• gfsd���!#���������!#����

• Gfarm��"�������!#��� ����

OracleStorageCloudServicewithGfarm

Oracle Cloud

Storage Service

���������

Page 25: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

事業概要 HPCソリューションプロバイダ

25

コンサルティングアプラインス等

Page 26: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

PCクラスタシステム トータルソリューション

26

アプリケーションユーザプログラム、ISV

ハードウェアサーバ、ストレージ、インターコネクト等

サイトプランニング

オペレーティングシステム

ミドルウェア並列ファイルシステム、ジョブスケジューラ等

プログラミング環境コンパイラ、並列ライブラリ等

機器設置、配線

システム構築

プログラミング⽀援

電源・空調・インフラ構築

シス

テム

運⽤

⽀援

・保

守サ

ービ

※ 機器設定、システム構築など、⼀部のサービスのみでもご提供可能です。まずはご相談ください。

Page 27: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

27

X PB

Azure

GfarmServer

X PB

データ転送データ転送

Azureによるレプリカ

必要に応じて増減

オンプレミス

GfarmServer

Gfarm on Azure実証実験

Azure

GfarmServer

X PB Azureによるレプリカ

・・・

東⽇本・⻄⽇本 ⽶国、アジア、ヨーロッパ

●Gfarm on Azureによるメリット・必要に応じて容量の増減が可能

物理導⼊・撤去の⼿間が不要

・リージョン間のレプリカによって耐災害性に優れる

・広域分散による⾼いスループット複数のサブスクリプションを使⽤することで、ストレージアカウント数200の制限を超えられる

・データのアクセス頻度によって使い分けが可能⾼速アクセスが必要 → オンプレミスアクセス頻度が少ない→ Azure

・オンプレミスシステム⼊れ替え時のデータ移⾏の軽減

・1オンプレミスとの連携以外に、公共データの公開にも向く

Gfarmによるレプリカ

必要に応じて増減

Page 28: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.28

導⼊事例

Page 29: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

国⽴研究所 様(⼤規模ゲノムシーケンス解析システム)

29

6 4 FDN D D RLNH

G 1

bih( S 4 (,) ) ( 67 .2, 61 D LNT

8 V GA C 53 ,6AM 1ILBHG E

1 .

bihS 4- ../ ) ( 67 .2

( 1 D LNT )(61 S ,S ) ( 1 D

1 .

bih( S 4 (,) ) ( 67 .2, 61 D LNT

g 90

bih( S 4 (,/- ) ( ,67 2

(61 D LNT )(61 S ,

B F1 .

4 245) ( 1 .

4c d bih

S 4 (,, ) ( ,67 2, 61 D LNT

ae ih( S / 61 0 ( , 1)- S 1 0 . 1

Page 30: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

⺠間製造業 様 (キャビテーション解析システム/Windows)

30

Page 31: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.

国⽴研究所様(機能材料設計⽤クラウド環境)

31

Cloud環境

● ヘッドノード(1VM)D4V2 インスタンス

8core, 28GB RAM

LAN

● 計算ノード(8VM)H16r インスタンス

16core, 128GB RAM

・・・

CentOS7ジョブスケジューラ

オフィス

ssh

Page 32: 株式会社HPCソリューションズ会社紹介oss-tsukuba.org/wp-content/uploads/2019/02/HPCS... · Univa Grid Engine, PBSPro, ShareTask Compiler, Lib OpenMPI,MVAPICH2, CUDA,

株式会社HPCソリューションズCOPYRIGHT HPC SOLUTIONS INC. ALL RIGHTS RESERVED.32

ご静聴ありがとうございました!