32
Dell Red Hat OpenStack クラウドソリューション リファレンスアーキテクチャガイド - Version 3.0.1 ©2014-2015 Dell Inc.

Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

  • Upload
    others

  • View
    4

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

Dell Red Hat OpenStack クラウドソリューション

リファレンスアーキテクチャガイド- Version 3.0.1

©2014-2015 Dell Inc.

Page 2: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

目次

商標

メモ、注意、警告について

用語集

概要

OpenStackの成熟度

ハードウェアオプション

ネットワーキングとネットワークサービス

分類

Red Hat Enterprise Linux OpenStack Platform 6.0

主なメリット

OpenStackのアーキテクチャ

OpenStackのコンポーネント

ストレージのオプション

Red Hat Ceph Storage

Dell EqualLogic ストレージアレイ

Cinder マルチバックエンドサポート

サーバインフラストラクチャのオプション

PowerEdge R630 サーバ

PowerEdge R730xd サーバ

ハードウェア構成

構成に関する注記

運用に関する注記

バックアップ/リカバリ

サービスのレイアウト

導入

ネットワークのアーキテクチャ

インフラストラクチャのレイアウト

ネットワークコンポーネント

サーバノード

アクセススイッチまたはトップオブラック(ToR)

集約スイッチ

コア

レイヤ 2およびレイヤ 3スイッチング

vLAN

帯域外管理ネットワーク

Dell OpenSwitch ソリューション

4

4

5

7

7

7

7

8

9

9

11

11

13

13

14

14

15

15

15

16

17

18

18

18

19

20

20

20

20

21

21

22

22

22

23

23

2

Page 3: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ソリューションバンドル

ソリューションバンドル

大規模な構成

ソリューションバンドルのラックのレイアウト

ソリューションバンドルのネットワーク構成

Dell EqualLogic ストレージを使用したソリューションバンドル

ソリューションバンドル:ソリューション管理ホスト(SAH)のネットワーキング

ソリューションバンドルの拡張

ラック 1

ラック 2

ラック 3

改訂履歴

バージョン 1

バージョン 2

バージョン 3

バージョン 4

参考資料

詳細

28

28

26

24

24

24

24

29

29

30

31

31

31

31

30

31

32

32

3

Page 4: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

商標

© 2014-2015 Dell Inc. All rights reserved. Dell Inc.の書面による許可なく、本書を無断で複写、複製、転載することを禁じます。詳細については、デルにお問い合わせください。

本書で使用されているDell™、DELLのロゴ、Dell Precision™、OptiPlex™、Latitude™、PowerEdge™、PowerVault™、OpenManage™、EqualLogic™、KACE™、FlexAddress、Dell Networking™、およびVostro™の商標は、米国およびその他の国におけるDell Inc.の商標です。 Intel®、Pentium®、Xeon®、Core®、およびCeleron®は、米国およびその他の国における Intel Corporationの登録商標です。AMD®はAdvanced Micro Devices, Inc.の登録商標です。AMD Opteron™、AMD Phenom™、およびAMD Sempron™はAdvanced Micro Devices, Inc.の商標です。Microsoft®、Windows®、Windows Server®、MS-DOS®、およびWindows Vista®は、米国およびその他の国におけるMicrosoft Corporationの商標または登録商標です。

Red Hat®、Red Hat® Enterprise Linux®、Shadowmanロゴ、およびJBossは米国およびその他の国におけるRed Hat, Inc.の商標または登録商標です。Linux®は米国およびその他の国におけるLinus Torvalds氏の登録商標です。Novell®は米国およびその他の国におけるNovell Inc.の登録商標です。SUSE™は米国およびその他の国におけるNovell Inc.の商標です。Oracle®はOracle Corporationおよび /またはその関連会社の登録商標です。Citrix®、Xen®、XenServer® and XenMotion® は米国およびその他の国におけるCitrix Systems, Inc.の登録商標または商標です。VMware®、Virtual SMP®、vMotion®、vCenter®、およびvSphere®は、米国およびその他の国におけるVMware, Inc.の登録商標または商標です。

免責事項:OpenStack®ワードマークおよびOpenStackロゴは、米国およびその他の国におけるOpenStack Foundationの登録商標/サービスマークまたは商標/サービスマークであり、OpenStack Foundationの許諾の下に使用されています。デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資も受けていません。

本書では、上記以外の商標や名称が該当のマークおよび名称の権利を有する団体またはその団体が所有する製品を示すために使用されている場合があります。他企業の商標および商号は、一切Dell Inc.に帰属するものではありません。

メモ、注意、警告について

  メモに記載されている内容は、システムの使用方法に関する重要な情報です。

  注意は、指示に従わないとハードウェアの損傷やデータ損失の原因となる可能性があることを示しています。

  警告は、損害、けが、または死亡の原因となる可能性があることを示しています。

本書は情報提供のみを目的として作成されたものであり、誤字脱字や不正確な技術情報が含まれている場合があります。本書の内容は作成時点のものであり、その内容について明示または黙示にかかわらずデルはいかなる責任も負いません。

4

Page 5: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

用語集

BMC/IDRACエンタープライズ

ベースボードマネジメントコントローラ。システムの重要なイベントを監視するオンボードのマイクロコントローラ。システムボード上でさまざまなセンサーと通信し、あるパラメーターが事前設定されたしきい値を超えると、警告を送信してイベントログを作成します。

バンドル

お客様がカスタマイズ可能なソリューションで、以下で構成されます。• 説明のとおりにソリューションをインストール、運用するために必要なすべてのサーバ、ネットワーク、および  ストレージハードウェア• 説明のとおりにソリューションをインストール、運用するために必要なすべてのソリューションソフトウェアのライセンス

クラウドコンピューティング

http://csrc.nist.gov/publications/nistpubs/800-145/SP800-145.pdfを参照してください。クラウドコンピューティングは、構成可能なコンピューティングリソース(ネットワーク、サーバ、ストレージ、アプリケーション、サービスなど)の共有プールに、どこからでも容易に、オンデマンドでネットワークを介してアクセスできるモデルです。これらのコンピューティングリソースは、管理作業とサービスプロバイダーによる操作を最小限にしながら、迅速にプロビジョニングしたり、解放したりすることができます。

クラスタ

分散スイッチのペアに接続されたOpenStack専用のコンピュータのセット。

コンピューティングノード

ハイパーバイザサーバやNova Computeの役割を最も適切にサポートするハードウェア構成。

DevOps

DevOps(Development Operations)は、導入の自動化を改善し、1つの修正から別の修正までのリードタイムと平均リカバリ時間を短縮することで、データセンターを管理する運用モデルです。http://en.wikipedia.org/wiki/DevOpsを参照してください。

5

Page 6: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ハイパーバイザ

仮想マシン(VM)を実行するソフトウェア。

LAG

リンクアグリゲーショングループ。

LOM

マザーボード内蔵LAN。

Node

システム内のサーバの1台。

ポッド

サーバとネットワークの規模に基づいて、3台のラック上にインストールされる単位。

SAH

SAH(ソリューション管理ホスト)は、クラスタに必要なインフラストラクチャの役割をサポートする物理ホストです。

ストレージノード

Cephなどのストレージ機能を最も適切にサポートするハードウェア構成。

VLT

VLT(仮想リンクトランク)は、接続デバイス(ToRスイッチ)とVLTピアスイッチ間のポートチャネルを束ねます。

VLTi

VLTi(仮想リンクトランクインターコネクト)は、VLTピアスイッチ間でステートを同期するために使用するインターコネクトです。両方のエンドポイントでは、10Gまたは40Gインターフェイスを使用する必要があります。1 Gインターフェイスはサポートされていません。

6

Page 7: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

概要

このリファレンスアーキテクチャは、OpenStack®ベースのクラウドを導入する組織の支援に主眼を置いています。この共同で開発、検証を行ったアーキテクチャでは、Red Hat Enterprise Linux™ OpenStack Platformで稼働するDell™ Red Hat®クラウドソリューションの詳細を説明し、ソフトウェア、ハードウェア、運用、およびソリューションコンポーネントの統合についても網羅しています。また、このアーキテクチャでは、コンピューティングノードとストレージノード、ネットワーキングの設計、およびさまざまなシステム構成に対する規範的な手引きと推奨事項が説明されています。

OpenStackの成熟度

Red Hat Enterprise Linux OpenStack Platformのコードベースは非常に速いペースで更新されています。詳細については、https://access.redhat.com/site/support/policy/updates/OpenStack/platformを参照してください。公開されているOpenStackの最新リリースのコードネームはKiloです。このリリースは、以前のリリースを基盤として342個の新しい機能を搭載し、広範なソフトウェア開発、データ管理、アプリケーションインフラストラクチャをサポートしています。133以上の組織に所属する1400人を超える個人が開発に携わりました。http://www.OpenStack.org/software/junoを参照してください。デルとRed Hatがこのリファレンスアーキテクチャを開発した目的は、Dell Red Hat OpenStackクラウドソリューションのお客様が、現在のリリースを使用して、稼働準備が整ったクラスタを独自に構築し、初期のサービスを設計しやすくすることにあります。デルとRed Hatは、お客様が直ちに運用できるOpenStackクラスタを用意するのに必要なサポートとサービスを提供いたします。

ハードウェアオプション

初期システムのハードウェア仕様に費やす時間を削減するために、このリファレンスアーキテクチャでは、サーバ、ストレージ、およびネットワーキングの選択肢を明確にしています。• 推奨するハードウェアは汎用的で、幅広い構成オプションを実現できます。• 推奨するハードウェアはインフラストラクチャ、コンピューティング、およびストレージの役割を果たすために最適化されています。このリファレンスアーキテクチャ全体で示しているとおり、デルは常にこのサービスを拡張する機能を追加しています。

このリファレンスアーキテクチャのそれぞれのDell PowerEdge™ サーバの構成は、OpenStack Compute、OpenStack Storage、または同時に両者の基本的なセットアップができるよう設計されています。デルは、OpenStackソフトウェアの使用を開始する際には、この構成のコンポーネントを利用することを推奨します。その理由は、この構成のハードウェアと運用プロセスは柔軟性が高く、拡張するための基盤に適しているためです。リファレンスアーキテクチャ構成は、クラウド環境の拡大に合わせて拡張できる設計になっているため、投資は保護されます。

ネットワーキングとネットワークサービス

ネットワーク構成では、OSPコードベースがサポートするNeutronベースのオプションを使用し、サードパーティのドライバは使用しません。このリファレンス構成は、Neutronネットワーキングサービスに基づいており、vlanオプションと共にOpenvSwitch用のML2ドライバを使用します。その他のネットワーキング機能には以下のものがあります。• コアまたは階層型のネットワーキング機能• 10 GbEネットワーキング• NICのチーミング• トップオブラック(ToR)型スイッチをコアルータにトランキングする冗長化コンポーネントこのようにして、ソリューションは完全な運用環境で稼働することができます。ガイドラインについては、20ページの「ネットワークアーキテクチャ」を参照してください。詳細な設計をご希望の場合は、デル コンサルティングサービスをご利用ください。

7

Page 8: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

分類

このソリューションには、Red Hat Enterprise Linux OpenStack Platformで提供されるコアOpenStackコンポーネントが含まれています。

• Block Storage(CinderをCephおよびEqualLogicと共に使用)• Compute(Nova)• Dashboard(Horizon)• Database(Trove、使用可能だがこのソリューションには含まれない)• Data Process(Sahara、使用可能だがこのソリューションには含まれない)※1

• Identity(Keystone)• Image Service(Glance)• Integration Testing(Tempest、使用可能だがこのソリューションには含まれない)※1

• Networking(Neutron)• Orchestration(Heat)• Telemetry(Ceilometer、使用可能だがこのソリューションには含まれない)※1

注意:このリファレンスアーキテクチャで説明するTempestの情報は、テクノロジープレビューとして提供しています。インストールと構成には、カスタムサービス契約が必要です。Tempestを使用する前に、http://docs.openstack.org/ developer/tempest/でTempestのドキュメントを確認してください。

9ページの図1:OpenStackの分類に示した分類は、インフラストラクチャのコンポーネント(薄い緑色の箇所)とOpenStack固有のコンポーネント(赤色の箇所)を示しています。これらの開発は、OpenStackのコミュニティ、デル、およびRed Hatによって現在積極的に進められています。また、この分類には、クラウドユーザーにとって次の2つの側面があるという、DevOpsの考え方も反映されています。 • サイト固有のインフラストラクチャ• 標準ベースのAPI(ピンク色の箇所)による操作標準ベースのAPIは、すべてのOpenStack環境で同じであるため、お客様とベンダーのエコシステムを複数のクラウドに亘って稼働することができます。また、サイト固有のインフラストラクチャは、オープンなソフトウェアとベンダー固有のソフトウェア、デルのハードウェア、および運用プロセスを組み合わせて、クラウドリソースをサービスとして提供します。

それぞれのクラウドインフラストラクチャを実装する場合の選択肢は、各サイトの要件によって大きく異なります。そうした選択肢の多くは、このリファレンスアーキテクチャのツールを使用してDevOpsのプロセスに従うことによって、標準化と自動化が可能です。ベストプラクティスに従っていただくことで、デルやRed Hat、さらには広範なOpenStackコミュニティによる長年の経験を活用し、運用のリスクを低減できます。

※1 カスタムサービス契約により、お客様の評価用としてのみ利用可能。 

8

Page 9: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

Dashboard

API

Python

OpenStack API

Imag

e Se

rvic

e

Iden

tity

Net

wor

king

Tel

emet

ry

Orc

hest

ratio

n

Blo

ck S

tora

ge

Obj

ect S

tora

ge

Ops

Red Hat OpenStack Foreman

Ceph

DNS

DHCP/PXE

Tempest 1

RabbitMQMariaDB

Cep

h St

orag

e

Compute

KVM

: Red Hat Enterprise Linux

: Dell PowerEdge R630/R730xd

: Ops OpenStack

1Tempest Tempest

Red Hat Enterprise Linux OpenStack Platform 6.0

Red Hat Enterprise Linux OpenStack Platformは、OpenStackに基づく安全で信頼性の高いパブリッククラウドサービスまたはプライベートクラウドサービスを構築、導入、および拡張するための、統合的な基盤を提供します。Red Hat Enterprise Linuxに基づいて構築したクラウドプラットフォームを、Red HatのOpenStackテクノロジー向けに最適化して統合しました。このプラットフォームにより、可用性、セキュリティ、パフォーマンスを低下させることなく、迅速にシステムを拡張して、素早くお客様のニーズに対応できます。Red Hat Enterprise Linux OpenStack Platformは、インストール先となる基盤のLinuxに対するOpenStack特有の依存関係を認識したうえで、特定用途向けに開発されています。Red Hatは、独自にRed Hat OpenStackテクノロジーを共同開発し、Red Hat Enterprise Linux Server 7.1と統合することで、直ちに運用できる安定したクラウドプラットフォームを実現しています。バージョン6.0では、コミュニティのJunoリリースのコア機能をすべて搭載し、Red Hatによるさらなるイノベーションを追加し、堅牢で安定したクラウドプラットフォームを提供しています。

主なメリット

• 共同開発と統合:OpenStackのパフォーマンス、セキュリティ、ハードウェアの強化、ネットワーキング、ストレージ、その他の基本的なサーバは、Linuxに依存しています。Red Hat Enterprise Linux OpenStack Platformは、Red Hat Enterprise Linuxのパフォーマンス、セキュリティ機能、および堅牢性を備えたOpenStackディストリビューションを提供できるため、お客様は基盤となるオペレーティングプラットフォームに注意を集中するのではなく、顧客が求めるサービスの提供に力を入れることができます。

図1:OpenStackの分類

9

Page 10: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

• Red Hat Enterprise Linux OpenStack PlatformはOpenStackとLinuxの堅牢で安定性の高いブランチリリースを提供するため、安心して導入できます。Red Hatは、3年間の「運用フェーズ」ライフサイクルの間、このリリースをサポートします。このサポート期間は、6カ月というサポート対象外のコミュニティのOpenStackのリリースサイクルよりもはるかに長くなっています。セキュリティ修正、バグ修正、パフォーマンスの強化、機能は、運用環境を混乱させることなく将来のリリースからバックポートできます。

• 広範なアプリケーションをサポートします。Red Hat Enterprise Linuxをゲスト仮想マシンとして実行すれば、さまざまな ISVの認定を取得した安定性の高いアプリケーション開発プラットフォームとなり、クラウドアプリケーションを短期間で開発して導入できます。

• オープンテクノロジーへの移行によって、特定のベンダーに拘束されることを避け、既存のインフラストラクチャへの投資を保護できます。

• 世界最大のパートナーエコシステムから受けるメリット:Red Hatは、OpenStack Compute、Storage、Networking、ISVソフトウェア、およびRed Hat Enterprise Linux OpenStack Platform環境向けサービスに関して、世界最大規模の認定パートナーエコシステムを形成しています。そのため、お客様は現在のRed Hat Enterprise Linuxエコシステムと同等レベルの広範なサポートと互換性が得られます。

• クラウドサービスでのセキュリティを維持:パブリッククラウドやプライベートクラウドで実行する場合でも、SELinuxによる防衛組織レベルのセキュリティ機能とRed Hat Enterprise Linuxのコンテナテクノロジーにより、不正な侵入を防止してデータを保護します※2。

※2 カスタムサービス契約により、お客様の評価用としてのみ利用可能。

10

Page 11: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

OpenStackのアーキテクチャ

OpenStackには多数の構成と機能がありますが、ここでは上述の8ページの分類でデルが定義したRed Hat Enterprise Linux® OpenStack Platform 6.0(Juno)の主要コンポーネントを中心に解説します。

メモ:OpenStackソフトウェア全体の概要は、Red Hat OpenStack Enterprise PlatformおよびOpenStack Projectを参照してください。

OpenStackのコンポーネント

コンポーネントに関する以下の説明は、OpenStack FoundationのWebサイトからの引用です。OpenStackコンポーネントに関するさまざまな文書は、http://docs.openstack.org/から入手できます。

表1:OpenStackのコンポーネント

機能 コードネーム 説明

Block Storage Cinder

Compute/IaaS Nova

Dashboard/Portal Horizon

Identity Keystone

OpenStack Block Storageは、OpenStack Computeインスタンスと共に使用できる永続的なブロックレベルのストレージデバイスです。このブロックストレージシステムでブロックデバイスの作成、サーバへの接続、および接続解除を管理します。ブロックストレージボリュームはOpenStack ComputeおよびDashboardに完全に統合されているため、クラウドユーザーは自分で自分のストレージニーズを管理できます。シンプルなLinux®サーバストレージを使用できるほか、統合ストレージもサポートし、多数のストレージデバイスに対応します。ブロックストレージは、データベースストレージ、拡張可能なファイルシステム、あるいはサーバからローブロックレベルストレージへのアクセスを提供する場合など、パフォーマンスが重視される用途に最適です。スナップショット管理機能は、ブロックストレージボリュームに格納されたデータのバックアップに高度な機能を発揮します。スナップショットはリストアできます。また、スナップショットを使用して新しいブロックストレージボリュームを作成することも可能です。

OpenStack Computeは、仮想マシンの大規模なネットワークのプロビジョニングと管理を行い、冗長性と拡張性に優れたクラウドコンピューティングプラットフォームを構築するために設計されたオープンソースのソフトウェアです。インスタンスの実行、ネットワークの管理、ユーザーとプロジェクトによるアクセス制御など、クラウド環境のオーケストレーションに必要なソフトウェア、コントロールパネル、およびAPIを提供します。OpenStack Computeはハードウェアとハイパーバイザのどちらにも依存しない設計を目指しており、現在は各種の標準規格によるハードウェア構成と7種類の主要ハイパーバイザをサポートしています。

OpenStack Dashboardでは、クラウドベースのリソースにアクセスし、プロビジョニングや自動化を行えます。Dashboardは拡張可能な設計であるため、サードパーティの製品やサービスを簡単に接続して提供できます。Identity Serviceは、アクセスできるOpenStackサービスにマッピングされたユーザーの中央ディレクトリを提供します。クラウドオペレーティングシステム全体に亘る共通の認証システムとして機能し、既存のバックエンドディレクトリサービスと統合できます

11

Page 12: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

機能 コードネーム 説明

Integration Testing

Tempest

Networking Neutron

Orchestration Heat

Telemetry Ceilometer

Virtual Images Glance

TempestはライブのOpenStackクラスタに対して実行する統合テストのセットです。Tempestには、OpenStack APIの検証のためテスト、シナリオ、その他OpenStackの導入の検証に役立つ専用のテストが数多く含まれています。

Tempestはテクノロジープレビューとして提供されており、Red Hat Enterprise Linux OpenStack Platformバージョン6.0に含まれていません。また、デルのRed Hat OpenStackクラウドソリューションでもサポートされていません。

OpenStack Networkingは拡張性を備えたプラグイン可能なAPIベースのシステムで、ネットワークとIPアドレスの管理に使用されます。クラウドオペレーティングシステムの他のコンポーネントと同様、管理者とユーザーが活用することによって既存のデータセンター資産の価値を高めることができます。OpenStack Networkingを導入すると、クラウド環境の中でネットワークがボトルネックや制約要因になることがなくなり、ユーザーは各自のネットワーク設定において、本当の意味での「セルフサービス」を利用できるようになります。

OpenStack Orchestrationは、テンプレートベースのエンジンです。アプリケーション開発者は、この機能を使用してインフラストラクチャの導入を記述し、自動化できます。柔軟性に優れたテンプレート言語を使用して、コンピューティング、ストレージ、およびネットワーキングの構成を指定できます。また、導入後の詳細なアクティビティを指定して、サービスやアプリケーションだけでなくインフラストラクチャのプロビジョニングをすべて自動化できます。OrchestrationエンジンをTelemetryサービスと統合することによって、インフラストラクチャの特定の構成要素を自動的に拡張することも可能です。

OpenStack Image Serviceは、仮想ディスクイメージの検出、登録、および配信サービスを提供します。Image Service APIサーバが提供する標準のRESTインターフェイスを使用して、OpenStackオブジェクトストレージなどのさまざまなバックエンドストアに格納された仮想ディスクイメージに関する情報を問い合わせることができます。クライアントはImage Serviceに新しい仮想ディスクイメージを登録したり、公開されているディスクイメージについての情報を問い合わせたりすることができます。また、Image Serviceのクライアントライブラリを使用して仮想ディスクイメージのストリーミングを行うこともできます。

OpenStack Telemetryは、OpenStackクラウド環境に導入されているサービス全体の使用状況とパフォーマンスのデータを集約します。この高度な機能によって、クラウドサービスの使用状況を数十ものデータポイントに亘って可視化し、詳しく把握できます。クラウドサービスの運営者は、さまざまな指標をグローバルに、または導入されているリソースごとに表示できます

12

Page 13: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ストレージのオプション

OpenStackには、次のようなストレージサービスがあります。• Cinder• Glance• Swift※3

これらのサービスは、VMにブロック、イメージ、およびオブジェクトストレージを提供すると同時に、ブロックストレージサブシステムとオブジェクトストレージサブシステムを利用します。これらのサービスの設計には、サービスの一部またはすべての実装を置き換えるメカニズムが組み込まれているため、このソリューションでは、お客様のニーズにより適合するよう、これらのサービスの代替となる実装を提供できます。Cinderはストレージを仮想化し、VMがNovaを介して永続的なブロックストレージを使用できるようにします。OpenStackコンシューマーがCinderボリュームに書き込むデータは、ゲストのライフサイクルよりも長期間存在します。ライフサイクルの後、ボリュームは別のゲストからアクセスすることができます。Glanceは、VMにイメージを提供します。一般的に、イメージはDVDまたは仮想マシンを含むブロックデバイスです。VMは、これらのイメージから起動したり、イメージをVMに接続したりすることができます。Swiftは、VMとその他のOpenStackコンシューマーにオブジェクトストレージインターフェイスを提供します。ブロックストレージでは特定の形式のブロックデバイスをゲストに提供し、クラスタ内でゲストにアクセスできますが、オブジェクトストレージはこれとは異なり、ゲストを介して提供されません。一般的に、オブジェクトストレージは、HTTP/HTTPSベースのサービス、つまりWebサーバとして実装されます。本書におけるSwiftとは、Swiftプロトコルを意味し、Swiftプロトコルの実装ではありません。ゲスト内のクライアントの実装または外部のOpenStackクライアントは、Swiftと連携します。そのためには、ネットワークアクセスの提供は必須ですが、それ以外にゲストに求められる構成はありません。たとえば、OpenStack内のVMは、Swiftにデータを格納し、後で外部のクライアントがそのデータを取得して追加の処理を行うことができます。その他のOpenStackサービスと同じように、これらのサービスにもそれぞれクライアントコンポーネントとサーバコンポーネントがあります。サーバコンポーネントは、デフォルトではない特定のタイプのストレージを使用するよう変更できます。たとえば、Cinderはデフォルトでストレージバックエンドとしてローカルディスクを使用します。このソリューションでは、これらのサービスのデフォルトの構成を変更しています。このソリューションでは、以下の3つの代替となる実装を利用し、クラスタが多くのニーズに適合できるようにしています。• Ceph• Dell EqualLogicストレージアレイ• Cinderマルチバックエンドサポートこのソリューションでは、GlanceストアおよびBlockストアの代替となる実装にCephを利用します。

Red Hat Ceph Storage

Cephは、スケールアウト型であり、シェアードナッシング型でもある、分散型のSoftware-Definedストレージシステムです。このソリューションバンドルには、Ceph Storageが含まれています。CephはNova、CinderおよびGlanceのストレージバックエンドとして、またブロックストレージとして使用します。ストレージノードでは、Cephソフトウェアを実行します。コンピューティングノードとコントローラノードでは、Cephブロッククライアントを実行します。

※3 カスタムサービス契約により、お客様の評価用としてのみ利用可能。

13

Page 14: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

Dell EqualLogicストレージアレイ

Dell EqualLogicストレージアレイは、統合ストレージ環境の導入と管理を簡素化する設計となっています。Dell EqualLogicストレージシステムは自己最適化されており、組み込みの負荷分散テクノロジーを活用してワークロードの要求に対応します。Dell EqualLogicストレージ製品のコア機能の中に、包括的なソフトウェアコンポーネントとホスト統合があり、管理タスクを簡素化し、ストレージ管理を支援します。OpenStackとアプリケーションレイヤを統合することで、Cinderに以下の機能が備わります。• Dell EqualLogicストレージでのボリュームのプロビジョニングと管理• SANベースのスナップショットを利用した保護機能

Cinderマルチバックエンドサポート

このソリューションでは、Cinderのマルチバックエンドサポートおよびマルチインスタンスサポートを利用して、アプリケーションに必要な要件に合うよう異なるタイプのストレージを使用できます。パフォーマンス、大規模なデータ転送、一時的なストレージ、およびその他の条件に基づいて、さまざまなユースケースに対応できます。

たとえば、パフォーマンスを重視するグループと2次ストレージにDell EqualLogicグループを構成したCephクラスタを作成し、大規模なデータ転送をサポートすることができます。さらに、Cinderマルチバックエンドサポートを使用して、必要な仮想マシンのボリュームの要件を構成できます。

14

Page 15: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

サーバインフラストラクチャのオプション

このソリューションでは、PowerEdge R630およびR730xdサーバシリーズを使用します。以降のセクションでは、サポートするサーバモデルと必要な構成について説明します。詳しい部品のリストとラックレイアウトについては、『Dell Red Hat OpenStack Cloud Solution Build of Materials Guide(デルのRed Hat OpenStackクラウドソリューションの部品表ガイド)』(32ページ)を参照してください。

PowerEdge R630サーバ

PowerEdge R630サーバは高密度の2ソケットの1Uラックサーバです。

これまで2Uサーバでしか実現できなかったコンピューティング能力を備えた超高密度の2ソケット1UラックサーバであるPowerEdge R630は、クラウドソリューション、仮想化環境、大規模のビジネスアプリケーションやトランザクションデータベースに最適なソリューションとなっています。

PowerEdge R630サーバは、さまざまなソリューションに対応可能な多用途で拡張性の高い製品です。最新の Intel®

Xeon®プロセッサー E5-2600 v3製品ファミリー、ハイパフォーマンスのDDR4メモリ搭載の24枚のDIMM、および幅広いローカルストレージオプションを提供しています。

PowerEdge R730xdサーバ

PowerEdge R730xdは、他に例のない柔軟性と拡張性を備えた2ソケットの2Uラックサーバです。ハイパフォーマンスの処理と、ハイブリッドな階層化などワークロードに最適化した幅広いローカルストレージ機能を実現します。

極めて幅広い構成が可能となるよう設計されたPowerEdge R730xdは、最新の Intel® Xeon®プロセッサー E5-2600 v3製品ファミリー、ハイパフォーマンスのDDR4メモリ搭載の24枚のDIMM、および幅広いローカルストレージオプションを提供し、多様なワークロードに対応できます。

図2:PowerEdge R730xdサーバ - 2.5インチおよび3.5インチシャーシオプション

15

Page 16: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ハードウェア構成

マシンの機能 ソリューションバンドルのコントローラノード

プラットフォーム PowerEdge R630

CPU E5-2650v3(10コア)x 2

RAM(最小) 128 GB

LOM 1 Gb x 2、Intel X520 10 Gb x 2

アドインネットワーク Intel X520 DP 10 Gb DA/SFP+ x 1

ディスク 500 GB 7.2k NLSAS x 4

ストレージコントローラ PERC H730

RAID10RAID

マシンの機能 ソリューションバンドルのコンピューティングノード

プラットフォーム PowerEdge R630v3(8コア)CPU E5-2650v3(10コア)x 2

RAM(最小) 128 GB

LOM 1 Gb x 2、Intel X520 10 Gb x 2

アドインネットワーク Intel X520 DP 10 Gb DA/SFP+ x 1

ディスク 600 GB 10k SAS x 6

ストレージコントローラ PERC H730

RAID10RAID

マシンの機能 ソリューションバンドルのインフラストラクチャノード

プラットフォーム PowerEdge R630

CPU E5-2630v3(8コア)x 2

RAM(最小) 32 GB

LOM 1 Gb x 2、Intel X520 10 Gb x 2

アドインネットワーク Intel X520 DP 10 Gb DA/SFP+ x 1

ディスク 500 GB 7.2 NLSAS x 4

ストレージコントローラ PERC H730

RAID10RAID

表2:コントローラノードのハードウェア構成 – PowerEdge R630

表3:コンピューティングノードのハードウェア構成 – PowerEdge R630

表4:インフラストラクチャノードのハードウェア構成 – PowerEdge R630

16

Page 17: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

表5:ストレージノードのハードウェア構成 – PowerEdge R730xd

マシンの機能 ソリューションバンドルのストレージノードプラットフォーム PowerEdge R730xd

CPU E5-2650v3(10コア)x 2

RAM(最小) 48 GB

LOM 1 Gb x 1、Intel X520 10 Gb x 2

アドインネットワーク Intel X520 DP 10 Gb DA/SFP+ x 2

ディスク フレックスベイ:300 GB 10K 2.5インチ(OS) x 2

フロントドライブ:200 GB SSD x 3

2 TBまたは 4 TB NL SAS 7.2K 3.5インチ x 13

ストレージコントローラ PERC H730

RAID RAID 1(オペレーティングシステム)SSDをパススルー各データディスクをパススルー

メモ:推奨ハードウェア構成を変更する前に、必ずデルの営業担当者にご連絡ください

構成に関する注記

『Dell Red Hat OpenStack Cloud Solution Build of Materials Guide(デルのRed Hat OpenStackクラウドソリューションの部品表ガイド)』には、PowerEdge R630およびR730xdサーバ構成の部品一覧を掲載した完全な部品表(BOM)が記載されています。R630およびR730xdの構成は、10 GbEネットワーキングと共に使用できます。ネットワークをHA対応にするには、各ノードに追加のネットワークカードが必要です。サポートされているカードの概要と、ソリューションの一部に含まれているカードについては、『Dell Red Hat OpenStack Cloud Solution Build of Materials Guide(デルのRed Hat OpenStackクラウドソリューションの部品表ガイド)』(32ページ)を参照してください。

17

Page 18: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ハードウェアタイプ サービス 導入先ノード

インフラストラクチャ Ceilometer OpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラOpenStackコントローラ

OpenStackコントローラ

インフラストラクチャ Cinder スケジューラインフラストラクチャ Cinder ボリュームインフラストラクチャ データベースサーバインフラストラクチャ HAプロキシ(ロードバランサ)インフラストラクチャ Heat

インフラストラクチャ Keystoneサーバインフラストラクチャ Neutronサーバインフラストラクチャ Novaコントローラインフラストラクチャ Novaダッシュボードサーバインフラストラクチャ Novaマルチコンピュート 3台以上のコンピューティングノード

インフラストラクチャ Pacemaker

運用に関する注記

このセクションでは、以下のシステムコンポーネントの基本的な概要を示します。

• バックアップ/リカバリ• サービスのレイアウト• 導入

バックアップ /リカバリ

バックアップとリカバリは、この構成では対応されていません。Red Hat OpenStack Manager Virtual Serverは、通常のサービス運用では必要ありませんが、冗長性やバックアップには対応していません。

サービスのレイアウト

導入の際、このソリューションで構成したサービスはそれぞれ特定のタイプのハードウェア上に導入する必要があります。各サーバプラットフォームには、次の2つのノードタイプが設計されています。• インフラストラクチャ• ストレージRed Hat OpenStack Managerは柔軟な設計であるため、さまざまな構成を試して、お客様のワークロードに最適なサービスのレイアウトを見つけることができます。18ページの表6:サービスに適したノードタイプでは、各サービスの推奨レイアウトを示しています。Red Hat OpenStack ManagerとRed Hat Ceph Enterprise Adminは、このソリューションの管理ホストに手動で構成可能なVMとして導入できます。これにより、各ツールがそれぞれのリソースを制御できます。

表6:サービスに適したノードタイプ

18

Page 19: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ハードウェアタイプ サービス 導入先ノードインフラストラクチャ RabbitMQサーバ(メッセージング) OpenStackコントローラインフラストラクチャ Red Hat OpenStack Manager ソリューション管理ホスト(KVM)インフラストラクチャ Tempest テストノード※4 ソリューション管理ホスト(KVM)ストレージ Dell EqualLogic アレイ(オプション) Dell EqualLogicアレイ

ストレージ Red Hat Ceph Enterprise Admin

(Calamari)ソリューション管理ホスト(KVM)

ストレージ Red Hat Ceph Enterprise Storage

(ブロック)※53台以上のストレージサーバ

ストレージ Red Hat Ceph Enterprise Monitor OpenStackコントローラ

導入

導入には次の3つのフェーズで構成されます。• ハードウェアのセットアップ : • ラックとスタック • ケーブル接続 • サーバBIOSの構成 • サーバRAIDの構成 • スイッチの構成• ソフトウェアのセットアップ : • プロビジョニングサービスのソリューション管理ホストの導入  • ソリューション管理ホストへのCalamariノードの導入  • Red Hat OpenStack Manager Virtual Serverの導入  • ソリューション管理ホストへのTempestテストノードの導入 • すべてのノードに対するオペレーティングシステムのプロビジョニング • すべてのノードのネットワーキングの検証 • ノードタイプに基づくノードへのサービスのプロビジョニング• 環境のテスト

※4 カスタムサービス契約により、お客様の評価用としてのみ利用可能。※5 カスタムサービス契約により、お客様の評価用としてのみ利用可能

19

Page 20: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ネットワークのアーキテクチャ

Red Hat Enterprise Linux OpenStack Platformに基づくデルのRed Hat OpenStackクラウドソリューションでは、Dell Networking S55 1/10ギガビットイーサネットスイッチとDell Networking S4810 10ギガビットイーサネットスイッチのいずれか、または両方を使用したトップオブラック接続によって、OpenStack関連のすべてのノードに接続します。このリファレンスアーキテクチャを使用すると、ネットワーク構成の差異が最小限に抑えられ、一貫性を維持して迅速に導入できます。

インフラストラクチャのレイアウト

ネットワークは、以下の主要なネットワークインフラストラクチャのレイアウトで構成されます。• コアネットワークインフラストラクチャ - 集約スイッチからコアスイッチに接続し、外部ネットワークに接続できます。• データネットワークインフラストラクチャ - データネットワークは、サーバのNIC、トップオブラック(ToR)型スイッチ、および集約スイッチで構成されます。

• 管理ネットワークインフラストラクチャ - BMC管理ネットワークは、スイッチの iDRACポートと帯域外管理ポートで構成され、1RUのS55スイッチに集約されます。このスイッチは、クラスタ内に存在する3台のラックのうちの1台に収容されています。さらに、この1RUのスイッチは集約スイッチまたはコアスイッチのうちの1台に接続して、別の vLANを含む別のネットワークを構成することができます。

ネットワークコンポーネント

データネットワークは、主としてToRスイッチと集約スイッチで構成されます。このリファレンスアーキテクチャには、1 GbE向けと10 GbE向けの構成が含まれています。このネットワークは次のコンポーネントブロックで構成されます。• サーバノード(20ページ)• アクセススイッチまたはトップオブラック(ToR)(21ページ)• 集約スイッチ(21ページ)• コア(22ページ)• レイヤ2およびレイヤ3スイッチング(22ページ)• vLAN(22ページ)• 帯域外管理ネットワーク(23ページ)• DellのOpenSwitchソリューション(23ページ)

サーバノード

サーバからネットワークスイッチへの接続は、高可用性に対応するよう設定されます。高可用性のソリューションを作成するには、ネットワークの回復性を、ネットワークスイッチ、ネットワークインターフェイスカード(NIC)、破損したケーブルによる単一の障害に対して高める必要があります。そのために、ネットワーク構成では、サーバおよびスイッチにまたがるチャネルボンディングを使用します。チャネルボンディングのタイプ(つまりモード)にはいくつかありますが、このソリューションで推奨するのは次の3つだけです。• active-backup(mode = 1)• balance-xor(mode = 2)• 802.3adまたはLACP(mode = 4)

メモ:balance-rr(mode=0)、broadcast(mode=3)balance-tlb(mode=5)、 およびbalance-alb(mode=6)はサポートされていません。

OpenStackコントローラノードで使用できるボンディングモードは次の2つのみです。• active-backup(mode = 1)• balance-xor(mode = 2 - ソリューションのデフォルト)

20

Page 21: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

OpenStack Computeノード、Ceph Storageノードおよびソリューション管理ホストは、次の3つのボンディングモードのうち、どれでも使用できます。• active-backup(mode = 1)• balance-xor(mode = 2)• 802.3adまたはLACP(mode = 4 - ソリューションのデフォルト)どのノードの場合も、エンドポイントは特定のチャネルボンディングモードのために構成されたスイッチポートに終端接続されます。スイッチポートはVLTiで接続された2台のDell Force S4810にまたがります。この構成設定の詳細については、『Dell Red Hat OpenStack Cloud Solution Deployment Guide(デルのRed Hat OpenStackクラウドソリューション導入ガイド)』(32ページ)を参照してください。

使用するポートを1つだけにすることも可能ですが、このソリューションでは採用していません。設計では単一障害点をなくす必要があることを考慮して、可能な限りこの方法を使用していません。他の方法が可能かどうかについては、営業担当者にお問い合わせください。

アクセススイッチまたはトップオブラック(ToR)

サーバはToRスイッチに接続します。通常は各ラックに2台のスイッチが収容されます。デルが推奨するスイッチは、次のとおりです。• 1 GbE接続 - Dell Networking S55• 10 GbE接続 - Dell Networking S4810

10 GbE構成では、Dell Networking S4810スイッチをToRスイッチとして使用します。デルは、この2台1組のスイッチをHA用の仮想リンクトランキング(VLT)で稼働させることを推奨します。この構成によって、サーバのLAGインターフェイスの終端を1台のサーバではなく2台のサーバに分けることができ、アクティブ -アクティブの帯域幅を使用できます。そのため、ラック内で一方のスイッチに障害が発生したりメンテナンスが必要となったりした場合にも、冗長性を確保できます。アグリゲーションペアへのアップリンクは80 Gbで、各ToRスイッチからLAGを使用します。この接続は、アグリゲーションペアに接続するLAG内の2つの40 Gbインターフェイスを使用して構成します。これにより、各ラックから合計160 Gbの帯域幅を使用することが可能になります。スイッチングの視点から見ると、各ラックは個別の存在として管理され、ToRスイッチは集約スイッチにのみ接続します。その他の方法については、デルの営業担当者にご確認ください。

集約スイッチ

10 G対応のサーバを収容したラックを1~3台導入する場合は、集約スイッチとしてDell Networking S4810を推奨します。このスイッチは10 GbEと40 GbEの両方に対応します。S4810の40 GbEインターフェイスは4つの10 GbEインターフェイスに変換できるため、このスイッチを10 GbE対応のポートを64基備えたスイッチに変換できます。ToRスイッチは集約スイッチに接続しますが、その際ToRのDell Networking S4810スイッチからDell Networking S4810への10 GbEインターフェイスのアップリンクを経由します。

表7:サポートされるチャネルボンディングモード

チャネルボンディングタイプノードタイプ active-backup(mode 1) balance-xor(mode 2) 802.3ad(LACP mode 4)

ソリューション管理ホスト ○ ○ ○

OpenStackコントローラノード

○ ○ ×

OpenStack Computeノード

○ ○ ○

(ソリューションのデフォルト)

(ソリューションのデフォルト)

(ソリューションのデフォルト)Ceph Storageノード ○ ○ ○

(ソリューションのデフォルト)

21

Page 22: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

デルの推奨アーキテクチャでは、各ラック内の2台のDell Networking S4810スイッチ間で仮想リンクトランキング(VLT)を使用します。これにより、各ラック内のToRスイッチからマルチシャーシのLAGを構成できます。各ラック内のスタックでは、1組のスイッチ間のリンクをそれぞれのスイッチ用に分割して、高速のアクティブ-アクティブ転送を可能にし、スパニングツリーを使用する必要なく帯域幅を最大限に活用できます。Dell Networking Z9000のような40 GbE対応のイーサネットスイッチを集約して稼働させれば、1 G対応のノードを最大数百の規模で導入することもできます。10 Gサーバを導入する場合、デルの推奨構成は次の要素によって異なります。• 計画されているラックレイアウトの規模• 将来の拡張要件大規模な導入を設計する場合、デルでは小規模な集約にはDell Networking S4810を、大規模な導入にはDell Networking Z9000を推奨します。Dell Networking Z9000は32基のポートを備えた40 G対応の高性能スイッチです。PowerEdge R630およびR730xdサーバを高密度に搭載したラックを最大15台集約できます。OpenStackで必要となるラック間の帯域幅は、40 GbE対応のノンブロッキングスイッチを使用すると最も適切に処理されます。Dell Networking Z9000は、すべてのポートからのトラフィックがラインレートの場合、合計1.5 TBの帯域幅スループットを提供できます。

コア

多くの場合、集約レイヤ自体がネットワークコアとなりますが、そうでない場合、集約レイヤはより大規模なコアに接続します。この点についての詳しい説明は、本書の内容の範囲外です。

レイヤ2およびレイヤ3スイッチング

レイヤ2とレイヤ3の境界は、集約レイヤで分かれています。このリファレンスアーキテクチャでは、集約レイヤまでのリファレンスとしてレイヤ2を使用します。そのため、集約スイッチではVLTが使用されています。Red Hat Foreman OpenStack Mangerでサーバのプロビジョニングを行うには、レイヤ2のドメインが必要です。プロビジョニング、ストレージ、管理という3つのネットワークリンクでは、ゲートウェイへのアップリンクを利用できます。プロビジョニングネットワークでは、Red Hat Foreman OpenStack Managerをサブスクリプションサーバからパッケージを取得するためのプロキシとして使用するか、またはゲートウェイを追加できます。ストレージネットワーク上のEqualLogicアレイでは、以下の利用が必要な場合があります。• メトリックスツールまたは監視ツール• 管理と更新を可能にするためのツールiDRAC向けのOOB管理ツールは数多くあり、ゲートウェイをネットワークに追加して、iDRACを更新するだけで、これらのツールを使用できます。OpenStackコントローラは、ゲートウェイデバイスに接続されます。通常、これらのゲートウェイデバイスはルータまたはファイアウォールです。これらのデバイスは、クラスタ外部のネットワークに対するルーティングをすべて処理します。必要なネットワークは次のとおりです。• 仮想マシンが使用する浮動 IPの範囲• すべての外部RESTful APIおよびグラフィカルユーザーインターフェイスがアクセスするネットワーク

vLAN

このリファレンスアーキテクチャでは、最低7つの独立したレイヤ2 vLANを実装します。• 管理 /帯域外(OOB)ネットワーク - iDRAC接続は、外部ネットワークにルーティングされます。すべての

OpenStack HAコントローラは、IPMI操作のためにこのネットワークに直接アクセスする必要があります。• テナント向けの内部ネットワーク - NovaとVMが使用するバックエンドネットワークを設定します。• API、グラフィカルユーザーインターフェイスおよびテナント向けの外部ネットワーク - クラスタ外部のルータへのレイヤ3接続を設定します。クラスタへのすべての外部トラフィックは、このリンクを移動します。各VMへのルーティング可能なトラフィック、RESTful API、およびHorizon GUI向けにフロントネットワークを設定します。

22

Page 23: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ネットワーク構成によっては、必要に応じてこれらのネットワークは共有したり、ルーティングしたりすることができます。Tempestテストノードからの外部APIネットワークへのアクセスが必要です。• Network vLANのプロビジョニング - すべてのノードのNICをファブリックに接続し、OpenStackサーバの設定とプロビジョニングに使用します。

• プライベートAPIネットワークラスタ管理 vLAN - RESTful APIおよびクラスタの通信のために、OpenStackコントローラ、Tempestテストノード、およびComputeノード間の通信に使用します。

• ストレージネットワークvLAN - データプレーンの読み取り/書き込みをOpenStack Storageとやり取りするために、またCeph Storageクラスタの設定とプロビジョニングのために(EqualLogicアレイが含まれている場合は、その設定とプロビジョニングも含む)、すべてのノードで使用されます。

• ストレージクラスタリングネットワークvLAN - すべてのストレージノードが、レプリケーションとデータのチェックのために使用します(Cephクラスタリング)。

帯域外管理ネットワーク

すべてのサーバとスイッチの管理ネットワークは、最大3台のラックまたは1つのポッド内の各ラック内に搭載された1台のDell Networking S55スイッチに集約されます。このスイッチは、10 GリンクでS4810スイッチにアップリンクします。帯域外(OOB)管理ネットワークを使用すると、次の機能が実現されます。• 高可用性サーバとコントローラが、ハートビートを送信してサーバが稼働と動作していることを確認するために、帯域外管理ネットワークを使用します。

• 高可用性ソフトウェアが、サーバの再起動とパーティショニングのために、帯域外管理ネットワークを使用します。• ルータへのアップリンクを追加して、iDRACがゲートウェイとしてそのルータを使用するよう構成した場合には、サーバを監視し、サーバのメトリックスを収集するツールを利用できます。これらのツールは、このソリューションの範囲外です。

Dell OpenSwitchソリューション

デルは、デル製スイッチに基づくリファレンスアーキテクチャに加え、デル以外のブランドと構成のスイッチを選択してOpenStack環境に導入できるようオープンスタンダードも提供しています。これらのスイッチは、OpenStackの要件に完全に準拠し、このリファレンスアーキテクチャのガイドラインに沿って構成する必要があります。他社ブランドのスイッチを、デルの必要なツールや構成と組み合わせて適切に稼働させるには、以下に挙げた要件が求められます。

• IEEE 802.1Q vLANトラフィックおよびポートのタグ付けをサポート• 同一のポートで、タグなしの vLAN 1つとタグ付きの複数の vLANの使用をサポート• プロビジョニング用vLAN内で、ノンブロッキング構成で170基以上のギガビットイーサネットポートを提供できること

• シングルスイッチ構成、またはスタッキングされたスイッチを組み合わせてさらに多くの要件に対応できる構成が可能• それぞれ2つ以上の物理リンクを備えたリンクアグリゲーショングループ(LAG)を作成できること• 複数のスイッチをスタッキングする場合 :

• スタッキングされたスイッチ全体を含むLAGを作成できること• 2分割帯域幅を完全に使用できること• スタック内のすべてのスイッチで使用できるvLANをサポート

• スイッチあたり250,000パケット/秒の速度• SSHおよびシリアルライン構成をサポートする管理スイッチ• SNMP v3のサポート

23

Page 24: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ソリューションバンドル

このコアアーキテクチャでは、デルとRed Hatが共同で開発した、Red Hat Enterprise Linux OpenStack Platform 6をデルのインフラストラクチャに導入する際の規範的な手引きと推奨事項について説明しています。以下に、両社の目標を示します。• 実践的なシステム設計のガイドラインと推奨構成を提供する• 日常的な利用と管理のために、OpenStackで使用できるツールを開発する• 運用システムサポートできるネットワーキング構成を開発するこのアーキテクチャの開発は、デルおよびRed Hatの経験とエンジニアリングの能力に基づき、非常に多くの実際の導入事例で開発されたベストプラクティスを採用しています。このアーキテクチャの設計と構成は、デルとRed Hatのラボでテストされ、システムの機能と運用の安定性が確認されています。

ソリューションバンドル

上述のような状況であっても、OpenStackの管理と日常的な操作には習熟する必要があります。このソリューションバンドルは、25ページの図3:ソリューションバンドルとCephクラスタに示すコンポーネントで構成されています。2コアで4 GBメモリと40 GBの揮発性ドライブを備えた仮想マシンの場合、CPUコアのオーバーサブスクリプション値1.5で約90台の仮想マシンを実行できると予測されます。仮想マシンが120台のときには、CPUコアは2:1のオーバーサブスクリプションとなり、揮発性ドライブはまだアンダーサブスクリプションですが、メモリはオーバーサブスクリプションになり始めます。ソリューションバンドルは運用環境の稼働初期に対応するよう設計されているため、主要なOpenStackサービスを高可用性(HA)対応にするには、OpenStackコントローラノードをクラスタ化します。ネットワーキングには、データネットワーク用に10 GbEのボンディングを使用し、ネットワークスイッチをHA用に設定します。帯域外管理ネットワークはHA非対応で、1 GbEを使用します。詳細については、担当の営業チームと一緒に確認し、協議してください。

大規模な構成

クラスタの規模が、ソリューションバンドルまたは運用クラスタ、またはその両方を合わせてラック3台を超える場合は、お客様の要件に基づいて設計、サイジングおよび構成を行う必要があります。営業担当者にご相談のうえ、適切な実稼働環境用クラスタシステムを設計してください。

ソリューションバンドルのラックのレイアウト

ソリューションバンドルには、3つのストレージノードが含まれます。これらはCephクラスタにセットアップし、Cinder、Glance、およびNovaと接続します。ハードウェア構成については、16ページの表2:コントローラノードのハードウェア構成 – PowerEdge R630と17ページの表5:ストレージノードのハードウェア構成 – PowerEdge R730xdを参照してください。ソリューションバンドルには以下が含まれます。• ノード1:Red Hat OpenStack ManagerをインストールしたR630ソリューション管理ホスト• ノード2~4:R630 OpenStackコントローラ• ノード5~7:R630 Novaコンピューティングノード• ノード8~10:R730xdストレージノード

• EqualLogic Storage Arrayは、追加のストレージ用にオプションで使用できます。• ネットワークスイッチ:2台のDell Networking S4810と1台のDell Networking S55

24

Page 25: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

| 26

S4810

S4810

S55

3

2

1

OpenStack

OpenStack

OpenStack

Red Hat OpenStack Manager Server

Inktank Ceph Enterprise Admin

1

2

3

EqualLogic

Cephクラスタは、レプリケーション、ブロックデバイスのクローン化、およびスナップショットを使用してデータを保護します。デフォルトでは、データはクラスタ全体にストライピングされ、各データのエンティティに3つのレプリカが作成されます。1つのクラスタ内のストレージノードの数は数百ノードに、サイズとしては数百ペタバイトにまで拡張できます。Cephでは、データのレプリケート方法を決定する際に、定義した障害ドメイン(つまり、ラック、列、データセンター)内のストレージノードの物理的な配置(位置)を考慮します。これにより、障害時に複数のデータのレプリカが消失する可能性を低減します。Ceph Storageクラスタには次の2つのサービスがあります。• オブジェクトストレージデーモン(OSD) - ストレージノードで実行されるOSDは、ストレージノード上のディスクから、データをCephクライアントに提供します。一般的には、OSDプロセスの数はディスクドライブ1台当たり1つです。

• モニタ(MON) - コントローラノードで実行されるMONプロセスは、Cephクライアントと内部のCephプロセスが、クラスタの構成とデータの位置を判断するために使用します。

Cephクラスタには最低3つのMONプロセスが発生します。MONプロセスの合計数は奇数になります。

図3:ソリューションバンドルとCephクラスタ

25

Page 26: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

vLAN

10 GbE1 10 GbE3 1 GbE1 1 GbE4 iDRAC10 GbE1 10 GbE3 10 GbE1 iDRAC 10 GbE1 10 GbE3 1 GbE1 iDRAC 10 GbE1 10 GbE3 1 GbE1 iDRAC 10 GbE1 10 GbE2

10 GbE2 10 GbE4 10 GbE2 10 GbE2 10 GbE4 10 GbE2 10 GbE4 10 GbE2 10 GbE4

/OOB vLAN

vLAN

vLAN

API vLAN

vLAN

vLAN

EqualLogic

Ceph Storage

OpenStack

OpenStack

Red Hat OpenStack Manager VM Tempest Inktank Ceph Enterprise Admin VM

SAH

1 1 1

0 0 0 0

1

メモ:コントローラノード上のMONプロセスがボトルネックになる場合は、専用のマシンを使用するか、またはストレージノードでMONプロセスを起動して、追加のMONプロセスをクラスタに追加できます。カスタムサービス契約は調整できますので、デルの担当者にご相談ください。

Cephのドキュメントでは、ストレージネットワークvLANは、パブリックネットワークとして説明されています。 また、ストレージクラスタネットワークvLANは、クラスタネットワークとして説明されています。このソリューションではRed Hat Ceph Enterprise 1.2.3というCephの特別なディストリビューションを使用しています。これには、Calamari Cephクラスタ管理クライアントも含まれています。またRed Hat Ceph Enterprise管理クライアントには、Cephのトラブルシューティングおよびサービス用のツールとユーティリティも含まれています。Red Hat Ceph Enterpriseは、ソリューション管理ホスト(SAH)で実行される仮想マシン上にインストールされます。次の点に注意してください。• Cephの管理、およびすべてのストレージノード上の監視プロセスがステータスとパフォーマンスの測定値を返すには、

SAHがプライベートAPIアクセスvLANを介してコントローラノードとストレージノードにアクセスできる必要があります。• クラスタのステートと構成についてコントローラノード上のMONプロセスがCeph MONプロセスに問い合わせできるようにするには、コントローラノードがストレージネットワークvLANを介してストレージノードにアクセスできる必要があります。

• コンピューティングノード上のCephクライアントがストレージノード、OSD、およびCeph MONプロセスと連携するには、コンピューティングノードがストレージネットワークvLANを介してストレージノードにアクセスできる必要があります。

• 前述したようにストレージノードがストレージネットワークvLANにアクセスできる必要があります。またストレージクラスタネットワークvLANへのアクセスも必要です。

ソリューションバンドルのネットワーク構成

このソリューションのネットワークは、高可用性のネットワーク構成で直ちに運用できるサーバをサポートするよう設計されています。

図4:クラスタネットワークの論理アーキテクチャ

26

Page 27: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

ネットワーク ソリューション管理ホスト

OpenStack

コントローラOpenStack Compute

Ceph Storage EqualLogic

アレイプロビジョニング 接続される - タグ

付けされる接続される - タグ付けされない

接続される - タグ付けされない

接続される - タグ付けされない

接続されない

外部ネットワーク 接続される - タグ付けされない※6

接続される - タグ付けされない

接続されない 接続されない 接続されない

プライベート APIネットワーククラスタ管理

接続される - タグ付けされる

接続される - タグ付けされる

接続される - タグ付けされる

接続されない 接続されない

内部テナントネットワーク

接続されない 接続される - タグ付けされる

接続される - タグ付けされる

接続されない 接続されない

ストレージネットワーク

接続される - タグ付けされる

接続される - タグ付けされる

接続される - タグ付けされない

接続される - タグ付けされない

接続される - タグ付けされない

ストレージクラスタリング

接続されない 接続されない 接続されない 接続される - タグ付けされない

接続されない

管理/OOB 接続されない 接続される - タグ付けされない

接続されない 接続されない 接続されない

管 理/OOB へ のiDRAC物理接続

接続される - タグ付けされない

接続される - タグ付けされない

接続される - タグ付けされない

接続される - タグ付けされない

接続されない

異なるネットワークを提供する場合のスイッチの構成は、ノードタイプによって決まります。27ページの表8:ネットワーク802.1qのタグ付けに対するノードタイプでは、各ノードタイプに対するネットワークについて概要を示しています。管理 /OOBネットワークは、OpenStackコントローラを管理するためにクラスタソフトウェアによって使用されます。よってOpenStackコントローラだけに直接の接続が必要です。すべての iDRACは、タグ付けを使用することなく、このネットワークに組み込まれます。

※6 1 GbEポートを使用して、SAHはインストール時にプロビジョニングされます。その後SAHの接続は解除されます。

表8:ネットワーク802.1qのタグ付けに対するノードタイプ

27

Page 28: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

Dell EqualLogicストレージを使用したソリューションバンドル

Dell EqualLogicストレージを使用したソリューションバンドルも同じ特徴を備えています。唯一異なるのは、ストレージバックエンドソフトウェアがCephとEqualLogicの両方を使用するよう設定される点です。ストレージノードサーバは、1台または2台のDell EqualLogicアレイによって補完されます。

説明しているソリューションバンドルには、1台のDell EqualLogicストレージアレイのみ含まれています。台数は、アプリケーションとストレージへのニーズに合わせて、1台以上にすることができます。発注いただく前に、営業担当者がニーズに合った構成をお探しします。

コントローラノードは、ストレージネットワークvLANを使用して、ストレージグループ上のストレージプールにアクセスし、作成、削除、スナップショットの取得を行います。コンピューティングノードは、ストレージネットワークvLANを介してストレージノードにアクセスできる必要がありますが、これはそのノード上の iSCSIドライバが、そのノードによりホストされる仮想マシンに関連付けられたボリュームと連携するためです。EqualLogicアレイは、タグ付けされていないストレージネットワークvLANだけに接続され、その他すべてのノードは、27ページの表8:ネットワーク802.1qのタグ付けに対するノードタイプと同じレイアウトを使用します。

ソリューションバンドル:ソリューション管理ホスト(SAH)のネットワーキング

ソリューション管理ホストは、仮想マシン用に内部でブリッジ接続されたネットワークを提供します。ソリューション管理ホストは、次のネットワークと物理的に接続されています。1. 次の用途のパブリックネットワーク

a. 受信アクセス -a. OpenStack ForemanインストーラノードへのHTTP/HTTPSアクセスb. CalamariノードへのHTTP/HTTPSアクセスc. オプション - OpenStack ForemanインストーラノードとCalamariノードへのSSHアクセス

b. 送信アクセスa. CephとRed Hatの更新用のHTTP/HTTPSアクセスb. OpenStackパブリックAPIを使用したテストを実行するために、Tempestテストノードが使用

2. プロビジョニングネットワーク - すべてのホストに対するDHCPサービスの提供、各ホストのプロビジョニング、更新用 ホストのプロキシとしての動作のために、OpenStack Foremanインストーラノードが使用3. プライベートAPIネットワーク - OpenStackプライベートAPIに対するテストを実行するために、Tempest テストノードが使用4. ストレージネットワーク - Cephクラスタをプロビジョニング、監視、管理するために、Calamariノードが使用

28

Page 29: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

1

br-pub

eth0 eth0 eth0

Red Hat OpenStack Manager

/DNS

Inktank Ceph Enterprise (Calimari)

OpenStack Tempest

eth1eth1eth1

br-prov br-stor br-api

API

0

29ページの図5:ソリューション管理ホストの内部ネットワークファブリックでは、ソリューション管理ホスト内部におけるネットワークのブリッジ接続の方法を示しています。プロビジョニングネットワーク、プライベートAPIネットワーク、およびストレージネットワークが同じ物理インフラストラクチャに配置されているため、SAHおよび対応するスイッチポートに802.1qのタグ付けが構成されています。このリファレンスアーキテクチャでは、セキュリティの側面は対象外となっているので、外部のアクセス可能なネットワークにマシンを接続する前に、適切なネットワーク部門とセキュリティ部門に相談してください。

図5:ソリューション管理ホストの内部ネットワークファブリック

ソリューションバンドルの拡張

ソリューションバンドルは、コンピューティングノード、ストレージノード、またはEqualLogicアレイを追加することで拡張できます。このようにして、(インフラストラクチャ、コンピューティング、ストレージを合わせて)1ラック当たり最大20サーバおよび/または30ユニットまで拡張できます。2台以上のラックに拡張するには、ネットワーキングに関するセクションで説明したように、集約ネットワークスイッチを追加する必要があります。また、追加のTORスイッチと管理スイッチが各ラックに必要となり、さらに適切な電源装置と冷却装置も必要です。ラック数を合計4台以上に拡張する場合は、お客様の要件に合わせて設計し、構成する必要があります。営業担当者と協力のうえ、このような大規模な導入を適切に設計してください。

メモ:クラスタを拡張する場合は、コントローラノードを追加のシステムに拡張できますが、拡張は奇数の単位で行う必要があります。その他詳細な説明については、営業担当者にご相談ください。

ラック1

Cephを使用したベースとなるソリューションで、オプションとしてEqualLogicを使用できます。

• ソリューション管理ホスト• 3台のコントローラノード• 3台のNovaコンピューティングノード• 3台のストレージノード• オプションのDell EqualLogicストレージアレイを追加できます。

29

Page 30: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

この構成は、合計15ユニットと、合計12台のサーバ(最大8台のサーバを追加でラック1に収容可能)を含みます。ラック1は、次のいずれかの構成にまで拡張できます。• 8台のR630 Novaコンピューティングノード• 7台のR730xdストレージノード• Dell EqualLogicアレイ

メモ:合計20サーバまたは30ラックユニットを超えなければ、上記の3つのオプションを組み合わせて使用できます。

ラック2

• 負荷の要件に応じて、2台のZ9000またはS4810集約スイッチ• 2台のS4810 TORスイッチ• 1台のS55管理スイッチ

メモ:HAをラック全体で分割するために、1台または2台のコントローラをラック1からラック2に移動できます。追加のノードでは、次のいずれかの構成にまで拡張できます。

• 19台のR630 Novaコンピューティングノード• 14台のR730xdストレージノードまたはEqualLogicアレイ• Dell EqualLogicアレイ

メモ:合計20サーバまたは30ラックユニットを超えなければ、上記の3つのオプションを組み合わせて使用できます。

ラック3

• 2台のS4810 TORスイッチ• 1台のS55管理スイッチ

メモ:HAをラック全体で分割するために、ラック1またはラック2からラック3へコントローラを移動して、ラック当たりのコントローラ数を1台にすることができます。

追加のノードでは、次のいずれかの構成にまで拡張できます。

• 19台のR630 Novaコンピューティングノード• 14台のR730xdストレージノード• Dell EqualLogicアレイ

メモ:合計20サーバまたは30ラックユニットを超えなければ、上記の3つのオプションを組み合わせて使用できます。コントローラの移動は、このソリューションの一部としては記載されていません。

30

Page 31: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

改訂履歴

本書に行われた変更は以下のとおりです。

バージョン1

Red Hat Enterprise Linux™ OpenStack Platformを使用したデルのRed Hatクラウドソリューションリファレンスアーキテクチャ - 初版

バージョン2

次をサポートするよう改訂• Red Hat OpenStack Provisioning 5 Icehouse• R620• Ceph• Cinderマルチバックエンドとマルチインスタンス• Dell EqualLogic• HA

バージョン3

次のとおりにサポートするよう改訂• 新しいネットワーク図• HAのみのクラスタのサポート• 最大ラック3台分の装置のサポート• 管理ノードをソリューション管理ホストに名称変更• プロビジョニングノードをサポートするよう仮想サーバを追加• プロビジョニング/ストレージ/管理ネットワーク用のオプションのゲートウェイを追加

バージョン4

次のとおりに改訂• 新しいネットワーク図• PowerEdge R630とR730xdのサポートを追加• PoweEdge R620、R720、およびR720xdのサポートを削除• OpenStack Neutronのサポートを追加• Nova-Networkのサポートを削除• ソリューションからPOCを削除• Junoへの更新• RHEL OSP 6.0への更新• プラットフォームとノードの用語を標準化

アップデート1• 新しいネットワーク図• SAHの変更

• 外部への1 GbE接続• ボンディングのためのプライベートAPI

• ソリューション管理図• Tempestテストノード向けのプライベートAPIを追加• Tempestテストノードを追加

• ソリューション管理図のテキスト• Tempestテストノード向けのプライベートAPIを追加• Tempestテストノードを送信用パブリックAPIに追加

• サーバネットワーキング• 新しいボンディングモードについての説明とソリューションで使用する機能を追加• すべてのモードとそれぞれのモードが使用できるノードタイプを示す表を追加

• すべてのモードでの「ソリューションのデフォルト」を示す

31

Page 32: Dell Red Hat OpenStackjp-redhat.com/opencollaboration/dell/case_study/pdf/Dell_Redhat_Cloud... · デルはOpenStack FoundationまたはOpenStackコミュニティとは提携しておらず、公認や出資

参考資料

本書記載中の『Dell Red Hat OpenStack Cloud Solution Build of Materials Guide(デルのRed Hat OpenStackクラウドソリューションの部品表ガイド)』、『Dell Red Hat OpenStack Cloud Solution Deployment Guide(デルのRed Hat OpenStackクラウドソリューション導入ガイド)』については、デルの担当者もしくは、デルの公式サイトのお問い合わせ窓口よりお問い合わせください。

詳細な情報については、http://www.dell.com/openstackを参照するか、または[email protected]に電子メールでお問い合わせください。

追加のサービスや実装の支援が必要な場合は、デルの営業担当者にご連絡ください。

詳細

Red Hat Enterprise Linux™ OpenStack Platformを使用したデルのRed Hatクラウドソリューションの詳細については、http://www.dell.com/openstackを参照してください。© 2014-2015 Dell Inc. All rights reserved. 本書内の商標および商標名は、それらの商標または商標名の権利を主張する団体、もしくはその製品を表すために使用される場合があります。サービス内容は公開時の情報に基づいており、利用できない場合や予告なく変更される場合があります。デルおよびその関連会社は、誤植、入力ミスによる間違い、または写真に関する誤りや遺漏について一切の責任を負いません。デルの販売およびサービス契約条件が適用され、それらは請求に応じて提供されます。デルのサービスが、お客様の法的権利を侵害することはありません。Dell、DELLのロゴ、DELLのバッジ、およびPowerEdgeは、Dell Inc.の商標です。

32