富士通におけるCloud Foundry活用の取り組み

武田俊男 / 永井剛 / Dies Köper |富士通株式会社

富士通におけるCloud Foundry活用の取り組み

Copyright 2016 FUJITSU LIMITED

アジェンダ

富士通のクラウド「K5」とCloud Foundry

Cloud Foundryの構築・運用裏話 Cloud Foundryコミュニティへの貢献


富士通のクラウド「K5」とCloud Foundry


4

Digital Transformation

• IoTやAIなどのデジタルテクノロジーを組み合わせ、

ビジネススピードに合わせてサービスを開発

• APIを社外へ公開し、他業種/業界と共創/協業デジタルテクノロジー既存システム他業種/業界

デジタルビジネスプラットフォーム

DigitalTransformation

API

APIを外部公開

Expose

様々なデジタルテクノロジーを組み合せた開発

Mash up


5

組織・企業・業界の枠を“超え”、人・モノ・情報を“つなぎ”、

お客様や社会のデジタル革新を加速するプラットフォーム


6

核となる新たなクラウド基盤「K5」• 富士通のノウハウとオープン技術を融合した新クラウドサービス

• SoRとSoEに対応したIaaS/PaaS機能を提供

CloudFoundry

OpenStack

オープン技術

FUJITSU Cloud Service K5

PaaSIaaS

SE開発・運用ノウハウ

全社システム適用

富士通のノウハウ

SoR(CRM,ERP,メール等)品質/生産性/既存環境との連携

SoE(Big Data,SNS,モバイル等)スピード/柔軟性/技術先進性


7

お客様ビジネスのスケールに貢献する「K5 PaaS」

「ビジネス基盤サービス」で、新規ビジネスを短期構築

「 API Management 」で、お客様のパートナーに向けてビジネス領域を拡大

クラウドネイティブ向けのスケーラブルな開発/実行基盤として、

Cloud Foundryベースの「CFサービス」を提供


8

K5 CFサービスの利用状況

• 2016年4月より、Cloud FoundryベースのPaaSを提供• 日本、UKリージョンで利用可能。他地域へも展開中• 約５０プロジェクトでCFを利用（社内・お客様含む）• アプリケーションの半数はJava（Fujitsu Java Buildpack）

Fujitsu Java Buildpack

- Java SE 8

- GlassFish v4.1 Web Profile

- PostgreSQL オートバインディング- チューニング＆トラブルシューティングサポート- Interstage Application Serverとの移行性


9

事例：お客様との共創によるIoTアプリ開発

• コンダクターとツアー客がIoTでつながる「安心旅行サービス」• K5 CFと他のサービスを組み合わせ、1週間でプロトタイプを開発

画面モック作成フィールドワーク（バス会社Ａ社様）

1 Week

K5 CFを利用して短期開発

K5

安心旅行サービス RDBサービス

1 Week 1 Week

CFサービス

位置情報＋心拍数送信アラート送受信

位置情報表示アラート表示


・・・

見学施設の「今」の状況を知りたい

お客様がついてきているか気になる

お客様と離れたらアラート表示

同僚と情報シェア

10

事例：モバイル向けPaaSの開発＆リリース

•モバイル向けPaaS「MobileSUITE」の新機能開発に採用

•アジャイル型開発～商用リリースまでを、K5 CFで実施

「CF」と「RDBサービス」の利用で、

開発＆リリースに必要な環境を短時間で構築

「ログとモニタリングサービス」で、

サービスの利用情報を収集・監視

PaaSの利用で、インフラ・ミドルウェア層の運用と、セキュリティ対応を効率化


Cloud Foundry構築・運用裏話


12

K5 BSSK5 IaaS(OpenStackベース) K5 OSS

Cloud Foundry構築・運用裏話

• K5 IaaSとの統合

認証基盤RDB

サービス

Cloud Foundry

ログサービス

監視サービス

ファイアウォール

オブジェクトストレージ

•可用性の確保

•セキュリティ

•キャパシティ監視

•運用監視ロード

バランサ―

ルータ課金サービス


13

K5 IaaSとの統合

＜ねらい＞

• CFが内部利用するコンポーネント（DB等）の運用を効率化

• 複数リージョンへの展開を見据え、CFを短期で構築可能とする

＜取り組み＞

• 内部コンポーネントをK5 IaaS提供サービスへ置換

HA Proxy → ロードバランサーサービス

DB（PostgreSQL） → リレーショナルデータベースサービス

ストレージ → オブジェクトストレージサービス

• OpenStack Heat + BOSHでネットワーク構築とCFデプロイを自動化


14

可用性の確保＜ねらい＞

CFのVMで異常が発生した際の、サービスへの影響を極小化

＜取り組み＞

• 全VM(22種)の全プロセス(356)を対象

• 異常種別(ダウン、ハング等)毎に影響を検証

• サービスへの影響があるものについて対策

–CFコンポーネントを冗長化

–CFプロセスのhttp監視のチューニング

–ログのローテーション定義を修正


15

セキュリティ

＜ねらい＞CF利用者のセキュリティ対応コスト減 Web/AP

App

Web/AP

App…

ネットワーク等

Cloud Foundry

App App …

ネットワーク等ネットワーク等

＜取り組み＞

• CF配下の機能のセキュリティ監査を実施して、サービスを提供

• PaaSのメリットを享受できるよう、

社内ルールも変更


16

キャパシティ監視(1/3)

＜取り組み＞

CFのメトリクスを監視(Firehose)

→必要に応じスケール

・reservable stagersからアプリケーション

の配備可能数を計算

・必要に応じてアプリ実行VMの

スケールアウト/イン

Cloud Foundry

メトリクス採取

監視サービス

登録

メトリクス採取(Firehose)

＜ねらい＞利用状況に応じた基盤の拡張

配備可能数を計算

reservable stagersを抽出


17

キャパシティ監視(2/3)

＜取り組み＞Adminツール（※）を利用し、アプリ数、organization数等を採取

※GitHub - cloudfoundry-incubator/admin-ui

＜ねらい＞利用状況を把握し、利用想定を超える前に対処可能


18

キャパシティ監視 (3/3)

＜取り組み＞

• bosh vmsコマンド

各VMのCPU、メモリを自動採取

• 推移を見える化

コマンドの出力結果をExcelへ自動変換

＜ねらい＞

OSキャッシュ領域の増加を検知したため→キャッシュのクリア処理を追加

→リソースの推移を見える化


19

運用監視

＜取り組み＞

• K5 サービスを利用しCFログを監視

–ログの永続化

–ログの監視とアラーム通知

• 異常を自動検知

–recreate、meltdown

–Firewall異常

–課金異常

Cloud Foundry

ログサービス

監視サービス

ログ転送

永続化

通知

復旧

運用管理者

＜ねらい＞

CFコンポの状態監視と迅速な復旧対応

監視


20

ログ監視


…

ログサービス

CF VM

Fulentd

CF VM

Fulentd

CF VM

Fluentd agentZabbix 監視サービス

通知

Fluentd

Runtime

config(BOSH

Addon)を利用することで、VM 再作成後も自動で組込

ログの流量を抑えるため、監視対象を選別

ログのフォーマットが多種多様56パターンの定義を作成

ログ転送

監視

Cloud Foundry

コミュニティへの貢献


22

Cloud Foundryコミュニティへの貢献

• Cloud Foundry のプロジェクトマネージャ（CLI）

• Incubation projectにて、IBM、SAPとアプリケーションオートスケール機能を開発中⇒詳細は、Lightning talkにて


23

Cloud Foundry CLI Product

• Exposes CF features

• To Devs and Admins

• One CLI for all CF offerings

• 6-13,000 downloads

per day

• Releasing monthly

• 5 platforms


24

Cloud Foundry CLI Team

1 PM (Fujitsu) +

4 Devs (1 EMC, 3 Pivotal)

Daily “Stand-up”

Weekly Planning Meeting

(Weekly pre-planning)

End-of-week Retro (反省会)

Ad-hoc: slack, F2F, Google Docs


25

Fujitsu Flavour to CLI

• Raised focus on “Enterprise” use and “Professional” look

– Installation & use in corporate environments

– Security & Integrity

– Prompt reaction to regressions

– Long term compatibility

– Professional looking help, docs

– Multi-language

– Consistency


26

Cloud Foundry CLI Workflow 1/2

1. PM gathers requirements:– Requests from other PMs/teams

– From users on GitHub, CF Dev, Slack; Stakeholders

– Product comparisons

2. PM writes stories, Google doc

3. Discussions (team, external expertise, requesters)

4. Prioritize, release planning

5. Discuss at weekly pre-IPM with anchor


27

Cloud Foundry CLI Workflow 2/2

6. Discuss at IPM with whole team– Pointing of 2 weeks’ worth of stories

– Reprioritize if too complex/time consuming

7. Devs implement– Clarify UX questions (slack, comment on story)

– Delivers one by one, automated edge builds

8. PM acceptance (accept if OK, reject if anything unexpected)

9. Just before release:– PM prepares release notes

– Devs create the release


28

Cloud Foundry CLI Challenges

• Consistent, smooth UX

• Access to end-users (users vs. enterprise customers)

• Keeping up (5 in CLI team, 10x that in CF components)

• Compatibility (fortnightly CF releases)

• Regressions (153 commands!)

• Technical Debt

• Priorities, feature-creep, core vs plug-ins

• Various platforms & environments (e.g. proxies, DNS)

• Localization


29

Cloud Foundry CLI Upsides

• Brilliant team

• Agile mindset embraces

sudden changes

• Devs’ full focus on

development

• Pairing, no separate reviews

and documents

• Advanced tools(github, tracker, slack, appear.in)

• Sympathetic users,

stakeholders

• Foundation support

• End-users



Software

富士通におけるCloud Foundry活用の取り組み