Autonomic Resource Provisioning for Cloud-Based Software

SEAMS 2014

Pooyan Jamshidi / IC4, School of Computing, Dublin City 　 University,

Ireland.

Aakash Ahmad 　 / Lero, School of Computing, Dublin City University,

Ireland.

Claus Pahl / IC4, School of Computing, Dublin City 　 University, Ireland

2

著者

Pooyan Jamshidi is a PhD candidate in the School of Computing, Faculty of

Engineering and Computing at Dublin City University (DCU) and a research

assisstant at the Irish Centre for Cloud Computing & Commerce (IC4). He was

previously a doctoral researcher at Lero (LGSSE). He is a member of the

Software and Systems Engineering Group and his advisor is Dr. Claus Pahl.

----

Claus Pahl ：　 Cloud ，ソフトウェア工学の専門家、 Lero にも所属

3

1 ． Intro 　 (1/2)

クラウドは大きいＩＴ企業のみならずスタートアップ会社でも利用されている。

クラウドのウリは、 Elasticity例）　 Facebook3 日間で 10 倍のユーザ数の増加　 25,000 → 　 250,000

100ms レスポンスが遅れると、 245mil.$ がなくなる説。(amazon)

自動的なリソース割り当て（オートスケール）はそれゆえ重要。

4

1 ． Intro 　 (2/2)

現状のオートスケールの課題① 　定量的な指定 ：専門的な知識が必要。② 　しきい値の指定 ：一意に指定するけどノイズやスパイクあり。

本論文では、ファジィ理論 (Type2-FLS ： Fuzzy Logic systems) を利用した、 RobusT2Scale を提案。

Type2-FLS によって、イタリック部分の表記、スケーラビリティのルールを提供する。

評価の結果、ノイズとかがあっても我々のアプローチは有効に動作。

5

ファジー理論 ( 直観的な説明）

6

Type1 ファジーと Type2 ファジー

■Type1 ファジーグレードを確定値で定義

■Type2 ファジーグレード自体を， 0-1 区間上のファジィ数として定義したもの

■TypeN ファジータイプ 2 ファジィ集合のメンバシップ関数のグレードのメンバシップ関数のグレードをさらにファジィ化するとタイプ 3 ファジィ集合これを繰り返していくと TypeN ファジィ。実用上は Type2 まで。

7

2 ． Challenge And Approach2.1 Motivating Example

SAAS のサーベイサイト　（ Yahoo のおしえてみたいなものか）

スケーラビリティのためクラウド化　（典型的な三層モデルを提示）

8

9

2 ． Challenge And Approach2.2 Research Challenge

RC1: 　パラメータの予測 - VM の取得とかリリースも即刻できるわけでなくて、 10 分程度のずれRC2: 　しきい値の定性的な指定 - 上下のしきい値の設定には専門的な知識が必要

RC3: 　不確かさのコントロール- 応答時間もクラウドでは一定しないはず

しきい値ベースのルールは一般的だけど、課題あり。

10

2 ． Challenge And Approach2.3Solution Overview

オートスケーラー (RobusT2Scale) の提案

11

3 ． BACKGROUND （ IT2FS ） Type1 の拡張　（式は割愛） 0,1 でない値の取り扱い、灰色部分 メンバ関数（ MF)

12

4 ． Elasticity Reasoning Using T2FLS4.1/4.2 Autonomous Control of Elasticity コントロールはＭＡＰＥを使う。 Monitor は、クラウドプラットフォームから。たとえば

CloudWatch Execute は API リーズニングＰ：　プロセスS ：　 situationEA: elasticity action

13

4 ． Elasticity Reasoning Using T2FLS4.3Extracting Elasticity Knowledge ナレッジは、「 Expert 10 人に聞きました」

14

4 ． Elasticity Reasoning Using T2FLS4.4Defining Membership Functions メンバ関数

15

4 ． Elasticity Reasoning Using T2FLS4.5/4.6 Basics of the Fuzzy Elasticity Controller X1 = 40 ， X2 =50 のとき 6 つのルールが発火！ (F: ワークロード、 G: 応答時間） 重心法によって脱ファジー化。 1.0553 個の VM を追加。

16

補足　脱ファジー

17

IT2FLS のアウトプット

インプット (x1,x2) に対して出力 Y を決定

18

■5.1 Paramenter prediction

• WorkLoad の予測に、 double exponential smoothing

• ResponseTime の予測に、 single exponential smoothing

■5.2 Resource Allocation

• Resource Allocator が VM 数を制御

• EC2/ Azure 向けの Termination Policy

• クールダウンピリオド（何もできない時間）

5. Realizing the Auto-Scaler5.1 Parameter Prediction and Smoothing/5.2

19

・　 Predictor,Reasoner : Matlab

・　 Resource Allocator : C#

5. Realizing the Auto-Scaler5.3Imple.

・　 Azure

20

■ 　 RQs

RQ1 ：　予測技術の正確性は？

RQ2 ：　 SLA は保証できるか？その時のコストは？

RQ3 ：　ノイズに対してロバスト？

■ 　 Settings

- BL( アプリケーション ) サーバが増減。

6. Experimental Evaluation

21

縦軸ヒット数、横軸時間

青線が調子良い

6. Experimental Evaluation6.2 Workload Estimation Accuracy(RQ1)

縦軸　 RRSE 、横軸：パターン

3 つのパターンではエラーが少ない

22

600ms が SLA

BigSpike を除いて達成している

6. Experimental Evaluation6.3 Effectiveness of RobustT2Sclale(RQ2)

23

10% の WhiteNose を入れた

RMSE(平均二乗誤差）は 10%以下。

6. Experimental Evaluation6.4 Robustness(RQ3)

24

RT2Scale は独立

パラメータ数少ない

オフライン学習なし

ルール爆発なし

Limitations

６つのワークロードパターン

3 層アプリのみ

マルチクラウドプロバイダ

BL 層のみ

7. Discussion

25

① 　定性的な指定

② 　ノイズとロバストなリソース調整

③　コンフリクトルールの制御　

Reactive Auto Scaling 閾値の設定、コスト増加、知識要

Proactive Auto Scaling 予測はデータ要、学習も学習時間要等

Hybrid Auto Scaling 本研究はここに位置づく スケールアップも可能 ファジー理論でも T1 のみ、 T2 での不確かさは本研究のみ

8. Related Work

26

クラウドでの動的なリソース配置

ワークロードの増加と SLA を満たしつつ、調整

ハイブリッドなオートスケーラーを提案

ファジー理論により①定性的な指定、②コンフリクトルールの制御を可能とした。

将来研究

- 複数プラットフォームでの適用

- 他のオートスケーラーとの比較

Conclusion