Teljesítménymodellezés szolgáltató rendszerekben

Budapest University of Technology and Economics

Fault Tolerant Systems Research Group

Teljesítménymodellezés szolgáltató rendszerekben

2



Erőforrás szintű kapacitástervezés lépései

IT fejlesztési terv

IT infrastruktúra

Költségmodellek

Választottköltségmodell

IT jellemzok

Terhelés leírás

Terhelésjellemzok

Terhelés modell

Teljesítménybecslés

Teljesítménymodellek

Teljesítménymodell

Kalibrálás ésvalidálás

What-if analízis

3



Teljesítménymodellek

Modellezés céljaerőforrás foglalási problémák felderítéseelosztott alkalmazások kommunikációs költségeirendszer változásának hatásai (pl. gyorsabb szerver)előrejelzés támogatása

Ökölszabályok: teljesítménymodell elfogadható, haaz erőforrások kihasználtságát 10%az áteresztőképességet 10%a válaszidőt 20% hibával becsli

Kiszolgálás Várakozás TénylegesKiszolgálás HálózatiKésleltetésT T T +T

4



Modellek fajtái Analitikus modell

a rendszert egyenletekkel írja le, pl.

Szimulációs modellszimulációt futtataz előfordulásnak megfelelő tranzakció gyakorisággalelőny: általános vizsgálat hátrány: drága, nehéz kifejleszteni

min min minRT RTT kérés FeldolgozásiIdő válasz

5



Modellezési/becslési paradigma

Adottrendszer

Adatgyűjtés

Teljesítménymérése

ANALÍZIS

Tervezett rendszerteljesítménye

Modellkiértékelése

Modellváltoztatás

BECSLÉS

Validálás

MODELLEZÉS

Modell kiértékelése

Paraméterekmeghatározása

Modell építés

6



Szolgáltatás igény és idő Az i. erőforrásra:Di: egy tranzakció átlagos szolgáltatásigénye

Vi: a tranzakció átlagos erőforrás használata

Si: egy használat átlagos erőforrás igénye

i i iD V S más alakban

ii

i

DS

V

Könnyebben meghatározható

7



Hálózati egyenletekEgy üzenethez tartozó csomagok száma:

Összes protokoll overhead (n. hálózaton):

ÜzenetméretCsomagszám =

MaxSzegmensMéret

n nOverhead = Csomagszám×(TCPOvhd + IPOvhd + FrameOvhd )

ahol figyelembe vesszük a TCP, IP és a konkrét

hálózati protokollból eredő overhead-et

8



Hálózati egyenletek 2.Üzenet továbbítási ideje az n. hálózatban

ahol a méret byte, a sávszélesség Mbps mértékegységű

Az n. hálózat kihasználtsága (utilization)

λ jn j n

üzenetek

U = ×SzolgáltatásIdő

nn

6

Üzenetméret +Overhead ×8SzolgáltatásIdő =

10 ×Sávszélesség

9



Hálózati protokollok

Protokoll PDU elnevezés Max. PDU (bájt) Overhead (bájt) Max. AdatterületTCP segment 65,515 20 65,495UDP datagram 65,515 8 65,507IPv4 datagram 65,535 20 65,515IPv6 datagram 65,535 40 65,495ATM cell 53 5 48Ethernet frame 1,518 18 1,500IEEE 802.3 frame 1,518 21 1,497IEEE 802.5 Token Ring frame 4,472 28 4,444FDDI (RFC 1390) frame 4,500 28 4,472

PDU = Protocol Data UnitMTU=Maximum Transmission Unit

10



LAN3:Token Ring16 MbpsMTU: 4444 bájt

Hálózati környezet példa

KLIENS

ROUTER

LAN2:FDDI Gyűrű100 Mbps

MTU:4472 bájt

R

Adatbázisszerver

LAN1:Ethernet10 MbpsMTU: 1500 bájt

11



Hálózati teljesítmény példaAz előző hálózatban a kliens küld egy 300 bájtos kérést:

LAN1:

Overhead = TCPOvhd + IPOvhd + EthOvhd (1 csomag)

Ovhd1 = 20 + 20 +18 = 58

LAN2:

LAN3:

358×8SzolgIdő1= = 0.000286sec

10,000,000

368×8SzolgIdő2 = = 0.00002944sec

100,000,000

368×8SzolgIdő3 = = 0.000184sec

16,000,000

12



Hálózati teljesítmény példa 2. A szerver válaszol: 10000 bájtszegmentálás: 1460 bájt az egységEthernetMéret – (TCPOvhd + IPOvhd) = 1500 – 407 csomag : 10000 = (6*1460 + 1240)

LAN3:

LAN2:

LAN1:

sec00524.0

000,000,16

8308,1528,16

sec000838.0

000,000,100

8282020240,1282020460,16

sec00832.0

000,000,10

8182020240,1182020460,16

13



Hálózati teljesítmény példa 3. A kliens átlag percenként 3-szor lekérdezi az

adatbázis szervertLekérdezés: 400 bájt, Válasz: 80% 8092 bájt, 20% 100,000 bájtMilyen a hálózati kihasználtság?Csomagok száma:Kérdés:

Rövid válasz:

Hosszú válasz:

4 /1,460 1

8,092 /1,460 6

100,000 /1,460 69

14



Hálózati teljesítmény példa 4.

Kérés Rövid válasz Hosszú válaszCsomagok száma 1 6 69Overhead (bájt) 58 348 4002Átviteli idő (ms) 0.366 6.75 83.2Csomagok száma 1 6 69Overhead (bájt) 68 408 4692Átviteli idő (ms) 0.0374 0.68 8.38Csomagok száma 1 6 69Overhead (bájt) 68 408 4692Átviteli idő (ms) 0.234 4.25 52.3

LAN1

LAN2

LAN3

Átlagos átviteli idő adott hálózaton:0.8× (KérésÁtvIdő + RövidVálaszÁtvIdő)+ 0.2× (KérésÁtvIdő + HosszúVálaszÁtvIdő)

15



Hálózati teljesítmény példa 5.

Hasonlóan kiszámítható, ha megváltozik a kérések intenzitása.

LAN1 LAN2 LAN30.0224 0.00223 0.0141

LAN1 LAN2 LAN340 4.5 0.4 2.880 9 0.9 5.6

120 13.4 1.4 8.5160 17.9 1.8 11.3200 22.4 2.3 14.1240 26.9 2.7 16.9280 31.4 3.2 19.7

Átlagos átviteli idő (s)

Kliensek száma

Kihasználtság (%)

16



Kihasználtság törvénye Kihasználtság törvénye (Utilization Law)

Ui: az i. erőforrás kihasználtsága

Bi: foglaltsági ideje a monitorozás alatt

T: mérési idő

C0: tranzakciók száma

Si: átlagos kiszolgálási idő

Xi: átlagos áteresztőképesség

λi: érkezési ráta

i i i 0 i i 0 i i iU = B/T = B/(C /X) = (B /C )× X = S × X

i iEgyensúly : = X

i i i i iU = X ×S = ×S

17



További törvényekForced Flow törvény:

Xi : az I. erőforrás áteresztőképessége

Vi : „látogatások” átlagos száma

X0: tranzakciók átlagos száma

Szolgáltatás igény törvénye (Service Demand):

i i 0X =V × X

i i i i 0 i i i 0D =V × S = (X /X )× (U/X) = U/X

Forced Flow Kihasználtság tv.

18



Little törvénye

T ideig figyeljük a rendszert

k rendszerben lévő kérések az intervallumban,

fk az idő amíg k darab kérés van

a rendszerben

rk a rendszerben töltött idő összege

C0: ennyi kérés hagyta el a rendszert

R

NX

Rendszerben töltött átl. idő

ÁteresztőképességRendszerben lévő kérések

kk

k k

rN = k × f = k ×

T

k0 k

0

k * rC

N = *T CX R

N = X × R

19



A Little törvény alkalmazása Levelezési szolgáltatást nyújtó portál

2.000.000 regisztrált felhasználó, 30%-uk küld levelet csúcsterhelésnél (1 óra hosszú). Egy email feldolgozása 5.0 másodperc, 3.5 levelet küld egy felhasználó. Egy levél mérete átlagosan 7120 bájt.

Mekkora spool fájl szükséges?

Átlagos levélméret alapján

LevelekÁtlagosSzáma = Áteresztőképesség×Válaszidő

(2,000,000×0.30×3.5×5.0)= = 2916.67

3,600

SpoolFileMéret = LevelekÁtlagosSzáma×LevelekÁtlagosMérete

= 2916.67×7120 bájt = 20.767 Mb

20



A Little törvény alkalmazása 2. Webes bróker, 3 rétegű architektúra(Web szerver, Alkalmazás szerver, Adatbázis szerver)

1.1 millió felhasználó, 20000 használja a rendszert egyszerre (csúcsterhelés)

A rendszer 3.6 millió kérést dolgoz fel óránkéntMinden kérés átlagosan 1.4 tranzakciót generál az adatbázis

szerveren, ami a vállalati mainframe-en találhatóA mainframe 11500 kérést dolgoz fel másodpercenként

Mennyi az átlagos válaszidő? A válaszidő mekkora részét tölti a válasz a

mainframe-en?

21



A Little törvény alkalmazása 3.Az egész rendszer „fekete doboz”:

A mainframe a „fekete doboz”:

A kettő aránya:

20,00020 sec

3,600,000 / 3,600

FelhasználókÁtlagosSzámaÁtlagosVálaszidő =

RendszerÁteresztőképesség

20,000 1.42.43 sec

11,500

TranzakciókÁtlagosSzámaÁtlagosVálaszidő

MainframeÁteresztőképesség

1.4 2.43 sec17%

20.0 sec

MainframeHasználat

RendszerHasználat

22



Könyvesbolt példa Bemenő adatok:

Mennyi egy keresés tranzakció DB szerver szolgáltatási ideje?

21000.025 sec

35000 2.5 0.95

DiSi

Vi

Mérhető értékek

Modellből kapjuk (CBMG, CSID)

Adat ÉrtékÖsszes session száma 35000Web szerver foglaltság összesen (sec) 1200DB szerver folglatság összesen (sec) 2100Mérési intervallum (sec) 3600Keresések száma/Session 2,50Web szerver kérés/Keresés 1,95DB szerver kérés/Keresés 0,95

23



Könyvesbolt példa 2. Web szerver és Adatbázis szerverA Web szerver TCP fölött kommunikál, a kérés mérete 400 bájt, a

válasz 9150 bájt. A hálózat 100BASE-T Ethernet.

Milyen a hálózat kihasználtsága?

035,000 2.5 1

24.33,600 sec sec

KeresésekSzámaX

MérésiIntervallum

4001

1460

91507

1460

kéréskérés

válaszkválasz

ÜzenetMéretCsomagokSzáma

MaxSzegmensMéret

ÜzenetMéretCsomagokSzáma

MaxSzegmensMéret

24



Könyvesbolt példa 3.

6

6 1460 58 1 390 58 87.64 msec

10 100válaszSzolgIdő

324.3 (0.366 7.64)10 19.5%

jn j n

üzenetek

U = ×SzolgáltatásIdő

λ

6 6

( ) 8 (400 20 20 18) 8

10 10 100

0.366 msec

kérés kéréskérés

ÜzenetMéret OvhdSzolgIdő

Sávszélesség

25



Könyvesbolt példa 4. Bemenő adatok:

Változhat vásárlók száma vásárlók viselkedése rendszer paraméterek (pl. fájlok átlagos mérete)

Adat ÉrtékÖsszes session száma 35000Web szerver foglaltság összesen (sec) 1200DB szerver folglatság összesen (sec) 2100Mérési intervallum (sec) 3600Keresések száma/Session 2,50Web szerver kérés/Keresés 1,95DB szerver kérés/Keresés 0,95

Átlagos Web szerver szolg. igény (DWS) msec 13,71

Átlagos DB szerver szolg. igény (DDB) msec 24,00

Átlagos Web szerver szolg. idő (SWS) msec 7,03

Átlagos DB szerver szolg. idő (SDB) msec 25,26

Mérhető értékek

Modellből kapjuk (CBMG, CSID)

Kiszámolható

26



Könyvesbolt példa 5.Milyen lesz a szerverek kihasználtsága, ha

megduplázódik a felhasználók száma (csúcsterhelés)?megduplázódik a Session-ök számatfh. nem változik a felhasználók viselkedése

Fejleszteni kell az adatbázisszervert!!!

02 35,000 2.5

0.01371 66.67%3600

WS WSU X D

0 48.61 0.024 116.7%DB DBU X D

27



Könyvesbolt példa 6.Milyen lesz a hálózat kihasználtsága, ha a képek

mérete megduplázódik?Az egyszerűség kedvéért tfh. a keresés válaszának mérete is

megduplázódik. Ha minden más változatlan (válasz 18300 bájt):

6

12 1460 58 1 780 58 815.24 msec

10 100válaszSzolgIdő

324.3 (0.366 15.24)10 36%

jn j n

üzenetek

U = × SzolgáltatásIdő

λ

28



Könyvesbolt példa 7.Milyen lesz a teljesítmény, ha megváltozik a

felhasználók viselkedése és átlagosan 50%-kal többet

keresnek az oldalon?Áteresztőképességet és kihasználtságot számolunk.

35,000×3.75 136,46

3,600 sec0X =

01

36.45 0.01371 sec 49.97%sec

WS WSU X D

01

36.45 0.024 sec 87.48%sec

DB DBU X D

Kritikus!

29



Szűk keresztmetszet, skálázhatóság Szűk keresztmetszet:

azok az erőforrások, melyek korlátozzák a teljesítményt analízis maximális terhelésnél (pesszimista érték)

Nem mindig kell pontos szám Aszimptotikus Határérték Analízis

(Asymptotic Bound Analysis)

Fogalmak K: erőforrások száma Di: szolgáltatásigény az i. erőforráson

Dmax: a legnagyobb szolg. igény

Dmin: a legkiseb szolg. igény

λmax: érkezési ráta

30



Nyílt modellek Nincs explicit korlát a rendszerben lévő kérésekre Ha az egyensúly teljesül:

3 rétegű architektúra példa

Mi a szűk keresztmetszet? Mennyi a max. áteresztőképesség?

maxmax

1

D

Réteg Szerverek száma Szolg. átl. igénybevétele Átl. szolg. időWeb szerver 5 1,8 110 msecAlkalmazás szerver 3 2,5 230 msecDB szerver 2 2,3 180 msec

Egy tipikus E-Business szolgáltatás adatai

31



Nyílt modellek 2.

1.80.110 0.0396 sec

5

0.192 sec

0.207 sec

WSWS WS

WS

ASAS AS

AS

DBDB DB

DB

VD S

N

VD S

N

VD S

N

Az adatbázis szerver a szűk keresztmetszet

1 14.83

0.207 sec sec

Tranzakciók max. gyakorisága

0

4.83 szolgáltatás2.1

2.3 secDB

DB

XX

V

E-Business szolgáltatások max. gyakorisága (Forced Flow)

32



Zárt modellek Felső korlát a kérések számára vonatkozóan (N) Ideális eset: nincs kérés várakozási sorban

0total

NX N

D

Little tv.

0

0

1

1

i

i

i

i

U NX N

D

U N

X ND

Service Demand tv.

0max

1X N

D

0

1min ,

max

NX N

Dtotal D

33



Zárt modellek 2. Példa: az előbbi 3 rétegű architektúraEgyszerre max. 20 kliensnek nyújt szolgáltatást: N = 20

0.0396 sec 0.192 sec 0.207 sec 0.4386 sectotal WS AS DBD D D D

0

0

0

20 120 min ,

0.4386 sec 0.207 sec

1 120 min 45.59 ,4.83

sec sec

120 4.83

sec

X

X

X

Documents

Teljesítménymodellezés szolgáltató rendszerekben