39
Drugi Dan CRO NGI, Zagreb 2010-12-01 Drugi Dan CRO NGI Zagreb, 1. prosinac 2010. Pregled stanja i planova Emir Imamagić, Srce

Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Drugi Dan CRO NGI

Zagreb, 1. prosinac 2010.

Pregled stanja i planova

Emir Imamagić, Srce

Page 2: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Pregled

Arhitektura

Servisi

Korisnici

Međunarodne aktivnosti

Podrška

Planovi

Page 3: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Arhitektura

Page 4: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Infrastruktura

Page 5: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Sredstva sjedišta

Sjedište Model

čvorova

Br.

čvorova

Ukupno

CPU jezgri

Spremišni

kapacitet

Klasterski

sustav

ETFOS DELL

PowerEdge

M600 Blade

16 128 6 TB Torque &

Maui

FESB HP ProLiant

BL460c G1

16 128 6 TB Torque &

Maui

GRADRI DELL

PowerEdge

M600 Blade

16 128 6 TB SGE

IRB HP ProLiant

BL460c G1

16 128 6 TB SGE

Srce Sun Fire

x4600

8 256 21.6 TB SGE

Ukupno 72 768 45.6 TB

Page 6: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Sjedišta u EGI-ju

Sjedište Model

čvorova

Br. čvorova Ukupno CPU

jezgri

Spremišni

kapacitet

FESB Sun Fire

x2200 &

x4100

16 104 3 TB

IRB Sun Fire

x2200 &

x4100

16 104 3 TB

Srce Sun Fire

x2200 &

x4100

32 136 3 TB

Ukupno 64 344 9 TB

Page 7: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Središnji servisi

Sustav visoke dostupnosti Red Hat Cluster Suite

osigurava automatski oporavak servisa

Sredstva

5 središnjih poslužitelja

1 poslužitelj mrežno nepovezan (SRCE CA)

Page 8: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Sklopovski problemi

Nestanci struje

nenajavljeni nestanci vikendom

14 ispada tijekom 2010. godine

UPS na FESB-u i Srcu

Problemi s hlađenjem sjedišta

posebni sustavi hlađenja na IRB-u i Srcu

GRADRI udomljen trenutačno na RITEH-u

Mrežni prekidi

rijetki

Kvarovi sklopovlja

rijetki

Page 9: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Servisi

Page 10: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

NGI posrednički sustav

Globus Toolkit 4

upravljanje poslovima (GRAM)

upravljanje podacima (GridFTP)

ugašeni WS Globus servisi WS-GRAM i WS-MDS

Dodatne komponente

informacijski sustav (BDII)

grid raspoređivanje (Condor-G, GridWay)

grid datotečni sustav (Gfarm)

nadzorni sustav (Ganglia, Nagios)

Page 11: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Pokretanje poslova (1)

Page 12: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Pokretanje poslova (2)

Transparentni pristup računalnim sredstvima

Alati dostupni na UI čvorovima

Condor-G

robustan, preporučeni način pokretanja poslova

ostvarili smo dodatnu integraciju s modulom Matchmaking

GridWay

manje robustan, ali s naprednim mogućnostima

automatsko preraspoređivanje, mogućnost spremanja stanja poslova

(checkpointing)

Page 13: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Pristup podacima

Page 14: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Grid datotečni sustav

Gfarm

Distribuirani grid datotečni sustav

Integrirana spremišna sredstva svih sjedišta

Može mu se pristupiti s više lokacija

Sučelja

• GridFTP na svim sjedištima

• gfarm2fs FUSE – standardni pristup datotečnom sustavu

Trenutačni status

• 45.6 TB spremišnog kapaciteta

• iskorišteno 44%

Page 15: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Nadzorni sustav

Ganglia

Nadzor učinkovitosti

• iskorištenje sredstava (npr. load, cpu, disk)

Zbirni pogled na grid

http://mon.cro-ngi.hr/ganglia

Nagios

Nadzor stanja

• dostupnost poslužitelja i servisa

• funkcionalne provjere servisa

https://mon.cro-ngi.hr/nagios

• zahtijeva važeći korisnički certifikat

Page 16: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Ganglia

Page 17: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

SRCE CA

Pruža uslugu Public Key Infrastructure (PKI) za akademsku i

istraživačku zajednicu

Izdaje i korisničke i servisne certifikate

Uspostavljen 2006.

Tri lokacije za provjeru identiteta – Registration Authorities (RA)

ETFOS, FESB, Srce

SRCE CA certificiran od EUGridPMA

http://ra.srce.hr

http://wiki.cro-ngi.hr/index.php/

Zahtjev_za_SRCE_CA_korisničkim_certifikatom

Page 18: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Korisnici

Page 19: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Zajednica

8 ustanova partnera:

carnet.hr, etfos.hr, fesb.hr, gradri.hr, irb.hr, mzos.hr, srce.hr;

pmf.hr (pridružuje vlastita sredstva u CRO NGI)

25 ustanova korisnica:

biol.pmf.hr, carnet.hr, dhz.hr, eihp.hr, erf.hr, etfos.hr, fer.hr, fesb.hr,

fizika.unios.hr, foi.hr, fsb.hr, gfv.hr, grad.hr, gradri.hr, hhi.hr, ie-

zagreb.hr, imi.hr, irb.hr, medils.hr, mzos.hr, pbf.hr, phy.hr, pmf.hr,

pmfst.hr, srce.hr

106 korisnika:

kemičari, biologijski kemičari, fizičari, građevinari, meteorolozi, strojari,

matematičari, elektrotehničari ...

Page 20: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Aplikacije

MPICH & MVAPICH MPI libraries

Intel Fortran & C compilers

Intel MKL

NAG libraries for Fortran

Gaussian

ABINIT

Gromacs

PovRay

AutoDock

Korisničke aplikacije

matematika, fizika

Page 21: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Vremenska raspodjela poslova

Page 22: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Poslovi po ustanovama

Page 23: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Poslovi po sjedištima

Page 24: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Uspješnost poslova

Sjedište Br. poslova Br. neuspješnih

poslova

Postotak

uspješnosti

IRB 42276 7843 76%

GRADRI 44054 8020 73%

ETFOS 40655 7062 76%

FESB 29081 3093 74%

Srce 7473 546 78%

Ukupno 163539 40850 75%

Page 25: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Razlozi neuspješnosti poslova

Greške sklopovlja

ispadi struje

Greške grid posredničkog sustava

Pogrešan opis poslova

Instalacija novih sredstava, servisa i aplikacija

Page 26: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Međunarodne aktivnosti

Page 27: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

EGEE

EU FP projekt Enabling Grids for E-sciencE

2004-2010

Tri certificirana sjedišta (gLite) u punoj produkciji

Uspostava i održavanje pouzdanih središnjih servisa

2 poslužitelja

servisi BDII, ActiveMQ, sustav za nadzor

Razvoj globalnog grid nadzornog sustava temeljenog na Nagiosu

Page 28: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

EGI

European Grid Initiative

2010-2014

Aktivnosti u kojima sudjeluje sudjeluje Srce (koordinator CRO NGI)

nacionalne operacijske aktivnosti SA1 – održavanje središnjih servisa i

podrška sjedištima

globalne operacijske aktivnosti u suradnji s CERN-om i GRNetom

vođenje nadzorne aktivnosti Infrastructure for Grid Management

Overview (SA1.4)

razvojne aktivnosti JRA1 – sudjelovanje u razvoju sustava za nadzor

grid servisa

Page 29: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Podrška

Page 30: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Web

Novosti

Organizacijski i tehnički opisi

Dokumenti

Web aplikacija za prijavu korisnika

Autentikacija temeljena na AAI@EduHr

http://www.cro-ngi.hr

https://www.cro-ngi.hr/prijava

Page 31: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Korisničke upute

Temeljene na wikiju

Upute za prijavu korisnika

Informacije o arhitekturi

Praktične informacije o raspoloživim alatima

http://wiki.cro-ngi.hr

http://wiki.cro-ngi.hr/index.php/Registracija

Page 32: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Služba pomoći

Sustav upravljanja problemima OTRS

Problemi s posredničkim sustavom i aplikacijama

Pomoć pri gridificiranju korisničkih aplikacija

[email protected]

http://www.srce.hr/syshelp

Page 33: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Obrazovanje

Korištenje računalnih klastera

radionica održana na Srcu 7. travnja 2010

8 polaznika

Korištenje grid okoline

radionica održana na Srcu 8. i 9. travnja 2010

5 polaznika

Uvod u klastere i grid

eLearning tečaj

Page 34: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Ljudski resursi

Sistemsko održavanje NGI

1,5 FTE – Srce

trebalo bi biti barem 2 FTE

Podrška korisnicima

0,5 FTE – Srce

trebalo bi biti barem 1 FTE, za sustavnije gridificiranje aplikacija

Udomljavanje sjedišta

Tijela CRO NGI-ja

Savjet, Vijeće partnera, Vijeće korisnika

Page 35: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Planovi

Page 36: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Proširenje

Plan

proširenje postojećih sjedišta i uspostavljanje do tri novih

• dodatno ukupno oko 2.500-3.500 CPU jezgri (12,5 Mkn)

gridificiranje aplikacija

Proširenje u 2011.

prema prijedlogu budžeta MZOŠ za 2011. – bez proširenja

Page 37: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

SLCS CA

Short lived credential service (SLCS)

Transparentno izdavanje certifikata temeljeno na podacima AAI

Jednostavnije upravljanje certifikatima

Rješenje zasnovano na Switchevom sustavu

Page 38: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

Unaprjeđenje nadzora

Korisnički poslovi

pregled aktivnih poslova

raspodjela poslova po resursima

Grid datotečni sustav

opterećenje pojedinih elemenata

Accounting

Page 39: Pregled stanja i planova CRO NGI - unizg.hr · FESB Sun Fire x2200 & x4100 16 104 3 TB IRB Sun Fire x2200 & x4100 16 104 3 TB Srce Sun Fire x2200 & x4100 32 136 3 TB Ukupno 64 344

Drugi Dan CRO NGI, Zagreb 2010-12-01

http://www.cro-ngi.hr/

[email protected]