28
EGEE-II INFSO-RI- 031688 Enabling Grids for E-sciencE www.eu-egee.org Информационная система в Информационная система в gLite gLite ( ( практическая часть практическая часть ) ) Новодворский Е.Г. Олешко С.Б. Петербургский институт ядерной физики г.Гатчина

Информационная система в gLite ( практическая часть )

Embed Size (px)

DESCRIPTION

Информационная система в gLite ( практическая часть ). Новодворский Е.Г. Олешко С.Б. Петербургский институт ядерной физики г.Гатчина. lcg-infosites. lcg-info. Доступ к данным ИС. Есть две утилиты для доступа к данным ИС. - PowerPoint PPT Presentation

Citation preview

Page 1: Информационная система в  gLite ( практическая часть )

EGEE-II INFSO-RI-031688

Enabling Grids for E-sciencE

www.eu-egee.org

Информационная система в Информационная система в gLitegLite ((практическая частьпрактическая часть))

Новодворский Е.Г. Олешко С.Б.Петербургский институт ядерной физикиг.Гатчина

Page 2: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 2

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Доступ к данным ИС

Есть две утилиты для доступа к данным ИС.

lcg-infosites lcg-info

В большинстве случаев их достаточно для пользователя, что позволяет избежать использования сложных LDAP запросов.

Page 3: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 3

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

lcg-infosites

• Получение информации о Грид ресурсах.

--vo название Виртуальной Организации

--is сервер BDII, если используется сервер, отличный от сервера, определённого в LCG_GFAL_INFOSYS

-v уровень детализации вывода

lcg-infosites --vo <vo name> options -v <verbose level>

--is <BDII to query>

Page 4: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 4

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Опции lcg-infosites число процессоров, количество выполняемых заданий, количество заданий в очередях, имена CE. Все данные группируются по ВО.

ce

имена SE, тип Storage System, объём используемой и доступной памяти

se

имена CE, где поддерживается данная ВО, ближайшие SE

closeSE

Имя lfc каталога для пользователей ВО lfc

Названия “меток” для установленного ПО, имя соответствующего CE tag

Объединение опций ce и se all

Page 5: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 5

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 1

Получить информацию о CE

Page 6: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 6

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

lcg-infosites --vo atlas ce

valor del bdii: gt5.pnpi.nw.ru:2170

#CPU Free Total Jobs Running Waiting ComputingElement

----------------------------------------------------------

84 0 13 5 8 cluster.pnpi.nw.ru:2119/jobmanager-pbs-atlas

lcg-infosites --vo nw_ru ce

valor del bdii: gt5.pnpi.nw.ru:2170

#CPU Free Total Jobs Running Waiting ComputingElement

-------------------------------------------------------------------------------------------------------------------------------

58 0 46 14 32 cluster.pnpi.nw.ru:2119/jobmanager-pbs-nw_ru

1 1 0 0 0 grid.scc.ioffe.ru:2119/jobmanager-pbs-nw_ru

Page 7: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 7

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 2

Получить информацию о SE

Page 8: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 8

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

lcg-infosites --vo nw_ru se

Avail Space(Kb) Used Space(Kb) Type SEs----------------------------------------------------------5140000000 20000000 n.a cluster.pnpi.nw.ru316869 162632 n.a grid.scc.ioffe.ru

Page 9: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 9

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 3

Список ближайших SE

Page 10: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 10

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

lcg-infosites --vo nw_ru closeSE

valor del bdii: gt5.pnpi.nw.ru:2170Name of the CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-nw_ru cluster.pnpi.nw.ru

Name of the CE: grid.scc.ioffe.ru:2119/jobmanager-pbs-nw_ru grid.scc.ioffe.ru

Page 11: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 11

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 4

Список установленного ПО

Page 12: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 12

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

lcg-infosites --vo nw_ru tag

lcg-infosites --vo atlas tag

valor del bdii: gt5.pnpi.nw.ru:2170

Name of the CE: cluster.pnpi.nw.ru

Name of the CE: grid.scc.ioffe.ru

valor del bdii: gt5.pnpi.nw.ru:2170

Name of the CE: cluster.pnpi.nw.ru

VO-atlas-cloud-NL

VO-atlas-offline-11.5.0

VO-atlas-offline-12.0.1

VO-atlas-offline-12.0.2

VO-atlas-production-12.0.3

VO-atlas-production-12.0.4

VO-atlas-production-12.0.5

VO-atlas-release-11.0.42

VO-atlas-release-11.0.5

VO-atlas-tier-T3 и т.д.

Page 13: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 13

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

lcg-info

Эта команда используется для получения характеристик CE или SE, которые удовлетворяют некоторым условиям и выводят значения заданного множества атрибутов.

Информация берётся с BDII, определённого переменной окружения LCG_GFAL_INFOSYS

где attrN имя атрибута op = и несколько условий могут быть объединены

через И. Разделитель – запятая, пробелы не

допускаются.

Синтаксис определения условия:

attr1 op1 valueN, ... attrN opN valueN

Page 14: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 14

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Формат команд lcg-info

lcg-info --list-ce [--bdii <bdii>] [--vo <vo>] [--sed]

[--query <query>] [--attrs <list>]

lcg-info --list-se [--bdii <bdii>] [--vo <vo>] [--sed]

[--query <query>] [--attrs <list>]

lcg-info --list-attrs

lcg-info --help

Page 15: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 15

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Опции lcg-info

--list-attrsСписок всех атрибутов, которые могут быть в запросе и в списке для вывода

--list-сeСписок всех СE, удовлетворяющих условию или все СE, если условие не определено

--list-seСписок всех SE, удовлетворяющих условию или все SE, если условие не определено

--query Условие, которому должны удовлетворять CE (SE)

--bdiiИспользовать сервер BDII, отличный от указанного в

LCG_GFAL_INFOSYS

--attrsСписок атрибутов, которые будут выводиться для выбранных CE (SE)

--sed Вывод в sed-ориентированном формате

--vo Ограничить вывод теми CE (SE), где поддерживаются соответствующая ВО. Обязателен, если в условии определены ВО-зависимые атрибуты

Page 16: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 16

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 5

Список поддерживаемых атрибутов

Page 17: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 17

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

>lcg-info --list-attrs

Attribute name Glue object class Glue attribute name

EstRespTime GlueCE GlueCEStateEstimatedResponseTimeWorstRespTime GlueCE GlueCEStateWorstResponseTimeTotalJobs GlueCE GlueCEStateTotalJobsTotalCPUs GlueCE GlueCEInfoTotalCPUsMaxRunningJobs GlueCE GlueCEPolicyMaxRunningJobsCE GlueCE GlueCEUniqueIDWaitingJobs GlueCE GlueCEStateWaitingJobsMaxCPUTime GlueCE GlueCEPolicyMaxCPUTimeMaxTotalJobs GlueCE GlueCEPolicyMaxTotalJobsCEStatus GlueCE GlueCEStateStatusCEVOs GlueCE GlueCEAccessControlBaseRuleFreeCPUs GlueCE GlueCEStateFreeCPUsRunningJobs GlueCE GlueCEStateRunningJobsMaxWCTime GlueCE GlueCEPolicyMaxWallClockTimeAccesspoint GlueCESEBind GlueCESEBindCEAccesspointCloseCE GlueCESEBindGroup GlueCESEBindGroupCEUniqueIDCloseSE GlueCESEBindGroup GlueCESEBindGroupSEUniqueID… и т.д.

Page 18: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 18

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 6

Список всех CE, удовлетворяющих условию

Page 19: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 19

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Список всех CE, у которых общее количество процессоров =8. Дополнительно вывести количество выполняемых заданий и количество свободных процессоров

lcg-info --list-ce --query 'TotalCPUs=8' --attrs 'RunningJobs,FreeCPUs'

- CE: alice01.spbu.ru:2119/jobmanager-lcgpbs-alice

- RunningJobs 0

- FreeCPUs 8

- CE: alice01.spbu.ru:2119/jobmanager-lcgpbs-dteam

- RunningJobs 0

- FreeCPUs 8

- CE: alice01.spbu.ru:2119/jobmanager-lcgpbs-ops

- RunningJobs 0

- FreeCPUs 8

Page 20: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 20

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 7

Список всех CE, удовлетворяющих условию

Page 21: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 21

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Список всех CE, у которых количество свободных процессоров =0. Дополнительно вывести количество свободных процессоров

lcg-info --list-ce --query 'FreeCPUs=0' --attrs 'FreeCPUs'

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-alice - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-atlas - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-biomed - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-cms - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-dteam - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-fusion - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-lhcb - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-nw_ru - FreeCPUs 0

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-ops - FreeCPUs 0

Page 22: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 22

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 8

Список всех “меток” для ПО установленного на определённом CE

Page 23: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 23

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Список всех Tags ПО для всех CE на cluster.pnpi.nw.ru

lcg-info --list-ce --query 'CE=*cluster.pnpi.nw.ru:2119*‘ --attrs ‘Tag’

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-lhcb - Tag LCG-2 LCG-2_1_0

R-GMA MPICH VO-atlas-cloud-NL

VO-biomed-autodock_IAN-3-0 VO-cms-CMSSW_0_8_1

VO-dteam-GLITE-3_0_0 VO-lhcb-Gauss-v25r8

VO-ops-GLITE-3_0_0 …

Page 24: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 24

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 9

Список всех CE с определённым ПО

Page 25: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 25

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Список всех CE для ВО nw_ru, где установлен пакет MPI. Дополнительно вывести количество процессоров.

lcg-info –vo nw_ru --list-ce --query ‘Tag=*MPICH*’ --attrs ‘TotalCPUs’

- CE: cluster.pnpi.nw.ru:2119/jobmanager-pbs-nw_ru

- TotalCPUs 84

Page 26: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 26

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Упражнение 10

Список всех SE, удовлетворяющих условию

Page 27: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 27

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Список всех SE для ВО nw_ru, где поддерживается протокол доступа rfio. Дополнительно вывести ближайший SE и объем доступной памяти .

lcg-info –vo nw_ru --list-se --query ‘Protocol=rfio’ --attrs ‘CloseCE,AvailableSpace’

- SE: cluster.pnpi.nw.ru

- CloseCE cluster.pnpi.nw.ru:2119/jobmanager-pbs-atlas

cluster.pnpi.nw.ru:2119/jobmanager-pbs-alice

cluster.pnpi.nw.ru:2119/jobmanager-pbs-biomed

cluster.pnpi.nw.ru:2119/jobmanager-pbs-cms

cluster.pnpi.nw.ru:2119/jobmanager-pbs-dteam

cluster.pnpi.nw.ru:2119/jobmanager-pbs-fusion

cluster.pnpi.nw.ru:2119/jobmanager-pbs-lhcb

cluster.pnpi.nw.ru:2119/jobmanager-pbs-ops

cluster.pnpi.nw.ru:2119/jobmanager-pbs-nw_ru

- AvailableSpace 5140000000

Page 28: Информационная система в  gLite ( практическая часть )

EGEE tutorial, 15.02.2007 28

Enabling Grids for E-sciencE

EGEE-II INFSO-RI-031688

Спасибо за внимание