83
管理者ガイド NAREGI Middleware DataGrid 200810国立情報学研究所

NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド

NAREGI Middleware DataGrid

2008年10月

国立情報学研究所

Page 2: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

i

ドキュメントリスト

◆ 管理者ガイド グループ 管理者ガイド NAREGI Middleware

IS(Distributed Information Service) 管理者ガイド NAREGI Middleware

IS(Distributed Information Service) - LRPSConfig - 管理者ガイド NAREGI Middleware SS(Super Scheduler) 管理者ガイド NAREGI Middleware

GridVM(Grid Virtual Machine) 管理者ガイド NAREGI Middleware Portal 管理者ガイド NAREGI Middleware

PSE(Problem Solving Environment) 管理者ガイド NAREGI Middleware

WFT(GUI Workflow Tool) 管理者ガイド NAREGI Middleware

GVS (Grid Visualization System) 管理者ガイド NAREGI Middleware DataGrid 管理者ガイド NAREGI Middleware CA(Certification Authority) 管理者ガイド NAREGI Middleware

UMS(User Management Server) 管理者ガイド NAREGI Middleware Authorization Service 管理者ガイド NAREGI Middleware Renewal Service 管理者ガイド NAREGI Middleware

SBC(Synchronous Data Transfer Library) 管理者ガイド NAREGI Middleware Mediator

Page 3: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

ii

◆ 利用者ガイド グループ 利用者ガイド NAREGI Middleware IS(Distributed Information Service) 利用者ガイド NAREGI Middleware Portal 利用者ガイド NAREGI Middleware PSE(Problem Solving Environment) 利用者ガイド NAREGI Middleware

PSE(Problem Solving Environment) - Command line Interface - 利用者ガイド NAREGI Middleware WFT(GUI Workflow Tool) プログラミングガイド NAREGI Middleware WFT(GUI Workflow Tool) 利用者ガイド NAREGI Middleware

GVS(Grid Visualization System) - Client Module - 利用者ガイド NAREGI Middleware

GVS(Grid Visualization System) - Parallel Visualization Module - 利用者ガイド NAREGI Middleware CA(Certification Authority) 利用者ガイド NAREGI Middleware UMS(User Management Server) 利用者ガイド NAREGI Middleware Authorization Service 利用者ガイド NAREGI Middleware Renewal Service 利用者ガイド NAREGI Middleware

SBC (Synchronous Data Transfer Library) 利用者ガイド NAREGI Middleware Mediator

目次

Copyright© 2004-2008 National Institute of Informatics, Japan. All rights reserved.

This file or a portion of this file is licensed under the terms of the NAREGI Public License, found at

http://www.naregi.org/download/. If you redistribute this file, with or without modifications, you must

include this notice in the file.

Page 4: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

iii

目次

◆データグリッド環境について_________________________________________1

第 1 章. はじめに _____________________________________________________1

1-1. 導入の概要___________________________________________________________1

1-2. システム構成_________________________________________________________1 1-2-1. 構成 _____________________________________________________________________2

1-3. 動作環境_____________________________________________________________3 1-3-1. 必要なハードウェア _______________________________________________________3 1-3-2. 必要なソフトウェア _______________________________________________________4 1-3-3. 必要なファイル ___________________________________________________________4 1-3-4. 必要な環境ファイル _______________________________________________________5 1-3-5. 所有権とオーナ情報について _______________________________________________5

1-4. 運用に必要な動作条件_________________________________________________5

1-5. データグリッドインストールモジュール一覧 _____________________________6

1-6. VOMS について _______________________________________________________6

第 2 章. 初期設定 _____________________________________________________7

2-1. Globus Toolkit インストールの概要 ______________________________________7 2-1-1. grid-mapfile について ______________________________________________________9

2-2. PostgreSQL インストールの概要 ________________________________________9

◆ VO 対応版 Gfarm、Gfarm 用 GridFTP サーバ _________________________ 10

第 3 章. はじめに(VO 対応版 Gfarm および Gfarm 用 GridFTP サーバ) ______ 10

3-1. VO 対応版 Gfarm および Gfarm 用 GridFTP サーバの概要 __________________10

第 4 章. VO 対応版 Gfarm のインストールについて ______________________ 12

4-1. インストールの概要__________________________________________________12

4-2. インストール前の作業________________________________________________12 4-2-1. VOMS クライアントライブラリのインストール______________________________ 12 4-2-2. glibc のアップグレード___________________________________________________ 13 4-2-3. glibc-not-hidden パッケージのインストール _________________________________ 14

Page 5: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

iv

4-3. VO 対応版 Gfarm のインストール ______________________________________16

4-4. インストール結果の確認______________________________________________16

4-5. インストールに失敗した場合の対処方法 ________________________________16

4-6. インストール後の作業________________________________________________16

第 5 章. VO 対応版 Gfarm のセットアップについて ______________________ 16

5-1. セットアップパターンの種類と選定 ____________________________________16

5-2. セットアップ前の作業________________________________________________16

5-3. 初期状態____________________________________________________________16

5-4. セットアップ________________________________________________________17 5-4-1. Gfarm メタデータサーバの設定 ___________________________________________ 17 5-4-2. Gfarm ファイルシステムノードの設定 _____________________________________ 17 5-4-3. Gfarm クライアントの設定 _______________________________________________ 18 5-4-4. ログファイルの設定 _____________________________________________________ 19 5-4-5. VO 対応版 Gfarm の疎通確認______________________________________________ 19 5-4-6. Gfarm 用 GridFTP サーバのインストール ___________________________________ 20 5-4-7. Gfarm 用 GridFTP サーバの疎通確認 _______________________________________ 21

第 6 章. VO 対応版 Gfarm の起動/停止と保守について ___________________ 22

6-1. 運用操作のパターンの種類と選定______________________________________22 6-1-1. 起動 ___________________________________________________________________ 22 6-1-2. 起動の確認 _____________________________________________________________ 22 6-1-3. 停止 ___________________________________________________________________ 22 6-1-4. 停止の確認 _____________________________________________________________ 23 6-1-5. その他の運用操作 _______________________________________________________ 23

6-2. 保守 _______________________________________________________________24 6-2-1. 保守の概要 _____________________________________________________________ 24 6-2-2. バックアップ ___________________________________________________________ 25 6-2-3. リストア _______________________________________________________________ 25 6-2-4. トラブルシューティング _________________________________________________ 25 6-2-5. その他の保守作業 _______________________________________________________ 25

第 7 章. VO 対応版 Gfarm のアンインストールについて __________________ 25

7-1. アンインストールの概要______________________________________________25

Page 6: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

v

7-2. アンインストール前の作業____________________________________________25

7-3. アンインストール____________________________________________________26 7-3-1. Gfarm メタデータサーバのアンインストール _______________________________ 26 7-3-2. Gfarm ファイルシステムノードのアンインストール _________________________ 26 7-3-3. Gfarm クライアントのアンインストール ___________________________________ 26

7-4. アンインストール結果の確認__________________________________________26

7-5. アンインストールに失敗した場合の対処方法 ____________________________26

7-6. アンインストール後の作業____________________________________________26

第 8 章. VO 対応版 Gfarm 補足事項 ____________________________________ 26

8-1. 環境変数について____________________________________________________26

8-2. 同時アクセス数______________________________________________________27

8-3. VO 名について_______________________________________________________27

8-4. Gfarm 用 GridFTP サーバで表示されるファイル所有者情報について ________27

8-5. Gfarm の VO の登録と削除 ____________________________________________27 8-5-1. VO 登録 ________________________________________________________________ 27 8-5-2. VO 削除 ________________________________________________________________ 28

8-6. Gfarm のアップグレード ______________________________________________29 8-6-1. メタデータのダンプ _____________________________________________________ 29 8-6-2. スプールディレクトリの退避 _____________________________________________ 29 8-6-3. Gfarm のアンインストール _______________________________________________ 29 8-6-4. Gfarm のインストール ___________________________________________________ 30 8-6-5. メタデータのインポート(Gfarm メタサーバで実行) __________________________ 30 8-6-6. スプールディレクトリの復元 _____________________________________________ 30

◆ データグリッドアクセス管理システム ______________________________ 31

第 9 章. はじめに(データグリッドアクセス管理システム) ________________ 31

9-1. 概要 _______________________________________________________________31

第 10 章. DGAMS, DGUFT インストール ________________________________ 32

10-1. ポータルノードへのインストール前の作業_____________________________32 10-1-1. Globus Toolkit インストール _____________________________________________ 32 10-1-2. Tomcat インストール ___________________________________________________ 32

Page 7: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

vi

10-2. DGUFT サーバへのインストール前の作業 ______________________________33 10-2-1. Globus Toolkit インストール _____________________________________________ 33 10-2-2. GridFTP の設定 ________________________________________________________ 33 10-2-3. PostgreSQL インストール _______________________________________________ 33

10-3. DGAMS インストール________________________________________________34 10-3-1. ビルド前作業 __________________________________________________________ 34 10-3-2. ビルド作業 ____________________________________________________________ 34 10-3-3. インストール作業 ______________________________________________________ 34 10-3-4. ビルド後作業 __________________________________________________________ 35 10-3-5. DGAMS 設定ファイル ___________________________________________________ 36 10-3-6. DGAMS ログ設定ファイル _______________________________________________ 37

10-4. DGUFT インストール ________________________________________________38 10-4-1. インストール作業 ______________________________________________________ 38 10-4-2. スキーマの作成作業 ____________________________________________________ 39 10-4-3. DGUFT 設定ファイル____________________________________________________ 40

10-5. モジュール配布_____________________________________________________41 10-5-1. ワークフローツールシステムへのインストール ____________________________ 41 10-5-2. PSE へのインストール __________________________________________________ 41

10-6. 疎通確認 __________________________________________________________42

第 11 章. DGAMS, DGUFT の運用と保守 ________________________________ 43

11-1. DGAMS 運用手順____________________________________________________43 11-1-1. 起動__________________________________________________________________ 43 11-1-2. 起動の確認 ____________________________________________________________ 43 11-1-3. 停止__________________________________________________________________ 43 11-1-4. 停止の確認 ____________________________________________________________ 43 11-1-5. その他の運用操作 ______________________________________________________ 44

11-2. DGUFT 運用手順 ____________________________________________________44 11-2-1. 起動__________________________________________________________________ 44 11-2-2. 起動の確認 ____________________________________________________________ 44 11-2-3. 停止__________________________________________________________________ 44 11-2-4. 停止の確認 ____________________________________________________________ 44 11-2-5. その他の運用操作 ______________________________________________________ 44

11-3. 保守 ______________________________________________________________45 11-3-1. トラブルシューティング ________________________________________________ 45

Page 8: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

vii

11-3-2. その他の保守作業 ______________________________________________________ 46

第 12 章. DGAMS, DGUFT アンインストール ____________________________ 47

12-1. アンインストール前の作業___________________________________________47

12-2. DGAMS アンインストール____________________________________________47

12-3. DGUFT アンインストール ____________________________________________47

◆ データグリッド資源管理システム __________________________________ 48

第 13 章. はじめに(データグリッド資源管理システム) ___________________ 48

第 14 章. データグリッド資源管理システムのインストールについて ______ 49

14-1. インストールの概要_________________________________________________49

14-2. インストール前の作業_______________________________________________49 14-2-1. OGSA-DAI のインストール_______________________________________________ 49

14-3. データグリッド資源管理システムのインストール _______________________52 14-3-1. ウェブアプリ部分のインストール ________________________________________ 52

14-4. インストール結果の確認_____________________________________________52

14-5. インストールに失敗した場合の対処方法_______________________________52

14-6. インストール後の作業_______________________________________________52

第 15 章. データグリッド資源管理システムのセットアップについて ______ 52

15-1. セットアップパターンの種類と選定___________________________________52

15-2. セットアップ前の作業_______________________________________________52

15-3. 初期状態 __________________________________________________________52

15-4. セットアップ ______________________________________________________53 15-4-1. データグリッド資源管理システムウェブアプリ部分の設定 __________________ 53 15-4-2. 疎通確認______________________________________________________________ 54

第 16 章. 資源管理システムの起動/停止と保守について _________________ 54

16-1. 運用操作のパターンの種類と選定_____________________________________54 16-1-1. 起動__________________________________________________________________ 54 16-1-2. 起動の確認 ____________________________________________________________ 54 16-1-3. 停止__________________________________________________________________ 54 16-1-4. 停止の確認 ____________________________________________________________ 55 16-1-5. その他の運用操作 ______________________________________________________ 55

Page 9: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

viii

16-2. 保守 ______________________________________________________________55 16-2-1. 保守の概要 ____________________________________________________________ 55 16-2-2. バックアップ __________________________________________________________ 55 16-2-3. リストア______________________________________________________________ 55 16-2-4. トラブルシューティング ________________________________________________ 55 16-2-5. その他の保守作業 ______________________________________________________ 55

第 17 章. データグリッド資源管理システムのアンインストールについて __ 55

17-1. アンインストールの概要_____________________________________________55

17-2. アンインストール前の作業___________________________________________56

17-3. データグリッド資源管理システムのアンインストール ___________________56

17-4. アンインストール結果の確認_________________________________________56

17-5. アンインストールに失敗した場合の対処方法 ___________________________56

17-6. アンインストール後の作業___________________________________________56

第 18 章. データグリッドシステムの操作 ______________________________ 56

18-1. DGAMS メイン画面__________________________________________________56

18-2. DGAMS 転送ジョブ一覧画面__________________________________________59

18-3. Gfarm ノード情報画面_______________________________________________60

18-4. Gfarm メタデータ検索画面 ___________________________________________62

18-5. ファイル情報画面___________________________________________________63

18-6. コメント画面 ______________________________________________________64

18-7. ユーザ情報画面_____________________________________________________66

18-8. 資源管理機能一覧___________________________________________________66

第 19 章. VO 対応版 Gfarm, Gfarm 用 GridFTP サーバ操作手順_____________ 67

19-1. VO 対応版 Gfarm 操作手順 ___________________________________________67 19-1-1. サインオン ____________________________________________________________ 67 19-1-2. ファイル一覧の取得 ____________________________________________________ 68 19-1-3. ファイルのインポート __________________________________________________ 68 19-1-4. ファイルのエクスポート ________________________________________________ 68 19-1-5. ファイルの削除 ________________________________________________________ 69 19-1-6. ディレクトリの作成 ____________________________________________________ 69

Page 10: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

ix

19-1-7. ディレクトリの削除 ____________________________________________________ 69 19-1-8. ファイルシステムノードの空き容量の取得 ________________________________ 69 19-1-9. ファイルのレプリカの作成 ______________________________________________ 70 19-1-10. ファイルの保存先の表示 _______________________________________________ 70 19-1-11. ファイルの分割保存___________________________________________________ 70

19-2. Gfarm 用 GridFTP サーバ操作手順 _____________________________________70 19-2-1. サインオン ____________________________________________________________ 70 19-2-2. ファイルの読み書き ____________________________________________________ 71

第 20 章. ユーザ資産の移行 __________________________________________ 71

20-1. Gfarm メタデータの保存_____________________________________________71

20-2. スプールディレクトリの退避_________________________________________72

20-3. Gfarm(β2)のアンインストール ______________________________________72

20-4. Gfarm-VO のインストール____________________________________________72

20-5. メタデータのインポート_____________________________________________73

20-6. スプールディレクトリ内のデータの復元_______________________________73

Page 11: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

◆データグリッド環境について

第1章. はじめに

1-1. 導入の概要 データグリッドは、VO 対応版 Gfarm(Gfarm-VO)、Gfarm 用 GridFTP サーバ、データグ

リッドウェブインタフェース(Datagrid UI)、転送サービス(DGUFT)、資源管理システム

(DGRMS)サーバの順でインストールを行う。これらインストールを行う前に、Globus

Toolkit, PostgreSQL を予めインストールしておく必要がある。また、GSI 認証を使用する

ため、サーバのホスト証明書、ユーザの証明書等を取得し、grid-mapfile 等の設定を済ませ

ておく必要がある。

1-2. システム構成 まず、このドキュメントで使用する用語について述べる。

用語 ホスト名称 説明 Gfarm メタデータサーバ Gfarm ファイルシステムのメタデータを管理するホスト。メ

タデータを管理する PostgreSQL サーバ(postmaster)と gfmd が動作する。

Gfarm ファイルシステムノ

ード Gfarm ファイルシステムのデータ記憶領域を提供するホスト

群。 通常はクライアントとしても使用される。 それぞれのノード上では I/O デーモンの gfsd が動作する。

Gfarm クライアント Gfarm ファイルシステムを利用するホスト。Gfarm クライア

ントライブラリ、Gfarm コマンドツールがインストールされ

る。 Gfarm 用 GridFTP サーバ Gfarm に対して GridFTP でアクセスするための中継ホスト。

GridFTP サーバ、Gfarm-DSI、Gfarm クライアントライブラ

リで構成される。 データグリッド転送サービ

スサーバ(DGUFT サーバ) DGUFT のサーバ部分

Portal NAREGI ポータル。DataGrid のウェブアプリ部分(DataGrid UI)をインストールする。

DGRMS サーバ データグリッド資源管理システムサーバ。本ドキュメントで

は Gfarm メタデータサーバと Gfarm 用 GridFTP サーバを同

じノードで兼用している。そのノードを便宜上、DGRMS サ

ーバと呼ぶ。 ソフトウェア名称 説明 Gfarm クライアントライブ

ラリ Gfarm ファイルシステムにアクセスするためのライブラリ。

1

Page 12: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

PostgreSQL サーバ Gfarm メタデータサーバ・マシン上で動作するデータベース

管理システム。 gfmd Gfarm メタデータサーバ・マシン上で動作するデーモンプロ

グラム。 gfsd すべての Gfarm ファイルシステムノード上で動作するデーモ

ンプログラム。 Gfarm コマンドツール Gfarm 付属のクライアントコマンド。gfls, gfmkdir 等 VOMS クライアントライ

ブラリ プロキシ証明書から VO 情報を取り出すために使用する。

Gfarm DSI GridFTP 経由で Gfarm ファイルシステムにアクセスするため

の、GridFTP サーバの拡張モジュール。Gfarm 用 GridFTP サ

ーバで使用する。 DGAMS データグリッドウ

ェブインタフェース(DataGrid UI)

データグリッドにアクセスするための、ポータルにインスト

ールするデータグリッドアクセス管理システム(ウェブアプ

リ。) DGUFT データグリッド汎用転送サービス。データグリッドアクセス

管理システムに含まれる。

次に、構成について示す。

1-2-1. 構成 # 名称 Software 1 Gfarm メタデータサーバ Gfarm (PostgreSQL, gfmd)、VOMS ク

ライアントライブラリ、OGSA-DAI 2 Gfarm ファイルシステムノード Gfarm (gfsd)、VOMS クライアントラ

イブラリ 3 Gfarm Client Gfarm クライアントライブラリ、

VOMS クライアントライブラリ 4 Gfarm 用 GridFTP サーバ GridFTP サーバ、Gfarm-DSI。

(Gfarm クライアントが必要なので、

Server#3 のソフトウェアも必要) 5 DGUFT サーバ DGUFT 6 ポータルサーバ DataGrid UI(DGAMS)

Server#1, Server#2, Server#3, Server#4 は物理的には 1 台のマシンにまとめることが可能

である。

Server#1(Gfarm メタデータサーバ)の実体は PostgreSQL である。複数の VO で 1 つの

PostgreSQL サーバを共用する。

Server#2(Gfarm ファイルシステムノード)はファイル保存先として使用するノードすべて

が当てはまるので通常は複数台のマシン上で設定する。1 つの gfsd を複数の VO で共用で

きる。

Server#3 は Gfarm クライアント環境であり、Gfarm に直接アクセスしたいマシンすべて

が当てはまる。アプリケーションから Gfarm に直接アクセスしない場合には、

Server#4(Gfarm アクセス用サーバ)上にのみ必要。

2

Page 13: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

Server#4 (Gfarm アクセス用サーバ)は、通常は VO 毎に構築する。つまり、VO が複数あ

る場合、Server#4 は VO 数だけ必要になる。(1 つの Gfarm アクセス用サーバを複数の VO

で共用することも可能。)

Portal SS node Gfarm metadata server(※) Gfarm file system node (※)

DGUFT node GridFTP server for Gfarm(※)

DataGrid UI (DGAMS)

Tomcat(NAREGI Portal)

GT4

SS

DGUFT Client

GT4 GT4

GT4

GT4

PostgreSQLPostgreSQL

GT4

Gfarm filesystemnode

Gfarm Gfarm

Gfarm

Gfarm-DSI

DGUFT Server

OGSA DAI

PostgreSQL

Gfarm (client)

VOMS library VOMS library

VOMS library

Gfarm (meta server)

Gfarm (client)

gfsdWFT

PSE

GVS

Portal

PostgreSQL

glibc-not-hidden

図 1-1 構成

例えば下記のような構成が考えられる。 # マシン名 役割 1 pbg1012.naregi.org Gfarm メタデータサーバ、Gfarm ファイルシステムノー

ド、Gfarm Client、Gfarm 用 GridFTP サーバ 2 pbg1013.naregi.org DGUFT サーバ、Gfarm ファイルシステムノード 3 png2044.naregi.org ポータルサーバ, MyProxy 4 pfg0005.naregi.org UMS 5 png2045.naregi.org SS

1-3. 動作環境 1-3-1. 必要なハードウェア Gfarm-VO, DGUFT, DataGrid UI, DGRMS

3

Page 14: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

[Linux 環境]

■ CPU: IA-32

■ メモリ: 512MB 以上

■ ハードディスク: 10GB 以上

1-3-2. 必要なソフトウェア Gfarm-VO, DGRMS

[Linux 環境]

■ OS: Linux(CentOS 5 カーネル 2.6)

■ その他: glibc-2.5-18.el5_1.1 Globus Toolkit 4.0.5, gcc 4.1.1-52

j2sdk 1.5.0_12, PostgreSQL8.2.4, perl 5.8, ant 1.6.5

DataGrid UI (DGAMS)

[Linux 環境]

■ OS: Linux(CentOS 5 カーネル 2.6)

■ その他: Globus Toolkit 4.0.5, j2sdk 1.5.0_12, Tomcat 5.5.25, PostgreSQL JDBC

8.1 Build 408, VO 対応版 Gfarm-3738、OGSA-DAI WSRF 2.2, ant 1.6.5

DGUFT

■ OS: Linux(CentOS 5 カーネル 2.6)

1-3-3. 必要なファイル [Gfarm-VO]

■ %gfarm_install_location%/etc/gfarm.conf (Gfarm メタデータサーバ、Gfarm

ファイルシステムノード、Gfarm クライアント) ⇒ 5-4-3.章参照(必須)

■ %gfarm_install_location%/etc/gfarm/vo 名_gfarm.conf (Gfarm クライアン

ト) ⇒ 5-4-3.章参照(必須)

■ /etc/xinetd.d/gsiftp ⇒ 5-4-6.章参照 (Gfarm-DSI 必須)

※ ここでは、%gfarm_install_location%は Gfarm のインストール先を表す。

[DataGrid UI]

■ $CATALINA_HOME/datagrid/WEB-INF/classes/dg.prop.xml ⇒ 10-3-3 節参照

■ $CATALINA_HOME/datagrid/WEB-INF/classes/log4j.properties ⇒ 10-3-4 節

参照

■ $CATALINA_HOME/datagrid/WEB-INF/classes/dgmonitor.xml

⇒14-2-1, 15-4-1 章参照(必須)

4

Page 15: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

[DGUFT]

1-3-4. 必要な環境ファイル [Gfarm-VO]

■ /etc/grid-security/grid-mapfile 2-1 参照(必須)

[DataGrid UI]

■ Globus Toolkit の設定ファイル ⇒ 10-2-1 節参照(必須)

[DGUFT]

■ Globus Toolkit の設定ファイル ⇒ 10-2-1 節参照(必須)

1-3-5. 所有権とオーナ情報について [Gfarm-VO]

特に変更する必要はない。インストールには管理者権限が必要である。

[DataGrid UI]

所有者は特に限定しないが、展開したファイルを使用するユーザのアカウントでアクセ

スできる必要がある。インストールの作業については特に明記しない限り、一般ユーザで

作業を行う。

OGSA-DAI 設定の際に Globus Toolkit をインストールしたユーザの権限が必要。

[DGUFT]

所有者は特に限定しないが、展開したファイルを使用するユーザのアカウントでアクセ

スできる必要がある。インストールの作業については特に明記しない限り、一般ユーザで

作業を行う。

1-4. 運用に必要な動作条件 VO 対応版 Gfarm 使用時に、以下の条件を満たす必要がある。

■ VO 情報を持ったプロキシ証明書を使用できること。

■ VOMS のクライアントライブラリが使用できること。

■ Gfarm クライアントを使用するプロセスの環境変数 X509_USER_PROXY がユー

ザの有効なプロキシ証明書を指し示していること。

■ 書き込むファイルサイズ以上のハードディスク空き容量が Gfarm ファイルシステ

ムノード上にあること。

■ Globus Toolkit がインストールされていること。

■ Gfarm ファイルシステムノード上にユーザのアカウントが存在し、そのユーザがア

クセスできるように grid-mapfile が設定されていること。

5

Page 16: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

DataGrid UI 運用時に、以下の条件を満たす必要がある。

■ Tomcat がインストールされていること。

■ NAREGI ポータルシステムがインストールされていること。

■ Globus Toolkit がインストールされていること。

■ DGUFT が利用できること。

■ 環境変数 GLOBUS_LOCATION が Globus Toolkit のインストール先を指している

こと。

■ Gfarm メタデータサーバに OGSA-DAI がインストールされていること。

■ VO 対応版 Gfarm がインストールされていること。

DGUFT 運用時に、以下の条件を満たす必要がある。

■ Globus Toolkit がインストールされていること。

■ Globus Toolkit WSRF コンテナが稼働していること。

1-5. データグリッドインストールモジュール一覧 [Gfarm-VO]

gfarm-vo-3732-v1.tar.gz VO 対応版 Gfarm

dsi_gfarm.tar.gz Gfarm 用 GridFTP サーバモジュール

voms -1.6.8.tar.gz VOMS C API

[Datagrid UI]

datagrid.war ポータルノードへインストールするウェブアプリ

dai_installer.pl インストールスクリプト

data.service.resource.properties.template インストールスクリプトで使用するファイル

[DGUFT]

uft_service.gar DGUFT サーバへインストールするグリッドサービス

1-6. VOMSについて "This product includes software developed by the EU DataGrid (http://www.eu-

datagrid.org/)."

6

Page 17: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第2章. 初期設定

あらかじめ、Globus Toolkit 4.0.5 と PostgreSQL 8.2.4 をインストールしておく必要があ

る。Globus Toolkit はデータグリッド関連の全ノード、PostgreSQL は、Gfarm メタデータ

サーバ、Gfarm クライアント、DGUFT サーバで使用する。

ここでは、Globus Toolkit、PostgreSQL のインストールと設定の概要を示すが、インスト

ールの詳細については、それぞれのインストールドキュメントを参照すること。

2-1. Globus Toolkitインストールの概要 Globus Toolkit のインストールを行う。

まず、/naregi-v1/globus に Globus Toolkit をインストールすると仮定すると、次の手順を

実行する。

[globus@pbg1012 globus]# su

[root@pbg1012 globus]# mkdir /naregi-v1/globus

[root@pbg1012 globus]# chown globus:globus /naregi-v1/globus

[root@pbg1012 globus]# exit

[globus@pbg1012 globus]# export GLOBUS_LOCATION=/naregi-v1/globus

[globus@pbg1012 globus]# tar xvzf gt4.0.5-all-source-installer.tar.gz

[globus@pbg1012 globus]# cd gt4.0.5-all-source-installer

[globus@pbg1012 gt4.0.5-all-source-installer]# ./configure --

prefix=$GLOBUS_LOCATION

[globus@pbg1012 gt4.0.5-all-source-installer]# make

[globus@pbg1012 gt4.0.5-all-source-installer]# make 2>&1 | tee build.log

[globus@pbg1012 gt4.0.5-all-source-installer]# make install

証明書の設定は使用するCAにあわせておこなう。/etc/grid-security の下に、ホスト証明

書、ホスト秘密鍵、CA証明書等をインストールしたことを確認し、grid-mapfile を編集す

る。

Gfarm メタデータサーバ、DGUFT サーバでは下記の設定も行う。

コンテナ用の証明書と秘密鍵を用意する。

[root@pbg1012 globus]# cp /etc/grid-security/hostcert.pem /etc/grid-

security/containercert.pem

[root@pbg1012 globus]# cp /etc/grid-security/hostkey.pem /etc/grid-

security/containerkey.pem

[root@pbg1012 globus]# chown globus.globus /etc/grid-security/container*.pem

7

Page 18: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

Globus コンテナの起動スクリプトを作成する。

[globus@pbg1012 globus]# vim $GLOBUS_LOCATION/start-stop

[globus@pbg1012 globus]# cat $GLOBUS_LOCATION/start-stop

#! /bin/sh

set -e

export GLOBUS_LOCATION=/naregi-v1/globus

export JAVA_HOME=/usr/java/j2sdk1.5.0_13/

export ANT_HOME=/naregi-v1/apache-ant-1.6.5

export GLOBUS_OPTIONS="-Xms256M -Xmx512M"

. $GLOBUS_LOCATION/etc/globus-user-env.sh

cd $GLOBUS_LOCATION

case "$1" in

start)

$GLOBUS_LOCATION/sbin/globus-start-container-detached -p 8443

;;

stop)

$GLOBUS_LOCATION/sbin/globus-stop-container-detached

;;

*)

echo "Usage: globus {start|stop}" >&2

exit 1

;;

esac

exit 0

[globus@pbg1012 globus]# chmod +x $GLOBUS_LOCATION/start-stop

[root@pbg1012 globus]# vim /etc/init.d/globus

[root@pbg1012 globus]# cat /etc/init.d/globus

#!/bin/sh -e

case "$1" in

start)

8

Page 19: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

su - globus /naregi-v1/globus/start-stop start

;;

stop)

su - globus /naregi-v1/globus/start-stop stop

;;

restart)

$0 stop

sleep 1

$0 start

;;

*)

printf "Usage: $0 {start|stop|restart}\n" >&2

exit 1

;;

esac

exit 0

[root@pbg1012 globus]# chmod +x /etc/init.d/globus

[root@pbg1012 globus]# /etc/init.d/globus start

[root@pbg1012 globus]# /etc/init.d/globus stop

2-1-1. grid-mapfileについて grid-mapfile には以下のようにユーザの証明書のサブジェクトとローカルアカウント名を

記述する。この例はユーザのアカウント名が”tom”で証明書のサブジェクトが

"/O=Grid/OU=GlobusTest/OU=simpleCA-test.naregi.org/CN=tom"の場合のものであるが、

この値は使用するユーザの証明書から取得すること。ここでは Gfarm にアクセスするユー

ザすべてについて記述しておく必要がある。サブジェクトは「"」でくくっておく。

"/O=Grid/OU=GlobusTest/OU=simpleCA-test.naregi.org/CN=tom" tom

証明書の DN に Email アドレスが含まれる場合、複数の表記方法があるが、VO 対応版

Gfarm を使用する場合、VOMS ライブラリの制約から、”Email=“ の記法で grid-mapfile に

DN を記述しておく必要がある。”E=”あるいは ”emailAddress=”のみだと認証エラーになる。

Gfarm ファイルシステムノード(gfsd)として使用するノードの設定を行う際に注意が必要

である。

2-2. PostgreSQLインストールの概要 PostgreSQL のインストールを行う。

9

Page 20: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

10

[globus@pbg1012 gfarm]# tar xvzf postgresql-8.2.4.tar.gz

[globus@pbg1012 gfarm]# cd postgresql-8.2.4

[globus@pbg1012 postgresql-8.2.4]# ./configure --prefix=/naregi-v1/pgsql

[globus@pbg1012 postgresql-8.2.4]# mkdir –p /naregi-v1/pgsql

[globus@pbg1012 postgresql-8.2.4]# make

[globus@pbg1012 postgresql-8.2.4]# su

[root@pbg1012 postgresql-8.2.4]# make install

◆ VO対応版Gfarm、Gfarm用GridFTPサーバ

第3章. はじめに(VO対応版GfarmおよびGfarm用GridFTPサーバ)

3-1. VO対応版GfarmおよびGfarm用GridFTPサーバの概要 本節では、VO 対応版 Gfarm および Gfarm 用 GridFTP インタフェース(Gfarm-DSI)のイ

ンストール、および設定方法について説明する。

VO 対応版 Gfarm はグリッドファイルシステムである Gfarm を VO 対応にしたものである。

GSI 認証で使用されるユーザのプロキシ証明書の VO 情報によって Gfarm ファイルシステ

ム空間を切り替える機能を Gfarm に対して追加した。VO 情報の取得のために VOMS のク

ライアント API を使用している。

VO対応版Gfarmの構成は図 3-1のようになる。Gfarmクライアント内で、ユーザのプロ

キシ証明書からVO名を抽出し、そのVO名に応じて接続先Gfarmを切り替える機能を持つ

これにより、クライアントに対してVO毎に異なるGfarmファイルシステム空間を提供する

VO対応版のGfarmファイルシステムノード上で動作するI/Oデーモン(gfsd)は、G

ライアントとのGSI認証時に取得したユーザのプロキシ証明書からVO名を抽出し、サーバ

上でのファイル保存先(スプールディレクトリ)を切り替える機能をもち、1 つのgfsdを複数

のVOで共用することができる。

farmク

Page 21: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

gfsd

gfsd

gfsd

gfsd

gfsdgfsd

gfsd gfsd

Gfarmメタデータ

VO1 Gfarm

VO3 Gfarm VO2 Gfarm

アプリケーション

Gfarm切り替え機能

Gfarmメタデータ Gfarm

メタデータ

プロキシ証明書

VO名抽出

Gfarmクライアント

プロキシ証明書

プロキシ証明書

VO名抽出 VO名抽出

図 3-1. VO 対応版 Gfarm の構成

Gfarm 用 GridFTP インタフェース(Gfarm-DSI)は Gfarm 上のファイルに GridFTP プロトコ

ルでアクセスするためのものである。GridFTP クライアントを用いて Gfarm 内のファイル

を読み書きできる。実行には Gfarm クライアント環境と Globus Toolkit 4 に含まれる

GridFTP サーバが必要である。

VO対応版GfarmとGfarm用GridFTPサーバの構成例は図 3-2の様になる。

11

Page 22: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

gfsd gfsd gfsdgfsd

gfsdgfsd

gfsd gfsd

Gfarmメタデータ

VO1

VO3 VO2

GridFTPサーバ

GridFTPサーバ

GridFTPサーバ

ポータル SS

GridFTPクライアントGridFTPクライアント

Gfarm-DSI

Gfarm-DSI

Gfarm-DSI

汎用転送サービス汎用転送サービス

Gfarmメタデータ

Gfarmメタデータ

図 3-2. VO と Gfarm 用 GridFTP サーバの構成例

第4章. VO対応版Gfarmのインストールについて

4-1. インストールの概要 Gfarm メタデータサーバ、Gfarm ファイルシステムノード、Gfarm クライアント、Gfarm

用 GridFTP モジュール(Gfarm-DSI)の順でインストール作業を行う。VO 毎に作業が発生す

る。

4-2. インストール前の作業 VO 対応版 Gfarm をインストールする前に Globus Toolkit、VOMS クライアントライブラ

リ、PostgreSQL をインストールしておく。

以下、VOMS クライアントライブラリのインストールの概要を示す。

4-2-1. VOMSクライアントライブラリのインストール configure スクリプトでインストール先、GT4 の場所、flavor を指定してインストールする。

12

Page 23: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

13

Globus Toolkit が/naregi-v1/globus にインストールされていて、VOMS クライアントライ

ブラリを/naregi-v1/voms-1.6.8 以下にインストールすると仮定すると、次のようになる。

[globus@pbg1012 gfarm]# export GLOUBS_LOCATION=/naregi-v1/globus

[globus@pbg1012 gfarm]# . $GLOBUS_LOCATION/etc/globus-user-env.sh

[globus@pbg1012 gfarm]# tar xvzf voms-1.6.8.tar.gz

[globus@pbg1012 gfarm]# cd voms-1.6.8

[globus@pbg1012 voms-1.6.8]# ./configure --prefix=/naregi-v1/voms-1.6.8 --

with-globus-location=/naregi-v1/globus --with-globus-flavor=gcc32dbg

[globus@pbg1012 voms-1.6.8]# make

[globus@pbg1012 voms-1.6.8]# su

[root@pbg1012 voms-1.6.8]# make install

ユーザのプロキシ証明書を発行した CA の CA 証明書を/etc/grid-security/certificates/にイン

ストールしておくこと。

4-2-2. glibcのアップグレード (1) 確認 Gfarm用GridFTPサーバをインストールするマシンでは、glibc-not-hiddenパッケージ を

インストールする必要がある。インストール環境に対応したglibc-not-hiddenパッケージ が

存在するかを、ダウンロードサイト(<NAREGI_PKG>/dgrms/Progs/src/glibc-not-hidde

または

n/

http://datafarm.apgrid.org/software/syscall-hook.en.html)にて確認を行う。存在し

ない場合には、対応するglibcへアップグレードを行う。

[root@pbg1012 gfarm]# rpm -qa | grep glibc

glibc-common-2.5-18.el5_1.1

glibc-headers-2.5-18.el5_1.1

glibc-devel-2.5-18.el5_1.1

glibc-2.5-18.el5_1.1

glibc のバージョンと glibc-not-hidden パッケージのバージョンが合わない場合には、OS

のダウンロードサイト(http://mirror.centos.org/centos/5.1/updates/i386/RPMS/ )から以

下の glibc パッケージ取得して、適当なディレクトリへ配置する。バージョンが一致して

いる場合にはこの作業は必要ない。

glibc-common-2.5-18.el5_1.1.i386.rpm

Page 24: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

glibc-headers-2.5-18.el5_1.1.i386.rpm

glibc-devel-2.5-18.el5_1.1.i386.rpm

glibc-2.5-18.el5_1.1.i686.rpm

nscd-2.5-18.el5_1.1.i386.rpm

(2) アップグレード(テスト)

[root@pbg1012 glibc-2.5. 18.el5_1.1.i686]# rpm -Uhv --test\

glibc*.rpm \

nscd-2.5-18.el5_1.1.i686.rpm

warning: glibc-2.5-18.el5_1.1.i686.rpm: V3 DSA signature: NOKEY, key ID

db42a60e

Preparing... ########################################### [100%]

(3) アップグレード

[root@pbg1012 glibc-2.5. 18.el5_1.1.i686]# rpm -Uhv \

glibc*.rpm \

nscd-2.5-18.el5_1.1.i686.rpm

warning: glibc-2.5-18.el5_1.1.i686.rpm: V3 DSA signature: NOKEY, key ID

db42a60e

Preparing... ########################################### [100%]

1:glibc-common ########################################### [ 25%]

2:glibc ########################################### [50%]

Stopping sshd:[ OK ]

Starting sshd:[ OK ]

3:glibc-devel ########################################### [ 75%]

4:nscd ########################################### [100%]

(4) アップグレード結果の確認

[root@pbg1012 glibc-2.5-18.el5_1.1.i686]# rpm -qa | grep glibc

glibc-common-2.5-18.el5_1.1

glibc-headers-2.5-18.el5_1.1

glibc-devel-2.5-18.el5_1.1

glibc-2.5-18.el5_1.1

4-2-3. glibc-not-hiddenパッケージのインストール このパッケージは、Gfarm 用 GridFTP サーバをインストールするノードにインストールす

る。予めインストール環境の glibc に対応した glibc-not-hidden パッケージをダウンロード

14

Page 25: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

し、任意のディレクトリへ配置する。 (<NAREGI_PKG>/dgrms/Progs/src/glibc-not-

hidden/glibc-not-hidden-2.5-18.el5_1.1.src.rpm)

以下の例は、~globus/gfarm 下に配置してインストールしたと仮定したときのものである。

[root@pbg1012 gfarm]# rpmbuild --rebuild --target=i686 glibc-not-hidden-2.5-

18.el5_1.1.src.rpm

Installing glibc-not-hidden-2.5-18.el5_1.1.src.rpm

Building target platforms: i686

Building for target i686

Executing(%prep): /bin/sh -e /var/tmp/rpm-tmp.68897

+ umask 022

+ cd /usr/src/redhat/BUILD

+ cd /usr/src/redhat/BUILD

+ rm -rf glibc-2.5-20061008T1257

・・

+ umask 022

+ cd /usr/src/redhat/BUILD

+ rm -rf glibc-2.5-20061008T1257

+ exit 0

[root@pbg1012 gfarm]#

[root@pbg1012 gfarm]# ls -l /usr/src/redhat/RPMS/i686/

total 716

-rw-r--r-- 1 root root 605022 Dec 7 16:02 glibc-not-hidden-2.5-

18.el5_1.1.i686.rpm

-rw-r--r-- 1 root root 115393 Dec 7 16:02 glibc-not-hidden-debuginfo-2.5-

18.el5_1.1.i686.rpm

[root@pbg1012 gfarm]#

[root@pbg1012 gfarm]# rpm --test \

-Uvh /usr/src/redhat/RPMS/i686/glibc-not-hidden-2.5-18.el5_1.1.i686.rpm

Preparing... ########################################### [100%]

[root@pbg1012 gfarm]#

[root@pbg1012 gfarm]# rpm \

-Uvh /usr/src/redhat/RPMS/i686/glibc-not-hidden-2.5-18.el5_1.1.i686.rpm

Preparing... ########################################### [100%]

1:glibc-not-hidden ########################################### [100%]

15

Page 26: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

4-3. VO対応版Gfarmのインストール Gfarm メタデータサーバ、Gfarm ファイルシステムノード、Gfarm クライアント共通。

configure スクリプトで GT4 の場所と flavor、PostgreSQL、VOMS のインストール場所を

指定してインストールする。

[globus@pbg1012 gfarm]# tar xvzf gfarm-vo-3738-v1.tar.gz

[globus@pbg1012 gfarm]# cd gfarm-vo-3738-v1

[globus@pbg1012 gfarm]# ./configure --with-globus=/naregi-v1/globus --with-

globus-flavor=gcc32dbg --with-postgresql=/naregi-v1/pgsql --without-openldap -

-with-voms=/naregi-v1/voms-1.6.8 --prefix=/naregi-v1/gfarm-vo

[globus@pbg1012 gfarm]# make

[globus@pbg1012 gfarm]# su

[root@pbg1012 gfarm]# make install

4-4. インストール結果の確認 それぞれのマシン上に Gfarm がインストールされている。

[globus@pbg1012 gfarm]# ls /naregi-v1/gfarm-vo

4-5. インストールに失敗した場合の対処方法 ディレクトリを作成し直してもう一度実行する。make 時にエラーが発生して途中で終了

していないか確認する。

4-6. インストール後の作業 第5章のセットアップ手順参照し、設定を行う。

第5章. VO対応版Gfarmのセットアップについて

5-1. セットアップパターンの種類と選定 なし

5-2. セットアップ前の作業 VO 対応版 Gfarm をインストールしておく。

5-3. 初期状態 なし

16

Page 27: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

5-4. セットアップ 5-4-1. Gfarmメタデータサーバの設定 config-gfarm を実行し、Gfarm メタデータサーバの基本設定を行う。config-gfarm-vo で vo

の設定を追加していく。VO を追加する毎に config-gfarm-vo を実行する。VO 名は-v オプ

ションで指定する。VO 毎にデータベースが作成される。この例では VO 名として”vo1”

と”vo2”を指定している。-l でデータベースの保存先ディレクトリをしているが、config-

gfarm と config-gfarm-vo で同じ場所を指定すること。

%gfarm_install_dir%/etc/gfarm/以下に vo 毎の設定ファイルが生成される。

config-gfarm, config-gfarm-vo はメタデータサーバの設定のために実行する。

複数の VO を設定するには config-gfarm-vo を-v オプションを変えて VO の数だけ繰り返す。

[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1012 gfarm]# config-gfarm -l /var/gfarm-metadata -P /naregi-v1/pgsql

-a gsi -t

[root@pbg1012 gfarm]# config-gfarm -l /var/gfarm-metadata -P /naregi-v1/pgsql

-a gsi

[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-

v1/pgsql -a gsi -v vo1 -t

[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-

v1/pgsql -a gsi -v vo1

[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-

v1/pgsql -a gsi -v vo2 -t

[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-

v1/pgsql -a gsi -v vo2

5-4-2. Gfarmファイルシステムノードの設定 次にファイルシステムノードの設定を行う。

使用したい VO の Gfarm メタデータサーバから%gfarm_install_dir%/etc/ 以下を Gfarm フ

ァイルシステムノード上の対応したディレクトリにすべてコピーする。

config-gfsd を実行する。次に、config-gfsd-vo で VO 名を指定する。VO 毎に実行すること。

引数の 後に指定する、スプールディレクトリは、config-gfsd と config-gfsd-vo で同じ場

所を指定すること。

17

Page 28: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

VO 毎にメタデータサーバ、ファイルシステムノードを立ててもいいが複数 VO でサーバ

を共用しても良い。複数の VO を設定するには config-gfsd-vo を VO の数だけ繰り返す。

下記の例は VO として vo1 と vo2 を設定した時のものである。

[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1012 gfarm]# config-gfsd -t /var/gfarm-spool

[root@pbg1012 gfarm]# config-gfsd /var/gfarm-spool

[root@pbg1012 gfarm]# config-gfsd-vo -v vo1 –t /var/gfarm-spool

[root@pbg1012 gfarm]# config-gfsd-vo -v vo1 /var/gfarm-spool

[root@pbg1012 gfarm]# config-gfsd-vo -v vo2 –t /var/gfarm-spool

[root@pbg1012 gfarm]# config-gfsd-vo -v vo2 /var/gfarm-spool

config-gfsd, config-gfsd-vo はファイルシステムノードの設定のために実行する。

5-4-3. Gfarmクライアントの設定 アクセスしたい VO の Gfarm メタサーバから%gfarm_install_dir%/etc/ 以下を Gfarm クラ

イアント上の対応したディレクトリにコピーする。

その後、インストールしていない場合には glibc-not-hidden パッケージをインストールす

る。

[root@pbg1012 gfarm]# rpmbuild --rebuild glibc-not-hidden-2.5-

18.el5_1.1.src.rpm

[root@pbg1012 gfarm]# rpm -Uvh /usr/src/redhat/RPMS/i686/glibc-not-hidden-2.5-

18.el5_1.1.i686.rpm

ポータルにサインオンするときのユーザ名と Gfarm アクセス用サーバ上でのローカルアカ

ウント名が異なる場合には、%gfarm_install_dir%/etc/gfarm.conf およ

び、%gfarm_install_dir%/etc/gfarm/以下の設定ファイルすべてに local_user_map の項目を

追加して設定する。Gfarm 上のグローバルユーザ名がポータルにサインオンするときのユ

ーザ名と一致するようにする。ポータル上のユーザ名が user1 でローカルアカウント名が

user1local の場合には次のようになる。

[root@pbg1012 gfarm]# cat /naregi-v1/gfarm-vo/etc/gfarm.conf

.

auth enable gsi *

18

Page 29: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

local_user_map /naregi-v1/gfarm-vo/etc/gfarm-usermap

.

[root@pbg1012 gfarm]# cat /naregi-v1/gfarm-vo/etc/gfarm-usermap

user1 user1local

user2 user2local

user3 tom

[root@pbg1012 gfarm]#

Gfarm 上に各ユーザ用のアカウントで Gfarm ホームディレクトリを作成する。既にディレ

クトリが存在する場合にはこの作業は必要ない。

ユーザのプロキシ証明書に含まれる VO 情報を参照して接続する Gfarm 空間を切り替えて

いるので VO 毎に Gfarm 上のホームディレクトリを作成する必要がある。環境変数

VO_NAME で VO 名を指定しておけばプロキシ証明書に VO 情報が含まれていなくてもデ

ィレクトリの作成は可能であるがファイルの書き込みはできない。VO1 での Gfarm ホーム

ディレクトリを作成場合、次のようになる。

[user1@pbg1012 gfarm]# export VO_NAME=VO1

[user1@pbg1012 gfarm]# /naregi-v1/gfarm-vo/bin/gfmkdir gfarm:~

5-4-4. ログファイルの設定 Gfarm のログはデフォルトでは、/var/log/messages に出力される。ログ出力の syslog フ

ァシリティを変更する場合には、Gfarm ファイルサーバの起動スクリプト(/etc/init.d/gfsd)

の start 関数内の gfsd を起動部分に、-s <syslog ファシリティ>オプションをつける。

5-4-5. VO対応版Gfarmの疎通確認 Gfarm クライアントを用いて Gfarm が動作しているか確認する。VO 情報付きのユーザの

プロキシ証明書を取得した後、そのユーザのアカウントで以下のコマンドを実行する。

[user1@pbg1012 gfarm]# /naregi-v1/gfarm-vo/bin/gfhost –lv

0.07/0.02/0.00 G i386-centos5-linux 2 pbg1012.naregi.org(xxx.xxx.xxx.xxx)

0.00/0.00/0.00 G i386-centos5-linux 2 pbg1013.naregi.org(xxx.xxx.xxx.xxx)

0.00/0.00/0.00 G i386-centos5-linux 2 pbg1014.naregi.org(xxx.xxx.xxx.xxx)

上記は、3ノードに gfsd をセットアップした場合の例である。Gfarm ファイルサーバの一

覧が表示され、2カラム目がGになっていることを確認する。X の場合には認証に失敗し

ている。プロキシ証明書を取り替えて、VO 毎に確認する。

19

Page 30: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

5-4-6. Gfarm用GridFTPサーバのインストール Gfarm クライアント環境がインストールされているマシン上にインストールすること。通

常は VO 毎にサーバを用意するが、一台でも良い。

環境変数 GLOBUS_LOCATION を設定し、generate.sh を実行する。

引数に globus の flavor と gfarm がインストールされている場所を指定する。

Makefile が生成されるので、make, make install を実行する。

[globus@pbg1012 gfarm]# tar xvzf dsi_gfarm-01.tar.gz

[globus@pbg1012 gfarm]# cd dsi_gfarm

[globus@pbg1012 dsi_gfarm]# export GLOBUS_LOCATION=/naregi-v1/globus

[globus@pbg1012 dsi_gfarm]# ./generate.sh gcc32dbg /naregi-v1/gfarm-vo

[globus@pbg1012 dsi_gfarm]# make

[globus@pbg1012 dsi_gfarm]# make install

[globus@pbg1012 dsi_gfarm]# su

[root@pbg1012 dsi_gfarm]# vi /etc/xinetd.d/gsiftp

xinetd の gridftp の設定を行う。具体的には通常の GridFTP の設定に加えて、server_args

に-dsi gfarm を追加し、env に LD_PRELOAD を設定する。下記の例を参照。

Example:(/etc/xinetd.d/gsiftp)

service gsiftp

{

instances = 1000

socket_type = stream

wait = no

user = root

env += GLOBUS_LOCATION=/naregi-v1/globus

env += LD_LIBRARY_PATH=/naregi-v1/globus/lib

env += LD_PRELOAD=/naregi-v1/gfarm-

vo/lib/libgfs_hook.so:/usr/lib/gfarm/libpthread-not-

hidden.so:/usr/lib/gfarm/libc-not-hidden.so:/usr/lib/gfarm/librt-not-hidden.so

env += GFARM_FLAGS=g

server = /naregi-v1/globus/sbin/globus-gridftp-server

server_args = -i -dsi gfarm -log-level

"ERROR,DEBUG,WARN,INFO,DUMP,ALL" -log-module syslog

log_on_success += DURATION

20

Page 31: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

nice = 10

disable = no

}

/etc/services に GridFTP の設定がなければ追加する。

Example:(/etc/services)

gsiftp 2811/tcp #GridFTP

xinetd を再起動する。

[root@pbg1012 gfarm]# /etc/init.d/xinetd restart

Gfarm アクセス用グリッド FTP サーバを動作させるマシンの Gfarm クライアントライブ

ラリの設定を変更する。

%gfarm_install_dir%/etc/gfarm/内の設定ファイルすべてに以下の行を追記する。

write_local_priority disable

minimum_free_disk_space 2G

minimum_free_disk_space の行にはファイル保存先の Gfarm ファイルサーバを選択する際

の空き容量の条件を記述する。大きなファイルを保存することがあらかじめわかっている

場合にはそのサイズに合わせた値を設定しておく。単位はバイト。デフォルト値は 128M。

Gfarm 内での実際のデータの保存先は、5-4-6 の minimum_free_disk_space で設定した

値よりも空き容量が大きなノードが選択される。

5-4-7. Gfarm用GridFTPサーバの疎通確認 VO 情報付きのプロキシ証明書を取得した後、globus-url-copy コマンドを用いて Gfarm 内

のファイルにアクセスする。

Gfarm 用 GridFTP サーバが pbg1012.naregi.org というマシン上で動いていると仮定し、ユ

ーザ名が user1 だとすると、次のようになる。

[user1@pbg1012 gfarm]# ls > /tmp/testfile1

[user1@pbg1012 gfarm]# globus-url-copy file:///tmp/testfile1 gsiftp://

pbg1012.naregi.org/tmp/testfile

[user1@pbg1012 gfarm]# globus-url-copy

gsiftp://pbg1012.naregi.org/tmp/testfile file:///tmp/testfile2

[user1@pbg1012 gfarm]# diff /tmp/testfile1 /test/testfile2

後の diff コマンドでファイルが一致して、何も表示されなければ問題ない。

21

Page 32: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

次に、GridFTP サーバ経由で Gfarm にファイルを書き込む。

[user1@pbg1012 gfarm]# globus-url-copy file:///tmp/testfile1 gsiftp://

pbg1012.naregi.org/gfarm/user1/testfile

[user1@pbg1012 gfarm]# globus-url-copy

gsiftp://pbg1012.naregi.org/gfarm/user1/testfile file:///tmp/testfile3

[user1@pbg1012 gfarm]# diff /tmp/testfile1 /test/testfile3

エラーが発生した場合には設定を確認する。

第6章. VO対応版Gfarmの起動/停止と保守について

6-1. 運用操作のパターンの種類と選定 VO 対応版 Gfarm はコマンドラインから起動、停止を行う。

6-1-1. 起動 Gfarm メタデータサーバは以下のコマンドで起動する。

# /etc/init.d/gfarm-pgsql start

# /etc/init.d/gfmd start

Gfarm ファイルシステムノードは以下のコマンドで起動する。

# /etc/init.d/gfsd start

6-1-2. 起動の確認 ps コマンドでプロセスを確認する。

ps –ef | grep postmaster

ps –ef | grep gfsd

6-1-3. 停止 Gfarm メタデータサーバは以下のコマンドで停止する。

# /etc/init.d/gfarm-pgsql stop

# /etc/init.d/gfmd stop

Gfarm ファイルシステムノードは以下のコマンドで停止する。

# /etc/init.d/gfsd stop

22

Page 33: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

6-1-4. 停止の確認 ps コマンドでプロセスを確認する。

ps –ef | grep postmaster

ps –ef | grep gfsd

6-1-5. その他の運用操作 (1)Gfarm ファイルシステムノードの追加 新規ノードをファイルシステムノードとして追加するためには、そのノード上にGfarmを

インストールする必要がある。インストール方法は第 4 章. を参照。ここでは、pbg1015

をファイルシステムノードとして追加するとする。

Gfarm をインストールし、Gfarm メタサーバから%gfarm_install_dir%/etc/gfarm/以下の設

定ファイルをコピーして、以下の設定を行う。

[root@pbg1015 gfarm]# scp –r pbg1012.naregi.org:/naregi-v1/gfarm-vo/etc

/naregi-v1/gfarm-vo/

[root@pbg1015 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1015 gfarm]# config-gfsd -t /var/gfarm-spool

[root@pbg1015 gfarm]# config-gfsd /var/gfarm-spool

ファイルシステムノードの追加は VO ごとにおこなう。

追加したいファイルシステムノード(ここでは pbg1015)にログインし root で下記コマン

ドを実行。この例は VO 名が vo1 の場合である。実際に使用する VO 名に読み換えること。

root で実行。

[root@pbg1015 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1015 gfarm]# config-gfsd-vo -v vo1 /var/gfarm-spool

Gfarm クライアント環境がインストールされているマシン(ここでは pbg1012)にログイ

ン。VO 情報付のプロキシ証明書を取得した後、下記コマンドで確認。ユーザ権限で実行

すること。

[user1@pbg1012 gfarm-vo]# myproxy-get-delegation –l user1 –s png2044

[user1@pbg1012 gfarm-vo]# gfhost –lv

0.19/0.06/0.01 G i386-centos5-linux 2 pbg1012.naregi.org(xxx.xxx.xxx.xxx)

0.06/0.04/0.07 G i386-centos5-linux 2 pbg1013.naregi.org(xxx.xxx.xxx.xxx)

23

Page 34: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

0.19/0.06/0.01 G i386-centos5-linux 2 pbg1014.naregi.org(xxx.xxx.xxx.xxx)

0.19/0.07/0.01 G i386-centos5-linux 2 pbg1015.naregi.org(xxx.xxx.xxx.xxx)

(2)Gfarm ファイルシステムノードの削除 Gfarm クライアント環境がインストールされているマシン(ここでは pbg1012)に root で

ログインする。

ファイルシステムノードの削除は VO ごとにおこなう。

環境変数「VO_NAME」で VO 名を指定したのち gfhost –d で削除したいノード名を指定す

る。この例は VO 名が vo1 の場合である。実際に使用する VO 名に読み換えること。ここ

では pbg1014 のファイルシステムノードを削除している。

[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1012 gfarm]# export VO_NAME=vo1

[root@pbg1012 gfarm]# gfhost -d pbg1014.naregi.org

VO 情報付のプロキシ証明書を取得した後確認する。ユーザ権限で実行。ユーザ名は例で

は user1 になっているが、使用するユーザ名に読みかえること。

[user1@pbg1012 gfarm]# myproxy-get-delegation –l user1 –s png2044

[user1@pbg1012 gfarm]# gfhost –lv

0.19/0.06/0.01 G i386-centos5-linux 2 pbg1012.naregi.org(xxx.xxx.xxx.xxx)

0.00/0.00/0.00 G i386-centos5-linux 2 pbg1013.naregi.org(xxx.xxx.xxx.xxx)

(3) 大容量ファイルを保存する際のノード切り換え時の設定の変更 大容量ファイルを書き込む際に、書き込み先の gfsd がいっぱいになる前に別のノードに切

り換えるが、そのときに残しておくディスク容量の設定を変更する場合には以下のように

する。デフォルト値は 10MB。通常は変更する必要はない。

Gfarm ファイルシステムノード(gfsd)の設定を変更する。

%gfarm_install_dir%/etc/gfarm.conf に以下の行を追記する。

minimum_free_disk_space_for_write 10M

minimum_free_disk_space_for_write の行には Gfarm クライアントからファイルが書き込

まれたときにあけておく容量を記述する。単位はバイト。

5.4.6 の“minimum_free_disk_space”の設定値よりも”minimum_free_disk_space_for_write”

の設定値が小さくなるようにする。

24

Page 35: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

6-2. 保守 6-2-1. 保守の概要 設定ファイルを保存しておく

6-2-2. バックアップ 1-3-3 で述べた設定ファイルをバックアップしておく。

PostgreSQL 内のデータをバックアップする。

# /etc/initd.d/gfarm-pgsql stop

postgres$ tar cvzf backupdb.tar.gz /var/gfarm-metadata

# /etc/initd.d/gfarm-pgsql start

6-2-3. リストア バックアップしておいた 1-3-3 で述べた設定ファイルを戻す。

PostgreSQL のデータをリストアする。

# /etc/initd.d/gfarm-pgsql stop

postgres$ tar xvzf backupdb.tar.gz

# /etc/initd.d/gfarm-pgsql start

6-2-4. トラブルシューティング Gfarm のログを保存し確認してください。

すべてのファイルシステムノードの grid-mapfile にユーザのエントリが正しく設定されて

いるか確認する。登録する DN は下記コマンドで確認できる。

# /naregi-v1/voms-1.6.8/bin/voms-proxy-info -identity

6-2-5. その他の保守作業 Gfarm 上に保存したデータ自体も必要に応じてバックアップしておく。Gfarm ファイルサ

ーバ上で以下を実行する。gfsd のスプールディレクトリが/var/gfarm-spool であると仮定。

# tar cvzf databackup.tar.gz /var/gfarm-spool

25

Page 36: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第7章. VO対応版Gfarmのアンインストールについて

7-1. アンインストールの概要 Gfarm を停止した後、インストールディレクトリ、Gfarm スプールディレクトリ、Gfarm

メタデータディレクトリ、起動スクリプトを削除する。

7-2. アンインストール前の作業 Gfarm を停止する。

7-3. アンインストール 7-3-1. Gfarmメタデータサーバのアンインストール 以下のファイル、ディレクトリを削除する。

/var/gfarm-metadata

/etc/init.d/gfmd

/etc/init.d/gfarm-pgsql

/naregi-v1/gfarm-vo

7-3-2. Gfarmファイルシステムノードのアンインストール 以下のファイル、ディレクトリを削除する。

/var/gfarm-spool

/etc/init.d/gfsd

/naregi-v1/gfarm-vo

7-3-3. Gfarmクライアントのアンインストール 以下のファイル、ディレクトリを削除する。

/naregi-v1/gfarm-vo

7-4. アンインストール結果の確認 それぞれのマシンで、ファイルが削除されていることを確認する。

7-5. アンインストールに失敗した場合の対処方法 Gfarm が停止していることを確認して、もう一度アンインストール作業を行う。

7-6. アンインストール後の作業 なし

26

Page 37: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第8章. VO対応版Gfarm補足事項

8-1. 環境変数について システムコールフックライブラリを利用することで、通常のアプリケーションから、

Gfarm ファイルシステムを /gfarm にマウントしているようにアクセスすることができる。

Gfarm クライアントの設定を行ったマシン上で、以下のように、環境変数 LD_PRELOAD

でライブラリを指定して使用する。

[user1@pbg1012 gfarm]# export LD_PRELOAD=/naregi-v1/gfarm-

vo/lib/libgfs_hook.so:/usr/lib/gfarm/libpthread-not-

hidden.so:/usr/lib/gfarm/libc-not-hidden.so:/usr/lib/gfarm/librt-not-hidden.so

8-2. 同時アクセス数 Gfarm 用 GridFTP サーバは、xinetd から起動されるため、複数のクライアントから、

Gfarm 用 GridFTP サーバに同時にアクセスする場合の限界接続数は、xinetd の設定ファイ

ル(/etc/xinetd.conf)で設定される。

8-3. VO名について VO 名に”/”および空白文字を含む文字列を使用できない。

8-4. Gfarm用GridFTPサーバで表示されるファイル所有者情報について Gfarm 用 GridFTP サーバ経由で Gfarm 上のファイルの所有者、グループ情報を取得した

場合、実際の所有者にかかわらず、Gfarm 用 GridFTP サーバ上のローカルユーザ名が表示

される。アクセス管理システムの GUI で表示される情報も同様である。

8-5. GfarmのVOの登録と削除 8-5-1. VO登録

追加・削除する VO の VO 名は vo3 であると仮定する。すでに存在するVOを削除すると

その VO で保存した全ユーザの Gfarm 上のファイルが失われるので、注意すること。

すでにセットアップされている Gfarm メタサーバと Gfarm ファイルシステムノードに VO

を追加登録する。

(1) Gfarm メタサーバの設定 Gfarm メタデータサーバノードにログインし、root 権限で config-gfarm-vo を実行する。

実行ユーザ:root

[root@pbg1012 gfarm]# mkdir backup

27

Page 38: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

[root@pbg1012 gfarm]# cp /naregi-v1/gfarm-vo/etc/gfarm/* backup/

[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-

v1/pgsql -a gsi -v vo3

(2) Gfarm ファイルシステムノードの設定 Gfarm メタサーバの/naregi-v1/gfarm-vo/etc/gfarm/VO 名_gfarm.conf をファイルシステム

ノードすべてにコピーする。管理者権限でそれぞれのマシン上で config-gfsd-vo を実行す

る。Gfarm ファイルシステムノードが pbg1012 と pbg1013 だとすると以下のようになる。

実行ユーザ:root

[root@pbg1012 gfarm]# scp /naregi-v1/gfarm-vo/etc/gfarm/* pbg1013:\

/naregi-v1/gfarm-vo/etc/gfarm/

[root@pbg1012 gfarm]# scp /naregi-v1/gfarm-vo/etc/gfarm/* pbg1014:\

/naregi-v1/gfarm-vo/etc/gfarm/

[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1012 gfarm]# /etc/init.d/gfsd restart

[root@pbg1012 gfarm]# config-gfsd-vo -v vo3 /var/gfarm-spool

[root@pbg1013 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[root@pbg1013 gfarm]# /etc/init.d/gfsd restart

[root@pbg1013 gfarm]# config-gfsd-vo -v vo3 /var/gfarm-spool

8-5-2. VO削除 VO を削除するとその VO で保存した Gfarm ファイルが失われるので、注意すること。

UMS 等のノードでの VO 削除手順は別途実行する。

(1) Gfarm ファイルシステムノードの設定 すべての Gfarm ファイルシステムノード上のファイル

/naregi-v1/gfarm-vo/etc/gfarm/VO 名_gfarm.conf

を取り除く

[root@pbg1012 gfarm]# cd /naregi-v1/gfarm-vo/etc/gfarm/

[root@pbg1012 gfarm]# mkdir backup

[root@pbg1012 gfarm]# mv vo3_gfarm.conf backup/

[root@pbg1013 gfarm]# cd /naregi-v1/gfarm-vo/etc/gfarm/

28

Page 39: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

[root@pbg1013 gfarm]# mkdir backup

[root@pbg1013 gfarm]# mv vo3_gfarm.conf backup/

(2) Gfarm メタサーバの設定

Gfarm メタサーバ上の VO に対応したデータベースとユーザを削除する。

データベース名とユーザ名は gfarm_<VO 名>となる。

パスワードは、/var/gfarm-metadata/admin_password のものを使用する。

[root@pbg1012 gfarm]# /naregi-v1/pgsql/bin/dropdb -U postgres -p 10602

gfarm_vo3

DROP DATABASE

[root@pbg1012 gfarm]# /naregi-v1/pgsql/bin/dropuser -U postgres -p 10602

gfarm_vo3

DROP ROLE

8-6. Gfarmのアップグレード β2をインストールしてある環境を V1 にアップグレードする際に、β2で Gfarm 内に保

存したファイルを V1 環境に移行する方法について述べる。必要な作業は、Gfarm メタデ

ータのエクスポート、スプールディレクトリ(Gfarm 配下に保存したデータファイル自体)

の退避と復元、Gfarm メタデータのインポートである。

8-6-1. メタデータのダンプ Gfarm に付属するコマンド(gfdump)を使用して、Gfarm メタデータをダンプして VO 毎に

ファイルに保存する。Gfarm メタサーバのみで実行。

[root@pbg1012 gfarm]# export VO_NAME=「VO 名」

[root@pbg1012 gfarm]# /naregi-beta2/gfarm/bin/gfdump –d -f dumpfile_「VO 名」

8-6-2. スプールディレクトリの退避 ファイルシステムノードでスプールディレクトリ(β2 インストール時に指定した場所)

を退避する。全部の Gfarm ファイルシステムノードで実行。

[root@pbg1012 gfarm]# mv /var/gfarm-spool/ /var/gfarm-spool-bak

8-6-3. Gfarmのアンインストール β2 の Gfarm をアンインストールする。Gfarm は以下のディレクトリにインストールされ

ているので、これらのファイルをバックアップし、削除する。※dumpfile とスプールディ

レクトリ以外は使用しないが念のためバックアップしておく。

29

Page 40: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

内容 ディレクトリ名またはファイル名 Gfarm 実行ファイル /naregi-beta2/gfarm Gfarm メタデータ(Gfarm メタサ

ーバのみ) /var/gfarm-pgsql または、/naregi-beta2/pgsql (β2 イ

ンストール時に指定した場所) Gfarm スプールディレクトリ

(Gfarm ファイルシステムノード

すべて)

/var/gfarm-spool (β2 インストール時に指定した場

所)

起動スクリプト /etc/init.d/gfsd /etc/init.d/gfmd /etc/init.d/gfarm-pgsql

実行例:

[root@pbg1012 gfarm]# /etc/init.d/gfsd stop

[root@pbg1012 gfarm]# /etc/init.d/gfmd stop

[root@pbg1012 gfarm]# /etc/init.d/gfarm-pgsql stop

[root@pbg1012 gfarm]# /etc/init.d/postgres stop

[root@pbg1012 gfarm]# mkdir /tmp/backup

[root@pbg1012 gfarm]# mv /naregi-beta2/gfarm /tmp/backup/

[root@pbg1012 gfarm]# mv /var/gfarm-pgsql /tmp/backup/

[root@pbg1012 gfarm]# mv /etc/init.d/gfsd /tmp/backup/

[root@pbg1012 gfarm]# mv /etc/init.d/gfmd /tmp/backup/

[root@pbg1012 gfarm]# mv /etc/init.d.gfarm-pgsql /tmp/backup/

8-6-4. Gfarmのインストール V1(Gfarm-VO)をインストールし設定までおこなう。

8-6-5. メタデータのインポート(Gfarmメタサーバで実行) [root@pbg1012 gfarm]# export VO_NAME=「VO 名」

[root@pbg1012 gfarm]# /naregi-v1/gfarm-vo/bin/gfdump –r –f dumpfile「VO 名」

8-6-6. スプールディレクトリの復元 スプールディレクトリ内のデータ(Gfarm 内に保存したファイルの実体)の復元。Gfarm フ

ァイルシステムノードすべてで実行。

[root@pbg1012 gfarm]# cp -a /var/gfarm-spool-bak/* /var/gfarm-spool/

30

Page 41: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

◆ データグリッドアクセス管理システム

第9章. はじめに(データグリッドアクセス管理システム)

9-1. 概要 本ドキュメントでは、データグリッドアクセス管理システムのインストール、および設

定方法について説明する。

データグリッドアクセス管理システム(以下、DGAMS)は、NAREGI ポータルシステ

ムと同一ホストにインストールする事により、データグリッド汎用転送サービス(以下、

DGUFT)を利用し Gfarm 上のファイルをインポートおよびエクスポートする機能を提供

する。DGAMS により、Gfarm 上にインポートしたファイルをワークフローツールシステ

ムから指定し、NAREGI 統合ミドルウェア上で動作するアプリケーションから利用可能に

する。

DGAMSでは、環境としてTomcat、Globus Toolkit 4.0.5 が必要である。全体構成は図

9-1のようになる。

図 9-1. 構成概要図

本ドキュメントではポータルノードへの DGAMS のセットアップ、および DGUFT サー

バへの DGUFT のセットアップ、SS ノードへのセットアップをそれぞれ説明する。

31

Page 42: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第10章. DGAMS, DGUFTインストール

本システムのインストール作業は、大きく分けて2つのパートに分かれている。2つのパ

ートとは DGAMS と DGUFT である。DGAMS は NAREGI ポータルと同一マシンにインス

トールする。DGUFT は単独の DGUFT サーバにインストールする。

DGAMS は配布用 CD-ROM に含まれているソースコードをビルドすることにより作成さ

れる WAR ファイル(datagrid.war)によって構成され、DGUFT は GAR ファイル

(uft_service.gar)と uft_client.jar、uft_stub.jar、globus-url-copy2 で構成される。

uft_client.jar および uft_stub.jar は DGUFT のクライアントに配布するクライアントライブ

ラリである。これらのモジュールについては DGUFT のインストール作業が終了後、PSE

のポータルシステム、SS ノードに提供、配布する必要がある。

以下の節では、DGAMS と DGUFT のインストール手順を示す。

10-1. ポータルノードへのインストール前の作業 DGAMS が稼働する環境では Globus Toolkit、Tomcat をインストールしている事が前提

条件としている。

以下、Globus Toolkit, Tomcat インストールと設定の概要を示すが、インストールの詳

細については、それぞれのインストールドキュメントを参照すること。

10-1-1. Globus Toolkitインストール ポータルノードへの Globus Toolkit のインストールを行う。インストールの詳細にについ

ては 2-1 を参照。またポータルノードでは Globus コンテナを起動する必要はないので、

Globus コンテナの起動スクリプト作成プロセスは省略して構わない。

10-1-2. Tomcatインストール Tomcat のインストールについては省略する。

ここでは/naregi-v1/tomcat にインストールしたものとして、以下の環境変数を

/etc/profile などに記述し、tomcat を動作させるユーザから取得できる環境変数として設定

する。

% export CATALINA_HOME=/naregi-v1/tomcat

注意点として、この$CATALINA_HOME 以下のディレクトリは Globus Toolkit の稼動ユー

ザの書き込み権限が必要である。

32

Page 43: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

10-2. DGUFTサーバへのインストール前の作業 DGUFT が稼働する環境では Globus Toolkit、PostgreSQL をインストールしている事が

前提条件としている。

以下、Globus Toolkit, Tomcat、PostgreSQL インストールと設定の概要を示すが、イン

ストールの詳細については、それぞれのインストールドキュメントを参照すること。

10-2-1. Globus Toolkitインストール DGUFT サーバへの Globus Toolkit のインストールを行う。インストールの詳細にについ

ては 2-1 を参照。また DGUFT サーバでは Globus コンテナを起動する必要がある。

10-2-2. GridFTPの設定 Globus Toolkit のコンポーネントである GridFTP をデーモンとして設定する。詳細につい

ては Globus Toolkit のドキュメントを参照すること。

10-2-3. PostgreSQLインストール DGUFT サーバへの PostgreSQL のインストールを行う。インストールの詳細にについて

は 2-2 を参照。

33

Page 44: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

10-3. DGAMSインストール 10-3-1. ビルド前作業 DGAMS をビルドする前に、必須ライブラリである J2SSH をビルドする必要がある。

J2SSH については

http://sourceforge.net/projects/sshtools

から 0.2.7 のソースファイル一式をダウンロードし、適当なディレクトリに展開する。ま

た J2SSH のビルドには JDK 1.4 を利用すること。

# tar zxvf j2ssh-0.2.7-src.tar.gz

# cd j2ssh

# ant

# cp dist/lib/j2ssh*.jar /usr/local/src/naregi-dgams-v1/lib

10-3-2. ビルド作業 NAREGI ポータルがインストールされているマシン上でソースコードからビルド作業を

おこなう。以下に一連の作業のコマンド例を示す。あらかじめ ant をインストールしてお

くこと。

# cp /dev/cdrom/naregi-dgams-v1 /usr/local/src/naregi-dgams-v1

# cd /usr/local/src/naregi-dgams-v1/

# ant

10-3-3. インストール作業 ビルド作業により生成された datagrid.war ファイルを配置する。配置する場所は

Tomcat のインストールディレクトリ下にある webapps に配置し、tomcat のデーモンを再

起動する。その後、webapps の下に、datagrid ディレクトリが展開されている事を確認す

る。以下に一連の作業のコマンド例を示す。

% cp /usr/local/src/naregi-dgams-v1/datagrid.war $CATALINA_HOME/webapps/

% sudo /sbin/service tomcat restart

ただし Tomcat の自動展開機能が動作していない場合、手動で datagrid.war を展開する

必要がある。その手順を以下に示す。

% cd $CATALINE_HOME/webapps

34

Page 45: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

% mkdir datagrid

% cp /usr/local/src/naregi-dgams-v1/datagrid.war

$CATALINA_HOME/webapps/datagrid

% cd ./datagrid

% jar –xvf datagrid.war

手動で展開した場合はさらに、Tomcat の設定ファイルを編集する必要がある。編集す

るファイルは$CATALINE_HOME/conf/server.xml である。このファイルに DGAMS のサー

ブレットを登録する必要がある。設定例を以下に示し、追加すべき箇所を赤字で示す。ま

た表記中に Tomcat のインストールディレクトリを$CATALINE_HOME としているが、実

際に記述する場合は正確なフルパスの表記にしなければならない。

<Server port="8005" shutdown="SHUTDOWN" debug="0">

<Engine name="Catalina" defaultHost="localhost" debug="0">

<Host name="localhost" debug="0" appBase="webapps" ...

...

<Context path="/datagrid" reloadable="true"

docBase="$CATALINE_HOME/webapps/datagrid"

workDir="$CALALINE_HOME/webapps/datagrid/work" crossContext="true">

<Logger className="org.apache.catalina.logger.SystemOutLogger"

verbosity="4" timestamp="true"/>

</Context>

</Host>

</Engine>

</Service>

</Server>

10-3-4. ビルド後作業 DGAMS のインストールを完了するには、xmlp.js が必要となる。xmlp.js については

http://www.koders.com/javascript/fid23B536681B06C19EA98BB6AC5A5

B310CA22BE7A8.aspx

からダウンロードし、DAMS 内のディレクトリに配置する必要がある。

# cp xmlp.js $CATALINA_HOME/webapps/datagrid/js

#

35

Page 46: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

10-3-5. DGAMS設定ファイル アクセス管理用設定ファイル($CATALINA_HOME/webapps/datagrid/WEB-

INF/classes/dg.prop.xml)を編集し、環境に応じた値やホスト名を記述する。本ファイル

はentryタグのkey属性がプロパティ名称を示し、entryタグでくくられた値がプロパティに

対する値となる。管理者は値の箇所のみを編集する。プロパティ名称に関する説明は表

10-1を参照。

表 10-1.dg.prop.xml ファイルの説明

番 属性 説明 値の例

1 dams.mode 開発時に使用。編集してはならな

い。 active

2 dams.dg.uft.host DGUFT サーバのホスト名。環境に応

じて編集する。 uft.naregi.org

3 dams.dg.uft.protocol

DGUFT サーバへのプロトコル名。環

境に応じて編集する。 https

4 dams.dg.uft.port DGUFT サーバのポート番号。環境に

応じて編集する。

8443

5 dams.dg.uft. tmpdir

DGUFT サーバでの一時ファイル作成

ディレクトリ名。ユーザの誰もが読

み書きできるディレクトリを指定す

る。

/tmp/duft (DGUFT サーバに値の

ディレクトリを作成す

る必要がある) 6 dams.dg.uft.gsiftp

.port DGUFT サーバの GridFTP のポート番

号。環境に応じて編集する。 2811

7 dams.dg.ams.tmpdir

ポータルでの一時ファイル作成ディ

レクトリ名。ユーザの誰もが読み書

きできるディレクトリを指定する。

/tmp/dgams (ポータルノードに値の

ディレクトリを作成す

る必要がある) 8 dams.fileupload.m

ax.size ファイルアップロード時のファイル

サイズ上限値 1024000000

9 dams.max.joblist_line

ジョブリスト画面表示時の 1 ページ

あたり 大表示列数 20

10 dams.max.filelist_line

ファイルリスト画面表示時の 1 ペー

ジあたり 大表示列数 30

11 dams.gridftp.parallelism

GridFTP を利用したファイル転送の

時の並列コネクション数。 1

12 dams.gridftp.tcp_buffer

GridFTP を利用したファイル転送の

時のバッファサイズ数。 4194304

13 dams.gfarm.gridftp.%VO 名%

VO 毎の Gfarm アクセスサーバ URL名。VO 毎にエントリを記述する。

vo1.naregi.org:2811

36

Page 47: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

10-3-6. DGAMSログ設定ファイル DGAMS 用ログ設定ファイル($CATALINA_HOME/webapps/datagrid/WEB-

INF/classes/log4j.properties)を編集し、環境に応じたログファイル名を記述する。以下に

log4j.properties の例を示す.先頭の数字は行番号である。

本ファイルの 19 行目の log4j.appender.dgFile.File の属性値のログファイル名は本シス

テムのログファイルになる。それぞれの環境に合わせたログ出力のファイル名をフルパス

名で記述する。また青文字で記している箇所が Syslog への対応である。6 行目から 9 行目

にかけての dgSyslog をつけることで Syslog へ出力される。また dgSyslog を削除するこ

とで、Syslog への出力をやめることができる。

1 log4j.rootCategory=INFO, stdout

2 log4j.appender.stdout=org.apache.log4j.ConsoleAppender

3 log4j.appender.stdout.layout=org.apache.log4j.PatternLayout

4 log4j.appender.stdout.layout.ConversionPattern=%d [%t] %-5p %c - %m%n

5

6 log4j.logger.org.naregi.dg.ams=DEBUG, dgFile, dgSyslog

7 log4j.logger.org.naregi.dg.common=DEBUG, dgFile, dgSyslog

8 log4j.logger.org.naregi.dg.uft=DEBUG, dgFile, dgSyslog

9 log4j.logger.org.naregi.dg.resource=DEBUG, dgFile, dgSyslog

10

11 log4j.appender.dgSyslog=org.apache.log4j.net.SyslogAppender

12 log4j.appender.dgSyslog.Threshold=DEBUG

13 log4j.appender.dgSyslog.Facility=local4

14 log4j.appender.dgSyslog.SyslogHost=localhost

15 log4j.appender.dgSyslog.layout=org.apache.log4j.PatternLayout

16 log4j.appender.dgSyslog.layout.ConversionPattern=naregiDAMS %p: %c{2}

[%t,%M:%L] %m%n

17

18 log4j.appender.dgFile=org.apache.log4j.FileAppender

19 log4j.appender.dgFile.File=/tmp/dg.log

20 log4j.appender.dgFile.layout=org.apache.log4j.PatternLayout

21 log4j.appender.dgFile.layout.ConversionPattern=%d [%t] %-5p %c - %m%n

37

Page 48: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

10-4. DGUFTインストール

10-4-1. インストール作業 あらかじめ、ポータルノードでのビルド作業で生成された「/usr/local/src/naregi-dgams-

v1/uft_service.gar」を Globus Toolkit がインストールされており、設定が完了しているマ

シンに uft_service.gar ファイルをコピーしておく。

また、下記のファイルに関してもポータルノードからコピーしておく。

・/usr/local/src/naregi-dgams-v1/naregi_dg_common_v1/dgams_common.jar

・/usr/local/src/naregi-dgams-v1/naregi_uft_client_v1/dguft_client.jar

・/usr/local/src/naregi-dgams-v1/naregi_uft_common_v1/dguft_stub.jar

・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/WEB-INF/classes/log4j.properties

・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/WEB-INF/classes/dg.prop.xml

・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/shared_lib/portal-shared.jar

・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/shared_lib/vomsclient-0.2.jar

・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/shared_lib/glite-security-util-

java.jar

「uft_service.gar」の配置には Globus Toolkit 附属コマンドを利用する。インストール作

業は Globus Toolkit WSRF コンテナを動作させるユーザで作業する。以下に一連の作業の

コマンド例を示す。

% globus-deploy-gar uft_service.gar

%

また DGUFT のクライアントツールのインストール方法は以下の通りである。ただしウェ

ブインタフェースを利用する場合、DGUFT クライアントのインストール作業は必要ない。

コマンドラインにて DGUFT を操作する場合のみ、DGUFT クライアントのインストール

作業が発生する。インストール先ディレクトリを/naregi-v1/DGUFT とする。そのディレク

トリに対し、globus-url-copy2、addclasspath.sh、をコピーする。また Potarl から提供さ

れる dguft_client.jar、dguft_stub.jar、dgams_common.jar、portal-shared.jar、

vomsclient.jar、glite-security-util-java.jar、dg.prop.xml、log4j.properties をコピーする。

% cp naregi-dgams-v1/naregi_uft_client_v1/src/addclasspath.sh /naregi-

v1/DGUFT/bin

% cp naregi-dgams-v1/naregi_uft_client_v1/src/globus-url-copy2 /naregi-

v1/DGUFT/bin

38

Page 49: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

% cp naregi-dgams-v1/naregi_uft_client_v1/src/log4j.properties /naregi-

v1/DGUFT/bin

% cp naregi-dgams-v1/naregi_uft_client_v1/src/client-config.wsdd /naregi-

v1/DGUFT/bin

% cp naregi-dgams-v1/naregi_uft_client_v1/dguft_client.jar /naregi-

v1/DGUFT/lib

% cp naregi-dgams-v1/naregi_uft_common_v1/dguft_stub.jar /naregi-v1/DGUFT/lib

% cp naregi-dgams-v1/naregi_dg_common_v1/dgams_common.jar /naregi-v1/DGUFT/lib

% scp portal:/naregi-v1/tomcat/webapps/datagrid/WEB-INF/classes/dg.prop.xml

/naregi-v1/DGUFT/lib

% scp portal:/naregi-v1/tomcat/shared/lib/portal-shared-0.9.jar /naregi-

v1/DGUFT/lib

% scp portal:/naregi-v1/tomcat/shared/lib/vomsclient-0.2.jar /naregi-

v1/DGUFT/lib

% scp portal:/naregi-v1/tomcat/shared/lib/glite-security-util-java.jar

/naregi-v1/DGUFT/lib

% chmod 755 globus-url-copy2

その後、コピーした dg.prop.xml および log4j.properties を編集する。編集内容はそれぞれ

10-3-3、10-3-4 を参照する。

10-4-2. スキーマの作成作業 あらかじめ、ポータルノードでのビルド作業用に作成したディレクトリから

「/usr/local/src/naregi-dgams-v1/naregi_uft_service_v1/sql/createtable.sql」を本ノードへ

コピーしておき、下記のコマンドによりデータベースを作成する。

[globus@png2018 naregi-dgams-v1]$ su

[root@png2018 naregi-dgams-v1]$ su postgres

[postgres@png2018 naregi-dgams-v1]$ createuser -P duft

Enter password for new role: (パスワードを設定する)

Enter it again:

Shall the new role be a superuser? (y/n) n

Shall the new role be allowed to create databases? (y/n) y

Shall the new role be allowed to create more new roles? (y/n) y

CREATE ROLE

[postgres@png2018 naregi-dgams-v1]$ createdb dgDatabase -O duft

39

Page 50: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

CREATE DATABASE

[postgres@png2018 naregi-dgams-v1]$ psql -d dgDatabase –U duft –f

naregi_uft_service_v1/sql/createtable.sql

psql:/tmp/naregi-dgams-v1/naregi_uft_service_v1/sql/createtable.sql:16:

NOTICE: CREATE TABLE / PRIMARY

KEY will create implicit index "pk_job" for table "job"

CREATE TABLE

psql:/tmp/naregi-dgams-v1/naregi_uft_service_v1/sql/createtable.sql:30:

NOTICE: CREATE TABLE / PRIMARY

KEY will create implicit index "pk_request" for table "request"

CREATE TABLE

10-4-3. DGUFT設定ファイル DGUFTサーバ設定ファイル($GLOBUS_LOCATION/etc/uft_service/duft.prop.xml)を

編集し、環境に応じた値やホスト名を記述する。本ファイルはentryタグのkey属性がプロ

パティ名称を示し、entryタグでくくられた値がプロパティに対する値となる。管理者は値

の箇所のみを編集する。プロパティ名称に関する説明は表 10-2を参照。

表 10-2.duft.prop.xml ファイルの説明

番 属性 説明 値の例

1 duft.mode 開発時に使用。編集してはならな

い。 active

2 duft.is.metadata 開発時に使用。編集してはならな

い。 false

3 duft.data.src.driver

データベースドライバ名称。編集し

てはならない。 org.postgresql.Driver

4 duft.data.src.database

データベース名称。編集してはなら

ない。 postgresql

5 duft.data.src.host データベースサーバのホスト名もし

くは IP アドレス。環境に応じて編集

する。

uft.naregi.org (通常は DGUFT サーバ

と同一) 6 duft.data.src.port データベースサーバのポート番号。

環境に応じて編集する。

5432

7 duft.data.src.name

データベースサーバのデータベース

名称。編集してはならない。 dgDatabase

8 duft.data.src.user データベースサーバのユーザ名称。 duft

40

Page 51: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

環境に応じて編集する。 9 duft.data.src.pass

wd データベースサーバのユーザにタイ

ルすパスワード。環境に応じて編集

する。

duft

10 duft.connect.type データベースサーバの接続方法。編

集してはならない。 jdbc

11 duft.max.job_thread

同時に実行できるジョブの 大数 32

12 duft.max.job_queue

キューイングできるジョブの 大数 100000

10-5. モジュール配布 本節では他の NAREGI システムに本システムのモジュールの配布について説明する。モ

ジュールを配布するシステムは

■ ワークフローツールシステム

■ PSE システム

の2つである。

10-5-1. ワークフローツールシステムへのインストール ポータルノードの tomcat のインストール先を/naregi-v1/tomcat、apache2 のインストー

ル先を/naregi-v1/apache2 とする。そのディレクトリに対し、ポータルノード上にインス

トール済みの dgams-dialog.jar をコピーする。

% ln –s /naregi-v1/tomcat/webapps/datagrid/dgams-dialog.jar /naregi-

v1/apache2/htdocs

10-5-2. PSEへのインストール PSE のインストール先を/naregi-v1/tomcat/webapps/pse とする。そのディレクトリに対

し、ポータルノード上にインストール済みの dguft_client.jar、dguft_stub.jar、

dgams_common.jar をコピーする。またポータルノード上で設定した dg.prop.xml を同様

にコピーする。

% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/lib/dguft_client.jar /naregi-

v1/tomcat/webapps/pse/WEB-INF/lib

% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/lib/dguft_stub.jar /naregi-

v1/tomcat/webapps/pse/WEB-INF/lib

% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/lib/dgams_common.jar /naregi-

v1/tomcat/webapps/pse/WEB-INF/lib

% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/classes/dg.prop.xml /naregi-

41

Page 52: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

v1/tomcat/webapps/pse/WEB-INF/classes

10-6. 疎通確認 本節ではインストール後の疎通確認を行う手順を示す。本システムはデータグリッド資

源管理システムへ依存関係にあるので、両システムのインストール後に疎通確認を行う。

疎通確認は以下の手順に沿って行う。

1. ウェブブラウザを起動し、NAREGI ポータルシステムへアクセスする

2. sign on を行った後、メニュー画面の Data Grid Enviroment の[Open]ボタンを押下す

3. DGAMS の VO 名、ユーザ名が表示される事を確認する

4. /gfarm/ユーザ名のファイル一覧が表示される事を確認する。

42

Page 53: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第11章. DGAMS, DGUFTの運用と保守

DGAMS は Tomcat 上で動作する。従って動作手順は Tomcat と HTTP サーバに依存す

る。以下の節では Tomcat に準じた DGAMS の起動、停止方法を示す。また DGUFT は

Globus Toolkit WSRF コンテナ上で動作する。従って動作手順は Globus Toolkit WSRF コ

ンテナが動作する HTTP サーバに依存する。

11-1. DGAMS運用手順 11-1-1. 起動 システムコマンドを使用した Tomcat の起動の例を以下に示す。

% sudo /sbin/service tomcat start

Starting tomcat: Using CATALINA_BASE: /naregi-v1/tomcat

Using CATALINA_HOME: /naregi-v1/tomcat

Using CATALINA_TMPDIR: /naregi-v1/tomcat/temp

Using JAVA_HOME: /usr/java/jdk-1.5.0_13

%

11-1-2. 起動の確認 DGAMS の起動確認については、Tomcat のログファイルにて確認を行う。確認すべき記

述はないが、起動時に例外が発生していない事を確認する。

11-1-3. 停止 システムコマンドを使用した Tomcat の停止の例を以下に示す。

% sudo /sbin/service tomcat stop

Shutting down tomcat: Using CATALINA_BASE: /naregi-v1/tomcat

Using CATALINA_HOME: /naregi-v1/tomcat

Using CATALINA_TMPDIR: /naregi-v1/tomcat/temp

Using JAVA_HOME: /usr/java/jdk-1.5.0_13

%

11-1-4. 停止の確認 システムコマンドを用い、Tomcat のプロセスが無い事を確認する。コマンドの例を以

下に示す。

43

Page 54: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

% ps –auwx | grep tomcat

%

11-1-5. その他の運用操作 特になし。

11-2. DGUFT運用手順 11-2-1. 起動 システムコマンドを使用した Globus コンテナの起動の例を以下に示す。

% su

# /etc/init.d/globus start

Starting Globus container. PID: 14678

#

11-2-2. 起動の確認 DGUFT の起動確認については、Globus コンテナのログファイルにて確認を行う。確認

すべき記述はないが、起動時に例外が発生していない事を確認する。

11-2-3. 停止 システムコマンドを使用した Globus コンテナの停止の例を以下に示す。

% su

# /etc/init.d/globus stop

Stopping Globus container. PID: 14678

Container stopped

#

11-2-4. 停止の確認 システムコマンドを用い、Globus コンテナのプロセスが無い事を確認する。コマンドの

例を以下に示す。

% ps –auwx | grep globus | grep java

%

11-2-5. その他の運用操作 特になし。

44

Page 55: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

11-3. 保守 システムで不具合が起こった場合、以下のログファイルを確認することが有効な手段で

ある。DGAMS によって出力するログは以下の3つのファイルである。

■ TOMCAT のログファイル($CATALINE_HOME/logs/cataline.out)

■ DGAMS のログファイル(10-3-7 節を参照)

■ DGUFT のログファイル(10-3-7 節を参照)

以下の小節では、上述したログファイルを元にしたトラブルシューティングや、保守の

方法を説明する。

11-3-1. トラブルシューティング 動作中に表示されるシステムエラーメッセージを表 11-1にまとめる。説明に書いている

確認方法を試行し、動作確認を行う。

表 11-1.システムエラーメッセージ一覧

頁番 エラーメッセージ 説明 1 Auth failed.

or Authentication failer.

認証エラー。パスフレーズの入力ミスでも、この

エラーメッセージは表示されるが、 ・MyProxy の設定 ・証明書の有効期限 ・ネットワークの障害(firewall による port の塞

がり) などに起因する環境の問題の可能性がある。環境

設定の見直しおよび、10-3-6 節の設定ファイルの

MyProxy の項目を確認する。 2 https://ポータルホスト名:

443/datagrid/Import ホスト名のみが表示されるエラー。 Applet からポータルの DGAMS に接続を試みた

ときに、接続できなかった場合、発生するエラ

ー。ポータルの Tomcat もしくは HTTP サーバの

設定(ポート番号)に問題の可能性がある。 Tomcat もしくは HTTP サーバの設定およびネッ

トワークの設定を見直す。 3 Server returned HTTP

response code; 500 for https://ポータルホスト名/datagrid/Import

サーバに何らかの障害が発生し、表示されるエラ

ー。 ・設定ファイルが正常に読み込めない時 ・設定ファイルの中身が正しくない時 ・メタデータサーバのアドレス or ポート or ユー

ザ名が不正 ・PostgreSQL などのライブラリの配置 などの場合に表示する。10-3-7 節に示したログフ

ァイルに記載されている例外を元に上述した原因

を特定し、10-3-6 節と設定ファイルを確認する。

また、ライブラリの配置を 10-3 節にて確認す

45

Page 56: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

る。 4 エラーメッセージなし

現象:インポート画面にて

[access]ボタンを押下したとき

に、長時間画面が止まったま

ま、ログファイルに例外が発

1.インポートクライアントエラー。 データグリッド資源管理システムライブラリの設

定ファイルを確認する。 2. 画面のホスト名とポート番号に入力した値が不

正。この項目には GridFTP が稼働しているホス

ト名を入力する。

11-3-2. その他の保守作業 特に方法は記載しないが、ログファイルは増長になるので、定期的なログファイルのバ

ックアップおよび削除が必要となる。

46

Page 57: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第12章. DGAMS, DGUFTアンインストール

本章ではアンインストール方法を説明する。

12-1. アンインストール前の作業 DGAMS、DGUFT をアンインストールする前に本システムの停止を確認する。停止方法

については 11-1-2 節、11-1-3 節、11-2-2 節および 11-2-3 節を参照する。

12-2. DGAMSアンインストール DGAMS のアンインストールはシステムコマンドを用いる。コマンドの例を以下に示す。

% cd $CATALINE_HOME/webapps

% rm –fr ./datagrid

% rm ./pse/WEB-INF/lib/dguft_client.jar

% rm ./pse/WEB-INF/lib/dguft_stub.jar

% rm ./pse/WEB-INF/lib/dgams_common.jar

% rm ./pse/WEB-INF/lib/dg.prop.xml

% rm /naregi-v1/apache2/htdocs/dgams-dialog.jar

%

12-3. DGUFTアンインストール DGUFT のアンインストールは Globus Toolkit 附属コマンドを用いる。コマンドの例を

以下に示す。

% globus-undeploy-gar uft_service

%

47

Page 58: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

◆ データグリッド資源管理システム

第13章. はじめに(データグリッド資源管理システム)

データグリッド資源管理システムのインストール、および設定方法について説明する。デ

ータグリッド資源管理システムの設定を行うことで、ウェブブラウザを用いて、データグ

リッドアクセス管理画面から、Gfarm ファイルシステムの使用状況を表示することができ

るようになる。また、ファイルシステムノードごとのファイル数、使用容量の表示、ファ

イルの Gfarm 上での保存先の表示機能を持つ。また、条件を指定して、ファイルの情報を

表示することができる。ファイルごとにコメントを保存することができる。

データグリッド資源管理システムの全体構成は図 13-1のようになる。

Gfarm metadata server

GfarmClient Library

browser

Portal server

OGSA-DAIClient

servlet

Gfarm Environment

gfsd FS

gfsd FS

gfsd FS

gfsd FS

PostgreSQL(Gfarm

Metadata)

OGSA-DAI

GfarmClient

gfmd

gfsd FS

図 13-1. 構成

48

Page 59: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

第14章. データグリッド資源管理システムのインストールについて

14-1. インストールの概要 本システムのインストール作業は、Gfarm のインストールとポータル上でのサーブレット

部分の設定に分かれる。まず、Gfarm メタサーバ上で、OGSA-DAI のインストールを行う。

後にサーブレットの設定を行う。サーブレットの部分は、データグリッドアクセス管理

システムのウェブアプリに統合されているため、改めてインストール作業をする必要はな

く、設定のみをおこなう。

本システムは、OGSA-DAI をインストールして設定するためのスクリプトと設定ファイル

(dai_installer.pl、 data.service.resource.properties.template)とサーブレット部分

(datagrid.war)で提供される。

14-2. インストール前の作業 NAREGI ポータルシステムとその上で動作するデータグリッドアクセス管理システム(デー

タグリッドウェブインタフェース)、VO 対応版 Gfarm はすでにインストールされているも

のと仮定する。VO 対応版 Gfarm のインストールの方法については、VO 対応版 Gfarm の

章を参照すること。まず OGSA-DAI をインストールし、その後ウェブアプリの設定を行う。

14-2-1. OGSA-DAIのインストール Gfarm メタサーバをインストールしたマシン上でインストールを行う。dai_installer.pl、

data.service.resource.properties.template および OGSA-DAI のアーカイブ(ogsadai-wsrf-

2.2-bin.tar.gz )を Gfarm メタサーバが動作しているマシンの同一ディレクトリにコピーす

る。

Globus Toolkit が”/naregi-v1/globus”に、VO 対応版 Gfarm が/naregi-v1/gfarm-vo にインス

トールされていると仮定すると以下のようになる。あらかじめ ant をインストールしてお

くこと。

このインストーラは VO 対応版 Gfarm のインストール先の etc/gfarm/以下の設定ファイル

を参照して設定を行っている。

まず、JDBC のインストールを行う。

[globus@pbg1012 globus]# cp <NAREGI-PKG>/RequiredSoftware/postgresql-8.2-

507.jdbc3.jar $GLOBUS_LOCATION/lib

[globus@pbg1012 globus]# mv /naregi-v1/globus/lib/pg73jdbc2.jar /naregi-

v1/globus/lib/pg73jdbc2.jar.bak

49

Page 60: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

次に OGSA-DAI のインストールを行う。

(1) インストーラを使用する場合:

このインストーラは初期設定作業の負担を低減するためのものである。運用中に VO を追

加した場合など設定変更が必要な場合には「手動で設定する場合」を参照すること。

[root@pbg1012 globus]# mkdir /naregi-v1/dgrms

[root@pbg1012 globus]# chown globus.globus /naregi-v1/dgrms

[root@pbg1012 globus]# su globus

[globus@pbg1012 globus]# cd /naregi-v1/dgrms

[globus@pbg1012 dgrms]# <NAREGI-PKG>/RequiredSoftware/ogsadai-wsrf-2.2-

bin.tar.gz ./

[globus@pbg1012 dgrms]# <NAREGI-PKG>/dgrms/Progs/src/dai_installer/da* ./

[globus@pbg1012 dgrms]# ls

dai_installer.pl

data.service.resource.properties.template

ogsadai-wsrf-2.2-bin.tar.gz

[globus@pbg1012 dgrms]# export GLOBUS_LOCATION=/naregi-v1/globus

[globus@pbg1012 dgrms]# export GFARM_LOCATION=/naregi-v1/gfarm-vo

[globus@pbg1012 dgrms]# ./dai_installer.pl

カレントディレクトリに dgmonitor.xml というファイルが生成される。このファイルは後

でウェブアプリの設定に使用するので、ポータルサーバにコピーする。

Globus コンテナを起動

[root@pbg1012 globus]# /etc/init.d/globus start

Globus コンテナを起動できない場合には、設定を間違えている可能性があるので見直す。

もう一度インストールしなおしたい場合には、$GLOBUS_LOCATION/etc/ogsadai-wsrf デ

ィレクトリを退避してから dai_installer.pl スクリプトを実行すること。

(2) 手動で設定する場合:

インストーラ(dai_installer.pl)を使用した場合には以下の作業は必要ない。

まず、OGSA-DAI をコンテナにデプロイする。

[globus@pbg1012 globus]# tar xvzf ogsadai-wsrf-2.2-bin.tar.gz

[globus@pbg1012 globus]# cd ogsadai-wsrf-2.2

[globus@pbg1012 globus]# ant install -Ddai.container=/naregi-v1/globus

[globus@pbg1012 globus]# ant deployService -Ddai.container=/naregi-v1/globus -

50

Page 61: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

Ddai.service.name=ogsadai/DataService

次にデータベースごとの設定を行う。この作業は VO 毎に行う。

data.service.resource.properties を編集(dai.data.resource.type、RDBMS のアドレス、ユ

ーザ名、パスワード)し、VO 毎に設定ファイルを作成する。

ここで設定する dai.password=の部分のパスワードは、Gfarm インストール先

の”etc/gfarm/<vo 名>gfarm.conf”の postgresql_password 行のものを使用する。前後の余分

な””は取り除くこと。dai.user.name=の部分のユーザ名は Gfarm インストール先

の”etc/gfarm/<vo 名>gfarm.conf”の postgresql_user 行のものを使用する。

dai.data.resource.uri=の部分は PostgreSQL サーバのアドレスを指定するが、ここで用い

る DB 名は Gfarm インストール先の”etc/gfarm/<vo 名>gfarm.conf”の postgresql_dbname

行のものを使用する。dai.resource.id=の部分は、VO 毎に別の値を設定する。

dai.data.resource.type=Relational

# dai.data.resource.type=XML

# dai.data.resource.type=Files

.

.

.

dai.product.name=PostgreSQL

dai.product.vendor=Postgres

dai.product.version=

dai.data.resource.uri=jdbc:postgresql://localhost:10602/gfarm_<vo名>

dai.driver.class=org.postgresql.Driver

.

.

.

dai.user.name=gfarm_<vo 名>

dai.password=xxx

その後、以下を実行する。VO 毎に作成した設定ファイルすべてについて実行する。その

際、-Ddai.resource.id=の部分は先ほど設定した dai.resource.id の値を指定する。この

resource id の値は後で使用するので覚えておく。

[globus@pbg1012 globus]# ant deployResource -Ddai.container=/naregi-

beta2/globus

-Ddai.resource.file= data.service.resource.properties

51

Page 62: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

[globus@pbg1012 globus]# ant exposeResource -Ddai.container=/naregi-

beta2/globus -Ddai.service.name=ogsadai/DataService -

Ddai.resource.id=DataServiceResource

Globus コンテナを起動

[root@pbg1012 globus]# /etc/init.d/globus start

14-3. データグリッド資源管理システムのインストール

14-3-1. ウェブアプリ部分のインストール $CATALINA_HOME/webapps/の下に datagrid ディレクトリが存在することを確認する。

このディレクトリがない場合には、アクセス管理システムのインストール手順を見てイン

ストールする。

14-4. インストール結果の確認 $CATALINA_HOME/webapps/datagrid にウェブアプリがインストールされている。

14-5. インストールに失敗した場合の対処方法 ウェブアプリのインストールをやり直す場合には、

$CACTALINA_HOME/webapps/datagrid を削除する。

14-6. インストール後の作業 第15章のセットアップ手順参照し、設定を行う。

第15章. データグリッド資源管理システムのセットアップについて

15-1. セットアップパターンの種類と選定 なし

15-2. セットアップ前の作業 あらかじめ、Globus Toolkit, Gfarm, PostgreSQL, OGSA-DAI をインストールしておく。第

14 章を参照。

15-3. 初期状態 なし

52

Page 63: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

15-4. セットアップ 15-4-1. データグリッド資源管理システムウェブアプリ部分の設定 (1) インストーラが生成した設定ファイルを用いる場合

OGSA-DAIをインストールするときにインストーラ(dai_installer.pl)を使用した場合には、

設定ファイル(dgmonitor.xml)が生成される(14-2-1. 参照)ので、そのファイルをポータルサ

ーバの$CATALINA_HOME/webapps/datagrid/WEB-INF/classes/dgmonitor.xmlにコピーす

る。

後に Tomcat を再起動する。

[globus@pbg1012 globus]# scp /naregi-v1/dgrms/dgmonitor.xml

portal@png2044:/naregi-v1/tomcat/webapps/datagrid/WEB-

INF/classes/dgmonitor.xml

(2) 手動で設定する場合

通常はやらなくてよいが運用中に VO を追加した場合には設定を追加する必要がある。

$CATALINA_HOME/webapps/datagrid/WEB-INF/classes/dgmonitor.xml を編集

設定例

<?xml version="1.0" encoding="ISO-8859-1" ?>

<database>

<gfarm_locations>

<gfarm_metadata>

<vo>gin</vo>

<name>gin</name>

<dai_handle>https://pbg1012.naregi.org:8443/wsrf/services/ogsadai/DataService<

/dai_handle>

<dai_id>DataServiceResource_gin</dai_id>

</gfarm_metadata>

<gfarm_metadata>

<vo>vo1</vo>

<name>vo1</name>

<dai_handle>https://ccc2022.naregi.org:8443/wsrf/services/ogsadai/DataService<

/dai_handle>

<dai_id>DataServiceResource_vo1</dai_id>

</gfarm_metadata>

</gfarm_locations>

</database>

53

Page 64: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

<gfarm_metadata>タグ内に vo 毎の Gfarm メタサーバのデータベースに関する設定を行う。

vo には vo 名を指定する。ここにはユーザのプロキシ証明書から取得できる vo 名を記述す

る。

name には項目名を指定する。この項目はβ2との互換性のためのものなので、V1 の場合

には何か書いておけばよい。

dai_handle に OGSA-DAI のアドレスを指定する。

dai_id に dai.resource.id の値を指定する。

15-4-2. 疎通確認 NAREGI ポータルからサインオンし、資源管理システムのページが表示できることを確認

する。

第16章. 資源管理システムの起動/停止と保守について

16-1. 運用操作のパターンの種類と選定 データグリッド資源管理システムのウェブアプリ部分を起動、停止するにはアプリケーシ

ョンサーバ(Tomcat)を起動、停止する。アクセス管理システムの起動、停止手順を参照。

また、Gfarm メタサーバ側で Globus コンテナを起動、停止する。

16-1-1. 起動 名称 起動方法 Tomcat Tomcat の起動手順に従って

起動 Globus コンテナ /etc/init.d/globus start

Gfarm が起動していなければ起動すること。

16-1-2. 起動の確認 ps(1) 等で Tomcat が起動していることを確認してください。

ps –ef | grep tomcat

16-1-3. 停止 名称 停止方法 Tomcat Tomcat の停止手順に従って

停止 Globus コンテナ /etc/init.d/globus stop

54

Page 65: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

16-1-4. 停止の確認 ps(1) 等で Tomcat が起動していないことを確認してください。

ps –ef | grep tomcat

16-1-5. その他の運用操作 データベースへのアクセスを制限する場合には、

$GLOBUS_LOCATION/etc/ogsadai_wsrf/DataServiceResource_VO 名/DatabaseRoles.xml

を編集し、アクセス可能なユーザの証明書の DN を指定する。

VOを追加する際には、$GLOBUS_LOCATION/etc/ogsadai_wsrf/を削除して、14-2-1. をも

う一度実施する。その後、$CATALINA_HOME/webapps/datagrid/WEB-

INF/classes/dgmonitor.xmlを更新する。

16-2. 保守 16-2-1. 保守の概要 設定ファイルを保存しておく。

16-2-2. バックアップ 1-3-3 で述べた設定ファイルをバックアップしておく。

16-2-3. リストア バックアップしておいた 1-3-3 で述べた設定ファイルを戻す。

16-2-4. トラブルシューティング 環境設定ファイルと、Tomcat のログを保存してエラーメッセージを確認してください。

16-2-5. その他の保守作業 特になし。

第17章. データグリッド資源管理システムのアンインストールにつ

いて

17-1. アンインストールの概要 アンインストールはインストールしたウェブアプリのディレクトリを削除することで行う。

55

Page 66: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

17-2. アンインストール前の作業 Tomcat を停止する。

17-3. データグリッド資源管理システムのアンインストール $CATALINA_HOME/webapps/datagrid/WEB-INF/classes/dgmonitor.xml をバックアップす

る。

その後、ウェブアプリを削除する。アクセス管理システムのアンインストール方法を参照。

17-4. アンインストール結果の確認 ウェブサーバにアクセスして、データグリッドのページが表示されないことを確認する。

17-5. アンインストールに失敗した場合の対処方法 Tomcat を停止する。

17-6. アンインストール後の作業 Tomcat を起動する。

第18章. データグリッドシステムの操作

本章では、画面と操作について説明する。

18-1. DGAMSメイン画面 DGAMSメイン画面の表示にはポータル画面のData Grid Enviromentの[Open]ボタンを押

下する。GfarmやGridFTP、SRMに配置されているファイルを操作するための画面(図

18-1)である。画面左がメニューとなっており、それぞれのメニューの説明を表 18-1にま

とめる。

56

Page 67: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-1. DGAMS メイン画面

表 18-1.メニュー説明

頁番 画面表示項目 説明 1 File Browser Gfarm に配置されたファイルを操作する画面を表

示する。メイン画面のデフォルトでは Gfarm の

ファイル一覧が表示される。 GridFTP ホストのファイル一覧も表示ができる。

2 Add Host View Gfarm 以外のホストやミドルウェアにて管理され

ているファイルを操作する画面を表示する。 このメニューをクリックするとダイアログが表示

され、ホスト名、ポート番号、プロトコルを入力

する事ができ、submit ボタンを押下すると、当該

ホストに接続しファイル一覧を表示する。 3 Import Local File ローカルホストのファイルを Gfarm へインポー

トする機能である。このメニューをクリックする

とダイアログが表示され、ローカルファイルのパ

スを入力する事ができる。

57

Page 68: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

Submit ボタンを押下すると、Gfarm へファイル

を転送する。 4 Transfer Job List ファイル転送ジョブの一覧を表示する機能であ

る。このメニューをクリックすると、ファイル一

覧が消え、変わって転送ジョブ一覧が表示され

る。ファイル一覧を表示したい場合は、Gfarm Browser メニューをクリックする。

5 Search Status ファイル転送ジョブのステータス検索を行う画面

に画面遷移する。 6 Search for Metadata Gfarm メタデータ検索画面に画面遷移する。 7 User Information ユーザ情報画面に画面遷移する。 8 Gfarm Node Gfarm ノード情報画面に画面遷移する。 9 User List ユーザ情報画面に画面遷移する。ただし利用して

いる VO のユーザ全ての情報を表示する。 10 Return Memu データグリッド画面を閉じる。

また本画面のファイル一覧よりファイルのインポート、エクスポート、ファイル・ディ

レクトリの削除、ディレクトリの作成、ファイル一覧のリロードが可能となる。リスト表

示する限界値(10-3-5. を参照。[表 10-1.dg.prop.xmlファイルの説明]の項番 10 が該当)

を超えたファイル数の場合、[Next]ボタン、[Prev]ボタンが使用可能となり、次のファイル

リストの表示となる。

[Comment]ボタン、[Location]ボタンについては、Gfarm のファイルサーバのファイルリ

ストを表示する時にのみに表示される。

もしユーザディレクトリが Gfarm 上にない場合、[You don’t read [/gfarm/ユーザ]

directory]というディレクトリが読めないという旨のメッセージが表示される(図 18-2)。

このメッセージの[OK]ボタンを押すと、/gfarm ディレクトリの一覧が表示される。そこで

ディレクトリを作成する必要がある。画面中央のテキストボックスにユーザ名を入力し、

[Make Directory]ボタンを押下する。この様にディレクトリを作成しておくと、次からはエ

ラーメッセージは表示されない。

58

Page 69: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-3. DGAMS エラー画面

18-2. DGAMS転送ジョブ一覧画面 DGAMS画面およびDGUFTを利用したファイル転送ジョブの一覧を表示する画面(図

18-4)である。転送ジョブ一覧の右側にあるdeleteアンカーをクリックすると当該転送ジ

ョブが削除される。リスト表示する限界値(10-3-5. を参照。[表 10-1.dg.prop.xmlファイ

ルの説明]の項番 9 が該当)を超えたファイル数の場合、[Next]ボタン、[Prev]ボタンが使

用可能となり、次のジョブリストの表示となる。

59

Page 70: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

60

図 18-4.DGAMS 転送ジョブ一覧画面

18-3. Gfarmノード情報画面 まず、NAREGIポータルにサインオンする。そこで、Data Grid Environmentを選択し、

Data Grid のTop画面に移動する(図 18-5)。左側メニューで”Gfarm Node”を選択すると、図

18-6

のようにGfarmノード情報が表示される。この画面では、Gfarmファイルシステムノ

ードの使用容量とGfarm配下のファイル数が表示される。ただし、ファイルが保存されて

いないノードの情報は表示されない。

Page 71: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-5. Data Grid Top

図 18-6. Node 情報

61

Page 72: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

18-4. Gfarmメタデータ検索画面 DataGrid Top画面の左メニューで ”Search for Metadata” を選択すると、図 18-7のよう

に検索画面が表示される。この画面では、ファイル名、ファイルサイズ、ファイル所有者、

コメント、更新日時をキーとしてGfarm上のファイルを検索することができる。

図 18-7. 検索画面

62

Page 73: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-8. 検索結果画面

検索画面で検索条件を入力して、”Search” ボタンを押すと、図 18-8のように検索結果が表

示される。

18-5. ファイル情報画面 DataGrid Top画面のGfarmファイルリストの”Location”ボタンを押すと、図 18-9のよう

なファイル情報画面が表示される。この画面では、そのファイルの分割状況と保存先ファ

イルシステムノード名、サイズが表示される。

63

Page 74: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-9. ファイル情報

18-6. コメント画面 DataGrid Top画面のGfarmファイルリストの”Comment”ボタンを押すと、図 18-10のよう

なコメント編集画面が表示される。この画面で、テキストボックスにコメントを入力し

て、”update”ボタンを押すと、コメント情報が保存される。ただし、他人が所有するファ

イルに関してはコメントを保存、更新できない。

64

Page 75: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-10. コメント編集画面

図 18-11. コメント編集結果画面

65

Page 76: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

図 18-11はコメント編集結果画面である。コメントの編集に成功した場合には、”Update

Successful”と表示される。この画面で”Edit”ボタンを押すともう一度編集画面に戻る。

18-7. ユーザ情報画面 検索結果画面で、ファイルのOwnerの部分をクリックすると、図 18-12のように、そのユ

ーザのGfarm上でのディスク使用量、ファイル数を表示できる。

図 18-12. 特定ユーザ情報

図 18-13. ユーザ情報画面

DataGrid Top画面の左メニューで ”User list” を選択すると、図 18-13のようにユーザ情報

画面が表示される。この画面では、ユーザごとの使用容量とファイル数が表示される。

18-8. 資源管理機能一覧 以下が機能の一覧である。

66

Page 77: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

# 分類 機能 ノード毎のファイル数表示 1

Gfarm ノード

情報 ノード毎のファイルシステム使用量表示 2 ファイル情報 ファイルの分割情報と保存先の表示

特定ユーザのファイル数表示 3

ユーザ情報 特定ユーザのファイルシステム使用量表示

4 検索 検索機能 5 コメント Gfarm 上のファイルにコメント情報を付加する

第19章. VO対応版Gfarm, Gfarm用GridFTPサーバ操作手順

19-1. VO対応版Gfarm操作手順 通常は、データグリッドアクセス管理システムのユーザインタフェースを使用してファ

イルの操作を行う。ここでは、何らかの理由で直接 Gfarm 内のファイルを操作したい場合

の操作方法について説明する。

19-1-1. サインオン VO 対応版 Gfarm を使用するには、VO 情報つきのユーザのプロキシ証明書が必要であ

る。MyProxy のクライアントコマンド等を使用して MyProxy サーバからプロキシ証明書を

取り出すか、もしくは voms-proxy-init コマンド等を使用して VO 情報つきのユーザのプロ

キシ証明書を取得する。voms-proxy-info コマンドでプロキシ証明書が使用できる状態かど

うか確認する。

[user1@pbg1012 user1]$ myproxy-get-delegation -l user1 -s png2044.naregi.org

A credential has been received for user user1 in /tmp/x509up_u26895.

[user1@pbg1012 user1]$ /naregi-v1/voms-1.6.8/bin/voms-proxy-info --all

WARNING: Unable to verify signature!

Error: Cannot find certificate of AC issuer for vo VO1

subject : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy/CN=proxy

issuer : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy

identity : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy

type : unknown

strength : 1024 bits

path : /tmp/x509up_u26895

timeleft : 11:58:02

=== VO VO1 extension information ===

67

Page 78: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

VO : VO1

subject : /C=JP/O=naregi/CN=user1

issuer : /C=JP/O=National Research Grid

Initiative/OU=CGRD/CN=host/dfg0005.naregi.org

attribute : /VO1/Role=NULL/Capability=NULL

timeleft : 0:00:00

[user1@pbg1012 user1]$

19-1-2. ファイル一覧の取得 ファイル一覧は gfls コマンドを使用して取得する。

[user1@pbg1012 user1]$ export PATH=/naregi-v1/gfarm-vo/bin:$PATH

[user1@pbg1012 user1]$ gfls –la gfarm:/user1

drwxr-xr-x user1 * 0 Feb 19 13:50 .

drwxrwxrwx root gfarm 0 Jan 1 1970 ..

-rw-r--r-- user1 * 0 Feb 19 11:27 testdata1

[user1@pbg1012 user1]$

19-1-3. ファイルのインポート Gfarm 内にファイルを登録するには gfreg コマンドを使用する。

[user1@pbg1012 user1]$ ls /tmp/testdata

/tmp/testdata

[user1@pbg1052 user1]$ gfreg /tmp/testdata gfarm:/user1/testdata2

[user1@pbg1052 user1]$ gfls -la gfarm:/user1

drwxr-xr-x user1 * 0 Feb 22 16:44 .

drwxrwxrwx root gfarm 0 Jan 1 1970 ..

-rw-r--r-- user1 * 0 Feb 19 11:27 testdata1

-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2

[user1@pbg1012 user1]$

19-1-4. ファイルのエクスポート Gfarm 内のファイルを取り出すには gfexport コマンドを使用する。画面上にファイルの中

身が表示される。

[user1@pbg1012 user1]$ gfexport gfarm:/user1/testdata2

68

Page 79: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

19-1-5. ファイルの削除 Gfarm 内のファイルを削除するには gfrm コマンドを使用する。

[user1@pbg1012 user1]$ gfrm gfarm:/user1/testdata1

investigating hosts... done

[user1@pbg1012 user1]$ gfls -la gfarm:/user1

drwxr-xr-x user1 * 0 Feb 22 16:51 .

drwxrwxrwx root gfarm 0 Jan 1 1970 ..

-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2

[user1@pbg1012 user1]$

19-1-6. ディレクトリの作成 Gfarm 内にディレクトリを作成するには gfmkdir コマンドを使用する。

[user1@pbg1012 user1]$ gfmkdir gfarm:/user1/testdir1

[user1@pbg1012 user1]$ gfls -la gfarm:/user1

drwxr-xr-x user1 * 0 Feb 22 16:53 .

drwxrwxrwx root gfarm 0 Jan 1 1970 ..

-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2

drwxr-xr-x user1 * 0 Feb 22 16:53 testdir1

[user1@pbg1012 user1]$

19-1-7. ディレクトリの削除 Gfarm 内のディレクトリを削除するには gfrmdir コマンドを使用する。

[user1@pbg1012 user1]$ gfrmdir gfarm:/user1/testdir1

[user1@pbg1012 user1]$ gfls -la gfarm:/user1

drwxr-xr-x user1 * 0 Feb 22 16:54 .

drwxrwxrwx root gfarm 0 Jan 1 1970 ..

-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2

[user1@pbg1012 user1]$

19-1-8. ファイルシステムノードの空き容量の取得 [user1@pbg1052 user1]$ gfdf

1K-blocks Used Avail Capacity Host

18089428 11145796 6024716 65% pbg1012.naregi.org

18089428 9164404 8006108 53% pbg1013.naregi.org

18089428 9480444 7690068 55% pbg1014.naregi.org

[user1@pbg1052 user1]$

69

Page 80: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

19-1-9. ファイルのレプリカの作成 gfarm:/user1/testdata2 を複製する場合には以下のようになる。

[user1@pbg1012 user1]$ gfrep -N 2 gfarm:/user1/testdata2

19-1-10. ファイルの保存先の表示 [user1@pbg1012 user1]$ gfwhere gfarm:/user1/testdata2

gfarm:/user1/testdata2:

0: pbg1012.naregi.org pbg1013.naregi.org

[user1@pbg1012 user1]$

19-1-11. ファイルの分割保存 [user1@pbg1012 user1]$ gfsched -N 3 | gfimport_fixed -H - -o

gfarm:/user1/testdata3 /tmp/testdata

19-2. Gfarm用GridFTPサーバ操作手順 通常は、データグリッドアクセス管理システムのユーザインタフェースを使用してファ

イルの操作を行う。ここでは、何らかの理由で直接 Gfarm 用 GridFTP サーバにアクセス

したい場合の操作方法について説明する。

19-2-1. サインオン Gfarm 用 GridFTP サーバを使用して VO 対応版 Gfarm にアクセスするには、VO 情報つ

きのユーザのプロキシ証明書が必要である。MyProxy のクライアントコマンド等を使用し

て MyProxy サーバからプロキシ証明書を取り出すか、もしくは voms-proxy-init コマンド

等を使用して VO 情報つきのユーザのプロキシ証明書を取得する。voms-proxy-info コマン

ドでプロキシ証明書が使用できる状態かどうか確認する。

[user1@pbg1012 user1]$ myproxy-get-delegation -l user1 -s png2044.naregi.org

A credential has been received for user user1 in /tmp/x509up_u26895.

[user1@pbg1012 user1]$ /naregi-v1/voms-1.6.8/bin/voms-proxy-info --all

WARNING: Unable to verify signature!

Error: Cannot find certificate of AC issuer for vo VO1

subject : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy/CN=proxy

issuer : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy

identity : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy

70

Page 81: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

type : unknown

strength : 1024 bits

path : /tmp/x509up_u26895

timeleft : 11:58:02

=== VO VO1 extension information ===

VO : VO1

subject : /C=JP/O=naregi/CN=user1

issuer : /C=JP/O=National Research Grid

Initiative/OU=CGRD/CN=host/dfg0005.naregi.org

attribute : /VO1/Role=NULL/Capability=NULL

timeleft : 0:00:00

[user1@pbg1012 user1]$

19-2-2. ファイルの読み書き Gfarm 用 GridFTP サーバが動作しているマシンの”/gfarm/”の下にアクセスすることで

Gfarm のファイルにアクセスできる。ユーザの Gfarm 上のホームディレクトリ

は、”/gfarm/<ユーザ名>”なのでこのディレクトリ下でファイルを読み書きする。

[user1@pbg1012 user1]$ globus-url-copy file:///tmp/testdata

gsiftp://pbg1012.naregi.org:2811/gfarm/user1/testdata4

[user1@pbg1012 user1]$ globus-url-copy

gsiftp://pbg1012.naregi.org:2811/gfarm/user1/testdata4 file:///tmp/testdata4

第20章. ユーザ資産の移行

本章では、NAREGI グリッドミドルウェアβ2 版のユーザ資産を、V1へ移行するための

方法を説明する。V1 にアップグレードする際に、β2 で Gfarm 内に保存したファイルを

V1 環境に移行する。必要な作業は、Gfarm メタデータのエクスポート、スプールディレク

トリ(Gfarm 配下に保存したデータファイル自体)の退避と復元、Gfarm メタデータのイン

ポートである。

20-1. Gfarmメタデータの保存 Gfarm に付属するコマンド(gfdump)を使用して、Gfarm メタデータをダンプしてファイル

に保存する。Gfarm メタサーバのみで実行。すべての VO についてそれぞれダンプファイ

ルを作成する。

# export VO_NAME=<VO 名>

# /naregi-beta2/gfarm-vo/bin/gfdump –d -f dumpfile_<VO 名>

71

Page 82: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

20-2. スプールディレクトリの退避 ファイルシステムノードでスプールディレクトリ(β2ンストール時に指定した場所)を

退避する。全部の Gfarm ファイルシステムノードで実行。

# mv /var/gfarm-spool/ /var/gfarm-spool-bak

20-3. Gfarm(β2)のアンインストール β2の Gfarm をアンインストールする。Gfarm は以下のディレクトリにインストールされ

ているので、これらのファイルをバックアップし、削除する。※dumpfile とスプールディ

レクトリ以外は使用しないが念のためバックアップしておく。 内容 ディレクトリ名またはファイル名 Gfarm 実行ファイル /naregi-beta2/gfarm-vo Gfarm メタデータ(Gfarm メタサ

ーバのみ) /var/gfarm-pgsql または、/naregi-beta2/pgsql (β2イ

ンストール時に指定した場所) Gfarm スプールディレクトリ

(Gfarm ファイルシステムノード

すべて)

/var/gfarm-spool (β2インストール時に指定した場

所)

起動スクリプト /etc/init.d/gfsd /etc/init.d/gfmd /etc/init.d/gfarm-pgsql

実行例:

# /etc/init.d/gfsd stop

# /etc/init.d/gfmd stop

# /etc/init.d/gfarm-pgsql stop

# /etc/init.d/postgres stop

# mkdir /tmp/backup

# mv /naregi-beta2/gfarm /tmp/backup/

# mv /var/gfarm-pgsql /tmp/backup/

# mv /etc/init.d/gfsd /tmp/backup/

# mv /etc/init.d/gfmd /tmp/backup/

# mv /etc/init.d.gfarm-pgsql /tmp/backup/

20-4. Gfarm-VOのインストール V1(Gfarm-VO)をインストールし設定までおこなう。

72

Page 83: NAREGI Middleware DataGrid管理者ガイド NAREGI Middleware DataGrid vi 10-2. DGUFTサーバへのインストール前の作業_____33 10-2-1

管理者ガイド NAREGI Middleware DataGrid

73

20-5. メタデータのインポート メタデータのインポート(Gfarm メタサーバで実行)

# export VO_NAME=<VO 名>

# /naregi-v1/gfarm-vo/bin/gfdump –r –f dumpfile_<VO 名>

20-6. スプールディレクトリ内のデータの復元 スプールディレクトリ内のデータ(Gfarm 内に保存したファイルの実体)の復元。Gfarm フ

ァイルシステムノードすべてで実行。

# cp -a /var/gfarm-spool-bak/* /var/gfarm-spool/