Upload
others
View
0
Download
0
Embed Size (px)
Citation preview
管理者ガイド
NAREGI Middleware DataGrid
2008年10月
国立情報学研究所
管理者ガイド NAREGI Middleware DataGrid
i
ドキュメントリスト
◆ 管理者ガイド グループ 管理者ガイド NAREGI Middleware
IS(Distributed Information Service) 管理者ガイド NAREGI Middleware
IS(Distributed Information Service) - LRPSConfig - 管理者ガイド NAREGI Middleware SS(Super Scheduler) 管理者ガイド NAREGI Middleware
GridVM(Grid Virtual Machine) 管理者ガイド NAREGI Middleware Portal 管理者ガイド NAREGI Middleware
PSE(Problem Solving Environment) 管理者ガイド NAREGI Middleware
WFT(GUI Workflow Tool) 管理者ガイド NAREGI Middleware
GVS (Grid Visualization System) 管理者ガイド NAREGI Middleware DataGrid 管理者ガイド NAREGI Middleware CA(Certification Authority) 管理者ガイド NAREGI Middleware
UMS(User Management Server) 管理者ガイド NAREGI Middleware Authorization Service 管理者ガイド NAREGI Middleware Renewal Service 管理者ガイド NAREGI Middleware
SBC(Synchronous Data Transfer Library) 管理者ガイド NAREGI Middleware Mediator
管理者ガイド NAREGI Middleware DataGrid
ii
◆ 利用者ガイド グループ 利用者ガイド NAREGI Middleware IS(Distributed Information Service) 利用者ガイド NAREGI Middleware Portal 利用者ガイド NAREGI Middleware PSE(Problem Solving Environment) 利用者ガイド NAREGI Middleware
PSE(Problem Solving Environment) - Command line Interface - 利用者ガイド NAREGI Middleware WFT(GUI Workflow Tool) プログラミングガイド NAREGI Middleware WFT(GUI Workflow Tool) 利用者ガイド NAREGI Middleware
GVS(Grid Visualization System) - Client Module - 利用者ガイド NAREGI Middleware
GVS(Grid Visualization System) - Parallel Visualization Module - 利用者ガイド NAREGI Middleware CA(Certification Authority) 利用者ガイド NAREGI Middleware UMS(User Management Server) 利用者ガイド NAREGI Middleware Authorization Service 利用者ガイド NAREGI Middleware Renewal Service 利用者ガイド NAREGI Middleware
SBC (Synchronous Data Transfer Library) 利用者ガイド NAREGI Middleware Mediator
目次
Copyright© 2004-2008 National Institute of Informatics, Japan. All rights reserved.
This file or a portion of this file is licensed under the terms of the NAREGI Public License, found at
http://www.naregi.org/download/. If you redistribute this file, with or without modifications, you must
include this notice in the file.
管理者ガイド NAREGI Middleware DataGrid
iii
目次
◆データグリッド環境について_________________________________________1
第 1 章. はじめに _____________________________________________________1
1-1. 導入の概要___________________________________________________________1
1-2. システム構成_________________________________________________________1 1-2-1. 構成 _____________________________________________________________________2
1-3. 動作環境_____________________________________________________________3 1-3-1. 必要なハードウェア _______________________________________________________3 1-3-2. 必要なソフトウェア _______________________________________________________4 1-3-3. 必要なファイル ___________________________________________________________4 1-3-4. 必要な環境ファイル _______________________________________________________5 1-3-5. 所有権とオーナ情報について _______________________________________________5
1-4. 運用に必要な動作条件_________________________________________________5
1-5. データグリッドインストールモジュール一覧 _____________________________6
1-6. VOMS について _______________________________________________________6
第 2 章. 初期設定 _____________________________________________________7
2-1. Globus Toolkit インストールの概要 ______________________________________7 2-1-1. grid-mapfile について ______________________________________________________9
2-2. PostgreSQL インストールの概要 ________________________________________9
◆ VO 対応版 Gfarm、Gfarm 用 GridFTP サーバ _________________________ 10
第 3 章. はじめに(VO 対応版 Gfarm および Gfarm 用 GridFTP サーバ) ______ 10
3-1. VO 対応版 Gfarm および Gfarm 用 GridFTP サーバの概要 __________________10
第 4 章. VO 対応版 Gfarm のインストールについて ______________________ 12
4-1. インストールの概要__________________________________________________12
4-2. インストール前の作業________________________________________________12 4-2-1. VOMS クライアントライブラリのインストール______________________________ 12 4-2-2. glibc のアップグレード___________________________________________________ 13 4-2-3. glibc-not-hidden パッケージのインストール _________________________________ 14
管理者ガイド NAREGI Middleware DataGrid
iv
4-3. VO 対応版 Gfarm のインストール ______________________________________16
4-4. インストール結果の確認______________________________________________16
4-5. インストールに失敗した場合の対処方法 ________________________________16
4-6. インストール後の作業________________________________________________16
第 5 章. VO 対応版 Gfarm のセットアップについて ______________________ 16
5-1. セットアップパターンの種類と選定 ____________________________________16
5-2. セットアップ前の作業________________________________________________16
5-3. 初期状態____________________________________________________________16
5-4. セットアップ________________________________________________________17 5-4-1. Gfarm メタデータサーバの設定 ___________________________________________ 17 5-4-2. Gfarm ファイルシステムノードの設定 _____________________________________ 17 5-4-3. Gfarm クライアントの設定 _______________________________________________ 18 5-4-4. ログファイルの設定 _____________________________________________________ 19 5-4-5. VO 対応版 Gfarm の疎通確認______________________________________________ 19 5-4-6. Gfarm 用 GridFTP サーバのインストール ___________________________________ 20 5-4-7. Gfarm 用 GridFTP サーバの疎通確認 _______________________________________ 21
第 6 章. VO 対応版 Gfarm の起動/停止と保守について ___________________ 22
6-1. 運用操作のパターンの種類と選定______________________________________22 6-1-1. 起動 ___________________________________________________________________ 22 6-1-2. 起動の確認 _____________________________________________________________ 22 6-1-3. 停止 ___________________________________________________________________ 22 6-1-4. 停止の確認 _____________________________________________________________ 23 6-1-5. その他の運用操作 _______________________________________________________ 23
6-2. 保守 _______________________________________________________________24 6-2-1. 保守の概要 _____________________________________________________________ 24 6-2-2. バックアップ ___________________________________________________________ 25 6-2-3. リストア _______________________________________________________________ 25 6-2-4. トラブルシューティング _________________________________________________ 25 6-2-5. その他の保守作業 _______________________________________________________ 25
第 7 章. VO 対応版 Gfarm のアンインストールについて __________________ 25
7-1. アンインストールの概要______________________________________________25
管理者ガイド NAREGI Middleware DataGrid
v
7-2. アンインストール前の作業____________________________________________25
7-3. アンインストール____________________________________________________26 7-3-1. Gfarm メタデータサーバのアンインストール _______________________________ 26 7-3-2. Gfarm ファイルシステムノードのアンインストール _________________________ 26 7-3-3. Gfarm クライアントのアンインストール ___________________________________ 26
7-4. アンインストール結果の確認__________________________________________26
7-5. アンインストールに失敗した場合の対処方法 ____________________________26
7-6. アンインストール後の作業____________________________________________26
第 8 章. VO 対応版 Gfarm 補足事項 ____________________________________ 26
8-1. 環境変数について____________________________________________________26
8-2. 同時アクセス数______________________________________________________27
8-3. VO 名について_______________________________________________________27
8-4. Gfarm 用 GridFTP サーバで表示されるファイル所有者情報について ________27
8-5. Gfarm の VO の登録と削除 ____________________________________________27 8-5-1. VO 登録 ________________________________________________________________ 27 8-5-2. VO 削除 ________________________________________________________________ 28
8-6. Gfarm のアップグレード ______________________________________________29 8-6-1. メタデータのダンプ _____________________________________________________ 29 8-6-2. スプールディレクトリの退避 _____________________________________________ 29 8-6-3. Gfarm のアンインストール _______________________________________________ 29 8-6-4. Gfarm のインストール ___________________________________________________ 30 8-6-5. メタデータのインポート(Gfarm メタサーバで実行) __________________________ 30 8-6-6. スプールディレクトリの復元 _____________________________________________ 30
◆ データグリッドアクセス管理システム ______________________________ 31
第 9 章. はじめに(データグリッドアクセス管理システム) ________________ 31
9-1. 概要 _______________________________________________________________31
第 10 章. DGAMS, DGUFT インストール ________________________________ 32
10-1. ポータルノードへのインストール前の作業_____________________________32 10-1-1. Globus Toolkit インストール _____________________________________________ 32 10-1-2. Tomcat インストール ___________________________________________________ 32
管理者ガイド NAREGI Middleware DataGrid
vi
10-2. DGUFT サーバへのインストール前の作業 ______________________________33 10-2-1. Globus Toolkit インストール _____________________________________________ 33 10-2-2. GridFTP の設定 ________________________________________________________ 33 10-2-3. PostgreSQL インストール _______________________________________________ 33
10-3. DGAMS インストール________________________________________________34 10-3-1. ビルド前作業 __________________________________________________________ 34 10-3-2. ビルド作業 ____________________________________________________________ 34 10-3-3. インストール作業 ______________________________________________________ 34 10-3-4. ビルド後作業 __________________________________________________________ 35 10-3-5. DGAMS 設定ファイル ___________________________________________________ 36 10-3-6. DGAMS ログ設定ファイル _______________________________________________ 37
10-4. DGUFT インストール ________________________________________________38 10-4-1. インストール作業 ______________________________________________________ 38 10-4-2. スキーマの作成作業 ____________________________________________________ 39 10-4-3. DGUFT 設定ファイル____________________________________________________ 40
10-5. モジュール配布_____________________________________________________41 10-5-1. ワークフローツールシステムへのインストール ____________________________ 41 10-5-2. PSE へのインストール __________________________________________________ 41
10-6. 疎通確認 __________________________________________________________42
第 11 章. DGAMS, DGUFT の運用と保守 ________________________________ 43
11-1. DGAMS 運用手順____________________________________________________43 11-1-1. 起動__________________________________________________________________ 43 11-1-2. 起動の確認 ____________________________________________________________ 43 11-1-3. 停止__________________________________________________________________ 43 11-1-4. 停止の確認 ____________________________________________________________ 43 11-1-5. その他の運用操作 ______________________________________________________ 44
11-2. DGUFT 運用手順 ____________________________________________________44 11-2-1. 起動__________________________________________________________________ 44 11-2-2. 起動の確認 ____________________________________________________________ 44 11-2-3. 停止__________________________________________________________________ 44 11-2-4. 停止の確認 ____________________________________________________________ 44 11-2-5. その他の運用操作 ______________________________________________________ 44
11-3. 保守 ______________________________________________________________45 11-3-1. トラブルシューティング ________________________________________________ 45
管理者ガイド NAREGI Middleware DataGrid
vii
11-3-2. その他の保守作業 ______________________________________________________ 46
第 12 章. DGAMS, DGUFT アンインストール ____________________________ 47
12-1. アンインストール前の作業___________________________________________47
12-2. DGAMS アンインストール____________________________________________47
12-3. DGUFT アンインストール ____________________________________________47
◆ データグリッド資源管理システム __________________________________ 48
第 13 章. はじめに(データグリッド資源管理システム) ___________________ 48
第 14 章. データグリッド資源管理システムのインストールについて ______ 49
14-1. インストールの概要_________________________________________________49
14-2. インストール前の作業_______________________________________________49 14-2-1. OGSA-DAI のインストール_______________________________________________ 49
14-3. データグリッド資源管理システムのインストール _______________________52 14-3-1. ウェブアプリ部分のインストール ________________________________________ 52
14-4. インストール結果の確認_____________________________________________52
14-5. インストールに失敗した場合の対処方法_______________________________52
14-6. インストール後の作業_______________________________________________52
第 15 章. データグリッド資源管理システムのセットアップについて ______ 52
15-1. セットアップパターンの種類と選定___________________________________52
15-2. セットアップ前の作業_______________________________________________52
15-3. 初期状態 __________________________________________________________52
15-4. セットアップ ______________________________________________________53 15-4-1. データグリッド資源管理システムウェブアプリ部分の設定 __________________ 53 15-4-2. 疎通確認______________________________________________________________ 54
第 16 章. 資源管理システムの起動/停止と保守について _________________ 54
16-1. 運用操作のパターンの種類と選定_____________________________________54 16-1-1. 起動__________________________________________________________________ 54 16-1-2. 起動の確認 ____________________________________________________________ 54 16-1-3. 停止__________________________________________________________________ 54 16-1-4. 停止の確認 ____________________________________________________________ 55 16-1-5. その他の運用操作 ______________________________________________________ 55
管理者ガイド NAREGI Middleware DataGrid
viii
16-2. 保守 ______________________________________________________________55 16-2-1. 保守の概要 ____________________________________________________________ 55 16-2-2. バックアップ __________________________________________________________ 55 16-2-3. リストア______________________________________________________________ 55 16-2-4. トラブルシューティング ________________________________________________ 55 16-2-5. その他の保守作業 ______________________________________________________ 55
第 17 章. データグリッド資源管理システムのアンインストールについて __ 55
17-1. アンインストールの概要_____________________________________________55
17-2. アンインストール前の作業___________________________________________56
17-3. データグリッド資源管理システムのアンインストール ___________________56
17-4. アンインストール結果の確認_________________________________________56
17-5. アンインストールに失敗した場合の対処方法 ___________________________56
17-6. アンインストール後の作業___________________________________________56
第 18 章. データグリッドシステムの操作 ______________________________ 56
18-1. DGAMS メイン画面__________________________________________________56
18-2. DGAMS 転送ジョブ一覧画面__________________________________________59
18-3. Gfarm ノード情報画面_______________________________________________60
18-4. Gfarm メタデータ検索画面 ___________________________________________62
18-5. ファイル情報画面___________________________________________________63
18-6. コメント画面 ______________________________________________________64
18-7. ユーザ情報画面_____________________________________________________66
18-8. 資源管理機能一覧___________________________________________________66
第 19 章. VO 対応版 Gfarm, Gfarm 用 GridFTP サーバ操作手順_____________ 67
19-1. VO 対応版 Gfarm 操作手順 ___________________________________________67 19-1-1. サインオン ____________________________________________________________ 67 19-1-2. ファイル一覧の取得 ____________________________________________________ 68 19-1-3. ファイルのインポート __________________________________________________ 68 19-1-4. ファイルのエクスポート ________________________________________________ 68 19-1-5. ファイルの削除 ________________________________________________________ 69 19-1-6. ディレクトリの作成 ____________________________________________________ 69
管理者ガイド NAREGI Middleware DataGrid
ix
19-1-7. ディレクトリの削除 ____________________________________________________ 69 19-1-8. ファイルシステムノードの空き容量の取得 ________________________________ 69 19-1-9. ファイルのレプリカの作成 ______________________________________________ 70 19-1-10. ファイルの保存先の表示 _______________________________________________ 70 19-1-11. ファイルの分割保存___________________________________________________ 70
19-2. Gfarm 用 GridFTP サーバ操作手順 _____________________________________70 19-2-1. サインオン ____________________________________________________________ 70 19-2-2. ファイルの読み書き ____________________________________________________ 71
第 20 章. ユーザ資産の移行 __________________________________________ 71
20-1. Gfarm メタデータの保存_____________________________________________71
20-2. スプールディレクトリの退避_________________________________________72
20-3. Gfarm(β2)のアンインストール ______________________________________72
20-4. Gfarm-VO のインストール____________________________________________72
20-5. メタデータのインポート_____________________________________________73
20-6. スプールディレクトリ内のデータの復元_______________________________73
管理者ガイド NAREGI Middleware DataGrid
◆データグリッド環境について
第1章. はじめに
1-1. 導入の概要 データグリッドは、VO 対応版 Gfarm(Gfarm-VO)、Gfarm 用 GridFTP サーバ、データグ
リッドウェブインタフェース(Datagrid UI)、転送サービス(DGUFT)、資源管理システム
(DGRMS)サーバの順でインストールを行う。これらインストールを行う前に、Globus
Toolkit, PostgreSQL を予めインストールしておく必要がある。また、GSI 認証を使用する
ため、サーバのホスト証明書、ユーザの証明書等を取得し、grid-mapfile 等の設定を済ませ
ておく必要がある。
1-2. システム構成 まず、このドキュメントで使用する用語について述べる。
用語 ホスト名称 説明 Gfarm メタデータサーバ Gfarm ファイルシステムのメタデータを管理するホスト。メ
タデータを管理する PostgreSQL サーバ(postmaster)と gfmd が動作する。
Gfarm ファイルシステムノ
ード Gfarm ファイルシステムのデータ記憶領域を提供するホスト
群。 通常はクライアントとしても使用される。 それぞれのノード上では I/O デーモンの gfsd が動作する。
Gfarm クライアント Gfarm ファイルシステムを利用するホスト。Gfarm クライア
ントライブラリ、Gfarm コマンドツールがインストールされ
る。 Gfarm 用 GridFTP サーバ Gfarm に対して GridFTP でアクセスするための中継ホスト。
GridFTP サーバ、Gfarm-DSI、Gfarm クライアントライブラ
リで構成される。 データグリッド転送サービ
スサーバ(DGUFT サーバ) DGUFT のサーバ部分
Portal NAREGI ポータル。DataGrid のウェブアプリ部分(DataGrid UI)をインストールする。
DGRMS サーバ データグリッド資源管理システムサーバ。本ドキュメントで
は Gfarm メタデータサーバと Gfarm 用 GridFTP サーバを同
じノードで兼用している。そのノードを便宜上、DGRMS サ
ーバと呼ぶ。 ソフトウェア名称 説明 Gfarm クライアントライブ
ラリ Gfarm ファイルシステムにアクセスするためのライブラリ。
1
管理者ガイド NAREGI Middleware DataGrid
PostgreSQL サーバ Gfarm メタデータサーバ・マシン上で動作するデータベース
管理システム。 gfmd Gfarm メタデータサーバ・マシン上で動作するデーモンプロ
グラム。 gfsd すべての Gfarm ファイルシステムノード上で動作するデーモ
ンプログラム。 Gfarm コマンドツール Gfarm 付属のクライアントコマンド。gfls, gfmkdir 等 VOMS クライアントライ
ブラリ プロキシ証明書から VO 情報を取り出すために使用する。
Gfarm DSI GridFTP 経由で Gfarm ファイルシステムにアクセスするため
の、GridFTP サーバの拡張モジュール。Gfarm 用 GridFTP サ
ーバで使用する。 DGAMS データグリッドウ
ェブインタフェース(DataGrid UI)
データグリッドにアクセスするための、ポータルにインスト
ールするデータグリッドアクセス管理システム(ウェブアプ
リ。) DGUFT データグリッド汎用転送サービス。データグリッドアクセス
管理システムに含まれる。
次に、構成について示す。
1-2-1. 構成 # 名称 Software 1 Gfarm メタデータサーバ Gfarm (PostgreSQL, gfmd)、VOMS ク
ライアントライブラリ、OGSA-DAI 2 Gfarm ファイルシステムノード Gfarm (gfsd)、VOMS クライアントラ
イブラリ 3 Gfarm Client Gfarm クライアントライブラリ、
VOMS クライアントライブラリ 4 Gfarm 用 GridFTP サーバ GridFTP サーバ、Gfarm-DSI。
(Gfarm クライアントが必要なので、
Server#3 のソフトウェアも必要) 5 DGUFT サーバ DGUFT 6 ポータルサーバ DataGrid UI(DGAMS)
Server#1, Server#2, Server#3, Server#4 は物理的には 1 台のマシンにまとめることが可能
である。
Server#1(Gfarm メタデータサーバ)の実体は PostgreSQL である。複数の VO で 1 つの
PostgreSQL サーバを共用する。
Server#2(Gfarm ファイルシステムノード)はファイル保存先として使用するノードすべて
が当てはまるので通常は複数台のマシン上で設定する。1 つの gfsd を複数の VO で共用で
きる。
Server#3 は Gfarm クライアント環境であり、Gfarm に直接アクセスしたいマシンすべて
が当てはまる。アプリケーションから Gfarm に直接アクセスしない場合には、
Server#4(Gfarm アクセス用サーバ)上にのみ必要。
2
管理者ガイド NAREGI Middleware DataGrid
Server#4 (Gfarm アクセス用サーバ)は、通常は VO 毎に構築する。つまり、VO が複数あ
る場合、Server#4 は VO 数だけ必要になる。(1 つの Gfarm アクセス用サーバを複数の VO
で共用することも可能。)
Portal SS node Gfarm metadata server(※) Gfarm file system node (※)
DGUFT node GridFTP server for Gfarm(※)
DataGrid UI (DGAMS)
Tomcat(NAREGI Portal)
GT4
SS
DGUFT Client
GT4 GT4
GT4
GT4
PostgreSQLPostgreSQL
GT4
Gfarm filesystemnode
Gfarm Gfarm
Gfarm
Gfarm-DSI
DGUFT Server
OGSA DAI
PostgreSQL
Gfarm (client)
VOMS library VOMS library
VOMS library
Gfarm (meta server)
Gfarm (client)
gfsdWFT
PSE
GVS
Portal
PostgreSQL
glibc-not-hidden
図 1-1 構成
例えば下記のような構成が考えられる。 # マシン名 役割 1 pbg1012.naregi.org Gfarm メタデータサーバ、Gfarm ファイルシステムノー
ド、Gfarm Client、Gfarm 用 GridFTP サーバ 2 pbg1013.naregi.org DGUFT サーバ、Gfarm ファイルシステムノード 3 png2044.naregi.org ポータルサーバ, MyProxy 4 pfg0005.naregi.org UMS 5 png2045.naregi.org SS
1-3. 動作環境 1-3-1. 必要なハードウェア Gfarm-VO, DGUFT, DataGrid UI, DGRMS
3
管理者ガイド NAREGI Middleware DataGrid
[Linux 環境]
■ CPU: IA-32
■ メモリ: 512MB 以上
■ ハードディスク: 10GB 以上
1-3-2. 必要なソフトウェア Gfarm-VO, DGRMS
[Linux 環境]
■ OS: Linux(CentOS 5 カーネル 2.6)
■ その他: glibc-2.5-18.el5_1.1 Globus Toolkit 4.0.5, gcc 4.1.1-52
j2sdk 1.5.0_12, PostgreSQL8.2.4, perl 5.8, ant 1.6.5
DataGrid UI (DGAMS)
[Linux 環境]
■ OS: Linux(CentOS 5 カーネル 2.6)
■ その他: Globus Toolkit 4.0.5, j2sdk 1.5.0_12, Tomcat 5.5.25, PostgreSQL JDBC
8.1 Build 408, VO 対応版 Gfarm-3738、OGSA-DAI WSRF 2.2, ant 1.6.5
DGUFT
■ OS: Linux(CentOS 5 カーネル 2.6)
1-3-3. 必要なファイル [Gfarm-VO]
■ %gfarm_install_location%/etc/gfarm.conf (Gfarm メタデータサーバ、Gfarm
ファイルシステムノード、Gfarm クライアント) ⇒ 5-4-3.章参照(必須)
■ %gfarm_install_location%/etc/gfarm/vo 名_gfarm.conf (Gfarm クライアン
ト) ⇒ 5-4-3.章参照(必須)
■ /etc/xinetd.d/gsiftp ⇒ 5-4-6.章参照 (Gfarm-DSI 必須)
※ ここでは、%gfarm_install_location%は Gfarm のインストール先を表す。
[DataGrid UI]
■ $CATALINA_HOME/datagrid/WEB-INF/classes/dg.prop.xml ⇒ 10-3-3 節参照
■ $CATALINA_HOME/datagrid/WEB-INF/classes/log4j.properties ⇒ 10-3-4 節
参照
■ $CATALINA_HOME/datagrid/WEB-INF/classes/dgmonitor.xml
⇒14-2-1, 15-4-1 章参照(必須)
4
管理者ガイド NAREGI Middleware DataGrid
[DGUFT]
1-3-4. 必要な環境ファイル [Gfarm-VO]
■ /etc/grid-security/grid-mapfile 2-1 参照(必須)
[DataGrid UI]
■ Globus Toolkit の設定ファイル ⇒ 10-2-1 節参照(必須)
[DGUFT]
■ Globus Toolkit の設定ファイル ⇒ 10-2-1 節参照(必須)
1-3-5. 所有権とオーナ情報について [Gfarm-VO]
特に変更する必要はない。インストールには管理者権限が必要である。
[DataGrid UI]
所有者は特に限定しないが、展開したファイルを使用するユーザのアカウントでアクセ
スできる必要がある。インストールの作業については特に明記しない限り、一般ユーザで
作業を行う。
OGSA-DAI 設定の際に Globus Toolkit をインストールしたユーザの権限が必要。
[DGUFT]
所有者は特に限定しないが、展開したファイルを使用するユーザのアカウントでアクセ
スできる必要がある。インストールの作業については特に明記しない限り、一般ユーザで
作業を行う。
1-4. 運用に必要な動作条件 VO 対応版 Gfarm 使用時に、以下の条件を満たす必要がある。
■ VO 情報を持ったプロキシ証明書を使用できること。
■ VOMS のクライアントライブラリが使用できること。
■ Gfarm クライアントを使用するプロセスの環境変数 X509_USER_PROXY がユー
ザの有効なプロキシ証明書を指し示していること。
■ 書き込むファイルサイズ以上のハードディスク空き容量が Gfarm ファイルシステ
ムノード上にあること。
■ Globus Toolkit がインストールされていること。
■ Gfarm ファイルシステムノード上にユーザのアカウントが存在し、そのユーザがア
クセスできるように grid-mapfile が設定されていること。
5
管理者ガイド NAREGI Middleware DataGrid
DataGrid UI 運用時に、以下の条件を満たす必要がある。
■ Tomcat がインストールされていること。
■ NAREGI ポータルシステムがインストールされていること。
■ Globus Toolkit がインストールされていること。
■ DGUFT が利用できること。
■ 環境変数 GLOBUS_LOCATION が Globus Toolkit のインストール先を指している
こと。
■ Gfarm メタデータサーバに OGSA-DAI がインストールされていること。
■ VO 対応版 Gfarm がインストールされていること。
DGUFT 運用時に、以下の条件を満たす必要がある。
■ Globus Toolkit がインストールされていること。
■ Globus Toolkit WSRF コンテナが稼働していること。
1-5. データグリッドインストールモジュール一覧 [Gfarm-VO]
gfarm-vo-3732-v1.tar.gz VO 対応版 Gfarm
dsi_gfarm.tar.gz Gfarm 用 GridFTP サーバモジュール
voms -1.6.8.tar.gz VOMS C API
[Datagrid UI]
datagrid.war ポータルノードへインストールするウェブアプリ
dai_installer.pl インストールスクリプト
data.service.resource.properties.template インストールスクリプトで使用するファイル
[DGUFT]
uft_service.gar DGUFT サーバへインストールするグリッドサービス
1-6. VOMSについて "This product includes software developed by the EU DataGrid (http://www.eu-
datagrid.org/)."
6
管理者ガイド NAREGI Middleware DataGrid
第2章. 初期設定
あらかじめ、Globus Toolkit 4.0.5 と PostgreSQL 8.2.4 をインストールしておく必要があ
る。Globus Toolkit はデータグリッド関連の全ノード、PostgreSQL は、Gfarm メタデータ
サーバ、Gfarm クライアント、DGUFT サーバで使用する。
ここでは、Globus Toolkit、PostgreSQL のインストールと設定の概要を示すが、インスト
ールの詳細については、それぞれのインストールドキュメントを参照すること。
2-1. Globus Toolkitインストールの概要 Globus Toolkit のインストールを行う。
まず、/naregi-v1/globus に Globus Toolkit をインストールすると仮定すると、次の手順を
実行する。
[globus@pbg1012 globus]# su
[root@pbg1012 globus]# mkdir /naregi-v1/globus
[root@pbg1012 globus]# chown globus:globus /naregi-v1/globus
[root@pbg1012 globus]# exit
[globus@pbg1012 globus]# export GLOBUS_LOCATION=/naregi-v1/globus
[globus@pbg1012 globus]# tar xvzf gt4.0.5-all-source-installer.tar.gz
[globus@pbg1012 globus]# cd gt4.0.5-all-source-installer
[globus@pbg1012 gt4.0.5-all-source-installer]# ./configure --
prefix=$GLOBUS_LOCATION
[globus@pbg1012 gt4.0.5-all-source-installer]# make
[globus@pbg1012 gt4.0.5-all-source-installer]# make 2>&1 | tee build.log
[globus@pbg1012 gt4.0.5-all-source-installer]# make install
証明書の設定は使用するCAにあわせておこなう。/etc/grid-security の下に、ホスト証明
書、ホスト秘密鍵、CA証明書等をインストールしたことを確認し、grid-mapfile を編集す
る。
Gfarm メタデータサーバ、DGUFT サーバでは下記の設定も行う。
コンテナ用の証明書と秘密鍵を用意する。
[root@pbg1012 globus]# cp /etc/grid-security/hostcert.pem /etc/grid-
security/containercert.pem
[root@pbg1012 globus]# cp /etc/grid-security/hostkey.pem /etc/grid-
security/containerkey.pem
[root@pbg1012 globus]# chown globus.globus /etc/grid-security/container*.pem
7
管理者ガイド NAREGI Middleware DataGrid
Globus コンテナの起動スクリプトを作成する。
[globus@pbg1012 globus]# vim $GLOBUS_LOCATION/start-stop
[globus@pbg1012 globus]# cat $GLOBUS_LOCATION/start-stop
#! /bin/sh
set -e
export GLOBUS_LOCATION=/naregi-v1/globus
export JAVA_HOME=/usr/java/j2sdk1.5.0_13/
export ANT_HOME=/naregi-v1/apache-ant-1.6.5
export GLOBUS_OPTIONS="-Xms256M -Xmx512M"
. $GLOBUS_LOCATION/etc/globus-user-env.sh
cd $GLOBUS_LOCATION
case "$1" in
start)
$GLOBUS_LOCATION/sbin/globus-start-container-detached -p 8443
;;
stop)
$GLOBUS_LOCATION/sbin/globus-stop-container-detached
;;
*)
echo "Usage: globus {start|stop}" >&2
exit 1
;;
esac
exit 0
[globus@pbg1012 globus]# chmod +x $GLOBUS_LOCATION/start-stop
[root@pbg1012 globus]# vim /etc/init.d/globus
[root@pbg1012 globus]# cat /etc/init.d/globus
#!/bin/sh -e
case "$1" in
start)
8
管理者ガイド NAREGI Middleware DataGrid
su - globus /naregi-v1/globus/start-stop start
;;
stop)
su - globus /naregi-v1/globus/start-stop stop
;;
restart)
$0 stop
sleep 1
$0 start
;;
*)
printf "Usage: $0 {start|stop|restart}\n" >&2
exit 1
;;
esac
exit 0
[root@pbg1012 globus]# chmod +x /etc/init.d/globus
[root@pbg1012 globus]# /etc/init.d/globus start
[root@pbg1012 globus]# /etc/init.d/globus stop
2-1-1. grid-mapfileについて grid-mapfile には以下のようにユーザの証明書のサブジェクトとローカルアカウント名を
記述する。この例はユーザのアカウント名が”tom”で証明書のサブジェクトが
"/O=Grid/OU=GlobusTest/OU=simpleCA-test.naregi.org/CN=tom"の場合のものであるが、
この値は使用するユーザの証明書から取得すること。ここでは Gfarm にアクセスするユー
ザすべてについて記述しておく必要がある。サブジェクトは「"」でくくっておく。
"/O=Grid/OU=GlobusTest/OU=simpleCA-test.naregi.org/CN=tom" tom
証明書の DN に Email アドレスが含まれる場合、複数の表記方法があるが、VO 対応版
Gfarm を使用する場合、VOMS ライブラリの制約から、”Email=“ の記法で grid-mapfile に
DN を記述しておく必要がある。”E=”あるいは ”emailAddress=”のみだと認証エラーになる。
Gfarm ファイルシステムノード(gfsd)として使用するノードの設定を行う際に注意が必要
である。
2-2. PostgreSQLインストールの概要 PostgreSQL のインストールを行う。
9
管理者ガイド NAREGI Middleware DataGrid
10
[globus@pbg1012 gfarm]# tar xvzf postgresql-8.2.4.tar.gz
[globus@pbg1012 gfarm]# cd postgresql-8.2.4
[globus@pbg1012 postgresql-8.2.4]# ./configure --prefix=/naregi-v1/pgsql
[globus@pbg1012 postgresql-8.2.4]# mkdir –p /naregi-v1/pgsql
[globus@pbg1012 postgresql-8.2.4]# make
[globus@pbg1012 postgresql-8.2.4]# su
[root@pbg1012 postgresql-8.2.4]# make install
◆ VO対応版Gfarm、Gfarm用GridFTPサーバ
第3章. はじめに(VO対応版GfarmおよびGfarm用GridFTPサーバ)
3-1. VO対応版GfarmおよびGfarm用GridFTPサーバの概要 本節では、VO 対応版 Gfarm および Gfarm 用 GridFTP インタフェース(Gfarm-DSI)のイ
ンストール、および設定方法について説明する。
VO 対応版 Gfarm はグリッドファイルシステムである Gfarm を VO 対応にしたものである。
GSI 認証で使用されるユーザのプロキシ証明書の VO 情報によって Gfarm ファイルシステ
ム空間を切り替える機能を Gfarm に対して追加した。VO 情報の取得のために VOMS のク
ライアント API を使用している。
VO対応版Gfarmの構成は図 3-1のようになる。Gfarmクライアント内で、ユーザのプロ
キシ証明書からVO名を抽出し、そのVO名に応じて接続先Gfarmを切り替える機能を持つ
これにより、クライアントに対してVO毎に異なるGfarmファイルシステム空間を提供する
VO対応版のGfarmファイルシステムノード上で動作するI/Oデーモン(gfsd)は、G
ライアントとのGSI認証時に取得したユーザのプロキシ証明書からVO名を抽出し、サーバ
上でのファイル保存先(スプールディレクトリ)を切り替える機能をもち、1 つのgfsdを複数
のVOで共用することができる。
。
。
farmク
管理者ガイド NAREGI Middleware DataGrid
gfsd
gfsd
gfsd
gfsd
gfsdgfsd
gfsd gfsd
Gfarmメタデータ
VO1 Gfarm
VO3 Gfarm VO2 Gfarm
アプリケーション
Gfarm切り替え機能
Gfarmメタデータ Gfarm
メタデータ
プロキシ証明書
VO名抽出
Gfarmクライアント
プロキシ証明書
プロキシ証明書
VO名抽出 VO名抽出
図 3-1. VO 対応版 Gfarm の構成
Gfarm 用 GridFTP インタフェース(Gfarm-DSI)は Gfarm 上のファイルに GridFTP プロトコ
ルでアクセスするためのものである。GridFTP クライアントを用いて Gfarm 内のファイル
を読み書きできる。実行には Gfarm クライアント環境と Globus Toolkit 4 に含まれる
GridFTP サーバが必要である。
VO対応版GfarmとGfarm用GridFTPサーバの構成例は図 3-2の様になる。
11
管理者ガイド NAREGI Middleware DataGrid
gfsd gfsd gfsdgfsd
gfsdgfsd
gfsd gfsd
Gfarmメタデータ
VO1
VO3 VO2
GridFTPサーバ
GridFTPサーバ
GridFTPサーバ
ポータル SS
GridFTPクライアントGridFTPクライアント
Gfarm-DSI
Gfarm-DSI
Gfarm-DSI
汎用転送サービス汎用転送サービス
Gfarmメタデータ
Gfarmメタデータ
図 3-2. VO と Gfarm 用 GridFTP サーバの構成例
第4章. VO対応版Gfarmのインストールについて
4-1. インストールの概要 Gfarm メタデータサーバ、Gfarm ファイルシステムノード、Gfarm クライアント、Gfarm
用 GridFTP モジュール(Gfarm-DSI)の順でインストール作業を行う。VO 毎に作業が発生す
る。
4-2. インストール前の作業 VO 対応版 Gfarm をインストールする前に Globus Toolkit、VOMS クライアントライブラ
リ、PostgreSQL をインストールしておく。
以下、VOMS クライアントライブラリのインストールの概要を示す。
4-2-1. VOMSクライアントライブラリのインストール configure スクリプトでインストール先、GT4 の場所、flavor を指定してインストールする。
12
管理者ガイド NAREGI Middleware DataGrid
13
Globus Toolkit が/naregi-v1/globus にインストールされていて、VOMS クライアントライ
ブラリを/naregi-v1/voms-1.6.8 以下にインストールすると仮定すると、次のようになる。
[globus@pbg1012 gfarm]# export GLOUBS_LOCATION=/naregi-v1/globus
[globus@pbg1012 gfarm]# . $GLOBUS_LOCATION/etc/globus-user-env.sh
[globus@pbg1012 gfarm]# tar xvzf voms-1.6.8.tar.gz
[globus@pbg1012 gfarm]# cd voms-1.6.8
[globus@pbg1012 voms-1.6.8]# ./configure --prefix=/naregi-v1/voms-1.6.8 --
with-globus-location=/naregi-v1/globus --with-globus-flavor=gcc32dbg
[globus@pbg1012 voms-1.6.8]# make
[globus@pbg1012 voms-1.6.8]# su
[root@pbg1012 voms-1.6.8]# make install
ユーザのプロキシ証明書を発行した CA の CA 証明書を/etc/grid-security/certificates/にイン
ストールしておくこと。
4-2-2. glibcのアップグレード (1) 確認 Gfarm用GridFTPサーバをインストールするマシンでは、glibc-not-hiddenパッケージ を
インストールする必要がある。インストール環境に対応したglibc-not-hiddenパッケージ が
存在するかを、ダウンロードサイト(<NAREGI_PKG>/dgrms/Progs/src/glibc-not-hidde
または
n/
http://datafarm.apgrid.org/software/syscall-hook.en.html)にて確認を行う。存在し
ない場合には、対応するglibcへアップグレードを行う。
[root@pbg1012 gfarm]# rpm -qa | grep glibc
glibc-common-2.5-18.el5_1.1
glibc-headers-2.5-18.el5_1.1
glibc-devel-2.5-18.el5_1.1
glibc-2.5-18.el5_1.1
glibc のバージョンと glibc-not-hidden パッケージのバージョンが合わない場合には、OS
のダウンロードサイト(http://mirror.centos.org/centos/5.1/updates/i386/RPMS/ )から以
下の glibc パッケージ取得して、適当なディレクトリへ配置する。バージョンが一致して
いる場合にはこの作業は必要ない。
glibc-common-2.5-18.el5_1.1.i386.rpm
管理者ガイド NAREGI Middleware DataGrid
glibc-headers-2.5-18.el5_1.1.i386.rpm
glibc-devel-2.5-18.el5_1.1.i386.rpm
glibc-2.5-18.el5_1.1.i686.rpm
nscd-2.5-18.el5_1.1.i386.rpm
(2) アップグレード(テスト)
[root@pbg1012 glibc-2.5. 18.el5_1.1.i686]# rpm -Uhv --test\
glibc*.rpm \
nscd-2.5-18.el5_1.1.i686.rpm
warning: glibc-2.5-18.el5_1.1.i686.rpm: V3 DSA signature: NOKEY, key ID
db42a60e
Preparing... ########################################### [100%]
(3) アップグレード
[root@pbg1012 glibc-2.5. 18.el5_1.1.i686]# rpm -Uhv \
glibc*.rpm \
nscd-2.5-18.el5_1.1.i686.rpm
warning: glibc-2.5-18.el5_1.1.i686.rpm: V3 DSA signature: NOKEY, key ID
db42a60e
Preparing... ########################################### [100%]
1:glibc-common ########################################### [ 25%]
2:glibc ########################################### [50%]
Stopping sshd:[ OK ]
Starting sshd:[ OK ]
3:glibc-devel ########################################### [ 75%]
4:nscd ########################################### [100%]
(4) アップグレード結果の確認
[root@pbg1012 glibc-2.5-18.el5_1.1.i686]# rpm -qa | grep glibc
glibc-common-2.5-18.el5_1.1
glibc-headers-2.5-18.el5_1.1
glibc-devel-2.5-18.el5_1.1
glibc-2.5-18.el5_1.1
4-2-3. glibc-not-hiddenパッケージのインストール このパッケージは、Gfarm 用 GridFTP サーバをインストールするノードにインストールす
る。予めインストール環境の glibc に対応した glibc-not-hidden パッケージをダウンロード
14
管理者ガイド NAREGI Middleware DataGrid
し、任意のディレクトリへ配置する。 (<NAREGI_PKG>/dgrms/Progs/src/glibc-not-
hidden/glibc-not-hidden-2.5-18.el5_1.1.src.rpm)
以下の例は、~globus/gfarm 下に配置してインストールしたと仮定したときのものである。
[root@pbg1012 gfarm]# rpmbuild --rebuild --target=i686 glibc-not-hidden-2.5-
18.el5_1.1.src.rpm
Installing glibc-not-hidden-2.5-18.el5_1.1.src.rpm
Building target platforms: i686
Building for target i686
Executing(%prep): /bin/sh -e /var/tmp/rpm-tmp.68897
+ umask 022
+ cd /usr/src/redhat/BUILD
+ cd /usr/src/redhat/BUILD
+ rm -rf glibc-2.5-20061008T1257
・・
+ umask 022
+ cd /usr/src/redhat/BUILD
+ rm -rf glibc-2.5-20061008T1257
+ exit 0
[root@pbg1012 gfarm]#
[root@pbg1012 gfarm]# ls -l /usr/src/redhat/RPMS/i686/
total 716
-rw-r--r-- 1 root root 605022 Dec 7 16:02 glibc-not-hidden-2.5-
18.el5_1.1.i686.rpm
-rw-r--r-- 1 root root 115393 Dec 7 16:02 glibc-not-hidden-debuginfo-2.5-
18.el5_1.1.i686.rpm
[root@pbg1012 gfarm]#
[root@pbg1012 gfarm]# rpm --test \
-Uvh /usr/src/redhat/RPMS/i686/glibc-not-hidden-2.5-18.el5_1.1.i686.rpm
Preparing... ########################################### [100%]
[root@pbg1012 gfarm]#
[root@pbg1012 gfarm]# rpm \
-Uvh /usr/src/redhat/RPMS/i686/glibc-not-hidden-2.5-18.el5_1.1.i686.rpm
Preparing... ########################################### [100%]
1:glibc-not-hidden ########################################### [100%]
15
管理者ガイド NAREGI Middleware DataGrid
4-3. VO対応版Gfarmのインストール Gfarm メタデータサーバ、Gfarm ファイルシステムノード、Gfarm クライアント共通。
configure スクリプトで GT4 の場所と flavor、PostgreSQL、VOMS のインストール場所を
指定してインストールする。
[globus@pbg1012 gfarm]# tar xvzf gfarm-vo-3738-v1.tar.gz
[globus@pbg1012 gfarm]# cd gfarm-vo-3738-v1
[globus@pbg1012 gfarm]# ./configure --with-globus=/naregi-v1/globus --with-
globus-flavor=gcc32dbg --with-postgresql=/naregi-v1/pgsql --without-openldap -
-with-voms=/naregi-v1/voms-1.6.8 --prefix=/naregi-v1/gfarm-vo
[globus@pbg1012 gfarm]# make
[globus@pbg1012 gfarm]# su
[root@pbg1012 gfarm]# make install
4-4. インストール結果の確認 それぞれのマシン上に Gfarm がインストールされている。
[globus@pbg1012 gfarm]# ls /naregi-v1/gfarm-vo
4-5. インストールに失敗した場合の対処方法 ディレクトリを作成し直してもう一度実行する。make 時にエラーが発生して途中で終了
していないか確認する。
4-6. インストール後の作業 第5章のセットアップ手順参照し、設定を行う。
第5章. VO対応版Gfarmのセットアップについて
5-1. セットアップパターンの種類と選定 なし
5-2. セットアップ前の作業 VO 対応版 Gfarm をインストールしておく。
5-3. 初期状態 なし
16
管理者ガイド NAREGI Middleware DataGrid
5-4. セットアップ 5-4-1. Gfarmメタデータサーバの設定 config-gfarm を実行し、Gfarm メタデータサーバの基本設定を行う。config-gfarm-vo で vo
の設定を追加していく。VO を追加する毎に config-gfarm-vo を実行する。VO 名は-v オプ
ションで指定する。VO 毎にデータベースが作成される。この例では VO 名として”vo1”
と”vo2”を指定している。-l でデータベースの保存先ディレクトリをしているが、config-
gfarm と config-gfarm-vo で同じ場所を指定すること。
%gfarm_install_dir%/etc/gfarm/以下に vo 毎の設定ファイルが生成される。
config-gfarm, config-gfarm-vo はメタデータサーバの設定のために実行する。
複数の VO を設定するには config-gfarm-vo を-v オプションを変えて VO の数だけ繰り返す。
[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1012 gfarm]# config-gfarm -l /var/gfarm-metadata -P /naregi-v1/pgsql
-a gsi -t
[root@pbg1012 gfarm]# config-gfarm -l /var/gfarm-metadata -P /naregi-v1/pgsql
-a gsi
[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-
v1/pgsql -a gsi -v vo1 -t
[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-
v1/pgsql -a gsi -v vo1
[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-
v1/pgsql -a gsi -v vo2 -t
[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-
v1/pgsql -a gsi -v vo2
5-4-2. Gfarmファイルシステムノードの設定 次にファイルシステムノードの設定を行う。
使用したい VO の Gfarm メタデータサーバから%gfarm_install_dir%/etc/ 以下を Gfarm フ
ァイルシステムノード上の対応したディレクトリにすべてコピーする。
config-gfsd を実行する。次に、config-gfsd-vo で VO 名を指定する。VO 毎に実行すること。
引数の 後に指定する、スプールディレクトリは、config-gfsd と config-gfsd-vo で同じ場
所を指定すること。
17
管理者ガイド NAREGI Middleware DataGrid
VO 毎にメタデータサーバ、ファイルシステムノードを立ててもいいが複数 VO でサーバ
を共用しても良い。複数の VO を設定するには config-gfsd-vo を VO の数だけ繰り返す。
下記の例は VO として vo1 と vo2 を設定した時のものである。
[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1012 gfarm]# config-gfsd -t /var/gfarm-spool
[root@pbg1012 gfarm]# config-gfsd /var/gfarm-spool
[root@pbg1012 gfarm]# config-gfsd-vo -v vo1 –t /var/gfarm-spool
[root@pbg1012 gfarm]# config-gfsd-vo -v vo1 /var/gfarm-spool
[root@pbg1012 gfarm]# config-gfsd-vo -v vo2 –t /var/gfarm-spool
[root@pbg1012 gfarm]# config-gfsd-vo -v vo2 /var/gfarm-spool
config-gfsd, config-gfsd-vo はファイルシステムノードの設定のために実行する。
5-4-3. Gfarmクライアントの設定 アクセスしたい VO の Gfarm メタサーバから%gfarm_install_dir%/etc/ 以下を Gfarm クラ
イアント上の対応したディレクトリにコピーする。
その後、インストールしていない場合には glibc-not-hidden パッケージをインストールす
る。
[root@pbg1012 gfarm]# rpmbuild --rebuild glibc-not-hidden-2.5-
18.el5_1.1.src.rpm
[root@pbg1012 gfarm]# rpm -Uvh /usr/src/redhat/RPMS/i686/glibc-not-hidden-2.5-
18.el5_1.1.i686.rpm
ポータルにサインオンするときのユーザ名と Gfarm アクセス用サーバ上でのローカルアカ
ウント名が異なる場合には、%gfarm_install_dir%/etc/gfarm.conf およ
び、%gfarm_install_dir%/etc/gfarm/以下の設定ファイルすべてに local_user_map の項目を
追加して設定する。Gfarm 上のグローバルユーザ名がポータルにサインオンするときのユ
ーザ名と一致するようにする。ポータル上のユーザ名が user1 でローカルアカウント名が
user1local の場合には次のようになる。
[root@pbg1012 gfarm]# cat /naregi-v1/gfarm-vo/etc/gfarm.conf
.
auth enable gsi *
18
管理者ガイド NAREGI Middleware DataGrid
local_user_map /naregi-v1/gfarm-vo/etc/gfarm-usermap
.
[root@pbg1012 gfarm]# cat /naregi-v1/gfarm-vo/etc/gfarm-usermap
user1 user1local
user2 user2local
user3 tom
[root@pbg1012 gfarm]#
Gfarm 上に各ユーザ用のアカウントで Gfarm ホームディレクトリを作成する。既にディレ
クトリが存在する場合にはこの作業は必要ない。
ユーザのプロキシ証明書に含まれる VO 情報を参照して接続する Gfarm 空間を切り替えて
いるので VO 毎に Gfarm 上のホームディレクトリを作成する必要がある。環境変数
VO_NAME で VO 名を指定しておけばプロキシ証明書に VO 情報が含まれていなくてもデ
ィレクトリの作成は可能であるがファイルの書き込みはできない。VO1 での Gfarm ホーム
ディレクトリを作成場合、次のようになる。
[user1@pbg1012 gfarm]# export VO_NAME=VO1
[user1@pbg1012 gfarm]# /naregi-v1/gfarm-vo/bin/gfmkdir gfarm:~
5-4-4. ログファイルの設定 Gfarm のログはデフォルトでは、/var/log/messages に出力される。ログ出力の syslog フ
ァシリティを変更する場合には、Gfarm ファイルサーバの起動スクリプト(/etc/init.d/gfsd)
の start 関数内の gfsd を起動部分に、-s <syslog ファシリティ>オプションをつける。
5-4-5. VO対応版Gfarmの疎通確認 Gfarm クライアントを用いて Gfarm が動作しているか確認する。VO 情報付きのユーザの
プロキシ証明書を取得した後、そのユーザのアカウントで以下のコマンドを実行する。
[user1@pbg1012 gfarm]# /naregi-v1/gfarm-vo/bin/gfhost –lv
0.07/0.02/0.00 G i386-centos5-linux 2 pbg1012.naregi.org(xxx.xxx.xxx.xxx)
0.00/0.00/0.00 G i386-centos5-linux 2 pbg1013.naregi.org(xxx.xxx.xxx.xxx)
0.00/0.00/0.00 G i386-centos5-linux 2 pbg1014.naregi.org(xxx.xxx.xxx.xxx)
上記は、3ノードに gfsd をセットアップした場合の例である。Gfarm ファイルサーバの一
覧が表示され、2カラム目がGになっていることを確認する。X の場合には認証に失敗し
ている。プロキシ証明書を取り替えて、VO 毎に確認する。
19
管理者ガイド NAREGI Middleware DataGrid
5-4-6. Gfarm用GridFTPサーバのインストール Gfarm クライアント環境がインストールされているマシン上にインストールすること。通
常は VO 毎にサーバを用意するが、一台でも良い。
環境変数 GLOBUS_LOCATION を設定し、generate.sh を実行する。
引数に globus の flavor と gfarm がインストールされている場所を指定する。
Makefile が生成されるので、make, make install を実行する。
[globus@pbg1012 gfarm]# tar xvzf dsi_gfarm-01.tar.gz
[globus@pbg1012 gfarm]# cd dsi_gfarm
[globus@pbg1012 dsi_gfarm]# export GLOBUS_LOCATION=/naregi-v1/globus
[globus@pbg1012 dsi_gfarm]# ./generate.sh gcc32dbg /naregi-v1/gfarm-vo
[globus@pbg1012 dsi_gfarm]# make
[globus@pbg1012 dsi_gfarm]# make install
[globus@pbg1012 dsi_gfarm]# su
[root@pbg1012 dsi_gfarm]# vi /etc/xinetd.d/gsiftp
xinetd の gridftp の設定を行う。具体的には通常の GridFTP の設定に加えて、server_args
に-dsi gfarm を追加し、env に LD_PRELOAD を設定する。下記の例を参照。
Example:(/etc/xinetd.d/gsiftp)
service gsiftp
{
instances = 1000
socket_type = stream
wait = no
user = root
env += GLOBUS_LOCATION=/naregi-v1/globus
env += LD_LIBRARY_PATH=/naregi-v1/globus/lib
env += LD_PRELOAD=/naregi-v1/gfarm-
vo/lib/libgfs_hook.so:/usr/lib/gfarm/libpthread-not-
hidden.so:/usr/lib/gfarm/libc-not-hidden.so:/usr/lib/gfarm/librt-not-hidden.so
env += GFARM_FLAGS=g
server = /naregi-v1/globus/sbin/globus-gridftp-server
server_args = -i -dsi gfarm -log-level
"ERROR,DEBUG,WARN,INFO,DUMP,ALL" -log-module syslog
log_on_success += DURATION
20
管理者ガイド NAREGI Middleware DataGrid
nice = 10
disable = no
}
/etc/services に GridFTP の設定がなければ追加する。
Example:(/etc/services)
gsiftp 2811/tcp #GridFTP
xinetd を再起動する。
[root@pbg1012 gfarm]# /etc/init.d/xinetd restart
Gfarm アクセス用グリッド FTP サーバを動作させるマシンの Gfarm クライアントライブ
ラリの設定を変更する。
%gfarm_install_dir%/etc/gfarm/内の設定ファイルすべてに以下の行を追記する。
write_local_priority disable
minimum_free_disk_space 2G
minimum_free_disk_space の行にはファイル保存先の Gfarm ファイルサーバを選択する際
の空き容量の条件を記述する。大きなファイルを保存することがあらかじめわかっている
場合にはそのサイズに合わせた値を設定しておく。単位はバイト。デフォルト値は 128M。
Gfarm 内での実際のデータの保存先は、5-4-6 の minimum_free_disk_space で設定した
値よりも空き容量が大きなノードが選択される。
5-4-7. Gfarm用GridFTPサーバの疎通確認 VO 情報付きのプロキシ証明書を取得した後、globus-url-copy コマンドを用いて Gfarm 内
のファイルにアクセスする。
Gfarm 用 GridFTP サーバが pbg1012.naregi.org というマシン上で動いていると仮定し、ユ
ーザ名が user1 だとすると、次のようになる。
[user1@pbg1012 gfarm]# ls > /tmp/testfile1
[user1@pbg1012 gfarm]# globus-url-copy file:///tmp/testfile1 gsiftp://
pbg1012.naregi.org/tmp/testfile
[user1@pbg1012 gfarm]# globus-url-copy
gsiftp://pbg1012.naregi.org/tmp/testfile file:///tmp/testfile2
[user1@pbg1012 gfarm]# diff /tmp/testfile1 /test/testfile2
後の diff コマンドでファイルが一致して、何も表示されなければ問題ない。
21
管理者ガイド NAREGI Middleware DataGrid
次に、GridFTP サーバ経由で Gfarm にファイルを書き込む。
[user1@pbg1012 gfarm]# globus-url-copy file:///tmp/testfile1 gsiftp://
pbg1012.naregi.org/gfarm/user1/testfile
[user1@pbg1012 gfarm]# globus-url-copy
gsiftp://pbg1012.naregi.org/gfarm/user1/testfile file:///tmp/testfile3
[user1@pbg1012 gfarm]# diff /tmp/testfile1 /test/testfile3
エラーが発生した場合には設定を確認する。
第6章. VO対応版Gfarmの起動/停止と保守について
6-1. 運用操作のパターンの種類と選定 VO 対応版 Gfarm はコマンドラインから起動、停止を行う。
6-1-1. 起動 Gfarm メタデータサーバは以下のコマンドで起動する。
# /etc/init.d/gfarm-pgsql start
# /etc/init.d/gfmd start
Gfarm ファイルシステムノードは以下のコマンドで起動する。
# /etc/init.d/gfsd start
6-1-2. 起動の確認 ps コマンドでプロセスを確認する。
ps –ef | grep postmaster
ps –ef | grep gfsd
6-1-3. 停止 Gfarm メタデータサーバは以下のコマンドで停止する。
# /etc/init.d/gfarm-pgsql stop
# /etc/init.d/gfmd stop
Gfarm ファイルシステムノードは以下のコマンドで停止する。
# /etc/init.d/gfsd stop
22
管理者ガイド NAREGI Middleware DataGrid
6-1-4. 停止の確認 ps コマンドでプロセスを確認する。
ps –ef | grep postmaster
ps –ef | grep gfsd
6-1-5. その他の運用操作 (1)Gfarm ファイルシステムノードの追加 新規ノードをファイルシステムノードとして追加するためには、そのノード上にGfarmを
インストールする必要がある。インストール方法は第 4 章. を参照。ここでは、pbg1015
をファイルシステムノードとして追加するとする。
Gfarm をインストールし、Gfarm メタサーバから%gfarm_install_dir%/etc/gfarm/以下の設
定ファイルをコピーして、以下の設定を行う。
[root@pbg1015 gfarm]# scp –r pbg1012.naregi.org:/naregi-v1/gfarm-vo/etc
/naregi-v1/gfarm-vo/
[root@pbg1015 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1015 gfarm]# config-gfsd -t /var/gfarm-spool
[root@pbg1015 gfarm]# config-gfsd /var/gfarm-spool
ファイルシステムノードの追加は VO ごとにおこなう。
追加したいファイルシステムノード(ここでは pbg1015)にログインし root で下記コマン
ドを実行。この例は VO 名が vo1 の場合である。実際に使用する VO 名に読み換えること。
root で実行。
[root@pbg1015 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1015 gfarm]# config-gfsd-vo -v vo1 /var/gfarm-spool
Gfarm クライアント環境がインストールされているマシン(ここでは pbg1012)にログイ
ン。VO 情報付のプロキシ証明書を取得した後、下記コマンドで確認。ユーザ権限で実行
すること。
[user1@pbg1012 gfarm-vo]# myproxy-get-delegation –l user1 –s png2044
[user1@pbg1012 gfarm-vo]# gfhost –lv
0.19/0.06/0.01 G i386-centos5-linux 2 pbg1012.naregi.org(xxx.xxx.xxx.xxx)
0.06/0.04/0.07 G i386-centos5-linux 2 pbg1013.naregi.org(xxx.xxx.xxx.xxx)
23
管理者ガイド NAREGI Middleware DataGrid
0.19/0.06/0.01 G i386-centos5-linux 2 pbg1014.naregi.org(xxx.xxx.xxx.xxx)
0.19/0.07/0.01 G i386-centos5-linux 2 pbg1015.naregi.org(xxx.xxx.xxx.xxx)
(2)Gfarm ファイルシステムノードの削除 Gfarm クライアント環境がインストールされているマシン(ここでは pbg1012)に root で
ログインする。
ファイルシステムノードの削除は VO ごとにおこなう。
環境変数「VO_NAME」で VO 名を指定したのち gfhost –d で削除したいノード名を指定す
る。この例は VO 名が vo1 の場合である。実際に使用する VO 名に読み換えること。ここ
では pbg1014 のファイルシステムノードを削除している。
[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1012 gfarm]# export VO_NAME=vo1
[root@pbg1012 gfarm]# gfhost -d pbg1014.naregi.org
VO 情報付のプロキシ証明書を取得した後確認する。ユーザ権限で実行。ユーザ名は例で
は user1 になっているが、使用するユーザ名に読みかえること。
[user1@pbg1012 gfarm]# myproxy-get-delegation –l user1 –s png2044
[user1@pbg1012 gfarm]# gfhost –lv
0.19/0.06/0.01 G i386-centos5-linux 2 pbg1012.naregi.org(xxx.xxx.xxx.xxx)
0.00/0.00/0.00 G i386-centos5-linux 2 pbg1013.naregi.org(xxx.xxx.xxx.xxx)
(3) 大容量ファイルを保存する際のノード切り換え時の設定の変更 大容量ファイルを書き込む際に、書き込み先の gfsd がいっぱいになる前に別のノードに切
り換えるが、そのときに残しておくディスク容量の設定を変更する場合には以下のように
する。デフォルト値は 10MB。通常は変更する必要はない。
Gfarm ファイルシステムノード(gfsd)の設定を変更する。
%gfarm_install_dir%/etc/gfarm.conf に以下の行を追記する。
minimum_free_disk_space_for_write 10M
minimum_free_disk_space_for_write の行には Gfarm クライアントからファイルが書き込
まれたときにあけておく容量を記述する。単位はバイト。
5.4.6 の“minimum_free_disk_space”の設定値よりも”minimum_free_disk_space_for_write”
の設定値が小さくなるようにする。
24
管理者ガイド NAREGI Middleware DataGrid
6-2. 保守 6-2-1. 保守の概要 設定ファイルを保存しておく
6-2-2. バックアップ 1-3-3 で述べた設定ファイルをバックアップしておく。
PostgreSQL 内のデータをバックアップする。
# /etc/initd.d/gfarm-pgsql stop
postgres$ tar cvzf backupdb.tar.gz /var/gfarm-metadata
# /etc/initd.d/gfarm-pgsql start
6-2-3. リストア バックアップしておいた 1-3-3 で述べた設定ファイルを戻す。
PostgreSQL のデータをリストアする。
# /etc/initd.d/gfarm-pgsql stop
postgres$ tar xvzf backupdb.tar.gz
# /etc/initd.d/gfarm-pgsql start
6-2-4. トラブルシューティング Gfarm のログを保存し確認してください。
すべてのファイルシステムノードの grid-mapfile にユーザのエントリが正しく設定されて
いるか確認する。登録する DN は下記コマンドで確認できる。
# /naregi-v1/voms-1.6.8/bin/voms-proxy-info -identity
6-2-5. その他の保守作業 Gfarm 上に保存したデータ自体も必要に応じてバックアップしておく。Gfarm ファイルサ
ーバ上で以下を実行する。gfsd のスプールディレクトリが/var/gfarm-spool であると仮定。
# tar cvzf databackup.tar.gz /var/gfarm-spool
25
管理者ガイド NAREGI Middleware DataGrid
第7章. VO対応版Gfarmのアンインストールについて
7-1. アンインストールの概要 Gfarm を停止した後、インストールディレクトリ、Gfarm スプールディレクトリ、Gfarm
メタデータディレクトリ、起動スクリプトを削除する。
7-2. アンインストール前の作業 Gfarm を停止する。
7-3. アンインストール 7-3-1. Gfarmメタデータサーバのアンインストール 以下のファイル、ディレクトリを削除する。
/var/gfarm-metadata
/etc/init.d/gfmd
/etc/init.d/gfarm-pgsql
/naregi-v1/gfarm-vo
7-3-2. Gfarmファイルシステムノードのアンインストール 以下のファイル、ディレクトリを削除する。
/var/gfarm-spool
/etc/init.d/gfsd
/naregi-v1/gfarm-vo
7-3-3. Gfarmクライアントのアンインストール 以下のファイル、ディレクトリを削除する。
/naregi-v1/gfarm-vo
7-4. アンインストール結果の確認 それぞれのマシンで、ファイルが削除されていることを確認する。
7-5. アンインストールに失敗した場合の対処方法 Gfarm が停止していることを確認して、もう一度アンインストール作業を行う。
7-6. アンインストール後の作業 なし
26
管理者ガイド NAREGI Middleware DataGrid
第8章. VO対応版Gfarm補足事項
8-1. 環境変数について システムコールフックライブラリを利用することで、通常のアプリケーションから、
Gfarm ファイルシステムを /gfarm にマウントしているようにアクセスすることができる。
Gfarm クライアントの設定を行ったマシン上で、以下のように、環境変数 LD_PRELOAD
でライブラリを指定して使用する。
[user1@pbg1012 gfarm]# export LD_PRELOAD=/naregi-v1/gfarm-
vo/lib/libgfs_hook.so:/usr/lib/gfarm/libpthread-not-
hidden.so:/usr/lib/gfarm/libc-not-hidden.so:/usr/lib/gfarm/librt-not-hidden.so
8-2. 同時アクセス数 Gfarm 用 GridFTP サーバは、xinetd から起動されるため、複数のクライアントから、
Gfarm 用 GridFTP サーバに同時にアクセスする場合の限界接続数は、xinetd の設定ファイ
ル(/etc/xinetd.conf)で設定される。
8-3. VO名について VO 名に”/”および空白文字を含む文字列を使用できない。
8-4. Gfarm用GridFTPサーバで表示されるファイル所有者情報について Gfarm 用 GridFTP サーバ経由で Gfarm 上のファイルの所有者、グループ情報を取得した
場合、実際の所有者にかかわらず、Gfarm 用 GridFTP サーバ上のローカルユーザ名が表示
される。アクセス管理システムの GUI で表示される情報も同様である。
8-5. GfarmのVOの登録と削除 8-5-1. VO登録
追加・削除する VO の VO 名は vo3 であると仮定する。すでに存在するVOを削除すると
その VO で保存した全ユーザの Gfarm 上のファイルが失われるので、注意すること。
すでにセットアップされている Gfarm メタサーバと Gfarm ファイルシステムノードに VO
を追加登録する。
(1) Gfarm メタサーバの設定 Gfarm メタデータサーバノードにログインし、root 権限で config-gfarm-vo を実行する。
実行ユーザ:root
[root@pbg1012 gfarm]# mkdir backup
27
管理者ガイド NAREGI Middleware DataGrid
[root@pbg1012 gfarm]# cp /naregi-v1/gfarm-vo/etc/gfarm/* backup/
[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1012 gfarm]# config-gfarm-vo -l /var/gfarm-metadata -P /naregi-
v1/pgsql -a gsi -v vo3
(2) Gfarm ファイルシステムノードの設定 Gfarm メタサーバの/naregi-v1/gfarm-vo/etc/gfarm/VO 名_gfarm.conf をファイルシステム
ノードすべてにコピーする。管理者権限でそれぞれのマシン上で config-gfsd-vo を実行す
る。Gfarm ファイルシステムノードが pbg1012 と pbg1013 だとすると以下のようになる。
実行ユーザ:root
[root@pbg1012 gfarm]# scp /naregi-v1/gfarm-vo/etc/gfarm/* pbg1013:\
/naregi-v1/gfarm-vo/etc/gfarm/
[root@pbg1012 gfarm]# scp /naregi-v1/gfarm-vo/etc/gfarm/* pbg1014:\
/naregi-v1/gfarm-vo/etc/gfarm/
[root@pbg1012 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1012 gfarm]# /etc/init.d/gfsd restart
[root@pbg1012 gfarm]# config-gfsd-vo -v vo3 /var/gfarm-spool
[root@pbg1013 gfarm]# export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[root@pbg1013 gfarm]# /etc/init.d/gfsd restart
[root@pbg1013 gfarm]# config-gfsd-vo -v vo3 /var/gfarm-spool
8-5-2. VO削除 VO を削除するとその VO で保存した Gfarm ファイルが失われるので、注意すること。
UMS 等のノードでの VO 削除手順は別途実行する。
(1) Gfarm ファイルシステムノードの設定 すべての Gfarm ファイルシステムノード上のファイル
/naregi-v1/gfarm-vo/etc/gfarm/VO 名_gfarm.conf
を取り除く
[root@pbg1012 gfarm]# cd /naregi-v1/gfarm-vo/etc/gfarm/
[root@pbg1012 gfarm]# mkdir backup
[root@pbg1012 gfarm]# mv vo3_gfarm.conf backup/
[root@pbg1013 gfarm]# cd /naregi-v1/gfarm-vo/etc/gfarm/
28
管理者ガイド NAREGI Middleware DataGrid
[root@pbg1013 gfarm]# mkdir backup
[root@pbg1013 gfarm]# mv vo3_gfarm.conf backup/
(2) Gfarm メタサーバの設定
Gfarm メタサーバ上の VO に対応したデータベースとユーザを削除する。
データベース名とユーザ名は gfarm_<VO 名>となる。
パスワードは、/var/gfarm-metadata/admin_password のものを使用する。
[root@pbg1012 gfarm]# /naregi-v1/pgsql/bin/dropdb -U postgres -p 10602
gfarm_vo3
DROP DATABASE
[root@pbg1012 gfarm]# /naregi-v1/pgsql/bin/dropuser -U postgres -p 10602
gfarm_vo3
DROP ROLE
8-6. Gfarmのアップグレード β2をインストールしてある環境を V1 にアップグレードする際に、β2で Gfarm 内に保
存したファイルを V1 環境に移行する方法について述べる。必要な作業は、Gfarm メタデ
ータのエクスポート、スプールディレクトリ(Gfarm 配下に保存したデータファイル自体)
の退避と復元、Gfarm メタデータのインポートである。
8-6-1. メタデータのダンプ Gfarm に付属するコマンド(gfdump)を使用して、Gfarm メタデータをダンプして VO 毎に
ファイルに保存する。Gfarm メタサーバのみで実行。
[root@pbg1012 gfarm]# export VO_NAME=「VO 名」
[root@pbg1012 gfarm]# /naregi-beta2/gfarm/bin/gfdump –d -f dumpfile_「VO 名」
8-6-2. スプールディレクトリの退避 ファイルシステムノードでスプールディレクトリ(β2 インストール時に指定した場所)
を退避する。全部の Gfarm ファイルシステムノードで実行。
[root@pbg1012 gfarm]# mv /var/gfarm-spool/ /var/gfarm-spool-bak
8-6-3. Gfarmのアンインストール β2 の Gfarm をアンインストールする。Gfarm は以下のディレクトリにインストールされ
ているので、これらのファイルをバックアップし、削除する。※dumpfile とスプールディ
レクトリ以外は使用しないが念のためバックアップしておく。
29
管理者ガイド NAREGI Middleware DataGrid
内容 ディレクトリ名またはファイル名 Gfarm 実行ファイル /naregi-beta2/gfarm Gfarm メタデータ(Gfarm メタサ
ーバのみ) /var/gfarm-pgsql または、/naregi-beta2/pgsql (β2 イ
ンストール時に指定した場所) Gfarm スプールディレクトリ
(Gfarm ファイルシステムノード
すべて)
/var/gfarm-spool (β2 インストール時に指定した場
所)
起動スクリプト /etc/init.d/gfsd /etc/init.d/gfmd /etc/init.d/gfarm-pgsql
実行例:
[root@pbg1012 gfarm]# /etc/init.d/gfsd stop
[root@pbg1012 gfarm]# /etc/init.d/gfmd stop
[root@pbg1012 gfarm]# /etc/init.d/gfarm-pgsql stop
[root@pbg1012 gfarm]# /etc/init.d/postgres stop
[root@pbg1012 gfarm]# mkdir /tmp/backup
[root@pbg1012 gfarm]# mv /naregi-beta2/gfarm /tmp/backup/
[root@pbg1012 gfarm]# mv /var/gfarm-pgsql /tmp/backup/
[root@pbg1012 gfarm]# mv /etc/init.d/gfsd /tmp/backup/
[root@pbg1012 gfarm]# mv /etc/init.d/gfmd /tmp/backup/
[root@pbg1012 gfarm]# mv /etc/init.d.gfarm-pgsql /tmp/backup/
8-6-4. Gfarmのインストール V1(Gfarm-VO)をインストールし設定までおこなう。
8-6-5. メタデータのインポート(Gfarmメタサーバで実行) [root@pbg1012 gfarm]# export VO_NAME=「VO 名」
[root@pbg1012 gfarm]# /naregi-v1/gfarm-vo/bin/gfdump –r –f dumpfile「VO 名」
8-6-6. スプールディレクトリの復元 スプールディレクトリ内のデータ(Gfarm 内に保存したファイルの実体)の復元。Gfarm フ
ァイルシステムノードすべてで実行。
[root@pbg1012 gfarm]# cp -a /var/gfarm-spool-bak/* /var/gfarm-spool/
30
管理者ガイド NAREGI Middleware DataGrid
◆ データグリッドアクセス管理システム
第9章. はじめに(データグリッドアクセス管理システム)
9-1. 概要 本ドキュメントでは、データグリッドアクセス管理システムのインストール、および設
定方法について説明する。
データグリッドアクセス管理システム(以下、DGAMS)は、NAREGI ポータルシステ
ムと同一ホストにインストールする事により、データグリッド汎用転送サービス(以下、
DGUFT)を利用し Gfarm 上のファイルをインポートおよびエクスポートする機能を提供
する。DGAMS により、Gfarm 上にインポートしたファイルをワークフローツールシステ
ムから指定し、NAREGI 統合ミドルウェア上で動作するアプリケーションから利用可能に
する。
DGAMSでは、環境としてTomcat、Globus Toolkit 4.0.5 が必要である。全体構成は図
9-1のようになる。
図 9-1. 構成概要図
本ドキュメントではポータルノードへの DGAMS のセットアップ、および DGUFT サー
バへの DGUFT のセットアップ、SS ノードへのセットアップをそれぞれ説明する。
31
管理者ガイド NAREGI Middleware DataGrid
第10章. DGAMS, DGUFTインストール
本システムのインストール作業は、大きく分けて2つのパートに分かれている。2つのパ
ートとは DGAMS と DGUFT である。DGAMS は NAREGI ポータルと同一マシンにインス
トールする。DGUFT は単独の DGUFT サーバにインストールする。
DGAMS は配布用 CD-ROM に含まれているソースコードをビルドすることにより作成さ
れる WAR ファイル(datagrid.war)によって構成され、DGUFT は GAR ファイル
(uft_service.gar)と uft_client.jar、uft_stub.jar、globus-url-copy2 で構成される。
uft_client.jar および uft_stub.jar は DGUFT のクライアントに配布するクライアントライブ
ラリである。これらのモジュールについては DGUFT のインストール作業が終了後、PSE
のポータルシステム、SS ノードに提供、配布する必要がある。
以下の節では、DGAMS と DGUFT のインストール手順を示す。
10-1. ポータルノードへのインストール前の作業 DGAMS が稼働する環境では Globus Toolkit、Tomcat をインストールしている事が前提
条件としている。
以下、Globus Toolkit, Tomcat インストールと設定の概要を示すが、インストールの詳
細については、それぞれのインストールドキュメントを参照すること。
10-1-1. Globus Toolkitインストール ポータルノードへの Globus Toolkit のインストールを行う。インストールの詳細にについ
ては 2-1 を参照。またポータルノードでは Globus コンテナを起動する必要はないので、
Globus コンテナの起動スクリプト作成プロセスは省略して構わない。
10-1-2. Tomcatインストール Tomcat のインストールについては省略する。
ここでは/naregi-v1/tomcat にインストールしたものとして、以下の環境変数を
/etc/profile などに記述し、tomcat を動作させるユーザから取得できる環境変数として設定
する。
% export CATALINA_HOME=/naregi-v1/tomcat
注意点として、この$CATALINA_HOME 以下のディレクトリは Globus Toolkit の稼動ユー
ザの書き込み権限が必要である。
32
管理者ガイド NAREGI Middleware DataGrid
10-2. DGUFTサーバへのインストール前の作業 DGUFT が稼働する環境では Globus Toolkit、PostgreSQL をインストールしている事が
前提条件としている。
以下、Globus Toolkit, Tomcat、PostgreSQL インストールと設定の概要を示すが、イン
ストールの詳細については、それぞれのインストールドキュメントを参照すること。
10-2-1. Globus Toolkitインストール DGUFT サーバへの Globus Toolkit のインストールを行う。インストールの詳細にについ
ては 2-1 を参照。また DGUFT サーバでは Globus コンテナを起動する必要がある。
10-2-2. GridFTPの設定 Globus Toolkit のコンポーネントである GridFTP をデーモンとして設定する。詳細につい
ては Globus Toolkit のドキュメントを参照すること。
10-2-3. PostgreSQLインストール DGUFT サーバへの PostgreSQL のインストールを行う。インストールの詳細にについて
は 2-2 を参照。
33
管理者ガイド NAREGI Middleware DataGrid
10-3. DGAMSインストール 10-3-1. ビルド前作業 DGAMS をビルドする前に、必須ライブラリである J2SSH をビルドする必要がある。
J2SSH については
http://sourceforge.net/projects/sshtools
から 0.2.7 のソースファイル一式をダウンロードし、適当なディレクトリに展開する。ま
た J2SSH のビルドには JDK 1.4 を利用すること。
# tar zxvf j2ssh-0.2.7-src.tar.gz
# cd j2ssh
# ant
…
# cp dist/lib/j2ssh*.jar /usr/local/src/naregi-dgams-v1/lib
10-3-2. ビルド作業 NAREGI ポータルがインストールされているマシン上でソースコードからビルド作業を
おこなう。以下に一連の作業のコマンド例を示す。あらかじめ ant をインストールしてお
くこと。
# cp /dev/cdrom/naregi-dgams-v1 /usr/local/src/naregi-dgams-v1
# cd /usr/local/src/naregi-dgams-v1/
# ant
10-3-3. インストール作業 ビルド作業により生成された datagrid.war ファイルを配置する。配置する場所は
Tomcat のインストールディレクトリ下にある webapps に配置し、tomcat のデーモンを再
起動する。その後、webapps の下に、datagrid ディレクトリが展開されている事を確認す
る。以下に一連の作業のコマンド例を示す。
% cp /usr/local/src/naregi-dgams-v1/datagrid.war $CATALINA_HOME/webapps/
% sudo /sbin/service tomcat restart
ただし Tomcat の自動展開機能が動作していない場合、手動で datagrid.war を展開する
必要がある。その手順を以下に示す。
% cd $CATALINE_HOME/webapps
34
管理者ガイド NAREGI Middleware DataGrid
% mkdir datagrid
% cp /usr/local/src/naregi-dgams-v1/datagrid.war
$CATALINA_HOME/webapps/datagrid
% cd ./datagrid
% jar –xvf datagrid.war
手動で展開した場合はさらに、Tomcat の設定ファイルを編集する必要がある。編集す
るファイルは$CATALINE_HOME/conf/server.xml である。このファイルに DGAMS のサー
ブレットを登録する必要がある。設定例を以下に示し、追加すべき箇所を赤字で示す。ま
た表記中に Tomcat のインストールディレクトリを$CATALINE_HOME としているが、実
際に記述する場合は正確なフルパスの表記にしなければならない。
<Server port="8005" shutdown="SHUTDOWN" debug="0">
<Engine name="Catalina" defaultHost="localhost" debug="0">
<Host name="localhost" debug="0" appBase="webapps" ...
...
<Context path="/datagrid" reloadable="true"
docBase="$CATALINE_HOME/webapps/datagrid"
workDir="$CALALINE_HOME/webapps/datagrid/work" crossContext="true">
<Logger className="org.apache.catalina.logger.SystemOutLogger"
verbosity="4" timestamp="true"/>
</Context>
</Host>
</Engine>
</Service>
</Server>
10-3-4. ビルド後作業 DGAMS のインストールを完了するには、xmlp.js が必要となる。xmlp.js については
http://www.koders.com/javascript/fid23B536681B06C19EA98BB6AC5A5
B310CA22BE7A8.aspx
からダウンロードし、DAMS 内のディレクトリに配置する必要がある。
# cp xmlp.js $CATALINA_HOME/webapps/datagrid/js
#
35
管理者ガイド NAREGI Middleware DataGrid
10-3-5. DGAMS設定ファイル アクセス管理用設定ファイル($CATALINA_HOME/webapps/datagrid/WEB-
INF/classes/dg.prop.xml)を編集し、環境に応じた値やホスト名を記述する。本ファイル
はentryタグのkey属性がプロパティ名称を示し、entryタグでくくられた値がプロパティに
対する値となる。管理者は値の箇所のみを編集する。プロパティ名称に関する説明は表
10-1を参照。
表 10-1.dg.prop.xml ファイルの説明
頁
番 属性 説明 値の例
1 dams.mode 開発時に使用。編集してはならな
い。 active
2 dams.dg.uft.host DGUFT サーバのホスト名。環境に応
じて編集する。 uft.naregi.org
3 dams.dg.uft.protocol
DGUFT サーバへのプロトコル名。環
境に応じて編集する。 https
4 dams.dg.uft.port DGUFT サーバのポート番号。環境に
応じて編集する。
8443
5 dams.dg.uft. tmpdir
DGUFT サーバでの一時ファイル作成
ディレクトリ名。ユーザの誰もが読
み書きできるディレクトリを指定す
る。
/tmp/duft (DGUFT サーバに値の
ディレクトリを作成す
る必要がある) 6 dams.dg.uft.gsiftp
.port DGUFT サーバの GridFTP のポート番
号。環境に応じて編集する。 2811
7 dams.dg.ams.tmpdir
ポータルでの一時ファイル作成ディ
レクトリ名。ユーザの誰もが読み書
きできるディレクトリを指定する。
/tmp/dgams (ポータルノードに値の
ディレクトリを作成す
る必要がある) 8 dams.fileupload.m
ax.size ファイルアップロード時のファイル
サイズ上限値 1024000000
9 dams.max.joblist_line
ジョブリスト画面表示時の 1 ページ
あたり 大表示列数 20
10 dams.max.filelist_line
ファイルリスト画面表示時の 1 ペー
ジあたり 大表示列数 30
11 dams.gridftp.parallelism
GridFTP を利用したファイル転送の
時の並列コネクション数。 1
12 dams.gridftp.tcp_buffer
GridFTP を利用したファイル転送の
時のバッファサイズ数。 4194304
13 dams.gfarm.gridftp.%VO 名%
VO 毎の Gfarm アクセスサーバ URL名。VO 毎にエントリを記述する。
vo1.naregi.org:2811
36
管理者ガイド NAREGI Middleware DataGrid
10-3-6. DGAMSログ設定ファイル DGAMS 用ログ設定ファイル($CATALINA_HOME/webapps/datagrid/WEB-
INF/classes/log4j.properties)を編集し、環境に応じたログファイル名を記述する。以下に
log4j.properties の例を示す.先頭の数字は行番号である。
本ファイルの 19 行目の log4j.appender.dgFile.File の属性値のログファイル名は本シス
テムのログファイルになる。それぞれの環境に合わせたログ出力のファイル名をフルパス
名で記述する。また青文字で記している箇所が Syslog への対応である。6 行目から 9 行目
にかけての dgSyslog をつけることで Syslog へ出力される。また dgSyslog を削除するこ
とで、Syslog への出力をやめることができる。
1 log4j.rootCategory=INFO, stdout
2 log4j.appender.stdout=org.apache.log4j.ConsoleAppender
3 log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
4 log4j.appender.stdout.layout.ConversionPattern=%d [%t] %-5p %c - %m%n
5
6 log4j.logger.org.naregi.dg.ams=DEBUG, dgFile, dgSyslog
7 log4j.logger.org.naregi.dg.common=DEBUG, dgFile, dgSyslog
8 log4j.logger.org.naregi.dg.uft=DEBUG, dgFile, dgSyslog
9 log4j.logger.org.naregi.dg.resource=DEBUG, dgFile, dgSyslog
10
11 log4j.appender.dgSyslog=org.apache.log4j.net.SyslogAppender
12 log4j.appender.dgSyslog.Threshold=DEBUG
13 log4j.appender.dgSyslog.Facility=local4
14 log4j.appender.dgSyslog.SyslogHost=localhost
15 log4j.appender.dgSyslog.layout=org.apache.log4j.PatternLayout
16 log4j.appender.dgSyslog.layout.ConversionPattern=naregiDAMS %p: %c{2}
[%t,%M:%L] %m%n
17
18 log4j.appender.dgFile=org.apache.log4j.FileAppender
19 log4j.appender.dgFile.File=/tmp/dg.log
20 log4j.appender.dgFile.layout=org.apache.log4j.PatternLayout
21 log4j.appender.dgFile.layout.ConversionPattern=%d [%t] %-5p %c - %m%n
37
管理者ガイド NAREGI Middleware DataGrid
10-4. DGUFTインストール
10-4-1. インストール作業 あらかじめ、ポータルノードでのビルド作業で生成された「/usr/local/src/naregi-dgams-
v1/uft_service.gar」を Globus Toolkit がインストールされており、設定が完了しているマ
シンに uft_service.gar ファイルをコピーしておく。
また、下記のファイルに関してもポータルノードからコピーしておく。
・/usr/local/src/naregi-dgams-v1/naregi_dg_common_v1/dgams_common.jar
・/usr/local/src/naregi-dgams-v1/naregi_uft_client_v1/dguft_client.jar
・/usr/local/src/naregi-dgams-v1/naregi_uft_common_v1/dguft_stub.jar
・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/WEB-INF/classes/log4j.properties
・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/WEB-INF/classes/dg.prop.xml
・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/shared_lib/portal-shared.jar
・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/shared_lib/vomsclient-0.2.jar
・/usr/local/src/naregi-dgams-v1/naregi_integrated_web/shared_lib/glite-security-util-
java.jar
「uft_service.gar」の配置には Globus Toolkit 附属コマンドを利用する。インストール作
業は Globus Toolkit WSRF コンテナを動作させるユーザで作業する。以下に一連の作業の
コマンド例を示す。
% globus-deploy-gar uft_service.gar
%
また DGUFT のクライアントツールのインストール方法は以下の通りである。ただしウェ
ブインタフェースを利用する場合、DGUFT クライアントのインストール作業は必要ない。
コマンドラインにて DGUFT を操作する場合のみ、DGUFT クライアントのインストール
作業が発生する。インストール先ディレクトリを/naregi-v1/DGUFT とする。そのディレク
トリに対し、globus-url-copy2、addclasspath.sh、をコピーする。また Potarl から提供さ
れる dguft_client.jar、dguft_stub.jar、dgams_common.jar、portal-shared.jar、
vomsclient.jar、glite-security-util-java.jar、dg.prop.xml、log4j.properties をコピーする。
% cp naregi-dgams-v1/naregi_uft_client_v1/src/addclasspath.sh /naregi-
v1/DGUFT/bin
% cp naregi-dgams-v1/naregi_uft_client_v1/src/globus-url-copy2 /naregi-
v1/DGUFT/bin
38
管理者ガイド NAREGI Middleware DataGrid
% cp naregi-dgams-v1/naregi_uft_client_v1/src/log4j.properties /naregi-
v1/DGUFT/bin
% cp naregi-dgams-v1/naregi_uft_client_v1/src/client-config.wsdd /naregi-
v1/DGUFT/bin
% cp naregi-dgams-v1/naregi_uft_client_v1/dguft_client.jar /naregi-
v1/DGUFT/lib
% cp naregi-dgams-v1/naregi_uft_common_v1/dguft_stub.jar /naregi-v1/DGUFT/lib
% cp naregi-dgams-v1/naregi_dg_common_v1/dgams_common.jar /naregi-v1/DGUFT/lib
% scp portal:/naregi-v1/tomcat/webapps/datagrid/WEB-INF/classes/dg.prop.xml
/naregi-v1/DGUFT/lib
% scp portal:/naregi-v1/tomcat/shared/lib/portal-shared-0.9.jar /naregi-
v1/DGUFT/lib
% scp portal:/naregi-v1/tomcat/shared/lib/vomsclient-0.2.jar /naregi-
v1/DGUFT/lib
% scp portal:/naregi-v1/tomcat/shared/lib/glite-security-util-java.jar
/naregi-v1/DGUFT/lib
% chmod 755 globus-url-copy2
その後、コピーした dg.prop.xml および log4j.properties を編集する。編集内容はそれぞれ
10-3-3、10-3-4 を参照する。
10-4-2. スキーマの作成作業 あらかじめ、ポータルノードでのビルド作業用に作成したディレクトリから
「/usr/local/src/naregi-dgams-v1/naregi_uft_service_v1/sql/createtable.sql」を本ノードへ
コピーしておき、下記のコマンドによりデータベースを作成する。
[globus@png2018 naregi-dgams-v1]$ su
[root@png2018 naregi-dgams-v1]$ su postgres
[postgres@png2018 naregi-dgams-v1]$ createuser -P duft
Enter password for new role: (パスワードを設定する)
Enter it again:
Shall the new role be a superuser? (y/n) n
Shall the new role be allowed to create databases? (y/n) y
Shall the new role be allowed to create more new roles? (y/n) y
CREATE ROLE
[postgres@png2018 naregi-dgams-v1]$ createdb dgDatabase -O duft
39
管理者ガイド NAREGI Middleware DataGrid
CREATE DATABASE
[postgres@png2018 naregi-dgams-v1]$ psql -d dgDatabase –U duft –f
naregi_uft_service_v1/sql/createtable.sql
psql:/tmp/naregi-dgams-v1/naregi_uft_service_v1/sql/createtable.sql:16:
NOTICE: CREATE TABLE / PRIMARY
KEY will create implicit index "pk_job" for table "job"
CREATE TABLE
psql:/tmp/naregi-dgams-v1/naregi_uft_service_v1/sql/createtable.sql:30:
NOTICE: CREATE TABLE / PRIMARY
KEY will create implicit index "pk_request" for table "request"
CREATE TABLE
10-4-3. DGUFT設定ファイル DGUFTサーバ設定ファイル($GLOBUS_LOCATION/etc/uft_service/duft.prop.xml)を
編集し、環境に応じた値やホスト名を記述する。本ファイルはentryタグのkey属性がプロ
パティ名称を示し、entryタグでくくられた値がプロパティに対する値となる。管理者は値
の箇所のみを編集する。プロパティ名称に関する説明は表 10-2を参照。
表 10-2.duft.prop.xml ファイルの説明
頁
番 属性 説明 値の例
1 duft.mode 開発時に使用。編集してはならな
い。 active
2 duft.is.metadata 開発時に使用。編集してはならな
い。 false
3 duft.data.src.driver
データベースドライバ名称。編集し
てはならない。 org.postgresql.Driver
4 duft.data.src.database
データベース名称。編集してはなら
ない。 postgresql
5 duft.data.src.host データベースサーバのホスト名もし
くは IP アドレス。環境に応じて編集
する。
uft.naregi.org (通常は DGUFT サーバ
と同一) 6 duft.data.src.port データベースサーバのポート番号。
環境に応じて編集する。
5432
7 duft.data.src.name
データベースサーバのデータベース
名称。編集してはならない。 dgDatabase
8 duft.data.src.user データベースサーバのユーザ名称。 duft
40
管理者ガイド NAREGI Middleware DataGrid
環境に応じて編集する。 9 duft.data.src.pass
wd データベースサーバのユーザにタイ
ルすパスワード。環境に応じて編集
する。
duft
10 duft.connect.type データベースサーバの接続方法。編
集してはならない。 jdbc
11 duft.max.job_thread
同時に実行できるジョブの 大数 32
12 duft.max.job_queue
キューイングできるジョブの 大数 100000
10-5. モジュール配布 本節では他の NAREGI システムに本システムのモジュールの配布について説明する。モ
ジュールを配布するシステムは
■ ワークフローツールシステム
■ PSE システム
の2つである。
10-5-1. ワークフローツールシステムへのインストール ポータルノードの tomcat のインストール先を/naregi-v1/tomcat、apache2 のインストー
ル先を/naregi-v1/apache2 とする。そのディレクトリに対し、ポータルノード上にインス
トール済みの dgams-dialog.jar をコピーする。
% ln –s /naregi-v1/tomcat/webapps/datagrid/dgams-dialog.jar /naregi-
v1/apache2/htdocs
10-5-2. PSEへのインストール PSE のインストール先を/naregi-v1/tomcat/webapps/pse とする。そのディレクトリに対
し、ポータルノード上にインストール済みの dguft_client.jar、dguft_stub.jar、
dgams_common.jar をコピーする。またポータルノード上で設定した dg.prop.xml を同様
にコピーする。
% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/lib/dguft_client.jar /naregi-
v1/tomcat/webapps/pse/WEB-INF/lib
% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/lib/dguft_stub.jar /naregi-
v1/tomcat/webapps/pse/WEB-INF/lib
% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/lib/dgams_common.jar /naregi-
v1/tomcat/webapps/pse/WEB-INF/lib
% cp /naregi-v1/tomcat/webapps/datagrid/WEB-INF/classes/dg.prop.xml /naregi-
41
管理者ガイド NAREGI Middleware DataGrid
v1/tomcat/webapps/pse/WEB-INF/classes
10-6. 疎通確認 本節ではインストール後の疎通確認を行う手順を示す。本システムはデータグリッド資
源管理システムへ依存関係にあるので、両システムのインストール後に疎通確認を行う。
疎通確認は以下の手順に沿って行う。
1. ウェブブラウザを起動し、NAREGI ポータルシステムへアクセスする
2. sign on を行った後、メニュー画面の Data Grid Enviroment の[Open]ボタンを押下す
る
3. DGAMS の VO 名、ユーザ名が表示される事を確認する
4. /gfarm/ユーザ名のファイル一覧が表示される事を確認する。
42
管理者ガイド NAREGI Middleware DataGrid
第11章. DGAMS, DGUFTの運用と保守
DGAMS は Tomcat 上で動作する。従って動作手順は Tomcat と HTTP サーバに依存す
る。以下の節では Tomcat に準じた DGAMS の起動、停止方法を示す。また DGUFT は
Globus Toolkit WSRF コンテナ上で動作する。従って動作手順は Globus Toolkit WSRF コ
ンテナが動作する HTTP サーバに依存する。
11-1. DGAMS運用手順 11-1-1. 起動 システムコマンドを使用した Tomcat の起動の例を以下に示す。
% sudo /sbin/service tomcat start
Starting tomcat: Using CATALINA_BASE: /naregi-v1/tomcat
Using CATALINA_HOME: /naregi-v1/tomcat
Using CATALINA_TMPDIR: /naregi-v1/tomcat/temp
Using JAVA_HOME: /usr/java/jdk-1.5.0_13
%
11-1-2. 起動の確認 DGAMS の起動確認については、Tomcat のログファイルにて確認を行う。確認すべき記
述はないが、起動時に例外が発生していない事を確認する。
11-1-3. 停止 システムコマンドを使用した Tomcat の停止の例を以下に示す。
% sudo /sbin/service tomcat stop
Shutting down tomcat: Using CATALINA_BASE: /naregi-v1/tomcat
Using CATALINA_HOME: /naregi-v1/tomcat
Using CATALINA_TMPDIR: /naregi-v1/tomcat/temp
Using JAVA_HOME: /usr/java/jdk-1.5.0_13
%
11-1-4. 停止の確認 システムコマンドを用い、Tomcat のプロセスが無い事を確認する。コマンドの例を以
下に示す。
43
管理者ガイド NAREGI Middleware DataGrid
% ps –auwx | grep tomcat
%
11-1-5. その他の運用操作 特になし。
11-2. DGUFT運用手順 11-2-1. 起動 システムコマンドを使用した Globus コンテナの起動の例を以下に示す。
% su
# /etc/init.d/globus start
Starting Globus container. PID: 14678
#
11-2-2. 起動の確認 DGUFT の起動確認については、Globus コンテナのログファイルにて確認を行う。確認
すべき記述はないが、起動時に例外が発生していない事を確認する。
11-2-3. 停止 システムコマンドを使用した Globus コンテナの停止の例を以下に示す。
% su
# /etc/init.d/globus stop
Stopping Globus container. PID: 14678
Container stopped
#
11-2-4. 停止の確認 システムコマンドを用い、Globus コンテナのプロセスが無い事を確認する。コマンドの
例を以下に示す。
% ps –auwx | grep globus | grep java
%
11-2-5. その他の運用操作 特になし。
44
管理者ガイド NAREGI Middleware DataGrid
11-3. 保守 システムで不具合が起こった場合、以下のログファイルを確認することが有効な手段で
ある。DGAMS によって出力するログは以下の3つのファイルである。
■ TOMCAT のログファイル($CATALINE_HOME/logs/cataline.out)
■ DGAMS のログファイル(10-3-7 節を参照)
■ DGUFT のログファイル(10-3-7 節を参照)
以下の小節では、上述したログファイルを元にしたトラブルシューティングや、保守の
方法を説明する。
11-3-1. トラブルシューティング 動作中に表示されるシステムエラーメッセージを表 11-1にまとめる。説明に書いている
確認方法を試行し、動作確認を行う。
表 11-1.システムエラーメッセージ一覧
頁番 エラーメッセージ 説明 1 Auth failed.
or Authentication failer.
認証エラー。パスフレーズの入力ミスでも、この
エラーメッセージは表示されるが、 ・MyProxy の設定 ・証明書の有効期限 ・ネットワークの障害(firewall による port の塞
がり) などに起因する環境の問題の可能性がある。環境
設定の見直しおよび、10-3-6 節の設定ファイルの
MyProxy の項目を確認する。 2 https://ポータルホスト名:
443/datagrid/Import ホスト名のみが表示されるエラー。 Applet からポータルの DGAMS に接続を試みた
ときに、接続できなかった場合、発生するエラ
ー。ポータルの Tomcat もしくは HTTP サーバの
設定(ポート番号)に問題の可能性がある。 Tomcat もしくは HTTP サーバの設定およびネッ
トワークの設定を見直す。 3 Server returned HTTP
response code; 500 for https://ポータルホスト名/datagrid/Import
サーバに何らかの障害が発生し、表示されるエラ
ー。 ・設定ファイルが正常に読み込めない時 ・設定ファイルの中身が正しくない時 ・メタデータサーバのアドレス or ポート or ユー
ザ名が不正 ・PostgreSQL などのライブラリの配置 などの場合に表示する。10-3-7 節に示したログフ
ァイルに記載されている例外を元に上述した原因
を特定し、10-3-6 節と設定ファイルを確認する。
また、ライブラリの配置を 10-3 節にて確認す
45
管理者ガイド NAREGI Middleware DataGrid
る。 4 エラーメッセージなし
現象:インポート画面にて
[access]ボタンを押下したとき
に、長時間画面が止まったま
ま、ログファイルに例外が発
生
1.インポートクライアントエラー。 データグリッド資源管理システムライブラリの設
定ファイルを確認する。 2. 画面のホスト名とポート番号に入力した値が不
正。この項目には GridFTP が稼働しているホス
ト名を入力する。
11-3-2. その他の保守作業 特に方法は記載しないが、ログファイルは増長になるので、定期的なログファイルのバ
ックアップおよび削除が必要となる。
46
管理者ガイド NAREGI Middleware DataGrid
第12章. DGAMS, DGUFTアンインストール
本章ではアンインストール方法を説明する。
12-1. アンインストール前の作業 DGAMS、DGUFT をアンインストールする前に本システムの停止を確認する。停止方法
については 11-1-2 節、11-1-3 節、11-2-2 節および 11-2-3 節を参照する。
12-2. DGAMSアンインストール DGAMS のアンインストールはシステムコマンドを用いる。コマンドの例を以下に示す。
% cd $CATALINE_HOME/webapps
% rm –fr ./datagrid
% rm ./pse/WEB-INF/lib/dguft_client.jar
% rm ./pse/WEB-INF/lib/dguft_stub.jar
% rm ./pse/WEB-INF/lib/dgams_common.jar
% rm ./pse/WEB-INF/lib/dg.prop.xml
% rm /naregi-v1/apache2/htdocs/dgams-dialog.jar
%
12-3. DGUFTアンインストール DGUFT のアンインストールは Globus Toolkit 附属コマンドを用いる。コマンドの例を
以下に示す。
% globus-undeploy-gar uft_service
%
47
管理者ガイド NAREGI Middleware DataGrid
◆ データグリッド資源管理システム
第13章. はじめに(データグリッド資源管理システム)
データグリッド資源管理システムのインストール、および設定方法について説明する。デ
ータグリッド資源管理システムの設定を行うことで、ウェブブラウザを用いて、データグ
リッドアクセス管理画面から、Gfarm ファイルシステムの使用状況を表示することができ
るようになる。また、ファイルシステムノードごとのファイル数、使用容量の表示、ファ
イルの Gfarm 上での保存先の表示機能を持つ。また、条件を指定して、ファイルの情報を
表示することができる。ファイルごとにコメントを保存することができる。
データグリッド資源管理システムの全体構成は図 13-1のようになる。
Gfarm metadata server
GfarmClient Library
browser
Portal server
OGSA-DAIClient
servlet
Gfarm Environment
gfsd FS
gfsd FS
gfsd FS
gfsd FS
PostgreSQL(Gfarm
Metadata)
OGSA-DAI
GfarmClient
gfmd
gfsd FS
図 13-1. 構成
48
管理者ガイド NAREGI Middleware DataGrid
第14章. データグリッド資源管理システムのインストールについて
14-1. インストールの概要 本システムのインストール作業は、Gfarm のインストールとポータル上でのサーブレット
部分の設定に分かれる。まず、Gfarm メタサーバ上で、OGSA-DAI のインストールを行う。
後にサーブレットの設定を行う。サーブレットの部分は、データグリッドアクセス管理
システムのウェブアプリに統合されているため、改めてインストール作業をする必要はな
く、設定のみをおこなう。
本システムは、OGSA-DAI をインストールして設定するためのスクリプトと設定ファイル
(dai_installer.pl、 data.service.resource.properties.template)とサーブレット部分
(datagrid.war)で提供される。
14-2. インストール前の作業 NAREGI ポータルシステムとその上で動作するデータグリッドアクセス管理システム(デー
タグリッドウェブインタフェース)、VO 対応版 Gfarm はすでにインストールされているも
のと仮定する。VO 対応版 Gfarm のインストールの方法については、VO 対応版 Gfarm の
章を参照すること。まず OGSA-DAI をインストールし、その後ウェブアプリの設定を行う。
14-2-1. OGSA-DAIのインストール Gfarm メタサーバをインストールしたマシン上でインストールを行う。dai_installer.pl、
data.service.resource.properties.template および OGSA-DAI のアーカイブ(ogsadai-wsrf-
2.2-bin.tar.gz )を Gfarm メタサーバが動作しているマシンの同一ディレクトリにコピーす
る。
Globus Toolkit が”/naregi-v1/globus”に、VO 対応版 Gfarm が/naregi-v1/gfarm-vo にインス
トールされていると仮定すると以下のようになる。あらかじめ ant をインストールしてお
くこと。
このインストーラは VO 対応版 Gfarm のインストール先の etc/gfarm/以下の設定ファイル
を参照して設定を行っている。
まず、JDBC のインストールを行う。
[globus@pbg1012 globus]# cp <NAREGI-PKG>/RequiredSoftware/postgresql-8.2-
507.jdbc3.jar $GLOBUS_LOCATION/lib
[globus@pbg1012 globus]# mv /naregi-v1/globus/lib/pg73jdbc2.jar /naregi-
v1/globus/lib/pg73jdbc2.jar.bak
49
管理者ガイド NAREGI Middleware DataGrid
次に OGSA-DAI のインストールを行う。
(1) インストーラを使用する場合:
このインストーラは初期設定作業の負担を低減するためのものである。運用中に VO を追
加した場合など設定変更が必要な場合には「手動で設定する場合」を参照すること。
[root@pbg1012 globus]# mkdir /naregi-v1/dgrms
[root@pbg1012 globus]# chown globus.globus /naregi-v1/dgrms
[root@pbg1012 globus]# su globus
[globus@pbg1012 globus]# cd /naregi-v1/dgrms
[globus@pbg1012 dgrms]# <NAREGI-PKG>/RequiredSoftware/ogsadai-wsrf-2.2-
bin.tar.gz ./
[globus@pbg1012 dgrms]# <NAREGI-PKG>/dgrms/Progs/src/dai_installer/da* ./
[globus@pbg1012 dgrms]# ls
dai_installer.pl
data.service.resource.properties.template
ogsadai-wsrf-2.2-bin.tar.gz
[globus@pbg1012 dgrms]# export GLOBUS_LOCATION=/naregi-v1/globus
[globus@pbg1012 dgrms]# export GFARM_LOCATION=/naregi-v1/gfarm-vo
[globus@pbg1012 dgrms]# ./dai_installer.pl
カレントディレクトリに dgmonitor.xml というファイルが生成される。このファイルは後
でウェブアプリの設定に使用するので、ポータルサーバにコピーする。
Globus コンテナを起動
[root@pbg1012 globus]# /etc/init.d/globus start
Globus コンテナを起動できない場合には、設定を間違えている可能性があるので見直す。
もう一度インストールしなおしたい場合には、$GLOBUS_LOCATION/etc/ogsadai-wsrf デ
ィレクトリを退避してから dai_installer.pl スクリプトを実行すること。
(2) 手動で設定する場合:
インストーラ(dai_installer.pl)を使用した場合には以下の作業は必要ない。
まず、OGSA-DAI をコンテナにデプロイする。
[globus@pbg1012 globus]# tar xvzf ogsadai-wsrf-2.2-bin.tar.gz
[globus@pbg1012 globus]# cd ogsadai-wsrf-2.2
[globus@pbg1012 globus]# ant install -Ddai.container=/naregi-v1/globus
[globus@pbg1012 globus]# ant deployService -Ddai.container=/naregi-v1/globus -
50
管理者ガイド NAREGI Middleware DataGrid
Ddai.service.name=ogsadai/DataService
次にデータベースごとの設定を行う。この作業は VO 毎に行う。
data.service.resource.properties を編集(dai.data.resource.type、RDBMS のアドレス、ユ
ーザ名、パスワード)し、VO 毎に設定ファイルを作成する。
ここで設定する dai.password=の部分のパスワードは、Gfarm インストール先
の”etc/gfarm/<vo 名>gfarm.conf”の postgresql_password 行のものを使用する。前後の余分
な””は取り除くこと。dai.user.name=の部分のユーザ名は Gfarm インストール先
の”etc/gfarm/<vo 名>gfarm.conf”の postgresql_user 行のものを使用する。
dai.data.resource.uri=の部分は PostgreSQL サーバのアドレスを指定するが、ここで用い
る DB 名は Gfarm インストール先の”etc/gfarm/<vo 名>gfarm.conf”の postgresql_dbname
行のものを使用する。dai.resource.id=の部分は、VO 毎に別の値を設定する。
dai.data.resource.type=Relational
# dai.data.resource.type=XML
# dai.data.resource.type=Files
.
.
.
dai.product.name=PostgreSQL
dai.product.vendor=Postgres
dai.product.version=
dai.data.resource.uri=jdbc:postgresql://localhost:10602/gfarm_<vo名>
dai.driver.class=org.postgresql.Driver
.
.
.
dai.user.name=gfarm_<vo 名>
dai.password=xxx
その後、以下を実行する。VO 毎に作成した設定ファイルすべてについて実行する。その
際、-Ddai.resource.id=の部分は先ほど設定した dai.resource.id の値を指定する。この
resource id の値は後で使用するので覚えておく。
[globus@pbg1012 globus]# ant deployResource -Ddai.container=/naregi-
beta2/globus
-Ddai.resource.file= data.service.resource.properties
51
管理者ガイド NAREGI Middleware DataGrid
[globus@pbg1012 globus]# ant exposeResource -Ddai.container=/naregi-
beta2/globus -Ddai.service.name=ogsadai/DataService -
Ddai.resource.id=DataServiceResource
Globus コンテナを起動
[root@pbg1012 globus]# /etc/init.d/globus start
14-3. データグリッド資源管理システムのインストール
14-3-1. ウェブアプリ部分のインストール $CATALINA_HOME/webapps/の下に datagrid ディレクトリが存在することを確認する。
このディレクトリがない場合には、アクセス管理システムのインストール手順を見てイン
ストールする。
14-4. インストール結果の確認 $CATALINA_HOME/webapps/datagrid にウェブアプリがインストールされている。
14-5. インストールに失敗した場合の対処方法 ウェブアプリのインストールをやり直す場合には、
$CACTALINA_HOME/webapps/datagrid を削除する。
14-6. インストール後の作業 第15章のセットアップ手順参照し、設定を行う。
第15章. データグリッド資源管理システムのセットアップについて
15-1. セットアップパターンの種類と選定 なし
15-2. セットアップ前の作業 あらかじめ、Globus Toolkit, Gfarm, PostgreSQL, OGSA-DAI をインストールしておく。第
14 章を参照。
15-3. 初期状態 なし
52
管理者ガイド NAREGI Middleware DataGrid
15-4. セットアップ 15-4-1. データグリッド資源管理システムウェブアプリ部分の設定 (1) インストーラが生成した設定ファイルを用いる場合
OGSA-DAIをインストールするときにインストーラ(dai_installer.pl)を使用した場合には、
設定ファイル(dgmonitor.xml)が生成される(14-2-1. 参照)ので、そのファイルをポータルサ
ーバの$CATALINA_HOME/webapps/datagrid/WEB-INF/classes/dgmonitor.xmlにコピーす
る。
後に Tomcat を再起動する。
[globus@pbg1012 globus]# scp /naregi-v1/dgrms/dgmonitor.xml
portal@png2044:/naregi-v1/tomcat/webapps/datagrid/WEB-
INF/classes/dgmonitor.xml
(2) 手動で設定する場合
通常はやらなくてよいが運用中に VO を追加した場合には設定を追加する必要がある。
$CATALINA_HOME/webapps/datagrid/WEB-INF/classes/dgmonitor.xml を編集
設定例
<?xml version="1.0" encoding="ISO-8859-1" ?>
<database>
<gfarm_locations>
<gfarm_metadata>
<vo>gin</vo>
<name>gin</name>
<dai_handle>https://pbg1012.naregi.org:8443/wsrf/services/ogsadai/DataService<
/dai_handle>
<dai_id>DataServiceResource_gin</dai_id>
</gfarm_metadata>
<gfarm_metadata>
<vo>vo1</vo>
<name>vo1</name>
<dai_handle>https://ccc2022.naregi.org:8443/wsrf/services/ogsadai/DataService<
/dai_handle>
<dai_id>DataServiceResource_vo1</dai_id>
</gfarm_metadata>
</gfarm_locations>
</database>
53
管理者ガイド NAREGI Middleware DataGrid
<gfarm_metadata>タグ内に vo 毎の Gfarm メタサーバのデータベースに関する設定を行う。
vo には vo 名を指定する。ここにはユーザのプロキシ証明書から取得できる vo 名を記述す
る。
name には項目名を指定する。この項目はβ2との互換性のためのものなので、V1 の場合
には何か書いておけばよい。
dai_handle に OGSA-DAI のアドレスを指定する。
dai_id に dai.resource.id の値を指定する。
15-4-2. 疎通確認 NAREGI ポータルからサインオンし、資源管理システムのページが表示できることを確認
する。
第16章. 資源管理システムの起動/停止と保守について
16-1. 運用操作のパターンの種類と選定 データグリッド資源管理システムのウェブアプリ部分を起動、停止するにはアプリケーシ
ョンサーバ(Tomcat)を起動、停止する。アクセス管理システムの起動、停止手順を参照。
また、Gfarm メタサーバ側で Globus コンテナを起動、停止する。
16-1-1. 起動 名称 起動方法 Tomcat Tomcat の起動手順に従って
起動 Globus コンテナ /etc/init.d/globus start
Gfarm が起動していなければ起動すること。
16-1-2. 起動の確認 ps(1) 等で Tomcat が起動していることを確認してください。
ps –ef | grep tomcat
16-1-3. 停止 名称 停止方法 Tomcat Tomcat の停止手順に従って
停止 Globus コンテナ /etc/init.d/globus stop
54
管理者ガイド NAREGI Middleware DataGrid
16-1-4. 停止の確認 ps(1) 等で Tomcat が起動していないことを確認してください。
ps –ef | grep tomcat
16-1-5. その他の運用操作 データベースへのアクセスを制限する場合には、
$GLOBUS_LOCATION/etc/ogsadai_wsrf/DataServiceResource_VO 名/DatabaseRoles.xml
を編集し、アクセス可能なユーザの証明書の DN を指定する。
VOを追加する際には、$GLOBUS_LOCATION/etc/ogsadai_wsrf/を削除して、14-2-1. をも
う一度実施する。その後、$CATALINA_HOME/webapps/datagrid/WEB-
INF/classes/dgmonitor.xmlを更新する。
16-2. 保守 16-2-1. 保守の概要 設定ファイルを保存しておく。
16-2-2. バックアップ 1-3-3 で述べた設定ファイルをバックアップしておく。
16-2-3. リストア バックアップしておいた 1-3-3 で述べた設定ファイルを戻す。
16-2-4. トラブルシューティング 環境設定ファイルと、Tomcat のログを保存してエラーメッセージを確認してください。
16-2-5. その他の保守作業 特になし。
第17章. データグリッド資源管理システムのアンインストールにつ
いて
17-1. アンインストールの概要 アンインストールはインストールしたウェブアプリのディレクトリを削除することで行う。
55
管理者ガイド NAREGI Middleware DataGrid
17-2. アンインストール前の作業 Tomcat を停止する。
17-3. データグリッド資源管理システムのアンインストール $CATALINA_HOME/webapps/datagrid/WEB-INF/classes/dgmonitor.xml をバックアップす
る。
その後、ウェブアプリを削除する。アクセス管理システムのアンインストール方法を参照。
17-4. アンインストール結果の確認 ウェブサーバにアクセスして、データグリッドのページが表示されないことを確認する。
17-5. アンインストールに失敗した場合の対処方法 Tomcat を停止する。
17-6. アンインストール後の作業 Tomcat を起動する。
第18章. データグリッドシステムの操作
本章では、画面と操作について説明する。
18-1. DGAMSメイン画面 DGAMSメイン画面の表示にはポータル画面のData Grid Enviromentの[Open]ボタンを押
下する。GfarmやGridFTP、SRMに配置されているファイルを操作するための画面(図
18-1)である。画面左がメニューとなっており、それぞれのメニューの説明を表 18-1にま
とめる。
56
管理者ガイド NAREGI Middleware DataGrid
図 18-1. DGAMS メイン画面
表 18-1.メニュー説明
頁番 画面表示項目 説明 1 File Browser Gfarm に配置されたファイルを操作する画面を表
示する。メイン画面のデフォルトでは Gfarm の
ファイル一覧が表示される。 GridFTP ホストのファイル一覧も表示ができる。
2 Add Host View Gfarm 以外のホストやミドルウェアにて管理され
ているファイルを操作する画面を表示する。 このメニューをクリックするとダイアログが表示
され、ホスト名、ポート番号、プロトコルを入力
する事ができ、submit ボタンを押下すると、当該
ホストに接続しファイル一覧を表示する。 3 Import Local File ローカルホストのファイルを Gfarm へインポー
トする機能である。このメニューをクリックする
とダイアログが表示され、ローカルファイルのパ
スを入力する事ができる。
57
管理者ガイド NAREGI Middleware DataGrid
Submit ボタンを押下すると、Gfarm へファイル
を転送する。 4 Transfer Job List ファイル転送ジョブの一覧を表示する機能であ
る。このメニューをクリックすると、ファイル一
覧が消え、変わって転送ジョブ一覧が表示され
る。ファイル一覧を表示したい場合は、Gfarm Browser メニューをクリックする。
5 Search Status ファイル転送ジョブのステータス検索を行う画面
に画面遷移する。 6 Search for Metadata Gfarm メタデータ検索画面に画面遷移する。 7 User Information ユーザ情報画面に画面遷移する。 8 Gfarm Node Gfarm ノード情報画面に画面遷移する。 9 User List ユーザ情報画面に画面遷移する。ただし利用して
いる VO のユーザ全ての情報を表示する。 10 Return Memu データグリッド画面を閉じる。
また本画面のファイル一覧よりファイルのインポート、エクスポート、ファイル・ディ
レクトリの削除、ディレクトリの作成、ファイル一覧のリロードが可能となる。リスト表
示する限界値(10-3-5. を参照。[表 10-1.dg.prop.xmlファイルの説明]の項番 10 が該当)
を超えたファイル数の場合、[Next]ボタン、[Prev]ボタンが使用可能となり、次のファイル
リストの表示となる。
[Comment]ボタン、[Location]ボタンについては、Gfarm のファイルサーバのファイルリ
ストを表示する時にのみに表示される。
もしユーザディレクトリが Gfarm 上にない場合、[You don’t read [/gfarm/ユーザ]
directory]というディレクトリが読めないという旨のメッセージが表示される(図 18-2)。
このメッセージの[OK]ボタンを押すと、/gfarm ディレクトリの一覧が表示される。そこで
ディレクトリを作成する必要がある。画面中央のテキストボックスにユーザ名を入力し、
[Make Directory]ボタンを押下する。この様にディレクトリを作成しておくと、次からはエ
ラーメッセージは表示されない。
58
管理者ガイド NAREGI Middleware DataGrid
図 18-3. DGAMS エラー画面
18-2. DGAMS転送ジョブ一覧画面 DGAMS画面およびDGUFTを利用したファイル転送ジョブの一覧を表示する画面(図
18-4)である。転送ジョブ一覧の右側にあるdeleteアンカーをクリックすると当該転送ジ
ョブが削除される。リスト表示する限界値(10-3-5. を参照。[表 10-1.dg.prop.xmlファイ
ルの説明]の項番 9 が該当)を超えたファイル数の場合、[Next]ボタン、[Prev]ボタンが使
用可能となり、次のジョブリストの表示となる。
59
管理者ガイド NAREGI Middleware DataGrid
60
図 18-4.DGAMS 転送ジョブ一覧画面
18-3. Gfarmノード情報画面 まず、NAREGIポータルにサインオンする。そこで、Data Grid Environmentを選択し、
Data Grid のTop画面に移動する(図 18-5)。左側メニューで”Gfarm Node”を選択すると、図
18-6
のようにGfarmノード情報が表示される。この画面では、Gfarmファイルシステムノ
ードの使用容量とGfarm配下のファイル数が表示される。ただし、ファイルが保存されて
いないノードの情報は表示されない。
管理者ガイド NAREGI Middleware DataGrid
図 18-5. Data Grid Top
図 18-6. Node 情報
61
管理者ガイド NAREGI Middleware DataGrid
18-4. Gfarmメタデータ検索画面 DataGrid Top画面の左メニューで ”Search for Metadata” を選択すると、図 18-7のよう
に検索画面が表示される。この画面では、ファイル名、ファイルサイズ、ファイル所有者、
コメント、更新日時をキーとしてGfarm上のファイルを検索することができる。
図 18-7. 検索画面
62
管理者ガイド NAREGI Middleware DataGrid
図 18-8. 検索結果画面
検索画面で検索条件を入力して、”Search” ボタンを押すと、図 18-8のように検索結果が表
示される。
18-5. ファイル情報画面 DataGrid Top画面のGfarmファイルリストの”Location”ボタンを押すと、図 18-9のよう
なファイル情報画面が表示される。この画面では、そのファイルの分割状況と保存先ファ
イルシステムノード名、サイズが表示される。
63
管理者ガイド NAREGI Middleware DataGrid
図 18-9. ファイル情報
18-6. コメント画面 DataGrid Top画面のGfarmファイルリストの”Comment”ボタンを押すと、図 18-10のよう
なコメント編集画面が表示される。この画面で、テキストボックスにコメントを入力し
て、”update”ボタンを押すと、コメント情報が保存される。ただし、他人が所有するファ
イルに関してはコメントを保存、更新できない。
64
管理者ガイド NAREGI Middleware DataGrid
図 18-10. コメント編集画面
図 18-11. コメント編集結果画面
65
管理者ガイド NAREGI Middleware DataGrid
図 18-11はコメント編集結果画面である。コメントの編集に成功した場合には、”Update
Successful”と表示される。この画面で”Edit”ボタンを押すともう一度編集画面に戻る。
18-7. ユーザ情報画面 検索結果画面で、ファイルのOwnerの部分をクリックすると、図 18-12のように、そのユ
ーザのGfarm上でのディスク使用量、ファイル数を表示できる。
図 18-12. 特定ユーザ情報
図 18-13. ユーザ情報画面
DataGrid Top画面の左メニューで ”User list” を選択すると、図 18-13のようにユーザ情報
画面が表示される。この画面では、ユーザごとの使用容量とファイル数が表示される。
18-8. 資源管理機能一覧 以下が機能の一覧である。
66
管理者ガイド NAREGI Middleware DataGrid
# 分類 機能 ノード毎のファイル数表示 1
Gfarm ノード
情報 ノード毎のファイルシステム使用量表示 2 ファイル情報 ファイルの分割情報と保存先の表示
特定ユーザのファイル数表示 3
ユーザ情報 特定ユーザのファイルシステム使用量表示
4 検索 検索機能 5 コメント Gfarm 上のファイルにコメント情報を付加する
第19章. VO対応版Gfarm, Gfarm用GridFTPサーバ操作手順
19-1. VO対応版Gfarm操作手順 通常は、データグリッドアクセス管理システムのユーザインタフェースを使用してファ
イルの操作を行う。ここでは、何らかの理由で直接 Gfarm 内のファイルを操作したい場合
の操作方法について説明する。
19-1-1. サインオン VO 対応版 Gfarm を使用するには、VO 情報つきのユーザのプロキシ証明書が必要であ
る。MyProxy のクライアントコマンド等を使用して MyProxy サーバからプロキシ証明書を
取り出すか、もしくは voms-proxy-init コマンド等を使用して VO 情報つきのユーザのプロ
キシ証明書を取得する。voms-proxy-info コマンドでプロキシ証明書が使用できる状態かど
うか確認する。
[user1@pbg1012 user1]$ myproxy-get-delegation -l user1 -s png2044.naregi.org
A credential has been received for user user1 in /tmp/x509up_u26895.
[user1@pbg1012 user1]$ /naregi-v1/voms-1.6.8/bin/voms-proxy-info --all
WARNING: Unable to verify signature!
Error: Cannot find certificate of AC issuer for vo VO1
subject : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy/CN=proxy
issuer : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy
identity : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy
type : unknown
strength : 1024 bits
path : /tmp/x509up_u26895
timeleft : 11:58:02
=== VO VO1 extension information ===
67
管理者ガイド NAREGI Middleware DataGrid
VO : VO1
subject : /C=JP/O=naregi/CN=user1
issuer : /C=JP/O=National Research Grid
Initiative/OU=CGRD/CN=host/dfg0005.naregi.org
attribute : /VO1/Role=NULL/Capability=NULL
timeleft : 0:00:00
[user1@pbg1012 user1]$
19-1-2. ファイル一覧の取得 ファイル一覧は gfls コマンドを使用して取得する。
[user1@pbg1012 user1]$ export PATH=/naregi-v1/gfarm-vo/bin:$PATH
[user1@pbg1012 user1]$ gfls –la gfarm:/user1
drwxr-xr-x user1 * 0 Feb 19 13:50 .
drwxrwxrwx root gfarm 0 Jan 1 1970 ..
-rw-r--r-- user1 * 0 Feb 19 11:27 testdata1
[user1@pbg1012 user1]$
19-1-3. ファイルのインポート Gfarm 内にファイルを登録するには gfreg コマンドを使用する。
[user1@pbg1012 user1]$ ls /tmp/testdata
/tmp/testdata
[user1@pbg1052 user1]$ gfreg /tmp/testdata gfarm:/user1/testdata2
[user1@pbg1052 user1]$ gfls -la gfarm:/user1
drwxr-xr-x user1 * 0 Feb 22 16:44 .
drwxrwxrwx root gfarm 0 Jan 1 1970 ..
-rw-r--r-- user1 * 0 Feb 19 11:27 testdata1
-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2
[user1@pbg1012 user1]$
19-1-4. ファイルのエクスポート Gfarm 内のファイルを取り出すには gfexport コマンドを使用する。画面上にファイルの中
身が表示される。
[user1@pbg1012 user1]$ gfexport gfarm:/user1/testdata2
68
管理者ガイド NAREGI Middleware DataGrid
19-1-5. ファイルの削除 Gfarm 内のファイルを削除するには gfrm コマンドを使用する。
[user1@pbg1012 user1]$ gfrm gfarm:/user1/testdata1
investigating hosts... done
[user1@pbg1012 user1]$ gfls -la gfarm:/user1
drwxr-xr-x user1 * 0 Feb 22 16:51 .
drwxrwxrwx root gfarm 0 Jan 1 1970 ..
-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2
[user1@pbg1012 user1]$
19-1-6. ディレクトリの作成 Gfarm 内にディレクトリを作成するには gfmkdir コマンドを使用する。
[user1@pbg1012 user1]$ gfmkdir gfarm:/user1/testdir1
[user1@pbg1012 user1]$ gfls -la gfarm:/user1
drwxr-xr-x user1 * 0 Feb 22 16:53 .
drwxrwxrwx root gfarm 0 Jan 1 1970 ..
-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2
drwxr-xr-x user1 * 0 Feb 22 16:53 testdir1
[user1@pbg1012 user1]$
19-1-7. ディレクトリの削除 Gfarm 内のディレクトリを削除するには gfrmdir コマンドを使用する。
[user1@pbg1012 user1]$ gfrmdir gfarm:/user1/testdir1
[user1@pbg1012 user1]$ gfls -la gfarm:/user1
drwxr-xr-x user1 * 0 Feb 22 16:54 .
drwxrwxrwx root gfarm 0 Jan 1 1970 ..
-rw-r--r-- user1 * 1760 Feb 22 16:44 testdata2
[user1@pbg1012 user1]$
19-1-8. ファイルシステムノードの空き容量の取得 [user1@pbg1052 user1]$ gfdf
1K-blocks Used Avail Capacity Host
18089428 11145796 6024716 65% pbg1012.naregi.org
18089428 9164404 8006108 53% pbg1013.naregi.org
18089428 9480444 7690068 55% pbg1014.naregi.org
[user1@pbg1052 user1]$
69
管理者ガイド NAREGI Middleware DataGrid
19-1-9. ファイルのレプリカの作成 gfarm:/user1/testdata2 を複製する場合には以下のようになる。
[user1@pbg1012 user1]$ gfrep -N 2 gfarm:/user1/testdata2
19-1-10. ファイルの保存先の表示 [user1@pbg1012 user1]$ gfwhere gfarm:/user1/testdata2
gfarm:/user1/testdata2:
0: pbg1012.naregi.org pbg1013.naregi.org
[user1@pbg1012 user1]$
19-1-11. ファイルの分割保存 [user1@pbg1012 user1]$ gfsched -N 3 | gfimport_fixed -H - -o
gfarm:/user1/testdata3 /tmp/testdata
19-2. Gfarm用GridFTPサーバ操作手順 通常は、データグリッドアクセス管理システムのユーザインタフェースを使用してファ
イルの操作を行う。ここでは、何らかの理由で直接 Gfarm 用 GridFTP サーバにアクセス
したい場合の操作方法について説明する。
19-2-1. サインオン Gfarm 用 GridFTP サーバを使用して VO 対応版 Gfarm にアクセスするには、VO 情報つ
きのユーザのプロキシ証明書が必要である。MyProxy のクライアントコマンド等を使用し
て MyProxy サーバからプロキシ証明書を取り出すか、もしくは voms-proxy-init コマンド
等を使用して VO 情報つきのユーザのプロキシ証明書を取得する。voms-proxy-info コマン
ドでプロキシ証明書が使用できる状態かどうか確認する。
[user1@pbg1012 user1]$ myproxy-get-delegation -l user1 -s png2044.naregi.org
A credential has been received for user user1 in /tmp/x509up_u26895.
[user1@pbg1012 user1]$ /naregi-v1/voms-1.6.8/bin/voms-proxy-info --all
WARNING: Unable to verify signature!
Error: Cannot find certificate of AC issuer for vo VO1
subject : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy/CN=proxy
issuer : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy
identity : /C=JP/O=naregi/CN=user1/CN=proxy/CN=proxy
70
管理者ガイド NAREGI Middleware DataGrid
type : unknown
strength : 1024 bits
path : /tmp/x509up_u26895
timeleft : 11:58:02
=== VO VO1 extension information ===
VO : VO1
subject : /C=JP/O=naregi/CN=user1
issuer : /C=JP/O=National Research Grid
Initiative/OU=CGRD/CN=host/dfg0005.naregi.org
attribute : /VO1/Role=NULL/Capability=NULL
timeleft : 0:00:00
[user1@pbg1012 user1]$
19-2-2. ファイルの読み書き Gfarm 用 GridFTP サーバが動作しているマシンの”/gfarm/”の下にアクセスすることで
Gfarm のファイルにアクセスできる。ユーザの Gfarm 上のホームディレクトリ
は、”/gfarm/<ユーザ名>”なのでこのディレクトリ下でファイルを読み書きする。
[user1@pbg1012 user1]$ globus-url-copy file:///tmp/testdata
gsiftp://pbg1012.naregi.org:2811/gfarm/user1/testdata4
[user1@pbg1012 user1]$ globus-url-copy
gsiftp://pbg1012.naregi.org:2811/gfarm/user1/testdata4 file:///tmp/testdata4
第20章. ユーザ資産の移行
本章では、NAREGI グリッドミドルウェアβ2 版のユーザ資産を、V1へ移行するための
方法を説明する。V1 にアップグレードする際に、β2 で Gfarm 内に保存したファイルを
V1 環境に移行する。必要な作業は、Gfarm メタデータのエクスポート、スプールディレク
トリ(Gfarm 配下に保存したデータファイル自体)の退避と復元、Gfarm メタデータのイン
ポートである。
20-1. Gfarmメタデータの保存 Gfarm に付属するコマンド(gfdump)を使用して、Gfarm メタデータをダンプしてファイル
に保存する。Gfarm メタサーバのみで実行。すべての VO についてそれぞれダンプファイ
ルを作成する。
# export VO_NAME=<VO 名>
# /naregi-beta2/gfarm-vo/bin/gfdump –d -f dumpfile_<VO 名>
71
管理者ガイド NAREGI Middleware DataGrid
・
・
・
20-2. スプールディレクトリの退避 ファイルシステムノードでスプールディレクトリ(β2ンストール時に指定した場所)を
退避する。全部の Gfarm ファイルシステムノードで実行。
# mv /var/gfarm-spool/ /var/gfarm-spool-bak
20-3. Gfarm(β2)のアンインストール β2の Gfarm をアンインストールする。Gfarm は以下のディレクトリにインストールされ
ているので、これらのファイルをバックアップし、削除する。※dumpfile とスプールディ
レクトリ以外は使用しないが念のためバックアップしておく。 内容 ディレクトリ名またはファイル名 Gfarm 実行ファイル /naregi-beta2/gfarm-vo Gfarm メタデータ(Gfarm メタサ
ーバのみ) /var/gfarm-pgsql または、/naregi-beta2/pgsql (β2イ
ンストール時に指定した場所) Gfarm スプールディレクトリ
(Gfarm ファイルシステムノード
すべて)
/var/gfarm-spool (β2インストール時に指定した場
所)
起動スクリプト /etc/init.d/gfsd /etc/init.d/gfmd /etc/init.d/gfarm-pgsql
実行例:
# /etc/init.d/gfsd stop
# /etc/init.d/gfmd stop
# /etc/init.d/gfarm-pgsql stop
# /etc/init.d/postgres stop
# mkdir /tmp/backup
# mv /naregi-beta2/gfarm /tmp/backup/
# mv /var/gfarm-pgsql /tmp/backup/
# mv /etc/init.d/gfsd /tmp/backup/
# mv /etc/init.d/gfmd /tmp/backup/
# mv /etc/init.d.gfarm-pgsql /tmp/backup/
20-4. Gfarm-VOのインストール V1(Gfarm-VO)をインストールし設定までおこなう。
72
管理者ガイド NAREGI Middleware DataGrid
73
20-5. メタデータのインポート メタデータのインポート(Gfarm メタサーバで実行)
# export VO_NAME=<VO 名>
# /naregi-v1/gfarm-vo/bin/gfdump –r –f dumpfile_<VO 名>
20-6. スプールディレクトリ内のデータの復元 スプールディレクトリ内のデータ(Gfarm 内に保存したファイルの実体)の復元。Gfarm フ
ァイルシステムノードすべてで実行。
# cp -a /var/gfarm-spool-bak/* /var/gfarm-spool/