運用管理自動化基盤 ジョブ管理ツール

SOS Jobschedulerのご紹介

Rev.2.0 2013/4/25

Open Programmable Infrastructure Environment

運用管理自動化基盤とは

l  構築~実装~サービス稼働までプログラム化 l  コスト低減、ミスの削減、期間短縮

l  運用管理の集中化 l  人に依存しない標準化、品質向上

l  広域分散環境に対応 l  AWS等のクラウドサービスから、オンプレミスの既存物理サーバまで一元管理

l  リソースの最適化 l  目的に応じて最適なプラットフォームにアプリケーションを移動

l  DR/BCPへ対応 l  DR/BCPの自動化

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 2

運用管理自動化基盤概念図 運用ポータル

ジョブモニタ リソースモニタ チケットモニタ カレンダ

イベントモニタ

ニュース

監視／アラート

サービスデスク／ 構成管理／変更管理

チケット作成 障害通知

プロジェクト管理 作業依頼

ソースコード管理

コード 作成／修正

デプロイツール

ジョブ管理

クラウドAPI

テスト デバッグ リリース

クラウド プロバイダ

リソース 結果登録

オーケストレーションレイヤ

イメージ置場

レポジトリ

CMDB

メール

ネットワーク管理

アプリケーション フレームワーク

監視

資源管理 （クラウド／VM／実機）

OSインストール 初期設定／構成管理

アプリケーション構成

コマンド自動実行

openQRM Cobbler

Clonezilla

Puppet

Asakusa Hadoop

Nag

ios

Zabb

ix

MCollective Fabric

運用管理自動化基盤構成スタック

JobScheduler

openvswith

ジョブ管理

SOS JobSchedulerの特長 l  オープンソース（GNU Public License）

l  Linux/Windows版は、全ての機能が無料で使用可能。 l  サポートライセンスを購入すれば、HP-UX/Solaris/AIX版の利用に加えて、障害対応、バグフィックス／ワークアラウンドの提供、新機能の早期提供、チケットシステム(OTRS)、JIRAの利用が提供される。

l  プログラマブル l  ジョブの中で、Java, Perl, JavaScript, VBScript, Powershell, javax.scriptのAPIを使ったロジックを記述可能

l  外部API（XML形式）によりRESTまたはコマンドラインからジョブの実行制御、実行状況の取得が可能

l  エンタープライズ・グレード l  ファイル転送やログローテンション等豊富なテンプレート機能

l  リモートジョブ実行、冗長化機能、ロードバランス、外部認証等、エンタープライズ向け大規模システム対応

l  JasperReport（ジョブ実行レポート）やNagios（ジョブ実行監視）との連携機能 l  MySQLの他、Oracle, DB2, MS SQL Server, PostgreSQL, Firebirdに対応

l  豊富な実績

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 5

アーキテクチャ

JobSchedulerはC++とJavaで開発されており、以下のコンポーネントで構成される。 l  JobScheduler Engine

l  ジョブの制御と管理を司るサービス。以下の機能を包含する。

l  バックアップフェイルオーバー機能

l  RDBMSを使用したジョブ履歴、ログ管理機能（JDBC接続）

l  JobScheduler Agent l  ジョブのリモート実行エージェント

l  JOC (Job Operation Center) l  WEB UIのジョブ管理画面

l  JOE (JobScheduler Object Editor) l  ジョブ定義を作成するための、Javaで稼働するスタンドアロンアプリケーション。

l  JID (JobScheduler Information Dashboard) l  待機中、実行中、完了したジョブの状態、ログを一覧できるJavaで稼働するスタンドアロンアプリケーション。

l  JITL (JobScheduler Integrated Template Library) l  ファイル転送やログローテンション等、予め含まれるテンプレート。以下のものが用意されている。

l  Logging and Cleanup l  Sanity Checking l  Mail Forwarding l  Remote Job Execution l  File Transfer l  File Operations (rename, copy, remove, check existence, ...)

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 6

主要機能概要

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 7

JobScheduler Engine

JobScheduler Engine

JID/JOE

JOC

JobScheduler Agent

JobScheduler Agent

ジョブ制御、監視

ジョブ定義、監視

バックアップ クラスタ

共有DB ファイルサーバ

負荷分散

SSH リモートジョブ実行

ファイル送受信 整合性確認、再送

リネーム、ローテーション等

DMZ

Internet JobScheduler Engine

Webサービス(SOAP）による 外部連携

Job

Job

Job Job

メール通知 Nagiosアラート

ジョブの定義

l  ジョブの定義 l  JOE (Job Object Editor)による定義例

l  XMLファイルによる定義例

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 8

<?xml version="1.0" encoding="ISO-8859-1"?> <job > <params /> <script language="shell"> <![CDATA[ #!/bin/sh echo “$SCHEDULER_JOB_NSME is running” echo “Current Timestamp `date`” exit $? ]]> </script> </job>  

ジョブの実行

l  イベントによる実行 l  ホットフォルダに作成／更新されたファイルを監視し、自動的にジョブ起動、ファイルを移動／リネーム／削除／処理対象外に指定できる。また、メールの受信や、任意のプログラムやスクリプトでジョブを制御する事も可能である。

l  カレンダによる計画実行 l  平日、休日、特定の休業日、毎週／毎月の特定日、など柔軟に指定でき、実行日が休業日や特定日の場合、実行日時を翌営業日、前の営業日、または実行中止を指定できる。

l  ジョブ実行時間を制限するタイムスロット機能 l  実行優先順位を制御するプライオリティ機能 l  ジョブの排他制御のためのロック機能 l  複数ジョブの同時並行実行を制御するシンクロナイズ機能 l  ジョブ実行エラー時の再実行を制御するセットバック機能等、柔軟なジョブ実行制御機能を備えている。

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 9

ジョブの監視

l  JOC (Job Operation Center）画面例

l  ジョブチェーンの表示例

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 10

JITL (JobScheduler Integrated Template Library)

JobSchedulerは、以下のジョブテンプレートが標準で提供されている。 l  Logging and Cleanup

l  ログファイルのローテーション、リネーム、削除 l  Sanity Checking

l  JobSchedulerが稼働するサーバの環境チェック（ディスク容量、メモリ容量等）

l  Mail Forwarding l  JobSchedulerからの通知メール送信失敗時のエラー制御

l  File Transfer l  ファイル送受信の容量チェック、リネーム、並列転送、proxy経由転送、重複確認、転送失敗時の迂回配送、自動圧縮、等

l  File Operations (rename, copy, remove, check existence, ...)

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 11

API l  JobSchedulerは、外部プログラムからのジョブ制御を可能にするため、以下の2種類のAPIを備えている。

l  内部API l  Java, JavaScript, Perl, JScript, VBScript, Powershell,

javax.scriptのプログラムからJobScheduler Engineの機能を呼び出し、実行できる。

l  外部API l  XML形式によりRESTまたはコマンドラインからジョブの実行制御、実行状況の取得が可能である。

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 12

稼働環境 l  物理HW：動作するために、必要なプロセッサ／メモリ／ディスク

l  JobScheduler Engine l  Intel/AMD Dual core, 2GHz以上 l  JobScheduler Engineは、シングルスレッドのためコア数を増やしてもパフォーマンスは向上しない。顧客事例では、RedHat Linux /

Oracle 11 で1,500ジョブ並行稼働した場合、CPU稼働率は50%程度である。 l  JOC/JOE/JID等のGUI環境

l  メモリが2GB以上必要。 l  解像度192x960 (QVGA)以上のディスプレイ

l  OS：動作する、オペレーティングシステムとバージョン l  Windows Vista; Windows 7 & Windows server 2008 l  Linux starting with kernel 2.4 l  Sparc Solaris 8 / 9 / 10 and Solaris (x86) l  HP-UX 11 (IA64 Itanium) l  IBM AIX

l  ミドルウェア：サポートされるソフトウェアとバージョン l  JobScheduler Engine / JOC / Agent

l  Java: Oracle JRE 1.6.x (32bit)以上 l  JOE / JID

l  Java: Oracle JRE 1.6.x (32/64bit)以上

l  DBMS: ログ、管理情報保存用データベース、クラスタ構成の場合は必須 l  Oracle 8.1.7, 9.2, 10g, 11g l  SQL Server 2000, 2005 l  DB2 8.x l  MySQL version 5.x l  PostgreSQL 8.x, 9.x l  Firebird 1.5

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 13

実績

l  金融サービス： l  Liberty Seguros (Spain), Wing Hang Bank (China), Swiss Post (Switzerland), bfs risk & collection GmbH (Germany),

Regiment Capital Advisors, LP (USA), ING Group Amsterdam (Netherlands), Alpha pay AG (Switzerland), Accarda AG (Switzerland), UniCredit Group (Austria), Wall Street Systems (UK), Groupe Aeroplan Inc. (UK), LBS Baden-Württemberg (Germany)

l  公共： l  Federal Republic of Germany, Goverment of New Caledonia, Informatik Service, Federal Department of Justice and

Police (EJPD),

l  薬品： l  Bayer Schering Pharma AG (Germany), Roche Diagnostics GmbH (Germany)

l  ヘルスケア： l  AOK Bremen/Bremerhaven (Germany), Deutsche BKK (Germany), BKK Gesundheit (Germany), BKK FTE

(Germany)

l  産業： l  Sopra Group (France), ACS, A Xerox Company (USA), Nectar Italia (Italy), Elkjøp Nordic AS (Norway), Vattenfall

Europe AG (Germany), Docucom AG (Switzerland), Deutsche Post Direkt GmbH (Germany), Zeppelin Baumaschinen GmbH (Germany), Empire District Electric Co. (USA), InterComponentWare AG (Germany),

l  教育： l  Deutsche Bibliotheken subito e.V. (Germany, Switzerland & Austria),　ETH (Switzerland), Universitätsbibliothek,

Humboldt-Universität Berlin (Germany), Ibero-Amerikanisches Institut, (Germany), Universitätsbibliothek Medizinische Universität (Austria), Universität Wien (Austria), Staatsbibliothek zu Berlin (Germany), Sächsische Landesbibliothek-Staats- und Universitätsbibliothek (Germany), 他多数

l  【参考】 l  http://www.sos-berlin.com/modules/cjaycontent/index.php?id=225&page=osource_scheduler_customers_en.htm

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 14

自動運用実装例

13/04/25 Copyright 2012(C) OSS Laboratories Inc. All Rights Reserved 15

Hadoopマスター NameNode/JobTracker

Hadoopクライアント DayaNode/TaskTracker Hadoopクライアント

DayaNode/TaskTracker Hadoopクライアント DataNode/TaskTracker

L3 SW

基盤管理：openQRM 監視：Zabbix

構成管理：cobbler/puppet ジョブ管理：JobScheduler

L3 SW

アプリケーションサーバ Talend/Pentaho/MySQL

FW

管理NW

ftp受信 ステージングエリア hdfs

hdfs hdfs

①ftpバッチデータ受信

②インポート処理 （ETL)

③レポーティング (Pentaho)

運用管理 自動化基盤