グリッドと標準化 - jpgrid.org · •distributed resource management application api wg...

27
2007.03.23 グリッド協議会第2GridHotline グリッドと標準化 産業技術総合研究所 グリッド研究センター 伊藤

Upload: others

Post on 05-Jun-2020

7 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

2007.03.23 グリッド協議会第2回GridHotline

グリッドと標準化

産業技術総合研究所

グリッド研究センター

伊藤 智

Page 2: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

2

2007.03.23 グリッド協議会第2回GridHotline

目次

グリッドの概要と標準化の重要性

グリッド技術の標準化団体

Page 3: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

3

2007.03.23 グリッド協議会第2回GridHotline

グリッドとは

送電線網を意味する「パワー・グリッド」に由来

計算資源やデータに対する高性能・高信頼・柔軟なアクセス手段を提供

Page 4: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

4

2007.03.23 グリッド協議会第2回GridHotline

グリッドの分類

現在は科学研究用途が多くを占めるが、徐々にビジネス用途が増えている

Page 5: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

5

2007.03.23 グリッド協議会第2回GridHotline

研究所B事業所A 関連会社C

コンピューティンググリッドの例

解析・シミュレーション用途に、計算機資源を統合・仮想化

業務ワークロードの最適化

既存資源の利用効率向上

グリッド環境

Page 6: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

6

2007.03.23 グリッド協議会第2回GridHotline

関連会社C

機種毎にジョブの記述ルールが異なるため、投入するマシンに合わせてジョブの記述を書き換えなければならない(利用者にとって負担)

記述ルールが標準化されていれば、同じジョブ記述で、どのマシンにも投入することが可能

キューの設定コマンドなども異なる(運用者にとって負担)

研究所B事業所A

機種の異なるコンピュータへのジョブ投入

グリッド環境

マシンベンダA マシンベンダB マシンベンダC

ジョブ記述 ジョブ記述 ジョブ記述

Page 7: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

7

2007.03.23 グリッド協議会第2回GridHotline

データグリッドの例

分散したデータベースの統合・仮想化

社内部門間でのデータ共有

データの自動複製と損傷ファイルの自動回復

東京オフィス大阪オフィス NYオフィス

問合せ

関西顧客情報 米国顧客情報関東顧客情報

分散問合せ 分散問合せ

結果

仮想化された統合DB

Page 8: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

8

2007.03.23 グリッド協議会第2回GridHotline

異なるデータベースへの検索

データベースソフト毎にアクセスと検索の方法が異なるため、データベース毎に書き換えなければならない

アクセス方法が標準化されれば、同一の記述で検索が可能

東京オフィス大阪オフィス NYオフィス

問合せ

関西顧客情報 米国顧客情報関東顧客情報

分散問合せ 分散問合せ

結果

仮想化された統合DB

A社RDB B社RDB XML DB

問合せ記述 問合せ記述 問合せ記述

Page 9: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

9

2007.03.23 グリッド協議会第2回GridHotline

グリッドによる運用管理の例

C/S型のトランザクション処理

Web三階層のB2E、B2C、B2Bの業務一般

負荷の変動

リアルタイム性

システムの複雑さ

予備サーバ割当稼動中のサーバ

監視 分析

実行 計画

障害発生

負荷増大負荷増大

システムの手動制御から自動制御へ

Page 10: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

10

2007.03.23 グリッド協議会第2回GridHotline

制御

情報

グリッドによる運用管理の例

サーバの性能情報や負荷情報など、問合せ形式や取得した情報の形式は機種により異なる

制御、設定のための操作インタフェースは機種により異なる

システム運用者の負担

障害検知負荷監視

予備機切替アプリ配備

情報取得の問合せ形式

制御指示の形式

情報取得の問合せ形式

制御指示の形式

取得情報の形式

取得情報の形式システム管理者

Page 11: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

11

2007.03.23 グリッド協議会第2回GridHotline

目次

グリッドの概要と標準化の重要性

グリッド技術の標準化団体

Page 12: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

12

2007.03.23 グリッド協議会第2回GridHotline

グリッド技術の標準化

OGF (Open Grid Forum)を中心に、Webサービス関連のフォーラム標準団体にて推進

Page 13: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

13© 2006 Open Grid Forum

歴史

• 1998年、ハイパフォーマンスコンピューティングコミュニティ内に誕生

•2001年、欧州・アジアグリッド活動と統合

•現在52のグループ、81の仕様書

• 2004年、企業データセンターコミュニティ内に誕生

•エンドユーザー組織においてグリッドの認知が向上

•現在5つのグループ、いくつかの重要な仕様書

2006年6月、統合完了。2006年9月、OGFとしてスタート

http://www.ggf.org http://www.gridalliance.org

Page 14: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

14© 2006 Open Grid Forum

組織

委員長

BoD

運用

編集者

企業 E-サイエンス スタンダード マーケティング 地域

指名委員会

技術戦略委員会

アドバイザリ委員会

OGFの概要ドキュメントは以下のURLで見ることができます:http://www.ogf.org/rotate_headers/rotate_launch.php

Page 15: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

15© 2006 Open Grid Forum

ファンクション/エリア/グループ/代表者

スタンダードファンクション

スタンダード委員会副議長(スタンダード)エリアディレクタ

プログラムマネージャーOGF 編集者

マネージメント

アプリケーション

セキュリティ

アーキテクチャ

インフラ

データ 計算

スタンダードエリア

連絡窓口

エリアはエリアディレクタが管理する

エリアは似たような目的を持ったグループを統括する

グループはグループ長が代表を務める

ファンクションは同じような目的を持ったエリアを統括する

Page 16: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

16

2007.03.23 グリッド協議会第2回GridHotline

Community Functions

•Grid Computing Environments RG (gce-rg) •Semantic Grid RG (sem-rg) •Workflow Management RG (wfm-rg)

Technology

Innovators

•Applications Developers and Users RG (apps-rg) •Astronomy Applications RG (astro-rg) •Humanities, Arts, and Social Sciences RG (hass-rg) •Life Sciences Grid RG (lsg-rg) •Particle and Nuclear Physics Applications RG (pnpa-rg) •Preservation Environments RG (pe-rg)

Research

Applications

•Certificate Authority Operations RG (caops-wg) •Grid Interoperation Now Community Group (gin-cg) •Production Grid Services-RG (pgs-rg)

Grid

Operations

•Education and Training (et-cg)•Build, Test and Certification of Grid Software Community Group (btc-cg)•Grid Reliability and Robustness RG (gridrel-rg)

Community

Affairs

•Enterprise Grids Requirements RG (egr-rg)•Storage Networking Community Group (sn-cg)•Telecomm Community Group (telco-cg)

Industry

Applications

eScience Functions (15Groups)

Enterprise Functions (3Groups)

Page 17: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

17

2007.03.23 グリッド協議会第2回GridHotline

Standards Function(26Groups)

•Firewall Issues RG (fi-rg) •OGSA Authorization WG (ogsa-authz-wg)

Security

•Application Contents Service WG (acs-wg) •Glue Schema Working Group (GLUE-WG)•Configuration Description, Deployment, and Lifecycle Management WG (cddlm-wg)

Management

•Standards development organizations Collaboration on networked Resources Management (scrm-wg)Liaison

•Grid and Virtualization Working Group (gridvirt-wg)•Grid High-Performance Networking RG (ghpn-rg)

Infrastructure

•Data Format Description Language WG (dfdl-wg) •Database Access and Integration Services WG (dais-wg) •Grid File System Working Group (gfs-wg) •Grid Storage Management WG (gsm-wg) •GridFTP WG (gridftp-wg)

Data

•Grid Resource Allocation Agreement Protocol WG (graap-wg) •Grid Scheduling Architecture RG (gsa-rg) •Job Submission Description Language WG (jsdl-wg) •OGSA Basic Execution Services WG (ogsa-bes-wg) •OGSA High Performance Computing Profile WG (ogsa-hpcp-wg) •OGSA Resource Selection Services WG (ogsa-rss-wg)

Compute

•OGSA Naming Working Group (ogsa-naming-wg) •Open Grid Services Architecture WG (ogsa-wg) •Reference Model WG (rm-wg)

Architecture

•Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval WG (gir-wg) •Grid Remote Procedure Call WG (gridrpc-wg)

Applications

•Info Dissemination WG (infod-wg) •OGSA ByteIO Working Group (byteio-wg) •OGSA Data Movement Interface WG (ogsa-dmi-wg) •OGSA-Data Working Group (ogsa-d-wg)

•OGSA Resource Usage Service WG (rus-wg)•Usage Record WG (ur-wg)

•Simple API for Grid Applications Core Working Group (saga-core-wg)

•Simple API for Grid Apps RG (saga-rg)

•Network Mark-up Language Working Group (nml-wg)•Network Measurements Working Group (nm-wg)

Page 18: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

18

2007.03.23 グリッド協議会第2回GridHotline

OGF ドキュメントのタイプ

GGF Document(GFD)Grid Working Drafts(GWD)

Informational or Experimental

Purpose: To Inform the community相互運用性のテスト結果、プロトコルや仕様の具体的実装 など

Community Practice

Purpose: To Influence the communityGGF ドキュメントプロセス、グリッド運用・手順・サポートのベストプラクティス など

Recommendations Track

Purpose: Define a standardプロトコル、API、オブジェクト、アーキテクチャの仕様 など

詳細はOGF Websiteを参照 http://www.ogf.org/

GFD-IGFD-EGFD-CGFD-RGFD-R-P

GWD-IGWD-EGWD-CGWD-R

(Proposed Recommendation)

標準仕様

Page 19: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

19

2007.03.23 グリッド協議会第2回GridHotline

パブリックコメント要求(60日間)

OGF ドキュメントフロー(GFD-Rができるまで)

http://www.ogf.org/documents/GFD.1.pdf

個人またはGGF以外のグループがEditorにドラフト提出

WGのChairがドラフトを提出

ドラフトを返却

適当なWG,RGへドラフト検討依頼

GWDとして提案型標準のレビュー

GWD : Grid Working Draft

GFD-R.Pとして提案(Editor)

GFD : Grid Forum Document

WGがGFD-Eドキュメントをつけて、GFD-R.PをArea Directorに提出

GFSGに提出(Area Director)

レビュー(GFSG)

WG Chairへコメントを返却

WG Chairへコメントを返却

GFSGによるコメント要求(15日間)

Area DirectorとEditorによるレビュー

レビュー総括(Area Director)

グリッド標準GFD-Rとして公開

パブリックコメント要求(4ヶ月)

ドラフトを返却

コメントレビュー(Editor)

レビュー総括(GFSG)

レビュー(Area Director)

GFSGへドラフト提出

コメントレビュー(Editor)

ドラフトレビュー(Editor)

WG設立提案(Charter, Co-chairsなど)

BOFミーティング開催

WG設立

レビュー(GFSG)

BOF承認(GFSG)

仕様ドキュメント作成

再検討

GFD-R.P (GGFドキュメントとして発行)

Page 20: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

20

2007.03.23 グリッド協議会第2回GridHotline

OGFドキュメント

2007年3月20日現在91のドキュメントを発行済み

GFD-R-P (Proposed Recommendation)Open Grid Services Infrastructure (OGSI)GridFTP: Protocol Extensions to FTP for the GridGridFTP v2 Protocol DescriptionA Hierarchy of Network Performance Characteristics for Grid Applications and ServicesByteIO Specification 1.0ByteIO OGSA™ WSRF Basic Profile Rendering 1.0Distributed Resource Management Application API Specification 1.0Configuration Description, Deployment, and Lifecycle Management (CDDLM) SmartFrog-Based Language SpecificationConfiguration Description, Deployment, and Lifecycle Management (CDDLM) Component Model v 1.0Configuration Description, Deployment, and Lifecycle Management (CDDLM) Deployment APICDDLM Configuration Description Language Specification, Version 1.0A GridRPC Model and API for End-User Applications

0GFD-R

21GFD-R-P

9GFD-C

7GFD-E

54GFD-I

Page 21: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

21

2007.03.23 グリッド協議会第2回GridHotline

OGFドキュメント(2)

GFD-R-P (Proposed Recommendation)Job Submission Description Language (JSDL) Specification, V1.0Application Contents Service Specification 1.0Web Services Data Access and Integration - The Core (WS-DAI) Specification, Version 1.0Web Services Data Access and Integration - The XML Realization (WS-DAIX) Specification, Version 1.0Web Services Data Access and Integration - The RelationalRealisation (WS-DAIR) Specification, Version 1.0OGSA™ WSRF Basic Profile 1.0OGSA™ Basic Security Profile 1.0 – CoreOGSA™ Security Profile 1.0 - Secure ChannelUsage Record – Format Recommendation

もうじき(Proposed Recommendation)にInformation Dissemination in the Grid Environment – Base Specifications Web Services Agreement Specification (WS-Agreement) Resource Namespace Service Specification A Simple API for Grid Applications (SAGA) WS-Naming SpecificationHPC Basic Profile, Version 1.0

Page 22: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

22

2007.03.23 グリッド協議会第2回GridHotline

その他の標準化団体と重要な仕様

IETF

ネットワークのソフトハード技術

OASIS

Webサービス関連技術

DMTF

標準管理モデル

W3C

XMLやSOAPなどinternetの技術

SNIA

ストレージネットワーキング

Page 23: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

23

2007.03.23 グリッド協議会第2回GridHotline

OASIS

Web Services Distributed Management (WSDM) 分散リソースを管理するためのWebサービスアーキテクチャの定義Webサービス自体の管理アーキテクチャを定義WSDM: Management Using Web Services (WSDM-MUWS)WSDM: Management of Web Services (WSDM-MOWS)

Web Services Notification (WSN)Webサービスがお互いに情報を通知し合うことを可能にする

Web Services Resource Framework (WSRF)Webサービスを使って状態管理付きのリソースをモデル化し、アクセスするためのオープンなフレームワークを定義

Web Services Business Process Execution Language (WSBPEL)ビジネスプロセスのアクティビティをWebサービスとして記述するためのXMLベースの言語を定義

eXtensible Access Control Markup Language (XACML) ビジネスプロセスのアクティビティをWebサービスとして記述するためのXMLベースの言語を定義OASIS

Page 24: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

24

2007.03.23 グリッド協議会第2回GridHotline

DMTF(Distributed Management Task Force)

デスクトップ、エンタープライズ、およびインターネット環境についての管理標準とイニシャチブの開発、採用、および相互運用を推進する業界団体

DMI(Desktop Management Interface)

パソコンや周辺機器等を統一的に管理するための標準インタフェース

CIM(Common Information Model)

特有のインプリメンテーションに縛られない管理情報に対する概念の情報モデル

WBEM(Web-based Enterprise Management)

様々な既存の管理技術とインターネット技術を利用して、エンタープライズ コンピュータ環境を管理するための技術仕様

WS-Management

ITシステム全体の管理情報にアクセスするための共通手段を提供するWebサービス仕様。Webサービスを利用して自社のネットワーク上にあるデバイスにリモートでアクセスすることが可能

Page 25: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

25

2007.03.23 グリッド協議会第2回GridHotline

SNIA (Storage Networking Industry Association)

オープンなストレージネットワーキングソリューションを実現するための標準規格の策定、教育/サービスの提供を行っている非営利団体

SMI-S(Storage Management Initiative Specification)

Webベースのストレージ・システム管理の標準モデル仕様であり、ストレージネットワーク上のストレージデバイスと管理アプリケーション間の通信を標準化

CIMなどのWBEM関連標準を用いて各ベンダの管理情報のモデルを統一

Page 26: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

26

2007.03.23 グリッド協議会第2回GridHotline

まとめ

グリッドの概要と標準化の重要性

ヘテロジニアスな機器/システムに対して統一的なインタフェース/プロトコルが必要

相互運用性

グリッド技術の標準化団体

OGF (Open Grid Forum)グリッド技術の仕様策定(フォーラム標準)

Webサービスや運用管理に関する標準化団体との連携OASIS, W3C, DMTF, SNIA, IETF

Page 27: グリッドと標準化 - jpgrid.org · •Distributed Resource Management Application API WG (drmaa-wg) •Grid Checkpoint Recovery WG (gridcpr-wg) •Grid Information Retrieval

27© 2006 Open Grid Forum

Full Copyright Notice

Copyright (C) Open Grid Forum (2005, 2006). All Rights Reserved.

This document and translations of it may be copied and furnished to others, and derivative works that comment on or otherwise explain it or assist in its implementation may be prepared, copied, published and distributed, in whole or in part, without restriction of any kind, provided that the above copyright notice and this paragraph are included on all such copies and derivative works.

The limited permissions granted above are perpetual and will not be revoked by the OGF or its successors or assignees.