Ws08 Reale Tut Pres P2

Grid Tutorial
Parte 2
il middleware di EGEE: gLite
Mario Reale
[email protected]
GARR GRID
GARR WS08-Milano-2-Aprile-2008
GARR WS08 - Milano, 2-4 Aprile
2008
1
Contenuti
• 1. Architettura gLite
• 2. I Servizi gLite: gruppi funzionali
• 3. I gLite deployment modules (o servizi gLite)
GARR WS08 - Milano, 2-4 Aprile
2008
2
Struttura del Middleware di gLite
Applications
(Applicazioni)
Higher-Level Grid Services
(Servizi Grid di alto livello)
Workload Management
Replica Management
Visualization
Workflow
Grid Economies
...
Foundation Grid Middleware
(Middleware di base)
• Le applicazioni hanno accesso a
entrambi i servizi di alto livello
ed il middleware di base
• I servizi Grid di alto livello
servono a supportare gli utenti e
le loro infrastrutture ma non
sono obbligatori
• Il middleware di base viene
installato su tutta l’infrastruttura
EGEE
– Funzionale e robusto,
– Deve consentire
l’interoperabilita’ con altre
infrastrutture Grid
– Non deve dipendere dai
servizi di alto livello (che
sono opzionali )
Security model and infrastructure
Computing (CE) and Storage Elements (SE)
Accounting
Information and Monitoring
GARR WS08 - Milano, 2-4 Aprile
2008
3
Il middleware gLite: blocchi funzionali
Access
CLI
API
Security
Information & Monitoring
Authorization
Information &
Monitoring
Auditing
Authentication
Data Management
Application
Monitoring
Workload Management
Metadata
Catalog
File & Replica
Catalog
Accounting
Job
Provenance
Package
Manager
Storage
Element
Data
Movement
Site Proxy
Computing
Element
Workload
Management
Descrizione:
GARR WS08 - Milano, 2-4 Aprile
4
http://doc.cern.ch//archive/electronic/egee/tr/egee-tr-2006-001.pdf
2008
I costituenti del middleware
SOA
Workload Management
•
Servizi Grid di alto livello
Data Management
Esecuzione e management dei jobs
– Workload Managament Service/Server (WMS/RB)
trasferimento di files prodotti,
sottomissione / esecuzione
– Logging&Bookkeeping (LB)
monitor / restituzione dell output
registrazione su cataloghi distribuiti
– File Transfer Service (FTS)
cancellazione
replicazione
– File Catalogs (LFC, FireMan )
– Metadata Catalogs ( AMGA )
– Encrypted Data Storage (EDS)
– Accounting
• Servizi diSystems
Base
Information
AAA
User
Authentication/Authorization/Accounting
– Computing
Element
Fornire informazioni
sulla struttura
della(CE)
Grid
Autenticazione:
Interface
– Storage
Element
agli utenti
e alla Grid
stessa(SE)
sapere chi vuole usare una data risorsa
Storage Resource
Manager (SRM) Interface
&
Fornire informazioni •sull’utilizzo
delle risorse
Autorizzazione:
di Grid
– Information
and Monitoring Service (BD-II, R-GMA)
Portale
sapere che cosa quell’utente
e’ autorizzato a fare
per consentire
un uso ottimale
– Authentication/Authorization/Auditing-Security
Web
Sicurezza:
delle risorse stesse
ridurre la vulnerabilita’ globale del sistema
Per consentire un budget model
Non-ripudiabilita’:
sapere chi ha fatto cosa
Globus (VDT)
PKI X.509
accounting
Condor
GridFTP / GSI
GARR WS08 - Milano, 2-4 Aprile
2008
LDAP, MySQL,
OpenSSL,..
5
Service Oriented Architettura: principi generali
• gLite si basa su una Architettura Service
Oriented (SOA)
– Per facilitare l’interoperabilita’ tra i servizi
Grid
– Per essere compatibile con gli standard
emergenti presenti e futuri
– I servizi collaborano in maniera coerente ma
possono anche essere installati ed utilizzati
indipendentemente, permettendo il loro
utilizzo in contesti differenziati
GIN
• I servizi comunicano scambiandosi
messaggi
– Stanno venendo tutti dotati di interfacce
Web Services
– Esistono in realta’ diverse specifice che I
WS e uno standard e’ necessario
– Le attivita’ sono svolte in ambito OGF-GIN
(interoperabilita’)
http://www.ogf.org/gf/group_info/view.php?group=gin-cg
GARR WS08 - Milano, 2-4 Aprile
2008
6
i gLite metapackages
o
Servizi gLite
o
gLite deployment modules
GARR WS08 - Milano, 2-4 Aprile
2008
7
Servizi gLite ( gLite deployment modules)
•
VOMS : Virtual Organization Membership Service
– Autenticazione/Autorizzazione
•
CE: Computing Element (lcg-CE, glite-CE)
– Esegue i job degli utenti / Basato su Globus e Condor
• Dotato di un interfaccia WS – trasferisce il job ai Worker Nodes
•
WN: Worker Node
– Nodi di una farm/cluster che eseguono I jobs Grid
•
PX : MyProxy server
– Crea e gestisce long-lasting proxy per gli utenti
•
WMS/RB (glite-WMS, lcg-RB)
– Il cervello della Grid : esegue il match-making job/risorse e assegna I jobs ai CE
•
SE: Storage Element
– Per la storage dei dati
• SRM 2.2 interfaccia WS unica per i Mass Storage Systems e il disk storage
•
LFC: LCG file catalog
– Per mappare logical file names dei file in Site-URLs (PFN) attraverso i GUID
• Con interfaccia WS
•
•
•
•
•
•
DPM Disk Pool manager
AMGA: ARDA metadata Grid Application Catalog
EDS: Encrypted Data Storage
GFAL: GRID File Access Library (POSIX-like)
BD-II information system
GARR WS08
MON : Monitoring System Collector
Box- Milano, 2-4 Aprile
2008
8
gLite VOMS server
Virtual Organization Membership Service:
– Rilascia certificati proxy per gli utenti con
info su VO membership, gruppi, ruoli
– Compatibile con Globus GSI
– OgniVO ha un database che contiene
info sul gruppo, ruolo e autorizzazione
per ogni utente
– L’utente contatta il VOMS server
richiedend la sua informazione di
autorizzazione
– Il Server invia l’info sull’autorizzazione client,
che la include in un certificato proxy
Authentication
GARR WS08 - Milano, 2-4 Aprile
2008
Request
VOMS
proxy
C=IT/O=INFN
VOMS
/L=CNAF
proxy
/CN=Pinco Palla
/CN=proxy
Auth
DB
9
Scopi dell’infrastruttura di sicurezza
in GRID
• Autenticare gli utenti
– Chi sta utilizzando le risorse di un dominio
• Autorizzare gli utenti autenticati
– Per es.puoi accedere ad un Computing
Element o ad uno Storage Element o puoi
lanciare dei jobs ma non puoi installare
software
• Evitare abuso o misuso delle risorse
GARR WS08 - Milano, 2-4 Aprile
2008
10
AuthN
• Autenticare gli utenti significa essere sicuri
di chi e’ all’altro capo del filo, ovvero
conoscere in maniera certa l’identita’ di un
utilizzatore di una risorsa.
GARR WS08 - Milano, 2-4 Aprile
2008
11
AuthZ
• Autorizzare un utente su una risorsa
significa stabilire se quell’utente ha diritto
di utilizzarla e con quali funzionalita’ tra
tutte quelle disponibili che la risorsa stessa
fornisce.
GARR WS08 - Milano, 2-4 Aprile
2008
12
AuthN: meccanismi di base
• L’autenticazione in GRID si base
generalmente sui certificati elettronici .
• In particolare si usa l’infrastruttura a
chiave pubblica : PKI
• Un utente dispone di due chiavi
elettroniche, rilasciate da una Certification
Authority:
– Una chiave pubblica
– Una chiave privata
GARR WS08 - Milano, 2-4 Aprile
2008
13
AuthZ : meccanismi di base
-Chiave privata utente
-VOMS-based GRID proxy file
-Chiavi pub CAs
-Certificato Host
-Il Certificato dell’utente e’ firmato da una delle CA valide ?
-L’utente fa parte di una VO che e’ una di quelle consentite ?
(comunicazione sicura tra componenti e VOMS server )
-L’utente dispone di un VOMS proxy file valido (non scaduto )?
-Quale funzionalita’ sono accessibili all’ utente (e.g. su quale UNIX
group sara’ mappato ) ?
GARR WS08 - Milano, 2-4 Aprile
2008
14
La sicurezza
Security
Authentication
Grid Security
Infrastructure
Encryption &
Authorization
Data Integrity
GARR WS08 - Milano, 2-4 Aprile
2008
15
Il Computing Element (CE)
Site
Grid
Il Computing Element
• accetta batch jobs (e richieste di job control)
utilizzando il gatekeeper
Client
LCG-CE (GT2 GRAM + GSI-enabled
Condor)
gLite-CE (GSI-enabled Condor-C)
Computing
CREAM (WS-I based interface)
Monitoring
Element
• Svolge le funzionalita’ AAA e mappa su un
utente locale
usando LCAS/LCMAPS e GRAM o
AAA and
Job
glexec
local mapping
Controller
• Passa il job allo strato che interagisce col
LRMS
• Monitora lo stato del job e lo restituisce al
WN
LRMS
client
Condor
CEMon (in CREAM)
• Interfaccia Web service
GARR WS08 - Milano, 2-4 Aprile
16
2008
Job Management Services
User Interface
Information System
submit
Workload Management
Logging & Bookkeeping
query
discover
services
retrieve
update
credential
publish
state
submit
query
retrieve
File and Replica
Catalogs
Authorization
Service
publish
state
Site X
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
Storage Element
17
Il Workload Management System
• Resource brokering, workflow management, I/O data management
Interfaccia Web Service : WMProxy
– Task Queue: tiene in archivio I job che non-matching
– Information SuperMarket: cache dell’ information system
– Match Maker: assegna i job alle varie risorse in base ai requirements
degli users
– Job submission & monitoring
Condor-G
ICE (to CREAM)
– Interagisce con:
• Information System
• Data Catalogs
• Logging&Bookkeeping
• Policy Management
system (G-PBox)
GARR WS08 - Milano, 2-4 Aprile
2008
18
VOMS
gLite WMS server
BD-II
UI
RGMA,BDIIs client
gI/o clients
LFC clients
Globus clients
WMS
WMS client UI
(Network
Server )
Workload Local Job
Grid
Manager Logger Controller FTP
WMproxy (WM)
Log
Monitor
Condor-C master schedd collector negotiator
launcher advertiser
logd interlogger
based on
LB
Bookkeeping srv
Proxy
renewd
CE
CONDOR-C
Globus gatekeeper
CEmon
Condor-C master schedd
SEIndex
LFC file
catalog
Fireman
BLAHPD
LRMS ( PBS serv,sched
PBS
mom
WN1
GARR WS08 - Milano, 2-4 Aprile
2008
LSF serv )
PBS
mom
PBS
mom
WN2
WN3
PBS
mom
WN4
19
LCG RB
VOMS
BD-II
UI
RGMA,BDIIs client
LFC clients
Globus clients
WMS
Network Resource Local Job
Grid
Server
Broker
Logger Controller FTP
WM
Proxy
renewd
Log
Monitor
WMS client UI
Condor-G Globus GRAM
logd interlogger
based on CONDOR-G Globus GRAM
LB
Bookkeeping srv
File Catalogs
LFC file
catalog
CE
Globus gatekeeper
Globus GRAM, Globus JobManager
(fork,pbs,lsf)
LRMS ( PBS serv,sched
PBS
mom
WN1
GARR WS08 - Milano, 2-4 Aprile
2008
LSF serv )
PBS
mom
PBS
mom
WN2
WN3
PBS
mom
WN4
20
User
Interface
gLite WMS
WM
WM
PROXY
TASK
QUEUE
MATCH
MAKER
NETWORK
SERVER
INFORMATION
SUPERMARKET
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
UPDATER
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
21
User
Interface
Gli utenti o le applicazioni
sottomettono files JDL via CLI o
API attraverso il WMproxy (o il
NS): richieste di job
management
WM
WM
PROXY
TASK
QUEUE
MATCH
MAKER
NETWORK
SERVER
INFORMATION
SUPERMARKET
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
UPDATER
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
22
User
Interface
IL WM trova il
CE appropriato per ogni
sottomissione di job considerando la
job request e le preferenze,
lo stato della Grid , eventuali policies
sulle risorse
WM
WM
PROXY
TASK
QUEUE
MATCH
MAKER
NETWORK
SERVER
INFORMATION
SUPERMARKET
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
UPDATER
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
23
WM
WM
PROXY
User
Interface
TASK
QUEUE
MATCH
MAKER
NETWORK
SERVER
La Task Queue
memorizza le richieste di
INFORMATION
sottomissione
jobs
SUPERMARKET
Le richieste
vengono conservate per
un certo tempose le
risorse non sono
immediatamente disponibili
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
UPDATER
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
24
WM
WM
PROXY
User
Interface
TASK
QUEUE
MATCH
MAKER
NETWORK
SERVER
INFORMATION
SUPERMARKET
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
UPDATER
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
Repository di info sulle risorse
per il matchmaker
Updated via notifications
oppure/e active
polling sulle resources
( IS local cache )
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
25
User
Interface
WM
WM
PROXY
TASK
QUEUE
NETWORK
SERVER
MATCH
MAKER
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
INFORMATION
SUPERMARKET
Il Job Controller UPDATER
Effettua la vera
job submission
ed il monitoring del job
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
26
User
Interface
WM
WM
PROXY
TASK
QUEUE
MATCH
MAKER
NETWORK
SERVER
INFORMATION
SUPERMARKET
Job Adapter
Dagman
Job Controller
Condor
JOB MONITORING
& SUBMISSION
INFORMATION
UPDATER
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
Il job e’ inviato al ACCESS
POLICY
Computing Element
MANAGEMENT
Perche’ sia eseguito
(sui suoi Worker Nodes)
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
27
gLite WMS/CE:
Information Flow
• Il WMS puo’ essere configurato per lavorare coi CE in
– Push mode - query BD-II LDAP
– Push mode - synchronous poll of CE endpoints
• Requires a list of CEmon endpoints on the WMS
– Pull mode : - Asynchronous pull of information from the CE to
the WMS ( once the WMS subscribed to the CEmon )
• Requires a list of WMS nodes on the CE (predefined
subscription list)
GARR WS08 - Milano, 2-4 Aprile
2008
28
Information flow :
pull e push
requests for information
Info flow
subscription
WMS
WMS
•Isdump.fl
BD-II
LDAP
server
5120
CE
GARR WS08 - Milano, 2-4 Aprile
2008
CE
29
WMS : IS cache
WM
WM
PROXY
TASK
QUEUE
MATCH
MAKER
Job Adapter
Dagman
Job Controller
Condor
User
Interface
JOB MONITORING
& SUBMISSION
NETWORK
SERVER
•DONE
INFORMATION
SUPERMARKET
•WAIT I HAVE NO
RESOURCE for
this Job
INFORMATION
•JOB
UPDATER
IS RUNNING
•OK NOW I HAVE
RESOURCES
DATA
MANAGEMENT
LOGGING
&
BOOKEPING
ACCESS
POLICY
MANAGEMENT
INFORMATION
SYSTEM
Computing Element
GARR WS08 - Milano, 2-4 Aprile
2008
•WN
30
WMS – interazione utente: JDL file
•
Scriviamo il nostro Job Description File (JDL file)
(classAds )
Type = “Job”;
JobType = “Normal”;
Executable = “/bin/bash”;
Arguments = “mySimulationShellScritp.sh”;
StdInput = “stdin”;
StdOutput = “stdout”;
StdError = “stderr”;
InputSandbox = {“mySimulationShellScritp.sh”,“stdin”,“data-card-1.file”,”data-card2.file”};
OutputSandbox = {“stderr”, “stdout”,“outputfile1.data”,”histos.zebra”};
Environment = {“JOB_LOG_FILE=/tmp/myJob.log”};
Requirements = Member(“EGEE-preprod-1.2.41.2”,other.GlueHostApplicationSoftwareRunTimeEnvironment);
GARR WS08 - Milano, 2-4 Aprile
2008
31
•Job State Machine
GARR WS08 - Milano, 2-4 Aprile
2008
32
Job State Machine
Submitted job is entered by the user to
the User Interface but not yet
transferred to Network Server for
processing
GARR WS08 - Milano, 2-4 Aprile
2008
33
Job State Machine
Waiting job accepted by NS and
waiting for Workload Manager
processing or being processed by
WMHelper modules.
GARR WS08 - Milano, 2-4 Aprile
2008
34
Job State Machine
Ready job processed by
WM
but
not
yet
transferred to the CE
(local
batch
system
queue).
GARR WS08 - Milano, 2-4 Aprile
2008
35
Job State Machine
Scheduled job waiting
in the queue on the CE.
GARR WS08 - Milano, 2-4 Aprile
2008
36
Job State Machine
Running job is
running.
GARR WS08 - Milano, 2-4 Aprile
2008
37
Job State Machine
Done job exited or considered to
be in a terminal state by CondorC
(e.g., submission to CE has failed
in an unrecoverable way).
GARR WS08 - Milano, 2-4 Aprile
2008
38
Job State Machine
Aborted job processing
was aborted by WMS
(waiting in the WM
queue or CE for too
long, expiration of user
credentials).
GARR WS08 - Milano, 2-4 Aprile
2008
39
Job State Machine
Cancelled job has been
successfully canceled on
user request.
GARR WS08 - Milano, 2-4 Aprile
2008
40
Job State Machine
Cleared
output sandbox was
transferred to the user or removed
due to the timeout.
GARR WS08 - Milano, 2-4 Aprile
2008
41
Lo Storage Element (SE)
•
•
•
•
Gli storage elements (SE) sono le componenti per la memorizzazione dei dati in
files nella Grid.
Si possono basare su disco o nastro e sono visti attraverso un interfaccia
standard : lo Storage Resource Manager
Lo Storage Resource Manager (SRM)
– Nasconde l’implementazione dello storage system (disk o active tape)
– Controlla l’autorizzazione allo storage system ed ai files
– Gestisce sia SFNs che PFNs (converte SFN in PFN)
– disk-based: DPM, dCache; tape-based: Castor, dCache
File I/O: Accesso posix-like ai files dai nodi locali o dalla Grid
 GFAL
GARR WS08 - Milano, 2-4 Aprile
2008
42
3. gLite metapackages
Il File transfer Service
•
•
FTS: File transfer affidabile, scalabile e customizzabile
– Multi-VO service, usato per bilanciare l’uso delle site resources rispettando gli
SLA definiti tra un sito e le VO che supporta
– Interfaccia WS, supporto di ruoli differenziati per utenti e admin (VOMS)
– Gestisce i trasferimenti utilizzando canali
• mono-directional network pipes tra due siti
– I vari file transfers sono gestiti come job
• Prioritizzazione
• Retry in caso di failure
– Automatic discovery dei servizi
Progettato per gestire transfer di
applicazioni data intensive
– Collaudato a 1 GB/s continuativo
– Piu’ di 9 petabytes trasferiti negli
ultimi 6 mesi (> 10 milioni di files)
GARR WS08 - Milano, 2-4 Aprile
2008
43
LCG File Catalog
•
LFC mappa LFNs in SURLs
– Logical File Name (LFN): user file name
• nel namespace della VO, aliases consentiti
– Glbally Unique IDentifier (GUID)
• Stringa univoca assegnata dal sistema al file
– Site URL (SURL): identifica una replica specifica
LFC
LFN 1
GUID
LFN 2
• Uno SE ed il LFN del file che contiene
•
•
•
•
SURL 1
SURL 2
ACL
GSI security: utilizza le ACLs (basate su VOMS)
– Ad ogni gruppo/ruolo VOMS corrisponde un virtual group identifier
– Supporto per secondary groups
Interfaccaia Web Service di query: Data Location Interface (DLI)
Namespace gerarchico
Supporta le sessions e le bulk operations
lfc-ls –l /grid/vo/
lfc-getacl /grid/vo/data
LFC
GARR WS08 - Milano, 2-4 Aprile
DLI
2008
/grid
/vo
/data
file
44
LFC e DPM
• LFC e’ un File Catalog
– Utilizzato per fare il lookup di nomi logici per ottenere
i nomi delle repliche
– Consiste di un daemon, un DB di backend (mysql o
oracle) e – opzionale – un DLI, un servizio per
rispondere a richieste SOAP
• DPM e’ il Disc Pool Manager
– Gestisce I files in pools ( un file system su un certo
numero di disk servers)
– Una componente del DPM e’ il DPM Name Server
(DPNS) - stessa code base del LFC
– Altre componenti includono DPM, gridftp server,
rfiod, SRM versioni 1, 2.1 & 2.2
GARR WS08 - Milano, 2-4 Aprile
2008
45
Architettura del DPM
•
•
•
•
•
CLI, C API,
SRM-enabled
client, etc.
DPMCOPY
node
DPM
head node
DPM Name Server (DPNS)
– Namespace
– Autorizzazone
– Locazione fisica dei files
DPM Server
– Coda delle richieste e processamento
– Space management
SRM Servers (v1.1, v2.1, v2.2)
Disk Servers
DPM
– Physical files
disk servers
Direct data transfer da/a
disk server (no bottleneck)
GARR WS08 - Milano, 2-4 Aprile
– Accesso via e.g. gridftp & rfio
2008
…
46
• LFC memorizza sia il mapping logico che quello fisico tra le repliche
nello stesso DB  Piu’ veloce
• Tratta tutte le entita’ come files in un filesystem UNIX-like
• Namespace gerarchico di LFNs mappati ai loro rispettivi GUIDs
• I GUIDs sono mappati alle locazioni fisiche delle repliche negli storage
elements
• Gli attributi di sistema dei files (creation time, file size and checksum…)
sono memorizzati come attributi del LFN
• LFNs multipli per singolo GUID consentiti come symbolic links al LFN
primario
• File API simili ad UNIX (i.e. create(), mkdir(), chown())
Reggie Cushing- Uni Malta
LFC : aspetti principali
Mapping dei Grid Files
 Gli utenti accedono e gestiscono i files utilizzando“logical
filenames”
LFC Namespace
Definito dall’utente
Mapping fornito dal “LFC” catalogue server
Reggie Cushing- Uni Malta
LFC ha una struttura ad albero
/grid/<VO_name>/ <sei tu a crearlo>
namespace LFC
GRID
Unix-like system
home
jupiter
grid
saturn
folder1
VO
atlas
working-dir
cms
Reggie Cushing- Uni Malta
/ (root)
•
Logical File Name (LFN)
– Un alias creato dall’ utente per identificare degli elementi di dati, per
esempio
lfn:/grid/garr/stefano/data.txt
•
Globally Unique Identifier (GUID)
– Un non-human-readable unique identifier per un item di dati, per es.
guid:f81d4fae-7dec-11d0-a765-00a0c91e6bf6
•
Site URL (SURL) (detto anche Physical File Name (PFN) o Site FN)
– La location di un set di dati su uno Storage System, per es.
srm://pcrd24.cern.ch/flatfiles/cms/output10_1 (SRM)
sfn://lxshare0209.cern.ch/data/alice/ntuples.dat (Classic SE)
•
Transport URL (TURL)
– Identificatore della locaz.temporanea di una replica + protocollo d’accesso:
capito e gestito da un a SE, e.g.
rfio://lxshare0209.cern.ch//data/alice/ntuples.dat
Reggie Cushing- Uni Malta
Convenzioni per il naming dei files Grid
lfc-chmod
Change access mode of the LFC file/directory
lfc-chown
Change owner and group of the LFC file-directory
lfc-delcomment
Delete the comment associated with the file/directory
lfc-getacl
Get file/directory access control lists
lfc-ln
Make a symbolic link to a file/directory
lfc-ls
List file/directory entries in a directory
lfc-mkdir
Create a directory
lfc-rename
Rename a file/directory
lfc-rm
Remove a file/directory
lfc-setacl
Set file/directory access control lists
lfc-setcomment
Add/replace a comment
Reggie Cushing- Uni Malta
Summary dei comandi LFC Catalog
lcg utils /1
lcg-cp
Copies a grid file to a local destination
lcg-cr
Copies a file to a SE and registers the file in the catalog
lcg-rf
Register in the catalog a file residing on a SE
lcg-rep
Replication between SEs and registration of the replica
lcg-gt
Gets the TURL for a given SURL and transfer protocol
lcg-sd
Sets file status to “Done” for a given SURL in a SRM request
Reggie Cushing- Uni Malta
• Comandi Replica Management
lcg utils /2
lcg-aa
Adds an alias in the catalog
lcg-ra
Removes an alias in the catalog
lcg-rf
Registers in the Catalog a file residing on a SE
lcg-uf
Unregisters from a Catalog a file residing on a SE
lcg-la
Lists the aliases created for a given LFN, GUID or SURL
lcg-lg
Gets the GUID for a given LFN or SURL
lcg-lr
Lists replicas for a given LFN, GUID or SURL
Reggie Cushing- Uni Malta
• Comandi di interazione con il File Catalog
AMGA Metadata Catalog
•
•
•
AMGA e’ un metadata catalog general purpose
– Contiene informazioni sui dati scritti nei files
– Usato da diversi tipi di applicazioni
– Interfaccia SOAP
– VOMS authorization
– Shell-like client
– Browser grafico (Python)
Performance comparabili all’accesso diretto a DB
– C++, TCP streaming protocol, sessioni SSL
molto veloci
LHCb (HEP VO use case)
– 100 Milioni di entries
– 150GB di dati
– 105 entries/day rate di inserimento
– 10 entries/sec rate di lettura
VOM
S
Authenticate
with X509
Cert
VOMS-Cert
with Group &
Role information
VOMS-Cert
Resource
management
Orac
A
AMG
http://cern.ch/amga
GARR WS08 - Milano, 2-4 Aprile
2008
54
le
Encrypted Data Storage
•
Per VOs con requirements forti di riservatezza
– Per esempio la comunita’ medica
• Anonimita’ (i dati sul paziente sono tenuti separatamente)
• fine grained access control (solo alcuni individui possono accedere)
• Privacy (nemmeno gli amministratori degli SE possono leggere i dati)
• Interfaccia DICOM (Digital Image and COmmunication in Medicine)
• Hydra keystore
– Memorizza le keys per l’
2. retrieve
encryption dei dati
1. patient look-up
keys
Hydra
3. get
TURL
gridftp
4. read
SRM
I/O
AMGA
DPM
0. store
encrypted
0. store
image
keys
&ACL
&ACL
– N istanze: per le meno
M<N servono per la
decryption
Trigger
• Sicuro ed affidabileGARR WS08 - Milano, 2-4 Aprile
2008
0. store
patient
data
&ACL
0. retrieve
image
DICOM55
Information Systems
• Generic Information
Provider (GIP)
GIP
Provider
Cache
Plugin
– Fornisce informazione
LDIF su un servizio
Grid utilizzando lo
schema GLUE
LDIF
File
Config
File
• BDII: Information system in gLite 3.0
– LDAP database aggiornato
2171
2172
LDAP
LDAP
da un processo di update
– Si usa piu’ di un DB, separati
2170
in lettura e scrittura
Port Fwd
– Per selezionare il DB si usa il
port forwarding
GARR WS08 - Milano, 2-4 Aprile
2008
2173
LDAP
Update DB
&
Modify DB
Swap DBs
2170
Port Fwd
56
GLUE Schema
• Uno schema GLUE
di oggetti ed
attributi che
Schema
descrivono le risorse Grid e le loro interrelazioni
– Partecipanti attuali: EGEE, OSG, Globus e
NorduGrid.
– Un modo di descrivere informazioni sulla Grid
• Staticamente e dinamicamente
• In maniera gerarchica
• Independentemente dal framework utilizzato per la
persistenza (LDAP, XML, SQL…)
• Attualmente e’ mappato in
– LDAP
– XML
– Old ClassAd (used by Condor Matchmaking)
GARR WS08 - Milano, 2-4 Aprile
2008
57
Site Element
*
Site
Service
A collection of resources owned by
the same organization and
managed by the same
administrator. Contains info on the
location, the administrator, the web
homepage and so on.
1
1
The description of a deployed Web
Service. Contains the URI endpoint
of the WS, the WSDL document, the
list owners and so on.
1
*
*
StorageElement
Cluster
GARR WS08 - Milano, 2-4 Aprile
2008
58
Cluster Element
Cluster
A set of heterogeneous resources.
Contains information on shared
temporary directories.
1
1
*
SubCluster
A set of similar resources. Contains
the number of Logical and Physical
CPUs.
Host
Contains detailed static information
of the type of hosts and related
installed software. Data deal with
the type of CPU architecture,
memory sizes, the operating system
installed as well as the type of
network adapter. Furthermore it
contains some information on
performance mesures obtained by
executing well known benchmark
softwares.
1
*
Location
*
ComputingElement
Information on installed softwares,
their path and version
GARR WS08 - Milano, 2-4 Aprile
2008
59
Computing Element
ComputingElement
Info
Abstraction of a queue of jobs
Static information on the resource
that deal with the type of Loca
scheduler adopted, the default
Storage Element and so on.
Policy
*
Contains info on configuration
policies. MaxWallClockTime,
MaxRunningJobs, MaxCPUTime . . .
VOview
View for a given Virtual
Organization. Contains authorization
details for VO members and the
amount of available resources.
AccessControlPolicyBase
Set of rules defining access control
policy rules
State
*
Job
Information on jobs in this queue, its
owner, its local and global ID and its
status
Dynamic information on the status
of this queue such as the number of
free CPUs and the Estimated
Traversal Time (ETT)
GARR WS08 - Milano, 2-4 Aprile
2008
60
La gLite User Interface
• Punto di ingresso alla GRID
– tutti i clients a bordo
•
100+ comandi CLI
• Attualmente gLite 3.0 su SLC 3 e gLite 3.1
su SLC 4
GARR WS08 - Milano, 2-4 Aprile
2008
61
glite-brokerinfo
glite-catalog-getdefacl
glite-catalog-chkperm
glite-catalog-chmod
glite-catalog-create
glite-catalog-find
glite-catalog-getacl
glite-catalog-getattr
glite-catalog-getguid
glite-catalog-getreplica
glite-catalog-ls
glite-catalog-mkdir
glite-catalog-mv
glite-catalog-rm
glite-catalog-rmdir
glite-catalog-setacl
glite-catalog-setattr
glite-catalog-setdefacl
glite-catalog-setdefperm
glite-catalog-setreplica
glite-catalog-setschema
glite-catalog-stat
glite-catalog-symlink
glite-catalog-touch
glite-data-config-generator
glite-data-config-service
glite-eds-encrypt
glite-eds-get
glite-eds-put
glite-eds-rm
glite-get
glite-gridftp-exists
glite-gridftp-ls
glite-gridftp-mkdir
glite-gridftp-rename
glite-gridftp-rm
glite-gridftp-size
glite-lb-logevent
glite-job-attach
glite-transfer-channel-signal
glite-job-cancel
glite-transfer-setpriority
glite-transfer-discovery
glite-job-get-chkpt
glite-transfer-channel-setvoshare rgma-setup
glite-job-list-match
glite-transfer-getroles
rgma
glite-job-logging-info
glite-transfer-list
rgma-client-check
glite-job-output
glite-transfer-listvomanagers
rgma-log4j-receiver
glite-job-status
glite-transfer-removevomanager voms-proxy-info
glite-job-submit
glite-transfer-service-info
voms-proxy-destroy
glite-meta-create
glite-transfer-stats-agents
voms-proxy-init
glite-meta-getattr
glite-transfer-stats-channel
voms-proxy-list
glite-meta-remove
glite-transfer-stats-vo
voms-proxy-fake
glite-meta-schema-describe glite-transfer-status
globus-domainname
glite-meta-schema-list
glite-transfer-submit
globus-job-cancel
glite-meta-setattr
glite-transfer-submit-placement
globus-job-clean
glite-put
glite-url-copy
globus-job-get-output
glite-rm
glite-url-copy-cleanlog
globus-job-run
glite-sd-query
glite-url-copy-srm
globus-job-status
glite-seindex-list
glite-url-copy-status
globus-job-submit
glite-srm-delete
glite-url-copy-stop
globus-makefile-header
glite-srm-get
glite-version
globus-url-copy
glite-srm-get-protocols
glite-voms-proxy-destroy
globus-rls-cli
glite-srm-get-status
glite-voms-proxy-fake
globusrun
glite-srm-mk-permanent
glite-voms-proxy-info
globus-sh-exec
glite-srm-pin
glite-voms-proxy-init
globus-update-doxygen-index
glite-srm-ping
glite-voms-proxy-list
globus-gass-server
glite-srm-put
glite-wms-get-configuration globus globus-generalized-time
glite-srm-set-status
glite-wms-grid-console-shadow
globus-hostname
glite-srm-unpin
glite-wms-job-attach
globus-gass-server-shutdown
glite-transfer-addvomanager glite-wms-job-cancel
glite-transfer-cancel
glite-wms-job-delegate-proxy
glite-transfer-channel-add
glite-wms-job-get-chkpt
glite-transfer-channel-addmanager
glite-wms-job-list-match
glite-transfer-channel-drop
glite-wms-job-logging-info
glite-transfer-channel-list
glite-wms-job-output
glite-transfer-channel-listmanagers
glite-wms-job-perusal
62
glite-transfer-channel-removemanager glite-wms-job-status
glite-transfer-channel-set
glite-wms-job-submit
Benvenuti a bordo di gLite 3.0 e
gLite 3.1
glite-brokerinfo
glite-catalog-getdefacl
glite-catalog-chkperm
glite-catalog-chmod
glite-catalog-create
glite-catalog-find
glite-catalog-getacl
glite-catalog-getattr
glite-catalog-getguid
glite-catalog-getreplica
glite-catalog-ls
glite-catalog-mkdir
glite-catalog-mv
glite-catalog-rm
glite-catalog-rmdir
glite-catalog-setacl
glite-catalog-setattr
glite-catalog-setdefacl
glite-catalog-setdefperm
glite-catalog-setreplica
glite-catalog-setschema
glite-catalog-stat
glite-catalog-symlink
glite-catalog-touch
glite-data-config-generator
glite-data-config-service
glite-eds-encrypt
glite-eds-get
glite-eds-put
glite-eds-rm
glite-get
glite-gridftp-exists
glite-gridftp-ls
glite-gridftp-mkdir
glite-gridftp-rename
glite-gridftp-rm
glite-gridftp-size
glite-lb-logevent
glite-job-attach
glite-transfer-channel-signal
glite-job-cancel
glite-transfer-setpriority
glite-transfer-discovery
glite-job-get-chkpt
glite-transfer-channel-setvoshare rgma-setup
glite-job-list-match
glite-transfer-getroles
rgma
glite-job-logging-info
rgma-client-check
DATAglite-job-output
MANAGEMENT glite-transfer-list
glite-transfer-listvomanagers
rgma-log4j-receiver
glite-job-status
glite-transfer-removevomanager voms-proxy-info
glite-job-submit
glite-transfer-service-info
voms-proxy-destroy
glite-meta-create
glite-transfer-stats-agents
voms-proxy-init
glite-meta-getattr
glite-transfer-stats-channel
voms-proxy-list
glite-meta-remove
glite-transfer-stats-vo
voms-proxy-fake
glite-meta-schema-describe glite-transfer-status
globus-domainname
glite-meta-schema-list
glite-transfer-submit
globus-job-cancel
glite-meta-setattr
glite-transfer-submit-placement
globus-job-clean
glite-put
glite-url-copy
globus-job-get-output
glite-rm
glite-url-copy-cleanlog
globus-job-run
glite-sd-query
glite-url-copy-srm
globus-job-status
glite-seindex-list
glite-url-copy-status
globus-job-submit
glite-srm-delete
glite-url-copy-stop
globus-makefile-header
JOB MANAGEMENT
glite-srm-get
glite-version
globus-url-copy
glite-srm-get-protocols
apel-publisher
globus-rls-cli
glite-srm-get-status
apel-pbs-log-parser
globusrun
glite-srm-mk-permanent
apel-lsf-log-parser
globus-sh-exec
glite-srm-pin
glite-voms-proxy-init
globus-update-doxygen-index
glite-srm-ping
glite-voms-proxy-list
globus-gass-server
glite-srm-put
glite-wms-get-configuration globus globus-generalized-time
glite-srm-set-status
glite-wms-grid-console-shadow
globus-hostname
glite-srm-unpin
glite-wms-job-attach
globus-gass-server-shutdown
glite-transfer-addvomanager
glite-wms-job-cancel
lfc-chmod
LFC FILE CATALOG
glite-transfer-cancel
glite-wms-job-delegate-proxy
lfc-chown
glite-transfer-channel-add
glite-wms-job-get-chkpt lfc-delcomment
glite-transfer-channel-addmanager
glite-wms-job-list-match lfc-entergrpmap
glite-transfer-channel-drop
glite-wms-job-logging-info lfc-enterusrmap
glite-transfer-channel-list
glite-wms-job-output
lfc-getacl
glite-transfer-channel-listmanagers
glite-wms-job-perusal
lfc-ln
63
glite-transfer-channel-removemanager glite-wms-job-status
lfc-ls
glite-transfer-channel-set
glite-wms-job-submit
lfc-mkdir
Riferimenti
•gLite WMS, CE :
http://egee-jra1-wm.mi.infn.it/egee-jra1-wm/
•gLite WMS User Guide
https://edms.cern.ch/document/572489/1
•LCG RB, glite WMS
https://edms.cern.ch/file/722398/1.1/gLite-3-UserGuide.html
•WMProxy quickstart
http://egee-jra1-wm.mi.infn.it/egee-jra1-wm/wmproxy_client_quickstart.shtm
•WMS user guides
https://edms.cern.ch/document/572489/1
GARR WS08 - Milano, 2-4 Aprile
2008
64