Riunione CCR 20/10/2005 Gruppo Storage Relazione attivita primo semestre 2005 e pianificazione 2006...

Riunione CCR 20/10/2005Riunione CCR 20/10/2005

Gruppo StorageGruppo StorageRelazione attivita’ primo semestre Relazione attivita’ primo semestre

2005 e pianificazione 20062005 e pianificazione 2006

Alessandro BrunengoAlessandro Brunengo


MandatoMandato Il gruppo e’ stato costituito da CCR nella riunione Il gruppo e’ stato costituito da CCR nella riunione

del 21/02/2005del 21/02/2005 L’obiettivo del gruppo e’ di fornire una L’obiettivo del gruppo e’ di fornire una

valutazione sull’opportunita’ di utilizzare la valutazione sull’opportunita’ di utilizzare la tecnologia Fiber Channel per ospitare lo storage tecnologia Fiber Channel per ospitare lo storage dei servizi centrali delle sezionidei servizi centrali delle sezioni

CCR ha indicato esplicitamente la partecipazione CCR ha indicato esplicitamente la partecipazione al gruppo dei rappresentanti di Lecce, Roma1, al gruppo dei rappresentanti di Lecce, Roma1, Trieste, CNAF e Genova (coordinatore), ma di Trieste, CNAF e Genova (coordinatore), ma di farne un gruppo aperto ai contributi di altre farne un gruppo aperto ai contributi di altre persone interessatepersone interessate

Al gruppo e’ stato richiesto di relazionare alla Al gruppo e’ stato richiesto di relazionare alla riunione di CCR di ottobre 2005riunione di CCR di ottobre 2005


PartecipantiPartecipanti 22 iscritti alla mailing list, quasi tutti con 22 iscritti alla mailing list, quasi tutti con

partecipazione attiva alle riunionipartecipazione attiva alle riunioni 12 sezioni rappresentate: Ba, Bo, CNAF, 12 sezioni rappresentate: Ba, Bo, CNAF,

Ct, Ge, Le, LNL, Pd, Pi, Roma1, TsCt, Ge, Le, LNL, Pd, Pi, Roma1, Ts C’e’ un crescente interesse per le attivita’ C’e’ un crescente interesse per le attivita’

del gruppo, con richieste di nuove del gruppo, con richieste di nuove iscrizioni alla mailing listiscrizioni alla mailing list

Sito web assolutamente embrionale, Sito web assolutamente embrionale, ospitato temporaneamente in ospitato temporaneamente in http://www.ge.infn.it/calcolo/progetti/storahttp://www.ge.infn.it/calcolo/progetti/storage (al solo fine di poter accedere ai lavori ge (al solo fine di poter accedere ai lavori presentati nelle riunioni)presentati nelle riunioni)


Attivita’Attivita’ Diversi argomenti su cui e’ stata sviluppata attivita’Diversi argomenti su cui e’ stata sviluppata attivita’

– valutazione dell’hardware FC gia’ installatovalutazione dell’hardware FC gia’ installato– analisi e test delle possibili architetture FC che possano analisi e test delle possibili architetture FC che possano

garantire affidabilita’garantire affidabilita’– test sui file system disponibilitest sui file system disponibili– technology trackingtechnology tracking– partecipare alla attivita’ della task force di HepiX sullo partecipare alla attivita’ della task force di HepiX sullo

storagestorage A queste si e’ in seguito manifestato interesse A queste si e’ in seguito manifestato interesse

anche per questioni legate all’impatto di GRID sui anche per questioni legate all’impatto di GRID sui sistemi di storagesistemi di storage– SRM/dCache ed SRM/DPMSRM/dCache ed SRM/DPM– StoRM: SRM per parallel file system (GPFS, LUSTRE)StoRM: SRM per parallel file system (GPFS, LUSTRE)


Architetture e ridondanzaArchitetture e ridondanza

Trieste

Genova

Infortrend FC-FC Infortrend FC-SATA

SAN Switch

Tape Library

Storage Servers

Mail Cluster

GPFS/NFS/Castor

FARM

AFS Server

Switch Ethernet

Switch Ethernet

Switch Ethernet


Benchmark GPFS vs Benchmark GPFS vs NFS/Ext3NFS/Ext3

Client I/O (write)

32.7038.00

42.80

89.00 89.40 88.00

103.00

121.60 120.00

0.00

20.00

40.00

60.00

80.00

100.00

120.00

140.00

1 client 2 clients 4 clients

MB/sNFS (ext3)

GPFS (1 srv, 1 NSD)

GPFS (2 srv, 2 NSD)

Client I/O (read)

67.0060.20

46.00

113.00 114.60108.00

116.50

209.00 210.00

0.00

50.00

100.00

150.00

200.00

250.00

1 client 2 clients 4 clients

MB/s

NFS (ext3)

GPFS (1 srv, 1 NSD)

GPFS (2 srv, 2 NSD)


Benchmark GPFS vs Benchmark GPFS vs LustreLustre

0

1

2

3

4

5

6

Lustre write GPFS write Lustre read GPFS read

Eff

ect

ive

aver

age

thro

ug

hp

ut

(Gb

/s)

# of simultaneous read/writes

Results of read/write(1GB different files)

Raw ethernet throughput vs time(20 x 1GB file simultaneous reads with Lustre)


Considerazioni sulla tecnologia Considerazioni sulla tecnologia SAN su Fiber ChannelSAN su Fiber Channel

Vantaggi della tecnologia: rende possibile utilizzare diverse Vantaggi della tecnologia: rende possibile utilizzare diverse funzionalita’ che tecnologie piu’ vecchie non hanno, con un carico funzionalita’ che tecnologie piu’ vecchie non hanno, con un carico di configurazione e gestione relativamente bassodi configurazione e gestione relativamente basso– indipendenza del server di disco dal disco stessoindipendenza del server di disco dal disco stesso– possibilita’ di crescita dinamica di volumi o controller con conseguente possibilita’ di crescita dinamica di volumi o controller con conseguente

espandibilita’ dinamica dello spazio disco disponibileespandibilita’ dinamica dello spazio disco disponibile– possibilita’ di accesso concomitante di piu’ server di disco allo stesso possibilita’ di accesso concomitante di piu’ server di disco allo stesso

volume logico o fisicovolume logico o fisico– possibilita’ di configurare cammini ridondati verso lo stesso volumepossibilita’ di configurare cammini ridondati verso lo stesso volume

Problemi della tecnologia: e’ complessaProblemi della tecnologia: e’ complessa– il suo funzionamento interno non e’ semplice, e non sempre le il suo funzionamento interno non e’ semplice, e non sempre le

specifiche che lo renderebbero “plug and play” si rivelano soddisfatte specifiche che lo renderebbero “plug and play” si rivelano soddisfatte dalle implementazionidalle implementazioni

– modifiche della topologia richiedono un lavoro di apprendimento sulle modifiche della topologia richiedono un lavoro di apprendimento sulle metodologie di gestione della SAN che non sono schematizzabili in un metodologie di gestione della SAN che non sono schematizzabili in un breviario (non e’ “Ethernet”)breviario (non e’ “Ethernet”)

Nel complesso il costo di apprendimento della tecnologia (una – Nel complesso il costo di apprendimento della tecnologia (una – due settimane per realizzare una struttura di base) risulta ben due settimane per realizzare una struttura di base) risulta ben speso a fronte dei vantaggi che Fiber Channel offre a livello di speso a fronte dei vantaggi che Fiber Channel offre a livello di funzionalita’funzionalita’


Considerazioni sulla tecnologia Considerazioni sulla tecnologia dei dischidei dischi

Si puo’ suggerire di utilizzare dischi FC o SCSI in luogo di Si puo’ suggerire di utilizzare dischi FC o SCSI in luogo di dischi SATA?dischi SATA?– il disco FC/SCSI e’ piu’ affidabile, piu’ veloce sia nel il disco FC/SCSI e’ piu’ affidabile, piu’ veloce sia nel

posizionamento che nella rotazione, piu’ piccolo di dimensione, posizionamento che nella rotazione, piu’ piccolo di dimensione, piu’ costosopiu’ costoso

– il tipo di accesso (sequenziale per grossi file vs. accesso il tipo di accesso (sequenziale per grossi file vs. accesso continuo di molti piccoli file) puo’ aumentare di molto il continuo di molti piccoli file) puo’ aumentare di molto il rapporto di affidabilita’ e prestazioni tra le diverse tecnologierapporto di affidabilita’ e prestazioni tra le diverse tecnologie

– come singolo disco per servizi critici e’ certamente da preferire come singolo disco per servizi critici e’ certamente da preferire la soluzione FC o SCSIla soluzione FC o SCSI

– in un sistema RAID, la ridondanza e l’effetto delle prestazioni in un sistema RAID, la ridondanza e l’effetto delle prestazioni del controller riducono il gap di affidabilita’ e di prestazioni: si del controller riducono il gap di affidabilita’ e di prestazioni: si puo’ compensare ulteriormente la minore affidabilita’ dei dischi puo’ compensare ulteriormente la minore affidabilita’ dei dischi SATA con l’utilizzo di ridondanza RAID6 (in produzione a Bari)SATA con l’utilizzo di ridondanza RAID6 (in produzione a Bari)

– per volumi di grosse dimensioni la differenza di costo puo’ per volumi di grosse dimensioni la differenza di costo puo’ diventare importantediventare importante

Non e’ da escludere la possibilita’ di utilizzare la tecnologia Non e’ da escludere la possibilita’ di utilizzare la tecnologia piu’ costosa in condizioni di volumi limitati, importanza dei piu’ costosa in condizioni di volumi limitati, importanza dei dati (mail, home dir), accesso non sequenzialedati (mail, home dir), accesso non sequenziale


Considerazioni sui file Considerazioni sui file systemsystem

Si e’ molto lavorato sui file system paralleli (PVFS, Si e’ molto lavorato sui file system paralleli (PVFS, GFS, GPFS, LUSTRE) GFS, GPFS, LUSTRE) – GPFS: efficiente, scalabile (fino a 250 client senza il GPFS: efficiente, scalabile (fino a 250 client senza il

supporto IBM), fornisce ridondanza di accesso al volume, supporto IBM), fornisce ridondanza di accesso al volume, espandibilita’ dinamica dei volumi, replicabilita’ dei dati…, espandibilita’ dinamica dei volumi, replicabilita’ dei dati…, a costo zero il software, non l’assistenza (prezzi non a costo zero il software, non l’assistenza (prezzi non definiti)definiti)

– Lustre: piu’ performante, piu’ scalabile, ha grosso modo Lustre: piu’ performante, piu’ scalabile, ha grosso modo tutto quello che ha GPFS, ma costa caro (prezzi per ora tutto quello che ha GPFS, ma costa caro (prezzi per ora non ufficializzati)non ufficializzati)

L’utilizzo di FS paralleli sara’ strategico al Tier1 L’utilizzo di FS paralleli sara’ strategico al Tier1 (ammesso che si possano utilizzare su questi file (ammesso che si possano utilizzare su questi file system i servizi SRM). GPFS e’ in produzione al system i servizi SRM). GPFS e’ in produzione al Tier1, a Trieste ed a Catania, e sara’ in produzione Tier1, a Trieste ed a Catania, e sara’ in produzione a Genova a breve.a Genova a breve.


Impatto di GRID sullo Impatto di GRID sullo storagestorage

GRID richiede che il sistema di storage sia dotato di una GRID richiede che il sistema di storage sia dotato di una sovrastruttura (SRM) che fornisca servizi aggiuntivisovrastruttura (SRM) che fornisca servizi aggiuntivi– namespace unificatonamespace unificato– access control listaccess control list– file pinningfile pinning– reservationreservation– time-to-live del filetime-to-live del file– accesso tramite certificati utenteaccesso tramite certificati utente

L’attuale stato dell’arte vede due implementazioni operative L’attuale stato dell’arte vede due implementazioni operative (SRM/dCache ed SRM/DPM) che operano su ext3(SRM/dCache ed SRM/DPM) che operano su ext3

E’ in fase di completamento una interfaccia SRM per file E’ in fase di completamento una interfaccia SRM per file system paralleli (GPFS/LUSTRE) che sapra’ sfruttarne le system paralleli (GPFS/LUSTRE) che sapra’ sfruttarne le caratteristichecaratteristiche

La situazione e’ in evoluzione rapida, ma il requisito iniziale La situazione e’ in evoluzione rapida, ma il requisito iniziale potrebbe imporre vincoli alla struttura di storage sottostante; potrebbe imporre vincoli alla struttura di storage sottostante; la cosa va tenuta sotto osservazione ed eventualmente la cosa va tenuta sotto osservazione ed eventualmente sollecitata in base a potenziali esigenze (vedi ad. es. StoRM)sollecitata in base a potenziali esigenze (vedi ad. es. StoRM)


Considerazioni sui costiConsiderazioni sui costi Il gruppo ritiene che non sia corretto fare una valutazione del Il gruppo ritiene che non sia corretto fare una valutazione del

costo del disco per TBcosto del disco per TB– una soluzione SAN implica un costo iniziale di infrastruttura, che una soluzione SAN implica un costo iniziale di infrastruttura, che

impatta sul costo/TB in funzione della dimensione iniziale del impatta sul costo/TB in funzione della dimensione iniziale del disco, e successivi incrementi di spazio disco possono avere un disco, e successivi incrementi di spazio disco possono avere un costo/TB molto inferiore rispetto all’acquisto inizialecosto/TB molto inferiore rispetto all’acquisto iniziale

– la soluzione scelta puo’ avere costi molto differenti in base al la soluzione scelta puo’ avere costi molto differenti in base al progetto, all’hardware di riferimento, alle dimensioniprogetto, all’hardware di riferimento, alle dimensioni

– lo stesso costo del disco valutato sullo spazio lordo puo’ essere lo stesso costo del disco valutato sullo spazio lordo puo’ essere solo parzialmente significativo, in quanto lo spazio netto di disco solo parzialmente significativo, in quanto lo spazio netto di disco utilizzabile a partire da una certa dimensione lorda dipende dal utilizzabile a partire da una certa dimensione lorda dipende dal numero di dischi che si vogliono dedicare alla ridondanzanumero di dischi che si vogliono dedicare alla ridondanza

E’ quindi ragionevole valutare la congruita’ di una richiesta di E’ quindi ragionevole valutare la congruita’ di una richiesta di finanziamento per storage in base al complesso di requisiti, finanziamento per storage in base al complesso di requisiti, progetto, soluzione tecnica identificata, hardware ritenuto progetto, soluzione tecnica identificata, hardware ritenuto idoneoidoneo– piu’ importante valutare il progetto in base alle esigenze ed ai piu’ importante valutare il progetto in base alle esigenze ed ai

programmi di crescita futura, valutando il costo della infrastruttura programmi di crescita futura, valutando il costo della infrastruttura ed il costo per l’espansione dei volumi separatamenteed il costo per l’espansione dei volumi separatamente


Costi: esempiCosti: esempi Acquisto infrastruttura a Genova (inizio anno)Acquisto infrastruttura a Genova (inizio anno)

– Infortrend Eonstor A16F-R1211 (FC-SATA)+2*switch FC Emulex Infortrend Eonstor A16F-R1211 (FC-SATA)+2*switch FC Emulex 355+4 HBA Qlogic QLA3242+16 HD 250 GB (4 TB lordi)355+4 HBA Qlogic QLA3242+16 HD 250 GB (4 TB lordi)

totale: 35 Ktotale: 35 KЄЄ (25+10) (25+10)– espansione con Jbod 16 HD 500 GB (8 TB lordi)espansione con Jbod 16 HD 500 GB (8 TB lordi)

totale: 10 Ktotale: 10 KЄЄ Offerta recente per FinudaOfferta recente per Finuda

– Infortrend Eonstor A16F-R1211+Jbod+3 HBA Qlogic Infortrend Eonstor A16F-R1211+Jbod+3 HBA Qlogic QLA2342+32 HD 400 GB (12.8 TB lordi)QLA2342+32 HD 400 GB (12.8 TB lordi)

totale: 33.5 Ktotale: 33.5 KЄЄ (20+13) (20+13) Acquisto recente a CataniaAcquisto recente a Catania

– Xyratec RIO FC-FC+4 Jbod (64 HD 400 GB)+2 server (25.6 TB Xyratec RIO FC-FC+4 Jbod (64 HD 400 GB)+2 server (25.6 TB lordi)lordi)

totale: 60 Ktotale: 60 KЄЄ (20+40) (20+40) Costo di soluzioni NAS/DAS SATACosto di soluzioni NAS/DAS SATA

– mediamente ~ 1.8 Kmediamente ~ 1.8 KЄЄ/TB/TB


Programma per il futuroProgramma per il futuro Il mandato ha richiesto al gruppo di analizzare la funzionalita’ di Il mandato ha richiesto al gruppo di analizzare la funzionalita’ di

soluzioni SAN/FC per lo storage dei servizi centrali, e l’opportunita’ soluzioni SAN/FC per lo storage dei servizi centrali, e l’opportunita’ di adottarledi adottarle

La gestione dello storage nel prossimo futuro assumera’ grande La gestione dello storage nel prossimo futuro assumera’ grande importanza non solo per i servizi centrali ma, con caratteristiche importanza non solo per i servizi centrali ma, con caratteristiche diverse per dimensione e requirements, per i siti che ospiteranno i diverse per dimensione e requirements, per i siti che ospiteranno i TierTier

Il gruppo ritiene che i suoi obiettivi dovrebbero essere rivisti ed Il gruppo ritiene che i suoi obiettivi dovrebbero essere rivisti ed ampliati, finalizzando la sua azione nei diversi puntiampliati, finalizzando la sua azione nei diversi punti– costituire un luogo in cui persone con problemi uguali possano costituire un luogo in cui persone con problemi uguali possano

confrontarsi e sviluppare soluzioni sfruttando l’esperienza di altri e confrontarsi e sviluppare soluzioni sfruttando l’esperienza di altri e portare avanti un lavoro di sviluppo e ricerca coordinatoportare avanti un lavoro di sviluppo e ricerca coordinato

– monitorare l’andamento della tecnologia per provare soluzioni alternative monitorare l’andamento della tecnologia per provare soluzioni alternative (esempi attuale sono iSCSI ed InfinyBand)(esempi attuale sono iSCSI ed InfinyBand)

– partecipare attivamente a gruppi che operano nel campo dello storage in partecipare attivamente a gruppi che operano nel campo dello storage in consessi piu’ ampi (ad esempio, il gruppo storage di HepiX)consessi piu’ ampi (ad esempio, il gruppo storage di HepiX)

– mantenere il contatto – ed eventualmente operare attivamente – con gli mantenere il contatto – ed eventualmente operare attivamente – con gli sviluppi di GRID ed i requirements che GRID imporra’ al sistema di sviluppi di GRID ed i requirements che GRID imporra’ al sistema di storagestorage

– realizzare un centro di competenza che possa far circolare le informazioni realizzare un centro di competenza che possa far circolare le informazioni ed a cui poter fare riferimentoed a cui poter fare riferimento


Pianificazione test su iSCSIPianificazione test su iSCSI Il gruppo vuole analizzare la tecnologia iSCSI per Il gruppo vuole analizzare la tecnologia iSCSI per

le sue potenzialita’ analoghe a FC ed il costo le sue potenzialita’ analoghe a FC ed il costo complessivamente inferiore, procurandosi in complessivamente inferiore, procurandosi in conto visione uno switch iSCSI/SCSI ed iSCSI/FC conto visione uno switch iSCSI/SCSI ed iSCSI/FC capace di gestione di volumi virtuali (repliche, capace di gestione di volumi virtuali (repliche, snapshot, aggregazione), ed un disco iSCSI nativosnapshot, aggregazione), ed un disco iSCSI nativo

Si pianifica il lavoro specifico su iSCSI in due fasiSi pianifica il lavoro specifico su iSCSI in due fasi– analisi sulle funzionalita’ (a Pisa) su una piattaforma analisi sulle funzionalita’ (a Pisa) su una piattaforma

dedicata, della durata di 4-5 mesidedicata, della durata di 4-5 mesi– analisi delle prestazioni iSCSI in condizioni di elevato analisi delle prestazioni iSCSI in condizioni di elevato

carico di I/O (al CNAF), della durata di 2 mesicarico di I/O (al CNAF), della durata di 2 mesiper arrivare ad una raccomandazione per settembre 2006per arrivare ad una raccomandazione per settembre 2006

Le persone interessate ai test sono quattro (Pisa, Le persone interessate ai test sono quattro (Pisa, Trieste, CNAF)Trieste, CNAF)


FTE?FTE? Da una discussione approfondita risulta difficile applicare il Da una discussione approfondita risulta difficile applicare il

concetto di FTE per le attivita’ pianificate del gruppoconcetto di FTE per le attivita’ pianificate del gruppo– in generale le persone afferenti ai gruppi di lavoro svolgono le in generale le persone afferenti ai gruppi di lavoro svolgono le

attivita’ in concorrenza con le proprie mansioni ordinarie, che attivita’ in concorrenza con le proprie mansioni ordinarie, che talvolta coincidonotalvolta coincidono

– non e’ semplice fornire una valutazione definita di un numero non e’ semplice fornire una valutazione definita di un numero (FTE) che dovrebbe essere riconosciuto ed approvato (FTE) che dovrebbe essere riconosciuto ed approvato all’interno della struttura di appartenenza, e che spesso all’interno della struttura di appartenenza, e che spesso potrebbe divenire privo di reale significatopotrebbe divenire privo di reale significato

Pare piu’ ragionevole darsi degli obiettivi ben definiti, con Pare piu’ ragionevole darsi degli obiettivi ben definiti, con una definizione precisa di tempi (ragionevoli), e identificare una definizione precisa di tempi (ragionevoli), e identificare le persone che sono interessate al task specifico, tenendo le persone che sono interessate al task specifico, tenendo monitorata con continuita’ l’evoluzione dei lavori in modo monitorata con continuita’ l’evoluzione dei lavori in modo da applicare correttivi in caso di necessita’da applicare correttivi in caso di necessita’

Una discussione su questo punto in CCR e’ benvenuta e Una discussione su questo punto in CCR e’ benvenuta e dovrebbe riguardare tutti i gruppi di lavorodovrebbe riguardare tutti i gruppi di lavoro


Richieste di finanziamentoRichieste di finanziamento Inventariabile:Inventariabile:

– 5.0 K5.0 KЄЄ per due disk server dotati di interfaccia iSCSI per due disk server dotati di interfaccia iSCSI– 6.0 K6.0 KЄЄ per due switch con 24 porte 100/1000 in rame per due switch con 24 porte 100/1000 in rame– 20 K20 KЄЄ per uno switch iSCSI/FC e iSCSI/SCSI con funzionalita’ di gestione di volumi per uno switch iSCSI/FC e iSCSI/SCSI con funzionalita’ di gestione di volumi

virtuali (in seconda priorita’)virtuali (in seconda priorita’)

i disk server e lo switch hanno lo scopo di installare un laboratorio dedicato i disk server e lo switch hanno lo scopo di installare un laboratorio dedicato a test sullo storage, che permetta di valutare soluzioni tecnologiche a test sullo storage, che permetta di valutare soluzioni tecnologiche diverse senza dover condividere risorse con sistemi in produzione; in diverse senza dover condividere risorse con sistemi in produzione; in particolare per il 2006 si desidera effettuare test sulla tecnologia iSCSI.particolare per il 2006 si desidera effettuare test sulla tecnologia iSCSI.Il progetto e’ di testare sia lo switch iSCSI che un disco iSCSI (controller Il progetto e’ di testare sia lo switch iSCSI che un disco iSCSI (controller RAID con interfaccia iSCSI) da procurarsi in conto visione; un eventuale RAID con interfaccia iSCSI) da procurarsi in conto visione; un eventuale acquisto di uno di questi oggetti potrebbe essere di interesse solo dopo i acquisto di uno di questi oggetti potrebbe essere di interesse solo dopo i test, pertanto il finanziamento per questo acquisto va considerato in test, pertanto il finanziamento per questo acquisto va considerato in seconda priorita’seconda priorita’La sede che si e’ scelta per la destinazione del materiale e’ PisaLa sede che si e’ scelta per la destinazione del materiale e’ Pisa

Missioni:Missioni:– 1.5 K1.5 KЄЄ di missioni interne e 2.5 K di missioni interne e 2.5 KЄЄ di missioni estere per la partecipazione di una di missioni estere per la partecipazione di una

persona del gruppo alle due riunioni che HepiX terra’ nel 2006 (sez. di ???)persona del gruppo alle due riunioni che HepiX terra’ nel 2006 (sez. di ???)– 3.0 K3.0 KЄЄ di missioni estere per la partecipazione di una persona del gruppo a 3 di missioni estere per la partecipazione di una persona del gruppo a 3

riunioni task force di HepiX sullo storage (da assegnare al CNAF)riunioni task force di HepiX sullo storage (da assegnare al CNAF)

Riunione CCR 20/10/2005 Gruppo Storage Relazione attivita primo semestre 2005 e pianificazione 2006...

Documents

Transcript of Riunione CCR 20/10/2005 Gruppo Storage Relazione attivita primo semestre 2005 e pianificazione 2006...