1

La qualita’ dei dati nei sistemi informativi

C. Batini - Aipa

A man with a watch knows what time it is

A man with two is never sure

Mark Twain

2

Indice della presentazione

• Motivazioni per la qualita’ dei dati

• La qualita’ dei dati nei diversi tipi di sistemi informativi

• Le dimensioni della qualita’ dei dati

• Le metodologie per la misurazione e il miglioramento della qualita’ dei dati in sistemi informativi tradizionali

• Cenni alle metodologie per misurazione & miglioramento in sistemi informativi cooperativi

3

Motivazioni per la qualita’ dei dati

4

Perche’ la qualita’ dei dati e’ importante

• La scarsa qualita’ dei dati e’ pervasiva, soprattutto in un approccio a rete

• Influenza il successo e l’ immagine della organizzazione

• Eleva i costi

• Influenza i processi decisionali

• Impedisce il re-engineering

• Rende difficile una strategia a lungo termine

5

La qualità dei dati nei diversi tipi di sistemi informativi

6

Diversi tipi di sistemi informativi

• Sistemi informativi monoorganizzazione– Centralizzati classici– Distribuiti

• Sistemi informativi cooperativi

• Sistemi informativi direzionali di tipo data wharehouse

Rete unitaria e sistema informativo unitario della PA: situazione di partenza

Amministrazione 2

Processi

ApplicazioniDati

Amministrazione 1

Processi

ApplicazioniDati

Sistema “AmmCentrale to AmmCentrale”

Amministrazione 1

Processi

Applicazioni

interne

Datiesposti

Dati

Servizi di interoperabilità

Servizi di trasporto

Dati e servizi esposti

Amministrazione 2

Processi

Applicazioni

interne

Datiesposti

Dati

Dati e serviziesposti

Sistema “AmmCentrale to AmmLocale”

Amministrazione 1

Processi

Applicazioni

interne

Datiesposti

Dati

Servizi di interoperabilità

Servizi di trasporto

Dati e servizi esposti

Amministrazione 2

Processi

Applicazioni

interne

Datiesposti

Dati

Dati e serviziesposti

Amministrazione 1

Processi

Applicazioni

interne

Datiesposti

Dati

Servizi di interoperabilità

Servizi di trasporto

Dati e servizi esposti

Amministrazione 2

Processi

Applicazioni

interne

Datiesposti

Dati

Dati e serviziesposti

Servizi di interoperabilità

Servizi di trasporto

Sistema “Amministrazione to Cittadino”Amministrazione 1

Processi

Applicazioni

interne

Datiesposti

Dati

Servizi di interoperabilità

Servizi di trasporto

Dati e servizi esposti

Amministrazione 2

Processi

Applicazioni

interne

Datiesposti

Dati

Dati e serviziesposti

Amministrazione 1

Processi

Applicazioni

interne

Datiesposti

Dati

Servizi di interoperabilità

Servizi di trasporto

Dati e servizi esposti

Amministrazione 2

Processi

Applicazioni

interne

Datiesposti

Dati

Dati e serviziesposti

Servizi di interoperabilità

Servizi di trasporto

Internet e altri canali

11

Nei data wharehouse

• Integrazione di schemi logici

• Integrazione dei dati

• Individuazione e risoluzione delle incoerenze

• Pulizia dei dati

12

Le dimensioni della qualita’dei dati

13

• Il livello dello schema logico– Es archivio dipendenti, archivio stipendi, ecc.

• Il livello dei valori e del formato dei dati– Es per i valori

• Archivio dipendenti

• Mario Rossi, nato a Brescia il 21-12-1977

– Es per il formato • Campo Cognome

• PICTURE X(12)

In una qualunque base di dati o archivio possiamo distinguere ..

14

Lo schema logicoComune

Particella

Bene

Fabbricato Terreno

Soggetto fisicoo giuridico

Catastogeometrico

Catastofabbricati

Catastoterreni

15

I valori

16

Il formato

17

Schema logico dei dati

18

Le dimensioni dello schema logico

• Contenuto• Copertura, cioe’ grado in cui lo schema logico

comprende un adeguato numero di archivi e campi da incontrare le necessita’ delle applicazioni

• Livello di dettaglio• Composizione, cioe’ la struttura interna dello schema• Consistenza• Economicita’• Flessibilita’ al cambiamento

19

Dettaglio delle proprietà

Contenuto

Rilevanza

Ottenibilità

Chiarezza della definizione

Copertura

Completezza

Essenzialità

Livello di dettaglio

Granularità degli attributi

Precisione dei domini

Composizione

Naturalezza

Identificabilità

Omogeneità

Ridondanza minima necessaria

Consistenza

Consistenza semantica

Consistenza strutturale

Reazione al cambiamento

Robustezza

Flessibilità

20

Esempi di alcune proprietà

• Granularità degli attributi– Es. Il concetto di “indirizzo” può essere rappresentato in alcune

applicazioni semplicemente da “Stato”, in altre da “via”+”numero civico”+ “Città”+” Stato”

• Precisione dei domini– Es. Un dominio dell’attributo “altezza” di una persona che la esprime in

cm, risulta più preciso di un dominio che prevede i valori ALTA, MEDIA, BASSA

• Naturalezza– Es. Un attributo composto <Sesso,Stato Matrimoniale> è poco naturale

perché esprime due fatti naturalmente scorrelati

21

Esempi di alcune proprietà (continua)

• Consistenza strutturale– Es. Tutte le date devono avere un formato comune,

anche se rappresentano attributi di archivi diversi

• Ottenibilità– Es. I dati di una società commerciale non sono

disponibili nell’anno corrente, per non facilitare la concorrenza (ma sono ottenibili solo quelli di anni precedenti)

22

Copertura

• Completezza - Ogni archivio e campo necessario agli utenti e’ incluso nello schema logico

• Essenzialita’ - nessun archivio e campo non indispoensabile agli utenti e’ incluso nello schema logico

23

Ma tradizionalmente anche ..

• Normalita’: – Prima forma normale– Seconda forma normale – Terza forma normale– Quarta forma normale – Boyce Codd Normal Form– Quinta forma normale– Domain Key Normal Form

24

Le dimensioni non sono ortogonali

• Le dimensioni (o caratteristiche) non sono indipendenti tra di loro:– correlazioni positive : migliorare una caratteristica migliora anche

l’altra– correlazioni negative: migliorare una peggiora l’altra

• Esempi:– Gode di correlazione positiva la terna

• comprensività, • granularità degli attributi e • precisione del dominio

– Gode di correlazione negativa la coppia • Economicita’• Completezza

25

Dimensioni dei valori e del formato

26

Valori dei dati• Accuratezza, vicinanza del dato ad un valore nel dominio di

definizione considerato corretto– importante, difficile da misurare (cfr realta’, storici)

• Correttezza, accuratezza al grado massimo• Completezza, l’ estensione con cui i valori sono presenti nella

base di dati. – Importante, difficile da misurare – null values

• Tempestivita’, adeguatezza dell’ aggiornamento – Importante, forse la maggior causa di processi scorretti– Esempio PA

• Dichiarazioni dei redditi (fino all’ anno scorso) 3 anni di ritardo• Informazioni sugli impiegati 2 anni di ritardo

• Consistenza di differenti valori.– Quando tra dati consistenti vi e’ rapporto funzionale, porta a ridondanza

27

Formato

• Appropriatezza, rispetto alle esigenze dell’ utente– dipende dal mezzo usato (es. Codici a barre, grafi)

• Interpretabilita’, aiuta l’ utente a interpretare i valori correttamente – Es. (1,2,3,4) vs (scarso, insufficiente, sufficiente, buono)

• Portabilita’, o Universalita’ tra diverse tipologie di utenti– es le icone agli aeroporti

• Precisione, capacita’ di discriminare tra diversi valori– critica con le icone

• Flessibilita’, rispetto ai requisiti utente• Capacita’ di rappresentare valori nulli• Uso efficiente della memoria Es. (0,1) vs ( , )

28

Come procedere alla misura della qualita’ dei dati

• 1. Individuazione delle caratteristiche (dimensioni) e sottocaratteristiche (proprieta’) prioritarie

• 2. Individuazione dei criteri (proprieta’ misurabili)• 3. Scelta della procedura di misurazione • 4. Processo di misurazione • 5. Aggiunta delle valutazioni non quantitative• 6. Valutazione complessiva

29

Esempio del passo 1: linee strategiche dell’ Aipa 1998-2000

“Nel campo specifico della qualita’ dei dati, da intendersi principalmente come correttezza, tempestivita’ di aggiornamento, completezza e coerenza, occorre intervenire …….”

30

Proprieta’ richieste dalle metriche–misurabilita’ quanto possibile con strumenti automatici

–affidabilità (essere non affette da errori casuali in maniera eccessiva),

–ripetibilità (misure rilevate sul medesimo componente in differenti momenti nelle stesse condizioni di rilevazione devono dare lo stesso risultato),

– riproducibilità (differenti valutatori debbono poter ottenere uguali risultati in uguali condizioni di valutazione),

–disponibilità ad essere utilizzata,

–efficacia (in relazione al costo di suo impiego),

–correttezza (imparzialità e precisione),

–obiettività (in grado di dare risultati non influenzabili dal valutatore o da altri fattori esterni),

–significatività (dare indicazioni significative sul comportamento del componente valutato rispetto al requisito in esame);

31

Le metodologie per la misurazione e il miglioramento della qualita’ dei dati in sistemi

informativi tradizionali

32

Metodi

• Ispezione e correzione– Comparazione dati con le controparti reali

– Database bashing

– Utilizzo di business rules

• Controllo e Miglioramento

del Processo

• Reingegnerizzazione

del Processo

Approccio basato sui Processi

33

Ispezione e correzione: tre approcci • 1. Confronto dei dati con la realta’ che rappresentano

• costoso, a campione, molto preciso, una tantum per orientare l’ intervento

• 2. Confronto dei dati tra due o piu’ archivi– + Facilmente applicabile, costo medio

– - Il matching non garantisce, se un dato e’ manifestamente errato forza a considerare l’ altro corretto, non garantisce per il futuro, “abitua male”, cioe’ falso senso di sicurezza (es. fatture vs fatture attese)

• 3. Confronto dei dati con vincoli o business rules– un campo, piu’ campi, probabilistico

• + spesso efficace, poco costoso

• - non garantisce per il futuro, riguarda solo la conformita’ alle regole, non la accuratezza, “abitua male”

• particolarmente adatti a dati permanenti

34

Miglioramento basato sui processi

Realizzare gli interventi di miglioramento

Identificare il process owner (Data Steward)

Descrivere il processo

Stabilire un sistema di misura

Definire un sistema di monitoraggio e controllo (deidati e/ del processo)

Identificare gli obiettivi di miglioramento

Identificare il processo

35

Stabilire un sistema di misura

• Passo 1 Cosa misurare: processi, campi, metriche

• Passo 2 Definire il campionamento

• Passo 3 Tracking

• Passo 4 Identificazione degli errori e del tempo di ritardo

36

Il processo suddiviso in 5 sottoprocessi che alimentano 2 basi di dati DB1 e DB2

P1 P2 P3 P4

P5

DB1

DB2

37

Esempio: accuratezza per un campo a

della base dati DB1

P5 DB2

P1 P2 P3 P4 DB11% 2% 17% 0.5%

38

Esempio: consistenza tra due DB per un campo b

P3 P4

P5

DB1

DB2

11% 0%

0%

.5%

11% 11.5%

39

Miglioramento Costo TotaleMetodo

BreveTermine

LungoTermine

BreveTermine

LungoTermine

Quando

Laissez faire Basso Basso Alto Alto Dati non importanti

Comparazionemondo reale, una

volta

Alto Basso Alto Alto Per stimare lacorrente DQ

Comparazionemondo reale,

periodico

Alto Alto Alto Molto Alto Mai

Databasebashing, una volta

Medio Basso Medio Alto Su dati che cambianolentamente (stabili),quando un secondo

databaseindipendente è

disponibile

Databasebashing, periodico

Medio Medio Medio Molto Alto Mai

Clean-up conedits, una volta

Medio Basso Medio Alto Su dati che cambianolentamente (stabili)

Clean-up conedits, periodico

Medio Medio Medio Alto Mai

Controllo eMiglioramento del

Processo

Medio Alto Medio Basso Su tutti i dati chevengono manipolati

frequentemente

Ingegnerizazionedel Processo

Medio Alto Medio Molto Basso Quando si progettauna information chain

40

Cenni alle metodologie per misurazione & miglioramento in sistemi informativi cooperativi

41

Qualità dei Dati più complessa

• Sistemi eterogenei implicano con elevata probabilità schemi logici differenti

• La necessità di scambiarsi dati può determinare l’insorgere di problemi nello scambio (es.data entry dei dati acquisiti da un’altra organizzazione)

• Maggiore latenza del sistema cooperativo (es. la duplicazione di un dato su più organizzazioni comporta valori variabili della “tempestività” del dato)

42

Misurazione

• Possibilità di mutuare i risultati ottenuti per la QD delle sorgenti del World Wide Web (WWW)

• Sono stati realizzati sistemi che fanno un assessment della QD delle sorgenti mediante l’utilizzo di metadati per la qualità dei dati

43

Metadati per la qualità dei dati• Esempi di metadati da associare ai dati esposti dalle

singole organizzazioni cooperanti sono:– data dell’ultimo aggiornamento;– codifica del Data Steward del dato;– codifica della sorgente che ha effettuato l’ultimo

aggiornamento, etc.

• La valutazione dei metadati fornisce un livello di soglia di alcune dimensioni:– Tempestività (data dell’ultimo aggiornamento)– Affidabilità (se la sorgente che ha effettuato l’ultimo

aggiornamento è il Data Steward è massima)– …

44

Miglioramento

• Le tecnologie attuali abilitano un miglioramento della qualità dei dati quando sistemi diversi necessitano di cooperare: reingegnerizzaione IT-driven– Due esempi: XML e Publish and Subscribe

45

XML come driver del re-engineering DQ-oriented

• XML: tecnologia per lo scambio dei dati fra le organizzazioni cooperanti

• Per ogni macro-processo accordo tra le organizzazioni partecipanti sullo schema logico delle informazioni di scambio (Es. DTD XML)

46

Le caratteristiche che migliorano: i valori

+ Accuratezza: si automatizza la fase di data entry, e quindi minor numero di errori

= Completezza+ Tempestivita’ + Consistenza : la consistenza semantica

aumenta in virtù dell’ accordo tra le organizzazioni

47

Le caratteristiche che migliorano: il formato

= Appropriatezza

+ Interpretabilità

+ Portabilità

- Precisione

+ Flessibilità

= Capacità di rappresentare valori nulli

- Efficienza nell’impiego dei mezzi di registrazione

48

Publish&Subscribe come driver del re-

engineering DQ-oriented • Meccanismo di notifica basato su eventi • Il ruolo dei Data Steward

– Esempio PA: il Data Steward delle informazioni anagrafiche (Es. l’indirizzo di nascita) è il Comune di nascita, e quindi idealmente una seconda amministrazione dovrebbe aggiornare i propri archivi solo in seguito all’emissione di un evento da parte del data steward.

49

Una possibile architettura di P&S

DATA STEWARD

50

Le caratteristiche che migliorano

• Tempestività: l’architettura del P&S consente un miglioramento in termini di velocità con cui i dati sono aggiornati

• Ma anche: – Accuratezza (assegnazione di responsabilità

definita sul dato al Data Steward…)– Consistenza etc.

51

Riferimenti

• REDMAN Thomas C. Redman - Data Quality for the information Age - 1996 Artech House

• BALLOU D. Ballou, G. Tayi - Enhancing Data quality in Data Warehouse Environments, Comm ACM January 1999, 42,1.

• MIHAILA G.,RASHID L.,VIDAL M.: “Querying quality of data metadata”. In Proceedings of the 6th International Conference on Extending Database Technology (EDBT), Valencia, Spain , 1998.

• MIHAILA G.: Publishing, Locating, and Querying Networked Information Sources. PhD thesis, University of Toronto, 2000.

• GALHARDAS H.,FLORESCU D. et alii: An Extensible Framework for Data Cleaning. In Proceedings of the 16th International Conference on Data Engineering (2000)