Sistemi Complessi1 Bayes Dbn

33
Reti Bayesiane

Transcript of Sistemi Complessi1 Bayes Dbn

Page 1: Sistemi Complessi1 Bayes   Dbn

Reti Bayesiane

Page 2: Sistemi Complessi1 Bayes   Dbn

• Le reti Bayesiane sono modelli grafici della conoscenza in un dominio incerto. Basandosi sulla regola di Bayes, esprimono relazioni di dipendenza condizionale (archi) tra le variabili in gioco (nodi). Il vantaggio principale del ragionamento probabilistico rispetto a quello logico sta nella possibilità di giungere a descrizioni razionali anche quando non vi è abbastanza informazione di tipo deterministico sul funzionamento del sistema.

Page 3: Sistemi Complessi1 Bayes   Dbn

• Le reti bayesiane possono essere utilizzate in ogni settore in cui sia necessario modellare la realtà in situazioni di incertezza, cioè in cui siano coinvolte delle probabilità.

Page 4: Sistemi Complessi1 Bayes   Dbn

La regola di Bayes

Spesso, nei ragionamenti probabilistici, capita che si debba valutare una probabilità avendo già delle informazioni su quanto è già accaduto in precedenza. Dati due eventi A e B, se questi sono in qualche modo correlati, è ragionevole pensare che il sapere che uno dei due è già avvenuto possa migliorare la conoscenza della probabilità dell'altro.

Page 5: Sistemi Complessi1 Bayes   Dbn

Dato uno spazio di probabilità (Ω,A, P[.]), doveΩ : spazio campionario (insieme di tutti i

possibili risultati dell'esperimento)A: spazio degli eventi (contenente Ω)

P[.]: funzione di probabilità con Dominio in A e Codominio in [0,1]

dati due eventi A e B appartenenti ad A, indichiamo con

P[A|B] la probabilità che si verifichi A sapendo che si

è già verificato B, cioè la probabilità di A condizionata a B.

Page 6: Sistemi Complessi1 Bayes   Dbn

Regola di Bayes• P[A|B] = P[A,B] / P[B] (per P[B]≠0), dove

P[A,B]=P[B|A] P[A]• Forma completa:

– dato lo spazio di probabilità ( Ω, A, P[.]), siano B1,B2,...Bn appartenenti ad A;

– per ogni i P[Bi]>0; i≠i BiBj=0; Ω=UiBi; allora per ogni A

appartenente ad A

– P[Bk|A] = P[A|Bk] P[Bk] / (Σ i P[A|Bi] P[Bi] )

Page 7: Sistemi Complessi1 Bayes   Dbn

Teorema di Bayes Generalizzato

Page 8: Sistemi Complessi1 Bayes   Dbn

• Supponiamo che viviate a Londra e che abbiate notato che – in inverno piove (P) il 50% (p(P)) delle volte ed – è nuvoloso (N) l’80% (p(N)) delle volte (talvolta è

nuvoloso ma non piove).• D’altra parte, il 100% delle volte in cui piove è

anche nuvoloso (p(N|P)). • Qual è la probabilità che oggi piova essendo

nuvoloso (p(P|N))?• La regola di Bayes ci può aiutare in questo,

infatti p(P|N) = p(P)p(N|P)/p(N) = 0.5 x 1.0 / 0.8 =

0.625 = 5/8. Quindi 5/8 delle volte a Londra, quando è nuvoloso allora piove.

Page 9: Sistemi Complessi1 Bayes   Dbn

Le reti Bayesiane

• Si usa una struttura di dati chiamata rete bayesiana (o rete di credenze, belief network) per rappresentare la dipendenza fra le variabili e per dare una specifica concisa della distribuzione di probabilità congiunta.

Page 10: Sistemi Complessi1 Bayes   Dbn

Una rete Bayesiana è un grafo in cui valgono le seguenti proprietà:

• 1) Un insieme di variabili casuali costituiscono i nodi della rete;

• 2) Un insieme di archi con verso connette le coppie di nodi (Il significato intuitivo di una freccia dal nodo X al nodo Y è che X ha un’influenza diretta su Y);

Page 11: Sistemi Complessi1 Bayes   Dbn

• 3) Ogni nodo ha una tabella delle probabilità condizionate che quantifica gli effetti che i “genitori” hanno sul nodo, dove per “genitori” si intendono tutti quei nodi che hanno frecce che puntano al nodo;

• 4) Il grafo non ha cicli diretti;

Page 12: Sistemi Complessi1 Bayes   Dbn

• Un nodo che non ha genitori diretti (cioè non ha frecce che puntano verso di lui) contiene una tabella di probabilità marginali.

• Se il nodo è discreto contiene una distribuzione di probabilità sugli stati della variabile che rappresenta.

• Se il nodo è continuo contiene una funzione di densità (ad es. una gaussiana definita da media e varianza) della variabile random che rappresenta.

Page 13: Sistemi Complessi1 Bayes   Dbn

• Se un nodo ha parenti (cioè uno o più frecce che puntano verso di lui) allora il nodo contiene una tabella di probabilità condizionali.

• Se il nodo è discreto la funzione di probabilità condizionale contiene la probabilità condizionale del nodo data una configurazione dei suoi parenti.

• Se il nodo è continuo, la funzione di probabilità condizionale contiene media e varianza di ogni configurazione degli stati dei suoi nodi parenti.

Page 14: Sistemi Complessi1 Bayes   Dbn

ESEMPIO 1

Un Comune può decidere se bloccare o no le auto per una giornata nel caso in cui si verifichi uno dei seguenti casi: – viene raggiunto il livello massimo di inquinamento, – si verifica una congestione delle strade.

A seconda della situazione i cittadini dovranno decidere se spostarsi con i mezzi pubblici o prendere la macchina.

Page 15: Sistemi Complessi1 Bayes   Dbn
Page 16: Sistemi Complessi1 Bayes   Dbn

• Una volta che la topologia della rete è specificata dobbiamo solo specificare le probabilità condizionate per i nodi che partecipano nelle dipendenze dirette, usando queste per il calcolo di qualunque altro valore di probabilità.

• Ogni nodo è caratterizzato da una tabella delle probabilità condizionate. Ogni riga della tabella contiene la probabilità condizionata del valore di ogni nodo per un caso condizionante.

Page 17: Sistemi Complessi1 Bayes   Dbn

Esempio 2

• Un giorno Jack si accorge che il suo albero di mele perde le foglie.

• Jack sa che se l’albero è secco allora è normale che perda le foglie.

• Ma Jack sa anche che la perdita delle foglie può essere sintomo di malattia per il suo albero.

Page 18: Sistemi Complessi1 Bayes   Dbn

La rete per l’albero di Jack

La rete consiste di 3 nodi: • Malato, Secco, e Perde le foglie • Malato può essere “malato" o "no" • Secco può essere “secco" o "no" • Perde le foglie può essere “si" o "no".

malato secco

perde le foglie

Page 19: Sistemi Complessi1 Bayes   Dbn

• La dipendenza casuale è tra Malato e Perde le foglie e Secco e Perde le foglie.

• Ad ogni nodo è associata una tabella di probabilità, che possono essere a priori o condizionate. Ad esempio:

• P(Malato=“malato“)=0.1• P(Malato="no“)=0.9• P(Secco=“secco“)=0.1• P(Secco="no“)=0.9

Page 20: Sistemi Complessi1 Bayes   Dbn

Secco=“secco” Secco=“No”

Perde=“si”

Perde=“no”

Malato=

“Malato”

Malato=

“No”

Malato=

“Malato”

Malato=

“No”

0.95 0.85

0.05 0.15

0.90 0.02

0.10 0.98

P(Perde le foglie | Malato, Secco)

Page 21: Sistemi Complessi1 Bayes   Dbn

Esempio R&N: allarmi

Page 22: Sistemi Complessi1 Bayes   Dbn
Page 23: Sistemi Complessi1 Bayes   Dbn

Diagnosi di un paziente che arriva in clinica

Supponiamo di avere davanti un nuovo paziente, di cui non sappiamo niente. Una volta che avremo acquisito informazione specifica su di lui la nostra rete bayesiana potrà essere aggiornata, fornendo risultati più attendibili.

Page 24: Sistemi Complessi1 Bayes   Dbn

Esempio 3: ASIA

Page 25: Sistemi Complessi1 Bayes   Dbn

I dati

• Statisticamente, in un campione rappresentativo di popolazione si conoscono i seguenti dati.

• Il 50% dei pazienti fuma.

• Il 1% ha la tubercolosi.

• Il 5.5% ha un cancro al polmone. • Il 45% ha una qualche forma di bronchite.

Page 26: Sistemi Complessi1 Bayes   Dbn

Come si procede

Si costruisce la rete bayesiana e si analizzano i sintomi mostrati dal paziente. Ad esempio, supponiamo che:

• La paziente lamenta dispnea.

• La paziente è stata recentemente in Asia.

• La paziente è una fumatrice.

Page 27: Sistemi Complessi1 Bayes   Dbn

Inoltre

• Si effettua una radiografia da cui si vede che:– 1. Risultato negativo

Sembra che la diagnosi migliore sia che la paziente ha una semplice bronchite.

– 2. Risultato positivoLa probabilità di un cancro o della tubercolosi sono aumentate enormemente. E’ comunque necessario effettuare nuovi esami.

Page 28: Sistemi Complessi1 Bayes   Dbn

Reti Bayesiane Statiche

Page 29: Sistemi Complessi1 Bayes   Dbn

Reti Bayesiane Dinamiche

Page 30: Sistemi Complessi1 Bayes   Dbn

Reti Bayesiane Dinamiche II

Page 31: Sistemi Complessi1 Bayes   Dbn

Diagrammi di Influenza I: Nodi Decisionali

Page 32: Sistemi Complessi1 Bayes   Dbn

Diagrammi di Influenza I: Nodi Utilità

Page 33: Sistemi Complessi1 Bayes   Dbn