Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

34
Le reti Le reti neurali neurali dagli esordi dagli esordi alle alle applicazioni applicazioni Alessandro Monaco Fabio Penna

Transcript of Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Page 1: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Le reti neurali Le reti neurali

dagli esordi dagli esordi

alle applicazionialle applicazioni

Alessandro Monaco Fabio Penna

Page 2: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Le origini

Gli automi cellulari

“…astrarre dal problema naturale dell’autoriproduzione la sua forma logica.”

• numero finito di stati

• stato determinato dagli automi circostanti

• comportamento non prevedibile

Page 3: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Sistema autoreplicante

interpretazione

non interpretazione

Informazioni Replicazione

Page 4: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

L’apprendimento

• ontogenetico (individuale)

- supervisionato

- non supervisionato

• filogenetico

- backpropagation

Page 5: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Altri tipi di apprendimento

Aumento dei valori dei coefficienti di connessione eccitatori che, dallo strato inferiore, inviano segnali alle unità che hanno vinto la competizione

Page 6: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Criteri per la propagazione del segnale

• strategia con più vincitori

• winner takes all

• strategia a bolle

Page 7: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Reti di Caianiello

Lo stato di attivazione del neurone dipende :

• dallo s.d.a. degli altri nell’istante precedente

• dallo s.d.a. negli istanti precedenti

Caratteristiche

- conoscenza dei punti di equilibrio e del suo ciclo

- dinamicità

Page 8: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Problematiche

interferenza catastrofica

plasticità / accuratezza

Peculiarità

flessibilità

autoadattamento autoapprendimento

Page 9: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Il neurone biologico

Page 10: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Il neurone artificiale

Page 11: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Le reti neurali artificiali

Reti feed-forward• unidirezionali (assenza di retroazione)

• i neuroni assumono valori reali

• buona flessibilità della rete Applicabilità a problemi reali

Page 12: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Back propagation

Vantaggi• applicabilità a qualsiasi rete

• atta a minimizzare la discordanza tra l’output desiderato e quello ottenuto

Svantaggi• minimi locali

• lentezza dell’algoritmo

Page 13: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Classificazione

• tipo di utilizzo:

- memorie associative

- simulatori

- classificatori

• algoritmo di apprendimento

• architettura dei collegamenti

• apprendimento supervisionato/non

Page 14: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

SOM (self organizing maps)

Page 15: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Reti di Kohonen

Page 16: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Diagramma a cappello messicano

Bolle di attivazione

Page 17: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

La predizione della struttura proteica

Page 18: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Organizzazione strutturale delle proteine

• Struttura primaria

• Struttura secondaria

• Struttura terziaria

• Struttura quaternaria

DNA Proteine

Page 19: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Problematiche sulla analisi strutturale

• lentezza di metodiche tradizionali (diffraz. X-Ray, NMR, data-base…etc)

• inaccuratezza dei metodi statistici

• non sempre applicabili (prot. di membrana)

Biologia molecolare e DNA ricombinante

Page 20: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Utilizzo reti neurali ad apprendimento supervisionato

Page 21: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.
Page 22: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Vantaggi

• non sono necessarie assunzioni teoriche preliminari

• flessibilità

• calcolo “in parallelo”

Svantaggi

• influenza del training set

• il problema del “black box”

Page 23: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Il caso della Nitrito-reduttasi di Pseudomonas aeruginosa

2 H + + 1e - + NO 2 - -------> H2 O + NO

Percettrone a due livelli implementato su un foglio elettronico programmabile addestrato con 3 diversi training set

Page 24: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Risultati

la performance funzionale di un percettrone dipenda strettamente dalla composizione dei 'training set' Mappe di Kohonen

Page 25: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Una corteccia somatosensoria simulata

Page 26: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.
Page 27: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.
Page 28: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.
Page 29: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Riconoscimento di fenomeni contaminativi nelle risorse idriche sotterraneee

1) Individuazione di un bacino idrogeologico da utilizzare come caso di prova e conseguente creazione dei modelli di flusso e di trasporto;

2) Analisi dei dati forniti dal modello e loro pre-elaborazione;

3) Studio delle architetture neurali più adatte per il problema in oggetto;

4) Addestramento delle reti con dati generati dal modello;

5) Creazione di dati per la validazione del sistema neurale

6) Test della capacità di generalizzazione del sistema mediante simulazione.

Page 30: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Specificamente:

1) È stato utilizzato il programma ModFlow per creare modelli di flusso e di trasporto. Con esso si possono simulare le variazioni in concentrazione di singole specie misurate e contenute nelle falde acquifere considerando:

• l’advezione

• la dispersione

• le reazioni chimiche semplici

Page 31: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Specificamente:

2) I campioni ottenuti dallo studio del modello sono costituiti da matrici di dimensioni [m,n], una per ogni strato esaminato e per ogni valore del tempo t. Tali matrici vengono convertite in vettori di dimensioni [(m*n),1], troppo elevate per poter essere successivamente elaborati con le reti neurali, in quanto richiederebbero un numero troppo grande di esempi.

Per questo motivo diventa assolutamente necessaria una pre-elaborazione finalizzata alla riduzione drastica delle dimensioni dei vettori.

3) Le reti neurali che sono state utilizzate sono le Reti Neurali Ricorrenti, perché consentono di esaminare le evoluzioni temporali dei fenomeni in studio. Per la loro applicazione si sta usando il Neural Network Toolbox di Matlab.

Page 32: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Stato di avanzamento dello studio

Risulta fondamentale il settaggio dei seguenti parametri:

• numero degli strati e delle celle utilizzati nelle simulazioni dei fenomeni fisici;

• minimo numero di nodi nello strato nascosto della rete;

• opportunità di associare all’uscita le sole coordinate delle celle interessate dalla contaminazione all’istante t=0 e relativi valori delle concentrazione, riducendo così notevolmente il numero dei nodi dell’ultimo strato di output.

Fasi di sviluppo successive

• simulazioni con più contaminanti

• utilizzo di dati reali come “learning set”

Page 33: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Un caso candidato

L'area dello Stabilimento EurAllumina del Polo industriale di Portovesme (Sardegna sud-occidentale) è interessata da estesi fenomeni di inquinamento da soda caustica, che interessano gli acquiferi impostati nelle formazioni sabbiose affioranti.

Page 34: Le reti neurali dagli esordi alle applicazioni Alessandro Monaco Fabio Penna.

Monitoraggio di trading system

Analisi fondamentale

vs

Analisi tecnica