Come vede una rete neurale Titolo della tesi. Scopo della tesi: simulare alcune proprietà del...

Post on 02-May-2015

214 views 0 download

Transcript of Come vede una rete neurale Titolo della tesi. Scopo della tesi: simulare alcune proprietà del...

“Come vede una rete neurale”

Titolo della tesi

Scopo della tesi:

simulare alcune proprietà del sistema visivo dei mammiferi attraverso l’utilizzo di una rete neurale

Che cosa verrà simulato?

• Immagini in bianco e nero(livelli di luminanza)

• Composizione spettrale del segnale

• Simulazione prevalentemente atemporale

• Complesse dinamiche neurali

• Trasformazioni in 2D

• Feed-back intermodale • Interazioni a feed-back con l’ambiente esterno

• Trasformazioni in 3D

E molto altro ancora….

Reti neurali

Rete di neuroni biologici

Rete neuraleartificiale

Sistemi nervosi artificiali che traggono ispirazione dai modelli biologici

Neurone

Neurone biologico Neurone artificiale

X1 X2 X3

F(Att.)

output

input

Vantaggi delle reti neurali• Plausibilità biologica

• Capacità di apprendere• Adattabilità: sono applicabili a più domini

(come i sistemi biologici)

• Veloci: processi in parallelo

• Robusti: errori e rumore degradano progressivamente la prestazione

• Rappresentazioni distribuite

• Possibilità di eseguire manipolazioni• Somiglianza fra prestazioni umane e modelli

Il modello

Tentativo di conciliare due diverse visioni del rapporto mente-cervello

NeuroscienzeOsservazioni psicologia sperimentale(percezione)

dialogo

Strutture anatomiche simulate

Parziale implementazione di• Strutture retiniche• NGL• V1• Aree associative• Sistema motivazionale

Caratteristiche funzionali simulate

• Elaborazione precoce dell’immagine visiva

• Eliminazione del rumore

• Estrazione delle variazioni di luminanza

• Prime fasi di elaborazione corticale (V1)

• Ricostruzione dell’immagine

• Livello associativo

• Rinforzo

• Attenzione selettiva

Schema generale della rete:

Totale di5.176 neuroniartificialie 528.439connessioni

Implementazione:Visual Basic

Primo strato: recettori

(istantanee del programma)

Matrice dei

recettori:20 x 20

400recettori

Livello diattivazione

Processo di smoothingLivellamento del rumore dell’immagine originaria

Immagine + rumore

Immagine percepita(depurata dal rumore)

Eliminazione del rumore: recettori

Prima dell’applicazione del filtro Dopo l’applicazione del filtro

Che cosa accade al segnale?

Estrazione delle variazioni di luminanzaLe caratteristiche importanti dell’immaginesono racchiuse nelle variazioni di luminanza(spesso coincidenti con i bordi degli oggetti)

Necessità di introdurre un ulteriore strato di unitàla cui struttura riassume le funzioni

delle cellule bipolari, gangliari e del NGL

INTERMEDIE

Connessioni recettori center-ON e center-OFF

Struttura del campo recettivodelle center-ON e center-OFF

Elaborazione in parallelo

Proprietà funzionali center-ON e center-OFF

1 2 3 4 5

S10

1

2

3

Att

Stimolo

Risposta di una center-ON in funzione della posizione dellostimolo luminoso

Simulazioni intermedie

Simulazioni intermedie

Prime fasi di elaborazione corticale (V1)Campo recettivo concentrico

Organizzazione modulare V1

Campo recettivo più complesso

Modello: unità semplici SI ed SII

• Salto concettuale rispetto alle intermedie• Nuova classe di unità con CR allungato: necessità di elaborare proprietà complesse dell’immagine, non solo grandezze puntiformi• Semplificazione della circuiteria corticale: solo due classi di unità semplici, SI ed SII

• Estrazione di contorni dell’immagine• Sensibilità alle frequenze spaziali• Sensibilità alla direzione del contrasto

Che cosa chiediamo a queste unità?

Unità SI

6 classi di unità2166 unità

Unità SII

8 classi di unità1800 unità

• Simulazione della presenza di un set completo di cellule semplici per orientamento e frequenza spaziale

Feed-Back

Competizione locale

• Meccanismo di controllo della dinamica della rete

• In una data popolazione di unità con funzioni simili solo l’unità più attiva trasmette il proprio output

1020

15

20

10

5

Simulazioni SI

Recettori

Intermedie

Camporecettivo

Scala attivazione

Simulazioni SII

Dopo la competizione locale

Effetto del Feed-Back

Prima

Dopo

Esempi 1

Esempi 2

Esempi 3

Obiettivi raggiunti

• Estrazione delle caratteristiche dell’immagine attraverso l’interazione fra più stadi: ciò che viene perso in uno stadio è recuperato dal feed-back di quello successivo

• Ricostruzione dei valori di luminanza

• Migliore prestazione per stimoli con alta simmetria e periodicità (similmente al SV umano)

• Riproduzione di alcuni fenomeni percettivi: bande di Mach, contrasto simultaneo, facilità nell’elabora_ zione di immagini simmetriche e periodiche

Ultimi stadi

• reagisca a delle semplici procedure di condizionamento

• modifichi le proprie prestazioni nel tempo: apprendimento

• relazione fra ambiente esterno ed interno (necessità dell’organismo)

• esibisca un processo di attenzione selettiva nei confronti degli stimoli che ha appreso essere più importanti: target e distrattori

Architettura• Unità capaci di apprendere

• Unità che codificano per rinforzi - e +

Unitàassociative

Unitàrinforzanti

Neuroni artificiali che codificano per stati “endogeni” della rete (piacere-dolore)

Unità associative• 12 unità

• Interamente interconnesse + connessioni da tutte SI + feed-back da SI

• Capaci di apprendimento

• Implementano una simu_ lazione di corteccia associativa

Convergenza di segnali visivi e motivazionali e capacità di apprendere

Unità rinforzanti• Interamente connesse con le associative

• Paia di unità che codificano per polarità opposte dello stimolo (simili a neur. ipotalamo e neur. facilitatori di Aplysya)

• “Leggono” l’input motivazionale e generano un feed-back verso le associative: se le unità entrano in uno stato di risonanza, allora c’è apprendimento

• 4 unità divise in due coppie

BA

C

A B

Apprendimento

Rafforzamento

Indebolimento

Prima dell’apprendimento Dopo l’apprendimento

Sensibilità

unità adiversi stimoli

Simulazione finale: apprendimento ed attenzione selettiva

Conclusioni• A differenza di altri modelli, questa rete integra gli stadi precoci di elaborazione sensoriale con i meccanismi di controllo superiori • Viene fornita una spiegazione computazionale del perché sia richiesta l’inibizione come meccanismo di controllo delle dinamiche neurali

• Una probabile spiegazione della preferenza nella percezione e nelle creazione di stimoli simmetrici e periodici può essere ricercata nella struttura delle SI ed SII • L’inibizione dei distrattori non è completa: questi forniscono ancora informazioni contestuali

• Più alto è il livello dell’input motivazionale, maggiore è l’inibizione di ciò che circonda i distrattori. Una rete animata da passione?…...

• Fornisce una metodologia per passare dal livello microscopico della circuiteria neurale a quello macroscopico del comportamento

• Tutto ciò è stato fatto con neuroni artificiali molto “stupidi”: quanto più semplici le unità, tanto migliore l’architettura a parità di prestazioni

Fine