UNIBO – CSR Corso di Intelligenza...

36
Progettazione e sviluppo di applicazioni industriali basate su Machine Learning Matteo Roffilli [email protected] 7-8 Maggio 2013 UNIBO – CSR Corso di Intelligenza Artificiale

Transcript of UNIBO – CSR Corso di Intelligenza...

Page 1: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

Progettazione e sviluppo di applicazioni industriali basate su

Machine Learning

Matteo [email protected]

7-8 Maggio 2013UNIBO – CSR

Corso di Intelligenza Artificiale

Page 2: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

2

Agenda - Day 1

● Introduzione● Applicazioni accademiche vs industriali● Intelligenza Artificiale● Machine Learning● Un progetto concreto● Tips and tricks● Riferimenti, tesi, tirocini e stage

Page 3: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

3

Introduzione

● Contestualizziamo …● Progettazione?● Sviluppo?● Applicazioni?● Industriali?● Machine Learning?

Le immagini recuperate da Internet ai fini didattici, eventualmente coperte da Copyright, sono proprietà dei legittimi titolari.

Page 4: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

4

Università vs Industria

Tempo infinito

Risorse limitate

Scoprire e conoscere

Nessun vincolo legale

1 user

Obiettivo: pubblicare

Rischio $$ zero

Tempo pianificato

Risorse ampie

Produrre

Molti vincoli legali

1'000'000 users

Obiettivo: vendere

Rischio $$ alto

Page 5: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

5

Applicazione industriale

Page 6: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

6

Applicazione industriale … continua

Page 7: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

7

Applicazione industriale … continua

Page 8: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

8

Artificial Intelligence vs Machine Learning

AI ML

"Can machines think?"

"Can machines do what we

(as thinking entities) can do?"

Page 9: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

9

Machine Learning: molti obiettivi

La miglior riproduzione artificiale delle funzioni

di una foglia

[wiktionary] artificiale: prodotto con mezzi tecnologici a imitazione del naturale

La miglior riproduzione artificiale delle funzioni

di un albero

Page 10: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

10

Machine Learning: molti approcci

Computational learning theory

Applicazioni ML

embodiment

Page 11: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

11

Machine Learning industriale

Ricerca universitariaFrameworkindustriale

Page 12: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

12

Un progetto concreto

...dalla teoria alla pratica....

Sviluppiamo un progetto industriale

(non troppo) immaginario

Page 13: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

13

La Machine

Page 14: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

14

Machine: definizione obiettivo

Produrre una Machine che si accenda (start) in modo autonomo/automatico se caricata con materiale lavabile

Produrre una Machine che NON si accenda (stop) in modo autonomo/automatico se caricata con materiale NON lavabile

Page 15: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

15

Machine: approccio “classico”

Page 16: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

16

Machine: approccio “learning”

Page 17: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

17

“learning” cosa?

Page 18: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

18

“learning” cosa?

Il “learning” produce un insieme di parametriche configurano un modello generico

per una specifica applicazione

Page 19: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

19

“learning” come?

Il “learning” analizza come lo stesso nostro obiettivo è stato perseguito da altri e cerca diriprodurne/replicarne/imitarne

il funzionamento

Gli altri sono entità in grado di perseguirein modo corretto il nostro obiettivo

Ovvero....

Page 20: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

20

Altri: Machine che perseguono l'obiettivo

start start start stop

stop start stop

...

http://www.wired.com/wiredscience/2012/06/google-x-neural-network/

Page 21: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

21

La Machine... all'opera

Page 22: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

22

Machine … with e w/o learn(ing)

start

Machine programmata con learning Machine programmata da esperti

Machine w/out learning

esegue

stand-byesegue

Page 23: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

23

ML: quali vantaggi?

La creazione dell'algoritmo non è guidata (driven) dagli esperti/programmatori ma dai dati

(data driven) processati da risorse HPC.

Si sostituisce energia chimica (cervello) in energia elettrica (CPU).

Page 24: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

24

ML: quali svantaggi?

Il dataset (data driven) di supporto deve essere molto molto più grande (large scale)

da cui derivamo moltequestioni computazionali da gestire

Page 25: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

25

Tips and tricks

Molto rumoreper nulla

?

Page 26: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

26

Tips and tricks

Machines can never take us by surprise

Lady Lovelace's Objection

cfr Turing, Alan (October 1950), "Computing Machinery and Intelligence",Mind LIX (236): 433–460

Page 27: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

27

Machine Learn(ing) : generalizzazione

stop

Page 28: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

28

Machine Learn(ing) : generalizzazione

stop

Page 29: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

29

Machine Learn(ing) : “tutti” possono sbagliare

start

Page 30: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

30

Alcune questioni in sospeso

Quale modello generico usare: SVM, RVM, Deep Learning, ANN, etc

Come rappresentare l'input degli altri (feature): sensori, immagini, etc

Come formalizzare l'obiettivo: classificazione, regressione, novelty detection, clustering

Come rappresentare l'output degli altri: supervisionato, semi-supervisionato, non

supervisionato, trasduttivo, con universo, etc

Page 31: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

31

Analizziamo insieme un progetto step-by-step

Raggruppatevi in gruppi di 3-5 studenti

Ideate una possibile applicazione industriale che vorreste vedere sul mercato il prossimo anno

Inviate via email l'idea (titolo e descrizione)e i componenti del gruppo

(nome,cognome,matricola,email) a [email protected]

Domani sceglieremo una proposta e la analizzaremo insieme mostrando gli strumenti software di

prototipazione utilizzabili(OpenCV, Octave, MLDemos, libsvm, etc)

Page 32: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

32

Tesi, tirocini e stage in ML

Sono disponibili:

Tesi, Tirocini con creditoStage post laurea retribuiti

anche in collaborazione con la società:

Bioretics srlcon sedi in Cesena e Cesenatico

Page 33: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

33

Agenda - Day 2

● Scelta dell'idea● Proof-of-concept● Prototipo accademico● Prototipo industriale● Cenni sulla commercializzazione● Riferimenti, tesi, tirocini e stage

Page 34: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

34

The Big picture

SVM

RVM

ANN

Deep Net

cluster HPC

CPU

GPU

dati

Page 35: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

35

Tool & Link interessanti

● OpenCV: http://opencv.org● GNU Octave: www.gnu.org/software/octave● MLDemos: http://mldemos.epfl.ch● LibSVM: www.csie.ntu.edu.tw/~cjlin/libsvm● UniverSVM: http://mloss.org/software/view/19● Torch: http://www.torch.ch● http://videolectures.net/Top/Computer_Science/Machin

e_Learning/● http://deeplearning.net/

Page 36: UNIBO – CSR Corso di Intelligenza Artificialeroffilli/pub/CSR_Applicazioni_industriali_ML_web.pdf · roffilli@gmail.com 7-8 Maggio 2013 ... Università vs Industria Tempo infinito

36

Tesi, tirocini e stage in ML

Sono disponibili:

Tesi, Tirocini con creditoStage post laurea retribuiti

anche in collaborazione con la società:

Bioretics srlcon sedi in Cesena e Cesenatico