Ruolodell’IntelligenzaAr2ficialeinSanità

Ing.M.GrigioniCentroNazionaleTecnologieInnova2veperlaSalutePubblica–ISSRoma

SSNeruolodell’ISS Cos-tuzione,Ar-colo32.ü  La Repubblica tutela la salute come fondamentale diriDo dell'individuo e interesse

dellacolleFvità,egaran2scecuregratuiteagliindigen2.ü  Nessuno può essere obbligato a un determinato traDamento sanitario se non per

disposizionedilegge.ü  Laleggeinnessuncasopuòviolareilimi2impos2dalrispeDodellapersonaumana.

Legge23dic.1978n.833:Is-tuzionedelServizioSanitarioNazionale(SSN)Art.1legge833“laRepubblicatutelalasalutecomefondamentalediriDodell’individuoeinteressedellacolleFvitàmedianteilSSN”.KeyWords:UNIVERSALISMOeEQUITÀOBIETTIVIDELSSNUniformitàdelle condizioni di salute su tuDo il territorionazionale, garantendoa tuF ilivelliuniformidiassistenza.

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Ondadelletecnologieemergen2

L’implementazionedellenuovetecnologievaoltrelepare-dell’ospedale

UnaNuovaIden-tàDigitaleanchesanitaria!!!Privacy

eHealth+Wellness+SocialNetwork+…..

DM+Farmaci BigData

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

IA:sitraUadialgoritmi•  LeDefinizionidialgoritmosonomolteplici,matuDetendonoalmedesimosignificatoopera2vo:•  "unasequenzaordinataefinitadipassi(operazionioistruzioni)elementaricheconduceaunben

determinatorisultatoinuntempofinito".•  LadefinizionericordalamacchinadiAlanTuring!!!•  Piùsemplicemente“metodoperrisolvereunproblema”(R.Sedgewick)

•  Ilterminealgoritmoderivadallatrascrizionela2nadelnomedelmatema2copersianoal-KhwarizmivissutonelIXsecolod.C.,Algorismusindicavainorigineilprocessopersvolgerecalcoliconinumeriindo-arabici(Somma).

•  IAèspessosinonimodi«Decisione»(USA:DecisionSupportSystem);Sarebbepiùprecisodirechemediantel’IAsipossonoClassificareleinformazioniposteiningresso

•  Dalpuntodivistadellaprogrammazionel’IAsidifferenziadaiprogrammi«tradizionali»:•  •Ilcomportamentodell’esecuzionedellerighedicodicedipendedaida2iningresso(DATASET)•  •L’informazioneestraDadall’elaborazionedeida2vieneacquisita,memorizzataerielaborata:ilcodiceè

ingradodi«imparare»daida2edallalorodinamica,possiamoanchedirechelareteneuralesiformasartorialmenteconida2iningresso

•  Mol2nehannopaura,lapubblicitàesageraleopportunità•  Unalgoritmopotràsos2tuirelarelazioneumanaMedico-Paziente?ParliamodiSUPPORTO!!!!!•  StephenHawking:«LenostreIAdevonofarequelchevogliamochefacciano».Almenoperl’aDualestato

dell’arte.•  L’AIèancoragiovane!!!!Vediamoneilimi2

5Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Generalizzabilitàdiunarete•  Unavoltachelareteèaddestrata(trained)questapuòessereu2lizzataovunque?Soloperquelclusterdi

pazien2?Ancheperaltrepatologie?•  Almomentosifannostudiu2lizzandovarietecniche,mailrisultatodesiderabilenonèdietrol’angolo,cioè

allenarelareteinunambiente(unapatologia)echiederglididarerispostecoeren6inunaltroambientemoltovicino,nonèancoraassicurato.

•  QualeConfidenzadipoteru2lizzareunarete(SWacquistato)suunsetdida2aDuali,differen2perlorocaraDeris2chedaquellidiaddestramento?

•  FareRete:Nelcasodipiùsi2nazionali?Thekeyresultfromtheseanalysesisthatgeneralizabilitycannotadequatelybeassessedusingdataorigina6ngfromasinglesitealone,andthatamul6-centerdatasetisneededtoquan6fythebroadergeneralizabilityofamachinelearningclassifier."

•  Diri[dalGDPR•  Inoltreilprocessodilearningedidecisionenonsononévisibili(BlackBox),néesplorabili,néspiegabili,in

sostanzaunaretepuònonessereTrasparente.•  QuestacaraUeris-caconfliggeconilGDPRcheaffermache«lepersonehannoildiriUodinonessere

soggeUeadecisionibasatesuesclusivamentesuprocessiautoma-zza-»diriUoaduna«spiegazioneesplicita»

6Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

E’unDisposi2voMedicosecondolDireFvaComunitaria93/42esuemodifiche(Soxware)

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

https://www.mathworks.com/videos/introduction-to-deep-learning-what-are-convolutional-neural-networks--1489512765771.html

ReLU: rectified linear unit LaretesicostruisceconilsuoDataset

DL:struDuradiuna2picaimplementazione(Convolu2onalNeuralNetwork)

Radiomica,Patomica,Genomicaetc…

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

AssicurazioneeControllodiQualitàdellefilierediproduzioneeimmagazzinamentodeldato(adesinDiagnos2ca):

•  Processi•  Seman2ca

•  Qualitàdeldato

DefinizionedelleBioBanche

(FSE,EHR,BigData)

Radiomica/Patomica:Flowchart

•  VFigure1:Flowchartshowstheprocessofradiomicsandtheuseofradiomicsindecisionsupport.Pa2entwork-uprequiresinforma2onfromdisparatesourcesto

•  becombinedintoacoherentmodeltodescribewherethelesionis,whatitis,andwhatitisdoing.Radiomicsbeginswithacquisi2onofhigh-qualityimages.From

•  theseimages,aregionofinterest(ROI)thatcontainseitherthewholetumororsubregions(ie,habitats)withinthetumorcanbeiden6fied.Thesearesegmentedwith

•  operatoreditsandareeventuallyrenderedinthreedimensions(3D).Quan6ta6vefeaturesareextractedfromtheserenderedvolumestogenerateareport,whichis

•  placedinadatabasealongwithotherdata,suchasclinicalandgenomicdata.Thesedataarethenminedtodevelopdiagnos2c,predic2ve,orprognos2cmodelsforoutcomesofinterest

Annotazione1

Annotazione2

CosaleggiamotuFigiorni

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Bruxellescomunicalelineeguidanonvincolan-

Intelligenzaar-ficiale-(15Apr2019)

•  LaComunicazionedallaCommissionealParlamentoEuropeoealconsiglio“BuildingTrustinHuman-CentricAr2ficialIntelligence”,pubblicatal’8aprile,hal’obieFvo«dilanciareunafasepilotachecoinvolgaglistakeholdersuvastascala,alfineditestarel’implementazionepra2cadellelineeguidaperlosviluppoel’usodell’AI».

•  MaximisethebenefitsofAIsystemswhileatthesame6mepreven6ngandminimisingtheirrisks

•  TheEthicsGuidelinesforTrustworthyAr6ficialIntelligence(AI)isadocumentpreparedbytheAIHLEG.

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

IAaffidabile

•  Lelineeguidapostulanoche,alfinedioDenereuna“IAaffidabile”,sononecessarietrecomponen2:

•  (1)deverispeDarelalegge,•  (2)devesoddisfareiprincipie2cie•  (3)dovrebbeessererobusta.•  Sullabasediquestetrecomponen2,lelineeguida

«individuanoseUerequisi-chiave»cheleapplicazionidell’AIdevonorispeDare.Lelineeguidaincludonoancheunsetdivalutazioneperverificareseques2requisi2sonosoddisfaF.

•  Lelineeguidadell’Hleg,nonsonovincolan6(Noobbligolegale).

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

PropostediLineeGuidainSanità

•  Moltepropostediraccomandazioni(perlopiùdi2poE2co)sonostatefaDealivellointernazionale.

•  LamaggiorpartesonoraccomandazionichetentanodisoDolinearequantodiposi2voriportalaricercaeilGDPR(GeneralDataProtec2onRegula2on):

SpiegabilitàdiunareteTrasparenza

EquitàRobustezza

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

AcademyofRoyalMedicalColleges(UK)

«Ar-ficialintelligenceinHealthCare»-Raccomandazioni(luglio2018)•  Lasicurezzadelpazientedeverimanerediprimariaimportanzael'intelligenza

ar2ficialedeveesseresviluppatainmodoregolato,incollaborazionetraclinicieinforma2ci

•  Ripensaremol2aspeFdellaformazioneedellacarrieradeimedici•  Ida-dovrebberoessereresipiùfacilmenteaccessibiliatuFiseDoripriva2e

pubblici.Dovrebberoesserecer-fica-peraccuratezzaequalità.•  Unaregolamentazionecongiunta(Clinicieinforma2ci)èlachiavepergaran2re

chel'IAsiaintrodoDainmodosicuro(accountability,responsabilitàeimplicazionigiuridichepiùampie)

•  Lavalutazionecri-caesternaelatrasparenzadelleaziendetecnologicheènecessariaperimedici,perpotergaran2relasicurezzanell'usodeglistrumen2forni2aimedicistessi(licenzeesorveglianzapost-vendita)

•  L'intelligenzaar2ficialedovrebbeessereusataperridurre,nonaumentare,ledisuguaglianzedisalute,dalpuntodivistageografico,economicoesociale(CondivisodalMinistrodellaSaluteG.Grillo)

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Whattheradiologistshouldknowaboutar-ficialintelligence(2019)hDps://doi.org/10.1186/s13244-019-0738-2L'intelligenzaar2ficiale(IA)hagranderilevanzaperlaradiologia.UnarecentericercasuPubMeddeltermine"IntelligenzaAr2ficiale"hares2tuito82.066pubblicazioni;combinandolaricercaconlaparola"Radiologia",sonosta2trova25.405ar-coli.Lamaggiorpartediques2ar2colièstatapubblicatadal2005.L'EuropeanSocietyofRadiology(ESR)èconsapevoledell'impaDochel'IAstaavendonelcampodellaRadiologia,siaperleprospeFvetecnico-scien2fichecheperquellee2co-professionaliedeconomiche.Rifiutandol’ipotesidell'imminentees2nzionedellaradiologia.AldifuoridelletradizionaliaFvitàdiradiologiadell'interpretazionedelleimmagini,sis2machel'IAabbiaunimpaDosullaradiomica,sullebiobanchediimaging,suisistemidisupportoalledecisionicliniche,sulrepor2ngstruDuratoesulflussodilavoro:•  inRadiomica,l’IApuòfavorirel'analisidellecaraDeris2cheeaiutarenellacorrelazioneconaltrida2omici.•  lebiobanchediimagingpotrebberodiventareun'infrastruUuranecessariaperorganizzareecondividereida2diimmaginidaiquali

possonoessereforma2imodellidiIA.•  l'AIpuòessereu2lizzatacomestrumentodioFmizzazioneperassistereiltecnologoeilradiologonellasceltadiprotocollipersonalizza-

sulsingolopaziente,monitorandoiparametrididosealpaziente,fornendounas2madeirischidaradiazioni.•  l’IApuòancheaiutareilflussodilavorodirepor2ngeilcollegamentotraparole,immaginieda2quan2ta2vi.•  l'IAaccoppiataconilClinicalDecisionSupportSystem(CDSS)puòmigliorareilprocessodecisionaleequindioFmizzareilflussodi

lavoroclinicoeradiologico.IlfaDorechiavedelleprestazioniIAèl’addestramentoconda2digrandedimensioneealtaqualitàperevitareilsovradaDamentoel'underfiFng.Letreleggidellarobo2capotrebberoessereapplicateallaradiologiaincuiil"robot"èil"soxwareIAdiimagingmedicale".Sel'intelligenzaar2ficialeèu2lizzatanellapra2caclinica,laprincipaleques2onemedicolegalechesiponeè"chièresponsabiledelladiagnosi".

Iradiologisarannosos-tui-dall'IA?!Larispostasempliceè:NO.

whitepaper-EuropeanSocietyofRadiology

15Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

La complessità delle architetture di DL, costituite da decine o anche centinaia di strati di “neuroni” (unità elementari di elaborazione), fa sì che le stesse si comportano come “scatole nere” BLACK BOX: in pratica è impossibile individuare il meccanismo esatto per cui il sistema fornisce certe risposte. Explainable AI (XAI): è importante poter individuare il percorso fatto da un sistema IA per arrivare a certe conclusioni ed essere sicuri che i “ragionamenti” eseguiti siano condivisibili. Questo è importante soprattutto nel campo del decision making clinico, in cui le conseguenze di un’errata valutazione dei dati sono potenzialmente letali. La IA “spiegabile” rappresenta quindi un paradigma necessario per l’introduzione di IA in molti ambiti critici, fra cui quello medico.

Criticità: explainability

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Petsiuk et al, RISE: Randomized Input Sampling for Explanation of Black-box Models

Cri2cità:explainabilityesaliencymaps

Sonostatepropostesoluzionialproblemadellaopacitàdellere2DL.Per esempio, si possono generare “mappe di importanza” (saliency maps), che indicanoquanto ogni pixel determina la predizione del modello, senza alcuna conoscenzadell’architeDuradellarete.Lemappediimportanzasonocostruitesinte2zzandodelleopportunemaschere,chevengonopoiapplicateaida2diingressodellarete,pervalutareinfinel’outputcorrispondente.

Pixelsucuisibasaladecisione

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

AdversarialExamples(AE)–Cri2cità

Imperce[bileperturbazioneperl’occhioumano,stravolgelapredizione«AE’shavebecomeanindisputablethreattothesecurityofmodernAIsystemsbasedonDNN»arXiv:1807.01069La«piccola»perturbazionepuòproveniredaun’azioneintenzionale(minaccia)maanchedaunmalfunzionamentodellastrumentazione,potenzialmentenonrilevabileconiprotocollidicontrollodiqualitàaDualmenteapplica2.

From:XinLi,FluinLi,IEEEInterna2onalConferenceonComputerVision,2017

18Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

AE–nuoveopportunità

19

ClassificazionedilesionedellapelleFromM.Paschalietal,arXiv:1804.00504

GliAEsonou2lizza2comebenchmarkpertes6ngdellarobustezzaegeneralizzabilitàditoolML,rimpiazzandoinfuturolanecessitàdiampi(ecostosi)data-set

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

La curva blu mostra l'andamento dell'errore nel classificare i dati di training, all’aumentare della quantità di questi ultimi, mentre la curva rossa mostra l'errore nel classificare i dati di test o validazione. Una situazione in cui il secondo aumenta mentre il primo diminuisce è indice della possibile presenza di un caso di overfitting.

Criticità: overfitting

errore di training

errore di testing

Insta2s2caeininforma2ca,siparladioverfi`ng(initaliano:adaDamentoeccessivo,sovradaDamento) quando un modello sta2s2co molto complesso si adaDa ai da2osserva2 (il campione) perché ha un numero eccessivo di parametri rispeDo alnumerodiosservazioni.

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

IAedequitànelSSN•  Ladiffusionedeglistrumen2diIApotrebbe(paradossalmente)aumentare

lediscrepanzefraregioniprivilegiandoquellevirtuosecheposseggono–  Archiviinforma2ciefficien2,benstruDura2,ericchidiinformazioni–  Adeguaterisorsedielaborazione(anchetramiteservizidaterzi)

•  Equità ed universalità del supporto tecnologico in ambito diagnos2co-terapeu2coèunarichiestadelSSN

•  (Non appare acceDabile la frammentazione locale delle soluzioni di AInellefasiopera2ve;differenteilcasodellaricerca)

•  Si rendenecessariodefinire,unpianodi sviluppodi IA chepermeDa lafruizione delle conoscenze/risorse a tuF i contes2 nazionali, a par2redalleesperienzemigliori,conunaggiornamentodinamicoprogressivo.

21Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Contributodell’ISSAssicurazionediQualitàdeida-edeiprocessiinradiologia•  L'imaging biomedico con2nua ad essere un pilastro del traDamento clinico,

sopraDuDoincampooncologico.QuestoimportantesviluppoimpaUafortementesulla compliance a programmi di garanzia di qualità in termini dipersonalizzazione dei traDamen2, riduzione del numero di esposizioni (ogniimmagine può essere sfruData al massimo del suo contenuto informa2voriducendo la necessità di immagini ripetute), riduzione del numero di aFvità dirou2ne e conseguente riduzione del carico di lavoro. L’ISS produce linee diindirizzo in questo seDore da oltre 20 anni, grazie all’aFvità di Assicurazione diQualitànellescienzeradiologiche.

•  Promozionedidiba[-eworkshopcondivisiconilMinisterodellaSalute(inpar2colareperleinfrastruDureelelineeguidaperiPDTAconAI[Agenas])

•  Hubpergruppidilavoro/coordinamentoepromuoveformazioneresidenziale•  Partecipareaglisforzidellaricercanazionale

22Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Graziedell’aDenzione

Ing.M.GrigioniCentroNazionaleTecnologieInnova2veperlaSalutePubblica–ISSRoma