Robotica, etica e diritto · La robotica al servizio dell’uomo Strategic Research Agenda...
38
Robotica, etica e diritto
Transcript of Robotica, etica e diritto · La robotica al servizio dell’uomo Strategic Research Agenda...
Robotica, etica e diritto
Etica, diritto e robotica
Questioni etiche che riguardano i robot solo
accidentalmente
Es: esperimenti su animali per sistemi prostetici uomo-
macchina – Roborat – Schwartz
Etica, diritto e robotica
Questioni etiche che riguardano in maniera specifica il
coinvolgimento di un sistema robotico?
Questioni retroattive: capire di chi è la colpa nel caso di
danni provocati da un sistema robotico
Questioni proattive: è giusto o sbagliato permettere certe
applicazioni o tecnologie robotiche?
Evitare i luoghi comuni
Visioni mitiche (catastrofiste o iper-ottimiste) sulla robotica
Superare la fase “Qualsiasi tecnologia può essere usata con fini
buoni o cattivi” (luogo classico: bomba atomica).
Evitare di personificare la “tecnologia”: parlare delle persone
Problemi etici interessanti che riguardano i “fini buoni”
La robotica al servizio dell’uomo
Strategic Research Agenda “European Robotics Platform”
“così come i telefoni cellulari e i calcolatori portatili hanno cambiato la
nostra vita, i robot sono sul punto di far parte, presto o tardi, delle
nostre attività quotidiane. Saranno i nostri elettrodomestici, servi e
assistenti; saranno i nostri aiutanti e badanti”.
Questi assistenti robotici domestici “metteranno in grado persone anziane
e diversamente abili di condurre la propria vita in maniera indipendente,
svolgendo compiti legati alle attività di ogni giorno, tra cui servizi di
manipolazione e trasporto, di aiuto alla deambulazione, di
riabilitazione, nonché servizi di carattere multimediale”.
Charlie Chaplin - MySpoon
Questioni etiche in ordine sparso
Chi devo considerare responsabile per i danni causati da un sistema
robotico?
Come affrontare casi in cui un robot di servizio è impiegato per fini
malevoli (es: violazione della privacy dell‟utente)?
Dovremmo permettere lo sviluppo della robotica militare?
Che effetto può avere su un bambino l‟essere affidato a un baby-sitter
robotico anziché umano? (Sharkey 2008)
How much sexual or violent „abuse‟ of an artificial agent should we
allow before we censure the behaviour of the abuser? (Whitby 2008)
HAL9000 è un criminale? (Dennett 1996)
I robot sono agenti morali? (Floridi e Sanders 2004; Sullins 2006)
Norme e criteri per
decidere chi è da ritenersi responsabile in senso morale (chi è
da biasimare?) e oggettivo (chi deve essere sanzionato e
pagare?) per un danno perpetrato da un sistema robotico
Regolamentare la ricerca robotica e l‟applicazione di tecnologie
robotiche in contesti umani
Esito delle discussioni etiche
Selezione di priorità
Criteri per classificare le questioni etiche (adattamento da
Farah 2002)
Plausibilità tecnologica (nell‟immediato o in un
ragionevole corso futuro degli eventi) del tipo di robot e
dello scenario applicativo
Plausibilità tecnologica
Scenari futuribili: problemi di responsabilità
Retrospettiva: chi è da ritenersi responsabile per le azioni
dannose di un sistema robotico?
Robot Walker (Waseda University, Japan)HRP-2 (Advanced Industrial Science and
Technolgy Institute, Japan)
Plausibilità tecnologica
Scenari futuribili: problemi di responsabilità
Retrospettiva: chi è da ritenersi responsabile per le azioni
dannose di un sistema robotico?
Proattiva: Dovremmo permettere in contesti bellici l‟uso di
robot in grado di premere il grilletto sulla base di una
valutazione “autonoma” del bersaglio?
Boston Dynamics BIGDOGSentinella robotica (Samsung e Korea
University)
Danni fisici
Danni cognitivi?
La foca Paro
Attaccamento dei bambini a baby-sitter robotici
Applicazione della robotica alle terapie per soggetti autistici
Attaccamento: Hishiguro e la “uncanny valley”
Vari tipi di danno
Plausibilità tecnologica
Scenari futuribili: problemi di responsabilità
Retrospettiva: chi è da ritenersi responsabile per le azioni
dannose di un sistema robotico?
Proattiva: Dovremmo permettere in contesti bellici l‟uso di
robot in grado di premere il grilletto sulla base di una
valutazione “autonoma” del bersaglio?
Scenari molto problematici: attribuzione ai robot di
coscienza, libero arbitrio, responsabilità morale
Robot criminali, robot moralmente responsabili
Abusi sessuali su robot
Responsabilità proattiva
Bilancio tra prevenzione dei „mali‟ e difesa del ruolo della
robotica nella protezione e promozione dei diritti
fondamentali dell‟uomo
Lokomat (Hocoma, Svizzera)
Lokomat
Da vinci
Robotica per la chirurgia
Robotica per la riabilitazione
Robotica per la diagnosi
Robotica per il ripristino delle funzionalità motorie
Robotica e assistenza personale
La robotica medica
Intuitive Surgical 1999
Nel 2009 opera in più di 1000 ospedali USA e in 248
ospedali europei
Robotica e chirurgia: Da Vinci
Commercializzato dal 2002 (FDA)
Robotica e riabilitazione: Lokomat
Problematiche etiche: responsablità retrospettiva e
prospettiva
Questioni legislative: eventuali “vuoti” da colmare o
regolamentazioni da migliorare
Problematiche epistemiche:
Responsabilità retrospettiva e spiegazione dei
comportamenti robotici
Responsabilità prospettiva e previsione dei comportamenti
robotici
Questioni etiche, legislative, epistemiche
Possibilità di difetti di fabbrica, bugs, …
Perturbazioni ambientali inconsuete, estremamente improbabili, mai rilevate finora
Problemi di usura
◦ Park, S. Y., Ahn, J. J.-K., Jeong, W., Ham, W. S., & Rha, K. H. (2010). A unique instrumental malfunction during roboticprostatectomy. Yonsei medical journal, 51(1), 148-50.
◦ Koliakos, N., Denaeyer, G., Willemsen, P., Schatteman, P., & Mottrie, A. (2008). Failure of a robotic arm during da Vinci prostatectomy: a case report. Journal of Robotic Surgery, 2(2), 95-96.
◦ Il caso di Roland Mracek (2005): robot Da Vinci in “stallo” durante un intervento chirurgico
Comportamenti “anomali”
Da Vinci
◦ Relazione relativamente accurata tra i movimenti del robot e i comandi del chirurgo umano: scarsa interazione con il paziente
(Problemi di addestramento dei chirurghi: i casi del Wentworth-Douglass)
Lokomat
◦ Il comportamento del robot è pesantemente influenzato dal movimento dell‟utente: interazione collaborativa o competitiva
◦ Valutazione dell‟efficacia del robot: quale impatto sui meccanismi cerebrali?
Comportamenti “normali”
La robotica riabilitativa promuove il benessere del
paziente o del terapista?
Le terapie riabilitative automatizzate permettono di
ottenere risultati migliori rispetto a quelli ottenuti
sfruttando il “buon senso” dei terapisti umani?
Mancanza di teorie affidabili sull‟adattamento plastico
del sistema nervoso centrale, sui danni fisiologici derivati
dagli eventi traumatici subiti dai soggetti, e sul tipo di
esercizi fisici che possono stimolare il recupero delle
facoltà motorie
Automatizzare le terapie riabilitative?
There is a scientific roadblock: neither the optimal
movement tasks nor the optimal mechanical inputs are
known. The scientific basis for neuro-rehabilitation
remains ill-defined,with competing schools of thought. […]
Therefore, the first problem that a robotics engineer will
encounter when setting out to build a robotic therapy device
is that there is still substantial uncertainty as to what
exactly the device should do.
Automatizzare le terapie riabilitative?
Decreto Legislativo 24 febbraio 1997, n.46 “Attuazione
della direttiva 93/42/CEE concernente i dispositivi medici”
“I dispositivi devono essere progettati e fabbricati in modo
che la loro utilizzazione, se avviene alle condizioni e per gli usi
previsti, non comprometta lo stato clinico o la
sicurezza dei pazienti, ne' la sicurezza e la salute degli
utilizzatori ed eventualmente di terzi, fermo restando che gli
eventuali rischi associati all'uso previsto debbono essere
di livello accettabile in rapporto ai benefici apportati al
paziente e compatibili con un elevato livello di protezione
della salute e della sicurezza.”
Certificazione dei dispositivi medici
I dispositivi devono essere progettati e fabbricati in modo da
eliminare o minimizzare nella misura del possibile:
◦ i rischi di lesioni causate dalle loro caratteristiche fisiche […]
◦ i rischi connessi con condizioni ambientali ragionevolmente
prevedibili, in particolare i rischi connessi con i campi magnetici e
con le influenze elettriche esterne, con le scariche elettrostatiche,
con la pressione o la temperatura, o con le variazioni di pressione e
di accelerazione;
◦ i rischi d'interferenza reciproca connessi con la presenza
simultanea di un altro dispositivo […]
◦ i rischi che possono derivare [..] dall'invecchiamento dei
materiali utilizzati o dal deterioramento della precisione di un
determinato meccanismo di misura o di controllo.
Malfunzionamenti dovuti a usura e
condizioni ambientali
La conferma del rispetto dei requisiti relativi alle
caratteristiche e alle prestazioni specificate ai punti 1 e 3
dell'allegato I in condizioni normali di utilizzazione del
dispositivo, nonche' la valutazione degli effetti collaterali e
dell'accettabilita' del rapporto rischi/benefici di cui al
punto 6 dell'allegato I devono basarsi, in linea di principio,
su dati clinici.
La certificazione CE e i dati clinici
“there is insufficient evidence to draw conclusions
about the effectiveness of robot-assisted gait training in
persons with SCI because of small samples sizes,
methodological flaws and heterogeneous training
procedures”
Swinnen, E., Duerinck, S., Baeyens, J., Meeusen, R., and Kerckhofs, E. (2010). "Effectiveness of robot-assisted
gait training in persons with spinal cord injury: a systematic review.." Journal of rehabilitation medicine : official
journal of the UEMS European Board of Physical and Rehabilitation Medicine, 42(6), 520-6.
Mancanza di dati clinici
Come affrontare casi in cui un robot di servizio è
impiegato per fini malevoli (es: violazione della
privacy dell‟utente)?
Il robot è strumento per attuare un‟intenzione malevola
di un terzo
Dovremmo fornire a un robot licenza di uccidere?
Di chi è la colpa se un robot miliare, guidato da un
sistema di intelligenza artificiale, sbaglia a distinguere un
nemico da un semplice passante?
Robot come mero strumento di un dolo
Selezione di priorità
Criteri per classificare le questioni etiche (adattamento da
Farah 2002)
Plausibilità tecnologica (nell‟immediato o in un
ragionevole corso futuro degli eventi) del tipo di robot e
dello scenario applicativo
Novità rispetto a questioni per cui esistono cornici legali
in altri dominii (es: bioetica)
Esempio: robotica medica
ROBODOC
Sistema robotico per interventi
all‟anca e al ginocchio
Usato ampiamente in Germania e
in altri paesi europei,
ma non approvato fino al 2008
dalla Food and Drug
Administration perché ritenuto
(su basi sperimentali)
potenzialmente dannoso sotto
certi aspetti
ROBODOC
“A group of German patients has filed a lawsuit
against financially beleaguered Integrated Surgical Systems
Inc., alleging that the Davis company' Robodoc
surgical robot is "defective and dangerous,"
according to a company filing with the Securities and
Exchange Commission.” (Sacramento Business Journal, 31
dicembre 2004)
“In January 2007 the first patient won his law suit
against A.C.E. arthroclinic in Essen (Germany) and
received a compensation of 30.000 Euros. The lack of
information given to the patient was the reason to
concede the compensation.” (Weber 2008)
Novità
Problemi di responsabilità retrospettiva e prospettiva nella robotica di servizio: analogie tra
Robot e animale domestico
when a robot is involved in an accident, if it is not defective, then courts should treat the robot as if it were a domesticated animal when assigning liability to the victim and to the owner of the robot involved in an accident (Schaerer et al. RO-MAN 2009)
Robot e generico dispositivo tecnologico
we can assume that robots are completely unremarkable technological artifacts, no different than toasters or cars, and there are still legal and moral issues connected with their production and use. … I believe that many of the concerns about the possible harms that robots might cause would ultimately fall under this mundane interpretation. (Asaro ICRA 2007)
Abbiamo già la soluzione?
In che misura possiamo applicare cornici legali esistenti ai
futuribili scenari di interazione uomo-robot?
Valutare le analogie positive e negative tra
Robot e animali
Robot e dispositivi tecnologici
Robot as animals (Schaerer et al. 2009)
Se il robot è difettoso, è il costruttore che deve
compensare i danni causati dal robot
Se il robot non è difettoso:
“We note that semi-autonomous machines are more
analogous to animals, which act on their own, than to everyday
products, which lack meaningful autonomy. We also contend
that these machines are more analogous to domesticated
animals, subject to negligence, than to wild animals, subject
to strict liability.”
Robot di servizio e animali: analogie
positive e negative
Analogie positive
l‟utente è un supervisore di un sistema che sfugge, in un certo
senso, al suo controllo
Analogie negative
L‟utente non è sempre qualificabile come supervisore:
cooperazione nella robotica riabilitativa
Il rapporto non si limita a supervisore-robot: responsabilità
distribuita alle persone che hanno costruito e
commercializzato il robot
La reazione non può essere solo di segregazione (“mettere il
collare” al robot): i robot di servizio sono progettati proprio
per stare in mezzo alle persone
Robot di servizio e dispositivi tecnologici
(Asaro 2007)
“Even if we make no assumptions about the intentions,
consciousness, or moral agency of robots, we can still
apply the basics of civil law to robots as they now
exist. That is, we can assume that robots are completely
unremarkable technological artifacts, no different than
toasters or cars, and there are still legal and moral issues
connected with their production and use.”
Robot di servizio e dispositivi
tecnologici: analogie positive e negative
Analogie positive
Un robot è un dispositivo tecnologico, assemblato a partire da
altri dispositivi tecnologici
Analogie negative
Autonomia?
Asaro: i robot sono agenti “quasi-morali” (più o meno come i
bambini)
Floridi e Sanders: i robot sono, sotto certi punti di vista, agenti
autonomi e agenti morali (anche se non moralmente responsabili
di alcunché).
In che senso un robot è autonomo?
Autonomia in senso epistemico: limitazioni umane
nella capacità di prevedere e spiegare i
comportamenti di un robot
1. Cosa farà il robot al tempo t?
Difficoltà di prevedere cosa succederà al tempo t
… più in generale: difficoltà di prevedere quali stimoli saranno
presenti nei vari scenari applicativi (es: robot in casa: ma come
è fatta la casa?
2. Cosa farà il robot se si presenterà lo stimolo s?
Difficoltà predittive nel caso di macchine che apprendono
(Santoro et al 2008) e nel caso di macchine che non
apprendono
Cosa farà il robot in risposta allo
stimolo s?
Sul comportamento di un robot influiscono condizioni
ambientali al contorno
note, ma non avevo buone ragioni per ritenerle in atto
nell‟ambiente corrente
non note allo stato attuale della conoscenza scientifica
In alcuni casi nessuno avrebbe potuto ragionevolmente
prevedere l‟azione del robot (Matthias 2004: un
“responsibility gap”?)
Previsione e responsabilità
Il comportamento di un sistema robotico dipende, tra
l‟altro, da una miriade di fattori ambientali e
interni di cui né l‟utente, né i creatori del robot, possono
essere a conoscenza
In alcuni casi può essere ingiusto pretendere che il
costruttore o l‟utente avrebbe dovuto prevedere quel
danno
Ma l‟analogia non è negativa: qualsiasi dispositivo
tecnologico, nello stesso senso, sfugge al nostro
controllo
Robot di servizio e dispositivi
tecnologici: analogie positive e negative
Analogie positive
Un robot è un dispositivo tecnologico, assemblato a partire da
altri dispositivi tecnologici
Analogie negative
Autonomia?
Abbiamo già cornici legali adeguate per affrontare
problemi di responsabilità di questo tipo?
Cosa rende i robot veramente unici in una prospettiva
legale e rispetto a problemi di responsabilità?
