L’etica nella società

dell’intelligenza artificiale

E d m o n d o G r a s s i

Etica

La disciplina della filosofia che

indaga, considera e valuta il

costume, inteso come condotta e

carattere, ossia il comportamento

umano, quale insieme di atti che

costituiscono la morale d’agire

della persona.

Artificial Intelligence

Termine coniato da John

McCarthy nel 1956. Si intende

l’abilità di una macchina di

riuscire a svolgere funzioni e

ragionamenti tipici della mente

umana, che possano risolvere

problemi che associamo

all’intelligenza umana.

Tecnoetica

Disciplina che racchiude i saperi che permettono di esaminare,

comprendere e implementare nella nostra concezione etica, la

dimensione profondamente tecnologica e digitale dell’A.I.,

ritenuto quale agente coesistente con le scelte compiute

dell’essere umano.

ETICA

Analizzare la portata trasformativa

dello sviluppo della A.I. in relazione

all’etica e alla morale delle culture

contemporanee.

SINTESI VALORIALE

Interrogarsi, grazie alla

riflessione filosofica e

sociologica, sul rapporto tra

valori e tecnologia.

ECONOMIA

Sostenere la diffusione

dell’intelligenza artificiale all’intera

umanità, slegandola da un ritorno

economico, contemplando nuove

organizzazioni.

ACCADEMIA

Individuare un canale di

comunicazione tra ricerca scientifica

e ricerca umanistica e di una

evoluzione del sistema educativo.

L’importanza di questo dibattito

POLITICA

Comprendere quali mutamenti sta

apportando ai paradigmi culturali

della nostra società, alla democrazia e

ai diritti umani.

The World

Online

Paradigmi di mutamento sociale:

• Essendo l’essere umano tecnologico per natura, l’A.I. non è solo un

artificio delle capacità umane, ma si afferma come nuovo rapporto tra

persona e macchina e della sua dimensione come zoon politikon.

• L’A.I. non è una componente neutrale nell’etica dell’essere umano, ma

rappresenta una dimensione innovativa che porta con sé una differente

prospettiva di valori, visioni, interazioni e saperi che dobbiamo

prendere in considerazione.

• L’A.I. è un reale sistema politico, inteso come struttura per mezzo della

quale osservare/considerare un progetto ideologico che veicola una

nuova etica e morale dell’essere umano e del suo rapporto con

l’alterità: sia essa umana o artificiale.

Caratteristiche dell’A.I.

• L’A.I. è una parte integrante e inevitabile della nostra vita;

• L’A.I. non è limitata dai confini di spazio e tempo;

• L’A.I. rappresenta la rottura dell’antropocentrismo;

• L’A.I. è generatrice di un nuovo asse valoriale, intimo ed emotivo.

Data for Humanity

Principles:

1. Do not harm

2. Use data to help create peaceful coexistence

3. Use data to help vulnerable people and people in need

4. Use data to preserve and improve natural environment

5. Use data to help create a fair world without discrimination

Professor Roberto V. Zicari, Goethe University Frankfurt, Germany

Professor Andrej Zwitter, University of Groningen, the Netherlands

Quali scenari potrebbero dar vita ad una A.I. pericolosa?

“Everything we love about civilization is a product of intelligence, so amplifying our human intelligence with artificial intelligence has the potential of helping civilization flourish like never before – as long as we manage to keep the technology beneficial.“

Max Tegmark, President of the Future of Life Institute

Open Letter to A.I. (2016)

• L’AI viene programmata per compiere azioni eticamente

negative e devastanti;

• L’AI viene programmata per compiere azioni eticamente

positive, ma elabora metodi distruttive per attuarle;

Asilomar A.I. principles (gennaio 2017)

23 principi guida per lo sviluppo etico, sicuro e collaborativo dell’A.I.

6) Safety: AI systems should be safe and secure throughout their operational lifetime, and verifiably so where applicable and feasible.

9) Responsibility: Designers and builders of advanced AI systems are stakeholders in the moral implications of their use, misuse, and actions, with a responsibility and opportunity to shape those implications.

10) Value Alignment: Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation.

11) Human Values: AI systems should be designed and operated so as to be compatible with ideals of human dignity, rights, freedoms, and cultural diversity.

16) Human Control: Humans should choose how and whether to delegate decisions to AI systems, to accomplish human-chosen objectives.

Commission on Civil Law Rules on Robotics (2016)

Ipotesi di strumento legislativo per la regolamentazione etica e giuridica della A.I.

- Processo di registrazione dei robot;

- Struttura morale e guida per i costruttori;

- Creazione di un’agenzia europea sulla robotica;

- Individuazione dei processi di sviluppo della A.I.

Robots and robotic devices. Guide to the ethical design and application of robots and robotic systems (2016)

- L’A.I. non deve essere realizzata per ledere la persona;

- Identificare il responsabile del comportamento di una A.I.;

- Ad ogni A.I. un suo programmatore;

- Principi di responsabilità, uguaglianza, convivenza e apprendimento etico.

Settori di indagine e ipotesi di ricerca

- L’uso dell’A.I. potrebbe condurre a valutazioni più oggettive e imparziali di quelle umane, riducendo le discriminazioni;

- È necessario sviluppare settori di ricerca più solidi e interdisciplinari, potenziandone gli effetti positivi e riducendo i rischi di derive non controllabili;

- Per mezzo dell’osservazione sul sociale, possiamo rafforzare la progettazione dell’A.I. e della sua interazione, garantendo affidabilità e trasparenza;

- Sviluppando una filosofia del digitale, si potrà comprendere maggiormente l’empirismo della macchina, stabilendo nuovi paradigmi etici e morali;

- Se l’impatto della A.I. sulla persona è sempre più difficile da scindere dai suoi gesti naturali, è necessario individuare approcci rigorosi di sviluppo e progettazione della stessa;

- Necessitiamo di strumenti che permettano di individuare limpidamente come e quando una A.I. influenza sostanzialmente il nostro processo di sviluppo identitario e materialmente le nostre azioni.

Collaborazione Persona-Macchina

«Stiamo costruendo strumenti che collaboreranno con noi per risolvere i grandi problemi dell’umanità»

Oren Etzioni, Allen Institute for A.I.

• Creare una società che sia A.I.-compatibile;

• Generare A.I.-umano compatibili;

• Rendere le capacità predittive delle A.I. utili alla diffusione dei concetti di autonomia, trasparenza e collaborazione per la risoluzione di problemi comuni;

• Comprendere come una A.I. può aiutarci a scoprire maggiormente la nostra natura e a renderci più umani.

Questioni aperte

- Quale A.I. vogliamo avere al nostro fianco per affrontare le attuali e future sfide sociali;

- Quale politica umana e quali prospettive vogliamo adottare per una nuova etica persona-A.I.;

- Quale «-centrismo» è in atto, in seguito allo scardinamento dell’antropocentrismo.

2017