M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1. INTRODUZIONE

F orse, in realtà, stiamo assistendo a unagraduale fusione della natura generaledelle attività e delle funzioni umane con le at-tività e le funzioni di ciò che noi umani abbia-mo costruito e di cui ci siamo circondati.

Philip Dick, Mutazioni.

Mentre l’evoluzione biologica ha dotato gliorganismi viventi prima di un corpo e poi diun cervello, avente funzioni di controllo cen-trale e dotato in certi casi di proprietà cogni-tive superiori, non strettamente necessariealla regolazione del corpo, l’intelligenza arti-ficiale funzionalistica ha invece cercato di co-struire una mente senza corpo, cioè un’intel-ligenza che imitasse le funzioni simboliche eastratte del cervello biologico evitando ogniinterazione con un ambiente consideratofonte di disturbo. Tuttavia, le difficoltà diestendere questa forma d'intelligenza artifi-ciale al di fuori dei domini simbolico-formali,hanno fatto ritenere che soltanto accoppian-do la mente artificiale all’ambiente, attraver-

so un corpo artificiale dotato di sensi e di or-gani attuatori, si potesse ottenere un’intelli-genza flessibile e ad ampio spettro come èquella biologica.Il recupero della dimensione corporea e sen-soriale ha portato ai robot e ha aperto unaserie di interrogativi che vanno dagli aspettitecnici della loro costruzione fino a sottiliquestioni di natura etica. Infatti, il robot è unartefatto capace di apprendere e dotato diuna certa autonomia di decisione e compor-tamento e queste caratteristiche, in una pro-spettiva di stretta convivenza uomo-robot,non possono non sollevare certe domandecome: fino a che punto siamo disposti a con-vivere coi robot, ad affidarci a loro nella vitaquotidiana, nell’accudimento e nelle cure?Se i robot dovessero un giorno diventare in-telligenti e sensibili (quasi) quanto gli umani,potremmo continuare a considerarli macchi-ne, come le lavatrici o le automobili? O do-vremmo adottare atteggiamenti empatici ecomprensivi come nei confronti degli animalidomestici? Dovremmo arrivare a conferire lo-ro dignità etica?

Il robot, unione di mente sintetica e di corpo sintetico, rappresenta l’ultima

versione del nostro tentativo plurisecolare di costruire l’uomo artificiale. La

somiglianza sempre più spinta tra robot e uomo, che si estende alle capa-

cità cognitive, all’autonomia e in prospettiva anche alle emozioni e forse al-

la coscienza, pone interrogativi inquietanti. La crescente diffusione dei ro-

bot in tutti i settori della società ci obbliga a considerare il rapporto di convi-

venza uomo-macchina in termini inediti, che coinvolgono in primo luogo

l’etica. Affrontare questi problemi è importante e urgente.

Giuseppe O. Longo

L’ETICAAL TEMPO DEI ROBOT

3

4.4

0

E viceversa: quali comportamenti dei robotdovremmo tollerare, incoraggiare o vietare?E di chi sarebbero le responsabilità di un loroeventuale comportamento dannoso?L’ultima domanda è importante perché rivelail conflitto tra la natura artificiale dei robot,che dovrebbe renderli obbedienti alla nostraprogrammazione e la loro parziale autono-mia (se un robot non è autonomo non è unrobot) che, in linea di principio, potrebbe in-durli a decisioni nocive nei nostri confronti. Ilconflitto diventa drammatico nel caso dei“robot soldati”. Erano problemi di questo ge-nere che aveva in mente Asimov quando po-stulò le “Leggi della robotica”, che vietano airobot di compiere azioni dannose per gli es-seri umani e che costituiscono il primo em-brione di un’etica dei robot o, con un espres-sivo neologismo, di una “roboetica”.In questo ambito le previsioni si mescolanofacilmente con la fantascienza e accanto al-le speculazioni ci sono le realtà: in Giappo-ne (il Paese di gran lunga più avanzato nellacostruzione e nell’impiego dei robot) si toc-ca con mano quanto possa diventare inten-so il rapporto uomo-macchina quando il ro-bot sia un (o una) “badante” con sembianzeumane oppure quando abbia più o meno lefattezze e il comportamento di un animaledomestico (si pensi ad Aibo, il robot canedella Sony, ormai fuori produzione, che peranni ha svolto la funzione di “animale” dacompagnia, Figura 1). La proiezione affettivaè tanto forte da suscitare problemi psicolo-

gici e, ancora una volta, etici. E poi, in gene-rale, la marcia sempre più convulsa di unatecnologia invasiva e onnipresente non puònon avere effetti profondi sull’immagineche abbiamo di noi stessi e sul nostro stes-so essere “umani”: specchiandoci in quellostraniante alter ego che sta diventando il ro-bot, quale immagine ce ne ritorna? Riuscire-mo, per differenza o per similarità, a capirequalcosa di più di noi stessi? Che questiproblemi siano importanti e urgenti, è con-fermato dall’istituzione di un Comitato tec-nico per la roboetica in senso alla Roboticsand Automation Society dell’IEEE.Nei paragrafi che seguono, dopo un breve in-quadramento storico che descrive in partico-lare il passaggio dall’intelligenza artificialefunzionalistica alla robotica, sottolineandol’importanza del corpo sotto il profilo cogniti-vo e attivo, si considerano i problemi eticisollevati dalla presenza sempre più diffusadei robot. Tali problemi sono acuiti dalla so-miglianza crescente che presentano con gliumani, oggi sul piano cognitivo e attivo e, do-mani, forse, anche sul piano emotivo e dellacoscienza.

2. UNA STORIA MILLENARIA

L’impresa della robotica si colloca nel solco diun tentativo millenario, quello di imitare l’at-to divino della creazione. Più o meno dichia-rata, questa ambizione risale all’antichità bi-blica e classica, e la leggenda del Golem ne èforse l’esempio mitologico e letterario più no-to (Figura 2). In questa impresa si intreccianola vertigine del creatore e il timore per la crea-tura, che talora minaccia di ribellarsi e di-struggere l’inesperto demiurgo. Anche nelcaso del mostro di Frankenstein (Figura 3) lacreatura trascende il progetto e si rivolta, su-scitando negli uomini angoscia e terrore.Talvolta gli umani subiscono invece il fasci-no degli esseri artificiali: nei racconti diHoffmann gli uomini si innamorano perdu-tamente di bambole meccaniche, imitazioniperfette della donna, in cui la differenza trail modello e la sua riproduzione si attenuafino a scomparire, inducendo in ingannoanche l’osservatore più attento. Invece, perl’imperizia del costruttore, il mostro diFrankenstein è segnato da una diversità

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

4

FIGURA 1Il cane robot Aibo,

di cui la Sony haprodotto 150.000

esemplari trail 1999 e il 2006

che suscita orrore perché è interpretata co-me segno di malvagità.Questi temi - orgoglio e timore, fascino e or-rore - sembrano appartenere a un passatoormai lontano, eppure a ben guardare sonoancora presenti non solo nelle opere di fanta-scienza, ma anche nell’immaginario colletti-vo e nel nostro atteggiamento nei confrontidelle tecnologie di punta, in particolare delle“tecnologie della mente” come i computer,l’intelligenza artificiale e specialmente i ro-bot. Ciò sembra confermare il profondo so-strato mitopoietico ed emotivo che ha sem-pre accompagnato l’attività tecnologica e lanostra interazione con la macchina.Accanto ai miti e ai racconti, l’ambizione dicostruire l’uomo artificiale produsse nei se-coli una fioritura di opere artigianali, gli auto-mi, artefatti spesso zoomorfi o antropomorfi,che, mossi dalla forza idraulica, dalla gravitào da un meccanismo nascosto al loro interno,sembrano comportarsi come esseri viventi.Col tempo l'elemento meraviglioso e ludicofu sostituito dalle finalità pratiche: non sitrattò più di costruire macchine che tentasse-ro di compiere le mille diverse azioni di ununico uomo, ma al contrario di ottenere unamacchina che compisse un’unica azione,però sostituendo mille uomini. È il passaggiodall’androide elegante e variopinto alla nerae possente macchina a vapore.Gli automi, raffinati e suggestivi prodottidell’ingegno umano, oggi non si costruisco-no più e sono rimpiazzati dovunque, se nonnei musei e nei teatri della nostalgia, dai ro-bot, manufatti in cui la tecnologia puntasempre più all'efficienza e sempre meno al-l’imitazione puntuale della natura. Eppuregli automi, specie quelli antropomorfi, cioègli androidi e le andreidi, continuano a po-polare di inquiete proiezioni e torbidi sognila dimensione immaginaria del nostro tem-po e da qui, soffusi di suggestioni mitologi-che, travalicano nelle creazioni artistiche(letterarie e cinematografiche) e nelle attua-zioni tecniche (Figura 4). Tanto che anche larobotica si confronta con la costruzione dimacchine antropomorfe, gli umanoidi, resi-duo di una storia affascinante e tenebrosadi meccanica onirica, dove magia e occulti-smo s'intrecciano con la genialità inventiva,in un turbinio di personaggi eterogenei, in-

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

5

0

0

0

1

FIGURA 2Il Golem, costruitodall’uomo per farsiaiutare, a voltesi ribella al suocreatore

FIGURA 3Il mostrodi Frankensteinnella celebremascheracinematograficadi Boris Karloff

FIGURA 4L’anatra digerente,uno dei celebriautomi di Jacquesde Vaucanson(1709-1782)

0

ventori, maghi, affaristi, ciurmadori, studio-si, prestidigitatori e creduloni.

3. DAL GOLEMAL FUNZIONALISMO

Per quanto stupefacenti, i prodotti artigianalidel passato restavano comunque lontanissi-mi dal modello, uomo o animale, cui li avvici-nava soltanto la forma esteriore ma non cer-to una puntuale somiglianza strutturale efunzionale. Le cose cambiarono radicalmen-te grazie alle ricerche stimolate dalla secon-da guerra mondiale nel campo dei calcolatorie delle telecomunicazioni. Ben presto si capìche il calcolatore, lungi dall’essere una sem-plice macchina per far di conto, possedevaenormi capacità simboliche, tanto che nel1956 nacque ufficialmente una nuova disci-plina, cui fu dato il nome, un po’ infelice perla verità, e fonte di equivoci durevoli, di intel-ligenza artificiale (IA) e il calcolatore divenneil modello di elezione della mente umana.In fondo si trattava ancora della vecchia am-bizione di imitare l’atto divino della creazio-ne, ma non più con l'ingenuo e inarrivabileintento di costruire una creatura simile al-l’uomo nel suo complesso, magari con qual-che approssimazione, bensì di riprodurre osimulare con estrema precisione una solaparte dell’uomo: la sua mente. Il sogno co-minciava dunque a diventare realtà, sia purelimitatamente a un aspetto. Ma si trattavadell’aspetto più importante, caratteristico efondamentale dell’uomo: l’intelligenza. In-fatti, a quei tempi c’era (e c’è tuttora) una for-te tendenza a identificare l’intelligenza con isuoi aspetti razionali, anzi simbolici e algorit-mici, e questa identificazione, cui aveva con-tribuito potentemente il calcolatore, aveva asua volta rafforzato la convinzione chel’informatica fosse la tecnologia giusta percostruire, dopo tante ingenuità, modelli dellamente che fossero corretti e collaudabili.Giungeva dunque a compimento un lunghis-simo percorso, che dalla figura leggendariadel Golem portava, attraverso i mirabili e de-licati automi, fino alla macchina ideale di Tu-ring e ai prototipi concettuali di Von Neu-mann, capaci di riprodurre le funzioni nobilidella mente. L’idea secondo cui, tutte le “fun-zioni nobili” della mente rientrassero nelle

possibilità di replicazione della macchina,per un verso restava avvolta nelle ambiguitàdefinitorie e per un altro diveniva oggetto diuna congettura, la tesi di Church, secondo laquale tutta l’attività mentale dell’uomo è ditipo algoritmico, dunque è riproducibile conuna macchina discreta. Questa congettura,non dimostrata e non dimostrabile, fu accet-tata da molti e pose le premesse teoriche e lagiustificazione filosofica della versione fortedell’IA. Secondo questa versione, è possibiletrasferire, senza perdite e senza distorsioni,da una struttura (cervello) a un’altra (compu-ter) la funzione (cioè i programmi e gli algo-ritmi), che è la vera essenza dell’intelligenza.Si parla perciò di funzionalismo.

4. L’ALTRA METÀ DEL ROBOT:IL CORPO

Dopo i primi lusinghieri successi, anche i so-stenitori più ferventi del funzionalismo do-vettero riconoscerne i limiti, che derivanodalla natura disincarnata della mente artifi-ciale, cioè dall’assenza di un corpo che co-munichi con l’ambiente. Se l’intento eraquello di simulare l’intelligenza umana, il ri-duzionismo mentalista dell’IA funzionalistane trascurava un elemento essenziale.L’intelligenza umana (e animale) si costituiscee si manifesta attraverso il corpo. L’intelligen-za è un insieme di caratteristiche e attività for-temente sistemiche, oltre che fortemente dia-croniche, cioè evolutive. In particolare, l’intel-ligenza nasce, si sviluppa e si manifesta attra-verso la comunicazione, cioè lo scambio dimessaggi di vari tipi, entro vari contesti, in va-ri codici e a vari livelli. Poiché la nostra “inter-faccia” con il resto del mondo è costituita dalcorpo e dagli strumenti tecnologici che abbia-mo via via creato e perfezionato e che del cor-po sono un potenziamento e un’estensione, èchiaro che proprio al corpo spetta il compitodeterminante di consentire la comunicazionee di filtrarla, sia in ingresso sia in uscita.Riconosciuto il limite essenziale del funzio-nalismo e proseguendo sulla strada dell’imi-tazione della natura, si trattava di dotare ilcervello artificiale di un corpo artificiale: que-sta strada portò alla robotica. Alla base diquesta svolta c’è il riconoscimento della fun-zione conoscitiva del corpo.

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

6

Il sistema o macchinario conoscitivo indivi-duale ha due modalità essenziali di funziona-mento. La prima, più arcaica sotto il profilosia filogenetico (della specie) sia ontogeneti-co (dell’individuo), è la conoscenza tacita,globale e immediata attuata dal corpo, nellasua struttura e nelle sue funzioni biologiche,e guidata dal sistema affettivo ed emotivo. Laseconda, più recente sotto il profilo evolutivoe posteriore nello sviluppo dell'individuo, èla conoscenza esplicita, attuata nelle formeverbali e della razionalità. La prima è una co-noscenza che si attua nel corpo e tramite ilcorpo, la seconda si attua nella mente o tra-mite la mente.Orbene, la storia della cultura occidentale, inparticolare della scienza, è in fondo un lungotentativo di trasferire le conoscenze dalla pri-ma alla seconda modalità, cioè dalla cono-scenza biologica incarnata nel corpo (corpoche a sua volta è immerso nell’ambiente) auna razionalità disincarnata. In altre parole sivorrebbe tradurre nello scarnificato linguag-gio astratto della mente (in particolare nelsimbolismo della matematica) le rigogliosestrutture del corpo e in genere della realtà; direndere cioè esplicito, consapevole e leggibi-le ciò che è implicito, inconsapevole e oscuro. Questo tentativo è culminato nell’imposta-zione funzionalista o fisico-simbolica dell’IA.Ma fino a che punto è possibile questo tra-sferimento? All’inizio si riteneva che tutte leconoscenze fossero trasferibili, ma dopo iprimi entusiasmi sono venute le delusioni eoggi ci si rende conto che, per replicare com-piutamente l’intelligenza umana (ammessoche sia questo lo scopo dell’IA), anche lemacchine intelligenti non possono fare a me-no dell’equivalente di un corpo con tutta lasua attività cognitiva profonda e in parte for-se non algoritmica: l’intelligenza disincarna-ta è troppo fragile e limitata.Insomma, il tentativo di tradurre in cono-scenza alta, razionale ed esplicita la massadelle conoscenze materiali, corporee e impli-cite incappa nell’ostacolo tipico di ogni pro-cesso di traduzione, cioè l’incompletezza. Ri-mane sempre un residuo ostinato e ribelle,che non si può tradurre.Abbiamo così giustificato in termini episte-mologici il passaggio dall’IA funzionalisticaall’IA incorporata nel robot. Questo passag-

gio si oppone in qualche misura a una lungatradizione filosofica. Da Platone in poi lamodalità di conoscenza razionale è stataconsiderata superiore a quella corporea etutta la corrente filosofica dominante si in-scrive in questa ottica. Nel solco della filo-sofia razionalistica, anche l’IA funzionalisti-ca considera la conoscenza astratta più no-bile di quella legata al senso comune: l’in-telligenza che dimostra un teorema sarebbesuperiore a quella che riconosce una scenao che ci guida nelle azioni quotidiane. Maquesta lunga tradizione oggi viene messa indiscussione. Addirittura si assiste a un ca-povolgimento: si riconosce che la maggiorparte delle conoscenze, specie quelle vitali,sulle quali poggiano e dalle quali scaturi-scono tutte le altre, sono espresse nellastruttura stessa del corpo. A sua volta il cor-po è immerso in un ambiente il quale, con lesue continue perturbazioni, non cessa di ar-ricchire e aggiornare quelle conoscenze.Il futuro della robotica più ambiziosa, quellache mira alla costruzione di macchine dotatedi intelligenza, emozioni e forse coscienza,potrebbe dunque dipendere dalla compren-sione del significato cognitivo delle azionisemplici, incarnate e contestualizzate checompiamo di continuo nella vita di tutti i gior-ni. Le descrizioni e gli strumenti usati finorain IA sono “alti e deboli”: occorre integrarlicon descrizioni e strumenti “bassi e forti”,che riflettano e riproducano il nostro sfug-gente “esserci nel mondo”.

5. L’URGENZADI UNA RIFLESSIONE

Per le considerazioni che intendo svolgere suirobot, è utile prendere spunto dalla letteratu-ra fantascientifica, che costituisce un impor-tante laboratorio di scenari suscettibili di tra-sformarsi in realtà, se non nei particolari, al-meno nei tratti generali. Nel caso dei robot laletteratura e la filmografia sono ricchissimedi spunti. La psicologia e la sociologia dei ro-bot, degli androidi e dei ciborg (o cyborg, al-l’inglese) sono uno dei temi più interessantidella fantascienza moderna e si annuncianocome uno dei settori più problematici di unfuturo già a portata di mano nell’ambito dellarobotica. A cominciare dal dramma R.U.R. di

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

7

0

0

0

1

0

Karel C̆apek (riquadro - Figura 5), passandoper racconti di Isaac Asimov dedicati ai robot,fino a film come 2001: Odissea nello spazio,AI: Intelligenza Artificiale, Blade Runner emolti altri ancora, scrittori e registi hanno in-dagato con slancio e inventiva il rapporto uo-

mo-macchina, indicandone i possibili svilup-pi e i nodi prossimi venturi (Figura 6).Questi scenari possiedono ovviamente unaforte tinta fantastica, ma rispecchiano ten-denze e problemi che negli ultimi anni, dauna parte si sono sempre più avvicinati allarealtà della vita quotidiana e dall’altra, ten-dono a improntare su di sé molte ricerchenell’ambito dell’IA, della robotica, della pro-tetica, dell’ibridazione nanometrica. È allaluce di questi sviluppi e di queste tendenzeche si devono considerare le prospettiveaperte dalla robotica e dalla presenza deirobot tra noi. I robot lavorano in collabora-zione con noi, una collaborazione che per ilmomento si configura come dipendenza,ma che in un qualsiasi momento del futuropotrebbe assumere carattere paritario per icontinui progressi tecnici. La distinzione,oggi chiarissima, tra uomo e robot tende adattenuarsi, l’antropologia tende a confon-dersi con la “robotologia”.A questo proposito si prospetta il vasto pro-blema della sostituibilità del robot all’uomo,problema che fu già affrontato da NorbertWiener quando si rese conto delle possibiliimplicazioni della tecnologia dell’informazio-ne. Ma la riflessione filosofica risale addirit-tura a Kant, che pose un chiaro divieto all’usostrumentale dell’essere umano. Il problemadella sostituibilità ha un aspetto tecnico (sitratta di valutare il rapporto mezzi-fini in uncontesto specifico); un aspetto economico(rapporto costi-benefici, che nel caso dei ro-bot di servizio, badanti, camerieri e così via,potrebbe comprendere una valutazione piùsoggettiva, legata alla cortesia, alla gradevo-

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

8

R.U.R.Il termine “robot” (dal vocabolo ceco “robota”, ossia lavoro pesante, sfacchinata) fu introdotto nel 1920 dalloscrittore ceco Karel C̆apek nel suo dramma “R.U.R.” (Rossum’s Universal Robots, rappresentato il 25 gennaio 1921al Národní divadlo di Praga) per indicare una macchina antropomorfa progettata e costruita dall’ingegner Rossum(da un’altra radice slava che significa “intelligenza”) per alleviare le fatiche degli umani. Nel dramma si ritrovanomolti dei temi relativi al rapporto uomo-robot: la compassione di Helena, che li ritiene infelici e vorrebbe promuo-verne il riscatto dotandoli di anima; il realismo di Domin che li considera semplici macchine, prive di ogni sensibi-lità e destinate a servire indefessamente gli umani; il cinismo di Gall, che le vorrebbe capaci di soffrire per au-mentare il loro rendimento; la ripugnanza di Nana, che vede in loro l’opera del demonio; gli effetti perversi dellaloro laboriosità, che porta gli uomini ad affogare nell’ozio e le donne a non partorire più; il loro impiego militarecontro gli operai in rivolta per aver perso il lavoro. Per opera degli scienziati, i robot progrediscono e diventanosempre più intelligenti, superando gli uomini. Quando se ne rendono conto, i robot di tutto il mondo si ribellanoed eliminano la razza umana per assumere il potere, però così facendo si condannano alla scomparsa perché sen-za gli uomini non sanno riprodursi. Ma due robot di tipo specialissimo, maschio e femmina, hanno ricevuto dai co-struttori scomparsi la capacità di amare e di procreare e danno origine a una nuova stirpe.

FIGURA 5Un robot

del dramma R.U.R.(Rossum’s

Universal Robots)dello scrittore ceco

Karel C̆apekin un allestimento

del 1930 circa

lezza, all’estetica); un aspetto legale (d’im-portanza cruciale è l’attribuzione della re-sponsabilità di un danno provocato da un ro-bot nell’interazione con una persona). E infi-ne: esistono settori in cui l’integrazione o lasostituzione sia da escludere? Questa do-manda apre la prospettiva etica nel sensokantiano, che ha a che fare con la dignità, coni fini, con l'etica e che a sua volta dovrebbeessere la base per le decisioni politiche e, inultima istanza, anche tecniche.Tra gli specialisti è diffusa l’opinione (spessoirriflessa) che l’introduzione nella nostra vitadi macchine intelligenti (qualunque sia il si-gnificato di questo aggettivo) e la sostituzio-ne di queste macchine al posto degli esseriumani portino benefici generalizzati alla so-cietà. Questa opinione dovrebbe confrontar-si con un fatto che è sotto gli occhi di tutti:sempre più le innovazioni assumono un ca-rattere imperativo. Cioè si diffondono in basea una motivazione implicita e intrinseca, dicarattere tecnico-economico e non perchéuna discussione aperta e democratica abbiastabilito che sono vantaggiose, magari dopoun periodo di assestamento in cui certi setto-ri potrebbero risultare danneggiati.Poiché la tecnologia avanza con velocitàcrescente, è opportuno dedicare attenzionea questi problemi, che sono complicati dalfatto che nel rapporto uomo-macchina èl’uomo che, per la sua flessibilità, di solito siadatta alla tecnologia e non il contrario.Questo adattamento comporta trasforma-zioni antropologiche che da alcuni, impro-priamente, sono state assimilate a una “di-sumanizzazione”. In realtà si tratta di modi-fiche di tipo evolutivo, e ve ne sono semprestate. Il vero problema è che la loro velocitàe il loro susseguirsi rende spesso la trasfor-mazione dolorosa. I problemi indotti dallastretta interazione, o meglio dalla simbiosi,tra l’uomo e la macchina sono di natura nonsolo cognitiva, culturale o sociale, ma, an-che e squisitamente, etica. È abbastanzasingolare che il dibattito etico si accenda in-torno alle innovazioni biologiche, genomi-che e procreative, mentre sul fronte dellatecnologia basata sull’IA, come la robotica,si osserva una tacita accettazione del fattocompiuto. Ma poiché, come cercherò di ar-gomentare, gli effetti delle macchine intelli-

genti sono di vasta portata, essi esercitanouna forte pressione sull’etica. Il problemaetico, già di per sé arduo nel mondo di oggi,viene complicato da questi nuovi attori chesono i robot: è importante capire che cosa sifa, come lo si fa e perché lo si fa, tenendoconto, per quanto possibile, delle conse-guenze delle scelte compiute oggi, conse-guenze che potrebbero dimostrarsi irrever-sibili. È un richiamo alla nostra responsabi-lità, che a sua volta deriva da una consape-volezza che ormai si fa strada tra i ricercato-ri più avvertiti.

6. ETICA ED ESTETICA

Il tema della ribellione della creatura neiconfronti del creatore è una costante deirapporti uomo-tecnologia e ha molti prece-denti nella tradizione. L’inquietudine deri-vante dalla possibile insubordinazione af-fiora anche oggi, forse perché i robot ci imi-tano nelle funzioni e nel comportamento epotrebbero diventare nostri concorrenti. Lasomiglianza delle forme acuisce l’inquietu-dine: un robot a forma di frigorifero nonc’impressiona quanto un umanoide, anchese meno “intelligente” del primo. All’uma-noide tendiamo ad attribuire caratteristicheumane (intelligenza, sentimenti...) che esi-teremmo a concedere ai robot non antropo-morfi. Le suggestioni derivanti dalla somi-glianza esteriore di forma sono fortissime e

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

9

0

0

0

1

FIGURA 6Una scena del film AI: artificial intelligence di Steven Spielberg (2001)

0

formano un cortocircuito destabilizzantequando si scontrano con la consapevolezzache ci si trova di fronte a una macchina (Fi-gura 7). Ciò che si sa per via razionale ri-schia di essere spazzato via dalla proiezio-ne emotiva: il robot viene umanizzato graziea un meccanismo simile a quello che ci fa at-tribuire alle menti altrui, inaccessibili, lestesse proprietà della nostra mente, che ci èun po’ più accessibile. È una sorta di animi-smo, un’estensione ai manufatti artificialidell’antropomorfizzazione che esercitiamoda sempre nei confronti dell’alterità (peresempio divina o animale).Ciò conferma quanto siamo sensibili all’a-spetto esteriore delle creature che ci circon-dano: l’estetica è sempre stata una guida im-portante per le nostre azioni e per le nostrescelte (per esempio in campo sessuale e pro-creativo). Inoltre etica ed estetica sono lega-te a doppio filo: ciò che è bello ci appare an-che buono e viceversa (l’endiadi greca kalòskài agathós, bello e buono, la dice lunga).Etica ed estetica affondano le loro radici nellanostra storia evolutiva, anzi nella coevoluzio-ne tra noi e l’ambiente. Propongo le seguentidefinizioni naturalistiche, che si basano suuna impostazione sistemica simile a quella diGregory Bateson:❑ l’estetica è la percezione soggettiva (macondivisa) del nostro legame con l’ambiente,legame caratterizzato da una profonda edequilibrata armonia dinamica;

❑ l’etica è la capacità, soggettiva e intersog-gettiva, di concepire e compiere azioni capa-ci di mantenere sano ed equilibrato il legamecon l’ambiente.Etica ed estetica sono due facce della stessamedaglia perché derivano dalla forte coim-plicazione evolutiva tra specie e ambiente esono entrambe “rispecchiamenti” in noi diquesta coevoluzione. Se l'estetica è il senti-mento (inter)soggettivo dell'immersione ar-monica nell'ambiente e l'etica è il sentimen-to (inter)soggettivo di rispetto per l'ambientee di azione armonica con esso, allora l’etica ciconsente di mantenere l’estetica e l’esteticaci serve da guida nell'operare etico.Si noti che l’etica tradizionale è molto più ri-stretta di quella proposta qui, poiché si limitaa considerare i rapporti tra esseri umani. Inquesto senso le religioni hanno costruito eti-che codificate (o morali) basate sul rapportointerpersonale mediato o imposto dalla divi-nità. È anche interessante notare che l’atten-zione quasi esclusiva della morale religiosaper l’uomo ha portato al concetto di persona,all’idea di dignità dell’uomo, e alla formula-zione di vari codici o statuti dei diritti dell’u-manità. Non voglio affatto sminuire la porta-ta di queste conquiste, anzi forse se ci si limi-tasse all’impostazione naturalistico-evoluti-va da me proposta non si riuscirebbe a fare ilsalto qualitativo compiuto dalla morale reli-giosa e incorporato nella legislazione di mol-ti Paesi. È necessario tuttavia notare che l’at-tenzione per l’uomo è oggi affiancata da unacrescente attenzione per alterità non umane,ad esempio per gli animali e per l’ambiente,attenzione che recupera in parte la radice na-turalistico-evolutiva dell’etica. È in questoquadro allargato che si può immaginare dielaborare un’etica che comprenda anche irapporti tra uomo e robot, oggi in via specu-lativa ma tra pochissimo anche in pratica.Infatti, l’equilibrio del sistema complessivo, dicui facciamo parte, e che sta alla base della de-finizione di etica e di estetica, è dinamico, noncerto statico: perciò etica ed estetica sono sto-riche ed evolutive e dipendono anche dagli og-getti artificiali che l’uomo costruisce e chesempre più concorrono a formare l’ambientein cui viviamo. Di questo ambiente comincianoa far parte anche i robot, quindi è inevitabileche essi influiscano sulle nostre percezioni

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

10

FIGURA 7Valerie, una andreide

che la pubblicitàdichiara utile per

sbrigare le faccendedomestiche

estetiche e sui nostri valori etici, dunque sulcomplesso dei nostri comportamenti.

7. LA ROBOETICA

Che siamo fatti di carbonio o di silicio non haimportanza: ciascuno di noi deve essere trat-tato col giusto rispetto.

Arthur C. Clarke, 2010

Esaminiamo ora il concetto di “roboetica”, cer-cando di esplicitarlo nei suoi significati possi-bili. Dalle considerazioni precedenti emergeuna prima accezione, molto generale: “roboe-tica” è semplicemente “l’etica nell’epoca deirobot”, cioè l’insieme dei comportamenti del-l’umanità quando anche i robot fanno partedell’ambiente. “Roboetica” potrebbe anche si-gnificare l’insieme (molto più ristretto del pre-cedente) di quei nostri comportamenti neiconfronti dei robot che consentono di mante-nere un giusto equilibrio dinamico tra noi e lo-ro. Poiché i robot posseggono una certa auto-nomia e una certa capacità di apprendere dal-l’esperienza, “roboetica” può anche indicarel’insieme dei comportamenti utili, o almeno in-nocui, dei robot nei nostri confronti. Infine, edè il significato più avveniristico, potrebbe si-gnificare il complesso dei comportamenti che irobot adottano tra loro e verso il loro ambien-te, di cui fanno parte anche gli umani.Riassumendo, la roboetica può significare:a. l’etica umani -> ambiente (ambiente incui ci sono altri umani e anche i robot);b. l’etica umani -> robot;c. l’etica robot -> umani;d. l’etica robot -> robot + ambiente (am-biente in cui ci sono anche gli umani).Mi rendo conto che si tratta di definizioni ap-prossimative e discutibili, ma da qualche par-te bisogna pur cominciare. La terza accezione(punto c) si deve conformare al precetto ge-nerale e tradizionale per cui le macchine nondebbono danneggiarci (primum non nocere).È a questo proposito che Isaac Asimov (Figu-ra 8) propose, in un racconto del 1942, le suefamose “Leggi della Robotica”, le quali, ca-blate in modo inestirpabile nel cervello posi-tronico dei robot, dovrebbero tutelarci dacomportamenti ostili e dannosi:1. un robot non può recar danno a un essereumano e non può permettere che, a causa di

un suo mancato intervento, un essere umanoriceva danno;2. un robot deve obbedire agli ordini imparti-ti dagli esseri umani, purché tali ordini noncontravvengano alla Prima Legge;3. un robot deve proteggere la propria esi-stenza, purché la sua autodifesa non contra-sti con la Prima o con la Seconda Legge.Queste tre Leggi si presentano semplici,chiare e univoche: dovrebbero bastare perregolare perfettamente almeno il punto c. Inrealtà se le regole di Asimov fossero calatenel mondo reale non mancherebbero di su-scitare problemi e ambiguità. Che cosa vuoldire danno? Chi ne è responsabile? E chi lostabilisce, chi lo quantifica? Il concetto didanno sembra legato al concetto di male(non solo fisico) e sul problema del male sisono arrovellate generazioni di filosofi, teolo-gi, letterati e artisti. Il cervello positronico,razionale e rigoroso, saprebbe impostare erisolvere le “equazioni del male” grazie aun’edizione aggiornata del calculemus leibi-niziano? C’è da dubitarne.In effetti la nozione di danno che compare nel-le Leggi, presenta molte ambiguità: se unumano sta recando danno a un altro essereumano (per esempio sta tentando di uccider-lo), come si deve comportare il robot? Se in-terviene reca danno all’assassino, ma il suomancato intervento reca danno alla vittima.

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

11

0

0

0

1

FIGURA 8Lo scrittore IsaacAsimov, autoredelle celebri Leggidella robotica

0

Inoltre noi uomini siamo contraddittori: comesi deve comportare un robot che riceva un or-dine contraddittorio (dallo stesso uomo o dadue uomini diversi) che sotto il profilo logicometta in crisi il suo sistema di valutazione? Difronte a una contraddizione gli umani se la ca-vano quasi sempre con scelte che li fanno“uscire dal sistema” all’interno del quale siannida la contraddizione. Ma questa evasione(che corrisponde forse all’ampliamento dei si-stemi formali entro i quali si riscontrano le li-mitazioni di tipo gödeliano) può avvenire gra-zie a una certa dose di irrazionalità o di folliacreativa. Per consentire al robot di non para-lizzarsi di fronte a una contraddizione si po-trebbe forse immaginare di iniettargli una cer-ta dose di follia, ma si può immaginare la diffi-coltà di un’impresa del genere.Si può continuare a speculare: se si affidasselo sviluppo della “specie” robot a un processoevolutivo analogo a quello biologico (o a quel-lo bio-culturale), essi potrebbero compiere -in sostanza fuori del nostro controllo - pro-gressi tali da consentir loro valutazioni etichepiù raffinate e precise delle nostre. Potrebbe-ro, prima o poi, cavarsela meglio di noi in te-ma di bene e di male (anche se il bene e il ma-le sono sempre riferiti a un soggetto: bene perchi? Male per chi?) e potrebbero sviluppareuna “teodicea” più rigorosa e soddisfacentedella nostra, cioè potrebbero avvicinarsi allasoluzione di un problema teologico e metafi-sico che ci assilla da sempre: se il creatore delnostro mondo è bontà infinita, perché nelmondo c’è il male? Ma a quel punto dovrebbe-ro ancora sottostare alla prima Legge? Oppu-re sarebbero loro a dettarci leggi nuove e adassumere il bastone del comando, come so-lerti genitori nei confronti dei loro vivaci e stol-ti frugoletti? Del resto in 2001: Odissea nellospazio il calcolatore Hal 9000 si comportaproprio così: prende il comando della nave etenta di uccidere gli umani che intralciano ilcompimento della missione, invertendo l’or-dine d’importanza delle Leggi, cioè subordi-nando la Prima e la Seconda alla Terza.Asimov si era certo posto problemi di questo ti-po, tanto che in seguito aggiunse la Legge Zero:

0) un robot non può recar danno all’umanitàe non può permettere che, a causa di un suomancato intervento, l’umanità riceva danno.

L’ultima Legge è interessante per il suo carat-tere “meta” e conferma che le prime tre nonsono sufficienti a costituire un’etica di tipo csicura. Infatti se un folle minacciasse la di-struzione in massa dell’umanità, la Legge Ze-ro autorizzerebbe il robot a eliminarlo, controla Prima Legge. Si apre qui il problema dellavalutazione quantitativa dei danni, ragione-vole anche se molto discutibile secondo lamorale tradizionale: l’uccisione di molti è(sarebbe) più grave dell’uccisione di uno.Ma neppure con quest’aggiunta le leggi diAsimov riuscirebbero a proteggerci da com-portamenti robotici dannosi, perché le con-seguenze ultime di un’azione, pur rispetto-sa delle quattro leggi, potrebbero alla lungaessere nocive, e l’analisi di queste conse-guenze di lunga portata sfiderebbe la piùpotente intelligenza (naturale o artificiale)immaginabile: troppe sono le ramificazionie le interazioni con la mutevole complessitàdel reale. Del resto anche le azioni umanedettate dalle migliori intenzioni del mondosfociano spesso in disastri. Inoltre ci si puòchiedere dove ci si debba arrestare nella ca-tena delle conseguenze di un’azione per va-lutare se l’azione sia stata buona o cattiva.Nella società umana solo alcune azioni “cat-tive” sono giudicate tali esplicitamente esono sanzionate in un momento precisograzie a un processo giudiziaro che inter-rompe (o almeno vorrebbe interrompere) lacatena delle causazioni: la maggior partedei nostri atti non sono oggetto di giudizioformale a un istante dato e continuano aprovocare conseguenze nel mondo ben al dilà delle nostre intenzioni e per un tempo po-tenzialmente illimitato.

8. I ROBOT SOLDATO

A quale crocevia l’evoluzione in noi umani haimboccato la strada sbagliata, al punto cheabbiamo associato il soddisfacimento delpiacere alla spinta alla distruzione?

Christa Wolf, Guasto

Secondo me non ci siamo arrivati: è innatonella nostra specie. Il desiderio di distruzioneè così radicato in noi che nessuno riesce adestirparlo. Fa parte della costituzione diognuno, giacché il fondo dell’essere stesso è

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

12

certamente demoniaco. Il saggio è un di-struttore placato, in pensione. Gli altri sonodistruttori in servizio.

E.M. Cioran,Dell’inconveniente di essere nati

Un esempio già attuale di problema roboeti-co è rappresentato dall’uso in guerra dei ro-bot soldato, cioè di robot costruiti, addestra-ti e impiegati in azioni belliche, con lo scopoprecipuo di uccidere i nemici (Figura 9).La Prima Legge impedirebbe ai robot di parte-cipare ad azioni belliche contro esseri umani,mentre oggi molte ricerche mirano proprio al-la costruzione di robot soldato. Queste ricer-che sembrano trovare qualche giustificazio-ne, almeno in certi casi, nella Legge Zero, cheautorizzerebbe a recare un certo danno (a uc-cidere alcuni umani) a chi vuole provocaredanni ultimi e irreversibili (uccidere tutti gliumani). Come ho detto, si intravede qui unascala quantitativa dei danni, che relativizza ilcarattere in apparenza assoluto delle Leggi econferma la difficoltà della loro applicazione.Le ricerche sui robot da guerra s’inseriscononel quadro del combattimento a distanza, cheaumenta l’efficienza e ottunde la pietà nei con-fronti del nemico. L’inserimento tra me e il ne-mico di un robot soldato aggiunge alla distan-za fisica un distanza psicologica che colora labattaglia di indifferenza, di cinismo e di irre-sponsabilità. Quest’ultimo punto è forse il piùimportante: delegando al robot l’uccisione delnemico, l’uomo si scaricherebbe in buona par-te della responsabilità del sangue versato. Mafino a che punto la responsabilità di un’azionecriminosa può ricadere sulla “macchina” ro-bot, che almeno per il momento non ha statutogiuridico? Solo nell’ipotesi che il robot posseg-ga una volontà autonoma e magari una co-scienza riflessiva si può pensare a un’attribu-zione di responsabilità. Altrimenti essa conti-nua a ripartirsi tra progettisti, costruttori, mili-tari e politici. È evidente che si tratta di un pro-blema etico di tipo misto a e c. Infatti, la batta-glia è un’impresa voluta da umani contro uma-ni, ma è mediata e condotta da robot (semi)au-tonomi. Osserviamo di passaggio che un robotsoldato, anche se votato ad azioni di mortepuò conservare un residuo di eticità: anche sesvincolato dalla Prima Legge, il robot dovrebbepoter riconoscere un nemico che si arrende o

non è più in condizioni di combattere, in mododa farlo prigioniero invece di ucciderlo.Col tempo gli umani hanno sviluppato codicidi comportamento nei confronti dei nemici odei prigionieri che aprono isole di misericor-dia nell’ambito della crudeltà bellica. Si aprequi l’analogo problema per i robot: come in-durre nei robot comportamenti di compassio-ne o in genere di etica bellica nei confronti de-gli umani? La domanda rivela il conflitto tra laloro natura macchinica, che dovrebbe renderliobbedienti alla nostra programmazione, e laloro (parziale) autonomia che, in linea di prin-cipio, potrebbe indurli a decisioni nocive neiconfronti degli uomini oltre quelle codificatedalle convenzioni belliche (riquadro).

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

13

0

0

0

1

FIGURA 9Un robot soldatomontato su cingoli

I robot soldato

I tentativi di far condurre le operazioni militari alle macchine non è certonuovo. Lo scopo è quello di infliggere perdite al nemico risparmiando i pro-pri combattenti. Già nella seconda guerra mondiale i tedeschi usarono iGoliath, piccoli carri armati telecomandati, i missili Cruise non hanno pilotae si dirigono con buona precisione sul bersaglio. Ora gli Stati Uniti costrui-scono robot con funzione di spionaggio e di combattimento, i cosiddettiSWORDS (spade, ovvero Special Weapon Observation Reconnaissance De-tection Systems), dispositivi con mitragliatrice telecomandati fino a un chi-lometro di distanza. Gli SWORDS sono un primo passo, per quanto mode-sto, verso i Future Combat Systems (FCS), complessi di sorveglianza e at-tacco a distanza con missili e cannoni. I robot soldato si muovono su cingo-li, ruote o gambe snodate e possono essere impiegati anche per il salva-taggio di feriti e il recupero di materiale. Un altro settore in cui si prospettal’impiego dei robot soldato è quello della lotta al terrorismo e della guerri-glia urbana. La Francia si è impegnata nella costruzione di un robot anti-sommossa e a Singapore si stanno studiando robot soldato per combatte-re la criminalità urbana riducendo le perdite tra le forze dell’ordine.

0

9. SIMILI A NOI?

Dottor Gall: i Robot quasi non avvertono i do-lori fisici. Ciò non ha dato buoni risultati.Dobbiamo introdurre la sofferenza.Helena: e sono più felici se sentono il dolore?Dottor Gall: al contrario; però sono tecnica-mente più perfetti.

Karel C̆apek, R.U.R.

I problemi di tipo d sono certo quelli più avve-niristici, e li possiamo tralasciare, mentre nonsono così lontani nel futuro quelli di tipo b, cheriguardano il nostro comportamento verso i ro-bot. Negli ultimi tempi si è acuita in molti Pae-si la sensibilità nei confronti degli animali su-periori, come le scimmie e gli animali dome-stici, ma non solo. Ne sono prova la nascita diassociazioni animaliste e di movimenti antivi-visezione, la diffusione dell’alimentazione ve-getariana e il crescente rifiuto di pellicce, avo-rio e altri “prodotti” animali. Questa maggiorsensibilità è forse legata a un progressivo af-francamento degli animali dal ruolo di schiavi,di forza lavoro e di riserva di materiali utili cuisono stati a lungo relegati, ruoli che si sono tra-sferiti alle macchine e ai prodotti di sintesi. A ri-prova si rifletta che le bestie allevate a scopoalimentare non beneficiano ancora di questoincremento di compassione. Dell’affrancamen-to godono via via anche gli schiavi umani (spes-so trattati come animali), non appena le lorofunzioni si possono trasferire alle macchine.E qui entrano in scena i robot, che stanno diven-tando gli esecutori di molti dei lavori finora svol-ti dagli animali, dagli schiavi e dalle macchinetradizionali. Può accadere che la sensibilità dif-fusa nei confronti degli umani e degli animali sitrasferisca prima o poi anche ai robot, oppure ainostri occhi prevarranno sempre la loro naturadi macchine e la loro funzione servile? Gli sforziche facciamo per dotarli di intelligenza, autono-mia, capacità di apprendere e tendenzialmenteanche di sensibilità e coscienza, avranno comecorollario una loro equiparazione a qualcosa dipiù nobile e vicino a noi? Ma c’è un’altra do-manda, più inquietante: che diritto abbiamo dicostruire macchine tanto intelligenti e sensibilida capire che non lo sono abbastanza? Perchésuscitare dal nulla creature tanto simili a noi daessere capaci di soffrire? Il loro dolore, scaturitodalla coscienza di non essere del tutto assimila-

bili agli uomini, sarebbe un triste corollario del-la nostra abilità demiurgica: creando una schiat-ta di “macchine dolenti”, ci assumeremmo unapesante responsabilità (riquadro a p. 15).Le stesse domande si possono porre, e forsecon fondamento ancora maggiore, per i ciborgderivanti dall’ibridazione di esseri umani conmanufatti artificiali (si pensi al poliziotto cibor-ganico del film Robocop, cui non si possononon attribuire ricordi, sentimenti e strazi affat-to umani). Il ciborg merita affetto e compassio-ne oppure è uscito definitivamente dal consor-zio umano per entrare in una sfera vaga e inde-finibile e diventare preda di cacciatori senzascrupoli? I replicanti di Blade Runner, splendi-di androidi e andreidi di dubbio statuto, deb-bono proprio essere eliminati? Insomma: chidecide che cosa significa essere umano e aver-ne la dignità? Forse bisognerà presto riscrivereuna “Carta dei diritti” da estendere a esseri lacui definizione sfugge per il momento ad ognitentativo classificatorio.Si rifletta anche che lo struggente desiderioche i robot o gli androidi o i ciborg manifesta-no di diventare del tutto umani sulla base diun consapevole “senso di inferiorità”, desi-derio che diviene ossessivo in Pinocchio eaddirittura grottesco nel film di Spielberg,(AI): Intelligenza Artificiale, è frutto al solitodi una nostra proiezione. Che motivo avreb-bero creature tanto diverse da noi (e forsetanto migliori di noi) per voler diventare pro-prio come noi, se non quello di compiacere iloro vanitosi creatori? Ancora una volta i de-sideri dei genitori vengono proiettati sui figlicon conseguenze forse disastrose.A questo proposito, come ho accennato, alcu-ni ritengono che un giorno si potranno costrui-re robot più buoni degli esseri umani in virtù diun processo evolutivo che, innescato da noi,procederebbe poi in modo svincolato dai no-stri condizionamenti. In fondo se noi siamo, inmolte circostanze, aggressivi e malvagi ciò èdovuto al valore di sopravvivenza che questecaratteristiche hanno avuto nel corso dell’evo-luzione. Ma i robot si evolveranno in un am-biente molto diverso dal nostro: l’ambientedei robot, in gran parte, siamo noi. Ecco per-ché, si pensi al caso dei robot soldato, se vo-gliamo che questa nuova stirpe sia migliore dinoi e magari ci aiuti a migliorare noi stessi(perché l’ambiente dell’uomo potrebbero un

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

14

giorno essere loro) dovremmo stare molto at-tenti all’“indole artificiale” che imprimiamo inqueste creature, pur nei limiti delle derive im-prevedibili dovute alla loro autonomia. In que-sta prospettiva, instillare nei robot il desideriodi uguagliarci potrebbe segnare un regresso oalmeno un ostacolo alla loro evoluzione eticaverso la bontà (Figura 10). (Queste rapide con-siderazioni potrebbero e forse dovrebbero am-pliarsi e dar luogo a una discussione approfon-dita sul “principio di precauzione” nell’ambitodella roboetica).

10. LE EMOZIONI ARTIFICIALI

Le emozioni sono per noi umani un tratto co-stitutivo fondamentale, inseparabile dalle al-tre nostre caratteristiche. Le emozioni sonostrettamente intrecciate alla razionalità com-putante, ma anche alle funzioni fisiologiche,alla memoria, all’esperienza, sono profonda-mente innestate nel corpo, inteso sia come in-sieme di organi sia come depositario della no-stra identità e della nostra storia. Le emozionisono tanto pervasive che ogni nostro atto sicolora di esse e ogni nostra relazione con noistessi e con l’“altro” ne è condizionata. Ma co-

sa succede quando l’“altro” è inanimato,quando cioè non possiede emozioni da scam-biare con le nostre? In questo caso facciamotutto noi: investiamo l’oggetto di un’intensaproiezione affettiva e giungiamo al punto diattribuirgli proprietà che non possiede. Dietro

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

15

0

0

0

1

Robot e ciborg

La costruzione dell’uomo artificiale può seguire due strade, quella che porta al robot e quella che porta alle creature ciborganiche. Inaltri termini: o imparare dalla natura e imitarla (robot), oppure interferire con la natura e modificarla (ciborg). Nei robot confluiscono, si fondono e si unificano tre categorie di protesi:• le protesi motorie e attive: le macchine semplici, le pinze, le automobili, i razzi ecc.;• le protesi percettive: gli occhiali, gli sfigmomanometri, i microscopi, i nasi artificiali, le telecamere ecc.;• le protesi cognitive: la scrittura, la matematica, le biblioteche, il computer, l’intelligenza artificiale ecc..Il robot inoltre è caratterizzato da un certo grado di autonomia e da una certa capacità di apprendimento, che lo rendono un candida-to plausibile a un’evoluzione corpo-mentale di tipo sia umanoide sia alternativo all’umano. L’evoluzione imitativa dell’umano potreb-be portare a macchine indistinguibili dall’uomo per le funzioni (intellettuali, attive, percettive, emotive) anche se distinguibili per i ma-teriali e in parte per la struttura. Si tratta comunque di precisare i meccanismi dell’evoluzione, che appare eterodiretta e fortemente fi-nalizzata, a differenza di quella biologica e, anche di quella culturale, che sono intrise di aleatorietà e contingenza.La convergenza di funzioni e strutture robotiche verso quelle umane prelude a una confusione tra naturale a artificiale. Ma più che nelrobot questa confusione è evidente nei cyborg o ciborg, cioè nelle creature cibernetico-organiche derivanti da un’ibridazione spintache, partendo dall’uomo, mira a sostituire parti sempre più ampie e complesse del corpo umano (o animale) con componenti di sinte-si: braccia, mani, occhi, cervello ecc.. Ad un estremo di questo processo vi sono i trapianti d’organo, in cui l’ibridazione si mantiene sulpiano organico-organico, all’altro estremo si colloca l’uomo artificiale, in cui non vi sono più residui organici e la sostituzione è com-pleta. La spinta verso questa sostituzione progressiva deriva, almeno in parte, dalla consapevolezza che il corpo e le sue parti sono de-teriorabili e quindi destinate a soccombere e a far soccombere il complesso di cui fanno parte. Il robot, per converso, parte da una ba-se tutta artificiale e mira all’imitazione della funzione. Ma il punto d’arrivo appare lo stesso: l’uomo artificiale.La confusione tra naturale e artificiale potrebbe prima o poi portare alla confusione tra umano e non umano e aprirebbe lo spinosoproblema della definizione di persona: quali sono i “requisiti minimi” che un ente deve possedere per essere dichiarato persona equindi avere la dignità corrispondente? Esiste un grado di imitazione funzionale o di sostituzione protetica al quale è lecito, o ine-vitabile, parlare di umanità, e quindi di dignità, dell’artefatto? Un’altra domanda che scaturisce da queste considerazioni: gli arte-fatti imitativi potrebbero indurre cambiamenti nella nostra concezione del corpo e della natura umana (così come l’intelligenza ar-tificiale ha modificato la nostra concezione di intelligenza)? La costruzione dell’uomo artificiale potrebbe elevare gli artefatti a li-vello dell’uomo, oppure abbassare gli umani a livello delle macchine.

FIGURA 10Un robot del filmI, robot di AlexProyas (2004)

0

lo schermo di un computer immaginiamo unaintelligenza (quasi) umana, dietro la condottae gli atteggiamenti di un robot immaginiamosentimenti, giudizio e consapevolezza.Un esempio di questa proiezione-attribuzioneaffettiva è offerto dal robot cane Aibo, di cui laSony ha di recente interrotto la produzione do-po averne costruito, dal 1999 al 2006, oltre150.000 esemplari. Nel sito a lui dedicato, silegge che Aibo è un compagno gradevole e unintrattenitore nato, possiede l’istinto di girella-re, cerca i suoi giocattoli e comunica col padro-ne, di cui riconosce la voce e il volto. Gli piacela musica e fa commenti sulle proprie sensa-zioni. Come per tanti robot, la personalità di Ai-bo si sviluppa tramite l’interazione con le per-sone e in base all’esperienza. Insomma uncompagno affettuoso e discreto, che non habisogno di cibo, non sporca, non chiede di farela passeggiatina e che si può disattivare quan-do non “serve”: quanti vantaggi rispetto a unesigente e rumoroso cucciolo biologico!Da tempo ormai alla compagnia di un animale

domestico si riconosce un notevole potere an-tidepressivo e ansiolitico, ma uno studio dellaPurdue University (Indiana, Stati Uniti) ha con-fermato che anche i robot zoomorfi possiedo-no queste doti. Su 72 bambini tra i sette e i quin-dici anni intervistati nell’indagine (tutti pos-sessori di un Aibo) 50 hanno dichiarato che i ro-bot sono buoni compagni. L’interazione con glianimali migliora il benessere psicologico deibambini e la loro capacità di socializzare e diapprendere, ma ora il termine “animali” deveessere forse esteso a comprendere anche Aiboe i suoi colleghi, come Paro, un cucciolo robo-tico di foca, il celebre pulcino Tamagochi e al-tri ancora. I ricercatori sostengono che lo stu-dio dei rapporti tra i bambini e gli zoorobottinimira a comprendere meglio lo sviluppo infanti-le e che nessuno ritiene che i robot sostituiran-no mai gli animali; eppure in una società dovei rapporti umani sono sempre più rari e fretto-losi la prospettiva di delegare alle macchine par-te della nostra responsabilità comunicativa eaffettiva non è poi tanto remota. Con quali con-seguenze? È un tema da affrontare.Un esempio reale di proiezione affettiva è for-nito dal film Grizzly Man (Figura 11), di WernerHerzog, che narra la storia (vera) di TimothyTreadwell, un quarantenne disadattato che vi-ve in Alasca a contatto con i temibili grizzly, tra-sgredendo, in uno slancio di empatia, il confi-ne tra il sé e l’altro (riquadro). Proiettando su-gli orsi il proprio amore ai limiti del morboso,addirittura illudendosi di identificarsi con lo-ro, Timothy si illude di esserne ricambiato conlo stesso calore. Ma uno dei grizzly, che non gra-disce questo travalicamento di confine e que-

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

16

Il robot amoroso

Un tema molto particolare, affrontato ma non ben risolto nel film (AI): Intelligenza Artificiale, riguarda la costruzione di un robot che ciami: è in un certo senso la situazione inversa rispetto a Grizzly Man, dove è l’uomo che ama l’orso, cioè l’alieno. Creando un robot che loami, il costruttore raggiunge un vertice di egocentrismo: infatti, non è previsto (o necessario) che l’uomo ricambi l’amore della creatura. È facile e insieme rischioso tracciare un parallelo con il rapporto tra Dio e uomo. Come dice il catechismo, Dio ci ha creati per conoscerlo eamarlo. Se poi Dio ci ami è un problema molto più complicato, spesso risolto in modo sbrigativo affermando che l’amore di Dio è testimo-niato dal fatto che ci ha messi al mondo, come se vivere fosse in sé un bene, cosa su cui non tutti concordano. Certo, a livello umano, l’as-senza di simmetria nel rapporto d’amore può condurre a situazioni molto dolorose, che molti uomini e donne conoscono per esperienza.Il robot amoroso ci pone di fronte al conflitto tra la consapevolezza di aver di fronte una macchina (non degna d’amore) e l’inequivoca-bile comportamento affettuoso della macchina, che unito al suo aspetto antropomorfo spinge alla proiezione emotiva e al coinvolgi-mento. Del resto anche nel rapporto amoroso tra umani la proiezione svolge un ruolo fondamentale: non ci s’innamora mai di una per-sona, ma dell’immagine che si ha (e che si costruisce) di quella persona. Comunque sia, se s’instaura un rapporto amoroso bilaterale,ne deriva per l’umano un’assunzione di responsabilità nei confronti dell’essere amato, anche se è una macchina. Come afferma Antoi-ne de Saint-Exupéry nel Piccolo Principe, non c’è amore senza assunzione di responsabilità. Allora, come si esprimerebbe questa re-sponsabilità nei confronti del robot amoroso? E che forme potrebbe rivestire l’amore per un robot, al di là del semplice rifiuto di consi-derarlo “solo” una macchina? Forse possiamo trarre qualche indicazione dal caso, meno perturbante e più realistico, dell’affetto-amo-re per gli animali domestici (si pensi anche a certe forme di feticismo).

FIGURA 11Un’immagine trattadal film GrizzlyMan, di WernerHerzog (2005)

sta promiscuità eccessiva, lo uccide e lo divo-ra. Non voglio insinuare in alcun modo l’ideache il robot possa comportarsi in questo modo,ma non posso neppure escludere che dai robotattuali possano discendere, per evoluzione,creature aliene, così diverse da noi da non ri-conoscerci più ne come loro creatori e padro-ni e neppure come compagni da rispettare.Tornando all’attualità dei rapporti uomo-ro-bot, il problema non riguarda solo i bambini:si pensi al numero crescente di anziani le cuifamiglie non vogliono o non possono dedicareloro tempo e attenzione e che vengono accu-diti da robot badanti. La possibilità di sostitui-re, almeno in parte, i rapporti umani con i rap-porti robotici conferma la grande capacità diproiezione affettiva degli uomini, i quali ten-dono a interpretare azioni e reazioni pura-mente meccaniche (ma sono proprio tali? Inaltre parole: che cosa vuol dire “meccanico”?)come comportamenti intelligenti e coloriti disentimenti: in fondo viviamo di apparenze. Lacosa è preoccupante, poiché dimostra la ca-pacità della tecnica di insinuarsi subdolamen-te in noi per strade insospettabili, creando for-me di dipendenza e vere e proprie “zone dianestesia” nella nostra diffidenza e nel nostrodistacco verso gli artefatti (Figura 12). Alcunivedono in questa invasione progressiva unaminaccia, tanto che in Giappone, Paese all’a-vanguardia nella robotica, si medita di nondotare i robot badanti di sembianze troppoumane, per evitare attaccamenti morbosi.Ma quando si parla di emozioni artificiali, si in-tende anche qualcosa che vada oltre la nostraproiezione: si stanno progettando agenti ca-

paci di manifestare emozioni (con l’espressio-ne, con l’atteggiamento e così via) e, un doma-ni, si vorrebbero costruire agenti capaci addirit-tura di provare (oltre che manifestare) emozio-ni. È un problema strettamente legato a quellodella coscienza e porta a considerazioni dellostesso tipo. Si può dire che un agente artificia-le manifesta emozioni quando si comporta inmodi che, negli umani, presuppongono emo-zioni. Che poi si tratti di emozioni simulate, an-che se riconoscibili per via comportamentistica(come nel criterio di Turing per l’intelligenza del-le macchine), oppure di emozioni vere, di tipopsicologico e riflesse nella coscienza, resta unproblema aperto e molto arduo (riquadro).

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

17

0

0

0

1

La coscienza artificiale

A proposito degli artefatti più avanzati, come i robot, si è cominciato a parlare di coscienza artificiale. L’intelligenza artificiale riguardaattività che se compiute da un umano richiederebbero intelligenza, analogamente si può parlare di coscienza artificiale con riferimen-to ad attività che, se compiute da un umano, richiederebbero coscienza. È chiaro che qui “coscienza” significa consapevolezza e noncoscienza morale (come nelle locuzioni: mi rimorde la coscienza, si metta una mano sulla coscienza e così via). Il problema centrale neldibattito che si è avviato è se un robot possa, in linea di principio, manifestare una vera coscienza, nel senso psicologico, cioè una co-scienza “in senso forte”, oppure una semplice coscienza funzionale, o simulata, una coscienza “in senso debole”. Il problema ha unagrande rilevanza etica, poiché tutti i nostri comportamenti significativi sotto il profilo etico presuppongono la coscienza. È ormai evi-dente che esistono agenti dotati di capacità cognitive che non posseggono affatto coscienza (per esempio i programmi che giocano ascacchi), ma certe attività cognitive (umane) sembrano richiedere la coscienza.La costruzione di enti dotati di coscienza “in senso forte” aprirebbe una serie di problemi etici: a tali enti dovrebbe essere riconosciu-ta una dignità analoga alla nostra ed essi avrebbero nei confronti nostri e di altri agenti quella responsabilità che nasce dalla consape-volezza dei propri atti. La coscienza potrebbe indurre in questi enti una certa capacità di soffrire, e a noi imporrebbe nei loro confrontiun comportamento etico, che escluderebbe lo schiavismo e i maltrattamenti.Alcuni ricercatori ritengono possibile la costruzione di agenti con una coscienza in senso forte, altri sono scettici, altri ancora addirittura con-trari a questa prospettiva. Comunque sia, almeno in linea di principio il problema della coscienza artificiale si intreccia con molti dei temi trat-tati, in particolare con i concetti etici che concernono le Leggi di Asimov: il problema del bene e del male, del danno e dell’autodifesa e così via.

FIGURA 12Il cosiddetto“Turco”, un automascacchista costruitonel 1770 dal baroneungherese Wolfgangvon Kempelen. Inrealtà, a quantopare, la basedell’automa celavaun nano di grandeabilità nel gioco

0

11. IL SENSO

Se alcuni temono le proiezioni, gli equivociemotivi e le confusioni di ruolo tra umani e ro-bot, altri invece propendono per una visionein cui la tecnica contribuisce a una crescenteapertura dell’uomo grazie al dialogo con l’al-terità che si realizza mediante una connessio-ne sempre più estesa tanto sul piano spiritua-le, cognitivo ed emotivo quanto su quello con-creto. In questa prospettiva, esaltata dallatecnologia, l’uomo coinvolge nella sua attivitàconversativa e dialogica tutta la realtà mate-riale, naturale e artificiale, e ogni oggetto con-tribuisce, attraverso l’uomo, a una progressi-va crescita di significato, o meglio di “senso”.A questo proposito, le azioni macchiniche,per quanto raffinate, ci appaiono comunque,almeno per il momento, prive di “senso”, omeglio hanno senso per noi ma non per i ro-bot. Il senso delle nostre azioni non sta nelleazioni, ma le precede, sta nel contesto e nel-la storia, negli affetti, nella gioia, nella spe-ranza, nel dolore, nell’anticipazione. Si pensial vasto territorio del simbolico, all’attivitàartistica, all’anelito verso lo spirituale e il tra-scendente. Le azioni delle macchine, per lo-

ro, non hanno senso perché la loro storia e illoro contesto siamo noi. È come se le macchi-ne recitassero una poesia in una lingua a lorosconosciuta, ma che noi comprendiamo be-nissimo (Figura 13). Sono sempre gli uominiche interpretano ciò che le macchine fanno.Almeno per ora.Ma evidentemente la proiezione emotiva sulrobot umanoide non ci basta: come ho ac-cennato, i ricercatori tentano di iniettare leemozioni nel robot stesso, per farne un veroe proprio interlocutore affettivo. Anzi, vannoancora più in là: cercano di dotare questemacchine di una coscienza.Su questa strada di umanizzazione profondai problemi sono molti: in primo luogo nonsappiamo che cosa sia la coscienza e nonsappiamo come funzioni. Inoltre nell’uomo,emozioni, coscienza, razionalità, corporeità equant’altro sono talmente intrecciate da ren-dere poco plausibile il procedimento seguitoper dotarne i robot, che è di tipo additivo: auna base cognitiva di IA (Intelligenza Artifi-ciale) si aggiunge un corpo (percezione artifi-ciale ed esecuzione di funzioni), poi a questocomplesso si aggiungono (come?) emozioniartificiali e poi, in cima a tutto, si depositauna coscienza artificiale.Qui il termine “artificiale” indica la derivazio-ne da processi diversi da quelli biologico-evolutivi e qualifica in modo essenziale i so-stantivi ai quali si applica. Consideriamo l’IA,il cui scopo primo, benché non sempre di-chiarato, è quello di replicare l’intelligenzaumana: ebbene, i risultati sono caratterizzatimolto più dall’aggettivo “artificiale” che dalsostantivo “intelligenza”. L’IA è sì interessan-te, ma è radicalmente diversa dalla nostra in-telligenza, e sarebbe opportuno adottareuna terminologia altrettanto diversa. A scan-so di equivoci e derive metaforiche fuorvianticonverrebbe evitare termini molto impegnaticome intelligenza, emozioni, coscienza.

12. IL DEMIURGOALLO SPECCHIO

Helena: perché li fabbricate, allora?Busman: ahahah! Questa è bella! Perché sifabbricano i Robot!Fabry: per il lavoro, signorina. Un Robot so-stituisce due operai e mezzo. La macchina

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

18

FIGURA 13Il robot umanoide Asimo (Advanced Step in Innovation Mobility) della Honda sipresenta a una signorina

umana, signorina, era molto imperfetta. Ungiorno occorreva eliminarla definitivamente.

Karel C̆apek, R.U.R.

Un paio di osservazioni conclusive. La mar-cia sempre più rapida di una tecnologia raf-finata e suggestiva come la robotica nonpuò non avere effetti profondi sull’immagi-ne che abbiamo di noi stessi e sul nostrostesso essere umani: specchiandoci inquello straniante alter ego che sta diventan-do il robot, quale immagine ci ritorna? L’im-presa della robotica, cioè la costruzione diun vero e proprio uomo artificiale, potrebbedarci, per analogia o per contrasto, indica-zioni utili su di noi, così come ha fatto l’IA. Inquesta prospettiva di rispecchiamento il ro-bot potrebbe essere un laboratorio di etica(artificiale)?Infine si pone la questione del perché: per-ché costruiamo i robot? In certi casi partico-lari la risposta è ovvia: per eseguire compi-ti pesanti o pericolosi o ripetitivi, oppureper sostituire la manodopera umana convantaggio economico o di rendimento. Matutto ciò non risponde alla questione difondo: perché costruire macchine così simi-li a noi? Qualche risposta possibile: l’uma-nità sta facendo di tutto per entrare nel no-vero delle specie estinte e, sentendo pros-sima la fine dell’avventura, vuole lasciareun segno della propria grandezza, perciòcostruisce macchine che possano sopravvi-vere e che ricordino a chi verrà (chi? Lemacchine stesse?) un passato di gloria. C’èanche, come si è detto, l’orgoglio tuttoumano di forzare e imitare i segreti dellanatura. Da ultimo c’è lo scopo comune atutte le forme d’arte e di tecnica: stupire.“E’ del poeta il fin la meraviglia”, cantavaMarino, e Leonardo annotò: “farò una fin-zione che significherà cose grandi”.Qualunque risposta diamo alla domanda difondo, “perché?”, è indubbio che da essascaturiscono subito altre questioni che nemettono in luce la natura socioculturale edetica: quale società vogliamo costruire pro-gettando i robot? Quali valori cerchiamo dirafforzare o di indebolire? Molti ricercatorinon dimostrano alcun interesse per questiproblemi e procedono tranquilli o entusiastisulla strada dell’innovazione tecnica. Altri si

pongono in una prospettiva di breve respi-ro, conformandosi a codici simili alle leggidi Asimov. Altri ancora, una minoranza, sipongono nella prospettiva di medio e lungotermine e cercano di immaginare gli sbocchipossibili di quella che ormai è una vera epropria invasione dei robot. Qui le implica-zioni della robotica e della roboetica siconfondono con gli scenari elaborati inquell’attrezzatissima palestra di ipotesi sulfuturo che è la fantascienza.Il 13 marzo 2004, davanti a un folto pubblicodi giovanissimi, l’orchestra filarmonica diTokyo ha eseguito la Quinta di Beethovensotto la direzione di KRIO, un robot umanoi-de della Sony, che, dopo qualche incertez-za, ha fatto una discreta figura, aggiungen-do un altro tassello al vasto mosaico delleattività umane eseguite (o imitate) dallemacchine (Figura 14). Ora, tanto per fare unesercizio di fantasociologia, mi immaginoun nipotino di Krio che dirige un’orchestradi robot davanti a un pubblico di robot: sevenissero a mancare gli umani chi si porreb-be le questioni di cui stiamo parlando? Doveandrebbe a finire il problema del senso? Chisi chiederebbe che cosa? E infine: dove an-drebbe a finire la follia degli uomini? Che fi-ne farebbero l’arte, l’umorismo, la trasgres-sione, la creatività, il gioco, il nonsenso? Chipotrebbe avvertire la differenza tra una la-crima e una goccia di pioggia? Forse, comeho detto sopra, per perpetuare la follia crea-tiva dell’uomo, ci sarebbe bisogno di unamacchina schizofrenica. Ma chi saprebbecostruirla, e chi, sapendola costruire, se neassumerebbe la responsabilità?

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

19

0

0

0

1

FIGURA 14Nel 2003 il robot umanoide Krio, della Sony, ha diretto un concerto di musicaclassica a Tokyo

0

Bibliografia[1] Bateson G.: Verso un’ecologia della mente.

Adelphi, Mlano, 2 edizione, 2000.

[2] Buttazzo G.: Coscienza artificiale: missione im-possibile?. Mondo Digitale, n. 1, marzo 2002.

[3] Carlucci Aiello L., Dapor, M.: Intelligenza Artifi-ciale: i primi 50 anni. Mondo Digitale, n. 10,giugno 2004.

[4] Fukuyama F.: L’uomo oltre l’uomo. Mondadori,Milano, 2002.

[5] Galván J.M.: La robotica come speranza: la tec-noetica. In: La sfida del post-umano, a cura diSanna I., Ed. Studium, Roma, 2005.

[6] Longo G.O.: Il simbionte: prove di umanità futu-ra. Meltemi, Roma, 2003.

[7] Longo G.O.: Uomo e tecnologia: una simbiosi pro-blematica. Mondo Digitale, n. 14, giugno 2005.

[8] Losano M.G.: Storie di automi. Einaudi, Torino, 1990.

[9] Monopoli A.: Roboetica. (http://www.roboeti-ca.it/page2.html).

[10] Saint-Exupéry A.: Il Piccolo Principe. Bompiani,Milano, 2000.

[11] Shelley M.: Frankenstein, ovvero il modernoPrometeo. Mondadori, Milano, 1983.

[12] Veruggio G.: La roboetica e le sfide della rivolu-zione robotica. In: La sfida del post-umano, acura di Sanna I., Ed. Studium, Roma, 2005.

[13] Veruggio G.: Il cammino della roboetica. LeScienze, n. 461, gennaio 2007.

[14] Wiener N.: The human Use of Human Beings.Cybernetics and Society, Avon Books, NewYork, 1967.

[15] Zaccaria R.: Aspettando robot. Mondo Digitale,n. 7, settembre 2003.

Filmografia

2001: Odissea nello spazio, regia di Stanley Kubrick,Stati Uniti-Gran Bretagna, 1968.

AI: Intelligenza Artificiale, regia di Steven Spielberg,Stati Uniti, 2001.

Blade Runner, regia di Ridely Scott, Stati Uniti, 1982.

Grizzly Man, regia di Werner Herzog, Stati Uniti, 2005.

M O N D O D I G I T A L E • n . 1 - m a r z o 2 0 0 7

1

0

0

1

20

GIUSEPPE O. LONGO è ordinario di Teoria dell’informazione nella Facoltà d’Ingegneria dell’Università di Trie-ste. Si occupa di codifica di sorgente e di codici algebrici. Ha diretto il settore “Linguaggi” del Laboratoriodella “International School for Advanced Studies” (Sissa) di Trieste e il Dipartimento di Informazione del“Centre Internationale des Sciences Mécaniques” (Cism) di Udine. Socio di vari Istituti e Accademie, s’inte-ressa di epistemologia, di intelligenza artificiale e del rapporto uomo-tecnologia. È traduttore, collaboracon il Corriere della Sera, con Avvenire e con numerose riviste. È autore di romanzi, racconti e opere teatra-li tradotti in molte lingue.E-mail: longo@univ.trieste.it