Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari...

27
Sistemi Discreti con Sistemi Discreti con Dinamica Dinamica Indecidibile Indecidibile Marco Giunti Marco Giunti Università di Cagliari Università di Cagliari [email protected] [email protected] http://edu.supereva.it/ http://edu.supereva.it/ giuntihome.dadacasa giuntihome.dadacasa

Transcript of Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari...

Page 1: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Sistemi Discreti con Sistemi Discreti con Dinamica IndecidibileDinamica Indecidibile

Marco GiuntiMarco GiuntiUniversità di CagliariUniversità di [email protected]@unica.ithttp://edu.supereva.it/giuntihome.dadacasahttp://edu.supereva.it/giuntihome.dadacasa

Page 2: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

SommarioSommario

Per molti sistemi discreti, dato uno stato iniziale arbitrario, non sarebbe possibile determinarne il comportamento dinamico a lungo termine (Wolfram 1984a, 2002);

farò vedere come si possa render conto in modo rigoroso dell'intuizione di Wolfram, fondandomi su un risultato molto generale che classifica i diversi tipi possibili di dinamica di un sistema discreto (Giunti 2005).

Page 3: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Regola 111 110 101 100 011 010 001 000

0 1 0 1 1 0 1 0

Numero della regola 010110102 = 9010

Tempo 0 0 1 0 0 1 0 1 0 1 1 1 1

Tempo 1 0 0 1 1 0 0 0 0 1 0 0 1

Dodici celle disposte in circolo. Ciascuna cella può assumere i valori 0 o 1. Quindi, l’AC ha 212 = 4096 stati possibili.

Un Automa Cellulare FinitoUn Automa Cellulare Finito

Page 4: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

64 stati – 60 copie 32 stati – 6 copie

16 stati – 4 copie Totale: 4096 = 212 stati

Costituenti dello spazio degli stati dell’AC regola Costituenti dello spazio degli stati dell’AC regola 90 (con 12 celle disposte in circolo)90 (con 12 celle disposte in circolo)

Page 5: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

I primi studi di Wolfram sugli ACI primi studi di Wolfram sugli AC Negli anni ’80 Wolfram (1983a) studiò sistematicamente i Negli anni ’80 Wolfram (1983a) studiò sistematicamente i

256 AC più semplici (modimensionali, con 2 valori, e 256 AC più semplici (modimensionali, con 2 valori, e intorno di raggio 1);intorno di raggio 1);

li classificò secondo 4 tipi di comportamento li classificò secondo 4 tipi di comportamento qualitativamente simile (Wolfram 1983b, 1984b) e cioè:qualitativamente simile (Wolfram 1983b, 1984b) e cioè:

AC la cui evoluzione porta aAC la cui evoluzione porta a

1.1. uno stato omogeneo;uno stato omogeneo;

2.2. un insieme di strutture separate semplici, stabili o un insieme di strutture separate semplici, stabili o periodiche;periodiche;

3.3. un andamento caotico;un andamento caotico;

4.4. strutture localizzate complesse, spesso di lunga strutture localizzate complesse, spesso di lunga durata.durata.

Page 6: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Le ipotesi di WolframLe ipotesi di Wolfram Wolfram ipotizzò che i sistemi di tipo 4 fossero Wolfram ipotizzò che i sistemi di tipo 4 fossero

computazionalmente universali (1984b, 31);computazionalmente universali (1984b, 31);

egli ha poi dimostrato (2002, 675-689) che la regola 110 (di egli ha poi dimostrato (2002, 675-689) che la regola 110 (di tipo 4, monodimensionale, 2 valori, raggio 1) è universale;tipo 4, monodimensionale, 2 valori, raggio 1) è universale;

infine, sulla base di studi estensivi della dinamica di molti infine, sulla base di studi estensivi della dinamica di molti tipi di sistemi discreti, Wolfram è arrivato a formulare il tipi di sistemi discreti, Wolfram è arrivato a formulare il seguente principio estremamente generale:seguente principio estremamente generale:

Principio di Equivalenza Computazionale (PEC)Principio di Equivalenza Computazionale (PEC)

Quasi tutti i processi che non sono ovviamente semplici Quasi tutti i processi che non sono ovviamente semplici possono essere visti come computazioni di possono essere visti come computazioni di sofisticazione equivalente (2002, 716-717)sofisticazione equivalente (2002, 716-717)

Page 7: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Il significato dell’ipotesi dell’universalitàIl significato dell’ipotesi dell’universalità

Per quanto riguarda l’ipotesi dell’universalità dei Per quanto riguarda l’ipotesi dell’universalità dei sistemi di tipo 4, essa significa che un tale sistema sistemi di tipo 4, essa significa che un tale sistema è capace di è capace di emulareemulare, cioè riprodurre esattamente, , cioè riprodurre esattamente, il comportamento di tutta una classe di sistemi che il comportamento di tutta una classe di sistemi che si sa essere computazionalmente universale;si sa essere computazionalmente universale;

per es., la dimostrazione dell’universalità della per es., la dimostrazione dell’universalità della regola 110 fa vedere che, con opportune regola 110 fa vedere che, con opportune condizioni iniziali, essa può emulare un qualsiasi condizioni iniziali, essa può emulare un qualsiasi tag system (la classe dei tag system è universale tag system (la classe dei tag system è universale perché ogni macchina di Turing può a sua volta perché ogni macchina di Turing può a sua volta essere emulata da un opportuno tag system).essere emulata da un opportuno tag system).

Page 8: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Un esempio di emulazione fra due ACUn esempio di emulazione fra due AC AC 18 emula AC 90, in due passi, con condizioni AC 18 emula AC 90, in due passi, con condizioni

iniziali 00 per 0 e 01 per 1 (Wolfram 1983b, 20)iniziali 00 per 0 e 01 per 1 (Wolfram 1983b, 20)

010101 010100 010001 010000 000101 000100 000001 000000

0000 0001 0101 0100 0100 0101 0001 0000

00 01 00 01 01 00 01 00 111 110 101 100 011 010 001 000

0 1 0 1 1 0 1 0

Numero della regola 010110102 = 9010

111 110 101 100 011 010 001 000

0 0 0 1 0 0 1 0

Numero della regola 000100102 = 1810

Page 9: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Conseguenze del Principio di Conseguenze del Principio di Equivalenza Computazionale (Equivalenza Computazionale (PECPEC)) Ubiquità dell’universalità computazionaleUbiquità dell’universalità computazionale

– ““Quasi ogni sistema il cui comportamento non sia Quasi ogni sistema il cui comportamento non sia ovviamente semplice deve essere capace di ovviamente semplice deve essere capace di raggiungere lo stesso livello di sofisticazione raggiungere lo stesso livello di sofisticazione computazionale, e quindi deve in effetti essere computazionale, e quindi deve in effetti essere universale.” (Wolfram 2002, 718)universale.” (Wolfram 2002, 718)

– A rigore, però, questo non segue dalla formulazione A rigore, però, questo non segue dalla formulazione precedente del principio. E’ piuttosto una diversa precedente del principio. E’ piuttosto una diversa formulazione del principio stesso.formulazione del principio stesso.

Ubiquità della complessitàUbiquità della complessità– In base al In base al PECPEC, “gli osservatori tendono ad essere , “gli osservatori tendono ad essere

computazionalmente equivalenti ai sistemi che essi computazionalmente equivalenti ai sistemi che essi osservano, con l’inevitabile conseguenza che essi osservano, con l’inevitabile conseguenza che essi considereranno complessi quei sistemi.” (Wolfram 2002, considereranno complessi quei sistemi.” (Wolfram 2002, 737)737)

Page 10: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Altre conseguenze del Principio di Altre conseguenze del Principio di Equivalenza Computazionale (Equivalenza Computazionale (PECPEC)) Irriducibilità computazionaleIrriducibilità computazionale

– In base al In base al PECPEC, “non ci possiamo aspettare che i , “non ci possiamo aspettare che i sistemi che usiamo per fare predizioni possano fare sistemi che usiamo per fare predizioni possano fare computazioni più sofisticate delle computazioni che si computazioni più sofisticate delle computazioni che si trovano in molti dei sistemi di cui cerchiamo di predire il trovano in molti dei sistemi di cui cerchiamo di predire il comportamento. E da ciò segue che per molti sistemi comportamento. E da ciò segue che per molti sistemi non si può fare alcuna predizione sistematica, così che non si può fare alcuna predizione sistematica, così che non c’è alcun modo di cortocircuitare il loro processo di non c’è alcun modo di cortocircuitare il loro processo di evoluzione, e di conseguenza il loro comportamento evoluzione, e di conseguenza il loro comportamento deve essere considerato computazionalmente deve essere considerato computazionalmente irriducibile.” (Wolfram 2002, 741)irriducibile.” (Wolfram 2002, 741)

Libero arbitrio (segue dall’irriducibilità computazionale)Libero arbitrio (segue dall’irriducibilità computazionale)– ““E quindi, in conclusione, che cosa ci fa pensare che ci E quindi, in conclusione, che cosa ci fa pensare che ci

sia libertà in ciò che un sistema fa? In pratica, il criterio sia libertà in ciò che un sistema fa? In pratica, il criterio principale sembra essere che non possiamo predire con principale sembra essere che non possiamo predire con facilità il comportamento del sistema.” (Wolfram 2002, facilità il comportamento del sistema.” (Wolfram 2002, 751)751)

Page 11: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Ultima conseguenza del Principio di Ultima conseguenza del Principio di Equivalenza Computazionale (Equivalenza Computazionale (PECPEC)) Indecidibilità dinamica (segue Indecidibilità dinamica (segue

dall’irriducibilità computazionale)dall’irriducibilità computazionale)

– ““E ciò che sospetto è che, per quasi tutti i E ciò che sospetto è che, per quasi tutti i sistemi il cui comportamento ci sembra sistemi il cui comportamento ci sembra complesso, quasi tutte le domande non-complesso, quasi tutte le domande non-triviali che riguardano ciò che il sistema triviali che riguardano ciò che il sistema farà in un numero infinito di passi saranno farà in un numero infinito di passi saranno indecidibili.” (Wolfram 2002, 755)indecidibili.” (Wolfram 2002, 755)

Page 12: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Un Un Sistema DinamicoSistema Dinamico ( (DSDS) è un modello ) è un modello matematico che esprime l’idea di un sistema matematico che esprime l’idea di un sistema deterministico arbitrario (discreto/continuo, deterministico arbitrario (discreto/continuo, revers./irrevers.)revers./irrevers.) Un Sistema DinamicoSistema Dinamico (DSDS) è un modello (M, (gt)tT)

tale che:

1. l’insieme M non è vuoto; M è detto lo spazio degli stati del sistema;

2. l’insieme T è Z, Z+ (interi), oppure R, R+ (reali); T è detto l’insieme tempo;

3. (gt)tT è una famiglia di funzioni da M a M; ciascuna funzione gt è detta una transizione di stato o un t avanzamento del sistema;

4. per ogni t e w T, per ogni x M,

a. g0(x) = x;

b. gt+w(x) = gw(gt(x)).

Page 13: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Significato intuitivo della definizione Significato intuitivo della definizione di sistema dinamicodi sistema dinamico

gt+w

x

gw

x

g0

xgt

t0 t0+t

gt(x)

t

gt

Page 14: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Emulazione fra due Emulazione fra due DSDS – Intuizione – Intuizione ed esempied esempi Intuitivamente, un Intuitivamente, un DSDS emula un secondo emula un secondo

DSDS quando il primo riproduce quando il primo riproduce

esattamente tutta la dinamica del esattamente tutta la dinamica del secondo.secondo.

Esempi –Esempi – (i) una macchina di Turing (i) una macchina di Turing universale emula tutte le universale emula tutte le MTMT; (ii) per ogni ; (ii) per ogni MTMT c’è un c’è un ACAC che emula che emula MTMT e viceversa; e viceversa; (iii) si ha emulazione fra i due semplici (iii) si ha emulazione fra i due semplici AC AC considerati primaconsiderati prima ((ACAC 18 emula 18 emula ACAC 90).90).

Page 15: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Emulazione fra due Emulazione fra due DSDS – Definizione – Definizione (Giunti 1997 equivalente a questa)(Giunti 1997 equivalente a questa)

1.1. per ogni per ogni aa, , bb DD, per , per ogni ogni tt TT++, , c’è c’è vv VV+ +

tale che, se tale che, se ggtt((aa) = ) = bb, , allora allora hhvv((uu((aa)) = )) = uu((bb););

2.2. per ogni per ogni cc, , dd NN, per , per ogni ogni vv VV++, , c’è c’è tt TT++ tale che, se tale che, se hhvv((cc) = ) = dd, , allora allora ggtt((uu 1 1((cc)) = )) = uu 1 1((dd).).

a

b

gt

u

hv

u

gt

u-1

hv

u-1d

c

DS1 = (M, (gt)tT) emula DS2 = (N, (hv)vV) sse: esiste D M , esiste u: D  N, biiettiva, tale che

M M NND D

Page 16: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Due definizioni importantiDue definizioni importanti

Un Un costituentecostituente di un sistema dinamico di un sistema dinamico DSDS = = ((MM,,  ((ggtt))ttTT) è un sottosistema di ) è un sottosistema di DSDS il cui il cui

spazio degli stati spazio degli stati NN MM è temporalmente è temporalmente connesso e contiene tutto il suo passato connesso e contiene tutto il suo passato (nonché il suo futuro).(nonché il suo futuro).

Un sistema dinamico è Un sistema dinamico è indecomponibileindecomponibile sse sse ha un solo costituente (cioè, sé stesso).ha un solo costituente (cioè, sé stesso).

Page 17: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Due risultati generali (Giunti 2005)Due risultati generali (Giunti 2005)

Teorema di decomposizioneTeorema di decomposizione (per sistemi dinamici (per sistemi dinamici in generale)in generale) Ogni sistema dinamico è identico alla composizione di Ogni sistema dinamico è identico alla composizione di

tutti i suoi costituenti.tutti i suoi costituenti.

Teorema di classificazioneTeorema di classificazione (per sistemi discreti (per sistemi discreti indecomponibili)indecomponibili) Il grafo dello spazio degli stati di un qualunque sistema Il grafo dello spazio degli stati di un qualunque sistema

dinamico discreto indecomponibile è di una delle dinamico discreto indecomponibile è di una delle seguenti forme (i) – (vii). In particolare, (i) e (ii) sono le seguenti forme (i) – (vii). In particolare, (i) e (ii) sono le possibili forme generali del grafo di un sistema possibili forme generali del grafo di un sistema reversibile; (iii) e (iv) quelle di un sistema logicamente reversibile; (iii) e (iv) quelle di un sistema logicamente reversibile; (v), (vi) e (vii) di un sistema logicamente reversibile; (v), (vi) e (vii) di un sistema logicamente irreversibile.irreversibile.

Page 18: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Sistemi Reversibili

Sistemi Logicamente Reversibili

(i) Sistemi Periodici – un ciclo bi orientato di n nodi (n ≥ 1)

(ii) Sistemi Aperiodici Non-confluenti – una linea bi orientata, infinita in ambedue i sensi

Infiniti

Finiti

Finiti

Infiniti

(iii) Sistemi periodici – un ciclo orientato di n nodi (n ≥ 1)

(iv) Sistemi Aperiodici Non-confluenti – una linea orientata, infinita in uno solo o in ambedue i sensi

Page 19: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

(v) Sistemi Eventualmente Periodic Non-confluenti – un ciclo orientato a cui si attacca una semplice linea possibilmente infinita

Sistemi Logicamente Irreversibili (Finiti o Infiniti)

Page 20: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

(vi) Sistemi Eventualmente Periodici Confluenti – un ciclo orientato a cui si attaccano le radici di un numero finito di alberi possibilmente infiniti (sia in altezza che in ramificazione); o al ciclo si attaccano almeno due alberi, oppure l’unico albero ad esso attaccato ha diverse diramazioni (cioè, non è una semplice linea)

Sistemi Logicamente Irreversibili (Finiti o Infiniti)

Page 21: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

(vii) Sistemi Aperiodici Confluenti – una linea orientata infinita in uno solo o in ambedue i sensi, a cui si attaccano le radici di un numero possibilmente infinito di alberi possibilmente infiniti (sia in altezza che in ramificazione)

Sistemi Logicamente Irreversibili (Infiniti)

Page 22: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Ancora una definizioneAncora una definizione

Due stati Due stati xx e e yy sono sono dinamicamente dinamicamente equivalentiequivalenti sse esiste sse esiste tt ≥≥ 0 tale che, per ogni 0 tale che, per ogni vv ≥≥ tt, , ggvv((xx) = ) = ggvv((yy).).

Ovviamente, due stati sono dinamicamente Ovviamente, due stati sono dinamicamente equivalenti sse essi appartengono allo equivalenti sse essi appartengono allo stesso costituente.stesso costituente.

Page 23: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Quando possiamo dire che il comportamento Quando possiamo dire che il comportamento dinamico a lungo termine di un sistema dinamico a lungo termine di un sistema discreto è decidibile?discreto è decidibile? Le due seguenti condizioni sono ambedue Le due seguenti condizioni sono ambedue

necessarie (e forse anche congiuntamente necessarie (e forse anche congiuntamente sufficienti):sufficienti):

1.1. dati due stati qualunque dati due stati qualunque xx e e yy, esiste una , esiste una procedura meccanica che decide se procedura meccanica che decide se xx e e yy sono o non sono dinamicamente sono o non sono dinamicamente equivalenti;equivalenti;

2.2. dato un qualunque stato dato un qualunque stato xx, esiste una , esiste una procedura meccanica che stabilisce la procedura meccanica che stabilisce la forma generale (i)-(vii) del costituente a cui forma generale (i)-(vii) del costituente a cui xx appartiene. appartiene.

Page 24: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

La condizione 2 fallisce per tutti i La condizione 2 fallisce per tutti i sistemi universalisistemi universali Sappiamo che, se Sappiamo che, se DSDS è universale, il suo è universale, il suo

problema della fermata è indecidibile, e cioè: non problema della fermata è indecidibile, e cioè: non esiste una procedura meccanica che decide, per esiste una procedura meccanica che decide, per uno stato uno stato xx arbitrario, se l’orbita di arbitrario, se l’orbita di xx è o non è è o non è (eventualmente) periodica con periodo 1;(eventualmente) periodica con periodo 1;

ma è facile vedere che, se la condizione 2 è ma è facile vedere che, se la condizione 2 è soddisfatta, il problema della fermata di soddisfatta, il problema della fermata di DSDS è è decidibile;decidibile;

ne segue che, per un sistema universale ne segue che, per un sistema universale qualunque, la condizione 2 è falsa, e cioè: non qualunque, la condizione 2 è falsa, e cioè: non abbiamo una procedura meccanica che ci abbiamo una procedura meccanica che ci permette di stabilire la forma generale del permette di stabilire la forma generale del costituente di un suo stato arbitrario.costituente di un suo stato arbitrario.

Page 25: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Conclusione: l’indecidibilità Conclusione: l’indecidibilità dinamica nei sistemi discretidinamica nei sistemi discreti C’è dunque un senso ben preciso in cui la C’è dunque un senso ben preciso in cui la

dinamica di un sistema universale può dinamica di un sistema universale può essere detta indecidibile (e cioè, il fallimento essere detta indecidibile (e cioè, il fallimento della condizione 2);della condizione 2);

se l’ipotesi di Wolfram sull’ubiquità se l’ipotesi di Wolfram sull’ubiquità dell’universalità computazionale risultasse dell’universalità computazionale risultasse vera, allora la dinamica di quasi tutti i vera, allora la dinamica di quasi tutti i sistemi il cui comportamento non sia sistemi il cui comportamento non sia ovviamente semplice risulterebbe ovviamente semplice risulterebbe indecidibile esattamente in questo senso.indecidibile esattamente in questo senso.

Page 26: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

E’ tuttoE’ tuttoGrazieGrazie

Page 27: Sistemi Discreti con Dinamica Indecidibile Marco Giunti Marco Giunti Università di Cagliari giunti@unica.it.

Indicazioni bibliograficheIndicazioni bibliograficheGiunti, Marco (1996), “Beyond Computationalism”, in Garrison W. Cottrel (ed.), Proceedings

of the 18th Annual Conference of the Cognitive Science Society. Mahwah, NJ: L. Erlbaum Associates, 71-75.——— (1997), Computation, Dynamics, and Cognition. New York: Oxford University Press.——— (1998), “Is Computationalism the Hard Core of Cognitive Science?”, in Vito M. Abrusci,

Carlo Cellucci, Roberto Cordeschi, and Vincenzo Fano (eds.), Prospettive della logica e della filosofia della scienza: Atti del convegno triennale della Società Italiana di

Logica e Filosofia delle Scienze, Roma, 3-5 gennaio 1996. Pisa: Edizioni ETS, 255-267.——— (2004), “Is Being Computational an Intrinsic Property of a Dynamical System?”, forthcoming in Gianfranco Minati, and Eliano Pessa (eds.), Proceedings of the Third National Conference on Systems Science (A.I.R.S.). New York: Kluwer Academic/Plenum Publishers. URL = <http://edu.supereva.it/giuntihome.dadacasa/download/papers/intcom-trento- submitted1bis.doc>——— (2005) “Toward a Theory of Intrinsic Computability”, draft. URL = <http://edu.supereva.it/giuntihome.dadacasa/download/papers/intcom1.3.doc>Wolfram, Stephen (1983a), “Statistical Mechanics of Cellular Automata”, Reviews of Modern

Physics 55, 3:601-644.——— (1983b), “Cellular Automata”, Los Alamos Science 9:2-21.——— (1984a), “Computer Software in Science and Mathematics”, Scientific American 56:188-203.——— (1984b), “Universality and Complexity in Cellular Automata”, in Doyne Farmer, Tommaso Toffoli, and Stephen Wolfram (eds.), Cellular Automata. Amsterdam: North Holland Publishing Company, 1-35.——— (2002), A New Kind of Science. Champaign, IL: Wolfram Media, Inc.