1

3. Processi Stocastici

Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a.

Notazione:

X : insieme di possibili valori

tT : generico istante di tempo (T: insieme dei possibili istanti di tempo, o asse

temporale)

(t) : funzione di probabilità (o di densità di probabilità nel caso continuo) all’istante di

tempo t(X, (t)) tT

2

Una realizzazione di un processo stocastico (X, (t)) tT è una particolare evoluzione x(t) per tT.

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t = 0,1,2,…

X={0,1} dove x0=0 : esce testa e x1=1 : esce croce.

tempo xi (xi)

0 1/2 1 1/2 0 1/2

1 1/2

: : :

0

1

(X, (0))

(X, (1))

t xi

0 0

1 0

2 1

3 0

: :

possibile realizzazione

3

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

La tabella (tempo, xi, (xi)) è uguale alla precedente ma vi sono solo 2 possibili realizzazionitempo xi

(xi)

0 1/2 1 1/2 0 1/2

1 1/2

: : :

0

1

t x1 x2

0 0 1

1 0 1

2 0 1

3 0 1

: : :

La tabella (tempo, xi, (xi)) non è sufficiente per descrivere completamente un processo stocastico.

4

I processi stocastici vengono classificati come segue:

a stati continui (X è un insieme continuo, ad es. XR)

a stati discreti (X è un insieme discreto, ad es. X={x1,x2,…,xn})

a stati finiti se n < +

a stati infiniti se n = +

sono anche detti catene

5

Esiste anche un’altra classificazione dei processi stocastici

a tempo continuo (T è un insieme continuo, ad es. T R+{0})

a tempo discreto (T è un insieme discreto, ad es. T=N)

6

Esempi

1) x è pari al numero di persone in una coda

X={0,1, … } spazio di stato discreto

T= R+ {0} tempo continuo

2) x è pari all’altezza di una persona il giorno del suo compleanno

X= R+ {0} spazio di stato continuo

T = {0,1,…,n} tempo discreto

7

Ad un processo stocastico a stati discreti possiamo associare un numero infinito di funzioni di probabilità congiunta:

x1,x2,…,xn(t1,t2,… ,tn) = Pr(x(t1)=x1, x(t2)=x2, … , x(tn)=xn)

n 1

t1 < t2 < … < tn

x1 , x2 , … , xn X

Una definizione analoga vale per le densità di probabilità nel caso dei sistemi a stati continui.

8

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

X={0,1} dove x0=0 : testa e x1=1 : croce. 0(0) = Pr(x(0)=0) = 1/2

0,0(0,1) = Pr(x(0)=0, x(1)=0) = 1/4

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

0(0) = Pr(x(0)=0) = 1/2

0,0(0,1) = Pr(x(0)=0, x(1)=0) = 1/2

9

Processi stocastici stazionari

Un p.s. è detto stazionario se tutte le sue funzioni di probabilità (o densità di probabilità) sono stazionarie ossia invarianti per traslazioni nel tempo.

x1,x2,…,xn(t1,t2,… ,tn) = x1,x2,…,xn(t1+ ,t2+ ,… ,tn+ )

n 1

t1 < t2 < … < tn

x1 , x2 , … , xn X

T

N.B.

Se un p.s. è stazionario allora

t T x(t) =

10

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

X={0,1} dove x0=0 : testa e x1=1 : croce.

x(0) = 1/2

x(1) = 1/2

:

Sono p.s. stazionari.

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

x(0) = x(1) = … = 1/2

11

Esempio: Una macchina può essere guasta x0=0 o funzionante x1=1 ( X={0,1} ).

Vogliamo studiare la probabilità che la macchina sia guasta in un certo anno T={0, 1, … , } (anni di funzionamento).

Ovviamente la probabilità di guasto aumenta con gli anni.

0(t)=1-(0.9)t

1(t)=(0.9) t

Non è stazionario.

t xi xi x(t)0 01 10 0.11 0.90 0.191 0.810 0.271 0.73

0

1

2

3

:

1

0.9

0.81

0.73

12

Processi stocastici ergodici

Un processo stazionario si dice ergodico se tutte le proprietà statistiche possono essere determinate da un’unica realizzazione del processo.

Il valore atteso della v.a. in un qualunque istante coincide con la media temporale di una qualunque realizzazione.

Definizione formale:

13

finale

finale

t

0finalet

n

0tn

x(t)dtt

1limμ

x(t)n1

limμ

ˆ

ˆ processi a tempo discreto

processi a tempo continuo

Il p.s. è ergodico se:

1) il limite esiste

2) tale limite non dipende dalla particolare realizzazione

3)

μ̂

μμˆ

Si consideri un p.s. stazionario e sia la media di ogni v.a. (X, (t)), al tempo t T. Per ogni possibile realizzazione posso calcolare la media temporale:

μ

14

Lo studio di un p.s. ergodico può pertanto essere effettuato sulla base di una sola realizzazione.

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

X={0,1} dove x0=0 : testa e x1=1 : croce.

x(0) = 1/2 x(1) = 1/2 … 1/2μμ ˆ

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

Ho solo 2 possibili realizzazioni. Il limite esiste ma dipende dalla realizzazione.

μ̂

ergodico

non ergodico

15

Processi stocastici indipendenti

Un p.s. è indipendente se i valori assunti dal processo in istanti di tempo diversi sono v.a. indipendenti. Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

Pr(x(2)=0 | x(1)=0) = 1/2 = Pr(x(2)=0)

p.s. indipendenteEsempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

Pr(x(2)=0 | x(1)=0) = 1 Pr(x(2)=0)

p.s. non indipendente

16

Processi stocastici markoviani

Un p.s. è markoviano (o di Markov) se la legge di probabilità che governa i cambiamenti di stato in un dato istante di tempo dipende solo dal valore assunto dallo stato nell’istante di tempo precedente e non da tutti i precedenti valori assunti dallo stato

Pr(x(tn)=xn | x(tn-1)=xn-1) =

Pr(x(tn)=xn | x(tn-1)=xn-1, x(tn-2)=xn-2, … x(t1)=x1)

Il processo non ha memoria di quanto accaduto prima di raggiungere lo stato attuale.

17

Esempio di processo non markoviano: Ho un urna con 2 palline, una bianca e una nera.

Effettuo delle estrazioni e ogni volta rimetto 2 palline dello stesso colore di quelle che ho tolto.

Esempio di Processo markoviano: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

18

Processi stocastici semi-markoviani generalizzatiUn p.s. semi-markoviano generalizzato è una estensione di un p.s. markoviano.

In particolare in questo caso la legge di probabilità che governa i cambiamenti di stato in un dato istante di tempo dipende sia dal valore assunto dallo stato nell’istante di tempo precedente sia dal tempo di permanenza in tale stato.

19

Processi di conteggio

Un p.s. X(t) è detto processo di conteggio se conta il numero totale di eventi accaduti fino al tempo t, ossia nell’intervallo (0,t].

I processi di conteggio sono una speciale classe di p.s.:

• a tempo continuo

• a stati discreti istanti di tempo in cui si verificano gli eventinumero

di eventi

20

Per definizione un processo di conteggio verifica le seguenti condizioni:

(i) X(t) 0

(ii) X(t) N

(iii) se t’ t’’ X(t’) X(t’’)

(iv) se t’ < t’’ la v.a. X(t’’) - X(t’) conta il numero di eventi accaduti in

(t’,t’’].

21

Definizione

Un processo di conteggio ammette incrementi indipendenti se

t 0, h > 0,

le v.a. X(t+ h) - X(t) e X(t) sono tra loro indipendenti.

Il numero di eventi in (t,t+ h] è indipendente dal numero di eventi in (0,t].

22

Definizione

Un processo di conteggio ammette incrementi stazionari se

t’, t’’ 0, h > 0,

le v.a. X(t’+ h) - X(t’) e X(t’’+ h) - X(t’’) hanno la stessa distribuzione di probabilità.

La probabilità di avere un certo numero di eventi in un dato intervallo di tempo dipende solo dall’ampiezza dell’intervallo stesso.

23

Processo di Poisson

Un processo di Poisson è un caso particolare di processo di conteggio.

È particolarmente importante perché un gran numero di fenomeni fisici possono essere descritti (almeno in prima approssimazione) da tale processo:

ossia conta gli eventi che si verificano in modo molto casuale ma indipendente dal tempo.

N.B.

Nel seguito si farà sempre l’ipotesi che due eventi non possano verificarsi mai contemporaneamente.

24

Definizione

Un p.s. X(t), t 0, è detto Processo di Poisson con parametro (o intensità, o tasso) se:

(i) X(0) = 0

(ii) il processo ha incrementi indipendenti

(iii) t 0, h > 0, la v.a. X(t+ h) - X(t) ha distribuzione di Poisson di parametro h.

altrimenti0

Nxx!

e

Pr(x)

x -

Var[X]E[X]

R+

25

Proprietà:

Come conseguenza della

(iii) t 0, h > 0, la v.a. X(t+ h) - X(t) ha distribuzione di Poisson di parametro h

• E[X(t)] = t e

• il processo ha incrementi stazionari.

Possiamo pertanto dare la seguente altra definizione di processo di Poisson.

26

Definizione

Un processo di Poisson X(t) è un processo di conteggio con incrementi indipendenti e stazionari e tale per cui la v.a. X(t+ h) - X(t) ha

distribuzione di Poisson di parametro h, t 0, h > 0.

N.B.

Il parametro ha le dimensioni dell’inverso del tempo e rappresenta il numero di eventi nell’unità di tempo.

Il rapporto 1/ rappresenta pertanto il tempo medio tra due eventi successivi.

27

Proprietà (la diamo senza dimostrazione):

I tempi di inter-evento (ossia i tempi tra due eventi successivi) di un processo di Poisson sono una sequenza di v.a. indipendenti aventi distribuzione esponenziale.

In particolare, la corrispondente funzione di densità di probabilità è

0t00te(t)

tλλ

dove è il parametro caratteristico del processo di Poisson.

1

(t)dttμ0

Infatti: è il tempo medio di inter-evento.

28

Ricordiamo preliminarmente che nel caso di densità di probabilità esponenziale con parametro , la funzione di distribuzione cumulativa di probabilità vale:

F(t) = 1 - e- t

Memoryless property

Ora, supponiamo che un evento si verifichi al tempo T.

Sia T + V il tempo in cui si verifica l’evento successivo.

Supponiamo che al tempo T+z > T l’evento successivo NON si sia verificato.

Si è verificato l’evento [V>z].

29

T T+z

T+z + t

V

età dell’evento

Calcoliamo la probabilità che si verifichi l’evento [V z + t ] per un generico t> 0, dato che si è verificato l’evento [V > z].

Probabilità condizionata

30

z]Pr[V1t]zVPr[z

z]Pr[Vz]VandtzPr[V

z]V|tzPr[V

Poiché i tempi di inter-evento sono caratterizzati da una distribuzione esponenziale

z-e-1F(z)z]Pr[V

t-z-

z-t-z-

z-

z-t)(z-

e1e

eee-e

e-(1e-(1z]V|tzPr[V

))

31

t-e1z]V|tzPr[V

Tale probabilità condizionata verifica allora le seguenti proprietà:

(1) non dipende da z(2) è identica a F(t) = Pr[V t]

Questa è la proprietà memoryless (priva di memoria) della distribuzione esponenziale.

32

Teorema (la diamo senza dimostrazione):

La memoryless property vale per qualunque distribuzione esponenziale

e

se una distribuzione gode della memoryless property deve necessariamente essere esponenziale.Riassumendo:

Processo di Poisson Tempi di inter-

evento esponenziali

Memoryless property

33

Proprietà:

Il p.s. risultante dalla sovrapposizione di m processi di Poisson mutuamente indipendenti, caratterizzati dai parametri i, i=1, …, m, è ancora un processo di Poisson caratterizzato dal parametro = 1 + … + m.

34

Esempio: Il processo degli arrivi in coda ad un semaforo è Poissoniano?

Se il precedente semaforo è molto lontano potrebbe esserlo poiché gli arrivi sarebbero indipendenti.

Se invece il precedente semaforo è vicino, allora le macchine arrivano generalmente a piccoli gruppi e non sono indipendenti.

Questo naturalmente nell’ipotesi che il flusso delle macchine sia indipendente dal tempo.