1 3. processi stocastici un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni...

34
1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme di possibili valori tT : generico istante di tempo (T: insieme dei possibili istanti di tempo, o asse temporale) (t) : funzione di probabilità (o di densità di probabilità nel caso continuo) all’istante di tempo t (X, (t)) tT

Upload: alberto-basile

Post on 01-May-2015

219 views

Category:

Documents


2 download

TRANSCRIPT

Page 1: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

1

3. Processi Stocastici

Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a.

Notazione:

X : insieme di possibili valori

tT : generico istante di tempo (T: insieme dei possibili istanti di tempo, o asse

temporale)

(t) : funzione di probabilità (o di densità di probabilità nel caso continuo) all’istante di

tempo t(X, (t)) tT

Page 2: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

2

Una realizzazione di un processo stocastico (X, (t)) tT è una particolare evoluzione x(t) per tT.

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t = 0,1,2,…

X={0,1} dove x0=0 : esce testa e x1=1 : esce croce.

tempo xi (xi)

0 1/2 1 1/2 0 1/2

1 1/2

: : :

0

1

(X, (0))

(X, (1))

t xi

0 0

1 0

2 1

3 0

: :

possibile realizzazione

Page 3: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

3

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

La tabella (tempo, xi, (xi)) è uguale alla precedente ma vi sono solo 2 possibili realizzazionitempo xi

(xi)

0 1/2 1 1/2 0 1/2

1 1/2

: : :

0

1

t x1 x2

0 0 1

1 0 1

2 0 1

3 0 1

: : :

La tabella (tempo, xi, (xi)) non è sufficiente per descrivere completamente un processo stocastico.

Page 4: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

4

I processi stocastici vengono classificati come segue:

a stati continui (X è un insieme continuo, ad es. XR)

a stati discreti (X è un insieme discreto, ad es. X={x1,x2,…,xn})

a stati finiti se n < +

a stati infiniti se n = +

sono anche detti catene

Page 5: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

5

Esiste anche un’altra classificazione dei processi stocastici

a tempo continuo (T è un insieme continuo, ad es. T R+{0})

a tempo discreto (T è un insieme discreto, ad es. T=N)

Page 6: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

6

Esempi

1) x è pari al numero di persone in una coda

X={0,1, … } spazio di stato discreto

T= R+ {0} tempo continuo

2) x è pari all’altezza di una persona il giorno del suo compleanno

X= R+ {0} spazio di stato continuo

T = {0,1,…,n} tempo discreto

Page 7: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

7

Ad un processo stocastico a stati discreti possiamo associare un numero infinito di funzioni di probabilità congiunta:

x1,x2,…,xn(t1,t2,… ,tn) = Pr(x(t1)=x1, x(t2)=x2, … , x(tn)=xn)

n 1

t1 < t2 < … < tn

x1 , x2 , … , xn X

Una definizione analoga vale per le densità di probabilità nel caso dei sistemi a stati continui.

Page 8: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

8

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

X={0,1} dove x0=0 : testa e x1=1 : croce. 0(0) = Pr(x(0)=0) = 1/2

0,0(0,1) = Pr(x(0)=0, x(1)=0) = 1/4

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

0(0) = Pr(x(0)=0) = 1/2

0,0(0,1) = Pr(x(0)=0, x(1)=0) = 1/2

Page 9: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

9

Processi stocastici stazionari

Un p.s. è detto stazionario se tutte le sue funzioni di probabilità (o densità di probabilità) sono stazionarie ossia invarianti per traslazioni nel tempo.

x1,x2,…,xn(t1,t2,… ,tn) = x1,x2,…,xn(t1+ ,t2+ ,… ,tn+ )

n 1

t1 < t2 < … < tn

x1 , x2 , … , xn X

T

N.B.

Se un p.s. è stazionario allora

t T x(t) =

Page 10: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

10

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

X={0,1} dove x0=0 : testa e x1=1 : croce.

x(0) = 1/2

x(1) = 1/2

:

Sono p.s. stazionari.

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

x(0) = x(1) = … = 1/2

Page 11: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

11

Esempio: Una macchina può essere guasta x0=0 o funzionante x1=1 ( X={0,1} ).

Vogliamo studiare la probabilità che la macchina sia guasta in un certo anno T={0, 1, … , } (anni di funzionamento).

Ovviamente la probabilità di guasto aumenta con gli anni.

0(t)=1-(0.9)t

1(t)=(0.9) t

Non è stazionario.

t xi xi x(t)0 01 10 0.11 0.90 0.191 0.810 0.271 0.73

0

1

2

3

:

1

0.9

0.81

0.73

Page 12: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

12

Processi stocastici ergodici

Un processo stazionario si dice ergodico se tutte le proprietà statistiche possono essere determinate da un’unica realizzazione del processo.

Il valore atteso della v.a. in un qualunque istante coincide con la media temporale di una qualunque realizzazione.

Definizione formale:

Page 13: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

13

finale

finale

t

0finalet

n

0tn

x(t)dtt

1limμ

x(t)n1

limμ

ˆ

ˆ processi a tempo discreto

processi a tempo continuo

Il p.s. è ergodico se:

1) il limite esiste

2) tale limite non dipende dalla particolare realizzazione

3)

μ̂

μμˆ

Si consideri un p.s. stazionario e sia la media di ogni v.a. (X, (t)), al tempo t T. Per ogni possibile realizzazione posso calcolare la media temporale:

μ

Page 14: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

14

Lo studio di un p.s. ergodico può pertanto essere effettuato sulla base di una sola realizzazione.

Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

X={0,1} dove x0=0 : testa e x1=1 : croce.

x(0) = 1/2 x(1) = 1/2 … 1/2μμ ˆ

Esempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

Ho solo 2 possibili realizzazioni. Il limite esiste ma dipende dalla realizzazione.

μ̂

ergodico

non ergodico

Page 15: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

15

Processi stocastici indipendenti

Un p.s. è indipendente se i valori assunti dal processo in istanti di tempo diversi sono v.a. indipendenti. Esempio: si lancia una moneta per un numero infinito di volte agli istanti t=0,1,2,…

Pr(x(2)=0 | x(1)=0) = 1/2 = Pr(x(2)=0)

p.s. indipendenteEsempio: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

Pr(x(2)=0 | x(1)=0) = 1 Pr(x(2)=0)

p.s. non indipendente

Page 16: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

16

Processi stocastici markoviani

Un p.s. è markoviano (o di Markov) se la legge di probabilità che governa i cambiamenti di stato in un dato istante di tempo dipende solo dal valore assunto dallo stato nell’istante di tempo precedente e non da tutti i precedenti valori assunti dallo stato

Pr(x(tn)=xn | x(tn-1)=xn-1) =

Pr(x(tn)=xn | x(tn-1)=xn-1, x(tn-2)=xn-2, … x(t1)=x1)

Il processo non ha memoria di quanto accaduto prima di raggiungere lo stato attuale.

Page 17: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

17

Esempio di processo non markoviano: Ho un urna con 2 palline, una bianca e una nera.

Effettuo delle estrazioni e ogni volta rimetto 2 palline dello stesso colore di quelle che ho tolto.

Esempio di Processo markoviano: si lancia una moneta all’istante t=0 e la si lascia nella stessa posizione per ogni t > 0.

Page 18: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

18

Processi stocastici semi-markoviani generalizzatiUn p.s. semi-markoviano generalizzato è una estensione di un p.s. markoviano.

In particolare in questo caso la legge di probabilità che governa i cambiamenti di stato in un dato istante di tempo dipende sia dal valore assunto dallo stato nell’istante di tempo precedente sia dal tempo di permanenza in tale stato.

Page 19: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

19

Processi di conteggio

Un p.s. X(t) è detto processo di conteggio se conta il numero totale di eventi accaduti fino al tempo t, ossia nell’intervallo (0,t].

I processi di conteggio sono una speciale classe di p.s.:

• a tempo continuo

• a stati discreti istanti di tempo in cui si verificano gli eventinumero

di eventi

Page 20: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

20

Per definizione un processo di conteggio verifica le seguenti condizioni:

(i) X(t) 0

(ii) X(t) N

(iii) se t’ t’’ X(t’) X(t’’)

(iv) se t’ < t’’ la v.a. X(t’’) - X(t’) conta il numero di eventi accaduti in

(t’,t’’].

Page 21: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

21

Definizione

Un processo di conteggio ammette incrementi indipendenti se

t 0, h > 0,

le v.a. X(t+ h) - X(t) e X(t) sono tra loro indipendenti.

Il numero di eventi in (t,t+ h] è indipendente dal numero di eventi in (0,t].

Page 22: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

22

Definizione

Un processo di conteggio ammette incrementi stazionari se

t’, t’’ 0, h > 0,

le v.a. X(t’+ h) - X(t’) e X(t’’+ h) - X(t’’) hanno la stessa distribuzione di probabilità.

La probabilità di avere un certo numero di eventi in un dato intervallo di tempo dipende solo dall’ampiezza dell’intervallo stesso.

Page 23: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

23

Processo di Poisson

Un processo di Poisson è un caso particolare di processo di conteggio.

È particolarmente importante perché un gran numero di fenomeni fisici possono essere descritti (almeno in prima approssimazione) da tale processo:

ossia conta gli eventi che si verificano in modo molto casuale ma indipendente dal tempo.

N.B.

Nel seguito si farà sempre l’ipotesi che due eventi non possano verificarsi mai contemporaneamente.

Page 24: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

24

Definizione

Un p.s. X(t), t 0, è detto Processo di Poisson con parametro (o intensità, o tasso) se:

(i) X(0) = 0

(ii) il processo ha incrementi indipendenti

(iii) t 0, h > 0, la v.a. X(t+ h) - X(t) ha distribuzione di Poisson di parametro h.

altrimenti0

Nxx!

e

Pr(x)

x -

Var[X]E[X]

R+

Page 25: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

25

Proprietà:

Come conseguenza della

(iii) t 0, h > 0, la v.a. X(t+ h) - X(t) ha distribuzione di Poisson di parametro h

• E[X(t)] = t e

• il processo ha incrementi stazionari.

Possiamo pertanto dare la seguente altra definizione di processo di Poisson.

Page 26: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

26

Definizione

Un processo di Poisson X(t) è un processo di conteggio con incrementi indipendenti e stazionari e tale per cui la v.a. X(t+ h) - X(t) ha

distribuzione di Poisson di parametro h, t 0, h > 0.

N.B.

Il parametro ha le dimensioni dell’inverso del tempo e rappresenta il numero di eventi nell’unità di tempo.

Il rapporto 1/ rappresenta pertanto il tempo medio tra due eventi successivi.

Page 27: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

27

Proprietà (la diamo senza dimostrazione):

I tempi di inter-evento (ossia i tempi tra due eventi successivi) di un processo di Poisson sono una sequenza di v.a. indipendenti aventi distribuzione esponenziale.

In particolare, la corrispondente funzione di densità di probabilità è

0t00te(t)

tλλ

dove è il parametro caratteristico del processo di Poisson.

1

(t)dttμ0

Infatti: è il tempo medio di inter-evento.

Page 28: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

28

Ricordiamo preliminarmente che nel caso di densità di probabilità esponenziale con parametro , la funzione di distribuzione cumulativa di probabilità vale:

F(t) = 1 - e- t

Memoryless property

Ora, supponiamo che un evento si verifichi al tempo T.

Sia T + V il tempo in cui si verifica l’evento successivo.

Supponiamo che al tempo T+z > T l’evento successivo NON si sia verificato.

Si è verificato l’evento [V>z].

Page 29: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

29

T T+z

T+z + t

V

età dell’evento

Calcoliamo la probabilità che si verifichi l’evento [V z + t ] per un generico t> 0, dato che si è verificato l’evento [V > z].

Probabilità condizionata

Page 30: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

30

z]Pr[V1t]zVPr[z

z]Pr[Vz]VandtzPr[V

z]V|tzPr[V

Poiché i tempi di inter-evento sono caratterizzati da una distribuzione esponenziale

z-e-1F(z)z]Pr[V

t-z-

z-t-z-

z-

z-t)(z-

e1e

eee-e

e-(1e-(1z]V|tzPr[V

))

Page 31: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

31

t-e1z]V|tzPr[V

Tale probabilità condizionata verifica allora le seguenti proprietà:

(1) non dipende da z(2) è identica a F(t) = Pr[V t]

Questa è la proprietà memoryless (priva di memoria) della distribuzione esponenziale.

Page 32: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

32

Teorema (la diamo senza dimostrazione):

La memoryless property vale per qualunque distribuzione esponenziale

e

se una distribuzione gode della memoryless property deve necessariamente essere esponenziale.Riassumendo:

Processo di Poisson Tempi di inter-

evento esponenziali

Memoryless property

Page 33: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

33

Proprietà:

Il p.s. risultante dalla sovrapposizione di m processi di Poisson mutuamente indipendenti, caratterizzati dai parametri i, i=1, …, m, è ancora un processo di Poisson caratterizzato dal parametro = 1 + … + m.

Page 34: 1 3. Processi Stocastici Un processo stocastico è una funzione del tempo i cui valori x(t) ad ogni istante di tempo t sono v.a. Notazione: X : insieme

34

Esempio: Il processo degli arrivi in coda ad un semaforo è Poissoniano?

Se il precedente semaforo è molto lontano potrebbe esserlo poiché gli arrivi sarebbero indipendenti.

Se invece il precedente semaforo è vicino, allora le macchine arrivano generalmente a piccoli gruppi e non sono indipendenti.

Questo naturalmente nell’ipotesi che il flusso delle macchine sia indipendente dal tempo.