part iii modelos box-jenkinseio.usc.es/eipc1/base/basemaster/formularios-php/... · 2014-02-12 ·...

Series deTiempo

GermanAneiros Perez

Introduccion

ProcesosARMA:Definicion eidentificacion

ProcesosARIMA:Definicion eidentificacion

ProcesosARIMA:Estimacion ydiagnosis

ProcesosARIMA:Seleccion delmodelo yprediccion

ProcesosARIMAestacionales:Definicion eidentificacion

ProcesosARIMAestacionales:Estimacion,diagnosis,seleccion delmodelo yprediccion

Aplicacion adatos reales

Recapitulacion

Part III

Modelos Box-Jenkins

German Aneiros Perez Series de Tiempo

Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Bibliografıa

Bibliografıa

Brockwell, P.J. y Davis, R.A. (2002).Introduction to Time Series and Forecasting. 2a edicion.Springer.

Cowpertwait, P.S.P. y Metcalfe, A.V. (2009).Introductory Time Series with R. Springer.

Cryer, J.D. y Chan, K-S (2008).Time Series Analysis. With Applications in R. 2a edicion.Springer.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Bibliografıa

Bibliografıa

Gonzalez, M. y del Puerto, I.M. (2009).Series Temporales. Coleccion manuales uex-60.

Pena, D. (2005).Analisis de Series Temporales. Alianza Editorial.

Shumway, R.H. y Stoffer, D.S. (2006).Time Series Analysis and Its Applications. With RExamples. 2a edicion. Springer.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Introduccion

Comenzamos recordando la notacion general:

x1, x2, . . . , xT : serie de tiempo.

{Xt}t : proceso generador de la serie de tiempo.

{at}t : proceso de ruido blanco (innovaciones).

Ademas, supondremos que:

at es independiente de Xt−1,Xt−2, . . .

Esto implica que el conocimiento de los valores deXt−1,Xt−2, . . . no aporta informacion acerca de at .


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Introduccion

El primer objetivo de este tema es la construccion de unmodelo estocastico sencillo que, de forma razonable, hayapodido generar a la serie de tiempo de que disponemos.

Entonces, basandonos en dicho modelo, podremos:

Comprender la dinamica de la serie de tiempo.

Efectuar predicciones de valores futuros de la serie detiempo.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Introduccion

La planificacion del presente tema puede resumirse en lassiguientes etapas:

1 Presentacion de una clase de modelos estocasticosparametricos pero flexibles (han demostrado su utilidadcomo posibles generadores de series de tiempo reales).

2 Exposicion de tecnicas que nos permitan seleccionaralguno de dichos modelos como generador de nuestra seriede tiempo.

3 Construccion de estimadores para los parametros delmodelo.

4 Prediccion de futuros valores de la serie en base al modeloestimado.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso autorregresivo AR(1): Ejemplo

Imaginemos que deseamos construir un modelo para lacantidad de agua (Xt) que hay al final del mes t en un embalse.Puesto que dicha cantidad es aleatoria, el modelo ha de ser unmodelo estocastico. Haremos las siguientes suposiciones:

Durante el mes t llega al embalse una cantidad de aguac + at , siendo c la cantidad media de agua que llega y at

una v.a. de media cero y varianza constante que hace quela entrada de agua varıe de un mes a otro.

Cada mes se gasta una proporcion fija 1− φ1 de lasexistencias iniciales.

Se tiene que el modelo buscado es:

Xt = c + φ1Xt−1 + at .


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso autorregresivo AR(1): Definicion

Un proceso estacionario {Xt}t que admite la representacion

Xt = c + φ1Xt−1 + at ,

donde c y φ1 son constantes, se conoce como un “procesoautorregresivo de orden 1”, y se denota por AR(1).

Se verifica que:

El proceso AR(1) explica el valor actual (Xt) como unafuncion lineal de 1 valor pasado (Xt−1).

El proceso AR(1) siempre es invertible.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Ejemplos de la fas y la fap de procesos AR(1)

AR(1): φ1 > 0 AR(1): φ1 < 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso autorregresivo AR(2): Definicion


Xt = c + φ1Xt−1 + φ2Xt−2 + at ,

donde c, φ1 y φ2 son constantes, se conoce como un “procesoautorregresivo de orden 2”, y se denota por AR(2).

Se verifica que:

El proceso AR(2) explica el valor actual (Xt) como unafuncion lineal de 2 valores pasados (Xt−1 y Xt−2).

El proceso AR(2) siempre es invertible.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


AR(2): φ1 > 0, φ2 > 0 AR(2): φ1 < 0, φ2 > 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


AR(2): φ1 > 0, φ2 < 0 AR(2): φ1 < 0, φ2 < 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso autorregresivo AR(p): Definicion


Xt = c + φ1Xt−1 + φ2Xt−2 + · · ·+ φpXt−p + at ,

donde c, φ1, . . . , φp son constantes, se conoce como un“proceso autorregresivo de orden p”(AR(p)).

Se verifica que:

Estacionario ⇔ 1− φ1z − φ2z2 − · · · − φpzp 6= 0

∀z con |z | = 1.

Causal ⇔ 1−φ1z −φ2z2− · · · −φpzp 6= 0 ∀z con |z | ≤ 1.

Siempre es invertible.

La fap se anula para todo retardo mayor que p.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso de medias moviles MA(1): Definicion

Un proceso {Xt}t que admite la representacion

Xt = c + at + θ1at−1,

donde c y θ1 son constantes, se conoce como un “proceso demedias moviles de orden 1”, y se denota por MA(1).

Se verifica que:

El proceso MA(1) explica el valor actual (Xt) como unafuncion lineal de 1 valor pasado de un proceso de ruidoblanco (at−1).

El proceso MA(1) siempre es estacionario y causal.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Ejemplos de la fas y la fap de procesos MA(1)

MA(1): θ1 > 0 MA(1): θ1 < 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso de medias moviles MA(2): Definicion


Xt = c + at + θ1at−1 + θ2at−2,

donde c, θ1 y θ2 son constantes, se conoce como un “procesode medias moviles de orden 2”, y se denota por MA(2).

Se verifica que:

El proceso MA(2) explica el valor actual (Xt) como unafuncion lineal de 2 valores pasados de un proceso de ruidoblanco (at−1 y at−2).

El proceso MA(2) siempre es estacionario y causal.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


MA(2): θ1 > 0, θ2 > 0 MA(2): θ1 < 0, θ2 > 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


MA(2): θ1 > 0, θ2 < 0 MA(2): θ1 < 0, θ2 < 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Proceso de medias moviles MA(q): Definicion


Xt = c + at + θ1at−1 + θ2at−2 + · · ·+ θqat−q,

donde c, θ1, . . . , θq son constantes, se conoce como un“proceso de medias moviles de orden q”(MA(q)).

Se verifica que:

Siempre es estacionario y causal.

Invertible ⇔ 1 + θ1z + θ2z2 + · · ·+ θpzq 6= 0

∀z con |z | ≤ 1.

La fas se anula para todo retardo mayor que q.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARMA: Ejemplos

La introduccion en un mismo proceso estacionario deestructura autorregresiva (AR) y de medias moviles (MA) dalugar a los procesos ARMA.

Ası, por ejemplo, se tienen los procesos:

ARMA(1,1): Xt = c + φ1Xt−1 + at + θ1at−1.

ARMA(2,1): Xt = c + φ1Xt−1 + φ2Xt−2 + at + θ1at−1.

ARMA(1,2): Xt = c + φ1Xt−1 + at + θ1at−1 + θ2at−2.

ARMA(2,2):

Xt = c + φ1Xt−1 + φ2Xt−2 + at + θ1at−1 + θ2at−2.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Ejemplos de la fas y la fap de procesos ARMA(1,1)

ARMA(1,1): φ1 > 0, θ1 > 0 ARMA(1,1): φ1 < 0, θ1 < 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


ARMA(1,1): φ1 > 0, θ1 < 0 ARMA(1,1): φ1 > 0, θ1 < 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


ARMA(1,1): φ1 < 0, θ1 > 0 ARMA(1,1): φ1 < 0, θ1 > 0


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARMA(p,q): Definicion


Xt = c + φ1Xt−1 + φ2Xt−2 + · · ·+ φpXt−p

+at + θ1at−1 + θ2at−2 + · · ·+ θqat−q,

donde c, φ1, . . . , φp, θ1, . . . , θq son constantes, se conoce comoun proceso ARMA(p,q).

Se verifica que:

c = µ (1− φ1 − · · · − φp).

ARMA(p,0) ⇔ AR(p).

ARMA(0,q) ⇔ MA(q).


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


Estacionario ⇔ 1− φ1z − φ2z2 − · · · − φpzp 6= 0

∀z con |z | = 1.

Causal ⇔ 1−φ1z −φ2z2− · · · −φpzp 6= 0 ∀z con |z | ≤ 1.

Invertible ⇔ 1 + θ1z + θ2z2 + · · ·+ θpzq 6= 0

∀z con |z | ≤ 1.

La clase de procesos ARMA es muy flexible:

Si {Yt} es un proceso estacionario tal que γY ,h → 0cuando h→∞, entonces, dado cualquier numero enterok > 0, existe un proceso ARMA {Xt} tal que γX ,h = γY ,h

∀h = 0, 1, . . . , k .


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


La ecuacion que define al proceso ARMA(p,q)

Xt = c + φ1Xt−1 + φ2Xt−2 + · · ·+ φpXt−p

+at + θ1at−1 + θ2at−2 + · · ·+ θqat−q,

se puede escribir en la forma compacta

φ (B) Xt = c + θ (B) at ,

donde

φ (B) =(1− φ1B − φ2B2 − · · · − φpBp

),

θ (B) =(1 + θ1B + θ2B2 + · · ·+ θqBq

)y B denota al operador retardo, definido por BXt = Xt−1.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARMA(p,q): Identificacion

fas fap

AR(p)Muchos coeficientesno nulos∗

Se anula para todoretardo mayor que p

MA(q)Se anula para todoretardo mayor que q

Muchos coeficientesno nulos∗

ARMA(p,q)Muchos coeficientesno nulos∗

Muchos coeficientesno nulos∗

∗A partir de los primeros retardos, convergen muy rapidamentea cero, como suma de funciones exponenciales y/o sinusoidales.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


La clase de procesos ARMA que acabamos de estudiar:

Es una familia de procesos estacionarios.

Es muy flexible: puede modelizar gran variedad de seriesgeneradas por procesos estacionarios.

Dada una “serie de tiempo estacionaria”, trataremos demodelizarla a traves de un proceso ARMA(p,q).

Las primeras cuestiones a resolver son:

1 ¿Como asesorarnos acerca de si una serie de tiempo hasido generada o no por un proceso estacionario (ARMA)?

2 Si efectivamente ha sido generada por un proceso ARMA,¿como identificar los valores de p y q?


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

La serie de tiempo. . . ,¿ha sido generada por un proceso estacionario (ARMA)?

Serie estacionaria (ARMA)

El grafico de la serie frenteal tiempo debe mostrar:

Nivel constante.Variabilidad constante.

La fas muestral ρk debeconverger a cero muyrapidamente a medida queel retardo k crece.

Nivel no constante (tendencia)


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Varianza no constante Nivel y varianza no constantes


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Serie estacionaria Serie estacionaria


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


Dada una serie de tiempo generada por un proceso ARMA. . . ,¿cuales son los ordenes p y q correspondientes? (Identificacion)

Para responder a esta pregunta nos basaremos, en un principio,en la informacion que nos suministran la fas y la fap muestrales(ρk y αk , respectivamente).

Tanto ρk como αk dependen de la serie de tiempo observada, ysus valores cambiaran con ella (son aleatorios).

Por ello, para obtener informacion a partir de ρk y αk

necesitamos conocer su distribucion muestral.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


Distribucion muestral de ρk y de αk . InferenciaSi el tamano de la serie (T ) es “grande” se verifica que:

Ruido blanco i.i.d. ⇒

ρk ≈ N

(0,

1√T

), ∀ k

αk ≈ N

(0,

1√T

), ∀ k

Conclusion: Si la serie ha sido generada por un proceso de ruidoblanco i.i.d. deberıa cumplirse que, para cada k = 1, 2, . . . (conun nivel de significacion individual aproximado del 5%):

ρk ∈(−1.96√

T,

1.96√T

)y αk ∈

(−1.96√

T,

1.96√T

)German Aneiros Perez Series de Tiempo

Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Serie, fas y fap Conclusion

Los graficos de la izquierdasugieren que la serie:

1 Es estacionaria.

2 Ha sido generada por unproceso de ruido blanco.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


Distribucion muestral de αk . InferenciaBajo condiciones generales (incluyendo T “grande”) se verificaque:

AR(p) ⇒ αk ≈ N

(0,

1√T

), ∀ k > p.

Conclusion: Si la serie ha sido generada por un proceso AR(p)deberıa cumplirse que, para cada k > p (con un nivel designificacion individual aproximado del 5%):

αk ∈(−1.96√

T,

1.96√T

)


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins



1 Es estacionaria.

2 Ha sido generada por unproceso AR(2).


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


Distribucion muestral de ρk . InferenciaBajo condiciones generales (incluyendo T “grande”) se verificaque:

MA(q) ⇒ ρk ≈ N

0,

√1 + 2

(ρ2

1 + · · ·+ ρ2q

)√

T

, ∀ k > q.

Conclusion: Si la serie ha sido generada por un proceso MA(q)deberıa cumplirse que, para cada k > q (con un nivel designificacion individual aproximado del 5%):

ρk ∈

±1.96

√1 + 2

(ρ2

1 + · · ·+ ρ2q

)T


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins



1 Es estacionaria.

2 Ha sido generada por unproceso MA(1) o por unAR(2).


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


La identificacion de los ordenes p y q de un proceso ARMAmixto (p 6= 0 6= q) a partir del estudio de la fas (ρk) y la fap(αk) muestrales es una tarea muy complicada.

Tsay y Tao (1984) sugieren utilizar la funcion deautocorrelacion simple extendida (fase) muestral. El metodo sebasa en 3 etapas:

1 Asumir que la serie ha sido generada por un procesoARMA(k,j), y considerar varios valores para k y j.

2 Para cada par (k,j), extraer del proceso la parte AR.

3 Estudiar la fas de la parte restante (MA), denominadafase.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARMA(p,q): Identificacion. Ejemplo

Tabla relativa a la fase teorica de un proceso ARMA(1,1).

AR/MA 0 1 2 3 4 5 6 7 8 9 10 11 12 130 x x x x x x x x x x x x x x1 x o� o o o o o o o o o o o o2 x x o o o o o o o o o o o o3 x x x o o o o o o o o o o o4 x x x x o o o o o o o o o o5 x x x x x o o o o o o o o o6 x x x x x x o o o o o o o o7 x x x x x x x o o o o o o o

1


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins



1 Es estacionaria.

2 Ha sido generada por unproceso ARMA(p,q)mixto.

A continuacion, trataremos deidentificar los valores de p y q atraves de la fase muestral.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

fase muestral

AR/MA 0 1 2 3 4 5 6 7 8 9 10 11 12 130 x x x x o o o o o o o o x x1 x o o o o o o o x o o o o o2 x o o o o o o o o o o o o o3 x o x o o o o o o o o o o o4 x x x o o o o o o o o o o o5 x o x x x o o o o o o o o o6 x x x x x x o o o o o o o o7 x x x x x x x o o o o o o o

1

Conclusion

La tabla de la izquierda, juntocon la transparencia anterior,sugiere que la serie ha sidogenerada por un procesoARMA(1,1), o por un procesoARMA(2,1).


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARMA(p,q)

La clase de procesos ARMA que acabamos de estudiar es unafamilia muy flexible de procesos estacionarios.

Sin embargo, no abundan series reales generadas por procesosestacionarios:

Las series reales suelen presentar tendencia y/o patronesrepetitivos.

Por tanto:

Necesitamos ampliar la clase de procesos ARMA, de modoque la nueva clase permita incorporar estas caracterısticas.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARIMA(p,d,q): Introduccion

Sea {Vt}t un proceso estacionario.

El proceso Xt = β0 + β1t + Vt no es estacionario (tienetendencia determinista).

El proceso diferenciadoregularmente

Xt − Xt−1 = β1 + (Vt − Vt−1)

es estacionario.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


El paseo aleatorio Xt = Xt−1 + at no es estacionario. Porejemplo, si comienza en t = 0 y suponemos que x0 = 0, sumedia es estable (no tiene tendencia determinista), pero no loson ni sus varianzas ni sus autocovarianzas.

El paseo aleatorio diferenciadoregularmente

Xt − Xt−1 = at

es estacionario.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins


Los ejemplos anteriores muestran situaciones en las que laaplicacion de 1 diferencia regular consigue eliminar la tendenciay transformar un proceso no estacionario en otro estacionario.En base a esto, ante una serie con tendencia, sugerimos:

Eliminar la tendencia de la serie aplicando sucesivamented diferencias regulares (en general, d ≤ 3). Esto es, sidespues de diferenciar regularmente la serie persiste laexistencia de tendencia, diferenciaremos la seriediferenciada, y ası sucesivamente hasta obtener una seriesin tendencia.

Si la serie obtenida es estacionaria, modelizarla a traves deun proceso ARMA (recuerdese la gran capacidad que tienela clase ARMA para modelizar procesos estacionarios).


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARIMA(p,d,q): Definicion

Un proceso ARIMA(p,d,q) es aquel que, despues de aplicarle ddiferencias regulares, se convierte en un proceso ARMA(p,q).Es decir:

{Xt}t es ARIMA(p,d,q) ⇔ (1− B)d Xt es ARMA(p,q).

Equivalentemente:

{Xt}t es un proceso ARIMA(p,d,q) si admite unarepresentacion del tipo:

φ (B) (1− B)d Xt = c + θ (B) at ,

donde el polinomio φ (z) no tiene raıces de modulo 1.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Ejemplo: Proceso ARIMA(1,1,1)

La expresion del ARIMA(1,1,1) es

AR MA↓ ↓

(1− φ1B) (1− B) Xt = c + (1 + θ1B) at .↑

Dif.Operando en dicha expresion, se obtiene la representacion:

Xt = c + (1 + φ1) Xt−1 − φ1Xt−2 + at + θ1at−1,

que muestra de una manera explıcita la relacion existente entreel instante actual t y los instantes pasados t − 1 y t − 2.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Procesos ARIMA(p,d,q): Identificacion

En la practica, ante una serie real,...¿cuando propondremos un ARIMA como su posible generador?

Cuando muestre no estacionariedad provocada exclusivamentepor la presencia de tendencia.

La presencia de tendencia (necesidad de diferenciar la serie paraconvertirla en estacionaria) suele ser delatada por:

El grafico secuencial de la serie.

La fas muestral:

Toma valores positivos (a menudo proximos a 1 en losprimeros retardos, aunque no necesariamente).Decae lentamente a cero (decrecimiento lineal) a medidaque el retardo crece.


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Serie original (tendencia) Serie diferenciada (estacionaria)

Estos graficos sugieren que la serie original no es estacionaria, yque ha sido generada por un proceso ARIMA(0,1,0).


Series deTiempo

GermanAneiros Perez

Introduccion








Recapitulacion

Modelos Box-Jenkins

Serie original (tendencia) Serie diferenciada (estacionaria)

Sugerencia: serie original generada por un ARIMA(0,1,2).German Aneiros Perez Series de Tiempo

part iii modelos box-jenkinseio.usc.es/eipc1/base/basemaster/formularios-php/... · 2014-02-12 ·...

Documents