Estadstica 2009Maestra en Finanzas Universidad del CEMAProfesor: Alberto Landro Asistente: Julin R. Siri

Clase 91. Modelos Dinmicos y Procesos Estocsticos 2. Procesos AR(1) 3. Procesos AR(2) 4. Procesos MA(1) 5. Procesos MA(2) 6. Estacionariedad e Invertibilidad 7. Procesos ARMA

1. Modelos Dinmicos y Procesos EstocsticosProceso estocstico estacionario en sentido dbil Un proceso es estacionario de orden S cuando sus momentos de orden S son independientes del tiempo. Esto equivale a decir, segn la definicin dbil del proceso estocstico, que un proceso es estacionario si su media y varianza son iguales para cualquier t y si el valor de la covarianza entre dos perodos de tiempo depende solamente de la distancia o rezago entre esos dos perodos y no del tiempo en el cual se ha calculado la covarianza.E Y t1 Y t2 ...Y ts ! E Y t1 h Y t2 h ...Y ts h

ti , ti h T , i ! 1, 2,...

1. Modelos Dinmicos y Procesos Estocsticos Entonces, sea pues Yt un proceso estocstico, ser ste estacionario si cumple con

1 E (Yt ) ! Q

3 K k ! E ?(Yt Q )(Yt k Q )ADonde la ltima ecuacin habla sobre la covarianza con rezago k. A partir de lo visto, existen dos formas tendientes a evaluar si un proceso estocstico es o no estacionario. Una de las pruebas ms utilizadas es el llamado Test de Estacionariedad basado en el correlograma.

2 var(Yt ) ! E (Yt Q ) ! W2

2

1. Modelos Dinmicos y Procesos Estocsticos Para ello vamos a observar la Funcin de Autocorrelacin (FAC). La FAC del rezago k, que suele denotarse como k, se define como:

Kk Vk ! K0

Ya que la covarianza y la varianza estn medidas en las mismas unidades, k es un nmero puro que se encuentra entre -1 y +1. Sin embargo, sabemos que slo podremos trabajar con datos muestrales, o aplicando la terminologa de los modelos dinmicos, con alguna realizacin del proceso estocstico bajo estudio.

1. Modelos Dinmicos y Procesos EstocsticosEntonces vamos a trabajar con la funcin de autocorrelacin muestral (FACM), para la cual deberemos calcular la covarianza muestral al rezago k y la varianza muestral de la siguiente manera:

Kk !

(Y Y )(Yt t !1

T

t k

Y )

Y teniendo en cuenta que la varianza del proceso es:

T

K0 !

(Yt Y ) 2 t !1

T

T

Entonces la funcin de autocorrelacin muestral queda definida por:

Kk Vk ! K0

1. Modelos Dinmicos y Procesos Estocsticos La significancia estadstica de cualquier k puede ser evaluada a partir de su error estndar. Si estamos ante una serie de tiempo puramente aleatoria, los coeficientes de autocorrelacin muestral se distribuirn de forma aproximadamente normal con media cero y varianza 1/T, donde T es el nmero de observaciones de la muestra. Por lo tanto, a un nivel de significacin dado, si el k estimado se encuentra dentro del intervalo definido, podremos no rechazar la hiptesis nula respecto a que el verdadero valor de k es igual a 0.

1. Modelos Dinmicos y Procesos Estocsticos Recordemos entonces que las hiptesis a contrastar en este test son:

H0 :_ k ! 0 V H1 : _ k { 0 V

a a

Asimismo puede realizarse un test de significatividad conjunta en donde se evaluar si todos los coeficientes de autocorrelacin son simultneamente iguales a cero. Box y Pierce desarrollaron para ello el estadstico Q, el que se define de esta manera m

k2 Q !TVk !1

En donde m es la longitud del rezago. El estadstico se distribuye como una 2 con m grados de libertad.

1. Modelos Dinmicos y Procesos Estocsticos Si el Q calculado excede al Q crtico, a un determinado nivel de significacin, se puede entonces rechazar la hiptesis nula respecto a que todos los k son iguales a 0. Existe asimismo una variante del Test Q conocida como la prueba de Ljung, Box y Pierce (LBP). El estadstico para dicho test alternativo se define como: 2 m

Q

LBP

Vk ! T v (T 2) v k !1 T k

Tambin se distribuye como una chi cuadrado con m grados de libertad. La regla de decisin se realizar en este test de igual manera que en el planteo del test estadstico anterior.

1. Modelos Dinmicos y Procesos Estocsticos En el correlograma de la serie de precios de Petrobras podemos ver que las series de precios de activos financieros originales suelen mostrarnos una FAC positiva y convergente a 0 y un cierto nivel de FACP (slo significativa para el primer rezago).LAG 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 AC 0.9852 0.9679 0.9515 0.9313 0.913 0.8967 0.8799 0.8617 0.8463 0.8286 0.8095 0.7926 0.7751 0.7559 0.7377 0.72 0.7012 0.6849 0.6701 0.6538 PAC 0.9854 -0.0834 0.0357 -0.1483 0.081 0.0341 -0.0061 -0.0771 0.0856 -0.1041 -0.0161 0.0348 -0.0155 -0.0602 0.01 0 -0.0106 0.0554 0.0042 -0.0339 Q 488.22 960.37 1417.6 1856.5 2279.1 2687.7 3081.9 3460.7 3826.9 4178.6 4514.9 4838.1 5147.7 5442.8 5724.4 5993.3 6248.8 6493.1 6727.4 6950.9 Prob>Q 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000 0.0000

2. Procesos AR(1) Vamos a analizar los procesos autorregresivos, que son aquellos procesos estocsticos que, en mayor medida, pueden ser explicados por su propia historia.

Decamos que un proceso que no tiene memoria es un proceso autorregresivo de orden 0. Tericamente nuestro ruido blanco ser un proceso autorregresivo de orden 0, ya que cada observacin presente no estar influida por ninguna observacin del pasado.

2. Procesos AR(1)Y Sea un proceso _ t a AR(1):

Yt ! Q J1Yt 1 I tEntonces, ser condicin necesaria y suficiente, para que el proceso estocstico pueda ser considerado estacionario, que J1 sea, en valor absoluto, menor que la unidad.

1. Procesos AR(1) En esta ecuacin tenemos dos constantes Q y J1 , y I t , que es un ruido blanco. Si un modelo AR(1) es estacionario, entonces su esperanza y su varianza son constantes en el tiempo y se tiene que: a) E Y ! Q J E Y E I ! Q J E Y

t

1

t 1

t

1

t 1

Por lo que E Yt ! Q y !

Q 1 J1

2 b) var(Yt ) ! J1 var(Yt 1 ) var(I t ). Ahora si el proceso AR(1) es estacionario, entonces var(Yt ) ! var(Yt 1 ) y entonces

W I2 2 WY ! 1 J12

3. Procesos AR(1)La funcin de autocovarianzas asume la forma:

K j Y ! J1jK 0 Y

j ! 1, 2,...

Mientras que la FAC satisface la siguiente ecuacin en-diferencias:

V j Y ! J1 V j 1 Y Cuya solucin es:

j ! 1, 2,3,...

V j Y ! V1j Y La FACP ser de la forma:

j ! 1, 2,3,...

1 Y para j ! 1 V J jj Y ! 0 para j " 1

3. Procesos AR(1)Del sistema de ecuaciones de Yule-Walker obtenemos inmediatamente que:

YW ! V 1 J1Recurriendo a la frmula del coeficiente de determinacin que se utilizan en los modelos clsicos, se puede escribir:

R ! 12 1

W

2 I

AR 1

! V Y ! J W2 Y 2 1

2 1

3. Procesos AR(2) Pasemos ahora a los procesos autorregresivos de orden 2, que denotamos con AR(2), si responden a la siguiente formulacin:

Yt ! Q J1Yt 1 J2Yt 2 I t En este caso lo que estamos suponiendo es que la influencia que puede tener la historia en el comportamiento del proceso se resume en su rezago de orden 2. La FAC de un AR(2) tambin converge exponencialmente a 0.

4. Procesos AR(2)Siendo:

Yt ! Q J1Yt 1 J2Yt 2 I t

La representacin del proceso estocstico, la condicin de estacionariedad se verifica cuando las races de su ecuacin caracterstica:

* B ! 1 J1 B J2 B ! 02

Son, en mdulo, mayores que la unidad. Esta condicin implica las siguientes relaciones sobre los coeficientes del proceso:

J2 J1 1 J2 J1 1 J2 1

4. Procesos AR(2)La FAC del AR(2), que satisface la ecuacin en-diferencias:

V j Y ! J1 V j 1 Y J2 V j 2 Y

j " 0V j:

Queda determinada por los dos primeros valores de

J1 V1 Y ! 1 J2 J12 J2 V 2 Y ! 1 J2

4. Procesos AR(2)La varianza, definida por la relacin:2 W Y ! W I2 1 J1 V1 Y J2 V 2 Y

Se puede descomponer en: W I2 ; i) Una varianza debida a las innovaciones ii) Una varianza debida a las autocorrelaciones de primer orden del 1 1 V12 Y ; proceso, iii) Una varianza debida a la autocorrelacin parcial de segundo orden 1 del proceso, 1 J22 Y .

4. Procesos AR(2)En lo que hace a la expresin de las condiciones de estacionariedad en funcin de los coeficientes de autocorrelacin, teniendo en cuenta que:

J2 !

V 2 Y V Y 2 1

1 V Y 2 1

1

Se obtienen las siguientes desigualdades:

V1 Y 1 V 2 Y 1 V 2 Y " 2 V12 Y 1

4. Procesos AR(2)Teniendo en cuenta la expresin correspondiente a W dada anteriormente, y recurriendo nuevamente al coeficiente de determinacin, se puede escribir:2 I

R22 ! 1

W I2 AR 2

W2 Y

! V1 Y J1 V 2 Y J2

Generalizando, el coeficiente de determinacin correspondiente a una representacin AR(p) puede ser expresado utilizando la siguiente frmula recursiva:

R ! J pp R 12 p

2 p 1

R

2 p 1

p ! 1, 2,3,...

4. Procesos MA(1) Se llama proceso de medias mviles de orden uno (MA(1), por moving average), que se denota como

Yt ! Q I t U .I t 1En esta ecuacin tenemos dos constantes ( y ) y t, que es un ruido blanco. Como primeras propiedades de este proceso se tiene inmediatamente que Eyt= y tambin que Var yt= (1+ 2).

2

2. Procesos MA(1)Representacin MA(1) de la forma:

yt ! I t U1I t 1 ! 1 U1 B I t(donde: i) yt denota una variable centrada y ii) _I t a: WN-dbil), se verifica que:

K 0 Y ! W K j Y ! 0

2 I

1 U 2 1

K 1 Y ! U1W I2

j u 2

2. Procesos MA(1) Su funcin de autocorrelaciones ser de la forma: U1 V j Y ! 1 U12 0 j !1 ju2

As podemos obtener fcilmente que la autocorrelacin de primer orden obedece a una ecuacin de segundo grado de la forma:

V U U1 V1 ! 02 1 1

Y como:U1 ! 1 s 1 4 V12 2 V1

Slo puede asumir valores reales, para que el proceso sea invertible necesariamente se tiene que verificar que

2. Procesos MA(1)1 1 e V1 e 2 2

La condicin de invertibilidad exige que U1 e 1 y, por lo tanto, hay una nica representacin MA(1) invertible para cada funcin de autocorrelaciones. Los coeficientes de autocorrelacin parcial quedan definidos, en forma general por:

J jj Y !

U1j U12 1 1U2 j 1 1

j ! 1, 2,3,...

De esta expresin se concluye que J jj U1j y, por lo tanto, que la funcin de autocorrelaciones parciales est dominada por una funcin exponencialmente decreciente.

2. Procesos MA(1) Si el parmetro es negativo, entonces la FACP converge a cero exponencialmente alternando en signo y empezando por un valor positivo. Si en cambio el parmetro tiene signo positivo, entonces la convergencia va a ser con todos los valores de la FACP tomando signo negativo. Ntese entonces que un proceso MA(1) no puede generar nunca una FACP que sea siempre positiva.

4. Procesos MA(1) Veamos el correlograma de una serie generada para ser un MA(1)

5. Procesos MA(2) Un proceso de medias mviles de orden 2 (MA(2)) es un proceso estocstico que sigue la ley:

Yt ! Q I t U1I t 1 U 2I t 2 Siguiendo un proceso de inversin similar al que hicimos con el proceso MA(1), se puede probar fcilmente que la FACP de este proceso puede tener diversas formas, dependiendo de los signos y los valores relativos de 1 y 2. En cambio, la funcin de autocovarianza cumple: 2 2 2 2

K 0 ! W K ! (1 U1 U 2 ).W I K 1 ! U1.(1 U 2 ).W I2 K 2 ! U 2 .W2 I

3. Procesos MA(2)Representacin MA(2) de la forma:

Yt ! Q I t U1I t 1 U 2I t 2Condicin de invertibilidad: que las races de

5 B ! 1 U1 B U 2 B ! 02

Sean, en mdulo, mayores que la unidad. Es decir, que los coeficientes sean tales que:

2 U1 1 U U 2 U1 1 U 2 1

3. Procesos MA(2) De lo anterior se desprende que:U1 1 U 2 V 1 Y ! 1 U12 U 22 U 2 V 2 Y ! 1 U12 U 22 Y ! 0 Vj j u 3

Y los valores iniciales de los coeficientes pueden ser expresados como: K 0 Y 2 WI ! 1 U12 U 22

U2 !

K 2 Y W I2

K 1 Y U1 ! U1U 2 2 WI

5. Procesos MA(2) Veamos el correlograma de una serie generada para ser un MA(2).

6. Estacionariedad e Invertibilidad Las condiciones de estacionariedad e invertibilidad son impuestas respectivamente a los procesos AR(p) y MA(q). Decamos que es deseable que un proceso AR(p) sea estacionario de modo que se pueda estimar uno y slo un modelo y no uno que contenga infinitos parmetros, por ejemplo, por el cambio a cada momento del tiempo, de la esperanza del proceso. Las condiciones que se imponen a los AR buscan evitar que las sumatorias que se desarrollan se vuelvan infinitas y no converjan a 0. Los procesos AR(p) siempre son invertibles.

6. Estacionariedad e Invertibilidad En el caso de procesos de medias mviles, las condiciones similares a las de estacionariedad son las de invertibilidad. Cuando un proceso MA es invertible, entonces dicho proceso admite una representacin autorregresiva, donde los valores pasados de la variable yt reciben una ponderacin cada vez menor. Cuando presentamos los modelos autorregresivos supusimos que los procesos bajo estudio eran estacionarios. Sin embargo, las series de datos econmicos que usualmente se analizan se caracterizan por ser claramente no estacionarias, como ya vimos la clase pasada. Cuando esto ocurre, lo usual es que las primeras o segundas diferencias de la variable original s sean estacionarias.

4. Procesos ARMA(p,q) Las representaciones de procesos estocsticas vistas hasta aqu pueden ser llamadas formas puras. Sin embargo, en el anlisis emprico de series econmicas es muy frecuente encontrar representaciones que tienen una componente autorregresiva as como una componente de medias mviles. Estos modelos se denotan como modelos ARMA(p,q) donde p y q denotan las rdenes de los componentes autorregresivo y de medias mviles. La estructura de un ARMA(p,q) es:

Yt ! J1Yt 1 ... J pYt 1 I t U1I t 1 ... U q I t q

7. Procesos ARMA La FAC de un proceso ARMA(1,1) comienza del valor 1 que acabamos de mostrar y a partir de l, decrece a una tasa . Es decir, que la FAC se comporta a partir de k=1 como la FAC de un proceso AR(1). Generalizando: la FAC de un proceso ARMA(p,q) se comporta como la FAC de un AR(p) para todo k>q. Esto hace que la identificacin no sea tan sencilla, ya que la FAC y la FACP de un ARMA(p,q) heredan caractersticas de sus dos componentes.

7. Procesos ARMA Dado que no hay reglas claras como para la identificacin de los procesos por separado, lo ms comn es una iteracin hasta que se decide qu modelo es el que mejor ajusta. Por ejemplo, a la hora de definir un proceso ARMA(2,1) se comenzar por especificar un AR(2) y luego, al comprobar que los residuos siguen una forma MA(1) se especificar un ARMA(2,1).

yt ! J1. yt 1 J2 . yt 2 ut ut ! I t U1.I t 1 luego yt ! J1. yt 1 J2 . yt 2 I t U1.I t 1 ARMA(2,1)

4. Procesos ARMA(p,q)Coeficiente de determinacin y estimacin de los rdenes p y q g ] i2 W I2 W I2 ! ! ig1 R2 ! 1 2 ! 1 ] 0 ! 1 g WY W I2 ] i2 ] i2i !0 i !0

n p q ln n 2 BIC p, q ! ln W I ARMA p, q

n

AIC p, q ! ln W

2 I

ARMA p, q

2p q

AICC p, q ! ln W

2 I

ARMA p, q

n p q

2p q

Se seleccionar como modelo ms adecuado aqul para el cual se verifique que: AIC p, q ! min _AIC p, q ; p p, q qa BIC p, q ! min _ BIC p, q ; p p, q qa