4. Modelos AR(1) y ARI(1,1).

Los modelos autorregresivos son aquellos modelos ARMA(p,q) en los que q=0. En general, vamos a denotarlos por AR(p). En un modelo AR(p) en valor en el momento t de la serie se expresa como una combinación lineal de las p observaciones anteriores de la serie más la innovación:

En los modelos MA(q), el valor de la serie en el momento t se expresa como una combinación de innovaciones. Sin embargo, existe una relación entre los modelos AR y los modelos MA.

tptpttt ayyyy ++++= −−− φφφ ...2211

Vamos a considerar, por ejemplo, el modelo MA(1) dado por:

Teniendo en cuenta que

y sustituyendo recursivamente hacia atrás, se obtiene la siguiente expresión:

11 −+= ttt aay θ

11 −−= ttt aya θ

...33

122

111 −+−+= −−− ttttt yyyay θθθ

En la práctica, la información disponible para poder estimar los modelos y luego predecir con ellos son las propias observaciones de la serie. Por ello, vamos a exigir que los modelos MA sean invertibles. La propiedad de invertibilidadestablece que el valor presente de yt pueda expresarse como una combinación lineal convergente de observaciones pasadas. En el caso concreto del modelo MA(1) esto significa que

11 <θ

En general, en un modelo MA(q), la condición de invertibilidad viene dada porque las soluciones de la siguiente ecuación

sean mayores que uno en módulo. Como caso particular, podemos ver que para el modelo MA(1), la ecuación es

Por lo que su solución es:

0...1 1 =+++ qq xx θθ

01 1 =+ xθ

1/1 θ−=x

Modelo AR(1)

En un modelo AR(p), el valor de la serie en el momento t es una combinación lineal de lasúltimas p observaciones de la variable. En el casomás simple, el valor de la serie en el momento tsolo depende de la observación previa. El modeloAR(1) viene dado por:

La condición de estacionariedad es que . En este caso, la media marginal viene dada por

El modelo puede ser también escrito como

ttt aycy ++= −11φ

1|| 1 <φ

φµφ

−=⇒+= − 1

)()( 11c

yEcyE tt

ttt ayy +−=− − )( 11 µφµ

Las observacionesfluctúan alrededor de que es la media de la serie.

La media no es 5 sino5/(1-0.2)=6.25.

-3

-2

-1

0

1

2

3

4

25 50 75 100 125 150 175 200

AR(1) model: y(t)=0.2*y(t-1)+a(t)

µ

3

4

5

6

7

8

9

10

25 50 75 100 125 150 175 200

AR(1) series: y(t)=5+0.2*y(t-1)+a(t)

Función de autocorrelación de series generadas por modelos AR(1).

a) Varianza marginal

21

22

1122

12

1

211

2

1

))(()()(

))(()()(

φσσ

µφµφ

µφµ

−=

⇒−++−

=+−=−=

−−

−

a

tttt

tttt

ayEaEyE

ayEyEyVar

Las autocovarianzas vienen dadas por

211111 )})()({()})({()1( σφµµφµµγ =−+−=−−= −−− yttttt yayEyyE

2211

2112

)1(

)})()({()})({()2(

σφγφ

µµφµµγ

=

=−+−=−−= −−− ttttt yayEyyE

21

11

)1(

)})()({()})({()(

σφγφ

µµφµµγhi

httthtt

h

yayEyyEh

=−

=−+−=−−= −−−

Por lo tanto, las autocorrelaciones del modelo AR(1) vienen dadas por

Las correlaciones tienden hacia cero exponencialmente: las observaciones alejadas en el tiempo van teniendo menor influencia. Cuanto mayor sea más lentamente decrecen las correlaciones.

,...2,1,0,)( 1 == hh hφρ

1φ

El parámetro estárelacionado con la memoria de la serie. Cuanto más cerca estéde cero, la memoria esmás corta. A medidaque se incrementa, la memoria es mayor y, consecuentemente, la dependencia con respecto al pasadomás fuerte.

-4

-3

-2

-1

0

1

2

3

4

25 50 75 100 125 150 175 200

AR(1) series: y(t)=0.5*y(t-1)+a(t)

1φ

-4

-2

0

2

4

6

25 50 75 100 125 150 175 200

AR(1) series: y(t)=0.8*y(t-1)+a(t)

-4

-2

0

2

4

6

8

10

12

25 50 75 100 125 150 175 200

AR(1) series: y(t)=0.95*y(t-1)+a(t)

-6

-4

-2

0

2

4

6

25 50 75 100 125 150 175 200

y(t)=-0.8*y(t-1)+a(t)

En un modelo estacionario, el efecto de lasinnovaciones es transitorio mientras que en modelos no estacionarios, sus efectos son permanentes (la serie no retorna a una media constante). Para ilustrar este resultado, vamos a considerar el siguiente modelo AR(1):

Si sustituimos recursivamente hacia atrás, se obtiene la siguiente representación:

ttt ayy += −11φ

iti

it ay −

∞

=∑=

01φ

Si el modelo es estacionario, las ponderaciones de las innovaciones pasadas van descendiendohacia cero. Por lo tanto, el modelo AR(1) puedeaproximarse mediante un modelo MA(q)

Si , entonces los efectos son permanentes. El modelo resultante es el paseo aleatorio.

En este caso, el modelo no puede aproximarse por un modelo MA(q).

1|| 1 =φ

∑∞

=−=

0iitt ay

ttt ayy += −1

Cuando el comportamiento de la serie es explosivo. Las innovaciones muy alejadas en el tiempo son más importantes que las más cercanas. Este comportamiento no es muy habitual en series reales.

1|| 1 >φ

Momentos condicionales del modelo AR(1):

1111 ),...,|( −− = ttt yyyyE φ

21

22

112

112

11

112

111

1),...,|{),...,|){(

},...,|))({(),...,|(

φσσφ−

<==−

=−=

−−−

−−

−

aattttt

ttt

ttt

yyaEyyyyE

yyyEyEyyyVar

Generalización a modelos AR(p)

Vamos a considerar el modelo AR(2):

La condición de estacionariedad es que el módulo de las soluciones de la ecuación

sean mayores que uno.

En este caso, la acf del modelo AR(2) vienedada por

tttt ayycy +++= −− 2211 φφ

2211 xx φφ −−

>−+−

=−=1),2()1(

1,)1()(21

21

hhh

hh

ρφρφφ

φρ

-8

-4

0

4

8

12

25 50 75 100 125 150 175 200

y(t)=1.6*y(t-1)-0.8*y(t-2)+a(t)

-10

-5

0

5

10

25 50 75 100 125 150 175 200

y(t)=-1.5*y(t-1)-0.7*y(t-2)+a(t)

Las autocorrelaciones de los modelos AR(p) decaen exponencialmente hacia cero. El análisis de estas autocorrelaciones no permite determinar el orden del modelo.

Autocorrelación parcial de orden h: Correlación entre y e y una vez que se tiene en cuenta el efecto sobre ambas de todas las observaciones intermedias

),...,|,( 11 +−−−= htthtthh yyyyCorrφ

Para calcular las autocorrelaciones parciales:

Por ejemplo, en un modelo AR(1):

ttt ayy 1111 += −φ

tttt ayyy 2222121 ++= −− φφ

ttttt ayyyy 3333232131 +++= −−− φφφ

022

111

==

φφφ

En un modelo AR(2):

Las autocorrelaciones parciales son cero para h>p

0

0

33

222

11

==≠

φφφ

φ

5. El Modelo ARMA(1,1)

En el modelo MA(q), las innovaciones dejan de tener efectos después de q periodos. Por otra parte, en el modelo AR(p), los efectos de las innovaciones están restringidos. El modelo ARMA permite recoger efectos más duraderos de las innovaciones con menos restricciones.

Los modelos ARMA se pueden obtener al agregar modelos AR y modelos MA. Muchas series económicas se obtienen por agregación, lo que también justificaría la aparición de modelos ARMA.

Los modelos ARMA son modelos mixtos que tienentanto componentes autorregresivas como de medias móviles. Un modelo ARMA(p,q) esestacionario si su parte autorregresiva esestacionaria y es invertible cuando su componentede medias móviles es invertible.

En el caso más simple, el modelo ARMA(1,1) vienedado por

La condición de estacionariedad es y la condición de invertibilidad es

1111 −− −++= tttt aaycy θφ1|| 1 <φ

1|| 1 <θ

En este caso, la media marginal es

y la función de autocorrelación es

Las autocorrelaciones son similares a las del modelo AR(p) pero el decaimiento no empiezadesde el principio.

11 φµ

−= c

>−

=++

++=

1),1(

1,21

))(1()(

1

212

1

1111

hh

hh

ρφθφθθφθφ

ρ

-3

-2

-1

0

1

2

3

4

5

25 50 75 100 125 150 175 200

y(t)=0.8*y(t-1)+a(t)-0.5*a(t-1)

-6

-4

-2

0

2

4

6

8

25 50 75 100 125 150 175 200

y(t)=0.8*y(t-1)+a(t)+0.5*a(t-1)

-4

-3

-2

-1

0

1

2

3

4

5

25 50 75 100 125 150 175 200

y(t)=0.5*y(t-1)+a(t)+0.5*a(t-1)

Resumen

Decae

expon.

Decae

expon.

ARMA(1,1)

Decae

expon.

0 para h>2

cMA(2)

Decae

expon.

0 para h>1

cMA(1)

0 para h>2

Decae

expon.

AR(2)

0 para h>1

Decae

expon.

AR(1)

Var.MediaVar.Media

Fac

parcial

FacMomentos

Condicionales

Momentos

marginales

11 φ−c

11 −tyφ 2aσ

2aσ

2aσ

2aσ2aσ

211 φφ −−c

11 φ−c

2

1

2

1 φσ−

a

32

21

2

1 φφσ

−−a

)1( 2

1

2 θσ +a

)1( 3

2

2

1

2 θθσ ++a

2

21

11

2

1

1

21aσ

φθφθ

−++

2211 −− − tt yy φφ

11 −− taθ

2211 −− −− tt aa θθ

2111 −− − tt ay θφ

5. Modelos ARMA con dependencia

estacional

Al analizar series macroeconómicas eshabitual observar quetienen patronesestacionalestransitoriosrelacionadosnormalmente con motivos institucionaleso metereológicos.

1200000

1300000

1400000

1500000

1600000

1700000

91 92 93 94 95 96 97 98 99 00 01 02 03 04

Quartely GDP Europe from 1st 1991 up to 3th 2004

Los modelos ARMA necesitan ordenes muy grandes para representar estos patrones estacionales: perdemos la ventaja del número reducido de parámetros de los modelos.

Alternativa: modelos ARMA multiplicativos estacionales que imponen restricciones que son razonables en la práctica.

Vamos a considerar, por ejemplo, una serie mensual. En este caso, la dependencia estacional puede representarse mediante

tQtP

tt

LyL

LLyLL

εεθθφφ

)()(

...)1(...)1(1212

2424

1212

2424

1212

Θ=Φ

=−++=−−−

Sin embargo, la perturbación, no será en general ruido blanco porque la serie puede tener también dependencias regulares. Por lo tanto,

El modelo multiplicativo ARMA(p,q)x(P,Q)s es

Este es un modelo ARMA(p*,q*) con restriciones en los parámetros.

tε

tqtp aLL )()( θεφ =

ts

Qqts

Pp aLLyLL )()()()( Θ=Φ θφ

Ejemplo:

-3

-2

-1

0

1

2

3

4

5

25 50 75 100 125 150 175 200

(1-0.6L)(1-0.8L12)y(t)=(1-0.3L12)a(t)

1213121

121312

1212

3.048.08.06.0

)3.01()48.08.06.01(

)3.01()8.01)(6.01(

−−−− −+++=−=+−−

−=−−

tttttt

tt

tt

aayyyy

aLyLLL

aLyLL

7. Modelos ARIMA

Como ya hemos visto, las series reales son habitualmente no estacionarias. Cuando la evolución de la tendencia y la estacionalidad son estocásticas, es necesario transformar las series tomando diferencias para que la serie transformada sea estacionaria.

Vamos a suponer que la serie de interés es I(d), es decir tenemos que tomar d diferencias para que sea estacionaria

Una vez que la serie ha sido transformada, el modelo ARMA se ajusta a la transformación estacionaria, es decir,

td

t yw ∆=

qtqttptptt aaawww −−−− −−−+++= θθφφ ...... 1111

Modelo ARIMA(p,d,q):

Ejemplo: Modelo ARIMA(1,1,0)

El modelo ARIMA es un modelo ARMA con raícesunitarias

qtqttptd

ptd

td aaayyy −−−− −−−+∆++∆=∆ θθφφ ...... 1111

ttt ayy +∆=∆ −11φ

ttt

ttt

ttttt

ayy

ayy

ayyyy

++

=+−+=+−+=

−−

−−

−−−

2*21

*1

2111

21111

)1(

φφ

φφφφ

Modelo ARIMA multiplicativo:

ts

QqtDs

dsPp aLLyLL )()()()( Θ=∆∆Φ θφ