Análisis de Series. Modelos Heterocedásticos.

Transcripción

1 TRABAJO FIN DE MASTER. Análisis de Series. Modelos Heterocedásticos.

2 ÍNDICE 1.INTRODUCCIÓN MODELOS SARIMA FORMULACIÓN GENERAL MODELOS ARIMA PASOS EN LA CONSTRUCCIÓN DE LOS MODELOS ARIMA... 9 PASO 1: Identificación de los términos del Modelo PASO 2: Estimación de los parámetros del Modelo PASO 3: Validación de Modelo PASO 4: Predicción EJEMPLO DE MODELIZACIÓN PASO 1: Identificación del modelo PASO 2 y 3: Estimación de los parámetros y validación del modelo PASO 4: Predicción MODELOS ARCH Y GARCH MODELO ARCH MODELO ARCH(1) MODELO ARCH(r) MODELO GARCH MODELO GARCH(1,1) MODELO IGARCH MODELO EGARCH CONSTRUCCIÓN DE LOS MODELOS PASO 1: Identificación de los términos del Modelo PASO 2: Estimación de los parámetros del Modelo PASO 3: Diagnosis EJEMPLO MODELO GARCH MODELOS SV MODELO SV(1) CONTRASTES DE AUTOCORRELACIÓN CONTRASTE DE DURBIN-WATSON (1951) CONTRASTE DE WALLIS (1972) CONTRASTE DE DURBIN (1970) CONTRASTE DE BREUSCH-GODFREY (1978)

3 5.5.CONTRASTE DE BOX-PIERCE-LJUNG SOLUCIONES PARA LA AUTOCORRELACIÓN MÉTODO DE MÍNIMOS CUADRADOS GENERALIZADOS MÉTODO ITERATIVO DE COCHRANE-ORCUTT MÉTODO DE PRAIS-WINSTEN MÉTODO DE DURBIN HETEROCEDASTICIDAD CONDICIONAL.CONTRASTES CONTRASTES DE WHITE CONTRASTES DE BREUSH-PAGAN/GODFREY CONTRASTES DE GOLDFELD-QUANDT CONTRASTES DE GLESJER CONTRASTES DE RESET RAMSEY CONTRASTE ARCH SOLUCIONES PARA LA HETEROCEDASTICIDAD CONDICIONAL HETEROCEDASTICIDAD CONOCIDA HETEROCEDASTICIDAD DESCONOCIDA MULTICOLINEALIDAD CON SERIES DE TIEMPO DETECCIÓN DE LA MULTICOLINEALIDAD SOLUCIONES AL PROBLEMA DE MULTICOLINEALIDAD HIPÓTESIS DE NORMALIDAD ANEXO ANEXO A BIBLIOGRAFÍA

4 1.INTRODUCCIÓN Una serie temporal o cronológica se define como la evolución de una variable a lo largo del tiempo, es decir, es una secuencia ordenada de observaciones en la cual, la ordenación se hace en base al tiempo (de ahí el nombre de temporales). También puede hacerse tal ordenación por otros criterios como por ejemplo el espacio. Hay casos en los que la variable observada tiene un patrón de comportamiento fijo. En términos estadísticos estamos ante una serie determinista. Por el contrario, hay series que resultan impredecibles. Su pauta de comportamiento no responde a un patrón fijo, por lo que son puramente aleatorias. Un ejemplo típico es la sucesión de números premiados en un sorteo de loterías. En general, las series contienen una componente determinista y una componente aleatoria. Los objetivos que se persiguen con el estudio de las series temporales son los siguientes: Obtener una descripción concisa del fenómeno generador de la serie de datos. Construir un modelo que aproxime de la forma más fielmente posible el comportamiento de la serie de datos Predecir valores desconocidos (en el futuro o en el pasado), de la serie a partir de la información disponible. Controlar el proceso generador de la serie, examinando qué puede ocurrir cuando se alteran algunos parámetros del modelo o estableciendo políticas de intervención cuando el proceso se desvíe de un objetivo preestablecido más de una cantidad determinada. Una característica fundamental de una serie temporal es que sus observaciones son dependientes o correladas y, por tanto, el orden en que se recogen las observaciones es muy importante. Podemos distinguir diferentes enfoques en el análisis de Series Temporales: Métodos tradicionales. Se basan en la descomponen la serie en componentes que se conjugan de acuerdo a alguna función (generalmente sumadas o multiplicadas, esquemas aditivo o multiplicativo). También se consideran como técnicas clásicas las de alisamiento exponencial, donde el objetivo es predecir el valor de la serie de forma sencilla y automática. Métodos basados en modelos de procesos estocásticos (Metodología de Box-Jenkins (1970)). Se fundamenta en ajustar un modelo a los datos seleccionándolo de entre aquellos de una cierta familia. La predicción en este caso se realiza suponiendo que la estructura del modelo permanece invariante en el tiempo, es decir, que en el futuro, el modelo sigue siendo adecuado para modelizar la serie. 3

5 Métodos univariantes y métodos multivariantes. Estos atienden a la dimensión de la magnitud en estudio. En este sentido también tiene interés el estudio de causalidad entre las variables y los modelos matriciales, extensión de los univariantes. Análisis en el dominio del tiempo y análisis en el dominio de las frecuencias. Explotan las características fundamentalmente de la función de correlación y densidad espectral. Aunque existe una relación entre ellas, ambas ponen de manifiesto características complementarias en el análisis de la serie. Nos vamos a basar en la metodología de Box-Jenkins, en el cual el desarrollo estadístico se realiza a partir de un proceso estocástico estacionario (en sentido amplio o débil) y para procesos que se puedan transformar en estacionarios mediante transformaciones (diferenciación, ARIMA, o Box-Cox). Cuando se produce la ausencia de la tendencia (determinista o aleatoria), hay un numeroso conjunto de teorías y desarrollos matemáticos centrados en la diferenciabilidad de la serie temporal y en la existencia o no de raíces unitarias a partir de los conocidos test de Dickey y Fuller, de Mackinon o de Phillips y Perron. Estas series se pueden describir con los modelos ARIMA o SARIMA. Sin embargo, el estudio de la componente de varianza constante es un fenómeno menos extendido y, de manera que el no tener en cuenta una posible no constancia de esta componente, puede suponer diversos problemas estadísticos cuando se estiman modelos (problemas ligados con la eficiencia de los parámetros estimados y su fuerte volatilidad ante el amplio intervalo de confianza en el que se mueven). Por tanto, para determinar un patrón de comportamiento estadístico para la varianza, se encuentran los Modelos Autorregresivos Condicionales Herocedásticos: ARCH. Engle, 1982, es el autor de una primera aproximación a la varianza condicional. Para justificar el desarrollo de estos modelos heterocedasticos condicional autorregresivos, este autor, cita tres situaciones para exponer por qué estos modelos fueron propuestos para explicar ciertas propiedades que no pueden ser explicados por los modelos ARIMA y que aparecen con frecuencia en series temporales estacionarias de datos financieros y ambientales de alta frecuencia: 1. La experiencia empírica nos lleva a contrastar períodos de amplia varianza de error seguidos de otros de varianza más pequeña. Es decir, el valor de la dispersión del error respecto a su media cambia en el pasado, por lo que es lógico pensar que un modelo que atienda en la predicción a los valores de dicha varianza en el pasado servirá para realizar estimaciones más precisas. 4

6 2. En segundo lugar, Engle expone la validez de estos modelos para determinar los criterios de mantenimiento o venta de activos financieros. Los agentes económicos deciden esta cuestión en función de la información proveniente del pasado respecto al valor medio de su rentabilidad y la volatilidad que ésta ha tenido. Con los modelos ARCH se tendrían en cuenta estos dos condicionantes. 3. El modelo de regresión ARCH puede ser una aproximación a un sistema más complejo en el que no hubiera factores innovacionales con heterocedasticidad condicional. Los modelos estructurales admiten, en multitud de ocasiones, una especificación tipo ARCH infinito que determina con parámetros cambiantes, lo que hace a este tipo de modelos capaces de contrastar la hipótesis de permanencia estructural que supone una de las hipótesis de partida y condición necesaria para la validez del modelo econométrico tradicional.. Esta series tienen poca estructura en la media y siguen paseos aleatorios o procesos AR de orden bajo y coeficiente pequeño. Además puede ocurrir que aunque la serie de rendimientos parezca un ruido blanco, su distribución no sea normal, y muestre colas pesadas y alta curtosis; y que los datos estén casi incorrelados, pero al calcular las autocorrelaciones de los cuadrados se observa una fuerte estructura de dependencia. Otra propiedad es que la varianza de los residuos no es constante y aparecen rachas de mayor variabilidad seguida de rachas de menor variabilidad. Por eso se plantean este tipo de modelos, es decir, van a ser modelos con varianza marginal constate, y varianza condicionada a los valores del pasado de la serie no constante, ya que depende de estos valores previos. El modelo ARCH (AutoRegressive Conditional Heteroscedastic), supone que la varianza condicional depende del pasado con estructura autorregresiva. Estos modelos fueron generalizados por Bollerslev (1986) para dar lugar a los modelos GARCH que incorporan a esta dependencia términos de media móvil. Proporcionan buenos ajustes con p y q pequeños (la mayoría de las series temporales financieras pueden modelizarse correctamente con un GARCH(l,l)). Bollerslev(1986) proporciona la justificación teórica de esta última afirmación expresando los procesos GARCH(p,q) como un ARCH( ). Otra propiedad importante de los modelos GARCH, de interés en el área financiera, es que son una aproximación a procesos de difusión. Así, Nelson(1990) prueba la convergencia del modelo GARCH(l,l) con errores condicionales normales a un proceso de difusión continuo con distribuciones estacionarias no condicionadas t. Otra clase de modelos más flexible son los modelos de volatilidades estocásticas (SV) introducidos por Harvey, Ruiz y Shephard (1994) y Jacquier y Polson y Rossi. Estos modelos reproducen algunas de las propiedades típicas de las series financieras, tales como exceso de curtosis, agrupamiento de los periodos de la volatilidad, correlación en los cuadrados de la serie, Se difiere de los anteriores en que la 5

7 volatilidad es una componente no observable cuyo logaritmo suele modelizarse mediante un proceso lineal autorregresivo. En resumen, al considerar la volatilidad como un proceso estocástico se busca ajustar un modelo que permita describir y analizar su comportamiento presente y a partir de éste su comportamiento futuro. Para el caso de procesos de varianza constante la metodología de Box-Jenkins ha sido ampliamente utilizada, sin embargo, este supuesto no es sostenible en varias áreas de investigación, por lo que se deben consideran otras alternativas. Dentro de estas alternativas, destacamos los modelos ARCH (Autorregresive Condicional Heterocedastic) y GARCH (Generalized Autorregresive Condicional Heterocedastic) propuestos por Engle (1982) y Bollerslev (1986) respectivamente, modelos que permiten especificar el comportamiento de la varianza. Así como son los modelos de volatilidades estocástica (SV) introducidos por Harvey, Ruiz y Shephard (1994) y Jacquier y Polson y Rossi. 6

8 2.MODELOS SARIMA Vamos a describir los modelos ARIMA como uno de los métodos de predicción basados en series temporales. La metodología que seguiremos es la propuesta por Box-Jenkins, que consta de cuatro etapas: 1. Identificación Consiste en elegir uno o más modelos ARIMA, SARIMA como candidatos que pueden representar adecuadamente el comportamiento de la serie. En ésta etapa deben determinarse las transformaciones necesarias para conseguir estacionariedad, contraste de inclusión de un término de tendencia determinística (θ 0 ) y elegir los órdenes p y q para cada uno de los modelos competitivos. 2. Estimación Consiste en estimar los parámetros de cada uno de los modelos identificados en la fase anterior. 3. Diagnosis (Validación) Trata de determinar si los modelos identificados y estimados son adecuados para representar a los datos. Las deficiencias encontradas en ésta etapa pueden utilizarse cómo información para reformular los modelos. 4. Predicción Con los modelos que han sido diagnosticados favorablemente, se pueden realizar predicciones. Esta etapa también puede poner de manifiesto qué modelos poseen deficiencias a la hora de predecir, y puede utilizarse como herramienta de validación de los modelos. Para evaluar la calidad del ajuste teniendo en cuenta el número de parámetros estimados en el modelo y la verosimilitud, existe el criterio AIC (Criterio de información de Akaike); cuanto más pequeño sea el valor del criterio de información, mejor será el modelo. 2.1.FORMULACIÓN GENERAL MODELOS ARIMA Vamos a realizar la formulación general que presenta el modelo ARIMA de órdenes p, d y q, es decir, el modelo ARIMA(p,d,q) es la siguiente: 1 (1) donde es la variable de estudio, c una constante y es el término de error o residuo, que sigue una distribución normal de media cero y varianza constante. El término 1 se aplica a la serie original para convertirla en estacionaria, y d corresponde al orden de la parte I del modelo ARIMA. y son polinomios de orden p y q que dependen del operador de retardo B. 7

9 El operador de retardo B está definido por: El polinomio se define como: Master en Estadística Aplicada.. 1 (2) donde y donde 1,, son los coeficientes del polinomio. p es el número de términos del polinomio y el orden correspondiente a la parte AR del modelo ARIMA. El polinomio se define como 1 (3) donde y donde 1,, son los coeficientes del polinomio. q es el número de términos del polinomio y el orden correspondiente a la parte MA del modelo ARIMA. Por tanto, si sustituimos (2) y (3) en la expresión (1) se obtiene: Los residuos,, 1,, se obtiene de la ecuación anterior: 1 1 En conclusión, el modelo ARIMA está compuesto de tres partes: una parte AR de orden p, una parte I de orden d y una parte MA de orden q. El número de términos para los polinomios y, es decir, los órdenes de la parte AR y MA respectivamente, así como el orden de la parte I del modelo ARIMA se determinan en el siguiente paso (utilizando la metodología de Box-Jenkins) que explicaremos a continuación, y dependen de la serie temporal para la cual se realiza el estudio. Nota: el modelo definido (1) relaciona la variable con sus pasados a través del polinomio, y el error presente con los errores pasados a través del polinomio. 8

10 2.2.PASOS EN LA CONSTRUCCIÓN DE LOS MODELOS ARIMA PASO 1: Identificación de los términos del Modelo. En este paso vamos a identificar el número de términos de los polinomios y, es decir, vamos a determinar el valor de p y q, así como el orden de la parte I del modelo ARIMA. En este punto procederemos de la siguiente forma: Análisis inicial de la serie. Vamos a identificar las principales características de la serie temporal: - Alta frecuencia - Comportamiento no estacionario. - Presencia de estacionalidad de los datos. Cuanto menor es el tiempo transcurrido entre dos datos de la serie, mayor es la frecuencia de la serie. La alta frecuencia es una característica intrínseca que no puede corregirse. Para la corrección de la no estacionariedad se pueden realizar dos tipos de transformaciones (véase el anexo A) sobre la serie original de datos: Para estabilizar la varianza normalmente se toman transformaciones de Box- Cox: logaritmo, raíz cuadrada, etc. También sirven estas transformaciones para obtener normalidad a los datos (ver Apéndice A). Para estabilizar la media se toman diferenciaciones del tipo: 1 1,, Existe estacionalidad en los datos cuando los datos que componen la serie presentan un comportamiento cíclico o periódico. Por ejemplo, para la serie de precios de la energía eléctrica existe estacionalidad diaria, un día suele ser parecido al día anterior; es decir, los martes tienden a ser similares a los lunes, los miércoles similares a los martes, y así sucesivamente. La serie de precios también presenta estacionalidad semanal, un día suele ser parecido al mismo día pero de la semana anterior; es decir, los lunes tienden a ser similares a los lunes, los martes similares a los martes, y así sucesivamente. Si los datos presentan estacionalidad, la formulación del modelo ARIMA resulta: 1 1 donde s representa el tipo de estacionalidad que presentan los datos, s = 24 en el caso de estacionalidad diaria y/o s = 168 en el caso de estacionalidad semanal. D corresponde a la parte I del modelo ARIMA estacional. Normalmente D toma los valores 1 y 2. y son polinomios que dependen del operador de retardo B s. 9

11 El polinomio se define como: 1 donde y 1,, son los coeficientes del polinomio ; P es el número de término del polinomio de y el orden correspondiente a la parte AR del modelo ARIMA estacional. El polinomio se define como: 1 donde y 1,, son los coeficientes del polinomio ; P es el número de término del polinomio de y el orden correspondiente a la parte MA del modelo ARIMA estacional. Estos modelos ARIMA con una estacionalidad se denota como SARIMA(p,d,q)x(P,D,Q) s. 1 Estudio de la función de autocorrelación (FAC) y la función de autocorrelación parcial (FACP). A través de la representación de estas funciones se determinan los órdenes p, d, q del modelo ARIMA y los órdenes P, D y Q del modelo ARIMA estacional. La representación gráfica del coeficiente de autocorrelación es lo que se denomina FAC. Cuya expresión es: 1 Donde es la media de. 1 Considerando la serie ,,, donde,,,, son los valores estimados de los parámetros que componen el modelo de regresión entre la serie y cada una de las series,,,,. Además es la serie que recoge la parte de no explicada por cada una de las series,,,,. Y la serie ,, donde,,,, son los valores estimados de los parámetros que componen el modelo de regresión entre la serie y cada una de las series,,,,. Además es la serie que recoge la parte de no explicada por cada una de las series,,,,. Las series se obtienen mediante técnicas de regresión. 10

12 El coeficiente de autocorrelación parcial de orden k es el coeficiente de correlación entre, ya que se han calculado con separación k. El coeficiente de autocorrelación parcial de orden k se define como: 1, 1 1 Donde y son las medias de las series,respectivamente y T es el número de componentes de las series,. Una vez definidos los coeficientes anteriores se estabiliza la varianza, aplicando la transformación de Box-Cox necesaria, a continuación se identifican los órdenes d y D del modelo ARIMA y por último se identifican los órdenes p, q, P y Q. Para identificar los órdenes d y D del modelo, se representa la FAC de la serie. Si se observa un patrón de comportamiento periódico en los múltiplos de s como en 12, 24, 36, con decrecimiento lento a cero es necesario incluir D (generalmente 1 o 2). Si los primeros valores son elevados con un decrecimiento muy lento, entonces d debe de incluirse en el modelo. Los patrones que deben seguir la FAC y la FACP para la identificación de los órdenes del modelo ARIMA. El patrón que deben seguir la FAC y la FACP para la identificación del orden de un modelo puro AR(p) es el siguiente: la FACP presenta los p primeros valores distintos de cero y el resto de valores son cero o muy próximos a cero con un comportamiento sinusoidal, y la FAC presenta un decrecimiento exponencial y/o un comportamiento sinusoidal. El patrón que deben seguir la FAC y la FACP para la identificación del orden de un modelo puro MA(q) es el siguiente: la FAC presenta los q primeros valores distintos de cero y el resto de valores son cero o muy próximos a cero con un comportamiento sinusoidal, y la FACP presenta un decrecimiento exponencial y/o un comportamiento sinusoidal. El patrón que deben seguir la FAC y la FACP para la identificación de los órdenes p y q de un modelo ARMA(p,q) es una superposición de los patrones que presentan estas funciones para un modelo AR y MA: en la FAC, q p + 1 valores iniciales distintos de cero y a continuación un decrecimiento exponencial y/o un comportamiento sinusoidal debido a la parte AR; y en la FACP, q p + 1 valores iniciales distintos de cero seguidos de un decrecimiento exponencial y/o un comportamiento sinusoidal debido a la parte MA. 11

13 Con todo esto queda establecido cómo identificar los órdenes p y q correspondientes a la parte no estacional del modelo ARIMA. Para la identificación de los órdenes P y Q, correspondientes a la parte estacional del modelo ARIMA, el procedimiento es similar, con la diferencia de que en lugar de observar los primeros valores de la FAC y la FACP se observan los valores que presentan un comportamiento periódico. Por ejemplo, en el caso que se presente estacionalidad diaria (s = 24) los valores que habría que observar son el 24, el 48, el 72, el 96, A modo de resumen presentamos el siguiente cuadro: AR (p) MA (q) FAC Decrece exponencialmente o cómo una sinusoide amortiguada Corta tras el retardo q FACP Corta tras el retardo p Decrece exponencialmente o cómo una sinusoide amortiguada ARMA (p, q) Decrece Decrece PASO 2: Estimación de los parámetros del Modelo. Una vez identificados los términos que contiene el modelo se estiman los parámetros que lo constituyen. La estimación de los parámetros del modelo se puede hacer a través de por medio de diferentes métodos. El método más utilizado es el método de verosimilitud, aunque en los modelos autorregresivos, la estimación utilizada es el método de los momentos. La maximización de la función de verosimilitud es no lineal en el sentido de que la función a maximizar no es una función cuadrática de los parámetros desconocidos. Esta maximización es por tanto realizada numéricamente. Por ello, la convergencia al máximo será más rápida si se parte de un valor inicial de los parámetros próximo al valor de convergencia. Hay distintos métodos para el cálculo de estos valores iniciales, dos de ellos para el caso autorregresivo (método de Yule-Walker y algoritmo de Burg) y otros dos para un caso general (algoritmo de las innovaciones y algoritmo de Hannan- Rissanen). 12

14 El método de Yule-Walker, es un método de estimación que se utiliza para procesos autorregresivos puros. Consiste en plantear el sistema de ecuaciones de Yule- Walker y proceder a su resolución sustituyendo en dicho sistema las autocorrelaciones por sus estimaciones. Por tanto, se iguala momentos teóricos con estimados. Si la serie tiene estructura AR(p):, las ecuaciones de Yule-Walker se obtienen calculando las covarianzas o correlaciones de con 1 con lo que obtenemos la ecuación en diferencias: 1 1 Como estas funciones son pares, podemos plantear un sistema de p ecuaciones con p incógnitas. Al resolverlas obtenemos la estimación de los parámetros, sustituyendo los valores de las covarianzas o correlaciones teóricas por sus estimaciones muestrales. El valor de la varianza de se obtiene de la ecuación: ecuación para k = 0. Las covarianzas del modelo teórico así obtenido coinciden con las muestrales para los valores k = 0,1,,p. Para tamaños muestrales grandes, la distribución del estimador así obtenido es:, Γ, donde Γ,,, es la matriz que contiene las covarianzas y aparece en la formulación del sistema de ecuaciones de Yule-Walker. Si se reemplaza y Γ por sus estimaciones, podemos calcular regiones de confianza para muestras de tamaño elevado. Así un intervalo de confianza para un valor vendrá dado por: donde es el elemento ii de Γ, y una región para el vector completo: 13

15 Γ, Por tanto este método proporciona la estimación de los parámetros bajo la hipótesis de que la FAC estimada coincida con la teórica para los primeros retardos. El algoritmo de Burg es otro método muy parecido al anterior. Se usa también en el caso de un proceso autorregresivo puro. Los estimadores son precisamente los coeficientes del mejor predictor lineal en función de las p observaciones anteriores, bajo la hipótesis de que su función de autocorrelación coincide con la función de autocorrelación muestral en los retardos 1,,p. La diferencia con el método de Yule-Walker se basa en que el coeficiente que multiplica a B p, es decir el último factor del polinomio de retardos, se calcula minimizando los errores de predicción un paso hacia adelante y hacia atrás. Los coeficientes de los restantes factores B k se calculan dividiendo la suma de los cuadrados de los errores de predicción un paso adelante y hacia atrás del modelo ajustado (si es un AR(p) habrá T-p en cada sentido) entre el número de sumandos ( es decir, 2(T-p)). El algoritmo de las innovaciones es válido para procesos con estructura MA y ARMA. Consiste en ajustar modelos MA a los datos:, siendo 0, mediante el algoritmo siguiente: Sea,,, entonces 1,1, 1, 1,,, 0 1, 1, Así procedemos siguiendo la siguiente secuencia:,,,,, Nos vamos a apoyar en el siguiente teorema: Si con y si definimos 1 y 0 para j > q. Si y m (n) es una sucesión que verifica m(n) pero 0. Entonces para todo k entero, la distribución de 14

16 1,, Converge a una distribución normal multivariante de media cero y matriz de covarianza A = (a ij ), donde, Además es un estimador consistente de. Hay que observar que,, no es estimador consistente de los parámetros sino que se calcula al aumentar el orden del proceso MA y truncar los parámetros al nivel q, es decir,,,. Para procesos ARMA, y bajo la hipótesis de estacionariedad, el polinomio Φ es invertible, y la representación MA de la serie será por tanto donde los coeficientes satisfacen con 1 y 0 para j > q. í, 1, 0,1, Así podemos estimar los coeficientes,, por el algoritmo de las innovaciones,,,. Reemplazar estos valores en la ecuación anterior y calcular las estimaciones de y. En primer lugar, de las últimas p ecuaciones, calculamos (los son nulos).,,,,,,,,, Y por último determinamos los de las ecuaciones,, 15

17 Finalmente:. í,,, 1,, El algoritmo de Hannan-Rissanen es válido para procesos con estructura AR(p), tiene la expresión de un modelo de regresión, por tanto, una estimación preliminar puede hacerse usando mínimos cuadrados, y ARMA(p,q), es algo más complicado porque depende de cantidades no observadas. Sin embargo, se puede aplicar este procedimiento (mínimos cuadrados) si reemplazamos por estimaciones suyas. Así el algoritmo consta de los siguientes pasos: Paso 1: Ajustamos un modelo AR(m) de orden alto ( m > máx{p,q}) usando por ejemplo Yule-Walker. Así obtenemos,,. Paso 2: Estimamos los residuos del modelo anterior, 1,, Paso 3: Estimamos los parámetros,,,,, mediante una regresión mínimo cuadrática sobre y, minimizando Con respecto a, es decir: Paso 4: Por último,,, Vamos a explicar la estimación de los parámetros mediante la minimización de la suma de los residuos al cuadrado. 16

18 Consiste en minimizar: 1 1, Sujeto a: 1 1,, 1 1,, Donde son las raíces del polinomio ( 0) y son las raíces del polinomio ( 0). La primera restricción se aplica para asegurar que el modelo AR(p) cumple la condición de estacionariedad, y la segunda restricción se aplica para asegurar que el modelo MA(q) cumple la condición de invertibilidad. La sumatoria de los residuos al cuadrado comienza en, 1, ya que no se dispone de datos para las series y, t = 1,2,,T, cuando 1 t < 1. es un ruido blanco que se genera de forma aleatoria. El vector de parámetros a estimar es,,,,,,. Al resolver este problema se obtienen los valores estimados de los parámetros que componen el modelo. Por tanto, el modelo estimado queda: Los residuos estimados son: 1 1 (4) que han de comportarse como ruido blanco si el modelo es correcto. PASO 3: Validación de Modelo. Para asegurar la validez e idoneidad del modelo y la efectividad de las predicciones, los residuos estimados (4) se deben comportar como un ruido blanco. Un ruido blanco es una serie de datos que se caracteriza por tener distribución normal, media y covarianza nulas y varianza constante. Para comprobar que los residuos estimados obtenidos según (4) son ruido blanco: Representamos FAC y la FACP para los residuos: si los residuos estimados según (4) son ruido blanco, tanto en la FAC como en la FACP de estos residuos 17

19 no debe aparecer ningún valor significativo; es decir, los valores de estas funciones deben ser muy pequeños y estar dentro de las bandas de confianza 196, 196 Estas son bandas asintóticas al 95 % de confianza, donde T es el número de valores de la serie. Test de Ljung-Box: este test indica si existe dependencia entre los m primeros residuos estimados (4), es decir, si estos residuos presentan correlación no nula. El estadístico de Ljung-Box se define como: 2 Donde es el coeficiente de autocorrelación de los residuos estimados según (4).T es el número de valores de la serie y r es el número de parámetros estimados. Este estadístico, Q, se distribuye como una Chi-cuadrado con un número de grados de libertad igual al número de coeficientes utilizados en la suma, m, menos el número de parámetros estimados r menos 1 (m-r-1). En la mayoría de los casos es suficiente con representar la FAC y FACP, ya que si no presentan valores significativos, el valor del estadístico Q será pequeño, y por tanto se puede considerar que existe independencia entre los residuos. Si se comprueba que el modelo es adecuado, se puede continuar con el procedimiento y calcular las predicciones. En caso contrario, se estudia el comportamiento de los residuos estimados según (4), lo que ayuda a identificar un nuevo modelo; se vuelve al paso 2 y se repite todo el proceso. PASO 4: Predicción. Después de obtener el modelo y comprobar su validez, se puede proceder a predecir. La predicción óptima de,, es el valor esperado de condicionado a que se conoce,,,, es decir, la esperanza condicionada de conocido,,,. De forma análoga se procede con los residuos. Por lo tanto:,, 18

20 ,, Donde T representa el origen de la predicción y k el horizonte de la misma. Las fórmulas correspondientes a las predicciones que se quieren obtener, según el modelo estimado, son: 1 Tomando esperanzas condicionadas en la expresión anterior, la ecuación de predicción para el modelo ARIMA estimado es la siguiente: Donde 0 es el valor de la serie en el tiempo T+j. 0 es la predicción obtenida para la serie en el tiempo T+j. 0 es el valor de la serie en el tiempo T+j EJEMPLO DE MODELIZACIÓN Realizaremos un ejemplo para ilustra los pasos a seguir en la construcción de un modelo ARIMA. Se dispone de una serie de datos correspondiente a los precios horarios de electricidad de un mercado de energía eléctrica, t = 1,,T donde T = 148 (véase el Anexo A). En primer lugar, se analiza esta serie de datos y se estudia el comportamiento que presenta. Presentamos a continuación, la representación gráfica de la serie : 19

21 PASO 1: Identificación del modelo. En primer lugar estudiamos la estacionariedad. Si observamos la gráfica de la serie se aprecia que la media no es constante. Veamos qué ocurre si dibujamos la FAC. La FAC presenta un comportamiento típico de una serie no estacionaria, ya que los primeros valores de la función son muy elevados con un decrecimiento muy lento a cero. Por lo tanto, se confirma la necesidad de aplicar una diferenciaciónn de orden 1 a la serie. Esta diferenciaciónn de orden 1 se define como A continuación, se representa la serie orden: una vez tomada la diferenciación de primer 20

22 Después de diferenciada la serie, para poder identificar los términos del modelo ARIMA, es necesaria la representación de la FAC y de la FACP. Por lo tanto, se toma la diferenciación de orden 1 a la serie y se representa su FAC y FACP, que mostramos a continuación: FAC con diferenciación de orden 1 de FACP con diferenciación de orden 1 de 21

23 La FAC no tiene persistencia luego no es necesaria otra diferenciación. Podemos plantear 4 modelos: - Modelo ARIMA(2,1,0). Debido a que la FACP corta en el segundo retardo y la FAC presenta un decrecimiento exponencial.. El modelo al que se ajusta la serie presenta la forma: Modelo ARIMA(0,1,2). Debido a que la FAC corta tras el retar 2 y la FACP decrece exponencialmente.. El modelo al que se ajusta la serie presenta la forma: 1 - Modelo ARIMA(1,1,1). Los valores de la FAC como los de la FACP presentan un decrecimiento exponencial para los primeros valores seguidos de un comportamiento sinusoidal con valores próximos a cero para los siguientes, y el primer valor es más significativo que el resto. El modelo al que se ajusta la serie presenta la forma: Modelo ARIMA(2,1,1). Los valores de la FAC como los de la FACP presentan un decrecimiento exponencial para los primeros valores seguidos de un comportamiento sinusoidal con valores próximos a cero para los siguientes, presentando dos retardos significativos al resto. El modelo al que se ajusta la serie presenta la forma: PASO 2 y 3: Estimación de los parámetros y validación del modelo. A continuación para cada uno de los modelos propuestos anteriormente vamos a realizar la estimación y validación. Y determinaremos de los 4 modelos cual es el que mejor se adapta a nuestra serie. Utilizaremos SPSS versión 15 para obtener la estimación de los parámetros del modelo. Para el modelo ARIMA(1,1,1), obtendremos los valores estimados para los parámetros y y la constante c: 22

24 Retardos no estacionales Constante Estimaciones de los parámetros AR1 MA1 Se ha utilizado el algoritmo de Melard para la estimación. Estimaciones Error típico t Sig. aprox.,837,097 8,633,000,606,142 4,261,000,391,262 1,492,138 Obtenemos por tanto que el valor estimado para es 0.837, el valor estimado para es y el valor estimado para la constante c es Si nos fijamos en la significación, parece ser que la constante no es necesaria para explicar el modelo. Por lo tanto, estimamos el modeloo sin constante, obteniendo: Retardos no estacionales Estimaciones de los parámetros AR1 MA1 Se ha utilizado el algoritmo de Melard para la estimación. Estimaciones Error típico t,877,073 12,068,636,118 5,366 Sig. aprox.,000,000 Obtenemos por tanto que el valor estimado para es 0.877, el valor estimado para es Por tanto el modelo tiene la siguiente forma: A continuación, se realiza un estudio de los residuos estimados y se observa su comportamiento. Los residuos estimados deben ser ruido blanco. Para ello, se observa la FAC y la FACP, que se representan a continuación: FAC de los residuos estimados para el modelo ARIMA(1,1,1) 23

25 FACP de los residuos estimados para el modelo ARIMA(1,1,1) Los residuos estimados son ruido blanco, ya que tanto la FAC como la FACP no presentan ningún valor significativo. Todos los valores se encuentran dentro de las bandas de confianza. Por lo tanto, se puede concluir que el modelo es adecuado para predecir. Diagnóstico residual Número de residuos Número de parámetros GL residuales Suma de cuadrados residual corregida Suma de cuadrados residual Varianza residual Error típico del modelo Log-verosimilitud Criterio de información de Akaike (AIC) Criterio bayesiano de Schwarz (BIC) , ,157 1,822 1, , , ,671 Para el modelo ARIMA(2,,1,0), obtendremos los valores estimados paraa los parámetros y la constante c: Estimaciones de los parámetros Estimaciones Error típico t Sig. aprox. Retardos no estacionales AR1 AR2,250,202,082,082 3,062 2,464,003,015 Constante,403,203 1,983,049 Se ha utilizado el algoritmo de Melard para la estimación. Obtenemos por tanto que el valor estimado para es 0.250, el valor estimado para es y el valor estimado para la constante c es Si nos fijamos en la 24

26 significación, parece ser que todos los parámetros son necesarios para explicar el modelo. Por tanto el modelo tiene la siguiente forma: A continuación, se realiza un estudio de los residuos estimados y se observa su comportamiento. Los residuos estimados deben ser ruido blanco. Para ello, se observa la FAC y la FACP, que se representan a continuación: FAC de los residuos estimados para el modelo ARIMA(2,1,0) FACP de los residuos estimados para el modelo ARIMA(2,1,0) Los residuos estimados son ruido blanco, ya que tanto la FAC como la FACP no presentan ningún valor significativo. Todos los valores se encuentran dentro de las bandas de confianza. Por lo tanto, se puede concluir que el modelo es adecuado para predecir. 25

27 Diagnóstico residual Número de residuos Número de parámetros GL residuales Suma de cuadrados residual corregida Suma de cuadrados residual Varianza residual Error típico del modelo Log-verosimilitud Criterio de información de Akaike (AIC) Criterio bayesiano de Schwarz (BIC) , ,147 1,853 1, , , ,979 Para el modelo ARIMA(0,1,2), obtendremos los valores estimados para los parámetros, y la constante c: Estimaciones de los parámetros Estimaciones Error típico t Sig. aprox. Retardos no estacionales MA1 -,241,082-2,928,004 MA2 -,170,082-2,066,041 Constante,413,161 2,570,011 Se ha utilizado el algoritmo de Melard para la estimación. Obtenemos por tanto que el valor estimado para es , el valor estimado para es y el valor estimado para la constante c es Si nos fijamos en la significación, parece ser que todos los parámetros son necesarios para explicar el modelo. Por tanto el modelo tiene la siguiente forma: A continuación, se realiza un estudio de los residuos estimados y se observa su comportamiento. Los residuos estimados deben ser ruido blanco. Para ello, se observa la FAC y la FACP, que se representan a continuación: 26

28 FAC de los residuos estimados para el modelo ARIMA(0,1,2) FACP de los residuos estimados para el modelo ARIMA(0,1,2) Los residuos estimados no son ruido blanco, ya que para los primeros retardos se observa que se salen de las bandas de confianza. Por lo tanto, no se puede concluir que el modelo es adecuado paraa predecir. 27

29 Diagnóstico residual Número de residuos Número de parámetros GL residuales Suma de cuadrados residual corregida Suma de cuadrados residual Varianza residual Error típico del modelo Log-verosimilitud Criterio de información de Akaike (AIC) Criterio bayesiano de Schwarz (BIC) , ,989 1,918 1, , , ,969 Para el modelo ARIMA(2,1,1), obtendremos los valores estimados para los parámetros,, y la constante c: Retardos no estacionales Constante AR1 AR2 MA1 Estimaciones de los parámetros Se ha utilizado el algoritmo de Melard para la estimación. Estimaciones Error típico t Sig. aprox.,769,249 3,090,002,046,135,336,737,558,239 2,337,021,390,260 1,497,137 Obtenemos por tanto que el valor estimado para es , el valor estimado para es 0.046, el valor de es de y el valor estimado para la constante c es Si nos fijamos en la significación, parece ser que el parámetro y la constantes no son necesarios para explicar el modelo. Por lo tanto este modelo no es bueno para explicar este conjunto de datos. Para determinar cuál de los tres modelos es mejor, nos vamos a basar en la comparación del criterio de Akaike. Para el modelo ARIMA(1,1,1) el valor AIC es de Para el modelo ARIMA(2,1,0) el valor AIC es de 511,008. Para el modelo ARIMA(0,1,2) el valor AIC es de 515,997. Por tanto, el mejor modelo para estimar la serie es el modelo ARIMA(1,1,1) ya que tiene un valor AIC menor al de los otros modelos. PASO 4: Predicción. En los pasos anteriores hemos obtenido el modelo y además hemos comprobado su idoneidad para poder predecir. La fórmula de predicción para el modelo obtenido es:

30 Se dispone de datos hasta el tiempo T y se quieren realizar dos predicciones. Se quiere predecir el valor de la serie para t = 149 y para t = 150, es decir, 1 y 2. Para el cálculo de las predicciones basta con sustituir k = 1 y k = 2 en la fórmula de predicción. Para k = 1 la fórmula de predicción queda: Donde es el valor real de la serie en el tiempo T es el valor real de la serie en el tiempo T es el valor de la serie de residuos en el tiempo T. 1 0 es el valor de la serie de residuos de en el tiempo T+1. Sustituyen cada uno de los valores se calcula la predicción para t = 149, 1. El valor obtenido para la predicción es Para k = 2 la fórmula de predicción queda: Donde es el valor predicho de la serie en el tiempo T es el valor real de la serie en el tiempo T. 1 0 es el valor de la serie de residuos en el tiempo T es el valor de la serie de residuos de en el tiempo T+2. Sustituyen cada uno de los valores se calcula la predicción para t = 150, 2. El valor obtenido para la predicción es Calculamos los errores obtenidos al realizar cada una de las predicciones. El error se calcula a través de la siguiente expresión: 29

31 Vamos a presentar una tabla con estos errores, junto con los valores reales y los predichos de la serie : Valor Real Valor Predicho Error (%) Calculamos el error total mediante la siguiente expresión: Se obtiene un error total de 0.25 %. 30

32 3.MODELOS ARCH Y GARCH 3.1.MODELO ARCH Master en Estadística Aplicada. En la práctica los modelos del tipo lineal de series de tiempo tales como ARIMA(p,d,q) o los modelos causales de regresión lineal, no siempre resultan los más adecuados para analizar y predecir adecuadamente un proceso real. Por tal motivo se han propuestos modelos no lineales con la consecuencia de desarrollar métodos de estimación apropiados para estos casos así como los test que permitan validar los resultados. Muchas series temporales económicas, y especialmente series financieras, muestran cambios en los momentos condicionados de segundo orden. Estos cambios tienden a estar correlacionados serialmente, en el sentido de que cambios de gran magnitud en el valor de la serie son seguidos por grandes cambios (periodos de mucha volatilidad) mientras que a cambios pequeños en el valor de la serie les siguen cambios pequeños (periodos de poca volatilidad). Es decir, esto se traduce, en la presencia de correlaciones positivas en la serie de los cuadrados. Además se produce un exceso de curtosis o la ausencia de correlación en los niveles. Fue Engle quien proporcionó una serie de modelos que tratan de representar este comportamiento de la serie. La formulación básica de estos modelos consiste en modelizar la serie según la siguiente ecuación: Donde (proceso de ruido blanco formado por variables aleatorias normales independientes de media cero y varianza unidad) y (factor denominado volatilidad) son procesos estacionarios independientes entre sí. La condición de independencia entre, garantiza que la serie tenga media marginal igual a cero: 0 Y lo mismo ocurre con la media condicional que es nula: 0 La varianza marginal de tiene que ser constante,. Esta varianza se calcula como: 1 Sin embargo la varianza condicionada no es constante: 31

33 siendo 1 Por tanto,, representa la varianza condicionada de la serie en cada instante, que va variando con cierta estructura estacionaria. La condición de independencia entre, además de garantizar que la serie tenga media marginal igual a cero, nos garantiza que la serie carezca de autocorrelación y forme un proceso de ruido blanco. Sin embargo, la serie no es de variables independientes. A continuación vamos a estudiar el comportamiento de este modelo en los casos más simples: modelo ARCH(1) (la varianza condicional depende de un retardo de la serie), como es lógico, este ruido blanco podría tomarse como el comportamiento de los errores provenientes de un modelo de regresión dinámico dado por donde es un vector de variables predeterminadas que incluye los términos de en periodos anteriores y el vector de parámetros que tendría que estimarse, este modelo de regresión se denomina modelo de regresión ARCH, en el sentido de que ahora es el término de error de un modelo de regresión el que adopta una estructura ARCH, y consideraremos r retardos y describiremos el modelo ARCH(r) MODELO ARCH(1) Para el modelo ARCH(1), su varianza condicional tiene una estructura similar a un AR(1), y por tanto solo depende del último valor observado: donde 0 (corresponde a la mínima varianza condicional observada) y 0 1 (es una condición necesaria y suficiente para la existencia de la varianza incondicional y la condicional). Por tanto, esta ecuación establece que si el valor de es alto, la varianza de la siguiente observación condicionada a este valor será también alta. Esto va a producir correlación entre los cuadrados de la serie, provocando rachas de valores de magnitud relativamente elevada o con mayor varianza. Pero como la media marginal y la condicionada vale cero, aunque la varianza condicionada sea alta, siempre es posible que aparezca un valor pequeño de, que disminuirá la varianza condicionada de la observación siguiente y facilitará que la siguiente observación sea pequeña en valor absoluto. De manera que la serie puede presentar rachas de valores altos, pero globalmente será estacionaria. La varianza marginal de la serie es el promedio de las varianzas condicionadas, que debe de ser mayor que y será tanto mayor cuanto mayor sea el coeficiente que 32

34 transmite el efecto de la última observación. Si llamamos a a la varianza marginal, entonces: 5 Siendo y sustituyendo en 5 obtenemos: Además, el modelo ARCH(1), establece dependencia de tipo AR(1) entre los cuadrados de las observaciones, por tanto: (Nota: es un proceso de ruido blanco, formado por variables estacionarias incorreladas de media cero y varianza marginal constante). Si llamamos a la función de autocorrelación de los cuadrados de la serie, donde el subíndice c se refiere a los cuadrados, se obtiene: 1 que indica que las autocorrelaciones de los cuadrados de las series tienen la estructura de un AR(1) con parámetro. Este modelo, una curtosis igual a: Como 0, este coeficiente de curtosis es siempre mayor que 3, y puede ser mucho mayor. Por lo tanto, la distribución marginal tendrá colas pesadas. En resumen: - Las esperanzas marginal y condicional son iguales a cero. - La varianza marginal es constante - La varianza condicional depende de los valores que haya tomado luego no es constante. - La distribución marginal del proceso ARCH(1) tiene una forma desconocida MODELO ARCH(r) El modelo anterior puede generalizarse permitiendo una dependencia de la varianza condicional con r retardos. De manera que el modelo ARCH(r) para, la varianza condicional 33

35 donde 0 (corresponde a la mínima varianza condicional observada) y 0 1 (es una condición necesaria y suficiente para la existencia de la varianza incondicional y la condicional). En este proceso las posibilidades de rachas de alta volatilidad depende de los r últimos valores. La varianza marginal: Por tanto: siendo 1. 1 Si introducimos, como en el caso del proceso ARCH(1), será un proceso de ruido blanco, formado por variables estacionarias incorreladas de media cero y varianza marginal constante, podemos expresar la dependencia de los cuadrados de las observaciones como un proceso AR(r): Estas variables no son independientes entre sí ni de los regresores, ya que la positividad de exige que: Así en un modelo ARCH(r) se verifica que: - Es un proceso de ruido blanco pero no es independiente y no está idénticamente distribuido. - Las esperanzas condicional y no condicional son iguales a cero. - La varianza no condicional es constante. - La varianza condicional depende de,,, luego no es constante. 3.2.MODELO GARCH Un rasgo común a muchas de las primeras aplicaciones empíricas de los modelos ARCH es que requieren un gran número de parámetros autorregresivos y, para representar adecuadamente el comportamiento dinámico de la varianza, se imponía una estructura fija de retardos. Con el fin de flexibilizar estas restricciones Bollerslev (1986) propuso el modelo ARCH generalizado o GARCH. La generalización del modelo ARCH al modelo GARCH tiene gran similitud con la extensión de los procesos autorregresivos, AR, a los autorregresivos de medias móviles, ARMA, permitiendo una representación más parsimoniosa de la volatilidad. Bollerslev considera que la varianza,, además dependen de las observaciones pasadas de, 34

36 depende también de su propio pasado. Esta dependencia se expresa incluyendo cierto número de retardos p de, de forma que la varianza condicional se define entonces como: 6 donde 0, 0, i = 1,,r, 0, j = 1,,p aunque estas restricciones se establecen para garantizar que la varianza sea positiva, Nelson y Cao (1992) demuestran posteriormente que la positividad de la varianza está asegurada bajo condiciones más débiles. En concreto demuestran que si el modelo GARCH de la ecuación 6 admite una representación ARCH, es suficiente exigir que los coeficientes del polinomio de retardos en dicha representación sean todos positivos. El nuevo modelo se denomina GARCH(p,r), y se reduce al ya conocido ARCH(r) cuando p = 0. Bollerslev establece las condiciones de estacionariedad, probando que es débilmente estacionario con 0, 1., 0, Es importante la relación que existe entre los modelos GARCH y ARMA ya que, si definimos será un proceso de ruido blanco formado por variables estacionarias incorreladas de media cero y varianza marginal constante, podemos expresar la dependencia de los cuadrados de las observaciones del modelo GARCH como un proceso ARMA, según la siguiente ecuación:, MODELO GARCH(1,1) Muchos trabajos con series financieras, muestran que el más sencillo de los modelos GARCH, el GARCH(1,1), es suficiente para modelizar con éxito los cambios temporales en la varianza condicional, incluso sobre periodos muestrales largos. El modelo GARCH(1,1) se obtiene cuando p = r = 1, de forma que la varianza condicionada queda: con 0, 0, 0. Si 1, la serie tiene varianza finita, y por ser una martingala en diferencias, es ruido blanco, de media cero y varianza 35

37 1 Además, Bollerslev prueba que si 2 1,el momento de orden 4 de existe y es finito, y la curtosis de es Cuando 1, este valor es mayor que 3 y, por tanto, el proceso GARCH(1,1) estacionario es leptocúrtico, propiedad que comparte con el modelo ARCH(1). Si p = r = 1, la ecuación se escribe como: el modelo GARCH(1,1) puede interpretarse como un proceso ARMA(1,1) para la serie, cuya función de autocorrelación será: Mientras que MODELO IGARCH , 1 En las aplicaciones de modelos GARCH(1,1) a series financieras, es casi sistemática la obtención de un valor estimado de prácticamente igual a uno, en especial si la frecuencia de observación es alta. Por ejemplo, los trabajos de Engle y Bollerslev (1986), Bollerslev (1987), Baillie y DeGennaro (1989) y Hsieh (1989) con series de tipos de cambio, Chou (1988), Baillie y DeGEnnaro (1990) y Poon y Taylor (1992) con índices de bolsa, y otros trabajos encuentran siempre valores de superiores a 0 9. Teniendo en cuenta la forma de la función de autocorrelación de, un valor de próximo a uno significa que dicha función apenas decrece, indicando que los cambios en la varianza condicional son relativamente lentos y, por tanto, los shocks (cambios bruscos) en la volatilidad persisten. Esta propiedad es interesante porque refleja precisamente una de las características típicas de las series financieras: aunque la serie original está incorrelada, existe correlación en la serie de los cuadrados y, además, estas correlaciones decrecen lentamente, mostrando valores significativamente distintos de cero incluso para retardos altos. Los resultados de los trabajos mencionados anteriormente justifican el interés de un modelo GARCH(1,1) en el que se imponga la condición 1. El modelo 36