Modelización univariante

Transcripción

1 Modelización univariane Miguel Jerez Universidad Compluense de Madrid Febrero 5 Slide #

2 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide #

3 Inroducción (I): Objeivo El análisis univariane de series emporales es disino de la Economería radicional: Se considera una sola variable endógena (por eso es univariane ) No consideran variables exógenas Se raa de consruir un modelo sencillo que aproveche la inercia de los daos pasados para predecir los valores fuuros de la serie Ejemplos. Algunos modelos univarianes sencillos son: Auorregresivo de primer y segundo orden: z = c+ z + a f - z = c+ fz + f z + a - - Medias móviles de primer orden: z = mz + a -qa - Paseo aleaorio con deriva: y = c+ y + a - Slide # 3

4 Inroducción (II): Enlace con el análisis de regresión Apare de su uilidad inrínseca, el análisis univariane de series emporales puede combinarse con las ideas básicas del análisis de regresión Los modelos resulanes combinan dos elemenos: El modelo de relación que formaliza la relación causal enre las variables explicaiva y la variable endógena El modelo de error, que predice la pare de la variable endógena que no explican las exógenas El modelo del error puede inerprearse como una represenación de posibles variables omiidas Ejemplo. Un modelo de regresión esándar y = x T b +e puede combinarse con un modelo univariane para el error como, por ejemplo: e = fe - + a e = a -qa - Slide # 4

5 Inroducción (III): Definiciones y supuesos El puno de parida del análisis de series emporales son las definiciones de proceso esocásico y serie emporal: Proceso esocásico, es un conjuno de variables aleaorias asociadas a disinos insanes de iempo Serie emporal, es un conjuno de observaciones o medidas realizadas secuencialmene en inervalos predeerminados y de igual, o aproximadamene igual, duración Por ano, se raa analizar esadísicamene una serie (o vecor de series) para ajusarle un modelo especificado a parir de propiedades de los daos Para ello se realizan res supuesos acerca del proceso esocásico generador: es lineal, de manera que el valor de la variable hoy depende linealmene de sus valores pasados y de los valores presenes y pasados de oras variables es (débilmene) esacionario, eso es, sus momenos de primer y segundo orden no dependen del iempo sigue un modelo normal de disribución de probabilidad (proceso gaussiano ) Slide # 5

6 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide # 6

7 Procesos elemenales (I): Noación Los momenos poblacionales de primer y segundo orden del proceso se denoan de la siguiene manera: ( ) ( ) Media: E z = mz = mz Varianza (auocovarianza de orden cero): E é( m ) ù ê z - ú = s ( ) = s z z z = g ë û Auocovarianza de orden k: E é( m )( m ) ù ë z - z z- k - z û = gk( ) = gk ; k ³ en donde en la expresión final esamos eniendo en cuena el supueso de esacionariedad débil A parir de esa noación, la auocorrelación de orden k se define como: gk rk = ; k ³ g y puede esimarse a parir de daos muesrales mediane las expresiones: n gˆ k rˆ k = gˆ k = å zz k ; z - = z - z, k=,, gˆ n = k+ z ; =,,, n como veremos, esas auocorrelaciones muesrales son los insrumenos fundamenales que usaremos para idenificar (especificar a parir de evidencia muesral) un modelo univariane Slide # 7

8 Procesos elemenales (II): Ruido blanco Un proceso de ruido blanco represena una variable que: (a) oscila en orno a una media consane, (b) con una volailidad consane, y (c) cuyo pasado no coniene información úil para predecir valores fuuros. Podemos represenar esa variable como z = mz + a con: g ( ) = m ; ( k Ez z Ez) = sz = g = sa ; rk = = ; k³ g La figura muesra el perfil de observaciones simuladas del proceso de ruido blanco: y una represenación gráfica de su función de auocorrelación muesral 3 z = a ; a iid N(,) Ruido_blanco FAC de Ruido_blanco 5 5 reardo +-.96/T^ Slide # 8

9 Procesos elemenales (III): MA() Un proceso de medias móviles de primer orden, MA(), se define como: z = m + a - qa ; q < z - y represena una variable cuyo valor acual esá correlado con su valor anerior y es independiene de odos los valores previos, ya que: ì -q = ( ) = m ; ( ) s g ( q ) s ; r ï si k Ez z Ez = z = = + a k = í+ q ï ïî si k > Las figuras muesran los gráficos fundamenales de: z = a -. 8a- ; a iidn(,) 4 3 FAC de MA_ MA_ /T^ reardo Slide # 9

10 Procesos elemenales (IV): AR() Un proceso auorregresivo de primer orden, AR(), represena una variable cuyo valor acual esá relacionado con su valor anerior mediane un modelo de regresión. Eso es: z = c+ fz + a ; f < - con: ( ) = s m = c ; ( ) s g ; r f ; f = - = = a -f = k Ez ³ z Ez z k k Las figuras muesran los gráficos fundamenales de z =. 7z + a ; a iid N(,) FAC de AR_ AR_ /T^ reardo Slide #

11 Procesos elemenales (V): Paseo aleaorio Un paseo aleaorio represena una variable cuyos cambios son ruido blanco y, por ano, imprevisibles. Eso es: y = c+ y + a - La figura muesra el perfil de dos series generadas por paseos aleaorios con y sin deriva. Como puede observarse: Ese proceso no es esacionario (basaría una diferencia para lograr esacionariedad) La presencia de un érmino consane (o deriva ) apora direccionalidad y =. 5 + y + a ; a iidn(,) - 6 y = y + a ; a iid N(,) RWCDeriva RWSDeriva Slide #

12 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide #

13 Insrumenos (I): Función de auocorrelación simple La k-ésima auocorrelación muesral simple ( rˆk ) se define como: n gˆ k rˆ k = gˆ k = å zz k ; z - = z - z, k=,, gˆ n = k+ Para valorar la significaividad de las auocorrelaciones pueden usarse los siguienes resulados: Para muesras grandes, se..( rˆk ) / n La nula H r = r = = r = puede conrasarse con el esadísico de Ljung-Box: K QK ( ) = nn ( + ) å rˆ k ck - p k= n- k H en donde K es el número de auocorrelaciones consideradas y p es el número de parámeros esimados si la serie esá formada por residuos : K FAC de MA_ reardo FACP de MA_ +-.96/T^ reardo +-.96/T^.5 La figura muesra la función de auocorrelación (ACF) de una muesra del proceso: z = a -. 8a- ; a iidn(,) que se denomina media móvil de primer orden o MA(). Como veremos, la ACF proporciona pisas claras sobre la esrucura del proceso generados de daos Slide # 3

14 Insrumenos (II): Función de auocorrelación parcial Ora herramiena del análisis de serie son las auocorrelaciones parciales El coeficiene k-ésimo de auocorrelación parcial ( fˆkk ) se define como el k- ésimo coeficiene MCO de una auorregresión de orden k: z = fˆ z + fˆ z + + fˆ z + eˆ ; k =,, k - k - kk -k k Ese esadísico puede inerprearse como una medida de la dependencia lineal enre y, ras desconar el efeco de los reardos inermedios z z - k FAC de AR_ +-.96/T^ reardo FACP de AR_ +-.96/T^ reardo La figura muesra las auocorrelaciones simples (ACF) y parciales (PACF) del proceso AR() (auorregresivo de primer orden): z =. 7z + a ; a iidn(,) - La PACF iene un sólo valor significaivo, lo que proporciona una pisa clara sobre la esrucura del proceso Slide # 4

15 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide # 5

16 Idenificación y diagnosis (I) Ruido blanco: z = a ; a iid N(,) Whie_Noise AR_ AR(): z =. 7z + a ; a iid N(,) ACF for Whie_Noise 5 5 lag PACF for Whie_Noise +-.96/T^ lag ACF for AR_ +-.96/T^ lag PACF for AR_ +-.96/T^ /T^.5 Combinando las herramienas gráficas y esadísicas es posible reconocer los parones de auocorrelación que caracerizan a los diferenes procesos lineales En el análisis de series emporales, ese proceso de especificación empírica es conocido como "idenificación" lag Slide # 6

17 Idenificación y diagnosis (II) MA(): z = a -. 8a- ; a iidn(,) 4 ACF for MA_ RWNoCon MA_ /T^ lag - PACF for MA_ /T^ lag Paseo aleaorio: y = y + a ; a iid N(,) - 6 ACF for RWNoCon /T^ lag 6 PACF for RWNoCon /T^.5.5 El proceso de idenificación puede esrucurarse como una secuencia de pregunas: Es esacionaria la serie? Tiene una media significaiva? Es persisene la ACF? Es persisene la PACF? lag Slide # 7

18 Idenificación y diagnosis (III) La idenificación se basa en esadísicos, como la media muesral o las auocorrelaciones, que sólo son válidos para series esacionarias Tras inducir esacionariedad mediane una ransformación adecuada, se puede especificar un proceso enaivo decidiendo cuál de las dos funciones - ACF o PACF - es finia La siguiene abla resume las combinaciones posibles: ACF PACF Finia Persisene Finia Ruido blanco No hay ACFs ni PACFs significaivas MA El número de ACFs significaivas indica el orden Persisene AR El número de PACFs significaivas indica el orden ARMA En series económicas la paramerización de mayor orden suele ser ARMA(,) Slide # 8

19 Idenificación y diagnosis (IV): Insrumenos de idenificación Parámero Insrumeno de idenificación Observaciones Transformación log d, orden de diferenciación Término consane p, orden del érmino AR Gráfico media-desviación ípica Gráfico de la serie emporal Gráfico de la serie emporal ACF (decrecimieno leno y lineal) Media muesral de la serie diferenciada Desviación ípica de la media PACF de orden p ACF infinia Se raa de conseguir que la variabilidad de los daos sea independiene de su nivel. En series económicas las series suelen necesiar la ransformación logarímica Se raa de conseguir que los daos flucúen en orno a una media aproximadamene esable Si la media de la serie ransformada es significaiva, el modelo debe incluir un érmino consane La PACF iene p valores no nulos Un proceso AR finio y esacionario equivale a un MA( ) q, orden del érmino MA ACF de orden q PACF infinia La ACF iene q valores no nulos Un proceso MA finio e inverible equivale a un AR( ) Slide # 9

20 Idenificación y diagnosis (V): Insrumenos de idenificación Parámero Insrumeno de idenificación Observaciones d, orden de diferenciación Término consane p y q Raíces de los polinomios AR y MA Gráfico de la serie de residuos Media muesral de los residuos Desviación ípica de la media Conrases de significación de los parámeros esimados ACF y PACF residuales Tes Q de Ljung-Box Correlaciones elevadas enre parámeros esimados Sobreajuse Una raíz próxima a uno en la pare AR indica que conviene añadir una diferencia Una raíz próxima a uno en la pare MA indica que conviene quiar una diferencia Si muesra rachas largas de residuos posiivos o negaivos, puede ser necesaria una diferencia adicional Si la media de los residuos es significaiva, debe añadirse un érmino consane Permien eliminar parámeros irrelevanes Deecan pauas de auocorrelación no modelizadas Conrasa la hipóesis conjuna de que odos los coeficienes de auocorrelación son nulos Puede ser un sínoma de sobreparamerización Consise en añadir parámeros AR y/o MA, para comprobar si resulan significaivos y mejoran la calidad esadísica del modelo Slide #

21 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide #

22 Noación de reardos (I): Operadores reardo y diferencia A menudo resula prácico represenar los procesos esocásicos uilizando el operador reardo que se define de la siguiene manera: B / i) Bz = z- ii) Bk = k ; k :consane - iii) B z iv ) B z = z = z + 3 l v) z = Bz = B z = B z = = B z ( l > ) l en donde la lera B se refiere a la palabra inglesa Backward. En la lieraura, a veces se denoa ese operador con la lera L (Lag) El operador diferencia se define a parir del operador reardo como: / y = ( - B) y = y -y- y en series esacionales de período S, a menudo se uiliza una variane de ese operador que se conoce como diferencia esacional: S / y = ( - B ) y = y -y - S S s Slide #

23 Noación de reardos (II): Modelos ARMA(p,q) y ARIMA(p,d,q) Los procesos aneriores pueden escribirse con órdenes generales: AR(p): MA(q): ARMA(p,q):... y expresarse en érminos del operador reardo de la siguiene forma: AR(p): MA(q): ARMA(p,q): z = c+ fz + f z + + f z + a - - p -p = mz + -q --q -- -qq -q z a a a a z = c+ fz + f z + + f z + a -qa -q a - -q a - - p -p - - q -q f ( Bz ) = c+ a z p = m + q... en donde los polinomios caracerísicos de las componenes AR y MA del modelo son: f ( ) = -f -f p B B B - -f B y q ( B) = -qb-q B - -q B p ( B) a z q f ( Bz ) = c+ q ( Ba ) p q Asimismo, si exendemos la represenación para admiir raíces uniarias, que represenan las diferencias que la serie necesia para ser esacionaria en media, obenemos el proceso ARIMA (p,d,q): f d p( B) y = c+ qq( B) a p q q q Slide # 3

24 Noación de reardos (III): Raíces uniarias El esudio de las raíces de los polinomios caracerísicos AR y MA sirve para caracerizar la dinámica del proceso y puede ser úil para simplificarlo Un caso especialmene imporane es el de las raíces uniarias Cuando el polinomio AR iene alguna raíz igual a uno, se dice que iene raíces uniarias. Si el polinomio corresponde a un modelo esimado, eso es sínoma de subdiferenciación Si la raíz uniaria esá en el polinomio MA y ese ha sido esimado, eso es sínoma de: (a) sobrediferenciación o (b) presencia de componenes deerminisas en el proceso La abla muesra varios ejemplos de ese ipo de simplificación El proceso equivale a: ( -. 5B+. 5B ) y= a ( -. 5B+. 7B ) y = ( -B) a y = b + a ( -. 5B) y = a ( -. 5B+. 7B ) y= a y = b + ( -Ba ) Slide # 4

25 Noación de reardos (IV): Esacionariedad e inveribilidad A parir del esudio de las raíces de los polinomios AR y MA, se definen dos concepos: Esacionariedad: Un proceso esocásico es esacionario si odas las raíces de la ecuación caracerísica -f -f p B B - - f B = esán fuera del círculo de radio unidad del plano complejo Si una raíz AR esá denro del círculo, se dice que el proceso es explosivo Inveribilidad: Se dice que un proceso esocásico es inverible si odas las raíces de la ecuación caracerísica -q -q q B B - - q B = esán fuera del círculo de radio unidad del plano complejo La figura muesra el círculo de radio unidad y disinos ipos de raíces q p RAÍCES FUERA DEL CÍRCULO UNITARIO Raíz compleja con módulo superior a la unidad RE (,) CÍRCULO UNITARIO IM IM (,) (, ) (,) (, ) Raíz real mayor que uno en valor absoluo Ejemplos: Las raíces de +. B+. 5B = son -. ±.4i y su módulo (.4) indica que se raa de raíces esacionarias (o inveribles) Las raíces de +. 5B+ B = son -.5 ±.968i y su módulo (.) indica que se raa de raíces en el círculo uniario El polinomio - B= iene una raíz explosiva (B=.5) RE Slide # 5

26 Noación de reardos (V): Modelos ARIMA en forma fraccional Cuando un proceso esocásico no iene raíces AR ni MA denro del círculo de radio unidad, puede escribirse de como AR( ) o MA( ). Concreamene: ) Un AR() puede escribirse como: ( - fbz ) y, si no es explosivo, = c+ a como un proceso media móvil infinio: = c m ( f f ) f + - -f = z a B B + a B z ) Un MA() con raíces en o fuera del círculo de radio unidad puede escribirse en forma esándar: o, alernaivamene, como: z = mz + ( -qb) a mz z = + a ;( + qb+ q B + ) z = c+ a -qb -q 3) Si los polinomios AR y MA ienen sus raíces en o fuera del círculo de radio unidad, el proceso ARIMA(p,q): f d p( B) y = c+ qq( B) a puede escribirse de las siguienes formas: q ( B) d y = m + q a f ( B) z p f q p q ( B) ( B) d y - m ) = a z f q p q ( B) ( B) d y = c + a Slide # 6

27 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide # 7

28 Series esacionales (I): Modelos ARIMA(p,d,q)x(P,D,Q) S Airline Las series económicas a menudo muesran un esacionalidad, eso es, una paua que se repie con una periodicidad fija, a menudo anual El período esacional (S) se define como el número de observaciones necesarias para recorrer un ciclo esacional compleo. Por ejemplo, S= para daos mensuales, S=4 para daos rimesrales Para capar ese comporamieno, se define el modelo ARIMA(p,d,q)x(P,D,Q) S : f ( B) F ( B S ) D d y = c+ q ( B) Q ( B S ) a p P S q Q... que incluye res nuevos facores diseñados para relacionar cada dao con el de S períodos arás: F ( B ) = -F B -F B - -F B P S S S P S P Q ( ) = -Q -Q Q B B B - -QQB S S º -B S S S QS [polinomio AR(P) S ] [polinomio MA(Q) S ] [operador diferencia esacional] En los siguienes slides se muesra cómo especificar esos facores Slide # 8

29 Series esacionales (II): Correlogramas de una serie esacional FAC de MA_ +-.96/T^ reardo FACP de MA_ +-.96/T^ reardo FAC de AR_ +-.96/T^ reardo FACP de AR_ +-.96/T^ reardo La primera figura muesra los correlogramas de una serie simulada a parir de un proceso media móvil esacional (S=) sin esrucura regular La segunda figura muesra los resulados análogos para un proceso AR() esacional (S=), nuevamene sin esrucura regular Como puede observarse, las pauas de auocorrelación son las que caracerizan a las series generadas por procesos MA() y AR(), pero con las auocorrelaciones siuadas en los reardos múliplos del período esacional Las correlaciones correspondienes a los reardos regulares (odos menos el, 4 y 36) son no significaivas en general Slide # 9

30 Series esacionales (III): Saélies FAC de MAxMA_ +-.96/T^ reardo FACP de MAxMA_ +-.96/T^ reardo FAC de MAxAR_ /T^ reardo FACP de MAxAR_ /T^ reardo Las figuras muesran los correlogramas de un proceso media móvil esacional y un proceso AR() esacional, con S= en ambos casos En esa ocasión hemos especificado el proceso generador con una esrucura MA() regular Como puede observarse, en el enorno de los reardos esacionales surgen una serie de coeficienes significaivos ( saélies ) que proceden de la ineracción enre las esrucuras regular y esacional Esos saélies son úiles para idenificar en qué reardos esacionales hay auocorrelaciones no nulas, pero no requieren una paramerización especial Slide # 3

31 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Series esacionales Ideas principales Apéndice. Esudio de los procesos más comunes Slide # 3

32 Ideas principales (I) El análisis univariane de series emporales raa de consruir un modelo sencillo, sin variables exógenas, que aproveche la inercia de los daos pasados para predecir los valores fuuros de la serie Para ello, se pare de res supuesos: (a) linealidad, (b) esacionariedad (débil) y (c) normalidad y se uilizan diversos insrumenos, incluyendo: (a) gráfico de la serie emporal, (b) función de auocorrelación simple, (c) función de auocorrelación parcial, (d) esadísico de Ljung-Box Si la serie original no es débilmene esacionaria, es necesario inducir esa propiedad mediane una ransformación de daos adecuada Los procesos lineales ienen pauas de auocorrelación eórica caracerísicas y reconocibles: En un proceso de ruido blanco, las funciones de auocorrelación y auocorrelación parcial son nulas En un proceso AR (auorregresivo) la función de auocorrelación es infinia y la de auocorrelación parcial es finia (el número de coeficienes significaivos indica el orden) En un proceso MA (de media móvil) la función de auocorrelación parcial es finia (el número de coeficienes significaivos indica el orden) y la de auocorrelación parcial es infinia En un proceso ARMA mixo ambas funciones son infinias Slide # 3

33 Ideas principales (II): Meodología El análisis de series emporales uiliza diversas herramienas esadísicas para formar una meodología de modelización que se esrucura en res fases: Idenificación: Elija una especificación provisional para el DGP en base a las caracerísicas de daos medibles: "dejar que los daos hablen" Esimación: Suele requerir méodos ieraivos no lineales Diagnosis: Conrola la calidad esadísica del modelo ajusado. Algunos conroles esándar son: Significaividad de los parámeros esimados Esacionariedad y homocedasicidad de los residuos Exise un parón de auocorrelación residual que podría ser modelado? Definir los objeivos del análisis, recopilar daos y hechos Idenificación: Escoger una especificación enaiva Esimación Suele requerir méodos ieraivos Diagnosis: Es esadísicamene válido el modelo? Es úil? SI Usar el modelo NO Slide # 33

34 Índice Inroducción Procesos esocásicos elemenales Insrumenos de idenificación Idenificación y diagnosis Noación de reardos Ideas principales Apéndice. Esudio de los procesos más comunes Slide # 34

35 A.. Esudio de los procesos más comunes: AR() z = c+ fz + a ; f < - c Ez ( ) = mz = -f sa Ez ( ) = sz = g = - f gk k rk = = f ; k ³ g + ACF < f < Reardo + PACF Reardo Los procesos AR() se reconocen por una ACF infinia y una PACF que se anula a parir del segundo reardo Si los daos ienen media, es necesario especificar un érmino consane + - < f < Reardo + Reardo Slide # 35

36 A.. Esudio de los procesos más comunes: MA() z = m + a - qa ; q < z - Ez ( ) = m z Ez ( ) = s = g = ( + q ) s z a + ACF < q < + PACF r k g g k = = + ì -q ï si k = í q ï ïî si k > Reardo Reardo Los procesos MA() se reconocen por una PACF infinia y una ACF que se anula a parir del segundo reardo Si los daos ienen media, es necesario especificar un érmino consane + - < q < Reardo + Reardo Slide # 36

37 A.3. Esudio de los procesos más comunes: AR() z = c+ fz + f z + a - - ACF PACF f + f < ; f - f < ; f < c Ez ( ) = m = z - f - f + f > ; f > + rk = frk- + frk- ; k ³ con : f f r = ; r = f + -f -f Los procesos AR() se reconocen por una ACF infinia y una PACF que se anula a parir del ercer reardo Si los daos ienen media, es necesario especificar un érmino consane + f Reardo < ; f > + Reardo Reardo Reardo Slide # 37

38 A.3. Esudio de los procesos más comunes: AR() z = c+ fz + f z + a - - ACF PACF f + f < ; f - f < ; f < c Ez ( ) = m = z - f - f + f > ; f > + rk = frk- + frk- ; k ³ con : f f r = ; r = f + -f -f Los procesos AR() se reconocen por una ACF infinia y una PACF que se anula a parir del ercer reardo Si los daos ienen media, es necesario especificar un érmino consane + f Reardo < ; f > + Reardo Reardo Reardo Slide # 38

39 A.5. Esudio de los procesos más comunes: MA() z = m + a -qa -q a z - - q + q < ; q- q < ; q < q > ; q > Ez ( ) = m z Ez ( ) = s = g = ( + q + q ) s z a ACF ACF + + q < ; q < r k ì- q( -q) si k = + q + q g ï k -q = = ï í si k = g + q + q si k > ï ïîï q < ; q > Reardo q > ; q < Reardo Los procesos MA() se reconocen por una PACF infinia (no se muesra aquí) y una ACF que se anula a parir del ercer reardo Si los daos ienen media, es necesario especificar un érmino consane + Reardo + Reardo Slide # 39

40 Miguel Jerez Deparameno de Fundamenos del Análisis Económico II (Economía Cuaniaiva) Faculad de Ciencias Económicas, UCM Slide # 4