Semana 3. Semana 3. Correlaciones. Introducción. Regresión. Diferenciación. Series de Tiempo. Suavizamiento. Descomposición.

Transcripción

1 Series de Tiempo

2 Esquema

3 Esquema

4 jj Dividendos de Johnson & Johnson ACF ACF para la serie de dividendos de Johnson & Johnson.

5 AP Pasajeros de Pan Am ACF ACF para la serie de pasajeros de Pan Am.

6 nysevec.mio NYSE nyseret.mio Indice del NYSE y returns.

7 ACF NYSE ACF ACF para el índice del NYSE y returns.

8 v w Ruido Blanco Tiempo Promedio Movil (3) v Tiempo Promedio Movil (7) v Tiempo Promedio Movil (15) Tiempo Promedio Movil con 3, 7 y 15 datos.

9 MA(3) ACF MA(7) ACF MA(15) ACF Lag ACF para promedio Movil con 3, 7 y 15 datos.

10 speech Grabacion de la silaba aaaaaaahhhhhh (0.1 s.) Tiempo Series speech ACF ACF para datos de lenguaje.

11 Southern Oscillation Index Incremento en la Poblacion de Peces Series SOI e Incremento de Peces.

12 Southern Oscillation Index ACF Lag Recruitment ACF Lag SOI vs Recruitment CCF Lag ACF para SOI e Incremento de Peces.

13 Esquema

14 Modelación de S T Enfoque General Graficar la serie y examinar sus características principales, en particular examinar si existe a) una tendencia, b) componentes estacionales, c) cambios repentinos en el comportamiento, d) observations atípicas (outliers). Eliminar la tendencia y las componentes estacionales para obtener residuales estacionarios. Para esto, es posible que sea necesario aplicar una transformación inicial a los datos. Escoger un modelo para los residuales estacionarios, usando diversas estadísticas muestrales, como la autocorrelación muestral. Verificar que los residuales que se obtienen una vez ajustado el modelo, son ruido blanco.

15 Enfoque General Graficamos los datos para verificar si hay discontinuidades aparentes en la serie, como un cambio de nivel o un cambio de variabilidad. Posibilidad de analizar la serie en segmentos homogéneos. Las observaciones atípicas deben estudiarse cuidadosamente para ver si es razonable eliminarlas.

16 Enfoque General El gráfico nos puede indicar si es razonable una descomposición del tipo donde X t = m t + s t + Y t m t es una función que varía lentamente que representa la tendencia de la serie, s t es una función periódica con período d que representa la componente estacional y Y t es un proceso estacionario.

17 Enfoque General Si las fluctuaciones estacionales y las producidas por el ruido aumentan con el nivel del proceso, puede ser necesario aplicar una transformación previa a los datos. Pasajeros de Pan Am en EEUU Pasajeros (1000s) log(ap)

18 Transformación logarítmica de os datos.

19 Tendencia Métodos para construcción de modelos: Ajuste de tendencia polinomial,. Métodos No Paramétricos: Promedios móviles Núcleo local Lowess Splines Espectral No resultan adecuados para construcción de modelos

20 Esquema

21 La gráfica muestra el número de huelgas en USA en el período Huelgas en USA Huelgas Años

22 Ajustamos una tendencia cúbica: m t = β 0 + β 1 t + β 2 t 2 + β 3 t 3 a los datos x 1, x 2,..., x n usando mínimos cuadrados.: Buscamos los parámetros β 0, β 1, β 2, β 3 que minimizan la suma n (x t m t ) 2 t=1

23 Huelgas en USA Huelgas Años Ajuste de un polinomio cubíco a los datos.

24 Huelgas en USA Residuales Años Residuales del ajuste de un polinomio cuadrático a los datos.

25 Tenemos una serie X t, t = 1,..., n que es la serie de interés y queremos analizar la influencia de las series Z t1, Z t2,..., Z tq, con t = 1,..., n a través de una relación lineal: X t = β 1 Z t1 + β 2 Z t2 + + β q Z tq + w t Podemos escribir este modelo lineal de manera general como X t = β Z t + w t

26 Estimamos β por mínimos cuadrados: Q = n wt 2 = t=1 n (X t β Z t ) 2 t=1 La solución de este problema es ˆβ = (Z Z) 1 Z X Estos estimadores son insesgados y tienen varianza mínima entre los estimadores lineales insesgados.

27 La suma de errores al cuadrado mínimizada se denota por SSE y es SSE = n (X t ˆβ Z t ) 2 = X X ˆβZ X t=1 Si los errores tienen distribución normal, ˆβ también es el estimador de máxima verosimilitud de β y tiene distribución normal con Cov( ˆβ) = σ 2 w(z Z) 1 σ 2 wc.

28 Un estimador insesgado para la varianza es s 2 w = MSE = SSE n q donde MSE = Mean Squared Error. Bajo la hipótesis de normalidad, s 2 w tiene distribución χ 2 n q y es independiente de ˆβ. t n q = ˆβ i β i s w cii tiene distribución t con n q grados de libertad.

29 En este esquema podemos usar el análisis de la varianza para comparar modelos anidados, usando la distribución F. Este procedimiento puede usarse para seleccionar variables paso a paso. Una alternativa que busca comparar modelos sin proceder secuencialmente, evaluando cada modelo por separado, es la siguiente: Supongamos que consideramos un modelo de regresión normal con k coeficientes y llamamos el estimador de MV de la varianza ˆσ 2 k = SSE k n

30 Criterio de Akaike Akaike sugirió medir la calidad del ajuste para este modelo por una expresión que busca balancear el error del ajuste contra el número de parámetros en el modelo, a través del siguiente coeficiente AIC = log ˆσ 2 k + n + 2k n donde ˆσ k 2 es el estimador de MV de la varianza y k es el número de parámetros en el modelo.

31 Dos modificaciones de este criterio son las siguientes: Criterio de Akaike Corregido AICc = log ˆσ 2 k + Criterio de Información Bayesiano n + k n k 2 BIC = log ˆσ 2 k + k log n n

32 Mortalidad Cardiovascular Mortalidad semanal por causas cardiovasculares en Los Angeles County.

33 Ajuste de tendencia polinomial Consideramos un modelo de la forma X t = m t + Y t donde m t es la tendencia. Una posible forma de m t es regresión polinomial: m t = β 0 + β 1 t + + β p t p que podemos ajustar por mínimos cuadrados.

34 Mortalidad Cardiovascular mortalidad Ajuste de polinomio de grado 3 mostrando tendencia.

35 Mortalidad Cardiovascular Residuales Residuales del ajuste de polinomio de grado 3 mostrando tendencia.

36 Ajuste de componente estacional Si tenemos un modelo de la forma X t = s t + Y t con componente estacional, podemos superponer a la estimación anterior una componente estacional armónica s t = α 0 + α 1 cos(2πω 1 t) + β 1 sen(2πω 1 t) + + α p cos(2πω p t) + β p sen(2πω p t) que podemos ajustar por mínimos cuadrados.

37 Mortalidad Cardiovascular Residuales Ajuste de componente armónica mostrando estacionalidad.

38 Ajuste de tendencia y componente estacional Si tenemos un modelo de la forma X t = m t + s t + Y t con tendencia y componente estacional, podemos superponer las estimaciones anteriores: m t + s t = β 0 + β 1 t + + β p t p + α 1 cos(2πω 1 t) + β 1 sen(2πω 1 t) + + α p cos(2πω p t) + β p sen(2πω p t) que podemos ajustar por mínimos cuadrados.

39 Mortalidad Cardiovascular mortalidad pol. cúbico comp. armònica pol. cúbico comp. armónica polinomio cúbico componente armónica Ajuste de polinomio de grado 3 mostrando tendencia y componente armónica mostrando estacionalidad.

40 Mortalidad Cardiovascular Residuales Residuales del ajuste de polinomio de grado 3 y componente estacional.

41 Consideramos ahora un modelo con regresión sobre otras series de datos que corresponden a la temperatura y la comtaminación para el mismo periodo. En las siguientes láminas mostramos en primer lugar las tres series y luego una matriz de gráficos que muestra las posibles relaciones entre las distintas variables.

42 Mortalidad Cardiovascular Temperatura Particulas Series para mortalidad cardiovascular, temperatura y contaminación en Los Angeles County.

43 Mortality Temperature Particulates Matriz de gráficos para mortalidad cardiovascular, temperatura y contaminación en Los Angeles County.

44 Intentamos los siguientes modelos: M t = β 1 + β 2 t + w t (1) M t = β 1 + β 2 t + β 3 (T t T ) + w t (2) M t = β 1 + β 2 t + β 3 (T t T ) + β 4 (T t T ) 2 + w t (3) M t = β 1 + β 2 t + β 3 (T t T ) + β 4 (T t T ) 2 + β 5 P t + w t (4)

45 Modelo k SSE df MSE R 2 AIC BIC (1) 2 40, (2) 3 31, (3) 4 27, (4) 5 20, El modelo seleccionado sería M t = t 0.473(T t 74.6) +.023(T t 74.6) P t Los errores estándar de los coeficientes son, respectivamente, 0.002, 0.032, y

46 Esquema

47 Buscamos eliminar la tendencia tomando diferencias de términos sucesivos. Para ello definimos el operador de diferencias por X t = X t X t 1 = (1 B)X t donde B es el operador de retardo (backward shift) BX t = BX t 1

48 Las potencias de estos operadores se definen de la manera usual B j X t = X t j, j X t = ( j 1 (X t )), j 1 con 0 (X t ) = X t. Los polinomios en B y se operan al igual que los polinomios de variables reales. Por ejemplo 2 X t = ( (X t )) = (1 B)(1 B)X t = (1 2B + B 2 )X t = X t 2X t 1 + X t 2

49 Si aplicamos el operador a una función de tendencia lineal m t = c 0 + c 1 t, obtenemos una función constante m t = m t m t 1 = c 0 + c 1 t (c 0 + c 1 (t 1)) = c 1 De manera similar cualquier tendencia polinomial de grado k puede ser reducida a una constante aplicando el operador k.

50 Huelgas en USA Huelgas de la series de huelgas en USA.

51 Pasajeros (1000s) Pasajeros de Pan Am en EEUU log(ap) Número de pasajeros de Pan Am (arriba) logaritmo de número de pasajeros (abajo).

52 diff(ap) diff(log(ap)) de las series de pasajeros de Pan Am.

53 Esquema

54 por Promedios Móviles Este método es útil para hallar tendencias a largo plazo y también componentes estacionales. Si x t representa las observaciones entonces ˆm t = k a j x t j j= k donde a j = a j 0 y k j= k a j = 1 es un promedio móvil simétrico de los datos. Con frecuencia usamos a j = 1/(2k + 1), que da igual peso a todos los puntos.

55 Mortalidad Cardiovascular Mortalidad semanal por causas cardiovasculares en Los Angeles County.

56 Mortalidad Cardiovascular mortalidad Mortalidad semanal por causas cardiovasculares en Los Angeles County.

57 Mortalidad Cardiovascular mortalidad ma5 ma53 ma5 ma53 Ajuste de promedios móviles con 5 (azul) y 53 (rojo) datos, mostrando tendencia y estacionalidad en la serie.

58 Podemos pensar que el promedio móvil es un proceso que se obtiene a partir de X t al aplicar un filtro lineal ˆm t = j= a j X t j con pesos a j = (2q + 1) 1, q j q. En este caso particular se trata de un filtro pasa bajo (low pass) ya que deja pasar las bajas frecuencias y filtra las altas frecuencias. Lo que queda es una estimación de la tendencia de X t que varía lentamente.

59 Escogiendo los pesos de manera adecuada podemos diseñar filtros que no sólo serán efectivos en la atenuación del ruido, sino que dejan pasar una clase grande de funciones, por ejemplo, los polinomios de grado menor o igual a 3, sin distorsión. El filtro de 15 puntos de Spencer deja pasar los polinomios de grado menor o igual que 3 sin distorsión y se define por (a 0, a 1,..., a 7 ) + 1 (74, 67, 46, 21, 3, 5, 6, 3) 320 con a j = 0 para j > 7 y a j = a j.

60 local Los métodos que usamos anteriormente para estimar la tendencia y la componente estacional son globales: Suponen que la misma función sirve para todo el rango de valores. La técnica de promedios móviles, en cambio, es una técnica local. A continuación definimos otros suavizadores locales.

61 por núcleo El suavizamiento por núcleos es un promedio móvil que usa una función de peso. con pesos ˆm t = n w i (t)x i, i=1 w i (t) = 1 ( t i ) C K, C = 1/ b donde K es la función de núcleo. n ( t i ) K b j=1 Se conoce como el estimador de Nadaraya-Watson. Con frecuencia se usa como núcleo la densidad normal típica.

62 Mortalidad Cardiovascular mortalidad b=104/52=2 b=5/52 por núcleos con dos anchos de banda.

63 por regresión local El suavizamiento por regresión local usa los datos más cercanos en el tiempo x t k/2,..., x t,..., x t+k/2 para predecir x t usando una regresión local. Para los datos de mortalidad por causas cardiovasculares, la regresión se hizo con k = n/2 para estimar la tendencia y k = n/100 para estimar la componente estacional.

64 Mortalidad Cardiovascular mortalidad por regresión local.

65 por LOWESS LOWESS es un método de suavizamiento que usa regresión local para construir una curva suave que muestre la tendencia de una nube de puntos. También se conoce como regresión polinomial local pesada y fue propuesto por Cleveland en En cada punto se ajusta un polinomio de grado bajo usando un subconjunto de datos cercanos al punto en el cual se quiere estimar la respuesta. El polinomio se ajusta usando mínimos cuadrados pesados, dando mayor peso a los puntos más cercanos

66 Mortalidad Cardiovascular mortalidad por LOWESS.

67 por Splines Este método es una extensión de la regresión polinomial. En este caso se divide el intervalo de tiempo en k subintervalos [t 0 = 1, t 1 ], [t 1 + 1, t 2 ],..., [t k 1 + 1, t k = n] Los valores t 1, t 2,..., t k se conocen como nudos. En cada intervalo se ajusta por regresión un polinomio local de modo que en los nudos coincidan los valores del polinomio y de sus primeras derivadas.

68 por Splines Una variación del método de suavizamiento por splines busca minimizar una combinación de ajuste y el grado de suavidad de la curva, usando la ecuación n (s (x t s t ) 2 ) 2dt + λ t t=1 donde s t es, por ejemplo, un spline cúbico con un nudo en cada t.

69 Mortalidad Cardiovascular mortalidad por Splines.

70 Mortalidad Cardiovascular mortalidad ma53 pol. cúbico núcleo reg. local lowess splines Métodos de.

71 Mortalidad Cardiovascular mortalidad ma5 pol. cúbico núcleo reg. local lowess splines Métodos de.

72 Las técnicas de suavizamiento también pueden aplicarse al suavizamiento de una serie de tiempo como función de otra. Vimos anteriormente que hay una relación no-lineal entre la serie de mortalidad y la de temperatura. La gráfica en la siguiente lámina muestra gráficas de dispersión de Mortalidad como función de la temperatura y suavizamientos obtenidos con LOWESS y Splines.

73 Mortalidad lowess Mortalidad Temperatura splines Temperatura.

74 Esquema

75 Muertes accidentales en USA, muertes Muertes por causas accidentales en USA

76 Primer Enfoque. Estimación de la tendencia y estacionalidad Probamos ajustar un modelo con componente estacional. Ajustamos primero un modelo con un armónico con frecuencia 2π/12. Luego añadimos un segundo armónico con frecuencia 2π/6.

77 Muertes accidentales en USA, muertes Muertes por causas accidentales en USA

78 Muertes accidentales en USA, muertes Muertes por causas accidentales en USA

79 Los residuales muestran que hay una tendencia cuadrática que debe ser estimada y filtrada Residuales Muertes por causas accidentales en USA

80 Para ajustar un modelo completo, que incluya tendencia y componente estacional, usamos en R la función decompose, que usa promedios móviles para el ajuste Decomposition of additive time series random seasonal trend observed Time Muertes por causas accidentales en USA

81 Segundo Enfoque. para eliminar tendencia y estacionalidad Suponemos inicialmente que el modelo sólo tiene una componente estacional: X t = s t + Y t Aplicamos inicialmente el operador de diferenciación a los datos con un retardo de 12 meses. Si la componente estacional s t tiene período de 12 meses, al hacer esto obtenemos (12) X t = Y t Y t 12

82 Las diferencias todavía muestran una tendencia ascendente, así que tomamos una diferencia adicional con retardo 1. Diferencias Muertes por causas accidentales en USA

83 Diferencias Muertes por causas accidentales en USA

84 Diagnóstico Gráficas de dispersión con retardo para el SOI. soi(t) soi(t 1) soi(t 4) soi(t) soi(t 2) soi(t 5) soi(t) soi(t 3) soi(t 6) soi(t) soi(t) soi(t 7) soi(t 10) soi(t) 0.18 soi(t) soi(t 8) soi(t 11) soi(t) soi(t) soi(t 9) soi(t 12) soi(t) soi(t) SOI. soi(t)

85 Diagnóstico Gráficas de dispersión con retardo para el SOI y peces. rec(t) rec(t) rec(t) soi(t 0) soi(t 3) soi(t 6) rec(t) rec(t) rec(t) soi(t 1) soi(t 4) soi(t 7) rec(t) rec(t) rec(t) soi(t 2) soi(t 5) soi(t 8) SOI.